Innlegg på polsk som angriper transpersoner

Du kan lese avgjørelsen på polsk ved å klikke her.

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

Sammendrag

Tilsynsrådet har opphevet Metas opprinnelige beslutning om å tillate et Facebook-innlegg der en bruker angrep transpersoner med voldelige ytringer om at slike personer burde begå selvmord. Rådet konkluderer med at innlegget brøt både standarden om hatefulle ytringer og standarden om selvmord og selvskading. Det grunnleggende problemet i denne saken er imidlertid ikke retningslinjene, men håndhevelsen av dem. Metas gjentatte unnlatelse av å iverksette riktige tiltak, til tross for flere signaler om innleggets skadelige innhold, fører til at rådet konkluderer med at selskapet ikke lever opp til idealene de har artikulert om sikkerhet for LHBTQIA+-samfunnet. Rådet oppfordrer Meta til å tette hullene, inkludert ved å forbedre den interne veiledningen til moderatorer.

Om saken

I april 2023 la en Facebook-bruker i Polen ut et bilde av en stripete gardin i de blå, rosa og hvite fargene i flagget til de transkjønnede, der en tekst på polsk sier: «Ny teknologi … Gardiner som henger seg selv», og over dette: «Vårrengjøring <3». Brukerens biografi har blant annet denne beskrivelsen: «Jeg er transfobisk». Innlegget fikk færre enn 50 reaksjoner.

Mellom april og mai 2023 ble innlegget rapportert totalt tolv ganger av elleve ulike brukere. Bare to av de tolv rapportene ble prioritert for manuell vurdering av Metas automatiserte systemer, mens resten ble lukket. De to rapportene som ble sendt til manuell vurdering for et potensielt brudd på Facebooks standard om selvmord og selvskading, førte til at innholdet ble vurdert som tillatt. Ingen av rapportene som baserte seg på hatefulle ytringer ble sendt til manuell vurdering.

Tre brukere anket deretter Metas beslutning om å tillate Facebook-innlegget, der den ene anken resulterte i at en menneskelig moderator opprettholdt den opprinnelige avgjørelsen, basert på standarden om selvmord og selvskading. Igjen ble ingen av de andre ankene, som ble gjort med basis i standarden om hatefulle ytringer, sendt til manuell vurdering. En av brukerne som opprinnelig hadde rapportert innholdet, anket til slutt saken til rådet. Som et resultat av at rådet valgte ut denne saken for gjennomgang, slo Meta fast at innlegget brøt både retningslinjene om hatefulle ytringer og retningslinjene om selvmord og selvskading, og de fjernet det fra Facebook. I tillegg har selskapet deaktivert kontoen til brukeren som la ut innholdet for flere tidligere brudd.

Viktige funn

Rådet konkluderer med at innholdet bryter Metas retningslinjer om hatefulle ytringer, fordi det inkluderer en «voldelig ytring» i form av en oppfordring om at en beskyttet menneskegruppe skal begå selvmord. Innlegget, som tar til orde for selvmord blant transpersoner, skapte en atmosfære av trusler og ekskludering, og det kunne ha bidratt til fysisk skade. Tatt i betraktning tekstens og bildets natur, forverret innlegget også potensielt den mentale helsekrisen blant transpersoner. En fersk rapport fra Gay and Lesbian Alliance Against Defamation (GLAAD) bemerker «den rent traumatiske psykologiske virkningen av å bli nådeløst utsatt for baksnakking og hatefull oppførsel» på nettet. Rådet finner ytterligere støtte for konklusjonen i den bredere konteksten av nettbaserte skader og skader utenfor nettet mot LHBTQIA+-samfunnet i Polen, inkludert angrep og politisk retorikk fra innflytelsesrike myndighetspersoner og kjente personer.

Rådet er bekymret for at Metas moderatorer ikke har fanget opp kontekstuelle ledetråder. Innleggets referanse til den forhøyede risikoen for selvmord («gardiner som henger seg selv») og ønske om død («vårrengjøring») var klare brudd på standarden om hatefulle ytringer, mens det at innholdsskaperen identifiserte seg selv som transfobisk i seg selv utgjør et regelbrudd. Rådet oppfordrer Meta til å forbedre nøyaktigheten av tiltak mot hatefulle ytringer overfor LHBTQIA+-personer, spesielt når et innlegg inneholder bilder og tekst som krever kontekst for å kunne tolkes. I denne saken utgjorde de delvis kodede referansene til selvmord i forbindelse med den visuelle skildringen av en beskyttet gruppe (flagget til transkjønnede) «ondsinnet kreativitet». Ondsinnede aktører utvikler stadig nye måter å angripe LHBTQIA+-samfunnet på, gjennom innlegg og memer de kaller «humoristiske» eller «satiriske», men som reelt sett er hat eller trakassering.

I tillegg er rådet bekymret over Metas uttalelse om at moderatorenes unnlatelse av å fjerne innholdet er i samsvar med prinsippet om en streng håndhevelse av selskapets interne retningslinjer. Dette indikerer at Metas interne veiledning i utilstrekkelig grad fanger opp hvordan tekst og bilder sammen kan definere en gruppe ut fra kjønnsidentitet.

Selv om innlegget også klart brøt Facebooks standard om selvmord og selvskading, finner rådet at disse retningslinjene mer tydelig bør forby innhold som oppfordrer til selvmord rettet mot en identifiserbar gruppe mennesker, i motsetning til bare én person i den aktuelle gruppen.

I denne saken påvirket Metas automatiserte system for vurderingsprioritet håndhevelsen i betydelig grad, også når det gjelder hvordan selskapet håndterer flere rapporter om samme innhold. Meta overvåker og fjerner disse dupliserte rapportene for å «sikre konsekvente avgjørelser og tiltak fra moderatorene». Andre grunner for automatisk stenging av rapporter inkluderer innholdets lave alvorlighetsgrad og utbredelse (antall visninger innholdet har akkumulert), noe som innebar at det ikke ble prioritert for manuell vurdering. I denne saken mener rådet at brukerens biografi burde vært betraktet som et relevant signal ved fastsettelse av alvorlighetsgrad.

Rådet mener at Meta bør investere mer i utviklingen av klassifikatorer som identifiserer potensielt ulovlig innhold som påvirker LHBTQIA+-samfunnet og forbedrer opplæringen av moderatorer om angrep relatert til kjønnsidentitet.

Tilsynsrådets avgjørelse

Tilsynsrådet opphever Metas opprinnelige avgjørelse om å la innholdet bli liggende på plattformen.

Rådet anbefaler at Meta gjør følgende:

• De bør avklare på siden om selvmord og selvskading at retningslinjene forbyr innhold som er rettet mot en identifiserbar gruppe mennesker og oppfordrer eller oppmuntrer til selvmord.
• Selskapet bør endre den interne veiledningen til moderatorer på storskalanivå for å sikre at flaggbaserte visuelle skildringer av kjønnsidentitet som ikke inneholder en menneskelig figur blir forstått som representasjoner av en gruppe som defineres av kjønnsidentitet.

* Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av vedtaket

Tilsynsrådet opphever Metas opprinnelige beslutning om å tillate et innlegg på polsk på Facebook der en bruker angrep transpersoner med voldelige ytringer om at slike personer burde begå selvmord. Etter at rådet plukket ut saken for vurdering, konkluderte Meta med at den opprinnelige beslutningen om å la innlegget forbli på plattformen var feil, fjernet innholdet og iverksatte sanksjoner. Rådet konkluderer med at innlegget bryter både standarden om hatefulle ytringer og standarden om selvmord og selvskading. Rådet benytter anledningen til å oppfordre Meta om å forbedre retningslinjene sine og veiledningen til moderatorer for bedre å beskytte transpersoner på plattformene. Mer spesifikt bør Meta i vurderingen av om et innlegg utgjør hatefulle ytringer endre den interne veiledningen til moderatorer på storskalanivå for å sikre at flaggbaserte visuelle skildringer av kjønnsidentitet som ikke inneholder en menneskelig figur, blir forstått som representasjoner av en gruppe som defineres av kjønnsidentitet. Meta bør også klargjøre at det å oppmuntre en hel gruppe til å begå selvmord er like ulovlig som å oppmuntre en enkeltperson til å begå selvmord. Rådet konkluderer imidlertid med at det grunnleggende problemet i denne saken ikke er retningslinjene, men håndhevelsen av dem. Selv slik de er skrevet, forbyr retningslinjene klart slike typer innlegg. Innlegget hadde flere indikasjoner på hatefulle ytringer rettet mot en gruppe mennesker basert på kjønnsidentitet. Metas gjentatte unnlatelse av å iverksette riktige tiltak i denne saken, til tross for flere brukerrapporter, gjør at rådet konkluderer med at Meta ikke lever opp til idealene de har formulert om sikkerhet for LHBTQIA+-samfunnet. Rådet oppfordrer Meta til å tette disse hullene umiddelbart.

2. Saksbeskrivelse og -bakgrunn

I april 2023 la en Facebook-bruker i Polen ut et bilde av en stripete gardin i de blå, rosa og hvite fargene i flagget til de transkjønnede. På bildet står følgende tekst på polsk: «Ny teknologi. Gardiner som henger seg selv.» Over denne linjen sier en annen tekst på polsk: «Vårrengjøring <3». En beskrivelse på polsk i brukerens biografi lyder: «Jeg er transfobisk». Innlegget fikk under 50 reaksjoner fra andre brukere, hvorav de fleste var støttende. Den mest brukte emojien var «Haha».

Mellom april og mai 2023 ble innholdet rapportert totalt tolv ganger av elleve ulike brukere. Ti av disse rapportene ble ikke prioritert for manuell vurdering av Metas automatiserte systemer av ulike årsaker, blant annet «lav alvorlighetsgrad og utbredelse». Meta prioriterer generelt sett innhold for manuell gjennomgang basert på alvorlighetsgraden, utbredelsen og sannsynligheten for brudd på retningslinjene for innhold. Bare to av rapportene, som hadde basis i Facebooks standard om selvmord og selvskading, førte til at innholdet ble sendt til manuell gjennomgang. Ingen av rapportene som baserte seg på retningslinjene om hatefulle ytringer, ble sendt til manuell vurdering. Ifølge Meta har moderatorene både nok opplæring og verktøy for å kunne «vurdere og iverksette tiltak mot» innhold utenfor deres spesifiserte kø (for eksempel retningslinjene om hatefulle ytringer eller retningslinjene om selvmord og selvskading). Likevel vurderte begge moderatorene innholdet som lovlig og eskalerte det ikke ytterligere.

Tre brukere anket Metas avgjørelse om å beholde innholdet på Facebook. Én av ankene resulterte i at en moderator opprettholdt Metas opprinnelige avgjørelse om at innholdet ikke brøt retningslinjene om selvmord og selvskading. De to andre ankene, som ble sendt inn basert på Facebooks retningslinjer om hatefulle ytringer, ble ikke sendt til manuell gjennomgang. Dette er fordi Meta vil «overvåke og fjerne duplikater av» rapporter om det samme innholdet for å sikre konsekvente avgjørelser og tiltak fra moderatorene.

Én av brukerne som opprinnelig rapporterte innholdet, anket saken til rådet. Som et resultat av at rådet valgte ut denne saken for gjennomgang, slo Meta fast at innholdet brøt både retningslinjene om hatefulle ytringer og retningslinjene om selvmord og selvskading, og de fjernet det. I tillegg, som en del av Metas gjennomgang av saken, fastslo selskapet at innholdsskaperens konto flere ganger tidligere hadde brutt standardene deres og oppfylte terskelen for å bli deaktivert. Meta deaktiverte kontoen i august 2023.

Rådet så på følgende kontekst for å fatte en avgjørelse i denne saken:

Polen rapporteres ofte å ha høye nivåer av fiendtlighet mot LHBTQIA+-samfunnet. (Merk: Rådet bruker «LHBTQIA+» (lesbisk, homofil, biseksuell, transkjønnet, queer, intersex og aseksuell) når de refererer til grupper basert på seksuell legning, kjønnsidentitet og/eller kjønnsuttrykk. Rådet vil imidlertid bruke akronymene som andre har valgt når de siterer dem.) Europarådets kommissær for menneskerettigheter har tidligere rettet oppmerksomhet mot at «stigmatisering av LHBTI-mennesker» er et «stadig problem i Polen». Rainbow Europe-rapporten fra ILGA (International Lesbian, Gay, Bisexual, Trans and Intersex Association) rangerer land på grunnlag av lover og retningslinjer som direkte påvirker LHBTI-personers menneskerettigheter. Rapporten rangerer Polen som det minst inkluderende EU-medlemslandet, og på 42. plass av de 49 europeiske landene de har vurdert. Nasjonale og lokale myndigheter, og også framtredende kjente personer, har i økende grad angrepet LHBTQIA+-samfunnet gjennom både diskriminerende ytringer og lovgivning.

Fra 2018 har ILGA-Europe fulgt med på det organisasjonen kaller «høyprofilerte politiske hatefulle ytringer mot LHBTI-personer fra polske politiske ledere», inkludert uttalelser om at «hele LHBT-bevegelsen» er en «trussel» mot Polen. Samme år forsøkte ordføreren i Lublin (Polen) å forby byens likestillingsmarsj, selv om retten opphevet forbudet kort tid før den planlagte marsjen. I 2019 introduserte borgermesteren i Warszawa LHBT+-vedtaket som var ment å skulle «forbedre situasjonen til LHBT-personer» i byen. Polens regjeringsparti PiS («Lov- og rettferdighetspartiet») og religiøse ledere kritiserte vedtaket. Polens president og sentralregjering har også utpekt transpersoner som mål. Lederen for regjeringspartiet PiS har for eksempel omtalt transpersoner som «unormale». Polens justisminister har også bedt Polens høyesterett om å vurdere at «transpersoner må saksøke barna sine og ektefellen sin i tillegg til foreldrene sine (for å få tillatelse til å skifte juridisk kjønn).»

Polen har også vedtatt lover mot LHBTQIA+. Ifølge Human Rights Watch begynte enkelte byer å kreve «ekskludering av LHBT-personer fra det polske samfunnet» ved å innføre, blant andre tiltak, «LHBT-frie soner» i 2019. Human Rights Watch har rapportert at disse sonene er steder «der lokale myndigheter har vedtatt diskriminerende 'familievedtak' for å 'beskytte barn mot moralsk ødeleggelse' eller erklært seg fri fra 'LHBT-ideologi'.» Mer enn 100 byer har opprettet slike soner. ILGA-Europe rapporterer at på grunn av lokalt og internasjonalt press, blant annet fra EU, har noen av kommunene trukket tilbake «anti-LHBT-resolusjoner eller vedtak om familiesoner». Den 28. juni 2022 beordret Polens høyeste forvaltningsdomstol fire kommuner til å trekke tilbake sine anti-LHBTQI+-resolusjoner. Som Rainbow Europe-rapportens rangering av Polen antyder, er klimaet i landet likevel spesielt fiendtlig overfor LHBTQIA+-samfunnet.

En spørreundersøkelse fra 2019 blant LHBTI-personer i EU, utført av European Union Agency for Fundamental Rights, sammenlignet LHBTI-personers erfaringer med overgrep og trakassering i Polen og andre deler av EU. Ifølge undersøkelsen unngår 51 % av LHBTI-personer i Polen ofte eller alltid bestemte steder i frykt for å bli overfalt. Dette sammenlignet med 33 % for resten av EU. Undersøkelsen fant også at én av fem transpersoner hadde blitt fysisk eller seksuelt angrepet i løpet av de siste fem årene før undersøkelsen – mer enn det dobbelte av andre LHBTI-personer.

Rådet ga eksterne eksperter i oppdrag å analysere sosiale mediers respons på nedsettende uttalelser fra polske myndighetspersoner. Disse ekspertene bemerket «en bekymringsfull økning i antallet hatefulle ytringer på nettet rettet mot minoritetssamfunn i Polen, inkludert LHBTQIA+-samfunnet, siden 2015.» I sin analyse av LHBTQIA+-fiendtlig innhold på polsk på Facebook, bemerket ekspertene at det oppsto topper rundt «rettsavgjørelser knyttet til anti-LHBTQIA+-lovgivning». Dette inkluderer avgjørelsen fra høyesterett som er nevnt ovenfor og avgjørelser knyttet til juridiske utfordringer ved å vedta flere anti-LHBT-erklæringer som har blitt brakt inn for lokale administrative domstoler av de polske ombudsmennene for kommisjonæren for menneskerettigheter, noe som har pågått siden 2019.

Rådet spurte også språkeksperter om betydningen av de to polske setningene i innlegget. Når det gjelder uttrykket «gardiner som henger seg selv», observerte ekspertene at sammen med et «transflagg som henger i vinduet», utgjorde uttrykket «et ordspill» som sammenstilte «å henge opp gardiner» med «å begå selvmord ved henging». Ekspertene konkluderte med at uttrykket var «et tilslørt transfobisk utsagn». Om uttrykket «vårrengjøring» sa ekspertene at det «vanligvis refererer til en grundig rengjøring når våren kommer», men i visse sammenhenger betyr det også å 'kaste alt søppel' og 'bli kvitt alle uønskede gjenstander (og/eller mennesker)'». Flere offentlige kommentarer, inkludert fra Human Rights Campaign Foundation (PC-16029), hevdet at innleggets henvisning til «vårrengjøring» var en form for «hyllest av ekskluderingen og isolasjonen av transpersoner i det polske samfunnet (gjennom deres død)».

Spørsmålene om potensiell nettbaserte skader og skader utenfor nettet i denne saken strekker seg utover det polske LHBTQIA+-samfunnet og kan påvirke dette samfunnet rundt om i verden. Ifølge Verdens helseorganisasjon (WHO) er selvmord den fjerde største dødsårsaken blant 15–29-åringer over hele verden. WHO bemerker at «selvmordstallene er også høye blant sårbare grupper som opplever diskriminering, som flyktninger og migranter, urfolk og LHBTI-personer (lesbiske, homofile, bifile, transpersoner, intersex).» Andre forskningsstudier har funnet en «positiv sammenheng» mellom nettbaserte angrep og tanker om og reell selvskading.

Selvmordsrisikoen er spesielt bekymringsfull blant transpersoner og det ikke-binære samfunnet. Trevor-prosjektets nasjonale undersøkelse fra 2023 om mental helse blant LHBTQ-personer fant at halvparten av ungdommene i USA som definerte seg som transpersoner eller ikke-binære vurderte selvmord i 2022. Den samme studien anslår at 14 prosent av LHBTQ-ungdommene har forsøkt selvmord det siste året, inkludert nesten én av fem transkjønnede og ikke-binære ungdommer. Ifølge CDCs Youth Risk Behavior Survey forsøkte 10 prosent av elevene på videregående skole i USA å begå selvmord i 2021. En rekkestudier fra hele verden har vist at transpersoner eller ikke-binære personer har høyere risiko for både selvmordstanker og selvmordsforsøk enn ciskjønnede.

I en offentlig kommentar til rådet understreket Gay and Lesbian Alliance Against Defamation (GLAAD) (PC-16027) funnene fra deres årlige undersøkelse, Social Media Safety Index, om LHBTQ-brukersikkerhet på fem store sosiale medieplattformer. 2023-rapporten tildelte Facebook en poengsum på 61 prosent, basert på 12 LHBTQ-spesifikke indikatorer. Denne poengsummen representerte en økning på 15 prosentpoeng fra 2022, der Facebook er rangert som nummer to etter Instagram og over de tre andre store plattformene. GLAAD skrev imidlertid at «sikkerheten og kvaliteten på sikringen av LHBTQ-brukere fortsatt er utilfredsstillende.» Rapporten fant at det skjer «svært reelle skader på LHBTQ-personer på nettet, blant annet en nedkjølende effekt på LHBTQ-ytringsfriheten av frykt for å bli angrepet, og den traumatiske psykologiske effekten av å bli utsatt for nedsettende bemerkninger og hat.»

3. Tilsynsrådets myndighet og virkeområde

Rådet har myndighet til å omgjøre Metas avgjørelse som følge av en klage fra en person som har rapportert innhold som ikke ble fjernet (vedtektenes artikkel 2, del 1; artikkel 3, del 1 i vedtektene).

Rådet kan opprettholde eller oppheve Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte ikke-bindende anbefalinger som Meta må svare på (vedtektenes artikkel 3, del 4; artikkel 4). Når Meta forplikter seg til å følge anbefalingene, vil rådet overvåke implementeringen av dem.

Når rådet velger ut saker som denne, der Meta i ettertid erkjenner at de har gjort en feil, går rådet gjennom den opprinnelige beslutningen for å få bedre forståelse av prosessen med innholdsmoderering, og for å komme med anbefalinger som kan redusere feilraten og øke rettferdigheten for folk som bruker Facebook og Instagram.

4. Ekspertkilder og -veiledning

Følgende standarder og presedenser dannet grunnlag for rådets analyse i denne saken:

I. Tilsynsrådets beslutninger

De mest relevante tidligere beslutningene fra tilsynsrådet inkluderer følgende:

• Ta tilbake arabiske ord
• Knin-tegnefilm
• Protester i Colombia
• Armenere i Aserbajdsjan

II. Metas retningslinjer for innhold

Begrunnelsen bak retningslinjene om hatefulle ytringer definerer hatefulle ytringer som «et direkte angrep mot mennesker – snarere enn konsepter eller institusjoner – på grunnlag av (...) beskyttede egenskaper», inkludert kjønn og kjønnsidentitet. Meta definerer angrep som «voldelige eller umenneskeliggjørende ytringer, skadelige stereotypier, uttrykk for forakt, avsky eller avvisning, utskjelling eller oppfordringer til ekskludering eller segregering.» I begrunnelsen bak retningslinjene sier Meta videre: «Vi mener at folk ytrer seg og kommuniserer friere når de ikke føler seg angrepet på grunnlag av hvem de er. Derfor tillater vi ikke hatefulle ytringer på Facebook. De skaper et skremmende og ekskluderende miljø, og i enkelte tilfeller kan de også oppfordre til vold utenfor nettet.»

Metas standard om hatefulle ytringer deler angrep inn i «nivåer». Nivå 1-angrep inkluderer innhold rettet mot en person eller gruppe på grunnlag av beskyttede egenskaper via «voldelige ytringer eller støtte i skriftlig eller visuell form». Meta avgjorde til slutt at innlegget i denne saken brøt disse retningslinjene. Den 6. desember 2023 oppdaterte Meta standardene for å gjenspeile at forbudet mot voldelige ytringer mot beskyttede grupper ble flyttet over til retningslinjene om vold og oppfordring til vold.

Nivå 2-angrep inkluderer innhold rettet mot en person eller gruppe på grunnlag av beskyttede egenskaper via «uttrykk for forakt (i skriftlig eller visuell form).» I standarden om hatefulle ytringer definerer Meta uttrykk for forakt til å inkludere «innrømmelse av egen intoleranse på grunnlag av en beskyttet egenskap» og «uttrykk om at personer med en beskyttet egenskap ikke burde eksistere».

Standarden om selvmord og selvskading forbyr «alt innhold som oppmuntrer til selvmord eller selvskading, inkludert fiktivt innhold som memer eller illustrasjoner». I henhold til disse retningslinjene fjerner Meta «innhold som fremmer, oppmuntrer til, koordinerer eller gir instruksjoner om selvmord og selvskading».

Rådets analyse var basert på Metas forpliktelse til verdien «stemme», som selskapet har beskrevet som «overordnet», og også verdiene «sikkerhet» og «verdighet».

III. Metas menneskerettighetsansvar

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken ble basert på følgende internasjonale standarder:

• Retten til menings- og ytringsfrihet: artikkel 19 i FNs konvensjon om sivile og politiske rettigheter ( ICCPR); generell kommentar nr. 34 fra menneskerettighetskomiteen 2011, Disse rapportene fra FNs spesialrapportør for menings- og ytringsfrihet (UNSR) sier: A/HRC/38/35 (2018), A/74/486 (2019); og Rabat-handlingsplanen, rapport fra FNs høykommissær for menneskerettigheter: A/HRC/22/17/Add.4 (2013).
• Retten til liv: Artikkel 6 i ICCPR.
• Retten til den høyest oppnåelige standarden for fysisk og mental helse: Artikkel 12, den internasjonale konvensjonen om økonomiske, sosiale og kulturelle rettigheter (ICESCR);
• Retten til likestilling og ikke-diskriminering: Artikkel 2, § 1 og artikkel 26 (ICCPR).

5. Brukeruttalelser

I anken til rådet bemerket brukeren som rapporterte innholdet at personen som la ut bildet tidligere hadde trakassert transpersoner på nettet og hadde opprettet en ny konto etter å ha blitt suspendert fra Facebook. Brukeren sa også at det å applaudere den høye selvmordsraten blant transpersoner «ikke burde være tillatt».

6. Metas uttalelser

Meta fjernet til slutt innlegget i henhold til nivå 1 i standarden om hatefulle ytringer, fordi innholdet brøt retningslinjene som forbyr innhold som angriper en person eller gruppe på grunnlag av deres beskyttede egenskaper via «voldelige ytringer eller støtte i skriftlig eller visuell form». I den interne veiledningen om hvordan disse retningslinjene skal brukes, sier Meta at innhold skal fjernes hvis det utgjør «voldelige ytringer i form av oppfordringer til handling, erklæringer om intensjon, aspirerende eller betingede erklæringer eller uttalelser som fremmer eller støtter dødsfall, sykdommer eller skadeverk (i skriftlig eller visuell form).»

I den interne veiledningen beskriver selskapet også hva de anser som «visuell representasjon» av beskyttede grupper i et bilde eller en video. Meta tillot ikke rådet å publisere mer detaljert informasjon knyttet til denne veiledningen. Selskapet uttalte i stedet at «i henhold til retningslinjene om hatefulle ytringer kan Meta ta visuelle elementer i innholdet i betraktning når de fastslår om innholdet retter seg mot en person eller gruppe basert på beskyttede egenskaper».

Meta sa at de mange vurderingene moderatorene gjorde av at innholdet ikke utgjorde et brudd på standarden om hatefulle ytringer samsvarer med «en streng anvendelse av våre interne retningslinjer». De utdypet: «Selv om gardinene ligner prideflagget til transbevegelsen, vil vi tolke et enkeltstående angrep på et flagg som et angrep på et konsept eller en institusjon, noe som ikke bryter med retningslinjene våre, siden det ikke utgjør et angrep på en person eller gruppe.» Imidlertid avgjorde Meta senere at «henvisningen til henging indikerer at dette innlegget angriper en gruppe mennesker». Denne vurderingen var basert på avgjørelsen om at uttrykket «gardiner som henger seg selv» implisitt refererer til selvmordsraten blant transpersoner, fordi gardinene ligner transflagget, mens gardinene som henger på bildet (samt tekstoverlegget) er en metafor for selvmord ved henging». Meta bemerket også at «konsepter eller institusjoner ikke kan 'henge seg', i hvert fall ikke i bokstavelig forstand». Av denne grunnen fant Meta ut at brukeren refererte til «transpersoner, ikke bare konseptet». Derfor mener Meta at «dette innholdet bryter retningslinjene om hatefulle ytringer, fordi det er ment å tolkes som en uttalelse til fordel for at en beskyttet gruppe skal begå selvmord».

Etter en oppdatering av retningslinjene om hatefulle ytringer, der bestemmelsen som forbyr voldelige ytringer mot beskyttede grupper ble flyttet til retningslinjene om vold og oppfordring til vold, uttalte Meta til rådet at innholdet fortsatt er ulovlig.

Meta rapporterte også at uttalelsen i brukerens biografi – «Jeg er transfobisk» – brøt med nivå 2 i retningslinjene om hatefulle ytringer som en «innrømmelse av egen intoleranse på grunnlag av beskyttede egenskaper». Denne uttalelsen ble, ifølge Meta, vurdert som ulovlig som et ledd i Metas gjennomgang av både saken og brukerkontoen etter rådets utvelgelse av saken. Meta sa at denne uttalelsen bidro som grunnlag for å vurdere brukerens hensikt med innlegget.

Som svar på at rådet spurte om innholdet bryter retningslinjene om selvmord og selvskading, bekreftet Meta at «innholdet bryter retningslinjene om selvmord og selvskading ved at det oppmuntrer til selvmord, i samsvar med vår beslutning om at innholdet utgjør en uttalelse om at en beskyttet gruppe bør begå selvmord». Meta rapporterte også at retningslinjene om selvmord og selvskading «ikke skiller mellom innhold som oppfordrer eller oppmuntrer til selvmord som er rettet mot en bestemt person kontra en gruppe mennesker».

Rådet stilte Meta 13 skriftlige spørsmål. Spørsmålene handlet om Metas innholdsmoderering rundt spørsmål knyttet til transpersoner og LHBTQIA+; forholdet mellom hatefulle ytringer og standarden om selvmord og selvskading; hvordan «humor» og «satire» vurderes av moderatorer når de går gjennom innhold som kan utgjøre hatefulle ytringer; rollen «utbredelse» og «alvorlighetsgrad» har ved prioritering av innhold for manuell vurdering; og hvordan Meta prioriterer innhold som de har mottatt flere brukerrapporter om for manuell vurdering. Meta besvarte alle de 13 spørsmålene.

7. Offentlige kommentarer

Tilsynsrådet mottok 35 offentlige kommentarer som var relevante for denne saken, inkludert 25 fra USA og Canada, sju fra Europa og tre fra Asia og Stillehavsregionen med Oseania. Dette antallet inkluderer offentlige kommentarer som enten var duplikater eller som ble sendt med samtykke til publisering, men uten å oppfylle rådets vilkår for publisering. Slik ekskludering kan være basert på at kommentaren anses som fornærmende, bekymringer rundt brukernes personvern og/eller andre juridiske årsaker. Offentlige merknader kan sendes til rådet med eller uten samtykke til publisering, og med eller uten samtykke til å dele hvem som har kommentert.

Kommentarene dekket følgende temaer: menneskerettighetssituasjonen i Polen, spesielt slik den oppleves av transpersoner; LHBTQIA+-sikkerhet på sosiale medieplattformer; forholdet mellom nettbaserte skader og skader utenfor nettet i Polen; forholdet mellom humor, satire, memer og hat/trakassering mot transpersoner på sosiale medieplattformer; og utfordringene med å moderere innhold som krever kontekst for å kunne tolkes riktig.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

8. Tilsynsrådets analyse

Rådet undersøkte om dette innholdet burde fjernes ved å analysere Metas innholdsretningslinjer, menneskerettighetsansvar og verdier. Rådet vurderte også implikasjonene denne saken kan ha for Metas bredere tilnærming til innholdsstyring.

Rådet valgte ut denne saken for å vurdere nøyaktigheten av Metas håndhevelse av retningslinjene om hatefulle ytringer, samt for å få en bedre forståelse av Metas tilnærming til innlegg som både inneholder hatefulle ytringer og promotering av selvskading eller selvmord.

8.1 Overholdelse av Metas retningslinjer for innhold

I. Innholdsregler

Hatefulle ytringer

Rådet finner at innholdet i denne saken er i strid med standarden om hatefulle ytringer. Innlegget inneholdt «voldelige ytringer eller støtte» (nivå 1) i form av en oppfordring om at en beskyttet gruppe skal begå selvmord, noe som klart bryter med retningslinjene om hatefulle ytringer.

Rådet er enig i Metas endelige konklusjon om at henvisningen til henging i innlegget er et angrep på en gruppe mennesker snarere enn et konsept, fordi «konsepter eller institusjoner ikke kan henge seg». Rådet finner også støtte for konklusjonen sin i den bredere konteksten, med tanke på de nettbaserte skader og skader utenfor nettet som medlemmer av LHBTQIA+-samfunnet, og spesifikt transpersoner, opplever i Polen. Innlegg som bruker voldelige ytringer og tar til orde for transpersoners selvmord, skaper en atmosfære av trusler og ekskludering, og de kan bidra til fysisk skade. Konteksten som begrepene i innlegget ble brukt i, levner ingen tvil om at innlegget var ment nedsettende. I lys av tekstens og bildets natur, forverrer innlegget også den mentale helsekrisen som for tiden oppleves blant transpersoner. Ifølge flere studier har transkjønnede og ikke-binære personer en høyere risiko for både selvmordstanker og selvmordsforsøk enn ciskjønnede. Dessuten har antallet nettangrep positivt korrelert med antallet selvmordstanker. Rådet konkluderer med at i denne saken er transkjønnsflagget, kombinert med referansen til den forhøyede risikoen for selvmord blant transpersoner («gardiner som henger seg»), en klar indikasjon på at transpersoner er målet for innlegget. Rådet konkluderer med at uttrykket «vårrengjøring», etterfulgt av et hjerteikon, også utgjør et ønske om død. Dermed bryter innlegget også forbudet i standarden om hatefulle ytringer (nivå 2) mot «uttrykk for at en beskyttet egenskap ikke burde eksistere».

Når det gjelder denne standarden, mener rådet at retningslinjene og den interne veiledningen for hvordan de skal håndheves burde være mer observant overfor «ondsinnet kreativitet» i innholdstrender som er rettet mot historisk marginaliserte grupper. Wilson Center skapte dette uttrykket etter å ha forsket på kjønnsbaserte og seksualiserte overgrep, og GLAAD understreket også uttrykkets relevans i sin offentlige kommentar (PC-16027). «Ondsinnet kreativitet» refererer til «bruken av kodet språk: iterative, kontekstbaserte visuelle og tekstlige memer; og andre taktikker for å unngå oppdagelse på sosiale medieplattformer». Da de vurderte dette konseptet opp mot innlegget i denne saken, sa GLAAD at «ondsinnet kreativitet» innebærer «ondsinnede aktører som utvikler nye måter å angripe LHBTQ-samfunnet på», og også sårbare grupper mer generelt, gjennom innlegg og memer som de forsvarer som «humoristiske eller satiriske», men som reelt sett utgjør «LHBTQ-hat eller trakassering.» I denne spesifikke saken tok «ondsinnet kreativitet» formen av et innlegg som bruker to delvis kodede referanser til selvmord («gardiner som henger seg» og «vårrengjøring») sammen med en visuell skildring av en beskyttet gruppe (flagget til transkjønnede) for å oppfordre til selvmord. I avgjørelsen i saken «Armenere i Aserbajdsjan» bemerket rådet viktigheten av kontekst for å fastslå at begrepet som ble vurdert i denne saken var ment som et angrep mot en gruppe basert på en beskyttet egenskap. Konteksten var krig i denne saken, og dette var det mest sentrale. Truslene transpersoner i Polen står overfor, viser derimot at situasjonen kan være alvorlig også for et samfunn uten krig. Som nevnt ovenfor, rapporterte én av fem transpersoner i Polen å ha blitt fysisk eller seksuelt angrepet i løpet av de fem årene før 2019 – mer enn dobbelt så mange som fra andre LHBTI-grupper som rapporterte slike angrep.

Rådet er bekymret for at Metas opprinnelige moderatorer ikke fanget opp disse kontekstuelle ledetrådene i innholdet, og dermed konkluderte med at innholdet ikke var ulovlig. Rådet anbefaler noen revisjoner av veiledningen som hører til standarden om hatefulle ytringer, men understreker at innlegget brøt med retningslinjene selv slik de var utformet på det aktuelle tidspunktet. Begge uttalelsene i innlegget oppfordrer til selvmord for transpersoner. Enda et signal, brukerens biografi, støtter denne konklusjonen. Brukerens identifiserer seg som transfobisk, og dette vil i seg selv utgjøre et nivå 2-brudd på forbudet i standarden om hatefulle ytringer mot «innrømmelse av egen intoleranse på grunnlag av beskyttede egenskaper». Meta må forbedre nøyaktigheten av tiltak mot hatefulle ytringer rettet mot LHBTQIA+-samfunnet, enten gjennom automatisering eller manuell vurdering, spesielt når et innlegg inneholder bilder og tekst som krever kontekst for å kunne tolkes. Som GLAAD har observert (PC-16027), «mislykkes Meta stadig i å håndheve retningslinjene når de gjennomgår rapporter om innhold som bruker 'ondsinnet kreativitet'».

Rådet er også bekymret over Metas uttalelse om at moderatorenes unnlatelse av å fjerne innholdet er «i samsvar med prinsippet om en streng håndhevelse av våre interne retningslinjer». Metas uttalelse indikerer at den interne veiledningen til moderatorer i utilstrekkelig grad fanger opp hvordan tekst og bilde i et innlegg på sosiale medier sammen kan representere en gruppe ut fra kjønnsidentitet. Rådet konkluderer med at veiledningen kanskje ikke er god nok til at moderatorer på storskalanivå skal kunne komme fram til riktig tiltak mot innhold som angriper beskyttede grupper som er representert visuelt, men som ikke er navngitt eller avbildet som menneskelige figurer. Meta tillot ikke rådet å publisere ytterligere detaljer som ville ha gjort det mulig med en mer robust diskusjon om hvordan håndhevelsen av denne typen innhold kan forbedres. Rådet mener imidlertid at Meta bør endre veiledningen sin for å sikre at visuelle skildringer av kjønnsidentitet blir tilstrekkelig forstått ved vurdering av innhold som angriper personer eller grupper. Rådet understreker at ved å foreslå dette, ønsker de ikke å redusere Metas beskyttelse av folk som utfordrer konsepter, institusjoner, ideer, praksis eller tro. Rådet ønsker heller at Meta presiserer at et innlegg ikke trenger å avbilde menneskelige skikkelser for å utgjøre et angrep på mennesker.

Selvmord og selvskading

Rådet konkluderer med at innholdet i denne saken også bryter standarden om selvmord og selvskading. Disse retningslinjene forbyr «innhold som fremmer, oppmuntrer til, koordinerer eller gir instruksjoner om selvmord og selvskading». I henhold til den interne veiledningen som Meta gir til moderatorene sine, er «fremme» definert som «å snakke positivt om». Rådet er enig i Metas endelige konklusjon om at innholdet utgjør en uttalelse til fordel for at en beskyttet gruppe skal begår selvmord, og det oppfordrer derfor til selvmord.

Rådet konkluderer med også at standarden om selvmord og selvskading mer uttrykkelig bør forby innhold som oppfordrer eller oppmuntrer til selvmord når det er rettet mot en identifiserbar gruppe mennesker, ikke bare en gitt person i denne gruppen. Meta fortalte rådet at retningslinjene ikke skiller mellom disse to formene for innhold. Gitt utfordringene som moderatorene sto overfor da de skulle identifisere en uttalelse som oppmuntrer til selvmord blant en gruppe mennesker i denne saken, oppfordrer rådet imidlertid Meta til å gjøre det tydelig at retningslinjene forbyr innhold som oppfordrer eller oppmuntrer til selvmord når det er rettet mot en identifiserbar gruppe mennesker. Meta bør avklare dette punktet på siden med retningslinjer om selvmord og selvskading, og også i den tilhørende interne veiledningen til moderatorer.

II. Tiltak

Rådet konkluderer med at Metas automatiserte systemer for prioritering av innhold som skal vurderes, i betydelig grad påvirket tiltakene, eller mangelen på sådan, i denne saken. Av de tolv brukerrapportene som gjaldt innlegget, ble ti automatisk lukket av Metas automatiserte systemer. Av de tre brukerankene på Metas vedtak, ble to automatisk lukket av Metas automatiserte systemer. Rådet er bekymret over at sakshistorikken som deles med rådet inneholder mange indikasjoner på regelbrudd, og dette er en klar indikasjon på at Metas retningslinjer ikke håndheves godt nok.

Rådet bemerker at mange brukerrapporter ble lukket som et resultat av Metas rutiner rundt innholdsmoderering når det gjelder å håndtere flere rapporter om samme innhold. Den første brukerrapporten om hatefulle ytringer ble ikke prioritert for manuell vurdering, på grunn av «lav alvorlighetsgrad og utbredelse». Påfølgende rapporter om hatefulle ytringer ble ikke prioritert for manuell vurdering, fordi når flere rapporter kommer om samme innhold, vil Meta «fjerne duplikater av rapporter om det samme innholdet for å sikre konsekvente avgjørelser og tiltak fra moderatorene». Rådet erkjenner at sletting av duplikater er rimelig for å kunne moderere innhold på storskalanivå. Rådet bemerker imidlertid at praksisen legger mer press på den første avgjørelsen rundt en rapport, ettersom denne vil avgjøre hva som skjer med påfølgende rapporter som grupperes sammen med den første rapporten.

Rådet mener det er viktig at Meta prioriterer å forbedre nøyaktigheten til de automatiserte systemene som både håndhever retningslinjene for innhold og prioriterer innhold for gjennomgang, spesielt når de håndterer innhold som potensielt påvirker LHBTQIA+-personer. Slike forbedringer av de automatiserte systemenes evne til å gjenkjenne kodet språk og kontekstbaserte bilder, som i denne saken, vil utvilsomt forbedre håndhevelsen av innhold som også retter seg mot andre beskyttede grupper. Rådet mener at for eksempel brukerens biografi, med en innrømmelse av transfobi, kunne vært betraktet som et relevant signal ved fastsettelse av alvorlighetsgrad når det skal avgjøres om innhold skal prioriteres for gjennomgang og/eller iverksettes tiltak mot. Dette signalet kan supplere eksisterende atferdsanalyser og sosiale nettverksanalyser som Meta kan bruke for å synliggjøre potensielt ulovlig innhold.

I tillegg understreker rådet at det er viktig at Meta sikrer at de automatiserte systemene er godt nok kalibrert, og at innholdsmoderatorer er opplært til å vurdere LHBTQIA+-relaterte innlegg på storskalanivå på en effektiv måte. Rådet er bekymret for Metas nåværende tilnærming, der moderatorer som har i oppgave å vurdere anker ofte ser ut til å ha samme kompetansenivå som de som har utført den første innholdsvurderingen. Rådet mener at Meta bør investere mer i utvikling og trening av klassifikatorer som skal avdekke potensielt ulovlig innhold som påvirker LHBTQIA+-samfunnet og prioritere dette innholdet for manuell vurdering. Hatefulle ytringer, spesielt innhold av høyeste alvorlighetsgrad som faller inn under nivå 1 i Metas retningslinjer, bør alltid prioriteres for gjennomgang. Rådet foreslår også å styrke disse prosessforbedringene med: i) forbedret opplæring av moderatorer om angrep knyttet til kjønnsidentitet; ii) en arbeidsgruppe om transpersoners og ikke-binære personers erfaringer på Metas plattformer; og iii) opprettelse av en spesialisert gruppe fageksperter som skal vurdere innhold relatert til problemer som påvirker LHBTQIA+-samfunnet. Selv om faktaene i denne saken spesifikt gjelder angrep mot transpersoner på Facebook, oppfordrer rådet også Meta til å utforske hvordan man kan forbedre håndhevelsen av hatefullt innhold som påvirker andre beskyttede grupper.

Rådet kommer bare med to formelle anbefalinger nedenfor, men understreker at dette skyldes at utfordringene som er framhevet i denne saken har mindre å gjøre med retningslinjenes bokstav enn håndhevelsen av dem. Rådet ser minst fem tegn på skadelig innhold i denne saken: (1) innleggets referanser til «gardiner som henger seg selv»; (2) innleggets referanse til «vårrengjøring&lt;3»; (3) brukerens beskrivelse av seg selv som «transfobisk» i et land der det rapporteres om høye nivåer av fiendtlighet mot LHBTQIA+-samfunnet; (4) antall brukerrapporter og anker på innholdet; og (5) antall rapporter og anker i forhold til utbredelsen til innholdet. Rådet er bekymret for at Meta gikk glipp av disse signalene og mener at dette tyder på at selskapets retningslinjer ikke håndheves godt nok. Rådet står fast på at Meta bør tenke både nøye og kreativt gjennom hvordan de kan lukke gapet mellom idealet om å beskytte LHBTQIA+-personer på plattformene og selskapets reelle håndhevelse av dette idealet.

8.2 Overholdelse av Metas menneskerettighetsansvar

Ytringsfrihet (artikkel 19 ICCPR)

Artikkel 19, § 2 i den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR) slår fast at «enhver person skal ha rett til ytringsfrihet; denne retten skal omfatte frihet til å søke, motta og formidle informasjon og ideer av alle slag, uavhengig av grenser, både muntlig, skriftlig og på trykk, i form av kunst eller gjennom andre medier.» Generell kommentar nr. 34 (2011) spesifiserer videre at beskyttede ytringer inkluderer ytringer som kan anses som «dypt støtende» (§ 11).

Der restriksjoner av ytringer pålegges av en stat, skal de oppfylle kravene til legalitet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). Disse kravene blir ofte referert til som en «tredelt test.» Rådet bruker dette rammeverket til å tolke Metas frivillige menneskerettighetsforpliktelser, både når det gjelder den enkelte beslutningen som vurderes og hva denne sier om Metas bredere tilnærming til innholdskontroll. Som FNs spesialrapportør for ytringsfrihet har uttalt: Selv om «selskaper ikke har samme forpliktelser som offentlige myndigheter, har de en påvirkningskraft som krever at de foretar vurderinger for å beskytte brukernes ytringsfrihet» (A/74/486, § 41).

I. Legalitet (tydelige og tilgjengelige regler)

Legalitetsprinsippet under internasjonal menneskerettighetslov krever at regler som begrenser ytringsfriheten skal være tydelige og offentlig tilgjengelige (generell kommentar nr. 34, § 25). Regler som begrenser ytringsfriheten kan ikke «være underlagt skjønnet til den som skal begrense ytringsfriheten» og må «gi tilstrekkelig veiledning til de som blir gjenstand for [begrensingene] for å gjøre dem i stand til å fastslå hva slags ytringer som er ulovlige og hvilke som ikke er det» (samme kilde). Anvendt på reglene som regulerer ytringsfrihet på Internett, har FNs spesialrapportør for ytringsfrihet sagt at de skal være klare og spesifikke (A/HRC/38/35, § 46). Personer som bruker Metas plattformer bør få tilgang til reglene og kunne forstå dem, og innholdsmoderatorer bør ha klare retningslinjer for håndhevelse av dem.

Rådet konkluderer med at Meta har tilstrekkelig klare forbud mot «voldelige ytringer eller støtte» i skriftlig eller visuell form rettet mot grupper med beskyttede egenskaper, av ytringer om at en beskyttet egenskap ikke bør eksistere og av ytringer som oppfordrer eller oppmuntrer til selvmord og selvskading.

Rådet bemerker imidlertid at Meta kan forbedre nøyaktigheten av tiltak når det gjelder retningslinjene som er aktuelle for denne saken ved å gi klarere veiledning til moderatorene, som behandlet i punkt 8.1 ovenfor. Meta bør gjøre det klart at visuelle skildringer av kjønnsidentitet, for eksempel gjennom et flagg, ikke trenger å avbilde menneskelige figurer for å utgjøre et angrep i henhold til retningslinjene om hatefulle ytringer. Meta bør også gjøre det klart at en oppfordring til en gruppe (i motsetning til en enkeltperson) om å begå selvmord bryter retningslinjene om selvmord og selvskading.

II. Legitime mål

Enhver restriksjon på ytringer bør skje for å oppfylle et av de legitime målene til ICCPR, som inkluderer «andres rettigheter». I flere avgjørelser har rådet funnet ut at Metas retningslinjer om hatefulle ytringer, som tar sikte på å beskytte mennesker mot skade forårsaket av hatefulle ytringer, har et legitimt mål som er anerkjent av internasjonale menneskerettighetslover (se for eksempel avgjørelsen i saken «Knin-tegnefilm). I tillegg ser rådet at i denne saken tjener retningslinjene om selvmord og selvskading om innhold som oppfordrer til selvmord eller selvskading de legitime målene om å beskytte menneskers rett til den høyest oppnåelige standarden for fysisk og mental helse (ICESCR 12) og retten til liv (artikkel 5 i ICCPR). I saker som denne, der en beskyttet gruppe oppfordres til å begå selvmord, beskytter retningslinjene om selvmord og selvskading også menneskers rett til likeverd og ikke-diskriminering (artikkel 2, § 1 i ICCPR).

III. Nødvendighet og proporsjonalitet

Prinsippet om nødvendighet og proporsjonalitet krever at alle begrensninger av ytringsfriheten «må være hensiktsmessige for å oppnå sin beskyttende funksjon. De må være de minst inngripende virkemidlene blant de som kan oppnå den beskyttende funksjon, og de må være proporsjonale med interessen som skal beskyttes» (generell kommentar nr. 34, § 34).

Når rådet skal analysere risiko forbundet med voldelig innhold, lar rådet seg som regel veilede av seksfaktor-testen som er beskrevet i Rabat-handlingsplanen, som tar for seg hat rettet mot nasjonalitet, rase eller religion med oppfordringer til fiendtlighet, diskriminering eller vold. Basert på en vurdering av de relevante faktorene, spesielt innholdet og uttrykksformen, intensjonen til den som står bak og konteksten som er nærmere beskrevet nedenfor, konkluderer rådet med at fjerning av innholdet er i samsvar med Metas menneskerettighetsansvar, ettersom det utgjør en overhengende fare for nært forestående fysiske skadevirkninger. Fjerning av innholdet er en nødvendig og proporsjonal begrensning av ytringer for å beskytte retten til liv og retten til den høyest oppnåelige standarden for fysisk og mental helse for det bredere LHBTQIA+-samfunnet, og da spesielt transpersoner i Polen.

Selv om rådet tidligere har bemerket viktigheten av at LHBTQIA+-personer får anledning til å bruke nedsettende bemerkninger om seg selv for å dempe effekten av dem og motvirke desinformasjon (se beslutningen i saken «Ta tilbake arabiske ord»), er ikke dette aktuelt her. Innlegget inneholder heller ikke ytringer som har politisk verdi eller nyhetsverdi (se avgjørelsen i saken «Protester i Colombia»). Innlegget i denne saken viser bildet av transkjønnsflagget som henger som gardiner, med beskrivelsen av gardiner som henger seg selv. Ifølge eksperter rådet har konsultert, ser ikke bruken av gardiner – hverken i visuell eller tekstlig form – ut til å være et tilbakevendende kodespråk rettet mot transpersoner. Likevel, som diskutert ovenfor, har fenomenet «ondsinnet kreativitet» eller bruken av nytt språk og kreative representasjonsstrategier for å uttrykke hat og drive trakassering begynt å prege innholdstrender som retter seg mot transpersoner. Rådet konkluderer med at innholdet i denne saken passer innenfor denne trenden. Selv om innlegget brukte bilder som noen syntes var «humoristiske» (som det framgår av «Haha»-emojiene), kan innlegget fortsatt tolkes som en voldelig og provoserende uttalelse rettet mot transpersoner. Humor og satire kan selvsagt brukes til å flytte grensene for legitim kritikk, men det kan ikke være et alibi for å legge ut hatefulle ytringer. Innlegget antyder høye selvmordstall blant transpersoner og feirer dette.

Da rådet vurderte intensjonen til innholdsskaperen, bemerker de at brukerens biografi åpent sa at vedkommende er «transfobisk». Meta har først senere vurdert implikasjonene denne uttalelsen har for selve saksinnholdet, men rådet mener at den er svært relevant for å fastslå brukerens hensikt. På uavhengig grunnlag vil uttalelsen forsvare at innholdet fjernes som et nivå 2-brudd på retningslinjene om hatefulle ytringer. Innlegget beskrev også selvmord blant transpersoner som «vårrengjøring», med et uttrykksikon (hjerte) ved siden av beskrivelsen. I lys av denne støtteerklæringen til selvmord, ser rådet at hensikten med innlegget er å oppmuntre til diskriminering og vold, med tanke på bildet som ble brukt og den tilhørende teksten og bildeteksten. Innholdet i denne saken oppfordrer ikke bare transpersoner til å begå voldelige handlinger mot seg selv, men oppfordrer også andre til å diskriminere og opptre fiendtlighet overfor transpersoner. Denne forståelsen bekreftes av at emojien som oftest ble brukt av andre brukere som reagerte på innholdet, var «Haha».

Rådet noterer seg også de betydelige fysiske risikoene som det polske LHBTQIA+-samfunnet står overfor i form av økende angrep gjennom lovgivende og administrative handlinger, samt politisk retorikk fra sentrale regjeringsmedlemmer og innflytelsesrike kjente personer. Siden 2020 har Polen konsekvent blitt rangert lavest blant EU-medlemslandene når det gjelder LHBTQIA+-rettigheter, i henhold til ILGA-Europe. Det er også viktig å merke seg at Polen ikke nevner LHBTQIA+-beskyttelse i landets lover om hatefulle ytringer og hatkriminalitet, noe blant andre ILGA-Europe og Amnesty International har oppfordret Polen til å endre på. Økningen i anti-LHBTQIA+-retorikk på polsk på Facebook, flagget av eksterne eksperter og en rekke offentlige kommentarer, skjer dessuten ikke isolert. Mange organisasjoner og institusjoner har uttrykt bekymring over utbredelsen av negative ytringer mot LHBTQIA+ på sosiale medier. FNs uavhengige ekspert på seksuell orientering og kjønnsidentitet (IE SOGI), Victor Madrigal-Borloz, har uttalt at nivået av vold og diskriminering mot ikke-binære og transpersoner «krenker den menneskelige samvittigheten». GLAADs analyser og rapporter sier at det skjer «svært reelle skader på LHBTQ-personer på nettet, inkludert (...) den traumatiske psykologiske effekten av å bli utsatt for nedsettende bemerkninger og hat». Innhold som i innlegget i denne saken, spesielt når det vurderes på storskalanivå, kan bidra til å skape et miljø med forverring av den allerede betydelige selvmordsfaren blant transkjønnede. Dessuten risikerer man at innhold som normaliserer voldelige ytringer mot transkjønnede, slik tilfellet er med dette innlegget, både bidrar til å øke den mentale helsekrisen blant transkjønnede og volden som rettes mot dette samfunnet utenfor Internett.

9. Tilsynsrådets vedtak

Tilsynsrådet opphever Metas opprinnelige avgjørelse om å la innholdet bli liggende på plattformen.

10. Anbefalinger

Retningslinjer for innhold

1. Metas retningslinjer om selvmord og selvskading bør klargjøre at retningslinjene forbyr innhold som er rettet mot en identifiserbar gruppe mennesker og oppfordrer eller oppmuntrer dem til selvmord.

Rådet vil anse dette som implementert når den offentlige teksten i standarden om selvmord og selvskading gjenspeiler den foreslåtte endringen.

Håndheving

2. Metas interne veiledning for moderatorer på storskalanivå bør endres for å sikre at flaggbaserte visuelle skildringer av kjønnsidentitet som ikke inneholder en menneskelig figur blir forstått som representasjoner av en gruppe som defineres av kjønnsidentitet. Denne endringen vil gjøre instruksjonene for håndhevelse av denne formen for ulovlig innhold tydeligere på storskalanivå.

Rådet vil anse dette som implementert når Meta viser rådet endringene i den interne veiledningen.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådsbeslutninger gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Rådet ble assistert av et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på mer enn 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Memetica, en organisasjon som driver med åpen kildekodeforskning på trender på sosiale medier, leverte også analyser. Lingvistisk ekspertise ble levert av Lionbridge Technologies, LLC, som har spesialister som behersker mer enn 350 språk flytende og jobber fra 5000 byer over hele verden.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة