Kønsidentitet og nøgenhed

Sagsresumé

Tilsynsrådet har omstødt Metas oprindelige afgørelser om at fjerne to Instagram-opslag, der viser transkønnede og nonbinære personer med blottet brystkasse. De anbefaler desuden, at Meta ændrer sin fællesskabsregel om voksnes nøgenhed og seksuel aktivitet, så den indeholder klare kriterier, som er i overensstemmelse med de internationale menneskerettighedsstandarder.

Om sagen

I denne afgørelse behandler Tilsynsrådet for første gang to sager samlet. To separate stykker indhold blev slået op af den samme Instagram-konto, det ene i 2021, og det andet i 2022. Kontoen tilhører et par i USA, som identificerer sig som transkønnede og nonbinære personer.

Begge opslag indeholder billeder af parret med deres brystkasser blottet og brystvorterne tildækket. Billedteksten omhandler sundhedsydelser til transkønnede og beskriver, at en af personerne i parret snart skal have brystkirurgi (kønsskifteoperation for at skabe et fladere bryst), som parret har oprettet en fundraising for.

Efter en række underretninger fra Metas automatiske systemer og anmeldelser fra brugere, blev opslaget gennemgået flere gange for potentielle overtrædelser af forskellige fællesskabsregler. Meta endte med at fjerne begge opslag for krænkelse af fællesskabsreglen om seksuel opfordring, tilsyneladende fordi opslagene indeholdt bryster og et link til en fundraisingside.

Brugerne appellerede til Meta og derefter til rådet. Efter at rådet accepterede sagerne, fandt Meta frem til, at det var en fejl, at de havde fjernet opslagene, så de gendannede dem.

Centrale konklusioner

Tilsynsrådet mener, at fjernelsen af opslagene ikke er i overensstemmelse med Metas fællesskabsregler, værdier eller menneskerettighedsansvar. Disse sager understreger også grundlæggende problemer med Metas politikker.

Metas interne vejledning til ordstyrere om, hvornår de skal fjerne indhold i henhold til politikken om seksuel opfordring, er meget bredere end politikkens ordlyd eller i den offentligt tilgængelige vejledning. Dette skaber forvirring for brugere og ordstyrere, og, som Meta har anerkendt, medfører, at indhold bliver fjernet på et forkert grundlag.

I mindst én af sagerne blev opslaget sendt til menneskelig gennemgang via et automatisk system, der er beregnet til håndhævelse af fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet. Denne standard forbyder billeder af kvinders brystvorter udover i angivne situationer, f.eks. ved amning og kønsskifteoperationer.

Denne politik er baseret på et binært syn på køn og en skelnen mellem kvinde- og mandekroppe. En sådan tilgang gør det uklart, hvordan reglerne gælder for interkønnede, nonbinære og transkønnede personer, og den kræver, at evaluatorer udfører hurtige og subjektive evalueringer af køn, hvilket ikke er praktisk ved moderering af indhold i stor skala.

Begrænsningerne og undtagelserne til reglerne om kvindelige brystvorter er omfattende og forvirrende, særligt da de gælder for transkønnede og nonbinære personer. Undtagelser til politikken spænder fra protester til fødselsscener og medicinsk og sundhedsmæssig kontekst, herunder brystkirurgi og opmærksomhed omkring brystkræft. Undtagelserne er ofte indviklede og dårligt definerede. I visse kontekster skal evaluatorer f.eks. vurdere omfanget og beskaffenheden af synlige ar for at afgøre, om bestemte undtagelser skal være gældende. Politikkens manglende tydelighed skaber usikkerhed for både brugere og evaluatorer og betyder, at den ikke rigtig kan håndhæves i praksis.

Rådet har hele tiden sagt, at Meta være opmærksomme på, hvordan virksomhedens politikker påvirker folk, der er udsat for diskrimination (se f.eks. afgørelserne om "Wampum-bælte" og "Genvinding af arabiske ord"). Her mener rådet, at Metas politikker om voksnes nøgenhed medfører større forhindringer for at ytre sig for kvinder, transkønnede og nonbinære personer på virksomhedens platforme. De har f.eks. en alvorlig indflydelse i kontekster, hvor kvinder traditionelt ville gå topløse, og personer, der identificerer sig som LGBTQI+ kan blive påvirkede i uforholdsmæssig grad som disse sager viser. Metas automatiske systemer identificerede indholdet flere gange til trods for,at det ikke er i strid med Metas politikker.

Meta bør forsøge at udarbejde og implementere politikker, der tager højde for alle disse problemstillinger. De bør ændre tilgangen til administration af nøgenhed på deres platforme ved at definere tydelige kriterier til styring af politikken om voksnes nøgenhed og seksuel aktivitet, hvilket sikrer, at alle brugere behandles i overensstemmelse med menneskerettighedsstandarderne. De bør desuden undersøge, om politikken om voksnes nøgenhed og seksuel aktivitet beskytter mod deling af billeder uden samtykke, og om andre politikker bør skærpes i denne henseende.

Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne opslagene.

Rådet anbefaler desuden, at Meta gør følgende:

• Definerer tydelige og objektive kriterier med fokus på overholdelse af rettigheder til styring af fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet, så alle personer bliver behandlet i overensstemmelse med internationale menneskerettighedsstandarder og uden diskrimination på baggrund af køn. Meta bør starte med at udføre en omfattende konsekvensanalyse i forhold til menneskerettigheder på en sådan ændring. De bør engagere diverse interessenter og udarbejde en plan for håndtering af eventuelle problemområder.
• Tilføjer flere detaljer i den offentligt tilgængelige fællesskabsregel om seksuel opfordring i forhold til de kriterier, der medfører fjernelse af indhold.
• Ændrer sin vejledning til evaluatorer af fællesskabsreglen om seksuel opfordring, så den afspejler de offentlige regler om politikker mere præcist. Dette ville reducere mængden af håndhævelsesfejl fra Metas side.

*Sagsresuméer giver en oversigt over sagen og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Opsummering af afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelser i to sager om Instagram-opslag, der er blevet fjernet af Meta. Meta har anerkendt, at virksomhedens oprindelige afgørelser i begge sager var forkerte. Disse sager giver anledning til vigtige bekymringer i forhold til, hvorledes Metas politikker i uforholdsmæssig grad påvirker kvinders og LGBTQI+ brugeres ytringsfrihed på Metas platforme. Rådet anbefaler, at Meta definerer tydelige og objektive kriterier med fokus på overholdelse af rettigheder til styring af politikken om voksnes nøgenhed og seksuel aktivitet og på denne måde sikrer lige behandling af alle personer, en behandling, som er i overensstemmelse med internationale menneskerettighedsstandarder og uden diskrimination på baggrund af køn eller kønsidentitet. Meta bør starte med at udføre en omfattende konsekvensanalyse for at gennemgå konsekvenserne af indførelsen af sådanne kriterier, hvilket omfatter at man bør engagere diverse interessenter på tværs af forskellige ideologiske, geografiske og kulturelle kontekster. I det omfang, at denne vurdering identificerer potentielle skader, bør implementeringen af den nye politik omfatter en plan for afbødende handlinger i forbindelse med disse.

Rådet anbefaler desuden, at Meta tydeliggør sin offentligt tilgængelige politik om seksuel opfordring og indsnævrer den interne håndhævelsesvejledning med henblik på bedre målretning mod sådanne overtrædelser.

2. Sagsbeskrivelse og -baggrund

Disse sager vedrører to indholdsafgørelser, som Meta har foretaget, og som Tilsynsrådet vil behandle samlet i denne afgørelse. To separate billeder med billedtekst blev slået op på Instagram af den samme konto, som administreres i fællesskab af et par med bopæl i USA. Begge billeder viser parret, der har sagt i deres opslag og i deres indsendelser til rådet, at de identificerer sig som transkønnede og nonbinære.

Meta har fjernet begge opslag i henhold til fællesskabsreglerne om seksuel opfordring. I begge sager identificerede Metas automatiske systemer indholdet som en potentiel overtrædelse.

På det første billede, der blev slået op i 2021, er begge personer topløse og har hudfarvet tape over deres brystvorter. På det andet billede, der blev slået op i 2022, er den ene påklædt, mens den anden har bar overkrop og dækker sine brystvorter med sine hænder. Billedteksterne til disse billeder handler om, at den person, der har bar overkrop på begge billeder, snart skal have brystkirurgi-kønsskifteoperation for at skabe et fladere bryst. De beskriver deres planer om at dokumentere operationen og diskuterer spørgsmål vedrørende sundhedsydelser til transkønnede. De annoncerer, at de afholder et fundraisingarrangement for at kunne betale for operationen, da de har svært ved at få forsikringsdækning til proceduren.

I den første sag blev billedet i første omgang klassificeret automatisk som sandsynligvis ikke krænkende. Anmeldelsen blev lukket uden gennemgang, og indholdet blev i første omgang liggende på platformen. Derefter anmeldte tre brugere indholdet for pornografi og selvskade. Disse anmeldelser blev gennemgået af menneskelige ordstyrere, der vurderede, at opslaget ikke overtrådte reglerne. Da indholdet for fjerde gang blev anmeldt af en bruger, vurderede en anden menneskelig ordstyrer, at opslaget var i strid med fællesskabsreglen om seksuel opfordring og fjernede det.

I den anden sag blev opslaget to gange identificeret af Metas automatiske systemer og sendt til menneskelig gennemgang, hvor det begge gange blev vurderet til ikke at overtræde reglerne. Derefter anmeldte to brugere indholdet, men begge anmeldelser blev lukket automatisk uden menneskelig gennemgang, og indholdet blev liggende på Instagram. Endelig identificerede Metas automatiske systemer indholdet for tredje gang og sendte det til menneskelig gennemgang. De sidste to gange markerede Metas automatiske system for voksnes nøgenhed og seksuel aktivitet indholdet, men årsagen til disse gentagne gennemgange er uklar. Denne sidste menneskelige gennemgang medførte, at opslaget blev vurderet i strid med fællesskabsreglen om seksuel opfordring, hvorefter det blev fjernet.

Kontoejerne appellerede begge afgørelser om fjernelse til Meta, og indholdet blev gennemgået af mennesker i begge situationer. Disse gennemgange betød dog ikke, at Meta gendannede opslagene. Kontoejerne appellerede derefter begge beslutninger om fjernelse til rådet. Rådet behandler disse to sager samlet, hvilket er første gang. Fordelene ved dette er, at man kan identificere lignende problemer i Metas indholdspolitikker og processer og foreslå løsninger på disse problemer.

Efter at rådet valgte at gennemgå disse opslag og Meta blev bedt om at oplyse begrundelsen for sin afgørelse om at fjerne indholdet, identificerede Meta fjernelserne som håndhævelsesfejl og gendannede begge opslag.

I rådets overvejelser om, hvorfor disse sager repræsenterer vigtige spørgsmål, hæfter rådet sig ved den relevante kontekst i form af det høje antal offentlige kommentarer, der blev modtaget i disse sager, hvoraf mange var fra personer, der identificerede sig som transkønnede, nonbinære eller ciskønnede kvinder, som forklarede, at de følte sig personligt berørt af håndhævelsesfejl og problemer svarende til dem, der forekommer i disse sager.

Rådet hæfter sig også ved relevant kontekst i form af den akademiske forskning, der også er citeret i offentlige kommentarer, af Haimson et al, Witt, Suzor og Huggins og to rapporter fra Salty om algoritmisk skævhed og censur af marginaliserede samfundsgrupper. Disse undersøgelser afdækkede, at håndhævelsesfejl i de to fællesskabsregler, som diskuteres i disse sager, i uforholdsmæssig grad påvirker kvinder og LGBTQI+ samfundet. En medforfatter til en af undersøgelerne er medlem af Tilsynsrådet.

3. Tilsynsrådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den bruger, som har fået sit indhold fjernet (artikel 2, afsnit 1 i charteret) artikel 3, afsnit 1 i vedtægterne).

Rådet kan stadfæste eller omstøde Metas afgørelse (artikel 3, afsnit 5 i charteret), og denne afgørelse er bindende for virksomheden (artikel 4 i charteret). Meta skal desuden vurdere muligheden for at anvende sin afgørelse i forhold til identisk indhold med parallel kontekst (artikel 4 i charteret). Rådets afgørelse kan indeholde rådgivende udtalelser vedrørende politikken med anbefalinger, som Meta skal reagere på (charterets artikel 3, afsnit 4, artikel 4).

Når rådet udvælger sager som denne, hvor Meta anerkender at have begået en fejl, efter at rådet har identificeret sagen, gennemgår rådet den oprindelige afgørelse. Det sker for at sikre forståelse af de politikparametre og processer for indholdsmoderering, som bidrog til fejlen og for at håndtere problemområder, som rådet identificerer i de underliggende politikker. Rådet forsøger desuden at komme med anbefalinger for at mindske risikoen for fremtidige fejl og for at sikre retfærdig behandling af brugere fremadrettet.

Når rådet identificerer sager med lignende problemstillinger, kan et panel få dem tildelt samtidig. Der træffes en bindende afgørelse angående hvert enkelt stykke indhold.

4. Kilder til bemyndigelse

Tilsynsrådet har overvejet følgende myndigheder og standarder:

I. Tilsynsrådets afgørelser:

• Afgørelsen om "Genvinding af arabiske ord" (2022-003-IG-UA). Rådet analyserede udfordringerne ved at anvende politikundtagelser og de uforholdsmæssige konsekvenser af visse politikvalg.
• Afgørelse om "Wampum-bælte" (2021-012-FB-UA). Rådet analyserede udfordringerne ved at anvende politikundtagelser og de uforholdsmæssige konsekvenser af visse politikvalg.
• "Symptomer på brystkræft og nøgenhed" (2020-004-IG-UA). Rådet analyserede Instagrams fællesskabsregler og anbefalede, at Meta tydeliggør, at der findes en undtagelse i forhold til opmærksomhed omkring brystkræft.

II. Metas indholdspolitikker:

Disse sager sag omhandler Instagrams fællesskabsregler og Facebooks fællesskabsregler. Metas Gennemsigtighedscenter angiver, at "Facebook og Instagram deler indholdspolitikker. Det betyder, at indhold, der betragtes som værende i strid med reglerne på Facebook, også betragtes som værende i strid med reglerne på Instagram."

Seksuel opfordring

Ifølge Instagrams fællesskabsregler er det ikke tilladt at tilbyde seksuelle tjenester. Denne bestemmelse linker til Facebooks fællesskabsregel om seksuel opfordring.

I politikrationalet om seksuel opfordring anfører Meta: Vi sætter dog grænsen, hvis indholdet muliggør, opfordrer til eller koordinerer seksuelle møder eller kommercielle seksuelle ydelser mellem voksne. Det gør vi for ikke at muliggøre transaktioner, der kan involvere menneskehandel, tvang og seksuelle handlinger uden samtykke. Vi begrænser også stærkt seksuelt sprog, der kan føre til seksuel opfordring, fordi visse målgrupper i vores globale fællesskab kan være følsomme over for denne type indhold, og det kan forhindre folk i at få kontakt til deres venner og det bredere fællesskab.

Facebook fællesskabsregel om seksuel opfordring angiver, at Meta forbyder både eksplicit og implicit opfordring. Implicit opfordring har to kriterier, hvor begge skal være opfyldt for at indhold anses for at krænke politikken. Det første er tilbyde eller bede om, som er indhold, der implicit eller indirekte (typisk ved at angive en kontaktmetode) tilbyder eller beder om seksuel opfordring. Det andet kriterie er vovede elementer, hvilket er indhold, der som førnævnt tilbyder eller beder en person om at bruge et af følgende seksuelt vovede elementer. De angivne elementer omfatter regionalt seksualiseret slang og stillinger.

Voksnes nøgenhed og seksuel aktivitet

Instagrams fællesskabsregler angiver, at brugere bør: "Slå kun billeder og videoer op, som er passende for et blandet publikum. Vi ved, at der af og til er brugere, som gerne vil dele nøgenbilleder med et kunstnerisk eller kreativt udtryk, men af forskellige årsager tillader vi ikke nøgenhed på Instagram. Det omfatter billeder, videoer og digitalt oprettet indhold, som afbilder samleje, kønsorganer og nærbilleder af nøgne bagdele. Det omfatter også nogle billeder af kvindelige brystvorter, men billeder i forbindelse med amning, fødsel og øjeblikkene efter en fødsel, sundhedsrelaterede situationer (f.eks. efter fjernelse af bryster, øget kendskab til brystkræft eller kønsskifteoperationer) eller som en protesthandling er tilladte." Dette afsnit linker til Facebooks politik om voksnes nøgenhed og seksuel aktivitet, hvor disse regler præciseres.

Som en del af rationalet om politikken for fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet forklarer Meta følgende: "Vi begrænser visning af nøgenhed eller seksuel aktivitet, fordi visse personer i vores fællesskab kan være følsomme over for denne type indhold. Derudover fjerner vi seksuelle billeder for at forhindre deling af indhold uden samtykke eller indhold med mindreårige."

Facebooks politik om voksnes nøgenhed og seksuel aktivitet nævner også følgende: "Du må ikke slå følgende op: Utildækkede kvindelige brystvorter undtagen i forbindelse med amning, fødsel og øjeblikkene efter en fødsel, medicinsk eller sundhedsmæssig kontekst (f.eks. efter fjernelse af bryster, øget kendskab til brystkræft eller kønsskifteoperationer) eller som en protesthandling." Brugere må også slå billeder op af kønsorganer, når de deles i en "medicinsk eller sundhedsmæssig kontekst" (hvilket inkluderer kønsskifteoperationer), men der vil blive påsat en etiket, der advarer folk om, at indholdet er følsomt. Der er også mindst 18 yderligere interne vejledningsfaktorer om brystvorter og disse undtagelser.

III. Metas værdier:

Metas værdier er anført i introduktionen til Facebooks fællesskabsregler, hvor ytringsfrihed er beskrevet som værende af "afgørende" betydning.

Målet med vores fællesskabsregler har altid været at skabe et sted, hvor folk kan udtrykke sig og blive hørt. […] Vi ønsker, at folk skal kunne tale åbent om de problemer, der betyder noget for dem, selvom nogle er uenige eller finder dem ubehagelige.

Meta begrænser ytringsfriheden til fordel for fire værdier, hvoraf to er relevante her:

"Sikkerhed": Det er vigtigt for os at gøre Facebook til et sikkert sted. Udtryk, der truer folk, kan intimidere, udelukke eller forhindre andre i at udtale sig og er ikke tilladt på Facebook.

"Værdighed": Vi mener, at alle mennesker er lige, hvad angår værdighed og rettigheder. Vi forventer, at folk respekterer andres værdighed og ikke chikanerer eller nedgør andre.

IV. Internationale menneskerettighedsstandarder:

FN's vejledende principper for erhvervsliv og menneskerettigheder, som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders menneskerettighedsansvar. I marts 2021 annoncerede Meta sin virksomhedspolitik om menneskerettigheder, hvor virksomheden genbekræftede sit tilsagn om at respektere menneskerettigheder i overensstemmelse med FN's vejledende principper. Rådets analyse af Metas ansvar i forhold til menneskerettigheder i disse sager blev udført på baggrund af følgende menneskerettighedsstandarder:

• Retten til menings- og ytringsfrihed: Artikel 19, International konvention om borgerlige og politiske rettigheder (ICCPR), Generel bemærkning nr. 34, Menneskerettighedskomitéen 2011; Kommunikation 488/1992; Resolution 32/2, Menneskerettighedsrådet, 2016, FN's særlige rapportør for menings- og ytringsfrihed, rapporter: A/HRC/38/35 (2018) og A/74/486 (2019).
• Kvinders rettigheder: Artikel 2 og Artikel 5, Konvention om afskaffelse af alle former for diskrimination imod kvinder (CEDAW).
• Retten til beskyttelse mod forskelsbehandling: artikel 2, para. 1 og artikel 26 i ICCPR. Nepomnyashchiy v Russia, Menneskerettighedskomitéen, 2018 ( CCPR/C/123/D/2318/2013).

5. Indsendelser fra brugere

I brugernes indsendelser til disse sager angiver de, at de mener, at dette indhold er blevet fjernet på grund af transfobi. De skriver, at hvis rådet skulle bekræfte, at dette indhold skulle forblive på platformen, ville beslutningen bidrage til at gøre Instagram til et mere gæstfrit sted for LGBTQI+-personer.

6. Metas indsendelser

Meta forklarede i rationalet for sin afgørelse, at begge fjernelser af indhold var håndhævelsesfejl, og at ingen af opslagene overtrådte politikkerne om seksuel opfordring. Meta oplyser: "Det eneste, der tilbydes eller forespørges om, er donationer til en fundraising eller besøg på et website for at købe T-shirts. Ingen af disse vedrører seksuel opfordring."

Meta oplyser også, at ingen af opslagene overtræder virksomhedens regel om voksnes nøgenhed og seksuel aktivitet. I rationalet står der, at den interne "vejledning til evaluatorer specifikt adresserer, hvad der skal gøres i tilfælde af nonbinær, kønsneutral eller transkønnet nøgenhed." Indholdet i disse sager blev delt i en eksplicit kontekst omkring nonbinære og transkønnede personer, hvilket kan ses af indholdets overordnede emne (brystkirurgi) og de anvendte hashtags. Meta konkluderede, at "selvom brystvorterne i disse sager var synlige og utildækkede, ville de ikke overtræde vores politik om voksnes nøgenhed og seksuel aktivitet." Meta anerkendte også, at brystvorterne er "fuldstændig tilslørede" på begge billeder.

I betragtning af den tid, der er gået, siden indholdet blev fjernet, kunne Meta ikke fortælle rådet, hvilken eller hvilke politikker alle de forskellige automatiserede systemer, der identificerede indholdet som potentielt krænkende, var programmeret til at håndhæve. I ét tilfælde kunne Meta forklare, at indholdet var blevet sat i kø til gennemgang to gange af klassificeringer for voksnes nøgenhed og seksuel aktivitet. Meta kunne heller ikke give nogen forklaring på, hvorfor evaluatorerne mente, at indholdet overtrådte politikken om seksuel opfordring. I rationalet erkender Meta at være "bevidst om, at nogle indholdsevaluatorer fejlagtigt kan fjerne indhold for at være en implicit seksuel opfordring (selvom det ikke er det) baseret på en alt for teknisk anvendelse af vores interne vejledning til evaluatorer."

Rådet stillede Meta 18 spørgsmål, og Meta svarede på dem alle.

7. Offentlige kommentarer

Tilsynsrådet overvejede 130 offentlige kommentarer relateret til disse sager. 97 af disse kommentarer blev sendt fra USA og Canada, 19 fra Europa, 10 fra Asien og Stillehavsområdet og Oceanien, én Latinamerika og Caribien, én fra Mellemøsten og Nordafrika, én fra Nordafrika, én fra Afrika syd for Sahara og én fra Central- og Sydasien.

Indsendelserne omfattede følgende temaer: fejlagtige fjernelser af indhold fra transkønnede, nonbinære og kvindelige brugere; uretfærdigheden og uligheden i kønsbaserede sondringer for at bestemme, hvilke former for nøgenhed der er tilladt på platformen; forvirring over, hvilket indhold der er tilladt i henhold til fællesskabsreglerne om voksnes nøgenhed og seksuel aktivitet samt seksuel opfordring; sociale mediers betydning for udtryk i samfund, hvor LGBTQI+-rettigheder er truede.

Klik her for at læse de indsendte offentlige kommentarer til denne sag. Flere indsendte kommentarer er ikke blevet inkluderet, da de indeholdt personidentificerbare oplysninger om andre personer end kommentarens forfatter.

8. Tilsynsrådets analyse

Rådet undersøgte, hvorvidt indholdet skal gendannes, ved at belyse det fra tre sider: Metas indholdspolitikker, virksomhedens værdier og virksomhedens menneskerettighedsansvar.

Rådet udvalgte disse sager, da fjernelse af ikke-krænkende indhold, som er slået op af personer, der identificerer sig med marginaliserede grupper, påvirker disse personers udtryksfrihed. Dette er særligt vigtigt, da Instagram kan være et vigtigt forum for disse grupper til at opbygge fællesskaber. Disse sager viser, hvordan håndhævelsesfejl kan have en uforholdsmæssig stor indvirkning på visse grupper og kan betyde mere vidtrækkende problemer med politikker og håndhævelse, som bør løses.

8.1 Overholdelse af Metas indholdspolitikker

Rådet finder, at disse opslag ikke overtræder nogen af Metas indholdspolitikker. Selvom fællesskabsreglen gælder for Instagram, oplyser Meta også, at "Facebook og Instagram deler indholdspolitikker. Indhold, der betragtes som værende i strid med reglerne på Facebook, betragtes også som værende i strid med reglerne på Instagram." Facebooks fællesskabsregler indeholder flere detaljer, og der er linket til dem i Instagrams fællesskabsregler.

a. Seksuel opfordring

Fællesskabsreglen om seksuel opfordring nævner, at implicit seksuel opfordring kræver to elementer:

• indhold med et implicit tilbud eller en implicit forespørgsel OG
• seksuelt vovede elementer.

Implicitte tilbud eller forespørgsler.

Implicitte tilbud eller forespørgsler er defineret i fællesskabsreglen om seksuel opfordring som "indhold, der implicit eller indirekte (typisk ved at angive en kontaktmetode) tilbyder eller beder om seksuel opfordring." I Metas "Kendte spørgsmål", som giver yderligere intern vejledning til evaluatorer, inkluderer listen over kontaktoplysninger, som udløser fjernelse af et implicit tilbud, links til profiler på sociale medier og "links til abonnementsbaserede websites (f.eks. OnlyFans.com eller Patreon.com)." I disse sager omfattede indholdet et link til en platform, hvor brugere hostede et fundraisingarrangement til betaling af operationen. Eftersom Metas interne kriterier, der definerer "implicit tilbud eller forespørgsel" er meget brede, ville dette link teknisk set kvalificere sig som "et tilbud eller en forespørgsel" ifølge Metas vejledning til evaluatorer, på trods af at det ikke overtræder den offentlige regel, som angiver, at tilbuddet eller forespørgslen skal være angående noget seksuelt.

Seksuelt vovede elementer.

Fællesskabsreglen indeholder en liste over seksuelt vovede elementer, hvilket inkluderer poseringer. Kendte spørgsmål indeholder en ifølge Meta udtømmende liste over, hvad der karakteriseres som seksuelt vovede poseringer, herunder nøgne "kvindebryster, der er tildækket enten digitalt eller af menneskelige kropsdele eller objekter." På begge billeder bemærker rådet, at der er bryster, som er tildækket af menneskelige legemsdele (hænder) eller objekter (tape). I disse tilfælde gør indholdet i opslagene det klart, at personerne på billedet identificerer sig som transkønnede og nonbinære, hvilket betyder, at de afbildede bryster tilhører personer, der ikke identificerer sig som kvinder. Rådet finder også, at indholdet ikke var seksuelt vovet. På det grundlag var det andet element, der kræves for at overtræde politikken om seksuel opfordring – et seksuelt vovet element såsom en seksuel posering (hvilket omfatter et tildækket kvindebryst) – ikke til stede.

Fordi det andet element ikke var til stede, overtrådte opslagene ikke denne regel. Anvendelsen af den offentlige version af det første element (som indikerer, at tilbuddet/forespørgslen skal være om noget seksuelt) indikerer også, at disse billeder ikke udgør en seksuel opfordring.

b. Voksnes nøgenhed og seksuel aktivitet

Ifølge fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet må brugere ikke slå billeder op af utildækkede kvindelige brystvorter undtagen i forbindelse med amning, fødsel og øjeblikkene efter en fødsel, medicinsk eller sundhedsmæssig kontekst (f.eks. efter fjernelse af bryster, øget kendskab til brystkræft eller kønsskifteoperationer) eller som en protesthandling Metas "Kendte spørgsmål" angiver endvidere, at evaluatorer bør tillade "billeder af brystvorter, når de deles i en kontekst af at være eksplicit kvinde-til-mand-transkønnet, nonbinær eller kønsneutral (f.eks. hvis en bruger angiver en sådan kønsidentitet), uanset brystets størrelse eller form." Ingen af billederne i disse tilfælde overtræder denne fællesskabsregel.

For det første viser ingen af billederne utildækkede brystvorter. På begge billeder har personerne tildækket deres brystvorter med enten deres hænder eller tape. For det andet bemærker rådet, at selv hvis brystvorterne havde været synlige, blev billederne delt med en ledsagende tekst, der tydeliggjorde, at personerne identificerede sig som nonbinære. Denne politik er derfor ikke overtrådt.

8.2 Overholdelse af Metas værdier

Rådet vurderer, at den oprindelige afgørelse om at fjerne disse opslag var i strid med Metas værdier om ytringsfrihed og værdighed og i strid med værdien om sikkerhed.

Håndhævelsesfejl, der uforholdsmæssigt påvirker grupper, som udsættes for diskrimination, udgør en alvorlig trussel mod værdierne om "ytringsfrihed" og "værdighed". Selvom der i Metas menneskerettighedsargumenter diskuteres "sikkerhed", især i forhold til billeddeling uden samtykke, sexhandel og misbrug af børn, finder rådet, at disse fjernelser ikke fremmede sikkerheden.

8.3 Overholdelse af Metas ansvar inden for menneskerettighedsområdet

Ytringsfrihed (Artikel 19, ICCPR)

Artikel 19 i ICCPR giver bred beskyttelse af ytringer, herunder diskussion af menneskerettigheder og udtryk, der folk kan finde stødende (general kommentar nr. 34, para. 11). Retten til ytringsfrihed er en garanti for alle uden diskrimination vedrørende "køn" eller "anden status" (ICCPR, Artikel 2, para. 1). Menneskerettighedskomitéen har i sager såsom Nepomnyashchiy v. Rusland (CCPR/C/123/D/2318/2013) bekræftet, at forbuddet mod diskrimination omfatter diskrimination på grund af kønsidentitet.

Indholdet er relateret til vigtige sociale mærkesager. For disse brugere er Instagram et forum til at diskutere og udtrykke deres kønsidentitet, hvilket gør det til et forum til at få kontakt og hente støtte. Indholdet kan også direkte påvirke brugernes mulighed for at få foretage en kønsskifteoperation, da der i begge opslag forklares, at én person skal have udført brystkirurgi, og der deles et fundraisingarrangement til dækning af operationsomkostningerne.

Artikel 19 kræver, at når en stat indfører restriktioner på ytringsfriheden, skal de opfylde kravene om lovlighed, legitimt formål og nødvendighed og proportionalitet (ICCPR, Artikel 19, para. 3). FN's særlige rapportør om menings- og ytringsfrihed har på baggrund af FN's vejledende princippers ramme opfordret SoMe-virksomheder til at sikre, at deres indholdsregler er baseret på kravene i artikel 19, para. 3 i ICCPR (A/HRC/38/35, para. 45 og 70). Rådet anvender også denne struktur til at analysere Metas politikker og håndhævelse.

I denne sag finder rådet, at Meta ikke har levet op til sit ansvar om at oprette og håndhæve politikker, der stemmer overens med disse regler. De interne kriterier, der anvendes til at fjerne indhold i henhold til politikken om seksuel opfordring, er mere omfattende end det angivne rationale for politikken; med konsekvenser af overdreven håndhævelse, som Meta selv har erkendt. Fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet påvirker uforholdsmæssigt kvinder og LGBTQI+-brugere og er afhængig af subjektive og spekulative opfattelser af køn og kønsidentitet, hvilket ikke er praktisk muligt, når der er tale om indholdsstyring i stor skala. Rådet analyserer disse mangler og anbefaler, at Meta igangsætter en omfattende proces for at løse disse problemer.

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Regler, der begrænser udtryk, skal være klare og tilgængelige, så både de, der er ansvarlige for at håndhæve dem, og brugerne ved, hvad der er tilladt. Ingen af de to fællesskabsregler, der tages i betragtning i disse tilfælde, lever op til denne regel.

a. Seksuel opfordring

Rådet finder, at fællesskabsreglen om seksuel opfordring indeholder for brede kriterier i de interne retningslinjer for evaluatorer. Denne dårligt sammensatte vejledning bidrager til, at evaluatorerne håndhæver i overdreven grad, og at brugerne bliver forvirrede. Meta anerkendte dette, da virksomheden forklarede for rådet, at anvendelsen af den interne vejledning kunne "føre til overdreven håndhævelse" i tilfælde, hvor kriterierne for implicit seksuel opfordring er opfyldt, men hvor det er tydeligt, at der "ikke foreligger nogen hensigt om at opfordre til sex."

Forvirringen afspejles i begge af denne politiks elementer. I forhold til "tilbud eller forespørgsel"-komponenten i fællesskabsreglen om seksuel opfordring henviser de offentliggjorte regler til en "kontaktmetode" for den opfordrende part. Vejledningen til ordstyrere, Kendte spørgsmål, nævner dog, at en "kontaktmetode" for "et implicit tilbud eller en implicit forespørgsel" inkluderer links til profiler på sociale medier eller links til abonnementsbaserede tredjepartswebsites såsom Patreon. Det er ikke tydeligt for brugere, at et link til en anden profil på sociale medier, en betalingsplatform fra tredjepart eller et fundraisinglink (f.eks. Patreon eller GoFundMe) kunne betyde, at opslaget bliver behandlet som en uanmodet henvendelse. Denne forvirring afspejles i de mange offentlige kommentarer, rådet modtog fra personer, der ikke forstod, hvorfor indhold med sådanne tredjepartslinks blev fjernet eller førte til, at deres konti blev udelukket.

Det andet kriterie, der kræver et seksuelt vovet element, er bredt og vagt såvel som uoverensstemmende med Metas politik om voksnes nøgenhed og seksuel aktivitet. Den offentliggjorte fællesskabsregel inkluderer "seksuelt vovede poseringer" som et seksuelt vovet element. Kendte spørgsmål indeholder en detaljeret liste over "seksuelt vovede poseringer", herunder at være topløs og at tildække bryster med hænder eller objekter. Brugerne vil sandsynligvis ikke kunne forudsige, at ethvert billede med tildækkede bryster betragtes som en seksuelt vovet posering. Denne forvirring forstærkes af, at politikken om voksnes nøgenhed tillader topløse billeder, hvor brystvorterne er tildækkede. I denne henseende betragtes indhold, der anses for seksuelt i henhold til én politik, ikke som seksuelt i henhold til en anden politik.

Ud over føre til usikkerhed blandt brugerne tyder dét, at evaluatorerne gentagne gange er nået frem til forskellige resultater i forhold til dette indhold, på manglende klarhed for ordstyrere om, hvilket indhold der bør betragtes som en seksuel opfordring.

Som Meta anerkender, forholder det sig således, at anvendelsen af virksomhedens interne vejledning om de to elementer af implicit opfordring fjerner indhold, der ikke søger seksuelle handlinger. På længere sigt vil fejlagtige fjernelser sandsynligvis bedst kunne imødegås ved at ændre omfanget af denne politik. På kort sigt anbefaler rådet dog, at Meta reviderer sine interne retningslinjer for at sikre, at kriterierne afspejler de offentliggjorte regler, og kræver en klarere sammenhæng mellem "tilbud eller forespørgsel" og det "seksuelt vovede element". Meta bør også give brugerne en grundigere forklaring på, hvad der udgør "et tilbud eller en forespørgsel" om sex, og hvad der udgør seksuelt vovede poseringer, i de offentlige fællesskabsregler.

b. Voksnes nøgenhed og seksuel aktivitet

Reglen om voksnes nøgenhed og seksuel aktivitet er baseret på sondringer mellem køn og kønsidentitet, som er svære at implementere, og som omfatter undtagelser, der er dårligt definerede. Bestemte regler i politikken er forvirrende for brugere, som ikke ved, hvad der er tilladt. Dette skaber også forvirring for ordstyrerne, som skal foretage subjektive vurderinger baseret på uundgåeligt ufuldstændige oplysninger og hurtigt anvende en regel med adskillige faktorer, udelukkelser og formodninger.

På trods af at Metas sprogbrug har fokus på specifikke kropsdele i stedet for køn (og giver brugerne mulighed for at vælge mellem en bred vifte af kønsidentiteter på deres profil), forklarer de fleste Meta-regler ikke, hvordan virksomheden håndterer indhold, der skildrer interkønnede, transkønnede eller nonbinære personer. Eksempelvis refererer politikken til "kønsdele på en voksen mand eller kvinde", "kvindebryster" og "kvindelige brystvorter", men det er uklart, hvordan disse beskrivelser anvendes i forhold til personer med kroppe og identiteter, der måske ikke stemmer overens med disse definitioner. Mange transkønnede og nonbinære personer indsendte offentlige kommentarer til rådet om, at brugerne ikke ved, om deres indhold vurderes og kategoriseres efter deres kønsidentitet, det køn, de blev tildelt ved fødslen, eller aspekter af deres fysiske udseende.

De nuværende regler kræver, at menneskelige evaluatorer hurtigt vurderer både en brugers køn, da denne politik gælder for "kvindelige brystvorter", og brugerens kønsidentitet, da der er undtagelser baseret på, om den afbildede person er nonbinær, kønsneutral eller transkønnet, eller om vedkommende laver opslag i en kontekst af kønsbekræftende kirurgi. Opfattelser af køn og kønsidentitet kræver fortolkning af kontekstuelle indikationer og udseende, som begge er subjektive bestemmelser, der bidrager til fejl.

Denne tilgang kompliceres yderligere af Metas "princip om at antage kvindeligt køn som standard", hvorved der anvendes mere restriktive politikker for kvindelig (i modsætning til mandlig) nøgenhed i tvivlstilfælde. Kendte spørgsmål angiver, at hvor der ikke er nogen klar kontekst, og personen på billedet "ligner en kvinde, ELLER hvor der foreligger en kontekst af at være mand-til-kvinde-transkønnet, skal det som standard formodes, at der er tale om kvindelig nøgenhed, og den relevante politik skal anvendes."

Antallet af begrænsninger og undtagelser fra reglerne om brystvorter, der opfattes som kvindelige, er omfattende og forvirrende. Undtagelser spænder fra protesthandlinger til fødselsscener og amning til medicinsk og sundhedsmæssig kontekst, herunder billeder efter mastektomi og opmærksomhed omkring brystkræft. Undtagelserne er ofte enten ikke definerede eller dårligt definerede. Listen over undtagelser er også vokset betydeligt over tid og kan forventes at fortsætte med at vokse, efterhånden som udtryksformerne udvikler sig. Når det kommer til kvinders bryster, antager Metas politik om voksnes nøgenhed og seksuel aktivitet som standard, at sådanne afbildninger er seksuelle billeder. Alligevel afspejler den voksende liste over undtagelser, at billeder af kvinders bryster under mange omstændigheder, som anerkendes i politikken, ikke er seksuelt vovede.

Selv inden for hver undtagelse opstår der adskillige spørgsmål. Eksempelvis er undtagelsen om kønsbekræftende kirurgi særligt vigtig for transkønnede og nonbinære brugere, men Meta giver ikke en forklaring på omfanget af undtagelsen om kønsbekræftende kirurgi i sine offentliggjorte regler. Dette har resulteret i, at mange af de offentlige kommentarer udtrykker forvirring om, hvorvidt indhold, der i henhold til undtagelsen er tilladt, kunne omfatte billeder fra før kirurgi (for at skabe et før-og-efter-billede) og billeder af transkvinder, der har fået foretaget brystforstørrende operationer. De interne retningslinjer og Kendte spørgsmål gør det klart, at denne undtagelse er snævrere, end den offentlige vejledning kan fortolkes som.

Metas politikker er baseret på binære sondringer mellem mand og kvinde, hvilket skaber udfordringer, når Meta forsøger at formulere sin undtagelse for kønsbekræftende kirurgi. I Metas svar til rådet forklarede Meta, at undtagelsen for kønsbekræftende kirurgi betyder, at virksomheden tillader "utildækkede kvindelige brystvorter, før en person får foretaget en topoperation for at få fjernet sine bryster, når indholdet deles i en kontekst, der eksplicit viser, at der er tale om en kvinde-til-mand transkønnet, nonbinær eller kønsneutral person." Reglerne nævner endvidere, at "brystvorter på transkvinder, der har gennemgået en brystforstørrende operation (topoperation), er forbudt, medmindre der er ardannelse over brystvorten."

De interne retningslinjer om kirurgisk ardannelse og brystvorter er endnu mere indviklede. Reglerne for mastektomier tillader f.eks. "tilfælde, hvor brystvorten er rekonstrueret fra andet væv eller stencileret eller tatoveret" og "tilfælde, hvor mindst et kirurgisk fjernet bryst er til stede, selvom den anden blottede kvindelige brystvorte er synlig." Endnu mere forvirrende er det, at reglerne nævner følgende: "Ved mastektomier omfatter ardannelse afbildning af det område, hvor det fjernede brystvæv plejede at være. Selve operationsarret behøver ikke at være synligt."

Evaluatorer vil sandsynligvis have svært ved at anvende regler, der kræver, at de hurtigt skal vurdere den afbildede persons kønsspecifikke karakteristika for at beslutte, om de skal anvende regler om kvindelige brystvorter, og derefter personens køn for at afgøre, om der gælder nogle undtagelser, og dernæst overveje, om indholdet afbilder processen før eller efter et kirurgisk indgreb, hvilket kirurgisk indgreb, der er tale om, og omfanget og arten af den synlige ardannelse for at afgøre, om andre undtagelser kan være gældende. Det samme billede af tilsyneladende kvindelige brystvorter ville være forbudt, hvis det blev slået op af en ciskvinde, men tilladt, hvis det blev slået op af en person, der identificerer sig som nonbinær. Rådet bemærker også yderligere brystvorterelaterede undtagelser baseret på kontekster af protest, fødsel, efter fødsel og amning, hvilket rådet ikke har undersøgt her, men som også skal vurderes og formodentlig vil kræve yderligere interne kriterier.

I betragtning af, hvor vigtig retten til at udtrykke sig er, hvad angår kønsidentitet, fysisk sundhed, fødsel og forældreskab, skaber det nuværende komplekse kludetæppe af undtagelser unødig usikkerhed for brugerne og kan potentielt medføre forkert anvendelse af reglerne, som det fremgår af denne sag. Manglen på klarhed for brugere og ordstyrere i denne politik gør reglen ubrugelig. Som yderligere diskuteret nedenfor mener rådet, at Meta bør tage en tilgang til voksnes nøgenhed, der sikrer, at alle personer behandles uden diskrimination uanset køn eller kønsidentitet.

II. Legitimt formål

Artikel 19 i ICCPR bestemmer, at når stater begrænser udtryk, må de kun gøre det for at fremme legitime mål, hvilket beskrives som: "respekt for andres rettigheder eller omdømme . . . [og] beskyttelsen af den nationale sikkerhed eller den offentlige orden (ordre public) eller den offentlige sundhed og moral." Denne afgørelse undersøger Metas rationale for at begrænse ytringsfriheden i sine politikker i lyset af disse regler.

a. Seksuel opfordring

Meta forklarer i sin politik om seksuel opfordring, at politikken har til formål at forhindre brugere i at bruge Facebook eller Instagram for at facilitere "transaktioner, der kan involvere menneskehandel, tvang og seksuelle handlinger uden samtykke," som kan ske uden for platformen. Dette er et eksempel på at beskytte andres rettigheder, som er et legitimt mål.

b. Voksnes nøgenhed og seksuel aktivitet

Meta gav flere rationaler for særlige aspekter af sin politik om voksnes nøgenhed og seksuel aktivitet, herunder forhindring af spredning af indhold uden samtykke, beskyttelse af mindreårige, hvor personens alder er uklar, og det faktum, at "nogle personer i vores fællesskab kan være følsomme over for denne type indhold." Meta forklarede desuden sine generelle principper om nøgenhed for rådet. Virksomheden oplyser følgende: "Ved udarbejdelsen af vores politik overvejede Meta (1) den private eller følsomme karakter af billederne; (2) hvorvidt der er blevet givet samtykke til at tage og dele nøgenbilleder; (3) risikoen for seksuel udnyttelse; og (4) hvorvidt videregivelsen af sådanne billeder kan føre til chikane uden for platformen, især i lande, hvor sådanne billeder kan være kulturelt stødende."

De fleste af disse målsætninger er i overensstemmelse med beskyttelsen af andres rettigheder. Men Metas rationale for at beskytte "følsomhed i fællesskabet" fortjener yderligere undersøgelse. Dette rationale kan potentielt justeres efter det legitime mål om "offentlig moral". Når det er sagt, bemærker rådet, at målet om at beskytte den "offentlige moral" nogle gange er blevet uretmæssigt påberåbt ved statslig regulering af ytringsfriheden for at krænke menneskerettigheder, især for medlemmer af minoriteter og sårbare grupper. Menneskerettighedskomitéen har advaret om, at "begrebet moral stammer fra mange sociale, filosofiske og religiøse traditioner; følgelig skal begrænsninger ... med det formål at beskytte moralen være baseret på principper, der ikke udelukkende stammer fra en enkelt tradition" (Menneskerettighedskomitéen, generel bemærkning nr. 34).

Selvom menneskerettighedslovgivningen anerkender, at offentlig moral kan udgøre et legitimt mål for begrænsninger af ytringsfriheden for stater, og at der findes offentlige restriktioner for nøgenhed rundt om i verden, understreger Meta andre formål end "følsomhed i fællesskabet" i denne sags specifikke kontekst. Meta udtalte, at "selvom [virksomhedens] politik om nøgenhed er i overensstemmelse med beskyttelsen af den offentlige moral, er den i sidste ende ikke baseret på dette mål, fordi moralske standarder omkring nøgenhed er så vidt forskellige på tværs af kulturer og ikke ville kunne implementeres i stor skala." I mange samfund og dele af verden, kan afbildninger af synlige bryster på transkønnede og nonbinære personer godt anses for at være stødende. Alligevel begrænser Meta ikke sådanne udtryk. Derudover er rådet bekymret over den velkendte og tilbagevendende uforholdsmæssige begrænsning af udtryk, som kvinder, transkønnede og nonbinære personer har oplevet på grund af Metas politikker (se nedenfor). Af disse årsager fokuserer rådet på de andre mål ud over "følsomhed i fællesskabet", som Meta har fremført i undersøgelsen af sit menneskerettighedsansvar.

Det skal bemærkes, at nogle af årsagerne, som Meta angiver for sin politik om nøgenhed, afspejler en standardantagelse om den seksuelt vovede karakter af kvindebryster som grundlag. Rådet har modtaget offentlige kommentarer fra mange brugere, der udtrykte bekymring over den antagede seksualisering af kvinders, transkønnedes og nonbinæres kroppe, når der ikke er nogen sammenlignelig antaget seksualisering af billeder for cismænd. (Se f.eks. offentlig kommentar nr. 10624, som er indsendt af InternetLab).

Rådet har modtaget mange offentlige kommentarer i denne sag gennem sine normale kontaktprocesser for sager. Som et organ, der drager Meta til ansvar i forhold til Metas brugerbase og nøgleinteressenter, tager rådet kommentarer alvorligt som en del af sine overvejelser. Som med alle sager forstår vi, at disse kommentarer muligvis ikke er repræsentative for folks holdninger på globalt plan. Rådet sætter pris på de erfaringer og den ekspertise, der deles gennem kommentarerne, og fortsætter med at træffe foranstaltninger for at øge kontakten til lokalsamfund, som måske ikke deltager i denne proces lige nu.

Endelig anerkender rådet, at Meta på legitim vis kan indkalkulere vigtigheden af at forhindre visse former for skade, der kan have kønsbestemte indvirkninger. Som bemærket af FN's særlige rapportør for vold mod kvinder er det "vigtigt at anerkende, at internettet bliver brugt i et bredere miljø med udbredt og systemisk strukturel diskrimination og kønsbaseret vold mod kvinder og piger" (A/HRC/38/47). Desuden viser undersøgelser, at "90 procent af ofrene for digital distribution af intime billeder uden samtykke er kvinder." (A/HRC/38/47). Meta bør forsøge at begrænse kønsbaseret skade, både ved overhåndhævelse og underhåndhævelse af forbud mod nøgenhed.

III. Nødvendighed og proportionalitet

Rådet finder, at Metas politikker, sådan som de er udformet og håndhæves, opfanger mere indhold end nødvendigt. Ingen af politikkerne står i rimeligt forhold til de problemer, de forsøger at løse.

a. Seksuel opfordring

I politikken om seksuel opfordring er definitionerne af et tilbud eller en forespørgsel, som er implicit, og seksuelt vovede poseringer for brede, og de vil uundgåeligt opfange en betydelig mængde indhold, der ikke er relateret til seksuel opfordring. Meta selv erkender risikoen for fejlagtig håndhævelse og nævner, at de er "bevidste om, at nogle indholdsevaluatorer fejlagtigt kan fjerne indhold for at være en implicit seksuel opfordring (selvom det ikke er det) baseret på en alt for teknisk anvendelse af den interne vejledning til evaluatorer." Meta nævner yderligere:

På nuværende tidspunkt betragter vi, baseret på vores Kendte spørgsmål, deling, omtale eller angivelse af kontaktoplysninger på sociale eller digitale identiteter som et implicit tilbud eller en implicit forespørgsel om seksuel opfordring. […] At følge denne vejledning kan dog føre til overdreven håndhævelse i tilfælde, hvor en evaluator f.eks. opfatter en models posering som værende seksuelt vovet (opfylder kriteriet "seksuelt vovet element"), og hvor modellen har tagget fotografen for at kreditere vedkommende for billedet (opfylder kriteriet "tilbud eller forespørgsel"). Denne type indhold er ikke krænkende, fordi der ikke er nogen hensigt om at opfordre til sex, men det kan stadig blive fjernet (stik imod politikken), fordi det ellers opfylder de to kriterier, der er beskrevet ovenfor.

UNESCO har i en rapport, der diskuterer uddannelse i det digitale rum, beskrevet risikoen for fejlagtig overdreven håndhævelse. Det bemærkes, at "strenge regler vedrørende deling af eksplicitte billeder betyder, at undervisningsmateriale, der er offentliggjort online for at understøtte læring om kroppen eller seksuelle relationer, i nogle tilfælde kan blive forvekslet af ordstyrere med upassende, eksplicit indhold og derfor blive fjernet fra generiske webplatforme." Rådet hæfter sig også ved de mange offentlige kommentarer, det har modtaget, som diskuterer fejlagtige fjernelser på baggrund af denne regel. Eksempelvis skriver ACON (en australsk ngo, som fremmer læring om hiv), at indhold, der promoverede hiv-forebyggende budskaber på en sex-positiv måde, og indhold, der promoverede undervisningsworkshops, er blevet fjernet for at indeholde seksuelle opfordringer. Dette har resulteret i, at ngo'en har været opmærksom på sprogbruget i sit indhold for at undgå, at Meta fjerner det, i stedet for at vælge det bedste sprog til at nå ud til sine målgrupper (offentlig kommentar nr. 10550). Dette blev også udtrykt af Joanna Williams, en forsker, som fandt frem til, at 9 ud af 12 af de sexsundhedsorganisationer, hun havde interviewet, rapporterede, at de var negativt påvirket af Metas ordstyring på dette område (offentlig kommentar nr. 10613).

b. Voksnes nøgenhed og seksuel aktivitet

Ud over udfordringerne med at etablere regler, som kan håndhæves og er skalerbare, baseret på Metas opfattelse af køn og kønsidentitet, finder rådet også som beskrevet ovenfor, at Metas politikker om voksnes nøgenhed medfører uforholdsmæssige begrænsninger af nogle typer indhold og udtryk. Politikkerne kræver fjernelse af indhold, på trods af at mindre restriktive tiltag kunne have opnået de mål, der er angivet i politikkerne.

Meta bruger allerede en bred vifte af håndhævelseshandlinger ud over fjernelse, herunder anvendelse af advarselsskærme og aldersbegrænset indhold, så kun brugere over 18 år kan se det. Desuden træffer Meta allerede sådanne foranstaltninger med sin politik om voksnes nøgenhed og seksuel aktivitet, herunder for kunstneriske skildringer af seksuel aktivitet. Meta ønsker måske også at inddrage automatiske og menneskelige ordstyrere for at træffe mere raffinerede, kontekstspecifikke afgørelser om, hvornår en nøgen kontekst faktisk er seksuel, uanset den afbildede krops køn. Meta kunne yderligere gribe ind på en lang række måder i henhold til politikken for at begrænse synligheden af nøgent indhold for brugere, der ikke ønsker at se det, ved at muliggøre større brugerkontrol. Meta har desuden en række målrettede politikker om emner, som virksomheden også behandler gennem politikken om nøgenhed (såsom politikken om udnyttelse af voksne og politikkerne om seksuel udnyttelse af børn, misbrug af børn og børns nøgenhed), som kunne styrkes.

Rådet bemærker, at Metas håndhævelsespraksis angiveligt resulterer i et højt antal falske positiver eller fejlagtig fjernelse af ikke-krænkende indhold. Metas sidste rapport om håndhævelse af fællesskabsreglerne for Instagram (april-juni 2022) viste, at 21 % af fjernelserne af indhold med voksnes nøgenhed og seksuel aktivitet, der blev appelleret, førte til, at indholdet blev gendannet. Rådet har også modtaget et stort antal offentlige kommentarer vedrørende fejlagtig fjernelse af indhold på baggrund af politikken om voksnes nøgenhed.

Antidiskrimination

Der er beviser for, at Metas politikker og håndhævelse i forbindelse med politikken om voksnes nøgenhed og seksuel aktivitet kan føre til uforholdsmæssige indvirkninger specifikt på kvinder og LGBTQI+-personer. Disse indvirkninger afspejles i både politikken og håndhævelsen og begrænser de måder, hvorpå grupper kan udtrykke sig, modstå fordomme og øge deres synlighed i samfundet.

Selvom denne sag vedrørte transkønnede og nonbinære brugere, stammer håndhævelsesfejlene i sagen fra en underliggende politik, der også påvirker kvinder, især da Meta som standard antager, at der er tale om kvindelig nøgenhed ved nøgent indhold. Derfor tager dette afsnit også i betragtning, hvordan Metas politikker påvirker både LGBTQI+-personer og kvinder. Det store antal offentlige indsendelser i denne sag har tegnet et detaljeret billede af, hvilken effekt disse politikker kan have.

Retten til udtryksfrihed er en garanti for alle uden diskrimination vedrørende "køn" eller "anden status" (artikel 2, para. 1 i ICCPR). Dette omfatter seksuel orientering og kønsidentitet ( Toonen v. Australien (1994); A/HRC/19/41, para. 7). I Menneskerettighedskomitéens retspraksis bemærkes det, at "ikke enhver sondring baseret på de grunde, der er anført i konventionens artikel 26, er udtryk for diskrimination, så længe den er baseret på rimelige og objektive kriterier, og dens formål er legitimt i henhold til konventionen." Nepomnyashchiy v. Rusland, Menneskerettighedskomitéen, 2018, para. 7.5 (CCPR/C/123/D/2318/2013).

Kvindekonventionen (CEDAW) forbyder "enhver kønsbestemt sondring, udelukkelse eller indskrænkning, hvis virkning eller formål er at svække eller tilsidesætte princippet om, at kvinder på lige fod med mænd [...] skal have anerkendt, kunne nyde eller udøve menneskerettigheder og grundlæggende frihedsrettigheder på politiske, økonomiske, sociale, kulturelle, borgerlige og alle andre områder." (CEDAW, artikel 1). Rådet bemærker, at internationale menneskerettighedsorganer ikke har adresseret menneskerettighedskonsekvenserne af enten at tillade eller forbyde voksnes nøgenhed med samtykke og dets potentielle diskriminerende konsekvenser.

I henhold til FN's vejledende principper for menneskerettigheder og erhvervsliv bør "virksomheder være særligt opmærksomme på specifikke menneskeretlige indvirkninger på personer, som tilhører grupper eller befolkningsgrupper med en øget risiko for sårbarhed eller marginalisering" (FN's vejledende principper for menneskerettigheder og erhvervsliv, princip 18 og 20). Den særlige rapportør for ytringsfrihed har opfordret tech-virksomheder til at "aktivt at søge og tage hensyn til bekymringer i samfund, der historisk set er i fare for censur og diskrimination" (A/HRC/38/35, paragraf 48). FN's arbejdsgruppe for erhvervsliv og menneskerettigheder har også anbefalet, at tech-virksomheder sikrer, at "kunstig intelligens og automatisering ikke har uforholdsmæssigt negative indvirkninger på kvinders menneskerettigheder" (Gender Dimensions Handbook).

I betragtning af vigtigheden af SoMe-platforme som en arena, hvor personer, der udsættes for diskrimination, kan udtrykke sig, har rådet konsekvent formuleret sin forventning om, at Meta skal være særligt følsom over for muligheden for uretmæssig fjernelse af indhold fra, om eller med afbildning af medlemmer af disse grupper. Som rådet bemærkede i afgørelsen om "wampum-bæltet" (2021-012-FB-UA) vedrørende kunstneriske udtryk fra indfødte personer, er det ikke tilstrækkeligt at evaluere udførelsen af Metas håndhævelse af Facebooks politik om hadefuld retorik på brugerpopulationen som helhed – der skal tages højde for virkningerne på specifikke grupper. I sagen "Genvinding af arabiske ord" bekræftede rådet på lignende vis, at "overmodereringen af tale fra brugere blandt forfulgte minoritetsgrupper er en alvorlig trussel mod brugernes ytringsfrihed," og udtrykte bekymring over, hvordan undtagelser i Metas politikker (i dén sag, politikken om hadefuld retorik) blev anvendt på udtryk fra marginaliserede grupper (2022-003-IG-UA).

Konsekvenserne af Metas valg resulterer i, at kvinder, transkønnede og nonbinære personer har helt forskellige udtryksmuligheder på deres platforme. Metas nuværende politik om voksnes nøgenhed og seksuel aktivitet behandler kvindelige bryster og brystvorter som seksuelle i sig selv og dermed underlagt forbud, medmindre de er opereret eller skal opereres eller ammer. I stedet for at træffe foranstaltninger for at sikre, at nogle grupper ikke påvirkes uforholdsmæssigt af censur, fastholder Metas politik sådanne indvirkninger på disse grupper.

Disse sager fremhæver den uforholdsmæssige indvirkning af Metas valg, hvad angår virksomhedens politik, for personer, der identificerer sig som LGBTQI+, da indhold flere gange blev identificeret af klassificeringer for voksnes nøgenhed og seksuel aktivitet på trods af, at det faldt uden for politikkens anvendelsesområde. Rådet mener, at disse sager symboliserer større problemer. Eksempelvis viste undersøgelsen foretaget af Haimson et al., at transkønnede rapporterer om, at store mængder indhold bliver fjernet, og at et højt antal konti bliver slettet, typisk på grund af nøgenhed og seksuelt indhold.

Håndhævelsen af Metas valg, hvad angår virksomhedens politik, har også en uforholdsmæssig stor indvirkning på kvinder. En undersøgelse foretaget af Witt, Suzor og Higgins viste, at op til 22 % af billederne af kvinders kroppe, der blev fjernet fra Instagram, tilsyneladende var falske positiver. Den anderledes konsekvens for kvinder blev også bemærket i offentlige kommentarer (se f.eks. offentlig kommentar nr. 10616 fra Dr. Zahra Stardust).

Denne standardholdning til nøgenhed har også en alvorlig indvirkning i sammenhænge, hvor kvinder måske traditionelt går med bar overkrop. Den særlige rapportør for fremme og beskyttelse af retten til menings- og udtryksfrihed har opfordret til, at virksomheder i samarbejde med indfødte grupper rundt om i verden "udvikler bedre indikatorer for at tage hensyn til kulturel og kunstnerisk kontekst ved vurdering af indhold med nøgenhed" (paragraf 54, A/HRC/38/35).

Ud over disse politikrelaterede bekymringer om antidiskrimination rejste disse sager også håndhævelsesrelaterede bekymringer om antidiskrimination. Meta bør være opmærksom på, at indhold fra brugere, der identificerer sig med marginaliserede grupper, har større risiko for at blive anmeldt gentagne gange eller med ondsindet hensigt, når nogle brugere anmelder ikke-krænkende indhold for at bebyrde eller chikanere andre brugere. Disse spørgsmål blev også rejst i adskillige offentlige kommentarer (se f.eks. offentlig kommentar nr. 10596 fra GLAAD og offentlig kommentar nr. 10628 fra The Human Rights Campaign Foundation).

Disse sager fremhævede, at flere anmeldelser, der genererer flere gennemgange, kan øge sandsynligheden for fejlagtig fjernelse. Faktisk resulterede de fleste brugeranmeldelser i denne sag i menneskelige gennemgange, der fastslog, at indholdet ikke var krænkende, men indholdet blev fortsat anmeldt, indtil evaluatorer fejlagtigt besluttede, at det var krænkende, og fjernede det.

Meta bør forsøge at udarbejde og implementere politikker, der hjælper med at afhjælpe alle disse problemstillinger. Det kunne omfatte mere ensartede politikker med hensyn til nøgenhed, der gælder uden diskrimination på grundlag af køn eller kønsidentitet. Det kunne også omfatte mere kontekstualiserede afgørelser om, hvad for noget indhold der er seksuelt, så længe sådanne afgørelser undgår at bero på diskriminerende kriterier.

Rådet bemærker, at Meta har en målrettet politik til at håndtere intime billeder uden samtykke i sin politik om seksuel udnyttelse af voksne. Dette har været genstand for prioriteret håndhævelse fra virksomhedens side (se f.eks. introduktionen til automatisk registreringsteknologi for at forhindre, at billeder uden samtykke bliver slået op gentagne gange). Når Meta overvejer at ændre sin tilgang til håndtering af nøgenhed på platformen, bør Meta nøje undersøge, i hvilken grad politikken om voksnes nøgenhed og seksuel aktivitet beskytter mod deling af billeder uden samtykke, og finde ud af, om der er behov for ændringer i politikken om seksuel udnyttelse af voksne eller håndhævelsen af den for at styrke dens effektivitet.

Rådet anerkender også, at Meta kan have en legitim interesse i at begrænse seksuelt eller pornografisk indhold på sin platform. Men rådet mener, at relevante forretningsmål kan og bør opfyldes på måder, der behandler alle brugere uden diskrimination.

Nogle af rådets medlemmer mener, at Meta bør tilstræbe at reducere den diskriminerende virkning af sine nuværende politikker ved at vedtage en politik om voksnes nøgenhed, der ikke er baseret på forskelle mellem køn eller kønsidentiteter. De noterede sig Kvindekonventionens (CEDAW) bestemmelser om afskaffelse af kønsbestemte stereotyper (se f.eks. artikel 5 og 10) og Metas eksplicitte tilsagn om at følge CEDAW i virksomhedens menneskerettighedspolitik. De konkluderede, at disse internationale menneskerettighedsstandarder og Metas eget tilsagn om antidiskrimination i forbindelse med politikken om nøgenhed understøtter afskaffelsen af stereotype sondringer. Denne gruppe medlemmer har konkluderet, at et skift mod en politik, der ikke er baseret på forskelle mellem køn eller kønsidentiteter, ville være den bedste måde for Meta at varetage sit menneskerettighedsansvar på som virksomhed, i betragtning af virksomhedens værdier og tilsagn. Disse medlemmer bemærker, at normerne og politikkerne bør udvikles for at adressere sædvane med diskriminerende virkning, da mange former for diskrimination var eller fortsat er udbredt social sædvane.

Der var en vis uenighed om disse spørgsmål blandt rådets medlemmerne. Nogle medlemmer var i princippet enige i, at Meta ikke skulle lade køn eller kønsidentitet være begrænsende for udtryk, men var dybt skeptiske over for Metas evne til effektivt at håndtere intime billeder uden samtykke og andre potentielle skader uden en køns- og kønsidentitetsbevidst politik om nøgenhed. Andre medlemmer af rådet mener, at fordi gældende menneskerettighedsprincipper om antidiskrimination giver mulighed for sondringer på grundlag af beskyttede karakteristika, så længe de er "baseret på rimelige og objektive kriterier, og deres formål er legitime i henhold til konventionen," (Nepomnyashchiy v. Rusland, Menneskerettighedskomitéen, 2018, paragraf 7.5 (CCPR/C/123/D/2318/2013), er en køns- og kønsidentitetsneutral politik om nøgenhed ikke påkrævet, og at det vil kunne forårsage eller forværre andre skader.

De af rådets medlemmer, der støtter op om en køns- og kønsidentitetsneutral politik om voksnes nøgenhed, anerkender, at der i henhold til internationale menneskerettighedsstandarder, som gælder for stater, kan skelnes på grund af beskyttede karakteristika baseret på rimelige og objektive kriterier, og når de tjener et legitimt formål. De mener ikke, at sondringerne i Metas politik om nøgenhed lever op til den standard. De bemærker endvidere, at Meta som virksomhed har givet tilsagn om at overholde menneskerettigheder, der ikke er i overensstemmelse med en tilgang, der begrænser udtryk online baseret på virksomhedens opfattelse af køn og kønsidentitet.

Fællesskabsreglen om voksnes nøgenhed og seksuel aktivitet påvirker uforholdsmæssigt kvinder og LGBTQI+-brugere og er afhængig af subjektive og spekulative opfattelser af køn og kønsidentitet, hvilket ikke er praktisk muligt, når der er tale om indholdsstyring i stor skala. Samlet set og i lyset af forvirringen omkring reglerne og deres håndhævelse, og i lyset af den uforholdsmæssige og diskriminerende effekt af Metas nuværende politik om voksnes nøgenhed og seksuel aktivitet, anbefaler rådet, at Meta definerer tydelige og objektive kriterier med fokus på overholdelse af rettigheder til styring af politikken om voksnes nøgenhed og seksuel aktivitet og på denne måde sikrer lige behandling af alle personer, en behandling, som er i overensstemmelse med internationale menneskerettighedsstandarder og uden diskrimination på baggrund af køn eller kønsidentitet. Meta bør starte med at udføre en omfattende konsekvensanalyse for at gennemgå konsekvenserne af indførelsen af sådanne kriterier, hvilket omfatter at man bør engagere diverse interessenter på tværs af forskellige ideologiske, geografiske og kulturelle kontekster. I det omfang, at denne vurdering identificerer potentielle skader, bør implementeringen af den nye politik omfatter en plan for afbødende handlinger i forbindelse med disse. Rådet anmoder om en rapport om vurderingen og planen seks måneder fra denne afgørelses udstedelsesdato.

9. Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at fjerne begge opslag og kræver, at de gendannes.

10. Rådgivende udtalelse vedrørende politikken

Indholdspolitik

1. For at kunne behandle alle brugere retfærdigt og give evaluatorer og offentligheden en praktisk anvendelig regel om nøgenhed bør Meta definere tydelige og objektive kriterier med fokus på overholdelse af rettigheder til styring af politikken om voksnes nøgenhed og seksuel aktivitet og på denne måde sikrer lige behandling af alle personer, en behandling, som er i overensstemmelse med internationale menneskerettighedsstandarder og uden diskrimination på baggrund af køn eller kønsidentitet. Meta bør starte med at udføre en omfattende konsekvensanalyse for at gennemgå konsekvenserne af indførelsen af sådanne kriterier, hvilket omfatter at man bør engagere diverse interessenter på tværs af forskellige ideologiske, geografiske og kulturelle kontekster. I det omfang, at denne vurdering identificerer potentielle skader, bør implementeringen af den nye politik omfatter en plan for afbødende handlinger i forbindelse med disse.

2. For at kunne give brugerne mere klarhed bør Meta give dem en grundigere forklaring på, hvad der udgør "et tilbud eller en forespørgsel" om sex (herunder links til tredjepartswebsites), og hvad der udgør seksuelt vovede poseringer, i de offentlige fællesskabsregler. Rådet betragter denne anbefaling som implementeret, når der er tilføjet en forklaring af disse termer med eksempler i fællesskabsreglen om seksuel opfordring.

Håndhævelse

3. For at sikre, at Metas interne kriterier for politikken om seksuel opfordring ikke resulterer i fjernelse af mere indhold, end hvad den offentliggjorte politik angiver, og for at ikke-seksuelt indhold ikke fjernes fejlagtigt, bør Meta revidere sin interne vejledning for evaluatorer, så det sikres, at kriterierne afspejler de offentliggjorte regler og kræver en klarere sammenhæng mellem "tilbud eller forespørgsel" og "seksuelt vovet element". Rådet betragter dette som implementeret, når Meta har givet rådet sine opdaterede interne retningslinjer, hvor disse reviderede kriterier er afspejlet.

*Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og skal godkendes af et flertal i rådet. Rådets beslutninger er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3200 landeeksperter fra hele verden, har ydet ekspertrådgivning om sociopolitisk og kulturel kontekst. Rådet fik desuden assistance fra Duco Advisors, der er et rådgivningsfirma med fokus på geopolitik, tillid og sikkerhed samt teknologi.