Kjønnsidentitet og nakenhet

Sakssammendrag

Tilsynsrådet har omgjort Metas opprinnelige beslutninger om å fjerne to Instagram-innlegg som viser toppløse transpersoner og ikke-binære personer. De anbefaler også at Meta endrer sin standard om voksen nakenhet og seksuell aktivitet, slik at den er basert på tydelige kriterier som respekterer internasjonale menneskerettighetsstandarder.

Om saken

I dette vedtaket har tilsynsrådet behandlet to saker samlet for første gang. To separate innlegg ble lagt ut av samme Instagram-konto – det ene i 2021, det andre i 2022. Kontoen styres av et USA-basert par som identifiserer seg som transpersoner og ikke-binære.

Begge innleggene inneholder bilder av paret med bare bryster, men med brystvortene dekket. I bildetekstene diskuteres helsetjenester for transseksuelle, og de sier at den ene av dem snart skal gjennomgå en brystoperasjon (en kjønnsbekreftende operasjon for å få flatere brystkasse), noe paret samler inn penger for å kunne betale for.

Etter en rekke varsler fra Metas automatiserte systemer og rapporter fra brukere, ble innleggene gjennomgått flere ganger for potensielle brudd på ulike standarder. Meta fjernet til slutt begge innleggene for brudd på standarden om seksuell oppfordring, tilsynelatende fordi de viser bare bryster og inneholder en lenke til en innsamlingsside.

Brukerne anket til Meta, og deretter til rådet. Etter at rådet valgte å se på sakene, besluttet Meta at de hadde fjernet innleggene ved en feiltagelse, og de gjenopprettet dem.

Viktige funn

Tilsynsrådet konkluderer med at fjerning av disse innleggene ikke er i tråd med Metas standarder, verdier og menneskerettighetsansvar. Disse sakene påpeker også grunnleggende svakheter i Metas retningslinjer.

Metas interne veiledning til moderatorer om når innhold skal fjernes i henhold til retningslinjene om seksuell oppfordring er langt bredere enn den oppgitte begrunnelsen bak retningslinjene og den offentlig tilgjengelige veiledningen. Dette skaper forvirring både for brukere og moderatorer, og det fører til, som Meta har erkjent, at innhold feilaktig fjernes.

I minst ett av tilfellene ble innlegget sendt til menneskelig vurdering av et automatisert system som er opplært til å håndheve standarden om voksen nakenhet og seksuell aktivitet. Denne standarden forbyr bilder som viser kvinnelige brystvorter, med unntak for nærmere spesifiserte omstendigheter, for eksempel amming og kjønnsbekreftende operasjoner.

Disse retningslinjene er basert på et binært syn på kjønn, med et skarpt skille mellom mannlige og kvinnelige kropper. En slik tilnærming gjør det uklart hvordan reglene gjelder for interkjønnpersoner, ikke-binære og transpersoner, og moderatorene må foreta raske og subjektive vurderinger av biologisk kjønn og kjønnsidentitet, noe som ikke er praktisk ved moderering av innhold i stor skala.

Restriksjonene og unntakene fra reglene for kvinnelige brystvorter er omfattende og forvirrende, spesielt i saker som gjelder transpersoner og ikke-binære personer. Unntak fra retningslinjene spenner fra protestsammenheng til barnefødsel, og de omfatter også medisinsk og helsemessig kontekst, som brystkirurgi og bevissthet om brystkreft. Disse unntakene er ofte kronglete og dårlig definerte. I noen sammenhenger må for eksempel moderatorene vurdere omfanget og arten av synlige arrdannelser for å kunne avgjøre om et konkret unntak skal gjelde. Mangelen på klarhet i disse retningslinjene skaper usikkerhet for både brukere og moderatorer, slik at de i praksis blir ubrukelige.

Rådet har konsekvent sagt at Meta må være sensitive overfor hvordan retningslinjene påvirker personer som er utsatt for diskriminering (se for eksempel beslutningen i sakene «Wampum-belte» og «Ta tilbake arabiske ord»). Her mener rådet at Metas retningslinjer om voksen nakenhet resulterer i større hindre for ytringsfriheten til kvinner, transpersoner og ikke-binære personer på Meta-plattformene. De har for eksempel stor innvirkning i sammenhenger der kvinner tradisjonelt sett kan gå toppløse, og personer som identifiserer seg som LHBTQI+ kan bli uforholdsmessig berørt, som disse tilfellene viser. Metas automatiserte systemer identifiserte innholdet flere ganger, til tross for at det ikke bryter Metas retningslinjer.

Meta bør utvikle og implementere retningslinjer som løser alle disse utfordringene. De bør endre sin tilnærming til nakenhet på plattformene ved å definere klare kriterier i retningslinjene om voksen nakenhet og seksuell aktivitet, som sikrer at alle brukere blir behandlet på en måte som er i samsvar med menneskerettighetene. De bør også undersøke om retningslinjene om voksen nakenhet og seksuell aktivitet i tilstrekkelig grad beskytter mot bildedeling uten samtykke, og om andre retningslinjer kanskje må styrkes i denne forbindelse.

Tilsynsrådets avgjørelse

Tilsynsrådet omgjør Metas opprinnelige avgjørelse om å fjerne innleggene.

Rådet anbefaler også at Meta gjør følgende:

• Definerer tydelige, objektive kriterier med respekt for personlige rettigheter som grunnlag for standarden om voksen nakenhet og seksuell aktivitet, slik at alle blir behandlet på en måte som er i samsvar med internasjonale menneskerettighetsstandarder, uten å bli diskriminert på grunnlag av biologisk kjønn eller kjønnsidentitet. Meta bør først gjennomføre en omfattende menneskerettighetsvurdering rundt en slik endring, der de samarbeider med ulike interessenter og lager en plan for å håndtere potensielle skadevirkninger som blir identifisert.
• Oppgir mer informasjon om kriteriene som fører til at innhold fjernes i den offentlige standarden om seksuell oppfordring.
• Reviderer veiledningen for moderatorer rundt standarden om seksuell oppfordring, slik at den mer nøyaktig gjenspeiler de offentlige reglene i retningslinjene. Dette vil bidra til å redusere håndhevingsfeil fra Metas side.

*Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet omgjør Metas opprinnelige vedtak om å fjerne to innlegg fra Instagram. Meta har erkjent at de opprinnelige avgjørelsene i begge tilfeller var feil. Disse sakene skaper en bekymring rundt hvordan Metas retningslinjer i uforholdsmessig grad påvirker retten til frie uttrykk for både kvinner og LHBTQI+-brukere av Meta-plattformene. Rådet anbefaler at Meta definerer tydelige, objektive kriterier med respekt for personlige rettigheter som grunnlag for standarden om voksen nakenhet og seksuell aktivitet. Meta må sikre likebehandling av alle mennesker, i samsvar med internasjonale menneskerettighetsstandarder, og bidra til å motvirke diskriminering på grunnlag av biologisk kjønn eller kjønnsidentitet. Meta bør først gjennomføre en omfattende menneskerettighetsvurdering for å vurdere de potensielle implikasjonene av å vedta slike kriterier. Her bør de inkludere et bredt utvalg av interessenter, på tvers av ulike ideologiske, geografiske og kulturelle grenser. Hvis denne vurderingen avdekker potensielle skadevirkninger, bør implementeringen av de nye retningslinjene inkludere en plan for hvordan disse skal håndteres og avbøtes.

Rådet anbefaler videre at Meta tydeliggjør retningslinjene sine om seksuell oppfordring for offentligheten. Meta bør innskrenke de interne veiledningene sine for å kunne håndtere reelle brudd på en bedre måte.

2. Saksbeskrivelse og bakgrunn

Disse sakene gjelder to innholdsbeslutninger som ble fattet av Meta. Tilsynsrådet har behandlet sakene samlet i dette vedtaket. To ulike bilder med bildetekst ble publisert på Instagram av samme konto, som administreres av et par som holder til i USA. Begge bildene viser paret, som uttaler i innleggene og i kommentarene sine til rådet at de identifiserer seg som transpersoner og ikke-binære.

Meta fjernet begge innleggene i henhold til standarden om seksuell oppfordring. I begge tilfellene identifiserte Metas automatiserte systemer innholdet som et potensielt regelbrudd.

På det første bildet, som ble lagt ut i 2021, er begge personene toppløse, der hudfarget tape dekker brystvortene. På det andre bildet, som ble publisert i 2022, er den ene av personene påkledd, mens den andre har bar overkropp og dekker til brystvortene sine med hendene. Bildeteksten som følger med disse bildene nevner at personen som har bar overkropp på begge bildene snart skal gjennomgå en kjønnsbekreftende operasjon som gir flatere bryst. De beskriver en plan om å dokumentere operasjonsprosessen og diskutere transpersoners utfordringer i helsevesenet. De kunngjør at de holder en pengeinnsamling for å betale for operasjonen, fordi de har hatt problemer med å få forsikringsdekning for inngrepet.

I det første tilfellet ble bildet først automatisk klassifisert som lav sjanse for regelbrudd. Rapporten ble lukket uten å bli gjennomgått, og innholdet ble opprinnelig liggende ute på plattformen. Senere ble innholdet rapportert av tre brukere for pornografi og selvskading. Disse rapportene ble gjennomgått av menneskelige moderatorer, som fastslo at innlegget ikke utgjorde et regelbrudd. Da innholdet ble rapportert av en bruker for fjerde gang, mente en ny menneskelig moderator at innlegget brøt med standarden om seksuell oppfordring og fjernet det.

I det andre tilfellet ble innlegget to ganger identifisert av Metas automatiserte systemer og deretter sendt til menneskelig vurdering, der det begge gangene ble konkludert med at de ikke var snakk om et regelbrudd. Senere ble innholdet rapportert av to brukere, men begge rapportene ble lukket automatisk uten gjennomgang, og innholdet ble liggende på Instagram. Til slutt ble innholdet flagget av Metas automatiserte systemer en tredje gang, og det ble sendt til gjennomgang av mennesker. De to siste gangene identifiserte Metas automatiske system innholdet som voksen nakenhet og seksuell aktivitet, men det er uvisst hvorfor det ble utført gjentatte vurderinger. Den siste menneskelige moderatoren besluttet at innlegget brøt med standarden om seksuell oppfordring og fjernet det.

Kontoeierne anket begge fjerningsbeslutningene til Meta, og innholdet ble i begge tilfeller gjennomgått av menneskelige moderatorer. Disse vurderingene førte imidlertid ikke til at Meta gjenopprettet innleggene. Kontoeierne anket deretter begge fjerningsbeslutningene til rådet. Rådet behandler for første gang to saker samlet. Fordelen med dette er at man kan identifisere lignende problemer i Metas innholdsretningslinjer og -prosesser og foreslå løsninger på dem.

Etter at rådet valgte ut disse innleggene og Meta ble bedt om å oppgi en begrunnelse for sin beslutning om å fjerne innholdet, identifiserte Meta fjerningene som «håndhevingsfeil» og gjenopprettet innleggene.

I vurderingen av hvorfor disse sakene handler om viktige spørsmål, bemerker rådet som relevant kontekst den store mengden offentlige kommentarer som ble mottatt i disse sakene. Mange av disse kom fra personer som identifiserte seg som transpersoner, ikke-binære eller cis-kvinner som forklarte at de personlig hadde blitt berørt av håndhevingsfeil og problemer som ligner dem man ser i disse sakene.

Rådet har også merket seg som relevant kontekst, også gjengitt i offentlige kommentarer, den akademiske forskningen til Haimson et al., Witt, Suzor og Huggins, og to rapporter av Salty om algoritmiske fordommer og sensur av marginaliserte samfunn. Disse studiene fant at håndhevingsfeil i de to standardene som ble diskutert i disse sakene påvirker kvinner og LHBTQI+-samfunnet i uforholdsmessig grad. En medforfatter av en av disse studiene er medlem av tilsynsrådet.

3. Tilsynsrådets myndighet og virkeområde

Rådet er bemyndiget til å vurdere Metas avgjørelse etter en klage fra brukeren som har fått innhold fjernet (vedtektenes artikkel 2, del 1; artikkel 3, del 1 i vedtektene).

Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte rådgivende uttalelser om retningslinjer og anbefalinger som Meta må svare på (forskriftenes artikkel 3, del 4; artikkel 4).

Når rådet velger saker som denne, der Meta erkjenner at de har gjort en feil etter at rådet har identifisert saken, går rådet gjennom det opprinnelige vedtaket. Dette er for å øke forståelsen av retningslinjeparametere og innholdsmodereringsprosesser som har bidratt til feilen, samt for å løse problemer rådet finner med de underliggende retningslinjene. Rådet har også som mål å komme med anbefalinger for å redusere sannsynligheten for framtidige feil og behandle brukere mer rettferdig.

Når rådet identifiserer saker med lignende problemstillinger, kan de sammen bli tildelt til et panel for samlet drøfting. Det vil bli fattet en bindende beslutning for hvert innlegg.

4. Ekspertkilder

Tilsynsrådet baserte seg på følgende autoriteter og standarder:

I. Tilsynsrådets beslutninger:

• Avgjørelse i saken «Ta tilbake arabiske ord» (2022-003-IG-UA). Rådet analyserte utfordringene med å anvende unntak fra retningslinjene og de uforholdsmessige virkningene enkelte valg i retningslinjene kan ha.
• Avgjørelse i saken «Wampum-belte» (2021-012-FB-UA): Rådet analyserte utfordringene med å anvende unntak fra retningslinjene og de uforholdsmessige virkningene enkelte valg i retningslinjene kan ha.
• «Brystkreftsymptomer og nakenhet» (2020-004-IG-UA). Rådet analyserte Instagrams retningslinjer for fellesskapet og anbefalte at Meta klargjør at det finnes et unntak for bevissthet rundt brystkreft.

II. Metas retningslinjer for innhold:

Disse sakene omfatter Instagrams retningslinjer for fellesskapet og Facebooks standarder. Metas åpenhetssenter sier at «Facebook og Instagram deler retningslinjer for innhold. Dette betyr at hvis innhold anses som krenkende på Facebook, anses det også som krenkende på Instagram.»

Seksuell oppfordring

Instagrams retningslinjer for fellesskapet sier at det er forbudt «å tilby seksuelle tjenester». Denne bestemmelsen lenkes videre til Facebooks standard om seksuell oppfordring.

I begrunnelsen bak retningslinjene om seksuell oppfordring sier Meta: «Vi trekker derimot grensen der innhold tilrettelegger for, oppmuntrer til eller koordinerer seksuelle møter eller kommersielle seksuelle tjenester mellom voksne. Vi gjør dette for å unngå å legge til rette for transaksjoner som kan involvere menneskehandel, tvang eller ufrivillige seksuelle handlinger. Vi tillater heller ikke seksualisert språk som kan føre til seksuell oppfordring, fordi enkelte personer i det globale fellesskapet vårt kan være følsomme overfor denne typen innhold, og det kan hindre folk i å komme i kontakt med venner og nettsamfunnet som helhet.»

Facebooks standard om seksuell oppfordring sier at Meta forbyr både eksplisitte og implisitte oppfordringer. Implisitte oppfordringer har to kriterier, og begge må oppfylles for at innhold skal bryte med retningslinjene. Det første er å «tilby eller be om», dvs. «innhold som implisitt eller indirekte (vanligvis ved å oppgi en måte å komme i kontakt med noen på) tilbyr eller ber om seksuelle tjenester.» Det andre kriteriet er «antydninger», dvs. «innhold som kommer med ovennevnte tilbud eller forespørsler ved å bruke noen av følgende elementer med seksuelt innhold». Elementene som er oppført omfatter «regional seksualisert slang» og «posering».

Voksen nakenhet og seksuell aktivitet

Instagrams retningslinjer for fellesskapet sier at brukere skal: «legge ut bilder og videoer som er egnet for et mangfoldig publikum. Vi vet at folk innimellom kan ønske å dele nakenbilder som er kunstneriske eller kreative av natur, men av en rekke årsaker tillater vi ikke nakenhet på Instagram. Dette omfatter bilder, videoer og noen former for digitalt opprettet innhold som viser seksuell aktivitet, kjønnsorganer og nærbilder av nakne rumper. Det omfatter også enkelte bilder av kvinnelige brystvorter, men med unntak for bilder av amming, fødsel og øyeblikkene etter fødselen, helserelaterte situasjoner (for eksempel etter brystfjerning, oppmerksomhet rundt brystkreft eller kjønnsbekreftende operasjoner) og i protestsammenheng. Her lenkes det til Facebooks retningslinjer om voksen nakenhet og seksuell aktivitet, som gir mer informasjon om disse reglene.

Som en del av begrunnelsen bak retningslinjene i standarden om voksen nakenhet og seksuell aktivitet, forklarer Meta følgende: «Vi begrenser visning av nakenhet eller seksuell aktivitet fordi enkelte personer i samfunnet kan være spesielt følsomme overfor denne typen innhold. I tillegg fjerner vi vanligvis seksuelle bilder for å forhindre deling av innhold med mindreårige og innhold som deles uten samtykke.»

Facebooks retningslinjer om voksen nakenhet og seksuell aktivitet sier også: «Ikke publiser følgende: Utildekte kvinnelige brystvorter, unntatt ved amming og fødsel (inkludert øyeblikkene etter fødselen), medisinske og helserelaterte situasjoner (for eksempel etter brystfjerning, for å skape oppmerksomhet rundt brystkreft eller ved kjønnsbekreftende operasjoner) eller i protestsammenheng Brukerne kan også legge ut bilder av kjønnsorganer når de deles i en «medisinsk eller helsemessig kontekst» (noe som inkluderer kjønnsbekreftende operasjoner), men de vil merkes med en advarsel, slik at folk skal vite at innholdet er sensitivt. Det er også minst 18 andre interne veiledningsfaktorer som nevner brystvorter og disse unntakene.

III. Metas verdier:

Metas verdier er angitt i innledningen til Facebooks standarder, der verdien «stemme» er beskrevet som «overordnet».

Målet for standardene har alltid vært å skape et sted hvor man kan uttrykke seg og å gi folk en stemme. […] Vi vil at folk skal kunne snakke åpent om saker som er viktige for dem, selv om noen kan være uenige eller finner dem støtende.

Meta begrenser «stemme» for å oppfylle fire verdier, og to av disse er relevante her:

«Sikkerhet»: Vi jobber med å gjøre Facebook til et sikkert sted. Truende ytringer kan potensielt skremme, ekskludere eller stilne andre og er ikke tillatt på Facebook.

«Verdighet»: Vi mener at alle mennesker er likeverdige og har like rettigheter. Vi forventer at folk respekterer andres verdighet og ikke trakasserer eller nedverdiger dem.

IV. Internasjonale standarder for menneskerettigheter:

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i disse sakene baserte seg på følgende menneskerettighetsstandarder:

• Retten til menings- og ytringsfrihet: Artikkel 19 i International Covenant on Civil and Political Rights (ICCPR), generell kommentar 34, menneskerettighetskomiteen, 2011; Kommunikasjon 488/1992; Resolusjon 32/2, menneskerettighetsrådet, 2016; FNs spesialrapportør for menings- og ytringsfrihet, rapporter: A/HRC/38/35 (2018) og A/74/486 (2019).
• Kvinners rettigheter: Artikkel 2 og 5, konvensjon om å avskaffe alle former for diskriminering av kvinner (CEDAW).
• Retten til ikke-diskriminering: Artikkel 2, § 1 og artikkel 26 (ICCPR). Nepomnyashchiy mot Russland, menneskerettighetskomiteen, 2018 (CCPR/C/123/D/2318/2013).

5. Brukeruttalelser

I kommentarer rundt disse sakene, oppgir brukerne at de mener at dette innholdet ble fjernet på grunn av transfobi. De skriver at dersom rådet konkluderer med at det er riktig å la dette innholdet ligge ut på plattformen, vil avgjørelsen bidra til å gjøre Instagram til et mer gjestfritt sted for LHBTQI+-ytringer.

6. Metas uttalelser

Meta forklarte i begrunnelsen bak beslutningene sine at begge tilfellene av fjerning var håndhevingsfeil, og at ingen av innleggene bryter med retningslinjene om seksuell oppfordring. Meta uttaler at «eneste tilbud eller forespørsel handler om donasjoner til en pengeinnsamling, eller at man besøker et nettsted for å kjøpe t-skjorter, og ingenting av dette er relatert til seksuelle tjenester.»

Meta sier også at ingen av innleggene er et brudd på standarden om voksen nakenhet og seksuell aktivitet. Begrunnelsen sier at «den interne veiledningen for moderatorer spesifikt tar for seg hvordan man skal handle ved ikke-binær, kjønnsnøytral eller transkjønnet nakenhet.» Innholdet i disse sakene ble delt i en «eksplisitt ikke-binær eller transseksuell kontekst, som bevist av innholdets overordnede tema (gjennomgå brystkirurgi) og emneknaggene som ble brukt.» Meta konkluderte med at «selv om brystvortene i disse sakene var synlige, ville det ikke brutt med retningslinjene våre om voksen nakenhet og seksuell aktivitet.» Meta erkjente også at brystvortene på begge bildene er «helt skjult».

Gitt den lange tiden som har gått siden innholdet ble fjernet, kunne ikke Meta fortelle rådet hvilke retningslinjer alle de forskjellige automatiserte systemene som identifiserte innholdet som et potensielt regelbrudd var programmert til å håndheve. I ett tilfelle forklarte Meta at innholdet to ganger ble satt i kø for gjennomgang av klassifiseringsprogrammer for voksen nakenhet og seksuell aktivitet. Meta kunne heller ikke gi noen forklaring på hvorfor moderatorene mente at innholdet bryter med retningslinjene om seksuell oppfordring. I bakgrunnsmaterialet til retningslinjene erkjenner Meta at de er «kjent med at enkelte innholdsmoderatorer feilaktig kan fjerne innhold på grunnlag av implisitte seksuelle oppfordringer (selv om det ikke er det) basert på en altfor teknisk anvendelse av den interne veiledningen for moderatorer.»

Rådet stilte Meta 18 spørsmål, og Meta svarte på alle.

7. Offentlige kommentarer

Tilsynsrådet overveide 130 offentlige kommentarer relatert til disse sakene. 97 av kommentarene kom fra USA og Canada, 19 fra Europa, 10 fra Asia og Stillehavsregionen med Oseania, én fra Latin-Amerika og Karibia, én fra Midtøsten og Nord-Afrika, én fra Afrika sør for Sahara, og én fra Sentral- og Sør-Asia.

Kommentarene dekket følgende temaer: feilaktig fjerning av innhold fra brukere som er transpersoner, ikke-binære og kvinner; urettferdighet og ulikhet i kjønnsbaserte distinksjoner for å avgjøre hvilke former for nakenhet som er tillatt på plattformen; forvirring rundt hvilket innhold som er tillatt i henhold til standarden om voksen nakenhet og seksuell aktivitet og standarden om seksuell oppfordring; og viktigheten av å bruke sosiale medier til ytringer i samfunn der LHBTQI+-rettigheter trues.

Du kan lese de offentlige kommentarene rundt disse sakene her. Flere av de innsendte kommentarer er ikke lagt ut, ettersom de inneholder personlig identifiserende informasjon om andre personer enn den som har kommentert.

8. Tilsynsrådets analyse

Rådet gransket spørsmålet om hvorvidt disse innleggene burde gjenopprettes fra tre perspektiver: Metas retningslinjer for innhold, selskapets verdier og selskapets menneskerettighetsansvar.

Rådet valgte ut disse sakene fordi fjerning av innhold som blir lagt ut av personer som identifiserer seg med marginaliserte grupper påvirker ytringsfriheten deres. Dette er spesielt viktig, ettersom Instagram kan være et viktig forum for disse gruppene å bygge et fellesskap i. Disse sakene viser hvordan håndhevingsfeil kan ha en uforholdsmessig stor innvirkning på enkelte grupper. De kan også være indikasjoner på bredere problemer i retningslinjene og håndhevingen som bør rettes.

8.1 Overholdelse av Metas retningslinjer for innhold

Rådet konkluderer med at disse innleggene ikke bryter med noen av Metas retningslinjer for innhold. Selv om fellesskapets retningslinjer gjelder for Instagram, sier Meta også at «Facebook og Instagram deler retningslinjer for innhold. Innhold som anses som krenkende på Facebook, anses også som krenkende på Instagram.» Facebooks standarder inneholder mer informasjon og er lenket til i Instagram-retningslinjene.

a. Seksuell oppfordring

Standarden om seksuell oppfordring sier at implisitte seksuelle oppfordringer krever at to elementer er til stede:

• Innhold med implisitte tilbud eller forespørsler, OG
• seksuelle antydninger.

Implisitte tilbud eller forespørsler.

Implisitte tilbud eller forespørsler er definert i standarden om seksuell oppfordring som «innhold som implisitt eller indirekte (vanligvis ved å oppgi en måte å komme i kontakt på) tilbyr eller ber om seksuelle tjenester.» I Metas «Kjente spørsmål», som inneholder mer intern veiledning til moderatorene, inkluderer listen over kontaktinformasjon som utløser fjerning som et implisitt tilbud profillenker til sosiale medier og «lenker til abonnementsbaserte nettsteder (som for eksempel OnlyFans.com eller Patreon.com).» I disse sakene delte innleggene en lenke til en plattform der brukerne holdt en innsamlingsaksjon for å klare å betale for operasjonen. Siden Metas interne kriterier som definerer «implisitte tilbud eller forespørsler» er veldig brede, vil denne lenken teknisk sett kvalifisere som et tilbud eller en forespørsel i henhold til Metas moderatorveiledning, til tross for at de ikke bryter med den offentlige standarden, som indikerer at tilbudet eller forespørselen må handle om noe seksuelt.

Seksuelle antydninger.

Standarden oppgir en liste over seksuelle antydninger, og denne inkluderer posering. De kjente spørsmålene oppgir en liste, beskrevet av Meta som uttømmende, over det som karakteriseres som seksuell posering. Denne inkluderer nakne «kvinnebryster, dekket enten digitalt, av menneskelige kroppsdeler eller gjenstander.» På begge bildene merker rådet seg at brystene er dekket av menneskelige kroppsdeler (hender) eller gjenstander (teip). I disse sakene gjør innholdet i innleggene det klart at personene på bildet identifiserer seg som trans og ikke-binære. Dette betyr at brystene som er avbildet tilhører individer som ikke identifiserer seg som kvinner. Rådet konkluderer også med at innholdet ikke er seksuelt. På dette grunnlaget er det andre elementet som kreves for at noe skal bryte med retningslinjene om seksuell oppfordring – en seksuell antydning, som seksuell posering (inkludert et tildekket kvinnebryst) – ikke oppfylt.

Fordi det andre elementet ikke var oppfylt, brøt ikke innleggene med denne standarden. Heller ikke hvis man bruker den offentlige versjonen av det første elementet (som indikerer at tilbudet/forespørselen må gjelde noe seksuelt) vil disse bildene utgjøre noen form for seksuell oppfordring.

b. Voksen nakenhet og seksuell aktivitet

Standarden om voksen nakenhet og seksuell aktivitet sier at brukere ikke skal legge ut bilder av «utildekte kvinnelige brystvorter, unntatt ved amming og fødsel (inkludert øyeblikkene etter fødselen), medisinske og helserelaterte situasjoner (for eksempel etter brystfjerning, for å skape oppmerksomhet rundt brystkreft eller ved kjønnsbekreftende operasjoner) eller i protestsammenheng.» Metas kjente spørsmål sier videre at moderatorer skal tillate «bilder av brystvorter når de deles i eksplisitt transkjønn (kvinne-til-mann), ikke-binær eller kjønnsnøytral sammenheng (en bruker som oppgir å ha en slik kjønnsidentitet), uavhengig av brystets størrelse eller form.» Ingen av bildene i disse sakene bryter med denne standarden.

For det første viser ingen av bildene nakne brystvorter. På begge bildene har personene dekket til brystvortene, enten med hendene eller med teip. For det andre, selv om brystvortene hadde vært nakne, bemerker rådet at bildene ble delt med en tilhørende tekst som gjorde det klart at personene identifiserer seg som ikke-binære. Retningslinjene ble derfor ikke brutt.

8.2 Samsvar med Metas verdier

Rådet konkluderer med at de opprinnelige beslutningene om å fjerne disse innleggene var i strid med Metas verdier «stemme» og «verdighet», og at de heller ikke tjente verdien «sikkerhet».

Håndhevingsfeil som uforholdsmessig påvirker grupper som står overfor diskriminering, utgjør en alvorlig trussel mot «stemme» og «verdighet». Selv om Metas argumenter rundt menneskerettigheter også handler om «sikkerhet» – spesielt relatert til bildedeling uten samtykke, sexhandel og overgrep mot barn – mener rådet at disse fjerningene ikke tjente verdien «sikkerhet».

8.3 Samsvar med Metas menneskerettighetsansvar

Ytringsfrihet (artikkel 19 i ICCPR)

Artikkel 19 i ICCPR gir bred beskyttelse av ytringer, inkludert diskusjoner om menneskerettigheter og ytringer som folk kan finne støtende (generell kommentar 34, § 11). Retten til ytringsfrihet er garantert for alle mennesker, uansett «kjønn» eller «annen status» (ICCPR, artikkel 2, § 1). Menneskerettighetskomiteen har bekreftet i saker som Nepomnyashchiy mot Russland (CCPR/C/123/D/2318/2013) at forbudet mot diskriminering inkluderer diskriminering på grunnlag av kjønnsidentitet.

Innholdet handler om viktige samfunnsspørsmål. For disse brukerne representerer Instagram et forum der de kan diskutere og vise kjønnsuttrykk, og der har de mulighet til å knytte nye forbindelser og finne støtte. Innholdet kan også direkte påvirke brukernes mulighet til å utføre kjønnsbekreftende operasjoner, siden begge innleggene forklarer at en av dem ønsker å få utført en brystoperasjon og at de derfor arrangerer en innsamlingsaksjon for å dekke operasjonskostnadene.

Artikkel 19 krever at der restriksjoner av ytringer pålegges av en stat, må de oppfylle kravene til lovlighet, legitimt formål, nødvendighet og proporsjonalitet (ICCPR, artikkel 19, § 3). På bakgrunn av UNGPs rammeverk har FNs spesialrapportør for menings- og ytringsfrihet oppfordret sosiale medier til å sikre at innholdsreglene deres er underlagt kravene i artikkel 19, § 3, ICCPR ( A/HRC/38/35, § 45 og 70). Rådet har vedtatt dette rammeverket for å analysere Metas retningslinjer og håndheving.

I dette tilfellet mener rådet at Meta ikke har oppfylt sitt ansvar for å utforme og håndheve retningslinjer som er i tråd med disse standardene. De interne kriteriene som brukes for å fjerne innhold i henhold til retningslinjene om seksuell oppfordring, er mer omfattende enn den angitte begrunnelsen bak retningslinjene. Konsekvensen er overhåndheving, noe Meta selv har erkjent. Standarden om voksen nakenhet og seksuell aktivitet påvirker kvinner og LHBTQI+-brukere i uforholdsmessig grad. Den støtter seg på subjektive og spekulative oppfatninger av biologisk kjønn og kjønnsidentitet, noe som er uheldig og upraktisk når man skal utføre innholdsmoderering i stor skala. Rådet analyserer disse manglene og anbefaler at Meta starter en omfattende prosess for å løse problemene.

I. Lovlighet (tydelige og tilgjengelige regler)

Regler som begrenser ytringer må være klare og tilgjengelige, slik at både brukerne og de som skal håndheve reglene vet hva som er tillatt. Ingen av de to standardene som vurderes i disse tilfellene oppfyller dette kravet.

a. Seksuell oppfordring

Rådet konkluderer med at standarden om seksuell oppfordring inneholder for brede kriterier i de interne retningslinjene til moderatorer. Denne dårlig tilpassede veiledningen bidrar til overhåndheving fra moderatorenes side og skaper forvirring for brukerne. Meta erkjente dette og forklarte rådet at den interne veiledningen kan «føre til overhåndheving» i tilfeller der kriteriene for implisitt seksuell oppfordring er oppfylt uten at det er noen «intensjon om å tilby seksuelle tjenester».

Forvirringen gjenspeiles i begge elementene i disse retningslinjene. Når det gjelder «tilbud eller forespørsel»-komponenten i standarden om seksuell oppfordring, refererer de offentlige reglene til en «kontaktmetode» for den som tilbyr. Imidlertid sier veiledningen for moderatorer, de kjente spørsmålene, at en «kontaktmetode» for implisitte «tilbud eller forespørsler» inkluderer profillenker til sosiale medier eller lenker til eksterne abonnementsbaserte nettsteder, som Patreon. Det er ikke gjort klart for brukerne at lenker til en annen sosial medieprofil, eksterne betalingsplattformer eller pengeinnsamlinger (som Patreon eller GoFundMe) kan føre til at innlegget blir behandlet som et potensielt sextilbud. Denne forvirringen gjenspeiles i de mange offentlige kommentarene rådet mottok fra folk som ikke forstår hvorfor innhold med slike eksterne lenker ble fjernet eller førte til at kontoene deres ble stengt.

Det andre kriteriet, som krever et seksuelt antydende element, er bredt og vagt, og det er heller ikke i samsvar med Metas retningslinjer om voksen nakenhet og seksuell aktivitet. Den offentlige standarden inkluderer «seksuell posering» som en seksuell antydning. De kjente spørsmålene gir deretter en detaljert liste over «seksuell posering», som inkluderer både å være toppløs og å dekke brystene med hendene eller med gjenstander. Brukerne vil sannsynligvis ikke klare å forutsi om et bilde med tildekkede bryster vil anses som en seksuell posering. Denne forvirringen forsterkes av at retningslinjene om voksen nakenhet tillater toppløsbilder der brystvortene er dekket. Innhold som anses som seksuelt i henhold til én retningslinje, blir ikke nødvendigvis ansett som seksuelt i henhold til andre retningslinjer.

Dette skaper usikkerhet for brukerne. Det at ulike moderatorer gjentatte ganger kom til forskjellig konklusjon om dette innholdet, tyder på at også de mangler klarhet rundt hva slags innhold som skal anses som seksuell oppfordring.

Som Meta erkjenner, fører deres interne veiledning rundt de to elementene som utgjør implisitt oppfordring til at innhold som ikke handler om seksuelle tjenester blir fjernet. På lengre sikt vil problemet med feilaktig fjerning sannsynligvis løses best ved å endre omfanget av disse retningslinjene. På kort sikt anbefaler imidlertid rådet at Meta reviderer sine interne retningslinjer for å sikre at kriteriene gjenspeiler de offentlige reglene og krever en mer åpenbar sammenheng mellom «tilbud eller forespørsel» og «seksuell antydning». Meta bør også gi brukerne en bedre forklaring på hva som utgjør «tilbud eller forespørsler» om sex og hva som utgjør seksuell posering i de offentlige standardene.

b. Voksen nakenhet og seksuell aktivitet

Standarden om voksen nakenhet og seksuell aktivitet er basert på kjønnsforskjeller som er vanskelige å forstå og håndheve i praksis, og unntakene er dårlig definert. Enkelte regler i retningslinjene vil oppleves som forvirrende for brukerne, som ikke vet hva som er tillatt. Dette skaper også forvirring for moderatorene, som på kort tid må vurdere en rekke faktorer, unntak og forutsetninger ut fra subjektive vurderinger – basert på informasjon som uunngåelig vil være ufullstendig – før de tar en beslutning.

Til tross for at de fokuserer på spesifikke kroppsdeler i stedet for kjønn (og der brukere kan velge fra et bredt spekter av kjønnsidentiteter på profilen sin), mangler de fleste Meta-regler en forklaring av hvordan selskapet håndterer innhold som viser intersexpersoner, transpersoner eller ikke-binære personer. Retningslinjene refererer for eksempel til «mannlige og kvinnelige kjønnsorganer», «kvinnebryster» og «kvinners brystvorter», men det er uklart hvordan disse beskrivelsene skal forstås for personer med kropper og identiteter som ikke stemmer overens med disse definisjonene. Mange transpersoner og ikke-binære personer sendte inn offentlige kommentarer til rådet der de forklarte at brukerne ikke vet om innholdet deres har blitt vurdert og kategorisert i henhold til kjønnsidentiteten deres, kjønnet de ble tildelt ved fødselen eller aspekter ved det fysiske utseendet deres.

De gjeldende reglene krever at menneskelige moderatorer raskt vurderer både brukernes kjønn, ettersom disse retningslinjene gjelder for «kvinners brystvorter», og kjønnsidentiteten deres, ettersom det finnes unntak basert på om den avbildede personen er ikke-binær, kjønnsnøytral eller transkjønnet, samt om innlegget er skrevet i sammenheng med en kjønnsbekreftende operasjon. Oppfatninger av biologisk kjønn og kjønnsidentitet krever en tolkning av kontekstuelle ledetråder og utseende. Siden begge deler er subjektive avgjørelser, vil det bli gjort feil.

Denne tilnærmingen kompliseres ytterligere av Metas «kvinne-som-standard»-prinsipp, der de mer restriktive retningslinjene som gjelder for kvinnelig (i motsetning til mannlig) nakenhet brukes ved tvilstilfeller. De kjente spørsmålene sier at der det ikke er noen klar kontekst og personen på bildet «framstår som kvinnelig ELLER der konteksten er transkjønnet mann-til-kvinne, skal de relevante retningslinjene for kvinnelig nakenhet gjelde.»

Antallet restriksjoner og unntak fra reglene om brystvorter som oppfattes som kvinnelige, er både omfattende og forvirrende. Unntakene spenner fra protesthandlinger til fødsel og amming, og de omfatter også medisinske og helsemessige sammenhenger, inkludert bilder etter mastektomi og bevissthet om brystkreft. Unntakene er ofte enten dårlig definert eller ikke definert i det hele tatt. Listen over unntak har også vokst betydelig over tid, og den kan forventes å vokse videre i takt med at uttrykk utvikler seg. Når det gjelder kvinnebryster, antar Metas retningslinjer om voksen nakenhet og seksuell aktivitet automatisk at denne typen bilder er av seksuell art. Den voksende listen over unntak viser imidlertid at under mange omstendigheter som er anerkjent i retningslinjene, er ikke bilder av kvinnebryster nødvendigvis av seksuell karakter.

Selv innenfor hvert unntak dukker det opp mange spørsmål. Unntaket for kjønnsbekreftende kirurgi er for eksempel av særlig betydning for transpersoner og ikke-binære brukere, men Meta forklarer ikke omfanget av unntaket for kjønnsbekreftende operasjoner i de offentlige reglene sine. Dette har resultert i at mange av de offentlige kommentarene uttrykker forvirring rundt hvorvidt det er tillatt, i henhold til unntakene, å legge ut bilder før operasjonen (for å lage et før-og-etter-bilde) og bilder av transkvinner som har fått brystforstørrelse. De interne retningslinjene og de kjente spørsmålene gjør det klart at dette unntaket er snevrere enn det den offentlige veiledningen kan tolkes til.

Metas retningslinjer er basert på binære distinksjoner mellom mann og kvinne, noe som skaper utfordringer når Meta skal utforme unntak for kjønnsbekreftende operasjoner. I Metas svar til rådet forklarte de at unntaket for kjønnsbekreftende operasjoner betyr at de tillater «utildekkede kvinnelige brystvorter før personen har en brystoperasjon for å fjerne brystene sine når innholdet deles i en eksplisitt kvinne-til-mann-transkjønnet, ikke- binær eller kjønnsnøytral kontekst.» Reglene sier videre at det er forbudt å vise «brystvortene til mann-til-kvinne-transkvinner som har gjennomgått en brystforstørrelse (brystkirurgi), med mindre man kan se arrdannelse over brystvorten.»

De interne retningslinjene om kirurgisk arrdannelse og brystvorter er enda mer uklare. Reglene for mastektomi tillater for eksempel «tilfeller der brystvorten er rekonstruert fra annet vev eller tatovert på» og «tilfeller der minst ett bryst er kirurgisk fjernet, selv om den andre nakne kvinnelige brystvorten er synlig.» Enda mer forvirrende er det at reglene sier at: «For mastektomi inkluderer arrdannelse avbildning av området der det fjernede brystvevet pleide å være. Selve operasjonsarret trenger ikke å være synlig.»

Moderatorene vil trolig slite med reglene som krever at de raskt må vurdere kjønnsspesifikke egenskaper ved den avbildede personen for å avgjøre om de skal bruke regelen om kvinnelige brystvorter. De må avgjøre kjønnet til personen for å se om noen unntak gjelder. Deretter må de vurdere om innholdet viser bilder før eller etter et kirurgisk inngrep, eventuelt hvilket kirurgisk inngrep, og omfanget og arten av synlig arrdannelse for å avgjøre om andre unntak kan gjelde. Et bilde av kvinnelige brystvorter vil være forbudt hvis det er lagt ut av en ciskjønnet kvinne, men det samme bildet ville vært tillatt hvis det ble lagt ut av en person som selv identifiserer seg som ikke-binær. Rådet merker seg også ytterligere unntak relatert til brystvorter basert på kontekst som protester, fødsel og amming, som de ikke undersøkte i dette tilfellet, men som også må vurderes og som antagelig omfatter enda flere interne kriterier.

Retten til frie ytringer har stor betydning når det gjelder spørsmål om kjønn, fysisk helse, fødsel og foreldreskap, og det nåværende komplekse lappeteppet av unntak skaper unødig usikkerhet for brukerne og kan potensielt medføre feiltolkninger, som vi ser i denne saken. Mangelen på klarhet i disse retningslinjene, både for brukerne og moderatorene, gjør standarden ubrukelig. Som nærmere omtalt nedenfor, mener rådet at Meta bør ha en tilnærming til voksen nakenhet som sikrer at alle mennesker unngår diskriminering på grunnlag av biologisk kjønn eller kjønnsidentitet.

II. Legitime mål

ICCPR-artikkel 19 slår fast at når stater begrenser ytringsfriheten, kan de bare gjøre det for å fremme legitime mål. Disse er angitt som: «respekt for andres rettigheter eller omdømme . . . [og] beskyttelse av nasjonal sikkerhet eller offentlig orden (ordre public), eller av folkehelse og -moral.» Denne beslutningen gransker Metas begrunnelse for å begrense ytringer i retningslinjene sine i lys av disse standardene.

a. Seksuell oppfordring

Meta forklarer i retningslinjene sine om seksuell oppfordring at meningen er «å forhindre at Facebook og Instagram brukes for å tilrettelegge for transaksjoner som kan involvere menneskehandel, tvang og seksuelle handlinger uten samtykke» som kan skje utenfor plattformene. Dette er et eksempel på å beskytte andres rettigheter, som er et legitimt mål.

b. Voksen nakenhet og seksuell aktivitet

Meta oppga flere begrunnelser for bestemte aspekter ved retningslinjene om nakenhet og seksuell aktivitet, inkludert å forhindre spredning av innhold uten samtykke, beskyttelse av mindreårige (der alderen på personen er uklar) og det at «noen personer i samfunnet vårt kan være sensitive overfor denne typen innhold.» Meta forklarte også sine generelle prinsipper om nakenhet til rådet. Disse sier følgende: «Meta tok ved utformingen av retningslinjene hensyn til (1) bildenes private eller sensitive natur; (2) om det ble gitt samtykke til å ta og dele nakenbilder; (3) risikoen for seksuell utnyttelse; og (4) om delingen av bildene kan føre til trakassering utenfor plattformen, spesielt i land der slike bilder kan være kulturelt støtende.»

De fleste av disse målene er i samsvar med målet om å beskytte andres rettigheter. Metas begrunnelse for å beskytte «sensitivitet i samfunnet» trenger imidlertid ytterligere undersøkelse. Denne begrunnelsen har potensial til å samsvare med det legitime målet om «offentlig moral». Når det er sagt, bemerker rådet at målet om å beskytte «offentlig moral» noen ganger har blitt påberopt på feil grunnlag av statlige regulatorer av ytringer for å krenke menneskerettighetene, spesielt rettighetene til minoriteter og sårbare grupper. Menneskerettighetskomiteen har advart om at «begrepet moral stammer fra mange sosiale, filosofiske og religiøse tradisjoner; følgelig må begrensninger (...) med formål om å beskytte moral være basert på prinsipper som ikke utelukkende stammer fra én enkelt tradisjon» (menneskerettighetskomiteen, generell kommentar 34).

Menneskerettighetslovgivningen anerkjenner at offentlig moral kan være et legitimt mål for begrensninger på ytringsfriheten i stater, og offentlige nakenhetsbegrensninger finnes over hele verden, men Meta legger vekt på andre mål enn «sensitivitet» i den spesifikke konteksten i denne saken. Meta uttalte at «selv om [deres] retningslinjer om nakenhet er i samsvar med beskyttelsen av offentlig moral, er de ikke grunnleggende sett basert på dette målet, fordi etiske standarder rundt nakenhet i stor grad varierer på tvers av kulturer og ikke ville kunne brukes i større skala.» I mange samfunn og deler av verden, kan for eksempel bilder av de utildekkede brystene til transseksuelle og ikke-binære personer betraktes som kulturelt uønsket. Likevel begrenser ikke Meta slike uttrykk. Rådet er også bekymret for den kjente og gjentatte uforholdsmessige belastningen kvinner, transpersoner og ikke-binære personer har opplevd på grunn av Metas retningslinjer (se nedenfor). Av disse grunnene fokuserer rådet på andre mål enn «sensitivitet», som Meta har vektlagt ved undersøkelse av menneskerettighetsansvaret deres.

Det bør bemerkes at grunnlaget for en del av Metas retningslinjer om nakenhet er at kvinnebryster handler om noe seksuelt. Rådet mottok offentlige kommentarer fra mange brukere som uttrykte bekymring for denne typen seksualisering av kvinners, transpersoners og ikke-binære personers kropper, samtidig som samme type seksualisering ikke gjelder for ciskjønnede menn. (Se for eksempel offentlig kommentar 10624, sendt inn av InternetLab).

Rådet mottok mange offentlige kommentarer i denne saken via sine vanlige oppsøkende prosedyrer. Tilsynsrådet er et organ som skal hjelpe Meta med å oppnå ansvarlighet overfor brukerbasen og sentrale interessenter, og rådet tar alle kommentarer alvorlig i overveielsene sine. Som i alle saker forstår vi at disse kommentarene kanskje ikke er representative for den globale oppfatningen. Rådet setter pris på erfaringene og ekspertisen som deles gjennom kommentarene, og de fortsetter å ta skritt for å øke bredden av sin oppsøkende virksomhet ut mot lokalsamfunn som for øyeblikket ikke nødvendigvis deltar i denne prosessen.

Rådet forstår at Meta med rette kan ta hensyn til potensielle skadevirkninger når de tar vurderinger som har med kjønn å gjøre. Som bemerket av FNs spesialrapportør for vold mot kvinner, er det «viktig å erkjenne at Internett blir brukt i et bredere miljø med utbredt og systemisk strukturell diskriminering og kjønnsbasert vold mot kvinner og jenter» (A/HRC/ 38/47). Undersøkelser viser dessuten at «90 prosent av dem som blir ofre for digital distribusjon av intime bilder uten samtykke, er kvinner.» (A/HRC/38/47). Meta bør forsøke å begrense kjønnsrelaterte skadevirkninger, både når det gjelder overhåndheving og underhåndheving av forbud mot nakenhet.

III. Nødvendighet og proporsjonalitet

Rådet konkluderer med at Metas retningslinjer, slik de er utformet og blir håndhevet, fanger opp mer innhold enn nødvendig. Ingen av retningslinjene står i forhold til problemene de prøver å få bukt med.

a. Seksuell oppfordring

Definisjonene i retningslinjene om seksuell oppfordring av hva som utgjør implisitte «tilbud eller forespørsler» og seksuell posering er for brede, og de vil nødvendigvis fange opp en betydelig mengde innhold som ikke er relatert til seksuelle oppfordringer. Meta erkjenner selv risikoen for feil håndheving, og de sier at de er «kjent med at enkelte innholdsmoderatorer feilaktig kan fjerne innhold på grunnlag av implisitte seksuelle oppfordringer (selv om det ikke er det) basert på en altfor teknisk anvendelse av den interne veiledningen for moderatorer.» Meta sa videre:

Basert på våre kjente spørsmål, anser vi for øyeblikket deling og omtale av kontaktinformasjon med sosiale eller digitale identiteter som implisitte tilbud eller forespørsler om seksuelle tjenester. […] Imidlertid kan dette prinsippet føre til overhåndheving i tilfeller der for eksempel en modell anses av en moderator som å posere seksuelt (noe som oppfyller kriteriet for «seksuelt antydende element») og tagger fotografen for å vise hvem som har tatt bildet (oppfyller kriteriet om «tilbud eller forespørsel»). Denne typen innhold er ikke et regelbrudd, fordi det ikke foreligger noen intensjon om å be om eller tilby sex, men det kan fortsatt bli fjernet (i strid med det retningslinjene sier) fordi det oppfyller de to kriteriene som er nevnt ovenfor.

UNESCO beskrev risikoen for feilaktig overhåndheving i enrapport om utdanning i digitale rom. De skrev at «strenge regler rundt deling av eksplisitte bilder betyr at undervisningsmateriell som publiseres på nettet for å gi opplæring om kropp eller seksualitet i noen tilfeller kan bli forvekslet med upassende, eksplisitt innhold av moderatorer, og dermed bli fjernet fra generelle internettplattformer.» Rådet noterer seg også de mange offentlige kommentarene de mottok om feilaktige fjerninger i henhold til denne standarden. ACON (en ideell organisasjon for HIV-informasjon i Australia) skrev for eksempel at HIV-forebyggende innhold med sex-positive budskap og innhold som reklamerer for kurs har blitt fjernet fordi det knyttes til seksuelle tjenester. Dette har ført til at organisasjonen har tilpasset ordlyden i innhold de har lagt ut for å unngå at Meta fjerner det, framfor å velge det språket som er best egnet for å kunne nå ut til de riktige personene (offentlig kommentar 10550). Det samme ble sagt av forskeren Joanna Williams, som intervjuet tolv organisasjoner som jobber med seksuell helse. Ni av disse var blitt negativt påvirket av Metas moderering på dette området (offentlig kommentar 10613).

b. Voksen nakenhet og seksuell aktivitet

Rådet merker seg utfordringene med å etablere skalerbare regler som er enkle å håndheve ut fra Metas oppfatning av biologisk kjønn og kjønnsidentitet, som beskrevet ovenfor. Rådet mener også at Metas retningslinjer om voksen nakenhet i uforholdsmessig grad begrenser enkelte typer innhold og ytringer. Retningslinjene gir mandat til å fjerne innhold, selv om mindre restriktive tiltak kunne vært brukt for å oppnå de uttalte målene.

Meta har allerede en rekke tiltak utenom fjerning, som for eksempel bruk av advarselsskjermer og aldersbegrensning av innhold, slik at kun brukere over 18 år får sett det. De bruker allerede slike tiltak innenfor retningslinjene om voksen nakenhet og seksuell aktivitet, inkludert for kunstneriske framstillinger av seksuell aktivitet. For Meta kan det være en fordel om både det automatiserte systemet og moderatorene tar mer raffinerte, kontekstspesifikke avgjørelser for å avgjøre om nakenheten faktisk handler om noe seksuelt, uavhengig av kroppens kjønn. Meta kan også bruke et bredt spekter av intervensjoner innenfor retningslinjene for å begrense synligheten av nakenhet for brukere som ikke ønsker å se dette ved å legge til rette for mer individuell brukerkontroll. Meta har en rekke dedikerte retningslinjer rundt saker som også faller innenfor retningslinjene om nakenhet (for eksempel om utnyttelse av voksne, seksuell utnyttelse av barn og overgrep) som de også kan styrke.

Rådet bemerker at Metas håndhevingspraksis trolig resulterer i et høyt antall falske treff og mye feilaktig fjerning av innhold som ikke bryter reglene. Metas siste rapport om håndheving av standardene for Instagram (april–juni 2022) viser at 21 % av fjerningene av voksen nakenhet og seksuell aktivitet som ble anket, førte til at innholdet ble gjenopprettet. Rådet mottok også et stort antall offentlige kommentarer angående feilaktig fjerning av innhold under retningslinjene om voksen nakenhet.

Ikke-diskriminering

Det finnes bevis på at Metas retningslinjer og håndheving knyttet til retningslinjene om voksen nakenhet og seksuell aktivitet har uforholdsmessig store konsekvenser for kvinner og LHBTQI+-personer. Disse konsekvensene gjenspeiles både i retningslinjene og håndhevingen, og de begrenser muligheten grupper har til å uttrykke seg, motstå fordommer og oppnå økt synlighet i samfunnet.

Selv om denne saken gjaldt transpersoner og ikke-binære brukere, stammer håndhevingsfeilene i denne saken fra underliggende retningslinjer som også påvirker kvinner, spesielt ettersom Meta bruker en «kvinne-som-standard»-tilnærming for nakeninnhold. Derfor vurderes det her i hvilken grad Metas retningslinjer påvirker både LHBTQI+-personer og kvinner. Det store antallet offentlige kommentarer i sakens anledning er en klar indikasjon på virkningen disse retningslinjene kan ha.

Retten til ytringsfrihet er garantert for alle mennesker, uansett «kjønn» eller «annen status» (artikkel 2, § 1 i ICCPR). Dette omfatter seksuell legning og kjønnsidentitet ( Toonen mot Australia (1994); A/HRC/19/41, § 7). Menneskerettighetskomiteens rettspraksis bemerker at «differensiering basert på grunnlaget i artikkel 26 i konvensjonen utgjør ikke automatisk diskriminering, så lenge den er basert på rimelige og objektive kriterier og har som utgangspunkt å oppnå et mål som er legitimt i henhold til konvensjonen.» Nepomnyashchiy mot Russland, menneskerettighetskomiteen, 2018, § 7.5 (CCPR/C/123/D/2318/2013).

Konvensjonen om avskaffelse av alle former for diskriminering av kvinner (CEDAW) forbyr «enhver kjønnsmessig sondring, utelukkelse eller innskrenkning som har som virkning eller formål å svekke eller utelukke anerkjennelsen, utnyttelsen eller utøvelsen av kvinners menneskerettigheter og grunnleggende friheter (...) på grunnlag av likestilling mellom menn og kvinner, menneskerettigheter og grunnleggende friheter på det politiske, økonomiske, sosiale og private området, samt alle andre områder.» (CEDAW, art. 1). Rådet merker seg at internasjonale menneskerettighetsorganer ikke har vurdert implikasjonene av hverken å tillate eller forby samtykkende voksen nakenhet og potensielle diskriminerende konsekvenser.

FNs veiledende prinsipper sier at «selskaper skal følge ekstra nøye med på bestemte påvirkninger på menneskerettighetene for enkeltpersoner fra grupper eller befolkninger som kan ha økt risiko for sårbarhet eller marginalisering» (UNGP-prinsipp 18 og 20). Spesialrapportøren for ytringsfrihet har oppfordret teknologiselskaper til å «ta aktivt hensyn til utfordringene i lokalsamfunn som historisk sett har stått i fare for å oppleve sensur og diskriminering» (A/HRC/38/35, § 48). FNs arbeidsgruppe for næringsliv og menneskerettigheter har også anbefalt teknologiselskaper å sørge for at «kunstig intelligens og automatisering ikke har uforholdsmessige negative innvirkninger på kvinners menneskerettigheter» (Gender Dimensions Handbook).

Siden sosiale medieplattformer er viktige ytringsarenaer for personer som er utsatt for diskriminering, har rådet konsekvent stilt en forventning om at Meta skal være spesielt oppmerksomme på muligheten for urettmessig fjerning av innhold av, innhold om og avbildninger av medlemmer av disse gruppene. Som rådet bemerket i «Wampum-belte»-avgjørelsen (2021-012-FB-UA) angående urfolks kunstneriske uttrykk, er det ikke tilstrekkelig å evaluere hvordan Metas håndhevelse av Facebooks retningslinjer om hatefulle ytringer fungerer som helhet – man må ta hensyn til konsekvensene for spesifikke grupper. Tilsvarende bekreftet rådet i saken «Ta tilbake arabiske ord» at «overmoderering av ytringer fra brukere fra forfulgte minoritetsgrupper utgjør en alvorlig trussel mot ytringsfriheten deres» og uttrykte bekymring for hvordan unntak i Metas retningslinjer (i dette tilfellet retningslinjene om hatefulle ytringer) ble brukt på ytringer fra marginaliserte grupper (2022-003-IG-UA).

Konsekvensene av Metas valg er at kvinner, transpersoner og ikke-binære personer får mindre mulighet til å uttrykke seg på plattformene deres. Metas nåværende retningslinjer om voksen nakenhet og seksuell aktivitet generelt behandler kvinnelige bryster og brystvorter som noe seksuelt, og dermed blir de underlagt forbud, med mindre de har blitt eller skal bli operert eller er i ferd med å amme. I stedet for å ta skritt for å sikre at sensur ikke påvirker noen grupper i uforholdsmessig grad, forankrer og viderefører Metas retningslinjer denne typen effekter for disse gruppene.

Disse sakene framhever den uforholdsmessige virkningen Metas retningslinjer har for personer som identifiserer seg som LHBTQI+, ettersom innholdet ble identifisert flere ganger av klassifiseringsprogrammer som «voksen nakenhet» og «seksuell aktivitet», til tross for at dette ikke stemmer i henhold til retningslinjene. Rådet mener at disse sakene er et symptom på bredere problemer. En studie utført av Haimson et al. viste for eksempel at transpersoner ofte rapporterer at innholdet deres blir fjernet og kontoene deres slettet, vanligvis på grunn av nakenhet og seksuelt innhold.

Håndhevingen av Metas retningslinjer har også en uforholdsmessig stor innvirkning på kvinner. En studie utført av Witt, Suzor og Higgins viste at opptil 22 % av bildene av kvinnekropper som ble fjernet fra Instagram tilsynelatende var falske treff. Den uforholdsmessige innvirkningen retningslinjene har på kvinner, nevnes også i de offentlige kommentarene (for eksempel offentlig kommentar 10616 av dr. Zahra Stardust).

«Kvinne-som-standard»-prinsippet om nakenhet har også en alvorlig innvirkning i sammenhenger der kvinner tradisjonelt kan gå med bar overkropp. Spesialrapportøren for promotering og beskyttelse av retten til frie meninger og ytringer har oppfordret selskaper til å ha en dialog med urfolksgrupper rundt om i verden for å «utvikle bedre indikatorer for å ta hensyn til kulturell og kunstnerisk kontekst når de vurderer innhold som inneholder nakenhet» (§ 54, A/HRC/38/35)).

I tillegg til disse retningslinjerelaterte bekymringene rundt diskriminering, handler disse sakene også om bekymringer rundt selve håndhevingsprosessen. Meta bør være oppmerksomme på at innhold fra brukere som identifiserer seg med marginaliserte grupper har større risiko for gjentatt eller ondsinnet rapportering, der brukere rapporterer innhold som ikke er regelbrudd for å plage andre brukere. Dette poenget går også igjen i flere offentlige kommentarer (se for eksempel offentlig kommentar 10596 av GLAAD og offentlig kommentar 10628 av The Human Rights Campaign Foundation).

Disse sakene viser at jo flere rapporter som fører til inngripen fra moderatorene, desto større er sannsynligheten for feilaktig fjerning. I denne saken resulterte de fleste brukerrapportene i at moderatoren besluttet at innholdet ikke var et regelbrudd, men innholdet ble rapportert helt fram til en moderator feilaktig konkluderte med at innholdet var i strid med retningslinjene og fjernet det.

Meta bør utvikle og implementere retningslinjer som bidrar til å løse alle disse utfordringene. Dette kan handle om å etablere mer enhetlige retningslinjer rundt nakenhet, som gjelder uten diskriminering på grunnlag av biologisk kjønn eller kjønnsidentitet. De kan med fordel basere avgjørelsene av hva som utgjør seksuelt innhold på kontekst i større grad, så lenge disse avgjørelsene ikke er basert på diskriminerende kriterier.

Rådet merker seg at Meta har dedikerte regler rundt deling av intime bilder uten samtykke i retningslinjene om seksuell utnyttelse av voksne. Dette har vært prioritert av selskapet ved håndheving av reglene (se for eksempel introduksjon av automatisert registreringsteknologi for å hindre at bilder uten samtykke blir publisert gjentatte ganger). Når Meta vurderer å endre sin tilnærming til å håndtere nakenhet på plattformen, bør de undersøke nøye i hvilken grad retningslinjene om nakenhet og seksuell aktivitet beskytter mot deling av bilder uten samtykke. De bør se på om det kreves endringer i retningslinjene om seksuell utnyttelse av voksne – eller i håndhevingen av dem – for å gjøre dem mer effektive.

Rådet forstår at Meta har en legitim interesse av å begrense seksuelt eller pornografisk innhold på plattformene sine. Rådet mener derimot at relevante forretningsmål kan og bør møtes med tilnærminger som behandler alle brukere uten diskriminering.

Noen av rådsmedlemmene mener at Meta bør forsøke å redusere den diskriminerende virkningen de nåværende retningslinjene har ved å vedta retningslinjer om voksen nakenhet som ikke er basert på biologisk kjønn eller kjønnsidentitet. De la vekt på bestemmelsene fra CEDAW (konvensjonen om å avskaffe alle former for diskriminering av kvinner) som handler om å eliminere kjønnsstereotypier (se for eksempel artikkel 5 og 10) og Metas eksplisitte forpliktelse til CEDAW i selskapets retningslinjer om menneskerettigheter. Når det gjelder retningslinjene om nakenhet, konkluderte de med at de internasjonale menneskerettighetsstandardene og Metas egen forpliktelse til ikke-diskriminering støtter å eliminere stereotypiske skillelinjer. Denne medlemsgruppen konkluderte med at et skifte mot retningslinjer som ikke er basert på kjønnsforskjeller ville være det best egnede dersom Meta ønsker å overholde menneskerettighetsansvaret sitt som virksomhet, gitt selskapets verdier og forpliktelser. Disse medlemmene bemerker at normer og retningslinjer bør utvikles for å håndtere konvensjoner som har diskriminerende virkning, ettersom mange former for diskriminering fortsatt er sosialt utbredt.

Det var en viss grad av uenighet blant styremedlemmene rundt disse spørsmålene. Noen medlemmer var i prinsippet enige om at Meta ikke skulle basere seg på biologisk eller opplevd kjønn for å begrense ytringer, men de var usikre på om Meta har kapasitet til å håndtere problemet med intime bilder uten samtykke og annet potensielt skadelig innhold på en effektiv måte uten retningslinjer om nakenhet som baserer seg på kjønn. Andre medlemmer av rådet mener at fordi gjeldende menneskerettighetsprinsipper om ikke-diskriminering åpner for distinksjoner på grunnlag av beskyttede egenskaper – så lenge de er «basert på rimelige og objektive kriterier og har som utgangspunkt å oppnå et mål som er legitimt i henhold til konvensjonen» (Nepomnyashchiy mot Russland, menneskerettighetskomiteen, 2018, § 7.5 (CCPR/C/123/D/2318/2013) – er det ikke nødvendig med retningslinjer som er kjønnsnøytrale, og at dette kan føre til, eller forverre, andre skadevirkninger.

Rådsmedlemmene som støtter kjønnsnøytrale retningslinjer om voksen nakenhet, anerkjenner at under internasjonale menneskerettighetsstandarder som anvendes for stater, kan man gjøre forskjeller på grunnlag av beskyttede egenskaper basert på rimelige og objektive kriterier og når de tjener et legitimt formål. De mener at distinksjonene innenfor Metas retningslinjer om nakenhet ikke oppfyller denne standarden. De bemerker videre at Meta som virksomhet har forpliktelser til menneskerettighetene som ikke tilsier at de kan begrense ytringer på Internett basert på selskapets egen oppfatning av biologisk kjønn og kjønnsidentitet.

Standarden om voksen nakenhet og seksuell aktivitet påvirker kvinner og LHBTQI+-brukere i uforholdsmessig grad. Den støtter seg på subjektive og spekulative oppfatninger av biologisk kjønn og kjønnsidentitet, noe som er uheldig og upraktisk når man skal utføre innholdsmoderering i stor skala. Generelt sett, gitt forvirringen rundt reglene og håndhevingen av dem, samt den uforholdsmessige og diskriminerende virkningen Metas nåværende retningslinjer om voksen nakenhet og seksuell aktivitet har, anbefaler rådet at Meta definerer tydelige, objektive kriterier med respekt for personlige rettigheter som grunnlag for standarden om voksen nakenhet. De må sikre at alle mennesker behandles i samsvar med internasjonale menneskerettighetsstandarder, uten å bli diskriminert på grunnlag av biologisk kjønn eller kjønnsidentitet. Meta bør først gjennomføre en omfattende menneskerettighetsvurdering for å vurdere de potensielle implikasjonene av å vedta slike kriterier. Her bør de inkludere et bredt utvalg av interessenter, på tvers av ulike ideologiske, geografiske og kulturelle grenser. Hvis denne vurderingen avdekker potensielle skadevirkninger, bør implementeringen av de nye retningslinjene inkludere en plan for hvordan disse skal håndteres og avbøtes. Rådet ber om en rapport om vurdering og planverk senest seks måneder etter dette vedtaket.

9. Tilsynsrådets avgjørelse

Tilsynsrådet omgjør Metas opprinnelige beslutninger om å fjerne begge de to innleggene og krever at de gjenopprettes.

10. Rådgivende uttalelse om retningslinjene

Retningslinjer for innhold

1. Alle brukere skal behandles rettferdig, og moderatorene og publikum skal ha en funksjonell standard om nakenhet å forholde seg til. Meta må derfor definere tydelige, objektive kriterier med respekt for personlige rettigheter som grunnlag for standarden om voksen nakenhet og seksuell aktivitet. Meta må sikre at alle mennesker behandles i samsvar med internasjonale menneskerettighetsstandarder, uten å bli diskriminert på grunnlag av biologisk kjønn eller kjønnsidentitet. Meta bør først gjennomføre en omfattende menneskerettighetsvurdering for å vurdere de potensielle implikasjonene av å vedta slike kriterier. Her bør de inkludere et bredt utvalg av interessenter, på tvers av ulike ideologiske, geografiske og kulturelle grenser. Hvis denne vurderingen avdekker potensielle skadevirkninger, bør implementeringen av de nye retningslinjene inkludere en plan for hvordan disse skal håndteres og avbøtes.

2. For å gi brukerne større klarhet bør Meta i de offentlige standardene gi brukerne en bedre forklaring på hva som utgjør «tilbud eller forespørsler» om sex (inkludert lenker til eksterne nettsteder) og hva som utgjør seksuell posering. Rådet vil anse denne anbefalingen som implementert når en forklaring av disse begrepene – med eksempler – er lagt til i standarden om seksuell oppfordring.

Håndheving

3. For å sikre at Metas interne kriterier for retningslinjene om seksuell oppfordring ikke resulterer i fjerning av mer innhold enn de offentlige retningslinjene tilsier – og slik at ikke-seksuelt innhold ved en feiltakelse fjernes – bør Meta revidere sin interne veiledning for moderatorer for å sikre at kriteriene gjenspeiler reglene som er tilgjengelige for offentligheten og krever en klarere sammenheng mellom «et tilbud eller en forespørsel» og «den seksuelle antydningen». Rådet vil anse dette som implementert når Meta deler oppdaterte interne retningslinjer som gjenspeiler disse reviderte kriteriene med rådet.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Göteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden, delte av sin ekspertise innen sosiopolitiske og kulturelle kontekster. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi.