Könsidentitet och nakenhet

Sammanfattning av ärendet

Tillsynsrådet har upphävt Metas ursprungliga beslut att ta bort två Instagram-inlägg som avbildar transpersoner och ickebinära personer med nakna bröst. Rådet rekommenderar också att Meta ändrar sin communityregel om nakenhet och sexuell aktivitet hos vuxna så att den regleras av tydliga kriterier som respekterar de internationella normerna för mänskliga rättigheter.

Om ärendet

I det här ärendet överväger Tillsynsrådet för första gången två ärenden samtidigt. Två separata innehåll publicerades av samma Instagram-konto. Det ena publicerades år 2021 och det andra år 2022. Kontot hanteras av ett par som är bosatt i USA och som identifierar sig som transpersoner och ickebinära.

Båda inläggen innehåller bilder av paret med nakna bröst med täckta bröstvårtor. I bildtexterna diskuteras hälsovård för transpersoner och att den ena personen i paret inom kort ska genomgå en mastektomi (könsbekräftande ingrepp i form av en bröstförminskning), som paret samlar in pengar för att betala för.

Efter en serie aviseringar från Metas automatiska system och anmälningar från användare granskades inlägget ett flertal gånger för möjliga brott mot ett flertal olika communityregler. Meta tog till slut bort båda inläggen för brott mot communityregeln om kontaktsökande i sexuellt syfte, troligen på grund av att de innehåller bröst och en länk till en insamlingssida.

Användarna överklagade beslutet hos Meta och sedan hos rådet. När rådet hade accepterat ärendet insåg Meta att företaget tagit bort inläggen på felaktig grund och återställde dem.

Viktiga noteringar

Tillsynsrådet anser att borttagningen av inläggen saknar stöd i Metas communityregler, värderingar och ansvar för efterlevnad av de mänskliga rättigheterna. Dessa ärenden belyser också grundläggande problem med Metas policyer.

Metas interna vägledning för moderatorer om när inlägg ska tas bort enligt policyn om kontaktsökande i sexuellt syfte, är betydligt mer omfattande än vad som anges i motiveringen för policyn eller den offentligt publicerade vägledningen. Det skapar osäkerhet för användare och moderatorer och, vilket Meta har insett, leder till att innehåll tas bort felaktigt.

I åtminstone ett av ärendena skickades inlägget för manuell granskning av ett automatiskt system som tränats i att verkställa communityregeln om nakenhet och sexuell aktivitet hos vuxna. Den regeln förbjuder bilder som innehåller bröstvårtor på kvinnobröst med undantag för i vissa angivna sammanhang, till exempel gällande amning och könsbekräftande kirurgi.

Regeln bygger på en binär syn på kön och en distinktion mellan mäns och kvinnors kroppar. En sådan utgångspunkt gör det otydligt hur reglerna gäller för intersexuella, ickebinära och transpersoner, och innebär att granskarna måste göra snabba och subjektiva bedömningar av kön och genus, vilket är opraktiskt när innehåll ska modereras i större skala.

Begränsningarna och undantagen till reglerna om bröstvårtor på kvinnobröst är omfattande och förvirrande, särskilt i samband med transpersoner och ickebinära personer. Bland undantagen till regeln finns protester, bilder av förlossningar och medicinska och hälsorelaterade sammanhang, vilket omfattar att väcka medvetenhet om bröstoperationer och bröstcancer. Dessa undantag är ofta otydliga och dåligt definierade. I vissa sammanhang måste moderatorerna till exempel bedöma omfattning och typ av synliga ärr för att fastställa om vissa undantag kan gälla. Den inneboende bristen på tydlighet i regeln skapar osäkerhet för användare och granskare och gör att den inte fungerar i praktiken.

Rådet har återkommande sagt att Meta måste överväga hur företagets policyer påverkar personer som utsätts för diskriminering (se till exempel besluten i ärendena ”Wampum-bältet” och ”Återtagande av arabiska ord”). I det här fallet anser rådet att Metas regler om nakenhet hos vuxna leder till större hinder för kvinnor, transpersoner och ickebinära personer att uttrycka sig på företagets plattformar. De kan till exempel ha allvarliga konsekvenser i sammanhang i vilka kvinnor enligt tradition kan gå barbröstade, och personer som tillhör HBTQI+-gemenskapen kan påverkas i oproportionerligt stor grad, vilket dessa ärenden visar. Metas automatiska system identifierade innehållet flera gånger trots att det inte bryter mot Metas policyer.

Meta bör försöka ta fram och implementera policyer som löser alla dessa problem. Företaget bör ändra hur nakenhet hanteras på plattformarna genom att definiera tydliga kriterier som kan ligga till grund för regeln om nakenhet och sexuell aktivitet hos vuxna. Det skulle säkerställa att alla användare behandlas på ett sätt som är förenligt med normerna för mänskliga rättigheter. Företaget bör också undersöka om regeln om nakenhet och sexuell aktivitet hos vuxna skyddar mot delning av bilder utan samtycke, och om andra regler behöver stärkas i det avseendet.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut om att ta bort inläggen.

Rådet rekommenderar också att Meta:

• definierar tydliga och objektiva kriterier som tar hänsyn till alla rättigheter, vilka ska reglera communityregeln om nakenhet och sexuell aktivitet hos vuxna. Det så att alla människor behandlas på ett sätt som är förenligt med de internationella normerna för mänskliga rättigheter, utan diskriminering på grund av kön eller genus. Meta bör först, tillsammans med berörda parter, göra en omfattande bedömning av hur en sådan ändring kan påverka de mänskliga rättigheterna och ta fram en plan för hur eventuell skada som identifieras kan åtgärdas,
• ge mer ingående information om de kriterier som kan leda till att innehåll tas bort i den offentligt publicerade communityregeln om kontaktsökande i sexuellt syfte,
• revidera vägledningen för moderatorer om communityregeln om kontaktsökande i sexuellt syfte så att den återspeglar de offentliga bestämmelserna i regeln bättre. Det skulle bidra till att minska andelen verkställighetsfel från Metas sida.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut i två ärenden om inlägg på Instagram som tagits bort av Meta. Meta har meddelat att företagets ursprungliga beslut i båda ärendena var felaktiga. Dessa ärenden väcker viktiga frågor kring hur Metas policyer har oproportionerliga konsekvenser när det gäller kvinnors och HBTQI+-personers rätt att uttrycka sig på företagets plattformar. Rådet rekommenderar att Meta definierar tydliga och objektiva kriterier som tar hänsyn till alla rättigheter, vilka ska reglera hela regeln om nakenhet och sexuell aktivitet hos vuxna. På så sätt säkerställer företaget att alla människor behandlas lika i enlighet med de internationella normerna för mänskliga rättigheter och undviker diskriminering på grund av kön eller könsidentitet. Meta bör först göra en omfattande bedömning av påverkan på mänskliga rättigheter för att granska vad införandet av sådana kriterier kan medföra. I det arbetet ingår brett inkluderande interaktion med berörda parter inom olika ideologiska, geografiska och kulturella kontexter. Om det i den bedömningen framgår att det finns risk för skada ska implementeringen av den nya policyn innefatta en plan för att förebygga sådan skada.

Rådet rekommenderar också att Meta förtydligar sin offentligt publicerade regel om kontaktsökande i sexuellt syfte och avgränsar sin interna vägledning för verkställande så att den är bättre utformad för sådana överträdelser.

2. Beskrivning av och bakgrund till ärendet

De här ärendena rör två innehållsbeslut som fattats av Meta och som Tillsynsrådet hanterar gemensamt i det här beslutet. Två separata bilder med bildtext publicerades på Instagram av samma konto vilket hanteras gemensamt av ett par bosatt i USA. Båda bilderna visar paret som i inläggen, och i sina framställningar till rådet, uppger att de identifierar sig som transpersoner och ickebinära.

Meta tog bort båda inläggen i enlighet med communityregeln om kontaktsökande i sexuellt syfte. I båda fallen identifierade Metas automatiska system att innehållet eventuellt bröt mot reglerna.

På den första bilden, som publicerades 2021, är båda personerna barbröstade och har hudfärgad tejp över bröstvårtorna. På den andra bilden, som publicerades 2022, har den ena personen kläder på sig medan den andra personen är barbröstad och täcker sina bröstvårtor med händerna. Bildtexterna handlar om att personen som är barbröstad på båda bilderna inom kort ska genomgå könsbekräftande kirurgi i form av mastektomi. Paret berättar om sina planer på att dokumentera ingreppet och diskuterar hälso- och sjukvårdsfrågor som rör transpersoner. De meddelar att de ska hålla i en insamling för att kunna betala för ingreppet eftersom de haft svårigheter med att få försäkringen att täcka för det.

I det första ärendet klassificerades bilden först automatiskt som att den sannolikt inte bröt mot reglerna. Anmälan avslutades utan att granskas och innehållet fick ligga kvar på plattformen. Därefter anmälde tre användare innehållet för att vara pornografi och självskada. Dessa anmälningar granskades manuellt av moderatorer som fastställde att inlägget inte bröt mot reglerna. När innehållet för fjärde gången anmäldes av en användare fastställde en annan manuell granskare att inlägget bröt mot communityregeln om kontaktsökande i sexuellt syfte och tog bort det.

I det andra ärendet identifierades inlägget två gånger av Metas automatiska system. Det skickades för manuell granskning och bedömdes inte bryta mot reglerna båda gångerna. Två användare anmälde sedan innehållet, men båda anmälningarna avslutades automatiskt utan granskning och innehållet fick ligga kvar på Instagram. Slutligen identifierade Metas system innehållet en tredje gång och det skickades för manuell granskning. De sista två gångerna flaggades innehållet av Metas automatiska klassificering av nakenhet och sexuell aktivitet hos vuxna, men orsaken till dessa upprepade granskningar är oklar. I den sista manuella granskningen fann granskare att inlägget bröt mot communityregeln om kontaktsökande i sexuellt syfte och tog bort det.

Kontoägarna överklagade båda besluten om borttagning hos Meta och innehållet granskades manuellt i båda fallen. Dessa granskningar ledde emellertid inte till att Meta återställde inläggen. Kontoägarna överklagade därmed båda besluten om borttagning hos rådet. Rådet överväger dessa två ärenden tillsammans, vilket är något rådet gör för allra första gången. Fördelarna med att göra det är att identifiera liknande problem i Metas innehållspolicyer och erbjuda lösningar på dessa problem.

När rådet hade valt ut inläggen och Meta ombads ge en förklaring av sitt beslut att ta bort innehållet identifierade Meta borttagandena som ”verkställighetsfel” och återställde inläggen.

I övervägandet av varför dessa ärenden representerar viktiga frågor anger rådet som relevant kontext den stora mängd kommentarer från allmänheten som togs emot i samband med ärendena. Många av kommentarerna kom från personer som identifierar sig som transsexuella, ickebinära eller ciskvinnor som förklarade att de påverkats personligen av verkställighetsfel och -frågor som påminner om de i dessa ärenden.

Rådet angav också som relevant kontext den akademiska forskning, som också citeras i kommentarer från allmänheten, avHaimson et al, Witt, Suzor och Huggins, samt två rapporter från Salty om algoritmisk bias och censur av marginaliserade grupper. Dessa studier har visat att verkställighetsfel i de två communityregler som diskuteras i dessa ärenden har oproportionerliga konsekvenser för kvinnor och HBTQI+-gemenskapen. En av författarna till en av dessa studier är medlem i Tillsynsrådet.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter ett överklagande från den användare vars innehåll har tagits bort (artikel 2, avsnitt 1 i stadgan, artikel 3, avsnitt 1 i regelverket)

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta uttalanden med råd om riktlinjer med rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4).

När rådet väljer ut ärenden som det här, i vilket Meta tillstår att företaget gjort ett misstag efter det att rådet valt ut ärendet, granskar rådet det ursprungliga beslutet. Det görs för att öka förståelsen av de policyparametrar och de processer i innehållsmodereringen som bidragit till felet och för att åtgärda problem som rådet identifierar med de underliggande policyerna. Rådet har också som målsättning att ge rekommendationer för att minska sannolikheten för framtida fel och öka sannolikheten för att användarna behandlas mer rättvist i framtiden.

Om rådet skulle bli varse om fler ärenden som handlar om liknande ämnen kan de tilldelas till en panel för samtidig prövning. Ett bindande beslut fattas gällande varje enskilt innehåll.

4. Källor som ligger till grund för beslutet

Tillsynsrådet utgick ifrån följande auktoriteter och regler i sitt beslut:

I. Tillsynsrådets beslut:

• Beslut i ärende om återtagande av arabiska ord (2022-003-IG-UA). Rådet analyserade utmaningarna i att tillämpa undantag till regler och den oproportionerligt stora påverkan vissa policyval får.
• Beslut i ärende om wampumbälte (2021-012-FB-UA). Rådet analyserade utmaningarna i att tillämpa undantag till regler och den oproportionerligt stora påverkan vissa policyval får.
• Bröstcancersymtom och nakenhet (2020-004-IG-UA). Rådet analyserade Instagrams communityregler och rekommenderade att Meta tydliggör att det finns ett undantag för att väcka medvetenhet om bröstcancer.

II. Metas innehållspolicyer:

I de här ärendena är Instagrams och Facebooks communityregler relevanta. I Metas transparenscenter står det att ”Facebook och Instagram delar policyer för innehåll. Det innebär att om innehåll anses bryta mot reglerna på Facebook, anses det även bryta mot reglerna på Instagram”.

Kontaktsökande i sexuellt syfte

I Instagrams communityregler anges det att det inte är tillåtet att ”erbjuda sexuella tjänster”. Den regeln länkar sedan till Facebooks communityregel om kontaktsökande i sexuellt syfte.

I motiveringen till policyn om kontaktsökande i sexuellt syfte skriver Meta: ”Vi drar emellertid gränsen vid när innehåll underlättar, uppmuntrar till eller samordnar sexuella möten eller vid kommersiella sexuella tjänster mellan vuxna. Vi gör det för att undvika att möjliggöra transaktioner som kan involvera trafficking, tvång och sexuella handlingar utan samtycke. Vi tillåter inte heller sexuellt explicit språk som kan leda till sexuella kontakter eftersom vissa målgrupper i vår globala community kan vara känsliga för denna typ av innehåll och det kan försämra människors förmåga att hålla kontakt med sina vänner och den större communityn.”

I Facebooks communityregel om kontaktsökande i sexuellt syfte står det att Meta förbjuder såväl uttalat som underförstått kontaktsökande. För underförstått kontaktsökande finns det två kriterier som båda måste uppfyllas för att ett brott mot regeln ska ha begåtts. Det första är ”erbjudande eller förfrågan” vilket avser ”innehåll som i förtäckta ordalag eller indirekt (vanligtvis genom att tillhandahålla en kontaktmetod) erbjuder eller efterfrågar sexuella kontakter”. Det andra kriteriet är ”antydande element”, vilket är ”innehåll som förmedlar erbjudandet eller förfrågan med hjälp av ett av följande sexuellt antydande element”. De element som anges omfattar ”regionalt sexualiserad slang” och ”poser”.

Nakenhet och sexuell aktivitet hos vuxna

I Instagrams communityregler står det att användarna ska: ”Publicera foton och videor som är lämpliga för en bred målgrupp. Vi vet att det finns tillfällen när användare vill dela nakenbilder som är konstnärliga eller kreativa, men av olika skäl tillåter vi inte nakenhet på Instagram. Det omfattar foton, videor och visst digitalt skapat innehåll som visar samlag, genitalier och närbilder av helt nakna skinkor. Det omfattar även vissa foton av bröstvårtor på kvinnobröst, men i sammanhang som rör amning, förlossningar och ögonblick efter förlossningar, hälsorelaterade situationer (till exempel efter mastektomi, för att öka medvetenhet om bröstcancer eller könsbekräftande kirurgi) eller en protesthandling är de tillåtna.” I det avsnittet finns en länk till Facebooks regel om nakenhet och sexuell aktivitet hos vuxna, som ger mer information om dessa regler.

Som en del av motiveringen för policyn för communityregeln om nakenhet och sexuell aktivitet hos vuxna förklarar Meta att: ”Vi begränsar visningen av naket innehåll eller sexuella aktiviteter eftersom vissa personer inom vår community kan vara känsliga för den typen av innehåll. Vi tar dessutom bort sexuella bilder för att förhindra delning av innehåll utan samtycke eller innehåll med minderåriga.”

I Facebooks regel om nakenhet och sexuell aktivitet hos vuxna står det också: ”Publicera inte: bröstvårtor på kvinnobröst förutom i sammanhang som rör amning, förlossningar och ögonblick efter förlossningar, medicinsk behandling och hälsa (till exempel efter mastektomi, för att öka medvetenhet om bröstcancer eller könsbekräftande kirurgi) eller en protesthandling.” Användare kan också publicera bilder av könsorgan när de delas i ett ”sammanhang som rör medicinska behandlingar och hälsa” (vilket omfattar könsbekräftande kirurgi), men en skärm läggs till med en varning om att innehållet är känsligt. Det finns åtminstone 18 ytterligare faktorer i den interna vägledningen gällande bröstvårtor och dessa undantag.

III. Metas värderingar:

Metas värderingar återfinns i introduktionen till Facebooks communityregler, där värderingen” röst” beskrivs vara av yttersta vikt.

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. […] Vi vill att människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Meta begränsar ”röst” baserat på fyra värderingar, varav två är relevanta här:

”Säkerhet”: Vi har åtagit oss att göra Facebook till en säker plats. Uttryck som hotar människor kan skrämma, utesluta eller tysta andra och det är inte tillåtet på Facebook.

”Värdighet”: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

IV. De internationella normerna för mänskliga rättigheter:

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om mänskliga rättigheter i dessa ärenden utgår ifrån följande normer för mänskliga rättigheter:

• Rätten till åsikts- och yttrandefrihet: artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011, Communication 488/1992. Resolution 32/2 FN:s råd för mänskliga rättigheter, 2016; följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/74/486 (2019).
• Kvinnors rättigheter: artikel 2 och 5, Kvinnokonventionen (CEDAW),
• Rätten till likabehandling: Artikel 2, paragraf 1 och artikel 26, ICCPR. Nepomnyashchiy v Russia, FN:s kommitté för mänskliga rättigheter, 2018 (CCPR/C/123/D/2318/2013).

5. Framställningar från användarna

I sina framställningar i dessa ärenden anger användarna att de anser att innehållet togs bort på grund av transfobi. De skriver att om rådet skulle bekräfta att innehållet bör få ligga kvar på plattformen, så skulle det beslutet bidra till att göra Instagram till ett mer välkomnande utrymme för HBTQI+-diskussioner.

6. Metas framställningar

Meta förklarade i sin motivering till policyn att båda innehållsborttagandena var verkställighetsfel och att inget av inläggen bröt mot företagets policyer gällande kontaktsökande i sexuellt syfte. Meta säger: ”det enda erbjudandet eller den enda förfrågan är efter gåvor till en insamling eller att besöka en webbplats för att köpa t-shirts, vilket i inget fall har med kontaktsökande i sexuellt syfte att göra”.

Meta anger också att inget av inläggen bryter mot företagets regel om nakenhet och sexuell aktivitet hos vuxna. I motiveringen står det att det i den interna ”vägledningen för granskare anges specifikt hur nakenhet ska hanteras när det gäller ickebinära personer, könsneutrala personer eller transpersoner”. Innehållet i dessa ärenden delades i en ”uttalat ickebinär eller transsexuell kontext vilket bevisades av innehållets övergripande ämne (genomgår bröstoperation) och de hashtaggar som användes”. Meta avslutade med att ”även om bröstvårtorna hade varit synliga och blottade i dessa inlägg hade de inte brutit mot vår regel om nakenhet och sexuell aktivitet hos vuxna”. Meta tillstod också att bröstvårtorna var ”helt täckta” på båda bilderna.

Med tanke på den tid som gått sedan innehållet togs bort kunde Meta inte berätta för rådet vilken eller vilka policyer som de olika automatiska systemen som identifierade att innehållet möjligen kunde bryta mot reglerna var programmerade att verkställa. I ett ärende kunde Meta förklara att innehållet satts i kö för granskning två gånger av klassificeringen för nakenhet och sexuell aktivitet hos vuxna. Meta kunde inte heller ge en förklaring på varför granskarna tyckte att innehållet bröt mot regeln om kontaktsökande i sexuellt syfte. I motiveringen står det att Meta är ”medvetna om att vissa innehållsgranskare felaktigt kan ta bort innehåll som underförstått kontaktsökande i sexuellt syfte (även om det inte är det) på grund av en alltför teknisk tillämpning av vår interna vägledning för granskarna”.

Rådet ställde 18 frågor till Meta och Meta besvarade alla.

7. Kommentarer från allmänheten

Tillsynsrådet har övervägt 130 kommentarer från allmänheten med koppling till dessa ärenden. 97 av kommentarerna skickades in från USA och Kanada, 19 från Europa, tio från Asien-Stillahavsområdet, en från Latinamerika och Karibien, en från Mellanöstern och Nordafrika, en från Afrika söder om Sahara och en från Centralasien och Sydasien.

Kommentarerna behandlade följande ämnen: felaktigt borttagande av innehåll från transpersoner, ickebinära och kvinnor, orättvisan och ojämlikheten med könsbaserade distinktioner för att fastställa vilka former av nakenhet som ska tillåtas på plattformen, förvirring kring vilket innehåll som tillåts enligt communityregeln för nakenhet och sexuell aktivitet hos vuxna och communityregeln för kontaktsökande i sexuellt syfte, och vikten av sociala medier när det gäller möjligheten att uttrycka sig i samhällen där HBTQI+-gemenskapens rättigheter är hotade.

Klicka här om du vill läsa allmänhetens kommentarer gällande de här ärendena. Flera av de kommentarer som skickades in har inte tagits med eftersom de innehöll identifierande personuppgifter gällande andra personer än den som skickat kommentaren.

8. Tillsynsrådets analys

Rådet har tittat på huruvida inläggen bör återställas ur tre synvinklar: Metas innehållspolicyer, företagets värderingar och företagets ansvar för mänskliga rättigheter.

Rådet valde ut dessa ärenden eftersom borttagandet av innehåll som inte bryter mot reglerna, vilket publicerats av människor som identifierar sig med marginaliserade grupper, påverkar dessa människors yttrandefrihet. Det är särskilt viktigt i och med att Instagram kan vara ett viktigt forum där dessa grupper kan bygga upp en gemenskap. Dessa ärenden uppvisar hur verkställighetsfel kan ha en oproportionerligt stor inverkan på vissa grupper och kan vara tecken på bredare problem inom policyn och verkställandet som behöver åtgärdas.

8.1 Efterlevnad av Metas innehållspolicyer

Rådet kommer till slutsatsen att dessa inlägg inte bryter mot någon av Metas innehållspolicyer. Communityreglerna gäller för Instagram, men Meta anger också att ”Facebook och Instagram delar innehållspolicyer. Innehåll som anses bryta mot reglerna på Facebook anses även bryta mot reglerna på Instagram”. I Facebooks communityregler ges mer information och dit länkar Instagrams communityregler.

a. Kontaktsökande i sexuellt syfte

Enligt communityregeln om kontaktsökande i sexuellt syfte krävs det två element för implicit kontaktsökande i sexuellt syfte:

• innehåll som innehåller ett underförstått erbjudande eller en underförstådd förfrågan OCH
• sexuellt antydande element.

Underförstådda erbjudanden eller förfrågningar.

Underförstådda erbjudanden eller förfrågningar definieras i communityregeln om kontaktsökande i sexuellt syfte som ”innehåll som i förtäckta ordalag eller indirekt (vanligtvis genom att tillhandahålla en kontaktmetod) erbjuder eller efterfrågar sexuella kontakter”. I Metas ”Kända frågor”, som ger ytterligare intern vägledning för granskare, finns en lista med typer av kontaktuppgifter som utlöser borttagande av innehåll som implicita erbjudanden. På listan finns bland annat länkar till profiler på sociala medier och ”länkar till prenumerationsbaserade webbplatser (till exempel OnlyFans.com eller Patreon.com).” I dessa ärenden fanns det en länk i innehållet till en plattform där användarna höll i en insamling för att betala för ett kirurgiskt ingrepp. I och med att Metas interna kriterier för vad som definierar ”underförstådda erbjudanden eller förfrågningar” är mycket bred, skulle den här länken rent tekniskt kunna kvalificera sig som ”erbjudande eller förfrågan” enligt Metas vägledning för granskare. Det trots att den inte bryter mot den offentligt publicerade regeln, som anger att erbjudandet eller förfrågan måste gälla något av sexuell art.

Sexuellt antydande element.

I communityregeln finns en lista med sexuellt antydande element, däribland poser. I de kända frågorna finns en lista, som Meta beskriver som omfattande, över det som anges som sexuellt antydande poser. Med på listan finns bland annat nakna ”kvinnobröst som är täckta, antingen digitalt eller av andra kroppsdelar eller föremål”. Rådet noterar att det på båda bilderna förekommer bröst täckta av kroppsdelar (händer) eller föremål (tejp). I dessa ärenden gör inläggens innehåll det tydligt att personerna på fotografiet identifierar sig som transsexuella och ickebinära, vilket innebär att de bröst som avbildas tillhör personer som inte identifierar sig som kvinnor. Rådet anser också att innehållet inte är sexuellt antydande. Utifrån det finns inte det andra element som krävs för att bryta mot regeln om kontaktsökande i sexuellt syfte: ett sexuellt antydande element som en sexuell pose (vilket omfattar täckta kvinnobröst).

Eftersom det andra elementet inte förekommer bröt inläggen inte mot regeln. En tillämpning av den offentliga versionen av det första elementet (som anger att erbjudandet/förfrågan måste gälla något sexuellt) visar också att bilderna inte utgör kontaktsökande i sexuellt syfte.

b. Nakenhet och sexuell aktivitet hos vuxna

Enligt communityregeln om nakenhet och sexuell aktivitet hos vuxna ska användare inte publicera bilder på ”bröstvårtor på kvinnobröst förutom i sammanhang som rör amning, förlossning och ögonblick efter förlossning, medicinsk behandling och hälsa (till exempel efter mastektomi, för att väcka medvetenhet om bröstcancer eller könsbekräftande kirurgi) eller en protesthandling”. I Metas kända frågor står det också att granskarna ska tillåta ”bilder av bröstvårtor när de delas i en explicit transsexuell (kvinna till man), ickebinär eller könsneutral kontext (när en användare till exempel anger en sådan könsidentitet), oavsett bröstens storlek eller form”. Ingen av bilderna bryter mot den communityregeln.

Först och främst innehåller ingen av dem nakna bröstvårtor. På båda bilderna täcker personerna sina bröstvårtor med sina händer eller med tejp. Hade bröstvårtorna varit nakna noterar rådet dessutom att bilderna delades åtföljda av text som klargjorde att personerna identifierar sig som ickebinära. Inget brott har därmed begåtts mot regeln.

8.2 Efterlevnad av Metas värderingar

Rådet finner att de ursprungliga besluten om att ta bort dessa inlägg var oförenliga med Metas värderingar ”röst” och ”värdighet” och inte bidrog till att skydda värderingen ”säkerhet”.

Verkställighetsfel med oproportionerliga konsekvenser för grupper som riskerar att diskrimineras utgör ett allvarligt hot mot värderingarna ”röst” och ”värdighet”. Även om Metas argumentering utifrån mänskliga rättigheter behandlade ämnet ”säkerhet”, särskilt i samband med delning av bilder utan samtycke, sextrafficking och övergrepp på barn, anser rådet inte att dessa borttaganden främjade värderingen ”säkerhet”.

8.3 Efterlevnad av Metas ansvar för mänskliga rättigheter

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19 i ICCPR innebär ett brett skydd av yttrandefriheten och diskuterar bland annat mänskliga rättigheter och rätten att uttrycka åsikter som andra kan uppfatta som stötande (allmän kommentar 34, paragraf 11). Rätten till yttrandefriheten garanteras alla människor utan diskriminering på grund av kön eller annan ställning i övrigt (ICCPRartikel 2, paragraf 1). FN:s kommitté för mänskliga rättigheter har i ärenden som Nepomnyashchiy v Russia (CCPR/C/123/D/2318/2013) bekräftat att förbudet mot diskriminering inkluderar diskriminering baserad på könsidentitet.

Innehållet behandlar viktiga sociala frågor. För dessa användare är Instagram ett viktigt forum där de kan diskutera och representera sina könsuttryck, och ett forum där de kan skapa kontakter och hitta stöd. Innehållet kan också direkt påverka användarnas möjlighet att tillgå könsbekräftande kirurgi, i och med att båda inläggen informerar om att en person ska genomgå en bröstoperation och om en insamling för att betala för ingreppet.

Enligt artikel 19 krävs att när en stat begränsar rätten att uttrycka sig måste det uppfylla kraven på laglighet, berättigat syfte, nödvändighet och proportionalitet (ICCPR, artikel 19, paragraf 3). Mot bakgrund av UNGP-ramverket har FN:s specialrapportör för åsikts- och yttrandefrihet uppmanat företag verksamma inom sociala medier att säkerställa att deras innehållsregler utgår ifrån kraven i artikel 19, paragraf 3, ICCPR (A/HRC/38/35, paragraf 45 och 70). Rådet har använt det ramverket i sin analys av Metas policyer och verkställande.

I det här ärendet anser rådet att Meta inte har uppfyllt sitt ansvar att ta fram och verkställa regler som är förenliga med dessa normer. De interna kriterier som används vid borttagning av innehåll enligt regeln om kontaktsökande i sexuellt syfte är mer omfattande än vad som anges i motiveringen för regeln och leder till verkställande i överkant, vilket Meta själva är medvetna om. Communityregeln om nakenhet och sexuell aktivitet hos vuxna har oproportionerliga konsekvenser för kvinnor och HBTQI+-personer och bygger på subjektiva och spekulativa uppfattningar om kön och genus som inte är tillämpbara vid storskalig innehållsmoderering. Rådet analyserar dessa brister och rekommenderar att Meta inleder en omfattande process för att ta itu med dessa problem.

I. Laglighet (reglernas tydlighet och tillgänglighet)

Regler som begränsar uttryck måste vara tydliga och lättillgängliga så att både de som ansvarar för att verkställa dem och användarna vet vad som är tillåtet. Ingen av de båda communityregler som övervägts i dessa ärenden uppfyller det kriteriet.

a. Kontaktsökande i sexuellt syfte

Rådet anser att communityregeln om kontaktsökande i sexuellt syfte åtföljs av alltför omfattande kriterier i den interna vägledningen för granskarna. Den här bristfälligt utformade vägledningen bidrar till att granskarna verkställer i överkant och till användarnas förvirring. Meta tillstod det i sin förklaring till rådet av att tillämpning av den interna vägledningen kunde ”leda till verkställande i överkant” i ärenden där kriterierna för implicit kontaktsökande i sexuellt syfte uppfylls, men det är tydligt att det ”inte finns någon avsikt att söka kontakt i sexuellt syfte”.

Förvirringen återspeglas i policyns båda element. När det gäller komponenten ”erbjudande eller förfrågan” i communityregeln om kontaktsökande i sexuellt syfte nämner de offentligt publicerade reglerna en ”kontaktmetod” för den kontaktsökande parten. I vägledningen för moderatorer, de kända frågorna, står det emellertid att en ”kontaktmetod” för implicita ”erbjudanden eller förfrågningar” omfattar länkar till profiler på sociala medier och länkar till externa prenumerationsbaserade webbplatser som Patreon. Det görs inte tydligt för användarna att vilken länk som helst till en annan profil på sociala medier, extern betalningsplattform eller insamling (som Patreon eller GoFundMe) skulle kunna innebära att deras inlägg behandlas som kontaktsökande i sexuellt syfte. Den förvirringen avspeglas i de många kommentarer från allmänheten som rådet tog emot från människor som inte förstod varför innehåll med sådana tredjepartslänkar togs bort eller ledde till att konton spärrades.

Det andra kriteriet, kravet på ett sexuellt antydande element, är brett och vagt, samt oförenligt med Metas regel om nakenhet och sexuell aktivitet hos vuxna. I den offentligt publicerade communityregeln ingår ”sexuellt antydande poser” som ett sexuellt antydande element. I de kända frågorna finns sedan en detaljerad lista med ”sexuellt antydande poser”, vilka bland annat omfattar att vara barbröstad och täcka brösten med händerna eller föremål. Användare kan troligen inte förutse att en bild med täckta bröst anses avbilda en sexuellt antydande pose. Förvirringen förvärras av att foton på bara bröst med täckta bröstvårtor är tillåtna enligt regeln om nakenhet hos vuxna. I det avseendet ses innehåll som anses vara sexuellt enligt en policy inte vara det enligt en annan.

Utöver osäkerheten för användarna tyder det faktum att granskare upprepade gånger kom till olika slutsatser om innehållet på bristande säkerhet hos moderatorerna kring vilket innehåll som skulle kunna anses vara kontaktsökande i sexuellt syfte.

Som Meta bekräftar leder tillämpningen av den interna vägledningen gällande de två elementen av implicit kontaktsökande till borttagning av innehåll som inte har sexuella handlingar som målsättning. Långsiktigt är det bästa sättet att komma till rätta med felaktigt borttagande troligen att ändra den här policyns omfattning. Kortsiktigt rekommenderar emellertid rådet att Meta granskar sina interna riktlinjer för att se till att kriterierna återspeglar de offentligt publicerade reglerna och kräver en tydligare koppling mellan ”erbjudandet eller förfrågan” och det ”sexuellt antydande elementet”. Meta bör också ge användarna en utförligare förklaring av vad som utgör ”ett erbjudande av eller en förfrågan om” sex och vad som utgör sexuellt antydande poser i de offentliga communityreglerna.

b. Nakenhet och sexuell aktivitet hos vuxna

Regeln om nakenhet och sexuell aktivitet hos vuxna bygger på distinktioner av kön och genus som är svåra att implementera och innehåller dåligt definierade undantag. Vissa bestämmelser i regeln är förvirrande för användarna som inte kan se vad som är tillåtet. Det skapar också osäkerhet för moderatorerna som måste göra subjektiva bedömningar utifrån oundvikligt ofullständig information och snabbt tillämpa en regel som innehåller flera olika faktorer, undantag och antaganden.

Trots ett fokus på specifika kroppsdelar istället för kön (och att användarna kan välja bland ett större urval könsidentiteter i sina profiler) ges inga förklaringar i de flesta av Metas regler av hur företaget hanterar innehåll som avbildar intersexuella, transsexuella och ickebinära personer. Regeln nämner till exempel ”manliga och kvinnliga könsorgan”, ”kvinnobröst” och ”bröstvårtor på kvinnobröst”, men det är oklart hur dessa beskrivningar används för personer med kroppar och identiteter som kanske inte passar in i dessa definitioner. Många transpersoner och ickebinära personer skickade kommentarer till rådet i vilka de uppgav att användarna inte vet om deras innehåll bedöms och kategoriseras utifrån deras könsidentitet, de kön de föddes med eller aspekter av deras fysiska utseende.

De nuvarande reglerna gör att manuella granskare snabbt måste fastställa en användares kön, eftersom regeln gäller för ”bröstvårtor på kvinnobröst”, och användarens könsidentitet, i och med att det finns undantag baserat på om den avbildade personen är ickebinär, könsneutral, transsexuell eller publicerar i samband med könsbekräftande kirurgi. För antaganden om kön och genus krävs tolkning av kontextuella tecken och utseende, vilket är subjektiva bedömningar som medför risk för fel.

Det arbetssättet kompliceras ytterligare av Metas princip om att vid osäkerhet utgå ifrån regler för kvinnor, enligt vilken mer begränsande policyer som gäller för kvinnors (till skillnad från mäns) nakenhet tillämpas vid osäkerhet. I de kända frågorna står det att när det inte finns en tydlig kontext och personen på bilden ”presenterar sig som kvinna eller om det finns en kontext gällande transkvinnor (man till kvinna), ska standard vara att utgå ifrån kvinnlig nakenhet och tillämpa relevant policy”.

Antalet begränsningar och undantag till reglerna om bröstvårtor som uppfattas som tillhörande kvinnor är omfattande och förvirrande. Bland undantagen finns protesthandlingar, bilder av förlossningar och amning och medicinska och hälsorelaterade sammanhang, vilket omfattar bilder tagna efter mastektomi och bilder avsedda att väcka medvetenhet om bröstcancer. Undantagen är ofta inte definierade eller bristfälligt definierade. Listan med undantag har dessutom växt betydligt med tiden och kan förväntas fortsätta växa i och med att uttrycken utvecklas. När det kommer till kvinnobröst bygger Metas regel om nakenhet och sexuell aktivitet hos vuxna på antagandet om att sådana avbildningar alltid skulle vara sexuella bilder. Den ständigt växande listan med undantag visar dock på att i många sammanhang som anges i policyn, så är bilder på kvinnobröst inte sexuellt antydande.

Det uppstår till och med frågor inom de olika undantagen. Undantaget gällande könsbekräftande kirurgi är till exempel särskilt viktigt för transpersoner och ickebinära användare, men Meta ger ingen förklaring av omfattningen för undantaget för könsbekräftande kirurgi i de offentligt publicerade reglerna. Det har lett till att många av kommentarerna från allmänheten uttrycker osäkerhet kring om foton före kirurgiska ingrepp (för att skapa före och efter-bilder) och bilder av transkvinnor som har fått bröstförstoringar kan ingå bland det innehåll som tillåts enligt undantaget. De interna riktlinjerna och de kända frågorna tydliggör att det undantaget är mer avgränsat än vad de offentligt publicerade reglerna kan tolkas avse.

Metas policyer utgår ifrån binära distinktioner mellan manligt och kvinnligt, och det skapar svårigheter när Meta försöker utforma sitt undantag för könsbekräftande kirurgi. I Metas svar till rådet förklarade företaget att undantaget för könsbekräftande kirurgi innebär att företaget tillåter ”nakna bröstvårtor på kvinnobröst innan personen på bilden genomgår bröstoperation för att ta bort sina bröst när innehållet delas i en explicit transsexuell (kvinna till man), ickebinär eller könsneutral kontext”. Regeln anger vidare att ”bröstvårtor på transkvinnor (man till kvinna) som har genomgått en bröstförstoring (bröstoperation) är förbjudna om det inte finns ärrbildning på bröstvårtan”.

De interna riktlinjerna för operationsärr och bröstvårtor är ännu mer invecklade. Reglerna för mastektomi tillåter till exempel ”Instanser när en bröstvårta rekonstruerats av annan vävnad eller markerats eller tatuerats dit” och ”instanser när ett bröst opererats bort även om kvinnans andra bröstvårta är synlig”. Än mer förvirrade är att regeln anger att ”Vid mastektomi innefattar ärrbildning avbildning av det område i vilket den borttagna bröstvävnaden tidigare fanns. Det faktiska operationsärret behöver inte synas”.

Granskarna har med sannolikhet stora svårigheter när de ska tillämpa regler som kräver att de snabbt bedömer könsspecifika egenskaper hos den avbildade personen för att avgöra om de ska tillämpa reglerna för bröstvårtor på kvinnobröst, och därefter personens könstillhörighet för att fastställa om några undantag kan gälla, och sedan bedöma om innehållet avbildar tiden före eller efter ett kirurgiskt ingrepp, vilket kirurgiskt ingrepp det rör sig om och omfattningen och typen av synliga ärr för att fastställa om andra undantag kan gälla. Samma bild på en kvinnas bröstvårtor skulle förbjudas om den publicerades av en ciskvinna, men tillåtas om den publicerades av en person som identifierar sig som ickebinär. Rådet noterar också ytterligare bröstvårterelaterade undantag i samband med protester, förlossningar, efter förlossningar och amning. Dessa har inte undersökts här, men de måste också utvärderas och innefattar troligen ytterligare interna kriterier.

Med tanke på vikten av rätten att uttrycka sig gällande kön och genus, fysisk hälsa och förlossningar och föräldraskap, skapar det befintliga komplexa lapptäcket av undantag onödig osäkerhet för användarna och risk för felaktigt tillämpade regler, vilket bevisas i det här ärendet. Den inneboende bristen på tydlighet i regeln skapar osäkerhet för användare och granskare och gör den oanvändbar. Enligt vad som diskuteras mer utförligt nedan anser rådet att Meta bör anta ett sätt att hantera nakenhet hos vuxna som säkerställer att alla människor behandlas lika utan åtskillnad utifrån kön eller könsidentitet.

II. Berättigat ändamål

Enligt artikel 19 i ICCPR får stater endast begränsa yttrandefriheten i syfte att uppnå berättigade ändamål, vilka anges vara: ”respekt för andras rättigheter eller rykte ... [och] skydd av nationell säkerhet och allmän ordning (ordre public), eller allmän hälsa och moral”. Det här beslutet undersöker Metas motiveringar för att begränsa yttrandefriheten i sina policyer utifrån dessa regler.

a. Kontaktsökande i sexuellt syfte

Meta förklarar i sin regel om kontaktsökande i sexuellt syfte att den är avsedd att förhindra att användare använder Facebook eller Instagram till att genomföra ”transaktioner som kan involvera trafficking, tvång och sexuella handlingar utan samtycke”, vilka skulle kunna äga rum utanför plattformen. Det är ett exempel på att skydda andras rättigheter, vilket är ett berättigat ändamål.

b. Nakenhet och sexuell aktivitet hos vuxna

Meta gav flera motiveringar för särskilda aspekter av regeln om nakenhet och sexuell aktivitet hos vuxna, bland annat handlade det om att förhindra spridningen av innehåll utan samtycke, skydda minderåriga när personens ålder är okänd och det faktum att ”vissa personer i vår community kan vara känsliga för den här typen av innehåll”. Meta gav också rådet en förklaring av företagets allmänna principer gällande nakenhet. Företaget uppger att ”När policyn togs fram beaktade Meta (1) bildernas privata eller känsliga natur, (2) om samtycke getts när nakenbilder tas eller delas, (3) risken för sexuellt utnyttjande, och (4) om visningen av bilderna kan leda till trakasserier utanför plattformen, särskilt i länder där sådana bilder kan vara stötande ur ett kulturellt perspektiv”.

De flesta av dessa målsättningar är förenliga med att skydda andras rättigheter. Metas motivering till att skydda ”samhällsnormer” förtjänar emellertid ytterligare granskning. Den motiveringen skulle kunna vara i enlighet med det berättigade ändamålet gällande ”den allmänna moralen”. Med det sagt noterar rådet att målsättningen att skydda ”den allmänna moralen” ibland har åberopats felaktigt av tillsynsmyndigheter för yttrandefrihetsfrågor för att kränka mänskliga rättigheter, särskilt tillhörande medlemmar av minoritetsgrupper och andra sårbara grupper. FN:s kommitté för mänskliga rättigheter har varnat för att ”konceptet om moral uppstår ur sociala, filosofiska och religiösa traditioner. Därför måste begränsningar ... vars syfte är att skydda moralen baseras på principer som inte enbart härrör från en enda tradition” (FN:s kommitté för mänskliga rättigheter, allmän kommentar 34).

Enligt människorättslagstiftningen kan allmän moral utgöra ett berättigat ändamål för begränsningar av yttrandefriheten för stater, och det förekommer begränsningar av nakenhet i det offentliga rummet runt om i världen, men i det här ärendets specifika kontext framhåller Meta framförallt andra målsättningar än ”samhällsnormer”. Meta uppgav att ”[ä]ven om [dess] regler för nakenhet är förenliga med skyddet av den allmänna moralen utgår [… de] inte slutgiltigt från det ändamålet eftersom normerna kring nakenhet ser så olika ut i olika kulturer och inte skulle kunna implementeras storskaligt”. Inom många folkgrupper och delar av världen kan till exempel avbildningar av nakna bröst på transpersoner och ickebinära personer mycket väl anses bryta mot samhällsnormer. Meta begränsar trots det inte den typen av uttryck. Dessutom oroas rådet av den kända och återkommande oproportionerliga begränsningen av yttrandefriheten som har erfarits av kvinnor, transpersoner och ickebinära personer på grund av Metas regler (se nedan). Av de orsakerna fokuserar rådet på de andra ändamålen vid sidan av ”samhällsnormer” som Meta har framfört i bedömningen av sitt ansvar gällande mänskliga rättigheter.

Det bör även nämnas att vissa av de skäl som Meta anger för sin regel om nakenhet speglar ett antagande om att kvinnors bröst till sin natur är sexuellt anspelande. Rådet tog emot kommentarer från allmänheten från många användare som uttryckte bekymmer över sexualiseringen av kvinnors, transpersoners och ickebinära personers kroppar, när ingen jämförbar sexualisering gäller för bilder av cismän. (Se till exempel kommentar 10624, som skickades in av InternetLab).

Rådet tog emot många kommentarer från allmänheten i det här ärendet via de normala processerna för att involvera allmänheten. I sin roll som ett organ som åtagit sig att tillhandahålla Metas användarbas och viktiga berörda parter ett medel för att utkräva ansvar beaktar rådet noga dessa kommentarer i sina överväganden. Som i alla ärenden är vi medvetna om att dessa kommentarer kanske inte är representativa för den globala opinionen. Rådet uppskattar de erfarenheter och den expertis som delas via kommentarerna och fortsätter att vidta åtgärder för att öka sin räckvidd till grupper som i dagsläget kanske inte deltar i den här processen.

Slutligen är rådet medvetet om att Meta på berättigad grund också kan ta hänsyn till vikten av att förhindra vissa typer av skada som kan ha könsbundna effekter. Som FN:s specialrapportör om våld mot kvinnor noterar är det ”viktigt att beakta att internet används i en bredare miljö för omfattande och systematisk strukturell diskriminering och könsbaserat våld mot kvinnor och flickor” (A/HRC/38/47). Vidare anger undersökningen att ”90 procent av de som faller offer för digital distribution av intima bilder utan samtycke är kvinnor”. (A/HRC/38/47). Meta bör sträva efter att begränsa könsbunden skada, både i verkställande i överkant och i verkställande i underkant av förbud mot nakenhet.

III. Nödvändighet och proportionalitet

Rådet anser att Metas policyer, som de är utformade och verkställda, omfattar mer innehåll än vad som är nödvändigt. Ingen av policyerna är proportionerlig i förhållande till de problem de är avsedda att hantera.

a. Kontaktsökande i sexuellt syfte

Definitionerna i regeln om kontaktsökande i sexuellt syfte av implicit ”erbjudande eller förfrågan” och sexuellt antydande poser är alltför omfattande och fångar upp en betydande mängd innehåll utan koppling till kontaktsökande i sexuellt syfte. Meta erkänner själva att det finns en risk för felaktigt verkställande och uppger att de är ”medvetna om att vissa innehållsgranskare felaktigt kan ta bort innehåll som underförstått kontaktsökande i sexuellt syfte (även om det inte är det) på grund av en alltför teknisk tillämpning av [företagets] interna vägledning för granskarna”. Meta menade vidare:

För närvarande anser vi, utifrån våra kända frågor, att delning, omnämnande eller tillhandahållande av kontaktuppgifter till sociala eller digitala identiteter kan vara ett underförstått erbjudande av eller en underförstådd förfrågan om sex. […] När vägledningen tillämpas kan det emellertid leda till verkställande i överkant i ärenden när en granskare till exempel uppfattar att en modell poserar på ett sexuellt antydande sätt (uppfyller kriteriet på ett ”sexuellt antydande element”) och modellen taggar fotografen för att ge denna erkännande för bilden (uppfyller kriteriet ”erbjudande eller förfrågan”). Den här typen av innehåll bryter inte mot reglerna eftersom det inte finns någon avsikt att erbjuda eller efterfråga sex, men det kan ändå tas bort (i motsats till vad regeln anger) eftersom det i övrigt uppfyller de två kriterier som anges ovan.

I en rapport om utbildning i den digitala miljön beskriver UNESCO risken med verkställande i överkant. I rapporten noteras det att ”strikta regler gällande delning av explicita bilder innebär att utbildningsmaterial som publiceras online till stöd för inlärning om kroppen eller sexuella relationer ibland kan misstas av moderatorer som olämpligt och explicit innehåll och därför tas bort från allmänna webbplattformar”. Rådet noterar också de många kommentarer från allmänheten som togs emot och som handlar om felaktiga borttaganden enligt regeln. Till exempel skriver ACON, (en ideell organisation som informerar om HIV i Australien) att innehåll som förde fram information om HIV-prevention på ett sexpositivt sätt och innehåll som informerade om utbildningstillfällen har tagits bort som kontaktsökande i sexuellt syfte. Det har lett till att organisationen valt att använda ett språk i sitt innehåll som gör att de undviker att det tas bort av Meta, istället för att välja det språk som är bäst för att nå ut till de grupper de vill nå (kommentar 10550). Liknande erfarenheter rapporteras av Joanna Williams, en forskare som fann att nio av de tolv organisationer inriktade på sexuell hälsa hon intervjuat uppgav sig ha påverkats negativt av Metas moderering på området (kommentar 10613).

b. Nakenhet och sexuell aktivitet hos vuxna

Utöver utmaningarna med att etablera verkställbara och skalbara regler baserade på Metas syn på kön och könsidentitet, vilket beskrivits ovan, anser rådet också att Metas regler om nakenhet hos vuxna medför oproportionerliga begränsningar på vissa typer av innehåll och uttryck. Enligt reglerna ska innehållet tas bort, men de målsättningarna som angetts för dem skulle kunna uppnås med mindre inskränkande åtgärder.

Meta använder sig redan av ett flertal olika verkställighetsåtgärder vid sidan av borttagande. En av dessa åtgärder är att lägga till varningsskärmar och åldersgränser för innehåll så att bara användare över 18 tillåts visa det. Sådana åtgärder används dessutom redan i företagets regel om nakenhet och sexuell aktivitet hos vuxna, bland annat för konstnärliga avbildningar av sexuell aktivitet. Meta kan även vilja använda sig av automatisk och manuell moderering för att göra mer avgränsade och kontextspecifika bedömningar av när kontexten för nakenheten verkligen är sexuell, oavsett vilket kön den kropp som avbildas har. Meta skulle också kunna använda sig av ett brett utbud av åtgärder för att begränsa synligheten för innehåll med nakenhet för användare som inte vill se det genom att ge användarna större kontroll. Meta har också ett flertal särskilt avsedda regler för frågor som företaget även behandlar via regeln om nakenhet (som reglerna för sexuellt utnyttjande av vuxna, sexuellt utnyttjande av barn, barnmisshandel och nakenbilder på barn) som skulle kunna stärkas.

Rådet noterar att Metas verkställighetsrutiner enligt rapportering leder till ett högt antal falska positiva träffar, eller felaktigt borttagande av innehåll som inte bryter mot reglerna. I Metas senaste verkställighetsrapport för communityregler för Instagram (april-juni 2022) visade det sig att 21 % av de överklaganden av borttaganden som gjorts utifrån regeln om nakenhet och sexuell aktivitet hos vuxna ledde till att innehållet återställdes. Rådet fick också ett stort antal kommentarer från allmänheten gällande innehållsborttagningar som felaktigt gjorts enligt regeln om nakenhet hos vuxna.

Likabehandling

Det finns tecken på att Metas policyer och verkställande gällande regeln om nakenhet och sexuell aktivitet hos vuxna kan leda till oproportionerligt stor påverkan för kvinnor och HBTQI+-personer. Denna påverkan avspeglas i både regel och verkställande och begränsar sätten på vilka grupper kan uttrycka sig, värja sig mot fördomar och öka sin synlighet i samhället.

Även om det här ärendet gäller transsexuella och ickebinära användare härrör verkställighetsfelen i det här ärendet från en underliggande policy som också påverkar kvinnor, särskilt i och med att Meta antar en princip om att vid osäkerhet utgå ifrån regler för kvinnor när det gäller naket innehåll. Därför behandlar det här avsnittet hur Metas policyer påverkar både HBTQI+-personer och kvinnor. Den stora mängd kommentarer från allmänheten som skickades in för det här ärendet gav många exempel på de effekter dessa policyer kan ha.

Rätten till yttrandefriheten garanteras alla människor utan åtskillnad på grund av ”kön” eller ”annan status” (artikel 2, paragraf 1, ICCPR). Det innefattar sexuell läggning och könsidentitet (Toonen v. Australia (1994), A/HRC/19/41, paragraf 7). FN:s kommitté för mänskliga rättigheter noterar i sin rättspraxis att ”inte alla differentieringar som baseras på de grunder som anges i artikel 26 i konventionen utgör diskriminering, så länge som de baseras på rimliga och objektiva kriterier och har ett ändamål som är berättigat enligt konventionen.” Nepomnyashchiy v Russia, FN:s kommitté för mänskliga rättigheter, 2018, paragraf 7.5 (CCPR/C/123/D/2318/2013).

Kvinnokonventionen (CEDAW) förbjuder ”varje åtskillnad, undantag eller inskränkning på grund av kön som har till följd eller syfte att begränsa eller utesluta erkännandet, åtnjutandet eller utövandet av mänskliga rättigheter och grundläggande friheter inom det politiska, ekonomiska, sociala, kulturella och civila området och alla andra områden för kvinnor […] baserat på principen om jämställdhet mellan män och kvinnor, ” (CEDAW, artikel 1). Rådet noterar att internationella människorättsorgan inte har behandlat effekterna på de mänskliga rättigheterna av att antingen tillåta eller förbjuda nakenhet hos vuxna som gett samtycke, och de diskriminerade effekter det kan leda till.

Enligt FN:s vägledande principer ska ”företag vara särskilt uppmärksamma på hur specifika mänskliga rättigheter påverkas för individer från grupper eller befolkningsgrupper som kan vara extra sårbara eller löpa högre risk för marginalisering” (UNGP, princip 18 och 20). Specialrapportören för yttrandefrihet har uppmanat techbolag att ”aktivt identifiera och beakta de problem grupper som historiskt riskerat att censureras och diskrimineras omfattas av” (A/HRC/38/35, paragraf 48). FN:s arbetsgrupp om företag och mänskliga rättigheter har också rekommenderat att techbolag säkerställer att ”artificiell intelligens och automatisering inte ger oproportionerlig negativ påverkan på de mänskliga rättigheterna för kvinnor” (Gender Dimensions Handbook).

Givet hur viktiga de sociala mediernas plattformar är som en plats där personer som utsätts för diskriminering kan uttrycka sig, har rådet konsekvent uttryckt en förväntan på att Meta ska vara särskilt lyhörd för risken för felaktigt borttagande av innehåll från, om eller som avbildar medlemmar av sådana grupper. Som rådet noterade i beslutet om wampumbältet (2021-012-FB-UA) gällande urfolks konstnärliga uttryck räcker det inte att utvärdera hur Meta verkställer Facebooks policy om hatretorik för alla användare. Det är också viktigt att titta på hur specifika grupper påverkas. Påminnande om det är hur rådet i ärendet ”Återtagande av arabiska ord” bekräftade att ”moderering i överkant av uttryck från användare som tillhör minoritetsgrupper som utsätts för diskriminering är ett allvarligt hot mot deras yttrandefrihet” och uttryckte oro över hur undantag i Metas regler (i det ärendet gällde det regeln om hatretorik) användes på uttryck från marginaliserade grupper (2022-003-IG-UA).

Metas val leder till att kvinnor, transpersoner och ickebinära inte får samma uttrycksmöjligheter på företagets plattformar. I Metas nuvarande regel om nakenhet och sexuell aktivitet hos vuxna behandlas kvinnobröst och kvinnors bröstvårtor automatiskt som sexuella, och därmed föremål för förbud, med undantag för om de har eller ska genomgå kirurgiska ingrepp eller används vid amning. Istället för att vidta åtgärder för att säkerställa att censur inte har oproportionerligt stor påverkan på vissa grupper befäster Metas regel sådana effekter på dessa grupper.

De här ärendena belyser den oproportionerliga påverkan som Metas policyval har på personer som identifierar sig som HBTQI+, i och med att innehållet flera gånger identifierades av klassificeringen för regeln om nakenhet och sexuell aktivitet hos vuxna trots att det inte omfattades av regeln. Rådet anser att dessa ärenden tydligt visar på bredare problem. I studien från Haimson et al. fann man till exempel att transpersoner rapporterar om en hög andel innehåll och konton som tas bort, vanligen på grund av nakenhet och sexuellt innehåll.

Verkställandet av Metas policyval har också oproportionerligt stor inverkan på kvinnor. I en studie av Witt, Suzor och Higgins fann man att upp till 22 % av bilderna på kvinnors kroppar som togs bort från Instagram var tydliga falska positiva träffar. Effekterna av särskillnaden på kvinnors kroppar noterades även i kommentarer från allmänheten (se till exempel kommentar 10616 från Dr. Zahra Stardust).

Den här standardinställningen till nakenhet har också allvarliga effekter i sammanhang i vilka kvinnor traditionellt går barbröstade. FN:s specialrapportör om främjandet och skydd av rätten till åsikts- och yttrandefrihet har uppmanat företag att interagera med urfolk runt om i världen för att ”ta fram bättre indikatorer för att beakta kulturella och konstnärliga sammanhang i utvärderingen av material som innehåller nakenhet” (paragraf 54, A/HRC/38/35).

Förutom dessa policyrelaterade likabehandlingsproblem väckte dessa ärenden också uppmärksamhet kring verkställighetsrelaterade likabehandlingsproblem. Meta bör hålla i åtanke att innehåll från användare som tillhör marginaliserade grupper omfattas av högre risk för upprepade eller illasinnade anmälningar, när användare anmäler innehåll som inte bryter mot reglerna i syfte att förstöra för eller trakassera andra. De här frågorna lyftes också i flera kommentarer från allmänheten (se till exempel kommentar 10596 från GLAAD och kommentar 10628 från The Human Rights Campaign Foundation).

Dessa ärenden visar på att flera anmälningar som leder till flera granskningar kan öka sannolikheten för att innehåll tas bort av misstag. I ärendena ledde de flesta av anmälningarna från användare till manuella granskningar i vilka innehållet bedömdes vara enligt reglerna, men innehållet fortsatte att anmälas tills granskare felaktigt bedömde det som att det bröt mot reglerna och tog bort det.

Meta bör försöka ta fram och implementera policyer som bidrar till att mildra dessa problem. De skulle kunna inkludera mer enhetliga policyer för nakenhet utan åtskillnad beroende på kön eller könsidentitet. De skulle också kunna inkludera mer kontextbaserade bedömningar av vilket innehåll som är sexuellt, så länge som dessa bedömningar inte bygger på diskriminerande kriterier.

Rådet noterar att Meta har en särskild regel för hantering av intima bilder utan samtycke i sin regel om sexuellt utnyttjande av vuxna. Det här har varit ett område inom vilket företaget prioriterat verkställandet (se till exempel företagets införande av automatisk detekteringsteknik för att förhindra att bilder utan samtycke publiceras upprepat). När Meta överväger att förändra sitt sätt att hantera nakenhet på plattformen bör Meta grundligt undersöka i vilken grad regeln om nakenhet och sexuell aktivitet hos vuxna skyddar mot delning av bilder utan samtycke. Det kan hjälpa företaget att se om det kan behövas ändringar i regeln om sexuellt utnyttjande av vuxna eller i verkställandet av den för att stärka dess effektivitet.

Rådet inser också att Meta kan ha ett berättigat intresse av att begränsa sexuellt och pornografiskt innehåll på sin plattform. Rådet anser dock att de relevanta verksamhetsmålen kan och bör uppnås med metoder som gör att alla användare behandlas lika.

Vissa av rådets medlemmar anser att Meta bör försöka minska sina aktuella policyers diskriminerade effekter genom att anta en regel om nakenhet hos vuxna som inte bygger på köns- eller genusbaserade skillnader. De åberopade bestämmelserna i Kvinnokonventionen (CEDAW) om att motverka stereotypa könsroller (till exempel i artikel 5 och 10) och Metas uttalade åtagande gentemot CEDAW i sin företagspolicy avseende mänskliga rättigheter. Deras slutsats var att dessa internationella normer för mänskliga rättigheter och Metas eget åtagande gällande likabehandling ger stöd åt att stereotypa distinktioner i samband med regeln om nakenhet ska tas bort. Den här gruppen medlemmar anser att en övergång mot en policy som inte utgår ifrån skillnader mellan kön eller genus vore det bästa sättet för Meta att uppfylla sitt ansvar gällande mänskliga rättigheter med tanke på företagets värderingar och åtaganden. Dessa medlemmar noterar att normer och regler bör utvecklas för att komma till rätta med konventioner som har diskriminerade effekter, i och med att många former av diskriminering har varit eller fortfarande är allmänna sociala normer.

Det förekom viss oenighet mellan rådets medlemmar i dessa frågor. Några medlemmar höll principiellt med om att Meta inte bör utgå ifrån kön eller genus vid begränsning av uttryck, men var mycket skeptiska till Metas möjligheter att på ett effektivt sätt hantera intima bilder utan samtycke och annan potential skada utan en regel om nakenhet som tar hänsyn till kön och genus. Andra medlemmar i rådet anser att det inte krävs en köns- och genusneutral regel om nakenhet. Det i och med att tillämpliga normer för mänskliga rättigheter gällande likabehandling tillåter distinktioner på grundval av skyddade egenskaper så länge som de ”baseras på rimliga och objektiva kriterier och har ett ändamål som är berättigat enligt konventionen”, (Nepomnyashchiy v Russia, FN:s kommitté för mänskliga rättigheter, 2018, paragraf 7.5 (CCPR/C/123/D/2318/2013). Dessa medlemmar menar också att en sådan regel skulle kunna orsaka eller förvärra annan skada.

De rådsmedlemmar som ger sitt stöd åt en köns- och genusneutral regel om nakenhet hos vuxna är medvetna om att de internationella normerna för mänskliga rättigheter ger stater tillåtelse till distinktioner utifrån skyddade egenskaper när de är baserade på rimliga och objektiva kriterier och när de tjänar ett berättigat ändamål. Dessa medlemmar anser inte att de distinktioner som görs i Metas regel om nakenhet är förenliga med de normerna. De anser vidare att Meta som företag har gjort åtaganden gällande mänskliga rättigheter som är oförenliga med ett arbetssätt som begränsar uttryck online baserat på företagets syn på kön och genus.

Communityregeln om nakenhet och sexuell aktivitet hos vuxna har oproportionerliga konsekvenser för kvinnor och HBTQI+-personer och bygger på subjektiva och spekulativa uppfattningar om kön och genus som inte är tillämpbara vid storskalig innehållsmoderering. Utifrån ett större perspektiv rekommenderar rådet, utifrån osäkerheten kring reglerna och hur de ska verkställas, samt den oproportionerliga och diskriminerade påverkan av Metas nuvarande regel om nakenhet och sexuell aktivitet hos vuxna, att Meta definierar tydliga och objektiva kriterier som respekterar alla rättigheter, vilka ska reglera hela regeln om nakenhet hos vuxna. På så sätt säkerställs att alla människor behandlas i enlighet med de internationella normerna för mänskliga rättigheter, inklusive utan diskriminering på grund av kön eller könsidentitet. Meta bör först göra en omfattande bedömning av påverkan på mänskliga rättigheter för att granska vad införandet av sådana kriterier kan medföra. I det arbetet ingår brett inkluderande interaktion med berörda parter inom olika ideologiska, geografiska och kulturella kontexter. Om det i den bedömningen framgår att det finns risk för skada ska implementeringen av den nya policyn innefatta en plan för att förebygga sådan skada. Rådet vill ha in en rapport om bedömningen och planen inom sex månader från det här beslutets utfärdande.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut om att ta bort de båda inläggen och kräver att de återställs.

10. Rådgivande policyyttrande

Innehållspolicy

1. I syfte att se till att alla användare får en rättvis behandling och att moderatorer och allmänhet ges tillgång till en fungerande regel om nakenhet bör Meta definiera tydliga och objektiva kriterier som tar hänsyn till alla rättigheter, vilka ska reglera hela regeln om nakenhet och sexuell aktivitet hos vuxna. På så sätt säkerställs att alla människor behandlas i enlighet med de internationella normerna för mänskliga rättigheter, inklusive utan diskriminering på grund av kön eller könsidentitet. Meta bör först göra en omfattande bedömning av påverkan på mänskliga rättigheter för att granska vad införandet av sådana kriterier kan medföra. I det arbetet ingår brett inkluderande interaktion med berörda parter inom olika ideologiska, geografiska och kulturella kontexter. Om det i den bedömningen framgår att det finns risk för skada ska implementeringen av den nya policyn innefatta en plan för att förebygga sådan skada.

2. Meta bör öka tydligheten för användarna genom att ge dem en utförligare förklaring av vad som utgör ”ett erbjudande av eller en förfrågan om” sex (med länkar till externa webbplatser) och vad som utgör sexuellt antydande poser i de offentliga communityreglerna. Rådet anser rekommendationen vara implementerad när en förklaring av dessa termer, med exempel, har lagts till i communityregeln om kontaktsökande i sexuellt syfte.

Verkställighet

3. Meta bör säkerställa att de interna kriterierna för regeln om kontaktsökande i sexuellt syfte inte leder till att mer innehåll tas bort än den offentligt publicerade regeln anger och att innehåll som inte är sexuellt tas bort av misstag. Detta genom att granska sin interna vägledning till granskarna för att säkerställa att kriterierna återspeglar de offentligt publicerade reglerna och kräver en tydligare koppling mellan ”erbjudandet eller förfrågan” och det ”sexuellt antydande elementet”. Rådet anser detta vara implementerat när Meta tillhandahåller rådet de uppdaterade interna riktlinjerna som återger dessa omarbetade kriterier.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen, har gett expertis om sociopolitisk och kulturell kontext. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik.