Video med grovt innehåll från Sudan

Sammanfattning av ärendet

Tillsynsrådet fastställer Metas beslut att återställa ett inlägg på Facebook som avbildar våld mot en civilperson i Sudan. Innehållet väcker medvetenhet om brott mot de mänskliga rättigheterna och har stort allmänintresse. Rådet rekommenderar att Meta lägger till ett särskilt undantag för innehåll som syftar till att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter i communityregeln om våldsamt och grovt innehåll.

Om ärendet

Den 21 december 2021 hänsköt Meta ett ärende till rådet rörande en grov video som till synes avbildade ett civilt offer för våld i Sudan. Innehållet publicerades på användarens profilsida på Facebook efter militärkuppen i landet den 25 oktober 2021.

Videon visar en person med en allvarlig skallskada och ett synligt avslitet öga, vilken ligger på gatan bredvid en bil. Röster i bakgrunden säger på arabiska att någon har blivit misshandlad och lämnats kvar på gatan. En bildtext, även den på arabiska, uppmanade människor att gå samman och att inte lita på militären, med hashtaggar som hänvisade till dokumentering av militära övergrepp och civil olydnad.

Efter att ha identifierats av Metas automatiska system och granskats av en manuell granskare togs inlägget bort för brott mot Facebooks communityregel om våldsamt och grovt innehåll. När användaren hade överklagat beslutet utfärdade Meta den 29 oktober 2021 ett tillstånd enligt principen om att tillåta innehåll med nyhetsvärde som undantog inlägget från borttagande. På grund av bristande intern kommunikation återställde Meta inte innehållet förrän nästan fem veckor senare. När Meta återställde inlägget lade företaget till en varningsskärm för videon.

Viktiga noteringar

Rådet håller med om Metas beslut att återställa innehållet på Facebook med en varningsskärm. Metas regel om våldsamt och grovt innehåll är emellertid otydlig när det gäller hur användare kan dela grovt innehåll för att väcka medvetenhet om eller dokumentera övergrepp.

Motiveringen till communityregeln, i vilken målsättningen för regeln anges, är inte förenlig med bestämmelserna i communityregeln. Medan motiveringen till regeln anger att Meta tillåter användare att publicera grovt innehåll ”för att hjälpa människor att väcka medvetenhet” om brott mot mänskliga rättigheter, förbjuder regeln i sig alla videor (oavsett om de delas för att väcka medvetenhet eller inte) ”som visar personer eller döda kroppar i icke-medicinska sammanhang om de visar stympning”.

Rådet kommer även till slutsatsen att principen om att tillåta publicering av innehåll med nyhetsvärde, även om den användes i detta ärende, inte är ett effektivt medel för att tillåta denna typ av innehåll på Facebook i större skala. Meta förklarade för rådet att företaget hade ”dokumenterat 17 undantag baserat på nyhetsvärde i samband med regeln om våldsamt och grovt innehåll under de senaste 12 månaderna (12 månader fram till den 8 mars 2022). Innehållet i det här ärendet är ett av de 17 undantagen”. Som en jämförelse tog Meta bort 90,7 miljoner innehåll enligt denna communityregel under de första tre kvartalen 2021.

Rådet finner det inte troligt att det under ett helt år endast skulle ha tillåtits ligga kvar 17 innehåll kopplade till den regeln på plattformen till följd att de hade nyhetsvärde och var av allmänintresse. I syfte att säkerställa att sådant innehåll tillåts på Facebook rekommenderar rådet att Meta ändrar communityregeln om våldsamt och grovt innehåll så att den tillåter videor med människor eller döda kroppar när de delas för att väcka medvetenhet eller dokumentera övergrepp.

Meta måste också ha beredskap att svara snabbt och systematiskt på konflikter och krissituationer i världen. I rådets beslut om avstängningen av den tidigare presidenten Donald Trump gavs rekommendationen att Meta skulle utveckla och publicera en regel som reglerar hur Facebook ska svara i krissituationer. Även om rådet välkomnar utvecklingen av den rutin som Meta säger sig ha infört måste företaget implementera rutinen snabbare och ge så mycket information som möjligt om hur den ska fungera.

Tillsynsrådets beslut

Tillsynsrådet fastställer Metas beslut att återställa inlägget med en varningsskärm som förhindrar att minderåriga ser innehållet.

Följande rekommenderas i rådets uttalande till Meta:

• justera communityregeln om våldsamt och grovt innehåll så att den tillåter videor av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter. Sådant innehåll ska tillåtas ihop med en varningsskärm så att människor uppmärksammas på att innehållet kan vara upprörande.
• starta en process för regelutveckling för att ta fram kriterier för att identifiera videor med bilder av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter
• ange, i beskrivningen av principen om att tillåta publicering av innehåll med nyhetsvärde, alla de åtgärder företaget kan vidta (till exempel återställning med en varningsskärm) baserat på denna princip
• meddela användare när företaget vidtar åtgärder mot deras innehåll baserat på principen om att tillåta publicering av innehåll med nyhetsvärde, inklusive återställning av innehåll eller införande av en varningsskärm. Meddelandet till användaren kan länka till Transparenscentrets förklaring av principen om att tillåta publicering av innehåll med nyhetsvärde.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständig beslut i ärendet

1. Sammanfattning av beslutet

Tillsynsrådet fastställer Metas beslut att återställa ett inlägg på Facebook, vilket innehåller en video och bildtext, som visar våld mot en civilperson i Sudan. Inlägget återställdes enligt principen om att tillåta publicering av innehåll med nyhetsvärde med en varningsskärm som markerade innehållet som känsligt, vilket gjorde det allmänt oåtkomligt för minderåriga och innebar att alla andra användare måste klicka sig vidare för att se innehållet. Rådet finner att innehållet, som syftade till att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter, var av stort allmänintresse. Även om det inledande borttagandet av innehållet var i enlighet med reglerna i communityregeln om våldsamt och grovt innehåll så var Metas beslut att återställa innehållet med en varningsskärm i enlighet med företagets policyer, värderingar och ansvar för mänskliga rättigheter.

Rådet noterar emellertid att Metas användning av principen om att tillåta publicering av innehåll med nyhetsvärde inte är ett effektivt medel för att behålla eller återställa innehåll som det här i större skala. Därför rekommenderar rådet att Meta lägger till ett specifikt undantag i communityregeln om våldsamt och grovt innehåll när det gäller att väcka medvetenhet om eller att dokumentera övergrepp. Rådet uppmanar även Meta att prioritera implementeringen av rådets tidigare rekommendation om att införa en policy om insamling, bevarande och delning av innehåll som kan utgöra bevis på brott mot internationell lag.

2. Beskrivning av och bakgrund till ärendet

Den 21 december 2021 hänsköt Meta ett ärende till rådet rörande en grov video som till synes avbildade ett civilt offer för våld i Sudan. Innehållet publicerades på användarens profilsida på Facebook den 26 oktober 2021 efter en militärkupp i landet den 25 oktober 2021 och början på protesterna mot militärens maktövertagande.

Videon visar en person som har en allvarlig skallskada och ett synligt avslitet öga, vilken ligger på gatan bredvid en bil. Röster i bakgrunden säger på arabiska att någon har blivit misshandlad och lämnats kvar på gatan. Inlägget inkluderar en bildtext, även den på arabiska, som uppmanar människor att gå samman och att inte lita på militären, med hashtaggar som hänvisar till dokumentering av militära övergrepp och civil olydnad.

Meta förklarade att företagets teknik hade identifierat innehållet som att det kanske bröt mot communityregeln om våldsamt och grovt innehåll. Detta samma dag som innehållet publicerades, den 26 oktober 2021. Efter manuell granskning fastställde Meta att innehållet bröt mot Facebooks communityregel om våldsamt och grovt innehåll, och tog bort det. Innehållets skapare överklagade sedan beslutet. Den 28 oktober 2021 eskalerades innehållet för ytterligare granskning av policy- och ämnesexperter. Efter granskningen utfärdade Meta den 29 oktober 2021 ett tillstånd baserat på principen om att tillåta publicering av innehåll med nyhetsvärde, vilket undantog inlägget från borttagande enligt regeln om våldsamt och grovt innehåll. På grund av bristande intern kommunikation återställde Meta emellertid inte innehållet förrän den 2 december 2021, nästan fem veckor senare. När företaget återställde innehållet placerade de även en varningsskärm på videon med en markering om att den är känslig. Användarna blev då tvungna att klicka sig förbi den för att kunna se innehållet. Varningsskärmen förbjuder användare under 18 år att titta på videon.

Inlägget visades färre än 1 000 gånger och inga användare anmälde innehållet.

Följande faktabakgrund är relevant för rådets beslut. Efter det att militären störtade den civila regeringen i Sudan i oktober 2021 och vid början på de civila protesterna avfyrade landets säkerhetsstyrkor skarp ammunition, använde tårgas mot och arresterade och fängslade demonstranter godtyckligt. Detta enligt FN:s högkommissarie för mänskliga rättigheter. Säkerhetsstyrkor har också sökt upp journalister och aktivister, och genomsökt deras hem och arbetsplatser. Journalister har angripits, arresterats och fängslats.

Experter som rådet har rådfrågat menar att det militära övertagandet av kontrollen över statliga media, och militärens tillslag mot sudanesiska tidningar och sändare har gjort att sociala medier blivit centrala informationskällor och platser för att dokumentera det våld militären utövar. Militären stängde ned internet samtidigt som arresteringen av de folkvalda ledarna den 25 oktober 2021, och sedan dess har det förekommit regelbundna avbrott i internetåtkomsten i landet.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska de beslut som Meta skickar in för granskning (stadgans artikel 2, avsnitt 1, artikel 2, avsnitt 2.1.1 i regelverket). Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta uttalanden med råd om riktlinjer med icke-bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4).

4. Källor som ligger till grund för beslutsfattandet

Tillsynsrådet utgick ifrån följande källor i sitt beslut:

I.Tillsynsrådets beslut:

I tidigare beslut har rådet övervägt och gett rekommendationer om Metas policyer och processer. Några av de mest relevanta är:

• Beslut i ärende 2021-010-FB-UA (om protester i Colombia): I det här ärendet noterar rådet att Meta inte gör sina kriterier för eskalering av innehåll som ska granskas utifrån principen om att tillåta publicering av innehåll med nyhetsvärde (vilket är det enda sättet för regeln att tillämpas) offentligt tillgängliga och menar att ”i en miljö där kanalerna för politiskt uttryck är begränsade har sociala medier bidragit med en plattform där alla människor, inklusive journalister, kan dela information om protesterna”. Rådet rekommenderade att Meta ska ”utveckla och publicera tydliga kriterier för innehållsgranskare när det gäller att eskalera innehåll med allmänintresse för ytterligare granskning ... Dessa kriterier bör omfatta innehåll som visar stora protester mot politiska frågor, särskilt i sammanhang där stater anklagas för att bryta mot de mänskliga rättigheterna och där det är synnerligen viktigt att bevara offentliga uppgifter om händelser.”
• Beslut i ärende 2021-001-FB-FBR (avstängningen av tidigare presidenten Trump): I det här ärendet rekommenderar rådet att Meta bör ”utveckla och publicera en policy som reglerar Facebooks agerande vid kriser och i nya situationer i vilka dess vanliga processer inte kan förhindra eller undvika nära förestående skada”. I januari 2022 anordnade Meta ett policyforum om rutiner i krissituationer som utvecklats till svar på rådets rekommendation. Meta bekräftade emellertid i ett av sina svar på frågorna rådet ställde att denna rutin inte tagits fram vid tidpunkten för kuppen i Sudan och de påföljande besluten om att ta bort och sedan återställa innehållet i det här ärendet.

II.Metas innehållspolicyer:

Facebooks communityregler:

Enligt motiveringen till regeln om våldsamt och grovt innehåll uppger Meta att de tar bort innehåll som ”förhärligar våld eller firar lidande” men tillåter grovt innehåll för att ”hjälpa människor väcka medvetenhet”. Policyns regler förbjuder publicering av ”videor med personer eller döda kroppar i icke-medicinska sammanhang om de visar stympning”. Enligt principen om att tillåta publicering av innehåll med nyhetsvärde tillåter Meta innehåll som bryter mot reglerna på sina plattformar om det har nyhetsvärde och ”om det ligger i allmänhetens intresse att det är synligt”.

III. Metas värderingar:

Metas värderingar återfinns i introduktionen till Facebooks communityregler. De värderingar som är relevanta för det här ärendet är ”Röst”, ”Säkerhet”, ”Sekretess” och ”Värdighet”. Värderingen Röst, det vill säga yttrandefriheten, beskrivs vara av yttersta vikt:

Målet med våra communityregler har alltid varit att skapa en plats för uttryck och göra det möjligt för människor att göra sina röster hörda. [Vi vill att] människor ska kunna tala öppet om de frågor som är viktiga för dem, även om vissa inte håller med eller finner åsikterna förkastliga.

Meta begränsar rätten att uttrycka sig baserat på fyra värderingar och tre är relevanta här.

Säkerhet: Innehåll som hotar människor kan skrämma, utesluta eller tysta andra och är inte tillåtet på Facebook.

Sekretess: Vi har åtagit oss att skydda personlig integritet och personlig information. Sekretess ger människor friheten att vara sig själva och välja hur och när de vill dela på Facebook och lättare få kontakt.

Värdighet: Vi anser att alla människor har samma värdighet och rättigheter. Vi förväntar oss att människor respekterar andras värdighet och inte trakasserar eller förnedrar andra.

IV: De internationella normerna för mänskliga rättigheter:

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om mänskliga rättigheter i det här ärendet utgår ifrån följande normer för mänskliga rättigheter:

• Rätten till yttrandefrihet, inklusive möjligheten att söka efter och få information: Artikel 19 i FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011. Följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/73/348 (2018).
• Barnets bästa: artikel 13 och 17, barnkonventionen (CRC). Allmän kommentar nr 25, FN:s barnrättskommitté, 2021, om barns rättigheter i digitala miljöer.
• Rätten till privatliv: Artikel 17, ICCPR,
• Tillgång till ett effektivt rättsmedel: Artikel 2, ICCPR, allmän kommentar nr 31, FN:s kommitté för mänskliga rättigheter, (2004). UNGPs, princip 22, 29, 31.

5. Framställningar från användaren

När Meta hade hänskjutit frågeställningen och rådet hade beslutat sig för att ta upp ärendet skickades ett meddelande till användaren om rådets granskning och vederbörande fick möjlighet att skicka in ett uttalande till rådet. Användaren skickade inte in något uttalande.

6. Metas framställningar

I sitt hänskjutande uppgav Meta att beslutet gällande innehållet var svårt att fatta eftersom det belyser spänningen mellan allmänhetens intresse av att brott mot mänskliga rättigheter dokumenteras och risken för skada som är kopplad till delning av sådant grovt innehåll. Meta betonade även vikten av att låta användare dokumentera brott mot mänskliga rättigheter under en statskupp och när internetåtkomsten i landet har stängts ned.

Meta informerade rådet om att företaget omedelbart efter militärkuppen i Sudan skapade ett krishanteringsteam bestående av personer med kunskaper inom olika ämnesområden, vilket fick i uppgift att övervaka situationen och kommunicera framväxande trender och risker. Enligt Meta observerade detta team ”ett ökat antal anmälningar mot innehåll som visade grovt våld och uppvigling de tider som protesterna var som aktivast. [Teamet] instruerades att eskalera begäranden om att tillåta förekomster av grovt våld som annars skulle bryta mot regeln om grovt och våldsamt innehåll, inklusive innehåll som visade statligt sanktionerade brott mot de mänskliga rättigheterna”.

Meta noterade att den här videon granskats utifrån kontexten av de omfattande protesterna och inskränkningarna av pressfriheten i Sudan. Meta noterade också att denna typ av innehåll kunde ”varna användare i området för ett hot mot deras säkerhet och var särskilt viktigt under en nedstängning av internet under vilken journalisternas åtkomst till platsen kunde vara begränsad.”

Meta uppgav också att beslutet att återställa innehållet var förenligt med företagets värderingar, och särskilt med värderingen ”Röst”, vilken är av särskilt stor vikt. Meta citerade tidigare beslut som rådet fattat i vilka det anges att politiska uttalanden är centrala för värderingen ”Röst”. Ärendebeslut 2021-010-FB-UA (om protester i Colombia), 2021-003-FB-UA (om hotet mot sikherna från RSS i Indien), 2021-007-FB-UA (om ett burmesiskt inlägg om Kina) och 2021-009-FB-UA (om ett delat Al Jazeera-inlägg).

Meta förklarade för rådet att företaget fastslagit att dess första beslut om att ta bort innehållet inte var förenligt med artikel 19 i konventionen om medborgerliga och politiska rättigheter (ICCPR), och särskilt principen om nödvändighet. Därför återställde företaget innehållet i enlighet med principen om att tillåta publicering av innehåll med nyhetsvärde. När innehållet hade återställts begränsade Meta åtkomsten till det till personer över 18 och lade till en varningsskärm. Detta för att minska risken för skada med att låta det grova innehållet ligga kvar på plattformen. Meta noterade också i sin ärendemotivering att beslutet att återställa innehållet var förenligt med rapporten från FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet, och särskilt ”rätten att komma åt information om brott mot mänskliga rättigheter”.

Meta noterade också att i och med att företaget lade till en varningsskärm som inte låter användare under 18 att se innehållet hade företaget också beaktat beslutets effekter på barnets rättigheter. Meta informerade rådet om att företaget i sitt beslut tagit hänsyn till artikel 13 i barnkonventionen och allmän kommentar nr 25, om barns rättigheter i digitala miljöer, när det gäller att skydda barnets rätt till yttrandefrihet, inklusive ”friheten att söka efter, ta emot och kommunicera information och idéer av alla de slag, utan hänsyn till gränser”. Meta förklarade i sin ärendemotivering att beslutet att begränsa visningen av innehållet till vuxna tjänade det berättigade ändamålet att skydda minderårigas säkerhet och var proportionerligt för ändamålet.

Rådet ställde 21 frågor till Meta. Meta gav 17 fullständiga och 4 partiella svar. De partiella svaren handlade om frågor om att mäta Metas automatiska systems påverkan på innehåll på plattformen och varför communityregeln om våldsamt och grovt innehåll inte innehåller ett undantag för innehåll som väcker medvetenhet.

7. Kommentarer från allmänheten

Rådet fick in fem kommentarer från allmänheten angående ärendet. Två kommentarer kom från Europa, en från Afrika söder om Sahara och två från USA och Kanada.

Kommentarerna handlade om följande ämnen: behovet av att införa en metod som tar större hänsyn till sammanhanget, vilket skulle höja tröskeln för borttagande av innehåll i områden där det råder beväpnad konflikt och göra att färre innehåll tas bort, behovet av att bevara material för eventuella framtida utredningar eller för att ställa personer som gör sig skyldiga till brott mot de mänskliga rättigheterna till ansvar, och att principen om att tillåta publicering av innehåll med nyhetsvärde riskerar att tillämpas på ett improviserat och tveksamt sätt och att företaget bör se över detta arbetssätt.

Som en del av de fortlöpande samtalen med berörda parter talade rådet i mars 2022 med cirka 50 representanter för intresseorganisationer och enskilda individer som arbetar med att rapportera och dokumentera brott mot mänskliga rättigheter, med akademiker som forskar inom ämnena mänskliga rättigheter och dokumentation och med berörda parter med ett intresse av att samarbeta med rådet kring frågor som väcks i samband med communityregeln om våldsamt och grovt innehåll och dess verkställighet i samband med kriser och protester. Dessa samtal omfattas av regeln Chatham House Rule, vilken syftar till att säkerställa öppna samtal och skydda deltagarna. Diskussionen behandlade ett antal ämnen, bland annat den viktiga roll sociala medier spelar i länder som kontrolleras av repressiva regimer när det gäller att dokumentera brott mot mänskliga rättigheter och uppmärksamma internationella medier och allmänheten på statligt sanktionerat våld. I diskussionen lyftes också allmänna farhågor för att en global regel om våldsamt och grovt innehåll i praktiken är en regel som är utformad för förhållandena i USA. Vidare observerades det att användningen av varningsskärmar är ett användbart sätt att hantera risken för att utsätta användare för traumatiska upplevelser, även om vissa organisationer rapporterade att varningsskärmar kan begränsa innehållets räckvidd.

Om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8. Tillsynsrådets analys

Rådet undersökte huruvida innehållet borde tillåtas ligga kvar på plattformen ur tre synvinklar: Metas innehållspolicyer, företagets värderingar och företagets ansvar för mänskliga rättigheter.

8.1. Efterlevnad av Metas innehållspolicyer

I.Regler för innehåll

Rådet bifaller Metas beslut om att återställa innehållet på plattformen med en varningsskärm och åldersbegränsning, men noterar att Metas innehållspolicyer är otydliga och att det saknas ett effektivt sätt att implementera detta svar på liknande innehåll i större utsträckning.

Metas ursprungliga beslut om att ta bort innehållet var förenligt med reglerna i communityregeln om våldsamt och grovt innehåll. Innehållet bröt mot regeln genom att avbilda stympning (en person med en allvarlig skallskada och ett synligt avslitet öga). I motiveringen till communityregeln om våldsamt och grovt innehåll står det emellertid att ”[Meta] tillåter grovt innehåll (med vissa begränsningar) för att hjälpa människor väcka medvetenhet om problem. [Meta] vet att människor värdesätter möjligheten att diskutera viktiga frågor som brott mot mänskliga rättigheter eller terrorism”. Trots denna text i motiveringen till regeln finns det inte något undantag för att väcka medvetenhet i de specifika reglerna i communityregeln. I Metas interna regler för granskare finns det inte heller något undantag för innehåll vars syfte är att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter.

I och med att det saknas ett specifikt undantag i communityregeln håller rådet med om Metas beslut att återställa innehållet utifrån principen om att tillåta publicering av innehåll med nyhetsvärde. Meta uppger att företaget tillåter att innehåll som bryter mot reglerna får vara kvar på plattformen enligt principen om att tillåta publicering av innehåll med nyhetsvärde om företaget fastställer att det har nyhetsvärde och att ”det ligger i allmänhetens intresse att det är synligt [och det] efter att ha utfört ett test där vi väger allmänhetens intresse mot risken för skada”.

II.Verkställighetsåtgärder

Rådet noterar att även om Meta den 29 oktober 2021 beslutade att utfärda ett undantag enligt principen om att tillåta publicering av innehåll med nyhetsvärde och att återställa inlägget med en varningsskärm, så återställdes inte inlägget på plattformen förrän närmare fem veckor senare, den 2 december 2021. Meta uppgav att kommunikationen om det slutliga beslutet om innehållet fördes utanför de vanliga verktygen för eskalering vilket ledde till att lämpliga åtgärder gällande innehållet försenades. Rådet finner denna förklaring och förseningen extremt oroande och betonar vikten av att Meta vidtar åtgärder i god tid när det gäller beslut som detta, i kontexten av samhällskris och allvarliga inskränkningar av pressfriheten. När Meta tog bort innehållet tillämpade företaget en 30 dagar lång funktionsbegränsning som hindrade användaren att skapa nytt innehåll. Detta under en period när demonstranter och journalister som rapporterade om kuppen och militärens tillslag möttes av allvarligt våld och förtryck.

8.2. Efterlevnad av Metas värderingar

Rådet finner att det var förenligt med Metas värderingar ”Röst” och ”Säkerhet” att låta innehållet ligga kvar på plattformen med en varningsskärm.

Rådet inser hur viktiga värderingarna ”Värdighet” och ”Sekretess” är när det gäller att skydda offer för brott mot mänskliga rättigheter. Innehållet påverkar värdigheten och sekretessen för den skadade personen i videon och dennas familj. Den avbildade personen kan identifieras och denna eller dennas familj och anhöriga kanske inte hade önskat att denna typ av bilder på dem skulle sändas.

Rådet noterar också relevansen för värderingen ”Säkerhet” i detta sammanhang, vilken syftar till att skydda användare från innehåll som medför ”risk att skada personers fysiska säkerhet”. Å ena sidan ville användaren väcka medvetenhet om den pågående kuppen, vilket kunde bidra till att öka säkerheten för personer i området. Å andra sidan kunde innehållet också skapa risker för personen som visas i videon och för dennas familj.

Rådet finner att i en kontext där staten inskränker det offentliga rummet och pressfriheten, får värdering ”Röst” ännu större vikt. I en sådan kontext bidrar värderingen ”Röst” till att trygga värderingen ”Säkerhet” genom att se till att människor har åtkomst till information och rapportera om det statligt sanktionerade våldet.

8.3. Efterlevnad av Metas ansvar för mänskliga rättigheter

Rådet finner att det är förenligt med Metas ansvar för mänskliga rättigheter att behålla innehållet på plattformen med en varningsskärm. Rådet finner emellertid att Metas policyer bör justeras så att de bättre respekterar rätten till yttrandefrihet för användare som vill väcka medvetenhet om och dokumentera övergrepp.

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19 i konventionen om medborgerliga och politiska rättigheter (ICCPR) ger ett brett skydd för yttrandefriheten, inklusive rätten att söka efter och få information. Rätten kan dock begränsas under vissa specifika förutsättningar. Dessa är även kända som de tre villkoren, vilka är laglighet (tydlighet), berättigat ändamål och nödvändighet och proportionalitet. ICCPR medför visserligen inte krav på Meta på samma sätt som på stater. Meta har dock förbundit sig att respektera mänskliga rättigheter på det sätt som definieras i FN:s vägledande principer. Detta åtagande omfattar internationellt erkända mänskliga rättigheter enligt definitionen i bland annat ICCPR.

I. Laglighet (reglernas tydlighet och tillgänglighet)

Eventuella begränsningar av yttrandefriheten ska vara tillräckligt lättillgängliga och tydliga att de kan ge vägledning angående vad som är tillåtet och vad som inte är det. Rådet finner att det inte anges tydligt i communityregeln om våldsamt och grovt innehåll hur Meta tillåter användare att dela grovt innehåll för att väcka medvetenhet om eller dokumentera övergrepp. Motiveringen till communityregeln, i vilken målsättningen för regeln anges, är inte förenlig med bestämmelserna i communityregeln. I motiveringen till regeln anges det att Meta tillåter användare att publicera grovt innehåll ”för att hjälpa människor att väcka medvetenhet” om brott mot mänskliga rättigheter, men samtidigt förbjuder regeln alla videor (oavsett om de delas för att väcka medvetenhet eller inte) ”med personer eller döda kroppar i icke-medicinska sammanhang om de visar stympning”. Även om Meta helt rätt återställde innehållet utifrån den bredare principen om att tillåta publicering av innehåll med nyhetsvärde, tydliggör communityregeln om våldsamt och grovt innehåll inte huruvida denna typ av innehåll ska tillåtas på plattformen.

Rådet slår också fast att principen om att tillåta publicering av innehåll med nyhetsvärde inte tydligt anger när innehåll som dokumenterar övergrepp och brott mot mänskliga rättigheter gagnas av principen. Även om vi håller med Meta om att fastställande av nyhetsvärde kan vara något ytterst subjektivt så definieras termen inte ens i regeln i fråga. I regeln anges det att företaget tilldelar ”särskilt värde åt innehåll som lyfter förestående hot mot allmänhetens hälsa eller säkerhet eller som ger röst åt perspektiv som för närvarande debatteras som en del av en politisk process”. Tydliga exempel och principer bör vägleda den oberoende bedömningen när principen ska tillämpas. Utan sådana blir användningen med sannolikhet inkonsekvent och godtycklig. Dessutom nämner principen om att tillåta publicering av innehåll med nyhetsvärde inte användning av varningsskärmar för innehåll som i övrigt bryter mot Metas regler.

Slutligen rekommenderade rådet i ett tidigare ärende (om protester i Colombia) att Meta skulle ”utveckla och publicera tydliga kriterier för innehållsgranskare när det gäller att eskalera innehåll med allmänintresse för ytterligare granskning”. Meta svarade att de redan hade publicerat kriterierna för eskalering i en artikel om nyhetsvärde i Transparenscentret. I den artikeln ligger emellertid fokus på de faktorer Meta utgår ifrån när de tillämpar principen om att tillåta publicering av innehåll med nyhetsvärde och inte på de kriterier moderatorerna ska utgå ifrån när de ska eskalera innehåll (dvs. skicka vidare det för ytterligare granskning). Om principen om att tillåta publicering av innehåll med nyhetsvärde är ämnad att ingå i företagets bredare system för innehållsmoderering, borde det finnas processer för eskalering och användning till hjälp för den målsättningen. Rådet noterar att bristen på tydlighet kring när och hur principen om att tillåta publicering av innehåll med nyhetsvärde ska tillämpas kan leda till att principen används godtyckligt.

II. Berättigat ändamål

Begränsningar av yttrandefriheten ska syfta till att uppnå ett berättigat ändamål, vilket omfattar skyddet av andras rättigheter, till exempel den avbildade personens rätt till privatliv (allmän kommentar 34, paragraf 28) och rätten till fysisk integritet. Meta noterar också i motiveringen till regeln att innehåll som glorifierar våld eller firar andras lidande eller förnedring kan skapa en miljö som avskräcker från deltagande. Rådet håller med om att communityregeln om våldsamt och grovt innehåll syftar till att uppnå flera berättigade ändamål.

III. Nödvändighet och proportionalitet

Begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen [och] de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar 34, par. 34)

I det här ärendet finner rådet att det var en nödvändig och proportionerlig begränsning av yttrandefriheten att placera en varningsskärm över innehållet. Varningsskärmen är inte onödigt betungande för de som vill se innehållet och informerar samtidigt andra om innehållets typ så att de kan avgöra om de vill se det eller inte. Varningsskärmen ger också ett adekvat skydd för värdigheten för den avbildade personen och dess familj.

Rådet noterar också, vilket diskuteras i avsnitt 8.1, att Metas återställande av inlägget försenades med nästan fem veckor. Denna försening hade en oproportionerligt stor påverkan på yttrandefriheten med tanke på de pågående våldsamheterna och begränsningarna av medierna i Sudan. En försening av denna längd undergräver fördelarna med innehållet, vilka är att varna civilbefolkningen och väcka medvetenhet.

Rådet slår också fast att eftersom principen om att tillåta publicering av innehåll med nyhetsvärde inte används konsekvent, är det inte en effektiv mekanism för att i större omfattning tillåta innehåll som dokumenterar övergrepp eller syftar till att väcka medvetenhet på plattformen. Meta förklarade för rådet att företaget hade ”dokumenterat 17 undantag baserat på nyhetsvärde i samband med regeln om våldsamt och grovt innehåll under de senaste 12 månaderna (12 månader fram till den 8 mars 2022). Innehållet i det här ärendet är ett av de 17 undantagen”. Som en jämförelse tog Meta bort 90,7 miljoner innehåll enligt denna communityregel under de första tre kvartalen 2021. Rådet finner det inte troligt att det under ett helt år och globalt endast skulle ha tillåtits ligga kvar 17 innehåll kopplade till den regeln på plattformen till följd att de hade nyhetsvärde och var av allmänintresse. Principen om att tillåta publicering av innehåll med nyhetsvärde tillhandahåller inte en adekvat mekanism för bevarande av innehåll av den här typen på plattformen. För att undvika censurering av skyddade uttryck bör Meta ändra själva regeln om våldsamt och grovt innehåll så att sådant innehåll tillåts ligga kvar på plattformen.

I samband med krig och politisk oro ökar förekomsten av våldsamt och grovt innehåll som skapas av användare och delas på plattformen i syfte att väcka medvetenhet om eller dokumentera övergrepp. Detta innehåll är viktigt för att bidra till att ställa skyldiga till ansvar för sina brott. I ärendet om avstängningen av tidigare president Trump noterade rådet att Meta har ett ansvar att samla in, bevara och, i tillämpliga fall, dela information med behöriga myndigheter och tillsynsorgan för att bistå i utredningar och vid möjlig lagföring av allvarliga brott mot internationell straffrätt, människorättslagstiftning och humanitär rätt. Rådet rekommenderade också att Meta förtydligar och anger rutiner i sin företagspolicy avseende mänskliga rättigheter för hur de ska göra tidigare offentligt innehåll tillgängligt för forskare samtidigt som internationella normer och dataskyddslagar respekteras. Till svar åtog sig Meta att informera rådet om det pågående arbetet med att åtgärda problemet. Meta har inte rapporterat några framsteg i frågan sedan rådet publicerade rekommendationen den 5 maj 2021. Rådet finner en så pass lång försening och bristen på framsteg oroande, med tanke på den roll plattformen spelar vid våldsamma konflikter (som när det gäller det pågående kriget i Ukraina där användare dokumenterar övergrepp via sociala medier) och politisk oro runt om i världen.

Slutligen erinrar rådet om sin rekommendation från ärendet om avstängningen av tidigare president Trump om att Meta bör ”utveckla och publicera en policy som reglerar Facebooks agerande vid kriser och nya situationer i vilka dess vanliga processer inte kan förhindra eller undvika nära förestående skada”. I sin uppdatering för kvartal 4 2021 till Tillsynsrådet rapporterade Meta att företaget har tagit fram ett förslag på nya rutiner vid kriser till svar på rådets rekommendation och att dessa rutiner införts. Meta uppgav också att de snart kommer att tillhandahålla information om dessa rutiner i Transparenscentret. Meta informerade rådet om att dessa rutiner inte fanns på plats vid tidpunkten för kuppen i Sudan, och att de inte tagits i bruk vid granskningen av ärendet. Företaget planerar att lansera rutinerna senare under 2022. Väl utformade rutiner bör vägleda Meta i arbetet med att utveckla och implementera nödvändiga och proportionerliga svar i krissituationer. Meta bör påskynda implementeringen av dessa rutiner och tillhandahålls så mycket information som möjligt om hur de ska fungera och samspela med Metas befintliga processer. Metas plattformar spelar en viktig roll i konflikt- och krissituationer runt om i världen och företaget måste ha beredskapen att svara snabbt och systematiskt för att förhindra misstag.

9. Tillsynsrådets beslut

Tillsynsrådet fastställer Metas beslut att låta innehållet ligga kvar med en skärm som begränsar åtkomsten till personer över 18.

10. Uttalande med råd om riktlinjer

Innehållspolicy

1. Meta bör justera communityregeln om våldsamt och grovt innehåll så att den tillåter videor av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter. Sådant innehåll ska tillåtas ihop med en varningsskärm så att människor uppmärksammas på att innehållet kan vara upprörande. Rådet anser rekommendationen vara implementerad när Meta uppdaterar communityregeln.

2. Meta bör starta en process för regelutveckling för att ta fram kriterier för att identifiera videor av människor eller döda kroppar när de delas i syfte att väcka medvetenhet om eller dokumentera brott mot mänskliga rättigheter. Rådet anser denna rekommendation vara implementerad när Meta publicerar resultaten från regelutvecklingsarbetet, inklusive information om processen och kriterierna för hur denna typ av innehåll ska identifieras i större omfattning.

3. Meta bör ange, i beskrivningen av principen om att tillåta publicering av innehåll med nyhetsvärde, alla de åtgärder företaget kan vidta (till exempel återställning med en varningsskärm) baserat på denna princip. Rådet anser rekommendationen vara implementerad när Meta uppdaterar regeln.

Verkställighet

4. I syfte att säkerställa att användarna förstår reglerna bör Meta meddela användare när företaget vidtar åtgärder mot deras innehåll baserat på principen om att tillåta publicering av innehåll med nyhetsvärde, inklusive återställning av innehåll eller införande av en varningsskärm. Meddelandet till användaren kan länka till Transparenscentrets förklaring av principen om att tillåta publicering av innehåll med nyhetsvärde. Rådet anser detta vara implementerat när Meta publicerar detta uppdaterade meddelande för användare på alla marknader och via verkställighetsdata uppvisar att användarna tar emot detta meddelande.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av fler än 50 samhällsvetare på sex kontinenter och fler än 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة