Udpenslet video fra Sudan

Sagsresumé

Tilsynsrådet har stadfæstet Metas afgørelse om at gendanne et Facebook-opslag, der skildrer vold mod en civilperson i Sudan. Indholdet skabte opmærksomhed omkring menneskerettighedskrænkelser og var af betydelig offentlig interesse. Rådet anbefalede, at Meta føjede en specifik undtagelse om at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser til fællesskabsreglen om voldeligt og udpenslet indhold.

Om sagen

Den 21. december 2021 henviste Meta en sag til rådet vedrørende en udpenslet video, der lod til at skildre et civilt voldsoffer i Sudan. Indholdet blev slået op på brugerens Facebook-profilside efter militærkuppet i landet den 25. oktober 2021.

Videoen viser en person ligge ved siden af en bil med et stort sår på hovedet og et synligt løsrevet øje. Der kan høres stemmer i baggrunden, som på arabisk siger, at nogen er blevet tæsket og efterladt på gaden. En billedtekst, også på arabisk, opfordrer folk til at stå sammen og ikke stole på militæret, med hashtags, der refererer til dokumentation af militære overgreb og civil ulydighed.

Efter at opslaget var blevet identificeret af Metas automatiserede systemer og gennemgået af en menneskelig ordstyrer, blev det fjernet for at overtræde Facebooks fællesskabsregel om voldeligt og udpenslet indhold. Da brugeren havde indsendt en appel, udstedte Meta imidlertid en tilladelse i forhold til nyhedsværdi, der beskyttede opslaget mod at blive fjernet, den 29. oktober 2021. På grund af intern fejlkommunikation gendannede Meta ikke indholdet før næsten fem uger senere. Da Meta gendannede opslaget, tilføjede de en advarselsskærm på videoen.

Konklusioner

Rådet er enig i Metas afgørelse om at gendanne dette indhold på Facebook med en advarselsskærm. Metas politik for voldeligt og udpenslet indhold angiver dog ikke tydeligt, hvordan brugere kan dele udpenslet indhold for at skabe opmærksomhed omkring eller dokumentere overgreb.

Rationalet bag fællesskabsreglen, som beskriver politikkens mål, stemmer ikke overens med politikkens regler. Mens rationalet om politikken nævner, at Meta tillader brugerne at slå udpenslet indhold op "for at hjælpe folk med at skabe opmærksomhed" omkring menneskerettighedskrænkelser, forbyder selve politikken alle videoer (uanset om de deles for at skabe opmærksomhed eller ej) "af personer eller lig i ikke-medicinske omgivelser, hvis de skildrer lemlæstelse."

Rådet konkluderer desuden, at selvom tilladelsen i forhold til nyhedsværdi blev anvendt i denne sag, er den ikke et effektivt middel til at tillade denne form for indhold på Facebook i stor skala. Meta fortalte rådet, at de havde "dokumenteret 17 tilladelser i forhold til nyhedsværdi i forbindelse med politikken om voldeligt og udpenslet indhold i løbet af de seneste 12 måneder (12 måneder før 8. marts 2022). Indholdet i denne sag repræsenterer én af de 17 tilladelser." Til sammenligning fjernede Meta 90,7 millioner indholdselementer på baggrund af denne fællesskabsregel i de første tre kvartaler af 2021.

Rådet finder det usandsynligt, at der over ét år kun var 17 indholdselementer relateret til denne politik, som skulle have lov til at forblive på platformen på grund af nyhedsværdi og offentlig interesse. For at sikre, at sådant indhold er tilladt på Facebook, anbefaler rådet, at Meta ændrer fællesskabsreglen om voldeligt og udpenslet indhold, så den tillader videoer af personer eller lig, når de deles for at skabe opmærksomhed eller dokumentere overgreb.

Meta skal også være forberedt på at reagere hurtigt og systematisk på konflikter og krisesituationer rundt om i verden. Rådets afgørelse om "forhenværende præsident Trumps suspendering" anbefalede, at Meta "udvikler og offentliggør en politik, der regulerer Facebooks reaktion på kriser." Selvom rådet glæder sig over udviklingen af denne protokol, som Meta siger er vedtaget, skal virksomheden implementere protokollen hurtigere og give så mange oplysninger som muligt om, hvordan den vil fungere.

Tilsynsrådets afgørelse

Tilsynsrådet stadfæster Metas afgørelse om at gendanne opslaget med en advarselsskærm, der forhindrer mindreårige i at se indholdet.

Som en rådgivende udtalelse vedrørende politikken anbefaler rådet, at Meta gør følgende:

• Ændrer fællesskabsreglen om voldeligt og udpenslet indhold, så den tillader videoer af personer eller lig, når de deles med det formål at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser. Dette indhold bør være tilladt med en advarselsskærm, så folk er opmærksomme på, at indholdet kan virke foruroligende.
• Begynder at ændre politikken, så den får tilføjet kriterier for identificering af videoer af personer eller lig, når de deles med det formål at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser.
• Tydeligt præciserer alle de handlinger, Meta måtte foretage (f.eks. gendannelse med en advarselsskærm) baseret på denne politik, i beskrivelsen af tilladelsen i forhold til nyhedsværdi.
• Underretter brugerne, når Meta skrider til handling på deres indhold baseret på tilladelsen i forhold til nyhedsværdi, herunder ved at gendanne indhold eller anvende en advarselsskærm. Underretningen af brugerne kan linke til Gennemsigtighedscenters forklaring på tilladelsen i forhold til nyhedsværdi.

*Sagsresuméer giver en oversigt over sagen og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Oversigt over afgørelse

Tilsynsrådet stadfæster Metas afgørelse om at gendanne et opslag på Facebook, der indeholder en video, med en billedtekst, der skildrer vold mod en civilperson i Sudan. Opslaget blev gendannet ud fra tilladelsen i forhold til nyhedsværdi med en advarselsskærm, der markerer indholdet som værende af følsom karakter, hvilket gør det generelt utilgængeligt for mindreårige og kræver, at alle andre brugere klikker sig videre for at se indholdet. Rådet finder, at dette indhold, som søgte at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser, var af væsentlig offentlig interesse. Mens den første fjernelse af indholdet var i overensstemmelse med fællesskabsreglen om voldeligt og udpenslet indhold, er Metas afgørelse om at gendanne indholdet med en følsomhedsskærm i overensstemmelse med Metas politikker, værdier og menneskerettighedsansvar.

Rådet bemærker dog, at Metas brug af tilladelsen i forhold til nyhedsværdi ikke er et effektivt middel til at opretholde eller gendanne indhold som dette i stor skala. Rådet anbefaler derfor, at Meta føjer en specifik undtagelse om at skabe opmærksomhed omkring eller dokumentere overgreb til fællesskabsreglen om voldeligt og udpenslet indhold. Rådet opfordrer endvidere Meta til at prioritere implementering af sin tidligere anbefaling om at indføre en politik om indsamling, bevaring og deling af indhold, der kan bevise overtrædelser af international lov.

2. Sagsbeskrivelse og -baggrund

Den 21. december 2021 henviste Meta en sag til rådet vedrørende en udpenslet video, der lod til at skildre et civilt voldsoffer i Sudan. Indholdet blev slået op på brugerens Facebook-profilside den 26. oktober 2021 efter et militærkup i landet den 25. oktober 2021 og starten på protester mod den militære overtagelse af regeringen.

Videoen viser en person ligge ved siden af en bil med et stort sår på hovedet og et synligt løsrevet øje. Der kan høres stemmer i baggrunden, som på arabisk siger, at nogen er blevet tæsket og efterladt på gaden. Opslaget indeholder en billedtekst, også på arabisk, der opfordrer folk til at stå sammen og ikke stole på militæret, med hashtags, der refererer til dokumentation af militære overgreb og civil ulydighed.

Meta forklarede, at deres teknologi identificerede indholdet som værende en potentiel overtrædelse af fællesskabsreglen om voldeligt og udpenslet indhold samme dag, som det blev offentliggjort, den 26. oktober 2021. Efter menneskelig gennemgang fastslog Meta, at indholdet overtrådte Facebooks indholdspolitik om voldeligt og udpenslet indhold, og fjernede det. Indholdskreatøren var efterfølgende uenig i afgørelsen. Den 28. oktober 2021 blev indholdet sendt videre til eksperter i politikken og fageksperter til yderligere gennemgang. Efter gennemgangen udstedte Meta en tilladelse i forhold til nyhedsværdi, der beskyttede opslaget mod at blive fjernet i henhold til politikken om voldeligt og udpenslet indhold, den 29. oktober 2021. På grund af intern fejlkommunikation gendannede Meta dog faktisk ikke indholdet før 2. december 2021, næsten fem uger senere. Da Meta gendannede indholdet, anbragte de desuden en advarselsskærm på videoen, der markerede den som værende af følsom karakter og krævede, at brugerne skulle klikke videre for at se indholdet. Advarselsskærmen forbyder brugere under 18 år at se videoen.

Opslaget blev set under 1.000 gange, og ingen brugere anmeldte indholdet.

Følgende faktuelle baggrund er relevant for rådets afgørelse. Efter den militære overtagelse af den civile regering i Sudan i oktober 2021 og starten på civile protester affyrede sikkerhedsstyrker i landet skarp ammunition, brugte tåregas og arresterede og tilbageholdt vilkårligt demonstranter ifølge FN's højkommissær for menneskerettigheder. Sikkerhedsstyrker har også angrebet journalister og aktivister og ransaget deres hjem og kontorer. Journalister er blevet angrebet, anholdt og tilbageholdt.

Ifølge eksperter, som rådet har konsulteret, blev sociale medier med den militære overtagelse af statsmedier og undertrykkelsen af sudanesiske aviser og tv-selskaber en afgørende informationskilde og mødested for at dokumentere den vold, militæret udøvede. Militæret lukkede internettet ned samtidig med anholdelsen af civile ledere den 25. oktober 2021, og siden da er stabil adgang til internettet jævnligt blevet forstyrret landet over.

3. Tilsynsrådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå afgørelser, som Meta indsender til gennemgang (artikel 2, afsnit 1 i charteret; artikel 2, afsnit 2.1.1 i vedtægterne). Rådet kan stadfæste eller omstøde Metas afgørelse (artikel 3, afsnit 5 i charteret), og denne afgørelse er bindende for virksomheden (artikel 4 i charteret). Meta skal desuden vurdere muligheden for at anvende sin afgørelse i forhold til identisk indhold med parallel kontekst (artikel 4 i charteret). Rådets afgørelse kan indeholde rådgivende udtalelser vedrørende politikken med ikke-bindende anbefalinger, som Meta skal reagere på (Charter, Artikel 3, Afsnit 4; artikel 4).

4. Bemyndigelseskilder

Tilsynsrådet overvejede følgende bemyndigelseskilder:

I.Tilsynsrådets afgørelser:

I tidligere afgørelser har rådet overvejet og givet anbefalinger om Metas politikker og processer. De mest relevante omfatter følgende:

• Sagsafgørelse 2021-010-FB-UA ("Protester i Colombia): I denne sag bemærkede rådet, at Meta ikke gør sine kriterier for at eskalere indhold, der skal gennemgås angående tilladelsen i forhold til nyhedsværdi (hvilket er den eneste måde, reglen kan anvendes på), offentligt tilgængelige, og udtalte, at "i et miljø, hvor muligheden for politisk udtryk er begrænset, har sociale medier skabt en platform, hvor alle mennesker, inklusive journalister, kan dele information om protesterne." Rådet anbefalede, at Meta "udvikler og offentliggør klare kriterier for indholdsevaluatorers eskalering af indhold af offentlig interesse med henblik på yderligere gennemgang ... Disse kriterier bør omfatte indhold, der viser store protester om politiske sager, særligt i kontekster, hvor stater beskyldes for at krænke menneskerettigheder, og hvor det er af stor vigtighed at opretholde en offentlig registrering af begivenheder."
• Sagsafgørelse 2021-001-FB-FBR ("Suspenderingen af forhenværende præsident Trump") I denne sag anbefalede rådet, at Meta "udarbejder og offentliggør en politik, der skal ligge til grund for Facebooks reaktion på kriser eller nye situationer, hvor de normale processer ikke ville kunne forhindre eller afværge umiddelbart forestående fare." I januar 2022 afholdt Meta et politisk forum om protokollen for krisepolitik, der blev udviklet som reaktion på rådets anbefaling. Meta bekræftede dog i et af sine svar på de spørgsmål, rådet stillede, at denne protokol ikke var på plads, da kuppet i Sudan fandt sted, eller ved de efterfølgende afgørelser om fjernelse og gendannelse af indhold i denne sag.

II.Metas indholdspolitikker:

Facebooks fællesskabsregler:

I rationalet om politikken om voldeligt og udpenslet indhold oplyser Meta, at de fjerner alt indhold, der "forherliger vold eller hylder lidelse", men tillader udpenslet indhold "for at hjælpe folk med at skabe opmærksomhed." Politikkens regler forbyder opslag med "videoer af personer eller lig i ikke-medicinske omgivelser, hvis de skildrer lemlæstelse." I overensstemmelse med tilladelsen i forhold til nyhedsværdi tillader Meta krænkende indhold på sine platforme, hvis det har nyhedsværdi, og "hvis det er i offentlighedens interesse at holde det synligt."

III. Metas værdier:

Metas værdier er anført i introduktionen til Facebooks fællesskabsregler. De værdier, der er relevante for denne sag, er værdierne om "ytringsfrihed", "sikkerhed", "retten til privatlivets fred" og "værdighed". Værdien om ytringsfrihed beskrives som en "afgørende" værdi:

Målet med vores fællesskabsregler har altid været at skabe et sted, hvor folk kan udtrykke sig og blive hørt. [Vi ønsker], at folk skal kunne tale åbent om de problemer, der betyder noget for dem, også selvom nogle er uenige eller finder dem forkastelige.

Meta begrænser "ytringsfriheden" til fordel for fire andre værdier, hvoraf tre er relevante her:

"Sikkerhed": Indhold, der truer folk, har potentiale til at intimidere, udelukke eller forhindre andre i at udtale sig, og er ikke tilladt på Facebook.

"Beskyttelse af personoplysninger": Vi tager beskyttelse af personoplysninger alvorligt. Beskyttelse af personoplysninger giver folk frihed til at være sig selv, til at vælge, hvordan og hvornår de vil dele indhold på Facebook, og til lettere at få kontakt til hinanden.

"Værdighed": Vi mener, at alle folk er lige i værdighed og rettigheder. Vi forventer, at folk respekterer andres værdighed og ikke chikanerer eller nedgør andre.

IV: Internationale menneskerettighedsstandarder:

De vejledende principper om erhvervslivet og menneskerettigheder (UNGPs),som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for private virksomheders ansvar, hvad angår menneskerettigheder. I marts 2021 annoncerede Meta sin virksomhedspolitik om menneskerettigheder, hvor virksomheden genbekræftede sit tilsagn om at respektere menneskerettigheder i overensstemmelse med FN's vejledende principper. Rådets analyse af Metas ansvar i forhold til menneskerettigheder i denne sag blev udført på baggrund af følgende menneskerettighedsstandarder:

• Retten til ytringsfrihed, herunder muligheden for at søge og modtage information: Artikel 19, International konvention om borgerlige og politiske rettigheder (ICCPR), Generel bemærkning nr. 34, Menneskerettighedskomitéen, 2011, FN's særlige rapportør om menings- og ytringsfrihed, rapporter: A/HRC/38/35 (2018) og A/73/348 (2018).
• Barnets tarv: Artikel 13 og 17, Konventionen om barnets rettigheder ( CRC); Generel kommentar nr. 25, Komitéen om Barnets Rettigheder, 2021, om børns rettigheder i forhold til det digitale miljø.
• Retten til privatlivets fred: Artikel 17, ICCPR.
• Adgang til effektive retsmidler: Artikel 2, ICCPR; Generel bemærkning nr. 31, Menneskerettighedskomitéen 2004; FN's vejledende principper, princip 22, 29, 31.

5. Indsendelser fra brugere

Efter Metas henvisning og rådets afgørelse om at acceptere sagen, fik brugeren en besked, hvori vedkommende blev underrettet om rådets gennemgang og fik mulighed for at indsende en udtalelse til rådet. Brugeren indsendte ikke en udtalelse.

6. Metas indsendelser

Meta oplyser i sin henvisning, at afgørelsen om dette indhold var vanskelig, fordi indholdet fremhæver spændingen mellem værdien af den offentlige interesse i at dokumentere menneskerettighedskrænkelser og risikoen for skade forbundet med at dele sådant udpenslet indhold. Meta fremhævede også vigtigheden af at give brugerne mulighed for at dokumentere menneskerettighedskrænkelser under et kup og nedlukningen af internetadgangen i landet.

Meta informerede rådet om, at umiddelbart efter militærkuppet havde fundet sted i Sudan, oprettede Meta et tværfunktionelt kriseresponsteam til at overvåge situationen og kommunikere om nye tendenser og risici. Ifølge Meta observerede dette team "stigninger i antal anmeldelser om indhold, der skildrede udpenslet vold samt vold eller opfordring til vold, på tidspunkter hvor protesterne var mest aktive. [Teamet] blev instrueret i at eskalere anmodninger om at tillade tilfælde af udpenslet vold, der ellers ville overtræde politikken om udpenslet og voldeligt indhold, herunder indhold, der skildrede statsstøttede menneskerettighedskrænkelser."

Meta bemærkede, at denne video blev optaget i konteksten af udbredte protester og reelle bekymringer vedrørende pressefrihed i Sudan. Meta bemærkede også, at denne type indhold kunne "advare brugere i området om en trussel mod deres sikkerhed og er særligt vigtigt under en komplet internetnedlukning, hvor journalisters adgang til lokationen kan være begrænset."

Meta udtalte desuden, at afgørelsen om at gendanne indholdet var i overensstemmelse med Metas værdier, især værdien om "ytringsfrihed", som er altafgørende. Meta citerede tidligere af rådets afgørelser om, at politisk tale er centralt for værdien om "ytringsfrihed". Sagsafgørelser 2021-010-FB-UA ("Protester i Colombia); 2021-003-FB-UA ("Bekymringer i Punjab-regionen om RSS i Indien"); 2021-007-FB-UA ("Myanmar-bot"); og 2021-009-FB-UA ("Delt Al Jazeera-opslag").

Meta fortalte rådet, at virksomheden havde fastslået, at dens oprindelige afgørelse om at fjerne indholdet var i strid med artikel 19 i ICCPR, specifikt med nødvendighedsprincippet. Derfor gendannede Meta indholdet i henhold til tilladelsen i forhold til nyhedsværdi. For at mindske enhver potentiel risiko for skade, der måtte være involveret i at tillade det udpenslede indhold at forblive på platformen, når det var blevet gendannet, begrænsede Meta adgangen til indholdet til personer over 18 år og anvendte en advarselsskærm. Meta bemærkede desuden i sin sagsbegrundelse, at afgørelsen om at gendanne indholdet var i overensstemmelse med rapporten fra FN's særlige rapportør om fremme og beskyttelse af retten til menings- og ytringsfrihed, især "retten til adgang til information om menneskerettighedskrænkelser."

Meta bemærkede derudover, at fordi der blev anvendt en advarselsskærm, der ikke tillader brugere under 18 år at se indholdet, blev afgørelsens indvirkning på barnets rettigheder også overvejet. Meta fortalte rådet, at virksomheden som led i at træffe afgørelsen overvejede artikel 13 i Konventionen om barnets rettigheder og generel kommentar nr. 25 om børns rettigheder i forhold til det digitale miljø, for at beskytte barnets ret til ytringsfrihed, herunder "frihed til at søge, modtage og formidle information og ideer af enhver art, uanset grænseområder." Meta forklarede i sin sagsbegrundelse, at virksomhedens afgørelse om at begrænse synligheden af indholdet til voksne tjente det legitime formål at beskytte mindreårige og var proportionel med pågældende formål.

Rådet stillede Meta 21 spørgsmål. Meta svarede fuldt ud på 17 og delvist på 4. De delvise svar var relateret til spørgsmål om måling af virkningen af Metas automatiserede system på indhold på platformen, og hvorfor fællesskabsreglen om voldeligt og udpenslet indhold ikke indeholder en undtagelse angående dét at skabe opmærksomhed omkring et problem.

7. Offentlige kommentarer

Rådet modtog fem offentlige kommentarer relateret til denne sag. To kommentarer var fra Europa, en fra subsaharisk Afrika og to fra USA og Canada.

Indsendelserne dækkede følgende temaer: behovet for at indføre en mere kontekstfølsom tilgang, der ville fastsætte en højere tærskel for fjernelse af indhold i regioner med væbnede konflikter, således at mindre indhold fjernes; behovet for at bevare materiale til potentielle fremtidige undersøgelser eller for at holde menneskerettighedskrænkere ansvarlige; og at tilladelsen i forhold til nyhedsværdi sandsynligvis vil blive anvendt ad hoc og på en anfægtelig måde, og at denne praksis bør genovervejes.

I marts 2022 talte rådet som led i det igangværende arbejde med interessenter med ca. 50 repræsentanter for fortalervirksomheder og enkeltpersoner, der arbejder med at rapportere og dokumentere menneskerettighedskrænkelser, etik inden for akademisk forskning, menneskerettigheder og dokumentation, og interessenter, der er interesserede i at samarbejde med rådet om problemer, der opstår som følge af fællesskabsreglen om voldeligt og udpenslet indhold, og rådets håndhævelsespraksis i krise- eller protestsammenhænge. Dette igangværende arbejde sker i henhold til Chatham House Rule for at sikre ærlig debat og for at beskytte deltagerne. Debatten berørte en række temaer, herunder sociale mediers vitale rolle i lande kontrolleret af undertrykkende regimer angående dokumentation af menneskerettighedskrænkelser og det at henlede internationale mediers og offentlighedens opmærksomhed på statssanktioneret vold; delte bekymringer over, at en universel regel for voldeligt og udpenslet indhold i praksis er en regel med fokus på USA; og brug af advarselsskærme som en nyttig løsning på det reelle problem med traumer, selvom nogle organisationer har rapporteret, at advarselsskærme kan begrænse rækkevidden af deres indhold.

Klik her for at læse de indsendte offentlige kommentarer til denne sag.

8. Tilsynsrådets analyse

Rådet undersøgte, hvorvidt indholdet skal forblive på platformen, ved at belyse det fra tre sider: Metas indholdspolitikker, virksomhedens værdier og virksomhedens menneskerettighedsansvar.

8.1. Overholdelse af Metas indholdspolitikker

I.Indholdsregler

Rådet er enig i Metas afgørelse om at gendanne dette indhold på platformen med en advarselsskærm og aldersbegrænsning, men bemærker, at der er mangel på klarhed i Metas indholdspolitikker og ingen effektive midler til at implementere denne metode ved lignende indhold i stor skala.

Metas oprindelige afgørelse om at fjerne indholdet var i overensstemmelse med fællesskabsreglen om voldeligt og udpenslet indhold – indholdet overtrådte politikken ved at skildre menneskelig lemlæstelse i ikke-medicinske omgivelser (en person med et stort sår på hovedet og et synligt løsrevet øje). Rationalet om politikken for fællesskabsreglen om voldeligt og udpenslet indhold nævner dog, at "[Meta] tillader udpenslet indhold (med nogle begrænsninger) for at hjælpe folk med at skabe opmærksomhed omkring problemer. [Meta] ved, at folk værdsætter evnen til at diskutere vigtige spørgsmål såsom menneskerettighedskrænkelser eller terrorhandlinger." På trods af denne reference i rationalet om politikken omfatter fællesskabsreglen ikke en undtagelse om at skabe opmærksomhed omkring problemer. Metas interne regler for sine evaluatorer inkluderer heller ikke en undtagelse for indhold, der søger at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser.

Da en specifik undtagelse mangler i fællesskabsreglen, er rådet enig i Metas afgørelse om at gendanne indholdet ved hjælp af tilladelsen i forhold til nyhedsværdi. Meta oplyser, at virksomheden tillader krænkende indhold at forblive på platformen i henhold til tilladelsen i forhold til nyhedsværdi, hvis virksomheden fastslår, at indholdet har nyhedsværdi, og dét "at holde det synligt er i offentlighedens interesse [og] efter at have afvejet den offentlige interesse mod risikoen for skade."

II.Håndhævelse

Rådet bemærker, at selvom Meta traf afgørelsen om at udstede en tilladelse i forhold til nyhedsværdi og gendannede opslaget med en advarselsskærm den 29. oktober 2021, blev opslaget faktisk ikke gendannet på platformen før næsten fem uger senere den 2. december 2021. Meta oplyste, at kommunikationen om den endelige afgørelse om indholdet fandt sted uden for de normale værktøjer til styring af eskalering, "hvilket førte til forsinkelsen vedrørende gendannelsen af indholdet." Rådet finder denne forklaring og forsinkelsen yderst bekymrende og understreger vigtigheden af, at Meta skrider rettidigt til handling i forhold til afgørelser som denne, i forbindelse med en offentlig krise, og når pressefriheden er blevet stærkt begrænset. Da Meta oprindeligt fjernede dette indhold, anvendte virksomheden en 30-dages funktionsbegrænsning, der forhindrede brugeren i at oprette nyt indhold i en periode, hvor demonstranter på gaden og journalister, der rapporterede om kuppet og den militære undertrykkelse, blev mødt med hård vold og undertrykkelse.

8.2. Overholdelse af Metas værdier

Rådet konkluderer, at bevaringen af indholdet på platformen med en advarselsskærm er i overensstemmelse med Metas værdier om "ytringsfrihed" og "sikkerhed".

Rådet anerkender vigtigheden af "værdighed" og "retten til privatlivets fred" ved beskyttelse af ofre for menneskerettighedskrænkelser. Indholdet påvirker værdigheden og retten til privatlivets fred for den skadede person i videoen og vedkommendes familie. Den skildrede person er identificerbar, og vedkommende, eller dennes familie eller nærmeste, ønskede måske ikke, at denne type optagelse af vedkommende blev udsendt.

Rådet bemærker desuden relevansen af "sikkerhed" i denne sammenhæng, som har til formål at beskytte brugere mod indhold, der udgør en "risiko for skade på personers fysiske sikkerhed." På den ene side søgte brugeren at skabe opmærksomhed omkring det igangværende kup, hvilket kunne bidrage til at forbedre sikkerheden for personer i den pågældende region. På den anden side kan indholdet også skabe risici for den person, der vises i videoen, og/eller vedkommendes familie.

Rådet konkluderer, at i en kontekst, hvor det borgerlige rum og mediefriheden er indskrænket af staten, bliver værdien om "ytringsfrihed" endnu vigtigere. Her har "ytringsfrihed" også til formål at styrke værdien om "sikkerhed" ved at sikre, at folk har adgang til information, og at statslig vold bliver afsløret.

8.3. Overholdelse af Metas ansvar inden for menneskerettighedsområdet

Rådet finder, at bevaringen af indholdet på platformen med en advarselsskærm er i overensstemmelse med Metas menneskerettighedsansvar. Rådet konkluderer dog, at Metas politikker bør ændres for bedre at respektere retten til ytringsfrihed for brugere, der søger at skabe opmærksomhed omkring eller dokumentere overgreb.

Ytringsfrihed (Artikel 19, ICCPR)

Artikel 19 i ICCPR giver bred beskyttelse af ytringsfriheden, herunder retten til at søge og modtage information. Rettigheden kan dog være begrænset under visse specifikke forhold, som er kendt som en tredelt test af lovlighed (tydelighed), legitimitet samt nødvendighed og proportionalitet. Selv om ICCPR ikke skaber forpligtelser for Meta, som den gør for stater, har Meta givet tilsagn om at respektere menneskerettighederne, som det er angivet i FN's vejledende principper. Denne forpligtelse omfatter internationalt anerkendte menneskerettigheder, som blandt andre instrumenter er defineret af ICCPR.

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Enhver begrænsning af ytringsfriheden bør være tilgængelig og tydelig nok til at vejlede om, hvad der er og ikke er tilladt. Rådet konkluderer, at politikken om voldeligt og udpenslet indhold ikke gør det klart, hvordan Meta tillader brugere at dele udpenslet indhold for at skabe opmærksomhed omkring eller dokumentere overgreb. Rationalet bag fællesskabsreglen, som beskriver politikkens mål, stemmer ikke overens med politikkens regler. Rationalet om politikken nævner, at Meta tillader brugerne at slå udpenslet indhold op "for at hjælpe folk med at skabe opmærksomhed" omkring menneskerettighedskrænkelser, men politikken forbyder alle videoer (uanset om de deles for at skabe opmærksomhed eller ej) "af personer eller lig i ikke-medicinske omgivelser, hvis de skildrer lemlæstelse." Selvom Meta på korrekt vis henholdt sig til den bredt favnende tilladelse i forhold til nyhedsværdi med henblik på at gendanne dette indhold, gør fællesskabsreglen om voldeligt og udpenslet indhold det ikke klart, om denne type indhold vil være tilladt på platformen.

Rådet konkluderer i øvrigt, at tilladelsen i forhold til nyhedsværdi ikke gør det klart, hvornår indhold, der dokumenterer menneskerettighedskrænkelser eller grusomheder, vil drage fordel af tilladelsen. Selvom vi er enige med Meta i, at det kan være "meget subjektivt" at fastslå nyhedsværdi, definerer den pågældende regel ikke engang begrebet. Politikken nævner, at virksomheden knytter "særlig værdi til indhold, der illustrerer umiddelbare trusler mod den offentlige sundhed eller sikkerhed, eller som lader perspektiver komme til udtryk, som aktuelt debatteres som del af en politisk proces." Symbolske eksempler og klare principper bør danne grundlag for udøvelsen af skøn ved anvendelse af denne tilladelse. Uden disse vil brugen sandsynligvis være inkonsekvent og vilkårlig. Endvidere henviser tilladelsen i forhold til nyhedsværdi ikke til brugen af advarselsskærme (eller noget interstitielt) for indhold, der ellers overtræder Metas politikker.

Endeligt anbefalede rådet i en tidligere sag ("Protester i Columbia"), at Meta "udvikler og offentliggør klare kriterier for indholdsevaluatorers eskalering af indhold af offentlig interesse med henblik på yderligere gennemgang." Meta svarede, at virksomheden allerede har offentliggjort kriterierne for eskalering via artiklen om nyhedsværdi i Gennemsigtighedscenter. Denne artikel fokuserer dog på faktorer, som Meta overvejer ved anvendelse af tilladelsen i forhold til nyhedsværdi, og ikke kriterier, der er givet til ordstyrere, for hvornår indholdet skal eskaleres (dvs. sende det til yderligere gennemgang). Hvis tilladelsen i forhold til nyhedsværdi har til formål at være en del af virksomhedens skalerede indholdsstyringssystem, bør processer for eskalering og brug lette dette mål. Rådet bemærker, at manglen på klarhed omkring, hvornår og hvordan tilladelsen i forhold til nyhedsværdi anvendes, sandsynligvis vil føre til vilkårlig anvendelse af denne politik.

II. Legitimt formål

Begrænsninger af ytringsfriheden bør have et legitimt formål, hvilket omfatter beskyttelse af andres rettigheder, f.eks. retten til privatlivets fred for den skildrede person (generel kommentar nr. 34, paragraf 28) og retten til fysisk integritet. Meta bemærker også i rationalet om politikken, at "indhold, der forherliger vold eller hylder andres lidelse eller ydmygelse ... kan skabe et miljø, der virker hæmmende for deltagelse." Rådet er enig i, at politikken for voldeligt og udpenslet indhold har flere legitime formål.

III. Nødvendighed og proportionalitet

Begrænsninger af ytringsfriheden "skal være passende for at opnå dens beskyttende funktion. Den skal være det mindst indgribende instrument blandt dem, der kan opnå den beskyttende funktion, [og] den skal være proportionel med de interesser, der skal beskyttes" (generel bemærkning 34, paragraf 34).

I denne sag konkluderer rådet, at anbringelsen af en advarselsetiket på indholdet var en nødvendig og proportionel begrænsning af ytringsfriheden. Advarselsskærmen pålægger ikke dem, der ønsker at se indholdet, en unødig byrde, samtidig med at den informerer andre om indholdets art og giver dem mulighed for at beslutte, om de vil se det eller ej. Advarselsskærmen beskytter også tilstrækkeligt den skildrede persons værdighed og dennes familie.

Rådet bemærker også, at Metas gendannelse af opslaget, som diskuteret i afsnit 8.1, var næsten fem uger forsinket. Denne forsinkelse havde en uforholdsmæssig stor indvirkning på ytringsfriheden i konteksten af den igangværende vold og det begrænsede mediemiljø i Sudan. En forsinkelse af denne længde underminerer fordelene ved denne tale, som skal give en advarsel til civile og skabe opmærksomhed.

Rådet konkluderer også, at fordi tilladelsen i forhold til nyhedsværdi sjældent bruges, er den ikke en effektiv mekanisme til at tillade indhold, der dokumenterer overgreb eller søger at skabe opmærksomhed i stor skala på platformen. Meta fortalte rådet, at de havde "dokumenteret 17 tilladelser i forhold til nyhedsværdi i forbindelse med politikken om voldeligt og udpenslet indhold i løbet af de seneste 12 måneder (12 måneder før 8. marts 2022). Indholdet i denne sag repræsenterer én af de 17 tilladelser." Til sammenligning fjernede Meta 90,7 millioner indholdselementer på baggrund af denne fællesskabsregel i de første tre kvartaler af 2021. Rådet finder det usandsynligt, at der over ét år globalt set kun var 17 indholdselementer relateret til denne politik, som skulle have lov til at forblive på platformen på grund af nyhedsværdi og offentlig interesse. Tilladelsen i forhold til nyhedsværdi skaber ikke en tilstrækkelig mekanisme til at bevare indhold af denne art på platformen. For at undgå at censurere beskyttede udtryk bør Meta ændre selve politikken om voldeligt og udpenslet indhold, således at den tillader sådant indhold at forblive på platformen.

I kontekst af krig eller politisk uro vil der blive delt mere udpenslet og voldeligt indhold brugere på platformen med det formål at skabe opmærksomhed omkring eller dokumentere overgreb. Dette indhold er vigtigt for at fremme placering af ansvar. Rådet bemærkede i sagen om "forhenværende præsident Trumps suspendering", at Meta er ansvarlig for at indsamle, lagre og, hvis relevant, dele oplysninger for at bidrage til undersøgelse og eventuel retsforfølgelse i forbindelse med alvorlige overtrædelser af international strafferet, international menneskerettighedslovgivning og international humanitær ret, via kompetente myndigheder og ansvarlighedsmekanismer." Rådet anbefalede også, at Meta i sine protokoller for sin virksomhedspolitik om menneskerettigheder præciserer og angiver, hvordan tidligere offentligt indhold gøres tilgængeligt for forskere, mens internationale standarder og databeskyttelseslove respekteres. Som reaktion herpå forpligtede Meta sig til at orientere rådet om den igangværende indsats for at adressere forholdet. Siden rådet offentliggjorde denne anbefaling den 5. maj 2021, har Meta ikke rapporteret noget fremskridt angående dette forhold. Rådet finder en forsinkelse af denne længde og manglen på fremskridt bekymrende på grund af den rolle, platformen spiller i situationer med voldelige konflikter (f.eks. den nuværende krig i Ukraine, hvor brugere dokumenterer overgreb gennem sociale medier) og politisk uro rundt om i verden.

Endeligt henviser rådet til sin anbefaling fra sagen om "forhenværende præsident Trumps suspendering" om, at Meta "udarbejder og offentliggør en politik, der skal ligge til grund for Facebooks reaktion på kriser eller nye situationer, hvor de normale processer ikke ville kunne forhindre eller afværge umiddelbart forestående fare." Meta rapporterede i opdateringen fra 4. kvartal af 2021 til Tilsynsrådet, at virksomheden har udarbejdet et forslag til en ny kriseprotokol som svar på rådets anbefaling, og den blev vedtaget. Meta oplyste også, at virksomheden snart vil offentliggøre oplysninger om denne protokol i Gennemsigtighedscenter. Meta informerede rådet om, at denne protokol ikke var på plads, da kuppet i Sudan fandt sted, og at den heller ikke var klar til brug under gennemgangen af denne sag. Virksomheden planlægger at lancere protokollen senere i 2022. En veldesignet protokol bør vejlede Meta i at udvikle og implementere nødvendige og proportionelle reaktioner i krisesituationer. Meta bør fremskynde implementeringen af denne protokol og give så mange detaljer som muligt om, hvordan denne protokol vil fungere og interagere med eksisterende Meta-processer. Metas platforme spiller en fremtrædende rolle i konflikter og krisesituationer rundt om i verden, og virksomheden skal være forberedt på at reagere hurtigt og systematisk for at forhindre fejl.

9. Tilsynsrådets afgørelse

Tilsynsrådet stadfæster Metas afgørelse om at lade indholdet forblive opslået med en skærm, der begrænser adgangen til personer over 18 år.

10. Rådgivende udtalelse vedrørende politikken

Indholdspolitik

1. Meta bør ændre fællesskabsreglen om voldeligt og udpenslet indhold, så den tillader videoer af personer eller lig, når de deles med det formål at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser. Dette indhold bør være tilladt med en advarselsskærm, så folk er opmærksomme på, at indholdet kan virke foruroligende. Rådet vil betragte denne anbefaling som implementeret, når Meta har opdateret fællesskabsreglen.

2. Meta bør begynde at ændre politikken, så den får tilføjet kriterier for identificering af videoer af personer eller lig, når de deles med det formål at skabe opmærksomhed omkring eller dokumentere menneskerettighedskrænkelser. Rådet vil betragte denne anbefaling som implementeret, når Meta har offentliggjort resultaterne af politikudviklingsprocessen, herunder oplysninger om processen og kriterierne for at identificere dette indhold i stor skala.

3. Meta bør tydeligt præcisere alle de handlinger, Meta måtte foretage (f.eks. gendannelse med en advarselsskærm) baseret på denne politik, i beskrivelsen af tilladelsen i forhold til nyhedsværdi. Rådet vil betragte denne anbefaling som implementeret, når Meta har opdateret politikken.

Håndhævelse

4. For at sikre, at brugerne forstår reglerne, bør Meta underrette dem, når Meta skrider til handling på deres indhold baseret på tilladelsen i forhold til nyhedsværdi, herunder ved at gendanne indhold eller anvende en advarselsskærm. Underretningen af brugerne kan linke til Gennemsigtighedscenters forklaring på tilladelsen i forhold til nyhedsværdi. Rådet vil betragte dette som implementeret, når Meta har udrullet denne opdaterede underretning til brugere på alle markeder og har vist, at brugerne modtager denne underretning gennem håndhævelsesdata.

*Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og skal godkendes af et flertal i rådet. Rådets beslutninger er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3.200 landeeksperter fra hele verden. Rådet fik desuden assistance fra Duco Advisors, der er et rådgivningsfirma med fokus på geopolitik, tillid og sikkerhed samt teknologi.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें