Inntrykkssterk video fra Sudan

Saksammendrag

Tilsynsrådet har opprettholdt Metas beslutning om å gjenopprette et Facebook-innlegg som viser vold mot en sivilperson i Sudan. Innholdet økte bevisstheten rundt menneskerettighetsbrudd og hadde betydelig allmenn interesse. Rådet anbefalte at Meta legger inn et spesifikt unntak for bevisstgjøring eller dokumentering av menneskerettighetsbrudd til standarden om voldelig og inntrykkssterkt innhold.

Om saken

21. desember 2021 henviste Meta en sak til rådet angående en inntrykkssterk video som så ut til å vise et sivilt voldsoffer i Sudan. Innholdet ble lagt ut på brukerens Facebook-profilside etter militærkuppet i landet 25. oktober 2021.

Videoen viser en person som ligger ved siden av en bil med betydelige hodeskader og et synlig løsrevet øye. Stemmer høres i bakgrunnen som sier på arabisk at en person har blitt banket opp og etterlatt på gaten. En bildetekst, også på arabisk, oppfordrer folk til å stå sammen og ikke stole på militæret, med emneknagger som refererer til dokumentering av militære overgrep og sivil ulydighet.

Etter at innlegget ble flagget av Metas automatiserte systemer og gjennomgått av en menneskelig moderator, ble det fjernet for brudd på Facebooks standard om voldelig og inntrykkssterkt innhold. Etter at brukeren anket, opprettet Meta imidlertid den 29. oktober 2021 et unntak som gjaldt innhold med nyhetsverdi, noe som førte til en endring av vedtaket om å fjerne innlegget. På grunn av intern feilkommunikasjon gjenopprettet ikke Meta innholdet før nesten fem uker senere. Da Meta gjenopprettet innlegget, plasserte de en advarsel på videoen.

Viktige funn

Rådet er enig i Metas beslutning om å gjenopprette dette innholdet til Facebook med en advarsel. Imidlertid er Metas retningslinjer om voldelig og inntrykkssterkt innhold uklare på hvordan brukerne kan dele inntrykkssterkt innhold for å øke bevisstheten om eller dokumentere overgrep.

Begrunnelsen for standarden, som angir målene med retningslinjene, stemmer ikke overens med reglene i retningslinjene. Begrunnelsen for retningslinjene sier at Meta tillater at brukere legger ut inntrykkssterkt innhold «for å hjelpe til med å øke bevisstheten» om menneskerettighetsbrudd, men selve retningslinjene forbyr alle videoer (enten de deles for å øke bevisstheten eller ikke) «av mennesker eller døde kropper i ikke-medisinsk sammenheng hvis de viser lemlesting.»

Rådet konkluderer også med at selv om regelen om nyhetsverdi ble brukt i denne saken, er det ikke et argument for å tillate denne typen innhold på Facebook i stor skala. Meta fortalte rådet at de «har dokumentert tillatelse av 17 innlegg med nyhetsverdi i forbindelse med retningslinjene for voldelig og inntrykkssterkt innhold i løpet av de siste 12 månedene (12 måneder før 8. mars 2022). Innholdet i dette tilfellet utgjør én av disse 17.» Til sammenligning fjernet Meta 90,7 millioner innholdselementer med henvisning denne standarden de tre første kvartalene av 2021.

Rådet mener det er usannsynlig at bare 17 innholdselementer knyttet til disse retningslinjene ble tillatt på plattformen på grunn av nyhetsverdi og allmenn interesse i løpet av ett år. For å sikre at slikt innhold er tillatt på Facebook anbefaler rådet at Meta endrer standarden om voldelig og inntrykkssterkt innhold så den tillater videoer av mennesker eller døde kropper som deles for å øke bevissthet eller dokumentere overgrep.

Meta må også være forberedt på å reagere raskt og systematisk på konflikter og krisesituasjoner rundt om i verden. Rådets beslutning om «å suspendere tidligere president Trump» anbefalte at Meta «utvikler og publiserer retningslinjer som er styrende for Facebooks respons på kriser». Rådet ønsker utviklingen av denne protokollen, som Meta sier de har vedtatt, velkommen, men selskapet må implementere protokollen raskere og komme med så mye informasjon som mulig om hvordan den vil fungere.

Tilsynsrådets avgjørelse

Tilsynsrådet opprettholder Metas beslutning om å gjenopprette innlegget med en advarsel som hindrer mindreårige i å se innholdet.

Rådet kommer med følgende anbefaling til Meta angående de gjeldende retningslinjene:

• Endre standarden for voldelig og inntrykkssterkt innhold så det tillates videoer av mennesker eller døde kropper når de deles med formål om å bevisstgjøre eller dokumentere menneskerettighetsbrudd. Dette innholdet bør tillates sammen med en advarsel, slik at folk er klar over at innholdet kan være opprørende.
• Starte en prosess med endring av retningslinjene for å utvikle kriterier for å identifisere videoer av mennesker eller døde kropper når de deles med det formål å bevisstgjøre eller dokumentere menneskerettighetsbrudd.
• Tydeliggjøre i beskrivelsen av reglene om nyhetsverdi alle tiltak som kan utføres (for eksempel gjenoppretting med advarselsskjerm) basert på disse retningslinjene.
• Varsle brukerne når det iverksettes tiltak rundt innholdet deres basert på reglene om nyhetsverdi, inkludert gjenoppretting av innhold eller bruk av advarsler. Brukervarselet kan lenke til forklaringen om nyhetsverdi i åpenhetssenteret.

*Sakssammendrag gir en oversikt over saken og medfører ingen presedens.

Fullstendig saksavgjørelse

1. Sammendrag av avgjørelsen

Tilsynsrådet opprettholder Metas beslutning om å gjenopprette et innlegg på Facebook som inneholder en video med bildetekst som skildrer vold mot en sivilperson i Sudan. Innlegget ble gjenopprettet på grunnlag av nyhetsverdien, med en advarsel som markerer innholdet som sensitivt, noe som gjør det generelt utilgjengelig for mindreårige og krever for andre brukere at de klikker videre for å se innholdet. Rådet finner at dette innholdet, som ønsket å øke bevisstheten om eller dokumentere menneskerettighetsbrudd, hadde betydelig verdi av allmenn interesse. Den opprinnelige fjerningen av innholdet var i tråd med reglene i standarden om voldelig og inntrykkssterkt innhold, men Metas beslutning om å gjenopprette innholdet med en sensitivitetsadvarsel er i samsvar med deres retningslinjer, verdier og menneskerettighetsansvar.

Rådet bemerker imidlertid at Metas tillatelse av innhold på grunnlag av nyhetsverdi ikke er et egnet middel for å godta eller gjenopprette innhold som dette i stor skala. Rådet anbefaler derfor at Meta legger inn et spesifikt unntak for bevisstgjøring eller dokumentering av overgrep til standarden om voldelig og inntrykkssterkt innhold. Rådet oppfordrer videre Meta til å prioritere implementeringen av sin tidligere anbefaling om å innføre retningslinjer for innhenting, bevaring og deling av innhold som kan bevise brudd på folkeretten.

2. Saksbeskrivelse og bakgrunn

21. desember 2021 henviste Meta en sak til rådet angående en inntrykkssterk video som så ut til å vise et sivilt voldsoffer i Sudan. Innholdet ble lagt ut på brukerens Facebook-profilside 26. oktober 2021, etter et militærkupp i landet 25. oktober 2021 og starten på protester mot den militære overtakelsen av regjeringen.

Videoen viser en person liggende ved siden av en bil med betydelige hodeskader og et synlig løsrevet øye. Stemmer høres i bakgrunnen som sier på arabisk at en person har blitt banket opp og etterlatt på gaten. Innlegget inneholder en bildetekst, også på arabisk, som oppfordrer folket til å stå sammen og ikke stole på militæret, med emneknagger som refererer til dokumentering av militære overgrep og sivil ulydighet.

Meta forklarte at teknologien identifiserte innholdet som potensielt i strid med standarden om voldelig og inntrykkssterkt innhold samme dag som det ble lagt ut, 26. oktober 2021. Etter en menneskelig gjennomgang besluttet Meta at det brøt med Facebooks retningslinjer om voldelig og inntrykkssterkt innhold og fjernet det. Innholdsskaperen sa seg senere uenig i avgjørelsen. 28. oktober 2021 ble innholdet eskalert til eksperter på retningslinjer og de aktuelle temaene for ytterligere gjennomgang. Etter denne vurderingen kom Meta med et unntak om innhold med nyhetsverdi som endret vedtaket om fjerning i henhold til retningslinjene for voldelig og inntrykkssterkt innhold den 29. oktober 2021. På grunn av en intern feilkommunikasjon, gjenopprettet imidlertid ikke Meta innholdet før 2. desember 2021, nesten fem uker senere. Da de gjenopprettet innholdet, plasserte de også en advarsel på videoen som markerte den som sensitiv, slik at brukerne må klikke seg videre for å se innholdet. Advarselen forbyr brukere under 18 år å se videoen.

Innlegget ble sett færre enn 1000 ganger, og ingen brukere rapporterte innholdet.

Følgende faktagrunnlag er relevant for rådets beslutning. Etter at militære styrker kastet den sivile regjeringen i Sudan i oktober 2021, med påfølgende sivile demonstrasjoner, skjøt sikkerhetsstyrker i landet med skarpt, brukte tåregass og arresterte demonstranter vilkårlig, ifølge FNs høykommissær for menneskerettigheter. Sikkerhetsstyrkene gikk også målrettet etter journalister og aktivister og ransaket deres hjem og kontorer. Journalister har blitt angrepet, arrestert og fengslet.

Ifølge eksperter rådet har konsultert, ble sosiale medier etter den militære overtakelsen av statlige medier og undertrykkelsen av sudanesiske aviser og kringkastere en sentral kilde til informasjon og et sted for å dokumentere militære voldshandlinger. Militæret stengte ned Internett samtidig med arrestasjonen av regjeringsmedlemmene 25. oktober 2021, og tilgangen til Internett har siden den gang regelmessig vært ustabil over hele landet.

3. Tilsynsrådets myndighet og virkeområde

Rådet har myndighet til å vurdere avgjørelser som Meta sender inn til ny gjennomgang (artikkel 2, del 1 i vedtektene og forskriftenes artikkel 2, del 2.1.1). Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere gjennomførbarheten av å iverksette avgjørelsen sin når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte rådgivende uttalelser om retningslinjer og ikke-bindende anbefalinger som Meta må svare på (forskriftenes artikkel 3, del 4; artikkel 4 i vedtektene).

4. Ekspertkilder

Tilsynsrådet brukte følgende ekspertkilder:

I.Tilsynsrådets beslutninger:

Rådet har i tidligere vedtak vurdert og gitt anbefalinger om Metas retningslinjer og prosesser. De mest relevante inkluderer:

• Saksavgjørelse 2021-010-FB-UA («Colombia-protester»): I denne saken bemerket rådet at Meta ikke gjør kriteriene om å eskalere innhold som skal gjennomgås for nyhetsverdi offentlig tilgjengelig (som er den eneste måten standarden kan brukes på) og uttalte at «i et miljø der politiske utsagn begrenses, har sosiale medier vært en plattform for alle, inkludert journalister, som vil dele informasjon om protestene.» Rådet anbefalte at Meta «utvikler og publiserer klare kriterier for innholdsmoderatorer for å eskalere innhold av allmenn interesse for ytterligere gjennomgang ... Disse kriteriene bør dekke innhold som viser store demonstrasjoner rundt politiske spørsmål, spesielt i sammenhenger der stater beskyldes for brudd på menneskerettighetene og der det er av stor viktighet å ha en offentlig tilgjengelig oversikt over hendelsene.»
• Saksavgjørelse 2021-001-FB-FBR («Suspensjon av tidligere president Trump»): I denne saken anbefalte rådet at Meta bør utvikle og publisere retningslinjer som er styrende for hvordan de reagerer på kriser eller nye situasjoner der de vanlige prosessene ikke er nok til å forhindre eller unngå overhengende fare for skade. I januar 2022 holdt Meta et retningslinjeforum om «Crisis Policy Protocol» (retningslinjeprotokoll for kriser), som ble utviklet som svar på rådets anbefaling. Imidlertid bekreftet Meta i et av sine svar på spørsmål stilt av rådet at denne protokollen ikke var på plass på tidspunktet for kuppet i Sudan og ved den påfølgende beslutningen om å fjerne og deretter gjenopprette innholdet i denne saken.

II.Metas innholdsretningslinjer:

Facebooks standarder:

I henhold til retningslinjene for voldelig og inntrykkssterkt innhold hevder Meta at de fjerner alt innhold som «forherliger vold og lidelse», men tillater inntrykkssterkt innhold som «hjelper folk med å skape oppmerksomhet om en sak.» Retningslinjene forbyr at det publiseres «videoer av døde eller levende mennesker i ikke-medisinsk kontekst hvis de viser lemlesting.» I henhold til reglene om nyhetsverdi tillater Meta krenkende innhold på plattformene sine hvis de har nyhetsverdi og «hvis det er i allmennhetens interesse at det vises.»

III. Metas verdier:

Metas verdier er angitt i introduksjonen til Facebooks standarder. Verdiene som er relevante for denne saken er «stemme», «sikkerhet», «personvern» og «verdighet». Verdien «stemme» er beskrevet som «overordnet»:

Målet for standardene har alltid vært å skape et sted hvor man kan uttrykke seg og å gi folk en stemme. [Vi vil at] folk skal kunne snakke åpent om saker som er viktige for dem, selv om noen kan være uenige eller finne dem støtende.

Meta begrenser «stemme» for å oppfylle fire andre verdier, og tre av disse er relevante her:

«Sikkerhet»: Innhold som kan virke truende, skremmende eller ekskluderende eller bringe andre til taushet er ikke tillatt på Facebook.

«Personvern»: Det er viktig for oss å ivareta personvernet og beskytte informasjon. Personvern gir folk frihet til å være seg selv, velge hvordan og når de vil dele noe på Facebook, og få kontakt med andre på en enklere måte.

«Verdighet»: Vi mener at alle mennesker er likeverdige og har like rettigheter. Vi forventer at folk respekterer andres verdighet og ikke trakasserer eller nedverdiger andre mennesker.

IV: Internasjonale standarder for menneskerettigheter:

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer for menneskerettigheter, der selskapet på nytt forpliktet seg til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken baserte seg på følgende menneskerettighetsstandarder:

• Retten til ytringsfrihet, inkludert muligheten til å søke etter og motta informasjon: Artikkel 19 i Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR); generell kommentar nr. 34, menneskerettighetskomiteen, 2011; FNs spesialrapportør for menings- og ytringsfrihet, rapport: A/HRC/38/35 (2018) og A/73/348 (2018).
• Barnets beste: Artikkel 13 og 17, konvensjon om barns rettigheter (CRC); Generell kommentar nr. 25, komité om barns rettigheter, 2021, om barns rettigheter i det digitale miljøet.
• Retten til personvern: Artikkel 17 i ICCPR,
• Tilgang til effektive rettsmidler: Artikkel 2 i ICCPR, generell kommentar nr. 31 fra menneskerettighetskomiteen (2004), UNGP-er, prinsipp 22, 29, 31.

5. Brukeruttalelser

Etter Metas henvisning og rådets vedtak om å godta saken, ble brukeren tilsendt en melding om rådets vurdering og gitt en anledning til å avgi en uttalelse til rådet. Brukeren sendte ikke inn noen uttalelse.

6. Metas uttalelser

I henvisningen sin hevder Meta at det var vanskelig å ta en avgjørelse om dette innholdet, fordi det handler om en balanse mellom verdien av å dokumentere brudd på menneskerettighetene (allmenn interesse) og skaderisikoen ved å dele såpass inntrykkssterkt innhold. Meta framhevet også viktigheten av å la brukere dokumentere menneskerettighetsbrudd under et kupp og stenging av internettilgang i landet.

Meta informerte rådet om at umiddelbart etter at militærkuppet fant sted i Sudan, opprettet Meta et kriseresponsteam på tvers av flere funksjoner for å følge med på situasjonen og kommunisere nye trender og risikoer. Ifølge Meta observerte dette teamet «topper når det gjaldt rapporter om innhold som skildrer inntrykkssterk vold og oppfordring til vold i de periodene da protestene var som mest aktive. [Teamet] ble bedt om å eskalere forespørsler om å tillate innhold med inntrykkssterk vold som ellers ville brutt med retningslinjene om inntrykkssterkt og voldelig innhold, inkludert innhold som viser statsstøttede menneskerettighetsbrudd.»

Meta bemerket at denne videoen ble tatt i sammenheng med omfattende protester og reelle bekymringer angående pressefrihet i Sudan. Meta bemerket også at denne typen innhold kan «advare brukere i området om en trussel mot deres sikkerhet og er spesielt viktig under en Internett-blackout, der journalisters tilgang til stedet kan være begrenset.»

Meta uttalte også at beslutningen om å gjenopprette innholdet var i tråd med verdiene deres, spesielt verdien «stemme», som er avgjørende. Meta siterte et tidligere rådsvedtak som sier at politiske ytringer er sentralt for verdien «stemme». Saksavgjørelse 2021-010-FB-UA («Colombia-protester»); 2021-003-FB-UA («Punjabi-bekymring rundt RSS i India»); 2021-007-FB-UA («Myanmar Bot»); og 2021-009-FB-UA («Delt Al Jazeera-innlegg»).

Meta fortalte rådet at de hadde fastslått at den opprinnelige beslutningen om å fjerne innholdet var i strid med artikkel 19 i ICCPR, spesielt nødvendighetsprinsippet. Derfor gjenopprettet de innholdet i henhold til prinsippet om nyhetsverdi. For å redusere enhver potensiell skaderisiko ved å la det inntrykkssterke innholdet forbli på plattformen etter gjenoppretting, begrenset Meta tilgangen til det til personer over 18 år og merket det med en advarsel. Meta bemerket også i sin saksbegrunnelse at beslutningen om å gjenopprette innholdet var i samsvar med rapporten fra FNs spesialrapportør om beskyttelse av retten til menings- og ytringsfrihet, spesielt «retten til å få tilgang til informasjon om menneskerettighetsbrudd.»

Meta bemerket også at fordi de brukte en advarsel som ikke tillater at brukere under 18 år får se innholdet, vurderte de også virkningen avgjørelsen kan ha på barns rettigheter. Meta fortalte rådet da de tok avgjørelsen at de vurderte artikkel 13 i barnekonvensjonen og generell kommentar nr. 25 om barns rettigheter i det digitale miljøet for å beskytte barns rett til ytringsfrihet, inkludert «frihet til å søke, motta og formidle informasjon og ideer av alle slag, uavhengig av grenser.» Meta forklarte i saksbegrunnelsen at beslutningen om å begrense synligheten av innholdet til voksne tjente det legitime formålet om å beskytte sikkerheten til mindreårige og var proporsjonal med dette formålet.

Rådet stilte Meta 21 spørsmål. Meta svarte på 17 av dem fullstendig og 4 delvis. De delvise svarene hadde å gjøre med spørsmål om måling av virkningen Metas automatiserte system har på innhold på plattformen og hvorfor standarden om voldelig og inntrykkssterkt innhold ikke inneholder et bevisstgjøringsunntak.

7. Offentlige kommentarer

Rådet mottok fem offentlige kommentarer om denne saken. To kommentarer var fra Europa, én fra Afrika sør for Sahara og to fra USA og Canada.

Kommentarene dekket følgende temaer: behovet for å ta i bruk en mer kontekstsensitiv tilnærming som vil sette en høyere terskel for fjerning av innhold i regioner med væpnede konflikter, slik at mindre innhold fjernes; behovet for å ta vare på materiale for potensielle framtidige undersøkelser eller å holde dem som bryter menneskerettighetene ansvarlig; og at tillatelse av innhold av nyhetsverdi sannsynligvis vil bli brukt ad hoc og bestridelig, og at denne praksisen bør vurderes på nytt.

Som en del av det løpende interessentengasjementet, snakket rådet i mars 2022 med ca. 50 enkeltpersoner og representanter for organisasjoner som jobber med å rapportere og dokumentere menneskerettighetsbrudd; akademikere som forsker på etikk, menneskerettigheter og dokumentasjon; samt interessenter som ønsker å samhandle med rådet om problemer som oppstår ut fra standarden om voldelig og inntrykkssterkt innhold og håndhevelsen av dem i krise- eller protestsammenheng. Disse løpende dialogene holdes under Chatham House Rule for å sikre ærlig diskusjon og beskytte deltakerne. Diskusjonen berørte en rekke temaer, inkludert sosiale mediers viktige rolle i land som kontrolleres av undertrykkende regimer for å dokumentere menneskerettighetsbrudd og skape oppmerksomhet blant internasjonale medier og offentligheten om statssanksjonert vold. Det ble delt bekymringer om at en universell standard om voldelig og inntrykkssterkt innhold i praksis er en USA-fokusert standard, og det ble anmerket at bruken av advarsler er nyttig for å løse det reelle problemet med traumer, selv om noen organisasjoner rapporterte at advarselsskjermer kan begrense rekkevidden til innholdet.

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

8. Tilsynsrådets analyse

Rådet gransket spørsmålet om hvorvidt dette innholdet skulle forbli på plattformen gjennom tre perspektiver: Metas innholdsretningslinjer, selskapets verdier og selskapets menneskerettighetsansvar.

8.1. Overholdelse av Metas innholdsretningslinjer

I.Innholdsregler

Rådet er enig i Metas beslutning om å gjenopprette dette innholdet til plattformen med en advarsel og aldersbegrensning, men bemerker at det er en mangel på klarhet i Metas innholdsretningslinjer, og ingen effektive måter å implementere denne responsen på i stor skala for lignende innhold.

Metas opprinnelige beslutning om å fjerne innholdet var i samsvar med reglene i standarden om vold og inntrykkssterkt innhold – innholdet brøt med retningslinjene ved å vise menneskelig lemlesting i ikke-medisinsk kontekst (en person med en betydelig hodeskade og et synlig løsrevet øye). Imidlertid sier retningslinjebegrunnelsen for standarden om vold og inntrykkssterkt innhold at «[Meta] tillater inntrykkssterkt innhold (med noen begrensninger) for å hjelpe folk med å skape bevissthet om problemer. [Meta] vet at folk setter pris på å kunne diskutere viktige spørsmål som menneskerettighetsbrudd eller terrorisme.» Til tross for denne referansen i retningslinjebegrunnelsen, inneholder ikke de spesifikke reglene i standarden et unntak for «bevisstgjøring». Metas interne standarder for moderatorene sine har heller ikke et unntak for innhold som sikter mot å øke bevisstheten om eller dokumentere brudd på menneskerettighetene.

I fravær av et spesifikt unntak innenfor standarden, er rådet enig i Metas beslutning om å gjenopprette innholdet på grunnlag av prinsippet om nyhetsverdi. Meta opplyser at de tillater krenkende innhold å forbli på plattformen under prinsippet om nyhetsverdi hvis de fastslår at det har en reell nyhetsverdi og «det å holde det synlig er i allmennhetens interesse [og] etter å ha veid allmennhetens interesse opp mot skaderisikoen.»

II.Tiltak

Rådet bemerker at selv om Meta tok beslutningen om å tillate innholdet på grunnlag av nyhetsverdi og gjenopprette det med en advarselsskjerm 29. oktober 2021, ble innlegget faktisk ikke gjenopprettet til plattformen før nesten fem uker senere, 2. desember 2021. Meta sa at kommunikasjonen om den endelige avgjørelsen om innholdet skjedde utenfor deres vanlige eskaleringsstyringsverktøy, «noe som førte til forsinket iverksettelse av passende tiltak for innholdet.» Rådet finner denne forklaringen og forsinkelsen svært bekymringsfull og understreker viktigheten av at Meta tar grep umiddelbart ved beslutninger som dette, der det er snakk om offentlige kriser og pressefriheten har blitt sterkt begrenset. Da Meta opprinnelig fjernet dette innholdet, brukte de en 30-dagers funksjonsgrense som forhindret brukeren fra å opprette nytt innhold, i en periode da gatedemonstranter og journalister som rapporterte om kuppet og militære overgrep ble møtt med grov vold og undertrykkelse.

8.2. Samsvar med Metas verdier

Rådet konkluderer med at det å beholde dette innholdet på plattformen med en advarsel er i samsvar med Meta-verdiene «stemme» og «sikkerhet».

Rådet anerkjenner viktigheten av «verdighet» og «personvern» for å beskytte ofre for menneskerettighetsbrudd. Innholdet påvirker verdigheten og privatlivet til den skadde personen i videoen og vedkommendes familie; personen som er avbildet er identifiserbar, og personen eller de pårørende ønsker kanskje ikke at denne typen opptak skal kringkastes.

Rådet bemerker også relevansen av «sikkerhet» i denne sammenhengen, som tar sikte på å beskytte brukere mot innhold som utgjør «en risiko for fysisk skade på personer.» På den ene siden forsøkte brukeren å øke bevisstheten om det pågående kuppet, noe som kan bidra til å forbedre sikkerheten til personer i regionen. På den annen side kan innholdet også skape en risiko for personen som vises i videoen og/eller vedkommendes familie.

Rådet konkluderer med at der samfunnsrom og mediefrihet innskrenkes av staten, blir verdien «stemme» enda viktigere. Her tjener «stemme» også til å øke verdien «sikkerhet» ved å sikre at folk har tilgang til informasjon og at vold fra offentlige myndigheter avsløres.

8.3. Samsvar med Metas menneskerettighetsansvar

Rådet konkluderer med at det er i samsvar med Metas menneskerettighetsansvar å beholde innholdet på plattformen med en advarsel. Rådet konkluderer imidlertid også med at Metas retningslinjer bør endres for bedre å respektere retten til ytringsfrihet for brukere som ønsker å bevisstgjøre eller dokumentere overgrep.

Ytringsfrihet (artikkel 19 i ICCPR)

Artikkel 19 i ICCPR gir bred beskyttelse for ytringsfriheten, inkludert retten til å søke og motta informasjon. Denne retten kan imidlertid begrenses under visse forhold, kjent som den tredelte testen av lovlighet (klarhet), legitimitet og nødvendighet og proporsjonalitet. Selv om ICCPR ikke skaper forpliktelser for Meta på samme måte som for stater, har Meta forpliktet seg til å respektere menneskerettighetene som er angitt i UNGP-ene. Denne forpliktelsen omfatter internasjonalt anerkjente menneskerettighetsprinsipper, som blant annet dem som er definert i ICCPR.

I. Lovlighet (tydelige og tilgjengelige regler)

Enhver begrensning av ytringsfriheten skal være tydelig angitt og lett tilgjengelig, slik at det er enkelt å se hva som er tillatt og ikke. Rådet konkluderer med at retningslinjene for voldelig og inntrykkssterkt innhold ikke tydeliggjør at Meta tillater brukere å dele inntrykkssterkt innhold for å øke bevisstheten om eller dokumentere misbruk. Begrunnelsen for standarden, som angir målene med retningslinjene, stemmer ikke overens med reglene i retningslinjene. Begrunnelsen for retningslinjene sier at Meta tillater at brukere legger ut inntrykkssterkt innhold «for å hjelpe til med å øke bevisstheten» om menneskerettighetsbrudd, men retningslinjene forbyr alle videoer (enten de deles for å øke bevisstheten eller ikke) «av mennesker eller døde kropper i ikke-medisinsk sammenheng hvis de viser lemlesting.» Selv om Meta helt korrekt lente seg på prinsippet om bredere nyhetsverdi da de gjenopprettet dette innholdet, gjør ikke standarden om voldelig og inntrykkssterkt innhold det klart om denne typen innhold vil tillates på plattformen.

Rådet konkluderer også med at prinsippet om nyhetsverdi ikke tydeliggjør når innhold som dokumenterer menneskerettighetsbrudd eller grusomheter vil tillates. Selv om vi er enige med Meta i at det kan være «svært subjektiv» å skulle bestemme hva som har nyhetsverdi, definerer ikke den aktuelle regelen engang begrepet. Retningslinjene sier at selskapet tillegger «spesiell verdi til innhold som viser overhengende trusler mot folkehelsen eller sikkerheten, eller som gir en stemme til perspektiver som for øyeblikket diskuteres som en del av en politisk prosess.» Eksempler og klare prinsipper bør ligge til grunn også ved utøvelse av skjønn ved slike avgjørelser. Uten dette vil sannsynligvis overholdelsen være inkonsekvent og vilkårlig. Nyhetsverdi refererer heller ikke til bruken av advarsler (eller bannermerking) for innhold som ellers bryter Metas retningslinjer.

Rådet anbefalte dessuten i en tidligere sak («Colombia-protester») at Meta «utvikler og publiserer klare kriterier for innholdsmoderatorer for å eskalere innhold av allmenn interesse for ytterligere gjennomgang.» Meta svarte at de allerede har publisert kriteriene for eskalering gjennom artikkelen om nyhetsverdi i åpenhetssenteret sitt. Imidlertid fokuserer denne artikkelen på de faktorene Meta vurderer når de bruker prinsippet om nyhetsverdi, ikke kriterier moderatorene bruker for å avgjøre når innhold skal eskaleres (som å sende det til ytterligere vurdering). Dersom nyhetsverdi er ment å være en del av selskapets skalerte innholdsmodereringssystem, bør prosessene for eskalering og bruk legge til rette for dette. Rådet bemerker at mangelen på klarhet rundt når og hvordan prinsippet om nyhetsverdi brukes sannsynligvis vil medføre vilkårlig anvendelse av disse retningslinjene.

II. Legitime mål

Begrensninger av ytringsfriheten skal ha et legitimt mål, noe som inkluderer beskyttelse av andres rettigheter, for eksempel retten til privatliv for den avbildede personen (generell kommentar 34, § 28) og retten til fysisk integritet. Meta bemerker også i begrunnelsen for retningslinjene at «innhold som forherliger vold eller andres lidelse eller ydmykelse (...) kan skape et miljø som motvirker deltakelse.» Rådet er enig i at retningslinjene for voldelig og inntrykkssterkt innhold prøver å dekke flere legitime mål.

III. Nødvendighet og proporsjonalitet

Begrensninger av ytringsfriheten «må være hensiktsmessige for å oppnå sin beskyttende funksjon; de må være det minst mulig påtrengende tiltaket for å oppnå den beskyttende funksjonen og være proporsjonal med interessen som skal beskyttes» (generell kommentar 34, § 34).

I denne saken konkluderer rådet med at det å merke innholdet med en advarsel var en nødvendig og forholdsmessig begrensning av ytringsfriheten. Advarselen skaper ikke en unødig belastning for den som ønsker å se innholdet, samtidig som den informerer andre om typen av innhold og lar dem bestemme selv om de vil se det eller ikke. Advarselen beskytter også i tilstrekkelig grad verdigheten til den avbildede personen og dennes familie.

Rådet bemerker også at, som omtalt i 8.1, Metas gjenoppretting av innlegget var forsinket med nesten fem uker. Denne forsinkelsen hadde en uforholdsmessig stor innvirkning på ytringsfriheten i sammenheng med de pågående voldshandlingene og den begrensede medietilgangen i Sudan. En så lang forsinkelse undergraver fordelene ved denne ytringen, som skulle være en advarsel til sivilbefolkningen og øke bevisstheten rundt det som skjedde.

Rådet konkluderer også med at fordi prinsippet om nyhetsverdi brukes sjelden, er det ikke en effektiv mekanisme for å tillate innhold som dokumenterer overgrep eller forsøker å øke bevisstheten på plattformen i stor skala. Meta fortalte rådet at de «har dokumentert tillatelse av 17 innlegg med nyhetsverdi i forbindelse med retningslinjene for voldelig og inntrykkssterkt innhold i løpet av de siste 12 månedene (12 måneder før 8. mars 2022). Innholdet i dette tilfellet utgjør én av disse 17.» Til sammenligning fjernet Meta 90,7 millioner innholdselementer med henvisning denne standarden de tre første kvartalene av 2021. Rådet mener det er usannsynlig at bare 17 innholdselementer knyttet til disse retningslinjene ble tillatt på plattformen på grunn av nyhetsverdi og allmenn interesse globalt i løpet av ett år. Prinsippet om nyhetsverdi er ikke en tilstrekkelig mekanisme for å tillate innhold av denne art på plattformen. For å unngå sensurering av beskyttede ytringer bør Meta endre selve retningslinjene for voldelig og inntrykkssterkt innhold for å tillate at slikt innhold forblir på plattformen.

Ved kriger eller politisk uro vil mer inntrykkssterkt og voldelig innhold fanges opp av brukerne og deles på plattformen, med det formål å bevisstgjøre eller dokumentere overgrep. Dette innholdet er viktig for å fremme ansvarlighet. Rådet bemerket i saken om «suspensjon av tidligere president Trump» at Meta har et ansvar for å «samle inn, oppbevare og, der det er hensiktsmessig, dele informasjon for å bidra til etterforskning og eventuell rettsforfølgelse av alvorlige brudd på internasjonale straffelover, menneskerettighetslover og humanitære lover av kompetente myndigheter og kontrollinstanser.» Rådet anbefalte også at Meta presiserer og oppgir i retningslinjene sine for bedriftens menneskerettighetsansvar hvordan man gjør tidligere offentlig innhold tilgjengelig for analytikere og samtidig respekterer internasjonale standarder og databeskyttelseslover. Som svar forpliktet Meta seg til å orientere rådet om det pågående arbeidet med å løse utfordringen. Etter at rådet publiserte denne anbefalingen 5. mai 2021, har ikke Meta rapportert noen framgang i denne saken. Rådet er bekymret over den lange forsinkelsen og mangelen på framgang, gitt rollen plattformen spiller i situasjoner med voldelige konflikter (for eksempel den nåværende krigen i Ukraina, hvor brukere dokumenterer overgrep gjennom sosiale medier) og politisk uro rundt om i verden.

Rådet minner avslutningsvis om sin anbefaling fra saken «suspensjon av tidligere president Trump», der Meta ble bedt om å «utvikle og publisere retningslinjer som er styrende for hvordan de reagerer på kriser eller nye situasjoner der de vanlige prosessene ikke er nok til å forhindre eller unngå overhengende fare for skade.» Meta rapporterte i Oppdatering for 4. kvartal 2021 om Tilsynsrådet at selskapet har utarbeidet et forslag til en ny kriseprotokoll som svar på rådets anbefaling, og at denne ble vedtatt. Meta opplyste også at de snart vil komme med informasjon om denne protokollen i åpenhetssenteret sitt. Meta informerte rådet om at denne protokollen ikke var på plass da kuppet i Sudan skjedde, og at den heller ikke var operativ under gjennomgangen av denne saken. Selskapet planlegger å lansere protokollen senere i 2022. En godt utformet protokoll bør være veiledende for Meta når de skal utvikle og implementere nødvendige og proporsjonale reaksjoner i krisesituasjoner. Meta bør reagere raskere for å implementere denne protokollen og oppgi så mye informasjon som mulig om hvordan denne protokollen vil fungere sammen med eksisterende Meta-prosesser. Metas plattformer spiller en framtredende rolle i konflikter og krisesituasjoner rundt om i verden og selskapet må være forberedt på å reagere raskt og systematisk for å forhindre feil.

9. Tilsynsrådets avgjørelse

Tilsynsrådet opprettholder Metas beslutning om å tillate innholdet, men med en advarsel som begrenser tilgangen til personer over 18 år.

10. Rådgivende uttalelse om retningslinjene

Retningslinjer for innhold

1. Meta bør endre standarden for voldelig og inntrykkssterkt innhold så det tillates videoer av mennesker eller døde kropper når de deles med formål om å bevisstgjøre eller dokumentere menneskerettighetsbrudd. Dette innholdet bør tillates sammen med en advarsel, slik at folk er klar over at innholdet kan være opprørende. Rådet vil anse denne anbefalingen som iverksatt når Meta oppdaterer standarden.

2. Meta bør starte en prosess med endring av retningslinjene for å utvikle kriterier for å identifisere videoer av mennesker eller døde kropper når de deles med det formål å bevisstgjøre eller dokumentere menneskerettighetsbrudd. Rådet vil anse denne anbefalingen som iverksatt når Meta publiserer funnene fra retningslinjeutviklingsprosessen, inkludert informasjon om prosessen og kriterier for å identifisere dette innholdet i stor skala.

3. Meta bør tydeliggjøre i beskrivelsen av reglene om nyhetsverdi alle tiltak som kan utføres (for eksempel gjenoppretting med advarselsskjerm) basert på disse retningslinjene. Rådet vil anse denne anbefalingen som iverksatt når Meta oppdaterer retningslinjene.

Håndhevelse

4. For å sikre at brukerne forstår reglene bør Meta varsle brukerne når det iverksettes tiltak rundt innholdet deres basert på reglene om nyhetsverdi, inkludert gjenoppretting av innhold eller bruk av advarsler. Brukervarselet kan lenke til forklaringen om nyhetsverdi i åpenhetssenteret. Rådet vil anse dette som iverksatt når Meta ruller ut denne oppdaterte varslingen til brukere i alle markeder og kan vise til at brukerne mottar denne varslingen ved håndheving av reglene.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av et flertall av rådet. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Et uavhengig analyseinstitutt med hovedkontor ved universitetet i Gøteborg, med støtte fra en gruppe på over 50 samfunnsvitere fra seks kontinenter og mer enn 3200 eksperter fra hele verden. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة