Brasiliansk generals tale

Sagsresumé

Tilsynsrådet har omstødt Metas oprindelige afgørelse om at lade en Facebook-video blive på Facebook, hvori en brasiliansk general opfordrer folk til at "gå på gaden" og "gå mod Nationalkongressen og Højesteret". Selvom rådet anerkender, at Meta har iværksat flere forskellige risikovurderings- og afhjælpningsforanstaltninger under og efter valget, bør Meta, på grund af den potentielle risiko for, at platformen bliver brugt til at opildne til vold i forbindelse med valg, hele tiden øge sin indsats for at forhindre, afhjælpe og håndtere uønskede konsekvenser. Rådet anbefaler, at Meta udarbejder en struktur for evaluering af sine foranstaltninger i forhold til integriteten af valg for at forhindre, at Metas platforme bliver brugt til at promovere politisk vold.

Om sagen

Præsidentvalget i Brasilien i 2022 var stærkt polariseret med omfattende og koordinerede påstande både online og offline om valgets legitimitet. Det omfattede opfordringer til militær intervention og til invasion af regeringsbygninger for at stoppe overgangen til en ny regering. Den øgede risiko for politisk vold aftog ikke, da den nyvalgte præsident Luiz Inácio Lula da Silva overtog præsidentposten 1. januar 2023, hvor der var civile uroligheder, demonstrationer og folk, der slog lejr foran militærbaser.

To dage senere, den 3. januar 2023, slog en Facebook-bruger en video op om det brasilianske valg i 2022. Billedteksten på portugisisk inkluderer en opfordring til at "belejre" Brasiliens kongres som "det sidste alternativ". Videoen viser også en del af en tale afholdt af en fremtrædende brasiliansk general, der støtter genvalget af den tidligere præsident Jair Bolsonaro. I videoen opfordrer den uniformerede general folk til at "gå på gaden" og "gå mod Nationalkongressen ... [og] Højesteret". En sekvens af billeder følger, inklusive et af en brand, der raser i "Three Powers Plaza" i Brasília, som huser Brasiliens præsidentkontorer, Nationalkongressen og Højesteret. Billedets tekstoverlejring er på portugisisk og betyder: "Kom til Brasília! Lad os storme det! Lad os belejre de tre magter." Et andet billedes tekstoverlejring lyder "vi kræver kildekoden", et slogan, som demonstranter har brugt til at stille spørgsmålstegn ved pålideligheden af Brasiliens elektroniske stemmemaskiner.

Den dag, hvor indholdet blev slået op, blev det af en bruger anmeldt for at overtræde Metas fællesskabsregel om vold eller opfordring til vold, som forbyder opfordringer til at tiltvinge sig adgang til højrisikolokationer. I alt anmeldte fire brugere indholdet syv gange mellem 3. januar og 4. januar. Efter den første anmeldelse blev indholdet gennemgået af en indholdsevaluator og fastslået ikke at overtræde Metas politikker. Brugeren appellerede afgørelsen, men den blev stadfæstet af en anden indholdsevaluator. Dagen efter blev de andre seks anmeldelser gennemgået af fem forskellige moderatorer, som alle fastslog, at indholdet ikke overtrådte Metas politikker.

Den 8. januar brød tilhængere af den tidligere præsident Jair Bolsonaro ind i Nationalkongressen, Højesteret og præsidentens kontorer i "Three Powers Plaza" i Brasília og intimiderede politiet og ødelagde ejendom. Den 9. januar erklærede Meta optøjerne den 8. januar for en krænkende begivenhed i henhold til Metas politik om farlige individer eller organisationer, og Meta sagde, at de ville fjerne indhold, der støtter eller hylder disse handlinger. Virksomheden erklærede desuden, at de havde udpeget Brasilien som en midlertidig højrisikolokation og havde fjernet indhold, der opfordrer folk til at gribe til våben eller tiltvinge sig adgang til kongressen, præsidentpaladset og andre føderale bygninger.

Som følge af at rådet udvalgte denne sag, har Meta slået fast, at virksomhedens gentagne afgørelser om at lade indholdet forblive på Facebook var en fejl. Den 20. januar 2023, efter at rådet havde sat fokus på sagen, fjernede Meta indholdet.

Centrale konklusioner

Denne sag skaber bekymring for effektiviteten af Metas foranstaltninger i forhold til integriteten af valg i forbindelse med præsidentvalget i Brasilien i 2022 og andre steder. Selvom udfordringer af integriteten af valg generelt set betragtes som beskyttet tale, så kan udbredte påstande, som forsøger at underminere valg, i visse situationer medføre voldelige handlinger. I denne sag retfærdiggør talerens hensigt, talens indhold og rækkevidde samt sandsynligheden for umiddelbart forestående skade i konteksten af den politiske situation i Brasilien på det pågældende tidspunkt, alt sammen fjernelse af indholdet.

For at et opslag overtræder Metas regler for opfordring til at tiltvinge sig adgang til højrisikolokationer skal lokationen betegnes som "højrisiko", og den skal være placeret i et område eller i nærheden af et område, der er anført som "en midlertidig højrisikolokation". Da opslaget var en utvetydig opfordring til at tiltvinge sig adgang til regeringsbygninger i "Three Powers Plaza" i Brasília ("højrisikolokationer" beliggende i "en midlertidig højrisikolokation", Brasilien), var Metas oprindelige beslutning om at lade indholdet ligge i en tid, hvor der var øget politisk vold, en klar tilsidesættelse af Metas egne regler.

Rådet er dybt bekymrede, fordi Metas indholdsmoderatorer til trods for civile uroligheder i Brasilien på det tidspunkt, hvor indholdet blev slået op, og en omfattende spredning af lignende indhold i ugerne og månederne forud for optøjerne den 8. januar, gentagne gange gennemgik indholdet og vurderede, at det ikke var i strid med Metas regler og ikke eskalerede det til yderligere gennemgang. Derudover var det således, at da rådet bad Meta om oplysninger om specifikke valgrelaterede påstande på Metas platforme før, under og efter valget i Brasilien, forklarede virksomheden, at de ikke havde data om udbredelsen af sådanne påstande. Indholdet i denne sag blev i sidste ende fjernet mere end to uger senere, og på dette tidspunkt havde den voldelige handling, der blev opfordret til i indholdet, allerede fundet sted, og fjernelsen fandt først sted, efter at rådet havde gjort Meta opmærksom på problemet.

Som svar på et spørgsmål fra rådet svarede Meta, at de ikke har særlige målinger til måling af effektiviteten af deres foranstaltninger i forhold til integriteten af valg. Rådet mener derfor, at Meta bør udarbejde en struktur for evaluering af virksomhedens foranstaltninger i forhold til integriteten af valg og for offentlig anmeldelse i forbindelse med emnet. Formålet ville være at give virksomheden relevante data, som kan bruges til at forbedre indholdsmodereringssystemet som helhed og til at afgøre, hvordan virksomheden bedst anvender sine ressourcer i forbindelse med valg. Uden denne type oplysninger kan hverken rådet eller offentligheden vurdere effektiviteten af Metas foranstaltninger i forhold til integriteten af valg i bredere forstand.

Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om ikke at fjerne opslaget.

Rådet anbefaler desuden, at Meta gør følgende:

• Udarbejder en struktur for evaluering af virksomhedens foranstaltninger i forhold til integriteten af valg. Det omfatter udarbejdelse og deling af målinger for vellykkede foranstaltninger i forhold til integriteten af valg, herunder dem, som er relateret til Metas håndhævelse af sine indholdspolitikker og virksomhedens tilgang til annoncer.
• Tydeliggør i Gennemsigtighedscenter, at virksomheden udover krisepolitikkontrollen også bruger andre protokoller i sit forsøg på at forhindre og håndtere potentiel risiko for skade, der opstår i forbindelse med valg eller andre begivenheder med høj risiko.

*Sagsresuméer giver en oversigt over sagen og har ingen præjudikatværdi.

Fuld sagsafgørelse

1. Opsummering af afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om at lade en Facebook-video blive på Facebook, hvori en brasiliansk general opfordrer folk til at "gå på gaden" og "gå mod Nationalkongressen og Højesteret". Disse opfordringer blev efterfulgt af et billede af "Three Powers Plaza" i Brasília, hvor disse regeringsbygninger ligger, som er i brand, og med den overlejrede tekst "Kom til Brasília"! Lad os storme det! Lad os belejre de tre magter." Rådet mener, at disse udsagn er tydelige og utvetydige opfordringer til at invadere og tage kontrol over disse bygninger i en kontekst, hvor Bolsonaros støtter bestrider valgresultaterne og opfordrer til militær intervention for at stoppe overdragelsen af præsidentembedet til en anden. Efter at rådet satte fokus på dette opslag med henblik på gennemgang, ændrede Meta mening og fjernede opslaget fra Facebook.

Sagen skaber bekymring for effektiviteten af Metas foranstaltninger i forhold til integriteten af valg i forbindelse med præsidentvalget i Brasilien i 2022 og andre steder. Udfordringer af integriteten af valg betragtes generelt som beskyttet tale, men i visse situationer kan omfattende online- og offlinepåstande, der forsøger at underminere valg, f.eks. som i denne sag, medføre offlinevold. I Brasilien var der alle advarselssignaler på, at denne vold kunne opstå. Selvom rådet anerkender, at Meta har iværksat flere forskellige risikovurderings- og afhjælpningsforanstaltninger under og efter valget, bør Meta, på grund af den potentielle risiko for, at platformen bliver brugt til at opildne til vold i forbindelse med valg, hele tiden øge sin indsats for at forhindre, afhjælpe og håndtere uønskede konsekvenser. Perioden efter et valg bør dækkes af Metas foranstaltninger i forhold til integriteten af valg for at håndtere risikoen for vold i forbindelse med magtoverdragelse.

Rådet anbefaler derfor, at Meta udarbejder en struktur for evaluering af virksomhedens foranstaltninger i forhold til integriteten af valg og for offentlig anmeldelse i forbindelse med emnet. En sådan struktur bør omfatte succesmålinger for de mest relevante aspekter af Metas foranstaltninger i forhold til integriteten af valg, hvilket giver virksomheden mulighed for ikke alene at identificere og løse fejl, men også spore effektiviteten af foranstaltningerne i kritiske situationer. Rådet anbefaler desuden, at Meta tydeliggør de forskellige protokoller og foranstaltninger, som virksomheder anvender til at forhindre og håndtere potentielle risici for skade, der opstår i forbindelse med valg og andre begivenheder med høj risiko. Dette omfatter navngivning og beskrivelse af sådanne protokoller, protokollernes formål, kontaktpunkter mellem dem, og hvordan de adskiller sig fra hinanden. Sådanne protokoller skal være effektive, have en klar kommandovej og være tilstrækkeligt bemandede, særligt når de bruges i forbindelse med valg, hvor der er øget risiko for politisk vold. Disse anbefalinger ville bidrage til at forbedre virksomhedens indholdsmodereringssystem generelt ved at give Meta bedre mulighed for at forhindre, at virksomhedens platforme bliver brugt til at promovere politisk vold, og til at sikre, at virksomheden generelt set ville kunne reagere hurtigere på valgrelateret vold.

2. Sagsbeskrivelse og -baggrund

Den 3. januar 2023 slog en Facebook-bruger en video op om det brasilianske valg i 2022. Billedteksten på portugisisk inkluderer en opfordring til at "belejre" Brasiliens kongres som "det sidste alternativ". Den 1 minut og 32 sekunder lange video viser også en del af en tale afholdt af en fremtrædende brasiliansk general, der støtter genvalget af den tidligere præsident Jair Bolsonaro. I videoen opfordrer den uniformerede general folk til at "gå på gaden" og "gå mod Nationalkongressen ... [og] Højesteret". En sekvens af billeder følger, inklusive et af en brand, der raser i "Three Powers Plaza" i Brasília, som huser Brasiliens præsidentkontorer, Nationalkongressen og Højesteret. Billedets tekstoverlejring er på portugisisk og betyder: "Kom til Brasília! Lad os storme det! Lad os belejre de tre magter." Et andet billedes tekstoverlejring lyder "vi kræver kildekoden", et slogan, som demonstranter har brugt til at stille spørgsmålstegn ved pålideligheden af Brasiliens elektroniske stemmemaskiner. Videoen blev afspillet over 18.000 gange og blev ikke delt.

To dage før indholdet blev slået op, var Bolsonaros valgmodstander Luiz Inácio Lula da Silva blevet taget i ed som Brasiliens præsident efter at have vundet præsidentvalget den 30. oktober 2022 med 50,9 % af stemmerne. Tiden før, mellem og efter præsidentvalgets to stemmerunder var kendetegnet ved en øget risiko for politisk vold, ansporet af påstande om valgsvindel. Det var baseret på påstanden om, at Brasiliens maskiner til elektronisk afstemning var sårbare over for hacking. Forud for valget skabte den daværende præsident Bolsonary mistillid til valgsystemet, da han fremsatte påstande om svindel uden underbyggende dokumentation og med påstande om, at maskinerne til elektronisk afstemning var upålidelige. Visse militærfolk fremsatte lignende påstande om valgsvindel og var fortalere for at bruge militæret som dommer i forbindelse med valgstridigheder. Flere forekomster af politiske annoncer, der angreb valgets lovlighed, på Metas platforme blev anmeldt. Det omfattede opslag og videoer med angreb på judicielle myndigheder og promovering af et militærkup. Derudover offentliggjorde Global Witness en rapport om Brasilien, der beskrev, hvordan politiske annoncer, der krænkede fællesskabsreglerne, blev godkendt af virksomheden og anvendt på Metas platforme. Der var lignende rapporter fra organisationen angående andre lande, f.eks. Myanmar og Kenya.

I perioden efter valget var der civile uroligheder, herunder demonstrationer, vejblokader og folk, der slog lejr foran militærbaser, for at få de væbnede styrker til at omstøde valgresultatet. Ifølge de eksperter, som rådet rådførte sig med, kom videoen i denne sag første gang online i oktober 2022, kort efter at valgresultatet var blevet kendt. Lignende indhold lå på forskellige sociale medie-platforme helt frem til optøjerne den 8. januar. Den 12. december 2022, samme dag, som Lulas valgsejr blev bekræftet af Superior Electoral Court, forsøgte en gruppe pro-Bolsonaro-demonstranter af bryde ind i på hovedkontoret hos det føderale politi i Brasília. Der blev udført forskellige typer vandalisme ved denne lejlighed. Den 24. december 2022, var der et bombeforsøg i nærheden af landets internationale lufthavn i Brasília. Manden bag angrebet blev arresteret, og han tilstod, at hans mål havde været at skabe opmærksomhed omkring et militærkup.

Den øgede risiko for politisk vold i Brasilien faldt ikke med indsættelsen af den nyvalgte præsident den 1. januar 2023. Baseret på undersøgelser, som rådet har fået udført, var der flest tilfælde af falske påstande om afstemningsmaskiner på Metas platforme efter den første og anden valgrunde og igen i ugerne efter Lulas sejr. Derudover brugte Bolsonaros støtter i dagene op til 8. januar flere forskellige kodede slogans til at promovere demonstrationer i Brasília med særligt fokus på regeringsbygninger. Det meste af den logistiske organisering syntes at være gennemført via andre kommunikationskanaler end Facebook.

Internationale valgobservationsmissioner som f.eks. Organisationen af Amerikanske Stater og Carter Center rapporterede, at der ikke var væsentligt bevis på svindel, og at valget var blevet gennemført på en fri og retfærdig måde til trods for tryk fra meget polariserede vælgere. Det brasilianske forsvarsministerium observerede også formelt valget og rapporterede ingen beviser på uregelmæssigheder eller svindel, selvom de efterfølgende udsendte en modstridende meddelelse om, at de væbnede styrker ikke kunne udelukke risikoen for svindel. I Brasilien har forsvarsministeriet ansvaret for de væbnede styrker.

Spændingerne kulminerede den 8. januar, hvor tilhængere af den tidligere præsident Jair Bolsonaro brød ind i Nationalkongressen, Højesteret og præsidentens kontorer i "Three Powers Plaza" i Brasília, der refereres til i sagens indhold, og intimiderede politiet og ødelagde ejendom. Cirka 1400 personer blev arresteret for at deltage i optøjerne den 8. januar, og 600 er stadig tilbageholdt.

I kølvandet på begivenhederne den 8. januar fordømte FN brugen af vold og sagde, at det var kulminationen på en forvrængning af fakta og opildnen til vold og had fra politiske, sociale og økonomiske aktører, som havde bidraget til et miljø med mistro, splittelse og nedbrydning ved at afvise resultaterne af demokratiske valg. FN understregede sit engagement i og sin tillid til Brasiliens demokratiske institutioner. Offentlige kommentarer og eksperter, som rådet rådførte sig hos, indikerede den skadelige effekt, som påstande, der forud for valget såede tvivl ved integriteten i Brasiliens valgsystem, havde på øget politisk polarisering og politisk vold offline (se offentlige kommentarer fra Dangerous Speech Project [PC-11010], LARDEM - Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011], Instituto Vero [PC-11015], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], Center for Democracy & Technology [PC-11018], InternetLab [PC-11019] og Coalizão Direitos na Rede [PC-11020]).

Den 9 januar 2023 erklærede Meta optøjerne den 8. januar for en krænkende begivenhed i henhold til Metas politik om farlige individer eller organisationer, og Meta sagde, at de ville fjerne indhold, der støtter eller hylder disse handlinger. Virksomheden erklærede desuden, at de forud for valget havde udpeget Brasilien som "en midlertidig højrisikolokation" og havde fjernet indhold, der opfordrede folk til at gribe til våben og tiltvinge sig adgang til kongressen, præsidentpaladset og andre føderale bygninger.

Den 3. januar, samme dag som indholdet blev slået op, anmeldte en bruger det for at overtræde Metas fællesskabsregel om vold eller opfordring til vold, som forbyder opfordringer til at "tiltvinge sig adgang til lokationer ... hvor der er midlertidige tegn på øget risiko for vold eller skade i det virkelige liv." I alt anmeldte fire brugere indholdet syv gange mellem 3. januar og 4. januar. Efter den første anmeldelse blev indholdet gennemgået af en menneskelig moderator og fastslået ikke at overtræde Metas politikker. Brugeren appellerede afgørelsen, men den blev stadfæstet af en anden menneskelig moderator. Dagen efter blev de andre seks anmeldelser gennemgået af fem forskellige moderatorer, som alle fastslog, at indholdet ikke overtrådte Metas politikker. Indholdet blev ikke sendt videre til eksperter i politikken eller fageksperter til yderligere gennemgang. Som svar på spørgsmålet fra rådet tydeliggjorde Meta, at syv personer, der havde gennemgået indholdet, var bosiddende i Europa. Ifølge Meta talte de alle flydende portugisisk og havde alle den sproglige og kulturelle ekspertise til at kunne gennemgå brasiliansk indhold.

Som følge af at rådet udvalgte denne sag, har Meta slået fast, at virksomhedens gentagne afgørelser om at lade indholdet forblive på Facebook var en fejl. Den 20. januar 2023, efter at rådet havde sat fokus på sagen, fjernede Meta indholdet, gav indholdskreatørens konto en anmærkning og anvendte en 24-timers funktionsbegrænsning, der forhindrede vedkommende i at oprette nyt indhold i denne periode. Til trods for Metas handling understregede civilsamfundsgruppen Ekōs offentlige kommentar til rådet og andre rapporter, at lignende indhold stadig lå på Facebook efter at rådet havde gjort Meta opmærksom på sagen (PC-11000).

3. Tilsynsrådets bemyndigelse og arbejdsområde

Rådet har bemyndigelse til at gennemgå Metas afgørelse efter en appel fra den person, der tidligere havde anmeldt indhold, blev stadig var online (artikel 2, afsnit 1 i charteret); artikel 3 i vedtægterne, afsnit 1). Rådet kan stadfæste eller omstøde Metas afgørelse (artikel 3, afsnit 5 i charteret), og denne afgørelse er bindende for virksomheden (artikel 4 i charteret). Meta skal desuden vurdere muligheden for at anvende sin afgørelse i forhold til identisk indhold med parallel kontekst (artikel 4 i charteret). Rådets afgørelse kan indeholde ikke-bindende anbefalinger, som Meta skal reagere på (artikel 3 i charteret, afsnit 4; artikel 4). Når Meta forpligter sig til at handle på anbefalinger, overvåger rådet implementeringen af disse anbefalinger.

Når rådet udvælger sager som denne, hvor Meta efterfølgende anerkender, at der er tale om en fejl, gennemgår rådet den oprindelige afgørelse for at få større forståelse af de politikparametre og processer for indholdsmoderering, der ligger til grund for, at fejlen er sket. Rådet forsøger dernæst at adressere problemer i Metas underliggende politikker eller processer. Rådet forsøger også at udstede anbefalinger til Meta om at forbedre nøjagtigheden af håndhævelse og behandle brugere retfærdigt fremadrettet.

4. Kilder til bemyndigelse og vejledning

Følgende regler og fortilfælde har dannet grundlag for rådets analyse i denne sag:

I. Tilsynsrådets afgørelser:

De mest relevante tidligere afgørelser fra Tilsynsrådet omfatter:

• “ "Suspenderingen af forhenværende præsident Trump" (Sagsafgørelse 2021-001-FB-FBR): Rådet bemærkede, at i forbindelse med valg, så kræver Metas ansvar inden for menneskerettighedsområdet, at man tillader ytringsfrihed, men undgår alvorlige risici i forhold til andre menneskerettigheder.
• "Bot vedrørende Myanmar" (sagsafgørelse 2021-007-FB-UA): Rådet understregede vigtigheden af at beskytte politisk tale i perioder med politiske kriser.
• "Tigray Communication Affairs Bureau" (sagsafgørelse 2022-006-FB-MR): Rådet fremhæver, at Meta har et ansvar for at etablere et principielt og gennemsigtigt system til indholdsstyring i konfliktzoner for at mindske risiciene for, at virksomhedens platforme bliver brugt til at tilskynde til vold.
• "Knin-tegnefilm" (sagsafgørelse 2022-001-FB-UA): Rådet opfordrede Meta til at sikre mere tydelighed i forhold til, hvordan indhold skal eskaleres til emneeksperter.

II.Metas indholdspolitikkers:

Fællesskabsreglen om vold eller opfordring til vold

I henhold til fællesskabsreglen om vold eller opfordring til vold tillader Meta ikke hensigts- eller støtteerklæringer, opfordringer til handling eller ønsker eller betingede udsagn om at tiltvinge sig adgang til lokationer, (herunder, men ikke begrænset til, hellige steder, undervisningsfaciliteter, stemmesteder eller steder, der bruges til optælling af stemmer eller valgadministration), hvor der er midlertidige tegn på øget risiko for vold eller skade i det virkelige liv. Politikkens rationale for denne fællesskabsregel er at forhindre potentiel offlineskade, som kan være relateret til indhold, der vises på Metas platforme. Samtidig anerkender Meta, at mange udtrykker foragt eller uenighed ved for sjov at true med eller opfordre til vold. Meta fjerner derfor indhold, hvis virksomheden mener, at der er en reel risiko for fysisk skade eller direkte trusler mod den offentlige sikkerhed. Når Meta skal afgøre, om en trussel er troværdig, tager de også højde for sprogbrug og kontekst.

Rådets analyse blev desuden baseret på Metas forpligtelser omkring ytringsfrihed, som virksomheden beskriver som værende essentiel, samt værdien om sikkerhed.

III. Metas ansvar inden for menneskerettighedsområdet

De vejledende principper om erhvervslivet og menneskerettigheder (UNGP'er), som blev vedtaget af FN's menneskerettighedsråd i 2011, udgør en frivillig ramme for virksomheders ansvar, hvad angår menneskerettigheder. I marts 2021 annoncerede Meta sin virksomhedspolitik om menneskerettigheder, hvor virksomheden genbekræftede sit tilsagn om at respektere menneskerettigheder i overensstemmelse med FN's vejledende principper.

Rådets analyse af Metas ansvar i forhold til menneskerettigheder i denne sag blev udført på baggrund af følgende internationale standarder:

• Retten til menings- og ytringsfrihed: Artikel 19 og 20, International konvention om borgerlige og politiske rettigheder (ICCPR), Generel bemærkning nr. 34, Menneskerettighedskomitéen, 2011; Forskningsrapport 1/2019 om valg i den digitale tidsalder (2019): FN's særlige rapportør for menings- og ytringsfrihed, rapporter: A/HRC/38/35 (2018) og A/74/486 (2019), Rabathandlingsplan, FN's højkommissær for menneskerettigheder, rapport: A/HRC/22/17/Add.4 (2013).
• Retten til frit at deltage i fredelige forsamlinger: artikel 21, ICCPR; Generel bemærkning nr. 37, Menneskerettighedskomitéen, 2020;
• Retten til livet: artikel 6, ICCPR.
• Retten til at deltage i public affairs og stemmeretten: artikel 25, ICCPR.

5. Indsendelser fra brugere

I sin appel til rådet anførte den bruger, der anmeldte indholdet, at vedkommende allerede havde anmeldt denne og utallige andre videoer til Facebook, og at svaret altid havde været det samme, nemlig at de ikke var i strid med fællesskabsreglerne. Brugeren knyttede desuden indholdets potentiale til at tilskynde til handlinger udført af personer i Brasilien, "der ikke accepterer valgresultaterne."

6. Metas indsendelser

Da rådet gjorde Meta opmærksomme på sagen, vurderede Meta, at deres oprindelige beslutning om at lade indholdet blive liggende var forkert. Meta gav rådet en generel analyse af Brasiliens sociale og politiske kontekst før, under og efter præsidentvalget for at argumentere for – omend med forsinkelse – fjernelse af indholdet i denne sag. De gav desuden Meta sandsynlige faktorer, som kunne have bidraget til håndhævelsesfejlen.

Meta anførte deres synspunkt om, at de flere referencer til bestorming af højrisikolokationer i billedteksten og videoen ikke i sig selv medfører eskalering til niveauet for at tiltvinge sig adgang i politikken om vold eller opfordring til vold. Men kombinationen af at opfordre folk til at "Kom til Brasília! Lad os storme det! Lad os belejre de tre magter" med et baggrundsbillede af et brændende "Three Powers Plaza" gør hensigten om at tiltvinge sig adgang til disse prominente steder, tydelig.

Ifølge Meta kvalificerede indholdet sig ikke til en tilladelse i forhold til nyhedsværdi, selvom de anerkender, at virksomhedens platforme er vigtige steder til politisk debat, særligt i forbindelse med valg. I denne sag opvejede værdien af offentlig interesse ikke risikoen for skade til trods for den eksplicitte opfordring til vold og den øgede risiko for offlineskade som følge af præsidentvalget i Brasilien og Lulas indsættelse som præsident. Meta vurderede ikke, at der var nogen indikation på, at indholdet blev delt for at fordømme eller skabe opmærksomhed omkring opfordringen til vold. Virksomheden fastholder, at deres endelige afgørelse om at fjerne indholdet er i tråd med virksomhedens værdier og med internationale menneskerettighedsstandarder.

I forbindelse med valg og andre krisesituationer har Meta etablere forskellige risikovurderings- og afhjælpningsforanstaltninger, der køres af forskellige team, og som kan håndhæves samtidigt eller enkeltvist. Hver enkelt har forskellige niveauer af intensitet, afhængigt af den respektive risikovurdering:

• Politikken for prioritering i forhold til integritet efter land (også kaldet risikovurderingssystem), som køres af produktteamet hos Meta, giver en struktur for langsigtet prioritering af produktressourceinvesteringer. Selvom Meta beskriver denne proces som upåvirkelig af kortsigtede kriser, evalueres alle lande to gange om året i forhold til fremspirende risici/trusler.
• Integrity Product Operations Center (IPOCs) samler et tværfagligt team af emneeksperter fra hele virksomheden, som har til opgave at skulle reagere i realtid på potentielle problemer og trends. IPOCs har til formål hurtigt at vurdere en lang række problemer, identificere risici og afgøre, hvordan de skal håndteres i en krise- eller højrisikosituation. IPOCs kaldes Election Operation Centers, når de har specifikt fokus på valg.
• Election Operation Centers sikrer realtidsovervågning af vigtige problemer i forbindelse med valg, f.eks. bestræbelser på at forhindre folk i at stemme, forøget spam, mulig udenlandsk indblanding eller anmeldelser af indhold, der overtræder [Metas] politikker, og de overvåger nyhedsdækning og valgrelateret aktivitet på tværs af andre sociale netværk og traditionelle medier. Centrene giver Meta et samlet overblik og hjælper med at holde styr på, hvilken type indhold der kan gå viralt, så virksomheden kan reagere hurtigt på disse trusler. En del af forberedelserne i Election Operation Center omfatter en omfattende scenarieplanlægning med henblik på at udelukke potentielle trusler – fra chikane til stemmeundertrykkelse – og udvikle systemer og procesurer forud med henblik på effektiv respons.
• Endelig er krisepolitikkontrollen den struktur, som Meta har implementeret for at udvikle tidsbegrænsede og politikspecifikke svar i en fremspirende krise. Meta udviklede protokollen som svar på Tilsynsrådets anbefaling i sagen om suspenderingen af forhenværende præsident Trump. I henhold til denne protokol har Meta tre krisekategorier, hvorudfra virksomheden anvender et givent sæt foranstaltninger for at afhjælpe risici. En kategori-1-krise er f.eks. udløst af øget aktivitet fra retshåndhævende myndigheder eller militæret eller en planlagt valgrelateret eller anden vigtig begivenhed med høj risiko.

Election Operation Center, der dækkede præsidentvalget i 2022 i Brasilien, kørte på forskellige tidspunkter fra september til november 2022, inklusive under første og anden valgrunde. Der var dog intet Election Operation Center (eller IPOC) på det tidspunkt, hvor indholdet blev slået op den 3. januar 2023. Meta betegnede urolighederne efter valget som en krise i henhold til krisepolitikprotokollen.

Som svar på et spørgsmål fra rådet angående digitale tendenser på Metas platforme før, under og efter valgene i Brasilien svarede virksomheden, at en række teams, som en del af deres arbejde forud for valget og i forbindelse med svar, havde identificeret valgrelaterede indholdstendenser og indarbejdet dem i deres strategi for risikoafhjælpning. Disse omfatter: “(i) risici forbundet med tilskyndelse til eller spredning af trusler om vold, (ii) forkerte oplysninger og (iii) forretningsintegritet, der omfatter risici forbundet med mulig misbrug af annoncering med skadeligt indhold eller forsøg på at køre kampagner på måder, der manipulerer eller skader den offentlige debat. Meta anførte at resultaterne, blandt andre faktorer, bidrog til at danne grundlag for en række afbødende produkt- og politikhandlinger. Meta har dog ikke data om udbredelsen af specifikke påstande (f.eks. om valgsvindel, opfordringer til at gå til Brasília og tiltvinge sig adgang til de føderale regeringsbygninger, opfordringer til militær intervention), fordi virksomhedens håndhævelsessystemer generelt er oprettet for at overvåge og spore ud fra de politikker, der overtrædes.

Rådet stillede Meta 15 skriftlige spørgsmål, herunder fem i en opfølgning til en mundtlig briefing om, hvordan Election Operation Centers fungerer. Spørgsmål var relateret til: politikrelaterede greb til håndtering af koordineret adfærd på Metas platforme, risici identificeret forud for valgene i Brasilien i 2022, relationen mellem Election Operation Center for det brasilianske valg og krisepolitikprotokollen, hvordan Meta sætter grænsen, når der skal skelnes mellem legitim, politisk organisering og skadelig, koordineret handling, digitale tendenser på Metas platforme i Brasilien før, under og efter valgene samt sprogkundskaberne hos de indholdsmoderatorer, der gennemgik sagens indhold.

Meta besvarede 13 spørgsmål. Meta besvarede ikke to spørgsmål; ét spørgsmål om relationen mellem politisk annoncering og forkerte oplysninger, og et andet om antallet af fjernelser af sider og konti, mens Election Operation Center for 2022-valget i Brasilien var på plads. Meta informerede desuden rådet om, at virksomheden ikke havde mere generelle data om indholdsmoderering i forbindelse med valgene i Brasilien i 2022, som de kunne dele med rådet, udover antallet af fjernelser af indhold, som allerede var delt offentligt. Meta forklarede desuden, at virksomheden ikke vurderer sin performance i forbindelse med valg mod et bestemt sæt målinger for succes og benchmarks. Meta fremførte behovet for at prioritere ressourcer som svar på rådets spørgsmål og sagde, at det ikke ville være muligt at levere de nødvendige data inden for sagens tidsramme.

7. Offentlige kommentarer

Tilsynsrådet modtog 18 offentlige kommentarer relateret til denne sag. 11 af kommentarerne var fra Latinamerika og Caribien, tre var fra USA og Canada, to fra Mellemøsten og Nordafrika, én var fra Asien og Stillehavsområdet og én var fra Central og Sydasien. Derudover organiserede rådet i februar 2023 et møde med interessenter fra Brasilien og Latinamerika om emnet indholdsmoderering og politiske overgange.

Indsendelserne dækkede følgende temaer: akkumuleringen af skadelige påstande om valgsvindel og opfordringer til et militærkup på sociale medier før, under og efter valgene i Brasilien i 2022, valgrelaterede forkerte oplysninger, Metas foranstaltninger i forhold til integriteten af valg, Metas ansvar i forhold til at beskytte brugernes rettigheder i forbindelse med en demokratisk overdragelse af magt, relationen mellem afvisning af valgresultater og politisk vold samt vigtigheden af, at indholdsevaluatorer har kendskab til den lokale politiske kontekst.

Klik her for at læse de indsendte offentlige kommentarer til denne sag.

8. Tilsynsrådets analyse

Rådet undersøgte, hvorvidt dette indhold skulle fjernes, ved at analysere Metas indholdspolitikker, ansvar inden for menneskerettighedsområdet og Metas værdier. Denne sag blev udvalgt, fordi den giver rådet mulighed for at vurdere, hvordan Meta skelner mellem fredelig organisering på deres platforme og opildnen til eller koordinering af voldelige handlinger, særligt i forbindelse med magtoverdragelse. Derudover giver sagen rådet mulighed for at undersøge Metas foranstaltninger i forhold til integriteten af valg i bredere forstand, og mere specifikt i Brasilien, og for at tage højde for, at perioder op til valg er yderst vigtige både i forhold til at vurdere integriteten af et valg og til at garantere, at lovlige valgresultater bliver anerkendt. Derfor mener rådet, at Metas foranstaltninger i forhold til integriteten af valg bør dække både selve valgprocessen og perioden efter valget, da sidstnævnte også er sårbar over for manipulation, valgrelaterede forkerte oplysninger og trusler om vold. Denne sag falder inden for rådets strategiske prioritet om "valg og borgerlige rum".

8.1 Overholdelse af Metas indholdspolitikker

I. Indholdsregler

Vold eller opfordring til vold

Rådet mener, at indholdet i denne sag overtræder fællesskabsreglen om vold eller opfordring til vold, der forbyder indhold, som handler om at tiltvinge sig adgang til bestemte højrisikolokationer. Rådet mener, at Metas værdi om ytringsfrihed er særligt relevant i forbindelse med valgprocesser, herunder i perioden efter valget, så det derfor er nødvendigt at fjerne indhold i denne sag i henhold til Metas værdi for Sikkerhed.

For at overtræde politikken om at tiltvinge sig adgang til bestemte højrisikolokationer kræves der to benævnelser af "højrisiko". For det første skal lokationen anses for at være "højrisiko", og den skal være placeret i et område eller i nærheden af et område, der er anført som en midlertidig højrisikolokation. Metas specifikke instruktioner til indholdsevaluatorer er at fjerne opfordringer til handling, hensigtserklæringer, udsagn, der slår til lyd for at tiltvinge sig adgang til højrisikolokationer i en midlertidig højrisikolokation.

Meta definerer en højrisikolokation som et sted, permanent eller midlertidigt, som anses for at være højrisiko på grund af sandsynligheden for, at stedet vil være et mål for vold. Permanente højrisikolokationer omfatter arbejdssteder eller boliger i forbindelse med højrisikopersioner eller deres familier (f.eks. en nyhedsorganisations hovedkontor, lægecentre, laboratorier, politistationer, regeringsbygninger osv.), faciliteter, der bruges under lokale, regionale og nationale valg som f.eks. vælgerregistreringssteder, stemmesteder, stemmeoptællingssteder (f.eks. lokale biblioteker, regeringsbygninger, kommunale bygninger osv.) eller et sted, der bruges til valgadministration. I henhold til Meta er den brasilianske kongresbygning, højesteret og præsidentkontorer alle permanente højrisikolokationer, da der er tale om arbejdssteder eller boliger til højrisikopersoner eller deres familier.

Den yderligere betegnelse "midlertidig højrisikolokation" for et bredere område eller nærområde dækker enhver lokation, som Meta betegner som sådan i en tidsbegrænset periode. Et sted betegnes som en midlertidig højrisikolokation ud fra mange faktorer, herunder om der har været alvorlig vold ved en demonstration på stedet inden for de seneste 7 dage, om der er bevis på en øget risiko for vold i forbindelse med civile uroligheder eller en omdiskuteret dom på stedet, en vurdering fra retshåndhævende myndigheder, interne sikkerhedsrapporter eller en betroet partner om, at der kan opstå umiddelbart forestående vold på stedet, bevis på planlagte eller aktive demonstrationer på stedet eller en planlagt eller aktiv demonstration på stedet, hvor organisatoren har opfordret til, at man medbringer eller anvender våben, samt en vurdering fra interne teams om, at sikkerhedsbekymringer opvejer den potentielle effekt af selvforsvar og selvbestemmelse. Efter benævnelsen af en midlertidig højrisikolokation deles benævnelsen med Metas interne teams. Selvom sådanne benævnelser er tidsbegrænsede, godkender virksomheden af og til forlængelser. I henhold til Meta medfører benævnelsen som en midlertidig højrisikolokation en proaktiv gennemgang af indhold, før det anmeldes af brugere.

I forbindelse med valgene i 2022 benævnte Meta hele Brasilien som en midlertidig højrisikolokation. Benævnelsen blev i første omgang opført 1. september 2022 baseret på Metas vurdering af en øget risiko for vold i forbindelse med igangværende civile uroligheder og valgrelaterede uroligheder. Benævnelsen blev forlænget til at dække valget i oktober 2022 og perioden derefter, indtil 22. februar 2023. Benævnelsen var trådt i kraft på det tidspunkt, hvor sagens indhold blev slået op.

Ifølge Meta skal begge benævnelser være til stede for at indhold overtræder politikken, og det var tilfældet med indholdet i denne sag. Ifølge Meta sikrer dette krav, at opfordringer til demonstrationer ikke undertrykkes i bred forstand, og at det kun er indhold, som forventes at medføre vold, der bliver fjernet.

Set i lyset af ovenstående anser rådet Metas oprindelige beslutning om, at indholdet skulle blive liggende på platformen i en periode med øget risiko for politisk vold, som en tydelig afvigelse fra Metas egne regler, fordi det udgjorde en utvetydig opfordring til at tiltvinge sig adgang til regeringsbygninger i "Three Powers Plaza" i Brasília, som er "højrisikolokationer" beliggende i "en midlertidig højrisikolokation", Brasilien.

II. Håndhævelse

Ifølge Meta blev indholdet gennemgået af syv menneskelige moderatorer, der alle besad den nødvendige sproglige og kulturelle ekspertise. Meta instruerer ikke evaluatorer i stor skala om at registrere årsagerne til afgørelser. Da rådet udvalgte denne sag, udførte Metas interne teams en analyse, der konkluderede, at tre sandsynlige faktorer kan have bidraget til håndhævelsesfejlen: (1) evaluatorerne kan have misforstået brugerens hensigt (opfordring til handling), sandsynligvis på grund af manglende tegnsætning, som betød, at indholdet blev opfattet som en neutral kommentar til begivenheden, eller (2) evaluatorerne traf den forkerte beslutning til trods for, at de havde de rette retningslinjer på grund af flere opdateringer i forbindelse med håndtering af indhold relateret til højrisikobegivenheder fra forskellige kilder, eller (3) evaluatorerne har muligvis ikke set overtrædelsen i videoen.

Faktor 1 og 3 antyder, at moderatorer ikke gennemgik indholdet grundigt nok eller så videoen i sin helhed, da den potentielle overtrædelse af Metas politikker fremgik tydeligt. Meta forklarer ikke, hvorfor indholdet ikke blev eskaleret til emne- og politikeksperter med henblik på yderligere analyse. Indholdet blev ikke eskaleret til trods for, at det kom fra et land, som, på det tidspunkt, hvor indholdet blev slået op og anmeldt, var benævnt "en midlertidig højrisikolokation" relateret til en politiklinje, som kun aktiveres, når benævnelsen er aktiv. Indholdet blev heller ikke eskaleret til trods for den generelle online- og offlinekontekst i Brasilien (se afsnit 2).

Meta havde allerede informeret rådet om, at indholdsevaluatorerne ikke altid har mulighed for at se hele videoen. Uanset, så ville rådet forvente, at indholdsevaluatorer bliver bedt om at se videoer til ende og eskalere potentielt krænkende indhold i situationer med øget risiko for vold, hvor specifikke politikrelaterede greb er blevet udløst.

Hvad angår faktor 2, så anerkender Meta mulige mangler i virksomhedens socialisering af denne og andre valgspecifikke risikoafhjælpningsaktiviteter, selvom de angiver, at de informerer evaluatorer om benævnelser af midlertidige højrisikolokationer. Socialisering af denne type oplysninger giver indholdsevaluatorer mulighed for at detektere, fjerne eller eskalere problematisk indhold som f.eks. videoen i denne sag. Da der var forskellige evaluerings- og afhjælpningsforanstaltninger i Brasilien på det pågældende tidspunkt, indikerer det, at de formentlig bør udarbejdes mere præcist, og at der bør være en tydeligere kommandovej for at sikre, at virksomhedens foranstaltninger i forhold til integriteten af valg er mest effektive.

Til trods for Metas endelige afgørelse om at fjerne indholdet er rådet dybt bekymrede for, at Metas indholdsmoderatorer til trods for civile uroligheder i Brasilien på det tidspunkt, hvor indholdet blev slået op, og en omfattende spredning af lignende onlineindhold i ugerne og månederne før optøjerne den 8. januar, gentagne gange gennemgik indholdet og vurderede, at det ikke var i strid med Metas regler og ikke eskalerede det til yderligere gennemgang. Disse bekymringer blev forværret af, at da rådet bad Meta om oplysninger om specifikke valgrelaterede påstande på Metas platforme før, under og efter valget i Brasilien, forklarede virksomheden, at de ikke havde data om udbredelsen af sådanne påstande (se afsnit 6). Indholdet i denne sag blev i sidste ende fjernet mere end to uger senere, efter at den voldelige handling, der blev opfordret til i indholdet, allerede havde fundet sted, og fjernelsen fandt først sted, efter at rådet havde gjort Meta opmærksom på problemet.

Meta anerkender den øgede risiko for vold i Brasilien, i første omgang ved at indføre forskellige foranstaltninger til risikovurdering før, under og efter at indholdet blev slået op, og også direkte til rådet, da virksomheden i sidste ende besluttede at fjerne indholdet. Alligevel undlod virksomhedens evaluatorer gentagne gange at håndhævede Metas fællesskabsregler, særligt en linje i fællesskabsreglen om vold eller opfordring til vold, der udløses af benævnelse af en midlertidig højrisikolokation. Det faktum, at indholdet ikke blev eskaleret før rådets afgørelse, til trods for den tydelige potentielle overtrædelse, og til trods for, at der var lignende indhold på Facebook på tidspunktet (se afsnit 2 og 8.2), indikerer, at eskaleringskanalerne tilsyneladende ikke er tydelige nok og effektive nok (se sagen om Knin-tegnefilm). Det viser også behovet for, at Meta skal forbedre sine foranstaltninger i forbindelse med valg. På samme måde som rådet har bemærket i tidligere afgørelser er det uundværligt, at evaluatorer i stor skala besidder den relevante sproglige og kontekstrelaterede viden og er udstyret med de rette værktøjer og kanaler til at kunne eskalere potentielt krænkende indhold.

III. Gennemsigtighed

Rådet anerkender, at Meta har truffet vigtige foranstaltninger for at beskytte integriteten af valget i Brasilien i 2022. I august 2022, hvor kampagneperioden formelt startede, offentliggjorde Meta sine valgrelaterede aktiviteter i landet. Virksomheden samarbejdede med Brasiliens Superior Electoral Court om at tilføje en etiket på opslag om valgene på Facebook og Instagram, så folk ville blive ført videre til pålidelige oplysninger på Electoral Justice-websitet. Ifølge Meta medførte dette en tidobling af besøg på websitet. Samarbejdet gav også Superior Electoral Court mulighed for at anmelde potentielt krænkende indhold direkte til Meta. Meta afholdt kurser for valgtilforordnede i hele Brasilien for at informere om virksomhedens fællesskabsregler og om, hvordan forkerte oplysninger på Facebook og Instagram håndteres. Meta forbød desuden betalt annoncering, der stillede spørgsmålstegn ved lovligheden af det kommende valg. Derudover implementerede virksomheden en WhatsApp-videresendelsesgrænse, så en besked kun kan videresendes til én WhatsApp-gruppe ad gangen. Endelig anmeldte Meta en række indhold, der blev fjernet i henhold til forskellige fællesskabsregler, f.eks. politikkerne om vold eller opfordring til vold, hadefuld retorik og mobning og chikane, og det samlede antal klik på valgetiketter, der fører brugere til godkendte oplysninger om valgene i Brasilien.

Uanset, så angiver Meta, når rådet spørger ind til virksomhedens foranstaltninger i forhold til integriteten af valg ved valget i Brasilien i 2022, at de ikke har særlige målinger til måling af effektiviteten af deres foranstaltninger i forhold til integriteten af valg generelt, udover data om fjernelse af indhold, visninger og klik på valgetiketter. Rådet bemærker desuden, at ud fra Metas oplysninger i Gennemsigtighedscenter og udvekslinger med rådet, så fremgår det ikke helt tydeligt, hvordan virksomhedens forskellige foranstaltninger til risikovurdering og forskellige protokoller kører (se afsnit 6 ovenfor). Om det foregår uafhængigt eller parallelt. Meta bør tydeliggøre kontaktpunkterne mellem disse forskellige protokoller, forklare hvordan de adskiller sig fra hinanden og præcist hvordan håndhævelsen af indholdspolitikker påvirkes af disse.

En række offentlige kommentarer (Ekō [PC-11000], Dangerous Speech Project [PC-11010], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], InternetLab [PC-11019] og Coalizão Direitos na Rede [PC-11020]), som rådet har modtaget, understreger, at virksomhedens bestræbelser på at beskytte valget i Brasilien, ikke har været tilstrækkelige. Selvom rådet anerkender udfordringerne ved at moderere indhold i stor skala, så øges Metas ansvar for at forhindre, afhjælpe og håndtere uønskede bivirkninger for menneskerettigheder i forbindelse med valg og andre højrisikobegivenheder, og det kræver, at virksomheden etablerer passende sikkerhedsforanstaltninger. Håndhævelsesfejlen i denne sag synes ikke at være en isoleret hændelse. Ifølge Ekō (PC-11000) er lignende indhold blevet liggende på Facebook efter optøjerne den 8. januar.

Der er behov for mere gennemsigtighed for at man kan vurdere, om Metas foranstaltninger er tilstrækkelige og passende i forbindelse med valg. Manglen på tilgængelige data til rådet underminerede rådets mulighed for i tilstrækkeligt omfang at vurdere, om håndhævelsesfejlene i denne sag, og bekymringer fra forskellige interessenter, er symptomatiske for en systemisk fejl i virksomhedens politikker og håndhævelsespraksis. Det gik også ud over rådets mulighed for at udstede mere specifikke anbefalinger til Meta i forhold til, hvordan de kunne forbedre deres foranstaltninger i forhold til integriteten af valg på globalt plan.

Metas nuværende dataoplysninger, fortrinsvist om fjernelse af indhold, giver ikke et komplet billede af resultatet af virksomhedens foranstaltninger i forhold til integriteten af valg på et givent marked. De inkluderer f.eks. ikke håndhævelsesnøjagtighed i forhold til vigtige politikker i forbindelse med valg, f.eks. fællesskabsreglen om vold eller opfordring til vold, ej heller procentdelen af politiske annoncer, som Meta i første gang har godkendt for derefter at vurdere, at de er i strid med virksomhedens politikker. Udførelsen af statistisk kontrol med målinger som disse ville ikke alene give Meta mulighed for at omstøde fejl, men også for at holde styr på effektiviteten af sine foranstaltninger, når det har allerhøjeste prioritet, at det skal være korrekt.

Uden denne type oplysninger kan hverken rådet eller offentligheden vurdere effektiviteten af Metas foranstaltninger i forhold til integriteten af valg i bredere forstand. Dette er vigtigt set i lyset af de mange hændelser med politisk vold, som ofte opstår som følge af eller intensiveres af valgrelaterede stridigheder, hvor skadeligt indhold har fået lov at blive liggende online forud for eller samtidig med offlinevold (se "Myanmar bot" (2021-007-FB-UA), " Tigray Communication Affairs Bureau" (2022-006-FB-MR) og "Suspendering af den tidligere amerikanske præsident Trump" (2021-001-FB-FBR)).

Rådet mener derfor, at Meta bør udarbejde en struktur for evaluering af virksomhedens foranstaltninger i forhold til integriteten af valg og for offentlig anmeldelse i forbindelse med emnet. Formålet ville være at give virksomheden relevante data, som kan bruges til at forbedre indholdsmodereringssystemet som helhed og til at afgøre, hvordan virksomheden bedst anvender sine ressourcer i forbindelse med valg. Det burde også hjælpe Meta med på effektiv vis at trække på lokal viden og identificere og evaluere koordinerede online- og offlinekampagner, som har til formål at forstyrre demokratiske processer. Derudover ville denne struktur være nyttig for Meta i forhold til at etablere permanente feedbackkanaler og til at etablere foranstaltninger i forhold til politisk vold efter at valgprocessen er slut. Endelig bemærker rådet, at, som forklaret ovenfor, så skal ordlyden mellem Metas forskellige foranstaltninger til risikovurdering og forskellige protokoller, f.eks. IPOCs, Integrity Country Prioritization-politikken og krisepolitikprotokollen (se afsnit 6 ovenfor) i valgrelaterede kontekster gennemgås og tydeliggøres over for offentligheden.

8.2 Overholdelse af Metas ansvar inden for menneskerettighedsområdet

Ytringsfrihed (Artikel 19, ICCPR)

Menings- og ytringsfriheden er en central del af demokratiske samfund og en garanti for frie og retfærdige valgprocesser og meningsfuld og repræsentativ offentlig og politisk diskurs (FN's særlige rapportør om ytringsfrihed, forskningsrapport 1/2019, s. 2). Artikel 19 i ICCPR yder bred beskyttelse af udtryksfriheden, særligt i forhold til politisk tale. Såfremt en stat indfører begrænsninger af ytringsfriheden, skal de opfylde kravene om lovlighed, legitimitet og nødvendighed og proportionalitet (artikel 19, stk. 3 i ICCPR). Disse krav omtales ofte som en tredelt test. Rådet anvender denne struktur til at fortolke Metas frivillige forpligtelser inden for menneskerettighedsområdet.

I. Lovlighed (reglernes tydelighed og tilgængelighed)

Princippet om legalitet under international menneskerettighedslovgivning kræver, at regler, der bruges til at begrænse ytringsfriheden, er tydelige og offentligt tilgængelige (Generel bemærkning nr. 34, paragraf 25). I forbindelse med regler, der regulerer virksomheder inden for sociale medier, har FN's særlige rapportør om ytringsfrihed anført, at det skal fremgå tydeligt og specifikt (A/HRC/38/35, stk. 46). Folk, der bruger Metas platform, bør kunne tilgå og forstå reglerne, og indholdsevaluatorer bør have klare retningslinjer for håndhævelse.

Rådet mener, at som anvendt i denne sag, så er Metas forbud mod indhold, der opfordrer til at tiltvinge sig adgang til bestemte højrisikolokationer tydeligt anført, og det samme er bestemmelserne, som forbuddet udløses af. Sagens indhold kunne nemt forstås som krænkende både af brugeren og af indholdsevaluatorer, særligt i Brasilien, hvor der var civile uroligheder. Derfor vurderede rådet, at kravet om lovlighed var opfyldt.

II. Legitimt formål

Begrænsninger i ytringsfriheden (artikel 19, ICCPR) skal have et legitimt formål. Politikken om vold eller opfordring til vold har til formål at forhindre potentiel skade i det virkelige liv ved at fjerne indhold, der udgør en reel risiko for fysisk skade eller direkte trusler mod den offentlige sikkerhed. Denne politik har det legitime formål at beskytte andres rettigheder, f.eks. retten til livet (artikel 6, ICCPR) samt offentlig orden og national sikkerhed (artikel 19, para. 3, ICCPR). I forbindelse med valg kan politikken også have det legitime mål at beskytte andres ret til at stemme og deltage i public affairs (artikel 25, ICCPR).

III. Nødvendighed og proportionalitet

Princippet om nødvendighed og proportionalitet foreskriver, at alle begrænsninger af ytringsfriheden "skal være passende for at opnå deres beskyttende funktion. De skal være det mindst indgribende instrument blandt dem, der kan opnå deres beskyttende funktion," [og] "de skal være proportionelle med interessen, der skal beskyttes" (Generel bemærkning nr. 34, stk. 33 og 34). Som i tidligere sager, som har omhandlet tilskyndelse til vold, finder rådet de seks faktorer i FN's rabathandlingsplan relevante i forhold til at kunne vurdere nødvendigheden og proportionaliteten af begrænsningen (se f.eks.: Suspendering af den tidligere amerikanske præsident Trump).

Rådet anerkender, at det i mange politiske miljøer er svært at sætte spørgsmålstegn ved integriteten af valg eller af valgsystemet i forhold til folks ret til ytringsfrihed og ret til at demonstrere, også selvom der er isolerede hændelser med vold. På grund af de politiske budskab nyder de øget beskyttelse (generel kommentar nr. 37, paras. 19 og 32). Rådet noterer dog, at dette ikke er tilfældet i denne sag. Det er vigtigt at skelne mellem beskyttet politisk tale og tilskyndelse til vold med henblik på at omstøde resultatet af et lovligt valg. Baseret på de faktorer, der er anført i rabathandlingsplanen, var grænsen for talebegrænsning tydelig i denne sag. Rådet mener, at flere elementer i sagens indhold er relevante for analysen: opfordringerne til at "bestorme" Brasiliens Nationalkongres som "det sidste alternativ" og til at "storme" de "tre tårne"; videoen med en opfordring fra en fremtrædende brasiliansk general om at "gå på gaden" og "gå mod Nationalkongressen ... [og] Højesteret"; billedet af de føderale regeringsbygninger, der brænder i baggrunden og kravet om "kildekoden". De er alle sammen i den brasilianske kontekst, hvor Bolsonaros tilhængere betvivler valgresultatet og opfordrer til et militærkup, en utvetydig opfordring til at invadere og tage kontrol over regeringsbygninger. Talerens hensigt, talens indhold og rækkevidde samt sandsynligheden for umiddelbart forestående skade i konteksten af den politiske situation i Brasilien på det pågældende tidspunkt, retfærdiggjorde alt sammen fjernelse af indholdet.

Indholdet blev slået op i en kontekst med forøget risiko for politisk vold og med udbredte kontinuerlige opfordringer til de væbnede styrker om at omstøde valgresultatet. Samtidig blev der brugt kodede slogans til at promovere demonstrationer med særligt fokus på regeringsbygninger i Brasília (se afsnit 2). I denne henseende viser oplysninger, som rådet modtog i forskellige offentlige kommentarer, inklusive fra ITS Rio – Modera Lab (PC-11016), Coalizão Direitos na Rede (PC-11020), InternetLab (PC-11019) og Ekō (PC-11000), der støttede undersøgelser udført på vegne af rådet, at lignende indhold blev spredt i stort omfang på sociale medier op til begivenhederne den 8. januar. De understreger desuden den overhængende fare for, at Bolsonaros støtter stormer bygninger i Three Powers Plaza og får militæret til at gribe ind, herunder gennem et militærkup.

I lyset af ovenstående mener rådet, at fjernelse af indholdet er overensstemmende med Metas menneskerettighedsansvar. Fjernelse af indholdet er et nødvendigt og forholdsmæssigt korrekt svar med henblik på at beskytte folks ret til livet, herunder embedsmænd, og offentlig orden i Brasilien. Fjernelsen af dette og lignende indhold er også nødvendigt og forholdsmæssigt korrekt for at beskytte brasilianernes ret til at stemme og deltage i public affairs, i en kontekst med igangværende forsøg på at underminere en demokratisk overdragelse af magten.

Den vedvarende fejl i Metas gennemgangssystemer til på korrekt vis at identificere overtrædelsen i videoen eller eskalere den til yderligere gennemgang og fjerne indholdet er en alvorlig bekymring, som rådet mener, at Meta bedre vil kunne håndtere, hvis virksomheden implementerer nedenstående anbefalinger. Selvom Meta gjorde noget for at forbedre sine foranstaltninger i forhold til integriteten af valg i Brasilien, så har de ikke gjort nok for at håndtere potentiel misbrug via koordinerede kampagner af den type, der blev brugt i Brasilien. I denne sag var det indhold, der fik lov til at blive liggende og delt i vidt omfang, typisk for den type forkerte oplysninger og opildnen, der blev anmeldt for at cirkulere på Metas platforme i Brasilien på det pågældende tidspunkt. Der understøtter desuden påstande om, at indflydelsesrige konti med betydelig mobilisering på Metas platforme har spillet en rolle i forbindelse med opildnen til vold. Som det blev påstået i offentlige kommentarer, som rådet modtog (se Instituto Vero [PC-11015], ModeraLab [PC-11016], InternetLab [PC-11019], Instituto de Referência em Internet e Sociedade [PC-11021]), er gennemgang og potentiel fjernelse af enkelte stykker indhold fra Metas platforme utilstrækkeligt og relativt ineffektivt, når denne type indhold er en del af en organiseret og koordineret plan om at forstyrre demokratiske processer. Foranstaltninger i forhold til integriteten af valg og kriseprotokoller skal tage højde for disse mere generelle digitalle tendenser.

8.3 Identisk indhold med parallel kontekst

Rådet udtrykker bekymring for spredningen af indhold, der ligner det, der bliver gennemgået, i månederne op til optøjerne 8. januar i Brasilien. Set i lyset af Metas gentagne undladelse af at identificere dette indhold som krænkende vil rådet have særligt fokus på Metas håndhævelse af afgørelsen på identisk indhold med parallel kontekst, som er blevet liggende på virksomhedens platforme, undtagen hvis det er blevet delt for at fordømme eller skabe opmærksomhed omkring generalens tale og opfordringerne til at storme Three Powers Plaza-bygningerne i Brasília.

9. Tilsynsrådets afgørelse

Tilsynsrådet omstøder Metas oprindelige afgørelse om ikke at fjerne indholdet.

10. Anbefalinger

A. Håndhævelse

1. Meta bør udarbejde en struktur for evaluering af virksomhedens foranstaltninger i forhold til integriteten af valg. Det omfatter udarbejdelse og deling af målinger for vellykkede foranstaltninger i forhold til integriteten af valg, herunder dem, som er relateret til Metas håndhævelse af sine indholdspolitikker og virksomhedens tilgang til annoncer. Rådet vil anse denne anbefaling som implementeret, når Meta udarbejder denne struktur (inklusive en beskrivelse af målinger og målsætninger for disse målinger), offentliggør det i virksomhedens Gennemsigtighedscenter, begynder at udgive landespecifikke rapporter og offentliggør eventuelle ændringer i disse generelle foranstaltninger i forhold til integriteten af valg som følge af denne evaluering.

B. Gennemsigtighed

1. Meta bør tydeliggøre i Gennemsigtighedscenter, at virksomheden udover krisepolitikkontrollen også bruger andre protokoller i sit forsøg på at forhindre og håndtere potentiel risiko for skade, der opstår i forbindelse med valg eller andre begivenheder med høj risiko. Udover at navngive og beskrive disse protokoller bør virksomheden også beskrive sine mål, kontaktpunkterne mellem disse forskellige protokoller og hvad der adskiller dem. Rådet vil betragte denne anbefaling som implementeret, når Meta offentliggør oplysningerne i Gennemsigtighedscenter.

* Proceduremæssig bemærkning:

Tilsynsrådets afgørelser udarbejdes af paneler bestående af fem medlemmer og godkendes af et flertal i rådet. Rådets beslutninger er ikke nødvendigvis udtryk for alle medlemmernes personlige meninger.

I forbindelse med denne sagsafgørelse blev der udført uafhængige undersøgelser på vegne af rådet. Rådet fik hjælp af et uafhængigt forskningsinstitut med hovedkontor på Göteborgs Universitet, som har et team med over 50 forskere på seks kontinenter og over 3.200 landeeksperter fra hele verden. Rådet fik desuden assistance fra Duco Advisors, der er et rådgivningsfirma med fokus på geopolitik, tillid og sikkerhed samt teknologi. Memetica, en organisation, der udfører søgning i offentligt tilgængelige kilder for at finde tendenser på sociale medier, har også bidraget med analyser. Sproglig ekspertise blev leveret af Lionbridge Technologies, LLC, hvis specialister er flydende på mere end 350 sprog og arbejder fra 5.000 byer i hele verden.