Tal av en brasiliansk general

Sammanfattning av ärendet

Tillsynsrådet har upphävt Metas ursprungliga beslut att lämna kvar en Facebook-video där en brasiliansk general uppmanar människor att ”hit the streets” (ge sig ut på gatorna) och ”go to the National Congress and the Supreme Court” (bege sig till kongressen och högsta domstolen). Även om rådet tillstår att Meta har vidtagit ett flertal åtgärder för att utvärdera och motverka risker under och efter valen så bör Meta löpande göra mer för att förhindra, motverka och åtgärda olika resultat givet risken att företagets plattformar används till att uppmana till våld i valsammanhang. Rådet rekommenderar att Meta tar fram ett ramverk för att utvärdera sitt integritetsarbete kring val så att inte företagets plattformar används till att uppmana till politiskt våld.

Om ärendet

Brasiliens presidentval i oktober 2022 var mycket polariserat, och det förekom mängder av koordinerade påståenden både online och offline som ifrågasatte valens legitimitet. Det förekom bland annat uppmaningar till militären om att ingripa, och till att invadera olika myndighetsbyggnader för att stoppa skiftet till en ny regering. Den förhöjda risken för politiskt våld minskade inte när den nyligen invalde presidenten Luiz Inácio Lula da Silva tillträdde den 1 januari 2023 eftersom folk fortsatte att störa ordningen, protestera och campa utanför olika militärbaser.

Två dagar senare, den 3 januari 2023, publicerade en Facebook-användare en video relaterad till det brasilianska valet 2022. Bildtexterna på portugisiska innehåller en uppmaning om att ”besiege” (belägra) den brasilianska kongressen som ”en sista utväg” (the last alternative). Videon visar även delar av ett tal som hålls av en framstående brasiliansk general, som är anhängare till den förra presidenten Jair Bolsonaro. I videon uppmanar generalen åhörarna att ”hit the streets” (ge sig ut på gatorna) och att ”go to the National Congress … [and the] Supreme Court” (bege sig till kongressen ... [och] högsta domstolen). Efteråt följer en serie bilder, bland annat på en brand som rasar på torget Praça dos Três Poderes i Brasília, där presidentens kontor, kongressen och högsta domstolen finns. På bilden står det skrivet: ”Come to Brasília! Let’s Storm it! Let’s besiege the three powers.” (Kom till Brasília! Vi stormar platsen! Dags att belägra de tre statsmakterna.) På en annan bild står det ”we demand the source code” (ge oss källkoden), ett slagord som demonstranterna använder för att ifrågasätta hur tillförlitliga Brasiliens elektroniska röstmaskiner är.

Samma dag som innehållet publicerades så rapporterades det av en användare för att det bryter mot Metas communityregel om våld och uppvigling, som förbjuder uppmaningar om att tvinga sig in på riskutsatta platser. Sammanlagt har fyra användare anmält innehållet sju gånger mellan 3–4 januari. Efter den första anmälan granskades innehållet av en innehållsgranskare, som inte ansåg att det stred mot Metas policyer. Användaren överklagade beslutet, men det fastställdes av en andra innehållsgranskare. Dagen därpå granskades de ytterligare sex anmälningarna av fem olika moderatorer, som alla ansåg att innehållet inte stred mot Metas policyer.

Den 8 januari bröt sig anhängare till den tidigare presidenten Bolsonaro in i nationalkongressen, i högsta domstolen och på presidentens kontor vid torget Praça dos Três Poderes i Brasília, där de hotade polisen och förstörde egendom. Den 9 januari slog Meta fast att upploppen den 8 januari var en händelse som bryter mot reglerna enligt policyn om farliga individer och organisationer, och att innehåll som ger stöd till eller lovordar de här handlingarna skulle tas bort. Företaget meddelade också att det slagit fast att Brasilien tillfälligt klassats som en högriskplats och att det tagit bort innehåll som uppmanar andra att ta till vapen eller invadera kongressen, presidentpalatset eller andra federala byggnader.

Till följd av att rådet valde ut ärendet beslutade Meta att de upprepade besluten om att lämna kvar innehållet på Facebook var felaktigt. Den 20 januari 2023, efter att rådet valt ut ärendet, tog Meta bort innehållet.

Viktiga noteringar

Det här ärendet problematiserar hur effektivt Metas arbete kring valintegritet var i relation till de allmänna valen i Brasilien 2022 och på andra platser. Även om ett ifrågasättande av valintegriteten i allmänhet anses vara skyddat av yttrandefriheten så kan påståenden med stor spridning som syftar till att underminera allmänna val leda till våld. I det här ärendet var både talarens avsikt, talets innehåll och spridning samt sannolikheten för omedelbar skada givet den politiska situationen i Brasilien vid tillfället är argument för att inlägget skulle tas bort.

För att ett inlägg ska bryta mot Metas regler om att uppmana till att tvinga sig in på riskutsatta platser måste platsen anses vara riskutsatt, och den måste finnas i ett område som oberoende av detta tillfälligt klassats som en högriskplats. Eftersom inlägget var en otvetydig uppmaning om att tvinga sig in i regeringsbyggnader vid torget Praça dos Três Poderes i Brasília (riskutsatta platser i ett område som tillfälligt klassats som en högriskplats, Brasilien) stred Metas initiala beslut att lämna kvar innehållet på plattformen under en period med förhöjd risk för politiskt våld tydligt mot företagets egna regler.

Rådet är mycket bekymrat över att Metas innehållsmoderatorer upprepade gånger bedömde att innehållet inte bröt mot reglerna och inte eskalerade ärendet för vidare granskning, trots de civila oroligheterna i Brasilien när innehållet publicerades och den stora spridningen av liknande innehåll under veckorna och månaderna innan upploppen den 8 januari. När rådet bad Meta om information kring specifika valrelaterade påståenden på företagets plattformar innan, under och efter de allmänna valen i Brasilien förklarade företaget dessutom att det inte fanns några data om hur vanliga sådana påståenden är. I det här fallet togs innehållet slutligen bort mer än två veckor senare, när den händelse som bryter mot reglerna som innehållet uppmanade till redan hade inträffat, och endast sedan rådet gjort Meta medvetna om ärendet.

Som svar på en fråga från rådet sade Meta att företaget inte använder några särskilda mått för att mäta hur effektivt arbetet kring valintegritet är i allmänhet. Därför anser rådet att Meta bör ta fram ett ramverk för att utvärdera företagets arbete kring valintegritet och rapportera kring arbetet offentligt. Syftet är att företaget ska få relevanta data och kunna förbättra modereringssystemet som helhet, samt även kunna fatta beslut kring hur företagets resurser ska användas i samband med val. Utan den här sortens information kan varken rådet eller allmänheten utvärdera hur effektivt Metas arbete kring valintegritet är i allmänhet.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att låta inlägget vara kvar.

Rådet rekommenderar också att Meta:

• Tar fram ett ramverk för att utvärdera företagets arbete kring valintegritet. I det här ingår att skapa och dela mått på framgångsrikt arbete kring valintegritet, inklusive mått på Metas verkställighet av företagets egna policyer och inställning till annonser.
• Förtydligar i transparenscentret att företaget förutom sitt krispolicyprotokoll även tillämpar andra protokoll i ett försök att förhindra och motverka potentiella risker för skada i samband med val och andra högriskevenemang.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas ursprungliga beslut att lämna kvar en Facebook-video där en brasiliansk general uppmanar människor att ”hit the streets” (ge sig ut på gatorna) och ”go to the National Congress and the Supreme Court” (bege sig till kongressen och högsta domstolen). Uppmaningarna följdes av en bild på torget Praça dos Três Poderes i Brasília där de här regeringsbyggnaderna ligger, i brand, med ett textöverlägg som lyder ”Come to Brasília! Let’s storm it! Let’s besiege the three powers.” (Kom till Brasília! Vi stormar platsen! Dags att belägra de tre statsmakterna.) Rådet anser att de här uttalandena är tydliga och otvetydiga uppmaningar att invadera och ta kontroll över de aktuella byggnaderna i en kontext där anhängare till Bolsonaro ifrågasätter valresultatet och uppmanar militären att ingripa för att stoppa regeringsskiftet. Efter att rådet valde ut det här inlägget för granskning ändrade Meta sitt ursprungliga beslut och tog bort inlägget från Facebook.

Ärendet problematiserar i en bredare mening hur effektivt Metas arbete kring valintegritet var i relation till de allmänna valen i Brasilien 2022 och på andra platser. Att ifrågasätta integriteten hos allmänna val är i allmänhet tal som skyddas av yttrandefriheten, men i vissa fall kan påståenden med stor spridning både online och offline som försöker underminera ett val, som påståendena i det här ärendet, leda till våld i verkligheten. I Brasilien rådde ingen brist på varningssignaler om att resultatet kunde vara just sådant våld. Även om rådet tillstår att Meta har vidtagit ett flertal åtgärder för att utvärdera och motverka risker under och efter valen så bör Meta löpande göra mer för att förhindra, motverka och åtgärda olika resultat givet risken att företagets plattformar används till att uppmana till våld i valsammanhang. Perioden efter valet bör täckas av Metas arbete kring valintegritet gällande risken för våld inför ett regeringsskifte.

Rådet rekommenderar därför att Meta tar fram ett ramverk för att utvärdera företagets arbete kring valintegritet och offentliggör rapporter i ärendet. Ett sådant ramverk bör innehålla framgångsmått för de mest relevanta aspekterna av Metas arbete kring valintegritet, så att företaget inte bara kan identifiera och rätta till fel utan även hålla reda på hur effektiva åtgärderna är i krissituationer. Rådet rekommenderar även att Meta ger mer insyn i de olika protokoll och åtgärder som används för att förhindra och motverka potentiella risker för skada i samband med allmänna val och andra högriskevenemang. I det här ingår att namnge och beskriva sådana protokoll, deras syfte, beröringspunkterna mellan dem och hur de skiljer sig åt. De här protokollen måste bli mer effektiva, ha en tydlig befälsordning och tillräcklig personal, särskilt när de tillämpas i samband med allmänna val där risken för politiskt våld är förhöjd. De här rekommendationerna skulle förbättra företagets övergripande system för innehållsmoderering eftersom Meta skulle vara bättre rustade att förhindra att företagets plattformar används till att uppmana till politiskt våld, och i allmänhet kunna agera bättre i situationer där valrelaterat våld förekommer.

2. Beskrivning av och bakgrund till ärendet

Den 3 januari 2023 publicerade en Facebook-användare en video relaterad till det brasilianska valet 2022. Bildtexterna på portugisiska innehåller en uppmaning om att ”besiege” (belägra) den brasilianska kongressen som ”en sista utväg” (the last alternative). Den en minut och 32 sekunder långa videon visar delar av ett tal som hålls av en framstående brasiliansk general, som är anhängare till den förra presidenten Jair Bolsonaro. I videon uppmanar generalen åhörarna att ”hit the streets” (ge sig ut på gatorna) och att ”go to the National Congress … [and the] Supreme Court” (bege sig till kongressen ... [och] högsta domstolen). Efteråt följer en serie bilder, bland annat på en brand som rasar på torget Praça dos Três Poderes i Brasília, där presidentens kontor, kongressen och högsta domstolen finns. På bilden står det skrivet: ”Come to Brasília! Let’s Storm it! Let’s besiege the three powers.” (Kom till Brasília! Vi stormar platsen! Dags att belägra de tre statsmakterna.) På en annan bild står det ”we demand the source code” (ge oss källkoden), ett slagord som demonstranterna använder för att ifrågasätta hur tillförlitliga Brasiliens elektroniska röstmaskiner är. Videon spelade upp fler än 18 000 gånger och delades inte.

Två dagar efter att innehållet publicerades svors Bolsonaros valmotståndare Luiz Inácio Lula da Silva in som Brasiliens president efter att ha vunnit valets andra runda den 30 oktober 2022 med 50,9 procent av rösterna. Perioden innan, mellan och efter de två valrundorna präglades av en förhöjd risk för politiskt våld tack vare påståendena om förväntat valfusk. Argumentet var att Brasiliens elektroniska röstningsmaskiner riskerade att bli hackade på grund av sårbarheter. Innan valet eldade dåvarande president Bolsonaro på misstron mot valsystemet, han påstod att det skulle förekomma valfusk utan att ange några bevis och hävdade att de elektroniska röstningsmaskinerna inte gick att lita på. En del militär personal kom med liknande påståenden om valfusk, och argumenterade för att använda militären som medlare i eventuella valdispyter. Flera politiska annonser på Metas plattformar som angrep valens legitimitet rapporterades. Det gällde bland annat inlägg och videor som angrep de juridiska institutionerna och förespråkade en militärkupp. Global Witness publicerade dessutom en rapport om Brasilien som beskrev hur politiska annonser som bröt mot communityreglerna godkändes av Meta och spreds på företagets plattformar. I resultaten angavs även liknande rapporter från organisationen om andra länder som Myanmar och Kenya.

Perioden efter valet präglades av civila oroligheter som protester, vägspärrar och bosättningar utanför militärbaser där människor uppmanade militären att häva valresultatet. Enligt experter som rådet har tillfrågat så dök videon i det här ärendet upp online första gången i oktober 2022, kort efter att valresultatet blev känt. Liknande innehåll fanns kvar på olika sociala medier fram till upploppen den 8 januari. Den 12 december 2022, samma dag som Lulas valseger bekräftades av Brasiliens högsta valdomstol, försökte en grupp anhängare till Bolsonaro bryta sig in i den federala polisens högkvarter i Brasília. Gruppen vandaliserade ett flertal föremål. Den 24 december 2022 inträffade ett sprängningsförsök nära den internationella flygplatsen i Brasília. Mannen som utförde angreppet arresterades och erkände att målsättningen med dådet var att rikta uppmärksamhet mot kampen för att få till en statskupp.

Den förhöjda risken för politiskt våld i Brasilien minskade inte när den nyligen valde presidenten installerades den 1 januari 2023. Baserat på forskning som rådet har beställt förekom flest falska påståenden om röstningsmaskiner på Metas plattformar efter den första och andra valomgången, och sedan igen under veckorna efter Lulas seger. Under dagarna innan 8 januari använde dessutom anhängare till Bolsonaro flera kodade slagord till att göra reklam för protester i Brasília som var särskilt riktade mot regeringsbyggnaderna. Det mesta av logistiken verkade organiseras i andra kommunikationskanaler än Facebook.

Internationella valobservatörer som Organization of American States och Carter Center rapporterade att det inte fanns några konkreta bevis för valfusk och att valet hade hållits fritt och rättvist, trots den kraftigt polariserade väljarkåren. Det brasilianska försvarsministeriet var också formella valobservatörer och rapporterade inga bevis för oegentligheter eller valfusk, även om myndigheten senare publicerade ett motstridigt uttalande om att militären inte kunde utesluta möjligheten till valfusk. Försvarsministeriet i Brasilien leder militärens arbete.

Oroligheterna kulminerade den 8 januari när anhängare till den förre presidenten Bolsonaro bröt sig in i nationalkongressen, högsta domstolen och presidentens kontor som ligger vid torget Praça dos Três Poderes i Brasília, som omnämns i ärendeinnehållet, där de hotade polisen och förstörde egendom. Ungefär 1 400 personer arresterades för sitt deltagande i upploppen den 8 januari, och omkring 600 är fortfarande frihetsberövade.

I efterspelet till händelserna den 8 januari fördömde FN användningen av våld och menade att den var resultatet av en långvarig förvrängning av fakta och uppvigling till våld och hat av politiska, sociala och ekonomiska aktörer som har skapat en atmosfär av misstro, uppdelning och förstörelse genom att vägra godta resultatet av ett demokratiskt val. FN upprepade sitt stöd till och förtroende för Brasiliens demokratiska institutioner. Offentliga kommentarer och experter som rådet har tillfrågat har pekat på vilken skadlig effekt påståenden som i förväg misstänkliggjorde det brasilianska valsystemets integritet har haft gällande den politiska polariseringen och hur de kunnat leda till politiskt våld i verkligheten (läs de offentliga kommentarerna från Dangerous Speech Project [PC-11010], LARDEM – Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011], Instituto Vero [PC-11015], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], Center for Democracy & Technology [PC-11018], InternetLab [PC-11019] och Coalizão Direitos na Rede [PC-11020]).

Den 9 januari 2023 slog Meta fast att upploppen den 8 januari var en händelse som bryter mot reglerna enligt policyn om farliga individer och organisationer, och att innehåll som ger stöd till eller lovordar de här handlingarna skulle tas bort. Företaget meddelade också att det före valet slagit fast att Brasilien tillfälligt klassats som en högriskplats och att det tagit bort innehåll som uppmanar andra att ta till vapen eller invadera kongressen, presidentpalatset eller andra federala byggnader.

Den 3 januari, samma dag som innehållet publicerades anmäldes det av en användare som ansåg att det stred mot Metas communityregler om våld och uppvigling, som förbjuder uppmaningar om att med våld ta sig in på platser … där det finns tillfälliga signaler om en förhöjd risk för våld eller offlineskada. Sammanlagt har fyra användare anmält innehållet sju gånger mellan 3–4 januari. Efter den första anmälan granskades innehållet av en mänsklig moderator som ansåg att det inte stred mot Metas policyer. Användaren överklagade beslutet, men det fastställdes av en andra mänsklig moderator. Dagen därpå granskades de ytterligare sex anmälningarna av fem olika moderatorer, som alla ansåg att innehållet inte stred mot Metas policyer. Innehållet eskalerades inte för ytterligare granskning av policy- och ämnesexperter. Som svar på en fråga från rådet förtydligade Meta att de sju personer som granskade innehållet är baserade i Europa. Enligt Meta talade de alla portugisiska flytande och hade den språkliga och kulturella kompetens som krävs för att granska brasilianskt innehåll.

Till följd av att rådet valde ut ärendet beslutade Meta att de upprepade besluten om att lämna kvar innehållet på Facebook var felaktigt. Den 20 januari 2023, när rådet valt ut ärendet, tog Meta bort innehållet, utfärdade en varning till innehållskreatörens konto och begränsade kontots funktioner i 24 timmar så att inget nytt innehåll kunde skapas under den aktuella perioden. Trots Metas åtgärder tryckte de offentliga kommentarer som den ideella organisationen Ekō skickade till rådet samt andra rapporter på att liknande innehåll fanns kvar på Facebook även efter att rådet gjorde Meta uppmärksamma på ärendet (PC-11000).

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter överklagande från personen som tidigare rapporterat det innehåll som lämnats kvar på plattformen (stadgans artikel 2, avsnitt 1, artikel 3, avsnitt 1 i regelverket). Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta ej bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4). Där Meta åtar sig att följa rekommendationer övervakar rådet deras implementering.

När rådet väljer ut ärenden som det här, där Meta senare vidhåller att företaget gjort fel, granskar rådet det ursprungliga beslutet i syfte att öka förståelsen för de policyparametrar och processer för innehållsmoderering som bidrog till felet. Rådet tar sedan upp eventuella problem som identifierats i Metas underliggande policyer och processer. Rådet ger även rekommendationer för hur Meta kan förbättra verkställigheten och behandla användarna rättvist i framtiden.

4. Källor och riktlinjer som ligger till grund för beslutet

Rådets analys i det här ärendet är baserad på följande standarder och prejudikat:

I. Tillsynsrådets beslut:

Här är några av de mest relevanta besluten som Tillsynsrådet har fattat tidigare:

• ”Avstängningen av tidigare presidenten Trump” (beslut i ärende 2021-001-FB-FBR): Rådet noterade att Metas ansvar för mänskliga rättigheter i valsammanhang innebär att företaget måste tillåta politiska uttryck och samtidigt undvika allvarliga risker för andra mänskliga rättigheter.
• ”Myanmar-boten” (beslut i ärende 2021-007-FB-UA): Rådet lyfte fram hur viktigt det är att skydda det politiska uttrycket under politiska krissituationer.
• ”Tigray Communication Affairs Bureau” (beslut i ärende 2022-006-FB-MR): Rådet lyfte fram Metas ansvar gällande mänskliga rättigheter att etablera ett principbaserat och transparent system för innehållsmoderering i konfliktområden för att minska risken att företagets plattformar används till att anstifta våld.
• ”Tecknad film om staden Knin” (beslut i ärende 2022-001-FB-UA): Rådet uppmanade Meta att förtydliga hur innehåll eskaleras till experter på ämnesområdet.

II.Metas innehållspolicyer:

Communityregeln om våld och uppvigling

Enligt communityregeln om våld och uppvigling tillåter inte Meta uttalanden om avsikt eller förespråkande, uppmaningar eller långtgående eller hotfulla uttalanden om att med våld ta sig in på platser (bland annat religiösa lokaler, skolor, vallokaler eller platser som används för rösträkning eller administration av ett val) där det finns tillfälliga signaler om en förhöjd risk för våld eller offlineskada. Syftet med den här communityregeln är att förhindra potentiella skador offline som kan relateras till innehåll på Metas plattformar. Meta förstår samtidigt att människor ofta uttrycker motvilja eller meningsskiljaktigheter genom hot eller uppmaningar till våld sätt som inte är allvarligt menade. Meta tar därför bort innehåll där företaget anser att det finns en allvarlig risk för fysisk skada eller ett direkt hot mot allmänheten. När Meta ska avgöra om ett hot är trovärdigt beaktar företagen även språket och kontexten.

Rådets analys byggde också på Metas åtagande gällande röst, som företaget säger vara av yttersta vikt, och värderingen säkerhet.

III. Metas ansvar för de mänskliga rättigheterna

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för företags ansvar gällande de mänskliga rättigheterna. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna.

Rådets analys av Metas ansvar i fråga om de mänskliga rättigheterna i det här ärendet utgår ifrån följande internationella standarder:

• Rätten till åsikts- och yttrandefrihet: artikel 19 OCH 20 i FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), människorättskommitténs allmänna kommentar nr 34 (2011), Research Paper 1/2019 on Elections in the Digital Age (2019) (forskningsrapport om val i den digitala åldern): följande rapporter från FN:s specialrapportör för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/74/486 (2019), Rabat Plan of Action, rapport från FN:s högkommissarie för mänskliga rättigheter: A/HRC/22/17/Add.4 (2013).
• Rätten till fredliga sammankomster: artikel 21, ICCPR, allmän kommentar nr 37, FN:s kommitté för mänskliga rättigheter, 2020.
• Rätten till liv: artikel 6, ICCPR.
• Rätten att delta i offentliga angelägenheter och rösträtt: artikel 25, ICCPR.

5. Framställningar från användaren

I sin överklagan till rådet angav användaren som rapporterade innehållet att de redan rapporterat den här och otaliga andra videor till Facebook och att svaret alltid är detsamma, att innehållet inte bryter mot communityreglerna. Användaren drog även kopplingar mellan potentialen till uppvigling i innehållet och handlingar begångna av personer i Brasilien som inte accepterar valresultatet.

6. Metas framställningar

När rådet uppmärksammade Meta på det aktuella ärendet fastställde företaget att det ursprungliga beslutet att lämna kvar innehållet på plattformen var felaktigt. Meta gav rådet en översiktlig analys över det sociala och politiska sammanhanget i Brasilien innan, under och efter presidentvalet som motivering till borttagningen av innehållet i det här ärendet, som visserligen gjordes för sent. Företaget presenterade senare sannolika faktorer för rådet som kan ha bidragit till det återkommande verkställighetsfelet.

Meta menade att de många referenser till att belägra riskutsatta platser i bildtexterna och videon inte oberoende av varandra når upp till nivån att ’tvinga sig in’ enligt communityregeln om våld och uppvigling. Kombinationen av uppmaningen ”Come to Brasília! Let’s storm it! Let’s besiege the three powers.” (Kom till Brasília! Vi stormar platsen! Nu besegrar vi de tre statsmakterna.), med torget Praça dos Três Poderes i Brasília ståendes i brand i bakgrunden gör det dock tydligt att avsikten är att ta sig in på de här platserna med våld.

Enligt Meta kvalificerade sig inte innehållet för principen om att tillåta publicering av innehåll med nyhetsvärde, även om företaget vidhöll att dess plattformar är viktiga forum för politiska debatter, särskilt kring val. I det här fallet vägde inte allmänhetens intresse för innehållet över risken för skada givet dess uttryckliga uppmaning till våld och den förhöjda risken för skada i det verkliga livet efter det brasilianska presidentvalet och installationen av Lula. Meta fann inga tecken på att innehållet delades i syfte att fördöma eller öka medvetenheten kring uppmaningen till våld. Företaget menar att det slutgiltiga beslutet att ta bort innehållet ligger i linje med dess värderingar och med de internationella standarderna kring mänskliga rättigheter.

I syfte att hantera val och andra krissituationer har Meta formulerat ett antal riskutvärderingar och åtgärder som verkställs av olika team och kan tillämpas antingen samtidigt eller oberoende av varandra. De har olika intensitetsnivåer beroende på vilken riskutvärdering det gäller:

• Policyn Integrity Country Prioritization (kallas även för nivåsystemet för riskzoner), som verkställs av produktteamet på Meta, är ett ramverk för hur resursinvesteringen i produkter ska prioriteras på lång sikt. Även om Meta säger att den här processen fungerar dåligt för kortvariga kriser så utvärderas framväxande risker/hot i alla länder två gånger om året.
• I IPOCs (Integrity Product Operations Center, ledningscenter för produkter) samlas ett tvärfunktionellt team med ämnesexperter från hela företaget för att agera på potentiella problem och trender i realtid. IPOCs sätts samman för att snabbt bedöma ett stort antal problem, identifiera risker och fastställa hur de ska hanteras i en kris eller högrisksituation. IPOCs kallas för Election Operation Centers (ledningscenter för val) när de är särskilt inriktade på valsituationer.
• Election Operation Centers kan övervaka viktiga valfrågor i realtid, som försök att hindra människor att rösta, ökade mängder skräppost, potentiell utländsk inblandning eller rapporter om innehåll som bryter mot [Metas] policyer, och kan övervaka nyheter och valrelaterad aktivitet i andra sociala nätverk och traditionella medier. Centren är ett sätt för Meta att få en samlad vy och hjälp att spåra vilket innehåll som kan bli viralt så att företaget kan agera snabbare vid sådana hot. En del i centrens förberedelser är omfattande scenarioplanering där potentiella hot simuleras, från trakasserier till försök att förhindra valdeltagande, och att ta fram system och procedurer för effektiva åtgärder redan i förväg.
• Slutligen är krispolicyprotokollet det ramverk Meta använder för att ta fram snabba policyspecifika åtgärder i en framväxande krissituation. Meta utformade det här protokollet som svar på Tillsynsrådets rekommendation i ärendet angående avstängningen av tidigare president Trump. Enligt det här protokollet fastställer Meta tre kriskategorier som företaget använder till att ta fram en given uppsättning åtgärder som ska motverka risker. En kris i kategori 1 utlöses till exempel av ökad aktivitet från brottsbekämpande myndighet eller militär eller ett planerat högriskval eller en utbrottshändelse som kan sprida sig.

Det Election Operation Center som täckte de allmänna valen i Brasilien 2022 var aktivt vid olika tidpunkter från september till november 2022, bland annat under den första och andra valomgången. Inget Election Operation Center (eller IPOC) var dock aktivt när innehållet publicerades den 3 januari 2023. Meta klassade ”oroligheterna efter valet” som en kris enligt krispolicyprotokollet för att hjälpa företaget att bedöma hur man bäst kunde motverka innehållsrisker.

Som svar på en fråga från rådet angående digitala trender på Metas plattformar innan, under och efter det brasilianska valet sade företaget att ett antal team identifierat valrelaterade innehållstrender inom ramen för förberedelserna och åtgärderna i samband med valet, och att de införlivat dem i sina strategier för riskminskning. Det gällde bland annat (i) risker kopplade till anstiftan eller spridning av hot om våld, (ii) felaktig information och (iii) verksamhetens integritet, bland annat risker kopplade till potentiellt missbruk av annonser med skadligt innehåll ... eller försök att bedriva kampanjer på sätt som manipulerar eller styr den offentliga debatten. Meta sade att resultaten, bland andra faktorer, bidrog till ett antal motåtgärder gällande produktrisker och policyer. Meta har dock inga frekvensdata om specifika påståenden (till exempel om valfusk, uppmaningar att bege sig till Brasília eller att tvinga sig in i regeringsbyggnader samt uppmaningar till militär intervention), eftersom företagets verkställighetssystem i allmänhet syftar till att övervaka och spåra baserat på de policyer som överträds.

Rådet ställde 15 skriftliga frågor till Meta, inklusive 5 som uppföljning till en muntlig genomgång av hur Election Operation Centers fungerar. Frågorna gällde tillgängliga policyverktyg för hantering av koordinerade beteenden på Metas plattformar, risker som identifierats inför det brasilianska valet 2022, relationen mellan Election Operation Center-instansen för det brasilianska valet och krispolicyprotokollet, hur meta sätter gränser när det gäller att skilja legitim politisk organisering och skadliga, koordinerade åtgärder, digitala trender på Metas plattformar i Brasilien innan, under och efter valen samt vilken språklig kompetens innehållsmoderatorerna som granskade ärendeinnehållet hade.

Meta besvarade 13 frågor. Meta gav inget svar på två frågor, en som gällde relationen mellan politisk reklam och felaktig information samt en om hur många sidor och konton som togs bort medan Election Operation Center för det brasilianska valet 2022 var aktivt. Meta informerade även rådet om att företaget inte hade några mer allmänna data om innehållsmodereringen i samband med valet i Brasilien 2022 tillgängliga för delning med rådet, utöver antalet innehållsborttagningar som redan delats offentligt. Meta förklarade dessutom att företaget inte utvärderar den egna prestationen i samband med valsituationer mot en given uppsättning framgångsmått och riktvärden. Meta påtalade behovet av att prioritera resurser i samband med svaren på rådets frågor, och att det inte vore möjligt att ta fram begärda data inom ärendets tidsramar.

7. Kommentarer från allmänheten

Tillsynsrådet har tagit emot 18 kommentarer från allmänheten gällande ärendet. Elva av kommentarerna kom från Latinamerika och Karibien, tre från USA och Kanada, två från Mellanöstern och Nordafrika, en från Asien-Stillahavsområdet och Oceanien samt från Central- och Sydasien. I februari 2023 höll rådet dessutom ett rundabordssamtal med intressenter från Brasilien och Latinamerika på ämnet innehållsmoderering och politiska övergångsperioder.

Bidragen hade primärt följande teman: ansamlingen av skadliga påståenden om valfusk och uppmaningar till en militärkupp på sociala medier innan, under och efter det brasilianska valet 2022, valrelaterad felaktig information, Metas arbete kring valintegritet, Metas ansvar för att skydda användarnas rättigheter i samband med demokratiska maktskiften, relationen mellan valförnekelse och politiskt våld samt hur viktigt det är att innehållsgranskare är bekanta med den lokala politiska kontexten.

Vill du läsa de kommentarer som har skickats in från allmänheten gällande ärendet klickar du här.

8. Tillsynsrådets analys

Rådet undersökte om det aktuella innehållet borde tas bort genom att analysera Metas innehållspolicyer, ansvar kring mänskliga rättigheter och värderingar. Ärendet valdes ut eftersom det gav rådet möjlighet att utvärdera hur Meta skiljer mellan fredlig organisering på företagets plattformar och uppvigling eller koordinering av våldsamma handlingar, i synnerhet i samband med maktskiften. Dessutom kunde rådet undersöka Metas arbete kring valintegritet i allmänhet, och i Brasilien i synnerhet, givet att eftervalsperioder är viktiga övergångar både när det gäller valets integritet och att säkerställa att det legitima valresultatet respekteras. Rådet anser därför att Metas arbete kring valintegritet bör omfatta både själva valprocessen och eftervalsperioden, eftersom den senare också riskerar att drabbas av manipulation, valrelaterad felaktig information och hot om våld. Ärendet faller inom ramen för rådets strategiska prioritet om val och offentliga rum.

8.1 Efterlevnad av Metas innehållspolicyer

I. Regler för innehåll

Våld och uppvigling

Rådet finner att innehållet i det aktuella ärendet bryter mot förbudet gällande uppmaningar att tvinga sig in på vissa riskutsatta platser i communityregeln om våld och uppvigling. Även om Metas värdering om röst är särskilt relevant i valsituationer, även under eftervalsperioder, så anser rådet att innehållet måste tas bort enligt Metas värdering om säkerhet.

För att den del av policyn som handlar om att tvinga sig in på riskutsatta platser ska överträdas krävs två beslut gällande hög risk. För det första måste platsen anses vara riskutsatt, och för det andra måste den finnas i ett område som oberoende av detta tillfälligt klassats som en högriskplats. Metas specifika instruktioner till innehållsgranskare är att ta bort uppmaningar, avsiktsförklaringar, uttalanden som förespråkar och uttalanden som uttrycker en önskan om att tvinga sig in på riskutsatta platser i ett område som tillfälligt klassats som en högriskplats.

Meta definierar en riskutsatt plats som en plats som permanent eller tillfälligt anses vara särskilt riskutsatt på grund av sannolikheten för våld på platsen. Permanent riskutsatta platser är bland annat högriskpersoners och dennes familjs arbetsplats eller bostad (till exempel nyhetsorganisationers högkvarter, sjukvårdsanläggningar, laboratorier, polisstationer och myndighetskontor), lokaler som används under lokala, regionala eller nationella val, exempelvis lokaler för röstregistrering, vallokaler, rösträkningslokaler (till exempel lokala bibliotek, myndighetsbyggnader eller kommunhus) eller lokaler som används i samband med valadministration. Enligt Meta är den brasilianska kongressen, högsta domstolen och presidentens kontor alla permanent riskutsatta platser eftersom högriskpersoner eller deras familjer arbetar där.

Den andra tillfälliga klassificeringen som högriskplats av det bredare området omfattar alla platser som meta klassificerat som högriskplatser under en begränsad tidsperiod. En plats kan tillfälligt klassificeras som högriskplats baserat på en mängd faktorer, bland annat om allvarligt våld skett vid en protest på platsen de senaste 7 dagarna, om det finns bevis för en förhöjd risk för våld i samband med civila oroligheter eller ett kontroversiellt domstolsbeslut på platsen, om brottsbekämpande myndigheter, interna säkerhetsrapporter eller en betrodd partner bedömer att det föreligger omedelbar risk för våld på platsen, om det finns bevis för planerade eller pågående protester på platsen där organisatören har uppmanat till användning av vapen eller beväpning under protesten eller om interna team har bedömt att säkerhetsriskerna väger tyngre än den potentiella inverkan på individers självförsvar och självbestämmande. När en plats tillfälligt klassats som en högriskplats delas klassificeringen med Metas interna team. Sådana klassificeringar är tidsbegränsade, men företaget kan ibland förlänga tidsperioden. Enligt meta leder en tillfällig klassificering som högriskplats till att innehåll granskas proaktivt innan användarna rapporterar det.

Under valet 2022 klassificerade Meta hela Brasilien tillfälligt som en högriskplats. Klassificeringen gjordes ursprungligen den 1 september 2022 baserat på Metas bedömning om en förhöjd risk för våld i samband med pågående civila och valrelaterade oroligheter. Klassificeringen förlängdes i syfte att omfatta valet i oktober 2022 och eftervalsperioden, fram till den 22 februari 2023. Klassificeringen var aktiv när innehållet i ärendet publicerades.

Enligt Meta måste båda klassificeringarna vara aktiva för att innehåll ska strida mot policyn, vilket var fallet för det aktuella inlägget. Enligt Meta utgör de här dubbla kraven ett skydd mot att uppmaningar till protester inte undertrycks generellt och att företaget endast tar bort innehåll som sannolikt kan leda till våld.

Givet ovanstående anser rådet att Metas initiala beslut att låta innehållet vara kvar på plattformen under en period av förhöjd risk för politiskt våld är en tydlig överträdelse av företagets egna standarder, eftersom det var en otvetydig uppmaning om att tvinga sig in i regeringsbyggnader vid torget Praça dos Três Poderes i Brasília, som är riskutsatta platser i ett område som tillfälligt klassats som en högriskplats, Brasilien.

II. Verkställighetsåtgärder

Enligt Meta granskades innehållet av flera mänskliga moderatorer med nödvändig lingvistisk och kulturell kompetens. Meta instruerar inte breda granskare att registrera sina skäl till olika beslut. När rådet valde ut det aktuella ärendet gjorde Metas interna team en analys där slutsatsen var att tre faktorer troligen kunde ha bidragit till de återkommande verkställighetsfelen: (1) granskarna kan ha missförstått användarens avsikt (en uppmaning till handling), eventuellt på grund av en bristande användning av skiljetecken som fick innehållet att verka vara en neutral kommentar om händelsen, (2) granskarna fattade fel beslut trots att det fanns korrekta riktlinjer tack vare flera uppdateringar kring hanteringen av innehåll i samband med högriskhändelser från olika källor eller (3) granskarna kan ha missat regelöverträdelsen i videon.

Faktor 1 och 3 antyder att moderatorerna inte granskade innehållet särskilt noga eller att de inte såg hela videon, eftersom överträdelsen av Metas policyer i videon var tydlig. Meta ger dock ingen förklaring till varför innehållet inte eskalerades till experter på ämnesområdet och policyn för vidare analys. Innehållet eskalerades inte trots att det kom från ett land som när innehållet publicerades och rapporterades var tillfälligt klassificerat som en högriskplats, vilket syftar på en del i policyn som aktiveras när den här klassificeringen gäller. Innehållet eskalerades inte heller trots den allmänna kontexten både online och offline i Brasilien (se avsnitt 2).

Meta har redan informerat rådet om att innehållsgranskare kanske inte har tid att se hela videor. I situationer där det föreligger en förhöjd risk för våld och där specifika policyverktyg har utlösts anser dock rådet att innehållsgranskare borde instrueras att se hela videor och eskalera innehåll som kan misstänkas bryta mot reglerna.

Även om Meta har sagt att företaget informerar breda granskare om tillfälligt klassade högriskplatser så tillstår företaget i relation till faktor 2 brister i hur den här och andra valspecifika riskminimerande åtgärder har förmedlats. När den här typen av information förmedlas bättre kan innehållsgranskare identifiera, ta bort eller eskalera problematiskt innehåll som videon i det här ärendet. Faktumet att flera olika utvärderingsåtgärder var aktiva i Brasilien vid tillfället är ett tecken på att de måste artikuleras bättre, och att befälsordningen behöver vara tydligare så att företagets arbete kring valintegritet får bättre effekt.

Trots Metas slutgiltiga beslut att ta bort innehållet är Rådet mycket bekymrat över att Metas innehållsmoderatorer upprepade gånger bedömde att innehållet inte bröt mot reglerna och inte eskalerade ärendet för vidare granskning, trots innehållets kontext, de civila oroligheterna i Brasilien när innehållet publicerades och den stora spridningen av liknande innehåll under veckorna och månaderna innan upploppen den 8 januari. När rådet bad Meta om information kring specifika valrelaterade påståenden på företagets plattformar innan, under och efter de allmänna valen i Brasilien förklarade företaget dessutom att det inte fanns några data om hur vanliga sådana påståenden är, vilket inte gör saken bättre (se avsnitt 6). I det här fallet togs innehållet slutligen bort mer än två veckor senare, efter att den händelse som bryter mot reglerna och som innehållet uppmanade till redan hade inträffat, och endast sedan rådet gjort Meta medvetna om ärendet.

Meta tillstod den förhöjda risken för våld i Brasilien, först genom att aktivera olika riskutvärderingsmått innan, under och efter det att innehållet publicerades, och även direkt till rådet när företaget beslöt att till slut ta bort innehållet. Trots det misslyckades företagets granskare upprepade gånger att verkställa communityreglerna, och då i synnerhet den del av communityregeln om våld och uppvigling som aktiveras av tillfälliga klassificeringar av högriskplatser. Faktumet att innehållet inte eskalerades innan rådet valde ut ärendet, trots att den potentiella regelöverträdelsen var tydlig och att det spreds liknande innehåll på Facebook vid tillfället (se avsnitt 2 och 8.2) är ett tecken på att kanalerna för eskalering inte är tillräckligt tydliga eller effektiva (se Tecknad film om staden Knin). Det är också en indikation på att Meta måste förbättra sina skyddsåtgärder i samband med valsituationer. Som rådet har noterat i tidigare beslut är det otroligt viktigt att breda granskare har tillräckliga språkliga och kulturella kunskaper, och att de har tillgång till de verktyg och kanaler som behövs för att eskalera innehåll som misstänks bryta mot reglerna.

III. Transparens

Rådet tillstår att Meta har ansträngt sig för att skydda det allmänna valet i Brasilien 2022. När kampanjperioden formellt inleddes i augusti 2022 gjorde Meta ett offentligt uttalande om företagets valrelaterade insatser i landet. Företaget samarbetade med Brasiliens högsta valdomstol om att lägga till en etikett för inlägg om valet på Facebook och Instagram som hänvisade till tillförlitlig information på webbplatsen om rättvisa val. Enligt Meta ledde det här till 10 gånger fler besök på webbplatsen. Inom ramen för samarbetet kunde högsta valdomstolen även rapportera innehåll som misstänktes bryta mot reglerna direkt till Meta. Meta höll utbildningstillfällen för valpersonal i hela Brasilien där företaget förklarade sina communityregler och hur felaktig information på Facebook och Instagram hanteras. Meta förbjöd även betalda annonser som misstänkliggör det kommande valets legitimitet. Företaget implementerade dessutom en gräns för vidarebefordran i WhatsApp så att meddelanden bara kunde vidarebefordras till en WhatsApp-grupp åt gången. Slutligen rapporterade Meta hur många inlägg som togs bort enligt olika communityregler, till exempel reglerna om våld och uppvigling, hatretorik samt mobbning och trakasserier, och det totala antalet klick på valetiketter som hänvisade användarna till tillförlitlig information om valet i Brasilien.

När rådet frågade Meta om arbetet kring valintegritet i samband med det brasilianska valet 2022 sade dock företaget att det inte använde några särskilda mått för att mäta hur framgångsrikt arbetet kring valintegritet är i allmänhet, förutom att rapportera data om borttaget innehåll, visningar och klick på valetiketter. Rådet noterar också att det inte är helt tydligt hur Metas olika riskutvärderingsåtgärder och protokoll implementeras (se avsnitt 6 ovan), oberoende eller parallellt, givet vad företaget anger i sitt transparenscenter och i kommunikationen med rådet. Meta bör förtydliga relationen mellan de olika protokollen, förklara skillnaderna mellan dem och exakt hur verkställigheten av innehållspolicyer påverkas av dem.

Ett antal kommentarer från allmänheten (Ekō [PC-11000], Dangerous Speech Project [PC-11010], ModeraLab [PC-11016], Campaign Legal Center [PC-11017], InternetLab [PC-11019] och Coalizão Direitos na Rede [PC-11020]) som rådet tagit emot säger att företaget inte gjorde tillräckligt för att skydda det allmänna valet i Brasilien. Även om rådet inser hur svårt det är att moderera stora mängder innehåll så förstärks Metas ansvar för att förhindra, motverka och åtgärda negativa effekter på de mänskliga rättigheterna i samband med val och andra högrisksammanhang, och företaget måste implementera effektiva skyddsmekanismer mot sådana effekter. Verkställighetsfelen i det här ärendet framstår inte som isolerade incidenter. Enligt Ekō (PC-11000) låg liknande innehåll kvar på Facebook även efter upploppen den 8 januari.

Det behövs mer insyn för att kunna bedöma om Metas arbete och åtgärder är tillräckliga i valsammanhang. Eftersom det funnits så lite data som rådet kunnat granska har det varit svårt för rådet att avgöra om verkställighetsfelen i det här ärendet, och de betänkligheter som olika intressenter lyft fram, är tecken på systematiska brister i företagets policyer och verkställighetsmetoder. Det har också varit svårt för rådet att utfärda mer specifika rekommendationer gällande hur Meta bör förbättra sitt arbete kring valintegritet globalt.

De data som Meta för närvarande har delat, primärt om borttaget innehåll, ger ingen tydlig bild av vilken effekt arbetet kring valintegritet har på olika marknader. De visar till exempel inte vilken tillförlitlighet verkställigheten har i relation till viktiga policyer i valsammanhang, som communityregeln om våld och uppvigling, och inte heller hur många politiska annonser som initialt godkänns av Meta men senare finns strida mot företagets policyer. Med en statistisk analys av sådana mått skulle Meta dels kunna åtgärda misstag och dels spåra hur effektiva åtgärderna är när det är som viktigast att göra rätt från början.

Utan den här sortens information kan varken rådet eller allmänheten utvärdera hur effektivt Metas arbete kring valintegritet är i allmänhet. Det här är viktigt eftersom politiskt våld ofta uppstår eller intensifieras av valrelaterade tvister, där skadligt innehåll låg kvar online och föregick eller bidrog till våld i den verkliga världen (se ”Myanmar-boten” (2021-007-FB-UA), ” Tigray Communication Affairs Bureau” (2022-006-FB-MR) och ”Avstängningen av tidigare president Trump” (2021-001-FB-FBR)).

Därför anser rådet att Meta bör ta fram ett ramverk för att utvärdera företagets arbete kring valintegritet och rapportera kring arbetet offentligt. Syftet är att företaget ska få relevanta data och kunna förbättra modereringssystemet som helhet, samt även kunna fatta beslut kring hur företagets resurser ska användas i samband med val. Det ska också hjälpa Meta att använda sig av lokal kunskap samt att identifiera och utvärdera koordinerade kampanjer både online och offline som syftar till att störa demokratiska processer. Ramverket bör dessutom hjälpa Meta att etablera permanenta kanaler för feedback och fastställa vilka åtgärder som ska vidtas när det politiska våldet fortsätter även efter den formella valprocessen. Enligt förklaringen ovan noterar rådet slutligen att relationen mellan Metas olika riskutvärderingsåtgärder och protokoll, som IPOCs, policyn Integrity Country Prioritization och krispolicyprotokollet (se avsnitt 6 ovan) i valsammanhang måste granskas och förklaras bättre för allmänheten.

8.2 Efterlevnad av Metas ansvar för de mänskliga rättigheterna

Yttrandefrihet (artikel 19 ICCPR)

Rätten till åsikts- och yttrandefrihet är en av grundpelarna i demokratiska samhällen och garanterar fria och rättvisa val samt en meningsfull och representativ offentlig och politisk debatt (FN:s specialrapportör om yttrandefrihet, forskningsrapport 1/2019, s. 2). Artikel 19 i ICCPR ger ett brett skydd för yttrandefriheten, särskilt när det gäller politiskt tal. När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). De här kraven kallas ofta för de tre villkoren. Rådet använder det här ramverket till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter.

I. Laglighet (reglernas tydlighet och tillgänglighet)

Laglighetsprincipen i internationell människorättslagstiftning kräver att regler som används till att begränsa yttrandefriheten ska vara tydliga och allmänt tillgängliga (allmän kommentar nr 34, paragraf 25). FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har sagt att sociala medieföretags regler bör vara tydliga och specifika (A/HRC/38/35, paragraf 46). De som använder Metas plattformar bör kunna få tillgång till och förstå reglerna, och innehållsgranskare bör få tydliga riktlinjer kring deras verkställighet.

När det tillämpas på fakta i ärendet finner rådet att Metas förbud mot innehåll som uppmanar till att andra ska tvinga sig in på särskilda högriskplatser är tydligt formulerat, och det är även tydligt exakt under vilka villkor som förbudet gäller. Innehållet i ärendet bör bara uppenbart regelöverträdande både för den aktuella användaren och innehållsgranskarna, i synnerhet givet de civila oroligheterna i Brasilien vid tillfället. Därför anser rådet att kravet på laglighet är uppfyllt.

II. Berättigat ändamål

Begränsningar av yttrandefriheten (artikel 19, ICCPR) måste ha ett berättigat ändamål. Policyn om våld och uppvigling syftar till att ”förhindra potentiell skada i verkliga livet” genom att ta bort innehåll som utgör en ”reell risk för fysisk skada eller direkta hot mot den allmänna säkerheten”. Policyn har det berättigade ändamålet att skydda andras rättigheter, exempelvis rätten till liv (artikel 6, ICCPR) samt den allmänna ordningen och nationella säkerheten (artikel 19, paragraf 3, ICCPR). I valsammanhang kan den här policyn även ha det berättigade ändamålet att skydda andras rätt att rösta och delta i offentliga sammanhang (artikel 25, ICCPR).

III. Nödvändighet och proportionalitet

Enligt principen om nödvändighet och proportionalitet gäller att begränsningar av yttrandefriheten måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst inskränkande av de alternativ som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas (allmän kommentar nr 34, paragraf 33 och 34). Precis som i tidigare ärenden som berört anstiftan till våld finner rådet att de sex faktorerna i FN:s Rabat Plan of Action är relevanta för att avgöra begränsningens nödvändighet och proportionalitet (se exempelvis: ärendet Avstängningen av tidigare president Trump).

Rådet inser att det är ett legitimt utövande av yttrandefriheten att ifrågasätta integriteten hos val eller valsystem i många politiska miljöer, även om det förekommer isolerade våldsamma incidenter. Tack vare det politiska budskapet är skyddsnivån högre (allmän kommentar nr 37, paragraf. 19 och 32). Rådet noterar dock att så inte är fallet här. Det finns en viktig skillnad mellan skyddat politiskt tal och uppmaningar till våld i syfte att häva resultatet av ett lagenligt utfört, allmänt val. Baserat på de faktorer som anges i Rabat Plan of Action uppfylldes kriterierna för att begränsa yttrandefriheten tydligt i det här ärendet. Rådet finner att flera element i det innehåll ärendet gäller är relevanta i analysen: uppmaningen att ”besiege” (belägra) den brasilianska kongressen som ”the last alternative” (ett sista alternativ) och att ”storm” (storma) de ”three powers” (tre statsmakterna), videon där en framstående brasiliansk general uppmanar folket att ”hit the streets” (ge sig ut på gatorna) och ”go to the National Congress … [and the] Supreme Court” (bege sig till kongressen … [och] högsta domstolen), bilden av de brinnande regeringsbyggnaderna i bakgrunden och kravet på att få ”the source code” (källkoden). I den bredare brasilianska kontexten där anhängare till Bolsonaro ifrågasätter valresultatet och ber om en militärkupp är de en otvetydig uppmaning till att invadera och ta kontroll över regeringsbyggnaderna. Talarens avsikt, talets innehåll och spridning samt sannolikheten för omedelbar skada givet den politiska situationen i Brasilien vid tillfället är argument för att inlägget skulle tas bort.

Innehållet publicerades i ett sammanhang med förhöjd risk för politiskt våld och vanligt förekommande uppmaningar till militären att häva valresultatet. Samtidigt användes kodade slagord till att göra reklam för protester som särskilt riktades mot regeringsbyggnader i Brasília (se avsnitt 2). I det här avseendet visar information som rådet fått in via ett flertal offentliga kommentarer, bland annat från ITS Rio – Modera Lab (PC-11016), Coalizão Direitos na Rede (PC-11020), InternetLab (PC-11019) och Ekō (PC-11000), som även gav stöd till forskning som rådet beställt, att liknande innehåll var mycket utbrett i sociala medier inför upploppen den 8 januari. De understryker även möjligheten att anhängare till Bolsonaro när som helst skulle kunna storma byggnader vid torget Praça dos Três Poderes i Brasília och få militären att ingripa, bland annat i form av en militärkupp.

Givet ovanstående anser rådet att borttagningen av innehållet är förenlig med ansvaret för de mänskliga rättigheterna. Borttagningen av innehållet är en nödvändig och proportionell åtgärd för att skydda människors rätt till liv, inklusive offentliganställda, och den allmänna ordningen i Brasilien. Borttagningen av detta och liknande innehåll är även nödvändigt och proportionerligt för att skydda den brasilianska befolkningens rätt att rösta och delta i offentliga sammanhang, i en kontext där det pågick försök att underminera ett demokratiskt maktskifte.

Det är ett allvarligt bekymmer att Metas granskningssystem upprepade gånger misslyckades att identifiera överträdelsen i videon eller att eskalera den för vidare granskning och ta bort det innehåll ärendet gäller, men rådet anser att situationen kan förbättras om Meta implementerar rekommendationerna nedan. Även om Meta agerade för att förbättra sitt arbete kring valintegritet i Brasilien så har inte företaget gjort tillräckligt för att åtgärda det potentiella missbruket av företagets plattformar via koordinerade kampanjer av den typ vi sett i Brasilien. I det här ärendet verkade innehållet som lämnades kvar på plattformen och delades vara typiskt för den sorts felaktig information och uppvigling som cirkulerade på Metas plattformar i Brasilien vid den aktuella tidpunkten. Det ger ytterligare stöd till påståenden om att inflytelserika konton med stor förmåga till mobilisering på Metas plattformar bidrog till att propagera för våld. Enligt de offentliga kommentarer som rådet fått in (se Instituto Vero [PC-11015], ModeraLab [PC-11016], InternetLab [PC-11019] och Instituto de Referência em Internet e Sociedade [PC-11021]) räcker det inte att granska och eventuellt ta bort enskilda inlägg från Metas plattformar eftersom sådana åtgärder är relativt ineffektiva när innehållet ingår i en organiserad och koordinerad kampanj med syfte att störa den demokratiska processen. Arbetet kring valintegritet och krisprotokollen måste hantera även sådana här generella, digitala trender.

8.3 Identiskt innehåll med liknande kontext

Rådet är bekymrat över spridningen av liknande innehåll månaderna innan upploppen den 8 januari i Brasilien. Givet att Meta upprepade gånger inte identifierade att det aktuella innehållet utgjorde en regelöverträdelse kommer rådet hålla särskild uppsikt över hur Meta verkställer sitt beslut gällande identiskt innehåll med liknande sammanhang som fått vara kvar på företagets plattformar, förutom när det delas för att fördöma eller öka medvetenheten om generalens tal och uppmaningen att storma byggnaderna vid torget Praça dos Três Poderes i Brasília.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas ursprungliga beslut att låta innehållet vara kvar.

10. Rekommendationer

A. Verkställighet

1. Meta bör ta fram ett ramverk för att utvärdera företagets arbete kring valintegritet. I det här ingår att skapa och dela mått på framgångsrikt arbete kring valintegritet, inklusive mått på Metas verkställighet av företagets egna policyer och inställning till annonser. Rådet anser rekommendationen vara implementerad när Meta tar fram det här ramverket (inklusive en beskrivning av måtten och deras målsättning), publicerar informationen i företagets transparenscenter, börjar publicera landsspecifika rapporter och offentliggör eventuella förändringar i det allmänna arbetet kring valintegritet som utvärderingen har lett till.

B. Transparens

1. Meta bör förtydliga i transparenscentret att företaget förutom sitt krispolicyprotokoll även tillämpar andra protokoll i ett försök att förhindra och motverka potentiella risker för skada i samband med val och andra högriskevenemang. Förutom att namnge och beskriva de här protokollen bör företaget även beskriva deras målsättning, vad de har för relation till varandra och vad skillnaden mellan dem är. Rådet anser den här rekommendationen vara implementerad när Meta publicerar den här informationen sitt transparenscenter.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av över 50 samhällsvetare på sex kontinenter och över 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser. Företaget Lionbridge Technologies LLC, vars specialister är experter inom fler än 350 språk och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.