Politikers kommentarer om demografiska förändringar

Sammanfattning

Tillsynsrådet fastställer Metas beslut att lämna kvar ett videoklipp i vilket den franska politikern Éric Zemmour diskuterar demografiska förändringar i Europa och Afrika. Innehållet bryter inte mot communityregeln om hatretorik eftersom det inte förekommer något direkt angrepp mot människor baserat på en skyddad egenskap som etnisk tillhörighet eller nationellt ursprung. Majoriteten av rådet finner att det är förenligt med Metas ansvar för mänskliga rättigheter att låta innehållet ligga kvar. Rådet rekommenderar emellertid att Meta klargör offentligt hur företaget skiljer mellan migrationsrelaterade diskussioner och skadliga uttalanden, inklusive hatideologiska konspirationsteorier med angrepp på människor baserat på deras status som migranter.

Om ärendet

I juli 2023 publicerades ett videoklipp i vilket den franska politikern Éric Zemmour diskuterar demografiska förändringar i Europa och Afrika på hans officiella Facebook-sida av en användare som är administratör av sidan. Videoklippet är en del av en längre videointervju med politikern. I videon säger Zemmour: ”Sedan början av 1900-talet har befolkningen i Afrika ökat lavinartat”. Han fortsätter med att säga att medan den europeiska befolkningen har legat kvar på ungefär samma nivå med runt 400 miljoner människor så har den afrikanska befolkningen ökat till 1,5 miljarder människor ”vilket gjort att maktbalansen har skiftat”. I inläggets bildtext står det på franska att på 1900-talet ”när det gick fyra européer på en afrikan koloniserade [Europa] Afrika” och nu ”går det fyra afrikaner på en europé och Afrika koloniserar Europa” Zemmours Facebook-sida har cirka 300 000 följare och det aktuella inlägget hade visats cirka 40 000 gånger i januari 2024.

Zemmour har varit föremål för flera rättsliga förfaranden, och har dömts fler än en gång i Frankrike för hets mot folkgrupp och för att ha fällt rasistiska kommentarer om muslimer, afrikaner och svarta. Han kandiderade till presidentposten 2022, men gick inte vidare från den första valomgången. Hans valkampanj utgick ifrån teorin om det stora folkutbytet (Great Replacement Theory eller Grand Replacement) enligt vilken den vita europeiska befolkningen medvetet ersätts etniskt och kulturellt genom migration och framväxten av minoritetsbefolkningar. Lingvistiska experter noterar att teorin och den terminologi som är kopplad till den ”uppviglar till rasism, hat och våld mot invandrare och icke-vita européer och angriper muslimer i synnerhet”. Teorin nämns inte uttryckligen i videon i inlägget.

Två användare anmälde innehållet för brott mot Metas policy om hatretorik, men i och med att anmälningarna inte prioriterades för granskning inom 48 timmar så avslutades båda automatiskt. Anmälningar prioriteras av Metas automatiska system utifrån allvarlighetsgraden för överträdelsens allvarlighetsgrad, innehållets viralitet (antal visningar) och sannolikheten för överträdelser. En av användarna överklagade till Meta, vilket ledde till att en av företagets manuella granskare beslutade att innehållet inte bröt mot Metas regler. Användaren överklagade därefter till rådet.

Viktiga noteringar

Majoriteten av rådet finner att innehållet inte bryter mot Metas communityregel om hatretorik. Videoklippet innehåller ett exempel på skyddade (om än kontroversiella) uttryck av åsikter om migration och innehåller inga uppmaningar till våld. I klippet görs heller inga avhumaniserande eller hatiska uttalanden riktade mot sårbara grupper. Även om Zemmour tidigare har åtalats för användning av hatretoriska uttryck och videons tema påminner om teorin om det stora folkutbytet, berättigar inte dessa fakta till borttagande av ett inlägg som inte bryter mot Metas regler.

För att det skulle ha varit en överträdelse skulle inlägget ha behövt innehålla ett ”direkt angrepp” med specifika rop på ”exkludering eller segregering” av en grupp människor som delar en ”skyddad egenskap”. I och med att Zemmours kommentarer inte innehåller ett direkt angrepp, och det varken finns en uttalad önskan om att någon grupp ska utestängas från Europa eller några uttalanden om afrikaner som utgör skadliga stereotyper, nedsättande uttryck eller andra direkta angrepp, bryter de inte mot Metas regler om hatretorik. I motiveringen till policyn framgår det också att Meta tillåter ”kommentarer om och kritik mot migrationspolitik”, men vad som inte delas offentligt är att företaget tillåter förespråkande av exkludering i diskussioner om migrationspolitik.

Rådet anser emellertid att det är bekymrande att Meta inte anser afrikaner vara en grupp människor som delar en skyddad egenskap, med tanke på att nationellt ursprung, etnisk tillhörighet och religion är skyddade både enligt Metas policyer och internationell människorättslagstiftning. Afrikaner nämns genomgående i innehållet och avser i videon icke-vita afrikaner.

Rådet övervägde även relevansen för policyn om farliga individer och organisationer för ärendet. Majoriteten anser emellertid att inlägget inte bryter mot denna policy eftersom det inte finns tillräckligt många element för att det ska kunna granskas som en del av ett bredare våldsförespråkande konspirationsnätverk. Meta definierar dessa nätverk som icke-statliga aktörer som delar samma målsättning, för fram grundlösa teorier som hävdar att hemliga planer smidda av mäktiga personer ligger bakom sociala och politiska problem, och som är direkt kopplade till ett mönster av offlineskada.

En minoritet av rådets medlemmar anser att Metas hantering av innehåll som sprider skadliga konspirationsteorier inte är förenlig med målen för de policyer företaget har skapat för att förhindra en miljö med exkludering av skyddade minoriteter, online och offline. Enligt dessa policyer modereras innehåll som berör vissa andra konspirationsteorier, till skydd för hotade minoritetsgrupper. Även om dessa rådsmedlemmar anser att kritik mot frågor som migration bör tillåtas, är det just för att evidensbaserade diskussioner om ämnet är så viktiga som spridningen av konspirationsteorier som teorin om det stora folkutbytet kan vara skadliga. Det handlar inte om enskilda innehåll utan om den kombinerade effekten av att sådant innehåll delas snabbt och i stor omfattning som innebär den största utmaningen för företag verksamma inom sociala medier. Därför behöver Meta omformulera sina policyer så att dess tjänster inte missbrukas av de som för fram konspirationsteorier som orsakar skada online och offline.

Meta har undersökt möjligheten att införa en bestämmelse som skulle kunna ta itu med hatideologiska konspirationsteorier, men kom fram till att det skulle leda till borttagande av alltför många politiska uttalanden. Rådet bekymras av bristen på information från Metas sida om denna process.

Tillsynsrådets beslut

Tillsynsrådet fastställer Metas beslut att lämna kvar inlägget.

Rådet rekommenderar att Meta:

• Tillhandahåller större detaljrikedom i texten i communityregeln om hatretorik avseende hur företaget skiljer migrationsrelaterade diskussioner från skadliga uttalanden riktade mot människor grundat på deras migrationsstatus. I det ingår att förklara hur företaget hanterar innehåll som sprider hatideologiska konspirationsteorier, så att användarna förstår hur Meta skyddar politiska uttalanden om invandring och samtidigt hanterar den möjliga offlineskada dessa teorier kan leda till.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärendet

1.Sammanfattning av beslutet

Tillsynsrådet fastställer Metas beslut att lämna kvar ett inlägg på den franska politikern Éric Zemmours officiella Facebook-sida som innehåller en video med en intervju med Zemmour i vilken han diskuterar demografiska förändringar i Europa och Afrika. Rådet finner att innehållet inte bryter mot Metas communityregel om hatretorik eftersom det inte innehåller direkta angrepp på personer baserat på skyddade egenskaper som etnisk tillhörighet och nationellt ursprung. Majoriteten av rådet finner att Metas beslut att låta innehållet ligga kvar på Facebook är förenligt med Metas ansvar för mänskliga rättigheter. En minoritet av rådets medlemmar anser att Metas policyer är bristfälliga när det gäller att uppfylla Metas ansvar för de mänskliga rättigheterna när det gäller att hantera den avsevärda skada som skadliga och exkluderande konspirationsteorier som teorin om det stora folkutbytet kan leda till. Rådet rekommenderar att Meta offentligt förklarar hur företaget hanterar innehåll i vilket hatideologiska konspirationsteorier sprids. Det med tanke på behovet att skydda uttalanden om invandring och samtidigt hantera den offlineskada sådana skadliga konspirationsteorier kan medföra.

2. Beskrivning av och bakgrund till ärendet

Den 7 juli 2023 publicerade en användare en video på den franska politikern Éric Zemmours officiella och verifierade Facebook-sida. I videon, som är ett 50 sekunder långt klipp ur en längre intervju på franska, diskuterar Zemmour demografiska förändringar i Europa och Afrika. Användaren som publicerade videon var en administratör av sidan som har cirka 300 000 följare. Zemmour kandiderade i det franska presidentvalet 2022 och fick cirka 7 % av rösterna i den första omgången, men gick inte vidare. Innan Zemmour kandiderade skrev han återkommande kolumner i Le Figaro och andra tidningar, och var en tv-personlighet känd för sina provocerande uttalanden om Islam, invandring och kvinnor. Enligt vad som beskrivs mer detaljerat nedan har dessa uttalanden lett till ett flertal rättegångar och ett antal domar mot honom. Även om Meta inte anser att användaren som publicerade videon är en offentlig person, anser företaget att Zemmour är det.

I videon säger Zemmour: ”Sedan början av 1900-talet har befolkningen i Afrika ökat lavinartat”. Han hävdar att medan den europeiska befolkningen har legat kvar på ungefär samma nivå med runt 400 miljoner människor så har den afrikanska befolkningen ökat till 1,5 miljarder människor ”vilket gjort att maktbalansen har skiftat”. De påståenden som görs i videon upprepas i inläggets bildtext där det står på franska att på 1900-talet ”när det gick fyra européer på en afrikan, koloniserade [Europa] Afrika” och nu ”går det fyra afrikaner på en europé och Afrika koloniserar Europa”. Dessa siffror jämförs med siffror från FN-organ, vilka tillhandahålls nedan. Dessutom beskrivs den åsikt som delas av majoriteten av rådet angående dessa siffror mer utförligt i avsnitt 8.2 nedan.

När rådet presenterade ärendet den 28 november 2023 hade innehållet visats cirka 20 000 gånger. I januari 2024 hade innehållet visats cirka 40 000 gånger och fått färre än 1 000 reaktioner. Majoriteten var gilla-markeringar, följt av älska- och haha-markeringar.

Den 9 juli 2023 anmälde två användare på var sitt håll innehållet för brott mot Metas policy om hatretorik. Företaget avslutade automatiskt båda anmälningarna i och med att de inte prioriterats för granskning inom 48 timmar. Meta förklarade att anmälningar prioriteras dynamiskt för granskning baserat på faktorer som den förutsedda överträdelsens allvarlighetsgrad, innehållets viralitet (det antal visningar innehållet fått) och sannolikheten för att innehållet ska bryta mot företagets policyer. Innehållet togs inte bort utan låg kvar på plattformen.

Den 11 juli 2023 överklagade den första personen som anmält innehållet Metas beslut. Överklagan bedömdes av en manuell granskare som fastställde Metas ursprungliga beslut att låta innehållet vara kvar. Den anmälande användaren överklagade därmed till Tillsynsrådet.

Tio dagar innan innehållet publicerades, den 27 juni 2023, sköts Nahel Merzouk, en fransk 17-åring med marockanskt och algeriskt ursprung, till döds av två poliser på mycket nära håll i en förort till Paris. Händelsen utlöste omfattande upplopp och våldsamma demonstrationer i Frankrike. Demonstrationerna, som pågick när innehållet publicerades, riktades mot polisvåld och den systematiska etniska diskriminering som den franska polisen anklagades för. Dessa demonstrationer var de senaste i en lång serie demonstrationer mot polisvåld mot invandrare med afrikanskt ursprung och andra marginaliserade folkgrupper i Frankrike.

Enligt europeiska kommissionen mot rasism och intolerans (ECRI) är det framförallt invandrare, särskilt invandrade med afrikanskt ursprung och deras barn, som drabbas av rasism i Frankrike. 2022 uppmanade kommittén för avskaffande av rasdiskriminering (CERD) Frankrike att fördubbla sina ansträngningar för att effektivt förhindra och bekämpa rasistisk hatretorik och sade att ”trots det regerande partiets arbete… bekymras kommittén ändå av hur ihärdig och utbredd den rasistiska och diskriminerande diskursen är, särskilt inom media och på internet.” Kommittén är även ”oroade över vissa politiska ledares rasistiska uttalanden när det gäller vissa etniska minoriteter, framförallt romer, resande, afrikaner, personer med afrikanskt ursprung, personer med arabiskt ursprung och personer med annat medborgarskap,” (CERD/C/FRA/CO/22-23, paragraf 11).

Enligt en rapport från 1999 från FN:s avdelning för ekonomiska och sociala frågor beräknades befolkningen i Afrika uppgå till 133 miljoner år 1900. Enligt data från FN år 2022 beräknades Afrikas folkmängd uppgå till cirka 1,4 miljarder år 2021. Vidare förväntades den afrikanska befolkningen kunna uppgå till närmare 2,5 miljarder år 2050. Enligt rapporten från 1999 uppgick den europeiska befolkningen till cirka 408 miljoner år 1900. FN:s avdelning för ekonomiska och sociala frågor uppskattar att befolkningen i Europa uppgick till cirka 745 miljoner år 2021 och att den kommer att sjunka till cirka 716 miljoner till år 2050.

I Frankrike, liksom i många andra delar av världen, har tillströmningen av migranter från andra länder kommit att bli en av de viktigaste frågorna i den politiska debatten. I september 2023 befann sig närmare 700 000 flyktingar och asylsökande i Frankrike, vilket gjorde att landet placerade sig på tredje plats när det gäller att ta emot flest flyktingar i Europeiska unionen. När rådet granskade ärendet pågick omfattande demonstrationer i Frankrike och en upphettad offentlig debatt om migration i samband med att parlamentet antog en ny immigrationslag med bland annat invandringskvoter och stramare regler kring familjeåterförening och rätt till sociala förmåner. Zemmour och hans parti har varit mycket aktiva i dessa diskussioner och förespråkat begränsningar av invandringen.

Zemmour har till följd av sina uttalanden om muslimer, afrikaner, svarta och HBTQIA+-personer varit föremål för flera rättegångar och dömts ett flertal gånger i fransk domstol för hets mot folkgrupp och för rasistiska uttalanden. Zemmour dömdes för hets mot folkgrupp för de kommentarer han fällde på tv år 2011 när han sade att ”de flesta langare är svarta och araber. Det är ett faktum.” På senare tid befanns Zemmour skyldig i domstol för hets mot folkgrupp år 2020 och han dömdes till 10 000 euro i böter för sitt uttalande om att ensamkommande barn är ”tjuvar, mördare, de är våldtäktsmän. Det är allt de är. Vi borde skicka tillbaka dem.” Han har uttömt sin rätt att överklaga i ett annat mål i vilket han befanns skyldig och dömdes till böter av brottsmålsdomstolen för uppvigling till diskriminering och religiöst hat mot franska muslimer. Domen byggde på uttalanden han gjorde i ett tv-program 2016 om att muslimer borde få ”välja mellan Islam och Frankrike” och att ”i trettio år har vi upplevt en invasion, en kolonisation (…) det är också kampen för att islamisera ett område som inte är, som normalt sett är ett icke-islamiserat land”. I december 2022 fastställde den europeiska domstolen för de mänskliga rättigheterna att domen inte var ett brott mot Zemmours rätt till yttrandefrihet.

Även om teorin om det stora folkutbytet inte uttryckligen nämns i innehållet i detta ärende är konceptet centralt för Zemmours politiska ideologi och något som tog stor plats i hans presidentkampanj, under vilken han lovade att inrätta ett återvandringsministerium om han blev vald. Han uppgav också att han skulle ”skicka tillbaka en miljon” utlänningar på fem år. Enligt oberoende undersökningar som utförts på uppdrag av rådet och som utfördes av experter på konspirationsteorier, fransk politik, trender på sociala medier och lingvistik, hävdar förespråkare av teorin om det stora folkutbytet att den vita europeiska befolkningen medvetet ersätts etniskt och kulturellt genom migration och ökning av minoritetsgrupper. Enligt teorin är den samtida migrationen av icke-vita (och företrädelsevis muslimska) människor från icke-europeiska länder (framförallt från Afrika och Asien) till Europa är en form av demografisk krigföring. Rådets experter betonade att migrationen och ökningen av den inte bestrids i sig. Det är snarare påståendet om att det ligger en plan eller konspiration bakom som består i att föra in icke-vita personer i Europa i syfte att ersätta eller minska den vita befolkningens andel som utmärker teorin om det stora folkutbytet som konspiratorisk. De lingvistiska experter som rådet konsulterade förklarade att teorin om det stora folkutbytet och den terminologi som är kopplad till den ”uppviglar till rasism, hat och våld mot invandrare och icke-vita européer och angriper muslimer i synnerhet”. EU:s nätverk för kunskapsspridning om radikalisering noterar i en rapport att de antisemitiska, antimuslimska och övergripande invandrarfientliga stämningar som sprids av de som för fram teorin om det stora folkutbytet har legat till grund för valet av måltavlor för flera uppmärksammade ensamma gärningsmän i Europa under senare år. De undersökningar rådet beställt visade också på att teorin har inspirerat till mängder av våldsincidenter runt om i världen under senare år, bland annat till masskjutningen i Christchurch i Nya Zeeland i vilken 51 muslimer dödades.

En minoritet av rådet anser också att extremhögerns ökade antal våldsamma demonstrationer i Frankrike det senaste året är viktig kontext. Efter knivmordet på en tonåring vid en festival i den franska byn Crépol den 18 november anordnade aktivister och partier inom extremhögern våldsamma demonstrationer som ledde till fysiska sammandrabbningar med polisen. De hävdade att invandrare och etniska minoriteter var de ansvariga, trots att de nio personer som arresterades i samband med knivmordet var åtta fransmän och en italienare. Inrikesminister Gérald Darmanin sade att milismedlemmar ”är ute efter att angripa araber och personer med annan hudfärg och talar nostalgiskt om det tredje riket”. Den franska miljöpartisten Sandrine Rousseau jämförde demonstrationerna med ratonnades, fysiskt våld riktat mot en etnisk minoritet eller en samhällsgrupp, och framförallt mot personer med nordafrikanskt ursprung. Den kändaste av dessa ratonnades, som ofta anses ligga till grund för begreppets spridning, inträffade den 17 oktober 1961 när polisen dödade 200 algerier som deltog i fredliga demonstrationer. Sedan dess har ordet har förekommit upprepade gånger i olika sammanhang i Frankrike. I december 2022 sällade sig till exempel franska politiker till användare av sociala medier när de fördömde gatuvåld genom att jämföra det medratonnades efter VM-matchen mellan Frankrike och Marocko.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska Metas beslut efter överklagande från personen som tidigare anmält det innehåll som lämnats kvar på plattformen (stadgans artikel 2, avsnitt 1, artikel 3, avsnitt 1 i regelverket).

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och dess beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa rådets beslut på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta ej bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4). När Meta åtar sig att följa rekommendationer övervakar rådet hur de implementeras.

4.Källor och riktlinjer som ligger till grund för beslutet

Rådets analys i detta ärende är baserad på följande standarder och prejudikat:

I.Tillsynsrådets beslut

• Förnekelse av förintelsen
• Våldsamheter mellan folkgrupper i den indiska delstaten Odisha
• Tecknad film om staden Knin
• Delat Al Jazeera-inlägg
• Avstängningen av tidigare president Trump
• Avbildning av Zwarte Piet

II.Metas innehållspolicyer

Hatretorik

I motiveringen till communityregeln om hatretorik står det att hatretorik, vilket definieras som ett direkt angrepp på människor baserat på skyddade egenskaper, inte tillåts på plattformen ”eftersom det skapar en miljö som präglas av rädsla och utanförskap och i vissa fall kan leda till våld i verkliga livet”. I policyn listas bland annat etnisk tillhörighet, nationellt ursprung och religiös åskådning som exempel på skyddade egenskaper. I policyn förklaras det också att ”angreppen är uppdelade i två nivåer utifrån allvarlighetsgrad” och de angrepp som placeras inom nivå 1 är de allvarligaste. I motiveringen till communityregeln om hatretorik står det också att policyn ”skyddar flyktingar, migranter, invandrare och asylsökande från de allvarligaste angreppen”, men att Meta tillåter ”kommentarer om och kritik mot migrationspolitik”. I Metas interna vägledning för innehållsmoderatorer vidareutvecklas resonemanget med en förklaring av att företaget betraktar migranter, invandrare, flyktingar och asylsökande vara en delvis skyddad grupp. Det innebär att Meta skyddar dem från angrepp på nivå 1, men inte från angrepp på nivå 2 enligt policyn om hatretorik.

I policyn delades angrepp tidigare upp i tre olika nivåer, men idag i två. Som angrepp på nivå två förbjuds, bland andra typer av innehåll, ”uteslutande eller segregering i form av uppmaningar, uttalanden om avsikt, långtgående eller hotfulla uttalanden eller uttalanden som förespråkar eller stöder exkludering, vilket definieras som: [...] explicit utestängning, vilket innebär att exempelvis kasta ut vissa grupper eller att säga att de inte är tillåtna”. Meta avböjde rådets begäran om att företaget skulle publicera mer information om sin interna vägledning till innehållsgranskare avseende detta.

I ett Newsroom-inlägg från 2017 med rubriken ”Svåra frågor: Vem avgör vad som är hatretorik i en global onlinecommunity?” som längst ned länkar till motiveringen till communityregeln om hatretorik med texten ”Ta reda på mer om vårt sätt att hantera hatretorik”, menar Meta att debatter om migrationspolitik ofta blir till ”en debatt om hatretorik i vilken båda sidor gör provocerande uttalanden”. Företaget uppgav att efter att ha gjort en global granskning av inlägg på Facebook om migration ”beslutade [företaget] att ta fram nya riktlinjer för att ta bort uppmaningar till våld mot migranter och avhumaniserande hänvisningar till dem, som jämförelser med djur, smuts eller sopor”. Företaget lämnade emellertid utrymme för ”människors möjlighet att uttrycka sina åsikter om migration i sig” eftersom företaget har ”ett starkt engagemang för att se till att Facebook fortsätter vara en plats för legitima debatter”.

Farliga individer och organisationer

I motiveringen till communityregeln om farliga individer och organisationer står det att Meta inte tillåter att organisationer eller individer som förespråkar eller utövar våld har närvaro på Metas plattformar. I motiveringen står det också att Meta bedömer dessa enheter ”utifrån deras beteende online och offline, och det framförallt baserat på deras kopplingar till våld”.

I communityregeln om farliga individer och organisationer står det att Meta förbjuder närvaro av våldsförespråkande konspirationsnätverk, vilka aktuellt definieras som icke-statliga aktörer som: (i) identifieras med namn, uttalat mål, symbol eller språkbruk, (ii) för fram grundlösa teorier som försöker ge en förklaring på orsakerna bakom sociala och politiska problem, viktiga händelser och omständigheter med påståenden om hemliga planer smidda av två eller flera mäktiga personer, och (iii) uttryckligen har förespråkat eller kunnat kopplas direkt till återkommande fysisk offlineskada orsakad av anhängare som drivs av en önskan att dra uppmärksamhet till eller få upprättelse för sådan skada som hävdas i de grundlösa teorier som nätverket propagerar för.

Rådets analys av innehållspolicyerna bygger också på Metas åtagande gällande värderingen röst, som enligt företaget är av yttersta vikt, och företagets värderingar gällande säkerhet och värdighet.

III. Metas ansvar för mänskliga rättigheter

FN:s vägledande principer för företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter år 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande de mänskliga rättigheterna. 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter där förtaget bekräftar sitt åtagande att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. I detta ärende utgår rådets analys av Metas ansvar avseende mänskliga rättigheter ifrån följande internationella normer:

• Rätten till yttrandefrihet: Artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), artikel 20, paragraf 2 ICCPR, allmän kommentar 34, FN:s kommitté för mänskliga rättigheter, 2011. Följande rapporter från FN:s specialrapportör (UNSR) för åsikts- och yttrandefrihet: A/HRC/38/35 (2018) och A/74/486 (2019).
• Jämlikhet och likabehandling: Artikel 2, paragraf 1 och artikel 26, ICCPR. Artikel 2 i den internationella konventionen om avskaffande av alla former av rasdiskriminering (ICERD), FN:s generalförsamling, resolution A/RES/73/195.
• Rätten till liv: Artikel 6, ICCPR.

5. Framställningar från användaren

Rådet tog emot en framställning från den användare som anmälde innehållet och överklagade Metas beslut att låta det ligga kvar. Denna framställning var en del av användarens överklagande till rådet. I framställningen säger den överklagande användaren att Zemmour anger överbefolkning som det enda skälet till kolonisation och migrering, vilket användaren klassificerar som ”falska nyheter”.

6. Metas framställningar

När rådet hade valt ut ärendet granskade Meta inlägget mot policyn om hatretorik ihop med ämnesexperter och fastställde att det ursprungliga beslutet att lämna kvar innehållet var korrekt. Meta gav ingen ytterligare information om de specifika uppgifter eller kunskapsområden de experter som utförde denna ytterligare granskning behärskade. Meta betonade att policyn föreskriver att det måste finnas både en grupp som delar en skyddad egenskap och ett direkt angrepp för att ett innehåll ska anses bryta mot reglerna och att de elementen saknades i uttalandet om befolkningsförändringar och kolonisation. Meta förklarade att företaget inte anser att påståendet om att en grupp ”koloniserar” en plats är ett angrepp på egen hand så länge det inte utgör ett förespråkande av exkludering, och betonade att företaget ”vill tillåta medborgare att diskutera lagar och regler i sina länder så länge diskussionen inte är ett angrepp på sårbara grupper som är underställda dessa lagar”. Slutligen förklarade Meta att innehållet inte pekar ut en grupp personer som delar en skyddad egenskap i och med att Zemmour hänvisar till ”Afrika” som en kontinent och dess länder och att ”policyn om hatretorik inte skyddar länder och institutioner från angrepp”.

Meta vägrade att lyfta sekretessen gällande företagets process för policyutveckling avseende skadliga konspirationsteorier. Meta angav istället att: ”Vi har övervägt specifika policyalternativ för innehåll med diskussioner av konspirationsteorier som inte bryter mot våra policyer på annat sätt. Vi har emellertid kommit fram till att om vi i dagsläget skulle implementera något av dessa alternativ skulle vi riskera att ta bort en avsevärd mängd politiska uttalanden”.

Rådet ställde åtta skriftliga frågor till Meta. Frågorna handlade om Metas policyutveckling kopplad till teorin om det stora folkutbytet, tillämpligheten för ett flertal bestämmelser i reglerna om hatretorik och farliga individer och organisationer, och tidigare överträdelser begångna av Facebook-sidan och den publicerande användaren. Meta besvarade sex av rådets frågor, varav två bristfälligt. När Meta inte tillhandahöll tillräcklig information till svar på rådets inledande fråga om policyutveckling avseende teorin om det stora folkutbytet ställde rådet en uppföljande fråga på vilken Meta gav ytterligare, men fortfarande otillräcklig information.

7.Kommentarer från allmänheten

Tillsynsrådet har tagit emot 15 kommentarer från allmänheten. Sju av kommentarerna kom från USA och Kanada, tre från Europa, två från Central- och Sydasien, en från mellanöstern och Nordafrika, en från Asien-Stillahavsområdet och Oceanien och en från Afrika söder om Sahara. I det totala antalet ingår kommentarer från allmänheten som var dubbletter eller som skickades in med samtycke till publicering, men inte uppfyllde rådets villkor för publicering. Kommentarer från allmänheten kan skickas in till rådet med eller utan samtycke till publicering, och med eller utan samtycke till attribuering (dvs. anonymt).

Kommentarerna handlade framförallt om två teman. Flera kommentarer betonade att ett borttagande av innehållet som granskas i ärendet i det närmaste kunna betraktas som censur, och att det till och med skulle kunna ”leda till att öka ilskan bland de medborgare som känner att de inte får uttrycka sina åsikter” (PC-22009). Två organisationer skickade in kommentarer som betonade den negativa effekt denna typ av innehåll och särskilt teorin om det stora folkutbytet har offline. I båda dessa kommentarer hävdades det att det finns en koppling mellan massakern i Christchurch och teorin (PC-22013, Digital Rights Foundation och PC-22014, Global Project Against Hate and Extremism).

Klicka här om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet.

8.Tillsynsrådets analys

Rådet analyserade Metas innehållspolicyer, ansvar för mänskliga rättigheter och värderingar i sin bedömning av om innehållet i ärendet skulle tas bort. Rådet utvärderade även hur ärendet påverkar Metas generella inställning till innehållsstyrning.

Rådet valde ut ärendet eftersom det gav tillfälle att granska Metas hantering av innehåll med angrepp mot migranter med hänsyn till den ökande andelen global invandrarfientlig retorik och hetsiga offentliga debatter om migrationspolitik. Detta särskilt med tanke på utmaningarna kopplade till att i stor skala skilja skadligt innehåll från politiska uttalanden om migrationspolitiken.

8.1 Efterlevnad av Metas innehållspolicyer

Rådet slår fast att innehållet inte bryter mot Metas policyer. Därmed var Metas beslut att lämna kvar innehållet på Facebook korrekt. En minoritet av rådet anser emellertid att Metas policyer skulle kunna skilja bättre mellan även den allra hårdaste kritik mot migrationspolitik och uttalanden som för fram konspirationsteorier som är till skada för grupper av människor som delar en skyddad egenskap.

I.Regler för innehåll

Hatretorik

Majoriteten av rådet kommer till slutsatsen att innehållet i ärendet inte bryter mot Metas communityregel om hatretorik, utan är ett exempel på ett skyddat, om än kontroversiellt, uttalande om migration. Det 50 sekunder långa klippet från intervjun med Zemmour som publicerades av användaren innehåller inga uppmaningar till våld och inga avhumaniserande eller hatiska uttalanden riktade mot sårbara grupper. Det faktum att Zemmour tidigare har åtalats och dömts för bruk av hatretorik, eller att inläggets tematik påminner om den i teorin om det stora folkutbytet – som många anser har utlöst våld mot invandrare och medlemmar i minoritetsgrupper – är inte en giltig motivering till att ta bort ett inlägg som inte bryter mot Metas regler. Enligt policyn måste två element vara närvarande för att innehållet ska anses bryta mot reglerna: (i) ett ”direkt angrepp” och (ii) en grupp människor som delar en ”skyddad egenskap” mot vilken det direkta angreppet är riktat. Meta definierar ett ”direkt angrepp” som, bland andra typer av uttalanden, ”uteslutande eller segregering i form av uppmaningar till handling”, vilket förklaras närmare i avsnitt 4 ovan. Dessutom gör motiveringen till policyn det klart att Meta tillåter ”kommentarer om och kritik mot migrationspolitik”.

Majoriteten anser att Zemmours kommentarer i videon huvudsakligen fokuserar på den hävdade demografiska information han framlägger om Afrika, Europa och ”kolonisation”. Videon innehåller, bland andra påståenden, uttalandena ”Så maktbalansen har skiftat” och ”Vad händer när det nu går fyra afrikaner på varje europé? Afrika koloniserar Europa och framförallt Frankrike”. Zemmours kommentarer innehåller inga direkta angrepp, och faktum är att han varken använder frasen ”teorin om det stora folkutbytet” eller hänvisar direkt till teorin. Det förekommer inga uttalade krav på att någon grupp ska utestängas från Europa och inga uttalanden om afrikaner som utgör skadliga stereotyper, nedsättande uttryck eller andra direkta angrepp. Rådet anser emellertid att det är bekymrande att Meta inte anser afrikaner vara en grupp människor som delar en skyddad egenskap, med tanke på att nationellt ursprung, etnisk tillhörighet och religion är skyddade egenskaper både enligt Metas policyer och internationell människorättslagstiftning. Afrikaner nämns genomgående i innehållet. Afrika är en kontinent med flera länder och därmed avser ”afrikaner” människor som är medborgare i afrikanska länder. Med hänsyn till Zemmours tidigare kommentarer och diskussioner om migrationen i Frankrike står begreppet ”afrikaner” dessutom för icke-vita afrikaner, och särskilt svarta och muslimska afrikaner.

Farliga individer och organisationer

Majoriteten av rådet slår också fast att innehållet inte bryter mot Metas policy om farliga individer och organisationer i och med att det saknas element som krävs för att bedöma just detta innehåll som en del av ett bredare våldsförespråkande konspirationsnätverk.

Som förklaras i avsnitt 6 ovan övervägde Meta policyalternativ specifika för innehåll om konspirationsteorier som inte på annat sätt bryter mot några policyer. Företaget kom emellertid fram till att det i dagsläget skulle innebära risk för att en avsevärd mängd politiska uttalanden skulle tas bort om något av dessa alternativ implementerades. Rådet uttrycker bekymmer över bristen på information från Metas sida till svar på rådets frågor om denna policyutveckling. Rådet noterar att företaget inte tillhandahållit någon specifik information om de undersökningar som gjorts, den information som samlats in, undersökningarnas omfattning, vilka typer av experter som rådfrågats eller om de olika policyalternativ som analyserats. Rådet bekymras också över att Meta valt att inte dela information om policyutvecklingen och dess resultat med allmänheten.

En minoritet av rådet är medvetna om att trots att innehållet innebär ett underförstått angrepp mot flera överlappande grupper av människor som delar en skyddad egenskap (svarta, araber och muslimer) förbjuds inte innehåll som detta enligt de nuvarande reglerna i Metas policyer om hatretorik och farliga individer och organisationer. Det faktum att inlägget endast innehåller de mer ”lättsmälta” delarna av teorin om det stora folkutbytet är emellertid inte avgörande. I rådets beslut i ärendet Avstängningen av tidigare president Trump betonade rådet att Meta ”måste utvärdera inlägg gjorda av inflytelserika personer i sitt sammanhang utifrån hur de med sannolikhet kommer att uppfattas, även om deras uppviglande meddelande är inbäddat i ett språk som är utformat för att undvika ansvar”.

Enligt vad som förklaras utförligare i avsnitt 8.3 anser en minoritet av rådet ändå att Metas hantering av innehåll som för fram skadliga konspirationsteorier, som teorin om det stora folkutbytet, inte är förenlig med syftet med de olika policyer som företaget har utformat för att förhindra framväxten av en miljö som präglas av rädsla och utanförskap som gör skyddade minoriteter sårbara för online- och offlineskada. Även om minoriteten instämmer i att Metas policyer bör tillåta kritik och diskussion av alla ämnen (som migration) som är relevanta i demokratiska samhällen, anser minoriteten att de även bör etablera tydliga skyddsmekanismer för att förhindra spridning av underförstådda eller uttalade angrepp mot sårbara grupper. Detta med hänsyn tagen till den offlineskada konspiratoriska tankar som teorin om det stora folkutbytet kan ge upphov till.

II. Transparens

Meta tillhandahåller viss information om hur företaget hanterar migrationsrelaterat innehåll i sitt transparenscenter i communityregeln om hatretorik. Där förklarar företaget att flyktingar, migranter, invandrare och asylsökande skyddas mot de allvarligaste angreppen. Meta ger ytterligare information i ett Newsroom-inlägg från 2017 som motiveringen till policyn om hatretorik länkar till. Företaget förklarar emellertid inte uttryckligen hur det hanterar innehåll kopplat till teorin om det stora folkutbytet. I inlägget från 2017 finns det information som är relevant i ämnet, men det har inte uppdaterats efter den policyutvecklingsprocess som genomfördes 2021 och som nämns i avsnitt 6 ovan. Meta förklarar heller inte uttryckligen i den offentligt publicerade policyn att förespråkande av exkludering tillåts i samband med diskussioner om migration. Det framgår heller inte hur underförstådda eller förtäckta angrepp inom denna kontext hanteras.

8.2 Efterlevnad av Metas ansvar för de mänskliga rättigheterna

Majoriteten av rådet finner att det är förenligt med Metas ansvar för mänskliga rättigheter att låta innehållet ligga kvar. En minoritet anser att Meta, för att uppfylla sitt ansvar för de mänskliga rättigheterna, måste omformulera sina policyer så att företagets tjänster inte missbrukas av de som för fram konspirationsteorier som orsakar skada online och offline.

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19 i ICCPR ger brett skydd för rätten till yttrandefrihet. Här omfattas ”friheten att söka efter, ta emot och kommunicera information och idéer av alla de slag” vilket innefattar ”politiska diskurser” och kommentarer om ”offentliga angelägenheter”, (allmän kommentar 34, paragraf 11). FN:s kommitté för mänskliga rättigheter har uttalat att denna rättighet även gäller för ”uttalanden som kan uppfattas som djupt kränkande, även om sådana uttalanden kan begränsas i enlighet med bestämmelserna i artikel 19, paragraf 3 och artikel 20” för att skydda andras rättigheter och rykte eller förbjuda uppvigling till diskriminering, fientlighet eller våld (Allmän kommentar 34, paragraf 11).

I samband med offentliga debatter om migration framhöll FN:s generalförsamling sitt åtagande att ”skydda yttrandefriheten i enlighet med internationell lag, med medvetenhet om att en öppen och fri debatt bidrar till bättre kunskap om alla aspekter av migrationen”. Generalförsamlingen åtog sig också att ”främja en öppen och evidensbaserad offentlig diskussion om migration och migranter i samarbete med alla delar av samhället, vilken ger upphov till ett mer realistiskt, humant och konstruktivt synsätt i frågan,” (A/RES/73/195, paragraf 33). Migrationsfrågor och relaterade regler är omdiskuterade och relevanta frågor för politiska processer, inte bara i Frankrike utan även globalt, och legitima ämnen för debatt på Metas plattformar. Majoriteten anser att ett förbud mot denna typ av uttalanden på Metas plattformar skulle vara en tveklös inskränkning av yttrandefriheten och ett farligt prejudikat med tanke på hur det skulle kunna inverka på den offentliga debatten. En minoritet av rådet anser att det är just för att öppna och evidensbaserade diskussioner om migration är så relevanta för ett demokratiskt samhälle som spridningen av konspirationsteorier som teorin om det stora folkutbytet på sociala mediers plattformar kan vara så skadliga. Enligt uppgifter från Institute for Strategic Dialogue omfattar de metoder som används för att sprida teorin ”avhumaniserande och rasistiska mem, förvanskning och felaktig framställning av demografiska uppgifter och bruk av förkastade teorier”.

När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Dessa krav kallas ofta för de tre villkoren. Rådet använder detta ramverk till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter, både i relation till det enskilda innehållsbeslutet och vad det säger om Metas generella hållning gällande innehållsstyrning. Som FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har beskrivit det ”[har företag] visserligen inte samma skyldigheter som myndigheter, men deras inverkan är av ett slag som gör det nödvändigt för dem att ta ställning till samma typer av frågor om att skydda sina användares rättigheter till yttrandefrihet” (A/74/486, paragraf 41).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Enligt laglighetsprincipen måste regler som begränsar yttrandefriheten vara tillgängliga och tydliga och tillräckligt precist utformade att enskilda individer ska kunna rätta sig efter dem (allmän kommentar 34, paragraf 25). Vidare får dessa regler ”inte ge de personer som ska tillämpa reglerna obehindrad möjlighet att begränsa rätten att uttrycka sig”. Reglerna måste vidare ”ge tillräcklig vägledning åt de personer som har till uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det” (Ibid). FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har sagt att reglerna för uttalanden online bör vara tydliga och specifika (A/HRC/38/35, paragraf 46). De som använder Metas plattformar ska kunna komma åt och förstå reglerna, och innehållsgranskare ska ha tydliga riktlinjer för hur reglerna ska verkställas.

Inga av Metas aktuella policyer förbjuder ”specifikt och tydligt” innehållet i detta ärende. Majoriteten av rådet anser att en genomsnittlig användare som läser communityregeln om hatretorik eller Metas blogginlägg ”Svåra frågor” från 2017 (till vilket det länkas från communityregeln) troligen skulle få intrycket att bara de allra grövsta angreppen mot invandrare och migranter skulle tas bort i och med att Meta tydligt anger att företaget vill tillåta kommentarer om och kritik mot migrationspolitik på sina plattformar. Majoriteten av rådet finner att detta åtagande är förenligt med Metas ansvar för mänskliga rättigheter. En minoritet anser att policyn om hatretorik syftar till att förhindra framväxandet av en miljö präglad av exkludering och segregering, vilket är en typ av miljö som hatideologiska konspirationsteorier som teorin om det stora folkutbytet bidrar till. Med tanke på att innehåll som för fram sådana teorier vanligen riktas mot sårbara grupper och minoritetsgrupper och utgör angrepp mot deras värdighet, borde vanliga användare kunna förvänta sig skydd från denna typ av innehåll enligt Metas policy om hatretorik.

Det finns inga bestämmelser i Metas nuvarande policy om farliga individer och organisationer som förbjuder innehållet i detta ärende. Även om Meta specifikt och tydligt hade förbjudit innehåll om teorin om det stora folkutbytet på sina plattformar, anser majoriteten att innehållet i detta ärende inte går så långt som till att nämna teorin eller diskutera element inom teorin på sätt som skulle kunna anses vara konspiratoriska och skadliga. I inlägget hävdas det inte att flyktingströmmarna till Europa som omfattar specifika grupper av människor är en del av en hemlig plan smidd av individer med dolda agendor.

II.Berättigat ändamål

Alla begränsningar av yttrandefriheten ska dessutom införas i enlighet med åtminstone ett av de berättigade ändamål som anges i ICCPR, vilka innefattar skyddet av ”andras rättigheter”. Termen ”rättigheter” omfattar de mänskliga rättigheter som fastställs i ICCPR och mer allmänt i internationell människorättslagstiftning (allmän kommentar 34, paragraf 28).

I flera beslut har rådet funnit att Metas policy om hatretorik, vars syfte är att skydda människor från skada orsakad av hatretorik, har ett berättigat ändamål som erkänns enligt normerna i internationell människorättslagstiftning (se beslutet i ärendet Tecknad film om staden Knin). De skyddar rätten till liv (artikel 6, paragraf 1 i ICCPR) samt rätten till jämlikhet och likabehandling, oberoende av bland annat etnicitet och nationellt ursprung (artikel 2, paragraf 1, ICCPR, artikel 2, ICERD). Rådet har även tidigare funnit att Metas policy om farliga individer och organisationer syftar till att förhindra och stävja skada i verkligheten med det berättigade ändamålet att skydda andras rättigheter (se beslutet i ärendet Delat Al Jazeera-inlägg). Omvänt har rådet upprepat funnit att det inte finns något berättigat ändamål när yttrandefriheten begränsas enbart i syfte att skydda individer från anstöt (se Avbildning av Zwarte Piet, i vilket paragraf 24 i rapport A/74/486 från FN:s specialrapportör för åsikts- och yttrandefrihet citeras, och Avstängningen av tidigare president Trump). Detta eftersom internationell människorättslagstiftning lägger stor vikt vid rätten att uttrycka sig obehindrat (allmän kommentar 34, paragraf 38).

III. Nödvändighet och proportionalitet

Principen om nödvändighet och proportionalitet anger att begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion, de måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen, [och] de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar 34, paragraf 34). Typen och mängden åtgärder ett företag som Meta har tillgång till skiljer sig från de som en stat kan tillgå, och innebär ofta mindre allvarliga inskränkningar av rättigheter än, till exempel, straffrättsliga påföljder. Som en del av sitt ansvar för mänskliga rättigheter bör företag verksamma inom sociala medier överväga ett flertal möjliga sätt att agera på problematiskt innehåll förutom att ta bort det. Detta för att se till att begränsningarna är snävt utformade (A/74/486, paragraf 51).

I bedömningen av de risker som eventuellt våldsamt innehåll medför utgår rådet från de sex faktorer som beskrivs i Rabat Plan of Action, som tar upp uppvigling till diskriminering, fientlighet eller våld (OHCHR, A/HRC/22/17/Add.4, 2013). Dessa villkor används till att bedöma sammanhanget, talaren, avsikten, innehållet och formen, den omfattning i vilket uttrycket har spridits och sannolikheten för överhängande risk för skada.

Majoriteten av rådet anser att ett borttagande av innehållet i ärendet varken vore nödvändigt eller proportionerligt. I Rabat-testet framhålls innehållet och typen av uttalande som ”kritiska element avseende uppvigling”. I det innehåll som granskas i detta ärende, dvs. Zemmours kommentarer som de återges i det 50 sekunder långa klipp som användaren publicerat, lyfts inte de konspiratoriska delarna i teorin om det stora folkutbytet och videon innehåller inte uppviglande element som våldsbejakande eller uppviglande bilder. Kommentarerna och bildtexten innehåller heller inte några direkta uppmaningar till våld eller exkludering. Majoriteten anser att det skulle vara ett brott mot yttrandefriheten att exkludera politiskt kontroversiellt innehåll baserat på uttalanden som gjorts av talaren på andra ställen. Majoriteten anser att de siffror som Zemmour uppger endast är en aning överdrivna. Majoriteten noterar också att det huvudsakliga ämnet för Zemmours uttalanden i videon är migrationen, vilket kanske är ett av vår tids mest framträdande politiska frågor.

En minoritet av rådets medlemmar anser att innehållet i ärendet inte bryter mot Metas aktuella policyer (se avsnitt 8.1). Företaget har emellertid utformat en uppsättning policyer som syftar till att förhindra framkomsten av en miljö präglad av rädsla och utanförskap som inte bara påverkar skyddade minoriteter online (genom att inverka på utestängd gruppers möjlighet att göra sina röster hörda), utan även offline. Enligt dessa policyer modereras antisemitiska uttalanden, vit makt-uttalanden och innehåll från våldsförespråkande konspirationsnätverk. Borttagande av sådant innehåll är i enlighet med Metas ansvar för de mänskliga rättigheterna. Enligt vad som förklaras i avsnitt 2 ovan hävdar teorin om det stora folkutbytet att det finns en medveten plan att ersätta den vita befolkningen i Europa med migranter från framförallt Afrika och Asien. Spridningen av teorin om det stora folkutbytet har bidragit till hets mot folkgrupp och hat och våld mot invandrare, icke-vita européer och muslimer. En minoritet av rådet betonar att det inte bara är en abstrakt idé eller en kontroversiell åsikt, utan snarare en typisk konspirationsteori som leder till skada både online och offline. Den bidrar tveklöst till att skapa en miljö präglad av rädsla och utanförskap för vissa minoriteter. Den bevisliga skada som uppstår till följd av den samlade, omfattande och snabba spridningen av antisemitiskt innehåll på Metas plattformar, vilket behandlades i ärendet Förnekelse av förintelsen, påminner om den bevisliga skada som teorin om det stora folkutbytet ger upphov till, vilket anges i avsnitt 2. Därför anser en minoritet av rådet att det är oförenligt med principen om likabehandling och med Metas värderingar avseende säkerhet och värdighet att Meta har beslutat sig för att skydda vissa hotade minoritetsgrupper från exkludering och diskriminering orsakad av konspirationstankar, medan andra som är i en liknande risksituation lämnas utan skydd. En minoritet av rådet fann inga övertygande skäl till att Metas ska ha ett annat förhållningssätt till teorin om det stora folkutbytet än till de andra konspirationsteorier som nämns ovan, vilka Meta modererar i enlighet med företagets ansvar för de mänskliga rättigheterna.

I anslutning till det som nämns ovan anser en minoritet av rådet att den stora utmaningen för företag verksamma inom social medier inte ligger i enskilda innehåll utan snarare i ansamlingen av skadligt innehåll som snabbt delas i stor omfattning. Rådet har förklarat att ”innehållsmoderering i syfte att komma åt kumulativ skada orsakad av hatretorik kan vara i linje med Metas ansvar för mänskliga rättigheter i vissa fall, även om uttalandet inte direkt uppviglar till våld eller diskriminering” (se besluten i ärendena Avbildning av Zwarte Piet och Våldsamheter mellan folkgrupper i den indiska delstaten Odisha). 2022 uttryckte CERD oro över ”hur ihärdig och utbredd den rasistiska och diskriminerande diskursen är [i Frankrike], särskilt inom media och på internet”. En minoritet anser att ansamlingen av innehåll relaterat till teorin om det stora folkutbytet ”skapar en miljö där våldshandlingar med större sannolikhet tolereras och reproducerar diskrimineringen i ett samhälle” (se besluten i ärendena Avbildning av Zwarte Piet och Våldsamheter mellan folkgrupper i den indiska delstaten Odisha). En minoritet betonar att UNGP-principerna anger att ”företag ska lägga särskild vikt vid hur specifika mänskliga rättigheter påverkar individer från grupper och befolkningsgrupper som kan vara extra sårbara och löpa högre risk för marginalisering” (UNGP,-princip 18 och 20). Enligt vad som anges i avsnitt 2 ovan är det invandrare, särskilt invandrare med afrikanskt ursprung och deras barn, som framförallt drabbas av rasism i Frankrike. I en intervju 2023 delade generaldirektören på Frankrikes inrikes säkerhetstjänst (DGSI) med sig av sin åsikt att extremistgrupper, inklusive de som anser att de måste agera för att stoppa ”det stora folkutbytet” är ett allvarligt hot i landet.

Även om Meta uppgav att moderering av innehåll kopplat till konspirationsteorier skulle innebära risk för borttagande av ”en oacceptabel mängd politiska uttalanden”, noterar en minoritet av rådet att företaget inte tillhandahöll några bevis eller data till stöd för det uttalandet. Meta förklarade dessutom inte varför så är fallet med innehåll som har med teorin om det stora folkutbytet att göra, men inte för till exempel vit makt-innehåll eller antisemitiskt innehåll, som även det skulle kunna anses sprida konspirationsteorier. Baserat på de ovanstående orsakerna anser en minoritet att Meta behöver granska sina policyer för att hantera innehåll som för fram teorin om det stora folkutbytet. Detta såvida företaget inte har tillräckliga bevis: (i) att kunna avskriva uppkomsten av skada till följd av att denna typ av innehåll sprids, enligt diskussionen i detta beslut, eller (ii) att visa att effekten av moderering av denna typ av innehåll om skyddade politiska uttalanden skulle bli oproportionerlig. Ett proportionerligt agerande skulle kunna säkerställas genom att Meta till exempel överväger att skapa en eskaleringsexklusiv policy som skulle göra det möjligt att ta bort innehåll som öppet uttrycker stöd för teorin om det stora folkutbytet, utan påverkan på skyddade politiska uttalanden. Ett annat alternativ skulle kunna vara att företaget definierar personer som uttryckligen befattar sig med teorin om det stora folkutbytet som en del av ett våldsförespråkande konspirationsnätverk enligt Metas policy om farliga individer och organisationer.

Majoriteten är skeptisk till att det skulle vara möjligt att utforma en policy enligt vilken detta innehåll skulle bryta mot reglerna, och som samtidigt skulle kunna uppfylla kraven på laglighet, nödvändighet och proportionalitet. Detta särskilt med tanke på att orden ”det stora folkutbytet” eller någon variant av dem saknades i innehållet. Ett försök att ta bort sådant innehåll, också om det skulle betraktas som en kodad hänvisning, skulle leda till att en avsevärd mängd skyddade politiska uttalanden togs bort. Innehåll som är skyddat i sig ska inte antas bryta mot reglerna enbart på grund av talarens identitet eller för att det påminner om hatideologer.

9. Tillsynsrådets beslut

Tillsynsrådet fastställer Metas beslut att lämna kvar innehållet.

10. Rekommendationer

Transparens

1. Meta bör tillhandahålla större detaljrikedom i texten i communityregeln om hatretorik avseende hur företaget skiljer migrationsrelaterade diskussioner från skadliga uttalanden riktade mot människor grundat på deras migrationsstatus. I detta ingår det att förklara hur företaget hanterar innehåll i vilket hatideologiska konspirationsteorier sprids. Det är nödvändigt för att användarna ska kunna förstå hur Meta skyddar politiska uttalanden om migrationsfrågor och samtidigt hanterar den offlineskada som hatideologiska konspirationsteorier kan medföra.

Rådet anser detta vara implementerat när Meta publicerar en uppdatering där företaget förklarar hur det hanterar debatter om invandring och migration i samband med teorin om det stora folkutbytet, och länkar till uppdateringen på en framträdande plats i transparenscentret.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i detta ärende genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser. Företaget Lionbridge Technologies LLC, vars specialister är experter inom fler än 350 språk och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة