Politikers kommentarer om demografiske endringer

Sammendrag

Tilsynsrådet har opprettholdt Metas beslutning om å tillate et videoklipp der den franske politikeren Éric Zemmour diskuterer demografiske endringer i Europa og Afrika. Innholdet bryter ikke standarden om hatefulle ytringer, siden det ikke forekommer noe direkte angrep på mennesker basert på en beskyttet egenskap som rase, etnisitet eller nasjonal opprinnelse. Flertallet i rådet mener at det å tillate innholdet er i samsvar med Metas menneskerettighetsansvar. Rådet anbefaler imidlertid at Meta offentlig avklarer hvordan de skiller diskusjoner relatert til innvandring fra skadelige ytringer, inkludert hatefulle konspirasjonsteorier, rettet mot mennesker basert på en status som immigrant.

Om saken

I juli 2023 ble et videoklipp der den franske politikeren Éric Zemmour diskuterer demografiske endringer i Europa og Afrika lagt ut på hans offisielle Facebook-side av en bruker som er sidens administrator. Klippet er en del av et lengre videointervju med politikeren. I videoen uttaler Zemmour: «Siden begynnelsen av det 20. århundre har det skjedd en befolkningseksplosjon i Afrika.» Han fortsetter med å si at samtidig som den europeiske befolkningen har holdt seg på omtrent det samme – rundt 400 millioner – har den afrikanske befolkningen økt til 1,5 milliarder, «slik at maktbalansen har endret seg». Innleggets bildetekst sier på fransk at på 1900-tallet, «da det var fire europeere per afrikaner, koloniserte [Europa] Afrika», mens nå er det «fire afrikanere per europeer, og Afrika koloniserer Europa». Zemmours Facebook-side har rundt 300 000 følgere, og dette innlegget hadde blitt sett rundt 40 000 ganger per januar 2024.

Zemmour har vært gjenstand for flere rettslige skritt, med mer enn én domfellelse i Frankrike for å ha oppfordret til rasehat og å ha kommet med nedsettende kommentarer om muslimer, afrikanere og svarte mennesker. Han stilte som presidentkandidat i 2022, men kom ikke lenger enn første runde. Sentralt i valgkampen hans er teorien som kalles Den store utskiftningen. Denne argumenterer for at hvite europeiske befolkninger bevisst blir erstattet etnisk og kulturelt gjennom innvandring og framveksten av minoritetssamfunn. Språkeksperter bemerker at teorien og begrepene knyttet til den «oppfordrer til rasisme, hat og vold mot innvandrere og ikke-hvite europeere, og den retter seg spesielt mot muslimer». Videoen i innlegget nevner ikke teorien spesifikt.

To brukere rapporterte innholdet for brudd på Metas retningslinjer om hatefulle ytringer, men siden rapportene ikke ble prioritert for gjennomgang i løpet av en 48-timers periode, ble begge automatisk lukket. Rapporter prioriteres av Metas automatiserte systemer i henhold til alvorlighetsgraden av det potensielle regelbruddet, innholdets viralitet (antall visninger) og sannsynligheten for regelbrudd. En av brukerne anket deretter til Meta, noe som førte til at en av selskapets moderatorer besluttet at innholdet ikke brøt Metas regler. Brukeren anket deretter til rådet.

Viktige funn

Flertallet i rådet konkluderer med at innholdet ikke bryter Metas standard om hatefulle ytringer. Videoklippet inneholder et eksempel på en beskyttet (om enn kontroversiell) meningsytring om innvandring og inneholder ingen oppfordring til vold, og det inneholder heller ikke dehumaniserende eller hatefulle uttalelser som er rettet mot sårbare grupper. Selv om Zemmour har blitt tiltalt for bruk av hatefullt språk tidligere og at temaene i denne videoen ligner på teorien som kalles Den store utskiftningen, rettferdiggjør ikke dette fjerning av et innlegg som ikke bryter Metas standarder.

Hvis innlegget skulle ha utgjort et regelbrudd, måtte det inkludert et «direkte angrep» som spesifikt oppfordrer til «ekskludering eller segregering» av en gruppe med en «beskyttet egenskap». Zemmours kommentarer bryter ikke Metas regler om hatefulle ytringer, siden de ikke inneholder noe direkte angrep. De utgjør ikke en eksplisitt oppfordring om å ekskludere en gruppe fra Europa og heller ikke en uttalelse om afrikanere som er ensbetydende med en skadelig stereotypi, en nedsettende bemerkning eller andre direkte angrep. Begrunnelsen bak retningslinjene gjør det også klart at Meta tillater «kommentarer om og kritikk av innvandringspolitikk». Selskapet deler imidlertid ikke offentlig at de tillater oppfordringer om ekskludering når innvandringspolitikk diskuteres.

Rådet finner det imidlertid bekymringsfullt at Meta ikke anser afrikanere som en beskyttet gruppe, gitt at nasjonal opprinnelse, rase og religion er beskyttet både i henhold til Metas retningslinjer og internasjonal menneskerettighetslov. «Afrikanere» nevnes gjennom hele innlegget, og dette fungerer i videoen som en fellesbetegnelse for ikke-hvite afrikanere.

Rådet vurderte også den potensielle relevansen retningslinjene om farlige organisasjoner og personer har i denne saken. Flertallet mener imidlertid at innlegget ikke bryter disse retningslinjene, fordi det ikke inneholder nok elementer til å kunne vurderes som en del av et bredere konspirasjonsnettverk som oppfordrer til voldshandlinger. Meta definerer disse nettverkene som ikke-statlige aktører som deler samme målsetning, deler ubegrunnede teorier der de hevder at hemmelige komplotter fra mektige aktører står bak sosiale og politiske problemer og er direkte knyttet til et mønster med skade utenfor nettet.

Et mindretall av rådets medlemmer mener at Meta har en tilnærming til innhold som sprer skadelige konspirasjonsteorier som er uforenlig med målene bak retningslinjene som skal forhindre ekskludering av beskyttede minoriteter, både på og utenfor Internett. I henhold til disse retningslinjene modereres innhold som involverer visse andre konspirasjonshistorier for å beskytte truede minoritetsgrupper. Selv om disse rådsmedlemmene mener at kritikk av saker som innvandring bør tillates, er det nettopp fordi evidensbaserte diskusjoner om dette temaet er så relevante at det kan være skadelig å spre konspirasjonsteorier som for eksempel den teorien som kalles Den store utskiftningen. Den største utfordringen for sosiale medieselskaper er ikke enkeltdeler av innhold, men kombinasjonen av at slikt innhold deles i stor skala og i høy hastighet. Derfor må Meta omformulere retningslinjene sine slik at tjenestene deres ikke blir misbrukt av folk som deler konspirasjonsteorier som kan forårsake skader på og utenfor nettet.

Meta har foretatt analyser av retningslinjer med henblikk på å håndtere hatefulle konspirasjonsteorier, men selskapet besluttet at dette kunne føre til fjerning av for mange politiske ytringer. Rådet er bekymret over mangelen på informasjon som Meta har delt om denne prosessen.

Tilsynsrådets avgjørelse

Tilsynsrådet har opprettholdt Metas beslutning om å tillate innlegget.

Rådet anbefaler at Meta gjør følgende:

• De må oppgi flere detaljer i standarden om hatefulle ytringer om hvordan de skiller diskusjoner om innvandring fra skadelige ytringer rettet mot mennesker basert på statusen deres som immigrant. Dette omfatter å forklare hvordan selskapet håndterer innhold som sprer hatefulle konspirasjonsteorier, slik at brukerne kan forstå hvordan Meta beskytter politiske ytringer om immigrasjon og samtidig håndterer potensielle skader utenfor nettet relatert til disse teoriene.

* Sakssammendrag gir en oversikt over sakene og medfører ingen presedens.

Fullstendig saksavgjørelse

1.Sammendrag av avgjørelsen

Tilsynsrådet opprettholder Metas beslutning om å tillate et innlegg på den franske politikeren Éric Zemmours offisielle Facebook-side som inneholder en video der Zemmour blir intervjuet og diskuterer demografiske endringer i Europa og Afrika. Rådet mener at innholdet ikke bryter Metas standard om hatefulle ytringer fordi det ikke direkte angriper mennesker på grunnlag av beskyttede egenskaper, inkludert rase, etnisitet og nasjonal opprinnelse. Flertallet i rådet mener at Metas beslutning om å tillate innholdet på Facebook er i samsvar med selskapets menneskerettighetsansvar. Et mindretall av rådets medlemmer mener at Metas retningslinjer er utilstrekkelige for å oppfylle selskapets menneskerettighetsansvar når det gjelder å håndtere den betydelige trusselen fra skadelige og ekskluderende konspirasjonsteorier som Den store utskiftningen. Rådet anbefaler at Meta offentlig avklarer hvordan de håndterer innhold som sprer hatefulle konspirasjonsteorier, gitt behovet for å beskytte ytringer om immigrasjon og samtidig adressere de potensielle fysiske skadevirkningene av slike konspirasjonsteorier.

2. Saksbeskrivelse og -bakgrunn

7. juli 2023 la en bruker ut en video på den offisielle, bekreftede Facebook-siden til den franske politikeren Éric Zemmour. I videoen, som er et 50-sekunders klipp av et lengre intervju utført på fransk, diskuterer Zemmour demografiske endringer i Europa og Afrika. Brukeren som la ut videoen var administrator for siden, som har rundt 300 000 følgere. Zemmour var kandidat i det franske presidentvalget i 2022 og fikk rundt 7 % av stemmene i første runde, men gikk ikke videre. Før han stilte til valg, var Zemmour fast spaltist i Le Figaro og andre aviser, samt en frittalende TV-kommentator kjent for sine provokasjoner mot islam, innvandring og kvinner. Som forklart mer detaljert nedenfor, har han vært involvert i flere rettssaker og dømt i noen av dem på grunn av disse kommentarene. Meta anså ikke brukeren som la ut videoen som en offentlig person, men de anså Zemmour som dette.

I videoen uttaler Zemmour følgende: «Siden begynnelsen av det 20. århundre har det skjedd en befolkningseksplosjon i Afrika.» Han hevder at samtidig som den europeiske befolkningen har holdt seg på omtrent det samme – rundt 400 millioner – har den afrikanske befolkningen økt til 1,5 milliarder, «slik at maktbalansen har endret seg». Innleggets bildetekst gjentar påstandene i videoen på fransk, som sier at på 1900-tallet, «da det var fire europeere per afrikaner, koloniserte [Europa] Afrika», mens nå er det «fire afrikanere per europeer, og Afrika koloniserer Europa». Disse tallene sammenlignes med tall oppgitt nedenfor som er tilgjengelige fra FNs organer. I tillegg er synspunktene til flertallet av rådet rundt disse tallene beskrevet mer detaljert i punkt 8.2 nedenfor.

Da denne saken ble kunngjort av rådet den 28. november 2023, var innholdet sett rundt 20 000 ganger. Per januar 2024 hadde innholdet blitt sett rundt 40 000 ganger og hadde under 1000 reaksjoner, hvorav de fleste var «liker», etterfulgt av «kjærlighet» og «haha».

9. juli 2023 rapporterte to brukere separat at innholdet bryter Metas retningslinjer om hatefulle ytringer. Selskapet lukket automatisk begge rapportene, fordi de ikke ble prioritert for gjennomgang innen 48 timer. Meta forklarte at rapporter blir dynamisk prioritert for gjennomgang, basert på faktorer som alvorlighetsgraden av det potensielle bruddet, innholdets viralitet (antall visninger innholdet har hatt) og sannsynligheten for at innholdet vil bryte selskapets retningslinjer. Innholdet ble ikke fjernet, og det ble værende på plattformen.

Den første personen som hadde rapportert innholdet, anket Metas avgjørelse den 11. juli 2023. Anken ble vurdert av en moderator, som opprettholdt Metas opprinnelige beslutning om å la innholdet ligge oppe. Den rapporterende brukeren anket da til tilsynsrådet.

Ti dager før innholdet ble publisert, døde Nahel Merzouk, en fransk 17-åring av marokkansk og algerisk avstamning. Han døde etter at to politimenn skjøt ham i en forstad til Paris 27. juni 2023, noe som utløste omfattende opptøyer og voldelige demonstrasjoner i Frankrike. Demonstrasjonene, som fortsatt pågikk da innholdet ble lagt ut, var rettet mot politivold og en oppfatning av at det franske politiet bedriver systemisk rasediskriminering. Disse demonstrasjonene var de siste i en lang rekke demonstrasjoner mot politivolden som det hevdes ofte er rettet mot innvandrere med afrikansk opprinnelse og andre marginaliserte samfunn i Frankrike.

Ifølge European Commission against Racism and Intolerance (ECRI) er innvandrere de vanligste ofrene for rasisme i Frankrike, spesielt de av afrikansk opprinnelse og deres etterkommere. I 2022 oppfordret CERD (Committee on the Elimination of Racial Discrimination – komiteen for eliminering av rasediskriminering Frankrike til å doble sin innsats for effektivt å forhindre og bekjempe rasistiske ytringer. De uttalte at «til tross for partens innsats ... er komiteen fortsatt bekymret for hvor utbredt den rasistiske og diskriminerende diskursen er, spesielt i media og på Internett.» De er også «bekymret over enkelte politiske lederes rasistiske ytringer med hensyn til visse etniske minoriteter, spesielt romer, reisende, afrikanere, personer av afrikansk opprinnelse, personer av arabisk opprinnelse og ikke-statsborgere» (CERD/C/FRA/CO) /22–23, § 11).

Ifølge en rapport fra 1999 fra Department of Social and Economic Affairs of the United Nations, var befolkningen i Afrika i år 1900 estimert til 133 millioner mennesker. Data fra FN i 2022 anslår at Afrikas befolkning i 2021 var på rundt 1,4 milliarder. Den anslår også at innen 2050 kan befolkningen i Afrika nå 2,5 milliarder. Ifølge den samme rapporten fra 1999 var befolkningen i Europa i 1900 på omtrent 408 millioner mennesker. Department of Economic and Social Affairs i De forente nasjoner anslår at befolkningen i Europa i 2021 var på omtrent 745 millioner og vil avta til omtrent 716 millioner innen 2050.

I Frankrike, i likhet med mange andre deler av verden, har ankomsten av et stort antall immigranter fra andre land blitt et av de mest framtredende temaene i den politiske debatten. Per september 2023 var det omtrent 700 000 flyktninger og asylsøkere i Frankrike, noe som gjør landet til det tredje største vertslandet i EU. Mens rådet gjennomgikk denne saken, opplevde Frankrike store demonstrasjoner og en opphetet offentlig debatt om innvandring på grunn av parlamentets vedtak av en ny immigrasjonslov, som blant annet fastsetter immigrasjonskvoter og strammer inn reglene rundt familiegjenforening og tilgang til sosiale ytelser. Zemmour og partiet hans har vært veldig aktive i disse diskusjonene, og de har tatt til orde for strenge restriksjoner rundt immigrasjon.

Zemmour har vært gjenstand for flere rettslige skritt og har de siste årene flere ganger blitt dømt av franske domstoler for å ha oppfordret til rasehat og kommet med nedsettende kommentarer som går på rase. Dette handler først og fremst om uttalelser rettet mot muslimer, afrikanere, svarte mennesker og LHBTQIA+-personer. Zemmour ble dømt for oppfordring til rasehat for kommentarer han kom med i 2011 på TV, der han sa at «de fleste langere er svarte og arabere. Det er et faktum.» Nylig fant en domstol Zemmour skyldig i å ha oppfordret til rasehat i 2020 og bøtela ham med 10 000 euro for å ha uttalt at innvandrerbarn er «tyver og mordere, de er voldtektsmenn». Det er alt de er. Vi burde sende dem tilbake.» Han brukte ankeretten i en annen sak, der han ble dømt og bøtelagt av kriminalomsorgen for å ha oppfordret til diskriminering og religiøst hat mot det franske muslimske miljøet. Domfellelsen var basert på uttalelser han kom med i et TV-program i 2016 om at muslimer skulle få «valget mellom islam og Frankrike», og at «i tretti år har vi opplevd en invasjon, en kolonisering (...) og en kamp om å islamisere et territorium som normalt sett ikke er et islamsk land.» I desember 2022 fastslo den europeiske menneskerettighetsdomstolen at domfellelsen ikke krenket Zemmours rett til ytringsfrihet.

Selv om innholdet i dette tilfellet ikke eksplisitt nevner Den store utskiftningen, er konseptet sentralt i Zemmours politiske ideologi og sterkt framtredende i presidentkampanjen hans, der han lovet, hvis han ble valgt, å opprette et «remigrasjonsdepartement». Han uttalte også at han ville «sende tilbake en million» utlendinger på fem år. Ifølge uavhengige analyser bestilt av rådet – som ble utført av eksperter innen konspirasjonsteorier og fransk politikk, trender på sosiale medier og lingvistikk – hevder folk som tror på teorien om Den store utskiftningen at hvite europeiske befolkninger bevisst blir erstattet både etnisk og kulturelt gjennom immigrasjon og framveksten av minoritetssamfunn. Teorien sier at moderne immigrasjon av ikke-hvite (og overveiende muslimske) personer fra ikke-europeiske land (for det meste i Afrika og Asia) til Europa er en form for demografisk krigføring. Rådets eksperter understreket at immigrasjon og økningen i immigrasjon ikke er omtvistet. Det konspiratoriske ligger snarere i at Den store utskiftningen er en teori om at det eksisterer et komplott eller en konspirasjon for å lede ikke-hvite inn i Europa for å erstatte eller redusere andelen hvite befolkninger. Språkeksperter rådet har konsultert, forklarte at Den store utskiftningen og begreper knyttet til teorien «oppfordrer til rasisme, hat og vold rettet mot innvandrere og ikke-hvite europeere», og at den «retter seg spesielt mot muslimer». En rapport fra European Unions Radicalization Awareness Network bemerker at den antisemittiske, anti-muslimske og generelt innvandringsfiendtlige holdningen som blir spredt av folk som støtter Den store utskiftningen, har vært grunnlaget når enkeltpersoner har valgt seg ut mål ved flere høyprofilerte angrep i Europa de siste årene. Analysene rådet bestilte, indikerte også at teorien har inspirert utallige voldshendelser rundt om i verden de siste årene, inkludert masseskytingen i Christchurch (New Zealand), der 51 muslimer ble drept.

Et mindretall i rådet anser også at en sentral del av konteksten er de voldelige høyreekstreme demonstrasjonene som har vært på frammarsj i Frankrike det siste året. Etter den dødelige knivstikkingen av en tenåring under en festival i den franske landsbyen Crépol 18. november, ledet aktivister og høyreorienterte partier an i voldelige protester, der demonstranter og politi kom i fysiske sammenstøt. De hevdet at innvandrere og minoriteter var ansvarlige, til tross for at av de ni personene som ble arrestert i forbindelse med knivstikkingen, var åtte franskmenn og én italiener. Innenriksminister Gérald Darmanin uttalte at militsmedlemmer «vil angripe arabere og mennesker med annen hudfarge, og de snakker nostalgisk om Det tredje riket». Den franske politikeren Sandrine Rousseau fra Det grønne partiet sammenlignet disse demonstrasjonene med ratonnader – fysisk vold utført mot en etnisk minoritet eller en sosial gruppe, hovedsakelig mot mennesker av nordafrikansk opprinnelse. Den mest kjente ratonnaden, som ofte er assosiert med populariseringen av begrepet, fant sted 17. oktober 1961 under fredelige demonstrasjoner fra algeriere, der 200 algeriere ble drept under et utbrudd av politivold. Siden den gang har ordet dukket opp gjentatte ganger i forskjellige sammenhenger i Frankrike. I desember 2022 sluttet for eksempel franske politikere seg til brukere av sosiale medier i fordømmelsen av gatevold, der de sammenlignet situasjonen medratonnader, etter VM-kampen mellom Frankrike og Marokko.

3. Tilsynsrådets myndighet og virkeområde

Rådet har myndighet til å omgjøre Metas avgjørelse som følge av en klage fra personen som rapporterte innholdet som ikke ble fjernet (vedtektenes artikkel 2, del 1; artikkel 3, del 1 i vedtektene).

Rådet kan opprettholde eller omgjøre Metas avgjørelse (artikkel 3, del 5 i vedtektene), og rådets avgjørelse er bindende for selskapet (artikkel 4 i vedtektene). Meta må også vurdere hvor gjennomførbart det er å iverksette rådets avgjørelse når det gjelder identisk innhold i tilsvarende sammenhenger (artikkel 4 i vedtektene). Rådets beslutninger kan omfatte ikke-bindende anbefalinger som Meta må svare på (vedtektenes artikkel 3, del 4; artikkel 4). Når Meta forplikter seg til å følge anbefalingene, vil rådet overvåke implementeringen av dem.

4.Ekspertkilder og -veiledning

Følgende standarder og presedenser dannet grunnlag for rådets analyse i denne saken:

I.Tilsynsrådets beslutninger

• Holocaustbenektelse
• Etnisk motivert vold i den indiske delstaten Odisha
• Knin-tegnefilm
• Delt Al Jazeera-innlegg
• Tidligere president Trumps suspensjon
• Avbildning av Zwarte Piet

II.Metas retningslinjer for innhold

Hatefulle ytringer

Begrunnelsen bak retningslinjene i standarden om hatefulle ytringer forklarer at hatefulle ytringer, definert som et direkte angrep mot mennesker på grunnlag av beskyttede egenskaper, ikke er tillatt på plattformen, fordi det «skaper et skremmende og ekskluderende miljø som potensielt også kan medføre vold i den virkelige verden.» Som beskyttede egenskaper lister retningslinjene opp blant annet rase, etnisitet, nasjonal opprinnelse og religiøs tilhørighet. Retningslinjene forklarer at «angrep deles inn i to alvorlighetsgrader», der nivå 1 er mest alvorlig. Begrunnelsen bak standarden om hatefulle ytringer forklarer også at retningslinjene «beskytter flyktninger, immigranter, innvandrere og asylsøkere fra de mest alvorlige angrepene», men at Meta tillater «kommentarer og kritikk av innvandringspolitikk». Metas interne veiledning til innholdsmoderatorene utdyper dette. Her forklarer selskapet at de anser immigranter, innvandrere, flyktninger og asylsøkere som delvis beskyttet. Dette betyr at Meta beskytter dem mot nivå 1-angrep, men ikke fra nivå 2-angrep i henhold til retningslinjene om hatefulle ytringer.

Retningslinjene nevnte tidligere tre forskjellige grader av angrep, men har nå bare to. Disse forbyr for øyeblikket (som et nivå 2-angrep) blant annet innhold som bidrar til «ekskludering eller segregering i form av oppfordringer til handling, erklæringer om intensjon, aspirerende eller betingede ytringer, samt forfektende eller støttende ytringer, definert som [...] eksplisitt ekskludering, noe som betyr for eksempel å vise bort bestemte grupper eller si at de ikke er ønsket.» Meta avslo rådets anmodning om å publisere ytterligere informasjon om selskapets interne veiledning til innholdsmoderatorer på dette punktet.

I et 2017 Newsroom-innlegg med tittelen «Vanskelige spørsmål: Hvem skal avgjøre hva som utgjør hatefulle ytringer i et globalt nettsamfunn?», som det er lenket til nederst i begrunnelsen bak standarden om hatefulle ytringer under «Les mer om vår tilnærming til hatefulle ytringer», anerkjente Meta at politiske debatter om immigrasjon ofte blir «en debatt der det brukes hatefulle ytringer, ettersom begge sider bruker et provoserende språk». Selskapet uttalte at de etter å ha gjennomgått innlegg på Facebook om immigrasjonsdebatten globalt bestemte seg for å «utvikle nye retningslinjer for å fjerne oppfordringer til vold mot immigranter eller dehumaniserende referanser til dem – for eksempel sammenligninger med dyr, møkk eller søppel.» Selskapet lot imidlertid følgende stå: «(...) mulighet til å uttrykke sine synspunkter om selve immigrasjonen», gitt at Meta ønsker å «sørge for at Facebook er et sted for legitim debatt.»

Farlige organisasjoner og personer

Begrunnelsen bak standarden om farlige organisasjoner og personer sier at Meta ikke tillater at organisasjoner eller personer som uttrykket at de er på et voldelig oppdrag eller deltar i vold befinner seg på Metas plattformer. Her forklares det også at Meta vurderer disse enhetene basert på «oppførselen deres både på og utenfor Internett, og mest sentralt er tilknytningen deres til voldshandlinger.»

Standarden om farlige organisasjoner og personer forklarer at Meta forbyr konspirasjonsnettverk som bidrar til voldshandlinger på selskapets plattformer. Dette blir for øyeblikket definert som ikke-statlige aktører som er: (i) «identifisert med et navn, en målsetting, et symbol eller et delt vokabular»; (ii) «deler ubegrunnede teorier der de forsøker å forklare de bakenforliggende årsakene til betydelige sosiale og politiske problemer, hendelser og omstendigheter med påstander om hemmelige planer fra to eller flere mektige aktører»; og (iii) «eksplisitt har tatt til orde for, eller har vært direkte knyttet til, et mønster av fysisk skade utenfor Internett av tilhengere som er motivert av et ønske om å trekke oppmerksomhet mot eller rette opp de angivelige problemene som er angitt i de ubegrunnede teoriene som fremmes av nettverket.»

Rådets analyse av innholdsretningslinjene var også basert på Meta-verdien «stemme», som selskapet beskriver som «overordnet», samt verdiene «sikkerhet» og «verdighet».

III. Metas menneskerettighetsansvar

FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) ble godkjent av FNs menneskerettighetsråd i 2011 og etablerte et frivillig rammeverk for private bedrifters menneskerettighetsansvar. I 2021 publiserte Meta sine bedriftsretningslinjer om menneskerettigheter. Her forpliktet selskapet seg på nytt til å respektere menneskerettighetene i henhold til UNGP-ene. Rådets analyse av Metas menneskerettighetsansvar i denne saken ble basert på følgende internasjonale standarder:

• Retten til ytringsfrihet: Artikkel 19 i Den internasjonale konvensjonen om sivile og politiske rettigheter (ICCPR); artikkel 20, § 2 i ICCPR, generell kommentar 34 fra menneskerettighetskomiteen (2011). Disse rapportene fra FNs spesialrapportør for menings- og ytringsfrihet (UNSR) sier: A/HRC/38/35 (2018) og A/74/486 (2019).
• Likestilling og ikke-diskriminering: Artikkel 2, § 1 og artikkel 26, ICCPR; artikkel 2, Den internasjonale konvensjonen om eliminering av alle former for rasediskriminering (ICERD); FNs generalforsamling, resolusjon A/RES/73/195.
• Retten til liv: Artikkel 6 i ICCPR.

5. Brukeruttalelser

Som en del av anken mot Metas beslutning om å tillate innlegget, mottok rådet en kommentar fra brukeren som rapporterte innholdet. Her sier brukeren at Zemmour forklarer både kolonisering og immigrasjon kun i form av overbefolkning, noe brukeren klassifiserte som «falske nyheter».

6. Metas uttalelser

Etter at rådet valgte denne saken, vurderte Meta innlegget opp mot retningslinjene om hatefulle ytringer sammen med eksperter på temaet og slo fast at den opprinnelige beslutningen om å tillate innholdet var korrekt. Meta oppga ikke ytterligere informasjon om det spesifikke oppdraget eller kunnskapsområdene til ekspertene som hadde foretatt denne gjennomgangen. Meta understreket at for at innhold skal anses som krenkende, krever retningslinjene både at det rettes mot en beskyttet gruppe og utgjør et direkte angrep – og påstandene om befolkningsendringer og kolonisering manglet disse elementene. Meta forklarte at de ikke anser påstanden om at en gruppe «koloniserer» et sted som et angrep i seg selv, så lenge det ikke utgjør en oppfordring om eksklusjon. De understreket at de «ønsker å tillate folk å diskutere lovene og retningslinjene til landet de bor i, så lenge denne diskusjonen ikke utgjør et angrep mot sårbare grupper som lovene kan være rettet mot.» Til slutt forklarte Meta at innholdet ikke identifiserer en beskyttet gruppe, fordi Zemmour refererer til «Afrika», selve kontinentet og landene der, og at «retningslinjene om hatefulle ytringer ikke beskytter land eller institusjoner mot angrep.»

Meta nektet å oppheve konfidensialiteten knyttet til selskapets prosess rundt utviklingen av retningslinjer om skadelige konspirasjonsteorier. Meta uttalte i stedet: «Vi har sett på alternativer som er spesifikke for innhold som diskuterer konspirasjonsteorier som ellers ikke bryter de eksisterende retningslinjene våre. Vi har imidlertid konkludert med at for øyeblikket vil implementering av noen av alternativene potensielt føre til at vi fjerner en betydelig andel politiske ytringer.»

Rådet stilte Meta åtte skriftlige spørsmål. Spørsmålene omhandlet Metas utvikling av retningslinjer i relasjon til Den store utskiftningen; anvendeligheten av ulike retningslinjer om hatefulle ytringer og farlige organisasjoner og personer; og historikken med regelbrudd for den aktuelle Facebook-siden og brukeren. Meta svarte på seks av rådets spørsmål, hvorav to ikke ble besvart tilfredsstillende. Etter at Meta ikke oppga tilstrekkelige detaljer som svar på rådets første spørsmål om utvikling av retningslinjene rundt Den store utskiftningen, stilte rådet et oppfølgingsspørsmål. Da kom Meta med ytterligere, men likevel ikke omfattende nok, informasjon.

7.Offentlige kommentarer

Tilsynsrådet mottok 15 offentlige kommentarer. Sju av kommentarene kom fra USA og Canada, tre fra Europa, to fra Sentral- og Sør-Asia, én fra Midtøsten og Nord-Afrika, én fra Asia og stillehavsregionen med Oseania, og én fra Afrika sør for Sahara. Dette antallet inkluderer offentlige kommentarer som enten var duplikater eller som ble sendt med samtykke til publisering, men uten å oppfylle rådets vilkår for publisering. Offentlige merknader kan sendes til rådet med eller uten samtykke til publisering, og med eller uten samtykke til å dele hvem som har kommentert (dvs. anonymisert).

Kommentarene dekket hovedsakelig to temaer. For det første understreket flere kommentarer at fjerning av innholdet i denne saken ville vært ensbetydende med sensur, og at det til og med kunne «øke sinnet til innbyggere som føler at stemmen deres ikke vil bli hørt» (PC-22009). For det andre sendte to organisasjoner inn kommentarer som understreket den negative effekten denne typen innhold kan ha utenfor Internett, og spesifikt når det gjelder Den store utskiftningen. Begge disse kommentarene hevdet at det er en kobling mellom Christchurch-massakren og teorien (PC-22013, Digital Rights Foundation; PC-22014, Global Project Against Hate and Extremism).

Du kan lese de offentlige kommentarene som er sendt inn angående denne saken ved å klikke her.

8.Tilsynsrådets analyse

Rådet analyserte Metas retningslinjer for innhold og selskapets menneskerettighetsansvar og verdier for å avgjøre om dette innholdet skulle bli fjernet. Rådet vurderte også implikasjonene denne saken kan ha for Metas bredere tilnærming til innholdsstyring.

Rådet valgte denne saken for å se nærmere på Metas tilnærming til innhold som er rettet mot immigranter, spesielt i sammenheng med intensivert retorikk mot innvandring og opphetede offentlige debatter på globalt plan om innvandringspolitikk. Dette gjelder spesielt utfordringene med å skille skadelig innhold på storskalanivå fra politiske ytringer om innvandring.

8.1 Overholdelse av Metas retningslinjer for innhold

Rådet konkluderer med at innholdet ikke bryter Metas retningslinjer. Dermed var Metas beslutning om å tillate innholdet på Facebook riktig. Et mindretall av rådet mener imidlertid at Metas retningslinjer burde skille tydeligere mellom selv den hardeste kritikken av innvandringspolitikk fra ytringer som støtter konspirasjonsteorier som er skadelige for beskyttede grupper.

I.Innholdsregler

Hatefulle ytringer

Rådets flertall konkluderer med at innholdet i denne saken ikke bryter Metas standard om hatefulle ytringer, men reelt sett er et eksempel på en beskyttet, om enn kontroversiell, meningsytring om temaet immigrasjon. Det 50 sekunder lange klippet av Zemmours intervju som ble lagt ut av brukeren, inneholder ingen oppfordringer til vold, og det retter heller ikke dehumaniserende eller hatefulle ytringer mot sårbare grupper. Det at Zemmour tidligere har blitt tiltalt og dømt for bruk av hatefulle ytringer, eller at temaene i innlegget ligner på temaene i Den store utskiftningen – som mange mener har utløst vold mot immigranter og medlemmer av minoritetsgrupper – ikke er en god nok begrunnelse for å fjerne et innlegg som ikke bryter Metas standarder. Retningslinjene krever at to elementer er til stede for at innholdet skal anses som et regelbrudd: (i) et «direkte angrep» og (ii) en «beskyttet gruppe» som det direkte angrepet er rettet mot. Meta definerer «direkte angrep» som blant annet «ekskludering eller segregering i form av oppfordringer til handling», som forklart mer detaljert under punkt 4 ovenfor. Dessuten gjør begrunnelsen bak retningslinjene det klart at Meta tillater «kommentarer om og kritikk av innvandringspolitikk.»

Flertallet mener at Zemmours kommentarer i videoen hovedsakelig fokuserer på angivelig demografisk informasjon som han presenterer om Afrika, Europa og «kolonisering». Videoen inneholder, blant andre påstander, disse uttalelsene: «Så har maktbalansen snudd», og: «Når det nå er fire afrikanere per europeer, hva skjer? Afrika koloniserer Europa, og spesielt Frankrike.» Zemmours kommentarer inneholder ikke noe direkte angrep, og han bruker heller ikke uttrykket «Den store utskiftningen» eller refererer direkte til teorien. Det er ingen eksplisitt oppfordring om å ekskludere en gruppe mennesker fra Europa, og heller ingen uttalelse om afrikanere som er ensbetydende med en skadelig stereotypi, nedsettende bemerkning eller noe annet direkte angrep. Rådet mener imidlertid at det er bekymringsfullt at Meta ikke anser afrikanere som en beskyttet gruppe, gitt at nasjonal opprinnelse, rase og religion er beskyttede egenskaper både i henhold til Metas retningslinjer og internasjonal menneskerettighetslov. Afrikanere blir nevnt gjennom hele innholdet. Afrika består av en rekke nasjoner, og «afrikanere» refererer dermed til personer som er statsborgere i ulike afrikanske land. For det andre, sett opp mot Zemmours tidligere kommentarer og diskusjoner om immigrasjon i Frankrike, tjener begrepet «afrikanere» som en samlebetegnelse for alle ikke-hvite afrikanere, spesielt svarte og muslimske afrikanere.

Farlige organisasjoner og personer

Flertallet av rådet konkluderer også med at innholdet ikke bryter Metas retningslinjer om farlige organisasjoner og personer, gitt at det mangler elementer som kreves for å anse dette bestemte innholdet som en del av et bredere voldsfremmende konspirasjonsnettverk.

Som forklart under punkt 6 ovenfor, vurderte Meta alternativer i retningslinjene som er spesifikke for innhold som diskuterer konspirasjonsteorier som ellers ikke bryter med noen retningslinjer. De konkluderte imidlertid med at implementering av slike alternativer potensielt ville kunne føre til at de fjerner et betydelig antall politiske ytringer. Rådet uttrykker bekymring over mangelen på informasjon fra Meta som svar på rådets spørsmål om denne prosessen. Rådet bemerker at selskapet ikke oppga noen spesifikk informasjon om analysene de utførte, informasjonen de innhentet, omfanget av analysene, typer eksperter som ble konsultert eller de ulike alternativene de analyserte. Rådet er også bekymret over at Meta valgte å ikke dele informasjon om prosessen med utvikling av retningslinjer og utfallet av den med offentligheten.

Et mindretall av rådet kommenterte at til tross for at innholdet implisitt retter seg mot flere overlappende beskyttede grupper (svarte, arabere og muslimer), forbyr ikke reglene i Metas retningslinjer om hatefulle ytringer og farlige organisasjoner og personer, slik disse er formulert i dag, innhold som dette. At innlegget bare gjentar de mer «spiselige» delene av Den store utskiftningen, er imidlertid ikke avgjørende, mener de. I avgjørelsen i saken «Tidligere president Trumps suspensjon» framhevet rådet at Meta «må evaluere innlegg fra innflytelsesrike brukere i kontekst, avhengig av måten det er sannsynlig at de blir forstått på, selv om det ladede budskapet er skjult i språk som er utformet for å unngå å bli holdt til ansvar.»

Ikke desto mindre, som nærmere forklart under punkt 8.3, mener et mindretall av rådet at Metas tilnærming til innhold som sprer skadelige konspirasjonsteorier, slik som Den store utskiftningen, ikke samsvarer med målene med de ulike retningslinjene selskapet har utformet. Det er blant annet et mål å forhindre at det skapes et miljø med trusler og ekskludering som påvirker beskyttede minoriteter og kan gi skadevirkninger både på Internett og fysisk. Selv om dette mindretallet er sterkt enige i at Metas retningslinjer bør tillate kritikk og diskusjoner av alle spørsmål (som immigrasjon) som er relevante i demokratiske samfunn, bør de også etablere klare grenser for å forhindre spredning av implisitte eller eksplisitte angrep mot sårbare grupper. De må ta hensyn til de potensielle fysiske skadevirkningene fra bestemte konspirasjonsteorier, slik som Den store utskiftningen.

II. Åpenhet

Meta deler til en viss grad hvordan de håndterer innhold relatert til immigrasjon i åpenhetssenteret under standarden om hatefulle ytringer, der de forklarer at flyktninger, immigranter, innvandrere og asylsøkere er beskyttet mot de mest alvorlige angrepene. I Newsroom-innlegg fra 2017, som det er lenket til fra begrunnelsen bak retningslinjene om hatefulle ytringer, kommer Meta med noen flere detaljer. Selskapet forklarer imidlertid ikke eksplisitt hvordan de håndterer innhold relatert til Den store utskiftningen. 2017-innlegget inneholder informasjon som er relevant for temaet, men ble ikke oppdatert i prosessen med utvikling av retningslinjer fra 2021, som er nevnt under punkt 6 ovenfor. Meta forklarer heller ikke eksplisitt i sine offentlige retningslinjer at oppfordringer til eksklusjon er tillatt i sammenheng med diskusjoner om innvandring. Det er heller ikke klart hvordan implisitte eller tilslørte angrep blir håndtert i slike kontekster.

8.2 Overholdelse av Metas menneskerettighetsansvar

Flertallet i rådet mener at det er i samsvar med Metas menneskerettighetsansvar å tillate innholdet. Et mindretall mener at selskapets menneskerettighetsansvar innebærer at Meta må omformulere retningslinjene sine, slik at tjenestene deres ikke blir misbrukt av folk som deler konspirasjonsteorier som kan forårsake skader på og utenfor nettet.

Ytringsfrihet (artikkel 19 ICCPR)

Artikkel 19 i ICCPR gir bred beskyttelse av retten til ytringsfrihet, inkludert «frihet til å søke, motta og formidle informasjon og ideer av alle slag», inkludert «politisk diskurs» og kommentarer om «offentlige anliggender» (generell kommentar 34, § 11). Menneskerettighetskomiteen har uttalt at omfanget av denne rettigheten også omfatter «ytringer som kan anses som dypt støtende, selv om slike ytringer kan begrenses i samsvar med bestemmelsene i artikkel 19, § 3 og artikkel 20» for å beskytte andres rettigheter eller omdømme, eller for å forby oppfordringer til diskriminering, fiendtlighet eller vold (generell kommentar 34, § 11).

I forbindelse med offentlige debatter om immigrasjon, understreket FNs generalforsamling sin forpliktelse til å «beskytte ytringsfriheten i samsvar med folkeretten, og erkjenner at en åpen og fri debatt bidrar til en helhetlig forståelse av alle aspekter ved immigrasjon.» De forpliktet seg videre til å «fremme en åpen og evidensbasert offentlig diskurs om immigrasjon og immigranter, i partnerskap med alle deler av samfunnet, som bidrar til mer realistiske, humane og konstruktive perspektiver», (A/RES/73/ 195, § 33). Innvandring og retningslinjer relatert til dette – et svært omstridt og relevant tema for politiske prosesser, ikke bare i Frankrike, men på globalt nivå – er legitimt å diskutere på Metas plattformer. For flertallet – gitt de potensielle implikasjonene for den offentlige debatten – ville det å forby denne typen ytringer på Metas plattformer være et klart brudd på ytringsfriheten og sette en farlig presedens. Et mindretall i rådet mener at det nettopp er fordi åpne og evidensbaserte diskusjoner om innvandring er så relevante for et demokratisk samfunn at spredningen av konspirasjonsteorier som Den store utskiftningen på sosiale medieplattformer kan være så skadelig. Som rapportert av Institute for Strategic Dialogue, omfatter metodene som brukes for å kringkaste teorien «dehumaniserende rasistiske memer, forvrengning og uriktig framstilling av demografiske data og bruk av avkreftet vitenskap».

Når restriksjoner av ytringer pålegges av en stat, skal de oppfylle kravene til legalitet, legitimt formål, nødvendighet og proporsjonalitet (artikkel 19, § 3 i ICCPR). Disse kravene blir ofte referert til som en «tredelt test.» Rådet bruker dette rammeverket til å tolke Metas frivillige menneskerettighetsforpliktelser, både når det gjelder den enkelte innholdsbeslutningen som vurderes og hva denne sier om Metas bredere tilnærming til innholdskontroll. Som FNs spesialrapportør for ytringsfrihet har uttalt: Selv om «selskaper ikke har samme forpliktelser som offentlige myndigheter, har de en påvirkningskraft som krever at de foretar vurderinger for å beskytte brukernes ytringsfrihet» (A/74/486, § 41).

I. Legalitet (tydelige og tilgjengelige regler)

Legalitetsprinsippet krever at regler som begrenser ytringsfriheten skal være tilgjengelige og klare. De skal være formulert med tilstrekkelig presisjon til at enhver person kan regulere atferden sin i henhold til dem (jamfør generell kommentar 34, § 25). Disse reglene kan dessuten ikke «være underlagt skjønnet til den som skal begrense ytringsfriheten» og må «gi tilstrekkelig veiledning til de som blir gjenstand for [begrensingene] for å gjøre dem i stand til å fastslå hva slags ytringer som er ulovlige og hvilke som ikke er det» (samme kilde). Anvendt på reglene som regulerer ytringsfrihet på Internett, har FNs spesialrapportør for ytringsfrihet uttalt at de skal være klare og spesifikke (A/HRC/38/35, § 46). Personer som bruker Metas plattformer må få tilgang til reglene og kunne forstå dem, og innholdsmoderatorene skal ha klare retningslinjer for å kunne håndheve dem.

Ingen av Metas gjeldende retningslinjer forbyr «spesifikt og tydelig» innholdet i denne saken. Flertallet av rådet mener at for en vanlig bruker vil det å lese standarden om hatefulle ytringer, eller å lese Metas «Vanskelige spørsmål»-blogginnlegg fra 2017 (lenket til fra standarden), sannsynligvis gi inntrykk av at bare de mest alvorlige angrepene mot innvandrere og flyktninger vil bli fjernet, ettersom Meta tydelig indikerer at de ønsker å tillate kommentarer og kritikk av innvandringspolitikk på plattformene. Flertallet i rådet mener at denne forpliktelsen er i tråd med Metas menneskerettighetsansvar. Mindretallet poengterer at retningslinjene om hatefulle ytringer tar sikte på å forhindre at det skapes et miljø med ekskludering eller segregering, noe hatefulle konspirasjonsteorier som Den store utskiftningen bidrar til. Gitt at innhold som sprer slike teorier vanligvis retter seg mot sårbare grupper og minoritetsgrupper og utgjør et angrep på verdigheten deres, burde vanlige brukere kunne forvente å bli beskyttet mot denne typen innhold gjennom Metas retningslinjer om hatefulle ytringer.

Metas gjeldende retningslinjer om farlige organisasjoner og personer har ingen bestemmelser som forbyr innholdet i denne saken. Selv om Meta spesifikt og tydelig har forbudt innhold som støtter Den store utskiftningen på plattformene sine, mener flertallet at innholdet i denne saken ikke går så langt som å navngi teorien eller utdype elementer av den på en måte som kan anses som konspiratorisk og skadelig. Innlegget påstår ikke at strømmen av spesifikke immigrantgrupper til Europa er en del av et hemmelig komplott som involverer aktører med skjulte agendaer.

II.Legitime mål

Enhver begrensning av ytringsfriheten skal også oppfylle minst ett av de legitime målene som er oppført i ICCPR, som inkluderer å beskytte «andres rettigheter». «Begrepet "rettigheter" inkluderer menneskerettigheter slik de er anerkjent i konvensjonen, og mer generelt i internasjonal menneskerettighetslov» (generell kommentar 34, § 28).

I flere avgjørelser har rådet funnet ut at Metas retningslinjer om hatefulle ytringer, som tar sikte på å beskytte mennesker mot skade forårsaket av hatefulle ytringer, har et legitimt mål som er anerkjent av internasjonale menneskerettighetslover (se avgjørelsen i saken «Knin-tegnefilm»). De beskytter retten til liv (artikkel 6, § 1 i ICCPR) samt rettighetene til likhet og ikke-diskriminering, inkludert basert på rase, etnisitet og nasjonal opprinnelse (artikkel 2, § 1 i ICCPR; artikkel 2, ICERD). Rådet har også tidligere konkludert med at Metas retningslinjer om farlige organisasjoner og personer har som målsetting å forhindre og forebygge skader i den virkelige verden, ut fra et legitimt mål om å beskytte andres rettigheter (se avgjørelsen i saken «Delt Al Jazeera-innlegg»). Rådet har på sin side gjentatte ganger bemerket at det ikke er et legitimt mål å begrense ytringsfriheten utelukkende med det formål å beskytte personer mot krenkelser (se saken «Avbildning av Zwarte Piet», som siterer FNs spesialrapportør for ytringsfrihet i rapport A/74/486, § 24, og også saken «Tidligere president Trumps suspensjon»), ettersom internasjonal menneskerettighetslov legger stor vekt på verdien av uhindrede ytringer (generell kommentar 34, § 38).

III. Nødvendighet og proporsjonalitet

Prinsippet om nødvendighet og proporsjonalitet krever at alle begrensninger av ytringsfriheten «må være hensiktsmessige for å oppnå sin beskyttende funksjon. De må være de minst inngripende virkemidlene blant de som kan oppnå den beskyttende funksjon, og de må være proporsjonale med interessen som skal beskyttes» (generell kommentar 34, § 34). Naturen og rekkevidden til tiltak som er tilgjengelige for et selskap som Meta, er annerledes enn dem for en stat, og de representerer ofte mindre alvorlige brudd på folks rettigheter enn for eksempel strafferettslige sanksjoner. Sosiale medieselskaper bør, som en del av menneskerettighetsansvaret sitt, vurdere ulike potensielle reaksjoner på problematisk innhold, ikke bare sletting, for å sikre at restriksjonene er konkrete og mest mulig skreddersydde (A/74/486 § 51).

Når rådet analyserer risikoen ved potensielt voldelig innhold, lar de seg veilede av den seksdelte testen som er beskrevet i Rabat-handlingsplanen, som tar for seg oppfordring til diskriminering, fiendtlighet eller vold (OHCHR, A/HRC/22/17/Add. 4, 2013). Testen vurderer kontekst, hvem taleren er, hensikt, innhold, format, omfanget ytringen har blitt spredt i og sannsynligheten for overhengende fare.

For flertallet av rådet er fjerning av innholdet i denne saken hverken nødvendig eller forholdsmessig. Rabat-testen understreker at innholdet og formen for ytring er «et kritisk element» når det gjelder oppvigleri. I innholdet som vurderes i denne saken, nevner ikke Zemmour i det 50 sekunder lange klippet som ble lagt ut av brukeren direkte de konspiratoriske elementene i Den store utskiftningen. Videoen inneholder heller ikke elementer som er egnet til å oppvigle, som for eksempel voldelige eller provoserende bilder. Kommentarene og bildeteksten inneholder heller ingen direkte oppfordringer til vold eller ekskludering. Flertallet mener det vil krenke ytringsfriheten å utelukke politisk kontroversielt innhold på bakgrunn av uttalelser taleren har kommet med i andre sammenhenger. Flertallet anser at tallene som Zemmour gjengir bare i en viss grad er overdrevne. Flertallet bemerker også at hovedtemaet for Zemmours uttalelser i videoen er immigrasjon – kanskje en av vår tids mest framtredende politiske saker.

For mindretallet av rådets medlemmer bryter ikke innholdet i denne saken Metas gjeldende retningslinjer (se punkt 8.1). Imidlertid har selskapet utformet et sett med retningslinjer som tar sikte på å forebygge et miljø med ekskludering og trusler som ikke bare påvirker beskyttede minoriteter på nettet (noe som påvirker stemmene til ekskluderte grupper), men også utenfor. Under disse retningslinjene modereres innhold som er antisemittisk eller støtter hvitt overherredømme, samt innhold fra voldsfremmende konspirasjonsnettverk. Det er i tråd med Metas menneskerettighetsansvar å fjerne slikt innhold. Som forklart i punkt 2 ovenfor, argumenterer Den store utskiftningen for at det finnes en bevisst plan for å erstatte hvite befolkninger i Europa med immigranter, hovedsakelig fra Afrika og Asia. Spredningen av Den store utskiftningen-teorien har bidratt til rasisme, hat og vold rettet mot innvandrere, ikke-hvite europeere og muslimer. Et mindretall av rådet understreker at det ikke bare er en abstrakt idé eller en kontroversiell mening, men en typisk konspirasjonsteori som fører til skader på og utenfor nettet. Den bidrar utvilsomt til å skape en atmosfære av ekskludering og trusler mot visse minoriteter. Beviset på skadevirkninger fra den samlede eller kumulative, skalerte og raske sirkulasjonen av antisemittisk innhold på Metas plattformer, som diskutert i saken «Holocaust-benektelse», ligner på bevisene på skadevirkningene av Den store utskiftningen-teorien, som angitt under punkt 2. Av disse grunner mener et mindretall at det er i strid med prinsippet om ikke-diskriminering og Meta-verdiene sikkerhet og verdighet at selskapet har besluttet å beskytte noen truede minoritetsgrupper mot eksklusjon og diskriminering forårsaket av konspiratoriske historier, samtidig som andre i en lignende situasjon forblir ubeskyttet. Et mindretall i rådet fant ingen tvingende grunn til å skille Metas tilnærming til Den store utskiftningen fra selskapets tilnærming til andre konspiratoriske historier som er nevnt ovenfor, som Meta modererer i tråd med menneskerettighetsansvaret sitt.

Relatert til det ovenstående, mener et mindretall av rådet at den største utfordringen som sosiale medieselskaper står overfor, ikke handler om individuelt innhold, men om en akkumulering av skadelig innhold som deles i stor skala og i høy hastighet. Rådet har forklart at «moderering av innhold for å håndtere de kumulative skadevirkningene av hatefulle ytringer – også der ytringen ikke direkte oppfordrer til vold eller diskriminering – er i samsvar med Metas menneskerettighetsansvar under gitte omstendigheter» (se sakene «Avbildning av Zwarte Piet» og «Etnisk motivert vold i den indiske delstaten Odisha»). I 2022 uttrykte CERD sin bekymring «over hvor utbredt den rasistiske og diskriminerende diskursen er [i Frankrike], spesielt i media og på Internett.» For et mindretall skaper akkumuleringen av Den store utskiftningen-relatert innhold «et miljø der det er mer sannsynlig at voldshandlinger tolereres og kan medføre økt diskriminering i samfunnet ellers» (se avgjørelsen i sakene «Avbildning av Zwarte Piet» og «Etnisk motivert vold i den indiske delstaten Odisha»). Et mindretall trekker fram at i henhold til UNGP-ene skal selskaper «følge ekstra nøye med på bestemte påvirkninger på menneskerettighetene for enkeltpersoner fra grupper eller befolkninger som kan ha økt risiko for sårbarhet eller marginalisering» (UNGP-prinsipp 18 og 20). Som nevnt i punkt 2 ovenfor, er de viktigste ofrene for rasisme i Frankrike innvandrere, spesielt de av afrikansk opprinnelse og deres etterkommere. I et intervju fra 2023 uttalte generaldirektøren for intern sikkerhet i Frankrike at ekstremistgrupper, inkludert de som mener det må iverksettes tiltak for å stoppe «Den store utskiftningen», representerer en alvorlig trussel i landet.

Selv om Meta mener at moderering av innhold relatert til konspirasjonsteorier gjør at selskapet risikerer å fjerne «et uakseptabelt antall politiske ytringer», bemerker et mindretall i rådet at selskapet ikke har kommet med noen bevis eller data som støtter denne påstanden. Dessuten har ikke Meta forklart hvorfor dette er tilfellet med innhold som gjelder Den store utskiftningen, men ikke for eksempel innhold om hvitt overherredømme eller antisemittisme, siden disse også kan forstås som spredning av konspirasjonsteorier. Gitt grunnene ovenfor, mener mindretallet at Meta må gjennomgå retningslinjene sine for å håndtere innhold som støtter Den store utskiftningen-teorien, med mindre selskapet har tilstrekkelig bevis (i) som kan utelukke at spredningen av denne typen innhold kan forårsake skade, som diskutert i denne avgjørelsen; eller (ii) kan demonstrere at virkningen av å moderere denne typen politiske ytringer ville vært en uforholdsmessig inngripen i ytringsfriheten. En forholdsmessig respons kunne vært, blant andre alternativer, at Meta oppretter eskaleringsretningslinjer om å tillate fjerning av innhold som åpent uttrykker støtte til Den store utskiftningen. Dette vil ikke påvirke beskyttede politiske ytringer. De kan også spesifisere aktører som eksplisitt støtter Den store utskiftningen-teorien til å være en del av et voldsfremmende konspirasjonsnettverk i selskapets retningslinjer om farlige organisasjoner og personer.

Flertallet er skeptiske til at det kan utarbeides retningslinjer der dette innholdet er et regelbrudd og samtidig tilfredsstiller kravene til legalitet, nødvendighet og proporsjonalitet, spesielt gitt at man ikke finner uttrykket «Den store utskiftningen» eller varianter av dette i innholdet. Et forsøk på å fjerne slikt innhold, selv som en kodet referanse, vil resultere i fjerning av betydelige mengder beskyttede politiske ytringer. Innhold som er beskyttet skal ikke «dømmes ved assosiasjon», enten på grunn av talerens identitet eller likheten med hatefulle ideologier.

9. Tilsynsrådets vedtak

Tilsynsrådet opprettholder Metas beslutning om å la innholdet bli liggende ute.

10. Anbefalinger

Åpenhet

1. Meta bør oppgi flere detaljer i standarden om hatefulle ytringer rundt hvordan de skiller diskusjoner om innvandring fra skadelige ytringer rettet mot mennesker basert på statusen deres som immigrant. Dette omfatter å forklare hvordan selskapet håndterer innhold som sprer hatefulle konspirasjonsteorier. Dette er nødvendig for at brukerne skal forstå hvordan Meta beskytter politiske ytringer om immigrasjon og samtidig håndterer potensielle skader utenfor nettet som skyldes hatefulle konspirasjonsteorier.

Rådet vil anse dette som implementert når Meta publiserer en oppdatering som forklarer hvordan de tilnærmer seg Den store utskiftningen-teorien i sammenheng med immigrasjonsdebatten og lenker tydelig til oppdateringen i åpenhetssenteret.

*Prosedyremerknad:

Tilsynsrådets avgjørelser utarbeides av et panel på fem medlemmer og godkjennes av rådets flertall. Rådets avgjørelser gjenspeiler ikke nødvendigvis alle medlemmenes personlige meninger.

I denne konkrete saken ble det bestilt uavhengige undersøkelser på vegne av rådet. Rådet ble også assistert av Duco Advisors, et rådgivningsfirma som fokuserer på skjæringspunktet mellom geopolitikk, tillit, sikkerhet og teknologi. Memetica, en organisasjon som driver med åpen kildekodeforskning på trender på sosiale medier, leverte også analyser. Lingvistisk ekspertise ble levert av Lionbridge Technologies, LLC, som har spesialister som behersker mer enn 350 språk flytende og jobber fra 5000 byer over hele verden.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة