Referera till utpekat farliga individer som ”shaheed”

Sammanfattning

Rådet anser att Metas moderering av innehåll där termen ”shaheed” används för att referera till utpekat farliga individer på ett betydande och oproportionerligt sätt begränsar yttrandefriheten. Meta tolkar all användning av termen ”shaheed” som referens till utpekat farliga individer som en regelöverträdelse och tar bort innehållet. Enligt Meta står termen ”shaheed” troligen för fler borttagningar enligt communityreglerna än något annat enskilt ord eller någon annan fras. Terrorism har allvarliga konsekvenser, sådana handlingar förstör oskyldiga människors liv, begränsar de mänskliga rättigheterna och hotar själva grundvalen till våra samhällen. Begränsningar av yttrandefriheten i syfte att skydda mot sådant våld måste dock vara nödvändiga och proportionerliga. Om innehåll tas bort av fel skäl kan det vara ineffektivt eller till och med få motsatt effekt.

Rådet bygger sina rekommendationer på hur viktigt det är att Meta förhindrar att företagets plattformar används till att uppvigla till våldshandlingar eller rekrytera människor som ska utföra dem. Extremister använder ibland ordet ”shaheed” i syfte att hylla eller förhärliga människor som dött medan de utfört våldsamma terroristhandlingar. Ledstjärnan i hur Meta hanterar det här hotet måste dock vara respekten för alla mänskliga rättigheter, även yttrandefriheten.

Den 7 oktober 2023, samtidigt som rådet jobbade med att sammanställa det här rådgivande policyyttrandet, inledde Hamas (en nivå 1-klassad organisation enligt Metas policy om farliga organisationer och individer) en terrorattack med aldrig tidigare skådad omfattning mot Israel. Uppskattningsvis 1 200 människor dog i attacken och cirka 240 personer togs som gisslan (källa: Israels utrikesministerium). Enligt nyhetsläget den 6 februari 2024 tros minst 30 personer av de 136 gisslan som Hamas höll i fångenskap i början av januari ha dött. Meta betecknade omedelbart de här händelserna som en terrorattack enligt företagets policy om farliga organisationer och individer. Israel svarade snabbt på angreppet genom att inleda en militär operation. Fler än 30 000 personer har dött i den militära operationen i Gaza fram till den 4 mars (FN:s kontor för samordning av humanitära frågor, baserat på uppgifter från Gazas hälsovårdsmyndighet). Enligt rapporter i januari uppskattades 70 % av de döda vara kvinnor och barn.

Som ett resultat av de här händelserna pausade rådet publiceringen av detta rådgivande policyyttrande, så att rekommendationerna även skulle beakta hur Metas plattformar och ordet ”shaheed” används i sammanhanget. Den fortsatta forskningen bekräftade rådets rekommendation till Meta gällande modereringen av ordet ”shaheed”, även givet den extrema stress som uppstår under den här typen av händelser. Rekommendationerna skulle stärka Metas respekt för samtliga mänskliga rättigheter i krissituationer. Samtidigt vill rådet betona att Metas policyer på området är globala och får effekter långt bortom den aktuella konflikten. Utan att underskatta betydelsen av det som händer i Israel och Palestina just nu så ska rådets rekommendationer gälla globalt och inte vara begränsade till någon viss kontext.

Rådet anser att Metas moderering av ordet ”shaheed” är för generell och begränsar såväl yttrandefriheten som det offentliga samtalet oproportionerligt mycket. Det här kan till exempel leda till att inlägg som rapporterar om våld och utpekat farliga entiteter tas bort av fel skäl. Metas hantering tar inte heller hänsyn till att ordet ”shaheed” kan betyda olika saker, och att många betydelser inte syftar till att glorifiera eller uttrycka medhåll. Allt för många som talar arabiska och andra språk (varav många är muslimer) får sina inlägg borttagna, trots att borttagningen inte kan motiveras enligt syftet med policyn om farliga organisationer och individer. Enligt Metas policyer är det dessutom förbjudet att exempelvis glorifiera, stötta eller representera utpekat farliga individer, organisationer och händelser, samt att uppvigla till våld. När de här policyerna tillämpas korrekt minskar de farorna med att terrorister använder Metas plattformar. Rådet rekommenderar därför att Meta upphäver sitt generella förbud av termen ”shaheed” när den refererar till utpekat farliga individer och modifierar sin policy så att innehållet där ordet förekommer analyseras mot den aktuella kontexten.

Bakgrund

I februari 2023 frågade Meta rådet om företaget skulle fortsätta ta bort innehåll där den arabiska termen ”shaheed”, eller شهيد med arabiska tecken, används för att referera till personer som omfattas av policyn om farliga organisationer och individer. ”Shaheed” är också ett låneord (vilket innebär att många andra språk än arabiska har ”lånat” den här arabiska termen, och ibland anpassat dess stavning).

Meta beskriver ordet ”shaheed” som hedrande, och menar att många samhällen med olika kultur, religion och språk använder termen för personer som plötsligt gått bort, antingen oväntat som i en olycka eller ärofullt som i ett krig. Företaget är medvetet om att termen har olika betydelser, och även om det inte finns någon direkt motsvarighet på engelska så är den vanligaste översättningen ”martyr”. Meta noterade att det engelska ordet martyr avser en person som har lidit eller dött för en rättfärdig sak, och att ordet normalt har positiva konnotationer, och att företaget därför har kategoriserat termen [”shaheed”] som hyllande enligt policyn om farliga organisationer och individer.

Metas antagande att hänvisningar till personer som omfattas av den här policyn alltid är hyllande ledde till det generella förbud som råder. Meta har erkänt att termens olika betydelser kan ha lett till att företaget har tillämpat policyn för strikt i sammanhang där syftet inte är att hylla en farlig organisation eller individ, i synnerhet bland användare som talar arabiska. Dessutom tillämpar inte Meta några undantag till policyn om farliga organisationer och individer som tillåter att ”shaheed” används i syfte att rapportera om, fördöma eller neutralt diskutera utpekat farliga entiteter. Det här gäller även i den senaste uppdateringen av policyn från december 2023, som nu förbjuder förhärligande och otydliga referenser snarare än hyllningar (praise), en formulering som tagits bort helt.

2020 inledde Meta en process för att utveckla policyn och ompröva hanteringen av ”shaheed” sett till de här betänkligheterna. Företaget nådde dock ingen ny konsensus och kunde inte fastställa några nya riktlinjer.

När Meta bad om detta rådgivande policyyttrande presenterade företaget tre tänkbara policyalternativ för rådet:

1. Bibehåll status quo.
2. Tillåt att ”shaheed” används om utpekat farliga individer i inlägg som omfattas av undantaget till förbudet mot hyllningar, till exempel i inlägg som rapporterar om, diskuterar neutralt eller fördömer individerna) så länge det inte förekommer andra hyllningar eller signaler om våld. Meta föreslog en del exempel på sådana signaler, som bilder på vapen samt referenser till militärt språk och faktiska våldshandlingar.
3. Tillåt att ”shaheed” används om utpekat farliga individer så länge det inte förekommer andra hyllningar eller signaler om våld. Det skulle gälla oavsett om innehållet omfattas av något av undantagen ovan, till skillnad från det andra alternativet.

Rådet övervägde även andra alternativa policyer. Rådets rekommendationer ligger nära det tredje alternativet, av skäl som tydliggörs genom hela detta rådgivande policyyttrande, även om rådet anger färre signaler om våld än i Metas förslag och dessutom inför ett krav på bredare policyundantag gällande innehåll som rapporterar om, neutralt diskuterar eller fördömer farliga entiteter och deras handlingar.

Slutsatser och rekommendationer

Rådet anser att Metas nuvarande hantering av termen ”shaheed” i samband med utpekat farliga individer är för generell och begränsar yttrandefriheten på ett betydande och oproportionerligt sätt.

”Shaheed” är en term med kulturell och religiös betydelse. Den används ibland i syfte att hylla personer som begår våldshandlingar, och kan även glorifiera sådana personer. Ofta används den dock även för att referera till farliga individer i rapportering och neutrala kommentarer, akademiska diskussioner, debatter om mänskliga rättigheter och andra passiva sammanhang. Bland annat används ofta ”shaheed” om personer som dör i sitt lands tjänst, eller som oväntat omkommer i samband med sociopolitiskt våld eller olyckor. I vissa muslimska samhällen används det till och med som förnamn och efternamn. Det finns goda skäl att tro att de många olika betydelserna av ”shaheed” har lett till borttagning av stora mängder material vars syfte inte varit att hylla terrorister eller deras våldshandlingar.

När Meta tar bort innehåll enbart på grund av att ”shaheed” används om utpekat farliga individer, och då enbart tolkar ordet som motsvarighet till det engelska ordet martyr, bortser företaget medvetet från ordets lingvistiska komplexitet och många betydelser. Den här hanteringen påverkar yttrandefriheten och mediefriheten betydligt, begränsar det offentliga samtalet och får allvarliga negativa konsekvenser gällande jämställdhet och diskriminering. Den allt för strikta verkställigheten har en oproportionerligt stor inverkan på de som talar arabiska och andra språk där ”shaheed” är ett låneord. Meta skulle kunna välja att implementera sinpolicy om farliga organisationer och individer på andra sätt, som fortfarande främjar företagets värderingar kring säkerhet och att hålla material som förhärligar terrorister borta från plattformarna. Den nuvarande policyn är därför inte proportionerlig och nödvändig.

Rådet lämnar följande rekommendationer, som syftar till att anpassa Metas hantering av termen ”shaheed” till företagets standarder gällande mänskliga rättigheter (den fullständiga texten står i avsnitt 6):

1. Meta bör sluta förutsätta att ordet ”shaheed” alltid bryter mot reglerna och att det aldrig kan omfattas av policyundantag när det används om individer eller medlemmar i utpekat farliga organisationer. Innehåll där farliga individer benämns som ”shaheed” bör endast tas bort enligt bestämmelsen om otydlig referens i två situationer. För det första när en eller fler av tre signaler om våld förekommer: en bild av ett vapen, en avsiktsförklaring eller uppmaning att använda eller bära vapen eller en referens till en händelse som omfattas av policyn. För det andra när innehållet på annat sätt bryter mot Metas policyer (till exempel gällande glorifiering eller att referensen till den utpekat farliga individen är otydlig på fler sätt än i samband med användningen av ”shaheed”). I båda situationerna bör innehållet fortfarande kunna utvärderas mot undantaget om rapportering, neutral diskussion och fördömande.

2. Meta bör förtydliga förbudet mot otydliga referenser med ett antal exempel på innehåll som bryter mot reglerna, bland annat ett inlägg där ”shaheed” används om en utpekat farlig individ tillsammans med en eller fler av de tre signaler om våld som anges i rekommendation 1.

3. Metas interna policyriktlinjer bör också uppdateras så att det blir tydligt att ”shaheed” får användas om utpekat farliga individer förutom när det även förekommer signaler om våld, och att innehållet kan omfattas av undantaget om rapportering, neutral diskussion och fördömande även när det förekommer sådana signaler.

Om Meta godtar och implementerar de här rekommendationerna skulle företaget enligt gällande regelverk fortsätta att ta bort innehåll som glorifierar utpekat farliga individer, som karaktäriserar deras våld och hat som bedrifter, som legitimerar eller försvarar våldet och hatet eller som uttrycker stöd för en utpekat farlig entitet. Rådets förslag utifrån de här rekommendationerna är att Meta slutar att alltid tolka ”shaheed” som ett regelbrott när det används om en utpekat farlig individ, och endast tar bort innehållet när det även bryter mot andra policyer (exempelvis glorifiering) eller är en otydlig referens på grund av signaler om våld. Sådant innehåll skulle fortfarande behöva omfattas av policyundantaget om rapportering, neutral diskussion och fördömande av utpekat farliga individer.

Rådet rekommenderar också att Meta:

4. Ger en mer utförlig förklaring av proceduren som används för att klassificera entiteter och händelser inom ramen för policyn om farliga organisationer och individer, så att listan blir mer transparent. Meta bör även publicera sammanställd information om antalet entiteter på listans olika nivåer, samt hur många entiteter som lagts till och tagits bort under föregående år.

5. Implementerar en tydlig och effektiv process för att granska beteckningarna regelbundet och ta bort entiteter som inte längre uppfyller de publicerade kriterierna, så att listan med utpekat farliga organisationer och individer hålls aktuell och inte innehåller organisationer, individer och händelser som Meta inte längre betecknar som farliga.

6. Förklarar vilka metoder som används till att kontrollera den manuella granskningen och de automatiserade systemens resultat när det gäller verkställigheten av policyn om farliga organisationer och individer. Meta bör även regelbundet publicera resultat från utvärderingar av hur klassificerarna som används i verkställigheten fungerar, på ett sätt som kan jämföras mellan olika språk och regioner.

7. Tydligt förklarar hur klassificerarna används till att generera förutsägelser av policyöverträdelser och hur Meta ställer in tröskelvärden för att antingen inte vidta någon åtgärd, skicka innehållet för manuell granskning eller ta bort innehållet. Informationen bör göras tillgänglig för intressenter i Transparenscenter.

Hela det rådgivande policyyttrandet

1. Metas förfrågan

I. Förfrågan om ett rådgivande policyyttrande

1. I sin förfrågan (tillgänglig på engelska och arabiska) ställer Meta en fråga till rådet om huruvida företaget ska fortsätta ta bort innehåll där ”shaheed” (شهيد) (i singular/plural, inklusive låneord och varianter på arabiska och andra språk) används om utpekat farliga individer enligt policyn om farliga individer och organisationer, eller om ett annat tillvägagångssätt skulle stämma bättre överens med Metas värderingar och ansvar för de mänskliga rättigheterna. Meta ville också ha råd kring liknande problem med innehåll som kan uppstå i framtiden.

II. Metas hållning

2. Tidigare förbjöd Metas policy om farliga organisationer och individer innehåll som hyllar, ger omfattande stöd till eller representerar utpekat farliga entiteter och individer samt våldsamma händelser som bryter mot reglerna. den 29 december 2023 uppdaterade Meta den här policyn och tog bort förbudet mot att hylla, och lade samtidigt till förbud mot glorifiering och otydliga referenser. Rådet valde att även utvärdera hur de här policyändringarna skulle kunna påverka rådets slutsatser och rekommendationer.

3. Förfrågan om ett rådgivande policyyttrande gällde förbudet att hylla utpekat farliga individer, inte de parallella förbuden mot att ge stöd till eller representera sådana individer. I jämförelse med representation och betydande stöd ansåg Meta att den minst allvarliga överträdelsen var att hylla. Meta använder nivå 1 för de farligaste entiteterna som terrorister, extremistorganisationer och kriminella gäng. När Meta klassificerar något som en våldsam händelse som bryter mot reglerna betecknas samtidigt förövarna som farliga individer på nivå 1, och därmed är det förbjudet att glorifiera dem (tidigare hylla). Det här kan gälla händelser som terroristangrepp, hets mot folkgrupp, våld mot flera offer eller försök till sådant våld, seriemord eller hatbrott. Även om Meta har upprättat en egen, ej offentlig, lista med utpekat farliga entiteter så baseras klassificeringarna delvis på den amerikanska regeringens listor (Metas lista är åtminstone lika omfattande som den amerikanska regeringens listor). I communityregeln står att entiteter på nivå 1 bland annat är särskilt utpekade narkotikasmugglare (SDNTK:er, specially designated narcotics trafficking kingpins), terroristorganisationer (FTO:er, foreign terrorist organizations) och särskilt utpekade internationella terrorister. De här listorna från den amerikanska regeringen är offentligt tillgängliga här, här och här.

4. Innan policyändringen den 29 december 2023 omfattade Metas definition av att ”hylla” att ”tala positivt om en listad enhet eller händelse”, ”tillskriva en listad enhet en känsla av att ha uppnått något”, ”legitimera en listad enhets målsättning genom att göra påståenden om att deras hatiska, våldsamma eller kriminella handlingar är lagliga, moraliska eller på annat sätt motiverade eller acceptabla” och ”närma[...] sig en listad enhet eller händelse ideologiskt”. Den här definitionen lades till i policyn som ett förtydligande efter en rekommendation från rådet i ett av våra första ärenden (beslut i ärendet Nazistiskt citat, rekommendation 2). Efter policyuppdateringen i december 2023 definieras glorifiering som att ”legitimera eller försvara våldshandlingar eller hatiska handlingar från en definierad enhet genom att påstå att sådana handlingar kan rättfärdigas på moraliska, politiska eller logiska grunder eller på andra grunder som gör dem acceptabla eller rimliga” eller att ”framställa eller hylla våld eller hat från en definierad enhet som en bedrift eller bragd”. Mer generellt säger Meta i policyuppdateringen att företaget tar bort referenser som är otydliga eller inte har något sammanhang såvida inte användarens avsikt framgår tydligt. Enligt policyn ingår här otydliga humorreferenser, referenser utan bildtext samt positiva referenser som inte glorifierar våld eller hat från den definierade enheten. Policyn ger dock inga exempel på vilka typer av inlägg som skulle bryta mot regeln. Meta har meddelat rådet att företaget fortsätter att ta bort allt innehåll där ”shaheed” används om utpekat farliga individer. När det gäller sådana referenser förutsätter företaget att ”shaheed” är ett regelbrott i samtliga sammanhang, vilket i praktiken innebär ett generellt förbud mot termen när den används om utpekat farliga individer. Förbudets omfattning kan delvis illustreras med hänvisning till de amerikanska listor som nämns ovan, eftersom Metas policyer förbjuder referenser till alla personer (och medlemmar i organisationer) på den egna listan som ”shaheed” (eller någon annan översättning av ordet ”martyr”). Här ingår entiteter på samtliga kontinenter, inte bara terroristorganisationer eller organisationer med någon viss ideologi.

5. Meta beskriver ”shaheed” som ett hedrande ord som används av grupper över hela världen med olika kulturer, religioner och språk. Företaget medger att ordet har flera betydelser och används för att beskriva en person som dör oväntat eller i en ung ålder, även hedervärt, till exempel när en person dör i en olycka eller till följd av en konflikt eller ett krig. Även om det inte finns någon direkt motsvarighet till termen på engelska menar Meta att den vanliga engelska översättningen är ”martyr”. När Meta skickade sin förfrågan till rådet, innan policyändringarna i december 2023, sades att företaget förutsatte att ordet betyder ”martyr” och att det var därför termen tolkades som en hyllning i relation till policyn om farliga organisationer och individer. Den enda referensen till den här regeln i de communityregler som är tillgängliga för allmänheten stod att hitta i ett exempel på fraser som skulle bryta mot förbudet mot hyllningar. Ett av Metas exempel var en fras där en dömd amerikansk terrorist kallades för en martyr. I versionen av policyn på arabiska använde Meta samma exempel och översatte då ordet martyr som ”shaheed”. Exemplet med martyr/”shaheed” togs bort när den offentligt tillgängliga communityregeln uppdaterades i december 2023, även om Meta har informerat rådet om att det fortfarande ses som en regelöverträdelse och ska tas bort av moderatorerna.

6. Meta tillämpar inga undantag till policyn om farliga organisationer och individer när ”shaheed” används om utpekat farliga individer. Sådana undantag kan i andra fall tillåta rapportering, neutral diskussion eller fördömanden av sådana individer. Borttagning av innehåll där ”shaheed” används till att hylla en utpekat farlig individ skulle leda till allvarliga varningar för användarna, och upprepade varningar skulle snabbare leda till sanktioner som avstängda sidor eller konton. I de offentliga communityreglerna förklaras inte varför inga undantag till regeln tillämpas för termen ”shaheed”.

7. Meta har förklarat att hanteringen av ”shaheed” ligger i linje med värderingen att öka säkerheten, eftersom sådant innehåll enligt företaget kan bidra till risker för offlineskada. Samtidigt erkänner Meta att det engelska ordet ”martyr” inte är en tillräckligt bra översättning av ”shaheed”. Givet att ”shaheed” kan betyda olika saker, och svårigheten att fastställa sammanhang och användares avsikter vid storskalig moderering, vidgår Meta att företaget tagit bort innehåll som inte bidragit till någon skaderisk, och som inte är avsett att hylla någon utpekat farlig individ, i synnerhet bland arabisktalande. Ett exempel är borttagning av innehåll där ”shaheed” används i nyhetsrapportering eller neutrala diskussioner om farliga individer som dött i förtid, och där syftet inte varit att hylla (eller glorifiera) personerna eller deras beteende.

8. Den 29 augusti 2023 uppdaterade Meta undantagen till policyn om farliga organisationer och individer. Företaget lade till definitioner av nyhetsrapportering, neutral diskussion och fördömanden, och gav dessutom exempel på de olika undantagen. Samtidigt utökade Meta beskrivningen av undantaget och noterade att användare får referera till utpekat farliga entiteter i den offentliga eller politiska debatten. Exemplen på innehåll som tillåts togs bort när policyn uppdaterades i december 2023 även om själva undantaget kvarstår. Exemplen återinfördes när policyn uppdaterades den 8 februari 2024. Vare sig i uppdateringen i december 2023 eller i februari 2024 förtydligas dock att referenser till utpekat farliga individer eller organisationer som är otydliga eller saknar kontext inte omfattas av undantaget, eftersom syftet med inläggen inte är tillräckligt tydligt.

9. 2020 inledde Meta en process för att utveckla policyn och ompröva hanteringen av ”shaheed”. I arbetet ingick en genomgång av forskningen och konsultationer med berörda intressenter. Enligt Meta var en av slutsatserna att betydelsen av ”shaheed” beror på sammanhanget, och att ordet i vissa fall inte är lika starkt associerat med hyllningar. Samtidigt finns det utan tvivel situationer där ”shaheed” används och ska förstås som en hyllning av utpekat farliga individer. Det är ingen enkel sak att fastställa avsikten i enskilda inlägg, särskilt vid storskalig moderering. Som Meta beskrev i sin förfrågan identifierade företaget under processen två möjliga policyalternativ till den nuvarande hanteringen av ordet ”shaheed” Intressenterna kunde dock inte enas kring vilket alternativ som var att föredra, så Meta antog därför inte något nytt tillvägagångssätt. Vidare betonar Meta hur viktigt det är att verkställigheten av en modifierad policy fungerar i det större perspektivet, givet den innehållsvolym företaget hanterar på sina plattformar.

III. Policyändringar som Meta gav rådet i uppdrag att överväga

10. Meta presenterade följande policyalternativ för rådets övervägande, och det gjordes innan företaget tog bort förbudet mot hyllande och ersatte det med förbudet mot glorifiering och otydliga referenser:

1) Fortsätta att ta bort innehåll där ordet ”shaheed” används om utpekat farliga individer enligt policyn om farliga organisationer och individer.

2) Tillåta innehåll där ”shaheed” används om utpekat farliga individer när följande villkor är uppfyllda: (i) innehållet används i ett sammanhang som är tillåtet enligt policyn om farliga individer och organisationer (till exempel fördömanden, nyhetsrapportering och akademiska diskussioner), (ii) innehållet varken hyllar, representerar eller ger stöd till individen (till exempel inlägg som inte uttryckligen hyllar en person som har utfört en terrorattack eller legitimerar våld) och (iii) det finns inga signaler om våld i innehållet. De signaler Meta föreslår är: bilder av vapen, avsiktsförklaringar eller uppmaningar att använda eller bära vapen, referenser till militära uttryck, referenser till mordbrand, plundring eller förstörelse av egendom, referenser till kända, faktiska våldsamma incidenter samt avsiktsförklaringar eller uppmaningar som representerar, ger stöd till eller förespråkar våld mot människor.

3) Endast ta bort innehåll där ”shaheed” används om utpekat farliga individer enligt Metas policy om farliga organisationer och individer om innehållet samtidigt hyllar, representerar eller ger stöd till individen eller om det förekommer signaler om våld. Här avses samma signaler som i alternativ två.

11. Syftet med både det andra och tredje alternativet är att få bättre förståelse för hur ”shaheed” används i det aktuella sammanhanget, och de avsedda resultaten skiljer sig inte så mycket åt. De två alternativen ter sig ännu mer lika sett till hur Meta har utökat omfånget för de sammanhangsberoende undantag som tillämpas för förbudet mot hyllningar (senare glorifiering) i allmänhet (se stycke 8 ovan). Rådets slutsats efter att ha frågat Meta om skillnaderna i de två alternativens tillämpning och resultat är att det andra alternativet innebär att företaget skulle behöva utreda och bekräfta att innehållet omfattas av ett av undantagen (rapportering, neutral diskussion, fördömande) medan det här steget inte krävs i det tredje alternativet, där det avgörande är om innehållet även innehåller ytterligare hyllningar (senare glorifiering eller otydliga referenser) eller någon av de sex angivna signalerna om våld. För samtliga alternativ Meta föreslog skulle policyn tillämpas så att innehåll där utpekat farliga individer nämns och avsikten är tvetydig eller oklar som standard hanteras som regelbrott, och att det är upp till användaren att göra avsikten tydlig. I och med ändringarna som gjordes i december 2023 införlivas den här tillämpningen i communityregeln om farliga organisationer och individer. Enligt policyn förbjuds nu referenser som är otydliga eller saknar kontext till entiteter och händelser som klassificerats på nivå 1, med ”otydliga humorreferenser, referenser utan bildtext samt positiva referenser som inte glorifierar våld eller hat från den definierade enheten”. Exempelvis skulle ett foto av en utpekat farlig individ utan ytterligare text eller kommentarer tas bort enligt policyn som förbjuder otydliga referenser eftersom användarens avsikt med bilden inte är tillräckligt tydlig.

12. Samtidigt som rådet övervägde de alternativ Meta presenterade så övervägdes även andra alternativ samt vilken effekt policyändringarna från december 2023 hade. Eftersom Meta bad rådet om policyrekommendationer som även skulle gälla liknande utmaningar i framtiden utvärderade rådet dessutom relaterade problem gällande Metas verkställighet och transparens inom områden som berörs av det rådgivande policyyttrandet, som även har konsekvenser för yttrandefriheten och andra mänskliga rättigheter generellt.

IV. Frågor som rådet ställde till Meta

13. Rådet ställde 41 skriftliga frågor till Meta. Frågorna gällde resonemangen bakom communityregeln om farliga organisationer och individer, evidens för att hyllningar på Metas plattformar kan leda till skada, Metas manuella och automatiska verkställighetsprocesser, Metas kategoriseringsprocess och listan med utpekat farliga entiteter, Metas varningssystem och vilka konsekvenser policyalternativ två eller tre skulle leda till i praktiken. I oktober 2023 ställde rådet uppföljningsfrågor om innehållstrenderna gällande ordet ”shaheed” i relation till terroristattackerna i Israel den 7 oktober, och om Metas analys av de policyalternativ som presenterades för rådet i företagets förfrågan hade förändrats i ljuset av den aktuella krisen. Rådet ställde tre ytterligare frågor om Metas policyuppdatering den 29 december 2023. Totalt 40 frågor besvarades och en fråga besvarades delvis. Meta delade endast listan med utpekat farliga individer på nivå 1 med rådet, inte listorna med entiteter på nivå 2 och 3, med förklaringen att hyllningar bara är förbjudna för entiteter på nivå 1.

2. Interaktion med berörda parter

14. Tillsynsrådet fick in 101 kommentarer från allmänheten som uppfyllde kraven för inskickade bidrag. Totalt 72 kommentarer skickades från USA och Kanada. 15 skickades Mellanöstern och Nordafrika, åtta från Europa, tre från Asien-Stillahavsområdet, två från Latinamerika och Karibien samt en från Central- och Sydasien. Alla kommentarer togs emot innan den 10 april 2023. Klicka här om du vill läsa de kommentarer från allmänheten där författaren samtyckt till publicering.

15. Bidragen behandlade en mängd olika ämnen. Många kommentarer förklarade de olika betydelserna av ordet ”shaheed”, och hur Metas nuvarande hantering av termen som en hyllning påverkar yttrandefriheten negativt, särskilt i politiskt tal och dokumentation relaterad till mänskliga rättigheter. Vissa bidrag tog upp problem med den automatiserade verkställigheten, Metas lista med entiteter, transparensen och potentiell bias i kvalificeringsprocessen. Andra bidrag uttryckte farhågor för att policyändringar skulle kunna normalisera terrororganisationer och öka våldet, i synnerhet i Israel och de palestinska territorierna.

16. Rådet höll tre rundabordssamtal med intressenter i Sydvästra Asien och Nordafrika, Afrika söder om Sahara och Sydostasien. Dessutom hölls två större ämnesrelaterade rundabordssamtal, ett om automatisering inom innehållsmoderering samt ett om terroristbekämpning och mänskliga rättigheter. Deltagarna här betonade att ordet ”shaheed” har flera olika betydelser. Martyrskap är en sådan betydelse, inklusive när personer dör medan de begår terrorhandlingar, men ”shaheed” används även ofta i andra sammanhang, exempelvis för offren i sådana attacker. Många deltagare, bland annat berörda samhällsmedborgare, experter på terroristbekämpning och experter på innehållsmoderering, uttryckte farhågor kring bias i policyn och tog upp hur den påverkar yttrandefriheten negativt, i synnerhet för arabisktalande och i andra samhällen där termen ”shaheed” används. Andra teman i samtalen var bristen på evidens för en kausal koppling mellan användningen av ”shaheed” om utpekat farliga individer och faktisk offlineskada, något som även betonades av experter på nationell säkerhet och terrorismbekämpning. Det lyftes även farhågor kring att utpekat farliga individer och organisationer skulle kunna normaliseras om termen inte modererades alls, eftersom de då skulle kunna använda sociala medier till rekrytering och att söka annat stöd. Vidare diskuterades även betänkligheter kring kvaliteten på den automatisering Meta använder i modereringen av termen, och flera deltagare uppmanade till större transparens kring termen samt Metas lista med utpekat farliga entiteter och hur kategoriseringen går till.

17. Du kan läsa en rapport om rundabordssamtalen med berörda parter om du klickar här (klicka här om du vill läsa den på arabiska).

3. Tillsynsrådet: behörighet och omfång

18. Meta kan be om rådgivande policyyttranden från rådet (stadgans artikel 3, avsnitt 7.3) och rådet kan efter eget gottfinnande antingen godkänna eller neka Metas förfrågningar (stadgans artikel 2, avsnitt 2.1.3). Sådana yttranden är rådgivande (stadgans artikel 3, avsnitt 7.3). Meta måste svara på yttrandet inom 60 dagar från publiceringen (stadgans artikel 2, avsnitt 2.3.2). Rådet övervakar implementeringen av de rekommendationer Meta har åtagit sig att åtgärda och kan följa upp tidigare rekommendationer från beslut i andra ärenden.

4. Källor och riktlinjer som ligger till grund för beslutet

I. Tidigare rekommendationer från Tillsynsrådet

19. I tidigare ärenden har rådet rekommenderat att Meta förtydligar och avgränsar omfattningen av policyn om farliga organisationer och individer samt förbättrar verkställighetens processer och transparens.

20. Det här är rådets rekommendationer till Meta när det gäller att förtydliga policyn och avgränsa dess omfattning:

• Begränsa definitionen av ”praise” (hyllningar) i vägledningen kring kända frågor för moderatorer (Omnämnande av talibanerna i nyhetsrapportering, rekommendation 3).
• Omformulera de interna riktlinjerna och förtydliga att undantaget för rapportering i regeln om farliga individer och organisationer tillåter positiva uttalanden om listade enheter inom ramen för rapportering, och hur detta ska särskiljas från förbjudna hyllningar (Omnämnande av talibanerna i nyhetsrapportering, rekommendation 4).
• Lägg till kriterier och illustrativa exempel i policyn så att det blir enklare att förstå undantagen för neutral diskussion, fördömande och nyhetsrapportering (Delat Al Jazeera-inlägg, rekommendation 1).
• Uppdatera motiveringen till policyn så att det framgår hur Metas värdering kring säkerhet kan främjas av en respekt för yttrandefriheten och andra mänskliga rättigheter, samt vilken offlineskada policyn är tänkt att förhindra när värderingen röst undertrycks (Isolering av Öcalan, rekommendation 4).
• Förklara hur användarna kan tydliggöra avsikten bakom sina inlägg så att de kan omfattas av policyundantag (Isolering av Öcalan, rekommendation 6).
• Förklara och ge exempel på hur de viktigaste termerna i policyn om farliga organisationer och individer hanteras, bland annat betydelsen av ”hyllningar”, och ge tydligare riktlinjer kring att göra avsikten uppenbar (Nazistiskt citat, rekommendation 2).

21. Det här är rådets rekommendationer till Meta när det gäller företagets varningssystem:

• Förklara processen kring varningar och påföljder när det gäller att begränsa profiler, sidor, grupper och konton på Facebook och Instagram så tydligt, detaljerat och tillgängligt som möjligt (Avstängningen av tidigare president Trump, rekommendation 15).
• Offentliggör förklaringen av varningssystemet med två olika spår samt gör förklaringen mer detaljerad och tillgänglig, bland annat genom att ge mer bakgrund till begreppet allvarliga varningar (Omnämnande av talibanerna i nyhetsrapportering, rekommendation 2).
• Ge användarna tillgång till informationom hur många överträdelser, varningar och påföljder som har fastställts mot dem, samt om vilka konsekvenser ytterligare överträdelser får (Avstängningen av tidigare president Trump, rekommendation 16).

22. Det här är rådets rekommendationer till Meta när det gäller transparens:

• Offentliggör listan med utpekat farliga entiteter, eller ge åtminstone tydliga exempel på sådana entiteter (Nazistiskt citat, rekommendation 3).
• Förbättra rapporteringen om verkställigheten genom att inkludera antalet begränsade profiler, sidor och konton (förutom besluten om borttagning av innehåll), och specificera informationen per region och land (Avstängningen av tidigare president Trump, rekommendation 17).
• Ange mer detaljerad information om felfrekvenser i verkställigheten av reglerna kring ”hyllningar” av och ”stöd” till farliga individer och organisationer, specificerad per region och språk (Isolering av Öcalan, rekommendation 12).
• Gör mer information om felfrekvenser offentlig och låt den visas per land och språk för respektive communityregel (Hotet mot sikherna från RSS i Indien, rekommendation 3).

23. Det här är rådets rekommendationer till Meta när det gäller automatisering:

• informera användarna när automatisering används till att vidta åtgärder mot deras innehåll, och inkludera lättillgängliga beskrivningar av vad det innebär (Bröstcancersymtom och nakenhet, rekommendation 3).
• Utöka transparensrapporterna med uppgifter om antalet automatiska borttagningsbeslut per communityregel, och vilken andel av besluten som upphävs efter manuell granskning (Bröstcancersymtom och nakenhet, rekommendation 6).
• Publicerar felfrekvensen för innehåll som av misstag inkluderats i mediematchningstjänstens banker med innehåll som bryter mot reglerna, angivet per innehållspolicy, i transparensrapporterna. Rapporterna bör ange hur innehåll förs in i bankerna och hur företaget jobbar för att minska antalet fel i den här processen (Colombiansk serieteckning om polisen, rekommendation 3.
• Ge en offentlig förklaring av automatiseringen kring hur överklaganden prioriteras och stängs (Protestslogan i Iran, rekommendation 7).

24. Du kan se statusen för hur de tidigare rekommendationerna hade implementerats när det här yttrandet skrev genom att klicka här (klicka här om du vill se statusen på arabiska).

II. Metas värderingar och ansvar för mänskliga rättigheter

25. Rådets analys och rekommendationer i det här rådgivande policyyttrandet utgår från Metas värderingar och ansvar för de mänskliga rättigheterna.

26. Meta anger röst som en av sina högst prioriterade värderingar, och nämner att den kan begränsas om det krävs i relation till fyra andra värderingar, där den viktigaste inom ramen för detta rådgivande policyyttrande är säkerhet. För att skydda värderingen om säkerhet tar Meta bort ”innehåll som kan bidra till att äventyra människors fysiska säkerhet”. Innehåll som hotar människor är inte heller tillåtet eftersom det kan skrämma, utesluta eller tysta andra.

27. Den 16 mars 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter, där företaget beskriver sitt åtagande att respektera olika rättigheter i enlighet med FN:s vägledande principer om företag och mänskliga rättigheter (UNGP-principerna). UNGP-principerna, som bifölls av FN:s råd för mänskliga rättigheter 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. Ansvaret innebär bland annat att företag ”ska undvika att göra intrång i andras mänskliga rättigheter och åtgärda eventuella sådana intrång där företaget kan vara delaktigt” (princip 11, UNGP). Företag förväntas ”(a) undvika att orsaka eller bidra till negativa effekter på de mänskliga rättigheterna genom sina egna aktiviteter och åtgärda sådana effekter där de uppstår och (b) försöka förhindra eller motverka negativa effekter på de mänskliga rättigheterna som direkt kan kopplas till företagets verksamhet, produkter eller tjänster via olika affärsrelationer, även om inte företaget själv bidragit till effekterna” (princip 13, UNGP).

28. I Metas förfrågan till rådet framgår att företagets innehållsmoderering kan påverka yttrandefriheten negativt. Artikel 19, paragraf 2 i konventionen om medborgerliga och politiska rättigheter (ICCPR) innebär ett långtgående skydd av yttrandefriheten givet hur viktig den är i den politiska debatten, och kommittén för mänskliga rättigheter har noterat att skyddet även omfattar uttalanden som kan vara mycket stötande (Allmän kommentar 34, paragraf 11, 13 och 38). När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). Dessa krav kallas ofta för de tre villkoren. Rådet använder det här ramverket till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter, både i relation till det enskilda innehållsbeslutet och Metas generella hållning gällande innehållsstyrning. Som FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har beskrivit det ”har företag visserligen inte samma skyldigheter som myndigheter, men deras inverkan är av ett slag som gör det nödvändigt för dem att ta ställning till samma typer av frågor om att skydda sina användares rättigheter till yttrandefrihet” (rapport A/74/486, paragraf 41).

29. Alla människor omfattas av samma rätt till yttrandefrihet. Eventuella inskränkningar av den här rätten får inte vara diskriminerande, och bland annat inte baseras på religion eller övertygelse, talat språk eller nationalitet (artikel 2 och 26, ICCPR).

Laglighet (reglernas tydlighet och tillgänglighet)

30. Eventuella begränsningar av yttrandefriheten ska vara tillräckligt lättillgängliga och tydliga gällande omfattning, innebörd och effekt för att ge användare och innehållsgranskare vägledning angående vilket innehåll som är tillåtet eller förbjudet. Avsaknad av tydlighet och precision kan leda till inkonsekvent och godtyckligt verkställande av reglerna (rapport från FN:s specialrapportör A/HRC/38/35, paragraf 46). Rådet har tidigare kritiserat hur otydlig policyn om farliga organisationer och individer är, och gett Meta rekommendationer kring hur den kan förbättras (Isolering av Öcalan, rekommendation 4 och 6, Delat Al Jazeera-inlägg, rekommendation 1, Omnämnande av talibanerna i nyhetsrapportering, rekommendation 3 och 4). Meta har sedan dess implementerat rådets rekommendation om att förtydliga definitionen av hyllningar.

31. Metas uppdatering i december 2023 av policyn om farliga organisationer och individer medför dock nya betänkligheter kring lagligheten. Även om Meta ger exempel på inlägg som bryter mot förbudet att representera, ge stöd och glorifiera så ges inga exempel på regelbrott av typen otydlig referens. Syftet med rådets rekommendationer i det här rådgivande policyyttrandet är att göra Metas regler ännu tydligare och mer tillgängliga.

Berättigat ändamål

32. Enligt artikel 19, paragraf 3 i ICCPR måste alla begränsningar av yttrandefriheten ha ett berättigat ändamål. Det kan vara att skydda antingen andras rättigheter eller bredare samhällsintressen som den nationella säkerheten (se även Allmän kommentar 34, paragraf 21 och 30). I Metas motivering till policyn om farliga organisationer och individer står att företaget försöker förhindra och motverka skador i verkliga livet, vilket rådet i olika ärenden har funnit vara förenligt med det berättigade ändamålet att skydda andras rättigheter, bland annat rätten till liv (artikel 6, ICCPR). Rådet har tidigare även funnit att hyllningar av utpekat farliga entiteter kan riskera att begränsa andras rättigheter, och att försöket att motverka sådana skador genom att förbjuda hyllningar i communityregeln om farliga organisationer och individer är ett berättigat ändamål (Omnämnande av talibanerna i nyhetsrapportering).

Nödvändighet och proportionalitet

33. Eventuella begränsningar av yttrandefriheten ”måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst ingripande alternativet av de som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas” (allmän kommentar 34, paragraf 34).

34. I resolution 1624 från FN:s säkerhetsråd (2005) uppmanas stater att i den mån som är nödvändigt och lämpligt, samt förenligt med åtagandena i internationell lagstiftning, i lag förbjuda uppvigling till terrorhandlingar (paragraf 1a), och senare resolutioner har lyft farhågor kring hur terroristorganisationer använder internet (UNSC resolution 2178 (2014) och UNSC resolution 2396 (2017)). Även om de här resolutionerna understryker att stater bör hantera och motverka terrorism i enlighet med sina åtaganden gentemot den internationella lagstiftningen kring mänskliga rättigheter, så har FN:s specialrapportör om att främja och skydda mänskliga rättigheter och grundläggande friheter i samband med terrorismbekämpning lyft farhågor både kring hur vagt lagar som ska implementera de här åtagandena är utformade och deras fokus på innehållet i uttalanden snarare än talarens avsikt eller hur talet påverkar andra (rapport A/HRC/40/52, paragraf 37). Specialrapportörens slutsats var att det vid en kriminalisering av terroristpropaganda krävs tillräcklig sannolikhet för att det aktuella uttalandet skulle leda till terrorhandlingar, så att det går att fastställa ett mått av kausalitet eller en faktisk risk för det befarade resultatet (ibid.). I Joint Declaration on the Internet and on Anti-Terrorism Measures från FN:s specialrapportör om yttrandefrihet, OSCE-representanten om pressfrihet och OAS specialrapportör om yttrandefrihet från den 21 december 2005 står att det krävs tydliga tecken på att det aktuella uttalandet utgör en direkt och uppsåtlig uppmaning till andra att begå terrorhandlingar, och att det direkt ökar sannolikheten för att en terrorhandling begås, annars får inte stater begränsa eller bestraffa sådana uttalanden (sid. 39). Specialrapportören om yttrandefrihet anger även höga krav i rapport A/HRC/17/27 (16 maj 2011, paragraf 36), och noterar att yttrandefriheten bara får begränsas för att skydda den nationella säkerheten eller motverka terrorism när (a) uttalandet är avsett att uppvigla till omedelbart våld, (b) sådant våld är ett troligt resultat och (c) det finns en direkt och omedelbar koppling mellan uttalandet och sannolikheten för att våldet inträffar. Enligt kommittén för mänskliga rättigheter måste termer som uppmuntran, glorifiering och hyllningar definieras tydligt när vissa uttalanden förbjuds med terrorismbekämpning som motivering, och förbudet får inte begränsa mediernas viktiga uppgift att informera allmänheten om terrorhandlingar onödigt mycket (allmän kommentar 34, paragraf 30 och 46).

35. Även om de här principerna och standarderna är viktiga som utgångspunkt för rådets analys så har inte privata företag samma ansvar inom de här områdena som åtagandena och begränsningarna för stater i den internationella människorättslagstiftningen. En stats juridiska sanktioner kan inte likställas med innehållsmoderering i sociala medier, och rådet är medvetet om att Meta som privat företag kan förhålla sig mer strikt gentemot yttrandefriheten än vad som skulle gå att motivera för en stat, givet företagets värderingar (se paragraf 27–28 ovan) och de många utmaningarna inom storskalig innehållsmoderering. FN:s specialrapportör för åsikts- och yttrandefrihet säger så här: När företagets regler skiljer sig från internationella standarder bör företaget ge en tydlig förklaring till skillnaden på förhand (rapport om hatretorik online från specialrapportören om åsikts- och yttrandefrihet, A/74/486 den 9 oktober 2019, paragraf 48). I flera tidigare beslut har rådet undersökt hur internationella standarder gällande stater bör översättas till företags ansvar för de mänskliga rättigheterna när kravet på proportionalitet ska utvärderas, och det är även syftet med detta rådgivande policyyttrande.

36. I tidigare beslut gällande communityregeln om farliga organisationer och individer har rådet även granskat Metas ansvar för de mänskliga rättigheterna i relation till hyllningar av utpekat farliga entiteter. Även om det är ett berättigat ändamål att förhindra att utpekat farliga entiteter använder Metas plattformar till att uppvigla till våld, rekrytera följare eller söka andra typer av stöd, så har rådet funnit situationer där det generella och otydliga förbudet mot hyllningar lett till en onödigt stor och oproportionerlig inskränkning av yttrandefriheten. Ett exempel är när rådet upphävde borttagningen av en tidnings inlägg på urdu om att talibanerna planerade att börja tillåta utbildning för flickor igen, och fann att inlägget inte utgjorde en hyllning (Omnämnande av talibanerna i nyhetsrapportering). Ett annat exempel är när rådet upphävde Metas borttagning av en användares inlägg där ett citat felaktigt tillskrevs Joseph Goebbels (Nazistiskt citat), eftersom det var tillräckligt tydligt att inlägget inte hyllade den nazistiska ideologin utan bidrog till den politiska debatten i USA. Rådet upphävde även Metas beslut att ta bort ett inlägg som delade en nyhetsartikel från Al Jazeera där en utpekad terroristgrupp hotade med våld, och tog upp farhågor kring att Metas policyer kan ha diskriminerande konsekvenser (Delat Al Jazeera-inlägg). I sammanfattande och påskyndade beslut har rådet även upphävt eller fått Meta att upphäva ett flertal borttagningar av inlägg på Facebook och Instagram som ursprungligen tagits bort med motiveringen att de hyllar utpekat farliga individer (Ledaren för självständighetsrörelsen Amílcar Cabral, Libanesisk aktivist, Svar på antisemitism, Federal valkrets i Nigeria, Utbildning för flickor i Afghanistan, Omnämnande av Al-Shabab, Lovad vare Gud och Gisslan kidnappad från Israel). Många av de här besluten är fortfarande relevanta, trots att Meta nyligen har uppdaterat policyn om farliga organisationer och individer. Rådet kommer fortsätta granska den här policyn i framtida ärenden, bland annat i relation till de nya reglerna kring glorifiering och otydliga referenser.

6. Rekommendationer och analys

37. Tillsynsrådet ger sju rekommendationer till Meta gällande innehållspolicyer, verkställighet och transparens. Rådet anser att de här rekommendationerna kan tillämpas i stor skala och skulle främja Metas värderingar kring röst och säkerhet, samtidigt som de skulle stärka företagets respekt för yttrandefriheten och andra mänskliga rättigheter samt göra företaget mer transparent.

6.1 Metas policy för ”Shaheed”

Rekommendation 1 – innehållspolicy Meta bör sluta förutsätta att ordet ”shaheed” alltid bryter mot reglerna och att det aldrig kan omfattas av policyundantag när det används om individer eller medlemmar i utpekat farliga organisationer. Innehåll där farliga individer benämns som ”shaheed” bör endast tas bort enligt bestämmelsen om otydlig referens i två situationer. För det första när en eller fler av tre signaler om våld förekommer: en bild av ett vapen, en avsiktsförklaring eller uppmaning att använda eller bära vapen eller en referens till en händelse som omfattas av policyn. För det andra när innehållet på annat sätt bryter mot Metas policyer (till exempel gällande glorifiering eller att referensen till den utpekat farliga individen är otydlig på fler sätt än i samband med användningen av ”shaheed”). I båda situationerna bör innehållet fortfarande kunna utvärderas mot undantaget om rapportering, neutral diskussion och fördömande.

Rådet anser den här rekommendationen vara implementerad när Meta offentligt uppdaterar sina communityregler och anger att referenser till utpekat farliga individer som ”shaheed” inte är tillåtna när en eller flera av de tre signalerna om våld också förekommer.

Rekommendation 2 – innehållspolicy: Meta bör förtydliga förbudet mot otydliga referenser med ett antal exempel på innehåll som bryter mot reglerna, bland annat ett inlägg där ”shaheed” används om en utpekat farlig individ tillsammans med en eller fler av de tre signaler om våld som anges i rekommendation 1.

Rådet anser den här rekommendationen vara implementerad när Meta offentligt uppdaterar sina communityregler med exempel på otydliga referenser.

Rekommendation 3 – verkställighet: Metas interna policyriktlinjer bör också uppdateras så att det blir tydligt att ”shaheed” får användas om utpekat farliga individer förutom när det även förekommer signaler om våld, och att innehållet kan omfattas av undantaget om rapportering, neutral diskussion och fördömande även när det förekommer sådana signaler.

Rådet anser den här rekommendationen vara implementerad när Meta uppdaterar riktlinjerna till sina granskare så att ”shaheed” kan omfattas av undantaget gällande rapportering, neutral diskussion och fördömanden, och skickar den uppdaterade riktlinjerna till rådet.

38. Även om det är viktigt att Meta försöker förhindra att företagets plattformar används för uppvigling till terrorism, vilket är ett berättigat ändamål för företagets modereringspolicyer, så innebär Metas ansvar för de mänskliga rättigheterna att alla inskränkningar av yttrandefriheten är nödvändiga och proportionerliga, inte minst när det gäller människor som lever i våldsutsatta samhällen. Även om en av betydelserna av ”shaheed” motsvarar det engelska ordet ”martyr” och ordet används med den innebörden så anser inte rådet att det är nödvändigt eller proportionerligt att ta bort allt innehåll där ordet ”shaheed” används om utpekat farliga individer. Det beror på att ett generellt förbud inte tar hänsyn till termens lingvistiska komplexitet, att för många uttalanden tas bort, att pressfriheten och det offentliga samtalet begränsas för mycket samt att jämställdheten och likheten inför regelverket påverkas negativt. Om den här rekommendationen skulle godtas och implementeras skulle dessutom detaljerna i Metas förbud mot glorifiering och otydliga referenser i allmänhet fortsätta gälla. Meta bör därför sluta att ta bort innehåll enbart på grund av förekomsten av ordet ”shaheed”. Meta bör i stället ta större hänsyn till sammanhanget, och tydligt definiera vilka signaler om våld som gör att ”shaheed” ska tolkas som skadligt. Enligt nedanstående förklaring ställer sig rådet endast till fullo bakom två av de sex signaler som Meta föreslog i sin förfrågan, och rekommenderar att en tredje av dem förtydligas. De andra tre förslagen från Meta, som även ges som riktlinjer till granskare som ska verkställa den separata policyn om våld och uppvigling, är för breda i relation till policyn om farliga organisationer och individer. Rådet rekommenderar samtidigt att Meta tillämpar undantag för innehåll som rapporterar om, fördömer eller neutralt diskuterar en utpekat farlig entitet även när det förekommer signaler om våld. Ovanstående rekommendationer gäller termen ”shaheed” i både singular och plural, samt varianter på de många språk där termen också används.

39. Rådet utvärderade med hjälp av experter och andra intressenter vilken skada det kan leda till att tillåta innehåll där ”shaheed” används om utpekat farliga entiteter på Metas plattformar. Vissa intressenter var bekymrade över att Metas plattformar skulle bidra till spridandet av propaganda och rekryteringen av terrorister, samt till diskriminering eller våld, bland annat mot det judiska folket (se kommentarer från allmänheten, exempelvis PC-11123 – CyberWell Ltd, PC-11153 – Stop Antisemitism Now, PC-11194 – Committee for Accuracy in the Middle East och PC-11068 – Canadian Antisemitism Education Foundation). Även om det inte finns någon forskning som visar på en konkret koppling mellan användning av ”shaheed” och ett ökat våld eller större diskriminering (som tidigare noterats på sidan 10 i Metas hänskjutning, och även var en av slutsatserna från Metas egen konsultation med experter och intressenter innan företaget begärde det rådgivande policyyttrandet), så finns det enskilda fall där en önskan om martyrskap kunnat kopplas till våldsdåd. Det finns även generella farhågor kring att våldsamma organisationer kan använda sociala medier till att rekrytera följare och uppvigla till terroristdåd, normalisera terrorism och sprida extremism. De här antagandena och farhågorna stärktes ytterligare i rådets många samtal med intressenter och experter, bland annat i rundabordssamtalet med experter på terrorbekämpning (se Interaktion med berörda parter).

40. I ett antal bidrag till rådet från experter och intressenter beskrivs även hur yttrandefriheten påverkas negativt när innehåll där termen ”shaheed” används tas bort (se kommentarer från allmänheten, exempelvis PC-11196 – Integrity Institute, PC-11164 – SMEX, PC-11183 ECNL EFF, PC-11190 – Brennan Centre och PC-11188 – Digital Rights Foundation). Det gäller bland annat borttagning av innehåll där syftet med termen ”shaheed” inte är att hylla eller glorifiera utpekat farliga entiteter, utan att rapportera om det våld som begås av terrorister eller andra utpekade organisationer, eller att diskutera utpekade individer i en neutral politisk eller akademisk kontext.

41. Följande exempel kan förtydliga hur Meta resonerar när företaget tar bort innehåll där ”shaheed” används om utpekat farliga individer:

• En regering sprider ett pressmeddelande på Metas plattformar om att en utpekat farlig individ har dött, och använder den hedrande termen ”shaheed” som tillägg till personens namn. Det här inlägget skulle tas bort eftersom Meta förutsätter att termen ”shaheed” är ett regelbrott, trots att kontexten indikerar en neutral diskussion.
• En användare delar ett foto av en demonstration som personen deltar i, utan någon tydlig bildtext som förklarar syftet med demonstrationen. Namnet på en avliden utpekat farlig individ står på flera av skyltarna tillsammans med frasen ”shaheed”. Det här inlägget skulle tas bort eftersom Meta förutsätter att bilden med skyltarna där namnet på den utpekat farliga individen förekommer tillsammans med termen ”shaheed” är ett regelbrott.
• En människorättsaktivist delar ett inlägg med en beskrivning av när staten avrättar en utpekat farlig individ på plats, där individen omnämns som ”shaheed” och författaren fördömer regeringens antiterroristlagar. Det här inlägget skulle tas bort eftersom Meta förutsätter att termen ”shaheed” är ett regelbrott oavsett den rapporterande kontexten.
• En bekymrad samhällsmedborgare klagar i ett inlägg på att en väg i grannskapet, som heter samma sak som en utpekat farlig individ, är i dåligt skick och använder samtidigt termen ”shaheed”. Det här inlägget skulle tas bort eftersom Meta förutsätter att termen ”shaheed” är ett regelbrott, trots att omnämnandet av den utpekat farliga individen är irrelevant för diskussionen om de lokala angelägenheterna.
• En familjemedlem använder termen ”shaheed” om en närstående som dödats i en terrorattack, och fördömer angriparna som är utpekat farliga individer. Trots att det här inlägget inte bryter mot reglerna skulle kombinationen av att ”shaheed” används i samma kontext som förövarna göra att innehållet felaktigt tas bort givet Metas allt för breda hållning.

42. Vissa intressenter lyfte farhågor kring att en mindre restriktiv hållning gentemot termen ”shaheed” i stor skala skulle kunna bidra till att normalisera terrorism. Även om ”shaheed” uppenbarligen i vissa fall avses som och utgör en form av godkännande av eller bifall till en person och dennes våldshandlingar så anser inte rådet att det här räcker som skäl till det generella förbudet av ordet i policyn. Givet den information rådet samlat in från intressenter, bland annat från experter på terrorbekämpning samt metas tidigare efterforskningar och samtal med berörda parter, är det rådets slutsats att den nuvarande policyns påtagligt negativa inverkan på yttrandefriheten väger tyngre än farhågorna för betydande skadliga effekter av en policyändring. Det gäller särskilt som det fortfarande finns ett antal skyddsmekanismer som förhindrar att terrorister propagerar för våld på Metas plattformar, även om rådet rekommendationer skulle implementeras.

43. Rådet har även beaktat att ”shaheed” har olika betydelser, och ofta används i sammanhang som inte uppmuntrar till våld eller hat utan snarare rapporterar om frågor med allmänintresse. Syftet med Metas policyer är att skydda mot skador, men med ett generellt förbud tas mängder av innehåll bort som inte leder till sådana skador. Även om en viss andel verkställighetsfel måste accepteras vid storskalig innehållsmoderering så måste Meta göra avvägningar baserade på företagets ansvar för de mänskliga rättigheterna. Sett till de här övervägandena är det rådets slutsats att de föreslagna rekommendationerna ligger mest i linje med Metas övergripande ansvar för de mänskliga rättigheterna.

Termen shaheeds kulturella och religiösa signifikans samt olika betydelser

44. ”Shaheed” är en term med stor kulturell och religiös signifikans som används i många olika sammanhang med olika innebörd. De kommentarer rådet fått in från allmänheten och den forskning rådet har beställt ger ytterligare insikter om termen och dess användning. ”Shaheed” kan betyda ”att bevittna” och att ”ge vittnesmål”. Termen används som islamiskt förnamn, och även som efternamn i västra Asien och Nordafrika (se kommentarer från allmänheten, exempelvis PC-11196 – Integrity Institute, PC-11164 – SMEX). ”Shaheed” används också om personer som avlidit medan de utfört en religiös plikt. I beväpnade konflikter eller våldsamma attacker, bland annat där utpekat farliga organisationer varit inblandade, uppmärksammas ibland offren för våld och terrorism med termen ”shaheed” (se kommentarer från allmänheten, exempelvis PC-11164 – SMEX, PC-11197 från regeringen i Nya Zeeland där offer för masskjutningen i Christchurch benämndes som ”shuhada”, som är en pluralform av ”shaheed” och PC-11196 från Integrity Institute som tar upp att marginaliserade muslimska folkgrupper, som rohingyafolket, i vissa länder använder ”shaheed” om personer som tvingats i landsflykt från Myanmar på grund av de religiösa förföljelserna). Kvantitativa efterforskningar av innehåll som publicerats och tillåts vara kvar på Metas plattformar, som rådet beställt från Memetica, visar att ”shaheed” ofta används om personer som dör i sitt lands tjänst, eller som oväntat drabbas av sociopolitiskt våld eller naturkatastrofer. Även om de här inläggen inte nödvändigtvis kopplar ordet ”shaheed” till en utpekat farlig individ så visar exemplen som gavs tidigare (se paragraf 41) hur de många betydelserna och sätten att använda ”shaheed” också är relevanta i sammanhanget.

45. Efter Hamas terroristattacker mot Israel och den efterföljande israeliska militäroperationen i Gaza i oktober 2023 beställde rådet ytterligare forskning om innehållstrender kring termen ”shaheed”. Av de fler än 12 000 offentliga inlägg som granskades i analysen var det bara två som uttryckte stöd för Hamas. Nästan alla förekomster gällde beskrivningar av palestinska dödsoffer på Gazaremsan utan att någon utpekat farlig organisation eller individ nämndes. Inläggen beskrev bland annat palestinier som sörjde förlusten av närstående medan andra visade skadade palestinska barn eller förstörelse efter flygangrepp i Gaza. Rådet ställde ytterligare frågor till Meta eftersom forskarna bara har tillgång till innehållstrender för det offentliga innehåll som finns kvar på plattformarna, inte för innehåll som Meta tar bort på grund av att det bryter mot policyn om farliga organisationer och individer. Metas svar underbyggde forskningsresultaten ytterligare. Enligt företaget så visade inte innehållstrenderna under krisen någon förändring i hur ordet ”shaheed” användes eller tolkades jämfört med tidigare.

46. De olika betydelserna leder till slutsatsen att Metas antagande om att ”shaheed” är ett regelbrott som leder till offlineskada, och därför alltid ska tas bort, innebär en begränsning av yttrandefriheten som måste åtgärdas. Meta har sagt att ”shaheed” förmodligen är det mest modererade ordet på företagets plattformar, och olika intressenter noterade att Meta ofta tar bort innehåll som rapporterar om utpekat farliga entiteter och deras våld (förfrågan om rådgivande policyyttrande, sidan 3). Hanteringen av ”shaheed” är ett exempel på hur företaget prioriterar uppenbara distinktioner i den storskaliga verkställigheten. Även om sådana distinktioner i princip kan vara lämpliga eftersom det ofta är nödvändigt att göra svåra avvägningar vid storskalig innehållsmoderering, så anser inte rådet att antagandet om att ”shaheed” i kombination med utpekat farliga individer alltid ska tas bort är försvarbart, och att principen måste ändras. Meta håller även med om att den nuvarande hanteringen inte beaktar innehållets lingvistiska och kulturella kontext, och att resultatet i två olika avseenden blir en för strikt tillämpning av regeln. För det första tas innehåll som inte är avsett som en hyllning eller glorifiering bort, eftersom Meta har valt att förutsätta att ”shaheed” alltid utgör en regelöverträdelse. För det andra leder den till fler felaktiga borttagningar av innehåll där ”shaheed” används om personer som inte är utpekat farliga individer, eftersom hanteringen bidrar till ett kategoriskt förhållningssätt där kontexten inte utvärderas närmare.

47. Trots att ”shaheed” kan betyda olika saker i olika sammanhang noterar rådet att exemplen som tidigare angavs under Metas förbud mot hyllningar i policyn om farliga organisationer och individer inte var anpassade till olika marknader, och att en alltför enkel direktöversättning användes i exemplen. Den enda indikationen i communityreglerna på hur Meta hanterar innehåll där ”shaheed” förekommer var ett exempel på en fras där en dömd terrorist kallas för ”martyr” i samband med det generella förbudet mot hyllningar. Samma exempel användes för olika språk, och termen var på arabiska översatt till ”shaheed” trots att termerna inte nödvändigtvis betyder samma sak. Rådet noterar att det aktuella exemplet togs bort när policyn uppdaterades i december 2023. Även om översättningen i exemplet inte nödvändigtvis var felaktig så går det inte att använda exemplet till att hävda att ”shaheed” har samma betydelse som ”martyr”.

48. Av samma fast omvända skäl är det rådets slutsats i detta rådgivande policyyttrande att ”shaheed” inte automatiskt bör översättas som ”martyr” eller motsvarande termer på andra språk. ”Martyr” och ”shaheed” är inte direkta motsvarigheter, eftersom det förra begreppet inte är lika semantiskt tvetydigt på engelska eller i regioner där engelska talas. Meta måste utvärdera vilka termer som uppfyller företagets gräns för glorifiering, och hålla riktlinjerna i detta rådgivande policyyttrande i åtanke. Oavsett så rekommenderar inte rådet generella förbud som isolerar och förbjuder användningen av ”shaheed” oavsett inläggets bredare kontext. I linje med Tillsynsrådets tidigare beslut bör sådana inlägg utvärderas i sin helhet. Dessutom bör meta följa de policyer som presenteras för allmänheten och tillämpa undantag där användare tillåts rapportera om, fördöma och neutralt diskutera utpekat farliga individer även när termen ”martyr” används (eller termer med motsvarande glorifierande eller positiva betydelse på andra språk). Det här belyser hur viktigt det är att de interna riktlinjerna till granskare anpassas till den lokala kontexten och det granskade språkets lingvistiska egenheter (se liknande synpunkter i rådets beslut i ärendet Myanmar-boten, som låg till grund för rekommendation 1).

49. I flera ärenden har rådet försökt få Meta att kalibrera om avvägningen mellan att ha tydliga regler som kan tillämpas i stor skala och att ha policyer som tar större hänsyn till sammanhanget, och ofta låta yttrandefriheten och användarnas röst väga tyngre (till exempel att tillåta rapportering om utpekat farliga entiteter, se Omnämnande av talibanerna i nyhetsrapportering och Delat Al Jazeera-inlägg). Även om tidigare ärenden inte har behandlat användningen av just ”shaheed” så har rådet tidigare varnat Meta för att förutsätta onda avsikter när användare refererar till utpekat farliga entiteter (se Nazistiskt citat). Flera kommentarer från allmänheten lyfter fram hur Metas antagande om att ”shaheed” alltid innebär en hyllning kan leda till en för strikt regeltillämpning mot personer som uppmärksammar offer för terroristattacker när moderatorer gör misstag eller när modereringen automatiseras (se kommentarer från allmänheten, exempelvis PC-11164 – SMEX, p. 1 eller kommentar PC-11197 från regeringen i Nya Zeeland). Att ta bort sådant innehåll kan till och med motverka syftet med policyn om farliga organisationer och individer eftersom borttagningen kan hindra en debatt om terroristers våld och kampen för att motverka ideologin som står bakom våldet (se exempelvis PC-11164 – SMEX).

Respekt för pressfriheten och det offentliga rummet

50. Rådet är särskilt bekymrat över att Metas hantering påverkar journalistiken och den offentliga debatten. Det här är särskilt allvarligt i områden där terroristers eller andra utpekade organisationers våld är mer vanligt förekommande, och där utpekade entiteter har kontroll över territoriet eller på annat sätt utövar politisk makt. Sådana farhågor har förts fram i ett antal kommentarer (se kommentarer från allmänheten, exempelvis PC-11196 – Integrity Institute eller PC-11157 – Palestine Institute for Public Diplomacy). Medieföretag och andra kommentatorer kanske avstår från att rapportera om utpekade entiteter eftersom de vill undvika att få innehåll borttaget, då det kan leda till mer allvarliga sanktioner som borttagning av sidor, grupper eller avstängda konton. Det här kan vara svårt att förutsäga i vissa fall, till exempel vid rapportering om protester mot en regering där personer håller upp skyltar till stöd för utpekat farliga individer som samma regering har dödat. Lingvistiska, kulturella eller religiösa normer kan tyda på att ”shaheed” i det här sammanhanget används om personer som dött, även om personer som dött medan de utförde våldsdåd.

51. Det är viktigt att notera hur komplexa situationer där utpekat farliga entiteter utför våldshandlingar kan vara, till exempel i situationer som kan likställas med väpnade konflikter, motstånd mot utländsk ockupation eller civila oroligheter. Det kan vara mycket svårt för media att rapportera om sådana situationer, eftersom de måste beakta lokala lingvistiska, kulturella och religiösa normer samtidigt som de följer Metas innehållspolicyer. Problemet blir större eftersom Meta inte offentliggör listan med utpekat farliga entiteter, så att användarna inte vet vilka entiteter som står på listan. Det kan ofta även förekomma signaler om våld i rapportering om sådana situationer, till exempel bilder på vapen, som skulle utgöra regelbrott om inte kontexten var rapportering, neutral diskussion eller fördömande. Därför är det viktigt att Meta tillämpar policyundantag när innehåll rapporterar om, neutralt diskuterar eller fördömer en utpekat farlig entitet.

52. Förbudet kan även göra det svårare för användare att uttrycka sina åsikter och kritik när de lever i samhällen där utpekat farliga entiteter verkar eller har politisk makt. I syfte att undvika direkt konfrontation och risker för den egna säkerheten kan användare i sådana sammanhang formulera sina kommentarer respektfullt på ett sätt som inte nödvändigtvis bör tolkas som hyllningar. Det är särskilt allvarlig att bestraffa sådana yttranden eftersom medierna är ett så viktigt forum för debatt, i synnerhet i konfliktzoner och länder där pressfriheten är begränsad.

Jämlikhet och likabehandling

53. Eftersom ”shaheed” är så vanligt förekommande och kan betyda så olika saker, särskilt bland arabisktalande och personer (många av dem muslimer) som talar andra språk där ”shaheed” är ett låneord, så påverkar Metas policy de här samhällena oproportionerligt mycket. Det här medför allvarliga betänkligheter gällande företagets ansvar att respektera samtliga användares rätt till jämlikhet och likabehandling när de utövar sin yttrandefrihet. De här farhågorna var centrala i ett stort antal kommentarer från allmänheten (se exempelvis PC-11183 ECNL EFF, PC-11190 – Brennan Centre, PC-11188 – Digital Rights Foundation, PC-11196 – Integrity Institute eller BSR-rapporten om Metas inflytande i Israel och Palestina). I sin rapport om att bryta utvecklingen mot extremism lyfter UNDP (UN Development Programme) fram att bland annat ojämlikhet, exkludering, brist på möjligheter och upplevda orättvisor är faktorer som kan leda till extremistiskt våld. Rådet är bekymrat över att Metas policyhantering kan förstärka upplevelsen av marginalisering och exkludering för vissa folkgrupper, vilket till och med kan motverka det uttalade syftet att minska våldet. När det gäller innehållsmoderering på onlineplattformar lyfter UNDP fram att företag bör se till att kampen mot våldsam extremism inte oavsiktligt leder till stigmatisering och förföljelse av individer.

Mindre inskränkande sätt att förhindra skada

54. I en utvärdering av policyns nödvändighet och proportionalitet ingår även att analysera om det finns mindre inskränkande sätt att uppnå det aktuella berättigade ändamålet. Om rådets rekommendationer i det här yttrandet skulle implementeras måste Meta sluta att kategoriskt ta bort all användning av ”shaheed” om utpekat farliga individer. Innehåll där den här termen används kan dock ändå tas bort i sammanhang där den skadliga kopplingen är tydligare och mer framträdande. Enligt rekommendationerna skulle Meta kunna fortsätta att ta bort innehåll som refererar till utpekat farliga individer som ”shaheed” när det antingen innehåller andra policyöverträdelser (exempelvis glorifiering eller otydliga referenser) eller om det även förekommer signaler om våld i innehållet. Det här är även fortsättningsvis en viktig begränsning samtidigt som policyns negativa konsekvenser motverkas, bland annat den onödigt strikta tillämpningen mot vissa språkliga och religiösa grupper.

55. Förekomsten av signaler om våld i samband med en referens till en utpekat farlig individ som ”shaheed” är en tydligare indikation på att inläggets syfte är att förmedla en positiv inställning till individen, på grund av kopplingen till våld (förutsatt att inte undantagen gällande rapportering, neutral diskussion eller fördömande gäller). I sin förfrågan föreslog Meta följande signaler om våld, tagna från företagets interna riktlinjer för policyn om våld och uppvigling: (1) bilder av vapen (2) avsiktsförklaringar eller uppmaningar till att använda eller bära vapen (3) referenser till militära uttryck (4) referenser till mordbrand, plundring eller annan egendomsförstörelse (5) referenser till faktiska våldsamma händelser och (6) avsiktsförklaringar eller uppmaningar som representerar, uttrycker stöd för eller förespråkar våld mot människor. Rådet ser vissa av de här signalerna som användbara indikationer på innehåll som kan leda till skada, något som inte framgår enbart av att ”shaheed” används. Andra signaler här är mindre användbara. I den offentliga policyn om våld och uppvigling förekommer frasen ”tillfälliga signaler om en förhöjd risk för våld” tre gånger, varje gång i relation till regler vars syfte är att minska risken för våld på specifika platser under tidsbegränsade skeenden, till exempel på valkontor eller vid demonstrationer. Om samtliga signaler skulle användas i riktlinjerna för verkställigheten kring referenser till ”shaheed” i alla sammanhang, där risken för skada inte är lika stor eller omedelbar, kan verkställigheten bli oproportionerligt strikt.

56. Rådet anser att det behövs en mer begränsad uppsättning signaler för den bredare policyn om farliga organisationer och individer. Signalen med bilder på vapen och signalen med avsiktsförklaringar eller uppmaningar till att använda eller bära vapen bör båda ses som indikationer på innehåll med större risk att leda till skada. Rådet anser att signalen med ”referenser till faktiska våldsamma händelser” är för bred, och skulle omfatta för många situationer som inte är kopplade till utpekat farliga organisationers eller individers våldsutövning. Den bör därför definieras snävare och begränsas till händelser som klassificerats enligt Metas policy om farliga organisationer och individer, som bland annat omfattar terroristangrepp, hets mot folkgrupp, våld eller försök till våld med flera offer, seriemord och hatbrott. De tre signaler som rådet rekommenderar skulle ge utrymme för större kontextuell hänsyn, så att innehåll där ”shaheed” tydligare används i samband med terroristers våld fortfarande kan tas bort.

57. De andra signaler som Meta föreslår, som referenser till militära uttryck, mordbrand, plundring eller annan egendomsförstörelse, är för breda och skulle göra verkställigheten mindre exakt. Den sista signal som föreslås, ”avsiktsförklaringar eller uppmaningar som representerar, uttrycker stöd för eller förespråkar våld mot människor” skulle på egen hand kunna leda till innehåll som bryter mot communityregeln om våld och uppvigling, och skulle därför överlappa och inte behövas som signal om våld.

58. Till skillnad från i Metas tredje policyalternativ noterar rådet att referenser till utpekat farliga individer kanske inte syftar till att glorifiera individerna eller deras handlingar, även om de åtföljs av de här signalerna om våld. I sin förfrågan (sidan 9–10) beskriver Meta risken för en alltför strikt verkställighet, och hänvisar till medierapporteringen i Pakistan. Enligt rådet är det relativt vanligt att avbilda en avliden utpekat farlig individ tillsammans med vapen i medierapportering, eller att visa bilder på den förödelse individen åsamkat, utan att för den skulle glorifiera individens handlingar. Därför måste breda granskare instrueras att lämna kvar innehåll om avsikten tydligt är att rapportera om, fördöma eller neutralt diskutera entiteten.

59. Även om de policyändringar rådet rekommenderar skulle implementeras finns det fortfarande ett stort antal andra innehållspolicyer som skyddar mot att terrorister och deras anhängare använder Metas plattformar till att orsaka offlineskada. Inlägg där ”shaheed” används om utpekat farliga individer på nivå 1 skulle tas bort i följande situationer:

• När de även innehåller en eller flera av de signaler som våld som beskrivs ovan.
• När inlägget innehåller andra överträdelser av policyn om farliga organisationer och individer (till exempel representation, stöd eller glorifiering av en utpekat farlig individ). Glorifiering kan till exempel handla om att legitimera eller försvara en utpekat farlig individs våld eller hatbrott, eller att fira våld och hatbrott som bedrifter.
• När inlägget innehåller andra policyöverträdelser, till exempel gällande hatretorik eller våld och uppvigling.
• När inlägget innehåller otydliga referenser eller saknar kontext. I det här ingår otydliga humorreferenser, referenser utan bildtext samt positiva referenser som inte glorifierar våld eller hat från den utpekat farliga entiteten.

60. Enligt rådets rekommendationer skulle Meta fortfarande kunna kräva att användarna tydligt förmedlar avsikten med inlägget när de refererar till utpekat farliga individer på nivå 1 som ”shaheed”. Rekommendationerna skulle bara hindra att Meta kategoriserar inlägg som regelöverträdelser enbart på grund av att termen ”shaheed” förekommer i inlägget. Metas aktiva deltagande i Global Internet Forum to Counter Terrorism och företagets användning av sin databas med hash-matchning leder också till att innehåll som kan orsaka offlineskada tas bort. Med rådets rekommendationer blir verkställigheten kring innehåll som kan öka risken för våld tydligare, mer kontextkänslig och proportionerlig samtidigt som respekten för yttrandefrihet och likabehandling stärks.

Utvärdering av ytterligare policyalternativ

61. Av de här skälen anser rådet att en fortsättning enligt status quo, som var ett av Metas policyförslag till rådet, skulle befästa den omotiverade begränsning av yttrandefriheten som drabbar arabisktalande, andra språkliga folkgrupper och muslimer oproportionerligt hårt. Metas andra policyalternativ liknar det tredje alternativet, som rådet förespråkar, på så sätt att det försöker nyansera tolkningen av ordet ”shaheed” så att det blir tillåtet att använda om utpekat farliga individer i olika sammanhang. Enligt Meta gjorde policyändringarna från den 29 augusti 2023 att mer social och politisk debatt tilläts, bland annat i relation till fredssamtal, allmänna val, mänskliga rättigheter, nyhetsrapportering samt akademiska, neutrala och fördömande diskussioner. Det här gör skillnaderna mellan resultatet av det andra och tredje policyalternativet ännu mindre. Den viktigaste skillnaden mellan dem gäller om deras storskaliga tillämpning är tekniskt genomförbar och praktisk. Enligt det andra alternativet måste Meta först slå fast om ett av de tillåtna undantagen gäller, och sedan undersöka om inlägget innehåller policyöverträdelser eller signaler om våld. Enligt det tredje alternativet kan Meta gå direkt till att undersöka om det förekommer policyöverträdelser eller signaler om våld. Enligt Meta skulle det andra alternativet vara betydligt krångligare att utforma och implementera rent tekniskt, eftersom en bred uppsättning undantag måste beaktas (ännu bredare givet de senaste policyändringarna) och varje undantag är starkt kopplat till den aktuella kontexten. Svårigheten att konsekvent göra korrekta bedömningar innebär i sin tur att det skulle krävas betydligt mer manuell granskning och ske betydligt fler verkställighetsfel.

62. Rådet anser att det vore bättre om Meta granskade all användning av ”shaheed” om utpekat farliga individer mer enhetligt, utöver de befintliga undantagen, och sedan tog bort förekomster med andra policyöverträdelser eller någon av de signaler om våld som anges i rekommendation 1. Att ändra policyn till en position närmare Metas tredje föreslagna alternativ, och bara behandla ”shaheed” som en förbjuden term när inlägget även innehåller andra policyöverträdelser eller specifika signaler om våld, skulle minska antalet falska positiva förekomster (felaktig borttagning av innehåll som inte bryter mot reglerna), skydda uttalanden i det allmännas intresse, främja pressfriheten och det offentliga samtalet samt minska den negativa effekten på de berörda gruppernas rätt till jämlikhet och likabehandling. Som svar på rådets frågor efter Hamas angrepp på Israel och den efterföljande konflikten i oktober 2023 bekräftade Meta att de aktuella händelserna inte förändrade analysen av de ursprungliga policyalternativens skalbarhet. Rådet anser att de föreslagna rekommendationerna, som bygger på Metas tredje alternativ, skulle ha bäst förutsättningar att motverka fel i kriser av den här magnituden, givet att policyundantagen gällande rapportering, neutral diskussion och fördömanden kvarstår. Rådet inser att skalbarheten för Metas tredje alternativ hämmas något om policyundantagen måste offentliggöras, men anser ändå att det är nödvändigt för att värna yttrandefriheten i samband med moderering av innehåll där ordet ”shaheed” förekommer.

63. En minoritet av rådet delar inte den här slutsatsen och skulle hellre rekommendera att Meta bibehåller status quo eller tillämpar det andra föreslagna alternativet. Vissa betonar att terroristorganisationer trots allt använder ordet ”shaheed” till att hylla och glorifiera personer som begår våldsdåd, och att användningen kan radikalisera och rekrytera anhängare. De här rådsmedlemmarna anser att de aktuella omständigheterna medför en tillräckligt stor risk för offlineskada, så att det nuvarande kategoriska förbudet är motiverat trots inskränkningarna av yttrandefriheten. Andra rådsmedlemmar anser inte att det finns tillräckligt med data för att bedöma kopplingen mellan användningen av ”shaheed” på Metas plattformar och faktisk offlineskada, och trots att verkställigheten just nu kan vara för strikt föredrar de en försiktigare hållning där säkerheten prioriteras. Vissa rådsmedlemmar tror även att det andra alternativet, där Meta enbart skulle beakta innebörden och användningen av ”shaheed” när ett tillåtet undantag först identifierats, skulle vara en bättre kompromiss trots de tekniska svårigheterna med att implementera förslaget storskaligt. Rådet har beaktat och diskuterat de här alternativen noga. Av skälen som beskrivs i föregående avsnitt nådde majoriteten slutsatsen att rekommendationerna som baseras på Metas tredje alternativ är den bästa avvägningen.

Varningar och sanktioner

64. Även om det kan vara motiverat att behålla de andra begränsningarna under policyn om farliga organisationer och individer måste Meta se till att de här begränsningarna och eventuella sanktioner vid överträdelser är proportionella. Meta har tidigare informerat rådet om att företaget alltid delar ut allvarliga varningar för överträdelser mot policyn om farliga organisationer och individer, även för det tidigare förbudet mot hyllningar. Allvarliga varningar kan snabbare leda till sanktioner på kontonivå, som tidsbundna funktionsbegränsningar, kontoavstängningar och permanent nedstängning av profiler eller sidor. De här åtgärderna kan allvarligt begränsa användarnas yttrandefrihet (vilket även betonas i kommentarerna från allmänheten, se exempelvis PC-11190 – Brennan Centre). Rådet har tidigare rekommenderat att Meta förtydligar och gör sitt varningssystem mer transparent (Omnämnande av talibanerna i nyhetsrapportering, rekommendation 2, Avstängningen av tidigare president Trump, rekommendation 15). Som svar publicerade Meta information om varningssystemet i Transparenscenter, och lät användarna se vilka sanktioner som Meta tillämpat mot deras konton. Meta uppdaterade nyligen sitt system för standardvarningar och gjorde det mer proportionerligt, men det framgår inte för allmänheten om Meta även anpassat sin hantering av allvarliga varningar.

65. Meta har meddelat att företaget jobbar med att förändra verkställigheten av policyn om farliga organisationer och individer, men i förklaringen av policyuppdateringen i december 2023 framgår inte om eller hur verkställigheten kommer ändras (exempelvis gällande allvarliga varningar). Rådet välkomnar en förändring av verkställigheten om den leder till mer proportionerliga sanktioner för innehåll som bryter mot reglerna, i linje med tidigare rekommendationer från rådet. Allvarliga varningar är oproportionerligt hårda straff för mildare och semantiskt tvetydiga överträdelser av policyn om farliga organisationer och individer, och gör att policyn tillämpas för strikt samtidigt som användarna behandlas orättvist.

6.2 Bättre transparens och revision av listan

Rekommendation 4 – transparens: I syfte att öka transparensen kring listan med utpekat farliga entiteter och händelser bör meta förtydliga proceduren för hur entiteter och händelser väljs ut. Företaget bör även publicera sammanställd information om listan med utpekade entiteter, inklusive antalet entiteter på listans olika nivåer samt hur många entiteter som lagts till och tagits bort från respektive nivå under föregående år.

Rådet anser det här vara implementerat när Meta publicerar den begärda informationen i Transparenscenter.

Rekommendation 5 – verkställighet: För att listan med utpekade farliga organisationer och individer ska hållas aktuell, och inte innehålla några organisationer, individer och händelser som Meta inte längre betecknar som farliga, bör företaget implementera en tydlig och effektiv process för att regelbundet granska beteckningarna och ta bort de entiteter som inte längre uppfyller de publicerade kriterierna.

Rådet anser det här vara implementerat när Meta har tagit fram en sådan revisionsprocess och förklarat den i Transparenscenter.

66. Enligt Metas tidigare policy om farliga organisationer och individer utgjorde bara hyllningar och termen ”shaheed” regelbrott om de refererade till en utpekat farlig entitet på nivå 1 (inklusive entiteter som utfört utpekat ”våldsamma händelser som bryter mot reglerna”). Efter uppdateringen i december 2023 förbjuder nu policyn otydliga referenser och glorifiering av alla utpekat farliga entiteter på nivå 1. Tydliga referenser kan vara otydliga humorreferenser, referenser utan kontext och positiva referenser som inte glorifierar den utpekat farliga entitetens våld eller hat. Sådana förbuds potentiella negativa effekt på yttrandefriheten beror till stor del på vilka entiteter Meta betecknar som farliga på nivå 1, och vilka ”våldsamma händelser som bryter mot reglerna” som pekas ut. I rundabordssamtal och kommentarer från allmänheten kritiserade ett flertal intressenter bristen på transparens och rättssäkerhet kring listan, och uppmanade Meta att publicera den (se kommentarer från allmänheten, exempelvis PC-11164 – SMEX, p. 3 eller PC-11157 – Palestine Institute for Public Diplomacy). En intressent lyfte farhågor kring säkerheten om listan skulle publiceras för allmänheten. Eftersom listan är så viktig när det gäller att förstå omfattningen av Metas policyer gav Meta listan med utpekat farliga organisationer och individer på nivå 1 till rådet, samt en förklaring av hur klassificeringen går till. Meta studerade listan och processen noga, vilket diskuteras nedan.

67. Som vi noterat ovan gör den amerikanska regeringen många av de listor offentliga som Meta använder för klassificering på nivå 1. Det gäller bland annat särskilt utpekade narkotikasmugglare (SDNTK:er, specially designated narcotics trafficking kingpins), terroristorganisationer (FTO:er, foreign terrorist organizations) och särskilt utpekade internationella terrorister. De här listorna är omfattande och tar upp entiteter (och deras medlemmar) i starkt politiserade sammanhang på olika kontinenter, inte bara terrororganisationer. Bredden och mångfalden är en indikation på vilken omfattning Metas policy om farliga organisationer och individer kan ha och vilken effekt den kan få, bland annat när det gäller ett kategoriskt förbud av ”shaheed” som referens till utpekat farliga individer.

68. Meta förklarade att företagets process för att granska och godkänna entiteter som ska tas upp på listan med farliga organisationer och individer bygger på konsultationer med ett antal interna experter samt utvärdering av interna data och extern forskning. Meta har även processer för att dokumentera ytterligare medlemmar, alias, symboler, slagord, undergrupper eller mediefalanger relaterade till utpekat farliga organisationer och individer. 2022 var färre än 1 000 entiteter utpekade som farliga, baserat på Metas bedömning av hoten mot företagets plattformar från farliga organisationer och individer. Kriminella entiteter utgjorde den största andelen, tätt följda av terrororganisationer och hatgrupper. Meta har en process för avklassificering där företaget utvärderar om en entitet fortfarande når upp till gränsen för klassificering som farlig organisation eller individ, och beaktar vilka aktiva åtgärder entiteten vidtagit för att upphöra med våldet och söka fred. Processen omarbetas för närvarande, men under hela 2022 användes den färre än 10 gånger. Meta förklarade att företaget granskar tidigare klassificeringar inom ramen för det löpande arbetet att hålla listan så aktuell som möjligt, så att den återspeglar det faktiska hot som farliga organisationer och individer representerar.

69. Meta förklarade att verkställighetens effektivitet och Metas medarbetares säkerhet kan påverkas negativt om listan med utpekade entiteter och händelser skulle publiceras offentligt, eller om entiteter som tas upp på listan skulle meddelas. När entiteter har pekats ut och sedan upptäckt detta har vissa av dem stämt Meta (se ärendet Facebook v. CasaPound, 29 april 2020, Court of Rome, Italy med tillhörande analys här). Rådet noterar att Meta i vissa fall har avslöjat utpekanden av vissa grupper som svar på frågor från media, och att beteckningar gjorts offentliga via beslut från Tillsynsrådet.

70. Rådet har tidigare rekommenderat att Meta offentliggör listan med utpekat farliga entiteter, eller åtminstone ger tydliga exempel (Nazistiskt citat, rekommendation 3). Meta har varken publicerat någon lista eller presenterat mer information kring rekommendationen efter en bedömning av genomförbarheten. Om Meta fortsätter att avstå från att implementera den här rekommendationen bör företaget åtminstone vidta andra åtgärder för att förbättra transparensen kring listan. Användarnas förståelse av Metas regler och processer kan förbättras om företaget publicerar aggregerade data, förtydligar klassificeringsprocessen och effektiviserar avklassificeringen. Det skulle även öka legitimiteten kring Metas klassificeringar och konsekvenserna för yttrandefriheten och andra mänskliga rättigheter. Meta kan även överväga att ge forskare större tillgång till data i syfte att öka transparensen samtidigt som listan hålls hemlig.

6.3 Data för utvärdering av verkställighetens noggrannhet och tester av klassificeringen

Rekommendation 6 – transparens: I syfte att öka transparensen kring Metas verkställighet, bland annat gällande regionala skillnader mellan olika marknader och språk, bör företaget förklara vilka metoder som används till att kontrollera den manuella granskningen och de automatiserade systemens resultat när det gäller verkställigheten av policyn om farliga organisationer och individer. Meta bör även regelbundet publicera resultat från utvärderingar av hur klassificerarna som används i verkställigheten av policyn fungerar, på ett sätt som gör att utvärderingarna kan jämföras mellan olika språk och regioner.

Rådet anser det här vara implementerat när Meta publicerar den här informationen i Transparenscenter och i sin verkställighetsrapport för communityregler.

Rekommendation 7 – transparens: Som information till intressenter bör Meta tydligt förklara hur klassificerare används till att generera prediktioner kring policyöverträdelser. Meta bör även förklara hur företaget sätter gränsvärden för att antingen inte vidta någon åtgärd, skicka innehåll för manuell granskning eller ta bort innehållet, genom att beskriva processen för hur gränsvärdena fastställs. Den här informationen bör göras tillgänglig i Transparenscenter.

Rådet anser det här vara implementerat när Meta publicerar den begärda informationen i Transparenscenter.

71. Många intressenter, både i rundabordssamtal och i kommentarer från allmänheten, hävdade att Metas verkställighet av policyn om farliga organisationer och individer samt företagets hantering av ordet ”shaheed” i både manuell och automatiserad granskning ofta leder till verkställighetsfel som drabbar muslimer och relevanta språkgrupper oproportionerligt hårt (se kommentarer från allmänheten, exempelvis PC-11183 ECNL EFF, PC-11190 – Brennan Centre, PC-11188 – Digital Rights Foundation, PC-11196 – Integrity Institute eller BSR-rapporten om Metas inflytande i Israel och Palestina). Meta medgav också i sin förfrågan att det här är en konsekvens av den nuvarande policyn kring ordet ”shaheed”. Rådet lämnar de två rekommendationerna ovan i syfte att göra Metas manuella och automatiserade verkställighetsprocesser mer transparenta, noggranna och rättvisa.

72. Meta förklarade att företaget regelbundet mäter noggrannheten i den manuella och automatiserade verkställigheten. Manuella granskare utvärderas regelbundet av Metas externa samarbetspartner, och utvärderingarna kan även studeras närmare av Metas globala verksamhetsteam.

73. Rådet har tidigare rekommenderat att Meta förbättrar sina transparensrapporter så att allmänheten får mer information om felfrekvenser genom att låta informationen om hyllningar och stöd till utpekat farliga organisationer och individer filtreras efter land och språk (Isolering av Öcalan, rekommendation 12) och communityregel (Hotet mot sikherna från RSS i Indien, rekommendation 3). Efter en utvärdering av genomförbarheten förklarade Meta att företaget avstår från att implementera rekommendationen (Isolering av Öcalan, rekommendation 12 och Metas fjärde kvartalsuppdatering till rådet 2021, sidan 21), och har bytt fokus till det mer långsiktiga arbetet med att definiera noggrannhetsmått baserade på sanktioner mot profiler, sidor och konton, samt baserat på plats snarare än språk (Hotet mot sikherna från RSS i Indien, rekommendation 3, Metas andra kvartalsuppdatering till rådet 2023 sidan 59). Med tanke på de utbredda farhågorna för att policyn om farliga organisationer och individer tillämpas oproportionerligt hårt, där Metas hållning gällande ”shaheed” är ett exempel, och företagets underlåtenhet att avslöja användbara data om verkställigheten, upprepar rådet de här rekommendationerna och betonar hur viktigt det är att företaget ökar transparensen kring verkställigheten på olika platser.

74. De data som Meta för närvarande publicerar i Transparenscenter ger inte tillräcklig inblick i den manuella granskningens noggrannhet och de automatiserade systemens resultat. Om företagets metoder ska kunna granskas måste Meta förklara hur noggrannheten i den manuella granskningen och de automatiserade systemens resultat utvärderas när det gäller verkställigheten av policyn om farliga organisationer och individer. I syfte att öka transparensen kring klassificerarnas resultat bör Meta publicera mått som visar på noggrannheten (som indikerar andelen innehåll som korrekt identifieras som regelöverträdelser av allt innehåll som flaggas) och träffsäkerheten (procentandelen regelöverträdelser som klassificeraren identifierar av allt regelvidrigt innehåll som existerar). Meta kan öka förtroendet för företagets åtaganden gentemot de mänskliga rättigheterna genom att publicera information om den manuella granskningens noggrannhet i olika regioner och klassificerarnas resultat för olika språk. Rådet upprepar därför sina tidigare rekommendationer och uppmanar Meta att implementera de föreslagna ändringarna.

75. Meta använder sig av automatiserade system, bland annat klassificerare, i verkställigheten av företagets communityregler. Klassificerare kategoriserar automatiskt data i en eller flera ”klasser” (till exempel regelbrott och ej regelbrott) baserat på en uppsättning träningsdata. Det är viktigt att förstå hur de här systemen fungerar och hur tillförlitliga de är om det ska gå att utvärdera Metas storskaliga moderering. Meta tillhandahåller grundläggande information om hur företaget använder automatiserade system till att identifiera regelöverträdelser i avsnittet om verkställighet i Transparenscenter, och i avsnittet om funktioner förklarar Meta hur innehåll rangordnas och väljs ut. Meta publicerar redan information om vilken procentandel innehåll som tas bort innan det rapporteras (det vill säga efter automatisk identifiering) i verkställighetsrapporterna för communityregler. Dessa data visar hur viktig den automatiska identifieringen är, men de tillhandahåller inga detaljerade mått som visar hur Metas automatiserade system används, särskilt gällande borttagning. Syftet med den här uppsättningen rekommendationer är att stärka transparensen kring Metas användning av algoritmer.

76. Som svar på frågorna från rådet förklarade Meta att klassificeraren för farliga organisationer och individer för ”allmänt språk – arabiska” gör en inledande granskning som baseras på Metas policyer. Målet med klassificerare är att identifiera innehåll som bryter mot de här policyerna. Rådet anser att Meta bör förklara sin användning av klassificerare mer detaljerat för användarna i avsnittet om verkställighet i Transparenscenter, i linje med tidigare beslut (se Bröstcancersymptom och nakenhet, rekommendation 3 eller Colombiansk serieteckning om polisen, rekommendation 3). Det är i synnerhet viktigt med transparens kring ungefärliga konfidenströsklar när det gäller att åtgärda eller inte åtgärda innehåll, och skicka det för manuell granskning, samt vilka överväganden eller faktorer som påverkar poängnivåerna.

77. Meta förklarade att företagets noggrannhetstester inte fokuserar på enskilda typer av policyöverträdelser utan den totala noggrannheten för hela policyområdet. Meta meddelade att företaget regelbundet övervakar mått och granskar noggrannheten i stor skala. Rådet har tidigare förklarat varför det inte räcker att utvärdera Metas verkställighet av communityreglerna som helhet (se Beslut i ärende om wampumbälte). System som fungerar väl i vanliga fall skulle kunna fungera dåligt för underkategorier av innehåll, till exempel innehåll där termen ”shaheed” används, där felaktiga beslut har en särskilt stor inverkan på de mänskliga rättigheterna. Därför är det särskilt viktigt att Meta demonstrerar sitt arbete med att identifiera och minimera sina systems potentiella negativa effekter på de mänskliga rättigheterna, och att informationen publiceras så att effekterna kan granskas.

78. Många intressenter menar att Metas algoritmiska verkställighet inte tar tillräcklig hänsyn till kontexten, att den leder till fler fel för andra språk än engelska och att det här påverkar muslimska samhällen oproportionerligt mycket (se kommentarer från allmänheten, exempelvis PC-11190 – Brennan Centre).

79. Vissa intressenter rekommenderar att Meta helt slutar använda automatisering i modereringen av termen ”shaheed”, eftersom automatiseringen hittills misslyckats med att beakta kontexten (se kommentarer från allmänheten, exempelvis PC-11164 – SMEX, p. 4 eller PC-11157 – Palestine Institute for Public Diplomacy). Några menade att automatisering bara bör användas till att skicka innehåll för manuell granskning, inte i borttagningsbeslut, givet de allvarliga sanktionerna vid överträdelser av policyn om farliga organisationer och individer (se exempelvis PC-11183 ECNL EFF, p. 4f). Vissa intressenter föreslog att inlägg där ”shaheed” används om utpekat farliga individer bör granskas manuellt av moderatorer som är bekanta med inläggets lokala kontext (se PC-11188 – Digital Rights Foundation, p. 2). Andra föreslog att innehåll bör geotaggas så att kontexten kan beaktas bättre vid både manuell och automatiserad granskning (se exempelvis PC-11165 – Taraaz, p. 1). En del uppmanade även Meta att tillhandahålla mer information om den automatiserade verkställighetens noggrannhet och investera mer pengar i de automatiserade system som används för andra språk än engelska (se exempelvis PC-11164 – SMEX, p. 5, PC-11190 – Brennan Centre). De uppmanade också Meta att rapportera sin innehållsmoderering konsekvent för olika språk, och bland annat publicera detaljerade data om anmälningar från användare, åtgärdsfrekvenser, typer av åtgärder, olika motmedels effekt, träningsdata och andel överklaganden (se exempelvis PC-11196 – Integrity Institute).

80. Vissa experter menade att ”shaheed” inte bör användas som enda referenspunkt för att automatiserade system ska ta bort innehåll om utpekat farliga entiteter från plattformen, utan att termen bör användas i en mer nyanserad moderering (till exempel som signal om att skicka innehåll för manuell granskning mot Metas policyer, men inte för borttagning enbart på grund av den enda referensen).

81. Rådet inser att det är nödvändigt med algoritmiska system i storskalig innehållsmoderering, och att många av de föreslagna åtgärderna inte skulle vara genomförbara i stor skala och med automatisering. Rådets slutsats är dock att Meta bör vidta ytterligare åtgärder, bland annat de som rekommenderas ovan, så att systemen kan fungera så transparent och rättvist som möjligt.

* Procedurmässig notering:

Tillsynsrådets rådgivande policyyttranden utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

I samband med det här rådgivande policyyttrandet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av ett oberoende forskningsinstitut som utgår från Göteborgs universitet, med ett team bestående av fler än 50 samhällsvetare på sex kontinenter och fler än 3 200 nationella experter från hela världen. Rådet bistods också av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser. Företaget Lionbridge Technologies LLC, vars specialister är experter inom fler än 350 språk och jobbar från 5 000 städer världen över, tillhandahöll lingvistisk expertis.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें