Arab szavak használatának helyreállítása

Az Ellenőrző Bizottság felülbírálta a Meta eredeti döntését egy Instagram-bejegyzés eltávolításáról, amely a felhasználó szerint olyan arab szavak képét jelenítette meg, amelyek becsmérlő módon használhatók a „nőies módon viselkedő” férfiakkal szemben. A tartalomra a Meta gyűlöletbeszédre vonatkozó szabályzatának egyik kivétele érvényes, ezért nem kellett volna eltávolítani.

Tudnivalók az esetről

2021 novemberében egy magát a queer narratívák arab kultúrabeli megvitatásának helyeként leíró nyilvános Instagram-fiók közzétett egy képsorozatot galéria-formátumban (legfeljebb 10 képet tartalmazó Instagram-bejegyzésként, egyetlen felirattal). Az arab és angol nyelven is feltüntetett felirat elmagyarázta, hogy minden egyes kép egy-egy olyan szót ábrázol, amely becsmérlő módon használható a „nőies módon viselkedő” férfiakkal szemben az arab nyelvű világban, ideértve olyan szavakat mint a „zamel,” a „foufou” és a „tante”/„tanta”. A felhasználó kijelentette, hogy a bejegyzés célja „az ilyen bántó kifejezések használatának helyreállítása”.

A Meta először eltávolította a bejegyzést gyűlöletbeszédre vonatkozó szabályzata megsértéséért, de miután a felhasználó a döntés visszavonását kérte, visszaállította azt. Miután egy másik felhasználó jelentette a bejegyzést, a Meta ismét eltávolította azt a gyűlöletbeszédre vonatkozó szabályzat megsértése miatt. A Meta szerint, mielőtt a Bizottság kiválasztotta az esetet, a tartalmat további belső ellenőrzésre eszkalálták, amely megállapította, hogy valójában nem sértette meg a vállalat gyűlöletbeszédre vonatkozó szabályzatát. A Meta ezután visszaállította a tartalmat az Instagramon. A Meta elmagyarázta, hogy a tartalom eltávolításáról szóló első döntései a „z***l” és „***e/t***a” szavakat tartalmazó képek ellenőrzésén alapultak.

Főbb megállapítások

A Bizottság szerint a tartalom eltávolítása egyértelmű hiba, amely nincs összhangban a Meta gyűlöletbeszédre vonatkozó szabályzatával. Bár a bejegyzés gyalázkodó kifejezéseket tartalmaz, a tartalomra érvényes az olyan beszédre érvényes kivétel, amelyet az emberek „saját magukra vonatkozóan vagy pozitív felhanggal használnak”, valamint az a kivétel, amely engedélyezi a gyűlöletbeszéd idézését „annak elítélése vagy figyelemfelhívás” céljából. A felhasználó kijelentéseinek – melyek szerint „nem nézi el és nem bátorítja” az érintett gyalázkodó kifejezéseket, és éppen „az ilyen bántó kifejezések használatának helyreállítása” volt a célja – fel kellett volna hívniuk a moderátor figyelmét arra, hogy a bejegyzésre kivétel lehet érvényes.

Azokban az országokban, ahol büntetik az LMBTQIA+-emberek véleménynyilvánítását, gyakran a közösségi média az egyetlen eszköz számukra a szabad önkifejezésre. Az üldözött kisebbségi csoportokhoz tartozó felhasználók beszédének túlmoderálása súlyosan fenyegeti véleménynyilvánításuk szabadságát. Ezért a Bizottság aggályosnak tartja, hogy a Meta nem alkalmazza következetesen a gyűlöletbeszédre vonatkozó szabályzat kivételeit a marginalizált csoportok véleménynyilvánítására.

A jelen esetben elkövetett hibák – például az, hogy három külön moderátor is megállapította, hogy a tartalom sérti a gyűlöletbeszédre vonatkozó szabályzatot – arra engednek következtetni, hogy a Meta nem nyújt kellő szintű iránymutatást a lealacsonyító kifejezésekre való utalásokat értékelő moderátoroknak. A Bizottság aggódik, hogy kapacitáshiány vagy a képzés hiányosságai miatt nem áll elegendő erőforrás az ellenőrök rendelkezésére a jelen esetben látott hiba megelőzésére.

Az, hogy a Meta – a jelenlegi gyakorlat szerint – angol nyelven ad iránymutatást a moderátoroknak a nem angol nyelvű tartalmak ellenőrzéséről, eleve kihívást jelent. Hogy segítsen a moderátoroknak jobban felmérni, mikor alkalmazzanak kivételeket a gyalázkodó tartalmakra, a Bizottság javasolja, hogy a Meta fordítsa le belső iránymutatását a moderátorai által használt arab nyelvjárásokra.

A Bizottság szerint a gyalázkodó kifejezések részletes listáinak összeállításához és a gyalázkodó kifejezésekre vonatkozó szabályok alóli kivételek alkalmazására a moderátoroknak adott megfelelő iránymutatáshoz a Metának rendszeresen ki kell kérnie ország- és kultúraspecifikus szinten a gyalázkodó kifejezésekkel megcélzott kisebbségek véleményét. A Metának azzal kapcsolatban is átláthatóbbnak kell lennie, hogyan hozza létre, érvényesíti és ellenőrzi a gyalázkodó kifejezések piacspecifikus listáit.

Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálja a Meta eredeti döntését a tartalom eltávolításáról.

Szabályalkotást támogató tanácsadó nyilatkozatként a Bizottság a következőket javasolja a Metának:

• Fordítsa le a belső végrehajtási alapelveket és az ismert kérdéseket a tartalommoderátorai által használt arab nyelvjárásokra. Ezzel enyhíteni lehetne a szabályok túlzott betartatását az arab nyelvű régiókban, segítve a moderátorokat annak jobb megítélésében, mikor indokolt alkalmazni a gyalázkodó tartalmakra vonatkozó kivételeket.
• Tegyen közzé egyértelmű magyarázatot arról, hogyan állítja össze a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, milyen folyamatok és kritériumok alapján döntik el, hogy mely gyalázkodó kifejezéseket és mely országokat rendelik hozzá az egyes piacspecifikus listákhoz.
• Tegyen közzé egyértelmű magyarázatot arról, hogyan érvényesíti a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, hogy milyen folyamatok és kritériumok alapján határozzák meg, hol és mikor érvényesítik a gyalázkodó kifejezésekre vonatkozó tiltást, legyen szó akár földrajzilag az érintett régióból származó, akár az érintett régión kívülről származó, de ahhoz kapcsolódó bejegyzésekről és/vagy az érintett régió összes felhasználójáról, a bejegyzés földrajzi eredetétől függetlenül.
• Tegyen közzé egyértelmű magyarázatot arról, hogyan ellenőrzi a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, hogy milyen folyamatok és kritériumok alapján távolít el gyalázkodó kifejezéseket a Meta piacspecifikus listáiról vagy tartja fenn őket a listán.

*Az eset összefoglalása áttekintést ad az esetről, és nincs precedensértéke.

Az esetről hozott teljes döntés

1.A döntés összefoglalása

Az Ellenőrző Bizottság felülbírálja a Meta eredeti döntését egy olyan Instagram-bejegyzés eltávolításáról, amelyet az „arab történelemben és popkultúrában előforduló queer narratívák” megvitatására szolgáló fiók tett közzé. A tartalom kivételnek számít a Meta gyűlöletbeszédre vonatkozó szabályzata szerint, mivel homofób gyalázkodó kifejezések mások általi negatív használatát jelenti, ítéli el és vitatja meg, azokat kifejezetten pozitív kontextusban használva.

2. Az eset leírása és háttere

2021 novemberében egy magát a queer narratívák arab kultúrabeli megvitatásának helyeként azonosító nyilvános Instagram-fiók közzétett egy képsorozatot galéria-formátumban (legfeljebb 10 képet tartalmazó Instagram-bejegyzésként, egyetlen felirattal). A felhasználó által arab és angol nyelven is feltüntetett felirat elmagyarázta, hogy minden egyes kép egy-egy olyan szót ábrázol, amely becsmérlő módon használható a „nőies módon viselkedő” férfiakkal szemben az arab nyelvű világban, ideértve olyan szavakat mint a „zamel,” a „foufou” és a „tante”/„tanta”. A feliratban a felhasználó kijelentette, hogy nem „nézi el és nem bátorítja az érintett gyalázkodó kifejezések használatát”, elmagyarázta, hogy korábban zaklatták az egyik ilyen gyalázkodó kifejezéssel, és „az ilyen bántó kifejezések használatának helyreállítása” volt a bejegyzés célja. A Bizottság külső szakértői megerősítették, hogy a tartalomban idézett kifejezéseket gyakran gyalázkodásra használják.

A mintegy 9000 alkalommal megtekintett tartalom kb. 30 hozzászólást és kb. 2000 reakciót kapott. A közzétételt követő három órán belül egy felhasználó „felnőtt meztelenségként vagy szexuális tevékenységként”, egy másik pedig „szexuális tevékenységre való felajánlkozásként” jelentette a tartalmat. Mindegyik bejelentést egymástól függetlenül más humán moderátor kezelt. Az első bejelentést ellenőrző moderátor nem hajtott végre semmilyen intézkedést, de a második bejelentést ellenőrző moderátor eltávolította a tartalmat a Meta gyűlöletbeszédre vonatkozó szabályzatának megsértése miatt. A felhasználó kérte az eltávolítási döntés visszavonását, és egy harmadik moderátor visszaállította a tartalmat a platformon. A tartalom visszaállítása után egy másik felhasználó „gyűlöletbeszédként” jelentette a tartalmat, és egy újabb moderátor negyedik alkalommal is elvégezte az ellenőrzést, majd újra eltávolította a tartalmat. A felhasználó második alkalommal is kérte a döntés visszavonását, és egy másik moderátor az ötödik ellenőrzés után fenntartotta döntést a tartalom eltávolításáról. Miután a Meta értesítette a felhasználót a döntésről, a felhasználó felülvizsgálati kérelmet nyújtott be az Ellenőrző Bizottsághoz. A Meta később megerősítette, hogy a tartalmat ellenőrző összes moderátor folyékonyan beszélt arabul.

A Meta elmagyarázta, hogy a tartalom eltávolításáról szóló első döntések a „z***l” és „***e/t***a” szavakat tartalmazó képek ellenőrzésén alapultak. A Bizottságtól kapott döntésre válaszul a Meta azt is megjegyezte, hogy a vállalat gyalázkodásnak tart egy, a tartalomban használt másik kifejezést („moukhanath”).

A Meta szerint miután a felhasználó kifogást emelt a Bizottságnál, de mielőtt a Bizottság kiválasztotta az esetet, a tartalmat ettől függetlenül további belső ellenőrzésre eszkalálták, amely megállapította, hogy valójában nem sértette meg a vállalat gyűlöletbeszédre vonatkozó szabályzatát. Ezt követően visszaállították a tartalmat a platformon.

3. Az Ellenőrző Bizottság jogosultsága és hatásköre

A Bizottságnak jogában áll megvizsgálni a Meta döntését annak a felhasználónak a felülvizsgálati kérelme alapján, akinek a tartalmát eltávolították (az Alapokmány 2. cikkének 1. szakasza; a szervezeti és működési szabályzat 3. cikkének 1. szakasza).

A Bizottság fenntarthatja vagy felülbírálhatja a Meta döntését (az alapokmány 3. cikkének 5. szakasza), és döntése kötelező a vállalatra nézve (az Alapokmány 4. cikke). A Metának azt is meg kell vizsgálnia, alkalmazható-e döntése párhuzamos kontextus hasonló tartalmaira (az Alapokmány 4. cikke). Döntéseiben a Bizottság olyan, nem kötelező érvényű ajánlásokat tartalmazó, szabályalkotást támogató tanácsadó nyilatkozatokat is megfogalmazhat, amelyekre a Meta köteles reagálni (az Alapokmány 3. cikkének 4. szakasza; illetve 4. cikke).

Amikor a Bizottság olyan, a mostanihoz hasonló eseteket választ ki, amelyeknél a Meta elismeri a hibáját, a Bizottság azért vizsgálja meg az eredeti döntést, hogy nagyobb rálátást biztosítson a hibák elkövetésének okaira, illetve hogy olyan észrevételekkel vagy javaslatokkal éljen, amelyek mérsékelhetik a hibák előfordulását, illetve elősegíthetik a körültekintőbb eljárást.

4.Hivatalos források

Az Ellenőrző Bizottság a következő hivatalos forrásokat vette figyelembe:

I.Az Ellenőrző Bizottság döntései:

A Bizottság jelen eset szempontjából legrelevánsabb döntései az alábbiak:

• A „wampumövről szóló döntés” (2021-012-FB-UA): Ebben a döntésében a Bizottság hangsúlyozta, mennyire fontos védeni a marginalizált csoportok szabad véleménynyilvánítását, és hogy a Metának gondoskodnia kell arról, hogy ne távolítson el olyan tartalmat, amely kivételnek minősül a gyűlöletbeszédre vonatkozó szabályzat alól.
• A „gyalázkodó kifejezések dél-afrikai használatáról szóló döntés” (2021-011-FB-UA): Ebben a döntésben a Bizottság úgy ítélte meg, hogy a Metának átláthatóbbnak kell lennie a gyalázkodó kifejezések listáinak összeállításakor használt eljárásokkal és kritériumokkal kapcsolatban. A Bizottság egyben javasolta, hogy a Meta prioritásként fejlessze tovább a felhasználókkal szembeni tisztességes eljárást a gyűlöletbeszédre vonatkozó szabályzat érvényesítésével kapcsolatban úgy, hogy a felhasználók jobban megérthessék a tartalom eltávolításának okait.
• A „mianmari botról hozott döntés” (2021-007-FB-UA): Ebben a döntésben a Bizottság hangsúlyozta a kontextus fontosságát annak megítélésekor, hogy a tartalom kivételnek minősül-e a gyűlöletbeszédre vonatkozó szabályzat alól.

A Bizottság az alábbi esetekben tett ajánlásaira is hivatkozik: Az „Öcalan magánzárkában való fogva tartásáról hozott döntés” (2021-006-IG-UA), a „kétgombos mémről hozott döntés” (2021-005-FB-UA), és a „mellrák tüneteiről és a meztelenségről hozott döntés” (2020-004-IG-UA).

II. A Meta tartalmi szabályai:

Ez az eset az Instagram közösségi irányelveivel és a Facebook közösségi alapelveivel kapcsolatos. A Meta Átláthatósági központja szerint „A Facebookra és az Instagramra azonos tartalmi szabályok vonatkoznak. Ez azt jelenti, hogy a Facebookon szabálysértőnek minősülő tartalmak az Instagramon is szabálysértőnek számítanak.”

Az Instagram közösségi irányelvei kijelentik:

Pozitív, sokszínű közösséget szeretnénk formálni. Eltávolítjuk a hitelt érdemlő fenyegetéseket vagy a gyűlöletbeszédet magukban foglaló tartalmakat... Soha nem fogadható el az erőszak bátorítása, vagy bárkivel szemben faji, etnikai hovatartozása, származása, neme, társadalmi neme, nemi identitása, szexuális irányultsága, vallása, fogyatékossága vagy egészségügyi állapota alapján indított támadás. A gyűlöletbeszéd megosztását megengedhetjük szembeszállás vagy figyelemfelhívás céljából. Azt kérjük, hogy ilyen esetekben egyértelműen nyilvánítsd ki a szándékodat.

A Facebook közösségi alapelvei szerint a gyűlöletbeszéd olyan tartalom, amely „közvetlenül támad másokat általunk védett tulajdonságként meghatározott szempontok – faj, etnikum, nemzeti vagy vallási hovatartozás, nemi irányultság, kaszt, biológiai és társadalmi nem, nemi identitás, súlyos fogyatékosság vagy betegség – miatt”. A Meta három szintre sorolja a támadásokat. A gyűlöletbeszédre vonatkozó szabályzata gyalázkodásról szóló része tiltja az olyan „[t]artalmat, amely gyalázkodóan ír le vagy negatívan vesz célba embereket, ahol a gyalázkodás a fenti tulajdonságokra vonatkozóan önmagában sértő és becsmérlő megjelölésként használt szavakat jelenti”. A harmadik szint fennmaradó része tiltja az emberek kirekesztéssel vagy kizárással való fenyegető tartalmakat.

A szabályzat indoklásában a Meta elmagyarázza a következőket:

Tisztában vagyunk vele, hogy az emberek néha az elítélés szándékával vagy felvilágosítás céljából osztanak meg olyan tartalmat, amelyben más gyűlöletbeszéde szerepel. Bizonyos esetekben az alapelveinket egyébként sértő beszédet az emberek saját magukra vonatkozóan vagy pozitív felhanggal használják. Szabályaink célja, hogy helyt adjanak az ilyen típusú beszédnek, de megköveteljük, hogy az emberek világosan nyilvánítsák ki a szándékukat. Ha a szándék nem egyértelmű, eltávolíthatjuk a tartalmat.

III. A Meta értékei:

A Meta értékeit a Facebook közösségi alapelveinek bevezetője ismerteti, amely „kiemelt fontosságú” értékként írja le a „véleménynyilvánítás” értékét.

Közösségi alapelveinknek mindig is az volt a célja, hogy teret biztosítsanak az embereknek az önkifejezésre és a véleménynyilvánításra. […] Szeretnénk, hogy az emberek nyíltan beszélhessenek a számukra fontos kérdésekről, még akkor is, ha vannak, akik nem értenek egyet velük, vagy kifogásolhatónak tartják őket.

A Meta négy érték érvényesítése érdekében korlátozza a „véleménynyilvánítást”, és ezek közül kettő releváns itt:

„Biztonság”: Határozott törekvésünk, hogy biztonságos hellyé tegyük a Facebookot. Az emberek számára fenyegető véleménynyilvánítás megfélemlíthet, kizárhat vagy elhallgattathat másokat, és nem engedélyezett a Facebookon.

„Méltóság”: Meggyőződésünk, hogy méltóságát és jogait tekintve minden ember egyenlő. Mindenkitől elvárjuk, hogy tisztelje mások méltóságát, és ne zaklassa vagy alacsonyítsa le őket.

IV. Nemzetközi emberi jogi normák:

Az ENSZ Emberi Jogi Tanácsa által 2011-ben elfogadott, üzleti és emberi jogokra vonatkozó irányadó ENSZ-alapelvek (UNGP-k) meghatározzák az üzleti vállalkozások emberi jogi felelősségének önkéntes keretrendszerét. 2021-ben a Meta közzétettevállalati emberi jogi szabályzatát, amelyben újfent megerősítette elkötelezettségét az UNGP-kben foglalt emberi jogok tiszteletben tartása mellett. A Bizottságnak a Meta emberi jogi felelősségével kapcsolatos elemzését ennél az esetnél a következő, jelen döntés 8. szakaszában alkalmazott emberi jogi normák támasztották alá:

• A szabad véleménynyilvánítás joga: A Polgári és Politikai Jogok Nemzetközi Egyezségokmányának (ICCPR) 19. cikke; 34. általános megjegyzés, Emberi Jogi Bizottság, 2011; 488/1992. sz. kommunikáció, Toonen v. Australia, Emberi Jogi Bizottság, 1992; 32/2. sz. határozat, Emberi Jogi Tanács, 2016; Az ENSZ vélemény és véleménynyilvánítás szabadságával foglalkozó különmegbízottjának jelentései: A/HRC/38/35 (2018) és A/74/486 (2019). Az ENSZ emberi jogi főbiztosának jelentése: A/HRC/19/41 (2011).
• A diszkriminációmentesség joga: Az ICCPR 2. cikkének 1. bekezdése, valamint az ICCPR 26. cikke.

5. Felhasználó által benyújtott információk

A Bizottságnak benyújtott nyilatkozatában a felhasználó az „arab queer kultúra ünneplésének” helyeként jellemezte a fiókját. Elmagyarázta, hogy bár a fiók növekvő követői táborral rendelkező „biztonságos hely”, egyre többet támadják zaklató hozzászólásokat író és a tartalmakat tömegesen bejelentő homofób trollok.

A felhasználó elmondta, hogy a tartalmat azért tette közzé, hogy ezzel a „nőies módon viselkedő férfiakat és fiúkat” ünnepelje az arab társadalomban, akiket gyakran megaláznak a bejegyzésben kiemelt becsmérlő nyelvezettel. Azt is elmagyarázta, hogy az ellenállás és a támogatás formájaként megpróbálta helyreállítani az ellenük használt becsmérlő szavak eredeti használatát, és azzal érvelt, hogy a bejegyzés tartalmában egyértelműen kifejtette, hogy nem nézi el és nem bátorítja a képeken szereplő szavak gyalázkodó jellegű használatát. A felhasználó azt is kijelentette, hogy véleménye szerint tartalmai nem ütköznek a Meta tartalmi szabályzatába, amely kifejezetten megengedi az egyéb esetben tiltott kifejezéseket, ha azokat a felhasználó önmagára hivatkozva vagy pozitív felhanggal használja.

6. Meta által benyújtott információk

Indoklásában a Meta elmagyarázta, hogy eredetileg azért távolította el a videót a gyűlöletbeszédre vonatkozó szabályzat értelmében, mivel a tartalomban a Meta gyalázkodó kifejezésekről összeállított listáján szereplő, „a melegekre használt becsmérlő kifejezés” szerepelt. A Meta végül visszavonta az eredeti döntést, és visszaállította a tartalmat, mert az érintett szó használata a Meta által meghatározott kivételek hatálya alá esett, mint „olyan tartalom, amely elítéli a gyalázkodást vagy a gyűlöletbeszédet, a gyalázkodások használatát, ezen belül a használat eseteinek bejelentését tárgyalja, vagy a használat elfogadhatóságát vitatja”. A Meta elfogadta, hogy a kontextus jelezte: a felhasználó fel kívánta hívni a figyelmet a szó sértő jellegére, és ezért a tartalom nem sértett szabályt.

A Bizottság azon kérdéseire, hogy a kontextus milyen módon releváns a gyűlöletbeszédre vonatkozó szabályzat alóli kivételek Meta általi alkalmazása szempontjából, a Meta kijelentette, hogy „a gyűlöletbeszéd és a gyalázkodó kifejezések megengedettek”, ha azokat a felhasználó kigúnyolja, elítéli, megvitatja, jelenti vagy önmagára hivatkozva használja, és hogy a felhasználó felelőssége, hogy egyértelművé tegye szándékát, amikor gyalázkodó kifejezést említ.

A Bizottság egy másik kérdésére a Meta kijelentette, hogy „nem találgatták”, miért távolították el tévesen a tartalmat, mivel a tartalomellenőrök nem dokumentálják döntéseik okait.

A Bizottság összesen 17 kérdést tett fel a Metának, amelyből az 16-ot teljesen, 1-et pedig részben megválaszolt.

7. Nyilvános hozzászólások

A Bizottság három nyilvános hozzászólást kapott az esettel kapcsolatban. Egy hozzászólás az Egyesült Államokból és Kanadából, egy a közel-keleti és észak-afrikai régióból, egy pedig Latin-Amerikából és a Karib-térségből érkezett.

A hozzászólások az alábbi témákat érintették: LMBT-emberek biztonsága a főbb közösségimédia-platformokon, a helyi kontextus figyelembevétele a gyűlöletbeszédre vonatkozó szabályzat érvényesítésében, és az arab szavak változó jelentései.

Az esethez beküldött nyilvános hozzászólások elolvasásához kattints ide.

Ezen túlmenően, az érintettek bevonására irányuló, folyamatban lévő erőfeszítések részeként a Bizottság tagjai tájékozódó és ismeretbővítő megbeszéléseket folytattak olyan szervezetekkel, amelyek a véleménynyilvánítás szabadságáért és az LMBTQIA+-emberek (köztük az arab nyelvűek) jogaiért küzdenek. A megbeszélések a következő aggályokra világítottak rá: annak a nehézsége, hogy egy gyalázkodó kifejezés használatát kategorikusan helyreállítottnak és általánosan nem sértőnek nyilvánítsák, amikor az érintett kifejezést a beszélő szándékától függetlenül egyes közönségek továbbra is gyalázkodásnak hallhatják; problémák, amelyeket az okoz, hogy az LMBTQIA+ érdekvédelmi csoportok és a nem angolul beszélő közösségek nem véleményezik a tartalmi szabályzatokat; és a kontextusra nem kellően érzékeny tartalommoderálás kockázatai.

8.Az Ellenőrző Bizottság elemzése

A Bizottság három nézőpontból vizsgálta azt a kérdést, hogy vissza kellene-e állítani ezt a tartalmat: a Meta tartalmi szabályai, a vállalat értékei, valamint a vállalat emberi jogi felelőssége.

A Bizottság azért választotta ki ezt az esetet, mert az üldözött kisebbségi csoportokhoz tartozó felhasználók beszédének túlzott moderálása súlyos és gyakori fenyegetést jelent az ilyen felhasználók véleménynyilvánításának szabadságára nézve. Az üldözött csoportok számára különösen fontosak a véleménynyilvánításra alkalmas online felületek, és a közösségimédia-vállalatoknak kiemelt figyelmet kell fordítaniuk jogaik védelmére. Ez az eset egyben érzékelteti az a feszültséget, amely a kisebbségek gyűlöletbeszéddel szembeni védelme és aközött áll fenn, hogy a Meta igyekszik olyan platformot teremteni, ahol a kisebbségek teljes mértékben kifejezhetik önmagukat, és ezen belül a gyűlöletkeltő gyalázkodó kifejezések használatát is helyreállíthatják.

8.1. Megfelelés a Meta tartalmi szabályainak

I.Tartalmi szabályok

A Bizottság megállapítja, hogy bár gyalázkodó kifejezéseket használ, a tartalom nem gyűlöletbeszéd, mivel a gyűlöletbeszédre vonatkozó szabályzat olyan kifejezésekre érvényes kivételei közé tartozik, amelyeket „az emberek saját magukra vonatkozóan vagy pozitív felhanggal használnak”, továbbá azért is kivétel, mert azért idéz gyűlöletbeszédet, hogy „elítélje azt, vagy felhívja rá a figyelmet”.

A „wampumövről” és a „kétgombos mémről” szóló döntésekben a Bizottság megjegyezte, hogy a felhasználónak nem kell nyíltan kinyilvánítania szándékát egy bejegyzésben ahhoz, hogy az megfeleljen a gyűlöletbeszédre vonatkozó szabályzat kivételeire megszabott követelményeknek. Elegendő, ha a bejegyzés kontextusában a felhasználó világosan megfogalmazza, hogy a szabályzat által engedélyezett módon használ gyűlöletbeszédnek minősülő kifejezéseket.

A tartalom azonban ebben az esetben magában foglalta a felhasználó kijelentéseit arról, hogy nem „nézi el vagy bátorítja” az érintett gyalázkodó kifejezések sértő használatát, és bejegyzése „kísérlet az uralkodó narratívának való ellenállásra és annak megkérdőjelezésére”, valamint „az ilyen sértő kifejezések használatának helyreállítására”. Bár a szándék egyértelmű kinyilvánítása nem mindig feltétlenül szükséges vagy elégséges a gyűlöletbeszéd használatának vagy idézésének legitimizálására, el kell, hogy gondolkoztassa a moderátort a kivétel alkalmazásának lehetőségéről. Ebben az esetben a Bizottság úgy ítéli meg, hogy a szándék kinyilvánítása és a kontextus együtt nyilvánvalóvá teszi, hogy a tartalom egyértelműen a kivétel hatálya alá tartozik.

Ennek ellenére a Meta először eltávolította a tartalmat, és három moderátor egymástól függetlenül arra a megállapításra jutott, hogy a tartalom megsértette a gyűlöletbeszédre vonatkozó szabályzatot. Bár számos lehetséges oka lehet annak, hogy miért sorolta be több moderátor is tévesen a tartalmat, a Meta nem tudott konkrét magyarázatot adni a hibára, mivel a vállalat nem követeli meg a moderátoroktól döntéseik indokainak rögzítését. Amint azt a „wampumövről” szóló döntés is megjegyezte, a hibák jellege és a hibák következményét elszenvedő emberek és közösségek a platform szabálybetartatási rendszereinek olyan tervezési döntéseit tükrözik, amelyek veszélyeztetik az üldözött csoportok tagjainak szólásszabadságát. Ha a Meta egy üldözött vagy marginalizált csoporttal kapcsolatos tartalmaknál a túlzott szabálybetartatás ismétlődő mintázatát észleli (mint például ebben az esetben), helyénvaló lenne megvizsgálni a szabálybetartatási döntések indoklását, és megfontolni, milyen módosítások szükségesek a moderálási szabályok, illetve a meglévő szabályokkal kapcsolatos képzés vagy felügyelet terén a véleménynyilvánítási jogok szempontjából különösen veszélyeztetett csoportok tagjait érintő túlbuzgó szabálybetartatás elkerülése érdekében.

II.Szabálybetartatási intézkedés

A Bizottság kérdéseire adott válaszában a Meta elmagyarázta, hogy csak azért állította vissza a tartalmat a platformon, mert a Meta munkatársa megjelölte eszkalált szintű ellenőrzésre. Az „eszkalált szintű ellenőrzés” azt jelenti, hogy a döntés nem – gyakran kiszervezett formában zajló – tömeges ellenőrzésen esik át, hanem a Meta belső csapatához kerül. Ehhez valószínűleg arra volt szükség, hogy a Meta egy munkatársa észrevegye a tartalom eltávolítását, majd kitöltse és beküldje a problémát jelző belső webes űrlapot. Amellett, hogy véletlenszerűen működnek, az ilyen rendszerek csak olyan tartalmak hibáit tudják azonosítani, amelyekkel a Meta munkatársai személyesen találkoznak. Hasonlóképpen, a nem angol nyelvű tartalmakra, az USA-ban nem sok követővel rendelkező fiókok által közzétett tartalmakra vagy a Metán belül erős képviselettel nem rendelkező csoportok számára vagy általuk közzétett tartalmakra sokkal kisebb valószínűséggel figyelnek fel, jelölik meg őket, és az ilyen tartalmak sokkal kisebb valószínűséggel kapnak külön figyelmet.

Az érintettek bevonása nyomán a Bizottság megismerte az érintettek aggályait, amelyek szerint a gyűlöletbeszédre vonatkozó szabályzat alóli kivételek pontos alkalmazása olyan mértékű tárgyi szakértelmet és helyismeretet igényel, amelyeket a Meta nem, vagy nem mindig tud alkalmazni. A Bizottság megosztja aggályait, melyek szerint a Meta csak akkor fog tudni részletes listákat készíteni a gyalázkodó kifejezésekről és megfelelő iránymutatást adni moderátorainak arra nézve, hogyan kell alkalmazni a gyalázkodó kifejezésekről szól szabályok alóli kivételeket, ha országspecifikus szinten, rendszeresen kikéri a gyalázkodó kifejezésekkel megcélzott kisebbségek véleményét.

8.2. Megfelelés a Meta értékeinek

A Bizottság szerint a tartalom eltávolításáról szóló eredeti döntés nem állt összhangban a Meta „véleménynyilvánítás” és „méltóság” értékével, továbbá nem szolgálta a „biztonság” értéket. Bár az embereket platformjainkon zaklató gyalázkodó kifejezések használatának megelőzése összhangban van a Meta értékeivel, a Bizottság aggályosnak tartja, hogy a Meta nem alkalmazza következetesen a szabályzat kivételeit a marginalizált csoportok véleménynyilvánítására.

Az eset kontextusában kiemelten fontos a „véleménynyilvánítás” értéke, amely a marginalizált csoportok tagjainak szabad véleménynyilvánítását ösztönzi. A Meta helyesen próbálja korlátozni a célszemélyek becsmérlésére és megfélemlítésére szolgáló gyalázkodó kifejezések használatát, és engedélyezni a jóhiszemű próbálkozásokat arra, hogy a használat helyreállításán keresztül megfosszák ezeket a kifejezéseket negatív hatásuktól.

A Bizottság elismeri, hogy a gyalázkodó kifejezések terjesztése hatással van a „méltóság” értékére. A gyalázkodó szavakkal való találkozás – különösen, ha sértő szándékkal használják őket, vagy ha a szövegkörnyezetben nincsenek azt jelző utalások, hogy nem sértő céllal használják őket – megfélemlítheti, felzaklathatja vagy sértheti a felhasználókat oly módon, hogy gátolja az online véleménynyilvánítást. Ha a szövegkörnyezetben egyértelmű utalások vannak arra, hogy a gyalázkodó kifejezést a felhasználó azért említi, hogy elítélje, felhívja rá a figyelmet, illetve önmagára vonatkoztatva vagy pozitív felhanggal használja, a „méltóság” értéke nem követeli meg az adott kifejezés eltávolítását a platformról. Épp ellenkezőleg, a kivételeket figyelmen kívül hagyó túlzott szabálybetartatás különösen negatív hatással van a kisebbségi és marginalizált csoportokra. Amint azt a Bizottság a „kétgombos mémről” hozott döntésében javasolja, a Metának gondoskodnia kell arról, hogy moderátorai elegendő erőforrást és támogatást kapjanak a releváns kontextus megfelelő értékeléséhez. A felhasználók – különösen a marginalizált csoportokból származó felhasználók – „véleménynyilvánításának” és „méltóságának” védelme érdekében fontos, hogy a moderátorok képesek legyenek különbséget tenni a gyalázkodó kifejezésekre tett engedélyezett utalások és a gyalázkodó kifejezések megengedhetetlen használata között.

Mivel a marginalizált csoportok „méltósága” és „biztonsága” kiemelt kockázatnak van kitéve a közösségimédia-platformokon, a platformokra is nagyobb felelősség hárul ezen értékek védelme terén. A „wampumövről” szóló döntésében a Bizottság már javasolta, hogy a Meta értékelje a gyűlöletbeszédre vonatkozó szabályzat alóli engedmények alkalmazásának pontosságát. A pontosság javítható a moderátorok képzésével, hogy képesek legyenek azonosítani a hátrányosan megkülönböztetett közösségeket érintő tartalmakat, és kapjanak utasításokat annak körültekintő mérlegelésére, hogy érvényesek-e a gyűlöletbeszédre vonatkozó szabályzat alóli kivételek. A kivételek alkalmazását a tartalom és a kapcsolódó kontextuális utalások értékelésének eredményétől kell függővé tenni.

A „biztonság” értéke kapcsán a Bizottság megjegyzi a biztonságos online terek és a körültekintő moderálás kiemelt fontosságát a marginalizált és fenyegetett közösségek szempontjából. Az arab nyelvű LMBTQIA+-megszólalók, különösen a közel-keleti és észak-afrikai régióban bizonyos mértékű veszélynek vannak kitéve, ha nyíltan elmondják véleményüket az online térben. A Metának egyensúlyt kell teremtenie az ilyen jellegű véleménynyilvánítás támogató platformjainak biztosítása és aközött, hogy ne moderálja túlzott mértékben, és ne hallgattassa el azokat az embereket, akiket már egyébként is cenzúra és elnyomás sújt. Miközben a Bizottság elismeri a moderálás, különösen a tömeges moderálás, komplexitását ezen a területen, fontos, hogy a platformok biztosítsák a szükséges erőforrásokat ennek megfelelő végrehajtásához.

8.3. A Meta emberi jogi felelősségének való megfelelés

A Bizottság megállapítja, hogy a Meta első döntése a tartalom eltávolításáról nem volt összhangban vállalatként fennálló emberi jogi felelősségével. A Meta elkötelezte magát az emberi jogoknak az üzleti vállalkozások emberi jogi felelősségeivel foglalkozó ENSZ-irányelvek (UNGP-k) szerinti tiszteletben tartása mellett. A Facebook vállalati emberi jogi szabályzata szerint ennek része a Polgári és Politikai Jogok Nemzetközi Egyezségokmányának (ICCPR) tiszteletben tartása is.

1. A véleménynyilvánítás szabadsága (ICCPR, 19. cikk)

Az ICCPR 19. cikke rendelkezik a véleménynyilvánítás széles körű védelméről, ideértve az emberi jogok megvitatását és a „mélyen sértőnek” tekinthető véleménynyilvánítást is ( 34. általános megjegyzés, 11. bekezdés). A szabad véleménynyilvánítás joga minden ember számára nemi vagy egyéb megkülönböztetés nélkül garantált (az ICCPR 2. cikkének 1. bekezdése). Ez magában foglalja a szexuális irányultságot és a nemi identitást is (Toonen v. Australia (1992); A/HRC/19/41, 7. bekezdés).

Ez a bejegyezés az LMBTQIA+-emberek elleni diszkrimináció fontos társadalmi kérdéseivel foglalkozik. Az ENSZ emberi jogi főbiztosa aggodalmának adott hangot a véleménynyilvánítás szabadságának az LMBTQIA+-jogokért való kiállás diszkriminatív szigorításából eredő korlátozásával kapcsolatban ( A/HRC/19/41, 65. bekezdés).

A 19. cikk előírja, hogy ha az állam a véleménynyilvánításra korlátozásokat vezet be, ezeknek korlátozásoknak teljesíteniük kell a jogszerűség, a jogos cél, a szükségesség és az arányosság követelményeit (az ICCPR 19. cikkének 3. bekezdése). Az UNGP-k keretrendszerére támaszkodva az ENSZ vélemény és véleménynyilvánítás szabadságáért felelős különmegbízottja felszólította a közösségimédia-vállalatokat, hogy ügyeljenek arra, hogy tartalommal kapcsolatos szabályaik megfeleljenek az ICCPR 19. cikke 3. bekezdésében foglalt követelményeknek (lásd A/HRC/38/35 jelentés, 45. és 70. bekezdése).

I. Jogszerűség (a szabályok egyértelműsége és hozzáférhetősége)

A jogszerűség követelménye előírja, hogy a szabad véleménynyilvánítás bármilyen korlátozásának hozzáférhetőnek és elég világosnak kell lennie ahhoz, hogy útmutatást adjon arra nézve, hogy mi megengedett és mi nem.

A „mellrák tüneteiről és a meztelenségről” szóló esetben (2020-004-IG-UA, 9. sz. ajánlás), az „Öcalan magánzárkában való fogva tartásáról” szóló esetben (2021-006-IG-UA, 10. sz. ajánlás) és a lakhellyel kapcsolatos privát adatok megosztásáról szóló szabályzatra vonatkozó iránymutatásban (9. sz. ajánlás) a Bizottság javasolta, hogy a Meta tegye egyértelművé az Instagram felhasználói számára, hogy a Facebook közösségi alapelvei – néhány kivétellel – ugyanúgy érvényesek az Instagramra is, mint a Facebookra. A szabályzatra vonatkozó iránymutatásban a Bizottság javasolta, hogy a Meta ennek 90 napon belül tegyen eleget. A Bizottság említést tesz a Meta szabályzatra vonatkozó iránymutatásra adott válaszáról, mely szerint miközben az ajánlást teljes mértékben meg fogja valósítani, a 90 napos határidőt nem tudja vállalni, mert még dolgozik az Instagram átfogóbb közösségi irányelveinek megfogalmazásán, tisztázva a Facebook közösségi alapelveivel fennálló kapcsolatot. Miután több alkalommal megismételte ezt az ajánlást, a Bizottság úgy véli, hogy a Metának elegendő ideje volt felkészülni ezekre a változásokra. Az Instagram közösségi irányelvei és a Facebook közösségi alapelvei közötti tisztázatlan kapcsolat állandó zavart okoz a Meta-platformok felhasználói körében. Bár az Instagram közösségi irányelvei tartalmaznak egy, a Facebook gyűlöletbeszédre vonatkozó közösségi alapelveire mutató hivatkozást, a felhasználók számára jelenleg nem egyértelmű, hogy a Facebook gyűlöletbeszédre vonatkozó közösségi alapelvei, ideértve a gyalázkodó kifejezések használatának tilalmát és a kivételeket, teljes egészében vonatkoznak az Instagramra is. A Bizottság számára továbbra is kiemelt prioritás az Instagram közösségi irányelveinek gyors és átfogó módosítása.

A gyalázkodó kifejezések listájának összeállításával kapcsolatban a Bizottság megismétli a „gyalázkodó kifejezések dél-afrikai használatáról” szóló esetben (2021-011-FB-UA) tett észrevételét, mely szerint a Metának átláthatóbbnak kell lennie a lista összeállításakor alkalmazott eljárásokkal és kritériumokkal kapcsolatban. Ebben az esetben a Meta elmagyarázta, hogy a gyalázkodó kifejezések egyes piacokra vonatkozó listáját „az érintett belső partnerek, például a folyamatokkal, piacokkal és tartalompolitikával foglalkozó csoportok által végzett elemzés és ellenőrzés” alapján határozza meg. A Meta azt is közölte, hogy piaci szakértői évente ellenőrzik a gyalázkodó kifejezések listáját, és minden egyes kifejezést minőségileg és mennyiségileg is értékelnek, különbséget téve „az akár önmagukban eleve sértő szavak és a nem eleve sértő szavak” között. A Bizottság számára nem világos, hogy mikor kerül sor erre az éves ellenőrzésre, de miután a Bizottság kiválasztotta ezt az esetet, a Meta ellenőrizte a „z***l” szó használatát. Az ellenőrzést követően a szót eltávolították az „arab” nyelvű gyalázkodó kifejezések listájáról, de fennmaradt a „maghrebi piac” gyalázkodó kifejezéseinek listáján. A Bizottság nem tudja, hogy ez az ellenőrzés a normál eljárás része volt-e, vagy az eset Bizottság által kiválasztására reagáló, ad hoc ellenőrzés. Általánosabban fogalmazva, a Bizottság számára nem egyértelmű, hogy mit jelentenek az éves ellenőrzésekben szereplő minőségi és mennyiségi értékelések.

A felhasználók számára nem áll rendelkezésre információ a gyalázkodó kifejezések listájának összeállításakor és a piacok kijelölésekor követett folyamatokról és kritériumokról, különös tekintettel a nyelvi és földrajzi piacok megkülönböztetésének módjára. Ilyen információ híján a felhasználók nehezen tudják megítélni, mely szavak minősülhetnek gyalázkodásnak kizárólag a gyűlöletbeszédre vonatkozó szabályzat meghatározása alapján, amely olyan szubjektív fogalmakra támaszkodik, mint az eleve sértő és bántó jelleg ( A/74/486, 46. bekezdés; lásd még A/HRC/38/35, 26. bekezdés).

A gyalázkodó kifejezéseket tartalmazó lista alkalmazásának módjára vonatkozóan a „gyalázkodó kifejezések dél-afrikai használatáról” szóló esetben (2021-011-FB-UA) a Meta kijelentette, hogy „a gyalázkodó kifejezések tiltása globális, de a gyalázkodó kifejezések meghatározása piacspecifikus”. Kifejtette, hogy „[h]a egy kifejezés szerepel a gyalázkodó kifejezések piacspecifikus listáján, a gyűlöletbeszédre vonatkozó szabályzat tiltja a használatát az adott piacon”. A Meta magyarázata nem egyértelmű azzal kapcsolatban, hogy a lista globális szintű alkalmazásának gyakorlata azt jelenti-e, hogy a piacspecifikus gyalázkodó kifejezések globálisan is tiltottak. A Meta kifejtette, hogy a piacot „az ország(ok) és nyelv(ek)/dialektus(ok) kombinációjaként” határozza meg, és hogy a „piac[ok] közötti felosztás elsősorban a nyelv/nyelvjárás és a tartalom országa kombinációján alapul”. A Meta tartalomellenőreit „nyelvi képességeik és kulturális, illetve piaci ismereteik alapján rendelik hozzá a piacukhoz”. A Meta szerint ez a tartalom az arab és a maghrebi piacokat érintette a gyalázkodó kifejezések listáján. „Többféle jel kombinációja alapján, például hely, nyelv, a tartalomban észlelt nyelvjárás, a tartalom típusa és a bejelentés típusa alapján” rendelték hozzá ezekhez a piacokhoz. A Bizottság számára nem kellően világos, hogy ezek jelek hogyan működnek együtt annak meghatározásában, hogy egy tartalom mely piacokat érint, és hogy ha egy tartalomban egy adott piacon gyalázkodó kifejezésnek minősülő szó szerepel, akkor a tartalmat csak akkor távolítják el, ha a tartalom az adott piacra vonatkozik, vagy pedig globálisan. Maguk a közösségi alapelvek nem ismertetik ezt a folyamatot.

A Metának átfogó magyarázatot kell kiadnia arra nézve, hogyan tartatja be a gyalázkodó kifejezésekre vonatkozó szabályokat a platformon. A jelenlegi szabályzat több ponton is homályos, többek között abban a tekintetben, hogy az egyes földrajzi területekhez rendelt gyalázkodó kifejezéseket csak akkor távolítják el a platformról, ha az adott földrajzi területeken teszik közzé vagy nézik meg őket, vagy attól függetlenül, hogy hol teszik közzé vagy nézik meg őket. A Metának azt is el kell magyaráznia, hogyan kezeli azokat a szavakat, amelyek bizonyos környezetben gyalázkodó kifejezésnek számítanak, de máshol teljesen más, a Meta szabályait nem sértő jelentéssel bírnak.

A gyűlöletbeszédre vonatkozó közösségi alapelvek felépítése is zavart okozhat. Bár a gyalázkodó kifejezések használatának tilalma a harmadik szintű gyűlöletbeszéd címszó alatt szerepel, a Bizottság számára nem egyértelmű, hogy a tiltás valójában a harmadik szinthez tartozik-e, mivel a gyalázkodó kifejezések nem feltétlenül kirekesztéssel vagy kizárással fenyegetik az embereket, és az említett szint többi részének középpontjában ezek állnak.

II.Jogszerű cél

A véleménynyilvánítás bármilyen korlátozásának az ICCPR szerinti valamely jogos célt kell követnie, ami lehet egyebek mellett „mások jogainak” védelme is. Az esetben alkalmazott szabály mások jogai megvédésének jogos célját szolgálta (a 34. általános megjegyzés 28. bekezdése) az egyenlőség szempontjából, továbbá a szexuális irányultság és a nemi identitás alapján mások felé irányuló erőszakkal és diszkriminációval szembeni védelmet is (az ICCPR 2. cikkének 1. bekezdése, illetve az ICCPR 26. cikke); az ENSZ Emberi Jogi Bizottsága, Toonen v. Australia (1992); Az ENSZ Emberi Jogi Tanácsának 32/2 sz. határozata a szexuális irányultság és a nemi identitás alapján mások felé irányuló erőszakkal és diszkriminációval szembeni védelemről).

III. Szükségesség és arányosság

A szükségesség és arányosság elve alapján a szabad véleménynyilvánítás korlátozásának „megfelelőnek kell lennie a védelmi funkció ellátásához; a lehető legkevésbé zavaró eszköznek kell lennie azok közül, amelyekkel a védelmi funkció ellátja feladatát; [és] arányosnak kell lennie a védeni kívánt érdekkel” (a 34. általános megjegyzés 34. bekezdése).

Ebben az esetben nem volt szükséges eltávolítani a tartalmat, mivel eltávolítása egyértelműen olyan hiba volt, amely nem állt összhangban a Meta gyűlöletbeszédre vonatkozó szabályzatával. Továbbá nem az eltávolítás volt a lehető legkevésbé zavaró eszköz a jogos cél eléréséhez, mert minden eltávolítással végződő ellenőrzés során a 10 fotót tartalmazó teljes galériát eltávolították egy olyan állítólagos szabályszegés miatt, amely csak egyetlen fényképen merült fel. Még ha a galériában egyetlen olyan, tiltott gyalázkodó kifejezéseket tartalmazó kép szerepelt is volna, amelyre nem vonatkozik a kivétel, a teljes galéria eltávolítása akkor sem lett volna arányos válaszlépés.

A Meta elmagyarázta a Bizottságnak, hogy „a bejegyzés akkor minősül szabálysértőnek, ha bármely fényképe sérti a közösségi alapelveket”, és „a Facebookkal ellentétben, a Meta nem tud egyetlen képet eltávolítani egy több fényképet tartalmazó Instagram-bejegyzésből”. A Meta elmondta, hogy javasolták a tartalomellenőrzési eszköz módosítását azzal a céllal, hogy a tartalomellenőrök el tudják távolítani egy galériából kizárólag a jogsértő fényképet, de a módosítás nem élvezett prioritást. A Bizottság nem találta egyértelműnek ezt a magyarázatot, és úgy véli, hogy a módosítás hátrébb sorolása a fontossági listán túlzott rendszerszintű szabálybetartatáshoz vezethet, amikor egész galériákat távolítanak el, holott csak egy részüket tartják szabálysértőnek. A Bizottság azt is megjegyzi, hogy amennyiben egy felhasználó ugyanazt a fényképsorozatot teszi közzé a Facebookon és az Instagramon, az ilyen jellegű tartalmak eltérő kezelése a két platformon olyan következetlen eredményekhez vezet, amelyeket semmilyen érdemi szabálybeli különbség nem indokol: ha az egyik fénykép sérti a szabályokat, az az Instagramon az egész galéria eltávolítását eredményezi, a Facebookon azonban nem.

2.Diszkriminációmentesség

Tekintettel arra, hogy milyen fontos a lealacsonyító kifejezések használatának helyreállítása az LMBTQUIA+-emberek számára a diszkrimináció elleni fellépés szempontjából, a Bizottság elvárja, hogy a Meta tanúsítson fokozott érzékenységet a jelen esetben tárgyalthoz hasonló tartalmak potenciálisan téves eltávolításával kapcsolatban a Facebookon és az Instagramon. Amint a Bizottság az őslakosok művészi önkifejezésével kapcsolatos, „wampumövről” szóló döntésében (2021-012-FB-UA) megjegyezte, nem elegendő összességében értékelni a Meta teljesítményét a Facebook gyűlöletbeszédre vonatkozó szabályzatának betartatása során – az egyes konkrét marginalizált csoportokra gyakorolt hatást is figyelembe kell venni. Az UNGP-k szerint „az üzleti vállalkozásoknak különös figyelmet kell fordítaniuk az olyan csoportokhoz vagy népességcsoportokhoz tartozó egyénekre gyakorolt konkrét emberi jogi hatásokra, akiket fokozottan veszélyeztethet a kiszolgáltatottság vagy a marginalizáció” (UNGP-k, 18. és 20. alapelv). Azokban az országokban, ahol büntetik az LMBTQIA+ emberek véleménynyilvánítását, gyakran a közösségi média az egyetlen eszköz, amelyen keresztül még szabadon nyilváníthatnak véleményt. Ez különösen így van az Instagram esetében, ahol a közösségi irányelvek lehetővé teszik a felhasználók számára, hogy ne a saját nevüket használják. A Bizottság megjegyzi, hogy a közösségi alapelvek nem biztosítják ugyanezt a szabadságot a Facebook felhasználói számára. Fontos lenne a Meta részéről annak bizonyítása, hogy végzett emberi jogi átvilágítást annak biztosítása érdekében, hogy rendszerei tisztességesen működjenek, és ne járuljanak hozzá a diszkriminációhoz (UNGP-k, 17. alapelv). A Bizottság megjegyzi, hogy a Meta rendszeresen értékeli a gyűlöletbeszéddel kapcsolatos szabálybetartatási rendszereinek pontosságát („wampumövről” szóló döntés). Ezek az értékelések azonban nincsenek lebontva olyan pontossági értékelésekre, amelyek kifejezetten azt mérik, hogy a Meta képes-e megkülönböztetni a tiltott gyűlöletbeszédet az olyan megengedett tartalomtól, amely megpróbálja helyreállítani a becsmérlő kifejezések használatát.

Az ennél az esetnél felmerült hibák arra engednek következtetni, hogy a Meta nem nyújt kellő szintű iránymutatást a lealacsonyító kifejezésekre való utalásokat értékelő moderátoroknak. A Bizottság aggódik, hogy kapacitáshiány vagy a képzés hiányosságai miatt nem áll elegendő erőforrás az ellenőrök rendelkezésére a jelen esetben látott hiba megelőzésére, különösen a szabályok kivételei által engedélyezett tartalmak kapcsán. Ebben az esetben a Meta tájékoztatta a Bizottságot, hogy a szabályok „egységes globális betartatása” érdekében elérhetők angolul az ismert kérdések és a belső végrehajtási alapelvek, és hogy „minden tartalommoderátora folyékonyan beszél angolul”. A „mianmari botról” szóló döntésben (2021-007-FB-UA) a Bizottság javasolta, hogy a Meta tegye elérhetővé belső végrehajtási alapelveit azon a nyelven, amelyen a tartalommoderátorok ellenőrzik a tartalmakat. A Meta nem tett további intézkedést ezzel az ajánlással kapcsolatban, azt a hasonló választ adva, hogy tartalommoderátorai folyékonyan beszélnek angolul. A Bizottság meglátása szerint eleve kihívást jelent angolul iránymutatást adni a moderátoroknak arra nézve, hogyan moderálják a nem angol nyelvű tartalmakat. A belső végrehajtási alapelvek és az ismert kérdések gyakran az amerikai angol olyan nyelvi struktúráit követik, amelyek más nyelveken (pl. arabul) nem érvényesek.

A „wampumövről” szóló döntésben (2021-012-FB-UA, 3. sz. ajánlás) a Bizottság javasolta, hogy a Meta végezzen a gyűlöletbeszédről szóló szabályzat olyan kivételeire összpontosító pontossági felméréseket, amelyek az emberi jogok megsértéséről szóló kifejezésekkel kapcsolatosak (pl. elítélés, figyelemfelkeltés, használat önmagára vonatkoztatva vagy pozitív felhanggal), és hogy a Meta ossza meg ennek az értékelésnek az eredményeit, ideértve azt is, hogy ezek az eredmények miként szolgálnak majd alapul a szabálybetartatás továbbfejlesztéséhez és a szabályzatok kidolgozásához. A Bizottság azért adta ki ezt az ajánlást, mert tisztában van vele, milyen nagy árat kell fizetni az emberi jogok megsértésével kapcsolatos véleménynyilvánítás túlzott mértékű eltávolításáért. A Bizottság tudomásul veszi a Meta ajánlással kapcsolatos aggályait a megvalósíthatóság értékelésére vonatkozóan, ideértve (a) a konkrét kategóriák hiányát az olyan területeket érintő kivételekre vonatkozó szabályokban, mint például az emberi jogok megsértése, és (b) a gyűlöletbeszédre vonatkozó kivételek hatálya alá tartozó tartalmak könnyen azonosítható mintájának hiányát. A Bizottság meggyőződése, hogy ezek a kihívások legyőzhetők, és a Meta a gyűlöletbeszédre vonatkozó jelenlegi kivételekre összpontosíthatná elemzését, és prioritást adhatna a tartalmi minták azonosításának. A Bizottság arra ösztönzi a Metát, hogy kötelezze el magát a „wampumövről” szóló esetben ( 2021-012-FB-UA) megfogalmazott ajánlás végrehajtása mellett, és szívesen fogadja, ha a Meta következő negyedéves jelentésében tájékoztatást ad a helyzetről.

9. Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálja a Meta tartalom eltávolítására vonatkozó eredeti döntését.

10. Szabályalkotást támogató tanácsadó nyilatkozat

Szabálybetartatás

1. A Metának le kell fordítania a belső végrehajtási alapelveket és az ismert kérdéseket modern standard arab nyelvre. Ezzel enyhíteni lehetne a szabályok túlzott betartatását az arab nyelvű régiókban, segítve a moderátorokat annak jobb megítélésében, mikor indokolt alkalmazni a gyalázkodó tartalmakra vonatkozó kivételeket. A Bizottság megjegyzi, hogy a Meta nem hozott további intézkedést a „mianmari botról” szóló döntésben (2021-007-FB-UA) szereplő azon ajánlással kapcsolatban, hogy a Meta tegye elérhetővé belső végrehajtási alapelveit azon a nyelven, amelyen a tartalommoderátorok ellenőrzik a tartalmakat. A Bizottság akkor fogja ezt ajánlást végrehajtottnak tekinteni, amikor a Meta tájékoztatja a Bizottságot a modern standard arab nyelvre való fordítás elkészültéről.

Átláthatóság

2. A Meta tegyen közzé egyértelmű magyarázatot arról, hogyan állítja össze a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, milyen folyamatok és kritériumok alapján döntik el, hogy mely gyalázkodó kifejezéseket és mely országokat rendelik hozzá az egyes piacspecifikus listákhoz. A Bizottság akkor fogja ezt végrehajtottnak tekinteni, amikor közzéteszik a tájékoztatást az Átláthatósági központban.

3. A Meta tegyen közzé egyértelmű magyarázatot arról, hogyan érvényesíti a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, hogy milyen folyamatok és kritériumok alapján határozzák meg, hol és mikor érvényesítik a gyalázkodó kifejezésekre vonatkozó tiltást, legyen szó akár földrajzilag az érintett régióból származó, akár az érintett régión kívülről származó, de ahhoz kapcsolódó bejegyzésekről és/vagy az érintett régió összes felhasználójáról, a bejegyzés földrajzi eredetétől függetlenül. A Bizottság akkor fogja ezt az ajánlást végrehajtottnak tekinteni, amikor közzéteszik a tájékoztatást a Meta Átláthatósági központjában.

4. A Meta tegyen közzé egyértelmű magyarázatot arról, hogyan ellenőrzi a gyalázkodó kifejezések piacspecifikus listáit. Ennek a magyarázatnak ki kell térnie arra, hogy milyen folyamatok és kritériumok alapján távolít el gyalázkodó kifejezéseket a Meta piacspecifikus listáiról vagy tartja fenn őket a listán. A Bizottság akkor fogja ezt az ajánlást végrehajtottnak tekinteni, amikor közzéteszik a tájékoztatást a Meta Átláthatósági központjában.

*Eljárással kapcsolatos megjegyzés:

Az Ellenőrző Bizottság döntéseit öttagú testületek készítik elő, és a Bizottság többségének jóvá kell hagynia őket. A Bizottság döntései nem feltétlenül képviselik az összes tag személyes nézeteit.

Az esetről hozott döntéssel kapcsolatban független kutatás zajlott a Bizottság megbízásából. Ennek részese volt a Göteborgi Egyetemen működő független kutatóintézet, amely hat földrész 50 társadalomtudósából álló csapatra és több mint 3200 nemzetközi országszakértőre támaszkodik. A geopolitika, a bizalom és biztonság, valamint a technológia metszéspontjaiban működő Duco Advisors tanácsadó cég szintén segítette a Bizottság munkáját. A világ 5000 városában dolgozó, együtt több mint 350 nyelven folyékonyan beszélő szakembergárdát foglalkoztató Lionbridge Technologies LLC nyelvészeti szakértelmét bocsátotta rendelkezésre.