Wampumöv

Az eset összefoglalása

Megjegyzés: 2021. október 28-án a Facebook bejelentette, hogy vállalatnevét a Meta névre változtatja. Ebben a szövegben a Meta a vállalatot jelenti, miközben a Facebook továbbra is magát a terméket, valamint a konkrét alkalmazáshoz kapcsolódó szabályzatokat jelenti.

Az Ellenőrző Bizottság felülbírálta a Meta eredeti döntését egy észak-amerikai őslakos művész Facebook-bejegyzésének eltávolításáról a Facebook gyűlöletbeszédre vonatkozó közösségi alapelve alapján. A Bizottság úgy találta, hogy a tartalomra vonatkoznak a gyűlöletbeszédre vonatkozó szabály alóli engedmények, mivel célja a figyelem felhívása az őslakosok ellen Észak-Amerikában korábban elkövetett bűnökre.

Tudnivalók az esetről

2021 augusztusában egy Facebook-felhasználó közzétett egy képet egy wampumövről, amelyet angol nyelvű szöveges leírással kísért. A wampumöv az észak-amerikai őslakosok egyik művészeti formája, amely csiga- és kagylógyöngyökből szőtt képeket hordoz történetek vagy megállapodások rögzítése céljából. A szóban forgó övön egy sor ábrázolás található, amelyeket a felhasználó szerint a „Kamloops story” (a Kamloops-események) ihletett – ez arra az esetre utal, amikor 2021 májusában jelöletlen sírokat fedeztek fel egy korábban működő, őslakosok gyermekeinek szánt bentlakásos iskola területén a kanadai Brit Columbiában.

A szöveg megadja a műalkotás címét – „Kill the Indian/ Save the Man” (Öld meg az indiánt / Mentsd meg az embert) –, és a felhasználót nevezi meg alkotóként. A felhasználó a következő leírást adja meg az övön ábrázolt képekhez: „Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home” (Az ártatlanok meglopása, A gonoszok megmentőként tetszelegnek, Bentlakásos iskola / Koncentrációs tábor, Felfedezésre várva, Hozzátok haza a gyermekeinket). A bejegyzésben a felhasználó bemutatja műalkotásának jelentését, valamint a wampumövek történetét és tanítási célú felhasználását. A felhasználó kifejti, hogy nem volt könnyű megalkotni az övet, és erős érzelmi hatást gyakorolt rá a Kamloopsban történtek elmesélése. A felhasználó elnézést kér minden fájdalomért, amelyet esetleg a kamloopsi események túlélőinek okozott a művével, és megjegyzi, hogy „sole purpose is to bring awareness to this horrific story” (egyetlen célja a figyelem felhívása erre a borzalmas történetre).

A Meta automatikus rendszerei a tartalmat a Facebook gyűlöletbeszédre vonatkozó közösségi alapelvének potenciális megsértéseként azonosították a közzétételét követő napon. Egy emberi ellenőr szabálysértőként értékelte a tartalmat, és még aznap eltávolíttatta. A felhasználó a döntés visszavonását kérte a Metától, aminek hatására egy második emberi ellenőr is megvizsgálta a tartalmat, aki szintén szabálysértőnek találta azt. Az eltávolításig a tartalmat több mint 4000-szer tekintették meg, és több mint 50-szer osztották meg. A tartalmat egyetlen felhasználó sem jelentette.

Annak eredményeképpen, hogy a Bizottság kiválasztotta az esetet, a Meta „szabálybetartatási hibaként” azonosította a bejegyzés eltávolítását, és augusztus 27-én visszaállította a tartalmat. A Meta ugyanakkor nem tájékoztatta a felhasználót a tartalom visszaállításáról egészen szeptember 30-ig, azaz két nappal azutánig, hogy a Bizottság bekérte a Metától a felhasználóval való kommunikációjának tartalmait. A Meta emberi hibával magyarázta a megkésett üzenetküldést.

Főbb megállapítások

A Meta egyetért azzal, hogy eredeti döntése a tartalom eltávolításáról szembement a Facebook közösségi alapelveivel, és „szabálybetartatási hiba” volt. A Bizottság szerint a szóban forgó tartalom egyértelmű példája a „válaszbeszédnek”, amikor is a gyűlöletbeszéd említését az elnyomással és a diszkriminációval való szembeszállás célja vezérli.

A Facebook gyűlöletbeszédre vonatkozó szabályának bevezetője megengedi az ilyen válaszbeszédet, ha a felhasználó világosan kinyilvánítja a szándékát. A bejegyzés tartalmából nyilvánvaló, hogy nem gyűlöletbeszédről van szó. A műalkotás elmeséli a Kamloopsban történteket, a kísérő szöveg pedig bemutatja a történet jelentőségét. Bár a „Kill the Indian” (Öld meg az indiánt) kifejezés önmagában szemlélve gyűlöletbeszédnek minősülhetne, a kontextusban elhelyezve a kifejezés felhívja a figyelmet bizonyos gyűlölködő és diszkriminatív cselekményekre, és elítéli azokat.

A Bizottság felidézi a 2020-005-FB-UA sz. esetben hozott döntését, amely egy náci tisztségviselőtől származó idézettel volt kapcsolatos. Ez az eset hasonló tanulságokkal szolgál arról, miként lehet felmérni a szándékot a közvetlen nyilatkozatokon kívüli más jelzésekből, amilyen például egy idézet tartalma és jelentése, a bejegyzés időzítése és országa, valamint a bejegyzés reakcióinak és hozzászólásainak lényege.

Ennél az esetnél a Bizottság úgy találta, hogy a bejegyzés válaszbeszédként való értelmezéséhez nem volt szükség arra, hogy a felhasználó kifejezetten jelezze a figyelemfelhívás szándékát. A Bizottság megjegyezte, hogy a moderátorok által belső iránymutatásként használt „ismert problémák gyűjteménye” szerint valamely szándék egyértelmű kinyilvánítása nem mindig elegendő egy gyűlöletbeszédnek minősülő bejegyzés jelentésének megváltoztatásához. A moderátoroktól elvárják, hogy a szándék felméréséhez vonjanak le következtetéséket a tartalomból, és ne csupán az explicit kijelentésekre támaszkodjanak.

Két külön moderátor ítélte meg úgy, hogy a vizsgált bejegyzés gyűlöletbeszédnek minősül. A Meta nem tudott konkrét okokat megadni arra vonatkozóan, miként történt meg kétszer ez a hiba.

Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálja a Meta tartalom eltávolítására vonatkozó eredeti döntését.

Szabályalkotást támogató tanácsadó nyilatkozatként a Bizottság a következőket javasolja a Metának:

• Időben és pontosan tájékoztassa a felhasználókat a vállalat által végzett minden műveletről, amely az érintett felhasználók olyan tartalmával kapcsolatos, amelynél a döntés visszavonását kérték. Ahol ez alkalmazandó, ideértve a mostanihoz hasonlóan szabálybetartatási hibával jellemezhető eseteket is, a felhasználónak küldött értesítésben szerepelnie kell, hogy a művelet az Ellenőrző Bizottság felülvizsgálati folyamatának eredménye volt.
• Vizsgálja meg, hogy milyen hatással van az ellenőrzés pontosságára, ha a tartalommoderátorokat tájékoztatják arról, hogy másodlagos ellenőrzést végeznek, tehát tudomásukra hozzák, hogy az eredeti megállapítást vitatták.
• Végezzen felmérést az ellenőrök pontosságáról a gyűlöletbeszédre vonatkozó szabály művészi kifejezést és emberi jogi jogsértésekkel kapcsolatos megnyilvánulásokat (pl. elítélés, felvilágosítás, önmagára való hivatkozás, pozitív felhanggal való használat) lefedő engedményeivel kapcsolatban. Ez a felmérés konkrétan azt is vizsgálja meg, hogyan hat az ellenőrzést végző személy földrajzi helye a moderátorok azon képességére, hogy pontosan mérjék fel a gyűlöletbeszéd és a válaszbeszéd eseteit a saját régiójukban, illetve más régiókban. A Meta ossza meg ennek a felmérésnek az eredményeit a Bizottsággal, ideértve azt is, hogy az eredmények miként használhatók fel a szabálybetartatási műveletek és a szabályzatfejlesztés javítására, és tájékoztassa a Bizottságot arról is, hogy tervezi-e az ellenőrök pontosságának rendszeres felmérését ezekkel az engedményekkel kapcsolatban. A Bizottság arra is felszólítja a Metát, hogy ezeknek a felméréseknek az eredményeit ossza meg nyilvánosan is összegzett formában a Bizottság működésével kapcsolatos negyedéves átláthatósági tájékoztatásaiban, hogy igazolja ennek az ajánlásnak a teljesítését.

*Az eset összefoglalása áttekintést ad az esetről, és nincs precedensértéke.

Az esetről hozott teljes döntés

1. A döntés összefoglalása

Az Ellenőrző Bizottság felülbírálja a Meta eredeti döntését egy észak-amerikai őslakos művész bejegyzésének eltávolításáról, amelyben saját műalkotásának képe és annak címe szerepelt, és amely cím egy történelmileg ismert gyűlöletbeszédet idézett. A Meta egyetértett azzal, hogy a bejegyzésre vonatkozik a Facebook gyűlöletbeszédre vonatkozó közösségi alapelvének egyik engedménye, mivel a bejegyzés célja egyértelműen a figyelem felhívása az őslakosok ellen Észak-Amerikában korábban elkövetett bűnökre.

2. Az eset leírása

2021 augusztusának elején egy Facebook-felhasználó közzétett egy képet egy wampumövről, amelyet angol nyelvű szöveges leírással kísért. A wampumöv az észak-amerikai őslakosok egyik művészeti formája, amely csiga- és kagylógyöngyökből szőtt képeket hordoz történetek vagy megállapodások rögzítése céljából. A szóban forgó övön egy sor ábrázolás található, amelyeket a felhasználó szerint a „Kamloops story” (a Kamloops-események) ihletett – ez arra az esetre utal, amikor 2021 májusában jelöletlen sírokat fedeztek fel egy korábban működő, őslakosok gyermekeinek szánt bentlakásos iskola területén a kanadai Brit Columbiában.

A szöveg megadja a műalkotás címét – „Kill the Indian/ Save the Man” (Öld meg az indiánt / Mentsd meg az embert) –, és a felhasználót nevezi meg alkotóként. A felhasználó ezt követően megadja azoknak a kifejezéseknek a listáját, amelyek megfelelnek az övön ábrázolt képek sorozatának: „Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home” (Az ártatlanok meglopása, A gonoszok megmentőként tetszelegnek, Bentlakásos iskola / Koncentrációs tábor, Felfedezésre várva, Hozzátok haza a gyermekeinket). A bejegyzésben a felhasználó bemutatja műalkotásának jelentését, valamint a wampumövek történetét és tanítási célú felhasználását. A felhasználó kifejti, hogy nem volt könnyű megalkotni az övet, és nagyon erős érzelmi hatást gyakorolt rá a Kamloopsban történtek elmesélése. Hozzáteszi, hogy ez a történet nem törölhető ki újra a köztudatból, és reméli, hogy ez az öv segít ezt elkerülni. Bejegyzése zárásaként a felhasználó elnézést kér a bentlakásos iskolarendszer mindazon túlélőitől, akiknek művével esetleg bármilyen fájdalmat okozott, és kifejti, hogy „sole purpose is to bring awareness to this horrific story” (egyetlen célja a figyelem felhívása erre a borzalmas történetre).

A Meta automatikus rendszerei a tartalmat a Facebook gyűlöletbeszédre vonatkozó közösségi alapelvének potenciális megsértéseként azonosították a közzétételét követő napon. Egy emberi ellenőr szabálysértőként értékelte a tartalmat, és még aznap eltávolíttatta. A felhasználó a döntés visszavonását kérte a Metától, aminek hatására egy második emberi ellenőr is megvizsgálta a tartalmat, aki szintén szabálysértőnek találta azt. Az eltávolításig a tartalmat több mint 4000-szer tekintették meg, és több mint 50-szer osztották meg. A tartalmat egyetlen felhasználó sem jelentette. Annak eredményeképpen, hogy a Bizottság kiválasztotta az esetet, a Meta „szabálybetartatási hibaként” azonosította a bejegyzés eltávolítását, és augusztus 27-én visszaállította a tartalmat. A Meta ugyanakkor nem tájékoztatta a felhasználót a tartalom visszaállításáról egészen szeptember 30-ig, azaz két nappal azutánig, hogy a Bizottság bekérte a Metától a felhasználóval való kommunikációjának tartalmait. A Meta emberi hibával magyarázta a megkésett üzenetküldést. Az üzenet nem tájékoztatta a felhasználót arról, hogy a tartalmának visszaállítására azért került sor, mert felülvizsgálati kérelmet nyújtott be a Bizottságnak, és a Bizottság kiválasztotta az esetet.

Az Association on American Indian Affairs által beküldött (10208. sz.) nyilvános hozzászólás kiemeli, hogy a műalkotás címeként használt idézet Richard Henry Pratt katonai tiszttől származik, aki megalapította az első szövetségi bentlakásos indián iskolát az Amerikai Egyesült Államokban. A kifejezés összefoglalja a bentlakásos iskolák létrehozása mögött meghúzódó elveket, mivel ezeket az őslakos népek erőszakos „civilizálásának” és „az indián kultúra maradéktalan kiirtásának” szándékával működtették. Hasonló elveket alkalmaztak Kanadában is, amelyek kulturális népirtáshoz vezettek a Kanadai Igazság és Megbékélés Bizottság megállapításai szerint.

„Kamloops” említése a felhasználó által a kamloopsi indián bentlakásos iskolára utal. Ez a kanadai Brit Columbiában korábban működő bentlakásos iskola volt őslakos gyerekeknek. 2021 májusában a Tk’emlúps te Secwépemc First Nation vezetői bejelentették, hogy jelöletlen sírokat találtak Kamloopsban. A hatóságok megerősítették, hogy a környéken 200 feltételezhető sírhely található.

A kanadai kormány becslése szerint legalább 150 ezer őslakos gyermek került be a bentlakásos iskolák rendszerébe az utolsó ilyen intézmény 1997-es bezárásáig. Az őslakos gyermekeket gyakran erőszakkal emelték ki a családjuk köréből, és megtiltották számukra az őslakos kultúra bármilyen sajátosságának kifejezését. Az iskolákban szigorú és durva testi fenyítést alkalmaztak, és a személyzet szexuális visszaéléseket és súlyos erőszakot is elkövetett vagy tolerált számos diákkal szemben. A diákok alultápláltak voltak, az iskolákat pedig alig fűtötték és takarították. Számos gyermek halt meg tuberkulózisban és más betegségekben, minimális szintű orvosi felügyelet mellett. Az Igazság és Megbékélés Bizottság megállapítása szerint legalább 4100 diák halt meg ezekben az iskolákban, sokan a szabálytalan bánásmód vagy az elhanyagoltság miatt, mások pedig betegségtől vagy balesetben.

3. Jogosultság és hatáskör

A Bizottságnak jogában áll megvizsgálni a Meta döntését annak a felhasználónak a felülvizsgálati kérelme alapján, akinek a tartalmát eltávolították (az Alapokmány 2. cikkének 1. szakasza; a szervezeti és működési szabályzat 3. cikkének 1. szakasza). A Bizottság fenntarthatja vagy megsemmisítheti a Meta döntését, és döntése kötelező a vállalatra nézve (az Alapokmány 4. cikke; a 3. cikk 5. szakasza). Döntéseiben a Bizottság olyan, nem kötelező érvényű ajánlásokat tartalmazó, szabályalkotást támogató tanácsadó nyilatkozatokat is megfogalmazhat, amelyekre a Meta köteles reagálni (az Alapokmány 4. cikke; a 3. cikk 4. szakasza).

Amikor a Bizottság a mostanihoz hasonlóan olyan eseteket választ ki, amelyeknél a Meta később elismeri a döntéshozatali hibáját, a Bizottság megvizsgálja az eredeti döntést annak céljából, hogy nagyobb rálátást biztosítson a hibák elkövetésének okaira, illetve hogy olyan észrevételekkel vagy javaslatokkal éljen, amelyek mérsékelhetik a hibák előfordulását, illetve lendíthetnek az eljárás gondosságán. Miután a Bizottság döntést hozott a mellrák tüneteivel és a meztelenséggel kapcsolatos esetben ( 2020-004-IG-UA sz. eset, 3. szakasz), a Bizottság kialakított egy olyan folyamatot, amely lehetővé teszi a Meta számára az esetleges szabálybetartatási hiba azonosítását még azelőtt, hogy a Bizottság panelhez rendelné az esetet (lásd: átláthatósági jelentések, 30. oldal). Nem segít, hogy ezekben az esetekben a Meta teljesen a módosított döntésére koncentrál az érvelésében, és azt magyarázza el, minek kellett volna történnie a felhasználó tartalmával, és eközben a Bizottságtól azt várja, hogy tartsa fent ezt a döntést, mint a vállalat „végleges” döntését. Azon túl, hogy elmagyarázza, miért volt helytelen a felhasználó ellenvetésének tárgyát képező döntés, a Bizottság azt is javasolja, hogy a Meta fejtse ki, hogyan történt meg ez a hiba, és hogy miért nem tudta a vállalat belső ellenőrzési folyamata észlelni vagy korrigálni a hibát. A Bizottság a felülvizsgálatait továbbra is azokra a döntésekre fogja alapozni, amelyek visszavonását a felhasználó kérte.

4. Vonatkozó alapelvek

Az Ellenőrző Bizottság a következő alapelveket vette figyelembe döntésében:

I.A Facebook közösségi alapelvei:

A Facebook közösségi alapelvei szerint a gyűlöletbeszéd olyan tartalom, amely „közvetlenül támad embereket [...] általunk védett tulajdonságként meghatározott szempontok (faji hovatartozás, etnikai származás, nemzetiség, fogyatékosság, vallási hovatartozás, kaszt, nemi irányultság, nem, nemi identitás, illetve súlyos betegség) alapján”. Az „1. szint” szerint tiltott tartalom a „gyűlöletbeszéd vagy a gyűlöletbeszéd támogatása írásos vagy vizuális formában”. A közösségi alapelv engedményeket is tartalmaz a nem szabálysértő tartalmak megkülönböztetéséhez:

Tisztában vagyunk vele, hogy az emberek néha az elítélés szándékával vagy felvilágosítás céljából osztanak meg olyan tartalmat, amelyben más gyűlöletbeszéde szerepel. Bizonyos esetekben az alapelveinket egyébként sértő beszédet az emberek saját magukra vonatkozóan vagy pozitív felhanggal használják. Szabályaink célja, hogy helyt adjanak az ilyen típusú beszédnek, de megköveteljük, hogy az emberek világosan nyilvánítsák ki a szándékukat. Ha a szándék nem egyértelmű, eltávolíthatjuk a tartalmat.

II. A Meta értékei:

A Meta értékeit a Facebook közösségi alapelveinek bevezetője ismerteti. A „Véleménynyilvánítás”, mint érték a leírás szerint „kiemelt” fontosságú:

Közösségi alapelveinknek mindig is az volt a célja, hogy teret biztosítsanak az embereknek az önkifejezésre és a véleménynyilvánításra. […] Szeretnénk, hogy az emberek nyíltan beszélhessenek a számukra fontos kérdésekről, még akkor is, ha vannak, akik nem értenek egyet velük, vagy kifogásolhatónak tartják őket.

A Meta négy érték érvényesítése érdekében korlátozza a „Véleménynyilvánítást”, és ezek közül kettő releváns itt:

„Biztonság”: Határozott törekvésünk, hogy biztonságos hellyé tegyük a Facebookot. Az emberek számára fenyegető véleménynyilvánítás megfélemlíthet, kizárhat vagy elhallgattathat másokat, és nem engedélyezett a Facebookon.

„Méltóság”: Meggyőződésünk, hogy méltóságát és jogait tekintve minden ember egyenlő. Mindenkitől elvárjuk, hogy tisztelje mások méltóságát, és ne zaklassa vagy alacsonyítsa le őket.

III. Emberi jogi normák:

Az ENSZ Emberi Jogi Tanácsa által 2011-ben elfogadott, üzleti és emberi jogokra vonatkozó irányadó ENSZ-alapelvek (UNGP-k) meghatározzák az üzleti vállalkozások emberi jogi felelősségének önkéntes keretrendszerét. 2021-ben a Meta közzétettevállalati emberi jogi szabályzatát, amelyben újfent megerősítette elkötelezettségét az UNGP-kben foglalt emberi jogok tiszteletben tartása mellett. A Bizottságnak a Meta emberi jogi felelősségével kapcsolatos elemzését ennél az esetnél a következő emberi jogi normák támasztották alá:

• A véleménynyilvánítás szabadsága: A Polgári és Politikai Jogok Nemzetközi Egyezségokmányának (ICCPR) 19. cikke; 34. általános megjegyzés, Emberi Jogi Bizottság (2011); A faji megkülönböztetés valamennyi formájának kiküszöböléséről szóló nemzetközi egyezmény (ICERD) 5. cikke; Az ENSZ különmegbízottjának gyűlöletbeszédről szóló A/74/486 jelentése, 2019; Az ENSZ különmegbízottjának online tartalommoderálásról szóló A/HRC/38/35 sz. jelentése, 2018.
• Egyenlőség és diszkriminációmentesség: Az ICCPR 2. cikkének 1. bekezdése, valamint az ICCPR 26. cikke; Az ICERD 2. cikke; A Faji Megkülönböztetés Felszámolásával Foglalkozó Bizottság 35. sz. általános ajánlása, 2013;
• Kulturális jogok: Az ICCPR 27. cikke; A Gazdasági, Szociális és Kulturális Jogok Nemzetközi Egyezségokmányának (ICESCR) 15. cikke; Az ENSZ kulturális jogok területével foglalkozó különmegbízottjának A/HRC/23/34 sz. jelentése a művészi szabadságról és a kreativitásról, 2013.
• Az őslakos népek jogai: Az ENSZ őslakos népek jogairól szóló nyilatkozata 7. cikkének 2. bekezdése; 8. cikkének 1. bekezdése, valamint 19. cikke.

5. A felhasználó nyilatkozata

A Bizottságnak benyújtott felülvizsgálati kérelmében a felhasználó kifejtette, hogy bejegyzése egy olyan hagyománykövető műalkotást mutatott be, amely történelmi eseményeket dokumentált, és amelynek semmi köze nem volt a gyűlöletbeszédhez. A felhasználó kijelentette továbbá, hogy ezt a történelmi eseményt „needed to be seen” (meg kell mutatni), a bejegyzés Meta általi eltávolításával kapcsolatban pedig úgy vélekedett, hogy „this is censorship” (ez cenzúra).

6. A Meta döntésének magyarázata

A Meta arról tájékoztatta a Bizottságot, hogy a „Kill the Indian” (Öld meg az indiánt) kifejezés 1. szintű támadásnak minősült a Facebook gyűlöletbeszédre vonatkozó közösségi irányelve alapján, amely tiltja az embereket valamely védett tulajdonság, például faj vagy etnikum alapján megcélzó „erőszakos beszédet”. A Meta elismerte ugyanakkor, hogy a tartalom eltávolítása helytelen lépés volt, mivel a szabály megengedi valaki más gyűlöletbeszédének megosztását „elítélés szándékával vagy felvilágosítás céljából”. A Meta megjegyezte, hogy a felhasználó azt jelezte a bejegyzésben, hogy célja a figyelem felhívása volt a Kamloopsban történt borzalmas eseményekre.

A Meta hozzátette, hogy a „Kill the Indian/Save the Man” (Öld meg az indiánt/Mentsd meg az embert) kifejezés eredete az őslakos gyermekek erőszakos asszimilációjából ered. Azzal, hogy felhívta a figyelmet a Kamloopsban történtekre, a felhasználó egyúttal a bentlakásos iskolák rendszerén keresztül folytatott erőszakos asszimilációra is rávilágított. A Bizottság kérdésére válaszolva a Meta kifejtette, hogy egy tartalomellenőrnek nem kellene ismernie ezt a történelmi hátteret ahhoz, hogy helyesen alkalmazza a szabályt. A felhasználó bejegyzésében szerepelt, hogy egy borzalmas történetre kívánja felhívni a figyelmet, ezáltal egy tartalomellenőr észszerűen vonhatta volna le azt a következtetést, hogy a bejegyzés célja az idézett gyűlöletbeszéddel kapcsolatos figyelemfelhívás.

A Meta arról tájékoztatta a Bizottságot, hogy az eset keretében vizsgált tartalmat egyetlen felhasználó sem jelentette. A Meta olyan gépi tanuláson alapuló besorolási megoldásokat működtet, amelyek arra vannak betanítva, hogy automatikusan észleljék a Facebook közösségi alapelveinek potenciális megsértéseit. Ebben az esetben két besoroló azonosította automatikusan a bejegyzést lehetséges gyűlöletbeszédként. A tartalmat elemző első besoroló nem kellő bizonyosság mellett minősítette a tartalmat a közösségi alapelv megsértéseként. Egy másik besoroló viszont kontextuális jelzések sora alapján úgy ítélte meg, hogy a bejegyzés széles körű megosztásra számíthat, és sok ember láthatja. A széles körben terjedő gyűlöletbeszéd jelentette potenciális károkozásra tekintettel a Meta rendszere automatikusan emberi ellenőrzésre küldte el a bejegyzést.

A Bizottság kérdésére válaszolva a Meta pontosította, hogy az ázsiai-csendes-óceáni régióban tartózkodó egyik emberi ellenőre ítélte a bejegyzést gyűlöletbeszédnek, és távolíttatta el a platformról. A felhasználó a döntés visszavonását kérte, és egy másik emberi ellenőr az ázsiai-csendes-óceáni régióban megvizsgálta a tartalmat, amelyet ő is gyűlöletbeszédnek minősített. A Meta megerősítette a Bizottság felé, hogy a moderátorok nem jegyeznek fel indoklást az egyes tartalmi döntéseknél.

7.Külső felek által beküldött információk

Az Ellenőrző Bizottság az esethez kapcsolódó nyolc nyilvános hozzászólást vett figyelembe. Négy érkezett az Egyesült Államokból és Kanadából, kettő Európából, egy Afrika szubszaharai részéről, egy pedig Ázsia csendes-óceáni térségéből és Óceániából. A beküldött információk többek között a következő témákat érintették: annak az idézetnek a fontossága, amelyre a felhasználó a műve címét alapozta; a bentlakásos iskolák észak-amerikai alkalmazásával kapcsolatos kontextus; illetve hogy miként érinti a Meta tartalommoderálása az őslakos identitású vagy származású emberek művészi szabadságát és önkifejezési jogait.

Az esethez beküldött nyilvános hozzászólások elolvasásához kattints ide.

8.Az Ellenőrző Bizottság elemzése

A Bizottság három nézőpontból vizsgálta azt a kérdést, hogy vissza kellene-e állítani ezt a tartalmat: a Facebook közösségi alapelvei, a Meta értékei, valamint a vállalat emberi jogi felelőssége.

8.1. Megfelelés a közösségi alapelveknek

A Meta egyetértett azzal, hogy eredeti döntése a tartalom eltávolításáról szembement a Facebook közösségi alapelveivel, és „szabálybetartatási hiba” volt. A Bizottság szerint az esetben vizsgált tartalom egyértelműen nem gyűlöletbeszéd. A szóban forgó tartalom egyértelmű példája a „válaszbeszédnek”, amikor is a gyűlöletbeszéd említése vagy kisajátításból való visszaszerzése az elnyomással és a diszkriminációval szembeni küzdelem részeként történik.

A gyűlöletbeszédre vonatkozó közösségi alapelv kifejezetten engedélyezi „az elítélés szándékával vagy felvilágosítás céljából” megosztott „olyan tartalmat, amelyben más gyűlöletbeszéde szerepel”. Két külön moderátor ennek ellenére úgy ítélte meg, hogy a vizsgált bejegyzés gyűlöletbeszédnek minősül. A Meta nem tudott konkrét okokat megadni arra vonatkozóan, miként történt meg kétszer ez a hiba.

A náci idézettel kapcsolatos ( 2020-005-FB-UA. sz.) esetnél a Bizottság felhívta a figyelmet arra, hogy az idézet használatának kontextusa fontos a jelentésének a megértéséhez. Annál az esetnél az idézet tartalma és jelentése, a bejegyzés időzítés és országa, valamint a reakciók és hozzászólások többsége egyértelmű jelzéssel szolgált arra nézve, hogy a felhasználó nem dicsőíteni kívánt egy megjelölt gyűlöletkeltő személyt.

A Bizottság úgy találja, hogy a bejegyzés szándékának és jelentésének egyértelműsítéséhez nem volt szükséges a felhasználó részéről annak kifejezett állítása, hogy a figyelmet kívánja felhívni. Az ábrázolt műalkotás elmeséli a Kamloopsban történteket, a kísérő szöveg pedig kiemeli a történet jelentőségét. Bár a „Kill the Indian” (Öld meg az indiánt) kifejezés önmagában szemlélve gyűlöletbeszédnek minősülhetne, a tartalmat egészében szemlélve világos, hogy a kifejezés használatának célja a figyelemfelhívás, valamint a gyűlölködés és a diszkrimináció elítélése. A tartalom idézőjeleket használ a gyűlöletkeltő kifejezés címében való elkülönítésére, ahol is a teljes kifejezés a „Kill the Indian / Save the Man” (Öld meg az indiánt / Mentsd meg az embert). Az ellenőrzést végző személynek itt lett volna alkalma elgondolkodni, és alaposabban vizsgálódni. Az a mód, ahogyan a felhasználó elmesélte a Kamloops-történetet, illetve ahogy elmagyarázta a wampumöv kulturális jelentőségét, egyértelművé tette, hogy a diszkrimináció és az erőszak áldozataival vállal közösséget, nem pedig ezek elkövetőivel. A felhasználó szövege egyértelműen elítélte a Kamloopsban feltárt eseményeket. A bejegyzéshez fűzött hozzászólásokból és reakciókból világos volt, hogy a felhasználó célközönsége értette ezt az elítélési és figyelemfelhívási szándékot.

A Bizottság megjegyzi, hogy a Facebook belső „ismert problémák gyűjteménye”, amelyre a moderátorok iránymutatásként részben támaszkodnak, arra utasítja a moderátorokat, hogy ha a felhasználó szándéka nem egyértelmű, a gyűlöletbeszédet magukban foglaló tartalmaknál inkább tévedjenek az eltávolítással, mint annak elmaradásával. Az „ismert problémák gyűjteménye” azt is tartalmazza, hogy valamely szándék egyértelmű kinyilvánítása nem mindig elegendő egy gyűlöletbeszédnek minősülő bejegyzés jelentésének megváltoztatásához. Ez a belső iránymutatás csak korlátozottan tartalmaz segítséget a moderátoroknak azzal kapcsolatban, hogyan lehet megfelelően különbséget tenni a tiltott gyűlöletbeszéd és az olyan válaszbeszéd között, amely elítélés vagy felvilágosítás céljából idéz gyűlöletbeszédet. A Bizottság tudomása szerint nincs olyan iránymutatás, amely segítene felmérni a szándék bizonyítékát a gyűlöletbeszédet idéző vagy gyűlöletbeszéd-kifejezéseket felhasználó művészi tartalmakban, illetve az olyan emberi jogi jogsértéseket tárgyaló tartalmakban, amelyekre a szabály engedményei vonatkoznak.

8.2. Megfelelés a Meta értékeinek

A Bizottság úgy találja, hogy a tartalom eltávolítását jelentő eredeti döntés nem állt összhangban a Meta „Véleménynyilvánítás” és „Méltóság” értékével, továbbá nem szolgálta a „Biztonság” értéket. Bár a Meta értékeivel egybevág a gyűlöletbeszéd terjedésének korlátozása a platformjain, a Bizottság aggályosnak tartja, hogy a Meta moderálási eljárásai nem képesek megfelelően azonosítani és védeni a marginalizációtól vagy diszkriminációtól sújtott emberek képességét a válaszbeszéden keresztüli véleménykifejezésre.

A Meta hangsúlyozta elkötelezettségét a válaszbeszéd támogatása mellett:

Közösségként, közösségi platformként és a közös emberi tapasztalatok gyűjtőhelyeként a Facebook támogatja a kulcsfontosságú kezdeményezéseket a válaszbeszéd terén erős tartalmi szabályok betartatásával, valamint a helyi közösségekkel, döntéshozókkal, szakértőkkel és változáskezdeményezőkkel való együttműködéssel, hogy szerte a világon teret adjon a válaszbeszédre építő kezdeményezéseknek.

A Meta állítása szerint a „Véleménynyilvánítás” a vállalat legfontosabb értéke. A múltbéli atrocitások szörnyűségeire rávilágító és az ezek tartós hatásaival kapcsolatos felvilágosításra törekvő művészet a „Véleménynyilvánítás” érték egyik legfontosabb és legerőteljesebb kifejeződése, különösen a marginalizált csoportok számára, akik a saját kultúrájuk kifejezésére, valamint a történelmükre való figyelemfelhívásra törekszenek. A válaszbeszéd nem csupán a „Véleménynyilvánítás” egyik formája, hanem a gyűlöletbeszéd céltábláinak fontos eszköze is arra, hogy megvédjék méltóságukat, és szembeszálljanak az elnyomó, diszkriminatív, illetve lealacsonyító viselkedéssel. A Metának gondoskodnia kell arról, hogy tartalmi szabályai és moderálási gyakorlatai figyelembe vegyék és védjék ezt a kifejezési formát.

Ha egy felhasználó tömeges atrocitásokra hívja fel a figyelmet, a méltóságát kifejezetten sértő dolog azzal reagálni rá, hogy közlését gyűlöletbeszéd miatt elhallgattatják. Egy ilyen vád, különösen ha azt a Meta a döntés visszavonásának kérése után meg is erősíti, öncenzúrához vezethet.

8.3. A Meta emberi jogi felelősségének való megfelelés

A Bizottság úgy ítéli meg, hogy a bejegyzés eltávolítása szembement a Meta üzleti vállalkozásként viselt emberi jogi felelősségével. A Meta elkötelezte magát az emberi jogoknak az üzleti vállalkozások emberi jogi felelősségeivel foglalkozó ENSZ-irányelvek (UNGP-k) szerinti tiszteletben tartása mellett. Vállalati emberi jogi szabályzata szerint ennek része a Polgári és Politikai Jogok Nemzetközi Egyezségokmányának (ICCPR) tiszteletben tartása is.

Ez a Bizottság művészi kifejezéssel kapcsolatos első esete, és egyúttal az első olyan eset is a véleménykifejezés témájában, amelynél a felhasználó őslakosként azonosítja magát. Az eset mindeközben egyike annak a Bizottság által kiválasztott több másiknak, ahol a felhasználó súlyos emberi jogi jogsértésekre próbálta felhívni a figyelmet.

A véleménynyilvánítás szabadsága (ICCPR, 19. cikk)

A nemzetközi emberi jogi normák kihangsúlyozzák a politikai véleménykifejezés értékét (az Emberi Jogi Bizottság 34. általános megjegyzésének 38. bekezdése). E jog védelmének hatókörét az ICCPR 19. cikkének 2.  bekezdése határozza meg, amelyben külön említést kap a „művészi formájú” véleménykifejezés. A faji megkülönböztetés valamennyi formájának kiküszöböléséről szóló nemzetközi egyezmény (ICERD) szintén védi a véleménykifejezés szabadságának jogát a diszkrimináció ellen (5. cikk), és az államok megfelelésének monitorozásával megbízott testület hangsúlyozza, mennyire fontos jogot biztosítani „a kiszolgáltatott csoportoknak”, hogy „helyreállítsák a társadalom alkotóelemei közötti hatalmi egyensúlyt”, és teret adni „az alternatív véleményeknek és ellenpontoknak” az eszmecserék során (CERD Bizottság, 35. sz. általános ajánlás, 29. bekezdés).

A művészet gyakran politizál, és a nemzetközi normák elismerik ennek a kommunikációs formának az egyedi és erőteljes szerepét a status quo megkérdőjelezésében (az ENSZ kulturális jogok területével foglalkozó különmegbízottja A/HRC/23/34 sz. jelentésének 3-4. bekezdése). Az internet, és különösen a Facebookhoz és az Instagramhoz hasonló közösségimédia-platformok különleges értékkel bírnak az új és nagyobb célközönségek elérését célzó művészek számára. A megélhetésük függhet az internetet domináló közösségimédia-platformoktól.

A szabad véleménykifejezés joga minden ember számára garantált, diszkrimináció nélkül (az ICCPR 19. cikkének 2. bekezdése). A Bizottság kapott beküldött információkat azzal kapcsolatban, hogy az őslakosok jogai a szabad, előzetes, tájékozott beleegyezésre a közösségeiket érintően az államok által hozott törvénykezési vagy adminisztratív intézkedések esetén felelősséggel járnak a Meta részéről is az ilyen közösségekkel való egyeztetésre tartalmi szabályainak kidolgozása során (a 10240. sz. nyilvános hozzászólás a Minority Rights Grouptól; lásd még az ENSZ őslakos népek jogairól szóló nyilatkozatának 19. cikkét). Az ENSZ vélemény és véleménynyilvánítás szabadságával foglalkozó különmegbízottja hasonló aggályának adott hangot a közösségimédia-platformok felelősségének kontextusában ( A/HRC/38/35 sz. jelentés 54. bekezdése).

Az ennél az esetnél vizsgált tartalom több más további jogot is érint, így például a nemzeti, etnikai vagy nyelvi kisebbségekhez tartozó személyek jogát a kultúrájuk élvezetére csoportjuk más tagjaival közösen (az ICCPR 27. cikke), valamint a kulturális életben való részvétel és a művészet élvezetének jogát (az ICESCR 15. cikke). Egy olyan wampumöv művészi megalkotása, amely emberi jogi atrocitásokra és ezek máig tartó hatásaira emlékeztet és figyelmeztet, védelmet élvez az emberi jogok védelmezőiről szóló ENSZ-nyilatkozat 6(c). cikke alapján, valamint az atrocitásokkal kapcsolatos igazsághoz való jog alapján ( az ENSZ szabálygyűjteménye a büntetlenség elkerülésének megelőzéséről). Az ENSZ őslakos népek jogairól szóló nyilatkozata kifejezetten elismeri, hogy a gyermekek erőszakos kiemelése eredeti környezetükből erőszakos cselekménynek és népirtásnak minősülhet (a 7. cikk 2. bekezdése), továbbá konkrét védelmet biztosít az erőszakos asszimilációval és a kulturális megsemmisítéssel szemben (a 8. cikk 1. bekezdése).

A ICCPR 19. cikke előírja, hogy ha az állam a véleménynyilvánításra korlátozásokat vezet be, ezeknek a korlátozásoknak teljesíteniük kell a törvényesség, a jogszerű cél, a szükségesség és az arányosság követelményeit (az ICCPR 19. cikkének 3. bekezdése). Az ENSZ véleménynyilvánítás szabadságával foglalkozó különmegbízottja arra biztatta a közösségimédia-vállalatokat, hogy kövessék ezeket a normákat az online véleménykifejezés moderálása során, figyelembe véve, hogy a véleménynyilvánítás tömeges szabályozása a magánvállalatok által aggályokat vethet fel az adott kontextussal kapcsolatban (az A/HRC/38/35 jelentés 45. és 70. bekezdése). A Bizottság minden eddigi döntésénél alkalmazta az ICCPR 19. cikkén alapuló, három részből álló tesztet.

I. Jogszerűség (a szabályok egyértelműsége és hozzáférhetősége)

A gyűlöletbeszédre vonatkozó közösségi alapelv egyértelműen engedélyezi az olyan tartalmakat, amelyek elítélés vagy felvilágosítás céljából tartalmaznak gyűlöletbeszédet. A szabály ezen alkotóeleme kellően egyértelmű és hozzáférhető a felhasználó számára ahhoz, hogy megértse és kövesse a szabályokat ( a 34. általános megjegyzés 25. bekezdése). A jogszerűség elvének alapján a véleménynyilvánítást korlátozó szabályoknak ezenkívül „a teljes bizonyossághoz elég iránymutatást kell adniuk az alkalmazók számára azzal kapcsolatban, hogy mely típusú véleménynyilvánítások korlátozása megfelelő, és melyeké nem” (ugyanott). Két moderátor sem tudta megfelelően felmérni a szabály ezen engedményeinek alkalmazandóságát a szóban forgó tartalomra, ami azt jelzi, hogy a moderátoroknak további belső útmutatásokra lehet szükségük.

II. Jogos cél

A szabad véleménynyilvánítás bármilyen állami korlátozásának az ICCPR 19. cikkének 3. bekezdése szerinti valamely jogos célt kell követnie. A Bizottságnak beküldött beszámolóiban a Meta rendszeresen hivatkozott az ezen a listán szereplő célokra a véleménykifejezés elnyomására tett intézkedéseinek igazolásához. A Bizottság korábban elismerte, hogy a Facebook gyűlöletbeszédre vonatkozó közösségi alapelve jogos célt követve védi mások jogait. E jogok közé tartozik az egyenlőség és diszkriminációmentesség, a szabad véleménykifejezés, valamint a testi épség megóvásának joga.

III. Szükségesség és arányosság

Ennél az esetnél az egyértelmű hiba azt jelenti, hogy a tartalom eltávolítása nyilvánvalóan nem volt szükséges, amit a Meta el is fogadott. A Bizottság aggályának ad hangot azzal kapcsolatban, hogy egy ilyen egyértelmű hiba mélyebb arányossági problémákat jelezhet a Meta automatikus és emberi ellenőrzési folyamataiban. A szabad véleménynyilvánítás bármilyen korlátozásának megfelelőnek kell lennie a védelmi funkció eléréséhez, és a lehető legkevésbé zavaró eszköznek kell lennie azok közül, amelyekkel megvalósítható a védelmi funkció (a 34. általános megjegyzés 34. bekezdése). Hogy a Meta tartalommoderálási rendszere teljesíti-e a szükségesség és arányosság követelményeit, az nagyban függ attól, mennyire hatékonyan távolítják el a tényleges gyűlöletbeszédet a téves észlelések és eltávolítások számának minimalizálása mellett.

Minden tévesen eltávolított bejegyzés csorbítja a véleménykifejezés szabadságát. A Bizottság megérti, hogy a hibák elkerülhetetlenek a gépi és emberi eljárásoknál is. A gyűlöletbeszéd és az arra adott reakciók mindig kontextusfüggőek lesznek, nem mindig egyértelmű határvonalakkal. Ugyanakkor a hibák típusai, valamint az ezen hibák súlyát viselő emberek és közösségek jellege tervezési szempontokra enged következtetni, amelyeket folyamatosan szükséges értékelni és felülvizsgálni. Ez szükségessé teszi az ennél az esetnél felmerült hiba kiváltó okainak további elemzését, valamint a válaszbeszéd moderálási hatékonyságának tágabb kivizsgálását.

Tekintettel arra, hogy milyen fontos szerepet tölt be az őslakos művészek kritikus hangvételű művészete a gyűlölettel és az elnyomással szembeni fellépésben, a Bizottság elvárja, hogy a Meta tanúsítson fokozott érzékenységet a jelen esetben tárgyalthoz hasonló tartalmak potenciálisan téves eltávolításával kapcsolatban a Facebookon és az Instagramon. A gyűlöletbeszédre vonatkozó szabály Meta általi betartatásának teljesítményét nem elégséges egészében értékelni. Egy átlagát tekintve jól teljesítő rendszer jelentősen alulteljesíthet a tartalmak olyan alkategóriáinál, amelyeknél a helytelen döntések kimondottan markánsan hatnak az emberi jogokra. Lehetséges, hogy az ennél az esetnél felmerült hibatípusok ritkák; a Bizottság megjegyzi ugyanakkor, hogy marginalizált csoportok tagjai évek óta adnak hangot aggályaiknak az álpozitív eltávolítások gyakoriságával és hatásával kapcsolatban. Az ennél az esetnél történt hibák rámutatnak arra, hogy a Meta felelőssége igazolni a szükséges emberi jogi gondosság meglétét a rendszereiben, hogy azok igazságosan működjenek, és ne súlyosbítsák a történelmi, illetve aktuális elnyomást (az UNGP-k 17. irányelve).

A Meta rendszeresen értékeli a gyűlöletbeszéddel kapcsolatos szabálybetartatási rendszereinek pontosságát. Ebben az értékelésben nincs olyan bontás, amely kifejezetten megmutatná a Meta pontosságát azon képességénél, hogy megkülönböztesse a gyűlöletbeszédet a gyűlöletbeszédet elítélő vagy azzal kapcsolatban a figyelmet felhívni szándékozó, engedélyezett tartalmaktól.

A Meta meglévő folyamataiba be vannak építve olyan ad-hoc mechanizmusok, amelyek a hibatrendek azonosítására és a kapcsolódó kiváltó okok feltárására szolgálnak, de ezek jelentős méretű tartalommintákat igényelnek a rendszer teljesítményének méréséhez. A Bizottság rákérdezett a Metánál, hogy a vállalat mérte-e konkrétan az ellenőrzési rendszereinek a teljesítményét a művészi kifejezésként megjelenő válaszbeszéd, illetve az emberi jogi jogsértésekre figyelmet felhívó válaszbeszéd értékelési pontosságának szempontjából. A Meta azt felelte a Bizottságnak, hogy nem végzett konkrét kutatást az álpozitívak eltávolításainak hatásáról a művészi kifejezés, illetve az őslakos identitású vagy származású emberek véleménynyilvánításainak esetében.

A Meta tájékoztatta a Bizottságot az ilyen felmérések megkezdésének akadályairól, köztük az olyan rendszer hiányáról, amely automatikusan le tudná válogatni a szabályok engedményeinek előnyeit élvező tartalmakból összeállított mintát. Ez azért van így, mert az ellenőrök a tartalmakat csak szabálysértő vagy nem szabálysértő jelöléssel látják el, és nem elvárás, hogy jelezzék a nem szabálysértő tartalmaknál azok szabály alól engedmény miatti besorolását. Az ezen engedmény alá tartozó válaszbeszédekből csak manuálisan lehetne mintát képezni.

Miközben a Bizottság biztatónak találta azt a részletességet, amellyel a Meta a teljesítményértékelésről beszámolt a Bizottság kérésre tartott kérdezz-felelek alkalmon, egyértelmű, hogy még több erőforrást ráfordításával kellene értékelni a gyűlöletbeszédre vonatkozó alapelv engedményeinek betartatási pontosságát, és tanulni kellene a hibatrendekből. Mind a Bizottság, mind a Meta számára nehézséget okoz a Meta gyűlöletbeszédre alkalmazott aktuális megközelítésének értékelése akkor, ha nem áll rendelkezésre további információ a Meta tervezési döntéseiről, valamint emberi és automatikus rendszereinek teljesítményéről.

Ahhoz, hogy fel lehessen mérni a potenciális gyűlöletbeszéd automatikus észlelésére a jelen esetnél is használt gépi tanulásos eszközök szükségességét és arányosságát, kulcsfontosságú ezen eszközök pontosságának megértése. A gépi tanulásos besorolók használata mindig kompromisszumot jelent az álpozitívak és az álnegatívak arányának tekintetében. Minél érzékenyebb egy besoroló beállítása, annál valószínűbb, hogy helyesen felismeri a gyűlöletbeszéd előfordulásait, ugyanakkor annál valószínűbben fog tévesen megjelölni nem gyűlöletbeszédnek számító anyagokat is. A különbözőképpen betanított besorolók és a különböző modellek hasznossága és hatékonysága a feladattól függően változik. Minden modellnél beállíthatók különböző küszöbértékek is, amelyek kifejezik a különböző típusú hibák elkerülésének relatív fontosságát. A tévedések valószínűsége és súlyossága befolyásolja az adott besoroló alkalmazásának módjáról hozott döntéseket is, például hogy kezdeményezhet-e azonnali intézkedést, vagy szükség van-e emberi jóváhagyásra, továbbá hogy milyen biztonsági elemeket szükséges beiktatni.

A Meta elmagyarázta, hogy az ennél az esetnél vizsgált bejegyzést automatikus rendszerei ellenőrzésre továbbították, mert valószínűsíthető volt, hogy nagy célközönséghez jut el. Ez a megközelítés csökkenteni tudja a káros anyagok terjedését, ugyanakkor valószínűleg növeli annak kockázatát, hogy a gyűlölettel szembemenő erőteljes művészi kifejezések tévesen eltávolításra kerüljenek. A Meta arról tájékoztatta a Bizottságot, hogy rendszeresen ellenőrzi az álpozitívak időbeli alakulását, szakértő ellenőrök döntéseiből képzett adatkészlettel összevetve. A Meta megjegyezte továbbá, hogy lehetséges volt felmérni az ennél az esetnél releváns konkrét gépi tanulásos modellek pontosságát, illetve hogy a vállalat legalább 90 napig megőrzi a besorolói előrejelzéseivel kapcsolatos adatokat. A Bizottság próbált bekérni olyan információkat, amelyek lehetővé tennék ennek az osztályozónak a teljesítményértékelését, valamint a Meta által az esetnél használt küszöbértékek megfelelőségét, de a Meta arról tájékoztatta a Bizottságot, hogy nem tudja megadni a kért információkat a szükséges előkészítési idő hiánya miatt. A Meta megjegyezte ugyanakkor, hogy mérlegeli az ilyen információk elérhetővé tételének megvalósíthatóságát a jövőbeli esetekre nézve.

Az emberi ellenőrzés két fontos biztonsági elemet is jelenthet a Meta besorolóinak működésénél: az elsőt egy bejegyzés eltávolítása előtt, a másodikat pedig a döntés visszavonásának kérésekor. Az ennél az esetnél felmerült hibák arra utalnak, hogy a Meta esetleg nem nyújt kellő szintű iránymutatást a moderátorainak a válaszbeszéd értékeléséhez. Több ok is közrejátszhatott abban, hogy az emberi moderátorok kétszer is helytelen döntést hoztak ezzel az esettel kapcsolatban. A Bizottság aggodalmát fejezi ki azzal kapcsolatban, hogy az ellenőröknek esetleg nincs sem elég idejük, sem kellő felkészültségük ahhoz, hogy elkerüljék az ennél az esetnél tapasztalthoz hasonló hibákat, különösen a szabályok engedményei által engedélyezett tartalmak kapcsán (ideértve például a gyűlöletbeszéd „elítélés” és „felvilágosítás” céljából való megosztását).

Ennél az esetnél mindkét ellenőr az ázsiai-csendes-óceáni régióban dolgozott. A Meta nem tudott tájékoztatást adni a Bizottságnak arról, hogy az ellenőrök pontossági aránya eltérnek-e azoknál a moderátoroknál, akik úgy döntenek potenciális gyűlöletbeszédről, hogy nem a tartalom közzétételének régiójában tartózkodnak. A Bizottság hangsúlyozza a gyűlöletbeszéd értékelésének komplexitását, valamint a helyi kontextus és történelem megértésének nehézségeit, különösen a moderátorok által napi szinten ellenőrzött tartalom mennyiségét figyelembe véve. Elképzelhető, hogy az esetben vizsgált tartalmat értékelő moderátorok kevesebb tapasztalattal bírtak az őslakos népek észak-amerikai elnyomásával kapcsolatban. Az iránymutatásnak egyértelmű útmutatást kell tartalmaznia a tartalom egészében való kiértékelésére, és segítenie kell a moderátorokat a kontextus pontosabb felmérésében a szándék és a jelentés bizonyítékának megállapításához.

A Bizottság a kétgombos mémmel kapcsolatos ( 2021-005-FB-UA sz.) döntésénél azt ajánlotta, hogy a Meta tegye lehetővé a felhasználóknak annak jelzését a döntés visszavonásának kérésekor, hogy tartalmukra alkalmazandó a Facebook gyűlöletbeszédre vonatkozó közösségi alapelvének valamely engedménye. Jelenleg ha egy felhasználó a Meta valamely döntésének visszavonását kéri, és ez emberi ellenőrzéshez vezet, az ellenőr nem kap tájékoztatást arról, hogy a felhasználó vitat egy korábbi döntést, továbbá nem ismeri az előző ellenőrzés eredményét sem. Miközben a Meta arról a vélekedéséről tájékoztatta a Bizottságot, hogy az ilyen tájékoztatás részrehajlóvá tenné az ellenőrzést, a Bizottságot érdekelné, hogy az információ növelni tudná-e az árnyaltabb döntéshozatal valószínűségét. Ezt a kérdést a Meta tudná tapasztalati úton tesztelni, és az ilyen tesztek eredményei segíthetnének kiértékelni a Meta által alkalmazni választott konkrét intézkedések arányosságát.

Az UNGP-k értelmében a Meta felelős emberi jogi gondossági vizsgálatot végezni (17. irányelv). E vizsgálatnak részét kell képezze a tartalommoderálás művészi kifejezésre, valamint a diszkriminációval szembeszálló őslakos népek politikai véleménykifejezésére gyakorolt esetleges negatív hatásainak azonosítása. A Metának ezenkívül azonosítania kell e negatív hatások megelőzésének és mérséklésének, valamint a velük való elszámolásnak a módjait. A Bizottság elkötelezett a Meta teljesítményének nyomon követése mellett, és elvárja a vállalattól, hogy prioritásként kezelje a marginalizált csoportokra leselkedő kockázatokat, továbbá hogy bizonyítékokkal szolgáljon folyamatos fejlődésére e téren.

9.Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálja a Meta tartalom eltávolítására vonatkozó eredeti döntését.

10. Szabályalkotást támogató tanácsadó nyilatkozat

Szabálybetartatás

1. Időben és pontosan tájékoztassa a felhasználókat a vállalat által végzett minden műveletről, amely az érintett felhasználók olyan tartalmával kapcsolatos, amelynél a döntés visszavonását kérték. Ahol ez alkalmazandó, ideértve a mostanihoz hasonlóan szabálybetartatási hibával jellemezhető eseteket is, a felhasználónak küldött értesítésben szerepelnie kell, hogy a művelet az Ellenőrző Bizottság felülvizsgálati folyamatának eredménye volt. Amikor a Bizottság lépései befolyásolják a felhasználók által fellebbezett tartalmi döntéseket, a Meta ossza meg a felhasználóval való kommunikációjának tartalmát, hogy ezzel igazolja ennek az ajánlásnak a betartását. Ezeket a lépéseket minden olyan esetnél meg kell tenni, amelynél helyesbítés történik a Bizottság esetkiválasztási folyamatszakaszában.

2. Tanulmányozza a második ellenőrzés módosított megközelítéseinek hatásait az ellenőrök pontosságára és teljesítményére. A Bizottság különösen azt kéri, hogy a vállalat vizsgálja meg, milyen hatással van az ellenőrzés pontossági arányaira, ha a tartalommoderátorokat tájékoztatják arról, hogy másodlagos ellenőrzést végeznek, tehát tudomásukra hozzák, hogy az eredeti megállapítást vitatták. Ebben a kísérletben ideális esetben a felhasználóknak is lehetőséget kellene adni, hogy releváns kontextust biztosítsanak az ellenőrök általi tartalomértékelés megkönnyítéséhez, összhangban a Bizottság korábbi ajánlásaival. A Meta ossza meg ezeknek a pontossági felméréseknek az eredményeit a Bizottsággal, és összegzett formában a Bizottság működésével kapcsolatos negyedéves átláthatósági jelentésében nyilvánosan is, hogy igazolja ennek az ajánlásnak a teljesítését.

3. Végezzen pontossági felméréseket a gyűlöletbeszédre vonatkozó szabálynak a művészi kifejezést és az emberi jogi jogsértésekkel kapcsolatos megnyilvánulásokat (pl. elítélés, felvilágosítás, önmagára való hivatkozás, pozitív felhanggal való használat) lefedő engedményeivel kapcsolatban. Ez a felmérés konkrétan azt is vizsgálja meg, hogyan hat az ellenőrzést végző személy földrajzi helye a moderátorok azon képességére, hogy pontosan mérjék fel a gyűlöletbeszéd és a válaszbeszéd eseteit a saját régiójukban, illetve más régiókban. A Bizottság megérti, hogy egy ilyen elemzéshez valószínűleg szükség lesz megfelelő és pontosan címkézett mintákra a releváns tartalmakból. A Meta ossza meg ennek a felmérésnek az eredményeit a Bizottsággal, ideértve azt is, hogy az eredmények miként használhatók fel a szabálybetartatási műveletek és a szabályzatfejlesztés javítására, és tájékoztassa a Bizottságot arról is, hogy tervezi-e az ellenőrök pontosságának rendszeres felmérését ezekkel az engedményekkel kapcsolatban, továbbá az eredményeket összegzett formában ossza meg a Bizottság működésével kapcsolatos negyedéves átláthatósági jelentésében nyilvánosan is, hogy igazolja ennek az ajánlásnak a teljesítését.

*Eljárással kapcsolatos megjegyzés:

Az Ellenőrző Bizottság döntéseit öttagú testületek készítik elő, és a Bizottság többségének jóvá kell hagynia őket. A Bizottság döntései nem feltétlenül képviselik az összes tag személyes nézeteit.

Az esetről hozott döntéssel kapcsolatban független kutatás zajlott a Bizottság megbízásából. A társadalmi-politikai és a kulturális kontextussal kapcsolatban a Göteborgi Egyetemen működő független kutatóintézet, egy hat földrész 50 társadalomtudósából álló csapat és több mint 3200 nemzetközi országszakértő nyilvánított szakértői véleményt, továbbá a geopolitika, a bizalom és biztonság, valamint a technológia metszéspontjaiban működő Duco Advisors tanácsadó cég szintén segítette a munkát.

Return to Case Decisions and Policy Advisory Opinions