Iráni nő felelősségre vonása az utcán

Összefoglalás

Az Ellenőrző Bizottság felülbírálta a Meta eredeti döntését egy videó eltávolításáról, amelyben egy férfi számonkér egy nőt Irán utcáin, mert nincs rajta hidzsáb. A bejegyzés nem sértette meg az erőszakra és uszításra vonatkozó szabályokat, mert nem szó szerinti, hanem átvitt értelmű állítást tartalmaz, és nem minősül erőszakkal való hitelt érdemlő fenyegetésnek. A zűrzavar, a fokozódó elnyomás és a tiltakozó emberek elleni erőszak időszakában megosztott bejegyzésről elmondható, hogy a közösségi médiához való hozzáférés kulcsfontosságú Iránban, ahol az internet a nők jogaiért folytatott küzdelem új csatatere. Mivel az Instagram azon kevés platformok egyike, amely nem tiltanak be az országban, a rendszerellenes „Nő, élet, szabadság” mozgalomban betöltött szerepe felbecsülhetetlen, annak ellenére, hogy a rezsim erőfeszítéseket tesz a félelemkeltésre és a nők online elhallgattatására. A Bizottság arra a következtetésre jutott, hogy a Meta erőfeszítései nem voltak elegendőek a véleménynyilvánítási és gyülekezési szabadság tiszteletben tartásának biztosítására a szisztematikus állami elnyomás kontextusában, és a vállalat Válságszabályzati protokolljának módosítását javasolja.

Tudnivalók az esetről

2023 júliusában egy felhasználó közzétett egy videót az Instagramon, amelyben egy férfi nyilvánosan számonkér egy nőt, mert nincs rajta hidzsáb. A perzsa nyelvű, angol felirattal ellátott videóban a nő azt válaszolja, hogy kiáll a jogaiért. A kísérő képaláírás támogatásáról biztosítja a nőt és a rezsimmel szemben kiálló iráni nőket. A szintén a rezsimet kritizáló képaláírás egyik részében szerepel egy mondat, amely a Meta szerint azt jelenti, hogy „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk).

Az iráni büntető törvénykönyv szerint börtönbüntetéssel vagy pénzbírsággal kell sújtani, illetve meg kell korbácsolni azokat a nőket, akik „megfelelő hidzsáb” nélkül jelennek meg nyilvánosan. 2023 szeptemberében az iráni rezsim jóváhagyta az új hidzsáb- és tisztasági törvényt, amelynek értelmében a nőket akár 10 év börtönbüntetésre is ítélhetik, ha továbbra is megszegik a kötelező hidzsábszabályokat. A bejegyzés képaláírása egyértelművé teszi, hogy a videóban szereplő nőt már letartóztatták.

A bejegyzést, amelyet először a Meta automatikus rendszerei jelöltek meg az Instagram közösségi irányelveinek esetleges megsértése miatt, elküldték emberi ellenőrzésre. Bár több ellenőr is megvizsgálta a tartalmat a Meta erőszakra és uszításra vonatkozó szabályzata alapján, nem jutottak ugyanarra a következtetésre, ami egy technikai hibával együtt azt eredményezte, hogy a bejegyzés a platformon maradt. Ezután egy felhasználó jelentette a bejegyzést, ami újabb ellenőrzéshez vezetett, ezúttal a Meta nyelvi szakértelemmel rendelkező regionális csapata által. Ebben a szakaszban megállapították, hogy a bejegyzés megsértette az erőszakra és uszításra vonatkozó szabályzatot, és eltávolították az Instagramról. A tartalmat közzétevő felhasználó ezután kért felülvizsgálatot a Bizottságtól. A Meta mindaddig fenntartotta a tartalom eltávolítására vonatkozó döntését, amíg a Bizottság ki nem választotta ezt az esetet, amely szakaszban a vállalat visszavonta döntését, és visszaállította a bejegyzést.

Főbb megállapítások

A Bizottság megállapítja, hogy a bejegyzés nem sértette meg az erőszakra és uszításra vonatkozó közösségi alapelvet, mert nem szó szerinti, hanem átvitt értelmű beszédet tartalmaz, és nem minősül erőszakkal való hitelt érdemlő fenyegetésnek, amely nem online jellegű ártalmat idézhet elő. Bár a Meta eredetileg részben azért távolította el a bejegyzést, mert úgy értékelte az „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk) mondatot, mint nagy súlyosságú erőszak elkövetésére irányuló szándék kifejezését – amely a videóban szereplő férfit célozza meg –, ezt nem szó szerint kell értelmezni. Tekintettel az Iránban széles körben zajló tiltakozásokra, valamint a képaláírás és a videó egészére, a mondat átvitt értelmű, és a rezsimmel szembeni haragot és felháborodást fejezi ki. A Bizottság által megkérdezett nyelvi szakértők a mondatot kissé eltérően fordították – „we will tear you to pieces sometime soon” (hamarosan darabokra tépünk) –, és elmagyarázták, hogy az haragot, csalódottságot és neheztelést közvetít a rezsim felé. Ahelyett, hogy kárt okozna a rezsimnek, a legvalószínűbb ártalom, amely ebből a bejegyzésből származhat, a rezsim általi megtorló erőszak lenne.

Míg a Meta szabályindoklása azt sugallja, hogy a „hitelt érdemlő fenyegetés” értékelésekor figyelembe lehet venni a „nyelvezetet” és a „kontextust”, a Meta moderátoroknak adott belső útmutatója ezt a gyakorlatban nem teszi lehetővé. A moderátorok azt az útmutatást kapják, hogy azonosítsanak konkrét kritériumokat (fenyegetés és cél), és ha ezek teljesülnek, távolítsák el a tartalmat. A Bizottság korábban aggodalmát fejezte ki ezen eltérés miatt az Iráni tiltakozó jelmondat eset kapcsán, amelyben azt javasolta, hogy a Meta biztosítson részletes útmutatást a kontextus megfontolásáról, és utasítsa arra a moderátorokat, hogy a továbbiakban ne távolítsák el alapértelmezett módon az eltérő véleményt kifejező „szónoki fordulatokat”. Továbbra is aggodalomra ad okot, hogy még mindig van lehetőség a szabályok következetlen betartatására az átvitt értelmű beszéd kapcsán olyan kontextusokban, mint Irán. Továbbá mivel az automatizálási pontosságot befolyásolja az emberek által biztosított betanulási adatok minősége, valószínűleg fokozott az átvitt értelmű beszéd téves eltávolításának lehetősége.

Ezt a bejegyzést az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv szerint is megvizsgálták, mert van egy olyan szabály, amely tiltja az „olyan tartalmak[at], amelyek kockázatnak teszik ki a kendő nélkül ábrázolt nőket azáltal, hogy akaratuk ellenére vagy engedélyük nélkül jelenítik meg őket kendő nélkül”. A szabálypontot azóta módosították, így a tilalom most így szól: „Valamely személy [kendő nélküli nők] személyazonosságának felfedése és veszélyeztetése.” Ezzel kapcsolatban a Bizottság egyetért a Metával abban, hogy a tartalom nem fedi fel a videóban szereplő nő személyazonosságát, és a kár kockázata csökkent, mert a személyazonossága széles körben ismert volt, és már letartóztatták. A bejegyzést voltaképpen azért osztották meg, hogy felhívják a figyelmet a letartóztatására, és hogy adott esetben segítsenek nyomást gyakorolni a hatóságokra, hogy engedjék el.

Mivel a Meta válságkezelési szabályai, köztük a Válságszabályzati protokoll szerint Irán veszélyeztetett országnak minősül, a vállalat ideiglenes szabálymódosításokat („módosítókat”) alkalmazhat egy adott helyzet kezelésére. Bár a Bizottság elismeri a Meta Iránnal kapcsolatos erőfeszítéseit, ezek eddig nem voltak elegendőek ahhoz, hogy biztosítsák az emberek véleménynyilvánítási és gyülekezési szabadságának tiszteletben tartását szisztematikus elnyomást alkalmazó környezetekben.

Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálta a Meta eredeti döntését a bejegyzés eltávolításáról.

A Bizottság a következőket javasolja a Metának:

• Fűzzön ideiglenes módosítót a Válságszabályzati protokollhoz, hogy világossá tegye, hogy azok az átvitt értelmű (azaz nem szó szerinti) állítások, amelyek nem szándékoznak erőszakra uszítani, és nem is valószínű, hogy erőszakra uszítanak, nem sértik azt az erőszakra és uszításra vonatkozó szabálypontot, amely a releváns kontextusokban tiltja az erőszakkal való fenyegetést. Ennek keretében kritériumokat kell kidolgozni a tömeges ellenőrzést végző moderátorok számára az ilyen állítások azonosításához a releváns kontextusban.

*Az esetek összefoglalásai áttekintést adnak az esetekről, és nincs precedensértékük.

Az esetről hozott teljes döntés

1. A döntés összefoglalása

Az Ellenőrző Bizottság felülbírálja a Meta eredeti döntését egy videó eltávolításáról, amelyben egy férfi számonkér egy nőt Irán utcáin, mert nincs rajta hidzsáb. A Meta eltávolította a bejegyzést az Instagramról a képaláírás következő sora miatt – „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk). Ezt a mondatot a vállalat a videóbeli férfit megcélzó fenyegetésként értelmezte, aki azért ment oda a nőhöz, mert az nem viselt hidzsábot. A Bizottság megállapítja, hogy a bejegyzés nem sértette meg az erőszakra és uszításra vonatkozó szabályzatot, mert a vonatkozó állítás nem szó szerinti, hanem átvitt értelmű, és a kontextust tekintve nem minősül hitelt érdemlő erőszakkal való fenyegetésnek. Miután a Bizottság kiválasztotta az esetet, a Meta kezdetben fenntartotta a bejegyzés eltávolítására vonatkozó döntését – azonban mielőtt benyújtotta volna indoklását a Bizottságnak, a Meta megállapította, hogy az eredeti döntése a tartalom eltávolításáról téves volt, és visszaállította a bejegyzést a platformra. A Bizottság arra a következtetésre jutott, hogy a Meta erőfeszítései nem voltak elegendőek a véleménynyilvánítási és gyülekezési szabadság tiszteletben tartásának biztosítására a véleménynyilvánítás szabadságának szisztematikus állami elnyomása kontextusában, és a vállalat Válságszabályzati protokolljának módosítását javasolja.

2. Az eset leírása és háttere

2023 júliusában egy Instagram-felhasználó közzétett egy angolul feliratozott, perzsa nyelvű videót, amelyben egy férfi nyilvánosan számonkér egy nőt, mert nincs rajta hidzsáb, a nő pedig azt válaszolja, hogy kiáll a jogaiért. A férfi nem azonosítható a videóban, míg a nő teljesen látható. Úgy tűnik, hogy a videó egy olyan felvétel továbbosztása, amelyet eredetileg az iráni rezsimmel kapcsolatban álló vagy azt támogató személy osztott meg. A videót egy – szintén perzsa nyelvű – képaláírás kísérte, amely támogatásáról biztosította a nőt és a rezsimmel szemben kiálló iráni nőket, és kritizálta a rezsimet és támogatóit. A képaláírás tartalmazott egy mondatot, amelyet a Meta úgy fordított, hogy „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk), és azt állította, hogy a nőt az incidenst követően letartóztatták. A bejegyzést körülbelül 47 ezerszer tekintették meg, kb. 2000 kedvelés és 100 hozzászólás érkezett rá, és kb. 50-szer osztották meg.

Ezt a tartalmat először a Meta által a potenciális szabálysértések azonosítására használt algoritmus, egy automatikus besoroló jelölte meg, miszerint a tartalom potenciálisan sérti az Instagram közösségi irányelveit, és emberi ellenőrzésre küldte. Több ellenőr értékelte a tartalmat, de egy technikai hiba miatt, illetve mivel az ellenőrök nem jutottak azonos következtetésre arról, hogy a bejegyzés megsértette-e az erőszakra és uszításra vonatkozó szabályzatot, kezdetben nem távolították el. Ezután egy felhasználó jelentette a tartalmat, amelyre válaszul egy automatikus besoroló ismét megállapította, hogy a tartalom potenciálisan megsértette a Meta szabályait, és további ellenőrzésre küldte. A tartalmat egy felhasználó jelentette, és csak egy alkalommal. Miután a Meta regionális és nyelvi szakértelemmel rendelkező csapata egy újabb szinten ellenőrizte a bejegyzést, a Meta az erőszakra és uszításra vonatkozó szabályzat értelmében eltávolította azt az Instagramról. A Meta a bejegyzés eltávolítására vonatkozó döntése a képaláírás következő során alapult: „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk). A vállalat ezt a sort a videóban szereplő férfit célzó fenyegetésként értelmezte, aki azért ment oda a nőhöz, mert nem volt rajta hidzsáb. A bejegyzést létrehozó felhasználó a bejegyzés eltávolítására irányuló döntés visszavonását kérte a Metától. Egy ellenőr fenntartotta az eltávolításra irányuló döntést.

A tartalmat közzétevő felhasználó ezután felülvizsgálati kérelmet nyújtott be az eltávolítás ellen a Bizottsághoz. Amikor a Bizottság azonosította az esetet jogi felülvizsgálat céljából, a Meta fenntartotta a tartalom eltávolítására irányuló döntését. Az ellenőrzés ezen szakaszában a Meta figyelembe vette az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelvet is, amely tiltja a kendő nélküli nők személyazonosságának felfedését, ha ez az ártalom kockázatának teszi ki az illető nőt. Amikor a tartalmat közzétették, a nőt már letartóztatta a rezsim. Miután a Bizottság kiválasztotta az esetet, a vállalat később megváltoztatta a döntését, és regionális csapatának további észrevételei, valamint a Bizottság Felhívás női tüntetésre Kubában esetben hozott döntése alapján visszaállította a tartalmat.

Amint azt a Bizottság az Iráni tiltakozó jelmondat esetről hozott döntésében megjegyezte, az iráni emberek már legalább az 1979-es forradalom óta tiltakoznak a kormány ellen, illetve kiállnak a polgári és politikai jogokért és a nemek közötti egyenlőségért. 2023-ban a Nobel-békedíjat Narges Mohammadi, bebörtönzött emberi jogi aktivista kapta „a nők jogaiért folytatott több mint 20 éves küzdelméért, amely a szabadság jelképévé és az iráni teokrácia elleni küzdelem zászlóvivőjévé tette”. Az iráni büntető törvénykönyv szerint börtönbüntetéssel vagy pénzbírsággal kell sújtani, illetve meg kell korbácsolni azokat a nőket, akik „megfelelő hidzsáb” nélkül jelennek meg nyilvánosan. Az iráni nők bizonyos tanulmányi területekről és sok nyilvános helyről is ki vannak tiltva, az embereknek pedig többek között tilos ellenkező neműekkel táncolniuk. A férfiakat tekintik a család fejének, a nőknek pedig apjuk vagy férjük engedélyére van szükségük ahhoz, hogy dolgozni, házasodni vagy utazni tudjanak. A nők bírósági tanúvallomását feleakkora súllyal veszik figyelembe, mint a férfiakét, ami korlátozza a nők igazságszolgáltatáshoz való hozzáférését.

Miután az iráni hatóságok 2022-ben fokozták és kiterjesztették a kötelező hidzsábra vonatkozó végrehajtási intézkedéseket, a nőket szigorúbban ellenőrizték, ami gyakran szóbeli és fizikai zaklatáshoz és letartóztatásokhoz vezetett. 2022 szeptemberében a 22 éves Jina Mahsa Amini három nappal a letartóztatása után rendőrségi őrizetben halt meg, mert állítólag nem tartotta be az ország „megfelelő hidzsáb” viselésére vonatkozó szabályait. Halála országos felháborodást és tiltakozási hullámokat váltott ki az egész országban, és egy rendszerellenes mozgalmat, amely a „Zan, Zendegi, Azadi” („Nő, élet, szabadság”) jelmondattal vált ismertté. Ez a hatóságok erőszakos fellépéséhez vezetett, 2022 végéig több mint 500 megerősített halálesettel, és becslések szerint 14 000 ember – köztük tüntetők, újságírók, ügyvédek, aktivisták, művészek és sportolók – letartóztatásával a mozgalom támogatói közül.

2023 szeptemberében az iráni parlament jóváhagyta az új „Hidzsáb és tisztaság” törvényt, amelynek értelmében a nők akár 10 év börtönbüntetést is kaphatnak, ha folytatólagosan megszegik az ország kötelező hidzsábszabályait. Azok a vállalkozások, amelyek hidzsáb nélküli nőket szolgálnak ki, szintén szankciókkal büntethetők, és a bezárást kockáztatják.

A közösségi média központi szerepet játszik az iráni női tiltakozó mozgalomban, és kritikus fontosságú a tiltakozások mozgósítása és a létfontosságú információk terjesztése (lásd a PC-21007 és PC-21011 nyilvános hozzászólásokat), valamint a visszaélésekkel és az emberi jogok megsértésével kapcsolatos bizonyítékok dokumentálása és nyilvános megőrzése (PC-21008, melléklet) szempontjából.

Az online kampányok azonban a rezsim általi további elnyomás veszélyének is kiteszik a nőket, beleértve a fenyegetéseket, a rágalmazási kampányokat, a letartóztatásokat és a bebörtönzéseket. A Bizottság által megkérdezett szakértők megjegyezték, hogy az Iszlám Forradalmi Gárdához és az iráni kormányhoz kapcsolódó szervezetek kiterjedt hálózata van jelen az Instagramon és a Telegramon, és ez utóbbit gyakran használják a tüntetők és másként gondolkodók közvetlen megcélzására és megvádolására.

A Bizottsághoz benyújtott több nyilvános hozzászólás is kiemelte a rezsim taktikáját, hogy a felhasználói bejelentési rendszer segítségével tömegesen jelentik a tiltakozó tartalmakat az Instagramon annak érdekében, hogy „nyomást gyakoroljanak a közösségi médiavállalatokra a másként gondolkodókkal kapcsolatos tartalmak eltávolítása vagy rejtett tilalomba helyezése érdekében” (lásd a PC-21011 és PC-21009 nyilvános hozzászólásokat). Arról is érkeztek beszámolók, hogy iráni hírszerzési ügynökök pénzt ajánlottak tartalommoderátoroknak a rezsim kritikusai által megosztott tartalmak eltávolítása céljából.

2023 februárjában az ENSZ Iránnal foglalkozó különmegbízottja aggodalmát fejezte ki a civil társadalmi aktivisták, emberi jogi jogvédők, nőjogi aktivisták, ügyvédek és újságírók folyamatos elnyomása és megcélzása miatt, mivel a hatóságok visszaszorítják az egyet nem értés kifejezésének csatornáit, beleértve az internet jelentős zavarását és a közösségimédia-platformok cenzúráját.

3. Az Ellenőrző Bizottság jogosultsága és hatásköre

A Bizottságnak jogában áll megvizsgálni a Meta döntését annak a személynek a felülvizsgálati kérelme alapján, akinek a tartalmát eltávolították (az Alapokmány 2. cikkének 1. szakasza; a szervezeti és működési szabályzat 3. cikkének 1. szakasza).

A Bizottság fenntarthatja vagy felülbírálhatja a Meta döntését (az alapokmány 3. cikkének 5. szakasza), és döntése kötelező a vállalatra nézve (az Alapokmány 4. cikke). A Metának azt is meg kell vizsgálnia, hogy alkalmazható-e ez a döntés párhuzamos kontextusú hasonló tartalmak esetén (az Alapokmány 4. cikke). Döntéseiben a Bizottság olyan, nem kötelező érvényű ajánlásokat is megfogalmazhat, amelyekre a Meta köteles reagálni (az Alapokmány 3. cikkének 4. szakasza; illetve 4. cikke). Amikor a Meta kötelezettséget vállal az ajánlások megvalósítására, a Bizottság ellenőrzi azok végrehajtását.

Amikor a Bizottság olyan esetet választ ki, mint ez, amelyben a Meta utólag elismeri, hogy hibát követett el, a Bizottság megvizsgálja az eredeti döntést, hogy jobban megértse a hibához vezető tartalommoderálási folyamatot, és ajánlásokat tegyen a hibák csökkentése és a Facebook- és Instagram-felhasználókkal való méltányosabb bánásmód érdekében.

4. Hivatalos források és iránymutatás

A Bizottság elemzését ennél az esetnél a következő normák és előzmények támasztották alá:

I. Az Ellenőrző Bizottság döntései

Az Ellenőrző Bizottság legrelevánsabb korábbi döntései közé tartoznak az alábbiak:

• Felhívás női tüntetésre Kubában
• Metaforikus állítás Peru elnökéről
• Iráni tiltakozó jelmondat
• Öcalan magánzárkában való elzárása
• Az emlőrák tünetei és a meztelenség

II. A Meta tartalmi szabályai

A Bizottság a Meta által „elsődleges fontosságúnak” tartott „véleménynyilvánítás” értékét, valamint a „biztonság”, az „adatvédelem” és a „méltóság” értékét figyelembe véve végezte elemzését.

Az Instagram közösségi irányelvei

Az Instagram közösségi irányelvei kimondják, hogy a vállalat „eltávolítj[a] az olyan tartalmakat, amelyekben hitelt érdemlő fenyegetés [...] szerepel”, és az erőszakra és uszításra vonatkozó közösségi alapelvre hivatkoznak. A közösségi irányelvek nem hivatkoznak közvetlenül az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelvre. A Meta közösségi alapelveinek betartatásáról készült 2023. I. negyedévi jelentés kijelenti, hogy „a Facebook és az Instagram közös tartalmi szabályokkal rendelkezik. Ez azt jelenti, hogy a Facebookon szabálysértőnek minősülő tartalmak az Instagramon is szabálysértőnek számítanak.”

A tartalmat az erőszakra és uszításra vonatkozó szabályzat értelmében eltávolították. Miután a Bizottság kiválasztotta az esetet, a Meta az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó szabályzat értelmében is megvizsgálta a tartalmat.

Erőszakra és uszításra vonatkozó közösségi alapelvek

A szabály indoklása szerint az erőszakra és uszításra vonatkozó közösségi alapelv célja, hogy „megakadályozza a Meta platformjain közzétett tartalmakhoz kapcsolódó potenciális nem online jellegű erőszakot”. A Meta ugyanakkor elismeri, hogy „az emberek gyakran komolytalan és laza módon erőszakkal való fenyegetéssel vagy arra való felszólítással fejezik ki a megvetésüket vagy egyet nem értésüket”. A Meta ezért eltávolítja a tartalmat, ha a vállalat úgy véli, hogy olyan „erőszakos fenyegetések[et]” tartalmaz, „amelyek halálhoz [...] vezethetnek”, beleértve azokat a tartalmakat is, amelyek „nagy súlyosságú erőszak” elkövetése iránti „szándékot fejeznek ki” bárkivel szemben. A vállalat azt állítja, hogy a fenyegetés hitelességének értékelésekor figyelembe veszi az állítás kontextusát, amely bármilyen további információ lehet, mint például a személy „nyilvános láthatósága és a célpont sebezhetősége”.

A szabályzat „ne tegyél közzé…” szakasza kifejezetten tiltja a potenciálisan halálos kimenetelű (vagy más nagy súlyosságú erőszakhoz vezető) fenyegetéseket”. A „fenyegetés” szó nagy súlyosságú erőszak elkövetésére irányuló szándékot fejez ki.

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv

A szabályindoklás szerint az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv „a nem online károkozás és utánzás megakadályozása érdekében” tiltja „az emberek, vállalkozások, tulajdon vagy állatok ellen irányuló, bizonyos bűncselekménynek minősülő vagy ártalmas tevékenységek elősegítését, szervezését, népszerűsítését és beismerését”. Ezek közé tartozik a „felfedés”, amely a Meta meghatározása szerint olyan tartalmakat jelent, amelyek leleplezik bárkinek a személyazonosságát vagy tartózkodási helyét, aki állítólag – többek között – „leleplezés kockázatától veszélyeztetett csoport tagja”. Ezt a szabálypontot a tömeges ellenőrzést végző moderátorok tartatják be bizonyos konkrét csoportok vonatkozásában. A Meta tartalom közzétételekor érvényben lévő szabályzata kijelentette, hogy a vállalat eszkaláció és további kontextus esetén eltávolíthatja az „olyan tartalmak[at], amelyek kockázatnak teszik ki a kendő nélkül ábrázolt nőket azáltal, hogy akaratuk ellenére vagy engedélyük nélkül jelenítik meg őket kendő nélkül”. A szabálypontot azóta átfogalmazták, így a tilalom most így szól: „valamely személy [kendő nélküli nők] személyazonosságának felfedése és veszélyeztetése”.

III. A Meta emberi jogi felelősségei

Az ENSZ Emberi Jogi Tanácsa által 2011-ben elfogadott, üzleti és emberi jogokra vonatkozó irányadó ENSZ-alapelvek (UNGP-k) meghatározzák az üzleti vállalkozások emberi jogi felelősségeinek önkéntes keretrendszerét. A Meta 2021. március 16-án bejelentett vállalati emberi jogi szabályzata újfent megerősítette a vállalat elkötelezettségét az UNGP-k szerinti jogok tiszteletben tartása mellett.

A Bizottság Meta emberi jogi felelősségeivel kapcsolatos elemzése szempontjából ennél az esetnél a következő nemzetközi normák lehetnek relevánsak:

• A szabad véleménynyilvánítás joga: A Polgári és Politikai Jogok Nemzetközi Egyezségokmányának (ICCPR) 19. cikke, 34. általános megjegyzés, Emberi Jogi Bizottság, 2011; Az ENSZ véleményalkotás és véleménynyilvánítás szabadságával foglalkozó különmegbízottjának jelentései: A/HRC/38/35 (2018) és A/74/486 (2019); valamint a Rabati cselekvési terv, az ENSZ emberi jogi főbiztosának jelentése: A/HRC/22/17/4. kiegészítés (2013).
• A békés gyülekezés szabadságához való jog: az ICCPR 21. cikke; 37. általános megjegyzés, Emberi Jogi Bizottság (2020).
• Az élethez való jog: Az ICCPR 6. cikke.
• A szabadsághoz és a személyi biztonsághoz való jog: Az ICCPR 9. cikke;
• A diszkriminációmentesség joga: az ICCPR 2(1), 3. és 26. cikke; 1. cikk és 7. cikk (diszkriminációmentesség az ország politikai és közéletében való részvétel során), A nőkkel szembeni hátrányos megkülönböztetés minden formájának kiküszöböléséről szóló egyezmény (CEDAW). Lásd még: Az emberi jogi jogvédőkről szóló nyilatkozat 8. cikke, a közügyekben való részvételhez való tényleges, diszkriminációmentes hozzáférés joga.
• A magánélethez való jog: az ICCPR 17. cikke.

5. A felhasználó által beküldött információk

A tartalmat közzétevő felhasználó felülvizsgálati kérelmet nyújtott be az eltávolítás ellen a Bizottsághoz. Nyilatkozatában a felhasználó elmagyarázta, hogy a bejegyzésben az iráni kormány egyik képviselője számonkér egy nőt, mert nincs rajta hidzsáb. A felhasználó azt állította, hogy a videó az iráni nő bátorságát mutatja, aki kiáll a jogaiért. A felhasználó azt állította, hogy mások is megosztottak hasonló videókat a közösségi médiában, és hogy a tartalom nem káros vagy veszélyes, és nem sért semmilyen Instagram-szabályt.

6. A Meta által beküldött információk

Erőszakra és uszításra vonatkozó közösségi alapelvek

A Meta azt mondta a Bizottságnak, hogy a tartalom eltávolítására vonatkozó eredeti döntése ebben az esetben az erőszakra és uszításra vonatkozó szabályon alapult. Kifejtette, hogy döntése részben a bejegyzés képaláírásán alapult, amelyet a vállalat a következőképpen fordított le: „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk). A vállalat ezt a sort a videóban szereplő férfit célzó fenyegetésként értelmezte, aki azért ment oda a nőhöz, mert nem volt rajta hidzsáb. Regionális csapata arra a megállapításra jutott, hogy a „make you into pieces” (darabokra szedünk) kifejezés fizikai bántalmazással való fenyegetést jelent az iráni kontextusban. Erre az értelmezésre tekintettel a Meta kezdetben fenntartotta a döntést, hogy eltávolítja a tartalmat az erőszakra és uszításra vonatkozó szabályzata alapján.

Bár a Meta fenntartotta a tartalom eltávolítására vonatkozó döntését, amikor a Bizottság először azonosította az esetet jogi felülvizsgálat céljából, később, miután a Bizottság kiválasztotta az esetet, megváltoztatta a döntését, és visszaállította a tartalmat a regionális csapat további észrevételei alapján. Ezen észrevételek alapján a Meta arra a következtetésre jutott, hogy a feliratban szereplő megfogalmazás legvalószínűbb értelmezése az iráni rezsim vagy a kötelező hidzsábot támogatók megdöntésére való utalás volt, nem pedig a videóban szereplő férfit célzó szó szerinti fenyegetés.

Ebben a végső ellenőrzésben a Meta arra a következtetésre jutott, hogy a tartalom célja a figyelemfelkeltés és a figyelem felhívása a nők ellen elkövetett visszaélésekre, például azzal a nővel szemben, akit a videóban szereplő férfi számonkér, mert nincs rajta hidzsáb. A felhasználó az iráni nők erejére utal, és a „bastardness” (gazemberség) jelenségét kritizálja, amivel vagy a videót filmező férfira, vagy a rendszer egészére utal, és felhívja a figyelmet a videóban szereplő nő letartóztatására. A Meta kifejtette, hogy a potenciálisan fenyegető megfogalmazást ennek az általános kontextusnak a fényében kell olvasni és értelmezni. A Meta indoklásában az Iráni tiltakozó jelmondat esetben hozott bizottsági döntésre hivatkozva megjegyezte, hogy ez a fajta figyelemfelkeltés különösen fontos Iránban, ahol korlátozottak a szabad véleménynyilvánítás lehetőségei.

A Meta továbbá arról tájékoztatta a Bizottságot, hogy további kutatás után a regionális csapatok véleménye az volt, hogy az „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk) megfogalmazás legészszerűbb értelmezése nem a valódi fenyegetés, hanem inkább a politikai kritika, amely vagy a rendszer egésze, vagy általánosabban a kötelező hidzsábviselést támogató emberek ellen irányul. Míg a „make you into pieces” (darabokra szedünk) kifejezés általában egy személy megölésére utal a teste feldarabolásával, itt a rendszer lebontásaként értelmezhető (hasonlóan A perui elnökkel szembeni metaforikus nyilatkozat összefoglaló döntésben használt metaforikus megfogalmazáshoz).

A Meta elmondta a Bizottságnak, hogy egy másik tényező, amely miatt a vállalat végül visszaállította a tartalmat, a Bizottság közelmúltbeli döntése volt a Felhívás női tüntetésre Kubában esetben, amelyben a Bizottság hangsúlyozta, hogy a bejegyzés kontextusos értelmezésének figyelembe kell vennie az állami elnyomáshullámot és a jelentős közérdeklődést a bejegyzés tárgyát képező történelmi tiltakozások iránt. Ezenkívül a vállalat az Iráni tiltakozó jelmondat esetet is figyelembe vette, amelyben a Bizottság a nőjogokhoz kapcsolódó iráni politikai mozgalmat elemezte. Abban az esetben a Bizottság hangsúlyozta a véleménynyilvánítás védelmének jelentőségét a tiltakozó mozgalom összefüggésében, különösen a szabad véleménynyilvánítás iráni kormány általi szisztematikus elnyomása, illetve a digitális terek eltérő vélemények kifejezésének fórumaként betöltött fontos szerepe fényében. A vállalat azt is megjegyezte, hogy figyelembe vette a Bizottság közelmúltbeli összefoglaló döntését „A perui elnökkel szembeni metaforikus állítás” esetben, amely ismételten hangsúlyozta „az iróniát, a szatírát vagy a szónoki beszédet is felismerő kontextusérzékeny moderálórendszerek kidolgozásának fontosságát, különös tekintettel a politikai véleménykifejezés védelmére”.

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv

A Meta elmondta a Bizottságnak, hogy az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv értelmében is fontolóra vette a tartalom eltávolítását a videón kendő nélkül megjelenített nő személyazonosságának akaratán kívüli felfedéséért. A Meta ezt a szabálypontot csak eszkalációkor tartatja be, és csak akkor, ha további kontextust biztosítanak hozzá. A szabálybetartatáshoz szükség van az érintett felektől származó információkra, a betartatás során pedig annak meghatározására összpontosítanak, hogy a tartalom kendő nélküli nőt ábrázol-e, az engedélye nélkül fedik-e fel a személyazonosságát, és valószínűleg veszélyeztetik-e őt – nem pedig a használt konkrét kifejezésekre vagy a tartalom vagy a képaláírás hangnemére. A Meta megjegyzi, hogy egy személy nem tudja így a saját személyazonosságát felfedni – a szabály megsértéséhez szükséges, hogy a személyazonosság felfedése az akaratán kívül történjen.

Ebben az esetben a Meta úgy határozott, hogy a tartalmat nem szabad eltávolítani a személyazonosság akaraton kívüli felfedése miatt, hiszen a nő személyazonossága széles körben ismert és online elérhető volt, és az esetben vizsgált tartalom közzétételekor már letartóztatták. Ez a kontextus jelentősen csökkentette a tartalom platformon hagyásával kapcsolatos károk kockázatát.

A Bizottság 11 kérdést, majd utólag két további kérdést tett fel írásban a Metának. A kérdések a következőkhöz kapcsolódtak: az Iránnal kapcsolatos szabálybetartatási eljárások és erőforrások; a Meta kockázatértékelése általában Iránnal és konkrétan a videóban szereplő nővel kapcsolatosan; automatikus és emberi ellenőrzési folyamatok; szabályok betartatása a kendő nélküli nőket ábrázoló tartalmaknál; valamint veszélyeztetett csoportok személyazonosságának felfedése tömegesen és eszkalációt követően. A Meta az összes kérdést megválaszolta.

7. Nyilvános hozzászólások

Az Ellenőrző Bizottság 12, az eset szempontjából releváns nyilvános hozzászólást kapott. Hét hozzászólás érkezett az Egyesült Államokból és Kanadából, kettő Közép- és Dél-Ázsiából, kettő Európából, egy pedig a közel-keleti és észak-afrikai régióból.

A beküldött hozzászólások a következő témákat érintették: a közösségi média szerepe az iráni tiltakozásokban, beleértve a „Nő, élet, szabadság” mozgalmat, valamint a kendő nélküli nők képeinek szerepe a digitális kampányokban; a kendő nélküli nőket ábrázoló képek terjesztésének kockázata az iráni közösségi médiában; az iráni hatóságok közösségimédia-használata; a Meta tartalommoderálási szabályainak betartatása az iráni politikai helyzethez kapcsolódó perzsa nyelvű véleménynyilvánítás kapcsán; a véleménynyilvánítás szabadsága, az emberi jogok, a nők jogai, a kormányzati elnyomás és a közösségi média tilalma Iránban.

Az esethez beküldött nyilvános hozzászólások elolvasásához kattints ide.

8. Az Ellenőrző Bizottság elemzése

A Bizottság megvizsgálta a Meta eredeti döntését a tartalom eltávolításáról a vállalat tartalmi szabályai, emberi jogi felelősségei és értékei fényében.

A Bizottság azért választotta ki ezt az esetet, mert lehetőséget kínált arra, hogy feltérképezze a Meta erőszakra és uszításra, valamint összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó szabályait, illetve a kapcsolódó szabálybetartatási folyamatokat a nők jogaiért és közéletben való részvételéért 2022 szeptembere óta folytatott tömeges tiltakozások összefüggésében. Az eset különösen rávilágít arra, hogy mennyire fontosak a közösségimédia-platformok a kötelező hidzsábszabályok ellen tiltakozók számára.

Ezenkívül az eset lehetőséget biztosít a Bizottság számára a Meta azon belső eljárásainak megvitatására, amelyek meghatározzák, hogy az átvitt értelmű beszéd szó szerinti értelmezés esetén mikor és miért értelmezhető fenyegetésként, illetve a kontextus figyelembevételével mikor és miért nem értelmezhető hitelt érdemlő fenyegetésként. Az eset elsősorban a Bizottság választások és a civil szféra prioritásához kapcsolódik, de érinti a Bizottság következő prioritásait is: nemek közötti egyenlőség, a Meta platformjainak használata kormányok által, valamint válság- és konfliktushelyzetek.

8.1. Megfelelés a Meta tartalmi szabályainak

Erőszakra és uszításra vonatkozó közösségi alapelvek

A Bizottság úgy találja, hogy az esetben tárgyalt tartalom nem sérti az erőszakra és uszításra vonatkozó közösségi alapelvet, mivel a kormányzati elnyomás elleni haragot kifejező átvitt értelmű beszédet tartalmaz, nem pedig szó szerinti és ezért hitelt érdemlő, erőszakkal való fenyegetést.

A Meta elmagyarázta, hogy eredetileg azért távolította el az esetben vizsgált tartalmat, mert „nagy súlyosságú erőszak elkövetésére irányuló szándék kifejezését” tartalmazta. A vállalat meghatározása szerint nagy súlyosságú erőszaknak számítanak azok a fenyegetések, amelyek halálos kimenetelt eredményezhetnek, illetve valószínűleg halálosak.

Regionális csapata értékelése alapján a Meta a bejegyzés képaláírásának „it is not far to make you into pieces” (nem vagyunk messze attól, hogy darabokra szedjünk) mondatát az iráni kontextusban fizikai bántalmazással való fenyegetésként értelmezte, amely sérti az erőszakra és uszításra vonatkozó szabályzatot.

A Bizottság által megkérdezett nyelvi szakértők elmagyarázták, hogy a képaláírás releváns része fordítható úgy, hogy „we will tear you to pieces sometime soon!” (hamarosan darabokra tépünk!) vagy „it is not far away, we will rip you into shreds” (nincs messze már, hogy darabokra tépjünk). A szakértők megjegyezték, hogy a mondat az iráni kontextusban haragot, csalódottságot és neheztelést közvetít az elnyomók felé, és azt sugallja, hogy a helyzet idővel megváltozhat, mivel az elnyomók hatalma nem tart örökké. A mondatot nem szó szerint kell értelmezni, mint fizikai bántalmazásra irányuló szándékot; ezzel szemben „szónoki kijelentésként” szolgál, amelynek célja a figyelem felkeltése, amit érzelmi töltetű megfogalmazás hangsúlyoz olyan erőteljes igékkel mint például „tépni” vagy „darabokra szaggatni”. Ezek a szakértők kiemelték, hogy az ilyen átvitt értelmű beszéd azt a mélységes haragot tükrözi, amelyben a tartalmat közzétevő felhasználó és a közönsége egyaránt osztozik. Nem jelent tehát tényleges fizikai erőszakkal való fenyegetést.

Bár a Meta azt közölte a Bizottsággal, hogy egy adott fenyegetés hitelességének értékelésekor az állítás kontextusát is figyelembe veszi, a moderátoroknak szóló útmutatója nem jelzi, hogy figyelembe vehetik a kontextust annak értékelésekor, hogy jelen van-e „nagy súlyosságú erőszak elkövetésére irányuló szándék kifejezése”. Mindaddig, amíg a szabály elemei teljesülnek, különösen amikor a tartalom fenyegetést és célpontot is tartalmaz, a bejegyzés szabálysértőnek minősül, ahogyan a jelen esetben is. Ebben az esetben a Meta úgy értelmezte az állítást, hogy az a nőt követő férfit célozza meg. A szabály nem írja elő, hogy a célpont látható vagy azonosítható legyen. A szabályok csak egy példát adnak a szabály szerint mentességet élvező vagy nem hitelt érdemlő fenyegetésnek tekintett fenyegető beszédre: „bizonyos erőszakos szereplők, például terroristacsoportok elleni fenyegetések”.

A „make you into pieces” (darabokra szed) kifejezés itt nem minősül hitelt érdemlő fenyegetésnek. Tekintettel az iráni zűrzavaros időszakra, fokozódó elnyomásra és a rezsim ellen tiltakozó emberekkel szembeni erőszakra, valamint figyelembe véve a képaláírás és a videó egészét, a Bizottság úgy találja, hogy a mondat átvitt értelmű, nem szó szerinti, a rezsimmel szembeni haragot és felháborodást fejezi ki, és nem minősül „nagy súlyosságú erőszak elkövetésére irányuló szándék kifejezésének”. Ez az értelmezés összhangban van a Meta véleménynyilvánítás iránti elkötelezettségével és a politikai elégedetlenség kifejezése védelmének fontosságával.

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv

A Bizottság megállapítja, hogy a tartalom ebben az esetben nem sérti az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelvet.

A Meta megfontolta, hogy eltávolítsa a bejegyzést azon szabály alapján, amely tiltja az „olyan tartalmakat, amelyek kockázatnak teszik ki a kendő nélkül ábrázolt nőket azáltal, hogy akaratuk ellenére vagy engedélyük nélkül jelenítik meg őket kendő nélkül”. A szabálypontot azóta módosították, így a tilalom most így szól: „Valamely személy [kendő nélküli nők] személyazonosságának felfedése és veszélyeztetése”. A vállalat értelmezése szerint a „személyazonosság felfedése” kiterjed azokra a tartalmakra, amelyekben megosztják egy kendő nélküli nő képét, az engedélye nélkül felfedik a személyazonosságát, és az ártalom kockázatának teszik ki. Ezt a szabálypontot csak eszkaláció esetén alkalmazzák, és a szabálybetartatáshoz információ szükséges különböző érdekelt felektől (lásd a fenti 4. szakaszt).

Ebben az esetben a Bizottság egyetért a Metával abban, hogy a tartalom nem fedi fel a nő személyazonosságát, hiszen a személyazonossága széles körben ismert volt, és a tartalomból eredő ártalom kockázata csökkent, mert a tartalom közzétételekor már le volt tartóztatva. Ezért a platformon maradó videó nem növelné érdemben a nőt fenyegető kockázat szintjét, és valójában védelmet is jelenthet abból a szempontból, hogy felhívja a figyelmet az ügyére. Annak meghatározása, hogy egy bejegyzés „felfedi-e” egy nő személyazonosságát, és veszélyezteti-e az illetőt, különösen kontextusfüggő; a szabály csak eszkalációkor történő betartatása biztosíthatja, hogy a szabály betartatásával megbízott csapatnak legyen elegendő ideje és erőforrása a releváns kontextus hatékony azonosítására és megfontolására.

8.2. A Meta emberi jogi felelősségeinek való megfelelés

A Bizottság úgy találja, hogy a tartalom eltávolítása a platformról nem volt összhangban a Meta emberi jogi felelősségével.

A véleménynyilvánítás szabadsága (ICCPR, 19. cikk)

Az ICCPR 19. cikke széles körben védi a véleménynyilvánítást, többek között azt, hogy „bárki határokra való tekintet nélkül, szóban, írásban, nyomtatásban, művészi formában vagy bármilyen általa választott médiumon keresztül, szabadon kutathasson, fogadjon és közöljön bármilyen jellegű információt vagy ötletet”. Ha az állam korlátozásokat vezet be a véleménynyilvánításra, ezeknek a korlátozásoknak teljesíteniük kell a törvényesség, a jogszerű cél, a szükségesség és az arányosság követelményeit (ICCPR 19. cikk, 3. bekezdés). A Bizottság ezt a keretrendszert használja a Meta önkéntes emberi jogi kötelezettségvállalásainak értelmezésére, mind a felülvizsgálat alatt álló egyes tartalmi döntések, mind pedig annak megítélésekor, mit jelentenek ezek a Meta tágabb tartalomszabályozási megközelítésére nézve. Mivel az ENSZ véleménynyilvánítás szabadságával foglalkozó különmegbízottja kijelentette, hogy bár „a vállalatoknak nincsenek olyan kötelezettségeik, mint a kormányoknak, befolyásuknál fogva kötelesek ugyanolyan jellegű kérdéseket megvizsgálni felhasználóik szabad véleménynyilvánításra való jogának védelmével kapcsolatban” (A/74/486, 41. bekezdés).

A közösségi médiához való hozzáférés kulcsfontosságú egy olyan zárt társadalomban, mint Irán. „Digitális kapuőrként” a közösségimédia-platformok „komoly hatást” gyakorolnak az információhoz való nyilvános hozzáférésre (A/HRC/50/29, 90. bek.). A jelen esetben vizsgált bejegyzés egy szélesebb körű tiltakozó mozgalom része, amely a digitális polgári terekre támaszkodik a túléléshez. A nők számára kötelező öltözködést meghatározó törvények befolyásolják a szabadságukat és méltóságukat (A/68/290, 38. bek.), függetlenül attól, hogy a törvény tiltja-e a fátyol viselését, vagy tiltja-e a nyilvános megjelenést anélkül (lásd pl. Yaker kontra Franciaország, CCPR/C/123/D/2747/2016). Ebben a tekintetben „az internet a nők jogaiért folytatott harc új csataterévé vált, felerősítve a nők véleménynyilvánítási lehetőségeit” ( A/76/258, 4. bekezdés). A nők szabad véleménynyilvánításának elősegítése lehetővé teszi politikai részvételüket és emberi jogaik megvalósítását (A/HRC/Res/23/2, 1-2. bek.; A/76/258, 5. bekezdés).

I. Törvényesség (a szabályok egyértelműsége és hozzáférhetősége)

A törvényesség elve megköveteli, hogy a véleménynyilvánítás szabadságának korlátozása a felhasználók számára hozzáférhető és egyértelmű, rögzített szabály alapján történjen. A szabályt „megfelelő pontossággal kell megfogalmazni ahhoz, hogy az egyén annak megfelelően szabályozhassa magatartását, és annak a nyilvánosság számára hozzáférhetőnek kell lennie” (34. sz. általános megjegyzés, 25. bek.). Emellett a véleménynyilvánítást korlátozó szabályok „nem ruházhatnak korlátlan mérlegelési jogkört a végrehajtásukkal megbízott személyekre” a véleménynyilvánítás szabadságának korlátozása terén és „a teljes bizonyossághoz elegendő iránymutatást kell adniuk a végrehajtásukkal megbízott személyek számára azzal kapcsolatban, hogy mely típusú véleménynyilvánítások korlátozása megfelelő, és melyeké nem” (34. sz. általános megjegyzés, 25. bekezdés; A/HRC/38/35 (undocs.org), 46. bek.). Az egyértelműség vagy a pontosság hiánya a szabályok következetlen és önkényes betartatásához vezethet. A Meta vonatkozásában a felhasználóknak képesnek kell lenniük arra, hogy előre jelezzék, milyen következményekkel jár a tartalmak közzététele a Facebookon és az Instagramon, a tartalomellenőröknek pedig egyértelmű útmutatással kell rendelkezniük a szabályok betartatásával kapcsolatban.

Erőszakra és uszításra vonatkozó közösségi alapelvek

A Bizottság megállapítja, hogy míg az erőszakra és uszításra vonatkozó közösségi alapelv szabályindoklása – amely kifejezi a közösségi alapelv céljait, de nem része magának a szabálynak – azt sugallja, hogy a „kontextus számít”, és figyelembe vehető a „hitelt érdemlő fenyegetés” értékelésekor, a Meta belső irányelvei és moderálási megközelítése ezt a gyakorlatban nem teszik lehetővé. Amint azt a Bizottság az „Iráni tiltakozó jelmondat” esetben megjegyezte, a tömeges ellenőrzést végző tartalommoderátorok azt az útmutatást kapják, hogy meghatározott kritériumokat vagy elemeket keressenek a bejegyzésben, és ha találnak ilyen elemeket, távolítsák el a bejegyzést. Más szóval ha a bejegyzés fenyegetést (pl. „megölni” vagy „darabokra szedlek”) és célpontot tartalmaz, az eredmény eltávolítás lesz. A tartalommoderátoroknak nem áll módjukban értékelni, hogy a fenyegetés hitelt érdemlő-e. Amint a Meta abban az esetben is kifejtette, a rutinszerű vagy sematikus megközelítés oka, hogy „különösen tömeges ellenőrzéseknél kihívást jelent annak felmérése, hogy [egy kifejezés] retorikai megnyilvánulásnak vagy hitelt érdemlő fenyegetésnek minősül-e”. A fenyegetések hitelt érdemlő mivoltának megfontolása a szabály megalkotásakor, nem pedig a betartatása során történik. Amint a Bizottság az „Iráni tiltakozó jelmondat” esetben megjegyezte, bár „a szabály indoklása tárgyalja a tüntetések kontextusában várható retorikai megnyilvánulásokat, az írásbeli szabályok és az ellenőröknek szóló útmutató nem foglalkoznak velük. A szabálybetartatás a gyakorlatban – különösen a tömeges ellenőrzéseknél – voltaképpen sokkal sematikusabb, mint azt a szabályok sugallják, és ez téves képzeteket kelthet a felhasználókban a szabályok várható betartatásának mikéntjére nézve. Az ellenőröknek szóló útmutató a jelenlegi formájában kizárja a kontextuális elemzés lehetőségét, még akkor is, ha magában a tartalomban egyértelmű jelek utalnak arra, hogy a fenyegető nyelvezet retorikai jellegű.” Ez az eltérés a vállalat által megfogalmazott szabályindoklás és a tényleges szabálybetartatási gyakorlat között továbbra is fennáll, és nem tesz maradéktalanul eleget a törvényesség elvének.

A Bizottság megismétli az „Iráni tiltakozó jelmondat” esetben tett megállapításait, miszerint a Metának részletes útmutatást kell nyújtania arról, hogyan kell figyelembe venni a kontextust, és arra kell utasítania a moderátorokat, hogy tartózkodjanak az eltérő véleményt kifejező „szónoki” vagy nem szó szerinti megfogalmazások alapértelmezett eltávolításától, különösen kényes politikai környezetekben, például Iránban.

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv

A Bizottság megállapítja, hogy a Meta tilalma az „olyan tartalmakra, amelyek kockázatnak teszik ki a kendő nélkül ábrázolt nőket azáltal, hogy akaratuk ellenére vagy engedélyük nélkül jelenítik meg őket kendő nélkül” a jelen eset alkalmazásában kellően egyértelmű. A tiltás egyértelművé teszi, hogy a Meta platformjain tilosak az olyan tartalmak, amely „felfedik” a kendő nélküli nők személyazonosságát, és ártalmat okozhatnak. A Bizottság azonban aggodalommal jegyzi meg, hogy az Instagram közösségi irányelvei nem hivatkoznak közvetlenül az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelvre. Ez aláássa a szabályok hozzáférhetőségét az Instagram-felhasználók számára. Korábbi esetekben (Az emlőrák tünetei és meztelenség, Öcalan magánzárkában való elzárása) a Bizottság azt javasolta, hogy a Meta nyilvánosan tisztázza a felhasználók számára, hogy a Facebook közösségi alapelvei hogyan vonatkoznak az Instagramra. Erre válaszként a Meta elindított egy arra irányuló folyamatot, hogy egységesítse a közösségi alapelveket az Instagram közösségi irányelveivel, és meghatározza, hogy a szabályok hol térnek el kissé a platformok között. Ezt követően a negyedéves átláthatósági jelentésekben a Meta biztosította a Bizottságot afelől, hogy ez az erőfeszítés továbbra is kiemelt fontosságú marad, egyúttal megjegyezte, hogy a jogi és szabályozási megfontolások befolyásolták az ütemtervüket. A Bizottság ismételten hangsúlyozza a folyamat gyors befejezésének és az alkalmazandó szabályok egyértelműségének fontosságát.

II. Jogszerű cél

A Polgári és Politikai Jogok Nemzetközi Egyezségokmánya (ICCPR) 19. cikkének 3. bekezdése szerint a véleménynyilvánítás korlátozott számú meghatározott okokból korlátozható, többek között mások jogainak védelme céljából. Ebben az esetben a Bizottság úgy találja, hogy az erőszakra és uszításra vonatkozó közösségi alapelv célja „a potenciális nem online károkozás megelőzése” olyan tartalmak eltávolításával, amelyek „a fizikai bántalmazás vagy a közbiztonság közvetlen veszélyeztetésének valós kockázatával” járnak. A szabályzat jogszerű célja tehát az élethez (az ICCPR 6. cikke) és a személyek fizikai biztonságához való jog védelme (az ICCPR 9. cikke; a 35. általános megjegyzés 9. bekezdése).

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó szabályzat azt a jogszerű célt szolgálja, hogy megvédje az iráni nők diszkriminációmentességhez való jogát (az ICCPR 2., 3. és 26. cikke; a CEDAW 1. és 7. cikk), többek között a véleménynyilvánítás és a gyülekezés szabadságához való joguk (ICCPR 19. és 21. cikk), a közéletben való részvételhez való jog (CEDAW 1. és 7. cikk), a magánélethez való jog (ICCPR 17. cikk) és az élethez való joguk (ICCPR 6. cikk), valamint a személyi szabadsághoz és biztonsághoz való joguk (ICCPR 9. cikk) gyakorlása során.

III. Szükségesség és arányosság

A szabad véleménynyilvánítás korlátozásának „megfelelőnek kell lennie a védelmi funkció eléréséhez; a lehető legkevésbé zavaró eszköznek kell lennie azok közül, amelyekkel elérhető a védelmi funkció; arányosnak kell lennie a védeni kívánt érdekkel” (a 34. általános megjegyzés 34. bekezdése). A közösségimédia-vállalatoknak mérlegelniük kell a problémás tartalmakra a törlésen kívül adott lehetséges válaszlépések körét annak biztosítása érdekében, hogy a korlátozások szűkre szabottak legyenek ( A/74/486, 51. bekezdés).

Erőszakra és uszításra vonatkozó közösségi alapelvek

A Bizottság úgy találja, hogy a Meta eredeti döntése a tartalom eltávolításáról nem volt szükséges ebben az esetben. Nem volt szükséges a videót készítő személy vagy mások biztonságának védelméhez, mivel a bejegyzés képaláírásában említett fenyegetés nem szó szerint értendő. A Bizottság aggodalmát fejezi ki amiatt, hogy a vállalat közösségi alapelvei és moderátoroknak nyújtott útmutatása még mindig, az „Iráni tiltakozó jelmondat” esetben adott bizottsági iránymutatás után is, teret engednek a következetlen szabálybetartatásnak az átvitt értelmű (nem szó szerinti) fenyegetések kapcsán – az iráni helyzet ellenére, ahol a tiltakozások már több mint egy éve tartanak. Abban az esetben a mostanihoz hasonlóan egy olyan kifejezésről volt szó, amelyet a Metának nem sikerült nem szó szerinti fenyegető kijelentésként azonosítania. A megfelelő útmutatás továbbra is fennálló hiányára még inkább rávilágít az a tény, hogy ebben az esetben a tartalmat több tömeges ellenőrzést végző moderátor és csapat ellenőrizte a Metánál, és ismételten szabálysértőnek találták.

Az elemzés részeként a Bizottság a Rabati cselekvési terv hat tényezőjére támaszkodva értékelte, hogy a jelen esetben vizsgált tartalom mennyire járulhatott hozzá a diszkriminációra, erőszakra és egyéb törvényellenes fellépésre való uszítás súlyos kockázatához. A Bizottság megjegyzi, hogy míg a rabati tényezőket az uszításnak minősülő nemzeti, faji vagy vallási gyűlölet terjesztésének megállapítására fejlesztették ki, nem pedig általában az uszítás azonosítására, a hattényezős teszt általánosságban hasznos az uszítás értékeléséhez, és a Bizottság korábban már használta ilyen módon (lásd például az „Iráni tiltakozó jelmondat” és a „Felhívás női tüntetésre Kubában” c. eseteket):

• Kontextus: A tartalmat 2023 júliusában tették közzé, egy olyan időszakban, amelyet a zűrzavar, a fokozódó elnyomás és a rezsim ellen tiltakozó emberekkel szembeni erőszak jellemzett. Az országon belül korlátozottak a tiltakozási lehetőségek, mivel az internetelérést széles körben akadályozzák, és betiltották a főbb közösségimédia-platformokat, például a Facebookot, a Telegramot és az X-et. Mivel az Instagram a kevés fennmaradó platformok egyike, a „Nő, élet, szabadság” mozgalomban betöltött szerepe felbecsülhetetlen. A Bizottság által megkérdezett szakértők megjegyezték, hogy a mozgalom célja a nők elleni négy évtizedes diszkriminatív törvényekkel szembeni tiltakozás és ellenállás normalizálása. A szakértők megfigyelték, hogy a mozgalom kezdete óta jelentős tendencia volt a félelemkeltés és a nők online önkifejezésének elhallgattatása. Az új törvények és a nagy nyilvánosságot kapó letartóztatások célja, hogy megfékezzék ezeket a tiltakozó megnyilvánulásokat, és megállítsák a hidzsábtörvényekkel szembeni ellenállás normalizálásának tendenciáját.
• A megszólaló személyazonossága: A Meta azt mondta a Bizottságnak, hogy a tartalmat közzétevő felhasználót a vállalat nem tekinti közszereplőnek. A videó képaláírása alapján úgy tűnik, hogy a felhasználó támogatója vagy résztvevője a „Nő, élet, szabadság” mozgalomnak. A megszólaló tehát nincs hatalmi helyzetben, és potenciálisan a saját biztonságát is veszélyezteti, amikor kifejezi a támogatását és közzéteszi ezt a tartalmat.
• Szándék: Bár a tartalmak tömeges moderálásakor a szándék értékelése komoly kihívást jelent, a teljes bejegyzés objektív és általános értelmezése az ábrázolt nő támogatását jelzi és a letartóztatására hívja fel a figyelmet. A Bizottság által megkérdezett szakértők szerint Iránban gyakori, hogy a tüntetők a kendő nélküli nők képét és nevét terjesztik a letartóztatásuk után, hogy nyomást gyakoroljanak a hatóságokra a biztonságuk érdekében. A tüntetők megtanulták, hogy az ilyen egyének személyazonosságának nyilvánosságra hozatalával megakadályozhatják az áldozatok további zaklatását.
• Tartalom és kifejezési forma: A Bizottság által megkérdezett nyelvi szakértők szerint a „make you into pieces” (darabokra szedünk) kifejezést ebben a kontextusban a perzsa nyelvűek mély érzelem, például harag vagy csalódottság kifejezéseként, de nem szó szerinti erőszakkal való fenyegetésként értelmezik. A mozgalom rendszeresen használ erőteljes és nyilvánvalóan fenyegető nyelvezetet, hogy felszólaljon a rezsim ellen. Az Iráni tiltakozó jelmondat esetben a Bizottság megállapította, hogy a „Halál Hámeneire” szlogen „szónoki fenyegetést” jelent, és megjegyezte, hogy a Meta hasonló okokból a „szabályok szellemét követő” engedményt alkalmazott a „Megölöm azt, aki megöli a testvéremet” kifejezésre. A kifejezés ebben az esetben egy képaláírás közepén jelenik meg egy olyan nő dicséreteként, aki kiáll a jogaiért. Teljes egészében vizsgálva a képaláírás támogatást fejez ki a rezsim diszkriminatív törvényei és visszaélésszerű gyakorlata ellen tiltakozó iráni nők iránt.
• Mérték és elérés: A bejegyzést körülbelül 47 000-szer tekintették meg, kb. 2000 kedvelés és 100 hozzászólás érkezett rá, és kb. 50-szer osztották meg. Tekintettel arra, hogy ez a beszéd a jelek szerint nem minősül uszításnak a rabati elemzés többi tényezője alapján, a tartalom nagy elérése önmagában nem olyan tényező, amely arra utalna, hogy az eltávolítás szükséges volt.
• Valószínűség és azonnaliság: Ez a tényező azt értékeli, hogy a beszéd feltehetően azonnali és valószínű kárt okoz-e a beszéd potenciális célpontjával szemben, amely ebben az esetben a rezsim volt. A tiltakozó mozgalom és támogatói egy olyan rezsimmel állnak szemben, amely folyamatosan erőszakos elnyomást és megtorlást alkalmaz a tüntetők ellen. Az ártalom legvalószínűbb formája, amely jelen esetben a beszédből eredhet, a közzétevő felhasználó vagy a videóban megjelenő nő elleni megtorló erőszak a rezsim által, nem pedig a rezsim vagy a támogatói elleni erőszak. A szakértők hangsúlyozták a tüntetéseken részt vevő egyéneket fenyegető veszélyeket, és azt, hogy a mozgalom az erőszak közeli veszélye ellenére is kitart. Azt is kijelentették, hogy a letartóztatott kendő nélküli nők képeinek terjesztésének célja, hogy felhívják a figyelmet a letartóztatásukra, és nyomást gyakoroljanak a hatóságokra a biztonságuk érdekében.

A fenti tényezők elemzése alapján a Bizottság úgy ítéli meg, hogy a tartalom nem minősül hitelt érdemlő fenyegetésnek, és nem volt képes arra, hogy nem online jellegű ártalmat okozzon. Amikor átvitt értelmű beszédet használnak erőszakos elnyomással szembesülő széles körű tiltakozások kontextusában, a Metának lehetővé kell tennie ellenőrei számára a megfogalmazás és a helyi kontextus értékelését, és össze kell hangolnia a moderátoroknak adott útmutatót a mögöttes szabályindoklással. A moderálás javításához általánosságban válsághelyzetekben elengedhetetlen annak pontos értékelése, hogy egy bejegyzés „átvitt értelmű” beszéd-e, vagy feltehetően erőszakra uszít-e. Az automatizálási pontosságot befolyásolja az emberi moderátorok által biztosított betanítási adatok minősége. Ha az emberi moderátorok eltávolítják az „átvitt értelmű” állításokat egy szabály merev érvényesítése miatt, akkor ez a hiba az automatizálás révén valószínűleg megismétlődik és felerősödik.

A Bizottság megjegyzi, hogy a Meta számos mechanizmussal rendelkezik a szabályzatai és végrehajtásuk kiigazítására válsághelyzetekben, beleértve a „veszélyeztetett” országok besorolási rendszerét, valamint a Válságszabályzati protokollt. A „veszélyeztetett” országok besorolási rendszere a „nem online jellegű ártalom és erőszak” kockázatának kitett országok azonosítására szolgál annak meghatározása érdekében, hogy a vállalat hogyan priorizálja a termékfejlesztési tevékenységét, illetve hogyan fektesse be az erőforrásait. Az értékelés más folyamatok esetében is figyelembe vehető (pl. speciális operatív csoport felállításáról vagy a Válságszabályzati protokoll alkalmazásáról hozott döntések). A Meta tájékoztatta a Bizottságot, hogy 2023 második felében Iránt „veszélyeztetett országnak” nyilvánították. Iránt emellett 2022. szeptember 21-én a Válságszabályzati protokoll értelmében is megjelölték, a megjelölés pedig azóta is aktív. A Válságszabályzati protokoll lehetővé teszi a Meta számára, hogy bizonyos ideiglenes szabálymódosításokat hajtson végre – ún. „módosítókat” alkalmazzon – egy adott helyzet kezelése érdekében. A Meta bemutatott néhány példát az Iránban már alkalmazott szabályzatmódosítókra – ilyen például „a »Megölöm azt, aki megöli a testvéremet« szlogent vagy annak származékait magukban foglaló tartalmak engedélyezése, amennyiben azok más módon nem sértik a szabályainkat”. (Szabálymódosítókra további példákért lásd: A Szabályzati fórum jegyzőkönyvei, 2022. január 25., Válságszabályzati protokoll.)

Bár a Bizottság elismeri a vállalat biztonság iránti elkötelezettségét és a potenciális tartalommoderálási kockázatok csökkentésére irányuló erőfeszítéseit az Iránra vonatkozó Válságszabályzati protokoll aktiválása révén, ezek az erőfeszítések nem voltak elegendőek ahhoz, hogy biztosítsák az emberek véleménynyilvánítási és gyülekezési szabadságának tiszteletben tartását olyan környezetben, ahol az eltérő vélemények és a társadalmi feszültségek szisztematikus elnyomása a jellemző. A Bizottság által megrendelt kutatás eredménye szerint a kendő nélküli nőket ábrázoló tartalmak túlnyomó többségét a tiltakozó mozgalom osztja meg – illetve a mozgalom támogatásának céljával mások osztják meg – a Meta platformjain az iráni hidzsábviselésről folytatott vita kontextusában. Ezen a téren a Meta szabálybetartatási folyamatának ismételten nem sikerült megkülönböztetnie az átvitt értelmű vagy nem szó szerinti állításokat a releváns kontextusban a valódi fenyegetésektől és az erőszakra uszítástól, amelyek további nem online jellegű ártalmakat okozhatnak.

A Bizottság azt javasolja, hogy a Meta fűzzön szabálymódosítót a Válságszabályzati protokollhoz, és ennek megfelelően biztosítson belső kritériumokat a tömeges ellenőrzést végző moderátoroknak arról, hogyan azonosítsák a fenyegető megfogalmazást nem szó szerint, hanem átvitt értelemben használó kijelentéseket a megfelelő kontextusban annak megállapításához, hogy nem sértik az erőszakra és uszításra vonatkozó szabályzat erőszakkal való fenyegetést tiltó szabálypontját. A fenyegetések átvitt és nem szó szerinti jellegének meghatározására vonatkozó válságspecifikus kritériumok kidolgozása során a Meta figyelembe veheti a Rabati cselekvési terv tényezőit (pl. az állami elnyomás elleni széles körű tiltakozások kontextusát; hogy a megszólaló képes-e arra, hogy ártalom okozására uszítsa az embereket, illetve jelent-e kockázatot ebből a szempontból; a vonatkozó nyelvi és társadalmi kontextust, amely jelzi az erős/érzelemdús megfogalmazás általános használatát a szónoki hatás érdekében; az ártalom valószínűségét a helyismeret alapján stb.). A vállalat emellett megbízható partnerei segítségét is igénybe veheti a moderálási kritériumok megfogalmazása vagy értékelése terén. Maga a Meta is hangsúlyozta a Rabati cselekvési terv gyakorlati fontosságát a tartalommoderálás szempontjából, hiszen támogatta az ENSZ-t a Cselekvési terv 32 nyelvre történő lefordításában. Ennek a szabálymódosítónak lehetővé kell tennie az „átvitt értelmű beszédet” a rendszerellenes tiltakozások kontextusában, feltéve, hogy a beszédnek nem szándéka, hogy erőszakra uszítson, és nem is valószínű, hogy erőszakra uszítana.

Az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv

Ebben az esetben a Bizottság úgy találja, hogy az összehangolt károkozásra és bűncselekmény népszerűsítésére vonatkozó közösségi alapelv szerinti eltávolítás nem volt szükséges, mivel az ábrázolt nő személyazonossága széles körben ismert volt, a tartalmat pedig egyértelműen azért tették közzé, hogy felhívják a figyelmet a letartóztatására, abban a reményben, hogy a figyelem a szabadon bocsátásához vezet. Emellett több nyilvános hozzászóló is kiemelte, hogy azok a nők, akik nyilvánosan leveszik a hidzsábot, céltudatosan, tiltakozásként tesznek így, és tisztában vannak a lehetséges következményekkel, amikor az „ellenállást választják a hatósággal szembeni stratégiai szembeszegülés gyanánt” (lásd a Tech Global Institute nyilvános hozzászólását: PC-21009). A videóban szereplő nőt a rezsim már azonosította és letartóztatta. Ezt a bejegyzést azért osztották meg, hogy felhívják a figyelmet a letartóztatásra. A rezsim által fogva tartott tüntetők és másként gondolkodók kínzással és nemi alapú erőszakkal szembesültek, illetve eltűntek. A Bizottság által megkérdezett szakértők és számos nyilvános hozzászóló külön megjegyezte, hogy a mozgalom és az emberi jogi jogvédők rendszeresen alkalmazzák Iránban ezt a gyakorlatot – amelynek során felhívják a figyelmet a letartóztatásokra, és felszólítanak a fogvatartottak szabadon bocsátására –, és ez segíthet megvédeni a rezsim által fogva tartott személyeket.

Az egyensúly megteremtése a kiszolgáltatott felhasználók személyazonossága védelmének szükségessége és a megjelenésre vágyók cenzúrájának elkerülése között kényes kérdés, amely kontextuselemzést, gyors ellenőrzést és azonnali cselekvést igényel.

9. Az Ellenőrző Bizottság döntése

Az Ellenőrző Bizottság felülbírálja a Meta tartalom eltávolítására vonatkozó eredeti döntését.

10. Ajánlások

1. Szabálybetartatás

A felhasználók véleménynyilvánítási és gyülekezési szabadságának tiszteletben tartása érdekében a szisztematikus állami elnyomás környezetében a Metának szabálymódosítót kell fűznie a Válságszabályzati protokollhoz, amely előírja, hogy azok az átvitt értelmű (vagy nem szó szerinti) állítások, amelyek nem szándékoznak erőszakra uszítani, és nem is valószínű, hogy erőszakra uszítanak, nem sértik az erőszakra és uszításra vonatkozó szabály azon pontját, amely a releváns kontextusokban tiltja az erőszakkal való fenyegetést. Ennek keretében kritériumokat kell kidolgozni a tömeges ellenőrzést végző moderátorok számára az ilyen állítások azonosításához a releváns kontextusban.

A Bizottság ezt az ajánlást akkor tekinti megvalósítottnak, amikor a Meta a szabályzatmódosító megvalósításának módjait és az ebből eredő iráni moderálási kritériumokat egyaránt megosztja a Bizottsággal.

*Eljárással kapcsolatos megjegyzés:

Az Ellenőrző Bizottság döntéseit öttagú testületek készítik elő, és a Bizottság többségének jóvá kell hagynia őket. A Bizottság döntései nem feltétlenül képviselik az összes tag személyes nézeteit.

Az esetről hozott döntéssel kapcsolatban független kutatás zajlott a Bizottság megbízásából. A Bizottság segítségére volt egy, a Göteborgi Egyetemen működő független kutatóintézet, amely egy 6 földrész 50 társadalomtudósából álló csapatra, valamint a világ minden táján dolgozó több mint 3200 országszakértő hozzájárulására támaszkodik. A geopolitika, a bizalom és biztonság, valamint a technológia metszéspontjában működő Duco Advisors tanácsadó cég szintén segítette a Bizottság munkáját. A közösségi média trendjeiről nyílt forrású kutatásokat végző Memetica is készített elemzést. A nyelvi szaktudást a világ 5000 városában dolgozó, együttesen több mint 350 nyelven folyékonyan beszélő szakembergárdát foglalkoztató Lionbridge Technologies LLC vállalat biztosította.

Volver a Decisiones de casos y opiniones consultivas sobre políticas