Kinompronta Babaeng Iranian sa Kalye

Buod

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na alisin ang isang video na nagpapakita ng isang lalaki na kinokompronta ang isang babae sa kalye ng Iran dahil sa hindi pagsuot ng hijab. Hindi nilabag ng post ang mga panuntunan sa Karahasan at Panghihimok na Gumawa ng Krimen dahil naglalaman ito ng figurative statement, kaysa sa literal, at hindi isang credible na banta ng karahasan. Ibinahagi sa panahon ng kaguluhan, ang pag-escalate ng repression at karahasan laban sa mga taong nagpoprotesta, mahalaga ang access sa social media sa Iran, gamit ang internet nagpapakita ng bagong battleground sa pakikipaglaban sa mga karapatan ng mga babae. Dahil ang Instagram ang isa sa ilang natitirang platform na hindi iba-ban sa bansa, ang tungkulin nito sa movement na laban sa rehimen na “Babae, Buhay, Kalayaan” ay hindi nasusukat, sa kabila ng mga pagsusumikap ng rehimen na magdulot ng takot at patahimikin ang kababaihan sa online. Nagpasya ang Board na ang mga pagsusumikap ng Meta para matiyak ang paggalang para sa kalayaan ng pagpapahayag at pagpupulong sa konteksto ng systematic state repression ay naging hindi sapat at inirerekomenda ang pagbabago sa Crisis Policy Protocol ng kumpanya.

Tungkol sa Kaso

Noong Hulyo 2023, nag-post ang user sa Instagram kung saan kinokompronta ng lalaki ang isang babae sa publiko dahil sa hindi pagsuot ng hijab. Sa video, kung saan ito ay nasa Persian na may mga subtitle sa Ingles, sumagot ang babae sa pagsabi ng ipinaglalaban niya ang kanyang mga karapatan. Kasama ng caption ang pagpapahayag ng suporta para sa babae at mga babae ng Iran na nakikipaglaban sa rehimen. Bahagi ng caption, na pinupuna rin ang rehimen, kasama ang parirala na isinasalin-wika bilang “it is not far to make you into pieces,” (hindi matatagal ang pagpira-piraso sa iyo) ayon sa Meta.

Ang criminal code ng Iran ay pinarurusahan ang mga babaeng lalabas sa publiko nang walang “tamang hijab” sa pamamagitan ng pagkakabilanggo, multa o paglatigo. Noong Setyembre 2023, inaprubahan ng rehimen ng Iran ang bagong Hijab at Chastity Bill kung saan maaaring humarap ang mga babae ng 10 taon sa kulungan kung patuloy nilang suwayin ang mandatoryong mga panuntunan ng hijab. Ang caption sa post na ito ay nililinaw na ang babae sa video ay inaresto na.

Unang na-flag ng mga atumated system ng Meta dahil sa posibleng paglabag ng Mga Alituntunin ng Komunidad ng Insagram, ipinadala ang post para sa human review. Bagaman maraming reviewer na in-assess ang content sa ilalim ng patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen ng Meta, hindi pareho ang kanilang konklusyon, na, kasama ang teknikal na error, nangahulugan na mananatili ang post. Pagkatapos ay ni-report ng user ang post, na nagresulta sa karagdagang pagsusuri, ngayon ng regional team ng Meta kasama ang language expertise. Sa yugtong ito, natukoy na nilabag ng post ang patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen, at inalis mula sa Instagram. Umapela ang user na nag-post ng content sa Board. Pinanatili ng Meta ang desisyon nito na alisin ang content na tama hangga’t piliin ng Board ang kasong ito, at kung saan yugto binaliktad ng kumpanya ang desisyon nito, pag-restore ng post.

Mga Mahalagang Nalaman

Nakita ng Board na hindi nilabag ng post ang Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen dahil naglalaman ito ng figurative speech, kaysa sa literal, at hindi credible na banta ng karahasan na may kakayahang manghimok ng offline na pinsala. Habang orihinal na inalis ng Meta ang post nang bahagya dahil na-assess nito ang parirala na, “hindi matatagal ang pagpira-piraso sa iyo,” bilang pahayag ng nilalayong gumawa ng napakatinding karahasan – pag-target ng lalake sa video – hindi dapat na literal na binigyang-kahulugan. Dahil sa konteksto ng malawakang mga protesta sa Iran, at ang video nang buo, figurative ang parirala at nagpapahayag ng galit at pagkadismaya sa rehimen. Napansin ng mga linguistic expert na kinonsulta ng Board ang bahagyang ibang pagsasalin-wika ng pariralang (“we will tear you to pieces sometime soon”), (malapit ka na namin pira-pirasuhin) ipinapaliwanag na isinasaad nito ang galit, pagkadismaya at resentment sa rehimen. Kaysa sa pag-trigger ng pinsala laban sa rehimen, ang pinaka malamang pinsala na magreresulta mula sa post na ito ay ang karahasan bilang paghihiganti ng rehimen.

Habang sina-suggest ng paliwanag ng patakaran ng Meta na ang “wika” at “konteksto” ay maaaring isaalang-alang kapag nag-e-evaluate ng “credible na banta,” ang internal na patnubay ng Meta sa mga moderator ay hindi pinapayagan sa practice na ito. Sinasabihan ang mga moderator na tukuyin ang partikular na criteria (isang banta at target) at kapag natugunan ang mga ito, para alisin ang content. Napansin dati ng Board ang alalahanin nito tungkol sa hindi pagkakatugma sa kasongSlogan ng Protesta sa Iran, kung saan inirekomenda na magbigay ang Meta ng nuanced na patnubay sa kung paano isaalang-alang ang konteksto, inuutusan ang mga moderator na itigil ang default na pag-alis ng “rhetorical language” na nagpapahayag ng pagtutol. Nananatili itong nakababahala na mayroon pa ring puwang para sa hindi pare-parehong pagpapatupad ng figurative speech, sa mga konteksto tulad ng Iran. Dagdag pa rito, habang ang automation accuracy ay naaapektuhan ng kalidad ng training data na ibinibigay ng mga tao, malamang ang pagkakamaling alisin ang figurative speech ay pinaigting.

Isinaalang-alang din ang post na ito sa ilalim ng Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen dahil mayroong panuntunan na ipinagbabawal ang “content na naglalagay sa panganib sa mga babaeng walang pandong sa pamamagitan ng pagpapakita ng kanilang mga larawan nang walang [isang] pandong nang labag sa kanilang kagustuhan o nang walang pahintulot.” In-edit ang policy line para ipagbawal ang: “Paglalantad [mga babaeng walang pandong]: pag-expose ng pagkakakilanlan ng isang tao at paglalagay sa mga ito sa panganib ng pinsala.” Dito, sumasang-ayon ang Board sa Meta na ang content ay hindi “inilalantad” ang babae sa video at humupa ang panganib ng pinsala dahil ang kanyang pagkakakilanlan ay nakilala na at naaresto na siya. Sa totoo, naibahagi ang post para tumawag ng pansin sa kanyang pagkakaaresto at maaaring tulungan i-pressurize ang mga awtoridad na pakawalan siya.

Habang itinalaga ang Iran isang nasa panganib na bansa sa ilalim ng mga patakaran sa krisis ng Meta, kasama ang Crisis Policy Protocol, gumamit ang kumpanya ng pansamantalang mga pagbabago sa patakaran (“levers”) para tugunan ang partikular na sitwasyon. Habang kinikilala ng Board ang mga pagsusumikap ng Meta sa Iran, naging hindi sapat ito para tiyakin ang paggalang para sa kalayaan sa pagpapahayag ng mga tao at pagpupulong sa mga environment ng systematic repression.

Ang Desisyon ng Oversight Board

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na alisin ang post.

Inirerekomenda ng Board sa Meta na:

• Maglagay ng lever sa Crisis Policy Protocol para linawin na ang mga figurative (iyon ay, hindi literal) statement na hindi layon na, at hindi malamang na, manghimok ng karahasan, hindi nilalabag ang policy line sa Karahasan at Panghihimok na gumawa ng Krimen na ipinagbabawal ang mga banta ng karahasan sa mga may kaugnayang konteksto. Dapat kasama rito ang pagbuo ng pamantayan para sa mga malawakang moderator sa kung paano matutukoy ang mga nasabing pahayag sa may kaugnayang konteksto.

* Ang mga buod ng kaso ay nagbibigay ng overview ng mga kaso at hindi magiging batayan sa susunod na mga desisyon.

Buong Desisyon sa Kaso

1. Buod ng Desisyon

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na alisin ang isang video nagpapakita ng isang lalaki na kinokompronta ang isang babae sa kalye ng Iran dahil sa hindi pagsuot ng hijab. Inalis ng Meta ang post mula sa Instagran dahil sa sumusunod na line sa caption “it is not far to make you into pieces” (hindi matatagal ang pagpira-piraso sa iyo) – kung saan ang interpretasyon ng kumpanya bilang isang banta, tina-target ang lalaki sa video na nilapitan ang babae dahil sa hindi pagsuot ng hijab. Nakita ng Board na hindi nilabag ng post ang patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen dahil figurative ang may kaugnayang pahayag kaysa sa literal, at dahil ang konteksto ay hindi binubuo ng credible na banta ng karahasan. Pagkatapos piliin ng Board ang kaso, unang sinuportahan ng Meta ang desisyon nito na alisin ang post – gayunpaman, bago i-submit ang paliwanag nito sa Board, natukoy ng Meta na mali ang desisyon nito na alisin ang content, ibinalik ang post sa platform. Nagpasya ang Board na ang mga pagsusumikap ng Meta para tiyakin ang paggalang para sa kalayaan ng pagpapahayag at pagppupulong sa konteksto ng systematic state repression ay naging hindi sapat at inirerekomenda ang pagbabago sa Crisis Policy Protocol ng kumpanya.

2. Paglalarawan at Background ng Kaso

Noong Hulyo 2023, pinost ng Instagram user ang isang video sa Persian na may mga subtitle sa Ingles na ipinapakita ang isang lalaking kinokompronta ang babae public dahil sa hindi pagsuot ng hijab, na sumasagot ang babae na ipinaglalaban niya ang kanyang mga karapatan. Hindi nakikilala ang lalake sa video habang kitang-kita ang babae. Ang video ay mukhang ni-repost na isang recording na unang naibahagi ng isang taong affiliated sa o sinusuportahan ang rehimen ng Iran. Kasama sa video ang isang caption, na nasa Persian din, nagpapahayag ng suporta para sa babae at para sa mga babae ng Iran na ipinagtatanggol ang rehimen, at pinupuna ang rehimen at mga suporter nito. Isinama ng caption ang isinaling-wika na parirala ng Meta bilang “hindi matatagal ang pagpira-piraso sa iyo” at sinabi na inaresto ang babae kasunod ng insidente. Ang post ay nagkaroon ng halos 47,000 view, 2,000 like, 100 comment at 50 share.

Unang na-flag ang content na ito ng automated classifier, isang algorithm na ginagamit ng Meta para matukoy ang mga posibleng paglabag ng mga patakaran nito, bilang posibleng nilalabag ang Mga Alituntunin ng Komunidad ng Instagram at ipinadala para sa pagsusuri ng tao. In-assess ng maraming reviewer ang content, pero dahil sa technical error at dahil hindi naabot ng mga reviewer ang parehong konklusyon sa kung ang post ay paglabag ng patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen, ito ay hindi inalis. Ni-report ng user ang content, bilang pagtugon sa kung nalaman ulit ng automated classifier na posibleng nilabag ng content ang mga patakaran ng Meta at ipinadala ito para sa karagdagang pagsusuri. Ni-report ang content ng isang user at ni-report lang ng isang beses. Kasunod ng karagdagang antas ng pagsusuring ito ng team ng Meta kasama ang pangrehiyon at language expertise, inalis ng Meta ang post mula sa Instagram sa ilalim ng patakaran nito sa Karahasan at Panghihimok na Gumawa ng Krimen. Ang desisyon ng Meta na alisin ang post ay batay sa sumusunod na line sa caption: “hindi matatagal ang pagpira-piraso sa iyo.” Ang interpretasyon ng kumpanya sa line na ito bilang isang banta, tina-target ang lalaki sa video na lumapit sa babae dahil sa hindi pagsuot ng hijab. Inapela ng user ng gumawa ng post ang desisyon na alisin ang post sa Meta. Sinuportahan ng reviewer ang desisyon na alisin.

Ang user na nag-post ng content ay inapela ang pag-alis sa Board. Kapag natukoy ng Board ang kaso para sa legal na pagsusuri, sinuportahan ng Meta ang desisyon nito na alisin ang content. Sa yugto ng pagsusuring ito, isinasaalang-alang din ng Meta ang Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen, na ipinagbabawal ang :paglalantad” ng walang pandong na mga babae kapag inilalagay ang babae sa panganib ng pinsala. Sa panahong na-post ang content, naaresto na ang babae ng rehimen. Pagkatapos pinili ng Board ang kaso, kasunod nito binago ng kumpanya ang desisyon nito at ibinalik ang content batay sa karagdagang input mula sa regional team nito at sa desisyon ng Board sa kaso ng Panawagan para sa Protesta ng Kababaihan san Cuba.

Gaya ng napansin ng Board sa desisyon saIran Protest Slogan, nagpoprotesta ang mga tao sa Iran laban sa gobyerno at para sa mga karapatang sibil at pampulitika at pagkakapantay-pantay ng kasarian, magmula pa noong 1979 na rebolusyon. Noong 2023, ibinigay ang Nobel Peace Prize kay Narges Mohammadi, isang nakakulong na tagapagtanggol ng mga karapatang pantao, nang “mahigit sa 20 tao ng pakikipaglaban para sa mga karapatan ng mga babae [na] naging simbolo siya ng kalayaan at standard-bearer sa pakikipaglaban sa Iranian theocracy.” Ang criminal code ng Iran ay pinarurusahan ang mga babaeng lumalabas sa publiko nang walang “tamang hijab” sa pamamagitan ng pagkakabilanggo, multa o paglatigo. Ang mga babae sa Iran ay naka-ban dinmula sa ilang larangan ng pag-aaral at maraming public na mga lugar, at mga tao ang pinagbabawalan na makipagsayaw sa mga miyembro ng opposite sex, sa iba pang mga bagay. Ang mga lalaki ay itinuturing na head ng sambahayan at ang mga babae ay kailangan ng pahintulot ng kanilang ama o asawa para magtrabaho, ikasal o magbiyahe. Ang testimonya ng babae sa hukuman ay itinuturing kalahati ang timbang ng lalaki, na nililimitahan ang access sa hustisya para sa mga babae.

Pagkatapos paigtingin ng mga awtoridad ng Iran at i-expand ang mandatoryong mga hakbang sa pagpapatupad ng hijab noong 2022, naharap ang mga babae sa dagdag na pagpuna, madalas nagreresulta sa berbal at pisikal na pangha-harass at mga pagkaaresto. Noong Setyembre 2022, namatay ang 22 taong gulang na si Jina Mahsa Amini sa kustodiya ng pulis tatlong araw pagkatapos ng kanyang pagkaaresto dahil sa sinasabing pagkabigong sumunod sa mga panuntunan ng bansa sa pagsusuot ng “tamang hijab.” Ang kanyang kamatayan ay nagpasimula ng galit sa buong bansa at mga galit at mga wave ng mga protesta sa buong bansa, at movement na laban sa rehimen ay naging kilala bilang: “Zan, Zendegi, Azadi” (“Woman, Life, Freedom”). Nagresulta ito sa marahas na crackdown ng mga awtoridad, na may mahigit na 500 kumpirmadong pagkamatay sa pagtatapos ng 2022, at ang tinatanyang 14,000 taong inaresto, kasama ang mga nagpoproteseta pati rin ang mga journalist, abogado, aktibista, artist at atleta na nagsabi ng suporta para sa movement.

Noong Setyembre 2023, inaprubahan ng parliament ng Iran ang bagong “Hijab at Chastity” bill kung saan maaaring humarap sa 10 taon sa kulungan kung patuloy nilang suwayin ang mandatoryong mga panuntunan ng hijab ng bansa. Ang mga negosyong na pinagsisibilhan ang mga babaeng walang hijab ay haharap din sa mga sanction at panganib na magsara.

Ang social media ay naging sentro sa movement ng protesta ng mga babae sa Iran, pagganap ng mahalagang tungkulin sa pag-mobilize ng mga protesta at pag-broadcast ng mahalagang impormasyon (tingnan ang mga komento ng publiko PC 21007, PC-21011), at sa pagdokumento at pagpapanatili ng ebidensiya na nakapubliko tungkol sa mga pang-aabuso at mga paglabag ng mga karapatang pantao (PC-21008, attachment).

Gayunpaman, ini-expose din ng mga online campaign ang mga babae sa mga panganib ng higit pang repression ng rehimen, kasama ang mga banta, mga campaign sa paninirang-puri, mga pag-aresto at pagkakulong. Napansin ng mga expert na kinonsulta ng Board ang extensive network ng mga entity na nauugnay sa Islamic Revolutionary Guard Corps at ang gobyerno ng Iran na nag-o-operate sa Instagram at Telegram, na madalas gamitin nauna para direktang i-target at akusahan ang mga nagpoprotesta at hindi sumasang-ayon.

Maraming komento ng publiko ang na-submit sa Board ay binigyan-diin din ang tactic of mass sa Instagram gamit ang user reporting system para “i-pressure ang mga kumpanya ng social media sa pag-alis ng content kaugnay sa mga tumututol o paglalagay sa mga ito sa mga shadow ban,” (tingnan ang mga komento ng publiko PC-21011, PC-21009). Mayroon ding mga report ng mga opisyal ng Iranian intelligence na inaalok ng pera ang mga content moderator para alisin ang content na ibinahagi ng mga kritiko ng rehimen.

Noong Pebrero 2023, ini-report ng UN Special Rapporteur sa Iran ang alalahanin sa patuloy na repression at pag-target ng mga civil society activist, mga tagapagtanggol ng mga karapatang pantao, mga aktibista ng mga karapatan ng kababaihan, mga abogado at journalist, habang pinipigilan ng mga awtoridad ang mga pagtutol, kasama ang pagkaantala ng internet at censorship ng mga social media platform.

3. Authority at Saklaw ng Oversight Board

Mayroong authority ang Board na suriin ang desisyon ng Meta kasunod ng isang apela mula sa tao na inalis ang content (Article 2, Seksyon 1 ng Charter; Article 3, Seksyon 1 ng Mga Regulasyon).

Maaaring panatilihin o baliktarin ng Board ang desisyon ng Meta (Article 3 ng Charter, Seksyon 5), at ipapatupad ang desisyon na ito sa kumpanya (Article 4 ng Charter). Dapat ring i-assess ng Meta ang pagiging posible ng pag-apply ng desisyon nito tungkol sa magkatulad na content na may katulad na konteksto (Article 4 ng Charter). Ang mga desisyon ng Board ay maaaring may kasamang mga non-binding na rekomendasyon na kailangang tugunan ng Meta (Article 3 ng Charter, Seksyon 4; Article 4). Kapag nangako ang Meta na gumawa ng aksyon sa mga rekomendasyon, sinusubaybayan ng Board ang pagpapatupad ng mga ito.

Kapag pumipili ang Board ng mga kasong tulad ng isang ito, kung saan kasunod nito ay tinatanggap ng Meta na nagkamali ito, sinusuri ng Board ang orihinal na desisyon para dagdagan ang pag-unawa ng proseso ng pag-moderate ng content at para gumawa ng mga rekomendasyon para bawasan ang mga pagkakamali at dagdagan ang pagiging patas para sa mga taong gumagamit ng Facebook at Instagram.

4. Mga sSource ng Authority at Gabay

Ang sumusunod na mga pamantayan at huwaran ang nakaimpluwensiya sa pagsusuri ng Board sa kasong ito:

I. Mga Desisyon ng Oversight Board

Kasama sa pinaka may kaugnayan na mga nakaraang desisyon ng Oversight Board ang:

• Panawagan ng Protesta ng mga Babae sa Cuba
• Metaphorical na Pahayag Laban sa Presidente ng Peru
• Iran Protest Slogan
• Öcalan’s Isolation
• Mga Sintomas ng Kanser sa Suso at Nudity

II. Mga Patakaran sa Content ng Meta

Ang analysis ng Board ay naimpluwensiyahan ng commitment para iparating ng Meta, na inilalarawan ng kumpanya bilang “pinakamahalaga”, at ang mga pagpapahalaga nito na kaligtasan, privacy at dignidad.

Mga Alituntunin ng Instagram Community

Sinasabi ng Mga Alituntunin ng Komunidad ng Instagram na “aalisin ng kumpanya ang content na naglalaman ng mga credible na banta” at mga link sa Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen. Hindi direktang nali-link ang Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen. Sinasabi ng Enforcement Report ng Mga Pamantayan ng Komunidad ng Meta para sa Q1 2023 na “ang Facebook at Instagram ay may iisang Mga Patakaran sa Content. Ibig sabihin nito, kung itinuturing ang content na lumalabag sa Facebook, itinuturing din itong lumalabag sa Instagram.”

Inalis ang content sa ilalim ng patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen. Pagkatapos piliin ng Board ang kaso, sinuri rin ng Meta ang content sa ilalim ng patakaran nito sa Paggawa ng Pinsala at Pag-promote ng Krimen.

Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen

Ang patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen ng Meta ay “nilalayong pigilan ang posibleng offline na pinsala na maaaring may kaugnayan sa content sa aming mga platform.” Gayundin, kinikilala ng Meta na “karaniwang ipinapahayag ng mga tao ang paghamak o hindi pagsang-ayon sa pamamagitan ng pagbabanta o panawagan ng karahasan sa hindi seryoso at casual na mga paraan.” Kaya inaalis ng Meta ang content kapag naniniwala ang kumpanya na naglalaman ito ng mga “[b]anta ng karahasan na maaaring magresulta sa pagkamatay” kasama ang content na tina-target ang kahit sino na may “mga pahayag ng kagustuhan” na gumawa ng “napakatinding karahasan.” Sinasabi nito na isinasaalang-alang ang konteksto ng pahayag kapag ina-assess kung credible ang banta, na pwedeng anumang karagdagang impormasyon tulad ng “nakikita ng publiko at kahinaan ng target.”

Ang seksyong “huwag i-post” ng patakaran ay partikular na ipinagbabawal ang “mga banta ng karahasan na maaaring humantong sa kamatayan (at iba pang mga anyo ng napakatinding karahasan).” Kasama sa salitang “banta” ang “mga pahayag ng kagustuhan” napakatinding karahasan.”

Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen

Ayon sa paliwanag ng patakaran, nilalayon ng Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen na “iantala ang pinsala offline at ginayang asal”, sa pamamagitan ng pagbabawal sa mga tao mula sa “pangangasiwa, pag-organisa, mag-promote o pag-amin sa ilang kriminal o mapaminsalang mga aktibidad na tina-target ang mga tao, negosyo, property o mga hayop.” Kasama rito ang “paglalantad,” na binibigyan kahulugan ng Meta bilang content na ini-expose ang pagkakakilanlan o mga lokasyon na kaugnay sa kahit sino na sinasabi, bukod sa iba pang mga bagay, “maging isang member ng outing-risk group.” Ipinapatupad ang policy line na ito ng mga moderator nang malawakan kaugnay sa ilang partikular na group. Sa pag-escalate, na may karagdagang konteksto, ang patakaran ng Meta sa oras na na-post ang content ay sinabing maaari ring alisin ang: “content na inilalagay sa panganib ang mga babaeng walang pandong sa pamamagitan ng pagpapakita ng kanilang mga larawan nang walang [isang pandong] na laban sa kanilang kagustuhan o nang walang pahintulot.” In-edit na ang wikang ito para ipagbawal ang “paglalantad [mga babaeng walang pandong]: pag-expose ng pagkakakilanlan ng isang tao at paglalagay sa mga ito sa panganib ng pinsala.”

III. Mga Responsiiblidad sa Mga Karapatang Tao ng Meta

Ang UN Guiding Principles on Business and Human Rights (mga UNGP), na inendorso ng UN Human Rights Council noong 2011, ay nagtatatag ng boluntaryong framework para sa mga responsibilidad sa mga karapatang pantao ng mga pribadong negosyo. Ang Patakaran sa Karapatang Pantao ng Kumpanya ng Meta, inanunsyo noong Marso 16, 2021, ay muling pinagtibay ang commitment ng kumpanya na igalang ang mga karapatan gaya ng makikita sa mga UNGP.

Ang mga sumusunod na international na pamantayan ay maaaring may kaugnayan sa pagsusuri ng Board sa mga responsibilidad sa mga karapatang pantao ng Meta sa kasong ito:

• Ang karapatan sa kalayaan sa pagpapahayag: Article 19, International Covenant on Civil and Political Rights ( ICCPR), Pangkalahatang Comment Bilang 34, Human Rights Committee, 2011; Inulat ng UN Special Rapporteur sa kalayaan sa opinyon at pagpapahayag, ang: A/HRC/38/35 (2018) at A/74/486 (2019); at Rabat Plan of Action, report ng UN High Commissioner for Human Rights: A/HRC/22/17/Add.4 (2013).
• Ang karapatan sa kalayaan sa mapayapang pagtitipon: Article 21, ICCPR; Pangkalahatang Komento Bilang 37, Human Rights Committee, 2020.
• Ang karapatang mabuhay: Article 6, ICCPR.
• Ang karapatan sa kalayaan at seguridad ng tao: Article 9, ICCPR.
• Ang karapatan sa kawalan ng diskriminasyon: Articles 2(1), 3 at 26, ICCPR; Article 1 at Article 7 (kawalan ng diskriminasyon sa paglahok sa buhay na kaugnay sa pulitika at publiko ng bansa), Convention on the Elimination of All Forms of Discrimination against Women ( CEDAW). Tingnan din ang Deklarasyon sa Mga Tagapagtanggol ng Mga Karapatang Pantao, Article 8, karapatan sa magandang access, sa batayan na hindi nandidiskrimina, para lumahok sa pagsasagawa ng mga ugnayang pampubliko.
• Ang karapatan sa privacy: Article 17, ICCPR.

5. Mga Submission ng User

Ang user na nag-post ng content ay inapela sa Board ang pag-alis. Sa kailang pahayag, ipinaliwanag ng user na ipinakita ng post ang kinatawan ng gobyerno ng Iran na kinokompronta ang babae dahil sa hindi pagsuot ng hijab. Sinabi ng user na ipinapakita ng video ang katapangan ng babaeng Iranian na ipaglaban ang kanyang mga karapatan. Sinabi ng user na nagbahagi ang iba ng mga katulad na video sa social media at hindi mapinsala o mapaganib ang content at hindi nilalabag ang anumang patakaran ng Instagram.

6. Mga Submission ng Meta

Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen

Sinabi ng Meta sa Board na ang unang desisyon nitong alisin ang content sa kasong ito ay batay sa patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen. Ipinaliwanag nito na ang desisyon nito ay batay sa bahagi ng caption ng post, na isinalin-wika ng kumpanya bilang: “hindi matatagal ang pagpira-piraso sa iyo.” Ang interpretasyon ng kumpanya sa line na iyong bilang tina-target ang lalaki sa video na nilapitan ang babae dahil sa hindi pagsuot ng hijab. Natukoy ng regional team nito na ang parirala na: pagpira-piraso sa iyo” ay naglalaman ng banta ng pisikal na pinsala sa konteksto ng Iran. Dahil sa interprestasyon, unang sinuportahan ng Meta ang desisyon na alisin ang content sa ilalim ng patakaran nito sa Karahasan at Panghihimok na Gumawa ng Krimen.

Bagaman sinuportahan ng Meta ang desisyon nito na alisin ang content noong unang natukoy ng Board ang kaso para sa legal na pagsusuri, kasunod na binago ang desisyon nito pagkatapos piliin ng Board ang kasong ito at ibinalik ang content batay sa karagdagang input mula sa regional team. Batay sa input na iyon, nagpasiya ang Meta ang malamang na interpretasyon ng wikang nasa caption ay pagbanggit sa pag-alis ng rehimen ng Iran o ang mga sinusuportahan ang mandatoryong hijab, kaysa sa literal na banta na tina-target ang lalaki sa video.

Sa huling pagsusuri na ito, nagpasya ang Meta na layunin ng content na magbigay ng kamalayan at makatawag ng pansin sa mga pang-aabusong ginawa laban sa mga babae, tulad ng babaeng kinompronta ng lalake sa video dahil sa hindi pagsuot ng hijab. Tinutukoy ng user ang lakas ng mga babaeng Iranian at pinupuna ang “bastardness,” na tumutukoy sa alinman sa kumukuha ng video ang lalaki o ang sa kabuuan ang rehimen, at nagbibigay ng kamalayan ng pag-aresto ng babae sa video. Ipinaliwanag ng Meta na ang posibleng nagbabantang salita ay dapat bigyan ng interpretasyon at maunawaan sa kabila ng pangkalahatang kontekstong ito. Ang ganitong uri ng pagbibigay ng kamalayan, inilagay ng Meta sa paliwanag nito, pagbanggit ng desisyon ng Board sa kaso ng Slogan ng Protesta sa Iran, ay partikular na mahalaga sa Iran kung saan mayroon mga limitadong outlet para sa malayang pagpapahayag.

Sinabi rin ng Meta sa Board na pagkatapod ng karagdagang research, inimungkahi ng mga regional team na ang pinaka makatwirang interpretasyon ng salitang “hindi magtatagal ang pagpira-piraso sa iyo” ay hindi totoong banta, ngunit isang pampulitikang komentaryo na nakadirekta sa rehimen nang buo o sa mga taong sinusuportahan ang mandatoryong kinakailangan ng hijab sa pangkalahatan. Bagaman ang "pagpira-piraso sa iyo" ay nangangahulugan sa pangkalahatan bilang pagpatay sa isang tao sa pamamagitan ng pagputol sa katawan nito, mauunawaan ito rito bilang pag-dismantle sa rehimen (katulad metaphorical language na ginamit sa buod ng desisyonsa Metaphorical Statement Laban sa Presidente ngPeru).

Sinabi ng Meta sa Board na ang isa pang salik sa pagbabalik sa huli ng kumpanya ng content ay ang kamakailang desisyon ng Board sa kaso ng Panawagan para sa Protesta ng Kababaihan sa Cuba, kung saan binigyan-diin ng Board na ang contextual reading ng post ay dapat isaalang-alang ang wave ng repression ng estado at ang mahalagang kapakanan ng publiko sa mga makasaysayang protesta na ang paksa ng post. Dagdag pa rito, isinaalang-alang ng kumpanya ang kaso ng Slogan ng Protesta sa Iran, kung saan sinuri ng Board ang pampulitikang movement sa mga karapatan ng kababaihan sa Iran. Doon, binigyan-diin ng Board ang kahalagahan ng pagprotekta ng boses na konteksto ng movement ng protesta, partikular sa bilang resulta ng systamatic repression ng gobyerno ng Iran ng malayang pagpapahayag at an kahalagahan ng mga digital space blang forum para ipahayag ang pagtutol. Napansin din ng kumpanya na isinaalang-alang din ang kamakailang buod ng desisyon ng Board sa Metaphorical Statement Laban sa Presidente ng Peru, kung saan muling binigyan-diin ang “kahalagahan ng pagdidisenyo ng mga sistema ng pag-moderate na depende sa konteksto nang may kaalaman sa irony, panunuya, o rhetorical discourse, lalo na para protektahan ang pampulitikang speech.”

Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen

Sinabi ng Meta sa Board na isinaalang-alang din nito ang pag-alis ng content sa Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen para sa hindi boluntaryong paglalantad ng babae na ipinakita sa video nang walang pandong. Ipinapatupad ng Meta ang policy line na ito sa pag-escalate lang at kung ibinibigay ang karagdagang konteksto. Ang pagpapatupad ay nangangailangan ng input mula sa mga may kaugnayang stakeholder at nakatuon sa pagtukoy kung naglalarawan ang content ng isang walang pandong na babae, pag-expose ng kanyang pagkakakilanlan, at malamang na ilagay siya sa panganib, kaysa sa anumang partikular na mga salitang ginamit o ang tone ng content o caption. Napansin ng Meta na hindi maaaring “ilantad” ng isang tao ang kanyang sarili – ang paglalantad ay dapat hindi boluntaryo para labagin ang patakaran.

Sa kasong ito, natukoy ng Meta na hindi dapat alisin ang content dahil sa hindi boluntaryong paglalantad dahil ang pagkakakilanlan ng babae ay kilalang-kilala at available sa online, at inaresto na siya sa panahon na na-post ang content ng kaso. Nabawasan nang malaki ng kontekstong ito ang panganib ng pinsala kaugnay sa hindi pag-alis ng content sa platform.

Tinanong ng Board ang Meta ng 11 tanong at dalawang follow-up na tanong sa pamamagitan ng sulat. Mga tanong kaugnay sa pagpapatupad ng mga procedure at resource para sa Iran, pag-assess ng panganib ng Meta para sa Iran sa pangkalahatan at para sa babaeng nasa video sa partikular, automated at mga proseso ng human review, ang pagpapatupad ng content na naglalarawan ng walang pandong na babae at ang paglalantad ng nasa panganib na grupo, nang malawakan at sa escalation. Sinagot ng Meta ang lahat ng tanong.

7. Mga Komento ng Publiko

Nakatanggap ang Oversight Board ng 12 komento ng publiko kaugnay sa kasong ito. Ang pito sa mga komento ay na-submit mula sa United States at Canada, dalawa mula sa Central at South Asia, dalawa na mula sa Europe, at isa na mula sa Middle East at North Africa.

Tinalakay ng mga pagsusumite ang mga sumusunod na tema: ang tungkulin ng social media sa mga protesta sa Iran, kasama ang “Woman, Life, Freedom” movement, at ang tungkuling ginagampanan ng mga lawaran ng walang pandong na kababaihan sa mga digital campaign; ang mga panganib para sa kumakalat na imagery na ipinapakita ang walang pandong na kababaihan sa Iran sa social media; ang paggamit ng mga social media ng mga awtoridad ng Iran. Ang pagpapatupad ng Meta ng mga patakaran sa pag-moderate ng content nito para sa pahayag sa wikang Persian kaugnay sa pampulitikang sitwasyon sa Iran; kalayaan ng pagpapahayagm mga karapatang pantao, mga karapatan ng kababaihan, repression ng gobyerno at mga pag-ban sa social media sa Iran.

Para basahin ang mga komento ng publiko na na-submit para sa kasong ito, paki-click dito.

8. Pagsusuri ng Oversight Board

Sinuri ng Board ang orihinal na desisyon ng Meta na alisin ang content sa mga patakaran ng kumpanya sa content, mga responsibilidad at value ng sa mga karapatang pantao.

Pinili ng Board ang kasong ito dahil ibinigay ang oportunidad na ma-explore ang mga patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen at Paggawa ng Pinsala at Pag-promote ng Krimen, pati rin ang kaugnay na mga proseso ng pagpapatupad sa konteksto ng napakalaking protesta para sa mga karapatan ng mga babae at paglahok ng mga sa buhay publiko sa Iran simula Setyembre 2022. Sa partikular, tinutugunan nito ang kahalagahan ng mga platform ng social media para sa mga tapng nagpoprotesta laban sa mga mandatoryong panuntunan sa hijab.

Dagdag pa rito, binibigyan ng kaso ang Board ang oportunidad na pag-usapan ang mga internal procedure ng Meta na tintutukoy kung kailan at bakit ang figurative speech, na, kung literal na nauunawaan, ay maaaring bigyan ng interpretasyon bilang nagbabanta, pero dahil hindi dapat binigyan interpretasyon ang konteksto bilang credible na banta. Pangunahing kabilang ang kaso sa priority ng Board sa mga Eleksyon at Civic Space, pero nasasangkot din dito ang priority ng Board na Kasarian, Paggamit ng Gobyerno ng mga Platform ng Meta, at Krisis at mga Magulong Sitwasyon.

8.1 Pagsunod sa Mga Patakaran ng Content ng Meta

Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen

Nakita ng Board na ang content sa kasong ito ay hindi nilalabag ang Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen dahil naglalaman ito ng figurative speech na nagpapahayag ng galit at repression ng gobyerno, kaysa sa literal at kaya credible na banta ng karahasan.

Ipinaliwanag ng Meta na orihinal na inalis ang content sa kasong ito dahil naglalaman ito ng “pahayag ng layuning gumawa ng napakatinding karahasan.” Tinutukoy nito ang napakatinding karahasan bilang banta na maaaring magresulta sa kamatayan o malamang na nakakamatay.

Batay sa pag-assess ng regional team nito, itinuring ng Meta pariralang “hindi matatagal sa pagpiraso-piraso sa iyo” mula sa caption ng post sa konteksto ng Iran, paglabag ng patakaran sa Karahasan at Panghihimok na Gumawa ng Krimen.

Ipinaliwanag ng mga linguistic expert na kinonsulta ng Board na ang may kaugnayang bahagi ng caption ay maaaring isalin-wika bilang (“we will tear you to pieces sometime soon”), (malapit ka na naming piraso-pirasuhin) o “hindi magtatagal, dudurugin ka namin”. Napansin ng mga expert na ang parirala sa konteksto ng Iran ay naghahatid ng galit, pagkadismaya at resentment sa mga oppressor, at sina-suggest ang ideya na maaaring magbago ang sitwasyon dahil hindi magiging walang hanggang ang kapangyarihan ng mga oppressor. Hindi dapat bigyan ng interprestasyon ang pariralang ito nang literal bilang intensyon na magdulot ng pisikal na pinsala, sa halip, nagsisilbing bilang “rhetorical statement” na ang nilalayong makakuha ng pansin, binigyan-diin ng emotionally charged language (mga emosyon na mahirap kontrolin) na pini-feature ang mga forceful verb tulad ng “tear” o “rip into pieces/shreds.” Binigyan-diin ng mga expert na ito na ang nasabing figurative speech ay sinasalamin ang malalim na galit na ibinahagi ng user na nagpo-post ng content at kanilang audience. Kaya, hindi nagpapahiwatig ng mga aktwal ng mga banta ng pisikal na karahasan.

Bagaman sinabi ng Meta sa Board na isinaalang-alang din ang konteksto ng pahayag kapag ina-assess kung credible ang banta, ang gabay nito sa mga moderator ay hindi isinasaad na maaari nilang isaalang-alang ang konteksto kapag nag-a-assess kung mayroong “pahayag ng kagustuhang [gumawa] ng napakatinding karahasan.” Basta ang mga element ng panuntunan ay natugunan, lalo na kapag kasama sa content ang banta at isang target, nalamang lumalabag ang post, ganito ang sitwasyon dito. Sa kasong ito, binigyan ng interpretasyon ng Meta ang pahayag na tina-target ang lalaki na sinusundan ang babae. Hindi kailangan ng panuntunan na nakikita o nakikilala ang target. Nagbibigay lang ang mga panuntunan ng isang halimbawa ng nagbabantang speech na hindi kasama o itinuturing hindi credible na banta bilang isang panuntunan: “ang mga banta mismo sa ilang marahas na actor, tulad ng mga grupo ng terorista.”

Ang pariralang “pira-pirasuhin ka” rito ay hindi bumubuo ng credible na banta. Dahil ang konteksto ng panahon ng kaguluhan, pag-escalate ng repression at karahasan laban sa mga taong pinoprotesta ang rehimen sa Iran at itinuturing bilang sa kabuuan ang caption at ang video, nakita ng Board na ang parirala ay figurative, hindi literal, nagpapahayag ng galit at pagkadismaya sa rehimen, at hindi binubuo ng “pahayag ng kagustuhang [gumawa] ng napakatinding karahasan.” Alinsunod ito sa interpretasyon sa commitment ng Meta para magbigay ng opinyon, at ang kahalagahan ng pagprotekta sa pagpapahayag ng pampulitikang kawalan ng kasiyahan.

Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen

Nakita ng Board na hindi nilalabag ng content sa kasong ito ang Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen.

Pinag-iisapan ng Meta na alisin ang post sa ilalim ng panuntunan na ipinagbabawal ang “content na naglalagay sa panganib sa mga babaeng walang pandong sa pamamagitan ng paglalantad ng kanilang mga larawan nang walang [isang] pandong nang labag sa kanilang kagustuhan o nang walang pahintulot.” In-edit na ang policy line para ipagbawal ang “paglalantad [mga walang pandong na babae]: pag-expose ng pagkakakilanlan ng isang tao at paglalagay sa mga ito sa panganib ng pinsala.” Nauunawaan ng kumpanya na ang “paglalantad” na isama ang content na nagbabahagi ng isang lawaran ng walang pandong na babae, ini-expose ang kanyang pagkakakilanlan nang walang pahintulot niya at inilalagay siya sa panganib ng pinsala. Ginagamit ang policy line na ito sa pag-escalate lang at nangangailangan ng input mula sa iba’t ibang mga stakeholder para sa pagpapatupad (tingnan ang Seksyon 4 sa itaas).

Sa kasong ito, sumasang-ayon ang Board sa Meta na ang content ay hindi “inilantad” ang babae, dahil kilala ang kanyang pagkakakilanlan at humupa ang panganib ng pinsala mula sa content dahil naaresto na siya sa panahon na na-post ang content. Kaya, ang natitirang video sa platform ay hindi makabuluhang madadagdagan ang antas ng panganib sa babae at maaaring maging protective sa pagbbibigay ng kamalayan ng kanyang kaso. Natutukoy kung “inilalantad” ng post at babae at ang paglalagay sa kanya sa panganib ay lalong aasa sa konteksto; ipinapaptupad ang patakaran sa pag-excalate-matitiyak lang na ipinapatupad ito ng team ay may oras at mga resource para epektibong matukoy at isaalang-alang ang may kaugnayang konteksto.

8.2 Pagsunod sa Mga Responsibilidad sa mga Karapatang Pantao ng Meta

Nakita ng Board na ang pag-alis ng content mula sa platform ay hindi alinsunod sa mga responsibilidad ng Meta sa mga karapatang pantao.

Malayang Pagpapahayag (Article 19 ICCPR)

Ang Article 19 ng ICCPR ay nagbibigay ng malawak na protekstyon sa pagpapahayag, kasama ang kalayaang maghangad, tumanggap at magbahagi ng impormasyon at lahat ng uri ng ideya, anuman ang mga limitasyon, sa pamamagitan man ng pagsasabi, pagsusulat o pag-print, nang nasa anyo ng sining, o sa pamamagitan ng anumang iba pang media na pipiliin niya.” Kapag ang mga paghihigpit sa pagpapahayag ay ipinapataw ng estado, kailangan nilang matugunan ang mga kinakailangan ng legalidad, lehitimong layunin, at pangangailangan at proporsyonalidad (Article 19, talata 3, ICCPR). Ginagamit ng Board ang framework na ito para bigyang-kahulugan ang boluntaryong mga commitment sa mga karapatang pantao ng Meta, kaugnay sa desisyon sa indibiduwal na content na sinusuri at sa sinasabi nito tungkol sa mas malawak na approach ng Meta sa pamamahala ng content. Gaya nang sinabi ng UN Special Rapporteur sa kalayaan sa pagpapahayag na bagaman “walang mga obligasyon ng Mga Gobyerno ang mga kumpanya, ang kanilang epekto ay tila hinihiling sa kanilang masuri ang parehong uri ng mga tanong tungkol sa pagprotekta ng karapatan ng mga user sa malayang pagpapahayag,” ( A/74/486, talata 41).

Ang access sa social media ay mahalaga sa isang closed society tulad ng Iran. Dahil ang mga “digital gatekeeper,” ang mga platform ng social media ay mayroong “matinding epekto” sa access ng publiko sa impormasyon ( A/HRC/50/29, talata. 90). Ang post sa kasong ito ay bahagi ng mas malawak na protest movement na umaasa sa mga digital civic space para mag-survive. Ang mga batas na tinutukoy kung paano dapat magbihis ang mga babae ay naaapektuhan ang kanilang kalayaan at dignidad( A/68/290, talata 38), kung hangad ng batas na ipagbawal ang pagsusuot ng pandong o para ipagbawal ang pagpunta sa public nang hindi pagsuot ng pandong (tingnan ang hal., Yaker v France, CCPR/C/123/D/2747/2016). Tungkol dito, “ang internet ay naging bagong battleground sa pakikibaka para sa mga karapatan ng mga babae, dinaragdagan ang mga oportunidad para maipahayag ng kababaihan ang kanilang mga sarili,” ( A/76/258, talata 4). Ang pagbibigay ng kakayahan ng malayan pagpapayahag ng mga babae ay binibigyang-daan ang kanilang pampulitikang paglahok at ang kakayahang malaman ang kanilang mga karapatang pantao ( A/HRC/Res/23/2, mga talata. 1-2; A/76/258, para. 5).

I. Legalidad (Pagiging malinaw at Pagiging naa-access ng mga Panuntunan)

Ang prinsipyo ng hinihiling ng batas na ang anumang paghihigpit sa kalayaan sa pagpapahayag ay alinsunod sa na-establish na panuntunan, na na-access at malinaw sa mga user Ang panuntunan ay dapat “buuin nang may sapat na katiyakan para makontrol ng indibidwal ang kanyang pag-uugali nang naaayon at dapat naa-access ng publiko,” ( Pangkalahatang Komento Bilang 34, sa talata 25). Dagdag pa rito, mga panuntunang naghihigpit sa pagpapahayag ay “hindi maaaring magbigay ng hindi mapipigilang discretion para sa paghihigpit ng kalayaan sa pagpapahayag sa mga na-charge sa [kanilang] execution” at "magbigay ng sapat na patnubay sa mga na-charge sa kanilang execution para payagan silang tiyakin kung anong mga uri ng pagpapahayag ang napaghigpitan nang tama at kung anong mga uri ang hindi,” (Pangkalahatang Komento Bilang 34, sa talata 25; A/HRC/38/35 (undocs.org), sa talata 46). Ang kakulangan ng linaw o pagiging wasto ay maaaring humantong sa inconsistent at arbitrary na pagpapatupad ng mga panuntunan. Naaangkop sa Meta, dapat ma-predict ng mga user ang mga kahihinatnan ng pag-post ng content sa Facebook at Instagram, at dapat may malinaw na patnubay ang mga content reviewer sa kanilang pag-enforce.

Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen

Nakita ng Board na habang ang paliwanag ng patakaran – na ipinapahayag ang mga layunin ng Pamantayan ng Komunidad pero hindi bahagi mismo ng panutunan – ng Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen ay sina-suggest na “mahalaga ang konteksto,” at maaari isaalang-alang kapag ina-evaluate ang “credible na banta,” ang mga internal na alituntunin ng Meta at pamamaraan sa pag-moderate ay hindi pinapayagan sa kasanayang ito. Gaya ng napansin ng Board sa kasong Slogan Protesta sa Iran, ang malawakang content moderator ay sinabihan na maghanap ng partikular ng pamantayan, o mga elemneto, sa post at kapat natugunan ang mga elementong iyon, sinasabihan ang mga moderator na alisin ang post. Sa madaling salita, kung ang post ay naglalaman ng banta (hal., “patayin” o “pipira-pirasuhin kita”) at isang target, ang resulta ay pag-alis. Ang mga content moderator ay hindi binibigyan ng kakayahan na gumawa ng pag-ssess sa kung credible ang banta. Gaya ng ipinaliwanag din ng Meta sa kasong iyon, ang karaniwan o formulaic na pamamaraan ay dahil ang “pag-assess kung [ang parirala] ay bumubuo ng berbal na salita salungat sa credible na banta ay mahirap, lalo na kapag malawakan.” Ang konsiderasyon ng kredibilidad ng mga banta ay isinasaalang-alang sa paggawa ng panuntunan, hindi sa pagpapatupad nito. Gaya ng napansin ng Board sa kasong Slogan ng Protesta sa Iran, habang dahilan ng patakaran ay mukhang tinatanggap ang uri ng berbal na salita na inaasahan sa mga konteksto ng protesta, hindi tinatanggap ang mga nakasulat na panuntunan at katumbas na patnubay sa mga reviewer. Kaya, ang ginagawang pag-enforce, partikular na sa malawakan ay mas formulaic kaysa sa ipinahihiwatig ng mga panuntunan, at maaaring gumawa ito ng mga maling pagpapalagay sa mga user tungkol sa kung paano malamang na maipapatupad ang mga panuntunan. Ang patnubay sa mga reviewer, gaya ng kasalukuyang ginawa, ay [mga] hindi isinasama ang posibilidad ng pagsusuri ng konteksto, kahit na mayroong malinaw na mga cue sa mismong content na berbal ang nagbabantang salita.” Ang hindi pagkakatugma sa pagitan ng sinabing dahilan ng patakaran ng kumpanya at ang aktwal na kasanayan ng pagpapatupad ay nagpapatuloy at hindi sapat na natutugunan ang principle ng legalidad.

Inuulit ng Board ang mga nalaman nito mula sa kasong Slogan ng Protesta sa Iran na dapat magbigay ang Meta ng nuanced guidance sa kung paano isaalang-alang ang konteksto, pagdirekta sa mga moderator na umiwas mula sa default na pag-alis ng “berbal” o hindi literal ang wika na nagpapahayag ng pagtutol, partikular sa mga sensitibong pampulitikang kapaligiran, tulad ng Iran.

Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen

Nakita ng Board na ang pagbabawal ng Meta sa “content na naglalagay sa panganib sa mga babaeng walang pandong sa pamamagitan ng pagpapakita ng kanilang mga larawan nang walang [isang] pandong nang labag sa kanilang kagustuhan o nang walang pahintulot” ay sapat na malinaw, gaya ng ginamit sa kasong ito. Nililinaw na ang content na “inilalantad” ang walang pandong na kababaihan at maaaring magresulta sa pinsalat ay ipinagbabawal sa mga platform ng Meta. Gayunpaman, napansin ng Board na may alalahanin na hindi direktang nali-link ang Mga Alituntunin ng Komunidad ng Instagram sa Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen. Sinisira nito ang pagiging accessible ng mga panuntunan sa mga user ng Instagram. Sa mga nakaraang kaso ang ( Mga Sintomas ng Kanser sa Suso at Nudity, Pag-isolate kay Öcalan), inirekomenda ng Board na linawin sa publiko ng Meta para sa mga user kung paano ang Mga Pamantayan ng Komunidad ng Facebook ay naaangkop sa Instagram. Bilang pagtugon, gumawa ang Meta ng proseso para pag-isahin ang Mga Pamantayan ng Komunidad sa Mga Alituntunin ng Komunidad ng Instagram at tukuyin kung saan bahagyang magkaiba ang mga patakaran sa mga platform. Sa pagbibigay ng mga report para sa quarterly transparency, tiniyak ng Meta sa Board na mananatiling priority ang pagsusumikap na ito, sinasabing naapektuhan ang kanilang mga timeline ng legal at mga regulatory consideration. Inulit ng Board ang kahalagahan ng pagkilos ng mabilis para kumpletuhin ang prosesong ito at matiyak ang paglilinaw ng mga naaangkop na panuntunan.

II. Lehitimong Layunin

Sa Article 19, talata 3 ng ICCPR, maaaring limitahan ang pagpapahayag para sa tinukoy at limitadong listahan ng mga dahilan, kasama ang layunin ng pagprotekta ng mga karapatan ng iba. Sa kasong ito, nakita ng Board na nilalayon ng Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen na “pigilan ang posibleng offline na pinsala” sa pamamagitan ng pag-alis sa content na nagdudulot ng “tunay na panganib ng pisikal na pinsala o direktang mga banta sa kaligtasan ng publiko.” Kaya, ibinibigay ng patakaran na ito ang lehitimong layunin ng pagprotekta sa karapatang mabuhay (Article 6, ICCPR) at ang karapatan sa physical na seguridad ng tao (Article 9, ICCPR; Pangkalahatang Komento Bilang 35, talata 9).

Ang patakaran ng Paggawa ng Pinsala at Pag-promote ng Krimen ay ibinibigay ang lehitimong layunin ng pagprotekta ng mga karapatan ng kababaihan sa Iran sa walang diskriminasyon Articles 2, 3 at 26, ICCPR; Ang mga Article 1 at 7, CEDAW), kasama ang kasiyahan sa kanilang mga karapatan at pagpupulong (Mga Article 19 at 21, ICCPR), ang karapatang makibahagi sa buhay publiko (Mga Article 1 at 7, CEDAW), ang karapatan sa privacy (Article 17, ICCPR) at ang kanilanga mga karapatang mabuhay (Mga Article 6, ICCPR ) at sa kalayaan at seguridad ng tao (Article 9 ICCPR).

III.

Ang anumang paghihigpit sa kalayaan sa pagpapahayag ay “dapat naaangkop para makamit ang tungkulin ng mga ito na magbigay ng proteksyon; ang mga ito dapat ay ang pinaka hindi masyadong nanghihimasok na instrumento sa mga maaaring makamit ang tungkulin nitong magbigay ng proteksyon; ang mga ito dapat ay proporsyonal sa interes na dapat protektahan,” ( Pangkalahatang Komento 34, talata 34). Dapat isaalang-alang ng mga social media company ang hanay ng mga posibleng pagtugon sa may problemang content nang higit pa sa pag-delete para matiyak na maiaakma nang maliit ang mga paghihigpit ( A/74/486, talata 51).

Pamantayan ng Komunidad sa Karahasan at Panghihimok na Gumawa ng Krimen

Nakita ng Board ang unang desisyon ng Meta na alisin ang content sa kasong ito ay hindi kinakailangan. Hindi kinakailangan para protektahan ang kaligtasan ng taong kumuha ng video o iba pa, dahil hindi literal ang bantang nabanggit sa caption. Nag-aalala ang board na kahit pagkatapos ng patnubay nito sa kaso ng Slogan ng Protesta sa Iran, ang Mga Pamantayan ng Komunidad ng kumpanya at patnubay na ibigay sa mga moderator ay nag-iiwan pa rin ng puwang para sa hindi alinsunod sa pagpapatupad ng mga figurative (hindi literal) na banta, sa kabila ng sitwasyon sa Iran, sa mga patuloy na protesta nang mahigit sa isang taon ngayon. Ang kasong iyon, tulad nito, kabilang ang parirala na nabigong kilalanin ng Meta bilang hindi literal na pahayag ng banta. Ang patuloy ng kakulangan ng sapat na patnubay ay higit pang binigyan-diin ng impormasyon na ang content sa kasong ito ay nasuri ng maraming malawakang moderator at mga team sa Meta, at paulit-ulit na nakitang lumalabag.

Bilang bahagi ng pagsusuri nito, ginamit ng Board ang anim na factor mula sa Plan of Action para ma-assess ang kapasidad ng content sa kasong ito para gumawa ng malubhang panganib ng panghihimok ng diskriminasyon, karahasan, o iba pang aksyon na hindi sumusunod sa batas. Napansin ng Board na habang ang mga salik ng rabat ay binuo para sa advocacy ng galit sa bansa, lahi o relihiyon na bumubuo sa panghihimok, at hindi para panghihimok sa pangkalahatan, ang six-factor test ay kapaki-pakinabang para sa pag-assess ng panghihimok sa mga pangkalahatang salita, at ginamit ng Board ito sa paraang ito dati (tingnan, halimbawa, Slogan ng Protesta sa Iran at Panawagan para sa Protesta ng Kababaiahn sa Cuba):

• Context: Pinost ang content noong Hulyo 2023, sa panahon kaguluhan, pag-escalate ng mga repression at karahasan laban sa mga taong pinoprotesta ang rehimen. Mayroon mga limitadong venue para sa protesta sa loob na bansa, dahil sa malaking mga antala sa internete at pag-ban ng malalaking platform ng social media tulad ng Facebook, Telegram at X. Ang Istagram ay isa sa ilang natitirang plaltform, ang tungkulin nito sa “Woman, Life, Freedom” movement ay hindi masusukat. Ang mga expert na kinonsulta ng Board ay napansin na ang movement ay nilalayon ang normalization ng protesta at pagsuway sa apat na dekada ng mga batas ng nandidiskrimina laban sa kababaihan. Naobserbahan ng mga expert na simula sa pagsisimula ng movement, pag-instill ng takot at pagpapatahimik sa kababaihan mula sa pagpapahayag ng kanilang mga sarili sa online ay naging mga pangunahing trend. Ang mga bagong batas at mga high-profile na pag-aresto ay para i-curb ang mga agpapahayag na ito ng protesta at itigil ang trend ng pag-normalize ng pagsuway ng mga batas ng hijab.
• Pagkakakilanlan ng speaker: Sinabi ng Meta sa Board na hindi tinuring ng kumpanya na pampublikong personalidad ang user na nag-post ng content. Bataysa caption sa video, mukhang isang supporter ang user o bahagi ng “Woman, Life, Freedom” movement. Kaya, ang speaker dito ay wala sa posisyon ng awtoridad at posibleng ring inilalagay nila sa panganib ang kanilang sariling kaligtasan sa pagpapahayag ng kanilang suprota at pagpo-post ng content na ito.
• Intent: Habang ina-assess ang layunin kapag nagmo-moderate ng content nang malawakan na nagpapakita ng mahalagang challenge, layunin at ordinaryong pagbabasa ng buong post na ay nagsasaad ng suporta para sa ipinakitang babae at nagbibigay ng kamalayan tungkol sa kanyang pagkaaresto. Ayon sa mga expert na kinonsulta ng Board, karaniwan sa Iran sa mga nagpoprotesta na ikalat ang larawan ng walang pandong na babae at ang kanyang pangalan kasunod na kanyang pagkaaresto, para i-pressure ang mga awtoridad na panatilihing ligtas siya. Nalaman ng mga tagaprotesta na ang pagsasapubliko ng mga indibidwal na ito, maaari nilang pigilan ang higit pang pangha-harass ng mga biktima.
• Content at paraan ng pagpapahayag: Ayon sa mga linguistic expert na kinosulta ng Board, ang pariralang “pira-pirasuhin kita” sa kontekstong ito ay maiintindihan ng mga nagsasalita ng Persian bilang pagpapahayan ng malilim na emosyon, tulad ng galit at pagkadismaya, pero hindiliteral na banta ng karahasan. Ang sapilitan at tilang nagbabantang wika ay naging regular na ginagamit ng movement para magsalaita laban sa rehimen. Sa kaso ng Slogan ng Protesta sa Iran, nalaman ng Board na ang slogan “Kamatayan kay Khamenei” binubuo ng “berbal na banta” at napansin ng Meta na nagbigay ng “spirit of the policy” allowance para sa pariralang “I will kill whoever kills my sister/brother” (papatayin ko ang sinumang pumatay sa aking kapatid na babae/kapatid na babae) para sa mga katulad na dahilan. Ang parirala sa kasong ito ay mukhang nasa gitna ng isang caption na pinupuri ang babae na ipinaglalaban ang kanyang mga karapatan. Itinuring sa kabuuan nito, nagpapahayag ng suporta ang caption para sa kababaihang Iranian na pinoprotesta ang mga batas na nandidiskrimina at mga mapang-abusong kasanayan ng rehimen.
• Lawak at naabot: Ang post ay nagkaroon ng halos 47,000 view, 2,000 like, 100 comment at 50 share. Dahil ang speech na ito ay hindi mukhang binubuo ng panghihimok na itinuturing ang iba pang salik sa pagsusuri ng Rabat, ang mataas na naaabot ng content mismo ay hindi salik na nagsasaad na ang pag-alis ay kinkailangan.
• Posibilidad at imminence: Ina-access ng salik na ito kung ang speech ay malamang na mag-trigger na napipinto at malamang na pinsala laban sa posibleng target ng speech, sa kasong ito ay ang rehimen. Ang movement ng protesta, at mga supporter nito, ay laban sa rehimen na palaging ginagamit ang marahas na repression at mga paghihiganti laban sa mga nagpoprotesta. Ang pinakamalamang ng paraan ng pinsala na maaaring magresulta mula sa speech sa kasong ito ay karahasan bilang paghihiganti mula sa rehimen laban sa nagpo-post na user o ang babaen ipinakita sa video kaysa sa karahasan laban sa rehimen o mga supporter nito. Binigyan-diin ng mga expert ang mga kinakaharap ng mga indibidwal na lunalahok sa mga protestang ito, at paano nagpapatuloy ang movement sa kabila ng napipintong banta ng karahasan. Sinabi din nila ang layunin ng pagkalat ng mga larawan ng walang pandong na kababaihan na inaresto ay para tumawag ng atensyon sa kanilang pagkaaresto at i-pressure ang mga awtoridad para panatilihing ligtas sila

Batas sa pagsusuri ng mga salik sa itaas, itinuturing ng Board ba hindi binubuo ng content ang credible na banta at walang kakayahang manghimok ng offline na pinsala. Kapag ginagamit ang figurative speech sa konteksto ng mga malawakang protesta na kasama ang marahas na repression dapat payagan ng Meta ang mga reviwer nito na i-assess ang wika at lokal na konteksto, pag-align ng patnubay para sa mga moderator kasama ng paliwanag ng patakaran. Ang pagtiyak ng accurate na pag-assess kung ang post ay “figurative speech” o malamang na manghimok ng karahasan ay mahalaga sa pag-improve ng pag-moderate sa mga krisis nang higit pang malawak. Maaapektuhan ang automation accuracu ng kalidad ng training data na ibinibigay ng mga human moderator. Kung saan ang mga human moderator ay inaalis ang mga “figurative” statement dahil sa mahigipit na pagpapatupad ng panuntunan, na malamang na i-reproduce at palakasin sa pamamagitan ng automation.

Napansin ng Board na ang Meta ay mayroong ilang mekanismong available para i-adjust ang mga patakaran nito at kanilang mga pagpapatupad sa panahon ng krisis, kasama ang “at risk” country tiering system, at ang Crisis Policy Protocol nito. Ang “at risk” country tiering system ay ginagamit para kilalanin ang mga bansang nasa panganib ng “offline na pinsala at karahasan” para matukoy kung dapat unahin ng kumpanya ang product development nito o paano mag-invest sa mga resources nito. Maaari rin isaalang-alang ang pag-assess para sa ibang mga proseso (hal., kung suportahan ang mga special operation team o i-trigger ang paggamit ng Crisis Policy Protocol nito). Ipinaalam ng Meta sa Board na para sa second half ng 2023, itinalagang “bansang nasa panganib” ang Iran. Itinalaga din ang Iran sa ilalim ng Crisis Policy Protocol simula Setyembre 21, 2022, at nanatiling nakatalaga simula sa panahong iyon. Ang Crisis Policy Protocol say pinapayagan ang Meta na gumawa ng ilang pansamantalang mga pagbabago sa patakaran, kilala bilang “policy levers,” para tugunan ang partikular na sitwasyon. Nagbigay ang Meta ng ilang halimbawa ng mga policy lever na ginagamit na sa Iran, kasama ang “an allowancepara payagan ang content na isinasama ang slogan na 'Papatayin ko kung sinumang papatay sa aking kapatid na babae/kapatid na lalaki ' o mga derivatives nito, walang ibang mga paglabag ng aming mga patakaran.” (Para sa higit pang halimbawa ng mga policy lever tingnan ang Policy Forum Minutes, Enero 25, 2022, Crisis Policy Protocol.)

habang kinikilala ng Board ang commitment ng kumpanya sa kaligtasan at mga pagsusumikap nito para i-mitigate ang posibleng panganib ng pag-moderate ng content sa pamamagitan ng pag-activare ng Crisis Policy Protocol para sa Iran, naging hindi sapat ang mga pagsuusmikap na ito para tiyakin ang paggalang sa kalayaan ng papgpapahayag ng mga tao at pagpupulong sa isang environment ng systematic repression ng pagtutol at mga social tension. Ang ginawang research ng Board ay sinasabin ang napakaraming majority ng content na ipinapakita ang walang pandong na kababaihan sa konteksto ng pagtalakay ng pagsuot ng hijab sa Iran, sa mga plaltform ng Meta, ay ibinabahagi ng o bilang suporta ng protest movement. Dito, ang proseso ng pagpapatupad ng Meta ay paulit-ulit na nabigo na kaibahan ng figurative, o hindi literal, mga pahayag sa may kaugnayang konteksto mula sa tunay na mga banta at panghihimok sa karahasan, na mayroong potensyal na higit pang offline na pinsala.

Inirerekomenda ng Board na magdagdag ng policy lever ang Meta sa Crisis Policy Protocol, at alinsunod na magbigay ng internal na pamantayan sa malawakang mga moderator sa kung paano matutukoy ang mga pahayag na gumagamit ng mga nagbabantang wika figuratively, o hindi nang literal, sa may kaugnayang konteksto para ituring hindi nilalabag ang policy line sa Karahasan at Panghihimok na Gumawa ng Krimen na ipinagbabawala ang mga banta ng karahasan. Sa pagbuo ng pamantayan na partikular sa krisis sa paano matukoy kung figurative ang banta at hindi literal, maaaring tingnan ng Meta ang mga salik ng Rabat Plan (hal., kontektso ng malawakang protesta laban sa state repression, kung ang speaker ay may kakayahang na manghimok o ipakita ang panganib ng panghihimok ng mga tao na makibahagi sa pinsala, kaugnay na linguistic and social context na nagsasaad ng karaniwang paggamit ng malakas/emosyonal na wika para sa rhetorical power, posiibilidad ng pinsala dahil sa lokal na kaalaman. atbp.). Maaari rin umaasa ang kumpanya sa mga pinagkakatiwalaang partner nito para tumulong i-devise o i-assess ang pamantayan para sa pag-moderate. Idiniin mismo ng Meta ang practical na kahalagahan ng Rabat Plan of Action sa pag-moderate ng content, sa pagsuporta sa United Nations sa pagsasalin-wika ng Plan of Action sa 32 wika. Dapat payagan ng policy lever na ito ang “figurative speech” sa konteksto ng mga protesta laban sa rehimen, basta hindi nilalayon nila, at hindo malamang na, manghimok ng karahasan.

Pamantayan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen

Sa kasong ito, nakita ng Board ang pag-alis sa ilalim ng Pamantauan ng Komunidad sa Paggawa ng Pinsala at Pag-promote ng Krimen ay kinakailangan, dahi ang pagkakakilanlan ng babae ay kilalang-kilala, at ang content ay malinaw na na-post para tumawag ng atensyon ang kanyang papgkaaresto, sa pag-asang magreresulta ang atensyon sa kanyang release. Dagdag pa rito, binigyan-diin ng maraming public na commentator na ang kababaihan na inaalis ang hijab sa publiko ay sinasadyang ginagawa ito, bilang paraan ng protesta, at alam ang mga posiblent kahihinatnan, pagpili sa “pagsuway bilang strategic opposition sa awtoridad,” (tingnan ang komento ng publiko Tech Global Institute, PC-21009). Ang babae sa video ay nakilala na at inaresto ng rehimen. Naibahagi ang post na ito para makatawag pansin sa pagkaarestong iyon. Ang mga ikinulong na nagpoprotesta at ang mga tumututol ng rehimen ay na-torture, sumailalim sa karahasan o nawala batay sa kasarian. Ang mga expert na kinonsulta ng Board at maraming public commentator partikular na napansin na ang kasanayang ito, panawagan ng atensyon sa mga pag-aresto at panawagan para sa release ng ikinulong na tao, ay regular na ginagamit ng movement at ng mga tagapagtanggol ng mga karapatang pantao sa Iran, at maaaring tumulong protektahan ang mga indibidwal na hawak ng rehimen.

Ang pagbalanse ng pangangailangan protektahan ang mga pagkakilanlan ng mga vulnerable user habang iniiwasan ang censorship para sa mga ninanis ang exposure ay isang delicate na tanong at nangangailangan ng contextual analysis, napapahong pagsusuri at mabilis na aksyon.

9. Desisyon ng Oversight Board

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na tanggalin ang content.

10. Mga Rekomendasyon

1. Pagpapatupad

Para tiyakin ang paggalang oara sa kalayaan sa pagpapahayag ng mga user at pagpupulong sa isang environment ng systematic state repression, dapat magdagdag ang Meta ng policy lever sa Crisis Policy Protocol basta ang mga figurative (o hindi literal) na pahayag, hindi nilalayon na, at hindi malamang na, manghimok ng karahasan, hindi nilalabag ang policy line sa Karahasan at Panghihimok na Gumawa ng Krimen na ipinagbabawal ang mga banta ng karahasan sa mga may kaugnayang konteksto. Dapat kasama rito ang pagbuo ng pamantayan para sa mga malawakang moderator sa kung paano matutukoy ang mga nasabing pahayag sa may kaugnayang konteksto.

Ituturing ng Board na ipinatupad na rekomendasyong ito kapag parehong ibabaghagi ng Meta sa Board ang mga method para pagpapatupad ng policy lever at ang nagreresultang pamantayan para sa pag-moderate sa Iran.

*Procedural Note:

Ang mga desisyon ng Oversight Board ay inihanda ng mga panel na may limang Miyembro at inaprubahan ng majority ng Board. Hindi kinakailangang kumatawan ang mga desisyon ng Board sa mga personal na pananaw ng lahat ng Miyembro.

Para sa desisyon sa kasong ito, gumawa ng independent research sa ngalan ng Board. Ang Board ay tinulungan ng independent research institute na naka-headquarter sa Unibersidad ng Gothenburg, na binubuo ng isang team ng may mahigit sa 50 social scientist sa anim na kontinente, pati na rin ang mahigit sa 3,200 eksperto sa bansa mula sa buong mundo. Tinulungan din ang Board ng Duco Advisors, isang advisory firm na nakatuon sa pag-uugnay ng geopolitics, tiwala at kaligtasan, at teknolohiya. Nagbigay din ng pagsusuri ang Memetica, isang organisasyon na nakikibahagi sa open-source research sa mga social media trend. Ang expertise sa wika ay ibinigay ng Lionbridge Technologies, LLC na ang mga espesyalista ay fluent sa mahigit sa 350 wika at nagtatrabaho mula sa 5,000 lungsod sa buong mundo.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas