Wampum belt

Buod ng kaso

Note: Noong Oktubre 28, 2021, inanunsyo ng Facebook na babaguhin nito ang pangalan ng kumpanya sa Meta. Sa text na ito, ang Meta ay tumutukoy sa kumpanya, at ang Facebook ay patuloy na tumutukoy sa produkto at mga patakaran na naka-attach sa partikular na app.

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na tanggalin ang Facebook post mula sa isang Indigenous na North American artist na tinanggal ayon sa Pamantayan ng Komunidad ng Facebook sa Hate Speech. Nalaman ng Board na saklaw ang content ng mga pagpapahintulot na nakasaad sa patakaran sa Hate Speech gaya ng nilalayon para magbigay ng kaalaman tungkol sa mga makasaysayang krimen laban sa mga Indigenous na tao sa North America.

Tungkol sa kaso

Noong Agosto 2021, nag-post ang isang Facebook user ng litrato ng wampum belt, na may kasamang text na paglalarawan na nasa English. Ang wampum belt ay isang anyo ng sining ng Indigenous sa North America kung saan pinagdudugtong-dugtong ang mga kabibi para bumuo ng mga larawan, magtala ng mga kuwento at mga kasunduan. Kasama sa belt na ito ang serye ng mga paglalarawan na sinabi ng user ay hinango sa “kuwento ng Kamloops,” isang pagtukoy sa natuklasang mga puntod na walang pangalan noong Mayo 2021 sa isang dating residensyal na paaralan para sa mga Indigenous na bata sa British Columbia, Canada.

Ang text ay binigyan ng pamagat ang artwork ng, “Kill the Indian/ Save the Man (Patayin ang Indian/Sagipin ang Tao)” at tinukoy ang user bilang ang gumawa nito. Inilarawan ng user ang serye ng mga larawan na ipinakita sa belt bilang: “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home (Magnanakaw ng Walang Kasalanan, Demonyo na Nagpapanggap na Tagasagip, Residensyal na Paaralan / Concentration Camp, Naghihintay na Matuklasan, Iuwi ang Aming Mga Anak).” Sa post, inilarawan ng user ang ibig sabihin ng kanyang artwork pati rin ang kasaysayan ng mga wampum belt at ang silbi ng mga ito bilang pamamaraan ng edukasyon. Sinabi ng user na hindi madaling gawin ang belt at emosyonal na sabihin ang kuwento sa nangyari sa Kamloops. Humihingi siya ng paumanhin para sa anumang sakit na idudulot ng art sa mga nakaligtas sa Kamloops, at sinabing ang kanyang “sole purpose is to bring awareness to this horrific story (tanging layunin ay magbigay ng kaalaman tungkol sa nakakapangilabot na kuwentong ito).”

Natukoy ng mga automated system ng Meta ang content bilang posibleng lumalabg sa Pamantayan ng Komunidad ng Facebook sa Hate Speech noong sumunod na araw pagkatapos itong ma-post. Sinuri ng isang human reviewer ang content bilang lumalabag at inalis ito sa parehong araw ding iyon. Umapela ang user laban sa desisyong iyon sa Meta na nagdulot ng pangalawang human review na sinuri rin ang content bilang lumalabag. Sa oras ng pagtanggal nito, nakita na ang content nang mahigit sa 4,000 beses, at na-share nang mahigit sa 50 beses. Walang user na nag-report ng content.

Dahil pinili ng Board ang kasong ito, tinukoy ng Meta ang pagtanggal nito bilang “pagkakamali sa pagpapatupad” at ibinalik ang content noong Agosto 27. Gayunpaman, hindi inabisuhan ng Meta ang user tungkol sa pagbalik nito hanggang Setyembre 30, dalawang araw matapos hilingin ng Board sa Meta ang mga nilalaman ng mga mensahe nito sa user. Ipinaliwanag ng Meta ang late na pagpapadala ng mensahe ay dahil sa human error.

Mga mahalagang nalaman

Sumang-ayon ang Meta na ang orihinal na desisyon nitong tanggalin ang content na ito ay labag sa Mga Pamantayan ng Komunidad ng Facebook at isa itong “pagkakamali sa pagpapatupad.” Nakita ng Board na ang content na ito ay malinaw na halimbawa ng ‘counter speech’ kung saan ang hate speech ay tinukoy para labanan ang pang-aapi at diskriminasyon.

Ang pagpapakilala sa patakaran ng Facebook sa Hate Speech ay ipinapaliwanag na pinahihintulutan ang counter speech kung saan malinaw na sinabi ang layunin ng user. Malinaw sa content ng post na hindi ito hate speech. Ikinukuwento ng artwork ang nangyari sa Kamloops, at ipinapaliwanag ng kasamang salaysay ang kahalagahan nito. Bagaman ang mga salitang ‘Kill the Indian (Patayin ang Indian)’ ay posibleng magresulta sa hate speech nang hiwalay, kung titingnan ang konteksto, ang pariralang ito ay nanghihikayat ng atensyon sa at kinokondena ang mga partikular na pagsasagawa ng galit at diskriminasyon.

Muling binalikan ng Board ang desisyon nito sa 2020-005-FB-UA sa isang kaso na kinabibilangan ng isang quote mula sa isang Nazi official. Ang kasong iyon ay nagbigay ng mga parehong aral sa kung paano maaaring masuri ang layunin sa pamamagitan ng mga palatandaan bukod sa mga direktang pahayag, tulad ng content at ang kahulugan ng quote, ang tiyempo at bansa ng post, at ang substance ng mga reaksyon at mga komento sa post.

Sa kasong ito, nalaman ng Board na hindi kinakailangang malinaw na sabihin ng user na nagbibigay siya ng kaalaman para matukoy ang post bilang counter speech. Sinabi ng Board na ang internal na “Mga Kilalang Tanong” sa mga moderator na hindi palaging magiging sapat ang malinaw na pahayag ng layunin para baguhin ang kahulugan ng isang post na magreresulta sa hate speech. Ang mga moderator ay inaasahang gumawa ng mga pangangatwiran mula sa content para ma-assess ang layunin, at hindi lang dapat umasa sa mga malinaw na pahayag.

Nagpasya ang dalawang magkahiwalay na moderator na nagresulta ang post na ito sa hate speech. Hindi nakapagbigay ang Meta ng mga partikular na dahilan kung bakit dalawang beses nangyari ang pagkakamaling ito.

Ang desisyon ng Oversight Board

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na tanggalin ang content.

Sa isang pahayag ng policy advisory, inirerekomenda ng Board sa Meta na:

• Bigyan nito ang mga user ng napapanahon at tamang abiso tungkol sa aksyong ginawa ng kumpanya sa content na may kaugnayan sa kanilang apela. Kung saan naaangkop, kasama ang mga kaso ng pagkakamali sa pagpapatupad na tulad nito, dapat kilalanin ng abiso sa user na ang aksyon ay dahil sa proseso ng pagsusuri ng Oversight Board.
• Pag-aralan ang mga epekto sa accuracy ng reviewer kapag sinabi sa mga content moderator na kasali sila sa pangalawang pagsusuri, para alam nilang tinutulan ang inisyal na pagpapasya.
• Magsagawa ng pag-assess ng accuracy ng reviewer na nakatuon sa mga pinahihintulutan ayon sa patakaran sa Hate Speech na sumasaklaw sa makasining na pagpapahayag at pagpapahayag tungkol sa mga paglabag ng mga karapatang pantao (halimbawa, pagkondena, pagbibigay ng kaalaman, paggamit na tumutukoy sa sarili, paggamit para magbigay ng kakayahan). Dapat ding paritkular na imbestigahan ng pag-assess na ito kung paano nakakaapekto ang lokasyon ng reviewer sa kakayahan ng mga moderator na ma-assess nang tama ang hate speech at counter speech mula sa pareho o magkaibang rehiyon. Dapat ibahagi ng Meta sa Board ang mga resulta ng pag-assess na ito, kasama ang kung paano ipapaalam ng mga resulta ang mga pagpapahusay sa mga pagpapatakbo ng pagpapatupad at pagbuo ng patakaran at kung pinaplano nitong gumawa ng mga regular na pag-assess sa accuracy ng reviewer sa mga pagpapahintulot na ito. Hiniling din ng Board sa Meta na ibahagi sa publiko ang mga buod ng mga resulta ng mga pag-assess na ito sa mga quarterly transparency update nito sa Board para maipakita na sinunod nito ang rekomendasyon ng Board.

*Ang mga buod ng kaso ay nagbibigay ng overview ng kaso at walang halaga na katulad sa naunang pagpapasya.

Buong desisyon sa kaso

1. Buod ng desisyon

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na tanggalin ang isang post ng isang Indigenous na artist sa North America na may kasamang litrato ng kanyang sining kasama ng pamagat nito, na nagbabanggit ng isang makasaysayang pangyayari ng hate speech. Sumang-ayon ang Meta na kabilang ang post sa isa sa mga pinahihintulutan sa Pamantayan ng Komunidad ng Facebook sa Hate Speech dahil malinaw nitong nilalayon na magbigay ng kaalaman tungkol sa mga makasaysayang krimen laban sa mga Indigenous na tao sa North America.

2. Paglalarawan ng kaso

Noong unang bahagi ng Agosto 2021, nag-post ang isang Facebook user ng litrato ng wampum belt, na may kasamang text na paglalarawan na nasa English. Ang wampum belt ay isang anyo ng sining ng Indigenous sa North America kung saan pinagdudugtong-dugtong ang mga kabibi para bumuo ng mga larawan, magtala ng mga kuwento at mga kasunduan. Kasama sa belt na ito ang serye ng mga paglalarawan na sinabi ng user ay hinango sa “kuwento ng Kamloops,” isang pagtukoy sa natuklasang mga puntod na walang pangalan noong Mayo 2021 sa isang dating residensyal na paaralan para sa mga Indigenous na bata sa British Columbia, Canada.

Ang text ay binigyan ng pamagat ang artwork ng, “Kill the Indian/ Save the Man (Patayin ang Indian/Sagipin ang Tao)” at tinukoy ang user bilang ang gumawa nito. Pagkatapos, nagbigay ang user ng isang listahan ng mga parirala na tumutugma sa serye ng mga larawang ipinapakita sa belt: “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home (Magnanakaw ng Walang Kasalanan, Demonyo na Nagpapanggap na Tagasagip, Residensyal na Paaralan / Concentration Camp, Naghihintay na Matuklasan, Iuwi ang Aming Mga Anak).” Sa post, inilarawan ng user ang ibig sabihin ng kanyang artwork pati rin ang kasaysayan ng mga wampum belt at ang silbi ng mga ito bilang pamamaraan ng edukasyon. Sinabi ng user na hindi madaling gawin ang belt at emosyonal na ikuwento ang nangyari sa Kamloops. Nagpatuloy siya para sabihing hindi na maililihim ulit sa publiko ang nalaman na ito at umaasa siyang makakatulong ang belt na maiwasang mangyari iyon. Tinapso ng user ang kanyang post sa pamamagitan ng paghingi ng paumanhin para sa anumang sakit na idudulot ng artwork sa mga nakaligtas sa residensyal na sistema ng paaralan, at sinabing ang kanyang “sole purpose is to bring awareness to this horrific story (tanging layunin ay magbigay ng kaalaman tungkol sa nakakapangilabot na kuwentong ito).”

Natukoy ng mga automated system ng Meta ang content bilang posibleng lumabag sa Pamantayan ng Komunidad sa Hate Speech ng Facebook noong sumunod na araw pagkatapos itong ma-post. Sinuri ng isang human reviewer ang content bilang lumalabag at inalis ito sa parehong araw ding iyon. Umapela ang user laban sa desisyong iyon sa Meta na nagdulot ng pangalawang human review na sinuri rin ang content bilang lumalabag. Sa oras ng pagtanggal nito, nakita na ang content nang mahigit sa 4,000 beses, at na-share nang mahigit sa 50 beses. Walang user na nag-report ng content. Dahil pinili ng Board ang kasong ito, tinukoy ng Meta ang pagtanggal nito bilang “pagkakamali sa pagpapatupad” at ibinalik ang content noong Agosto 27. Gayunpaman, hindi inabisuhan ng Meta ang user tungkol sa pagbalik nito hanggang Setyembre 30, dalawang araw matapos hilingin ng Board sa Meta ang mga nilalaman ng mga mensahe nito sa user. Ipinaliwanag ng Meta ang late na pagpapadala ng mensahe ay dahil sa human error. Ang mismong pagpapadala ng mensahe ay hindi sinabi sa user na ibinalik ang kanyang content dahil sa kanyang apela sa Board at pagpili ng Board sa kasong ito.

Iginiit ng komento ng publiko mula sa Association on American Indian Affairs (Komento ng Publiko-10208) na ang quote na ginamit bilang pamagat ng artwork ay mula kay Richard Henry Pratt, isang opisyal sa hukbo na nagtatag ng unang pederal na Indian boarding school sa United States of America. Ibinuod ng parirala ang mga patakaran sa likod ng paggawa ng mga boarding school na hinangad na sapilitang ‘gawing sibilisado’ ang mga Katutubo at ‘alisin ang lahat ng bakas ng kulturang Indian.’ Ginamit ang mga katulad na patakaran sa Canada at nalaman na nagresulta ito sa genocide sa kultura ng Truth and Reconciliation Commission of Canada.

Ang pagtukoy ng user sa nangyari sa “Kamloops” ay isang pagtukoy sa Kamloops Indian Residential School, na dating boarding school para sa mga anak ng First Nations sa British Columbia, Canada. Noong Mayo 2021, inanunsyo ng mga pinuno ng Tk’emlúps te Secwépemc First Nation ang pagkakatuklas sa mga puntod sa Kamloops na walang pangalan. Kinumpirma ng mga awtoridad ang 200 inaasahang mga pinaglibingan sa lugar.

Tinatantiya ng pamahalaan ng Canada na ang pinakamababang 150,000 Indigenous na mga bata ay sumailalim sa sistema ng residensyal na paaralan bago isinara ang huling paaralan noong 1997. Ang mga Indigenous na bata ay kadalasang sapilitang inaalis sa kanilang mga pamilya at pinagbabawalang magpahayag ng anumang aspeto ng kultura ng Indigenous. Gumamit ang mga paaralan ng malupit at mapang-abusong pisikal na pagpaparusa, at ang mga staff ay gumawa ng o tinanggap ang sexual abuse at malubhang karahasan laban sa maraming mag-aaral. Malnourished ang mga mag-aaral, ang mga paaralan ay hindi napapainit at nililinis, at namatay ang maraming bata dahil sa tuberculosis at iba pang sakit dahil sa kaunting medikal na atensyon. Pinagpasyahan ng The Truth and Reconciliation Commission na hindi bababa sa 4,100 mag-aaral ang namatay habang pumapasok sa mga paaralan, ang karamihan ay mula sa maling pagtrato at kapabayaan, ang iba ay mula sa sakit o aksidente.

3. Awtoridad at saklaw

Mayroong awtoridad ang Board na suriin ang desisyon ng Meta kasunod ng isang apela mula sa user na tinanggal ang content (Article 2, Seksyon 1 ng Charter). Article 3, Seksyon 1 ng Mga Internal na Patakaran). Maaaring suportahan o baliktarin ng Board ang desisyon ng Meta, at ipapatupad ang desisyon nito sa kumpanya (Article 4 ng Charter; Article 3, Seksyon 5). Ang mga desisyon ng Board ay maaaring may kasamang mga pahayag ng policy advisory na may mga hindi ipapatupad na rekomendasyon na kailangang tugunan ng Meta (Article 4; Article 3, Seksyon 4 ng Charter).

Kapag pumipili ang Board ng mga kaso na tulad ng isang ito, kung saan sa huli ay sumasang-ayon ang Meta na nagkamali ito, sinusuri ng Board ang orihinal na desisyon para tulungang dagdagan ang pag-unawa sa kung bakit nangyari ang mga pagkakamali, at para gumawan ng mga obserbasyon o rekomendasyon na maaaring maresulta sa pagbawas ng mga pagkakamali at para pahusayin ang due process. Pagkatapos ng desisyon ng Board saBreast Cancer Symptoms and Nudity ( 2020-004-IG-UA, Sekshon 3), pinagtibay ng Board ang isang proseso na pahihintulutan ang Meta na matkoy ang anumang pagkakamali sa pagpapatupad bago italaga ang kaso sa isang panel (tingnan ang: mga transparency report, pahina 30). Hindi makakatulong na sa mga kasong ito, itinutuon ng Meta ang buong pangangatwiran nito sa binagong desisyon nito, ipinapaliwanag kung ano ang dapat nangyari sa content ng user, habang inaanyayahan ang Board na suportahan ito bilang “huling” desisyon ng kumpanya. Dagdag sa pagpapaliwanag kung bakit mali ang desisyong inapela ng user, iminumungkahi ng Board na ipaliwanag ng Meta kung paano nangyari ang pagkakamali, at bakit nabigo ang proseso ng internal review ng kumpanya na makita o maiwasto ito. Magpapatuloy ang Board na ibase ang gma pagsusuri nito sa desisyong inapela ng user.

4. Mga may kaugnayang pamantayan

Isinaalang-alang ng Oversight Board ang mga sumusunod na pamantayan sa desisyon nito:

I.Mga Pamantayan ng Komunidad ng Facebook:

Tinutukoy ng Mga Pamantayan ng Komunidad ng Facebook ang hate speech bilang "direktang pag-atake sa mga tao batay sa tinatawag naming mga protektadong katangian – lahi, etnisidad, bansang pinagmulan, kinabibilangang relihiyon, sekswal na oryentasyon, paniniwala, kasarian, kinikilalang kasarian at malubhang sakit o kapansanan." Sa “Tier 1,” ipinagbabawal ang content na may kasamang “marahas na pananalita o suporta nang nakasulat o ipinapakita.” Kasama rin sa Pamantayan ng Komunidad ang mga pagpapahintulot para malaman ang kaibahan ng hindi lumalabag na content:

Alam namin na kung minsan ay nagbabahagi ng content ang mga tao na may kasamang hate speech ng ibang tao para kondenahin ito o para magbigay ng kaalaman tungkol dito. Sa iba pang mga kaso, ang salita na maaaring lumabag sa aming mga pamantayan ay maaaring gamitin para tukuyin ang sarili o sa paraan na nagbibigay ng kakayahan. Ginawa ang aming mga patakaran para bigyan ng puwang ang mga ganitong uri ng salita, pero hinihiling namin sa mga tao na sabihin nang malinaw ang kanilang layunin. Kung hindi malinaw ang intensyon, maaari naming tanggalin ang content.

II. Mga pagpapahalaga ng Meta:

Nakasaad ang pagpapahalaga ng Meta sa pagpapakilala sa Mga Pamantayan ng Komunidad ng Facebook. Ang pagpapahalagang “Boses” ay tinukoy bilang “pinakamahalaga”:

Ang layunin ng aming Mga Pamantayan ng Komunidad ay palaging gagawa ng lugar para sa pagpapahayag at bigyan ang mga tao ng boses. […] Gusto naming makipag-usap nang bukas sa mga tao tungkol sa mga isyu na mahalaga sa kanila, kahit na may ilang hindi sumang-ayon o hindi ito katanggap-tanggap sa kanila.

Nililimitahan ng Meta ang "Boses" para matugunan ang apat na pagpapahalaga, at dalawa ang nauugnay dito:

"Kaligtasan": Nakatuon kami na gawing ligtas na lugar ang Facebook. Ang pagpapahayag na nagbabanta sa mga tao ay may potensyal na manakot, ibukod o patahimikin ang iba at hindi ito pinahihintulutan sa Facebook.

“Dignidad”: Naniniwala kaming pantay-pantay ang lahat ng tao sa dignidad at mga karapatan. Inaasahan namin na igagalang ng mga tao ang dignidad ng iba at hindi iha-harass o hahamakin ang mga ito.

III. Mga pamantayan sa mga karapatang pantao:

Ang UN Guiding Principles on Business and Human Rights ( mga UNGP), na inindorso ng UN Human Rights Council noong 2011, ay nagtatag ng boluntaryong framework para sa mga responsibilidad sa mga karapatang pantao ng mga pribadong negosyo. Noong 2021, inanunsyo ng Meta ang Patakaran ng Kumpanya sa Mga Karapatang Pantao, kung saan muli nitong pinagtibay ang commitment nito sa paggalang sa mga karapatang pantao nang ayon sa mga UNGP. Ang pagsusuri ng Board sa mga responsibilidad sa mga karapatang pantao ng Meta sa kasong ito ay nabigyan ng kaalaman sa pamamagitan ng mga sumusunod na pamantayan sa mga karapatang pantao:

• Kalayaan sa pagpapahayag: Article 19, International Covenant on Civil and Political Rights ( ICCPR); Pangkalahatang Komento Bilang 34, Human Rights Committee, 2011; Article 5, International Convention on the Elimination of All Forms of Racial Discrimination ( ICERD); UN Special Rapporteur Report tungkol sa Hate Speech, A/74/486, 2019; UN Special Rapporteur Report tungkol sa Pag-moderate ng Online Content, A/HRC/38/35, 2018.
• Pagkakapantay-pantay at walang diskriminasyon: Article 2, talata 1 at Article 26 (ICCPR); Article 2, ICERD; Pangkalahatang Rekomendasyon 35, Committee on the Elimination of Racial Discrimination, 2013.
• Mga karapatan sa kultura: Article 27, ICCPR; Article 15, International Covenant on Economic, Social and Cultural Rights (ICESCR); UN Special Rapporteur sa larangan ng mga karapatan sa kultura, report sa artistic na kalayaan at creativity, A/HRC/23/34, 2013.
• Mga Karapatan ng mga Indigenous na tao: UN Declaration on the Rights of Indigenous People, Article 7, talata 2; Article 8, talata 1, at Article 19.

5. Pahayag ng user

Sinabi ng user sa kanyang apela sa Board na ipinapakita ng kanyang post ang isang piraso ng tradisyonal na artwork na nagdodokumento ng kasaysayan, at wala itong kinalaman sa hate speech. Higit pang sinabi ng user na ang kasaysayang ito ay “needed to be seen (kailangang makita)” at kaugnay sa pagtanggal ng Metsa sa post sinabi niyang “this is censorship (ito ay censorship).”

6. Paliwanag ng desisyon ng Meta

Sinabi ng Meta sa Board na ang pariralang “Kill the Indian (Patayin ang Indian)” ay nagresulta sa Tier 1 na pag-atake ayon sa Pamantayan ng Komunidad sa Hate Speech ng Facebook, na nagbabawal sa “marahas na pananalita” na pumupuntirya sa mga tao batay sa protektadong katangian, kabilang ang lahi o etnisidad. Gayunpaman, tinanggap ng Meta na mali ang pagtanggal nito sa content dahil pinahihintulutan ng patakaran ang pagbabahagi ng hate speech ng ibang tao para “kondenahin ito o magbigay ito ng kaalaman.” Sinabi ng Meta na sinabi ng user sa post na ang kanyang layunin ang magbigay ng kaalaman sa nakakapangilabot na kuwento ng nangyari sa Kamloops.

Sinabi ng Meta na ang pariralang “Kill the Indian/Save the Man (Patayin ang Indian/Sagipin ang Tao)” ay nagmula sa sapilitang assimilation ng mga Indigenous na bata. Sa pagbibigay ng kaalaman sa kuwento ng Kamloops, nagbigay din ng kaalaman ang user tungkol sa sapilitang assimilation sa pamamagitan ng mga residensyal na paaralan. Bilang pagtugon sa tanong mula sa Board, nilinaw ng Meta na hindi kailangang malaman ng content reviewer ang tungkol sa kasaysayang ito para maipatupad nang tama ang patakaran. Sinabi sa post ng user na nagbibigay siya ng kaalaman tungkol sa nakakapangilabot na kuwento at kaya posibleng makatwirang magpasya ang reviewer na nagbibigay ng kaalaman ang post tungkol sa hate speech na sinabi nito.

Sinabi ng Meta sa Board na walang user na nag-report ng content sa kasong ito. Nagpapatakbo ang Meta ng mga machine learning classifier na sinanay para awtomatikong ma-detect ang mga posibleng paglabag ng Mga Pamantayan ng Komunidad ng Facebook. Sa kasong ito, dalawang classifier ang awtomatikong tumukoy sa post bilang posibleng hate speech. Ang unang classifier, na sumuri sa content ay hindi gaanong kumpiyansa na nilabag ng post ang Pamantayan ng Komunidad. Gayunpaman, natukoy ng isa pang classifier batay sa isang hanay ng mga senyales sa konteksto na maaaring naibahagi nang malawakan ang post at nakita ng maraming tao. Dahil sa posibleng pinsala na maaaring magresulta mula sa malawakang pamamahagi ng hate speech, awtomatikong ipinadala ng system ng Meta ang post sa human review.

Bilang pagtugon sa mga tanong ng Board, nilinaw ng Meta na ang human review na nasa Asia-Pacifi region ay tinukoy ang post bilang hate speech at tinanggal ito sa platform. Umapela ang user at sinuri ng pangalawang reviewer sa Asia-Pacific region ang content at tinukoy din ito bilang hate speech. Kinumpirma ng Meta sa Board na hindi nire-record ng mga moderator ang dahilan para sa mga indibiduwal na desisyon sa content.

7.Mga isinumite ng third-party

Kinonsidera ng Oversight Board ang walong komento ng publiko kaugnay sa kasong ito: apat mula sa United States at Canada, dalawa mula sa Europe, isa mula sa Sub-Saharan Africa at isa mula sa Asia-Pacific at Oceania. Tinugunan ng mga submission ang mga tema kasama ang kahalagahan ng quote kung saan ibinatay ng user ang pamagat ng kanyang artwork, ang konteksto sa paggamit ng mga residensyal na paaralan sa North America, at kung paano nakakaapekto ang pag-moderate ng Meta sa content sa mga kalayaan sa sining at ang pagpapahayag ng mga karapatan ng mga taong Indigenous o na nagmula rito.

Para basahin ang mga komento ng publiko na naisumite para sa kasong ito, paki-click dito.

8.Pagsusuri ng Oversight Board

Tiningnan ng Board ang tanong kung dapat bang ibalik ang content na ito sa pamamagitan ng tatlong lente: ang Mga Pamantayan ng Komunidad ng Facebook, ang mga pagpapahalaga ng Meta at ang mga responsibilidad nito sa mga karapatang pantao.

8.1 Pagsunod sa Mga Pamantayan ng Komunidad

Sumang-ayon ang Meta na ang orihinal na desisyon nitong alisin ang content na ito ay labag sa Mga Pamantayan ng Komunidad ng Facebook at isa itong “pagkakamali sa pagpapatupad.” Nalaman ng Board na ang content sa kasong ito ay malinaw na hindi hate speech. Ang content na ito ay malinaw na halimbawa ng ‘counter speech’ kung saan ang hate speech ay tinukoy o ginamit sa ibang paraan sa pagsusumkipa na labanan ang pang-aapi at diskriminasyon.

Malinaw na pinahihintulutan ng Pamantayan ng Komunidad sa Hate Speech ang “content na may kasamang hate speech ng ibang tao para kondenahin ito o para magbigay ng kaalaman.” Gayunpaman, nagpasya ang dalawang magkahiwalay na moderator na nagresulta ang post na ito sa hate speech. Hindi naibigay ng Meta ang mga partikular na dahilan kung bakit dalawang beses nangyari ang pagkakamaling ito.

Sa kaso ng Nazi Quote na ( 2020-005-FB-UA), sinabi ng Board na ang konteksto ng paggamit ng quote ay mahalaga para maunawaan ang kahulugan nito. Sa kasong iyon, ang content at kahulugan ng quote, ang tiyempo ng post at bansa kung saan ito pinost, pati rin ang substance ng mga reaksyon at komento sa post, ay malinaw na mga indikasyon na hindi nilayon ng user na purihin ang isang itinalagang hate figure.

Nalaman ng Board na hindi kinakailangang malinaw na sabihin ng user na nagbibigay siya ng kaalaman para maging malinaw ang layunin at kahulugan ng post na ito. Ikinukuwento ng larawan ng artwork ang nangyari sa Kamloops, at ipinapaliwanag ng kasamang salaysay ang kahalagahan nito. Bagaman ang mga salitang ‘Kill the Indian (Patayin ang Indian)’ kung ihihiwalay ay maaaring magresulta sa hate speech, ang pag-assess sa buong content ay nililinaw na ang parirala ay ginamit para magbigay ng kaalaman sa at kondenahin ang galit at diskriminasyon. Gumamit ang content ng mga quotation mark para masabi ang kaibahan ng mapoot na parirala sa pamagat nito, na kung babasahin nang buo ay “Kill the Indian / Save the Man (Patayin ang Indian / Sagipin ang Tao).” Binigyan dapat nito ang reviewer ng pansamantalang pagtigil para mag-isip nang mas mabuti. Ang paraan ng pagkuwento ng user tungkol sa Kamloops at pagpapaliwanag sa kahalagahan ng wampum belt sa kultura ay nilinaw na umuugnay siya sa mga biktima ng diskriminasyon at karahasan, at hindi sa mga perpetrator. Malinaw na kinondena ng kanyang salaysay ang mga nalamang pangyayari sa Kamloops. Malinaw sa mga komento at reaksyon sa post na ang layuning ito na kondenahin at magbigay ng kaalaman ay na naunawaan ng audience ng user.

Sinabi ng Board na ang internal na “Mga Kilalang Tanong” ng Facebook, na bumubuong bahagi ng patnubay na ibinigay sa mga moderator, ay sinabihan ang mga moderator na nagkamali sila sa bahagi ng pagtanggal ng content na may kasamang hate speech kung saan hindi malinaw ang layunin ng user. Sinabi rin ng Mga Kilalang Tanong na hindi palaging magiging sapat ang malinaw na pahayag ng layunin para baguhin ang kahulugan ng isang post na magreresulta sa hate speech. Ang internal na patnubay na ito ay nagbibigay ng limitadong instruksyon sa mga moderator sa kung paano malalaman nang tama ang kaibahan ng ipinagbabawal na hate speech mula sa counter speech na may kasamang hate speech para kondenahin ito o magbigay ng kaalaman tungkol dito. Sa pagkakaalam ng Board, walang patnubay sa kung paano ia-assess ang katunayan ng layunin sa artistic content na nagsasabi o gumagamit ng mga salitang hate speech, o sa content na tumatalakay sa mga paglabag ng mga karapatang pantao, kung saan ang nasabing content ay saklaw ng mga pinahihintulutan sa patakaran.

8.2 Pagsunod sa mga pagpapahalaga ng Meta

Nalaman ng Board na ang orihinal na desisyon na tanggalin ang content ay hindi alinsunod sa mga pagpapahalaga ng Meta na “Boses” at “Dignidad” at hindi nito natugunan ang pagpapahalagang “Kaligtasan.” Bagaman alinsunod sa mga pagpapahalaga ng Meta na limitahan ang pagpapakalat ng hate speech sa mga platform nito, nababahala ang Board na ang mga proseso ng Meta sa pag-moderate ay hindi matutukoy at mapoprotektahan nang tama ang kakayahan ng mga taong nahaharap sa marginalization o diskriminasyon na ipahayag ang kanilang mga sarili sa pamamagitan ng counter speech.

Sinabi ng Meta ang commitment nito sa pagsuporta sa counter speech:

Bilang isang community, isang social platform, at naipon na ibinahaging karanasan ng tao, sinusuportahan ng Facebook ang mahahalagang inisiyatiba sa Counterspeech sa pamamagitan ng pagpapatupad ng matibay na mga patakaran sa content at pakikipagtulungan sa mga lokal na komunidad, gumagawa ng patakaran, eksperto at mga gumagawa ng pagbabago para mabuksan ang mga inisiyatiba sa Counterspeech sa buong mundo.

Sinasabi ng Meta na ang “Boses” ay ang pinakamahalagang pagpapahalag ang kumpanya. Ang art na hinahangad na magbigay ng liwanag sa mga nakakakapangilabot na mga atrocity ng nakaraan at sabihan ang mga tao tungkol sa pangmatagalang epekto ng mga ito ay isa sa pinakamahalaga at makapangyarihang pagpapahayag ng pagpapahalagang “Boses,” lalo na para sa mga marginalized na grupo na nagpapahayag ng kanilang sariling kultura at nagsusumikap na matiyak na malalaman ang tungkol sa kanilang sariling kasaysayan. Ang counter speech ay isa lang pagpapahayag ng “Boses” pero mahalagang kasangkapan din para sa mga pinupuntirya ng hate speech para maprotektahan ang sarili nilang dignidad at tumutol sa malupit, nandidiskrimina at nanghahamak na asal. Dapat tiyakin ng Meta na ang mga patakaran nito sa content at mga kasanayan sa pag-moderate ay responsable sa at pinoprotektahan ang ganitong uri ng pagpapahayag.

Para sabihan ang isang user na nagbibigay ng kaalaman tungkol sa mga mass atrocity na ang kanyang speech ay pinipigilan dahil sa hate speech ay isang insulto sa kanyang dignidad. Ang akusasyong ito, partikular noong kinumpirma ng Meta sa apela, ay maaaring humantong sa self-censorship.

8.3 Pagsunod sa mga responsibilidad sa mga karapatang pantao ng Meta

Nagpasya ang Board na ang pagtanggal ng post na ito ay sumalungat sa mga responsibilidad sa mga karapatang pantao ng Meta bilang isang negosyo. Ipinangako ng Metsa sa sarili nito na igagalang ang mga karapatang pantao sa ilalim ng UN Guiding Principles on Business and Human Rights ( mga UNGP). Sinasabi ng Patakaran sa Mga Karapatang Pantao ng Kumpanya nito na kasama rito ang International Covenant on Civil and Political Rights (ICCPR).

Ito ang unang kaso ng Board tungkol sa artistic na pagpapahayag, pati rin ang unang kaso nito na tungkol sa pagpapahayag kung saan ang user ay tinutukoy ang sarili bilang isang Indigenous na tao. Isa ito sa maraming kaso na pinili ng Board kung saan hinahangad ng user na bigyang-pansin ang mga serosyong paglabag sa mga karapatang pantao.

Kalayaan sa Pagpapahayag (Article 19 ICCPR)

Binibigyang-diin ng mga internasyonal na pamantayan sa mga karapatang pantao ang halaga ng pulitikal na pagpapahayag (Human Rights Committee Pangkalahatang Komento 34, talata 38). Ang saklaw ng proteksyon para sa karapatang ito ay tinukoy sa Article 19, talata 2, ng ICCPR, na nagbibigay ng espesyal na pagbanggit sa pagpapahayag “nang nasa anyo na sining.” Ang International Convention on the Elimination of All Forms of Racial Discrimination (ICERD) ay nagbigay din ng proteksyon sa diskriminasyon sa paggamit ng karapatan para sa kalayaan sa pagpapahayag (Article 5), at ang Committee na naatasan sa pagmo-monitor sa pagsunod ng estado ay binigyang-diin ang kahalagahan ng karapatang tulungan “ang mahihinang grupo sa pagbabago ng balanse ng kapangyarihan sa mga bahagi ng lipunan” at para mag-alok ng “mga alternatibong pananaw at counterpoint” sa mga talakayan (CERD Committee, Pangkalahatang Rekomendasyon 35, talata 29).

Ang sining ay kadalasang pulitikal, at alam ng mga internasyonal na pamantayan ang natatangi at makapangyarihang tungkuling ng ganitong uri ng komunikasyon sa paghamon sa status quo (UN Special Rapporteur sa larangan ng mga karapatan sa kultura, A/HRC/23/34, at talata 3 – 4). Ang internet, at ang mga social media platform na tulad ng Facebook at Instagram bilang partikular, ay may espesyal na pagpapahalaga sa mga artist sa pag-abot ng mga bago at mas malaking audience. Ang kanilang mga kabuhayan ay maaaring umaasa sa access sa mga social platform na nakakarami sa Internet.

Ang karapatan sa kalayaan sa pagpapahayag ay iginagarantiya sa lahat ng tao nang walang diskriminasyon (Article 19, talata 2, ICCPR). Nakatanggap ang Board ng mga isinumite na ang mga karapatan ng mga Indigenous na tao sa malaya, nauna at ipinaalam na pahintulot kung saan pinagtibay ng mga state ang mga hakbang na pambatas o pang-administratibo na nakakaapekto sa mga komunidad na iyon ay nagpapahiwatig ng responsibilidad ng Meta na kumonsulta sa mga komunidad na ito habang binubuo nito ang mga patakaran nito sa content (Pangkalahatang Komento-10240, Minority Rights Group; tingnan din ang UN Declaration on the Rights of Indigenous Peoples, Article 19). Nagresulta rin ang UN Special Rapporteur sa kalayaan sa opinyon at pagpapahayag ng katulad na alalahanin sa konteksto ng mga responsibilidad ng mga social media platofmr ( A/HRC/38/35, talata 54).

Ang content sa kasong ito ay may kasama ring iba pang mga karapatan, kabilang na ang mga karapatan ng mga taong kabilang sa mga minority ng bansa, etniko o wika na ma-enjoy ang sarili nilang kultura kasama ng iba pang miyembro ng kanilang grupo (Article 27, ICCPR), at ang karapatang lumahok sa mga kaugalian at paniniwala sa buhay at ma-enjoy ang sining (Article 15, ICESCR). Ang sining ng paggawa ng wampum belt na hinangad na mag-record at magbigay ng kaalaman sa mga atrocity ng mga karapatang pantao at ang kanilang patuloy na legacy ay nakakatanggap ng proteksyon sa ilalim ng UN Declaration on Human Rights Defenders, Article 6(c), pati rin ang karapatan sa katotohanan tungkol sa mga atrocity ( UN Set of Principles to Combat Impunity). Malinaw na batid ng UN Declaration on the Rights of Indigenous Peoples na ang sapilitang pagtanggal sa mga bata ay maaaring isang marahas na pagkilos at genocide (Article 7, talata 2) at nagbibigay ito ng partikular na proteksyon laban sa sapilitang assimilation at pagsira ng kultura (Article 8, talata 1).

Hinihiling ng Article 19 ng ICCPR na kung saan ang mga paghihigpit sa pagpapahayag ay ipinapataw ng state, dapat nilang matugunan ang mga kinakailangan ng legalidad, lehitimong layunin, at pangangailangan at proporsyonalidad (Article 19, talata 3, ICCPR). Hinikayat ng UN Special Rapporteur sa kalayaan sa pagpapahayag ang mga kumpanya ng social media na magabayan ng mga prinsipyong ito kapag nagmo-moderate ng pagpapahayag online, isinasaalang-alang na ang regulasyon ng pagpapahayag nang malawakan ng mga pribadong kumpanya ay maaaring magresulta sa mga alalahaning partikula sa kontekstong iyon (A/HRC/38/35, talata 45 at 70). Gumamit ang Board ng test na may tatlong bahagi batay sa Article 19 ng ICCPR sa lahat ng desisyon nito hanggang sa kasalukuyan.

I. Legalidad (pagiging malinaw at pagiging naa-access ng mga panuntunan)

Malinaw na pinahihintulutan ng Pamantayan ng Komunidad sa Hate Speech ang content na nagkokondena sa hate speech o nagbibigay ng kaalaman. Sapat na malinaw at maa-acess ng user ang bahagi ng patakarang ito para maunawaan ang mga panuntunan at kumilos nang naaangkop ( Pangkalahatang Komento 34, talata 25). Hinihiling din ng pamantayan sa legalidad na ang mga panuntunang naghihigpit sa pagpapahayag ay dapat “magbigay ng sapat na patnubay sa mga inatasan sa pagpapatupad nito para pahintulutan silang matiyak kung anong uri ng pagpapahayag ang pinaghigpitan nang tama at kung ano ang hindi” ( mula sa parehong pinagkunan) Ang kabiguan ng dalawang moderator na ma-assess nang tama ang paggamit ng mga pagpapahintulot sa patakaran sa content na ito ay isinasaad na maaaring kailanganin ng karagdagang internal na patnubay sa mga moderator.

II. Lehitimong layunin

Ang anumang paghihigpit ng state sa kalayaan sa pagpapahayag ay dapat ipagpatuloy ang isa sa mga lehitimong layuning nakalista sa Article 19, talata 3 ang ICCPR. Sa mga isinumite nito sa Board, regular na ginagamit ng Meta ang mga layunin nito mula sa listahang ito kapag binibigyang-katwiran ang aksyong ginawa nito para mapigilang ang pananalita. Nabatid ng Board noong nakaraan na ang Pamantayan ng Komunidad ng Facebook sa Hate Speech ay ipinagpapatuloy ang lehitimong layunin na protektahan ang mga karapatan ng ibang tao. Kasama sa mga karapatang iyon ang karapatan sa pagkakapantay-pantay at kawalan ng diskriminasyon, kalayaan sa pagpapahayag at ang karapatan sa pisikal na intergridad.

III. Pagiging kinakailangan at proporsyonalidad

Ang malinaw na pagkakamali sa kasong ito ay nangangahulugan na ang pagtanggal ay talagang hindi kinakailangan, na tinanggap naman ng Meta. Nababahala ang Board na ang nasabing malinaw na pagkakamali ay maaaring magpahiwatig ng mas malalim na mga problema ng proporsyonalida sa mga automated at human review na proseso ng Meta. Ang anumang paghihigpit sa kalayaan sa pagpapahayag ay kailangang naaangkop para makamit ang kanilang tungkuling magbigay ng proteksyon at ang mga ito ay kinakailangang ang pinaka hindi nanghihimasok na instrumento sa mga maaaring makamit ang tungkulin nitong magbigay ng proteksyon (Pangkalahatang Comment 34, talata 34). Ang sistema man ng Meta sa pag-moderate ng content ay natutugunan ang mga kinakailangan sa necessity at proporsyonalidad ay umaasa nang malaki sa kung gaano ito kabisa sa pagtanggal ng aktwal na hate speech habang binabawasan ang bilang ng mga maling pag-detect at pagtanggal.

Ang bawat post na tinatanggal nang mali ay nakakasakit sa kalayaan sa pagpapahayag. Nauunawaan ng Board na hindi maiiwasan ang mga pagkakamaling ito, pareho sa mga tao at sa mga machine. Ang hate speech at ang mga tugon dito ay palaging partikular sa konteksto, at hindi palaging malinaw ang mga limitasyon nito. Gayunpaman, ang mga uri ng mga pagkakamali at ang mga tao o komunidad na nagpapasan ng pagdurusa ng mga pagkakamaling iyon ay ipinapakita ang mga solusyon sa mga problema na dapat palaging ma-assess at masuri. Nangangailangan ito ng karagdagang imbestigasyon ng mga mismong naging dahilan ng pagkakamali sa kasong ito, at mas malawak na pagsusuri kung gaano kabisa ang pag-moderate sa counter speech.

Dahil sa kahalagahan ng kritikal na art mula sa mga Indigenous artist sa pagtulong na salungatin ang galit at pang-aapi, inaasahan ng Board sa Meta na maging partikular na sensitibo nito sa posibilidad ng maling pagtanggal ng content sa kasong ito at katulad na content sa Facebook at Instagram. Hindi sapat na masuri ang performance ng pagpapatupad ng Meta sa patakaran ng Facebook sa Hate Speech sa kabuuan. Ang isang sistema na karaniwang maganda ang performance ay posibleng hindi masyadong maging maganda ang performance sa mga subcategory ng content kung saan ang mga maling desisyon ay may partikular na malinaw na epekto sa mga karapatang pantao. Posible na ang mga uri ng pagkakamali na nangyari sa kasong ito ay bihira; gayunpaman, sinabi ng Board na ang mga miyembro ng mga marginalized na grupo ay nagpahayag ng mga alalahanin tungkol sa dami at epekto ng mga maling pagtanggal sa maraming taon. Sa kasong ito, ipinapakita ng mga pagkakamali na kinakailangang ipakita ng Meta na nagsagawa ito ng due diligence sa mga karapatang pantao para matiyak na patas ang pagpapatakbo ng mga sistema nito at hindi palulubhain ang makasaysayan at patuloy na pang-aapi (mga UNGP, Prinsipyo 17).

Regular na sinusuri ng Meta ang accuracy ng mga sistema ng pagpapatupad nito sa pamamahala ng hate speech. Hindi hinati ang pag-assess na ito sa mga pag-assess ng accuracy na partikular na sinusukat ang kakayahan ng Meta na matukoy ang kaibahan ng hate speech sa pinahihintulutang content na nagkokondena sa hate speech o nagbibigay ng kaalaman.

Kasama rin sa mga umiiral na proseso ng Meta ang ad-hoc na mga mekanismo para matukoy ang mga trend ng mali at maimbestigahan ang mga naging dahilan nito, pero nangangailangan ito ng maraming halimbawa ng content kung saan susukatin ang performance ng sistema. Tinanong ng Board kung partikular na na-assess ng Meta ang performance ng mga sistema ng pagsusuri nito sa tamang pagsusuri ng counter speech na nagreresulta sa makasining na pagpapahayag at counter speech na nagbibigay ng kaalaman tungkol sa mga paglabag sa mga karapatang pantao. Sinabi ng Meta sa Board na hindi ito gumawa ng partikular na pananaliksik sa epekto ng mga maling pagtanggal sa makasining na pagpapahayag o sa pagpapahayag mula sa mga taong Indigenous o nagmula rito.

Sinabi ng Meta sa Board ang mga hadlang sa pagsisimula ng mga nasabing pag-assess, kasama ang kakulangan ng sistema para i-automate ang pagtitipon ng halimbawa ng content na magbebenepisyo mula sa mga pagpapahintulot ng patakaran. Ito ay dahil minamarkahan ng mga reviewer ang content bilang lumalabag o hindi lumalabag, at hindi nila kailangang sabihin kung saan nakikibahagi ang hindi lumalabag na content sa pagpapahintulot ng patakaran. Ang halimbawa ng counter speech na umaakma sa pagpapahintulot na ito ay kailangang maayos nang mano-mano.

Bagaman nahikayat ang Board ng antas ng detalyeng ibinigay sa kung paano sinusuri ng Meta ang performance sa isang Question and Answer na session na ginawa ayon sa kahilingan ng Board, malinaw na kinakailangan ng mas maraming investment sa pag-assess ng accuracy ng pagpapatupad ng mga pagpapahintulot ng patakaran sa Hate Speech at matuto mula sa mga trend ng pagkakamali. Kung walang karagdagang impormasyon tungkol sa mga solusyon sa problema ng Meta at ang performance ng mga human at automated system nito, mahirap para sa Board o Meta na ma-assess ang proporsyonalidad ng kasalukuyang pamamaraan ng Meta sa hate speech.

Kapag ina-assess kung kinakailangan at proporsyonal ba ang paggamit ng partikular na mga machine learning tool na ginagamit sa kasong ito para awtomatikong makita ang posibleng hate speech, mahalagang maunawaan ang accuracy ng mga tool na iyon. Ang mga machine learning classifier ay palaging may kasamang mga kompromiso sa pagitan ng dami ng mga false positive at false negative. Mas sensitibo ang isang classifier, mas malamang na matutukoy nito nang tama ang mga instance ng hate speech, pero mas malamang din na ma-flag nito nang mali ang materyal na hindi hate speech. Ang mga sinanay na classifier at iba’t ibang model ay iba-iba sa kanilang utility at bisa para sa iba’t ibang gawain. Para sa anumang partikular na model, maaaring gumamit ng iba’t ibang threshold na nagpapakita ng pagpapasya tungkol sa kaugnay na kahalagahan ng pag-iwas sa mga ganitong uri ng mga pagkakamali. Ang posibilidad at tindi ng mga pagkakamali ay dapat ding bigyan ng kaalaman ang mga desisyon tungkol sa kung paano gagamit ng classifier, kasama na ang kung maaari itong gumawa ng aksyon kaagad o kung kailangan nito ng human approval, at kung anong mga proteksyon ang ginagamit.

Ipinaliwanag ng Meta na ang pinag-uusapang post sa kasong ito ay ipinadala para masuri ng mga automated system nito dahil malamang na magkaroon ito ng malaking audience. Maaaring limitahan ng pamamaraang ito ang pagkalat ng mapaminsalang materyal, pero posible rin nitong dagdagan ang panganib matanggal nang mali ang makapangyarihang sining na sumasalungat sa galit. Sinabi ng Meta sa Baord na regular nitong sinusuri ang dami ng mga false positive sa katagalan, na sinusukat nang ayon sa pangkat ng mga desisyon gn mga ekspertong reviewer. Sinabi rin ng Meta na posibleng ma-assess ang accuracy ng mga partikular na modelo ng machine learning na may kaugnayan sa kasong ito at pinapanatili nito nang hindi bababa sa 90 araw ang impormasyon tungkol sa mga prediksyon ng mga classifier nito. Humingi ng impormasyon ang Board na magpapahintulot sa aming masuri ang performance ng classifier at ang pagiging angkop ng mga limitasyong ginamit ng Meta sa kasong ito. Sinabi ng Meta sa Board na hindi nito maibibigay sa Board ang impormasyong hiningi nito dahil wala itong sapat na oras para makapaghanda para rito. Gayunpaman, sinabi ng Meta na isinasaalang-alang nito ang feasibility ng pagbibigay ng impormasyong ito sa mga darating na kaso.

Ang human review ay maaaring magbigay ng dalawang mahalagang proteksyon sa pagpapatakbo ng mga classifier ng Meta: una bago tanggalin ang post, at muli, kapag inapela ito. Isinasaad ng mga pagkakamali sa kasong ito na posibleng hindi sapat ang patnubay ng Meta sa mga moderator na nag-a-assess ng counter speech. Maraming dahilan na maaari itong nag-ambag sa dalawang beses na pagkakamali ng mga human moderator sa desisyon sa kasong ito. Nababahala ang Board na maaaring walang sapat na mga resource ang mga reviewer pagdating sa oras o training para maiwasan ang uri ng pagkakamaling nakita sa kasong ito, lalo na kaugnay sa content na pinahihintulutan sa ilalim ng mga pagpapahintulot ng patakaran (kasama ang, halimbawa, “pagkondena” sa hate speech at “pagbibigay ng kaalaman”).

Sa kasong ito, ang parehong mga reviewer ay nasa Asia-Pacific region. Hindi nasabi ng Meta sa Board kung ang mga accuracy rate ng reviewer ay iba sa mga moderator na nag-a-assess ng posibleng hate speech na wala sa lokasyon kung saan nagmula ang content. Sinabi ng Board ang pagiging masalimuot ng pag-assess ng hate speech, at ang kahirapang maunawaan ang lokal na konteksto at kasaysayan, lalo na kung isasaalang-alang ang dami ng content na sinusuri ng mga moderator bawat araw. Posibleng wala masyadong karanasan ang mga moderator na nag-assess ng content sa kasong ito tungkol sa pang-aapi ng mga Indigenous na tao sa North America. Dapat kasama sa patnubay ang malinaw na instruksyon para masuri ang buong content at suportahan ang mga moderator nang mas tama sa pag-assess ng konteksto para malaman ang katunayan ng layunin at kahulugan.

Inirekomenda ng Board sa desisyon nito sa Two Buttons Meme ( 2021-005-FB-UA) na pinapayagan ng Meta ang mga user na sabihin sa kanilang apela na ang kanilang content ay kabilang sa isa sa mga pagpapahintulot na nasa Pamantayan ng Komunidad ng Facebook sa Hate Speech. Sa kasalukuyan, kapag umapela ang user sa isa sa mga desisyon ng Meta na sumasailalim sa human review, hindi sinasabi sa reviewer na tumutol ang user sa naunang desisyon at hindi nito alam ang resulta ng naunang pagsusuri. Samantala, sinabi ng Meta sa Board na naniniwala itong magiging bias ang impormasyong ito sa pagsusuri, interesado ang Board sa kung maaaring dagdagan ng impormasyong ito ang posibilidad ng paggawa ng desisyon na mas maraming pagkakaiba. Ito ay tanong na maaaring subukan ng Meta sa pamamagitan ng obserbasyon; makakatulong ang mga resulta ng mga nasabing test na iyon sa pagsusuri ng proporsyonalidad ng mga partikular na hakbang na piniling gamitin ng Meta.

Sa ilalim ng mga UNGP, may responsibilidad ang Meta na magsagawa ng due diligence sa mga karapatang pantao (Prinsipyo 17). Dapat kasama rito ang pagtukoy sa anumang hindi magandang mga epekto ng pag-moderate ng content sa makasining na pagpapahayag at ang pulitikal na pagpapahayag ng mga Indigenous na tao sa pagsalungat sa diskriminasyon. Dapat higit pang tukuyin ng Meta kung paano nito maiiwasan, mapipigilan at pananagutan ang mga pagsusumikap nito para matugunan ang mga hindi magandang epekto na iyon. Nakatuon ang Board sa pag-monitor ng performance ng Meta at inaasahan nitong makita ang kumpanya na bigyan ng prayoridad ang mga panganib sa mga marginalized na grupo at ipakita ang katunayan para sa patuloy na pagpapahusay.

9.Desisyon ng Oversight Board

Binaliktad ng Oversight Board ang orihinal na desisyon ng Meta na tanggalin ang content.

10. Pahayag ng policy advisory

Pagpapatupad

1. Bigyan nito ang mga user ng napapanahon at tamang abiso tungkol sa aksyong ginawa ng kumpanya sa content na may kaugnayan sa kanilang apela. Kung saan naaangkop, kasama ang mga kaso ng pagkakamali sa pagpapatupad na tulad nito, dapat kilalanin ng abiso sa user na ang aksyon ay dahil sa proseso ng pagsusuri ng Oversight Board. Dapat ibahagi ng Meta ang ipinadalang mensahe ng user kapag nakakaapekto ang mga aksyon ng Board sa mga desisyon sa content na inapela ng mga user, para ipakita na sinunod nito ang rekomendasyon ng Board. Dapat gawin ang mga aksyong ito kaugnay sa lahat ng kaso na itinama sa yugto ng pagiging kwalipikado sa proseso ng Board.

2. Pag-aralan ang mga epekto ng mga binagong pamamaraan sa pangalawang review sa accuracy ng reviewer at kalalabasan nito. Bilang partikular, humihiling ang Board ng pagsusuri ng mga accuracy rate kapag sinabi sa mga moderator ng content na kasali sila sa pangalawang review, para alam nila na tinutulan ang inisyal na pasya. Dapat kasama sa pagsubok na ito ang pagkakataon para makapagbigay ang mga user ng may kaugnayang konteksto na maaaring makatulong sa mga reviewer na masuri ang kanilang content, nang alinsunod sa mga nakaraang rekomendasyon ng Board. Dapat ibahagi ng Meta ang mga resulta ng mga pag-assess ng accuracy na ito sa Board at ibuod ang mga resulta sa quarterly transparency report nito sa Board para maipakita na sinunod nito ang rekomendasyon na ito.

3. Magsagawa ng pag-assess ng accuracy na nakatuon sa mga pinahihintulutan ng patakaran sa Hate Speech na sumasaklaw sa makasining na pagpapahayag at pagpapahayag tungkol sa mga paglabag ng mga karapatang pantao (halimbawa, pagkondena, pagbibigay ng kaalaman, paggamit na tumutukoy sa sarili, paggamit para magbigay ng kakayahan). Dapat ding paritkular na imbestigahan ng pag-assess na ito kung paano nakakaapekto ang lokasyon ng reviewer sa kakayahan ng mga moderator na ma-assess nang tama ang hate speech at counter speech mula sa pareho o magkaibang rehiyon. Nauunawaan ng Board na malamang na mangailangan ang pagsusuring ito ng pagbuo ng halimbawa nang may kaugnayang content na naaangkop at tama ang label. Dapat ibahagi ng Meta sa Board ang mga resulta ng pag-assess na ito, kasama ang kung paano ipapaalam ng mga resultang ito ang mga pagpapahusay sa mga pagpapatakbo ng pagpapatupad at pagbuo ng patakaran at kung pinaplano nitong gumawa ng mga regular na pag-assess sa accuracy ng reviewer sa mga pagpapahintulot na ito, at ibuod ang mga resulta sa quarterly transparency repot nito sa Board para ipakita na sinunod nito ang rekomendasyon ng Board.

*Note sa pamamaraan:

Ang mga desisyon ng Oversight Board ay inihanda ng mga panel na may limang Miyembro at inaprubahan ng majority ng Board. Hindi kinakailangang kumatawan ang mga desisyon ng Board sa mga personal na pananaw ng lahat ng Miyembro.

Para sa desisyon sa kasong ito, gumawa ng independent research sa ngalan ng Board. Isang independent research institute na naka-headquarter sa Unibersidad ng Gothenburg at bumubuo ng isang team ng may mahigit sa 50 social scientist sa anim na kontinente, pati na rin ang mahigit sa 3,200 eksperto sa bansa mula sa buong mundo at mga Duco Adviser, isang advisory firm na nakatuon sa pagsasama-sama ng geopolitics, tiwala at kaligtasan, at teknolohiya, ang nagbigay ng expertise sa kontekstong socio-political at kultural.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें