Overturned
貝殼織帶
December 9, 2021
監察委員會推翻了 Meta 根據 Facebook《社群守則》仇恨言論相關規定，將一則北美原住民藝術家的 Facebook 貼文移除的原處置。
案例摘要
注意：2021 年 10 月 28 日，Facebook 宣佈將該公司更名為 Meta。在本文中，Meta 係指該公司，Facebook 則繼續指稱該產品和該特定應用程式的相關政策。
監察委員會推翻了 Meta 根據 Facebook《社群守則》仇恨言論相關規定，將一則北美原住民藝術家的 Facebook 貼文移除的原處置。監察委員會認為，該內容旨在讓大眾瞭解北美原住民過去曾遭受的暴行，因此屬於仇恨言論政策的允許情形。
關於本案例
2021 年 8 月，一名 Facebook 用戶發佈了一張貝殼織帶（wampum belt）的圖片，隨附有英文文字說明。貝殼織帶係將貝殼串織成圖像，以記錄歷史故事和協議，是北美原住民的一種藝術形式。用戶表示本案例織帶上一系列圖像的靈感來自「甘露市的一起新聞事件」，也就是指 2021 年 5 月在加拿大卑詩省一所前原住民兒童寄宿學校中發現的無名塚。
貼文文字指出該藝術作品的名稱為「Kill the Indian／Save the Man」（殺死印地安魂／拯救人類），並表明創作者即為該用戶。該用戶對織帶上一系列圖像的說明如下：「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home」（竊取無辜生命，冒充救贖者的魔鬼，寄宿學校／集中營，等待發現，帶我們的孩子回家）。在該貼文中，用戶說明了其藝術作品的含意，以及貝殼織帶的歷史和其發文目的在於教育民眾。該用戶表示創作該織帶的過程不容易，傳達在甘露市發生的歷史事件更是讓他情緒激動。對於此藝術作品可能對甘露市事件的倖存者引起的任何痛苦，該用戶致上歉意，並表示其「sole purpose is to bring awareness to this horrific story」（唯一的目的就是讓大家能瞭解這段恐怖的歷史）。
該內容發佈隔天，Meta 的自動化系統認為該內容可能違反 Facebook《社群守則》的仇恨言論相關規定。同一天，審查人員評估內容後，判定內容違規並將其移除。該用戶針對此處置向 Meta 提出申訴，第二次人工審查仍判定該內容違反規定。該內容遭移除時，瀏覽次數已超過 4,000 次，分享次數超過 50 次，沒有用戶檢舉該內容。
監察委員會選擇審查本案例後，Meta 將該移除處置認定為「政策執行錯誤」，並於 8 月 27 日恢復顯示該內容。然而，Meta 直到 9 月 30 日，即監察委員會要求 Meta 提供向該用戶發送之通知訊息的兩天後，才通知該用戶已恢復顯示該內容。據 Meta 說明，延遲發送通知是人為錯誤所造成。
重要審查結果
Meta 同意，原先移除該內容的處置違反了 Facebook《社群守則》，是一項「政策執行錯誤」。監察委員會認為，該內容很明顯是「反仇恨言論」的例子，透過引用仇恨言論來抵抗壓迫和歧視。
Facebook 仇恨言論政策的簡介提到，若用戶清楚說明其反仇恨言論的意圖，其內容則屬於允許範圍。本案例的貼文內容明顯不屬於仇恨言論。該藝術作品傳達了在甘露市發生的歷史事件，隨附的敘述則說明其重要意義。雖然單獨來看，「Kill the Indian」（殺死印地安魂）等字眼可構成仇恨言論，但在本案例的背景下，此說法實為吸引注意及譴責特定仇恨和歧視行為。
監察委員會援引了關於引述納粹官員的案例裁決 2020-005-FB-UA。該案例提供了類似的經驗，說明用戶意圖可透過直接表述以外的指標來評估，例如引述的內容和含意、發文的時機和國家／地區，以及主要的貼文心情和留言。
監察委員會認為，在本案例中，無須用戶明確表示其貼文目的為引起他人關注，即可看出該貼文為反仇恨言論。監察委員會注意到，Meta 提供給審查人員的內部「已知問題」指出，清楚陳述意圖並不一定足以改變可構成仇恨言論的貼文含意。審查人員應根據內容做出推論來評估用戶意圖，而非僅依賴明確表述。
兩位不同的審查人員皆判定本案例的貼文構成仇恨言論，Meta 無法具體說明為何這樣的錯誤會發生兩次。
監察委員會的裁決
監察委員會推翻 Meta 撤除內容的原處置。
監察委員會在政策諮詢聲明中，對 Meta 提出以下建議：
- 若該公司對申訴內容做出任何相關處置，應及時向用戶提供清楚的通知。在適用情況下（包括類似本案例的政策執行錯誤情況），Meta 應在提供給用戶的通知中，說明是因為監察委員會的審查程序才採取此相關處置。
- 讓內容審查人員知道自己進行的是第二次審查，使其瞭解用戶對原處置提出異議，以研究這對審查人員準確度有何影響。
- 就仇恨言論政策允許情形（例如譴責、引起他人關注、用於反串他人、用於加強訴求）所涵蓋之藝術表達和人權侵犯相關言論表達，進行審查人員準確度評估。此評估亦應特別調查，對於來自相同或不同地區的仇恨言論和反仇恨言論，審查人員所在位置對其能否準確評估會有何影響。Meta 應向監察委員會分享評估結果，包括此等結果將如何協助改善政策執行及制定方式，以及 Meta 是否規劃就允許情形定期評估審查人員準確度。監察委員會亦呼籲，Meta 應在關於監察委員會的季度資訊透明度報告中，公開分享此類評估結果的摘要，以證明該公司遵循此項建議。
*案例摘要僅就案例提供總覽，不具有任何先例價值。
完整案例裁決內容
1.裁決摘要
監察委員會推翻 Meta 將一則北美原住民藝術家貼文移除的原處置，該貼文包含一件藝術作品的圖片和名稱，且該名稱引用了歷史上的仇恨言論。Meta 同意，該貼文的意圖明確為引起他人關注歷史上針對北美原住民的暴行，因此屬於 Facebook《社群守則》仇恨言論相關規定的允許情形之一。
2.案例說明
2021 年 8 月初，一名 Facebook 用戶發佈了一張貝殼織帶的圖片，隨附有英文文字說明。貝殼織帶係將貝殼串織成圖像，以記錄歷史故事和協議，是北美原住民的一種藝術形式。用戶表示本案例織帶上一系列圖像的靈感來自「甘露市的一起新聞事件」，也就是指 2021 年 5 月在加拿大卑詩省一所前原住民兒童寄宿學校中發現的無名塚。
貼文文字指出該藝術作品的名稱為「Kill the Indian／Save the Man」（殺死印地安魂／拯救人類），並表明創作者即為該用戶。接著該用戶附上一串字句，以呼應織帶上描繪的一系列圖像：「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home」（竊取無辜生命，冒充救贖者的魔鬼，寄宿學校／集中營，等待發現，帶我們的孩子回家）。在該貼文中，用戶說明了其藝術作品的含意，以及貝殼織帶的歷史和其發文目的在於教育民眾。該用戶表示創作該織帶的過程不容易，傳達在甘露市發生的歷史事件更是讓他情緒非常激動。該用戶接著表示，這段歷史不應再被大眾所遺忘，並希望該織帶可防止這樣的情況發生。在貼文最後，該用戶針對該藝術作品可能引起的任何痛苦，向寄宿學校體系的倖存者致上歉意，並表示其「sole purpose is to bring awareness to this horrific story」（唯一的目的就是讓大家能瞭解這段恐怖的歷史）。
該內容發佈隔天，Meta 的自動化系統認為該內容可能違反 Facebook《社群守則》對仇恨言論的規定。同一天，審查人員評估內容後，判定內容違規並將其移除。該用戶針對此處置向 Meta 提出申訴，第二次人工審查仍判定該內容違反規定。該內容遭移除時，瀏覽次數已超過 4,000 次，分享次數超過 50 次，沒有用戶檢舉該內容。監察委員會選擇審查本案例後，Meta 將該移除處置認定為「政策執行錯誤」，並於 8 月 27 日恢復顯示該內容。然而，Meta 直到 9 月 30 日，即監察委員會要求 Meta 提供向該用戶發送之通知訊息的兩天後，才通知該用戶已恢復顯示該內容。據 Meta 說明，延遲發送通知是人為錯誤所造成。該通知並未告訴用戶，是因為該用戶向監察委員會提出申訴，且監察委員會選擇審查本案例，Meta 才恢復顯示該內容。
一則美國印地安事務協會（Association on American Indian Affairs）提交的公眾評論（公眾評論 10208）指出，該藝術作品名稱引用的句子係出自在美國設立第一所聯邦印地安寄宿學校的軍官 Richard Henry Pratt。該引言總結了成立寄宿學校背後的政策，是為了強迫「教化」原住民並「根除印地安文化的所有遺毒」。類似的政策也曾於加拿大實施，根據加拿大真相和解委員會（Truth and Reconciliation Commission of Canada）的調查，這類政策甚至達到文化種族滅絕的程度。
該用戶所提及之在「甘露市」發生的事件，是指甘露市的印地安寄宿學校，即位於加拿大卑詩省的前第一民族兒童寄宿學校。2021 年 5 月，Tk’emlúps te Secwépemc 第一民族領導人宣佈在甘露市發現了無名塚。經主管機關確認，該區域共有 200 個可能的墓地。
加拿大政府估計，在 1997 年最後一所寄宿學校關閉之前，至少有 150,000 名原住民孩童在寄宿學校體系受過教育。原住民孩童通常是被迫帶離家庭，且不得在任何方面展現出原住民文化。這些寄宿學校會濫用嚴厲的體罰，教職員亦曾對許多學生施行性虐待和嚴重暴力，或容許該等行為。學生營養不良，學校暖氣不足又十分髒亂，再加上缺乏醫療照護，許多學生都死於肺結核和其他疾病。真相和解委員會認為，至少有 4,100 名學生於就學期間死亡，其中許多學生是死於不當對待或缺乏照顧，其他則死於疾病或意外。
3.相關職權及其涵蓋範圍
內容遭移除的用戶向監察委員會提出申訴後，監察委員會有權審查 Meta 的處置（章程第二條第 1 節；規章制度第三條第 1 節）。監察委員會得維持或推翻 Meta 的處置，且監察委員會的裁決對 Meta 具有約束力（章程第四條；第三條第 5 節）。監察委員會的裁決可包含提供建議的政策諮詢聲明，雖不具約束力，但 Meta 必須提出回應（章程第四條；第三條第 4 節）。
若發生像本案例的情形，在監察委員會選擇審查案例後，Meta 即同意其處置有誤，監察委員會則會審查原先的處置，以協助增進瞭解出錯的原因，並提出觀察或建議事項，以協助減少錯誤和加強正當程序。監察委員會在做出關於乳癌症狀和裸露的裁決後（2020-004-IG-UA，第 3 節），採取了一項程序，讓 Meta 在審查小組收到案例之前，先找出任何政策執行錯誤（詳見：資訊透明度報告第 30 頁）。在此類案例中，若 Meta 提出的理由完全聚焦於修正後的處置，針對用戶內容本應受到的處置提供說明，並呼籲監察委員會維持該公司的「最終」處置，則助益不大。監察委員會建議，Meta 除了說明遭用戶申訴的原處置為何有誤，也應說明出錯緣由，以及該公司的內部審查程序未能找出或更正該錯誤的原因。監察委員會將根據用戶申訴的原處置，繼續進行審查。
4.適用法規
監察委員會進行裁決時，考量的標準如下：
I.Facebook《社群守則》：
Facebook《社群守則》對仇恨言論的定義為：「針對他人的種族、民族、國籍、宗教信仰、性傾向、種姓、性別、性別認同、重大疾病或身心障礙等所謂受保護的特徵進行直接攻擊。」根據「等級 1」一節，禁止內容包括「以文字或影像表達暴力言論或支持暴力」的內容。《社群守則》亦包含允許情形，以區分未違規的內容：
我們注意到，用戶有時會分享包含他人仇恨言論的內容，以進行譴責，或是引起他人對該言論的關注。在其他情況下，用戶能夠以自我指涉或鼓舞他人的方式使用可能違反我們守則的言論。我們的政策允許有發佈此類言論的空間，但我們也要求用戶必須清楚指出他們的意圖。如果意圖不明確，我們可能會移除該內容。
II.Meta 秉持的理念：
Facebook《社群守則》的簡介闡明了 Meta 的理念，其中保障用戶的「言論自由」是 Facebook 最重視的理念：
我們制定《社群守則》，一直都是以打造自由表達的平台，讓用戶盡情發聲為目標。[……] 我們希望用戶可以公開討論自己重視的議題，即使有人不認同或反對也不會阻礙用戶表達意見。
Meta 認為「言論自由」在涉及四項理念時應有所限制，而本案例涉及其中兩項理念：
「安全性」：我們力求維護 Facebook 的安全環境。威嚇他人的言論可能會使對方覺得受到威脅、排擠或不敢表達意見，因此 Facebook 不允許出現這類內容。
「尊嚴」：我們認為每個人都享有同等的尊嚴和權利，也期望用戶能尊重他人的尊嚴，不騷擾或貶低其他用戶。
III.人權標準：
聯合國人權理事會於 2011 年通過的《聯合國工商企業與人權指導原則》（UN Guiding Principles on Business and Human Rights，UNGPs），為私人企業的人權責任建置了自願性架構。2021 年，Meta 宣佈《企業人權政策》，此政策重申該公司依循 UNGPs 尊重人權的承諾。監察委員會依據下列人權標準，分析 Meta 在本案例的人權責任：
- 表達自由：《公民與政治權利國際公約》（ICCPR）第 19 條；人權事務委員會第 34 號一般性意見（2011 年）；《消除一切形式種族歧視國際公約》（ICERD）第 5 條；聯合國仇恨言論特別報告員所提交的專題報告：A/74/486（2019 年）；聯合國網路內容審核特別報告員所提交的專題報告：A/HRC/38/35（2018 年）。
- 平等和無歧視：ICCPR 第 2 條第 1 項和第 26 條；ICERD 第 2 條；消除種族歧視委員會第 35 號一般性建議（2013 年）。
- 文化權利：ICCPR 第 27 條；《經濟、社會暨文化權利國際公約》（International Covenant on Economic, Social and Cultural Rights，ICESCR）第 15 條；聯合國文化權利領域特別報告員針對藝術自由和創意所提交的專題報告：A/HRC/23/34（2013 年）。
- 原住民族權利：聯合國《原住民族權利宣言》（UN Declaration on the Rights of Indigenous People）第 7 條第 2 項、第 8 條第 1 項，以及第 19 條。
5.用戶陳述
該用戶在提交給監察委員會的申訴中，表示其貼文旨在展示一件記錄歷史的傳統藝術作品，與仇恨言論無關。該用戶進一步指出這段歷史「needed to be seen」（需要被看見），並針對 Meta 移除貼文的處置表示「this is censorship」（這就是思想審查）。
6.Meta 的處置說明
Meta 告訴監察委員會，根據 Facebook《社群守則》仇恨言論相關規定中禁止針對用戶的受保護特徵（包括種族或民族）使用「暴力言論」的規定，「Kill the Indian」（殺死印地安魂）此用語構成等級 1 的攻擊。然而，該政策允許用戶分享他人的仇恨言論以「進行譴責或引起他人關注」，因此 Meta 承認移除該內容的處置有誤。Meta 指出，該用戶在貼文中表示，其目的是為了吸引大眾瞭解在甘露市發生的恐怖歷史。
Meta 表示，「Kill the Indian／Save the Man」（殺死印地安魂／拯救人類）此用語源自強制同化原住民孩童的政策。該用戶在吸引大眾關注甘露市事件的同時，亦可引起透過寄宿學校實施強制同化政策的關注。對於監察委員會的提問，Meta 在回應中說明，內容審查人員無須瞭解這段歷史，也能正確執行政策。該用戶的貼文表示其目的為引起他人關注這段恐怖歷史，因此審查人員可合理認為，該貼文旨在引起他人關注貼文中引述的仇恨言論。
Meta 告訴監察委員會，沒有用戶檢舉本案例的內容。Meta 使用的機器學習分類器經過訓練，可自動偵測可能違反 Facebook《社群守則》的內容。在本案例中，有兩個分類器自動判斷該貼文可能為仇恨言論。第一個分類器分析了內容，但並不非常肯定該貼文是否違反《社群守則》，但另一個分類器根據一系列背景資訊的訊號，判定該貼文可能會被廣泛分享並觸及許多用戶。由於仇恨言論若經廣泛散佈，可能會造成傷害，因此 Meta 的系統自動將該貼文送交人工審查。
對於監察委員會的提問，Meta 在回應中說明，是一位住在亞太地區的審查人員將該貼文判定為仇恨言論，並將其從平台移除。該用戶對此提出申訴，第二位住在亞太地區的審查人員審查後，亦判定該內容為仇恨言論。Meta 向監察委員會確認，兩位審查人員均未記錄其內容處置的判斷理由。
7.第三方提交的資料
監察委員會將八則與本案例相關的公眾評論納入考量：四則來自美國和加拿大，兩則來自歐洲，一則來自撒哈拉以南非洲，一則來自亞太地區和大洋洲。提交資料討論到的主題包括：該用戶藝術作品名稱所引用名言的意義、北美寄宿學校用途的背景資訊，以及 Meta 內容審查如何影響藝術自由和具有原住民身分或血統之用戶的表達權利。
若要閱讀此案例的相關公眾評論，請點擊這裡。
8.監察委員會分析
監察委員會從以下三方面評估是否應恢復顯示內容：Facebook《社群守則》、Meta 秉持的理念，以及 Meta 的人權責任。
8.1 遵循《社群守則》
Meta 同意，原先移除該內容的處置違反了 Facebook《社群守則》，是一項「政策執行錯誤」。監察委員會認為，本案例內容明顯並非仇恨言論。該內容很明確是「反仇恨言論」的例子，透過引用或重新挪用仇恨言論，來抵抗壓迫和歧視。
在 Facebook《社群守則》對仇恨言論的規定中，明確允許「包含他人的仇恨言論，以進行譴責或引起他人關注的內容」，兩位不同的審查人員卻都判定該貼文構成仇恨言論。Meta 無法具體說明為何像這樣的錯誤竟會發生兩次。
在關於引用納粹名言的案例（2020-005-FB-UA）中，監察委員會曾指出，要理解引述的含意，使用該引句的背景是關鍵。在該案例中，引述的內容和含意、發文的時機和國家／地區，以及主要的貼文心情和留言均清楚顯示，該用戶並非意圖讚揚特定的仇恨人物。
監察委員會認為，要清楚判斷貼文的意圖和含意，並不一定要用戶明確表示其目的是為吸引他人關注。本案例圖片中的藝術作品傳達了在甘露市發生的歷史，隨附敘述也說明了其重要意義。雖然單獨來看，「Kill the Indian」（殺死印地安魂）等字眼可構成仇恨言論，但若整體評估該內容，則可清楚判斷此用語係用於引起他人關注，以及譴責仇恨和歧視行為。該內容使用引號來突顯該作品名稱中的仇恨用語，其完整名稱為「『Kill the Indian／Save the Man』」（「殺死印地安魂／拯救人類」），這應可讓審查人員停下來對此深入探究。從該用戶講述甘露市歷史和說明貝殼織帶之文化意義的方式，可清楚看出該用戶認同的是歧視和暴力行為下的受害者，而非加害者。該用戶的敘述明顯是在譴責在甘露市發現的歷史事件，貼文的留言和心情亦清楚顯示，受眾都能理解該用戶的用意在於譴責和引起他人關注。
監察委員會注意到，Facebook 在提供給審查人員的「已知問題」內部指引中指示，若用戶意圖不明確，保險起見，審查人員應移除包含仇恨言論的內容。「已知問題」亦指出，清楚陳述意圖並不一定足以改變可構成仇恨言論的貼文含意。對於如何正確辨別禁止的仇恨言論，以及引述仇恨言論以進行譴責或引起他人關注的反仇恨言論，此內部指引提供給審查人員的指示相當有限。就監察委員會的瞭解，對於政策允許可引述／使用仇恨言論或討論人權侵犯行為的藝術內容，要如何評估可證明其意圖的證據，目前並沒有明確指引。
8.2 遵循 Meta 秉持的理念
監察委員會認為，原先移除內容的處置與 Meta 秉持的「言論自由」和「尊嚴」理念不一致，亦不符合「安全性」理念。儘管限制仇恨言論在平台上散佈與 Meta 秉持的理念一致，但監察委員會擔憂，對於被邊緣化或歧視的用戶，Meta 的內容審查程序無法正確辨別和保護他們透過反仇恨言論表達自我的能力。
Meta 曾承諾支持反仇恨言論：
作為社群、社交平台和累積人類共同經驗的空間，Facebook 支持重要的言論反制計畫，並透過執行有力的內容政策，以及與當地社群、決策者、專家和改革者攜手合作，在全球各地推廣言論反制計畫。
Meta 主張「言論自由」是該公司最重視的理念。透過藝術作品描繪過去的恐怖暴行，並教育人們相關暴行的深遠影響，即是展現「言論自由」理念最重要、最有力的方式之一，對於試圖表達自身文化、奮力抗爭以確保自身歷史為世人看見的弱勢族群而言更是如此。反仇恨言論不僅是「言論自由」的展現，也是一項重要工具，可讓被仇恨言論針對的用戶保護自身尊嚴，以及抵抗壓迫、歧視和貶低行為。Meta 必須確保其內容政策和審查作法均將此表達形式納入考量並加以保護。
當用戶在試圖引起他人關注大規模暴行時，卻被告知其言論為仇恨言論而遭到查禁，這對其尊嚴不啻為一種侮辱。這樣的指控也可能導致用戶進行自我審查，尤其在提出申訴後 Meta 仍確認該指控，則更是如此。
8.3 遵循 Meta 的人權責任
監察委員會認為，移除該貼文的處置違反了 Meta 的企業人權責任。Meta 曾承諾該公司會依據《聯合國工商企業與人權指導原則》（UNGPs）尊重人權。該公司的《企業人權政策》表示此政策亦包含《公民與政治權利國際公約》（ICCPR）。
本案例是監察委員會首次審理關於藝術表達的案例，亦是言論表達相關案例中，首次有用戶的自我認同為原住民。在監察委員會選擇審查的案例中，本案例也是用戶嘗試吸引他人關注重大侵犯人權行為的案例之一。
表達自由（ICCPR 第 19 條）
國際人權標準強調政治表達的價值（人權事務委員會第 34 號一般性意見第 38 項）。ICCPR 第 19 條第 2 項闡明了此權利的保護範圍，其中特別提及「藝術形式」的表達。《消除一切形式種族歧視國際公約》（ICERD）也保障行使表達自由權時應不受歧視（第 5 條），負責監管各國遵守公約的委員會亦強調，表達自由權的重要性在於協助「易受攻擊的群體在社會組成各方面獲得平等地位」，以及在相關討論中提供「另類觀點和相反意見」（消除種族歧視委員會第 35 號一般性建議第 29 項）。
藝術經常涉及政治，國際標準也承認，此溝通形式在挑戰現狀方面可發揮獨特的強大作用（聯合國文化權利領域特別報告員所提交的專題報告：A/HRC/23/34 第 3-4 項）。對藝術家而言，網際網路──尤其是 Facebook 和 Instagram 等社群媒體平台──具有拓展和觸及大量新受眾的特殊價值。對於主導著網際網路的社群平台，能在這些平台上發聲可能關乎他們的生計。
所有人的表達自由權均應獲得保障，不受歧視（ICCPR 第 19 條第 2 項）。監察委員會收到的提交資料指出，若國家採取的法律或管制措施會對原住民社群造成影響，國家須保障原住民自由、事先、知情的同意權；同理，Meta 制定內容政策時，也有責任諮詢原住民社群（公眾評論-10240，少數民族權利團體；另請參閱聯合國《原住民族權利宣言》第 19 條）。聯合國意見表達自由特別報告員在論及社群媒體平台的責任時，也提出類似的主張（A/HRC/38/35 第 54 項）。
本案例的內容還涉及其他許多權利，包括在國籍、民族或語言方面屬於少數的族群可在其他群體成員的社群中享受自身文化的權利（ICCPR 第 27 條），以及參與文化生活和享受藝術的權利（ICESCR 第 15 條）。根據聯合國《人權捍衛者宣言》（UN Declaration on Human Rights Defenders）第 6（c）條，以及瞭解暴行相關真相的權利（聯合國《打擊有罪不罰現象的一套原則》（UN Set of Principles to Combat Impunity）），該用戶嘗試記錄和吸引他人關注人權侵犯暴行和相關後續影響的貝殼織帶藝術創作應受到保障。聯合國《原住民族權利宣言》明確認定，將孩童強制遷移至其他成長環境屬於暴力和種族滅絕行為（第 7 條第 2 項），同時也針對強制同化和文化滅絕提供特定保護（第 8 條第 1 項）。
ICCPR 第 19 條規定，若國家要限制表達自由，必須於法有據、追求正當目的、具有必要性且符合比例原則（ICCPR 第 19 條第 3 項）。聯合國意見表達自由特別報告員曾呼籲社群媒體公司在管理網路言論表達時應遵循上述原則，並指出私人企業若大規模管制言論表達，可能會因相關背景引發疑慮（A/HRC/38/35 第 45 和 70 項）。迄今為止，監察委員會的所有裁決，均是依照 ICCPR 第 19 條的三項原則進行驗證。
I.合法性（規則具備清楚易懂的特性）
Facebook《社群守則》的仇恨言論相關規定中，明確允許譴責仇恨言論或引起他人關注的內容。此部分的政策清楚易懂，可讓用戶充分理解和遵循規定（第 34 號一般性意見第 25 項）。合法性標準亦規定，限制言論表達的規則必須「為負責執行政策者提供充分的指引，使其能夠確定哪些類型的意見表達適合加以限制，哪些類型不適合」（同上）。兩位審查人員都未能正確評估本案例的內容適用於政策允許情形，顯示出 Meta 可能必須進一步向審查人員提供內部指引。
II.追求正當目的
任何針對表達自由的國家限制措施，皆必須追求 ICCPR 第 19 條第 3 項所列的任一正當目的。在 Meta 向監察委員會提交的資料中，Meta 為了證明限制言論表達的處置合理，經常援引該清單所列的正當目的。監察委員會先前已認可，Facebook《社群守則》對仇恨言論的規定符合「保護他人權利」的正當目的。該等權利包括不受歧視的平等權、表達自由和身體完整權。
III.具有必要性和符合比例原則
本案例出現明顯錯誤，即表示該移除處置顯然不具有必要性，對此 Meta 已表示接受。監察委員會擔憂的是，此明確錯誤可能表示，就比例原則而言，Meta 的自動化和人工審查程序存在更深層的問題。任何限制表達自由的措施皆須「適合用來實現保護功能」，且必須是可用來實現保護功能的諸種手段中「侵犯性最小」的一個（第 34 號一般性意見第 34 項）。若要判斷 Meta 的內容審查系統是否遵守具有必要性和符合比例原則的要求，主要依據為該系統移除真正仇恨言論的效能，以及是否可降低發生偵測和移除錯誤的次數。
錯誤移除任一則貼文，均會對表達自由造成傷害。監察委員會理解，無論人類或機器都難免會出錯。仇恨言論和相關回應一律必須根據背景資訊來考量，且判定的界線有時可能並不明確。然而，錯誤的類型和承擔出錯後果的用戶或社群，反映出有必要持續評估和檢驗相關決策設計，而這需要進一步釐清本案例出錯的根本原因，並針對如何有效審查反仇恨言論進行更廣泛的評估。
由於原住民藝術家的批判藝術具有協助對抗仇恨和壓迫的重要性，監察委員會期許 Meta 能對錯誤移除本案例內容和在 Facebook 和 Instagram 上的類似內容的可能性特別留意。對 Meta 執行 Facebook 仇恨言論政策的成效進行整體評估，還不足以解決問題。就算系統的平均成效良好，處理子類別內容時也可能成效不佳，而該錯誤處置可能對人權造成尤其顯著的影響。本案例中的錯誤類型可能並不多見，但監察委員會注意到，弱勢群體成員針對錯誤移除率和其影響提出擔憂已有多年。本案例的錯誤反映出，Meta 有責任證明該公司已進行人權盡職調查，以確保系統公平運作，不會使過去和現在仍持續發生的壓迫行為更加嚴重（UNGPs 指導原則 17）。
Meta 固定有在評估其政策執行系統在處理仇恨言論時的準確度，但此評估並未針對準確度的評估項目做細分，以具體衡量 Meta 對於仇恨言論和譴責仇恨言論或引起關注之允許內容的辨別能力。
Meta 現有的程序亦包含特定機制，可辨認錯誤趨勢和調查出錯的根本原因，但這必須取得大量內容範例，才可衡量系統成效。監察委員會詢問 Meta，對於構成藝術表達和引起他人關注人權侵犯行為的反仇恨言論，該公司是否曾在評估審查系統成效時，特別評估該等內容的判定準確度。Meta 告訴監察委員會，對於誤將內容移除對藝術表達或具有原住民身分或血統之用戶的言論表達有何影響，該公司並未對此進行特定研究。
Meta 已向監察委員會說明展開此類評估的困難，包括缺乏能將受益於政策允許情形之內容範例自動彙整的系統，因為審查人員僅會將內容標示為違規或未違規，無須指出未違規內容是否屬於政策允許情形，因此必須手動彙整屬於允許情形的反仇恨言論範例。
儘管在應監察委員會要求舉辦的答辯流程中，監察委員會肯定 Meta 提供之成效評估相關資訊的詳細程度，但 Meta 顯然仍須投入更多心力，以評估仇恨言論政策允許情形的執行準確度，並從錯誤趨勢中學習。在沒有關於 Meta 決策設計和人工及自動化審查系統成效的其他資訊的情況下，監察委員會和 Meta 均難以評估 Meta 目前採取的仇恨言論作法是否符合比例原則。
若要評估使用本案例用於自動偵測仇恨言論的特定機器學習工具，是否具有必要性和符合比例原則，關鍵在於瞭解該等工具的準確度。評估機器學習分類器，不外乎權衡誤報率和漏報率之間的利弊。分類器越敏感，越可能正確辨認出仇恨言論，但也更可能錯誤標示並非仇恨言論的內容。在不同任務中，受到不同訓練之分類器和不同模型的用途和效能也不盡相同。對任何模型而言，均可使用不同的閥值，以反映對於避免不同類型錯誤的相對重要性的判斷。錯誤發生的可能性和嚴重性亦應納入考量，以決定如何部署分類器，包括分類器是否可立即採取處置、是否須經過人工審核，以及安排哪些安全防護。
據 Meta 說明，自動化系統之所以將本案例中引發疑慮的貼文送交審查，是因為該貼文可能觸及大規模的受眾。此作法可限制有害內容的散佈，但也可能增加將有力的反仇恨藝術錯誤移除的風險。Meta 告訴監察委員會，該公司會定期評估誤判率，並根據專業審查人員的一系列處置進行衡量。Meta 也表示，該公司或許可針對與本案例相關之特定機器學習模型的準確度進行評估，且該分類器的預測相關資訊至少會保存 90 天。監察委員會要求 Meta 提供相關資訊，以便監察委員會評估分類器的成效，以及 Meta 在本案例中使用的閥值是否適當。Meta 告訴監察委員會，由於沒有充裕的時間準備資料，因此他們無法向監察委員會提供該等資訊，但 Meta 表示正在考量在日後案例中提供該等資訊的可行性。
在 Meta 運用分類器的情況下，人工審查可在兩種情況下提供重要的安全防護：一是在移除貼文前，二是當用戶提出申訴時。本案例中的錯誤顯示出，Meta 提供給審查人員的反仇恨言論評估指引可能不夠充分。在本案例中，導致兩次人工審查皆做出錯誤處置的原因可能很多，監察委員會擔憂的是，審查人員可能沒有充足的時間或訓練等資源可防止本案例中的錯誤類型，尤其是與政策允許情形（包括「譴責」仇恨言論和「引起他人關注」等）相關的允許內容。
在本案例中，兩名審查人員皆住在亞太地區。Meta 無法告訴監察委員會，在評估可能的仇恨言論時，若審查人員並非住在內容來源地區，是否會造成審查準確率有所落差。監察委員會注意到，評估仇恨言論的過程相當複雜，理解當地背景和歷史也不容易，況且仍須考量審查人員每日審查的內容數量。可以想見，評估本案例內容的審查人員不太瞭解北美原住民遭受的壓迫。因此指引中應包含如何評估整體內容的明確指示，協助審查人員更準確評估背景資訊，以判斷可證明貼文意圖和含意的證據。
監察委員會在關於兩個按鈕迷因的案例裁決（2021-005-FB-UA）中，曾建議 Meta 讓用戶在申訴中，指出其內容屬於 Facebook《社群守則》仇恨言論相關規定中的哪一個允許情形。目前，若用戶對 Meta 人工審查的處置提出申訴，審查人員無從得知用戶曾對先前的處置提出異議，也不知道前一次的審查結果。雖然 Meta 曾告訴監察委員會，該公司認為揭露該等資訊可能會造成審查偏誤，但監察委員會想知道該等資訊是否有可能讓做出處置決策的過程更縝密。Meta 可透過實證測試來解答此疑問，測試結果亦將有助於評估 Meta 選擇採取的特定措施是否符合比例原則。
根據 UNGPs，Meta 有責任履行人權盡職調查（指導原則 17），這應包括確認若對藝術表達和原住民用戶反對歧視的政治表達進行內容審查，是否會造成任何負面影響。Meta 應進一步瞭解如何防止和緩解該等負面影響，並說明該公司為處理該等負面影響所投注的心力。監察委員會承諾會監管 Meta 的表現，也期待看到該公司優先處理弱勢族群遭受的風險，並展現持續改善的證據。
9.監察委員會的裁決
監察委員會推翻 Meta 撤除內容的原處置。
10.政策諮詢聲明
政策執行
1.若該公司對申訴內容做出任何相關處置，應及時向用戶提供清楚的通知。在適用情況下（包括類似本案例的政策執行錯誤情況），Meta 應在提供給用戶的通知中，說明是因為監察委員會的審查程序才採取此相關處置。若監察委員會採取的動作會對用戶所申訴的內容處置造成影響，Meta 應在傳送給用戶的通知中說明，以證明該公司遵守此項建議。對於在監察委員會選擇案例的程序階段中獲得更正的所有案例，Meta 均應採取此處置。
2.在 Meta 修正二次審查相關措施後，研究此措施對審查人員準確度和審查數量帶來的影響。具體而言，監察委員會要求 Meta 在內容審查人員知道自己進行的是第二次審查，且知悉用戶對原處置提出異議的情況下，評估審查人員的準確率。理想上，此試驗應遵從監察委員會先前提出的建議，包含讓用戶提供相關背景資訊的機會，以協助審查人員評估內容。Meta 應在提供給監察委員會的季度資訊透明度報告中，向監察委員會分享上述準確度評估結果和結果摘要，以證明該公司遵循此項建議。
3.針對仇恨言論政策允許情形（例如譴責、引起他人關注、用於反串他人、用於加強訴求）所涵蓋之藝術表達和人權侵犯相關言論表達，進行審查準確度評估。此評估亦應特別調查，對於來自相同或不同地區的仇恨言論和反仇恨言論，審查人員所在位置對其能否準確評估會有何影響。監察委員會理解，可能必須開發出具有適當準確標示的相關內容範例，才能進行此分析。Meta 應向監察委員會分享評估結果，包括此等結果將如何協助改善政策執行及制定方式，以及 Meta 是否規劃就允許情形定期評估審查人員準確度，並在提供給監察委員會的季度資訊透明度報告中提供結果摘要，以證明該公司遵循此項建議。
*流程注意事項：
監察委員會的裁決是由五人審查小組進行審議，且裁決結果必須經由多數成員核准。監察委員會的裁決不一定代表所有成員的個人觀點。
為進行本次案例裁決，哥德堡大學（University of Gothenburg）的獨立研究機構受託代表監察委員會進行一項獨立研究，他們邀請超過 50 位來自六大洲的社會科學家，在全球超過 3,200 位國家／地區專家組成團隊，並攜手專精於地緣政治、信任與安全、技術等多種領域的諮詢公司 Duco Advisers，共同針對社會政治和文化背景資訊提供專業意見。
