貝殼串珠腰帶

個案摘要

備註：2021 年 10 月 28 日，Facebook 宣佈將公司名稱更改為 Meta。在本文中，Meta 指的是公司，而 Facebook 則繼續用於指稱與特定應用程式相關的產品和政策。

監察委員會推翻了 Meta 刪除一位北美原住民藝術家的 Facebook 帖子的原始處置決策，該帖子是根據《Facebook 社群守則》的「仇恨言論」規定而被刪除。監察委員會發現，該內容適用於「仇恨言論」政策中的例外情況，因為該內容旨在讓更多人認識迫害北美原住民的歷史罪行。

關於此個案

2021 年 8 月，一名 Facebook 用戶發佈了一張貝殼串珠腰帶圖片，並附有英文文字說明。貝殼串珠腰帶是一種北美原住民藝術創作，通過編織貝殼形成圖像，藉此記錄故事和協議。腰帶上有一系列的描繪內容，該用戶表示這些描繪內容的靈感來自「The Kamloops Story」（甘露市故事），故事內容是關於 2021 年 5 月在加拿大不列顛哥倫比亞省一所前原住民兒童寄宿學校中所發現的無名墓。

文字中出現了藝術作品的標題「Kill the Indian/ Save the Man」（殺了印第安人／救了萬萬人），並將用戶標識為創作者。用戶描述了腰帶上描繪的一系列圖像：「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.」（盜走純真、邪惡冒充救世主、寄宿學校／集中營、等待發現、帶我們的孩子回家。）在該帖子中，用戶說明了這個藝術作品的意義，以及介紹貝殼串珠腰帶的歷史及其作為教育工具的目的。用戶表示，這條腰帶的製作並不容易，而講述甘露市所發生的事情也很令人感慨。對於這個藝術品給甘露市事件倖存者帶來的任何痛苦，他們表示歉意，並指出他們「sole purpose is to bring awareness to this horrific story」（只是希望讓人們知道這個可怕的故事）。

Meta 的自動化系統在帖子發佈後隔天就判定該內容可能違反了《Facebook 社群守則》的「仇恨言論」規定。後來審查人員在同一天評估該內容為違規內容並將其刪除。用戶針對該處置決策向 Meta 提出申訴，於是有了第二次的人工審查，但該審查也判定此內容違規。帖子被移除時，其內容的瀏覽次數已超過 4,000 次，分享次數超過 50 次。沒有用戶舉報該內容。

由於監察委員會選取此案例，因此 Meta 將移除此帖子視為「政策執行錯誤」，並在 8 月 27 日還原了內容。然而，Meta 一直到 9 月 30 日才通知用戶已還原內容，也就是在監察委員會要求 Meta 提供用戶通知訊息內容的兩天後。Meta 解釋說這遲到的訊息是一個人為疏失。

重要調查發現

Meta 同意其最初刪除此內容的處置決策違反了《Facebook 社群守則》，而且是一個「政策執行錯誤」。監察委員會認為該內容明顯是一個「反制言論」的例子，其中引用了仇恨言論來抵制壓迫和歧視。

Facebook 的「仇恨言論」政策的簡介中有提到，在用戶明確表明其意圖的情況下，「反制言論」是被允許存在的內容。從帖子的內容可以明顯看出這並不是仇恨言論。這件藝術品講述了甘露市發生的故事，而隨附的說明也解釋了它的重要性。雖然單獨就「Kill the Indian」（殺死印第安人）而言，的確可能構成仇恨言論，但在上下文中，該短語旨在吸引注意並譴責特定的仇恨和歧視行為。

監察委員會回顧了在涉及一名納粹官員之引言的案例判定（2020-005-FB-UA）。該案例提供了類似的經驗教訓，亦即如何通過直接陳述以外的指標來評估意圖，例如引言的內容和含義、發帖的時間和國家／地區，以及帖子收到的反應和回應內容。

以此個案來說，監察委員會認為用戶沒有必要明確聲明他們是在提高民眾對該帖子的認識，也能看懂這則帖子其實是「反制言論」。監察委員會指出，在提供給內部審查人員的「已知問題」中，表示明確的意圖陳述並不一定足以改變構成仇恨言論的帖子的含義。審查人員應該要根據內容進行推斷以評估意圖，而不是光靠顯而易見的陳述做判斷。

兩名獨立的審查人員均得出結論，認為該帖子構成仇恨言論。而 Meta 無法提供此錯誤發生兩次的具體原因。

監察委員會的判決

監察委員會推翻了 Meta 原先的內容撤除處置決策。

在政策建議聲明中，監察委員會建議 Meta：

• 應向用戶提供及時、準確的通知，說明公司正在對其申訴內容採取的任何行動。在適用的情況下，包括類似此個案的政策執行錯誤，公司應在用戶通知中說明該行動是來自於監察委員會審查過程的結果。
• 應研究當審查人員被告知要進行二次審查時，對審查人員的準確性有何影響，以便讓他們知道最初的處置是有爭議的。
• 應執行審查人員準確性評估，特別是針對「仇恨言論」政策中涉及藝術表達和侵犯人權言論的例外情況（例如，譴責、提高意識、自指、自強的用法）。此評估也應專門調查審查人員的所在位置如何影響審查人員準確評估來自相同或不同地區的仇恨言論和反制言論的能力。Meta 應與監察委員會分享此評估的結果，包括評估結果將如何改善政策執行和政策制定，以及公司是否計劃針對這些例外情況對審查人員進行定期的準確性評估。監察委員會也呼籲 Meta 應在提交給委員會的季度透明度更新報告中公開分享這些評估結果的摘要，以證明其已遵守此建議。

*個案摘要為提供個案概覽，不具先例價值。

個案判決全文

1.判決摘要

監察委員會推翻了 Meta 最初刪除一位北美原住民藝術家的帖子的處置決策，該帖子含有藝術作品的圖片及其標題，其中引用了仇恨言論的歷史實例。Meta 同意該帖子屬於《Facebook 社群守則》「仇恨言論」規定中的一個例外情況，因為該帖子顯然是為了讓更多人認識迫害北美原住民的歷史罪行。

2.個案說明

2021 年 8 月月初，一名 Facebook 用戶發佈了一張貝殼串珠腰帶圖片，並附有英文文字說明。貝殼串珠腰帶是一種北美原住民藝術創作，通過編織貝殼形成圖像，藉此記錄故事和協議。腰帶上有一系列的描繪內容，該用戶表示這些描繪內容的靈感來自「The Kamloops Story」（甘露市故事），故事內容是關於 2021 年 5 月在加拿大不列顛哥倫比亞省一所前原住民兒童寄宿學校中所發現的無名墓。

文字中出現了藝術作品的標題「Kill the Indian/ Save the Man」（殺了印第安人／救了萬萬人），並將用戶標識為創作者。然後，用戶對應著腰帶上描繪的一系列圖像提供了一串短語：「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.」（盜走純真、邪惡冒充救世主、寄宿學校／集中營、等待發現、帶我們的孩子回家。）在該帖子中，用戶說明了這個藝術作品的意義，以及介紹貝殼串珠腰帶的歷史及其作為教育工具的目的。用戶表示，這條腰帶的製作並不容易，而講述甘露市所發生的事情也非常令人感慨。他們接著表示這個故事不能再被隱藏起來了，他們希望這個腰帶能幫助防止這種情況發生。最後，用戶對於這個藝術品給寄宿學校系統的倖存者帶來的任何痛苦表示歉意，並解釋他們「sole purpose is to bring awareness to this horrific story」（只是希望讓人們知道這個可怕的故事）。

在帖子發佈後隔天，Meta 的自動化系統就判定該內容可能違反了《Facebook 社群守則》的「仇恨言論」規定。後來審查人員在同一天評估該內容為違規內容並將其刪除。用戶針對該處置決策向 Meta 提出申訴，於是有了第二次的人工審查，但該審查也判定此內容違規。帖子被移除時，其內容的瀏覽次數已超過 4,000 次，分享次數超過 50 次。沒有用戶舉報該內容。由於監察委員會選取此案例，因此 Meta 將移除此帖子視為「政策執行錯誤」，並在 8 月 27 日還原了內容。然而，Meta 一直到 9 月 30 日才通知用戶已還原內容，也就是在監察委員會要求 Meta 提供用戶通知訊息內容的兩天後。Meta 解釋說這遲到的訊息是一個人為疏失。訊息內容中並未向用戶說明，因為他們向監察委員會提出申訴且監察委員會揀選了此個案，所以他們的內容獲得還原。

美國印第安人事務協會（Association on American Indian Affairs）在「公眾評論」（公眾評論：10208）中指出，用於藝術品標題的引言出自美國陸軍軍官 Richard Henry Pratt，他在美國創辦了第一所聯邦印第安人寄宿學校。這短語概括說明了創辦寄宿學校背後的政策，這些學校試圖強行「教化」原住民以及「根除印第安文化的所有痕跡」。加拿大也採取了類似的政策，加拿大真相與和解委員會（Truth and Reconciliation Commission of Canada）認定這已經構成了文化滅絕。

用戶提到「Kamloops」（甘露市）發生的事情是指甘露市印第安寄宿學校，這所學校之前是加拿大不列顛哥倫比亞省原住民兒童的寄宿學校。2021 年 5 月，Tk'emlúps te Secwépemc 第一民族的酋長宣佈在甘露市發現了多個無名墳墓。有關當局已確認該地區可能有 200 個墓地。

加拿大政府估計，在最後一所學校於 1997 年關閉之前，至少有 150,000 名原住民兒童經歷了寄宿學校系統。原住民兒童經常被強行帶離他們的家庭，並被禁止展現原住民文化的任何面向。這些學校採用嚴厲且粗暴的體罰制度，工作人員對許多學生施以性虐待和嚴重暴力，或對學生遭遇的虐待和暴力事件視而不見。學生們一個個營養不良，學校的供暖和清潔也不夠到位，而因為缺乏醫療照顧，許多兒童都死於肺結核和其他疾病。真相與和解委員會的總結認為至少有 4,100 名學生是在上學期間死亡，其中許多是因為遭遇虐待或疏忽，還有一些是死於疾病或事故。

3.權限與範疇

如果用戶因為其帖子被移除而提出申訴，監察委員會有權審查 Meta 的處置決策（委員會章程第 1 章第 2 條；規章制度第 3 條第 1 節）。監察委員會可以支持或推翻 Meta 的處置決策，其決定對 Meta 公司具有約束力（委員會章程第 4 條；第 5 章第 3 條）。監察委員會的決定可能包括政策建議聲明，其中包含 Meta 必須回應的非約束性建議（委員會章程第 4 條；第 4 章第 3 條）。

每當監察委員會揀選這樣的案例時，Meta 隨後會同意自己犯了錯誤，接著委員會依然會審查最初的處置，以幫助理解為什麼會發生這樣的錯誤，並提出委員會的觀察及建議，以幫助減少錯誤發生和加強正當程序。監察委員會針對「乳癌症狀和裸體」（2020-004-IG-UA，第 3 節）一案做出決定後，委員會便採用了一個流程，讓 Meta 能夠在案例分配給審查小組之前，先判斷是否有任何政策執行錯誤（請參閱：透明度報告，第 30 頁）。在這些情況下，Meta 的理由完全集中在修訂後的處置決策上，解釋當初應針對用戶內容做出什麼樣的處理，同時邀請監察委員會支持將這個理由作為公司的「最終」決策，這對於改善現況毫無幫助。除了解釋用戶申訴的處置決策有誤的原因之外，監察委員會建議 Meta 也應解釋錯誤的發生原因，以及解釋為什麼公司的內部審查流程未能識別或糾正錯誤。監察委員會將繼續根據用戶申訴的處置決策進行審查。

4.相關標準

監察委員會在判決中考慮了以下標準：

I.《Facebook 社群守則》：

《Facebook 社群守則》中對於仇恨言論的定義為：「針對他人的種族、民族、國籍、宗教、性取向、種姓、性別、性別認同、嚴重疾病或殘障進行直接攻擊。」「第 1 級」禁止的內容包括「以書面或圖像形式做出的暴力言論或支持」。《Facebook 社群守則》也列出了例外情況以區分沒有違規的內容：

我們注意到，用戶有時會分享包含他人仇恨言論的內容，以進行譴責，或是引起他人對該言論的關注。在其他情況下，某些可能另外違反我們標準的言論是用以自我引用或自我賦權。我們的政策設計會保留一些空間給這類言論，但我們要求用戶必須清楚表明其意圖。如果意圖不明確，我們可能會移除該內容。

II.Meta 的價值理念：

Meta 的價值理念已列於《Facebook 社群守則》的簡介中。「發言權」的價值被形容為「至高無上」：

《Facebook 社群守則》的目標始終都是開闢表達意見的園地並給予用戶發言權。[…] 我們希望用戶能公開討論自己所重視的議題，即使可能無法得到認同或招致反感也無妨。

Meta 會為了顧及四個價值觀而限制「發言權」，而與本案相關的兩個價值觀如下：

「安全」：我們致力於將 Facebook 創造成安全的環境。威脅性的言論可能會使他人覺得受到脅迫、排擠或不敢表達意見，因此 Facebook 不允許出現這類內容。

「尊嚴」：我們認為每個人都享有同等的尊嚴和權利，也期望用戶能尊重他人的尊嚴，不騷擾或貶低他人。

III.人權標準：

在 2011 年獲聯合國人權理事會背書的《聯合國工商企業與人權指導原則》（UN Guiding Principles on Business and Human Rights，簡稱 UNGP），針對私人工商企業的人權責任定出了適用的自願架構。2021 年 ，Meta 公告了其《企業人權政策》，重申會遵守《聯合國工商企業與人權指導原則》（UNGP）中所述之權利。監察委員會是根據以下人權標準分析 Meta 在此個案中所肩負的人權責任：

• 表達自由：《公民權利及政治權利國際公約》（International Covenant on Civil and Political Rights，簡稱 ICCPR）第 19 條；人權事務委員會第 34 號一般性意見（2011 年）；第 5 條，《消除一切形式種族歧視國際公約》（International Convention on the Elimination of All Forms of Racial Discrimination，簡稱 ICERD）；聯合國特別報告員的仇恨言論報告，A/74/486（2019 年）；聯合國特別報告員的網絡內容審查報告， A/HRC/38/35（2018 年）。
• 平等與無歧視：ICCPR 第 2 條第 1 節和第 26 條；ICERD 第 2 條；消除種族歧視委員會第 35 號一般性建議（2013 年）。
• 文化權：ICCPR 第 27 條；《經濟、社會及文化權利國際公約》（ICESCR）第 15 條；研究文化權利領域的聯合國特別報告員針對藝術自由和創造力的報告，A/HRC/23/34（2013 年）。
• 原住民族權利：《聯合國原住民族權利宣言》，第 7 條第 2 節；第 8 條第 1 節和第 19 條。

5.用戶陳述

在申訴內容中，該用戶在向監察委員會表示，他們的帖子展示了一件記錄歷史的傳統藝術作品，與仇恨言論無關。用戶進一步表示，這段歷史「需要被看到」，而 Meta 刪除帖子的舉動根本是「言論審查」。

6.Meta 的處置決策說明

Meta 告訴監察委員會，「Kill the Indian」（殺了印第安人）一詞已構成了《Facebook 社群守則》「仇恨言論」政策下的第 1 級攻擊，該政策禁止基於受保護的特徵（包括種族或族裔）攻擊他人的「暴力言論」。然而，Meta 承認刪除內容的處置是錯誤的，因為該政策允許用戶分享他人的仇恨言論以「進行譴責或提升意識」。Meta 指出，用戶在帖子中表示，他們的目的是要讓人們意識到發生於甘露市的恐怖歷史。

Meta 表示，「Kill the Indian/ Save the Man」（殺了印第安人／救了萬萬人）一詞源自於對原住民兒童的強迫同化歷史。通過讓更多人知道甘露市事件背後的故事，用戶也希望讓大家知道當初通過寄宿學校強迫同化原住民的歷史。在回應監察委員會提出的問題時，Meta 澄清說，內容審查人員無需了解這段歷史也能正確執行該政策。用戶的帖子表示他們的目的是讓更多人知道這個可怕的故事，因此審查人員可合理地判斷該帖子是要利用其引用的仇恨言論來達到這個目的。

Meta 告知監察委員會，沒有用戶舉報此個案中的內容。Meta 有使用機器學習分類器，這些分類器經過訓練可以自動偵測可能違反《Facebook 社群守則》的行為。以此個案來說，有兩個分類器自動將帖子識別為疑似仇恨言論。分析內容的第一個分類器不太確定該帖子違反了《Facebook 社群守則》。然而，另一個分類器則根據多個背景資訊訊號，判定該帖子可能被廣泛分享並且會被許多人看到。鑑於擔心仇恨言論的廣泛流傳可能帶來的潛在危害，Meta 的系統會自動將帖子轉交給人工審查。

在回應監察委員會的問題時，Meta 解釋，亞太地區的一位審查人員判定該帖子屬於仇恨言論，並從平台上將其刪除。在用戶提出申訴後，亞太地區的第二位審查人員也審查了內容，然後也判定其為仇恨言論。Meta 向監察委員會確認，審查人員不會記錄個別內容處置決策的推理過程。

7.第三方提出的意見

監察委員會檢視了與此個案有關的 8 個公眾評論：其中 4 個來自美國和加拿大、2 個來自歐洲、1 個來自撒哈拉以南非洲，以及 1 個來自亞太地區和大洋洲。這些公眾評論涉及的主題包括用戶當作藝術作品標題之引言的重要性、提及北美寄宿學校的背景資訊，以及 Meta 的審查人員如何影響藝術自由和具有原住民身份或血統的用戶的表達權。

若要閱讀針對此個案提出的大眾意見，請點擊此處。

8.監察委員會分析

監察委員會透過以下三個面向來評估該內容是否應該還原：《Facebook 社群守則》、Meta 的價值理念及其人權責任。

8.1 恪遵《社群守則》

Meta 同意其最初刪除此內容的處置決策違反了《Facebook 社群守則》，而且這是一個「政策執行錯誤」。監察委員會認定，本案中的內容明顯不是仇恨言論。該內容明顯是一個「反制言論」的例子，其中引用或重新挪用了仇恨言論來抵制壓迫和歧視。

《Facebook 社群守則》的「仇恨言論」政策明確允許「出於譴責或提高意識之目的而引用他人仇恨言論的內容」。然而兩名獨立的審查人員卻依然認為該帖子構成仇恨言論。而 Meta 無法提供這個錯誤連續發生兩次的具體原因。

在「納粹引言」（2020-005-FB-UA）一案中，監察委員會指出，使用引言的上下文對於理解其含義很重要。以該個案來說，根據引言的內容和含義、發帖的時間和國家／地區，以及帖子收到的反應和回應內容，都可以清楚看出用戶無意讚揚大家公認的仇恨人物。

監察委員會認為用戶沒有必要明確聲明他們是在提高意識，民眾也能清楚明白該帖子的意圖和含義。圖像中的藝術品講述了甘露市發生的故事，而隨附的說明也解釋了它的重要性。雖然單獨就「Kill the Indian」（殺死印第安人）來看，的確可能構成仇恨言論，但從整體上評估內容可以清楚地看出該短語是用於提高意識，以及用於譴責仇恨和歧視行為。該內容使用了引號來區分其標題中的仇恨短語，完整版為「Kill the Indian/ Save the Man」（殺了印第安人／救了萬萬人）。這應該能夠讓審查人員停下來仔細研究。用戶講述甘露市故事和解釋貝殼串珠腰帶的文化意義的方式，都可以清楚看出他們同情的是歧視和暴力行為的受害者，而不是加害者。他們的敘事明顯是在譴責在甘露市發現的歷史事件。從帖子獲得的回應和心情中可以清楚地看出，用戶的受眾可以理解這種譴責和提高意識的意圖。

監察委員會指出，Facebook 內部的「已知問題」也是供審查人員參考的指南之一，該「已知問題」指示審查人員在用戶意圖不明的情況下，寧可犯錯也應刪除含有仇恨言論的內容。該「已知問題」也表示明確的意圖陳述並不一定足以改變構成仇恨言論的帖子的含義。此內部指南為審查人員提供的指引很有限，無法幫助審查人員了解如何正確區分被禁止的仇恨言論，以及引用仇恨言論以譴責或提高意識的反制言論。就監察委員會所知，針對適用於政策例外情況的內容，對於如何評估藝術內容中引用或使用仇恨言論字眼，或討論侵犯人權的內容的意圖證據，公司並沒有提供參考指南。

8.2 遵守 Meta 價值理念

監察委員會認為，最初刪除此內容的處置決策與 Meta 的「發言權」和「尊嚴」價值理念不符，也不符合「安全」價值理念。雖然限制仇恨言論在其平台上散播符合 Meta 的價值理念，但監察委員會擔心 Meta 的審核流程無法正確識別和保護面臨邊緣化或遭受歧視的用戶通過反制言論表達意見的能力。

Meta 已做出其承諾以支持反制言論：

作為一個社群、社交平台和共享人類經驗的整合平台，Facebook 通過執行強大的內容政策，並與各地社群、政策制定者、專家和改革者合作，在全球發起「反制言論」行動計劃，藉此支持重要的「反制言論」行動計劃。

Meta 聲稱「發言權」是公司最重視的價值理念。試圖描述歷史暴行的恐怖並教育人們了解其長久影響的藝術創作，是「發言權」價值理念最重要且最有力的表達方式之一，特別是對於那些努力表達自己的文化並確保自己的歷史能夠被看見的邊緣化族群更是如此。反制言論不僅是一種「發言權」的表達方式，同時也是仇恨言論的攻擊對象維護自身尊嚴、抵制壓迫、歧視和侮辱行為的關鍵工具。Meta 必須確保其內容政策和審查作業應考慮並保護這種表達形式。

對於正在幫助更多人認識大規模暴行的用戶，當他們被告知自己的言論和仇恨言論一樣受到壓制，這對他們來說無異是侮辱他們的尊嚴。這樣的指控，特別是當 Meta 在申訴時確認錯誤後，可能會導致自我審查的情況。

8.3 遵守 Meta 的人權責任

監察委員會的結論是，刪除該帖子違反了 Meta 作為企業的人權責任。Meta 已經承諾將遵守《聯合國工商企業與人權指導原則》（UNGP）中所述之人權，其《企業人權政策》表明這也包括《公民權利及政治權利國際公約》（ICCPR）。

這是監察委員會處理有關藝術表達的第一個案例，同時也是第一個有關用戶自我認定為原住民的表述案例。監察委員會曾揀選過幾個案例，這些案例的用戶都在嘗試讓更多人關注嚴重的人權侵犯行為，而此案也是其中之一。

表達自由（ICCPR 第 19 條）

國際人權標準強調政治言論的價值（人權事務委員會第 34 號一般性意見，第 38 節）。該權利的保護範疇請見 ICCPR 第 19 條第 2 節的規定，其中特別提到了「以藝術形式」表達的言論。《消除一切形式種族歧視國際公約》（ICERD）也為行使言論自由權免受歧視提供了保護（第 5 條），負責監督各國遵守情況的委員會強調幫助「弱勢族群糾正社會各部位之間的權力平衡」的重要性，並在討論中提出「其他觀點和對立論點」（消除種族歧視委員會，第 35 號一般性建議，第 29 節）。

藝術創作通常都具有政治意圖，國際標準承認這種交流形式在挑戰現狀方面具有獨特而強大的作用（研究文化權利領域的聯合國特別報告員，A/HRC/23/34，第 3-4 節）。在幫助藝術家接觸新的和更多的受眾方面，互聯網（特別是 Facebook 和 Instagram 等社交媒體平台）具有特殊的價值。他們的生計很可能必須依賴存取主導互聯網生態的社交平台。

保障所有人的言論自由權不受歧視（ICCPR，第 19 條第 2 節）。根據監察委員會收到的意見，當各國採取會影響原住民社群的立法或行政措施時，原住民享有自由、事先和知情同意的權利，這也意味著 Meta 在制定其內容政策時，有責任與這些社群進行協商（公眾評論：10240， 少數族群權利團體；另見《聯合國原住民族權利宣言》，第 19 條）。研究意見和表達自由問題的聯合國特別報告員在社交媒體平台的責任方面也提出了類似的擔憂（A/HRC/38/35，第 54 節）。

此個案中的內容還涉及了許多其他的權利，例如民族、族裔或語言少數族群與其他族群成員共同享有自己文化的權利（ICCPR，第 27 條），以及參與文化生活和享受藝術的權利（ICESCR，第 15 條）。貝殼串珠腰帶藝術創作旨在記錄和提高人們對人權暴行及其後續影響的認識，所以應受到《聯合國人權捍衛者宣言》第 6(c) 條以及了解真相權（《聯合國打擊有罪不罰的一套原則》）的保護。《聯合國原住民族權利宣言》明確認定強行帶走兒童可能是一種暴力和種族滅絕行為（第 7 條第 2 節），並提供特定保護以防止強行同化和文化破壞的行為（第 8 條第 1 節）。

ICCPR 第 19 條規定如果國家要限制表達自由，則這些限制必須遵守合法性、合理目的，以及必要性和比例原則的規定（ICCPR 第 19 條第 3 節）。研究表達自由的聯合國特別報告員鼓勵社交媒體公司在審查網絡言論時應遵循這些原則，並應注意私營企業對言論的大規模審查可能會在特定情況下引起擔憂（A/HRC/38/35，第 45 節和第 70 節）。監察委員會迄今為止都是採用 ICCPR 第 19 條的三部分測試來進行所有的裁決。

I.合法性（清晰易懂且易於取得的規則）

《Facebook 社群守則》「仇恨言論」政策明確允許譴責仇恨言論或提高意識的內容。這個部分的政策足夠清楚且易於取得，能讓用戶理解規則並做出相應的行為（第 34 號一般性意見，第 25 節）。合法性標準也規定限制表達自由的規則必須「為負責執行限制的人員提供足夠的指引說明，使他們能夠確定哪些類型的表達應受到適當限制，哪些類型不受限制」（同上）。就兩位審查人員均未能正確評估政策例外情況對此內容的應用來看，足以顯示公司可能需要為審查人員提供進一步的內部指導。

II.合理目的

任何國家對表達自由的限制都必須是為了追求 ICCPR 第 19 條第 3 節中列出的合理目的。在提交給監察委員會的資料中，Meta 通常都會援引該清單中的目的來合理化其壓制言論的行為。監察委員會此前已認可《Facebook 社群守則》「仇恨言論」政策追求保護他人權利的合理目的。這些權利包括平等和不受歧視的權利、表達自由權，以及身體自主權。

III.必要性和比例原則

此個案的明顯錯誤意味著刪除處置顯然沒有必要，而 Meta 已經接受了這一點。監察委員會擔心，這種明確的錯誤可能意味著 Meta 的自動化流程和人工審查流程中存在更深層的比例問題。任何對表達自由的限制都應該與其提供保障的功用相稱，且與其他功用為提供保障的方法相比，應該是最不擾人的方法（第 34 號一般性意見，第 34 節）。Meta 的內容審查系統是否滿足必要性和比例原則，在很大程度上取決於該系統是否真的能移除正確的仇恨言論，同時盡可能減少錯誤的檢測和刪除次數。

每一個被誤刪的帖子都會損害表達自由。監察委員會也知道錯誤是不可避免的，無論是對人類還是機器來說是如此。仇恨言論及其回應始終都需要靠上下文做判斷，其界線並不一定非常明確。然而，通過錯誤的類型以及承擔這些錯誤後果的人或社群，可以看出有必要持續評估和檢查設計選擇。這需要進一步調查此個案發生誤判的根本原因，並針對如何有效地審查反制言論進行更廣泛的評估。

鑑於原住民藝術家的批判性藝術對幫助抵制仇恨和壓迫方面的重要性，監察委員會希望 Meta 對此個案中的內容，以及 Facebook 和 Instagram 上的類似內容被誤刪的可能性特別小心謹慎。光是在整體上評估 Meta 執行 Facebook 的「仇恨言論」政策的狀況是不夠的。一個平均表現良好的系統可能會在子類別上表現失常，而其中不正確的決策更是會對人權造成特別明顯的影響。在此個案中發生的錯誤類型可能很少見；然而，監察委員會指出，邊緣化族群的成員多年來一直對誤報刪文的比例和影響表示擔憂。此個案的錯誤足以顯示 Meta 有責任證明其已進行人權盡職調查，以確保其系統能公平運作，而不會加劇歷史和持續的壓迫行為（UNGP，第 17 條原則）。

Meta 會定期評估其政策執行系統在處理仇恨言論方面的準確性。此評估並未細分準確性評估，因此沒有特地評估 Meta 區分仇恨言論與允許譴責仇恨言論或提高意識的內容的能力。

Meta 的現有流程也包括用來識別錯誤趨勢並調查其根本原因的特設機制，但這需要大量的內容樣本方可衡量系統的性能。監察委員會詢問 Meta 是否會特地評估其審查系統的表現，以了解是否能夠準確評估構成藝術表現的反制言論，以及提高對侵犯人權之意識的反制言論。Meta 告訴監察委員會，他們沒有針對誤報刪文對藝術表達或對原住民身份或血統的用戶言論的影響進行具體的研究。

Meta 已告知監察委員會展開此類評估的困難點，其中包括缺乏可自動整理適用於政策例外情況的內容樣本的系統。這是因為審查人員只需將內容標記為違規或非違規，而不需要註明非違規內容在哪些方面適用於政策例外情況。他們需要通過手動方式整理符合此例外情況的反制言論樣本。

雖然在監察委員會要求舉行的問答會議中，委員會對 Meta 就評估績效所提供的詳細資料感到滿意，但 Meta 顯然需要投資更多資源來評估仇恨言論政策例外情況的執行準確性，並且從錯誤趨勢中學習經驗。因為沒有關於 Meta 的設計決策及其人工和自動化系統性能的其他資訊，監察委員會或 Meta 都很難評估 Meta 當前處理仇恨言論之方法是否符合比例原則。

如果要評估使用現有的特定機器學習工具來自動偵測此個案潛在的仇恨言論是否符合必要性和比例原則，則我們必須先了解這些工具的準確性。機器學習分類器一定會涉及誤報和漏報之間的權衡問題。分類器設定得越敏感，就越有可能正確識別仇恨言論的範例，但也更有可能錯誤標記不屬於仇恨言論的內容。經過不同訓練的分類器和不同的模型，對於不同任務會有不同的效用和有效性。對於任何特定的模型，使用不同的閾值可以看出對避免不同類型錯誤的相對重要性所做出的判斷。錯誤發生的可能性和嚴重性也應協助制定如何部署分類器的決策，包括系統是否可以立即採取行動，或是否需要人工批准，以及應該採取了哪些保護措施。

根據 Meta 的解釋，其自動化系統之所以將此個案中的帖子轉交給審查人員，是因為可能會有很多人看到該帖子。這個策略可以限制有害內容的散播，但也可能會增加反擊仇恨的強大藝術創作被錯誤移除的風險。Meta 告訴監察委員會，他們會定期評估誤報率，由專家審查人員評估一系列的處置決策。Meta 也表示，他們可以評估與此個案相關的特定機器學習模型的準確性，並可將有關其分類器預測的資訊保留至少 90 天。監察委員會要求 Meta 提供資訊，以便我們評估分類器的性能以及他們針對此個案使用之閾值的適當性。Meta 告知監察委員會，他們無法提供監察委員會要求的資訊，因為他們沒有足夠的時間準備這些資訊。但是，Meta 表示他們有在考慮在未來案例中提供這些資訊的可行性。

人工審查可以為 Meta 分類器的運作提供兩個重要的保障：第一個是在帖子被刪除之前，第二個是在用戶提出申訴的時候。本個案的錯誤足見 Meta 對審查人員評估反制言論的指導可能還不夠。就此個案來說，有多種原因可能導致審查人員連續兩次做出錯誤的決定。監察委員會擔心審查人員可能沒有足夠的時間或培訓資源來防止出現此個案中的誤判情況，尤其是這種政策例外情況明明就允許的內容（例如，「譴責」仇恨言論和「提高意識」）。

以此個案為例，兩名審查人員都位在亞太地區。Meta 無法告知董事會，對於評估潛在仇恨言論的審查人員而言，如果審查人員並非來自內容發佈地區，審查人員的準確率是否會有所不同。監察委員會也了解評估仇恨言論的工作很複雜，以及理解當地背景和歷史的困難度，特別是考慮到審查人員每天審查的內容數量。我們可以想像，評估本個案內容的審查人員對於北美原住民的壓迫歷史了解不多。公司提供的指南應包括明確指引，以評估整體內容並協助審查人員更準確地評估上下文，以判斷內容真正的意圖和含義。

監察委員會在「兩個按鈕的迷因」判定（2021-005-FB-UA）中，建議 Meta 允許用戶在他們的申訴中說明其內容適用於《Facebook 社群守則》「仇恨言論」政策的例外情況。目前，當用戶對 Meta 的人工審查處置決策提出申訴時，審查人員不會知道用戶對先前的處置決策提出異議，也不會知道先前審查的結果。儘管 Meta 已告知監察委員會，他們認為這些資訊會造成審查人員的偏見，但監察委員會好奇這些資訊是否會增加決策出現細微差異的可能性。這是一個可以由 Meta 進行實證測試的問題；這些測試的結果將有助於評估 Meta 選擇採用的具體措施是否符合比例原則。

根據 UNGP，Meta 有責任進行人權盡職調查（第 17 條原則）。其中應包括確認內容審查對原住民反對歧視的藝術表達和政治言論的任何不利影響。Meta 應進一步確認他們要採取哪些措施來預防、減輕和解釋其應對這些不利影響。監察委員會致力於監測 Meta 的表現，並希望看到公司優先考慮邊緣化族群所面臨的風險，並提出會持續改善的證據。

9.監察委員會的判決

監察委員會推翻了 Meta 原先的內容撤除處置決策。

10.政策建議聲明

政策執行

1.應向用戶提供及時、準確的通知，說明公司正在對其申訴內容採取的任何行動。在適用的情況下，包括類似此個案的政策執行錯誤，公司應在用戶通知中說明該行動是來自於監察委員會審查過程的結果。如果監察委員會的行動影響了用戶申訴的內容處置時，Meta 應在用戶通知訊息中分享這些資訊，以證明他們有遵守此建議。應該針對在監察委員會流程的資格判斷階段獲得糾正的所有案例執行這些作為。

2.研究修改後的二次審查方法對審查人員的準確性和處理數量的影響。特別是當審查人員被告知要進行二次審查時，在他們知道最初的處置是有爭議的情況下，監察委員會要求評估審查人員的判斷準確率。在理想情況下，該實驗應讓用戶有機會提供相關的背景資訊，以幫助審查人員根據監察委員會先前的建議來評估其內容。Meta 應與監察委員會分享這些準確性評估結果，並在季度透明度報告中提供實驗結果摘要，以證明其已遵守此建議。

3.應執行準確性評估，特別是針對「仇恨言論」政策中涉及藝術表達和侵犯人權言論的例外情況（例如，譴責、提高意識、自指、自強的用法）。此評估也應專門調查審查人員的所在位置如何影響審查人員準確評估來自相同或不同地區的仇恨言論和反制言論的能力。監察委員會理解此分析可能需要開發適當且準確標記的相關內容樣本。Meta 應與監察委員會分享此評估的結果，包括這些評估結果將如何改善政策執行和政策制定，以及公司是否計劃針對這些例外情況對審查人員進行定期的準確性評估，並在季度透明度報告中提供結果摘要，以證明其已遵守此建議。

*程序備註：

監察委員會的判決書是由五人團隊所備製，且獲得監察委員會大多數委員的同意。監察委員會的判決未必代表所有委員的個人意見。

此個案在作出判決的過程中，已委託某他方代表監察委員會進行獨立研究。這間總部設在哥德堡大學的獨立研究機構組成了一個團隊，成員包括六大州超過 50 位社會科學家，以及 3,200 位來自世界各國和 Duco Advisers 的專家，Duco Advisers 是一間專門提供地緣政治、信任與安全以及技術交叉領域的諮詢公司，這些專家在社會政治和文化領域具備豐沛的專業素養。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें