以「Shaheed」指稱指定危險人物

執行摘要

針對使用「shaheed」一詞來指稱被指定為危險的人物的內容，監察委員會認為 Meta 審核這類內容的方式大幅且不相稱地限制了自由表達。Meta 將所有使用「shaheed」來指稱其指定為「危險」人物的行為解讀為違規，並移除該內容。根據 Meta 的說法，在其平台上，該公司依據《社群守則》移除的內容當中，涉及「shaheed」的內容數量比其他任何單字或詞組都來得多。恐怖暴力行為會造成嚴重後果，包括摧毀無辜民眾的生活、阻礙人權和破壞社會結構。然而，為避免這類暴力行為而限制表達自由的措施必須符合必要性和相稱性，因為過度移除內容可能無效，甚至適得其反。

監察委員會所提出建議的出發觀點是，Meta 必須盡快採取有效措施，以確保其平台不被用於煽動暴力行為或招募其他人來參與暴力行為。極端主義者有時候會使用「shaheed」一詞來讚揚或美化在採取暴力恐怖行為時死亡者。不過，Meta 對這項威脅的回應必須也尊重所有人權，包括表達自由。

2023 年 10 月 7 日，如同監察委員會在政策諮詢意見中的結論，哈馬斯（Meta 危險組織和人物政策所認定的等級 1 組織）對以色列展開前所未有的恐怖攻擊，估計已造成 1,200 人喪生，約 240 人被擄（以色列政府外交部統計數字）。根據新聞報導，在 1 月初估計有 136 位人質仍被哈瑪斯囚禁，而到了 2024 年 2 月 6 日，據信其中至少有 30 人已死亡。Meta 立即根據危險組織和人物政策，將這些事件認定為恐怖攻擊。以色列迅速展開軍事行動來回應這些攻擊。至 3 月 4 日為止，這波軍事行動已造成加薩超過 30,000 人死亡（聯合國人道事務協調廳，引用加薩衛生部的數據）。1 月分的報導指出，估計死亡人數中有 70% 是婦女和孩童。

在發生這些事件之後，監察委員會暫停發佈此政策諮詢意見，以確保針對 Meta 平台的使用和此情境中的「shaheed」一詞給予建議。這項額外研究證實了，即使在這類事件帶來的極大壓力下，監察委員會提供 Meta 審核「shaheed」一字的建議仍經得起考驗，且這項研究能確保 Meta 在回應危急事件時更尊重所有人權。同時，監察委員會強調 Meta 在這個領域的政策是全球適用，而且影響範圍遠超過此衝突。在確知以色列和巴勒斯坦間近期衝突的重要性的情況下，監察委員會的建議也是全球適用，而且不限於任何特定情境。

就監察委員會的觀點而言，Meta 審核「shaheed」一詞的作法太寬泛，且不相稱地限制表達自由和公民言論。舉例來說，報導暴力行為和指定實體的貼文可能誤遭移除。Meta 的作法也無法將「shaheed」的各種意思納入考量，其中許多意思並未意圖美化或表達贊同，且太常導致阿拉伯裔發言者和其他語言的發言者（大多是穆斯林）將貼文移除，但移除這些內容並沒有達到危險組織和人物政策的目的。此外，Meta 的政策禁止，例如美化、支持和代表指定人物、組織和事件，以及煽動暴力。這些政策只要執行得當，就能減緩恐怖份子使用 Meta 平台所造成的危險。因此，監察委員會建議 Meta 結束全面封鎖使用「shaheed」來指稱被指定為危險的人物，並修改其政策，以便在更充分瞭解情境的情況下分析內容，包括文字。

背景

在 2023 年 2 月，Meta 詢問監察委員會，是否應該繼續移除符合以下條件的內容：使用「shaheed」或以阿拉伯文字書寫的 شهيد 的阿拉伯文字詞來指稱 Meta 危險組織和人物政策所指定之人物的內容。「Shaheed」也是外來詞（亦即許多非阿拉伯文的語言「借用」了這個源自阿拉伯文的字詞，包括調整其拼寫方式）。

該公司說明「shaheed」一詞有「尊敬」的意思，不同文化、宗教和語言的許多社群都會使用這個詞來指稱意外死亡的人，例如事故死者或值得尊敬的戰亡者。該公司確知該字詞有「多種意思」，雖然「英文裡沒有與該字詞直接對應的文字」，但一般的英文翻譯會是「martyr」（烈士）。Meta 提到，「在英文裡，『martyr』一詞是指某個為了正當動機而遭受磨難或死亡的人，且通常具有正面意義」，並表示「這是因為我們已根據 [危險組織和人物] 政策，將 [『shaheed』] 一詞的使用歸類為構成讚揚。」

Meta 假定以「shaheed」指稱指定人物會一概構成危險組織和人物政策規範的「讚揚」，而這樣假設造成了全面封鎖。Meta 確知因為該字詞的多種意思，該公司「在處理大量非意圖讚揚指定人物的言論時，政策可能會執行過頭，尤其是阿拉伯文發言者的言論」。此外，Meta 並未套用危險組織和人物政策例外情況，也就是允許使用「shaheed」來「報導、譴責或中立地討論指定實體」。這個情況在 2023 年 12 月最新的政策更新仍持續發生，而更新後的政策已將「讚揚」完全移除，現在改為禁止「美化」和「不明確的提及內容」。

由於這些疑慮，Meta 在 2020 年啟動政策制定程序來重新評估對「shaheed」一詞的處理方式。不過，該公司內部並未達到任何共識，並且未同意採取任何新處理方式。

要求這項政策諮詢意見時，Meta 向監察委員會提出了三個可能的政策選項：

1. 維持現狀。
2. 允許在滿足禁止「讚揚」的例外情況的貼文中，使用「shaheed」來指稱指定人物（例如報導、中立地討論或譴責），前提是內容中沒有其他讚揚或「暴力跡象」。Meta 針對這些跡象提出了部分範例，包括武器的外觀描述，或提及軍事用語或現實世界的暴力行為。
3. 允許使用「shaheed」來指稱指定人物，前提是內容中沒有其他讚揚或暴力跡象。相較於第二個選項，此選項並沒有考慮到該內容是否屬於上述例外情況。

監察委員會確實思考過其他可能的政策選項。基於此政策諮詢意見中所列的理由，監察委員會的建議與第三個選項極為相符，雖然採納的暴力跡象少於 Meta 在要求中所提議的數量，且必須針對報導、中立地討論和譴責指定實體及其行為，提供更廣泛的政策例外情況適用情形。

重要審查結果和建議

針對「shaheed」一詞與指定為危險之人物的關聯，監察委員會認為 Meta 目前的處理方式太過寬泛，而且大幅且不相稱地限制了自由表達。

「Shaheed」一詞在文化上和宗教上都很重要，有時候會用於讚頌在採取暴力行為時死亡者，甚至是「美化」他們；但卻時常用於（即使關於危險人物）報導和中立評論、學術討論、人權辯論和甚至更多被動方式。在「shaheed」的所有其他意思中，「shaheed」最常用於指稱在為國家服務、實踐自身理念時死亡者，或是社會政治或自然悲劇的意外受害者。在部分穆斯林社群中，這個詞甚至用於名字和姓氏。沒有充足的理由能說服人相信，「shaheed」的多種意思會造成大量非意圖讚揚恐怖份子或其暴力行為的內容遭到移除。

Meta 僅因為某內容在指稱指定人物時使用「shaheed」，就移除該內容，這種作法故意無視該字詞的語言複雜度及其多種用途，一概且僅將該字詞視為英文字「martyr」（烈士）的同義詞。這麼做大大地影響表達自由和媒體自由度，過分地限制公民言論，而且對平等和非歧視有嚴重的負面影響。政策執行過當會不相稱地影響阿拉伯文發言者和其他有「shaheed」外來詞之語言的發言者。同時，其他執行危險組織和人物政策的方式仍然能讓 Meta 促進其用戶安全的價值理念，以及避免美化恐怖份子之內容出現在其平台上的目標。因此，現行政策不相稱且不必要。

為了讓 Meta 有關字詞「shaheed」的政策和執行措施更貼切符合人權標準，監察委員會提出以下建議（完整建議內容請見第 6 節）：

1.Meta 應該停止假定該字詞「shaheed」在用於指稱指定人物或指定組織的不知名成員時，一概違反政策且不符合政策例外情況的適用資格。針對以「shaheed」指稱指定人物的內容，只能在兩種情況下將該內容作為「不明確的提及內容」而移除。第一，出現三個暴力跡象中的一個以上跡象：軍械／武器的外觀描述、意圖或倡議使用或攜帶軍械／武器的陳述，或指稱指定事件。第二，內容以其他方式違反 Meta 的政策時（例如，為了美化；或因為使用「shaheed」之外的其他理由，而仍以不明確的方式指稱指定人物）。在任一情況下，內容都應該仍符合「報導、中立地討論和譴責」例外情況的適用資格。

2.為了清楚說明對「不明確的提及內容」的禁止規定，Meta 應該納入幾個違規內容範例，包括符合以下條件的貼文：以「shaheed」指稱指定人物，並出現第 1 項建議所列出的三個暴力跡象中的一個以上跡象。

3.Meta 的內部政策指引應該也更新，以清楚說明以「shaheed」指稱指定人物並不算違規，除非伴隨暴力跡象；而且就算出現這些跡象，該內容可能仍適用於「報導、中立地討論或譴責」例外情況。

如果 Meta 接受並實行這些建議，在現行規則下，該公司會繼續移除「美化」指定人物、將其暴力或仇恨定義為成就，或合法化或捍衛其暴力或仇恨行為，以及任何支持或呈現指定危險實體的內容。監察委員會根據這些建議所提議的作法是，Meta 停止一概將用以指稱指定人物的「shaheed」解讀為違規，僅在同時出現其他政策違規事項（例如美化）或因為暴力跡象的「不明確的提及內容」時，才移除該內容。這類內容仍須符合「報導、中立地討論和譴責指定人物」政策例外情況的適用資格。

監察委員會也對 Meta 提出以下建議：

4.針對根據其危險組織和人物政策指定實體和事件的程序，提供更詳細的說明，以提升這份清單的資訊透明度。Meta 也應該發佈彙總資訊，提供其指定清單中各級實體的總數，以及過去一年新增和移除的實體數量。

5.推出清楚且有效的程序來定期審核指定實體和移除不再滿足公告標準的實體，以確保其危險組織和人物實體清單保持最新狀態，不包含不再符合 Meta 指定實體定義的組織、人物和事件。

6.說明如何評估在執行危險組織和人物政策時的人工審查準確度和自動化系統成效。Meta 也應該定期分享用於執行此政策之分類器的成效評估結果，並且要能比較不同語言及／或地區的結果。

7.清楚說明如何使用分類器來產生政策違規的預測資料，以及 Meta 如何設定「不採取任何行動」、「安排內容進行人工審查」或「移除內容」的門檻。Meta 應該在政策公開透明平台提供這些資訊，以告知利害關係人。

完整政策諮詢意見

1.Meta 的要求

I.政策諮詢意見要求

1.在要求（提供英文和阿拉伯文版本）中，Meta 詢問監察委員會是否應繼續依據該公司的危險人物和組織政策，移除使用「shaheed」（شهيد）（及其單複數型態，包括阿拉伯文和其他語言的外來語變體）來指稱指定危險人物的內容，還是應該要採取其他較為符合該公司之價值理念和人權責任的方法。Meta 也要求監察委員會提供相關指引，讓他們在日後處理類似的內容問題時有所依據。

II.Meta 的作法

2.Meta 的危險組織和人物政策先前曾禁止「讚揚、提供實質支持和代表指定實體與人物」以及指定「違規暴力事故」。在 2023 年 12 月 29 日，Meta 更新了這項政策，移除禁止讚揚的內容，並新增禁止「美化」和「不明確的提及內容」的內容。監察委員會擴大考量範圍，評估這些政策變更可能對其發現和建議造成的任何影響。

3.這項政策諮詢意見要求是關於禁止讚揚指定人物，而不是一併禁止實質支持或代表。與代表和實質支持相比，Meta 認為「讚揚」的違規嚴重程度最低。Meta 將「等級 1」留給最危險的實體，包括恐怖份子、仇恨和犯罪組織。Meta 指定一項「違規暴力事件」後，這些事件的加害者也會被指定為等級 1 的危險人物，因此美化（先前稱為「讚揚」）他們的內容也會遭到禁止。指定事件包括「恐怖攻擊、仇恨活動、造成多人受害的暴力事件（或暴力未遂事件）、連續謀殺或仇恨犯罪」。雖然 Meta 會管控自己的指定實體清單（非公開），但有部分指定實體位於美國政府的指定實體清單中（也就是說，Meta 指定實體清單擷取自該美國政府清單，而前者的涵蓋範圍將至少與後者相同）。根據《社群守則》，等級 1 的實體包括「特別認定毒品走私毒梟（SDNTKs）」、「外國恐怖組織（FTOs）」和「特別認定全球恐怖份子」。這些美國政府清單可分別在這裡、這裡和這裡公開取得。

4.在 2023 年 12 月 29 日政策更新之前，Meta 對於「讚揚」的定義包括「以正面角度談論指定實體或事件」；賦予指定實體或事件「成就感」；「宣稱指定實體的仇恨、暴力或犯罪行為合法、合乎道德、正當或可以接受，藉此合理化指定實體的理念」；以及「在意識形態上支持指定實體或事件」。在監察委員會針對我們的第一批案例（納粹引述裁決，第 2 項建議）提出建議後，這個定義或一系列範例被新增到此政策，以便更清楚說明。在 2023 年 12 月政策更新後，「美化」被定義為「宣稱指定實體的暴力或仇恨行為有道德、政治、邏輯或其他使此類行為可以接受或合理的理由，藉以合理化此類行為或為其辯護」，或「將指定實體的暴力或仇恨行為描述為或譽為一種成果或成就」。更廣泛地來說，Meta 在其政策更新中表示，「若用戶並未清楚說明其意圖」，將會「移除不明確或無背景資訊的提及內容」。此政策列明，其中將包括「未美化指定實體暴力或仇恨行為之不明確的幽默和無說明文字或正面的提及內容」。然而，此政策並未提供範例說明會違反此規則的貼文類型。Meta 已通知監察委員會，該公司會繼續移除所有以「shaheed」指稱指定人物的內容。針對這類提及內容，該公司假定「shaheed」在所有情境下皆違規，基本上會造成當該字詞用於指稱指定人物時會遭到全面封鎖。若想瞭解這項禁止措施的部分範圍，可以參考上述美國指定實體清單；但 Meta 政策禁止以「shaheed」（或任何其他「martyr」（烈士）一詞的翻譯）指稱其衍生清單中的所有個人（及組織的成員），包括各大洲的實體，不限於恐怖組織或特定意識形態的組織。

5.該公司說明「shaheed」一詞有「尊敬」的意思，不同文化、宗教和語言的許多社群都會使用這個詞。該公司確知這個字詞有「多種意思」，且「用來描述他人意外身亡或英年早逝，有時候則是描述光榮而死，像是在意外、衝突或戰爭中喪生的人」。Meta 表示，雖然「英文裡沒有與該字詞直接對應的文字」，但一般的英文翻譯會是「martyr」（烈士）」。在 2023 年 12 月政策變更前，在傳送給監察委員會的要求中，Meta 表示「我們假定該字詞是『martyr』（烈士）的意思」，而且「這是因為我們已根據 [危險組織和人物] 政策，將 [『shaheed』] 一詞的使用歸類為構成讚揚」。在公開的《社群守則》中，此規則的唯一參考資料就是一個可能違反禁止讚揚措施的詞語範例。除了其他範例之外，Meta 納入一個稱呼已定罪的美國恐怖份子為「martyr」（烈士）的詞語。在此政策的阿拉伯文版本中，Meta 使用相同的範例，將「martyr」翻譯為「shaheed」。在 2023 年 12 月更新公開的《社群守則》中，「martyr」／「shaheed」的範例已移除，雖然 Meta 已通知監察委員會，該字詞仍被視為違規，且審查人員受指示移除該字詞。

6.Meta 並未針對使用「shaheed」指稱指定人物的這個情境，套用危險組織和人物政策例外情況。這些例外情況另外允許「報導、中立地討論或譴責」指定人物。移除含有「shaheed」作為對指定人物之「讚揚」的內容，會讓用戶留下嚴重「違規紀錄」，累積嚴重違規紀錄會加快受到制裁速度，例如帳號或粉絲專頁停權或停用。公開的《社群守則》並未說明「shaheed」為何不適用於此規則的例外情況。

7.Meta 解釋其對「shaheed」的處置方式能促進其提升用戶安全的價值理念，因為就 Meta 的觀點來說，這則內容可能有「造成現實世界傷害的風險」。同時，Meta 確知英文字「martyr」並不是「shaheed」的適當翻譯。考慮到「shaheed」的多種意思，以及考量大量內容的情境和用戶意圖，Meta 接受它移除了「沒有造成傷害風險，且未意圖讚揚指定人物的言論，尤其是阿拉伯文發言者的言論」。舉例來說，移除將「shaheed」用於新聞報導或中立地討論指定人物死於非命的內容，而不是用於讚揚（或美化）他們或其行為的內容。

8.在 2023 年 8 月 29 日，Meta 更新了危險組織和人物政策容許差別，以涵蓋「新聞報導」、「中立討論」和「譴責」的定義，以及各例外情況的參考範例。同時，Meta 擴大對此容許差別的說明，以認可用戶得「在社會和政治論述中」指稱指定實體。在 2023 年 12 月政策更新後，允許內容的參考範例已全部移除，雖然容許差別本身仍保留。在 2024 年 2 月 8 日政策更新，重新放入了參考範例。然而，無論在 2023 年 12 月或 2024 年 2 月皆未明確敘述，在不明確或無背景資訊的情況下指稱指定人物或組織，並不適用這些例外情況，因為定義這些例外情況時，缺少考量貼文本身清楚顯露的意圖。

9.Meta 在 2020 年啟動政策制定程序來重新評估對「shaheed」一詞的處理方式，包括研究探討和利害關係人諮詢。Meta 重視此次利害關係人議合的結果，他們發現「shaheed」的意思會因情境而不同，「在某些情況下，該字詞與讚揚之間的關聯並不顯著」。同時，確實沒有將「shaheed」用於和理解為讚揚指定人物的實例。從本質上來說，要判斷單一貼文的意圖差異相當不容易，尤其是大量的貼文。在此程序中，如其要求所列，Meta 找出兩個可能替代現行「shaheed」處理方式的政策選項。然而，利害關係人之間未能取得共識，無法選出較合適的選項，而 Meta 也未草率選定新方法。該公司強調，他們平台上的內容數量龐大，因此實務上的主要考量在於任何修訂後政策的政策執行是否能涵蓋大量內容。

III.Meta 要求監察委員會考量的政策變更

10.在以「美化」和「不明確的提及內容」禁止措施來替換「讚揚」禁止措施前，Meta 將以下政策選項呈交給監察委員會考量：

1）繼續依據危險人物和組織政策，移除所有使用「shaheed」指稱指定危險人物的內容。

2）在滿足以下條件的情況下，允許以「shaheed」指稱指定人物的內容：（i）用於危險人物和組織政策允許的情境之下（如譴責、新聞報導、學術辯論、社會和政治論述）；（ii） 未額外讚揚、代表或實質支持指定人物（例如，貼文未明確讚揚恐怖攻擊的加害者，或是將他們的暴力行為合理化）；以及（iii）內容未顯現暴力跡象。Meta 提出以下跡象：軍械的外觀描述；意圖或倡議使用或攜帶軍械／武器的陳述；提及軍事用語；提及縱火、搶劫或其他破壞財產之行為；提及已知的現實世界暴力事件；陳述意圖、號召行動、代表、支持或提倡對他人採取暴力行為。

3）唯有在內容額外讚揚、代表或支持指定危險人物或顯現暴力跡象時，才依據 Meta 的危險組織和人物政策，移除使用「shaheed」來指稱指定危險人物的內容。這些跡象與第 2 項所列的相同。

11.第 2 項和第 3 項皆試圖要更能依據情境理解「shaheed」的使用情形，且似乎並未偏離預期結果太多。由於 Meta 針對普遍的讚揚（現稱為「美化」）禁止措施擴大了情境式例外情況的適用範圍，讓這兩個選項看起來更為相似（請見上方第 8 項）。在詢問 Meta 這兩個選項的適用情形和結果差異之後，就監察委員會所瞭解，關鍵差異在於第 2 個選項會要求 Meta 找出並確認適用於該內容的一個例外情況（報導、中立地討論、譴責），而第 3 個選項則會略過該步驟，只考量該貼文是否有額外的讚揚（現為「美化」或「不明確的提及內容」）或列出的六種暴力跡象中的任何一種。針對 Meta 提議的所有選項，若任何指名或描述指定危險人物之內容的含糊不清或意圖不明確，就會預設根據此政策依違規處置，從而將清楚說明意圖的負擔加諸於用戶。2023 年 12 月的變更將此適用情形納入危險組織和人物相關《社群守則》，說明針對等級 1 的實體和指定事件，此政策禁止「不明確或無背景資訊的提及內容」，包括「未美化指定實體暴力或仇恨行為之不明確的幽默、無說明文字或正面的提及內容」。舉例來說，若指定人物的相片不含任何其他文字或評論，就會根據禁止不明確提及內容的政策而遭到移除，因為該用戶的意圖並未充分明示。

12.雖然監察委員會考慮了 Meta 提議的選項，但也考慮了其他選項，並將 2023 年 12 月的政策變更納入考量。除此之外，由於 Meta 提出要求，直接請監察委員會提供未來應對類似挑戰的政策建議，因此監察委員會在此政策諮詢意見中針對顯而易見的區域，評估了與 Meta 政策執行和資訊透明度措施相關聯的議題，但這些議題也牽連到表達自由和其他更廣泛的人權問題。

IV.監察委員會向 Meta 詢問的問題

13.監察委員會以書面向 Meta 詢問了 41 個問題。問題是關於危險組織和人物相關《社群守則》背後的政策宗旨、允許「讚揚」出現在 Meta 平台上可能造成傷害的證據、Meta 的人工和自動化政策執行程序、Meta 的指定實體程序和指定實體清單、Meta 的違規紀錄系統，以及實際採用第 2 或 3 個政策選項可能造成的影響。2023 年 10 月，監察委員會提出後續問題，問題是針對「shaheed」一詞的內容趨勢（與 10 月 7 日針對以色列的恐怖攻擊和以色列持續的軍事回應相關），以及針對呈交給監察委員會的要求中的政策選項，Meta 是否因為現在的危急事件而變更了對這些政策選項的分析。監察委員會針對 Meta 在 2023 年 12 月 29 日發佈的政策變更提出了三個額外問題。Meta 總共答覆了 40 個問題，其中 1 個問題未完整答覆。Meta 僅提供等級 1 指定實體的清單給監察委員會，但未分享等級 2 和 3 的實體，該公司解釋「讚揚」僅禁止用於指稱等級 1 的實體。

2.利害關係人議合

14.監察委員會收到了 101 則公眾評論，已滿足上呈審查的條件。總共 72 則評論來自美國和加拿大；其中 15 則來自中東和北非、8 則來自歐洲、3 則來自亞太地區和大洋洲、2 則來自拉丁美洲和加勒比海地區，其餘 1 則來自中亞和南亞。全部都在 2023 年 4 月 10 日前收到。若要閱讀提交時同意公佈的公開評論，請點擊這裡。

15.提交的內容涵蓋多項議題。許多提交內容解釋「shaheed」一詞的多種意思，以及因為 Meta 將這個字詞預設視為「讚揚」的處理方式，對自由表達（尤其是政治言論和人權相關文件）造成的負面影響。提交內容也提到對於在政策執行時使用自動化系統的疑慮，同時也擔憂 Meta 的指定實體清單、資訊透明度問題和指定實體階段的潛在偏見。其他提交內容表示擔憂政策變更可能導致恐怖主義團體的正常化和暴力事件增加，尤其在以色列和被佔領的巴勒斯坦領土。

16.監察委員會針對西南亞和北非、撒哈拉以南非洲和東南亞舉辦了三場區域利害關係人圓桌會議。另外舉辦了兩場特定領域的圓桌會議，一場是針對內容審核的自動化系統，另一場則是針對反恐怖主義和人權。與會者強調「shaheed」一詞有多種意思。殉難是其中一種可能的意思，包括用於指個人在從事恐怖主義行為時死亡，但「shaheed」也常常用於其他情境，例如描述在這些攻擊中遭受暴力對待的受害者。包括受影響的社群成員、反恐怖主義專家和內容審核專家等在內的許多與會者表示，他們擔憂政策有所偏頗，並討論這會對自由表達造成怎樣的負面影響，尤其是對阿拉伯文發言者和其他使用「shaheed」的社群。其他主題包括缺少證據能顯示以「shaheed」來指稱指定人物與現實世界傷害之間的因果關係，國家安全和反恐怖主義專家也同聲強調這一點。同樣地，也有與會者擔憂若完全不審核這個字詞，會讓指定人物及其組織正常化，進而可能使用社群媒體招募新血和尋求其他形式的實質支持。進一步的主題包括對於 Meta 用於審核含有該字詞之內容的自動化系統品質感到擔憂，與會者呼籲提供更多資訊來說明該字詞的用途，以及 Meta 的指定實體清單和指定實體程序。

17.若要查看我們的利害關係人議合圓桌會議，請點擊這裡（若要查看阿拉伯文版本，請點擊這裡）。

3.監察委員會相關職權及其涵蓋範圍

18.Meta 得向監察委員會要求政策諮詢意見（章程第 3 條第 7.3 節），而監察委員會會斟酌要接受或拒絕 Meta 的要求（規章制度第 2 條第 2.1.3 節）。這些為諮詢意見（章程第 3 條第 7.3 節）。Meta 必須在公告的 60 天內回覆此意見（規章制度第 2 條第 2.3.2 節）。監察委員會將監督 Meta 承諾進行之建議的實施狀況，並得追蹤其案例裁決中任何先前提出的建議。

4.權力來源和準則

I.先前的監察委員會建議

19.在先前的案例中，監察委員會建議 Meta 清楚說明並限縮危險組織和人物政策的範圍，並且改善政策執行的正當程序與資訊透明度。

20.關於讓政策更清楚明瞭和限縮政策範圍，監察委員會建議 Meta 採取以下措施：

• 在給審查人員的「已知問題」指引中限縮「讚揚」的定義（在新聞報導中提及塔利班，建議 3）。
• 修改其內部指引，以清楚說明危險組織和人物政策中的「報導」容許差別允許報導中出現有關指定實體的正面陳述，以及如何分辨允許和禁止的「讚揚」行為（在新聞報導中提及塔利班，建議 4）。
• 在其政策中新增標準並舉例說明，以便用戶更加瞭解「以中立角度討論」、「譴責」和「新聞報導」等例外情況（被分享的半島電視台貼文，建議 1）。
• 更新政策宗旨，以便反映尊重表達自由和其他人權可以促進 Meta 維護用戶安全的價值理念；以及更詳細地說明當「表達意見」的價值理念受到壓迫時，此政策試圖預防和遏止的「現實世界的傷害」（奧賈蘭的隔離監禁，建議 4）。
• 說明用戶如何清楚說明其貼文背後的意圖，以便貼文適用於政策例外情況（奧賈蘭的隔離監禁，建議 6）。
• 提供危險組織和人物政策中包括「讚揚」等關鍵字詞的適用範例，並加以說明，以提供清楚的指引，讓用戶瞭解如何讓自己的意圖顯而易見（納粹引述，建議 2）。

21.關於 Meta 的違規紀錄系統，監察委員會建議 Meta 採取以下措施：

• 以清楚、詳盡且易於取得的方式，說明有關限制 Facebook 和 Instagram 個人檔案、粉絲專頁、社團和帳號的記錄違規和處分作業流程（美國前總統川普帳號遭停權，建議 15）。
• 讓雙軌制違規系統的公開說明更詳盡且易於取得，提供更多「嚴重違規紀錄」的背景資訊（在新聞報導中提及塔利班，建議 2）。
• 提供用戶易於取得的資訊，告知他們針對其帳號完成評估的違規情形、停權和處分數量，以及日後違規將受到的處分（美國前總統川普帳號遭停權，建議 16）。

22.關於資訊透明度，監察委員會建議 Meta 採取以下措施：

• 公開地分享指定實體清單，或至少提供指定實體的參考範例（納粹引述，建議 3）。
• 改善政策執行報告，方法是納入個人檔案、粉絲專頁和帳號限制數量（除了內容移除處置之外），並將資訊依國家／地區細分（美國前總統川普帳號遭停權，建議 17）。
• 在報告中提供更完整的資訊，說明執行「讚揚」及「支持」危險人物和組織相關規則的錯誤率，並依地區和語言細分。（奧賈蘭的隔離監禁，建議 12）。
• 針對各《社群守則》增加關於錯誤率的公開資訊，並讓大眾能依國家／地區和語言檢視這些資訊（旁遮普媒體對印度 RSS 組織的擔憂，建議 3）。

23.關於自動化系統，監察委員會建議 Meta 採取以下措施：

• 採用自動化系統對用戶的內容採取強制措施時，應向用戶清楚告知，包括提供易於取得的內容說明（乳癌症狀和裸露，建議 3）。
• 擴大資訊透明度報告的範圍，以公開依《社群守則》做出的自動移除處置數量，以及這些處置在經過人工審查後被撤回的處置比例（乳癌症狀和裸露，建議 6）。
• 在其資訊透明度報告中發佈誤納入違規內容媒體配對服務庫之內容的錯誤率，並按各內容政策細分。這項報告應包括內容如何納入庫中的資訊，以及該公司為減少過程中之錯誤所做的努力（哥倫比亞警方卡通，建議 3）。
• 提供自動化系統優先順序排定和申訴案件披露的公開說明（伊朗抗議標語，建議 7）。

24.若要查看這些先前建議在此意見完成時的實行狀態，請點擊這裡（若要查看阿拉伯文版本，請點擊這裡）。

II.Meta 的價值理念和人權責任

25.監察委員會在此政策諮詢意見中提供的分析和建議，係基於 Meta 的價值理念和人權責任。

26.Meta 將「表達意見」描述為「核心」價值理念，並認為「表達意見」在涉及另外四項理念時應有所限制，就此政策諮詢意見來說，其中最相關的是用戶安全。為了保護「用戶安全」價值理念，Meta 會「移除可能對他人的人身安全造成傷害風險的內容」。Meta 也不允許「威嚇他人的內容」，因為這類內容「可能會使他人覺得受到威脅、排除或不敢表達意見」。

27.2021 年 3 月 16 日，Meta 宣佈《企業人權政策》，於其中概述該公司依循《聯合國工商企業與人權指導原則》（UN Guiding Principles on Business and Human Rights，UNGPs），體現尊重權利的承諾。聯合國人權理事會於 2011 年通過的《聯合國工商企業與人權指導原則》，為私人企業的人權責任建置了自願性架構。這些責任意味著公司「應避免侵犯其他人的人權，並應在自身捲入時，消除負面人權影響」等等（《聯合國工商企業與人權指導原則》，原則 11）。公司應該：「（a）避免透過其本身活動造成或加劇負面人權影響，並消除已經產生的影響；（b）努力預防或緩解經由其商業關係與其業務、產品或服務直接關聯的負面人權影響，即使並非他們造成此類影響」（《聯合國工商企業與人權指導原則》，原則 13）。

28.如 Meta 向監察委員會提出的要求所承認，其內容審核措施對表達自由造成負面影響。《公民與政治權利國際公約》（ICCPR）第 19 條第 2 項提供對這項權利的廣泛保護，因為這項權利對政治論述很重要，而且人權事務委員會表示，《公民與政治權利國際公約》也保護可能具有高度冒犯性的表達言論（第 34 號一般性意見第）11、13 和 38 項）。若某國家／地區要限制表達自由，必須符合合法性、正當目的的必要性和相稱性等要求（ICCPR 第 19 條第 3 項）。這些要求通常稱為「三項檢驗」。監察委員會係使用此架構來解讀 Meta 的自願性人權承諾，既針對審查中的個別內容處置，也針對 Meta 更廣泛的內容管理作法。如同聯合國意見和表達自由特別報告員所表示，雖然「公司企業沒有和政府相同的義務，但公司企業的影響力使它們必須評估和政府面臨的相同問題以保護其用戶的表達自由權」（報告 A/74/486 第 41 項）。

29.人人皆獲得保證能平等享有表達自由權。對這項權利的任何限制不得歧視，包括根據宗教或信仰、使用的語言或國籍（ICCPR 第 2 條和第 26 條）。

合法性（清晰易懂且易於取得的規則）

30.對表達自由的任何限制在範圍、意義和效力方面均應足夠清晰易懂且易於取得，以引導用戶和內容審查人員瞭解允許或禁止的內容為何。若缺乏明確性或精準度，則可能會導致政策執行時出現不一致和獨斷之情況（聯合國言論自由特別報告員的專題報告 A/HRC/38/35 第 46 項）。監察委員會先前批評危險組織和人物政策不夠清楚明確，並建議 Meta 改善其政策（奧賈蘭的隔離監禁，建議 4 和 6；被分享的半島電視台貼文，建議 1；在新聞報導中提及塔利班，建議 3 和 4）。Meta 隨後實行監察委員會的建議，闡明其 對於「讚揚」的定義。

31.然而，Meta 在 2023 年 12 月對危險組織和人物政策的更新，卻引起了新的合法性疑慮。雖然 Meta 提供違反「代表」、「支持」和「美化」禁止措施的貼文範例，但並未提供違反「不明確的提及內容」的範例。監察委員會在此政策諮詢意見中提供建議，旨在讓 Meta 的規則更清晰易懂且易於取得。

正當目的

32.ICCPR 第 19 條第 3 項表示，對表達言論的任何限制必須符合正當目的，包括保護他人權利，以及國家安全等更廣泛的社會利益（請見第 34 號一般性意見第21 和 30 項）。Meta 危險組織和人物相關《社群守則》的政策宗旨說明，其試圖「預防和遏止現實世界的傷害」，而監察委員會發現在不同案例中，此政策宗旨符合保護他人權利（包括生命權）的正當目的（ICCPR 第 6 條）。監察委員會先前也認同，對指定實體的讚揚可能有傷害他人權利的風險，並且試圖透過危險組織和人物相關《社群守則》中的讚揚禁止措施來減緩這些傷害，是有正當目的（在新聞報導中提及塔利班）。

必要性和相稱性

33.針對表達自由的任何限制都「必須適合於實現保護功能；必須是可用來實現預期結果的諸種手段中侵犯性最小的一個；必須與要保護的利益相稱」（第 34 號一般性意見第 34 項）。

34.聯合國安全理事會第 1624 號決議（2005 年）呼籲各締約國（如有必要且適當），並根據國際法規定之義務，「依法禁止煽動從事恐怖行動」（第 1a 項），且後續決議表達了對恐怖組織使用網路一事感到擔憂（聯合國安全理事會第 2178 號決議（2014 年）和聯合國安全理事會第 2396 號決議（2017 年）。）雖然這些決議重申，締約國應該處理和預防恐怖主義，以善盡國際人權法規定的義務，但負責反恐怖主義暨促進及保護人權和基本自由問題的聯合國特別報告員表示，他擔憂試圖實行其義務的法律模糊不清，包括網路表達言論的相關法律；以及法律著重於言論的內容，而非發言者的意圖或該言論對他人的影響（報告 A/HRC/40/52 第 37 項）。特別報告員總結，若要將宣揚恐怖主義的內容判定為非法，「以下事項須達到合理的發生機率：問題表達言論成功煽動恐怖行動，並因此出現一定程度的因果關係或發生遭禁止之結果的實際風險」（同上）。聯合國表達自由權問題特別報告員的《網路和反恐怖主義措施的聯合聲明》、歐洲安全暨合作組織媒體自由代表和美洲國家組織對於言論自由的特別報告員表示，從 2005 年 12 月 21 日起，若未清楚顯示問題言論構成直接和蓄意號召他人參與恐怖行動，並直接增加恐怖行動發生的機率，則締約國不得採取懲罰措施來限制和制裁言論。（第 39 頁）。表達自由權問題特別報告員所提交的專題報告 A/HRC/17/27（2011 年 5 月 16 日，第 36 項）也設定了一個高門檻，表示表達言論應該僅在以下時機，因國家安全或反恐怖主義目的而受到限制：（a）表達言論旨在煽動立即的暴力行為；（b）可能煽動這類暴力行為；以及（c）表達言論和這類暴力行為的發生機率有直接且即時的關聯」。根據人權事務委員會的說法，反恐怖主義措施會限制特定言論，例如「鼓勵」、「美化」和「讚揚」等字詞都必須「精確定義」，且「媒體在向大眾告知恐怖行動方面發揮關鍵作用，不應對其施加過度限制」（第 34 號一般性意見第）30 和 46 項）。

35.雖然這些原則和標準是監察委員會分析的重要基礎點，但國際人權法施加於締約國的義務和限制，與私人公司在這方面可能有的責任和裁量權，並不完全相同。締約國施行的犯罪制裁並不等同於在社群媒體平台上審核內容，且考慮到 Meta 的價值理念（請見上方第 27 - 28 項）及大規模審核內容的獨特挑戰，監察委員會認可作為私人公司而非締約國的 Meta 能夠且有時候確實對表達言論採取的作法，比締約國採取的合理作法更為嚴格。根據聯合國表達自由權問題特別報告員所提交的專題報告：「若公司規則不符合國際標準，公司應事先對政策差異作出合理的解釋，並明確說明差異」（表達自由權特別報告員所提交的網路仇恨言論專題報告，A/74/486，2019 年 10 月 9 日，第 48 項）。在先前許多裁決中，監察委員會在評估相稱性要求時，曾探討如何將適用於締約國的國際標準適當地轉化成公司的人權責任，並且也試圖透過此政策諮詢意見做到這件事。

36.與危險組織和人物相關《社群守則》有關的先前監察委員會裁決也審視了 Meta 對於「讚揚」指定實體的人權責任。雖然遏止試圖煽動暴力行爲、招募新血或參與任何形式之實質支持的指定實體濫用 Meta 平台是正當目的，但監察委員會發現在許多實例中，「讚揚」禁止措施的廣泛或不精確程度對用戶的表達言論加諸不必要且不相稱的限制。舉例來說，監察委員會發現烏爾都文報社發佈關於塔利班公告計畫重新開放婦女受教育的貼文並不是「讚揚」，因此推翻了移除該貼文的處置（在新聞報導中提及塔利班）。監察委員會同樣推翻了 Meta 因為某位用戶在貼文中引用了一段被誤認為出自 Joseph Goebbels 的言論而移除該貼文的處置（納粹引述），因為有充分的背景資料可清楚瞭解該貼文不是在讚揚納粹意識形態，而是在參與美國的政治討論。監察委員會也推翻 Meta 移除一則分享半島電視台新聞報導（關於指定恐怖團體的暴力威脅）之貼文的處置，該貼文應該保留顯示在平台上，這不禁令人擔憂 Meta 的政策可能帶來的歧視性影響（被分享的半島電視台貼文）。在摘要和快速裁決中，監察委員會也推翻或鼓勵推翻 Meta 一開始因某些 Facebook 和 Instagram 貼文讚揚指定人物而將其移除的幾項處置（反殖民領袖 Amílcar Cabral；黎巴嫩社會運動人士；對反猶太主義的回應；奈及利亞的聯邦選區；阿富汗女童的教育；提及青年黨；讚美真主；以及遭到挾持的以色列人質）。雖然 Meta 最近變更了危險組織和人物政策，但這些裁決中的大多數仍然適用。監察委員會將繼續在未來的案例中審視此政策，包括關於美化和「不明確的提及內容」的新條文。

6.建議和分析

37.監察委員會針對內容政策、政策執行和資訊透明度向 Meta 提出七項建議。監察委員會認為這些建議可大規模實行，且將促進 Meta 貫徹其「發表意見」和「用戶安全」的價值理念，同時也增加其對表達自由和其他人權的重視，以及提升資訊透明度。

6.1 Meta 的「Shaheed」政策

建議 1 – 內容政策相關建議：Meta 應該停止假定該字詞「shaheed」在用於指稱指定人物或指定組織的不知名成員時，一概違反政策且不符合政策例外情況的適用資格。針對以「shaheed」指稱指定人物的內容，只能在兩種情況下將該內容作為「不明確的提及內容」而移除。第一，出現三個暴力跡象中的一個以上跡象：軍械／武器的外觀描述、意圖或倡議使用或攜帶軍械／武器的陳述，或指稱指定事件。第二，內容以其他方式違反 Meta 的政策時（例如，為了美化；或因為使用「shaheed」之外的其他理由，而仍以不明確的方式指稱指定人物）。在任一情況下，內容都應該仍符合「報導、中立地討論和譴責」例外情況的適用資格。

若 Meta 公開地更新其《社群守則》，並清楚說明當出現三個列出跡象的其中一個或以上跡象，不允許以「shaheed」指稱指定人物，監察委員會將視為已實行這項建議。

建議 2 – 內容政策相關建議：為了清楚說明對「不明確的提及內容」的禁止規定，Meta 應該納入幾個違規內容範例，包括符合以下條件的貼文：以「shaheed」指稱指定人物，並出現第 1 項建議所列出的三個暴力跡象中的一個以上跡象。

Meta 公開更新其《社群守則》並附上「不明確的提及內容」範例後，監察委員會將視為該公司已實行此項建議。

建議 3 – 政策執行相關建議：Meta 的內部政策指引應該也更新，以澄清以「shaheed」指稱指定人物並不算違規，除非伴隨暴力跡象；而且就算出現這些跡象，該內容可能仍適用於「報導、中立地討論或譴責」例外情況。

Meta 更新給審查人員的指引，允許「shaheed」適用於報導、中立地討論或譴責例外情況監察委員會，並與監察委員會分享修改後的指引，監察委員會將視為該公司已實行此項建議。

38.儘管 Meta 的迫切要務是試圖避免其平台備用於煽動恐怖暴力行動（這也是其內容審核政策中的一項正當目的），但 Meta 的人權責任要求對於表達言論的所有限制皆須符合必要性和相稱性，尤其是僅尊重受暴力影響之社群成員的發聲權。雖然「shaheed」的其中一個意思確實對應到英文字「martyr」（烈士）並以該定義使用，監察委員會認為 Meta 僅因為在指稱指定人物時使用「shaheed」一詞，就移除所有內容，不符合必要性或相稱性。這是因為武斷的禁止措施無法應付該字詞的語言複雜度，所以導致過度移除言論、過度限制媒體自由和公民空間，並且對平等和無歧視有嚴重的負面影響。此外，假使 Meta 接受並實行這項建議，Meta 更普遍禁止「美化」和「不明確的提及內容」的政策詳細資料將繼續適用。Meta 應該會因此停止僅根據出現「shaheed」一詞就移除內容。Meta 應該會改為採用更能依據情境判斷的作法，並清楚且精確地定義會導致「shaheed」被解讀為傷害性字詞的暴力跡象。如下所述，在 Meta 於要求中所提議的六個跡象中，監察委員會僅完全認可其中兩個，並建議限縮第三個跡象的定義。Meta 提議的其餘三個跡象也是提供給執行個別暴力和煽動仇恨政策之審查人員的指引，而對危險組織和人物政策的目的來說，這三個跡象太過廣泛。同時，監察委員會建議 Meta，當內容出現暴力跡象時，針對報導、譴責或中立地討論指定實體的內容套用例外情況。上述建議適用於「shaheed」的單複數型態及「shaheed」在採用此字詞之多種語言的變體。

39.監察委員會諮詢了專家和利害關係人，以評估若允許在 Meta 平台上使用「shaheed」來指稱指定實體，可能造成的傷害。部分利害關係人擔憂 Meta 的平台助長恐怖份子的宣傳和招募力道，以及鼓勵歧視或暴力行為，包括針對猶太人（請見公眾評論，例如 PC-11123 – CyberWell Ltd；PC-11153 – Stop Antisemitism Now；PC-11194 – Committee for Accuracy in the Middle East；PC-11068 – Canadian Antisemitism Education Foundation）。雖然沒有研究顯示「shaheed」和這類暴力或歧視行為增加之間有任何具體因果關係（如先前在 Meta 轉介資料的第 10 頁提及，且 Meta 在要求此政策諮詢意見之前進行的專家和利害關係人議合也持續追蹤），但有個別案例將對殉難的渴望連結到暴力行為。更概括來說，越來越多人擔心暴力組織可能利用社群媒體來招募新血和宣傳從事恐怖行動、使恐怖主義正常化，以及助長極端主義。監察委員會進行了大量的利害關係人議合和專家諮詢，包括與反恐怖主義專家的圓桌會議（請見利害關係人圓桌會議），證實了這些假設和擔憂。

40.許多專家和利害關係人提交內容給監察委員會，其中也描述了移除使用「shaheed」一詞之內容對表達自由造成的負面影響（請見公眾評論，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX、PC-11183 ECNL EFF、PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation）。這包括移除使用「shaheed」一詞報導恐怖份子或其他指定組織的暴力行為的言論，或參與關於指定人物的中立政治或學術討論的言論，而非用於讚揚或美化指定實體的言論。

41.請參考以下範例，以瞭解當以「shaheed」指稱指定人物的內容遭移除時，Meta 所採取的作法：

• 某個政府機關在 Meta 的平台上分享了一則確認某個指定人物死亡的新聞稿，並在稱呼其姓名時使用表示尊敬的「shaheed」一詞。這則貼文被移除是因為 Meta 假定「shaheed」一詞違規，不顧貼文情境指出這是中立討論的事實。
• 一位用戶分享了一張正在參與的抗議活動的相片，卻未提供清楚的說明文字說明抗議活動的目的。幾個告示牌以「shaheed」稱呼逝世的指定人物。這則貼文被移除是因為 Meta 假定含有稱呼指定人物之告示牌及「shaheed」一詞的圖像，係屬違規。
• 一位人權捍衛者分享一則貼文，該貼文含有該國草率處決某位指定人物的說明、以「shaheed」指稱該人物，並譴責某政府的反恐怖主義政策。這則貼文被移除是因為 Meta 假定「shaheed」一詞違規，不顧報導情境。
• 一位擔憂的社群成員發佈了一則有關當地道路狀態的抱怨，這條路是以指定人物命名並含有表示尊敬的「shaheed」一詞。這則貼文被移除是因為 Meta 假定「shaheed」一詞違規，不顧提及該指定人物是討論當地事務的附帶內容。
• 一位家庭成員以「shaheed」指稱一位死於恐怖攻擊的親友，並譴責屬於指定人物的攻擊者。雖然這則貼文並未違規，但根據 Meta 的武斷作法，在加害者也被提及的情境中同時使用「shaheed」一詞，為該內容招致錯誤的移除處置。

42.部分利害關係人表示他們擔心，若對「shaheed」的使用採取較寬鬆的限制作法，可能會造成正常化恐怖主義的大規模累積效應。雖然在部分案例中，「shaheed」無庸置疑地意圖且確實構成一種認同或支持某人及其暴力行為，但監察委員會認為該政策基於這些理由而全面封鎖該字詞，並不合理。有鑒於監察委員會從利害關係人（包括反恐怖主義專家和 Meta 的先前研究和利害關係人諮詢）收到的資訊，監察委員會表示，比起這類案例可能有大量累積有害效應的可能性，監察委員會更擔心現行表達自由政策所帶來的極為具體的負面影響。尤其是因為即使 Meta 實行了監察委員會的建議，該公司仍設有重要的防範原則，以促進預防因允許恐怖份子及其支持者自由使用 Meta 的平台所造成之暴力和其他傷害的目標。

43.監察委員會也認為「shaheed」有多種意思，且通常不會用於煽動暴力或仇恨，而是報導公眾利益相關議題。執行全面封鎖表示會移除許多內容，即使該內容並不會造成 Meta 政策試圖減緩的傷害。雖然大規模審核內容有時候必須接受一定比例的政策執行錯誤，但 Meta 有責任依據其所有人權責任來權衡取捨。根據所有這些考量，監察委員會得出了結論，也就是其提議的作法最符合 Meta 的一切人權責任。

「shaheed」的文化和宗教重要性與意思的多樣性

44.「Shaheed」是文化上和宗教上的重要字詞，用於許多不同情境且有多種意思。提交給監察委員會的公眾評論，以及監察委員會委託進行研究，皆為此字詞提供了更深入的分析資訊。「Shaheed」可以指「見證」和「證實」，也可以作為伊斯蘭教的名字，而在包括西亞和北非等部分地區，也可作為姓氏（請見公眾評論，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX）。「Shaheed」也用於指稱在盡宗教義務時死亡者。在武裝衝突或暴力攻擊（包括指定組織牽涉其中的事件）中，人們有時候會悼念暴力行為和恐怖主義的受害者，並以「shaheed」指稱他們（請見公眾評論，例如 PC-11164 – SMEX；PC-11197 由紐西蘭政府提出，認可將基督城槍擊案的受害者稱為「shuhada」，也就是「shaheed」的複數型態；PC-11196 來自 Integrity Institute，強調在部分國家／地區，弱勢穆斯林社群（包括羅興亞人）會將因宗教或信仰迫害而被逐出緬甸的難民稱為「shaheed」）。監察委員會委託 Memetica 針對已發佈且保留在 Meta 平台上的貼文進行量化研究，而該研究指出，「shaheed」被廣泛用於指稱在為國家服務或實踐理念時死亡者，或是社會政策暴力或自然災害的意外受害者。雖然這些貼文並不一定將「shaheed」連結到指定人物，但先前引用的範例（請見第 41 項）說明「shaheed」有多少意思和用途也與所處情境有關。

45.在 2023 年 10 月，哈瑪斯對以色列發動的恐怖攻擊，隨後以色列在加薩展開軍事行動；在這之後，監察委員會委託針對使用「shaheed」的內容趨勢進行研究。這次研究分析審查了超過 12,000 則貼文，其中只有兩則支持哈瑪斯。幾乎所有用戶都提到加薩走廊的巴勒斯坦人傷亡數，但並未提到任何指定組織或人物。貼文包括巴勒斯坦人哀悼逝去親友，有些則呈現受傷的巴勒斯坦孩童，以及／或者加薩遭受空襲後的慘況。由於研究人員可取得的內容趨勢限於保留在 Meta 平台上的公開內容，且不包括因違反危險組織和人物政策而遭 Meta 移除的內容，因此向 Meta 詢問了額外問題。Meta 的回覆證實了此研究的結果。以該公司的觀點來說，以危急事件發生前相比，事件發生期間的內容趨勢並未顯示出對「shaheed」一詞的使用或理解有任何改變。

46.這些不同意思指出，Meta 預設「使用『shaheed』係屬違規且導致現實世界的傷害，因此應該一概移除」的假定，將全球成本加諸於自由表達，因此必須處理。Meta 解釋「shaheed」可能是其平台上受到最嚴格審核的字詞，且不同利害關係人觀察到，報導指定實體和暴力行為的內容常常被 Meta 移除（政策諮詢意見要求，第 3 頁）。這項「shaheed」處理作法是一項範例，說明該公司優先處理明顯的大規模政治執行差異。雖然原則上來說，由於差異有時候可能是適當的，大規模的內容審核往往意味著難以權衡取捨，但監察委員會做出了本案例的結論，也就是預設與指定人物相關聯的「shaheed」必須一概移除的假定並不合理，且必須捨棄。Meta 也承認，其作法在以下兩方面無法準確地將語言和文化情境納入考量，並造成大量政策執行過當。第一，其作法造成未意圖讚揚或美化、但卻違反政策的內容遭到移除，因為 Meta 選擇將「shaheed」假定為一概違規。第二，其作法讓使用「shaheed」並與非指定人物相關聯之內容誤遭移除的比率更高，因為這確立了武斷作法並阻礙以更多背景資訊為根據的評估。

47.儘管「shaheed」有不同意思，監察委員會表示先前納入 Meta 危險組織和人物中「讚揚」禁止措施的範例，並未考量不同市場的情境，且那些範例的翻譯過於簡化、直接。在《社群守則》中，唯一與 Meta 對含有「shaheed」之內容的作法的相關指示就是，一個稱呼遭定罪的恐怖份子為「martyr」（烈士）的詞語範例，列於更廣泛說明的讚揚禁止措施下方。同一個範例也用於各種語言，而阿拉伯文版本是翻譯成「shaheed」，但各翻譯字詞的意思卻不一定相同。監察委員會表示這個範例已從 2023 年 12 月的政策更新中移除。雖然這個範例中的翻譯不一定不精確，但使用該單一範例來主張「shaheed」一律等於「martyr」（烈士）並不準確。

48.針對同樣的理由反過來說，監察委員會在此政策諮詢意見中對於「shaheed」的結論不應該自動轉換成「martyr」（烈士）以及該字詞翻成其他語言的所有翻譯。「Martyr」和「shaheed」彼此並非直接相等，而前者在英文中較少語義上的變化，在各個使用英文的地區皆是如此。Meta 必須評估在各種語言中，哪些字詞符合 Meta 對於「美化」的標準，同時謹記此政策諮詢意見中所列的指引。在任何案例中，監察委員會都不會支持全面禁止措施，也就是隔絕和禁止「shaheed」使用於更廣泛的貼文情境中。與監察委員會裁決先例一致，評估這些貼文時應該檢視其整體。此外，與 Meta 的公開政策一致，Meta 應該確保政策例外情況允許用戶在「報導、譴責或中立地討論」指定人物時使用「martyr」（烈士）一詞（以及美化或正面提及內容在其他語言的真正對應字詞）。這點旨在強調以下重點：提供給審查人員的內部指引應根據當地情境調整，並且應審視該語言的獨特性（請見監察委員會在緬甸 Bot（機器人程式）裁決中表達的顧慮，同時也是該案例中建議 1 的依據）。

49.在幾個案例中，監察委員會敦促 Meta 重新權衡取捨，在「可大規模執行的明確規則」與「更著重於政策執行情境，且常常偏向表達自由和用戶發聲權的政策」之間取得平衡（例如尊重有關指定實體的報導，請見在新聞報導中提及塔利班和被分享的半島電視台貼文）。雖然先前的案例並未直接處理「shaheed」的使用情形，但監察委員會已針對「當有人提及指定實體時」的不良意圖假定提出警告（請見納粹引述）。各種不同公眾評論強調，Meta 對於「shaheed」一概等同「讚揚」的假定可能因為審查人員或自動化系統的大規模致誤，而導致對緬懷恐怖攻擊受害者的用戶政策執行過當（請見公眾評論，例如 PC-11164 – SMEX，第 1 頁；紐西蘭政府提出的評論 PC-11197）。移除這類內容甚至可能背離危險組織和人物政策的目的，因為這可能阻礙討論恐怖暴力行為和對抗這類暴力行為背後意識形態的措施（請見例如 PC-11164 – SMEX）。

尊重媒體自由和公民空間

50.監察委員會特別擔憂 Meta 的作法會影響新聞和公民言論。在恐怖份子或其他指定組織的暴力行為較為普遍的地區，以及指定實體掌有領土控制權或以其他方式掌握政治權力的地方，這類影響急迫。各種不同公眾評論都提出這些顧慮（請見公眾評論，例如 PC-11196 – Integrity Institute；PC-11157 – Palestine Institute for Public Diplomacy）。媒體組織和其他評論者在報導指定實體時可能會小心翼翼，因為他們會想避免可能導致嚴重制裁（包括移除粉絲專頁或社團，或停用帳號）的內容移除情事。在部分案例中，這可能難以預測，例如報導針對政府行為者的抗議活動，且民眾在活動中舉牌，展現對被相同行為者殺死的指定人物的支持。語言、文化或宗教傳統慣例可能會規定「shaheed」用於指稱在採取暴力行為等情況下死亡者。

51.務必注意指定實體可能涉及暴力行為的情況複雜度，包括可能符合武裝衝突、反抗外國佔領和公民動亂條件的情況。媒體在報導這些情況時，可能面臨重大挑戰，因為媒體管道必須敏銳掌握當地語言、文化或宗教慣例，且同時遵守 Meta《內容政策》。再加上 Meta 的指定實體清單缺少資訊透明度，而且用戶實際上不知道誰在清單上，更加深了這些顧慮。報導這些情況可能也常常會包括暴力跡象，例如軍械的外觀描述，但這不屬於報導、中立地討論或譴責例外情況的情境，可以作為一項違反政策的判斷指標。因此很重要的是，若實例的內容報導、中立地討論或譴責指定實體，則 Meta 應為該實例套用政策例外情況。

52.禁止措施可能也會讓生活在指定實體管理或掌握政權之情境的用戶，更難以表達自己的看法和批判。為了避免直接衝突和安全風險，處於這些情境中的用戶得以尊敬的態度撰寫評論，而這不應該總是被解讀為讚揚。社群媒體提供重要的辯論論壇，尤其在衝突區域和媒體自由受到限制的國家／地區，因此制裁這類言論特別令人擔憂。

平等和無歧視

53.因為「shaheed」的使用範圍廣泛且極為多變，尤其是阿拉伯文發言者和其他有「shaheed」外來詞之語言的發言者，所以 Meta 的政策對這些社群的影響不相稱。這引發人們極度關注該公司的責任，也就是在用戶行使表達自由權時，尊重所有用戶享有平等和無歧視的權利。這是許多公眾評論的關注重點（請見例如 PC-11183 ECNL EFF、PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation；PC-11196 – Integrity Institute；另請見 BSR 針對 Meta 對以色列和巴勒斯坦之影響的報告）。聯合國開發計劃署（UN Development Programme，UNDP）在「interrupting the journey to extremism」（阻斷極端主義之路）報告中強調，極端主義者暴力行動的關鍵動機為「不平等、排除、缺少機會、受到不公正的對待」，以及其他根本原因。監察委員會擔憂 Meta 的政策作法可能加劇特定社群的邊緣化和排除體驗，甚至與減少暴力行為的目的背道而馳。聯合國開發計劃署強調，關於網路平台上的內容審核，公司應該確保對暴力極端主義產物的防範措施「不會無意間導致對個人的污名化和攻擊」。

干涉度較低的傷害預防手段

54.若要評估政策的必要性和相稱性，也須要分析是否有較寬鬆的手段能達成上述正當目的。若要實行監察委員會在此政策諮詢意見中的建議，Meta 必須停止武斷地移除所有使用「shaheed」來指稱指定人物的內容。此外，使用此字詞的內容仍可能在較狹隘的情境（與傷害的連結較不模糊且更明確）下遭到移除。這些建議能讓 Meta 繼續移除以「shaheed」指稱指定人物且伴隨其他政策違規情形（例如美化或不明確的提及內容）的內容，或包含暴力跡象的內容。這會繼續發揮重要的約束作用，同時減少此政策的負面影響，包括對特定語言和宗教團體的政策執行過當。

55.若貼文同時出現暴力跡象，以及使用「shaheed」指稱指定人物，便可根據貼文與暴力的關聯，更清楚地看出其意圖以正面的方式提及指定人物（假設不適用報導、中立地討論或譴責的例外情況）。在其要求中，Meta 提出以下源自暴力和煽動仇恨政策之內部指引的暴力跡象：（1）軍械的外觀描述；（2）意圖或倡議使用或攜帶軍械／武器的陳述；（3）提及軍事用語；（4）提及縱火、搶劫或其他破壞財產之行為；（5）提及已知現實世界的暴力事件；以及（6）陳述意圖、號召行動、代表、支持或提倡對他人的暴力行為。監察委員會認為部分上述跡象提供實用指標，可用於判斷內容是否可能造成傷害，而這無法單從使用「shaheed」與否來假定。不過，監察委員會認為其他跡象不太有幫助。公開的暴力和煽動仇恨政策提到「暫時有高風險發生暴力事件的跡象」三次，個別關於用來處理在特定地點和有時限事件（例如在投票所和抗議活動中）之暴力風險的規則。針對所有情境下的「shaheed」提及內容（發生傷害的機率較低或較不急迫），若一概套用全部這些跡象來指引政策執行，會有政策執行不相稱的風險。

56.監察委員會認為在更廣泛的危險組織和人物政策背景脈絡下，適合採用定義更精確的跡象。「軍械的外觀描述」跡象和「意圖或倡議使用或攜帶軍械／武器的陳述」跡象，都應該視為判斷內容更有可能造成傷害的指標。監察委員會認為「提及已知現實世界的暴力事件」跡象太過廣泛，涵蓋太多從指定組織或人物暴力行為移除的情境。為此，該跡象的定義應該更精確並侷限於 Meta 危險組織和人物政策中指定的事件，包括恐怖攻擊、仇恨活動、造成多人受害的暴力事件（或暴力未遂事件）、連續謀殺或仇恨犯罪。監察委員會建議的三個跡象能更好地判斷情境差異，有助於確保較不模糊的「shaheed」使用情形（更明確地指稱恐怖暴力行為）仍被移除。

57.其餘由 Meta 提出的「提及軍事用語」和「提及縱火、搶劫或其他破壞財產之行為」跡象太過廣泛，可能導致政策執行不夠精確。最後一個提議的「陳述意圖、號召行動、代表、支持或提倡對他人採取暴力行為」跡象會獨自導向違反暴力和煽動仇恨相關《社群守則》的內容，因此若納入為其中一種暴力跡象會造成重複且不必要。

58.監察委員會注意到，即使提及指定人物且同時出現這些暴力跡象，仍有可能非意圖美化這些人物或其行為，與 Meta 的第三項政策選項所述截然不同。在其要求（第 9 – 10 頁）中，Meta 解釋政策執行過當的可能，並以巴基斯坦的媒體報導實踐為例。以監察委員會的觀點而言，對媒體來說，在提及指定人物逝世時，往往會放上顯示該人物拿著軍械的圖像，以及／或者顯示該人物所造成之破壞的圖像，但卻不會美化這些行為。為此，大規模內容審查人員有必要接受訓練，以便在內容的意圖很清楚為報導、譴責或中立地討論實體時，判斷保留內容。

59.此外，監察委員會建議的政策變更不會影響許多其他用以防範恐怖份子及其支持者使用 Meta 的平台來造成現實世界傷害的內容政策。包含以「shaheed」指稱等級 1 指定人物的貼文在以下情境會遭到移除：

• 若伴隨上述三個暴力跡象中的一或多個跡象。
• 若貼文包含任何其他危險組織和人物政策違規情形（例如用於代表、支持或美化指定人物）。美化包括，例如合理化或捍衛指定人物的暴力或仇恨行為，或將其暴力或仇恨行為視為成就來慶祝。
• 若貼文包含任何其他政策違規情形，包括違反仇恨言論或暴力和煽動仇恨政策。
• 若貼文內含「不明確或無背景資訊」的提及內容。其中包括「未美化指定實體暴力或仇恨行為之不明確的幽默、無說明文字或正面的提及內容」。

60.監察委員會的建議因此不會阻止 Meta 要求用戶在以「shaheed」指稱指定等級 1 的人物時，確認其貼文的意圖清楚；只會避免 Meta 僅依賴「shaheed」一詞來主張某貼文違規。Meta 積極參與全球反恐網路論壇（Global Internet Forum to Counter Terrorism）並使用其雜湊比對資料庫，這樣也確保可能造成現實世界傷害的內容會被移除。針對可能增加暴力風險的內容進行政策執行時，監察委員會的建議能讓政策執行更清晰易懂、更充分考量情境且更符合相稱性，同時提升對表達自由和無歧視的尊重。

評估替代政策選項

61.基於這些理由，監察委員會總結，繼續使用現行政策（Meta 提出給監察委員會考量的其中一個選項）會讓對自由表達的不合理限制更根深蒂固，且這些限制對阿拉伯文發言者、相關語言社群和穆斯林造成不相稱的影響。Meta 提出的第 2 項政策選項與監察委員會建議採用的第 3 項相似，因為後者試圖依據情境考量「shaheed」一詞的使用情形，並允許以多種方式將該字詞用於危險人物相關內容。事實上，根據 Meta 的說法，2023 年 8 月 29 日的政策變更容許在特定實例中出現更多社會和政治論述，包括有關和平協議、選舉、人權相關議題、新聞報導和學術、中立和譴責性討論的論述。這讓第 2 項和第 3 項試圖尋求的政策成果更為相近。兩者最顯著的差異在於技術可行性和大規模實際實行。第 2 項須要 Meta 先肯定地確立其中一個允許的例外情況適用，然後檢查是否含有政策違規情形或暴力跡象；第 3 項則是直接開始檢查是否有政策違規情形或暴力跡象。根據 Meta 的說法，技術上要設計和實行第 2 項會更麻煩許多，因為必須考量廣泛的可能例外情況（在近期政策變更後，甚至須更廣泛），且各個例外情況大大地取決於情境評估。因此要準確且一致地評估的困難在於，可能需要更多很多的人工審查，且可能造成政策執行錯誤的數量劇增。

62.監察委員會認為較為理想的是，除了現有例外情況外，Meta 採用更一致的方式來檢查所有與指定人物相關的「shaheed」使用情形，並在伴隨其他政策違規情形或建議 1 所列的三種暴力跡象之一時，將該內容移除。若如監察委員會所建議，變更政策以採取更接近 Meta 所提議的第 3 個選項的立場，僅在其他政策違規情形或特定暴力跡象出現時，將「shaheed」視為禁止的提及內容，有助於減少誤判（誤將非違規內容移除）、更好地保護公眾利益言論、媒體自由和公民論述，以及降低對受影響族群的平等和無歧視權的影響。在 2023 年 10 月，哈瑪斯對以色列發動的恐怖攻擊，隨後以色列在加薩展開軍事行動；在這之後，監察委員會提出了問題。作為對這些問題的回應，Meta 確認這些事件並未改變其對於一開始呈現於要求中的選項的擴展性分析。就監察委員會的觀點來看，根據 Meta 的第 3 個政策選項，當這個規模的危急事件發生時，所提出的建議最能應對可能發生的錯誤，前提是仍然提供「報導、中立地討論和譴責」的政策例外情況。監察委員會確知，提供這些政策例外情況會讓 Meta 的第 3 個政策選項提出的政策擴展性更為複雜一些；但監察委員會做出結論，認為若要充分保護與審核使用「shaheed」之內容有關的表達自由，這些政策例外情況有其必要。

63.少數監察委員會成員不同意這個結論，且偏好建議維持現狀或 Meta 採用提議的第 2 個選項。部分監察委員會成員強調，「shaheed」一詞事實上被恐怖組織用於表示讚揚和美化犯下暴力行為的人，而且這會促進激進化和招募新血。對這些監察委員會成員來說，單憑這些事實所呈現出的現實世界傷害的嚴重危險，就足以據此維持現行武斷的禁止措施，即使確認會犧牲表達自由。其他監察委員會成員則認為，因為缺少以下項目的足夠資料：可連結到 Meta 平台上「shaheed」使用情形的現實世界傷害程度，以及依據此政策而政策執行過當的盛行率，所以應採用更謹慎的作法，安全為上。部分監察委員會成員也認為，第 2 項（只有在特定允許的例外情況下，Meta 才會將「shaheed」的意思和使用情形視為適用）是更精確調整的折衷方案，儘管其會造成技術挑戰和大規模可行性的影響。監察委員會廣泛地考量和討論這些替代方案。基於先前幾節中所列的理由，大多數監察委員會成員得出結論，根據 Meta 第 3 個選項而提供的建議呈現較理想的平衡。

違規和處分

64.雖然維持危險組織和人物政策下的其他限制可能是合理的作法，但 Meta 必須確保針對暴力行為的這些限制及任何制裁都符合相稱性。Meta 先前告知監察委員會，凡違反其危險組織和人物政策，包括先前針對「讚揚」的禁止措施，皆視為嚴重違規。嚴重違規可能會更快導致帳號層級處分，例如功能在有限時間內受到限制、帳號停權，以及個人檔案或粉絲專頁遭到永久停用。這些措施可能會嚴重地限制用戶的表達自由權（許多公眾評論也強調這一點，請見例如 PC-11190 – Brennan Centre）。監察委員會先前建議 Meta 應該改善其違規紀錄系統的清楚程度和資訊透明度（在新聞報導中提及塔利班，建議 2；美國前總統川普帳號遭停權，建議 15）。作為回應，Meta 在政策公開透明平台提供了違規紀錄系統的資訊，並允許用戶檢視 Meta 對其帳號施加的處分。Meta 最近針對一般違規更新了系統，以便更符合相稱性，但並未向大眾闡明 Meta 對「嚴重違規」的作法是否也已調整。

65.Meta 表示正在政治執行系統進行有關危險組織和人物政策的變更，雖然該公司在 2023 年 12 月的政策更新說明中並未解釋其政策執行系統是否已變更或如何變更（例如關於嚴重違規）。如果政策執行系統的變更能讓被準確地判定為違規的內容受到更相稱的處分，且符合先前監察委員會的建議，那麼監察委員會樂見這樣的變更。對違反危險組織和人物政策，但較溫和與語義較模糊的內容來說，嚴重違規是不相稱的處分，會造成政策繼續有高比率的執行過當和不公正對待用戶的情形。

6.2 改善清單的資訊透明度和審核

建議 4 – 資訊透明度相關建議：若要改善指定實體和事件清單的資訊透明度，Meta 應該更詳細地說明指定實體和事件的程序。Meta 也應該定期發佈指定實體清單的彙總資訊，包括其清單中各級實體的總數，以及過去一年從各級新增和移除的實體數量。

Meta 在其政策公開透明平台中發佈所要求的資訊後，監察委員會將視為該公司已實行此項建議。

建議 5 – 政策執行相關建議：為了確保其危險組織和人物實體清單保持最新狀態，不包含不再符合 Meta 指定實體定義的組織、人物和事件，該公司應該推出清楚且有效的程序，以定期審核指定實體及移除不再滿足公告標準的實體。

Meta 建立這樣的審核程序，並在其政策公開透明平台說明此程序後，監察委員會將視為該公司已實行此項建議。

66.根據 Meta 先前的危險組織和人物政策，「讚揚」和使用「shaheed」一詞只有在用於指稱 Meta 指定為等級 1 危險人物（包括指定「違規暴力事件」的加害者）的實體時，才會被禁止。在 2023 年 12 月更新後，此政策現在禁止對所有等級 1 指定實體的「不明確的提及內容」和美化。「不明確的提及內容」可能包括「未美化指定實體暴力或仇恨行為之不明確的幽默、無背景資訊的提及內容和正面的提及內容」。這類表達自由之禁止措施的潛在負面影響，主要依據 Meta 指定為等級 1 組織及 Meta 指定的「違規暴力事件」而定。在圓桌會議和公眾評論中，許多利害關係人批評資訊不夠公開透明，以及缺少清單制定正當程序的資訊，並認為 Meta 應該發佈這些資訊（請見公眾評論，例如 PC-11164 – SMEX，第 3 頁；PC-11157 – Palestine Institute for Public Diplomacy）。一位利害關係人對於到處分享此清單感到擔憂，並認為這可能引起安全疑慮。因為此清單與瞭解 Meta 政策範圍息息相關，所以該公司已將其等級 1 指定組織和人物清單及指定程序說明提供給監察委員會，而監察委員會已如上所述深入詳閱。

67.承上所述，在 Meta 從中擷取等級 1 指定實體的清單中，許多是美國政府所公佈的清單。等級 1 的實體包括「特別認定毒品走私毒梟（SDNTKs）」、「外國恐怖組織（FTOs）」和「特別認定全球恐怖份子」。這些清單涵蓋的範圍廣泛、包括幾大洲高度政治化情境下的實體（及其成員），並且不限於恐怖實體。這樣的廣度和多樣性象徵 Meta 的危險組織和人物政策禁止措施可能觸及的範圍，包括對用以指稱指定人物的「shaheed」及其影響更為武斷的禁止措施。

68.Meta 解釋，其審查和批准實體加入危險組織和人物清單的程序「仰賴一群內部專家的諮詢意見、內部資料評估及外部研究」。Meta 也設有一套程序，用以記錄「其他與已指定的組織和人物相關的成員、別名、符號、標語、次團體或媒體派別」。在 2022 年，根據 Meta 評估其平台遭受到的危險組織和人物威脅，該公司指定了不到 1,000 個實體。犯罪實體在指定實體的佔比最高，恐怖實體緊接在後，然後是仇恨實體。Meta 設有一個刪除政策程序，通常會檢查實體是否繼續符合指定為危險組織或人物的政策門檻，並考量「一個實體為了停止暴力行為和追求和平所採取的積極措施」。此程序目前正在重新開發中，但在 2022 年，使用次數不到 10 次。Meta 解釋其正在審核先前的指定實體，並會持續努力盡可能將指定實體維持在最新狀態，並精準地反映來自危險組織和人物的威脅。

69.Meta 解釋，若公開分享其指定實體或事件清單，或若通知實體已被加入該清單，都可能讓政策執行的成效和許多 Meta 員工的安全面臨一些風險。當實體遭到指定並發現這個事實，部分實體會對 Meta 採取法律行動（請見 Facebook 與CasaPound 案例，2020 年 4 月 29 日，義大利羅馬法庭，以及這裡的分析）。監察委員會表示，在部分案例中，Meta 披露其指定某些團體以回應媒體提問，且指定實體資訊已透過監察委員會裁決分享。

70.監察委員會先前曾建議 Meta 公開分享指定實體清單，或至少提供參考範例（納粹引述，建議 3）。在評估過可行性之後，Meta 至今尚未發佈清單，也未提供有關這項建議的更新資訊。如果 Meta 繼續拒絕實行這項建議，該公司應該至少採取其他措施來提升此清單的資訊透明度。發佈彙總資料、提升指定實體程序的資訊透明度，以及增加撤銷指定流程的成效，都可能讓用戶更瞭解 Meta 的規則和程序。這也有助於讓 Meta 指定實體程序、表達自由和其他人權後果的審查機制與責任歸屬更完善。Meta 可能也會考慮授予研究人員取得資料的權限，以提升資訊透明度，同時仍維持該清單的機密性。

6.3 評估政策執行準確度和分類器測試的資料

建議 6 – 資訊透明度相關建議：為了提升 Meta 政策執行的資訊透明度，包括市場和語言間的區域差異，Meta 應該說明如何評估在執行危險組織和人物政策時的人工審查準確度和自動化系統成效。Meta 也應該定期分享用於執行相同政策之分類器的成效評估結果，並且要能比較不同語言及／或地區的評估結果。

Meta 在其政策公開透明平台和社群守則執行狀況報告中納入這項資訊後，監察委員會將視為該公司已實行此項建議。

建議 7 – 資訊透明度相關建議：若要通知利害關係人，Meta 應該以清楚明確的用語說明如何使用分類器來產生政策違規情形預測。Meta 也應該描述這些門檻的設定程序，以說明如何設定「不採取任何行動」、「安排內容進行人工審查」或「移除內容」的門檻。Meta 應該在政策公開透明平台提供這些資訊。

Meta 在其政策公開透明平台中發佈所要求的資訊後，監察委員會將視為該公司已實行此項建議。

71.許多利害關係人在圓桌會議和公眾評論中主張，Meta 的危險組織和人物政策執行，以及對人工和自動審查中「shaheed」一詞的處理方式，常常導致政策執行錯誤，會對穆斯林和相關語言社群造成不相稱的影響（請見公眾評論，例如 PC-11183 ECNL EFF、PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation；PC-11196 – Integrity Institute；另請見 BSR 針對 Meta 對以色列和巴勒斯坦之影響的報告）。Meta 在其要求中也承認，這是該公司對「shaheed」一詞採取之政策所造成的後果。為了提升 Meta 人工和自動化政策執行程序的資訊透明度、準確度和公平性，監察委員會提出上方兩項建議。

72.Meta 解釋會定期衡量人工和自動政策執行準確度。人工審查人員須接受 Meta 外包合作夥伴的定期審核，且這些審核程序須接受 Meta 全球營運團隊的額外評估。

73.監察委員會先前建議 Meta 改善其資訊透明度報告，以增加錯誤率的公開資訊，方法是讓大眾能依國家／地區和語言查看「讚揚」與「支持」危險組織和人物的資訊（奧賈蘭的隔離監禁，建議 12）和各《社群守則》的資訊（旁遮普媒體對印度 RSS 組織的擔憂，建議 3）。Meta 解釋在評估過可行性後，該公司拒絕實行這項建議（ 奧賈蘭的隔離監禁，建議 12；Meta 2021 年第四季監察委員會季度最新報告，第 21 頁），並已將重心轉移到長期努力根據個人檔案、粉絲專頁和帳號限制及地點來定義準確度衡量指標，而非語言（旁遮普媒體對印度 RSS 組織的擔憂，建議 3；Meta 2023 年第二季監察委員會季度最新報告，第 59 頁）。監察委員會留意到，越來越多人擔憂危險組織和人物政策執行不相稱（從 Meta 對於「shaheed」的立場可看出），以及 Meta 對實用政策執行資料的披露不足，因此監察委員會重申這些建議，以及該公司依地區改善政策執行資訊透明度的重要性。

74.Meta 目前在政策公開透明平台上分享的資料並未針對人工審查準確度和自動化系統成效提供足夠的分析數據。若要允許大眾檢視其所採取的方法，Meta 必須說明如何評估在執行危險組織和人物政策時的人工審查準確度和自動化系統成效。若要提升分類器成效的資訊透明化，Meta 應該分享包含準確率（表示在所有被標示為違規的內容中，被正確地認定為違規的內容比例）和回想率的衡量指標（表示在所有現存的違規內容中，分類器認定為違規的違規內容百分比）。公佈不同地區的人工審查準確度資訊，以及分類器在不同語言的成效，有助於 Meta 善盡人權義務。為此，監察委員會重申先前的建議，並敦促 Meta 實行所提出的變更。

75.Meta 仰賴包括分類器等自動化系統來執行其《社群守則》。分類器模型會根據一組訓練資料，自動將資料分類成一或多個「類別」（例如違規或非違規）。瞭解這些系統的運作方式和準確度，是評估 Meta 如何大規模審核內容的必要之舉。Meta 在政策公開透明平台的「政策執行」區塊提供一些資本資訊，說明如何使用自動化系統來偵測違規內容，而在「功能」區塊，Meta 說明如何排序和管理內容。Meta 已在社群守則執行狀況報告中公佈在被檢舉前先行移除的內容百分比資訊（亦即使用自動偵測）。這些資料指出自動偵測的重要性，但並未提供有關 Meta 自動化系統（尤其是自動移除）的使用情形和準確度的詳細衡量指標。這組建議旨在提升 Meta 演算法使用情形的資訊透明度。

76.為回應監察委員會提出的問題，Meta 解釋，危險組織和人物的「一般語言 – 阿拉伯文」分類器會根據 Meta 的政策進行初始政策執行審查。分類器旨在偵測可能違反那些政策的內容。監察委員會認為 Meta 應該在政策公開透明平台的「政策執行」區塊向用戶詳細解釋對分類器的依賴，與其先前的裁決一致（請見乳癌症狀和裸露，建議 3；哥倫比亞警方卡通，建議 3）。具體而言，公開提供是否對內容採取行動、排入人工審查佇列的約略信賴水準門檻，以及判斷這些分數的考量要點或因素，相當重要。

77.Meta 解釋其準確度測試不是著重於政策內的個人違規類型，而是整個政策領域的整體準確率。Meta 分享其「進行定期的衡量指標觀測和大規模審查準確率」。監察委員會先前解釋，這並不足以評估 Meta 執行《社群守則》的整體成效（請見「貝殼織帶」裁決）。就算系統的平均成效良好，處理子類別內容時（例如使用「shaheed」一詞的內容）也可能成效不佳，而該錯誤處置可能對人權造成尤其顯著的影響。因此 Meta 有必要展現其盡職調查，找出並盡可能降低其系統可能對人權造成的負面影響，並且分享資訊供大眾檢視這些影響。

78.許多利害關係人表示，Meta 演算法的政策執行系統未將情境納入考量、在非英文的語言較不準確，且這已對穆斯林社群造成迥然不同的影響（請見公眾評論，例如 PC-11190 – Brennan Centre）。

79.部分利害關係人建議 Meta 停止完全使用自動化系統來審核「shaheed」一詞，因為自動化系統迄今普遍未將情境納入考量。（請見公眾評論，例如 PC-11164 – SMEX，第 4 頁；PC-11157 – Palestine Institute for Public Diplomacy）。其他人則表示，考量到違反危險組織和人物政策之內容的嚴重處分，自動化系統應該僅用於將內容排入審查佇列，而不是自動移除內容（請見例如 PC-11183 ECNL EFF，第 4f 頁）。利害關係人建議，任何使用「shaheed」指稱指定人物的貼文應該「最好交由熟悉貼文起源地之當地情境的人工審查人員審查」（請見 PC-11188 – Digital Rights Foundation，第 2 頁）。有些人建議，內容應該標上地理標籤，以便人工審查和自動審查能更充分考量情境（請見例如 PC-11165 – Taraaz，第 1 頁）。利害關係人也呼籲 Meta 提供更多資訊，以說明自動化政策執行的準確度，並投資更多金錢來改善非英文之語言的自動化系統（請見例如 PC-11164 – SMEX，第 5 頁；PC-11190 – Brennan Centre）。他們也呼籲 Meta 針對其內容審核活動「定期以不同語言提出報告，包括用戶檢舉、處置率、處置類型、緩解技巧的功效、訓練資訊和申訴率的完整資料」（請見例如 PC-11196 – Integrity Institute）。

80.部分專家不同意將關於指定實體的「shaheed」使用情形作為自動化系統從平台移除內容的唯一參考點，但他們會鼓勵使用該字詞作為更多層次審核作法的一部分（例如作為判斷跡象，將內容排入佇列並根據 Meta 政策審查，而不是僅因為包含此提及內容就將其移除）。

81.監察委員會承認，大規模審核內容時，有必要依賴演算法系統，且許多提出的作法在處理大規模內容時不可行，且須使用自動化系統。但是監察委員會也認為 Meta 必須採取進一步措施，包括上方建議，以確保這些系統的資訊透明度和公平性。

*流程注意事項：

監察委員會的政策諮詢意見是由五人審查小組進行審議，且裁決結果必須經由多數成員核准。監察委員會的裁決不一定代表所有成員的個人觀點。

針對本次政策諮詢意見，哥德堡大學（University of Gothenburg）的獨立研究機構受託代表監察委員會進行一項獨立研究，他們邀請來自六大洲超過 50 位社會科學家，以及全球超過 3,200 位國家／地區專家組成團隊。協助監察委員會做出裁決的還包括專精於地緣政治、信任與安全、技術等多種領域的諮詢公司 Duco Advisors。從事社群媒體趨勢開源研究並提供分析結果的組織 Memetica。由 Lionbridge Technologies, LLC 提供語言專業技能，該公司的專家能流利使用超過 350 種語言，並在全球 5,000 個城市提供服務。

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas