將指定危險人物稱為「Shaheed」

執行摘要

監察委員會認為，Meta 將含有「shaheed」一詞的內容判定為指涉危險人物的審查方法，已對言論自由造成了嚴重且不成比例的限制。Meta 會將所有含有「shaheed」的內容認定為指稱公司指定為「危險」的人物，因此這類內容將被視為違規並予以刪除。根據 Meta 的說法，在該公司依據《社群守則》在平台上移除的內容當中，涉及「shaheed」一詞的內容數量比任何其他單字或詞語都來得多。恐怖主義的暴力行為造成了嚴重的後果，摧毀無辜人民的生活、阻礙人權並破壞了我們的社會結構。然而，任何防範此類暴力行為而對言論自由施加的限制都必須是必要且符合比例原則的，因為不當刪除內容不但沒有幫助，甚至還會適得其反。

監察委員會的建議觀點是，Meta 必須採取有效之行動，確保其平台不會被用來煽動暴力行為，或是招募人員參與暴力行為。極端分子有時會使用「shaheed」一詞來讚揚或美化因參與暴力恐怖行為而喪命的人。然而，Meta 對這項威脅的應對方法也必須以尊重所有人權為前提，這些人權當中也包括言論自由。

2023 年 10 月 7 日，監察委員會正準備確定本政策諮詢意見的最終本時，被 Meta 的「危險組織和人物」政策指定為 1 級危險組織的「哈馬斯」（Hamas）對以色列發動了史無前例的恐怖攻擊，造成約 1,200 人死亡，並有大約 240 人被劫為人質（以色列政府外交部）。根據新聞報導，截至 2024 年 2 月 6 日，有消息傳出被哈馬斯囚禁的約 136 名人質當中，在 1 月初已有至少 30 名人質身故。Meta 立即根據其「危險組織和人物」政策這些事件定調為恐怖攻擊。以色列迅速發動軍事行動以做出反擊。截至 3 月 4 日，這場軍事行動已在加沙造成 30,000 多人死亡（聯合國人道主義事務協調辦公室，根據加沙衛生部的統計數據）。1 月的報告指出，死亡人數中估計有 70% 都是婦女和兒童。

這些事件發生後，監察委員會暫停發表本政策諮詢意見，以確保該建議能夠回應 Meta 平台的使用情況，以及人們在此背景之下對「shaheed」一詞的使用。這項額外的研究證實了委員會向 Meta 提出的建議有其依據，即使在承受此類事件所帶來的極端壓力下，Meta 也不該過度審查「shaheed」一詞的使用，這樣才能確保 Meta 在應對危機時能夠進一步尊重所有形式的人權。同時，監察委員會強調，Meta 在這方面的政策是在全球範圍內執行的，其影響力遠遠超出了這個衝突事件。委員會承認以色列和巴勒斯坦最近發生的事件極具重要性，但其建議也是針對全球層面，而不是侷限於任何特定情境。

就監察委員會的觀點來看，Meta 對「shaheed」一詞的審查方法過於寬泛，並且已過度限制言論自由和公民話語權。例如，報導暴力事件和指定實體的帖子可能會遭到錯誤刪除。Meta 的審查方法也沒有考慮到「shaheed」的各種含義，其中有許多含義並不是為了表達讚揚或美化，這樣的審查方法經常導致阿拉伯語用戶和其他語言的用戶（其中有許多人都是穆斯林）的帖子遭到刪除，而這些刪除處置並沒有達到「危險組織和人物」政策所強調的目的。此外，Meta 的政策也禁止美化、支持和代表指定人物、組織和事件，以及煽動暴力等行為。如果能夠準確執行這些政策，可以降低恐怖分子利用 Meta 平台造成的危險因素。因此，監察委員會建議 Meta 應停止全面禁用「shaheed」一詞來指稱被指定為危險人物的對象，並修改其政策，以確保對包括該字詞在內的內容進行更完整的語境分析。

背景資訊

2023 年 2 月，Meta 向監察委員會諮詢，是否應繼續刪除使用阿拉伯文詞彙「shaheed」（或用阿拉伯字母書寫的「شهيد」）指涉其公司根據「危險組織和人物」政策指定之人物的內容。「Shaheed」本身也是一個借用語（意指許多非阿拉伯語言會「借用」這個源自阿拉伯文的詞彙，包括調整其拼字）。

該公司將「shaheed」描述為一種「表達敬意」（honorific）的詞彙，許多跨文化、宗教和語言的社群都會使用這個詞彙，其意思是指意外死亡的人（例如在事故中身亡）或雖死猶榮的情況（例如死於戰爭）。該公司承認這個詞彙擁有「多重含義」，雖然「英文中沒有直接對應的詞彙」，但比較常見的英文翻譯是「烈士」（martyr）。Meta 表示，「在英文中，『烈士』是指因正當理由而遭受苦難或死亡的人，通常具有正面的含義，而正是因為這樣的解讀，我們才會根據我們的[危險組織和人物]政策將這個詞彙[「shaheed」]定義為具有讚揚的含義。」

根據 Meta 的假設，只要以「shaheed」一詞描述指定人物，一定就會構成「危險組織和人物」政策中的「讚揚」行為，導致平台全面刪除任何含有「shaheed」的內容。Meta 承認，由於這個詞彙擁有多種含義，所以公司「可能會對大量言論進行過度審查，這些言論並非是在讚揚[公司]指定的人物，其中阿拉伯語用戶受到的影響最大。」此外，Meta 並未套用「危險組織和人物」政策的豁免用例，即允許用戶使用「shaheed」來「報導、譴責或中立討論指定實體」。這種情況在 2023 年 12 月最新的政策更新中依然沒變，該政策現在改為禁止「美化」和「不明確的引用」指定實體，而不是「讚揚」（該條件已被完全刪除）。

由於這些因素，Meta 在 2020 年啟動政策制定程序來重新評估公司對「shaheed」一詞的審查方法。然而，公司內部並未達成共識，因此也沒有提出新的方法。

在徵求此政策諮詢意見時，Meta 向監察委員會提出了三種可行的政策修改選項：

1. 維持現狀。
2. 在滿足「讚揚」禁令豁免條件（例如報導、中立討論或譴責）的情況下，允許用戶在帖子中使用「shaheed」來指稱指定人物，前提是帖子中不能有其他讚揚元素或「暴力訊號」。針對這些訊號，Meta 提供了一些例子，包括武器的視覺化素材，或提及軍事用語或現實世界的暴力事件。
3. 只要沒有其他讚揚元素或暴力訊號，就允許用戶使用「shaheed」來指稱指定人物。相較於第二個選項，這個選項並未要求內容必須符合上述的豁免條件。

監察委員會確實考慮了其他可行的政策修改選項。基於本政策諮詢意見中給出的原因，監察委員會的建議與第三個選項密切貼合，儘管其採用的暴力訊號不如 Meta 在其徵詢中提議的例子多，並且需要更廣泛地應用政策豁免條件來豁免那些報導、中立討論和譴責指定實體及其行為的內容。

重要調查發現與相關建議

監察委員會認為，Meta 目前將含有「shaheed」一詞的內容全部判定為指涉危險人物的審查方法過於寬泛，從而對言論自由造成了嚴重且不成比例的限制。

「Shaheed」是一個具有重要的文化和宗教意義的詞彙。有時該詞彙會被用來讚揚那些從事暴力行為而身亡的人，甚至可能會「美化」這些死者。但該詞彙也經常在新聞報導和中立評論、學術討論、人權辯論中，甚至是以其他更被動的方式來指稱危險人物。除其他含義之外，「shaheed」也泛指那些為國捐軀者、為奉行其理念而死的人，或是社會政治暴力事件或天災事故的意外受害者。在一些穆斯林社群中，該詞彙甚至會被當作名字和姓氏使用。因此，監察委員會有充分的理由相信，「shaheed」的多重含義導致並非旨在讚揚恐怖分子或其暴力行為的大量內容遭到刪除。

Meta 光是以「shaheed」一詞指涉指定人物之原因就刪除內容的做法，刻意忽視了該詞彙的語言複雜性及其多重含義，一直只將該詞彙視為英文「烈士」的同義詞。這樣的做法嚴重影響了言論自由和媒體自由、對公民話語權產生過度限制，以及對平等權與不受歧視權造成了嚴重的負面影響。這種過度執法的情況對阿拉伯語用戶，以及對借用「shaheed」一詞的其他語言用戶都會造成莫大的影響。同時，採用其他方式來執行「危險組織和人物」政策仍然可以讓 Meta 提升其維護安全的價值理念，並追求其平台上禁止存在美化恐怖分子之內容的目標。因此，現行政策既不符合比例原則，也不具備必要性。

為了讓處理「shaheed」一詞的政策和執行做法更符合人權標準，監察委員會提出以下建議（建議全文請參閱第 6 節）：

1.Meta 應該停止假設「shaheed」一詞在用於指稱指定人物或指定組織之不具名成員時，一定就是違反政策且沒有資格套用政策豁免權。只有在兩種情況下，才能以「不明確的引用」為由刪除將指定人物稱為「shaheed」的內容。第一種是出現一個或多個暴力訊號的情況，暴力訊號有三種：描繪軍備／武器的視覺化素材、發表使用或攜帶軍備／武器的意圖或提倡聲明，或提及指定事件。第二種是內容因其他原因違反 Meta 政策的情況（例如因美化指定實體；或雖然沒有使用「shaheed」，但提及指定人物的意圖依然不夠明確）。無論是上述哪一種情況，內容仍應適用「報導、中立討論和譴責」之豁免用例。

2.為了澄清禁用「不明確的引用」的政策條文，Meta 應提供數個違規內容的範例，包括將指定人物稱為「shaheed」的帖子，且該帖子應具備第 1 點建議中指定之三種暴力訊號的一個或多個訊號。

3.Meta 也應更新其內部的政策指南，以清楚說明將指定人物稱為「shaheed」並不會違反政策，除非該內容同時出現暴力訊號，且即使存在這些訊號，內容仍可能適用「報導、中立討論或譴責」的豁免用例。

如果 Meta 採納並實施這些建議，根據其現行規則，該公司仍可繼續刪除「美化」指定人物、將其暴力或仇恨行為描述為一種成就、合理化其暴力或仇恨行為或為其辯護的內容，以及刪除任何支持或代表指定危險實體的內容。監察委員會根據這些建議提出的做法是，Meta 應停止直接將以「shaheed」提及指定人物的內容解讀為違規；反之，只有在出現其他政策違規行為（例如「美化」）的情況下，或由於存在暴力訊號而導致產生「不明確的引用」的情況下，才能刪除該內容。此類內容仍應適用「報導、中立討論或譴責指定人物」的政策豁免用例。

監察委員會同時也對 Meta 提出以下建議：

4.更詳細地解釋公司如何根據其「危險組織和人物」政策指定實體和事件的流程，以提高該名單的透明度。Meta 也應公告其名單中每一個級別之指定實體總數的彙總資訊，以及過去一年內新增和刪除的實體數量。

5.制定清楚且有效的流程以定期稽核指定實體，並刪除那些不再符合公告標準的實體，以確保其「危險組織和人物」實體名單能保持最新狀態，且名單中不會出現不符合 Meta 指定標準的組織、人物和事件。

6.解釋公司在執行「危險組織和人物」政策時，用於評估人工審查作業之準確性和自動化系統之成效的方法。Meta 也應定期分享執行此政策所使用之分類器的成效評估結果，該評估結果中應包括跨語言和／或跨地區的比較數據。

7.清楚解釋 Meta 如何使用分類器預測政策違規情況，以及公司如何分別設定不採取任何動作、安排內容進行人工審查，或刪除內容的門檻標準。該資訊應在公司的政策公開透明平台中提供，以告知利害關係人。

政策諮詢意見全文

1.Meta 的徵詢

I.政策諮詢意見徵詢

1.在其徵詢（分別提供英文版與阿拉伯文版）中，Meta 詢問監察委員會是否應繼續依據該公司的「危險組織和人物」政策，移除使用「shaheed」（شهيد）（及其單複數形式，包括阿拉伯文和其他語言中的各種借用變體）來指稱指定危險人物的內容，還是應該要採取其他較為符合公司的價值理念和人權責任的審查方法。Meta 也希望監察委員會提供相關指引，讓他們在日後處理類似的內容問題時有所依據。

II.Meta 的做法

2.Meta 的「危險組織和人物」政策先前禁止用戶「讚揚、實質性支持或代表」其指定的實體、個人和違規暴力事件。2023 年 12 月 29 日，Meta 更新了這項政策，取消了對「讚揚」的禁令，但新增對「美化」和「不明確的引用」的禁令。監察委員會擴大了考慮範圍，以評估這些政策調整對其調查發現與相關建議是否有任何影響。

3.這項政策諮詢意見的徵詢涉及禁止讚揚指定人物的規定，而無關禁止實質性支持或代表指定實體的規定。相較於代表和實質性支持，Meta 認為「讚揚」是嚴重程度最輕微的違規行為。Meta 將最危險的實體指定為「第 1 級」，這些實體包括恐怖分子、仇恨組織和犯罪組織。當 Meta 指定「違規暴力事件」時，這些事件的肇事者也會被指定為第 1 級危險人物，因此公司會禁止用戶「美化」（以前稱為「讚揚」）這些對象。指定事件可能是「恐怖攻擊事件、仇恨事件、多名受害者暴力事件或多名受害者暴力未遂事件、連續殺人事件或仇恨犯罪事件」。雖然 Meta 控制著自己的指定實體名單（該名單並未公開），但其指定標準有部分是依據美國政府的指定名單（即 Meta 的指定實體至少會包括美國政府的指定名單）。《社群守則》中解釋說，第 1 級實體包括「特別指定的毒梟組織」（SDNTK）、「外國恐怖組織」（FTO），以及「特別指定的全球恐怖分子」。這些美國政府名單已分別在這裡、這裡和這裡公開提供。

4.在 2023 年 12 月 29 日更新政策之前，Meta 對「讚揚」的定義包括「以正面角度談論指定實體或事件」；賦予指定實體「一種成就感」；「宣稱指定實體的仇恨、暴力或犯罪行為合法、合乎道德、正當或可以接受，藉此合理化指定實體的理念」；以及「在意識形態上支持指定實體或事件」。此定義（或一系列的範例）是 Meta 因應監察委員會在首批案例（「納粹引言」案例判決，第 2 點建議）中提出的建議，隨後加入政策中以幫助用戶更清楚地了解規定。2023 年12 月政策更新後，「美化」被定義為「合理化或袒護指定實體的暴力或仇恨行為，聲稱這類行為在道德、政治或邏輯等方面具備正當理由，因此可以接受或合情合理」，或是「將指定實體的暴力或仇恨形容為成就或豐功偉業，或是加以讚頌」。更廣泛地說，Meta 在其政策更新公告中表示：「如果用戶並未明確指出意圖，公司將刪除不明確或缺乏語境的引用」。該政策進一步表明「這包括雖然並未美化指定實體的暴力或仇恨行為，但幽默手法不明顯、不帶任何說明文字或從正面角度提及指定實體的內容」。但是，該政策並未提供範例來說明違反此規則的帖子類型。Meta 已告知監察委員會，公司將繼續刪除所有將指定人物形容為「shaheed」的內容。對於此類指稱，該公司認為「shaheed」在所有語境中都是違規的，這就導致了該詞彙遭到全面禁用，任何人使用該詞彙指稱指定人物都會被視為違規。這項禁令的範圍隱約可通過上述之美國指定名單中看出，因為根據 Meta 的政策，公司禁止用戶以「shaheed」（或任何「烈士」（martyr）一詞的其他翻譯）形容其衍生名單中的所有對象（和組織成員）。這些對象包括各大洲的實體，並且並不侷限於恐怖組織，或奉行某種特定意識形態的組織。

5.公司表示，「shaheed」有「表達敬意」（honorific）的意思，許多社群都會使用這個詞彙，常見於不同的文化、宗教和語言之中。該公司承認，這個詞彙擁有「多重含義」，「用來描述他人意外身亡或英年早逝，有時候則是描述雖死猶榮的情況，例如在意外、衝突或戰爭中喪生的人」。Meta 表示，雖然「英文中沒有直接對應的詞彙」，但比較常見的英文翻譯是「烈士」（martyr）。在 2023 年 12 月更新政策之前，Meta 在徵詢監察委員會的意見時表示，「我們認為這個詞彙的意思是『烈士』」，而「正是因為這樣的解讀，我們才會根據我們的[危險組織和人物]政策將這個詞彙定義為具有讚揚的含義」。在對外公開的《社群守則》中，只有一個違反讚揚禁令的詞彙範例與這項規則有關。除此之外，Meta 還使用了一個詞彙，將被定罪的美國恐怖分子稱為「烈士」。在該政策的阿拉伯文版本中，Meta 提供了相同的例子，並將「烈士」翻譯為「shaheed」。2023 年 12 月更新政策後，對外公開的《社群守則》移除了「烈士」／「shaheed」的範例， 但是 Meta 告訴監察委員會，公司依然將該範例視為違規行為，並指示審查人員刪除含有該詞彙的內容。

6.針對使用「shaheed」指稱指定人物的內容，Meta 並沒有套用「危險組織和人物」政策的豁免用例。這些豁免用例本可允許「報導、中立討論或譴責」指定人物的內容。以「讚揚」指定人物為由而刪除含有「shaheed」一詞的內容，會導致用戶收到嚴重的「警告」，如果累積收到多次嚴重警告，很快就會衍生帳戶或專頁遭到停權或停用的制裁處罰。對外公開的《社群守則》中並沒有解釋「shaheed」禁令並不適用政策的豁免用例。

7.Meta 解釋說，公司處理「shaheed」的做法有助於促進其守護安全的價值理念，因為Meta 認為，此類內容可能會有「造成現實世界的傷害的風險」。同時，Meta 也承認，英文單字「martyr」（烈士）並不是「shaheed」的恰當翻譯。考慮到「shaheed」擁有多重含義，以及難以大規模解讀內容的語境和用戶的意圖，Meta 承認他們一直以來刪除了很多「沒有傷害風險」和「無意讚揚指定人物」的言論「其中阿拉伯語用戶受到的影響最大」。舉例來說，當新聞報導中使用「shaheed」一詞，或以中立方式討論指定人物過早死亡時，而不是讚揚（或美化）這些人或其行為，Meta 依然會刪除這樣的內容。

8.2023 年 8 月 29 日，Meta 更新了「危險組織和人物」政策的豁免用例，並加入了「新聞報導」、「中立討論」和「譴責」的定義，以及每個例外情況的說明性範例。同時，Meta 擴展了對此豁免用例的描述，以認同用戶可能會「在社會和政治討論的背景下」提及指定實體。在 2023 年 12 月更新政策後，Meta 刪除了所有的豁免內容的說明性範例，但卻保留了豁免用例本身。這些範例在 2024 年 2 月 8 日的政策更新中已重新出現。然而，2023 年 12 月和 2024 年 2 月的更新條文中都沒有明確說明，以不明確或缺乏語境的方式提及指定人物或組織均不適用於這些豁免用例，因為這種帖子本身缺乏明確的意圖情況就會被 Meta 定義為違規。

9.Meta 在 2020 年啟動了政策制定程序來重新評估公司對「shaheed」一詞的審查方法。其中包括研究評論和諮詢利害關係人。Meta 通過此次利害關係人議合有了重要的發現，即「shaheed」的意思會因為語境的不同而有所改變，在某些情況下，該詞彙與讚揚之間會失去敏感度和關聯性。同時，在某些情況下，「shaheed」的確就是會被使用和理解為對指定人物的讚揚。要判斷某個帖子的意圖差異，本身就具有很大的挑戰性，尤其是在大規模審查的情況下。在這樣的過程中，如其徵詢中所述，Meta 想出了兩種政策修改選項，作為其目前對「shaheed」一詞之處理方式的可能替代方案。然而，對於兩個選項之間的孰優孰劣，利害關係人未能取得共識，因此 Meta 也未草率選定新的方法。該公司強調，他們平台上的內容數量龐大，因此實務上的主要考慮要點在於是否能應用於大規模的政策執行上。

III.Meta 徵求監察委員會考慮的政策異動內容

10.在使用「美化」和「不明確的引用」禁令取代「讚揚」禁令之前，Meta 曾提出以下政策修改選項供監察委員會考慮：

1) 繼續移除使用「shaheed」指稱被「危險組織和人物」政策指定為危險人物的內容。

2) 在滿足以下條件的情況下，允許以「shaheed」指稱指定人物的內容：(i) 用於「危險組織和人物」政策允許的語境（如譴責、新聞報導、學術辯論、社會和政治討論）；(ii) 未額外讚揚、代表或實質性支持指定人物（例如，帖子未明確讚揚恐怖攻擊的肇事者，或合理化他們的暴力行為）；以及 (iii) 內容未出現暴力訊號。Meta 提出的這些訊號分別是：軍備的視覺化素材；使用或攜帶軍備／武器的意圖或提倡聲明；提及軍事用語；提及縱火、搶劫或其他破壞財物的行為；提及現實世界中已知的暴力事件；以及發表意圖聲明、行動呼籲、代表、支持或鼓吹以暴力行為傷害他人。

3) 只有在內容額外讚揚、代表、實質性支持或出現暴力訊號的情況下，才能移除使用「shaheed」指稱被「危險組織和人物」政策指定為危險人物的內容。這些訊號即為第二個選項中列出的訊號。

11.第二個選項和第三個選項都試圖從語境的層面去探討「shaheed」的使用，兩者的預期結果似乎不會出現太大的分歧。這兩個選項似乎沒有太大的區別，因為 Meta 擴大了其對普遍禁止讚揚（現改為「美化」）之語境豁免用例的範圍（見上文第 8 節）。在詢問 Meta 關於這兩個選項之間的應用和結果的差異後，據監察委員會了解，關鍵的區別在於第二個選項會需要 Meta 分析並確認內容適用其中一種豁免用例（新聞報導、中立討論或譴責）；而第三個選項將可以忽略該步驟，只考慮該帖子是否存在額外的讚揚（現改為「美化」或「不明確的引用」）或是否出現六種暴力訊號的其中之一。針對 Meta 提出的所有選項，任何直接提及或描述指定危險人物的內容，只要是意圖模糊或不夠明確，該政策都會直接將其默認為違規內容，從而將明確說明意圖的工作交到了用戶手上。2023 年 12 月的政策更新將此調整納入了《社群守則》的「危險組織和人物」政策中，並解釋說，對於第 1 級實體和指定事件，該政策禁止「不明確或缺乏語境的引用」，這也包括「雖然並未讚揚指定實體的暴力或仇恨行為，但幽默手法不明顯、不帶任何說明文字，或從正面角度提及指定實體的內容」。舉例來說，如果用戶只是發佈一張指定人物的相片而沒有提供任何文字或評論，Meta 就會根據禁止「不明確的引用」的政策刪除這張相片，因為用戶並未明確地表達其意圖。

12.在考慮 Meta 提出之選項的同時，監察委員會也考慮了其他選項，以及參考了 2023 年 12 月更新後的政策。此外，鑑於 Meta 在徵詢中直接要求委員會提供政策建議，以應對未來可能會遇到的類似問題，所以在本政策諮詢意見中，委員會也針對一些顯而易見的相關問題評估了 Meta 的政策執行和資訊透明度的實務操作，因為這也會對言論自由和其他更廣泛的人權產生影響。

IV.監察委員會向 Meta 提出的問題

13.監察委員會向 Meta 提出了 41 個書面問題。這些問題分別有關於《社群守則》「危險組織和人物」政策背後的政策宗旨、在 Meta 平台上允許「讚揚」內容所可能產生的傷害證據、Meta 的人工和自動執行流程、Meta 的指定流程和指定實體名單、Meta 的警告系統，以及採用政策修改選項二或三對實務操作的影響。2023 年10 月，針對以色列在 10 月 7 日發生的恐攻事件，以及以色列後續採取的軍事報復行動，監察委員會對「shaheed」一詞的內容趨勢提出了跟進問題，另外鑑於當前的危機局勢，委員會也想知道 Meta 在徵詢中提出的政策修改選項分析是否有所變化。此外，監察委員會就 Meta 在 2023 年 12 月 29 日更新的政策內容另外提問了三個問題。Meta 共回答了 40 個問題，並部分回答了 1 個問題。Meta 僅向監察委員會提供第 1 級指定實體的名單，而沒有提供第 2 級和第 3 級實體的名單，並解釋說，只有在提及第 1 級指定實體的情況下才會禁止「讚揚」。

2.利害關係人議合

14.監察委員會收到了 101 則符合提交條件的公眾評論。其中有 72 則來自美國和加拿大；15 則來自中東和北非地區；8 則來自歐洲地區；3 則來自亞太地區和大洋洲地區；2 則來自拉丁美洲和加勒比海地區；以及 1 則來自中亞和南亞地區 。所有評論均於 2023 年 4 月 10 日前收到。若要閱讀同意公開的公眾評論，請點擊此處。

15.公眾提交的評論探討到許多的議題。許多人解釋了「shaheed」一詞的多重含義，以及 Meta 將該詞彙默認為「讚揚」的處理方式，對於言論自由（特別是政治言論和人權文獻）造成了負面影響。還有些評論對政策執行實務使用自動化系統表示擔憂，以及 Meta 的指定名單、透明度問題，以及指定過程中可能潛在的偏見。其他評論則是擔心政策的修訂可能會導致恐怖組織正常化，並出現更多暴力行為，特別是在以色列和巴勒斯坦被佔領土。

16.監察委員會分別針對西南亞、北非和撒哈拉以南非洲以及東南亞舉辦了三場區域性利害關係人圓桌會議。此外，還舉辦了兩場主題圓桌會議，其中一場的主題是內容審查自動化作業，另一場則是關於反恐和人權議題。參與者都強調「shaheed」這個字有很多種含義。「烈士殉難」只是其中一種可能的含義，包括在實施恐怖主義行為中喪命的個人，但「shaheed」也經常用於其他語境，例如描述這些攻擊事件中的暴力受害者。包括受影響的社群成員、反恐專家和內容審查專家在內的許多參與者都對該政策中的偏見表示擔憂，並探討了該政策如何對言論自由產生負面影響，特別是針對阿拉伯語用戶以及其他會使用「shaheed」的社群。其他主題包括缺乏證據證明使用「shaheed」來指稱指定人物與現實世界的傷害之間存在因果關係，國家安全與反恐專家也都強調了這一點。同樣地，也有人擔心，完全放棄審查該詞彙將導致指定人物及其組織獲得正常化的機會，這些人物及其組織可能會利用社交媒體進行招募，以及出現其他形式的實質性支持。其他主題包括有人擔心 Meta 用於審查該詞彙的自動化系統的品質不夠好，以及參與者呼籲 Meta 更清楚地說明自動化系統的使用，以及呼籲 Meta 提供指定實體名單並說明其指定流程。

17.如需我們的利害關係人議合圓桌會議報告，請點擊此處（如需阿拉伯文版本，請點擊此處）。

3.監察委員會的權限與範疇

18.Meta 可以向監察委員會徵求政策諮詢意見（章程，第 3 條第 7.3 節），而監察委員會有權酌情接受或拒絕 Meta 的徵詢（規章制度，第 2 條第 2.1.3 節）。這些意見屬建議性質（章程，第 3 條第 7.3 節）。Meta 必須在意見發佈後的 60 天內做出回應（規章制度，第 2 條第 2.3.2 節）。監察委員會會監督 Meta 承諾採取行動之建議的落實情況，並可能對先前案例判定中的任何建議進行後續追蹤。

4.權限與指引來源

I.監察委員會先前提出的建議

19.在先前的案例中，監察委員會曾建議 Meta 應澄清「危險組織和人物」政策並縮小其範圍，並改善政策執行方面的正當程序和資訊透明度。

20.為了提高政策的清晰度並縮小其範圍，監察委員會曾建議 Meta 應：

• 在提供給審查人員的「已知問題」指南中限縮「讚揚」的定義（「在新聞報導中提及塔利班」，第 3 點建議）。
• 修訂其內部指南，以清楚說明「危險組織和人物」政策中的「新聞報導」豁免用例允許在新聞報導中對指定實體進行正面陳述，以及說明該用例如何與政策禁止的「讚揚」內容區分開來（「在新聞報導中提及塔利班」，第 4 點建議）。
• 在其政策中添加標準和說明性範例，以幫助用戶對中立討論、譴責和新聞報導之豁免用例的理解（「分享 Al Jazeera 帖子」，第 1 點建議）。
• 更新其政策宗旨，以反映尊重言論自由和其他人權可以強化 Meta 的「安全」價值理念，以及詳細闡釋公司壓抑「發言權」價值理念時，其政策試圖預防和遏止的是什麼樣的「現實世界的傷害行為」（「Öcalan 的隔離監禁」，第 4 點建議）。
• 向用戶解釋如何在帖子中明確表達自己的意圖，以適用政策的豁免用例（「Öcalan 的隔離監禁」，第 6 點建議）。
• 解釋「危險組織和人物」政策中使用的重要字眼（包括「讚揚」），並提供其實際應用情形的範例，以及向用戶提供清楚的指引，幫助用戶了解如何明確表達自己的意圖（「納粹引言」，第 2 點建議）。

21.針對 Meta 的警告系統，監察委員會建議 Meta 應：

• 以清楚、完整、易懂且易於取得之方式，說明公司的警告和處罰程序如何限制 Facebook 和 Instagram 的個人檔案、專頁、群組和帳戶（「前總統特朗普的停權」，第 15 點建議）。
• 更完整且清楚地公開說明其雙軌警告系統，特別是「嚴重警告」的部分（「在新聞報導中提及塔利班」，第 2 點建議）。
• 向用戶提供相關的評估資訊，讓他們清楚了解自己已經累積多少違規、警告和處罰次數，以及未來違規將承受什麼樣的後果（「前總統特朗普的停權」，第 16 點建議）。

22.針對資訊透明度的問題，監察委員會建議 Meta 應：

• 公開發佈指定實體的名單，或至少提供指定實體的參考範例 ( 「納粹引言」，第 3 點建議）。
• 在其政策執行報告中加入限制個人檔案、專頁和帳戶的數量（不包括遭到移除的內容數量），並按地區和國家細分（「前總統特朗普的停權」，第 17 點建議）。
• 加入更完整的資訊，說明公司針對「讚揚」和「支持」危險人物和組織的內容執行處置的錯誤率，並根據地區和語言細分（「Öcalan 的隔離監禁」，第 12 點建議）。
• 公開說明每一條《社群守則》的執行錯誤率，並根據國家和語言細分（「旁遮普人對印度 RSS 的擔憂」，第 3 點建議）。

23.針對自動化系統的問題，監察委員會建議 Meta 應：

• 在使用自動化技術對用戶的內容採取違規處置時通知他們，包括在容易看到的位置說明該處置的影響（「乳癌症狀和裸露內容」，第 3 點建議）。
• 擴展資訊透明度報告的內容，披露依照《社群守則》決定自動移除內容的相關資料，以及這些原有判決經人工審查後遭到推翻的比例（「乳癌症狀和裸露內容」，第 6 點建議）。
• 在其資訊透明度報告中公佈將內容錯誤納入「媒體配對服務」資料庫違規內容的錯誤率，並按各個內容政策細分。該報告應包括有關內容如何納入資料庫的資訊，以及公司為減少流程中的錯誤所做的努力（「哥倫比亞警方漫畫圖片」，第 3 點建議）。
• 公開說明申訴案件的自動優先排序機制和結案機制（「伊朗抗議口號」，第 7 點建議）。

24.若要查看此諮詢意見定案時先前建議的落實進度，請點擊此處（如需阿拉伯文版本，請點擊此處）。

II.Meta 的價值理念與人權責任

25.監察委員會在本政策諮詢意見中的分析和建議均參考了 Meta 的價值理念與人權責任。

26.Meta 將「發言權」描述為「至高無上」的價值理念，並指出發言權可以為服務其他四個價值理念時受到限制，其中與本政策諮詢意見最相關的價值理念是「安全」。為了保護「安全」價值理念，Meta 會「移除可能助長人身安全傷害風險的內容」。另外，Meta 也不允許「威脅他人的內容」，因為此類內容「有可能會對他人產生恫嚇、排斥或緘默的效果」。

27.2021 年 3 月 16 日，Meta 發佈了《企業人權政策》，其中內容承諾將會遵守《聯合國工商企業與人權指導原則》（UNGP）中所述之權利。在 2011 年獲聯合國人權理事會背書的 UNGP 針對私人工商企業的人權責任訂定了適用的自願架構。除此之外，這些責任意味著企業公司「應避免侵犯他人的人權，並應解決涉及他們的不利人權影響」（UNGP，第 11 條原則）。企業公司應：「（一）避免通過其自身的活動造成或助長不利的人權影響，並在此類影響發生時予以解決；（二）設法防止或減輕因其業務關係直接與其業務、產品或服務相關之不利人權影響，即使他們並未造成這些影響」（UNGP，第 13 條原則）。

28.正如 Meta 在徵詢監察委員會時承認，其內容審查做法可能會對言論自由權造成不利影響。鑑於這項權利對政治話語的重要性，《公民權利和政治權利國際公約》（ICCPR）第 19 條第 2 節特別對這項權利提供了​​廣泛的保護，人權事務委員會指出，它還會保護可能具有嚴重冒犯性的言論（第34 號一般性意見，第11、13 和 38 節）。如果是國家要限制表達自由，則這些限制應遵守合法性、合理目的，以及必要性和比例原則的規定（ICCPR，第 19 條第 3 節）。以上規定通常稱作「三部分測試」。監察委員會會根據這個架構來解讀 Meta 的自發性人權承諾，既攸關正在審查的個別內容處置決定，也涉及 Meta 更廣泛的內容管理做法。根據聯合國意見和表達自由問題特別報告員的看法，雖然「公司企業沒有和政府相同的義務，但公司企業的影響力使它們必須評估和政府面臨的相同問題，以保護其用戶的表達自由權」（報告 A/74/486，第 41 節）。

29.所有人的言論自由權均應受到平等保障。對這項權利的任何限制都不能帶有歧視性，包括不能以宗教或信仰、語言或國籍為由設下限制（ICCPR，第 2 條和第 26 條）。

合法性（清晰易懂且易於取得的規則）

30.任何對言論自由的限制在範圍、含義和效果上均應清晰易懂且易於取得，以便幫助用戶和內容審查人員理解允許和不允許出現的內容。缺乏明確性或準確性都可能導致規則的執行不一致和過於武斷（聯合國特別報告員報告 A/HRC/38/35，第 46 節）。監察委員會先前曾批評「危險組織和人物」政策不夠明確，並建議 Meta 應改進其政策（「Öcalan 的隔離監禁」，第 4 點和第 6 點建議；「分享 Al Jazeera 帖子」，第 1 點建議；「在新聞報導中提及塔利班」，第 3 點和第 4 點建議）。Meta 隨後採納了監察委員會的建議，以澄清「讚揚」的定義。

31.然而，Meta 於 2023 年 12 月更新的「危險組織和人物」政策卻衍生了新的合法性問題。儘管 Meta 分別提供了違反「代表」、「支持」和「美化」禁令的帖子範例​​，但公司並沒有提供違反「不明確的引用」的範例。監察委員會在本政策諮詢意見中提出的建議，是希望能進一步提高 Meta 規則的清晰度和可及性。

合理目的

32.ICCPR 第 19 條第 3 節規定，對言論的任何限制都必須追求合理目的，其中包括保護他人權利以及更廣泛的社會利益，例如國家安全（另見第 34 號一般性意見，第21 和 30 節）。Meta 在《社群守則》「危險組織和人物」政策的政策宗旨中解釋說，該政策旨在「防範並杜絕現實生活中具傷害性的行為」，監察委員會認為這在多種情況下均符合保護他人權利的合理目的，包括他人的生存權（ICCPR，第 6 條）。監察委員會先前也意識到，讚揚指定實體可能會產生傷害他人權利的風險，而尋求通過《社群守則》「危險組織和人物」政策禁止讚揚來減輕這些傷害風險具有合理目的（「在新聞報導中提及塔利班」）。

必要性和比例原則

33.任何對表達自由的限制都「必須與其提供保障的功用相稱；與其他功用為提供保障的方法比起來，必須是最不擾人的方法；必須與受保障的利益成正比」（第 34 號一般性意見，第 34 節）。

34.聯合國安理會第 1624 號決議（2005 年）呼籲各國在必要和適當的情況下，根據國際法規定的義務，「依法禁止煽動從事恐怖主義行為」（第 1a 節），隨後的決議更對恐怖組織使用互聯網的情況表示擔憂（聯合國安理會第 2178 號決議（2014 年）和聯合國安理會第 2396 號決議（2017 年））。雖然這些決議重申各國應根據國際人權法規定之義務來應對和防止恐怖主義蔓延，但聯合國在反恐時促進和保護人權與基本自由問題特別報告員提出兩點擔憂，一是試圖規範履行其義務的法律含糊不清，包括那些與網上言論相關的義務，二是機構過度關注言論的內容，而忽略了發言者的意圖或其言論對他人的影響（報告 A/HRC/40/52，第 37 節）。特別報告員的結論是，如果要將恐怖主義鼓吹行為定罪，則「需要合理證明爭議言論有成功煽動恐怖主義行為的可能性，從而建立某種程度的因果關係，或有發生禁止結果的實際風險」（同上）。聯合國言論自由問題特別報告員、歐洲安全與合作組織媒體自由問題代表，以及美洲國家組織言論自由問題特別報告員在 2005 年 12 月 21 日共同發表的「關於互聯網和反恐措施的聯合聲明」指出，在未能明確證明爭議言論會構成直接、故意煽動他人從事恐怖主義行為，並直接提高恐怖主義行為發生機率的情況下，國家不得通過懲罰措施限制和制裁言論（第 39 頁）。言論自由問題特別報告員在報告 A/HRC/17/27（2011 年 5 月 16 日，第 36 節）中也設下了很高的門檻，並指出只有在「(a) 該言論旨在煽動迫在眉睫的暴力行為；(b) 可能煽動此類暴力行為；(c) 該言論與此類暴力的可能性或發生之間存在迫切和直接的關聯性」的情況下，才可出於保護國家安全或反恐之目的來限制言論。人權事務委員會表示，如果要用反恐措施禁止特定言論，就必須「以狹義的方式」定義「鼓勵」、「美化」和「讚揚」等詞彙，不得「過度限制媒體在向公眾通報恐怖主義行為的關鍵作用」（第 34 號一般性意見，第30 和 46 節）。

35.雖然這些原則和標準是監察委員會進行分析的重要出發點，但國際人權法對國家施加的義務和限制，與私人企業在這個領域中可能擁有的責任和自由裁量權並不相同。社交媒體審查平台上的內容無法與國家實施刑事制裁相提並論，監察委員會意識到，如果同時考慮到 Meta 的價值理念（請見上文第 27-28 節）和大規模審查內容的獨特挑戰性，Meta 作為一間私營企業而不是國家，可以而且有時確實會採取比國家合理做法更嚴格的方式來限制言論。聯合國言論自由問題特別報告員表示：「如果公司規則與國際標準不同，公司應事先對政策差異提出合理解釋，以明確說明不同之處」（言論自由問題特別報告員關於網絡仇恨言論的報告，A/74/486，2019 年 10 月 9 日，第 48 節）。在先前的許多判決中，監察委員會在評估比例原則的要求時，曾探討過如何將針對國家設計的國際標準適當地轉譯為私人企業的人權責任，本政策諮詢意見也同樣致力於實現此一目標。

36.監察委員會先前就《社群守則》「危險組織和人物」政策做出的相關判決，也曾檢視 Meta 在「讚揚」指定實體方面所應肩負的人權責任。雖然防止指定實體濫用 Meta 平台以尋求煽動暴力行為、招募人手或參與其他形式的實質性支持屬於合理目的，但委員會通過多個實例發現，禁止「讚揚」的審查方式過於寬泛或有不準確的解讀出現，從而不必要且過度地限制了用戶的言論。舉例來說，Meta 曾刪除烏爾都文報紙報導塔利班宣佈重建婦女和女孩教育計劃的帖子，監察委員會認為該帖子並沒有「讚揚」用意，因此推翻了這個刪除處置（「在新聞報導中提及塔利班」）。此外，Meta 還刪除過用戶錯誤引用 Joseph Goebbels 的帖子「納粹引言」）的帖子，委員會也同樣推翻了這個決定，因為有足夠的上下文顯示該帖子並非在讚揚納粹意識形態，而是在參與美國的政治討論。監察委員會還推翻過 Meta 刪除分享半島電視台（Al Jazeera）新聞帖子的決定，該文章報導了指定恐怖組織引發的暴力威脅，本應保留在平台上帖子卻遭到刪除，導致人們擔憂 Meta 政策是否可能存在歧視性的影響（「分享 Al Jazeera 帖子」）。在幾次的簡易判決中，委員會也推翻或促使撤銷了幾項 Meta 刪除 Facebook 和 Instagram 帖子的決定，這些帖子本來是因為讚揚指定人物而遭到刪除（「反殖民領袖 Amílcar Cabral」；「黎巴嫩行動主義份子」；「回應反猶太主義」；「尼日利亞的聯邦選區」；「阿富汗女童的教育」；「提及青年黨」；「讚美真主」；以及「遭到挾持的以色列人質」）。儘管 Meta 最近對「危險組織和人物」政策進行了修改，但其中許多案例判決仍然具有相關性。監察委員會未來將針對新的案例繼續檢視這項政策，包括有關「美化」和「不明確的引用」的新條文。

6.相關建議與分析

37.監察委員會針對 Meta 的內容政策、政策執行和資訊透明度提出了七項建議。委員會相信這些建議可以大規模實施，並將幫助 Meta 恪守其發言權和安全的價值理念，同時也能加強 Meta 對言論自由和其他人權以及資訊透明度的尊重。

6.1 Meta 處理「Shaheed」的政策

第 1 點建議 – 內容政策：Meta 應該停止假設「shaheed」一詞在用於指稱指定人物或指定組織之不具名成員時，一定就是違反政策且沒有資格套用政策豁免權。只有在兩種情況下，才能以「不明確的引用」為由刪除將指定人物稱為「shaheed」的內容。第一種是出現一個或多個暴力訊號的情況，暴力訊號有三種：描繪軍備／武器的視覺化素材、發表使用或攜帶軍備／武器的意圖或提倡聲明，或提及指定事件。第二種是內容因其他原因違反 Meta 政策的情況（例如因美化指定實體；或雖然沒有使用「shaheed」，但提及指定人物的意圖依然不夠明確）。無論是上述哪一種情況，內容仍應適用「報導、中立討論和譴責」之豁免用例。

當 Meta 公開更新其《社群守則》，明確規定當存在其列出的三個暴力訊號中的一個或多個訊號時，即禁止使用「shaheed」形容指定人物，屆時監察委員會才會將此建議視為已落實。

第 2 點建議 – 內容政策：為了澄清禁用「不明確的引用」的政策條文，Meta 應提供數個違規內容的範例，包括將指定人物稱為「shaheed」的帖子，且該帖子應具備第 1 點建議中指定之三種暴力訊號的一個或多個訊號。

當 Meta 公開更新其《社群守則》，並針對「不明確的引用」提供相關範例後，監察委員會才會將此建議視為已落實。

第 3 點建議 – 政策執行：Meta 也應更新其內部的政策指南，以清楚說明將指定人物稱為「shaheed」並不會違反政策，除非該內容同時出現暴力訊號，且即使存在這些訊號，內容仍可能適用「報導、中立討論或譴責」的豁免用例。

當 Meta 更新其提供給審查人員的指南，允許含有「shaheed」的內容套用「報導、中立討論和譴責」之豁免用例，並提供此新版指南給監察委員會後，監察委員會才會將此建議視為已落實。

38.縱然 Meta 必須設法防止其平台被用來煽動恐怖主義暴力行為（這是其內容審查政策的合理目的），但 Meta 的人權責任同時也要求公司對言論施加的任何限制都必須具備必要性且符合比例原則，特別是應尊重受到暴力行為影響之社群成員的發言權。儘管「shaheed」的其中一種含義與用法確實可對應英語單字「martyr」（烈士），但監察委員會認為，Meta 沒有必要僅因用戶使用「shaheed」來形容指定人物就刪除所有的內容，這樣的做法並不符合比例原則。這是因為這種地毯式的禁令未能考慮到該詞彙的語意複雜性，導致過度刪除言論、過度限制媒體自由和公民空間，以及對平等權與不受歧視權造成了嚴重的負面影響。此外，即使 Meta 採納並落實了這項建議，公司更廣泛地禁止「美化」和「不明確的引用」的政策細節將可繼續適用。因此，Meta 應停止僅僅因為「shaheed」的存在而刪除內容。反之，Meta 應該採取更重視語境的審查方法，並且明確且精細地定義將導致「shaheed」被解讀為有害內容的暴力訊號。如下所述，Meta 在其徵詢中提出了六種訊號，監察委員會僅完全認可其中的兩種，並建議縮小第三種訊號的定義範圍。Meta 提出的其他三種訊號（作為供審查人員執行另外的「暴力和煽動仇恨」政策的指南）對於「危險組織和人物」政策的目的來說過於寬泛。同時，委員會建議 Meta，即使是在出現暴力訊號的情況下，如果內容是在報導、譴責或中立討論指定實體，則應適用豁免用例。上述建議適用於「shaheed」的單數和複數形式，以及採用「shaheed」之多種語言中的變體。

39.監察委員會諮詢了相關專家和利害關係人，以評估在 Meta 平台上允許用戶使用「shaheed」來形容指定實體所可能帶來的危害。部分利害關係人擔心 Meta 的平台會促進恐怖分子的宣傳和招募工作，並助長歧視或暴力行為，包括針對猶太人的歧視或暴力行為（請參閱公眾評論，例如 PC-11123 – Cyber​​Well Ltd；PC-11153 – Stop Antisemitism Now；PC-11194 – Committee for Accuracy in the Middle East；PC-11068 – Canadian Antisemitism Education Foundation）。雖然沒有研究表明「shaheed」一詞與此類暴力或歧視行為的增加之間存在任何具體的因果關係（如之前第10 頁 Meta 的轉介中所述，以及 Meta 本身在徵求政策諮詢意見之前進行的專家和利害關係人議合所獲得的結果），但有些許個案確實發現殉道意願與暴力行為之間存在關聯性。整體上來說，人們普遍擔心社交媒體可能會被暴力組織用來招募和促進恐怖行為的實施、使恐怖主義正常化並促進極端主義。監察委員會進行了大量的利害關係人議合和專家諮詢，其中也包括與反恐專家舉行的圓桌會議（請參閱利害關係人議合圓桌會議），而其中的討論也都證實了這些假設和擔憂並非空穴來風。

40.許多專家和利害關係人向監察委員會提交的評論，也都表示刪除使用「shaheed」的內容會對言論自由造成負面影響（參見公眾評論，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX；PC-11183 ECNL EFF；PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation）。這包括刪除使用「shaheed」的言論，但這些言論並不是為了讚揚或美化指定實體，而是為了報導恐怖分子或其他指定組織的暴力行為，或是參與有關指定人物的中立政治或學術討論。

41.以下範例可以說明使用「shaheed」提及指定人物的內容遭到刪除時，Meta 的處理方法：

• 政府在 Meta 的平台上發佈了一篇新聞稿，確認指定人物已經死亡，並在其姓名旁使用了尊稱「shaheed」。這個帖子會被刪除，因為 Meta 假定「shaheed」這個詞彙是違規地雷，無論語境是否表明內容為中立討論。
• 一名用戶分享了一張他們正在參加抗議活動的相片，但沒有提供明確的說明文字解釋抗議活動的目的。有一些標語牌上使用「shaheed」來稱呼已故的指定人物。這個帖子會被刪除，因為 Meta 假定相片中有標語牌提及指定人物的姓名，再加上「shaheed」的使用，因此屬於違規內容。
• 一名人權捍衛者分享了一則帖子，其中描述了國家草率處決了某個指定人物，於是稱該人物為「shaheed」，並譴責該政府的反恐政策。這個帖子會被刪除，因為 Meta 假定「shaheed」這個詞彙是違規地雷，無論語境是否為報導內容。
• 一位關心時事的社區成員對當地一條道路的狀況提出了投訴，該道路是以指定人物的姓名命名，並使用了尊稱「shaheed」。這個帖子會被刪除，因為 Meta 假定「shaheed」這個詞彙是違規地雷，而不管該指定人物只是在該內容討論地方事務時順帶提及而已。
• 一名家庭成員稱其在恐怖襲擊中喪生的親人為「shaheed」，並譴責肇事者，剛好這些肇事者為指定人物。儘管這則帖子沒有違規，但考慮到 Meta 的地毯式刪除做法，在點名肇事者的情況下又使用了「shaheed」，就會導致內容遭到錯誤刪除。

42.部分利害關係人表示擔心，對「shaheed」的使用採取限制較少的審查方式，可能會產生大規模的累積效應，導致恐怖主義正常化。雖然不可否認，有些人使用「shaheed」就是為了且確實會構成對個人及其暴力行為表達認可或支持，但監察委員會認為基於這些理由就要讓該政策全面禁止使用該詞彙的做法並不合理 。根據包括反恐專家在內的利害關係人提供的資訊，以及 Meta 之前的研究和利害關係人的議合，監察委員會得出的結論是，現行政策對言論自由造成了非常明顯的負面影響，該影響已遠超過此類案例可能產生重大有害之累積效應的擔憂。目前的情況更是如此，因為即使 Meta 實施了監察委員會的建議，Meta 依然設有許多重要的防護措施，可防止因允許恐怖分子及其支持者自由使用 Meta 平台而造成暴力行為和其他的傷害。

43.監察委員會也認為，「shaheed」具有多種含義，並且經常用於不會煽動暴力或仇恨的方式，反而是用於報導公共利益相關事務。實施地毯式禁令意味著 Meta 會刪除大量的內容，而其中有許多內容並不會造成 Meta 的政策試圖減輕的危害。雖然在大規模審查內容時，有時需要接受一定比例的執行錯誤出現，但 Meta 有責任根據其所有人權責任權衡利弊。基於所有這些考慮要點，監察委員會總結認為，其提議的方法能夠與 Meta 整體的人權責任取得最佳平衡。

「Shaheed」的文化和宗教意義及其多重含義

44.「Shaheed」是一個具有重要的文化和宗教意義的詞彙，常見於許多不同的語境，並且具有不同的含義。監察委員會收到的公眾評論，以及委員會委託執行的研究，都幫助委員會對該詞彙有了進一步的了解。「Shaheed」可以有「見證」和「作證」的意思。它也被用作伊斯蘭教徒的名字，在某些地區（包括西亞和北非），也會當作姓氏使用（參見公眾評論，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX）。「Shaheed」也會用來形容為了履行宗教義務而死的人。在武裝衝突或暴力攻擊事件中（包括指定組織參與的事件中），人們有時會稱呼暴力和恐攻事件的受害者為「shaheed」，藉此紀念他們（參見公眾評論，例如 PC-11164 – SMEX；PC-11197 – 新西蘭政府將基督城槍擊事件的受害者稱為「shuhada」，這是「shaheed」的複數形式；PC-11196 – Integrity Institute 強調，某些國家的邊緣化穆斯林群體（包括羅興亞人）會將因宗教或信仰迫害而被迫離開緬甸的難民稱為「shaheed」）。監察委員會委託 Memetica 對 Meta 平台上已發佈並獲得保留的內容進行的定量研究表明，「shaheed」被廣泛用來指稱為國捐軀者、為奉行其理念而死的人，或是社會政治暴力事件或天災事故的意外受害者。雖然這些帖子不一定有將「shaheed」與指定人物連結起來，但前面引用的例子（見第 41 節）說明了「shaheed」的多種含義和用法在這種情況下也同樣具有相關性。

45.2023 年 10 月，哈馬斯領導對以色列進行恐怖攻擊，造成以色列隨後在加沙採取軍事行動，監察委員會委託第三方對使用「shaheed」的內容趨勢進行更多的研究。在本次研究分析審查的 12,000 多個公開帖子中，只有兩個帖子支援哈馬斯。幾乎所有「shaheed」的使用都是在描述巴勒斯坦人民在加沙走廊的傷亡情況，沒有提及任何指定的組織或人物。這些帖子包括巴勒斯坦人哀悼失去親人的內容，而其他帖子則展示了受傷的巴勒斯坦兒童，和／或呈現加沙空襲事件的慘烈畫面。監察委員會也向 Meta 提出了其他問題，因為研究人員對內容趨勢的觀察僅限於平台上保留的公開內容，不包括 Meta 因違反其「危險組織和人物」政策而刪除的內容。Meta 的回應也再次證實了研究的調查發現。該公司認為，與發生這些事件之前相比，危機期間的內容趨勢並未顯示公司對「shaheed」一詞的使用或理解有發生任何變化。

46.因為有這些不同的含義，Meta 假定「shaheed」的使用一定會違規並造成現實世界的傷害，因此一定要被刪除的預設立場，對全世界的言論自由都造成了傷害，而這是一定要解決的問題。Meta 解釋說，「shaheed」可能是其平台上最常受到審查的詞彙，許多利害關係人都觀察到，報導指定實體和暴力行為的內容經常遭到 Meta 刪除（政策諮詢意見徵詢，見第 3 頁）。這種處理「shaheed」方法是該公司優先考慮採用明確區別做法以大規模執行政策的一個例子。雖然從原則上來看，這種區別做法有時可能是適當的，因為大規模的內容審查作業往往需要經過艱難的利弊權衡，但監察委員會在本案中得出的結論是，假定與指定人物有關之「shaheed」一定要被刪除的預設立場是不合理的，因此必須放棄這個立場。Meta 也承認，其審查方法在設計上未能考慮到語言和文化背景，導致在兩個方面出現嚴重過度執法的情況。其一，這種審查方法會刪除掉並非旨在讚揚或美化但仍違反政策的內容，因為 Meta 選擇假定「shaheed」一定會違反政策。其二，這種審查方法會提高錯誤刪除使用「shaheed」指稱非指定人物之內容的機率，因為這種審查方法會鞏固地毯式刪除的做法，並阻礙審查人員對語境做進一步的評估。

47.儘管「shaheed」擁有多種含義，但監察委員會指出，Meta 先前在「危險組織和人物」政策的「讚揚」禁令中提供的範例並未針對不同的市場提供語境說明，只針對這些範例提供過於簡單化的直接翻譯。《社群守則》中只有用一個以「烈士」（martyr）稱呼被定罪的恐怖分子的片語範例，來說明 Meta 如何處理含有「shaheed」一詞的內容，該範例被列在其讚揚禁令的廣泛說明之中。該政策的許多語言版本中都有提供了這一個範例，其中阿拉伯文版將其翻譯為「shaheed」，然後這些詞彙不一定擁有對應的含義。監察委員會指出，該範例已從 2023 年 12 月的新版政策中刪除。雖然這個例子中的翻譯不一定不準確，但使用這個例子來主張「shaheed」永遠等同於「烈士」（martyr）的意思，卻是不準確的做法。

48.反之，基於同樣的原因，監察委員會在本政策諮詢意見中關於「shaheed」的結論是，不應將其自動轉譯為「烈士」（martyr），或直接以「烈士」的意思將「shaheed」翻譯為所有其他的語言。「烈士」和「shaheed」之間並不完全是對等關係，因為前者在英文語言中以及在英語系地區之間的語義變化較小。在不同語言中，Meta 都必須評估哪些詞彙符合 Meta 的「美化」標準，同時牢記本政策諮詢意見中提出的指南。無論如何，監察委員會都不支持全面禁用「shaheed」的做法，從而完全隔離這個詞彙，導致用戶無法在更廣義的帖子語境中使用「shaheed」。根據監督委員會先前的判例，這些帖子應接受整體評估。此外，根據對外公開的政策，Meta 應確保政策的豁免用例允許用戶在使用「烈士」的情況下（以及其他語言中真正對等的美化或正面評價詞彙）「報導、譴責或中立討論」指定的人物。由此可知，Meta 提供給審查人員的內部指南提供，必須針對當地背景和審查語言的語言特殊性進行調整（參見監察委員會在「緬甸 Bot」案例判決中表達的類似擔憂，這也是該案第 1 點建議的基礎）。

49.在數起案例中，監察委員會都曾敦促 Meta 重新審視可大規模執行的明確規則與更加注重背景脈絡的政策執行之間的權衡利弊，後者通常較尊重言論自由和用戶的發言權（例如，尊重對指定實體的報導，請參閱「在新聞報導中提及塔利班」和「分享 Al Jazeera 帖子」）。雖然先前的案例並未直接涉及「shaheed」的使用，但委員會曾提醒，在用戶提及指定實體時，不要推定其必懷有惡意（請參閱「納粹引言」）。許多公眾評論都強調，Meta 假定「shaheed」必然等於「讚揚」的假設，可能會因為審查人員或大規模自動化系統犯錯，導致人們紀念恐怖攻擊事件受害者的內容遭到過度執法（參見公眾評論，PC-11164 – SMEX，第 1 頁；PC-11197 – 新西蘭政府評論）。刪除此類內容甚至可能違背「危險組織和人物」政策的立意，因為這種刪除做法可能會阻止人們探討恐怖主義暴力行為，導致人們無法起身對抗此類暴力行為背後的意識形態（例如，請參閱 PC-11164 – SMEX）。

尊重媒體自由與公民空間

50.監察委員會特別擔心 Meta 的做法會影響新聞媒體業和公民話語權。在恐怖分子或其他指定組織的暴力行為更為普遍的地區，以及指定實體擁有領土控制權或以其他方式掌握政治權力的地區，這些影響特別嚴重。許多公眾評論都也提出了這樣的擔憂（請參閱公眾評論，例如 PC-11196 – Integrity Institute；PC-11157 – Palestine Institute for Public Diplomacy）。媒體組織和其他評論者在報導指定實體時可能會變得如履薄冰，因為他們一定會希望避免內容遭到刪除，以及隨之而來的嚴厲制裁，包括專頁、群組被刪除或帳戶被停用。在某些情況下，這些後果可能會難以預測。例如，在報導針對政府行為者舉行的抗議活動時，如果人們對該行為者殺害的指定人物表現出支持的跡象，這個內容就會有被刪除的風險。從語言、文化或宗教的使用慣例來看，「shaheed」可能會用於指稱在這些情況下被殺害的人，其中也包括在實施暴力行為時喪命的人。

51.值得一提的是，指定實體參與暴力事件的情況充滿了複雜性，包括這些情況可能包括武裝衝突、抵抗外國佔領和內亂。媒體在報導這些情況時可能會面臨到重大的挑戰，因為媒體需要對當地語言、文化或宗教的使用慣例保持敏感度，同時還要遵守 Meta 的內容政策。而由於 Meta 並未公開其指定實體名單，而且用戶實際上並不知道名單上有哪些人物跟組織，這樣的事實更加劇了這些擔憂。報導這些情況的新聞內容往往還可能出現暴力訊號，例如對軍備的描述，如果沒有提供「報導、中立討論或譴責」的豁免用例，該訊號可能就會成為滿足違反政策的條件。因此，在內容報導、中立討論或譴責指定實體的情況下，Meta 務必要套用豁免用例。

52.該禁令也可能導致生活在指定實體運作或掌握政治權力的環境中的用戶，更難去表達自己的觀點和批評言論。為了避免直接衝突和安全風險，在這些情況下，用戶可能會以相對尊重的方式發表評論，而這不應全部被解讀表達讚揚。制裁此類言論尤其令人擔憂，因為社交媒體向來是重要的辯論論壇，特別是在爆發衝突的地區以及新聞自由受到限制的國家。

平等權與不受歧視權

53.由於「shaheed」的使用範圍很廣泛且變體很多，特別是在阿拉伯語用戶和借用「shaheed」的其他語言（其中許多是穆斯林人口）的用戶之間，Meta 的政策對這些群體會造成不成比例的嚴重影響。這引發了人們的嚴重擔憂，擔心公司無法履行其責任，以尊重所有用戶在行使言論自由權時可同時享有平等權與不受歧視權。這是許多公眾評論的討論焦點（例如，請參閱 PC-11183 ECNL EFF；PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation；PC-11196 – Integrity Institute；另請參見關於 Meta 對以色列和巴勒斯坦的影響的 BSR 報告）。聯合國開發計劃署（UNDP）在其關於「阻止極端主義之路」（interrupting the journey to extremism）的報告中強調，除了其他的根本原因之外，極端主義暴力的主要驅動因素包括「不平等、排擠、缺乏機會和不公義的觀點」。監察委員會擔心，Meta 的政策方針可能會讓特定群體的邊緣化和受排擠的經歷變得更加惡化，甚至對減少暴力的原定目標產生反作用。UNDP 強調，網絡平台在審查內容的時候，企業應確保預防暴力極端主義的工作「不會無意中導致對個人造成污名化和受到針對」。

採用侵入性較小的方法來預防傷害

54.在評估政策是否符合必要性和比例原則時，也需要分析是否有侵入性較小的方法可以實現相關的合理目的。監察委員會在本意見中提出的建議如果得到落實，將要求 Meta 停止全面刪除所有使用「shaheed」來形容指定人物的內容。儘管如此，如果內容造成傷害的可能性比較高且風險更明顯的少數情況下，仍然可以刪除使用該詞彙的內容。這些建議將允許 Meta 繼續刪除將指定人物稱為「shaheed」的內容，前提是該內容必須伴隨著其他的政策違規行為（例如美化或不明確的引用），或是內容中出現暴力訊號。這樣做將可繼續提供重要的約束力，同時減少該政策的不利影響，例如針對特定語言和宗教群體過度執法。

55.暴力訊號的存在以及使用「shaheed」形容指定人物的條件，可以更清楚地表明該帖子旨在對該人物做出正面評價，因為該人物與暴力元素有關（前提是不適用報導、中立討論或譴責的豁免用例的情況）。Meta 在其徵詢中提出了以下暴力訊號，這些訊號是借用自「暴力和煽動仇恨」政策的內部指南：(1) 描繪軍備的視覺化素材；(2) 發表使用或攜帶軍備／武器的意圖或提倡聲明；(3) 提及軍事用語；(4) 提及縱火、搶劫或其他破壞財物的行為；(5) 提及現實世界中已知的暴力事件；以及 (6) 發表意圖聲明、行動呼籲、代表、支持或鼓吹以暴力行為傷害他人。監察委員會認為，其中的一些訊號可作為實用的指標來判斷內容是否可能造成傷害，因為是否會造成傷害不能僅通過內容使用了「shaheed」來推斷。然而，其他的訊號在這方面的幫助就不大了。對外公開的「暴力和煽動仇恨」政策中三次提及「臨時出現暴力行為高風險跡象」，每次提及都是與為了解決特定地點和有時限性的事件（例如投票站和抗議活動）的暴力風險的規則有關。如果大規模套用所有這些訊號來指導在各種情境下提及「shaheed」的政策執行，也會刪除造成傷害的可能性相對較小或並非迫在眉睫的內容，因此存在執法不成比例的風險。

56.監察委員會認為，在「危險組織和人物」政策更廣泛的背景之下，採用一組範圍較窄的訊號才是適當的做法。描繪軍備的視覺化素材，以及使用或攜帶軍備／武器的意圖或提倡聲明，這兩個訊號都應被視為內容更有可能造成傷害的判斷指標。然而，委員會認為，「提及現實世界中已知的暴力事件」的訊號過於寬泛，涵蓋了太多與指定組織或人物的暴力行為無關的情境。因此，委員會建議採用更狹隘的訊號，僅限於 Meta 的「危險組織和人物」政策指定的事件，包括恐怖攻擊事件、仇恨事件、多名受害者暴力事件或多名受害者暴力未遂事件、連續殺人事件或仇恨犯罪事件。監察委員會建議採用的三個訊號可以涵蓋更廣的語境細微差別，以幫助確保以比較明確的方式使用「shaheed」的內容（更明確地指稱恐怖暴力行為）仍然會被刪除。

57.Meta 提出的「提及軍事用語」和「縱火、搶劫或其他破壞財物的行為」的其餘訊號過於寬泛，會導致執法不精確的問題。最後一個「發表意圖聲明、行動呼籲、代表、支持或鼓吹以暴力行為傷害他人」訊號，本身即違反《社群守則》的「暴力和煽動仇恨」政策，因此已經重複，所以沒有必要將其納入「危險組織和人物」政策的暴力訊號。

58.有別於 Meta 的第三個政策修改選項，監察委員會指出，即使內容在提到指定人物時同時出現這些暴力訊號，該內容不一定就是要美化這些人物或他們的行為。Meta 在其徵詢中（第 9-10 頁）解釋了過度執法的可能性，並提及巴基斯坦的媒體報導實務。在委員會看來，媒體在提及指定人物身故時，通常會提供顯示該人物攜帶武器的圖像，和／或展示他們造成之破壞慘況的圖像，其用意並不是要美化這些行為。因此，Meta 有必要對負責大規模作業的審查人員進行培訓，以便在有報導、譴責或中立討論指定實體之明確意圖的情況下保留內容。

59.此外，監察委員會建議的政策變更將保留其他廣泛的內容政策，以防止恐怖分子及其支持者利用 Meta 的平台造成現實世界的傷害。在以下情況，使用「shaheed」提及第 1 級指定人物的帖子將會被刪除：

• 如果伴隨著上述三種暴力訊號中的其中一種或多種訊號。
• 如果帖子中有任何其他違反「危險組織和人物」政策的元素（例如，代表、支持或美化指定人物）。例如，美化包括合理化或袒護指定實體的暴力或仇恨行為，或將指定實體的暴力或仇恨形容為一種成就。
• 如果帖子涉及任何其他違反政策的行為，包括仇恨言論或暴力和煽動仇恨。
• 如果帖子出現「不明確或缺乏語境」的引用。這包括「雖然並未讚揚指定實體的暴力或仇恨行為，但幽默手法不明顯、不帶任何說明文字，或從正面角度提及指定實體的內容」。

60.因此，監察委員會的建議不會阻止 Meta 要求用戶在使用「shaheed」形容其指定的第 1 級人物時，必須確保其帖子的意圖足夠明確。該建議只會阻止 Meta 不可僅僅根據「shaheed」一詞的使用就主張帖子違規。Meta 積極參與全球網絡反恐論壇並使用其雜湊匹配資料庫，也可確保刪除可能導致現實世界傷害的內容。委員會的建議將有助於對可能增加暴力風險的內容採取更明確、更注重語境且更符合比例原則的政策執行方法，同時加強對言論自由和不受歧視的自由的尊重。

替代政策選項的評估

61.基於這些原因，監察委員會得出的結論是，如果繼續保持政策現狀（Meta 提出供委員會考慮的選項之一），將強化對言論自由的不合理限制，從而對阿拉伯語用戶、相關語系群體和穆斯林造成不成比例的嚴重影響。Meta 提出的第二個政策修改選項與第三個選項很類似，委員會建議採用後者，因為第三個選項要求應根據語境判斷「shaheed」一詞的使用，並允許用戶以多種方式使用該詞彙來指稱危險人物。事實上，Meta 在 2023 年 8 月 29 日調整政策後，便允許用戶在某些情況下進行更多的社會和政治討論，例如和平協議、選舉、人權相關議題、新聞報導和學術、中立和譴責性討論等。這與第二個和第三個選項所追求的政策結果更為接近。這兩者之間最顯著的差異在於技術可行性和大規模的實際採用。第二個選項要求 Meta 首先必須確認其允許的豁免用例之一適用，然後檢查內容是否含有違規元素或暴力訊號；第三個選項則是直接檢查內容是否有違規元素或暴力訊號。根據 Meta 的說法，第二個選項在技術面的設計和實施都會更加麻煩，因為他們需要考慮一系列廣泛且可能適用的例外情況（在最近的政策修訂之後甚至變得更廣泛），而每一種例外情況都非常需要進行語境的評估。要準確且一致地進行這些評估的難度很高，因為這意味著可能需要更多的人工審查，從而導致執行錯誤次數大幅增加。

62.監察委員會認為，Meta 最好統一採用一種方法來審查所有使用「shaheed」形容指定人物的相關內容（超出現有豁免用例），並在內容出現其他政策違規元素或三種暴力訊號（詳見第 1 點建議）其中之一時，刪除這些內容。修訂政策以採取更接近 Meta 提出之第三個選項的立場，僅在存在其他政策違規行為或特定暴力訊號時才將「shaheed」視為禁止提及的內容（正如委員會的建議），將有助於減少誤刪情況（錯誤刪除並未違規的內容）、進一步保護符合公共利益的言論、媒體自由和公民話語權，以及減少對受影響群體平等和不受歧視權利的負面影響。在 2023 年 10 月爆發哈馬斯領導對以色列發動攻擊以及隨之而來的衝突事件之後，監察委員會提問了一些問題，Meta 在回答時確認，這些事件並沒有改變他們對最初在徵詢中提出之選項的可擴展性的分析結果。監察委員會認為，如果「報導、中立討論和譴責」的政策豁免用例仍然存在，則基於 Meta 的第三個選項所提出的建議，將能在發生如此嚴重的危機時以最有效的方法防止發生潛在錯誤。監察委員會承認，提供這些政策豁免用例確實會導致 Meta 第三個選項提出之政策變得更複雜而難以擴展，但委員會得出的結論是，就審查使用「shaheed」一詞的內容來說，這些豁免用例對於充分保護與之相關的言論自由至關重要。

63.監察委員會有少數委員不認同這個結論，並傾向於建議維持現狀，或建議 Meta 採用第二個提議選項。部分委員強調，「shaheed」實際上常被恐怖組織用來讚揚和美化實施暴力行為的人，這個詞彙可能會刺激人們變得更激進並用於招募人員。對這些委員來說，光是這些事實就足以構成現實世界發生傷害的嚴重風險，也足以確認維持當前的全面禁令才是對的選擇，即使是以犧牲言論自由為代價。其他委員則認為，由於缺乏足夠的數據來說明在 Meta 平台上使用「shaheed」與現實世界傷害之間的關聯性，以及缺乏足夠的數據來說明該政策過度執法的普遍程度，因此寧願採取更謹慎的做法，為了保護安全而犯錯是可以接受的。監察委員會的部分委員也認為，如果不考慮技術面的難度和大規模執行的可行性，第二個選項（Meta 需先確認適用特定豁免用例，才需要考慮「shaheed」的含義和用法）會是一種範圍更為限縮的妥協立場。監察委員會針對這些替代方案做了非常多的考慮和磋商。由於前面幾節中概述的原因，多數委員得出的結論是，基於 Meta 第三個選項擬定的建議能提供更好的平衡。

警告和處罰

64.雖然維持「危險組織和人物」政策項下的其他限制可能是合理的做法，但 Meta 必須確保這些限制處罰以及對違規行為施加的任何制裁都是符合比例原則的。Meta 先前曾告知監察委員會，任何違反其「危險組織和人物」政策的行為都會收到嚴重警告，包括先前禁止「讚揚」的違規行為。嚴重警告可能會更快地導致用戶收到帳戶級別的處罰，例如有時間限制的功能限用、帳戶停權，以及個人檔案或專頁的永久停用。這些措施可能會嚴重限制用戶的言論自由權（公眾評論也強調了這一點，請參閱 PC-11190 – Brennan Centre）。監察委員會先前曾建議 Meta 應提高其警告系統的清晰度和透明度（「在新聞報導中提及塔利班」，第 2 點建議；「前總統特朗普的停權」第 15 點建議）。作為回應，Meta 在其政策公開透明平台提供了警告系統的相關資訊，並允許用戶查看 Meta 對其帳戶祭出了哪些處罰。Meta 最近更新了標準警告系統，使其更加符合比例原則，但本次更新並未向大眾澄清 Meta 的「嚴重警告」方法是否也進行了調整。

65.Meta 表示，他們正在努力更改與「危險組織和人物」政策相關的執行系統，但其 2023 年 12 月的政策更新公告中並未說明執行系統是否已經或將會調整，以及會如何調整（例如，與嚴重警告有關）。根據監察委員會先前的建議，如果能對準確識別為違規的內容進行更適當的處罰，委員會非常樂見 Meta 對執行系統進行調整。對於較輕微以及語義較為模糊的「危險組織和人物」政策違規內容，嚴重警告會是一種不成比例的處罰方式，會導致該政策的過度執行率居高不下，且用戶將持續承受不公平的待遇。

6.2 提高名單的透明度和稽核方式

第 4 點建議 – 資訊透明度：為了提高指定實體和事件名單的透明度，Meta 應更詳細地解釋其指定實體和事件的程序。Meta 也應定期公告其指定名單的彙總資訊，包括名單中每一個級別的指定實體總數，以及每一個級別在過去一年內新增和刪除的實體數量。

當 Meta 在政策公開透明平台上公告上述資訊後，監察委員會才會將此建議視為已落實。

第 5 點建議 – 政策執行：為了確保「危險組織和人物」的實體名單能保持最新狀態，且名單中不會出現不符合 Meta 指定標準的組織、人物和事件，Meta 應制定清楚且有效的流程以定期稽核指定實體，並刪除那些不再符合公告標準的實體。

當 Meta 建立此類稽核流程並在其政策公開透明平台上解釋流程後，監察委員會才會將此建議視為已落實。

66.根據 Meta 之前的「危險組織和人物」政策，只有當提及被Meta 指定為第 1 級危險人物的實體（包括指定「違規暴力事件」的肇事者）時，才會禁止「讚揚」和使用「shaheed」一詞。繼 2023 年 12 月更新政策後，該政策現在改為禁止「不明確的引用」和「美化」所有的第 1 級指定實體。「不明確的引用」包括「雖然並未美化指定實體的暴力或仇恨行為，但幽默手法不明顯、引用缺乏語境，或從正面角度提及指定實體的內容」。這種禁令對言論自由的潛在不利影響，在很大程度上取決於 Meta 將哪些實體指定為第 1 級組織，及其指定了哪些「違規暴力事件」。在圓桌會議和公眾評論中，許多利害關係人都批評該名單缺乏透明度和正當程序，並主張 Meta 應該公佈該名單（請參閱公眾評論，例如 PC-11164 – SMEX，第 3 頁；PC-11157 – Palestine Institute for Public Diplomacy）。有個利害關係人卻對廣泛分享該名單表示擔憂，認為這可能會引發安全問題。由於該名單對於理解 Meta 政策的範圍息息相關，所以該公司向監察委員會提供了第 1 級指定組織和人物的名單，以及說明了其指定流程，委員會對此進行了深入研究，詳情如下所述。

67.如上所述，Meta 指定第 1 級實體所參考的諸多名單都是來自於美國政府的公開名單。這些名單包括「特別指定的毒梟組織」（SDNTK）、「外國恐怖組織」（FTO），以及「特別指定的全球恐怖分子」。這些名單非常廣泛，包括數個大洲的高度政治化背景下的實體（及其成員），並且不侷限於恐怖分子實體。這種廣度和多樣性足以看出 Meta 的「危險組織和人物」政策禁令所可能達到的程度，包括全面禁止使用「shaheed」描述指定人物的禁令及其影響程度。

68.Meta 解釋說，將實體新增至「危險組織和人物」名單的審查和批准過程，會涉及「與各領域的內部專家的協商、內部數據的評估以及進行外部研究」。Meta 還制定了一個流程來記錄「與受指定之組織和人物相關的其他成員、別名、符號、口號、小組或媒體部門」。2022 年，根據 Meta 評估「危險組織和人物」對其平台造成的威脅，該公司指定的實體不到 1,000 個。其中絕大多數都是犯罪組織，其次為恐怖組織，然後才是仇恨組織。Meta 設有一個除名政策流程，通常會檢視某個實體是否依然滿足被指定為危險組織或人物的政策門檻，並考慮「該實體為停止暴力行徑並追求和平而採取的積極作為」。該流程目前正在重新開發，但在 2022 年，該流程的應用次數不到 10 次。Meta 解釋說，他們正在稽核先前指定的實體，他們一直以來都是這樣做，以期能盡可能保持名單的最新狀態，並準確反映來自危險組織和人物的威脅。

69.Meta 解釋說，公開分享指定實體或事件的名單，或告知實體他們被新增至名單中，可能會導致政策執行的有效性打折，並且對許多 Meta 員工的人身安全構成一些風險。當實體受到指定並發現這個情況後，有些實體會對 Meta 提起法律訴訟（請參閱 Facebook v.CasaPound 一案，2020 年 4 月 29 日，意大利羅馬法院，分析請見此處）。監察委員會指出，在某些情況下，Meta 已經在媒體徵詢時披露了一些指定團體，另外也曾通過監察委員會的判例分享過一些指定實體。

70.監察委員會先前曾建議 Meta 應公開發佈指定實體的名單，或至少提供一些參考範例 ( 「納粹引言」，第 3 點建議）。在評估過可行性之後，Meta 並未發佈名單，也未提供有關這項建議的更新資訊。如果 Meta 繼續拒絕落實這項建議，公司至少應該採取其他的措施來提高名單的透明度。提供彙總資料、提高指定流程的透明度，以及提高除名流程的有效性，都可以幫助用戶進一步了解 Meta 的規則和流程。這也將有助於對 Meta 的指定及其對言論自由和其他人權的影響，進行更嚴格的監督和問責。Meta 也可考慮開放研究人員取得資料以提高資訊透明度，同時仍保留名單的機密性。

6.3 用於評估執行準確性的資料和分類器測試

第 6 點建議 – 資訊透明度：為了提高 Meta 執行政策的透明度，包括各個市場和語言之間的區域差異，Meta 應解釋公司在執行「危險組織和人物」政策時，用於評估人工審查作業之準確性和自動化系統之成效的方法。Meta 也應定期分享執行相同政策所使用之分類器的成效評估結果，這些評估結果中應包括跨語言和／或跨地區的比較數據。

當 Meta 在政策公開透明平台的「社群守則執行情況報告」中提供這些資訊後，監察委員會才會將此建議視為已落實。

第 7 點建議 – 資訊透明度：為了告知利害關係人，Meta 應該以清楚的語言解釋他們如何使用分類器來預測政策違規情況。Meta 也應說明公司設定門檻標準的流程，以幫助人們了解公司如何分別設定不採取任何動作、安排內容進行人工審查，或刪除內容的門檻標準。這些資訊應在公司的政策公開透明平台中提供。

當 Meta 在政策公開透明平台上公告上述資訊後，監察委員會才會將此建議視為已落實。

71.許多利害關係人在圓桌會議和公開評論中表示，Meta 對「危險組織和人物」政策的執行，以及在人工和自動審查中對「shaheed」一詞的處理方式，經常導致執行錯誤的情況發生，這已對穆斯林和相關語系社群造成不成比例的嚴重影響（請參閱公眾意見，例如 PC-11183 – ECNL EFF、PC-11190 – Brennan Centre；PC-11188 – Digital Rights Foundation；PC-11196 – Integrity Institute；另請參見關於 Meta 對以色列和巴勒斯坦的影響的 BSR 報告）。Meta 也在其徵詢中承認，這是其政策處理「shaheed」一詞所造成的結果。為了提高 Meta 人工和自動化執行流程的透明度、準確性和公平性，監察委員會特此提出上述兩點建議。

72.Meta 解釋說，公司會定期測量人工和自動化執行工作的準確性。審查人員需要接受 Meta 外包合作夥伴的定期稽核，而 Meta 的全球營運團隊還會對這些稽核結果進行額外的評估。

73.監察委員會先前曾建議 Meta 應改進其資訊透明度報告，公開說明每個國家和語言中「讚揚」和「支持」危險組織和人物的內容遭到錯誤刪除的比例（「Öcalan 的隔離監禁」，第 12 點建議），以及每個《社群守則》的執行錯誤率（「旁遮普人對印度 RSS 的擔憂」，第 3 點建議）。Meta 解釋說，在評估可行性之後，公司拒絕實施此建議（「Öcalan 的隔離監禁」，第 12 點建議；Meta 2021 年第 4 季監察委員會季度更新報告，第 21 頁），並將重點轉向通過長期努力，根據個人檔案、專頁和帳戶限制次數定義準確性數據，以及提供地點而不提供語言的相關數據（「旁遮普人對印度 RSS 的擔憂」，第 3 點建議；Meta 2023 年第 2 季監察委員會季度更新報告，第 59 頁）。考慮到各界對「危險組織和人物」政策執行不成比例的廣泛擔憂（Meta 處理「shaheed」一詞的立場說明了這一點），以及Meta 在披露實用執行數據方面的不足，監察委員會再次重申了這些建議，以及公司提高各地執行透明度的重要性。

74.Meta 目前在其政策公開透明平台上共享的數據，不足以說明人工審查的準確性和自動化系統的成效。為了允許對其方法進行監督，Meta 必須解釋公司在執行「危險組織和人物」政策時，用於評估人工審查作業之準確性和自動化系統之成效的方法。為了讓人們可以進一步了解分類器的成效，Meta 應分享包括精確率（指出所有被標記為違規的內容中，被正確識別為違規的內容所佔的比例）和召回率（指出分類器識別為違規之內容佔所有存在之違規內容的比例）。發表不同地區之人工審查準確性的資訊，以及不同語言之分類器成效的資訊，有助於對 Meta 的人權義務進行問責。因此，監察委員會重申其先前的建議，並敦促 Meta 實施擬議的變更。

75.Meta 依靠自動化系統（包括分類器）來執行其《社群守則》。分類器模型會根據一組訓練資料，自動將資料分類為一個或多個「類別」（例如，違規或不違規）。了解這些系統如何運作以及它們的準確性，對於評估 Meta 如何大規模審查內容來說至關重要。在其政策公開透明平台的政策執行專區中，Meta 提供了一些有關如何使用自動化系統偵測違規內容的基本資訊，並在功能專區中解釋了公司如何對內容進行排序和管理。Meta 已在其「社群守則執行情況報告」中分享了有關其在收到舉報之前便已刪除內容的百分比數據（即基於自動偵測）。這些資料顯示了自動偵測系統的重要性，但卻未能提供有關 Meta 自動化系統的使用和準確性的詳細數據，尤其是在自動刪除方面的資料。這一組建議旨在加強 Meta 使用演算法的資訊透明度。

76.在回答監察委員會提出的問題時，Meta 解釋說，「通用語言 - 阿拉伯語」的「危險組織和人物」政策分類器會根據 Meta 的政策對執行情況進行初步審查。分類器的目的是要偵測出可能違反政策規定的內容。委員會認為，Meta 應在政策公開透明平台的政策執行專區向其用戶詳細解釋公司對分類器的使用，如同其先前的案例判決一樣（請參閱「乳癌症狀和裸露內容」，第 3 點建議；「哥倫比亞警方漫畫圖片」，第 3 點建議）。特別重要的是，Meta 應清楚說明用於判斷是否處置內容、是否將內容加入人工審查隊列的近似信賴門檻值，以及提供判斷這些分數的考慮因素或要素。

77.Meta 解釋說，其準確性測試並不會著重於政策中的個別違規類型，而是著重於整個政策領域的整體準確率。Meta 表示，公司會「定期進行數據監測，並大規模地稽核準確率」。監察委員會先前曾說明，評估 Meta 執行《社群守則》的整體表現是不夠的（請參閱「貝殼串珠腰帶」案例判決）。一個平均表現良好的系統可能會在某個子類別的內容（例如使用「shaheed」的內容）上表現失常，而這種不正確的處置決定更會對人權造成特別明顯的影響。因此，Meta 必須證明其進行了盡職調查，以識別並盡量減少其系統對人權造成的潛在負面影響，並發佈相關資訊以允許對這些影響進行監督。

78.許多利害關係人主張，Meta 的演算法執行系統未能考慮語境，在審查非英語語言的內容時有更高的錯誤率，從而對穆斯林群體造成了更大的影響（請參閱公眾評論，例如 PC-11190 – Brennan Centre）。

79.部分利害關係人建議 Meta 應全面停止使用自動化系統來審查「shaheed」一詞，因為自動化系統至今仍無法解讀內容的語境（請參閱公眾評論，例如 PC-11164 – SMEX，第 4 頁；PC-11157 – Palestine Institute for Public Diplomacy）。其他利害關係人則主張，考慮到違反「危險組織和人物」政策的內容會受到嚴厲處罰，自動化系統應該只能用於排序內容以等待審查，而不應有自動刪除內容的功能（例如，參見PC-11183 – ECNL EFF，第 4f 頁）。利害關係人建議，任何使用「shaheed」來指稱指定人物的帖子「最好都交由熟悉該帖子當地背景的審查人員進行審查」（請參閱 PC-11188 – Digital Rights Foundation，第 2 頁）。有些利害關係人建議內容應該進行地理標記，以便人工審查和自動審查可以進一步考慮內容的語境（例如，請參閱 PC-11165 – Taraaz，第 1 頁）。利害關係人也呼籲 Meta 應提供更多有關其自動執行系統的準確性資訊，並投入更多資金來改進審查非英語語言內容的自動化系統（例如，請參閱 PC-11164 – SMEX，第 5 頁；PC-11190 – Brennan Centre）。他們也敦促 Meta 應持續報告「各個語言的內容審查活動，包括有關用戶舉報、處置率、處置類型、緩解技術的有效性、培訓資訊和申訴率的綜合資料」（請參閱 PC-11196 – Integrity Institute）。

80.部分專家不同意 Meta 以使用「shaheed」描述指定實體作為自動化系統從平台上刪除內容的單一參考點，但他們鼓勵將該詞彙加入分級審查的方法（例如，作為內容排隊等待 Meta 政策審查的訊號，而不是一出現這個詞彙就刪除內容）。

81.監察委員會承認，在大規模審查內容的情況下，演算法系統的使用有其必要性，而其中許多提議的方法在大規模作業和使用自動化系統的情況下是不可行的。但監察委員會也得出結論，Meta 需要採取進一步的措施，包括上述建議的措施，以確保這些系統的資訊透明和公平性。

*程序備註：

監察委員會的政策諮詢意見是由五人團隊所備製，且獲得監察委員會大多數委員的同意。監察委員會的判決未必代表所有委員的個人意見。

此政策諮詢意見是委託他方代表監察委員會進行獨立研究。監察委員會是由總部設於哥德堡大學的獨立研究機構提供協助，該機構的團隊成員包括來自 6 大州超過 50 位社會科學家，以及 3,200 位來自世界各國的專家。監察委員會也使用了 Duco Advisors 的協助，Duco Advisors 是一間專門提供地緣政治、信任與安全以及技術交叉領域的諮詢公司。Memetica 是一個針對社交媒體趨勢進行開放來源研究的組織，他們也提供了相關的分析數據。Lionbridge Technologies LLC 公司的語言學專家精通 350 多種語言，在全球 5,000 個城市提供服務。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें