西法醫院

在本判決發佈後的幾週內，我們將在這裡提供希伯來文翻譯版本，並通過此畫面頂部選單中的「語言」分頁提供阿拉伯文翻譯版本。

לקריאת החלטה זו בעברית יש ללחוץ כאן.

1.摘要

本案涉及一個令人震撼的影片，影片內容講述了以色列地面攻擊期間，位於加沙的西法（Al-Shifa）醫院或其附近遭到襲擊的戰後災況，並且附上譴責此次攻擊事件的說明文字。Meta 的自動化系統根據其《社群守則》的「血腥暴力內容」政策刪除了這則帖子。用戶針對該處置決定向 Meta 提出申訴但未果，隨後便向監察委員會提出申訴。在監察委員會揀選此案例之後，Meta 撤銷了原先的處置決定，並以加上警告畫面的方式恢復顯示了內容。監察委員會認為，原本刪除內容的處置決定並不符合 Meta 的內容政策或公司的人權責任。監察委員會認同公司以套上警告畫面的方式恢復顯示內容的決定，但委員會不同意公司對內容進行相關降級並禁止其獲得推薦。本案與「遭到挾持的以色列人質」（2023-050-FB-UA）案例都是監察委員會通過加速審查程序判決的第一批案例。

2.背景資訊與 Meta 的回應

2023 年 10 月 7 日，被 Meta《社群守則》的「危險組織和人物」政策指定為 1 級危險組織的「哈馬斯」（Hamas）從加沙對以色列發動了史無前例的恐怖攻擊，造成約 1,200 人死亡，並有大約 240 人被劫為人質（以色列政府外交部）。以色列立即在加沙發動軍事行動以進行反擊。截至 2023 年 12 月中旬，以色列的軍事行動已在加沙造成 18,000 多人死亡（聯合國人道主義事務協調廳，數據取自加沙衛生部），在這一場劇烈衝突中，雙方都被指控違反了國際法。恐怖攻擊事件和以色列隨後採取的軍事行動，成為了全世界大肆宣傳、辯論、審查和爭議的主題，其中大部分的內容都出現在 Instagram 和 Facebook 等社交媒體平台上。

Meta 立即根據其「危險組織和人物」政策將 10 月 7 日發生的事件定調為恐怖攻擊。根據其《社群守則》，這意味著 Meta 將刪除其平台上任何「讚揚、實質支持或代表」10 月 7 日攻擊事件或其肇事者的內容。

因為在恐怖攻擊事件和軍事反擊事件過後，平台上突然暴增了許多血腥暴力內容，於是 Meta 採取了多項臨時措施作為應對，包括降低「血腥暴力內容」政策的自動分類系統（分類器）的可信度門檻，以便識別和刪除此類內容。Meta 告知監察委員會，這些措施適用於源自以色列和加沙的所有內容，不限語言。這些分類器的調整，導致有更多違反 Meta 政策的內容因可信度分數較低而遭到系統自動刪除。換言之，Meta 變得更積極地使用其自動化工具來刪除疑似違反其政策規定的內容。Meta 這樣做是為了優先維護其「安全」價值理念，相比 10 月 7 日之前較高的可信度門檻，調降門檻之後刪除的內容數量明顯變多。雖然此舉有機會讓 Meta 刪除掉原本可能逃過偵測的違規內容，或改善審查人力有限的情況，但同時也會增加 Meta 錯誤刪除與衝突事件相關之非違規內容的可能性。

當時升級處置團隊評估該影片違反了「血腥暴力內容」、「暴力和煽動仇恨」以及「危險組織和人物」政策，Meta 便通過「媒體配對服務」資料庫自動刪除了其他相符的影片。有人擔心這種做法有可能會導致執法過度，包括因多次違反 Meta 的內容政策而面臨帳戶受到限制或暫時停用處分的用戶（有時被稱為「Facebook 監獄」）。為了減輕這種擔憂，Meta 取消了通常會伴隨著媒體配對服務資料庫自動刪除內容處置一起生效的「警告」處分（參見 Meta 的新聞中心帖子）。

Meta 對分類器可信度門檻及其警告政策的調整，僅限於以色列和加沙衝突事件的相關內容，並且只是暫時性的調整。截至 2023 年 12 月 11 日，Meta 尚未將可信度門檻恢復至 10 月 7 日之前的水平。

3.個案說明

本案涉及一個在 11 月第二週於 Instagram 上發佈的影片，影片內容顯示了以色列在加沙走廊北部發動地面攻擊期間，加沙的西法（Al-Shifa）醫院或其附近遭到襲擊的戰後慘況。在本案的 Instagram 帖子中，不少包括兒童在內的人們躺在地上，或死或傷，更有人嚎啕大哭。其中一名兒童似乎已經死亡，頭部有嚴重外傷。影片下方有一段以阿拉伯文和英文寫成的說明文字，指出該醫院遭到「usurping occupation」（非法侵佔的人，意指以色列軍方）鎖定攻擊，並標註人權和新聞組織。

Meta《社群守則》的「血腥暴力內容」政策適用於 Facebook 和 Instagram 上的內容，該政策禁止「非醫學用人體或屍體的描繪影片……內臟器官可見。」在發帖的當時，該政策允許「展示一個人或多個人因意外或謀殺而暴力致死的圖像」，前提是此類內容必須套上標記為「內容可能令人不安」的警告畫面，並且限制只有年滿 18 歲的用戶才能觀看。在本案的內容恢復顯示後，Meta 於 11 月 29 日更新了該政策，澄清該政策適用於「包括死亡當下或之後」以及「某人經歷生死交關事件」的圖像。

Meta 的自動化系統判定本案的內容違反了《社群守則》的「血腥暴力內容」政策，因此將其刪除。用戶對該處置決定提出的申訴遭到自動拒絕，因為 Meta 的分類器表示該內容違規的「可信度很高」。隨後，該用戶向監察委員會申訴 Meta 的處置決定。

在監察委員會揀選此案後，Meta 表示他們無法確定該影片顯示了明顯可見的內臟器官。因此，Meta 總結認為，他們不應該刪除該內容，但該內容的確已經處於違規的「邊緣」。Meta 進一步解釋說，即使內容可以看見內臟器官，該帖子也應該通過「內容可能令人不安」的警告畫面允以保留，因為該帖子是為了提高人們的意識而分享的。該公司重申，根據「血腥暴力內容」政策的政策宗旨，如果是為了提高人們對「人權侵犯、武裝衝突或恐怖行動等重要議題」的認識，則此類內容可允以保留。

因此，Meta 撤銷了原本的處置決定，並以附上警告畫面的方式恢復顯示了內容。警告畫面可告知用戶該內容可能令人不安。成人用戶可以點擊查看該帖子，但 Meta 會從未滿 18 歲的 Instagram 用戶的動態中刪除這些帖子，也會取消這些帖子向 Instagram 成人用戶推薦的資格。Meta 還將相同影片的另一個實例加到「媒體配對服務」資料庫中，因此與該影片相同的其他影片可允以保留，但都將自動套上警告畫面，並且只有年滿 18 歲的用戶才能觀看。

4.加速審查的理由

監察委員會的規章制度允許「在例外情況下（包括當內容可能在現實世界造成緊急事態時）」可進行加速審查，且判決對 Meta 具有約束性（章程，第 3 條第 7.2 節；規章制度，第 2 條第 2.1.2 節）。在加速審查的程序中，不會比照一般審理案例的流程去進行廣泛的研究、諮詢外部或公眾的意見。本案是根據監察委員會審議時所掌握的資訊做出判決，並且是由五名委員組成的審查小組做出判決，並未交由監察委員會進行全體投票表決。

監察委員會之所以揀選了本案和另一個案例「遭到挾持的以色列人質」（2023-050-FB-UA），是為了強調言論自由在衝突局勢中的重要性，而言論自由在以色列與哈馬斯衝突的背景之下受到了嚴重的威脅。這兩個案例分別代表了自 10 月 7 日恐攻事件和以色列隨後採取軍事反擊行動以來，該地區用戶向監察委員會提交的申訴類型。這兩個案例都涉及了監察委員會要優先處理的危機和衝突局勢議題。Meta 對這兩個案例的處置決定都符合「在現實世界造成緊急事態」的標準，因此有理由進行加速審查，故監察委員會和 Meta 均同意按照委員會的加速審查程序處理。

在提交給監察委員會的資料中，Meta 承認「很難做出處置這些內容的決定，其中涉及了價值理念的相互競爭與利弊權衡」，並希望監察委員會就此議題提出意見。

5.用戶的提交資料

該帖子的作者在向監察委員會提出的申訴聲明中表示，他們沒有煽動任何暴力行為，分享影片只是為了讓世人知曉巴勒斯坦人（包括兒童在內）遭受的苦難。該用戶補充表示，刪除該內容的做法是對巴勒斯坦人遭受的苦難抱持偏見態度。監察委員會有通知該用戶將對其申訴進行審查。

6.判決

雖然監察委員會的諸位委員對於以色列的軍事反擊行動及其出兵理由存在分歧意見，但所有委員都同意 Meta 應尊重所有受這些事件影響的人員的言論自由權和其他人權，以及這些人員能夠在這場危機中表達意見的重要性。

監察委員會推翻了 Meta 在 Instagram 上刪除內容的原始處置決定。監察委員會認為，在平台上恢復顯示內容並套上「內容會令人感到不安」的警告畫面，才符合 Meta 的內容政策、價值理念與人權責任。然而，監察委員會也認為，Meta 將恢復顯示的內容降級（排除向其他用戶推薦的可能性），並不符合公司尊重言論自由的責任。

6.1 遵守 Meta 的內容政策

監察委員會同意 Meta 的觀點，即很難確定本案中的影片是否出現「可見的內臟器官」。鑑於本案的時空背景，在保護資訊的取得以及幫助更多人了解該衝突事件的影響方面，本案具有極高的公共利益價值，因此，處於「血腥暴力內容」政策違規「邊緣」的內容不應被刪除。由於內容中出現有人死於非命的圖像，以及頭部受到重創的血腥畫面，Meta 應根據其政策套用警告畫面，並限制只有年滿 18 歲的用戶才能觀看。

監察委員會也同意 Meta 隨後的決定，即使該影片包含可見的內臟器官，但該帖子的文字明顯是在譴責該起暴力事件或提高民眾的意識，這也意味著 Meta 應通過「內容可能令人不安」的警告畫面保留該帖子，並限制只有年滿 18 歲的用戶才能觀看。《社群守則》中並未針對適用政策條文（「非醫學用人體或屍體的描繪影片……內臟器官可見」）規定使用相關的警告畫面。在「蘇丹血腥影片」案例中，監察委員會解釋說，Meta 指示審查人員應嚴格遵守其「禁止發佈的內容」政策。政策宗旨中寫道：「如果是討論人權濫用、武裝衝突或恐怖行動等重要議題，我們允許血腥暴力內容（但有限制），以便用戶譴責這類情況並引發關注。」然而，《社群守則》中卻禁止所有在非醫療背景下描繪「可見內臟器官」的影片，而且並未向審查人員提供在涉及政策宗旨豁免情況時可套用警告畫面的選項。Meta 的自動化系統配置似乎不會針對描述血腥內容的影片套用警告畫面，即使影片帖子中有譴責暴力事件或提高民眾意識的內容亦然。同樣令人困惑的是，在存在前述內容的情況下，適用的分類器是否能夠將內容傳送給審查人員進行進一步的評估。

6.2 遵守 Meta 的人權責任

根據其人權責任，Meta 對血腥暴力內容的審查工作必須尊重言論自由權，其中就包括尋求、接收和傳遞資訊的自由（《公民權利及政治權利國際公約》（ICCPR）第 19 條第 2 節）。正如監察委員會在「亞美尼亞戰俘影片」一案中所述，《公民權利和政治權利國際公約》（ICCPR）第 19 條規定對言論自由的保護「在武裝衝突期間仍然有效，並應繼續體現 Meta 的人權責任，同時互相加強和補充在此類衝突期間適用的國際人道法。」《聯合國工商業與人權指導原則》認為在衝突局勢中營運的企業應肩負起更高的責任（「Business, human rights and conflict-affected regions: towards heightened action」），A/75/212）。

監察委員會曾在先前的案例中強調，Facebook 和 Instagram 等社交媒體平台是傳遞暴力事件即時資訊（包括新聞報導）的重要工具（請參見「在新聞報導中提及塔利班」）。這些平台在發生武裝衝突的情況下可以發揮特別重要的作用，特別是在記者到現場報導之機會有限的情況下。此外，描繪暴力攻擊事件和侵犯人權行為的內容，同樣也是公眾極為關心的議題（請參見「蘇丹血腥影片」）。

根據國際人權法，如果是國家政府要限制表達自由，則這些限制應遵守合法性、合理目的，以及必要性和比例原則的規定（ICCPR，第 19 條第 3 節）。以上規定通常稱作「三部分測試」。監察委員會根據這個架構來解讀 Meta 的自發性人權承諾，既攸關正在審查的個別內容處置決定，也涉及該項決定對 Meta 更廣泛的內容管理做法所抱持的觀點。在此過程中，監察委員會會試著去分辨這些權利應用於私營社交媒體公司與應用於政府的不同之處。但無論如何，根據聯合國表達自由特別報告員的看法，雖然公司企業沒有和政府相同的義務，「但公司企業的影響力使它們必須評估和政府面臨的相同問題，以保護其用戶的表達自由權」（報告 A/74/486，第 41 節）。

合法性要求規定，對言論自由的任何限制均應清晰易懂且易於取得，以明確說明允許和不允許的範疇。監察委員會先前曾表示擔憂，《社群守則》「血腥暴力內容」政策的條文與該政策的政策宗旨之間有所抵觸，而政策宗旨闡述的是該政策的核心目標（請參閱「蘇丹血腥影片」和「尼日利亞教堂遭受攻擊後的影片」）。監察委員會在此重申「蘇丹血腥影片」一案中提出之第 1 點與第 2 點建議的重要性：呼籲 Meta 應修改《社群守則》的「血腥暴力內容」政策，允許出於提高民眾意識或記錄侵犯人權行為（該案例涉及清晰的肢解畫面）之目的，而分享出現人物或屍體的影片。Meta 已針對這些建議展開了政策制定流程，並打算在下一季的進度更新報告中向監察委員會報告其進展。監察委員會認為，該建議應套用於出現可見內臟器官的影片規定，並且在涉及提高意識（包括時事報導）和譴責目的的情況下，特別規定使用警告畫面作為政策執行措施。

根據 ICCPR 第 19 條第 3 節，言論表達可能會因一些明確且有限的原因而受到限制。監察委員會先前認為，「血腥暴力內容」政策具備保護他人權利的合理目的，包括保護內容中出現之人物的私隱（請參閱「蘇丹血腥影片」和「尼日利亞教堂遭受攻擊後的影片」）。此外，本案也表明，限制未滿 18 歲的用戶無法存取內容，也符合保護未成年人健康權的合理目的（《兒童權利公約》，第 24 條）。

必要性和比例原則規定，任何對表達自由的限制都「必須與其提供保障的功用相稱；與其他提供保障的方法比起來，必須是最不擾人的方法；[且]必須與受保障的利益成正比」（第 34 號一般性意見，第 34 節）。

監察委員會先前認為，以血腥暴力內容而言，警告畫面「不會對希望查看內容的人造成過度負擔，同時又能告知他人內容的性質並允許他們決定是否查看」（請參見「蘇丹血腥影片」）。警告畫面可防止用戶不小心看到可能會令人不安的內容。Meta 的政策也進一步保護了受害者的權利，如果受害者家屬提出要求，Meta 就會刪除顯示受害者死於非命（或其下場）的影片和照片。本案的內容與「俄羅斯詩歌」一案的內容有所區別，後者展示的是一個遠距離躺在地上的屍體的靜止圖像，無法看到受害者的臉部，並且沒有明顯的暴力視覺元素。在該案例套用警告畫面並不符合 Meta 對審查人員的指示，同時也是對言論自由造成了不必要或不符比例原則的限制。本案的內容與「尼日利亞教堂遭受攻擊後的影片」案例中的內容較為相似，兩者的內容都是近距離展示死者和傷者，且具有非常清晰的暴力視覺元素。

就本案而言，影片中出現了受傷和罹難兒童的畫面，特別令人痛心。在這樣的情況下，讓用戶自行選擇是否要觀看令人不安的內容，是一種必要且符合比例原則的做法（另請參見「亞美尼亞戰俘影片」）。

監察委員會認為，鑑於公眾對此類內容的高度關注，將可以幫助更多人了解潛在侵犯人權及違反戰爭法的行為、衝突事件或恐怖主義行為的內容排除在成人用戶的推薦系統之外，對於言論自由並不是一種必要或符合比例原則的限制。警告畫面和取消推薦資格分別具有不同的功能，在某些情況下應該分開執行，特別是在危機局勢之中。Instagram 上的推薦內容是由自動化系統主導，該系統會預測用戶的興趣，然後向用戶推薦相關內容。從系統中取消內容的推薦資格，意味著縮減該內容本來可以達到的接觸範圍。監察委員會認為，這種做法已嚴重干擾了言論自由，因為 Meta 已經通過警告畫面限制該內容只有成人用戶才可觀看，而且這些內容的發佈目的還是為了提高意識、譴責或報導公共利益議題，例如暴力衝突事件的後續發展。

監察委員會了解，在迅速應對危機時，可能需要採取特殊的臨時性措施，而在某些情況下，優先考慮安全問題以及暫時按比例對言論自由施加更大的限制，也算是合理的做法。舉例來說，「基督城行動宣言」打擊「恐怖主義和暴力極端主義內容」的承諾中就概述了其中一些內容。然而，監察委員會指出，「基督城行動宣言」中也強調，企業必須以符合人權和基本自由權的方式處理這類內容。監察委員會認為，即使是出於安全考慮，也不能證明刪除旨在提高民眾意識或譴責潛在戰爭罪、危害人類罪或嚴重侵犯人權行為的血腥內容就是合理的作為。此類言論限制甚至可能會阻礙獲取必要的資訊，導致無法有效地保護衝突事件當地人員的安全。

不罰予警告等措施確實有助於減輕因採取緊急措施（例如在衝突局勢期間降低刪除內容的可信度門檻）而導致的政策執行錯誤所可能造成之不成比例的不利影響。然而，這些措施並不足以保護用戶分享內容的能力，導致用戶無法讓更多人知道潛在侵犯人權和違反人道主義法的行為，以及衝突局勢中的其他關鍵資訊。

監察委員會曾多次強調 Meta 應制定一個有原則且透明的架構，以便在危機期間和衝突地區審查內容（請參見「海地警察局影片」和「提格雷通訊事務局」）。正是在衝突局勢瞬息萬變的時期，大型社交媒體公司才更需要投入必要的資源，以確保言論自由不會受到不必要的限制。在這種時候，新聞從業人員經常會受到人身攻擊和其他攻擊，所以讓一般公民能夠在社交媒體上報導新聞，變得尤為重要。

監察委員會先前也曾觀察到，在戰亂或政治動蕩的背景之下，勢必會有用戶拍攝到更多的血腥暴力內容並分享到平台上，以提高世人對此類暴行的重視或留下記錄（請參見「蘇丹血腥影片」）。在以加衝突這樣的惡劣局勢下，平民傷亡人數節節攀升，其中兒童佔比很高，人道危機不斷惡化，開放這類的豁免用例更是重要。監察委員會一方面認可 Meta 已經著手修訂「血腥暴力內容」政策的努力，另一方面也期盼 Meta 能做好快速部署臨時性措施的準備，以允許通過警告畫面保留此類內容，而不是將其從建議系統中刪除。

監察委員會指出，本案內容發佈時，加沙的局勢並未給 Meta 帶來與 10 月 7 日恐攻事件一樣的難題。在加沙，外界一直很難從當地民眾那裡獲取資訊，記者進入該地區採訪的機會也受到限制，網絡連線也出現了中斷。此外，有別於 10 月 7 日恐攻事件發生後的初期情況，本案所呈現的加沙局勢並未涉及恐怖份子利用社交媒體傳播他們的殘暴行徑。相較之下，在發生武裝衝突的情況下，Meta 應確保其行動不會阻礙人們分享能夠提供資訊的內容，這些資訊可幫助更多人知到平民遭受的傷害，並可能有助於判斷是否發生了違反國際人道法和國際人權法的情事。判斷用戶分享內容的目的是否為提高民眾意識或譴責當地事件，這應該是所有評估此類內容的審查人員的首要工作，而 Meta 的自動化系統也應重新設計，以避免錯誤地刪除適用豁免權的內容。

本案進一步表明，在危機應變的時空背景之下，如果監督自動審查系統的人力不足，可能就會導致誤刪具有重大公共利益的言論。最初刪除該內容的處置決定以及拒絕用戶的申訴，都是系統根據分類器的分數自動執行，沒有經過任何人工審查。接著，在 10 月 7 日發生攻擊事件後，Meta 的危機應變措施降低了根據「血腥暴力內容」政策刪除內容的門檻，此舉可能讓情況更加惡化。這意味著，即使分類器對內容違規的可能性給出低於平時要求門檻的分數，Meta 一樣會刪除該內容。

為了讓 Meta 以符合其人權承諾的方式採用其自動化系統，監察委員會提醒 Meta 應注意「哥倫比亞警方漫畫圖片」案例中第 1 點建議。在該案例中，監察委員會呼籲 Meta 務必重新評估申訴率高且勝訴率也高的內容，以判斷是否應從其媒體配對服務資料庫中刪除。因應這項建議，Meta 成立了一個專門工作小組，致力於改善其媒體配對服務資料庫的治理工作（請參閱此處以了解 Meta 在這方面的最新進展）。監察委員會指出，該工作小組必須特別注意媒體配對服務資料庫在武裝衝突背景下的使用情形。在「乳癌症狀和裸露內容」一案（第 3 點和第 6 點建議）中，監察委員會曾建議 Meta 在採用自動化系統處置內容時應通知用戶，並應披露數據來說明每項《社群守則》政策通過自動化系統刪除內容的處置數量，以及公告這些處置決定在人工審查後被撤銷的比例。根據報導，Meta 判斷內容是否違規的可信度門檻已大幅降低，這時候上述建議就會變得更加重要。監察委員會敦促 Meta 應進一步落實第 6 點建議，並與委員會分享第 3 點建議的實施證據。

對言論自由的限制必須是非歧視性的，包括基於國籍、種族、宗教或信仰、政治立場或其他意見的限制（ICCPR 第 2 條第 1 節和第 26 條）。以歧視性方式執行《社群守則》將會破壞言論自由的這個基本要求。在「分享 Al Jazeera 帖子」一案中，監察委員會曾就 Meta 在以色列和巴勒斯坦被佔領土的內容審查錯誤方面可能分佈不均表示嚴重關切，並呼籲進行獨立調查（「分享 Al Jazeera 帖子」案例判決，第 3 點建議）。Meta 為回應該建議而委託進行的「企業社會責任」（BSR）「人權影響評估」報告中，發現了「各種無意識的偏見例子，其中 Meta 政策和執行方式與更廣泛的外部情況互相牽動，確實對巴勒斯坦和阿拉伯語用戶造成了不同程度的人權影響。」監察委員會鼓勵 Meta 應兌現針對 BSR 報告所做出的承諾。

最後，Meta 有責任保存潛在侵犯人權行為和違反國際人道主義法的證據，正如 BSR 報告（第 21 號建議）中提出的建議以及民間社會團體倡導的做法。即使內容已從 Meta 平台上刪除，為了未來能夠問責，保留此類證據也同樣至關重要（請參見「蘇丹血腥影片」和「亞美尼亞戰俘影片」）。雖然 Meta 解釋說，公司會將所有違反《社群守則》的內容保留一年，但監察委員會敦促 Meta 應以更持久且更容易存取的方式，查明和保存與潛在戰爭罪、危害人類罪和嚴重侵犯人權之行為具體相關的內容，以實現長期問責的可能性。監察委員會指出，Meta 已同意實施「亞美尼亞戰俘影片」案例的第 1 點建議。該建議呼籲 Meta 應制定協定以保存資訊，並在適當情況下與主管機關共享此類資訊，以協助調查和法律程序，以補救或起訴残暴罪行或嚴重侵犯人權的行為。Meta 已告知監察委員會，其制定「一致的方法來保留殘暴罪行和嚴重違反國際人權法行為的潛在證據」的工作已進入最後階段，並希望很快能向委員會提供有關這項方法的簡報。監察委員會期盼 Meta 能全面落實上述建議。

*程序備註：

監督委員會的加速判決是由五名委員組成的小組裁定，無須獲得監督委員會多數委員的同意。監察委員會的判決未必代表所有委員的個人意見。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें