西法（Al-Shifa）醫院

在這項判例發佈後的幾週內，我們會將希伯來文翻譯版本上傳到這裡，而阿拉伯文翻譯版本將可在這個畫面頂端選單的「語言」分頁上找到。

לקריאת החלטה זו בעברית יש ללחוץ כאן.

1.摘要

在此案例中，一部情緒激昂的影片呈現以色列在地面行動戰期間，因為襲擊加薩西法（Al-Shifa）醫院或鄰近地區而造成慘重後果，並附上說明文字來譴責這起攻擊事件。之後，Meta 的自動化系統移除了這則違反《社群守則》中「血腥暴力內容」政策的貼文。向 Meta 抗議這項處置決定失敗後，該用戶轉而向監察委員會提出申訴。在監察委員會找出該案例進行審查後，Meta 推翻原判並還原相關內容，但加上了警告畫面。監察委員會認為移除內容的原判違反 Meta 的內容政策，也不符合該公司的人權責任。監察委員會同意 Meta 還原內容並加上警告畫面的處置決定，但不同意將內容降級而導致其無法獲得推薦。此案例與「以色列人質綁架」一案（2023-050-FB-UA）是監察委員會首度列為快速審查的兩個案例。

2.時空背景與 Meta 因應措施

2023 年 10 月 7 日，哈馬斯（Meta《社群守則》中「危險組織和人物」政策所認定的第 1 級組織）從加薩對以色列展開前所未有的恐怖攻擊，估計已造成 1,200 人喪生，約 240 人被擄（以色列政府外交部統計數字）。做為對該起攻擊事件的回應，以色列立即展開軍事行動。Israel 在 2023 年 12 月中旬的軍事行動，造成加薩當地超過 18,000 人喪生（聯合國人道事務協調廳引用加薩衛生部的數據），衝突雙方都被指控違反國際法。恐怖份子攻擊和以色列後續展開的軍事行動在全球引起軒然大波，檢討和議論聲浪不止，討論砲火大多集中在 Instagram 和 Facebook 等社群媒體平台。

Meta 立即根據「危險組織和人物」政策的標準，將 10 月 7 日的事件認定為恐怖攻擊。按照《社群守則》的規定，Meta 會移除自家平台上「讚揚、實質支持或代表」10 月 7 日攻擊事件或其發動者的任何內容。

有鑑於恐怖攻擊事件和軍方反擊行動，導致血腥暴力內容在 Meta 平台上異常爆增，Meta 為此制定了多項臨時措施，包括降低「血腥暴力內容」自動分類系統（分類器）用以找出並移除內容的信賴水準門檻。Meta 告知監察委員會，他們已針對來自以色列和加薩的各語言版本內容套用了這些措施。上述分類器在經過調整後，開始更頻繁地自動移除雖然信賴水準分數不高，但違反 Meta 政策的內容。換言之，Meta 更積極地使用自動化工具移除違反政策的內容。這是為了優先實現 Meta 重視網路安全的價值觀，將信賴水準門檻低於 10 月 7 日以前標準的內容也納入移除範圍。雖然違規內容以其他手段規避偵測機制，或是在審查人力不足的情況下成為漏網之魚的可能性會因此降低，但與上述衝突事件相關的非違規內容誤遭 Meta 移除的機率也隨之提升。

escalation 團隊在判定影片違反「血腥暴力內容」、「暴力和煽動仇恨」和「危險組織和人物」政策後，Meta 再參照媒體配對服務庫自動移除相符影片。然而，這種做法引發了執法過當的疑慮，包括用戶帳戶在屢次違反 Meta 內容政策後遭到限制或停權（有時又稱「Facebook 牢獄」）。為減輕這類疑慮，Meta 撤銷了通常伴隨著系統參照媒體配對服務庫自動移除內容貼文的「違規」（如 Meta 在新聞中心貼文中所宣佈）。

Meta 對分類器信賴水準和違規政策所做的修改僅限於以加衝突事件，而且是暫時性調整。自 2023 年 12 月 11 日起，Meta 尚未將信賴水準門檻還原到 10 月 7 日以前的標準。

3.案例說明

此案例中的內容是 11 月第二週在 Instagram 上發佈的一部影片，當中呈現以色列在加薩走廊北部展開地面行動期間，加薩市西法（Al-Shifa）醫院或鄰近地區遭受襲擊後的樣貌。此案例中 Instagram 貼文所展現的景象是，包括兒童在內或死或傷的民眾躺在地上，哭聲遍野。其中一名兒童貌似死亡，頭部遭受重傷。影片下方有一段以阿拉伯文和英文寫成的說明文字，指出該醫院遭到「usurping occupation」（非法侵佔的人，意指以色列軍方）鎖定攻擊，並標註人權和新聞組織。

Meta《社群守則》中適用於 Facebook 和 Instagram 內容的「血腥暴力內容」政策，嚴禁「在非醫療情境下拍攝人體或屍體，且露出內臟的影片」。在影片發佈當時，該政策允許「呈現個人或群體因意外或謀殺而死於非命的圖像」，前提是這類內容幕前加上寫著「標示為令人不安」的警告畫面，而且只向年滿 18 歲者顯示。此案例中的內容還原後，這項規則在 11 月 29 日有所更新，澄清適用範圍涵蓋「死亡當下或之後」，以及「某人經歷生死交關事件」的圖像。

之後，Meta 的自動化系統移除了此案例違反《社群守則》中「血腥暴力內容」政策的內容。用戶針對這項處置決定所提出的申訴自動遭到駁回，因為 Meta 分類器指出該內容違規的「信賴水準很高」。用戶遂向監察委員會提出申訴，反應 Meta 的處置決定不當。

監察委員會選擇審查此案例後，Meta 表示其無法斷定該影片是否露出內臟。因此，Meta 指出該內容雖然遊走於違規的灰色地帶，但還不到需要移除的地步。Meta 進一步指出，即使有露出內臟，這則貼文單純是為了引起注意而分享，在加上「標示為令人不安」的警告畫面後應可保留。該公司重申，根據其「血腥暴力內容」政策，該內容是為了喚醒民眾重視「人權迫害、武裝衝突或恐怖主義行為等重大議題」而分享，在這種情況下不必移除。

因此，Meta 推翻原判並還原內容，但加上警告畫面，提醒用戶該內容可能令人不安。成人用戶可以點閱該則貼文，但如果 Instagram 用戶未滿 18 歲，Meta 會從他們的動態消息中移除這類貼文；此外，Meta 也會停止向 Instagram 成人用戶進行相關推薦，並將這部影片單獨加進媒體配對服務庫，這樣日後如果出現其他類似影片，系統就會自動保留並加上警告畫面，也只會向年滿 18 歲的用戶顯示。

4.快速審查的合理解釋

監察委員會的規章制度允許「在例外情況下，包括當內容可能在真實世界造成緊急情況」時進行快速審查，而處置決定對 Meta 具有約束力（章程第 3 條第 7.2 節；規章制度第 2 條第 2.1.2 節）。這項快速流程省去了大量研究、外部諮詢或公眾評論的階段，與按照正常時程審查的案例不同。此案例是根據監察委員會在審議當時取得的資訊，由五人小組做出判決，而非監察委員會全體投票決定。

監察委員會之所以選擇此案例和「以色列人質綁架」一案（2023-050-FB-UA），是因為表達自由在衝突情勢下十分重要，但在以哈衝突事件的背景下，到現在始終顯得岌岌可危。這兩個案例都足以代表自 10 月 7 日攻擊事件和以色列後續軍事行動以來，當地用戶所提出的申訴類型。這兩個案例也符合監察委員會優先處理危機和衝突情勢相關內容的原則。Meta 在兩個案例中的處置決定，都符合「在真實世界造成緊急情況」而合理進行快速審查的標準，因此監察委員會和 Meta 都同意比照監察委員會的快速流程來處理。

在向監察委員會提交的資料中，Meta 承認要「決定如何看待這個內容並不容易，除了與價值觀抗衡，還得做出取捨」，因此希望監察委員會能就此問題提出意見。

5.用戶提交的內容

貼文作者在申訴時表示自己並未煽動暴力，分享內容只是為了呈現包含兒童在內的巴勒斯坦人民正在受苦。該用戶更指出，移除處置相當於歧視巴勒斯坦人民所受的苦難。監察委員會決定審查這項申訴，而該用戶也已收到通知。

6.裁決

儘管監察委員會委員對以色列軍方回應行動及其正當性的看法不一致，卻一致同意 Meta 必須尊重上述事件全體受波及者的表達自由權和其他人權，以及在這場危機中傳遞資訊的權利。

監察委員會推翻 Meta 原先從 Instagram 中移除內容的處置決定，認為在平台上恢復顯示該內容並加上「標示為令人不安」警告畫面的處置，符合 Meta 的內容政策、理念和人權責任。不過，監察委員會也認為，Meta 在內容恢復顯示後予以降級而導致無法獲得推薦的處置，與該公司在表達自由方面所背負的責任並不契合。

6.1 遵守 Meta 的內容政策

對於 Meta 認為難以判斷此案例中的影片是否呈現「露出內臟」的畫面，監察委員會表示同意。就此案例的時空背景而言，確保資訊能夠流通，並提供喚醒大眾重視衝突事件影響的管道，是極度符合公眾利益的做法，因此即使內容遊走於違反「血腥暴力內容」政策的灰色地帶，也不應遭到移除。由於該內容包含人類因頭部遭受重創而死於非命的圖像，為符合政策規定，Meta 理應加上警告畫面，並只向年滿 18 歲的用戶顯示。

此外，監察委員會也同意 Meta 後續做出的認定：即使這部影片包含露出內臟的畫面，貼文本身的言語是用來譴責或引起大眾重視暴力行為，因此只要加上「標示為令人不安」的警告畫面，並且不向未滿 18 歲的用戶顯示，就能保留下來。不過，《社群守則》並未提供與適用政策主題（「在非醫療情境下拍攝人體或屍體，且露出內臟的影片」）相關的警告畫面。在「蘇丹血腥暴力影片」一案中，監察委員會指出 Meta 指示審查人員遵照「禁止發佈」政策的字面意義。該政策的宗旨指出，「在討論人權迫害、武裝衝突或恐怖主義行為等重大議題的情況下，我們允許透過血腥暴力內容（但有若干限制）以協助大眾譴責此類議題，並喚起其對此類議題的關注」。然而，《社群守則》的規定嚴禁所有在非醫療情境下呈現「露出內臟」畫面的影片，卻讓審查人員在遇到違背政策宗旨的例外情況下，無法選擇加上警告畫面。Meta 的自動化系統似乎未經妥善設定，無法為呈現血腥內容，但所處情境是譴責或喚醒大眾重視暴力行為的影片加上警告畫面。此外，當出現這類情境時，也無法確定相關分類器是否能將內容送交審查人員進一步評估。

6.2 遵循 Meta 的人權責任

為符合自身的人權責任，Meta 在審查血腥暴力內容時必須尊重表達自由權，這包括尋求、接收和散播資訊的自由（《公民與政治權利國際公約》（ICCPR）第 19 條第 2 段）。誠如監察委員會在亞美尼亞戰俘影片中所述，《公民與政治權利國際公約》第 19 條為表達自由賦予的保障在武裝衝突期間仍然有效，並且應該繼續加強 Meta 的人權責任，以及在此類衝突期間適用之國際人道主義法互相加強和補充的規則。《聯合國工商企業與人權指導原則》對在衝突環境中運營的企業賦予了更高的責任（Business, human rights and conflict-affected regions: towards heightened action，A/75/212）。

監察委員會曾在先前的案例中強調，Facebook 和 Instagram 等社群媒體平台是重要的工具，可用來傳遞與暴力事件相關的即時資訊，包括新聞報導（請見「新聞報導中提及塔利班」一例）。這些平台在武裝衝突的背景下格外重要，尤其是記者出入受到管制的地區。此外，描述暴力攻擊和人權侵犯行為的內容，也相當符合公眾利益（請見「蘇丹血腥暴力影片」）。

根據國際人權法的規定，若國家要限制表達自由，則必須符合合法性、合法目的必要性和相稱性等要求（ICCPR 第 19 條第 3 段）。這些要求通常稱為「三項檢驗」。監察委員會係使用此架構來解讀 Meta 的自願性人權承諾，既針對審查中的個別內容處置，也針對 Meta 管理內容之廣泛方式的說明。為此，對於這些權利套用在私人社群媒體公司和政府機關的情況會有哪些差異，監察委員會嘗試提升自己的敏感度。不過，如同聯合國表達自由特別報告員所表示，雖然公司企業沒有和政府相同的義務，但「公司企業的影響力使它們必須評估和政府面臨的相同問題以保護其用戶的表達自由權」（報告 A/74/486，第 41 段）。

合法性方面的要求是，對言論自由的任何限制均應足夠清楚易懂，並提供允許及禁止事項的說明資訊。監察委員會先前擔心，《社群守則》中「血腥暴力內容」政策的規定與政策的宗旨不完全一致（請見「蘇丹血腥暴力影片」和「奈及利亞教堂攻擊後的影片」）。監察委員會重申「蘇丹血腥暴力影片」一案中第 1 項和第 2 項建議的重要性，這兩項建議呼籲 Meta 修訂《社群守則》中的「血腥暴力內容」政策，允許為了喚醒大眾重視或記錄人權侵犯行為，而分享的活人或屍體影片（該案與肉眼可見的支解行為相關）。Meta 按照這些建議制定了相關政策，預定會在下一次對監察委員會的季度報告中回報進度。監察委員會認為，這項建議適用於內臟外露影片規定，並明確提供警告畫面做為遇到引起注意（包括事實報導）和譴責等例外情況時，可採行的處置措施。

根據 ICCPR 第 19 條第 3 段，言論表達得因一系列明確定義且有限的理由而受到限制。監察委員會先前發現，「血腥暴力內容」政策的立意正當，旨在保護他人權利，包括描述對象的隱私權（請見「蘇丹血腥暴力影片」和「奈及利亞教堂攻擊後的影片」）。目前的案例更證明，限制未滿 18 歲的用戶存取該內容的權利，符合保護未成年人健康權的正當目的（《兒童權利公約》第 24 條）。

必要性和相稱性的原則規定，任何對表達自由的限制措施皆「必須適合於實現保護功能；必須是可用來實現預期結果的諸種手段中侵犯性最小的一個；[且] 必須與要保護的利益相稱」（第 34 號一般性意見第 34 段）。

在血腥暴力內容方面，監察委員會先前發現，警告畫面既不會為欲查看該內容的用戶帶來不必要的負擔，同時又可將內容的性質告知他人，讓用戶自行決定是否要查看（請見「蘇丹血腥暴力影片」）。警告畫面可防止用戶在非自願的情況下，看到疑似令人不安的內容。Meta 應家人要求移除死於非命者（或事後慘狀）影片和相片的政策，進一步保護了受害者的權利。此案例中的內容與「俄羅斯文詩詞」一案有所區別，後者是拉遠鏡頭拍下屍體倒臥地面的靜態圖像，受害者臉部不清楚，肉眼上也看不出有任何暴力行為。在該案中加上警告畫面的做法，與 Meta 給予審查人員的指示不一致，對表達自由也會構成非必要或不符合比例原則的限制。此案例中的內容更類似於「奈及利亞教堂攻擊後的影片」判例，亦即近距離拍下死傷民眾，肉眼上也能清楚看出暴力行為。

在此案例中，影片呈現兒童死傷的景況格外令人於心不忍。在類似情況中，讓用戶能選擇是否看到令人不安的內容，是必要也合乎比例原則的措施（另請見「亞美尼亞戰俘影片」）。

監察委員會認為，從極度符合公眾利益的角度來看，如果內容只是因為提醒大眾重視疑似侵犯人權和違反戰爭法律的行為、衝突事件，或是恐怖主義行動，而無法獲得向成人推薦的機會，這對表達自由是一種非必要也不符合比例原則的限制。警告畫面與剝奪獲得推薦的權利各有各的作用，有時不適合並行，特別是在危機情況下。Instagram 上的建議內容是自動化系統根據預測出的用戶興趣，向他們所推薦的內容。從推薦系統中移除內容，會導致內容原本能接觸到的範圍縮小。監察委員會認為，這種做法是用在原本就只有成人才能看到的內容，以及為了提醒大眾重視、譴責或報導公眾利益事務（例如暴力衝突事件的發展）而發佈的內容，因此會對表達自由產生不成比例的干擾。

監察委員會瞭解，想要立即針對危機事件展開因應行動，就必須採取非常態的臨時措施，而在某些背景下，優先處理安全問題，並暫時對表達自由施加更大但合乎比例原則的限制，也符合正當性。在「基督城呼籲」一案中，為打擊「恐怖主義與暴力極端主義內容」而許下的承諾，也涵蓋以上其中幾個要點。不過，監察委員會指出，「基督城呼籲」一案強調的是必須透過與人權和基本自由一致的方式，針對這類內容採取應變措施。監察委員會認為，如果發佈血腥內容是為了提醒大眾重視或譴責戰時罪行、泯滅人性的罪行，或是嚴重侵犯人權的惡行，那麼安全疑慮並非是無差別刪除這類內容的正當理由。衝突事件發生地人民保障自身安全所需的資訊，甚至可能會因為這些限制而無法流通。

某些緊急措施（例如在衝突狀況發生期間，降低移除內容所需達到的信賴水準門檻）可能會導致執法失誤，而不採取違規處分等措施，確實有助於減輕這類失誤所引發的負面效應。不過，這並不足以保障用戶權利，讓他們能在衝突情勢下分享內容，提醒大眾重視疑似侵犯人權和違反人道主義法律的行為，並分享其他重要資訊。

監察委員會不斷強調建立原則式透明架構的必要性，以便審查危機事件期間和衝突事件當地的內容（請見「海地警察局影片」和「提格雷通訊事務局」）。越是在這種衝突情勢瞬息萬變的時刻，大型社群媒體公司越是必須投入必要資源，確保表達自由不會非必要地遭受縮減。在這種時刻，新聞社往往會淪為實體和其他攻擊的目標，因此由平民在社群媒體上報導新聞也就格外重要。

監察委員會先前也發現，在戰爭或政治動蕩的情況下，將來會有更多血腥暴力內容被用戶擷取並分享到平台上，以便提醒大眾重視或記錄迫害行為（請見「蘇丹血腥暴力影片」）。在以加衝突之類的情況中，平民傷亡人數驚人，其中又以兒童佔多數比例，人權受到壓迫的問題也日益惡化，因此這類豁免權格外重要。儘管認同 Meta 持續不斷發展「血腥暴力內容」政策，監察委員會還是希望 Meta 做好採行各項臨時措施的準備，允許這類內容在附上警告畫面的前提下顯示，而不是從推薦中抹除。

監察委員會表示，內容發佈當時的加薩情勢對 Meta 所構成的一籮筐挑戰，與 10 月 7 日攻擊事件發生當時不同。在加薩向當地人民收集資訊一向不容易，記者進出當地也受到管制，網路連線則始終受阻。此外，有別於 10 月 7 日攻擊事件不久後的景況，此案例中呈現出的加薩情勢並沒有恐怖份子利用社群媒體宣傳暴行。反之，在武裝衝突的情況中，Meta 必須確保自身採取的行動，不會導致人民更難以分享內容來提供資訊，提醒大眾重視平民受到的傷害，而這些資訊可能也有助於判斷是否發生違反國際人道法律和人權法律的問題。任何審查人員在評估內容前，都應該先思考分享該內容的用意是否為提醒大眾重視或譴責當地事件，而 Meta 所設計的自動化系統，也應該要能避免誤刪在適用例外情況下能帶來效益的內容。

此案例進一步彰顯出，在需要採取危機應變措施的情況下，如果自動審查機制受到的人工監督不足，可能會導致符合重大公眾利益的言論遭到誤刪。不論是最初移除該內容，還是用戶的申訴遭到駁回，兩者都是由系統自動根據分類器分數做出決定，完全未經人工審查。這個問題的嚴重性可能日益加劇，因為 Meta 在 10 月 7 日攻擊事件過後採取了危機應變措施，降低根據「血腥暴力內容」政策移除內容的門檻。換言之，即使分類器為違規可能性所打的分數比平常規定的更低，Meta 還是會移除該內容。

為使 Meta 採用自動化系統的做法能與自身人權承諾並行不悖，監察委員會提醒 Meta 採行「哥倫比亞警方卡通」一案中的第 1 項建議。在該案中，監察委員會呼籲 Meta 重新評估高申訴率和高成功申訴率的內容，看看是否需要從媒體配對服務庫中移除。做為對這項建議的回應，Meta 建立了一個專任工作小組，致力提高在媒體比對服務庫中的治理成效（如要查看 Meta 就此發佈的最新消息，請前往這裡））。監察委員會指出，這個小組必須格外留意在武裝衝突的情況下，使用媒體比對服務的方式。在「乳癌症狀和裸露」一案中（第 3 和第 6 項建議），監察委員會建議 Meta 在使用自動化系統對內容採取違規處置時通知用戶，並揭露資料來指出自動根據《社群守則》做出內容移除處置決定的次數，以及這些處置決定在經過人工審查後遭到推翻的比例。如果判斷內容可能違規的信賴水準門檻屢屢大幅降低，上述做法就格外重要。監察委員會呼籲 Meta 展開進一步行動來採行第 6 項建議，並將已採行第 3 項建議的證據提供給監察委員會。

對表達自由施加之限制不得有所歧視，包括不得基於國籍、民族、宗教信仰、政治或其他立場歧視他人（ICCPR 第 2 條第 1 項及第 26 條）。若《社群守則》的執行措施出現歧視，就等於破壞這一項表達自由的基本原則。在「被分享的半島電視台貼文」一案中，監察委員會對 Meta 在以色列和巴勒斯坦佔領區投入的內容審查資源可能分配不均一事表示高度擔憂，並呼籲進行獨立調查（「被分享的半島電視台貼文」判例中的第 3 項建議）。作為對該項建議的回應，Meta 委託Business for Social Responsibility（BSR）進行人權影響評鑑，找出「Meta 的政策和做法搭配範圍更廣的外部動態機制後，對巴勒斯坦和阿拉伯文用戶的人權帶來各種影響，因而無意間造成歧視的各種情況」。監察委員會鼓勵 Meta 履行其因應 BSR 報告內容所做出的承諾。

最後，對於疑似侵犯人權和違反國際人權法律的行為，Meta 必須負責保存相關證據，這也是在 BSR 報告中提出，且受到公民團體提倡採行的建議（第 21 項建議）。即使內容已從 Meta 平台上移除，這類證據還是必須保留下來，以利日後究責（請見蘇丹血腥暴力影片」和「亞美尼亞戰俘影片」）。雖然 Meta 表示已將所有違反《社群守則》的內容保留一年，監察委員會仍呼籲 Meta 透過更持久、更平易近人的方式找出明確與戰時罪行、泯滅人性罪行，以及嚴重侵犯人權的行為相關的內容，以利長期究責。監察委員會指出，Meta 已同意採行「亞美尼亞戰俘影片」一案中的第 1 項建議，也就是呼籲 Meta 制定協定以保存資訊，並在適當情況下與主管機關共享此類資訊，藉此協助進行調查和法律程序，以補救或起訴残暴罪行或嚴重侵犯人權的行為。Meta 告知監察委員，擬定「一致做法來針對残暴罪行或嚴重違反國際人權法的行為留下證據」目前已進入收尾階段，預計不久之後就能向監察委員會提出相關簡報。監察委員會期盼 Meta 完全採行上述建議。

*流程注意事項：

監察委員會的快速裁決是由五人審查小組進行審議，且裁決結果必須經大多數委員的同意。監察委員會的裁決不一定代表所有委員的個人觀點。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें