Décision sur plusieurs affaires
性別認同與裸露內容
17 janvier 2023
監察委員會推翻了 Meta 最初的處置決定,即刪除兩則描繪了裸露胸部之跨性別人士和非二元性別者的 Instagram 帖子。
2 cas inclus dans ce lot
IG-AZHWJWBW
Instagram 的性誘惑相關案例
IG-PAVVDAFF
Instagram 的性誘惑相關案例
個案摘要
監察委員會推翻了 Meta 最初的處置決定,即刪除兩則描繪了裸露胸部之跨性別人士和非二元性別者的 Instagram 帖子。另委員會還建議 Meta 應修改《Facebook 社群守則》的「成人裸露與性行為」政策,使其能夠受到尊重國際人權標準之明確標準規範的約束。
關於此個案
在此判決中,監察委員會首次同時考慮兩起案例。這兩起案例是由同一個 Instagram 帳戶所發佈的兩則不同的內容,一則發佈於 2021 年,另一則是 2022 年。該帳戶由一對美國伴侶持有,他們分別是跨性別者和非二元性別者。
這兩則帖子都放上了這對伴侶的裸胸遮點照。圖片的說明文字討論到跨性別醫療保健的議題,並提到這對伴侶其中一名成員即將要接受平胸手術(一種移除乳房組織的性別確認手術),而這對伴侶正在籌措手術經費。
在 Meta 的自動化系統發出一系列的警示和收到多個用戶舉報後,這些帖子根據各項《Facebook 社群守則》遭到多次審查。Meta 最終以違反《Facebook 社群守則》「性誘惑」政策為由刪除了這兩則帖子,原因似乎是因為帖子中出現乳房和通往籌款頁面的連結。
用戶依序向 Meta 和監察委員會提出了申訴。待監察委員會受理案件後,Meta 才發現他們刪除帖子的處置有誤,於是恢復顯示了帖子。
重要調查發現
監察委員會認為刪除這兩則帖子並不符合 Meta 的《Facebook 社群守則》、其價值理念或其人權責任。這些案例也突顯了 Meta 政策的根本問題。
在 Meta 提供給審查人員的內部指南中,就哪些情況該根據「性誘惑」政策刪除內容來說,內部指南的規範遠比該政策的宗旨或對外公開的規定更廣泛。這會造成用戶和審查人員的認知混淆,並且正如 Meta 所意識到的那樣,這還會導致內容被錯誤地刪除。
至少在其中一個案例中,該帖子被經過培訓以執行《Facebook 社群守則》「成人裸露與性行為」政策的自動化系統轉交由審查人員處理。該政策禁止內容出現女性乳頭的圖像,除非是在特定情況下,例如女性哺乳和性別確認手術。
該政策是基於性別的二元觀點和男女性身體之間的區別所設計。這樣的政策基礎會導致規則無法清楚套用於雙性人、非二元性別和跨性別人士用戶,而要求審查人員就性和性別議題做出快速且主觀的評估,這在大規模審查內容的情況下更是不切實際的做法。
關於女性乳頭規則的限制規定和例外情況既廣泛又令人困惑,尤其是當這些規則要套用在跨性別者和非二元性別者的情況下。該政策的例外情況包括抗議活動、分娩場景,以及醫療保健相關情境的內容,例如平胸手術和乳癌意識宣導。這些例外情況經常令人費解且定義不夠明確。例如,在某些情況下,審查人員必須評估可見疤痕的範圍和性質,以判斷是否適用某些例外情況。該政策中固有的模糊地帶,為用戶和審查人員帶來了很多不確定性,導致該政策在實務操作上難以執行。
監察委員會一再表示,Meta 必須特別留意其政策如何影響受歧視的族群(例如,參見「貝殼串珠腰帶」和「重新掌握阿拉伯語用字的權力」的判決)。在此,監察委員會發現 Meta 的成人裸體政策會導致女性、跨性別者和非二元性別者在其平台上遇到更大的表達障礙。舉例來說,這些政策對於女性傳統上可能會赤裸上身的環境造成嚴重影響,對自我認同為 LGBTQI+ 族群的人可能也會受到不成比例的影響,正如這些案例所示。Meta 的自動化系統多次識別這些內容,儘管內容並未違反 Meta 的政策。
Meta 應該想辦法制定和實施能夠解決所有這些問題的政策。公司應該通過定義明確的標準規範來管理「成人裸露與性行為」政策,從而改變他們在平台上管理裸露內容的方法,以確保能夠以符合人權標準的方式對待所有的用戶。公司也應檢視「成人裸露與性行為」政策是否可以防止未經同意的圖像分享,以及其他政策在這一方面是否需要加強補充。
監察委員會的判決
監督委員會推翻了 Meta 刪除帖子的原始處置決定。
監察委員會也對 Meta 提出以下建議:
- 定義明確、客觀、尊重權利的標準規範來管理其《Facebook 社群守則》「成人裸露與性行為」政策,以便通過符合國際人權標準的方式來對待所有的用戶,避免發生任何基於性或性別的歧視行為。首先,Meta 應該對此政策修訂進行全面的人權影響評估,邀請各式各樣的利益相關者參與討論,並制定一個計劃來解決所發現的任何危害。
- 在對外公開的《Facebook 社群守則》「性誘惑」政策中提供更多有關導致內容遭到刪除之標準的詳細資訊。
- 修改針對《Facebook 社群守則》「性誘惑」政策所提供給審查人員的指南,使其能夠更準確地反映政策的公開規範。這將有助於減少 Meta 方面的處置錯誤。
*個案摘要為提供個案概覽,不具先例價值。
個案判決全文
1.判決摘要
監督委員會推翻了 Meta 對兩個案例的原始處置決定,即 Meta 刪除了兩則 Instagram 帖子。Meta 已承認其最初在這兩個案例中的處置決定都是錯誤的。這些案例引起了我們對 Meta 政策的高度擔憂,這些政策可能會對其平台的女性和 LGBTQI+ 用戶的表達權造成不成比例的嚴重影響。監察委員會建議 Meta 應該定義明確、客觀、尊重權利的標準規範來管理整體的「成人裸露與性行為」政策,確保所有用戶都能受到符合國際人權標準的平等對待,並避免產生基於性或性別認同的歧視行為。首先,Meta 應進行全面的人權影響評估,以檢視採用此類標準規範的影響,該評估應廣泛邀請來自多元意識形態、地理和文化背景的利益相關者參與討論。就此評估應確定的任何潛在危害而言,新政策的執行應包括解決這些危害的緩解計劃。
監察委員會進一步建議 Meta 應澄清其對外公開的「性誘惑」政策,並縮小其內部執行指南的範圍,以更有效地處理此類違規內容。
2.個案說明與背景資訊
這些案例涉及兩個由 Meta 做出的內容處置決定,監察委員會將以此判決同時解決。一個由一對美國情侶經營的 Instagram 帳戶發佈兩張附加說明文字的圖像。這兩張圖像中的人物是一對情侶,他們在帖子和提交給監察委員會的內容中提到,他們認為自己是跨性別者和非二元性別者。
Meta 依據《Facebook 社群守則》中的「性誘惑」政策移除這兩則帖子。在這兩個案例中,Meta 的自動化系統將內容判定為可能違規內容。
在 2021 年發佈的第一張圖像中,兩個人都赤裸著胸部,其乳頭上貼著肉色膠帶。第二張圖像發佈於 2022 年,一位當事人穿著衣物,另一位則裸露胸部,以雙手遮蔽乳頭。在這些圖像附加的說明文字中,提到這兩張相片中裸露胸部這位當事人即將接收性別確認手術中的平胸手術,以獲得平坦的胸部。他們表示他們計劃將手術過程紀錄下來,以及探討跨性別人士的醫療保健議題。他們表示自己正在舉行籌款活動以籌措手術費用,因為他們無法獲得該手術的保險理賠。
在第一個案例中,圖像先是被自動分類為不太可能違規。舉報在未經審查的情況下就遭到結案,內容一開始還是保留在平台上。之後,又有三名用戶舉報該內容為色情和自殘內容。這些舉報獲得了審查人員的審查,隨後認定帖子並無違反規則。當該內容遭到用戶第四次舉報時,另一位審查人員認為該帖子違反了《Facebook 社群守則》的「性誘惑」政策並將其刪除。
在第二個案例中,Meta 的自動化系統兩度將帖子判定為可能違規,但審查人員兩次都判定內容並無違反規定。之後,又有兩名用戶舉報該內容,不過兩次舉報均自動結案,未送交審查人員過目,於是內容還是保留在平台上。最後,Meta 的自動化系統第三度挑出該內容並送交人工審查。在前兩次的時候,Meta 的「成人裸露與性行為」政策的自動分類器標記了內容,但如此重複審查的原因並不明確。而這最後一位審查人員認定該帖子違反了《Facebook 社群守則》「性誘惑」政策並將其刪除。
帳戶持有人針對這兩項刪除決定向 Meta 提出了申訴,這兩則內容都獲得了審查人員的檢查。然而,這些審查作業並沒有促使 Meta 恢復顯示帖子,於是帳戶持有人針對這兩項刪除決定向監察委員會提出申訴。監察委員會決定同時檢視這兩個案例,此為委員會首次之舉。這樣做的好處是可以識別 Meta 的內容政策和流程中的類似問題,並提供能夠解決這些問題的解決方案。
在監察委員會揀選了這些帖子並要求 Meta 為其刪除內容的處置決定提供理由後,Meta 表示這些刪除決定為「錯誤處置」並恢復顯示這些帖子。
在思考這些案例背後所代表的重要議題時,監察委員會指出,從審查這些案例時所收到的大量公眾評論來看,其中有許多評論來自自我認同為跨性別、非二元性別或順性別女性的人,他們表示自己也都曾受到類似這些案例的政策執行錯誤和類似問題的影響。
監察委員會還指出,根據 Haimson 等人、Witt、Suzor 和 Huggins 的學術研究(也有公眾評論引用),以及 Salty 在演算法偏見和對邊緣化社群的審查的報告中,我們可以找到相關的背景資訊。這些研究發現,涉及這些案例的兩個《Facebook 社群守則》政策的執行錯誤,對於女性和 LGBTQI+ 社群的影響特別嚴重。其中一項研究的共同作者正好是監察委員會的成員。
3.監察委員會的權限與範疇
如果用戶因為其帖子被移除而提出申訴,監察委員會有權審查 Meta 的處置決策(委員會章程第 1 章第 2 條;規章制度第 3 條第 1 節)。
監察委員會可以支持或推翻 Meta 的處置決策(委員會章程第 3 條第 5 節),其決定對公司具有約束力(委員會章程第 4 條)。Meta 也必須評估其處置決定套用至具有類似情境之相同內容的可行性(委員會章程第 4 條)。監察委員會的判決可能包括政策建議聲明,其中包含 Meta 必須回應的相關建議(委員會章程第 3 條第 4 節;第 4 條)。
當監察委員會揀選如這樣的案例時,Meta 隨後在委員會選定案例後坦承犯了錯誤,委員會依然會審查其原始的處置決定。這是為了進一步理解導致政策執行錯誤的政策參數和內容審查流程,並解決監察委員會找出的政策潛在問題。監察委員會另外的目的也是為了提出建議,以減少 Meta 未來發生錯誤的可能性,並且以更公平的方式對待用戶。
當監察委員會發現擁有類似問題的案例時,這些案例可能會一併分配到同一個小組進行審議,然後審議小組將針對每則內容做出具有約束力的判決。
4.權限來源
監察委員會在判決中考慮了以下權限來源和標準:
I.監察委員會的決策:
- 「重新掌握阿拉伯語用字的權力」(2022-003-IG-UA)。監察委員會分析了套用政策例外情況的挑戰,以及某些政策選擇所造成的不成比例的影響。
- 「貝殼串珠腰帶」(2021-012-FB-UA)。監察委員會分析了套用政策例外情況的挑戰,以及某些政策選擇所造成的不成比例的影響。
- 「乳癌症狀和裸露內容」(2020-004-IG-UA)。監察委員會分析了《Instagram 社群守則》,並建議 Meta 澄清政策適用於乳癌意識宣導的例外情況。
II.Meta 的內容政策:
這兩個案例涉及了《Instagram 社群守則》和《Facebook 社群守則》。Meta 的政策公開透明平台指出「Facebook 和 Instagram 共用內容政策。這就表示在 Facebook 上被視為違規的內容,在 Instagram 上也會被視為違規。」
性誘惑
《Instagram 社群守則》規定禁止「提供性服務」,然後以該規定文字提供通往《Facebook 社群守則》「性誘惑」政策的連結。
在關於「性誘惑」的政策宗旨中,Meta 指出:「不過,如果內容促成、鼓勵或策動成人之間的性接觸或性交易,我們就會劃定底限。這種做法的目的是避免鼓勵與非法交易、脅迫和強制性交相關的交易行為。我們也禁止可能引起性誘惑的色情用語,因為我們全球社群中有某些用戶可能對此類內容較為敏感,且此類內容可能妨礙用戶與朋友及廣泛社群的交流。」
《Facebook 社群守則》的「性誘惑」政策表示,Meta 禁止明示和暗示的誘惑內容。暗示型性誘惑有兩個條件,內容必須同時滿足這兩個條件才算是違反政策。第一個條件是「提供或徵求」,亦即「以暗示或間接的方式(通常透過提供聯絡方式)提供或徵求性誘惑的內容」。第二個條件是「暗示元素」,亦即「使用下列其中一種性暗示元素,作出上述的提供或徵求行為的內容」。這些元素包括「地方性色情用語」和「姿勢」。
成人裸露與性行為
《Instagram 社群守則》規定用戶應:「發佈適合各個用戶族群觀看的相片和影片。我們能夠了解,有時候人們會想分享具有藝術美感或創意的裸露圖像,但基於各種原因,我們不允許在 Instagram 發佈裸露圖片。這包括了展示性交、生殖器及完全裸露的臀部特寫的相片、影片及數碼創作內容,這亦包括了女性乳頭的一些相片,但以下情形不在此限:哺乳、分娩、產後、健康醫療相關內容(例如乳房切除術後相片、喚起大眾對乳癌的關注,或性別重建手術),或陳情抗議行為。」這段文字有連結可通往 Facebook 的「成人裸露與性行為」政策,其中提供了有關這些規定的更多詳細資訊。
在《Facebook 社群守則》「成人裸露與性行為」政策的政策宗旨中,Meta 表示:「由於我們的用戶當中可能會有人對裸露畫面或性行為相關的內容較為敏感,因此我們對顯示這類內容設有限制。此外,我們會預設移除色情圖像,以防用戶分享未經同意或未成年內容。」
Facebook 的「成人裸露與性行為」政策也規定:「禁止發佈的內容:毫無遮掩的女性乳頭,但不含以下情形:哺乳、分娩和產後時刻、醫療保健情境(例如切除手術、乳癌意識或性別確認手術),或是抗議行為。」用戶也可以在「醫療保健相關情境」(包括性別確認手術)下分享含有生殖器的圖像,但平台會加入一個警告標籤,以提醒用戶該內容可能較為敏感。內部指南中另外還有至少 18 個關於乳頭和這些例外情況的其他判斷要素。
III.Meta 的價值理念:
Meta 的價值理念已列於《Facebook 社群守則》的簡介,其中「發言權」的價值被形容為「至高無上」:
《Facebook 社群守則》的目標始終都是開闢表達意見的園地並給予用戶發言權。[…] 我們希望用戶能公開討論自己所重視的議題,即使可能無法得到認同或招致反感也無妨。
Meta 會為了顧及四個價值觀而限制「發言權」,而與本個案相關的兩個價值觀如下:
「安全」:我們致力於將 Facebook 創造成安全的環境。威脅性的言論可能會使他人覺得受到脅迫、排擠或不敢表達意見,因此 Facebook 不允許出現這類內容。
「尊嚴」:我們認為每個人都享有同等的尊嚴和權利,也期望用戶能尊重他人的尊嚴,不騷擾或貶低他人。
IV.國際人權標準:
在 2011 年獲聯合國人權理事會背書的《聯合國工商企業與人權指導原則》(UN Guiding Principles on Business and Human Rights,簡稱 UNGP),針對私人工商企業的人權責任定出了適用的自願架構。2021 年 ,Meta 公告了其《企業人權政策》,重申會遵守《聯合國工商企業與人權指導原則》中所述之權利。監察委員會是根據以下人權標準分析 Meta 在這些案例中所肩負的人權責任:
- 意見和表達自由的權利:《公民權利及政治權利國際公約》(ICCPR)第 19 條;聯合國人權事務委員會(2011 年)第 34 號一般性意見;通訊 488/1992;第 32/2 號決議,人權理事會,2016 年;聯合國意見和表達自由特別報告員的報告:A/HRC/38/35(2018 年)和 A/74/486(2019 年)。
- 婦女權利:《消除對婦女一切形式歧視公約》(簡稱 CEDAW),第 2 條和第 5 條。
- 不受歧視的權利:ICCPR 第 2 條第 1 節和第 26 條。Nepomnyashchiy 訴俄羅斯,人權委員會,2018 年(CCPR/C/123/D/2318/2013)。
5.用戶提交資料
在針對這些案例提交的資料中,用戶聲明他們認為這些內容是因為跨性別恐懼心態而遭到刪除。他們寫道,如果監察委員會能夠肯定在平台上保留該內容的價值,該判決將有助於使 Instagram 成為更適合 LGBTQI+ 族群表達聲音的空間。
6.Meta 提交資料
Meta 在其處置理由中解釋說,這兩個內容刪除決定都是處置錯誤,並且兩個帖子都並未違反其「性誘惑」政策。Meta 表示,「內容唯一的提供或徵求,是捐款給籌款活動或前往網站購買 T 恤,這兩者都與性誘惑無關。」
Meta 也認為這兩則帖子都沒有違反《Facebook 社群守則》的「成人裸露與性行為」政策。該政策宗旨指出,內部「審查人員指南特別說明了如何處理非二元、性別中立或跨性別人士的裸露內容。」這些案例中的內容是在「明確的非二元或跨性別背景下所分享的,內容的整體主題(將進行平胸手術)和帖子使用的主題標籤都足以證明了這一點」。Meta 的結論是,「在這些案例中,即使圖像中的乳頭是可見的而並未遮擋,這些圖像也不會違反我們的「成人裸露與性行為」政策」。Meta 也承認,在這兩張圖像中,用戶都有「完整遮蓋」其乳頭。
因為自內容遭到刪除後已經過了很長的時間,所以 Meta 無法告訴監察委員會判定該內容可能違規的各種自動化系統被編程執行了哪些政策處置。但針對其中一個案例,Meta 表示該內容被「成人裸露與性行為」政策分類器排入審查隊列兩次。Meta 也無法解釋為什麼審查人員認為該內容違反了「性誘惑」政策。Meta 在資料中承認他們有「意識到某些內容審查人員可能會因為過度硬性執行我們的審查人員的內部指南,而錯誤地以隱含性誘惑為由而刪除內容(即使內容並無性誘惑成分)」。
監察委員會向 Meta 提出了 18 個問題,Meta 對這些問題都做出了完整的回應。
7.公眾評論
監察委員會考慮了有關這兩個案例的 130 則公眾評論。其中 97 則來自美國和加拿大;19 則來自歐洲地區;10 則來自亞太地區和大洋洲地區;1 則來自拉丁美洲和加勒比地區;1 則來自中東和北非地區;1 則來自撒哈拉以南非洲地區;以及 1 則來自中亞和南亞地區。
這些公眾評論主要涵蓋的主題包括:錯誤地刪除跨性別、非二元和女性用戶的內容;以性別區分平台上允許何種形式的裸露內容的不公平和不平等對待;《Facebook 社群守則》「成人裸露與性行為」政策和「性誘惑」政策的內容規定令人感到困惑;以及社交媒體在 LGBTQI+ 群體權利受到威脅的社會中提供表達渠道的重要性。
若要閱讀針對這兩個案例提出的公眾評論,請點擊此處。有數則公眾評論並未包括在內,因為這些評論中出現了評論者以外的其他人的相關個人身分資料。
8.監察委員會分析
監察委員會透過以下三個面向來評估這些帖子是否應該恢復顯示:Meta 的內容政策、Meta 的價值理念,以及 Meta 的人權責任。
監察委員會之所以選擇這些案例,是因為刪除邊緣化族群的用戶所發佈的非違規內容,將會影響他們的言論自由。這一點特別重要,因為 Instagram 可以成為這些族群建立社群的重要論壇。這些案例顯示了政策執行錯誤可能會對某些群體造成不成比例的影響,並可能意味著政策和執行方面存在著更廣泛的問題,並應該盡快解決。
8.1 遵守 Meta 的內容政策
監察委員會認為這些帖子並未違反任何 Meta 內容政策。雖然 Instagram 有獨立的《社群守則》,但 Meta 也聲明過「Facebook 和 Instagram 之間共用內容政策,這就表示在 Facebook 上被視為違規的內容,在 Instagram 上也會被視為違規」。《Facebook 社群守則》中含有更詳細的規定,而《Instagram 社群守則》會在其內文中提供《Facebook 社群守則》的連結。
a.性誘惑
《Facebook 社群守則》「性誘惑」政策規定,暗示性誘惑需要滿足兩個要素:
- 內容出現暗示性的提供或徵求意圖,「以及」
- 內容出現性暗示元素。
暗示性的提供或徵求意圖。
《Facebook 社群守則》「性誘惑」政策對暗示性的提供或徵求意圖的定義是:「以暗示或間接的方式(通常透過提供聯絡方式)提供或徵求性誘惑的內容」。在 Meta 另外提供給審查人員的內部指南(「已知問題」)中,屬於暗示性提供意圖而導致觸發系統刪除內容的聯絡資料包括社交媒體的個人檔案連結,以及「通往訂閱服務網站(例如,OnlyFans.com 或 Patreon.com)的連結」。在這兩個案例中,其內容提供了一個平台連結,用戶在其中舉辦了籌措手術費用的籌款活動。由於 Meta 對暗示性的提供或徵求意圖的內部標準定義過於廣泛,因此儘管內容並未違對外公開的《Facebook 社群守則》,但該連結在技術上仍符合 Meta 審查人員指南中的「提供或徵求」,然而《Facebook 社群守則》中指出所謂的提供或徵求意圖必須是與性行為有關。
性暗示元素。
《Facebook 社群守則》提供了包括姿勢在內的性暗示元素清單。「已知問題」中提供了一份被 Meta 描述為詳盡無遺的清單,其中列出了具有性暗示意味的姿勢,包括「以數碼方式或以人體部位或物體遮擋的裸體女性乳房」。在這兩張圖像中,監察委員會有注意到乳房均已被人體部位(手)或物體(膠帶)遮擋。在這兩個案例中,這些帖子的內容都清楚地表明相片中的主體是跨性別和非二元性別人士,這意味著圖像中的乳房來自並非自我認同為女性的個人。監察委員會也認為該內容並不具有性暗示的意圖。在此基礎之上,該內容並未滿足違反「性誘惑」政策規定的第二個要素(性暗示要素),例如性感姿勢(包括遮擋女性乳房)。
由於並未滿足第二個要素,所以這些帖子並未違反這項規定。即使是參考第一個要素的公開文字規定(所謂的提供或徵求意圖必須是與性行為有關),這些圖像也並沒有構成性誘惑的條件。
b.成人裸露與性行為
《Facebook 社群守則》「成人裸露與性行為」政策禁止用戶發佈「毫無遮掩的女性乳頭,但不含以下情形:哺乳、分娩和產後時刻、醫療保健情境(例如切除手術、乳癌意識或性別確認手術),或是抗議行為」。Meta 在「已知問題」中進一步指出,針對「在明確的女變男、非二元或性別中立情境(例如用戶表示此類性別認同)之下分享的乳頭圖像,無論乳房的大小或形狀」,審查人員都應允以保留。這兩個案例中的圖像都沒有違反《Facebook 社群守則》。
首先,這兩張圖像都沒有裸露乳頭。在這兩張圖像中,主體都有用手或膠帶遮擋乳頭。其次,即使乳頭沒有遮住,監察委員會指出,這些圖像是與附帶的說明文字一併分享,這些說明文字清楚地表明了用戶自我認同為非二元性別人士。因此並未違反該政策的規定。
8.2 遵守 Meta 價值理念
監察委員會認為,最初刪除這些帖子的處置決策與 Meta 的「發言權」和「尊嚴」價值理念不符,而且也不符合「安全」價值理念。
對受到歧視的族群造成嚴重影響的政策執行錯誤,會對「發言權」和「尊嚴」構成嚴重的威脅。雖然 Meta 的人權論點側重於「安全」保護,特別是與未經同意的圖像外流、性交易和虐待兒童有關,但監察委員會認為刪除這些內容並不會促進「安全」。
8.3 遵守 Meta 的人權責任
表達自由(ICCPR 第 19 條)
ICCPR 第 19 條針對言論表達提供了廣泛的保障,包括對可能被視為具有冒犯性的人權討論和言論表達(第 34 號一般性意見,第 11 節)。保障所有人的言論自由權,不受「性」或「其他身分」的歧視(ICCPR,第 2 條第 1 節)。人權事務委員會已在 Nepomnyashchiy 訴俄羅斯(CCPR/C/123/D/2318/2013)等案件中明確表示,其禁止的歧視行為包括基於性別身分的歧視對待。
這些內容涉及了重要的社會議題。對於這些用戶來說,Instagram 提供了一個可討論和代表其性別表現的論壇,同時也提供了一個可讓他們進行互動和獲得支持的論壇。該內容甚至可能直接影響用戶是否能夠順利獲得性別確認手術,因為這兩個帖子都提到其中一人將接受平胸手術,並分享了籌款活動以籌措手術費用。
第 19 條規定如果國家要限制表達自由,則這些限制必須遵守合法性、合理目的,以及必要性和比例原則的規定(ICCPR 第 19 條第 3 節)。在 UNGP 的架構之下,聯合國意見和表達自由問題特別報告員呼籲社交媒體公司應確保其內容規則參考 ICCPR 第 19 條第 3 節(A/HRC/38/35,第 45 節和第 70 節)。監察委員會已採用此架構來分析 Meta 的政策和政策執行方法。
以本案來說,監察委員會認為 Meta 並沒有履行其制定和執行符合這些標準的政策的責任。根據「性誘惑」政策來刪除內容的內部標準比該政策規定的宗旨更為廣泛,Meta 本身已經意識到過度執法的錯誤。《Facebook 社群守則》「成人裸露與性行為」政策對女性和 LGBTQI+ 用戶的影響過大,並且過度依賴審查人員於對性和性別的主觀和推測性認知,這在大規模審查內容的情況下是不切實際的做法。監察委員會分析了這些缺點,並建議 Meta 展開一個全面性的檢討流程來解決這些問題。
I.合法性(清晰易懂且易於取得的規則)
限制表達的規定必須清楚、易懂且易於取得,以便負責執行這些規定的人和用戶都能了解相關規範。這兩個案例涉及的《Facebook 社群守則》和《Instagram 社群守則》在此方面都仍有改善空間。
a.性誘惑
監察委員會認為,在在提供給審查人員的內部指南中,《Facebook 社群守則》「性誘惑」政策包含過於寬泛的標準。這種設計不當的指南會導致審查人員過度執法,並導致用戶感到困惑。Meta 也承認了這一點,因為他們向委員會解釋說,在滿足暗示性誘惑標準但明顯「無意引誘性行為」的情況下,套用其內部指南可能會「導致過度執法」。
這種混淆也反映在該政策的兩個要素中。在《Facebook 社群守則》「性誘惑」政策的「提供或徵求」部分,對外公開的規定指的是引誘方提供的「聯絡方式」。但是,審查人員指南(「已知問題」)中卻指出,暗示性的「提供或徵求聯絡方式」包括社交媒體的個人檔案連結,或通往第三方訂閱網站(如 Patreon)的連結。用戶並不清楚任何可通往其他社交媒體個人檔案、第三方支付平台或籌款活動(例如 Patreon 或 GoFundMe)的連結,都可能導致他們的帖子被視為帶有引誘目的。這樣的困惑也出現在監察委員會收到的許多公眾評論中,這些人都不明白為什麼納入此類第三方連結的內容會被刪除,或導致他們的帳戶被停用。
第二個條件要求內容必須具有性暗示元素,該條件寬泛而模糊,並且與 Meta 的「成人裸露與性行為」政策有所衝突。對外公開的《Facebook 社群守則》將「性暗示姿勢」納入了性暗示元素的範疇。「已知問題」中則提供了「性暗示姿勢」的詳細清單,其中包括上半身裸體,以及用手或物體遮住乳房。用戶很可能不會知道任何遮蓋乳房的圖像都會被視為性暗示姿勢。而「成人裸露與性行為」政策允許遮蓋乳頭的上半身裸體相片的規定,更加劇了這種混淆。在這種情況下,被某項政策視為色情的內容,在另一項政策中卻不算是色情內容。
除了導致用戶無法明確判斷之外,以審查人員反覆就此內容得出不同判斷的事實表明,審查人員本身其實也不清楚哪些內容應被視為性誘惑內容。
Meta 後來也承認,針對暗示性誘惑的兩個要素所設計的內部指南,的確導致了一些並未尋求性行為的內容遭到刪除。從長遠來看,刪除處置錯誤最好是通過修改此政策的範圍來解決。然而,在短期之內,監察委員會建議 Meta 應修改其內部指南,以確保其標準能反映對外公開的規範,並在「提供或徵求」與「性暗示元素」之間更清楚地說明兩者的關聯性。Meta 也應該為用戶近一步闡釋構成「提供或徵求」性行為的條件,以及構成公開《Facebook 社群守則》中所謂性暗示姿勢的條件。
b.成人裸露與性行為
《Facebook 社群守則》的「成人裸露與性行為」政策以難以落實的性和性別區分作為前提,並且含有定義模糊的例外情況。政策中的特定規則會讓用戶感到困惑,他們不知道什麼樣的內容符合規範。這也會讓審查人員感到困惑,他們必須根據必然不完整的參考資料進行主觀評估,並迅速套用涉及眾多因素、排除條件和假設情況的規則。
儘管政策用語刻意強調特定的身體部位而非性別(並允許用戶在其個人檔案中選擇各種性別身分),但大多數的 Meta 規則都沒有解釋公司如何處理涉及雙性人、跨性別者或非二元性別者的內容。舉例來說,該政策提到「男性和女性生殖器」、「女性乳房」和「女性乳頭」,但並未清楚說明這些規定如何套用於身體性別和性別認同可能不符合這些定義的族群。許多跨性別者和非二元性別者都向監察委員會提交了公眾評論,評論指出用戶不知道他們的內容是否會根據他們的性別認同、他們出生時被指定的性別,或根據他們的外貌來進行評估和分類。
現行的規則要求審查人員必須快速評估用戶的性別(因為該政策適用於「女性乳頭」)及其性別認同,因為根據內容主體是否是非二元性別、性別中立、跨性別人士,或是否在性別確認手術的情境下發帖,有可套用專屬的例外情況。性和性別的判斷需要參考內容上下文線索和主體的外貌,而這兩者都很容易導致錯誤的主觀判斷。
這樣的處理方式又會因為 Meta 的「預設限制女性原則」而變得更加複雜,在有所顧慮的情況下,審查人員會採用更嚴格的政策規定來檢視女性(而不是男性)的裸露內容。「已知問題」中指出,如果沒有明確的上下文可以判斷,且圖像中的主體「呈現為女性,『或』出現在男變女的跨性別背景之中,則預設為女性裸體並套用相關政策。」
關於女性乳頭的限制規定和例外情況數量廣泛且令人困惑。該政策的例外情況包括抗議活動、分娩和哺乳場景,乃至於醫療保健相關情境的內容,包括乳房切除手術和乳癌意識宣導。這些例外情況通常缺乏定義或定義不甚明確。例外情況的清單隨著時間也明顯變得越來越長,並且可以預期該清單隨著言論表達的發展將會繼續增加。在涉及女性乳房的內容方面,Meta 的「成人裸露與性行為」政策將此類描述預設定義為構成色情圖像。然而,從不斷擴增的例外情況清單中可以看出,在該政策允許的諸多情況下,含有女性乳房的圖像並不一定具有性暗示。
即使設有例外情況,各種情況也都會出現許多問題。舉例來說,性別確認手術的例外情況對跨性別和非二元用戶來說特別重要,但 Meta 並未在對外公開的規範中解釋其性別確認手術的例外情況適用範圍。這導致許多公眾評論對此例外情況的定義表示困惑:例如內容是否可以分享術前照片(以提供前後對比的圖像),以及是否可分享完成隆胸手術的跨性別女性的圖像。內部指南和「已知問題」清楚地表明,此例外情況比公開指南定義的性暗示範疇更狹隘一些。
Meta 的政策以男性和女性之間的二元區別作為前提,導致 Meta 其實很難明確地闡明有關性別確認手術的例外情況。Meta 向監察委員會解釋說,性別確認手術的例外情況意味著「在明確的女變男的跨性別人士、非二元或性別中立的情境下發佈內容時,個人在接受平胸手術以去除乳房之前,露出女性的乳頭」是可以被允許的。該規定進一步「禁止發佈接受隆胸手術之男變女跨性別女性的乳頭圖像,除非乳頭上有出現疤痕。」
關於手術疤痕和乳頭的內部指南則更加令人費解。以乳房切除手術的規則為例,規定中允許「乳頭以通過其他組織或以模印或紋身方式重建的實例」,和允許「至少顯示一個手術切除的乳房的實例,即使另一個裸露的女性乳頭是可見的情況」。更令人困惑的是,規則中說明「針對乳房切除手術,疤痕包括對被切除乳房組織曾經所在區域的描述。不一定要能夠看見實際的手術疤痕。」
審查人員在套用規則時可能會很困擾,因為這些規則要求他們必須快速評估內容主體的性別特徵,以判斷是否套用女性乳頭規則,然後根據人物的性別來判斷內容是否適用某些例外情況,接著考慮內容是否適用於描述手術的前期或後期、是哪一種手術,以及可見疤痕的範圍和性質,然後再判斷是否適用其他的例外情況。如果相同的女性乳頭圖像是由一名順性別女性發佈,則將被禁止,但如果是由自我認同為非二元性別的個人所發佈,則可以獲得允許。監察委員會也指出,其他基於抗議活動、分娩、產後和哺乳情境之與乳頭相關的例外情況,委員會並未在這裡進行檢視,但這些例外情況也必須進行評估並且納入其他的內部標準。
鑑於表達權對性別、身體健康、生育和養育等議題的重要性,七拼八湊的現行例外情況為用戶帶來了太多的不確定性,並有可能誤用規則,正如本案所證明的那樣。對用戶和審查人員來說,該政策本身就不夠明確,導致該政策無法執行。根據下方的進一步討論,監察委員會認為 Meta 應該採取一種方法來處理成人裸露內容,確保所有人都不會因性或性別認同而受到歧視對待。
II.合理目的
ICCPR 第 19 條規定,如果國家要限制言論,就只能在促進合理目的的情況下這樣做,這些目的包括:「尊重他人的權利或聲譽......[以及]保護國家安全或公共秩序,或公共衛生和道德。」本判決將根據這些標準來檢視 Meta 在其政策中限制言論的理由。
a.性誘惑
Meta 在其「性誘惑」政策中解釋說,他們「旨在防止用戶使用 Facebook 或 Instagram 來促進可能在平台外發生之可能涉及非法交易、脅迫和強制性交的交易。」這是保護他人權利的一個例子,屬於合理目的。
b.成人裸露與性行為
Meta 在「成人裸露與性行為」政策中針對特定方面提供了幾項理由,包括防止未經同意的內容散播,保護年齡不明之未成年人,以及保護「社群用戶當中可能對此類內容較為敏感的人」。Meta 也向監察委員會解釋了其關於裸露內容的一般性原則。Meta 表示,「在起草我們的政策時,Meta 考慮了 (1) 圖像的私密或敏感性質;(2) 拍攝、分享裸照是否徵得同意;(3) 性剝削的風險;以及 (4) 披露此類圖像是否會導致出現平台外的騷擾行為,特別是在此類圖像可能在文化方面具有冒犯性的國家/地區。」
這些目標中有大多數都符合保護他人權利的原則。然而,Meta 保護「社群敏感性」的理由值得進一步研究,這種理由有可能與符合保護「公共道德」的合理目的。儘管如此,監察委員會指出,保護「公共道德」的目的有時會遭到政府言論監管機構的不當引用而出現侵犯人權的行為,特別是少數族群和弱勢族群的人權。人權事務委員會曾警告過:「道德的概念源自許多社會、哲學和宗教傳統;因此,出於保護道德的目的而限制……不可基於完全源自單一傳統的原則」(人權事務委員會,第 34 號一般性意見)。
雖然人權法的確承認公共道德可以構成限制國家言論自由的合理目的,並且世界各地都存在限制公開裸體內容的規定,但在本案的特定背景之下,Meta 強調了保護「社群敏感性」以外的目的。Meta 表示,「雖然其裸露內容政策符合保護公共道德的目的,但最終並不是根據這個目的而設,因為有關裸露內容的道德標準在不同文化中差異極大,因此無法大規模執行。」舉例來說,世界上有很多社群和部分地區,對裸露的跨性別人士和非二元性乳房的描述很可能會被視為觸犯社群敏感性。然而 Meta 並未限制這樣的言論表達。此外,由於 Meta 的政策(見下文),監察委員會對女性、跨性別者和非二元性別者所經歷的那些已知和反覆出現的嚴重言論壓力感到擔憂。出於這些原因,委員會在檢視 Meta 的人權責任時,會側重於 Meta 在「社群敏感性」以外的其他努力方向。
值得一提的是,Meta 為其裸露內容政策提供的一些原因,反映了 Meta 預設女性的乳房均含有性暗示的性質。監察委員會收到了許多用戶提交的公眾評論,他們對 Meta 針對女性、跨性別者和非二元者的身體產生假定性化的態度表示擔憂,因為 Meta 並未針對順性別男性採用類似的圖像性化假設立場。(例如參見 InternetLab 提交的第 10624 號公眾評論)。
監察委員會通過其正常的案例外展流程收到了許多關於此案例的公眾評論。作為一個致力於為 Meta 的用戶族群和主要利益相關者提供問責制的機構,監察委員會在審議過程中都會認真考慮公眾的評論。如同所有其他的案例,我們理解這些評論可能不代表國際看法。但監察委員會依然很感謝大家通過評論分享的經驗和專業知識,並將繼續採取措施擴大其外展範圍,以接觸更多目前可能未參與此流程的社群。
最後,監察委員會理解 Meta 可能是合理地考慮到必須防止某些可能產生性別影響的傷害的重要性。正如聯合國婦女受暴問題特別報告員所說:「我們必須要承認互聯網正在充斥著廣泛且系統化的結構性歧視和攻擊性別的暴力環境中侵害著婦女」(A/HRC/ 38/47)。此外,調查顯示,「在未經同意的情況下以數碼方式散播親密圖像的受害者中,有 90% 是女性」(A/HRC/38/47)。Meta 應努力阻止性別迫害,無論是對裸露內容限制規定的過度執法或執法不足的情況。
III.必要性和比例原則
監察委員會認為,Meta 的政策在架構和執行方面都涵蓋了過多不必要的內容。這兩項政策都與 Meta 試圖解決的問題不相稱。
a.性誘惑
「性誘惑」政策對暗示性的「提供或徵求」和性暗示姿勢的定義過於廣泛,這必然會涵蓋大量與性誘惑無關的內容。Meta 自己也承認這存在著處置錯誤的風險,並表示他們「意識到某些內容審查人員可能會因為過度硬性執行我們的審查人員的內部指南,而錯誤地以隱含性誘惑為由而刪除內容(即使內容並無性誘惑成分)」。Meta 還說:
目前,根據我們的「已知問題」,我們會將分享、提及或提供社交或數碼身分的聯絡資料,視為暗示提供或徵求性誘惑的行為。 […] 然而,在以下情況下,套用此指南可能會導致過度執法,例如審查人員認為模特兒擺出性暗示的姿勢(符合「性暗示元素」條件),並標記攝影師以提供圖像的出處(滿足「提供或徵求」條件)。此類內容並未違反規定,因為內容無意徵求性行為,但仍可能會被刪除(與政策規定衝突),因為此類內容在其他方面符合上述兩個條件。
聯合國教科文組織在一份討論數碼空間教育的報告中描述了錯誤過度執法的風險。報告中指出,「以分享露骨圖像的嚴格法規來看,在某些情況下,網絡上用於協助學習身體或性別關係的教育素材,可能會被審查人員誤認為是不適當的露骨內容,因此會被一般的網絡平台刪除。」監察委員會還指出,許多的公眾評論都討論到因此政策而遭到錯誤刪除的內容。舉例來說,ACON(澳洲的 HIV 教育類非政府組織)寫道,他們以正面看待性愛的角度宣傳 HIV 預防訊息的內容和宣傳教育研討會的內容,都被平台以性誘惑為由將其刪除。這導致非政府組織必須在其內容中刻意選擇用語,以避免遭到 Meta 的刪除,從而無法選擇最佳用語來接觸其目標社群(第 10550 號公眾評論)。研究人員 Joanna Williams 對此表示認同,她發現在她採訪的 12 個性健康組織中,有 9 個組織都回報表示在此方面受到 Meta 審查機制的負面影響(第 10613 號公眾評論)。
b.成人裸露與性行為
除了根據 Meta 對性和性別認同的觀點建立可執行且可擴展的規則方面所面臨的挑戰外(如上所述),監察委員會也認為 Meta 關於成人裸露內容的政策對特定類型的內容和表達方式施加了不成比例的限制。明明用限制較少的措施就可以實現政策目的,但這些政策卻依然要強制刪除內容。
除了刪除內容之外,Meta 還能採用多種處置措施,包括套用警告畫面和年齡限制,只允許年滿 18 歲的用戶觀看內容。此外,Meta 已經在其「成人裸露與性行為」政策中採用了此類措施,包括對性行為的藝術表達方式。Meta 也可能要教育自動化系統和審查人員,以更精細和更具體的方式判斷裸露內容在哪一種情況下確實屬於色情內容,而不論其描繪主體的性別。Meta 可以進一步採用廣泛的政策干預措施,通過提供更強大的用戶控制選項,針對不希望看到裸露內容的用戶來限制此類內容的能見度。針對 Meta 試圖通過裸露內容政策解決的問題,Meta 還制定了其他的專門政策(例如「成人性剝削」和「兒童性剝削、虐待和裸露」政策),這些政策都可以進行補充說明。
監察委員會指出,據報導,Meta 的政策執行做法導致了大量誤判,或錯誤地刪除了並未違規的內容。Meta 在最新的 Instagram 社群守則執行情況報告(2022 年 4 月至 6 月)中披露,因「成人裸露與性行為」政策遭到刪除而提出申訴的內容中,有 21% 的內容都成功恢復顯示。監察委員會還收到了大量關於因成人裸露政策而錯誤刪除內容的公眾評論。
不受歧視
有證據顯示,Meta 與「成人裸露與性行為」政策有關的政策和執行方式,可能會對女性和 LGBTQI+ 族群造成不成比例的影響。這些影響都反映在政策及其執行方式之中,並限制了這些族群表達自我、抵制偏見和提高社會知名度的方式。
雖然本案涉及的是跨性別和非二元性別用戶,但本案的處置錯誤源於一項同樣會影響女性的基本政策,特別是在 Meta 對裸露內容採用「預設為女性」的情況下。因此,本節在於探討 Meta 的政策如何影響 LGBTQI+ 族群和女性。本案收到大量的公眾意見都提供了這些政策可能造成的影響的許多例證。
保障所有人的言論自由權,不受「性別」或「其他身分」的歧視(ICCPR,第 2 條第 1 節)。這包括性取向和性別認同(Toonen 訴澳洲(1994 年);A/HRC/19/41,第 7 節)。人權事務委員會的法理指出,「並不是每一種基於公約第 26 條所列理由之差別對待都會構成歧視,只要該行為是基於合理且客觀的標準,並且是為了實現公約中規定的合理目的即可。 」Nepomnyashchiy 訴俄羅斯,人權委員會,2018 年,第 7.5 節(CCPR/C/123/D/2318/2013)。
《消除對婦女一切形式歧視公約》(CEDAW)禁止「基於性別而作的任何區別、排斥或限制,其影響或其目的均足以妨礙或否認婦女不論已婚未婚在男女平等的基礎上認識、享有或行使在政治、經濟、社會、文化、公民或任何其他方面的人權和基本自由。」(CEDAW,第 1 條)。監察委員會表示,國際人權機構尚未解決允許或禁止合意成人裸露內容的人權影響及其潛在的歧視性影響。
聯合國指導原則指出,「工商企業應特別注意對可能面臨更高脆弱性或邊緣化風險的族群或人群中的個人的任何特定人權影響」(UNGP 指導原則第 18 和 20 條)。言論自由問題特別報告員敦促科技公司「應主動尋求並考慮一直以來都面臨著言論審查和歧視風險之社群的擔憂」(A/HRC/38/35,第 48 節)。聯合國工商業與人權工作組也建議科技公司應確保「人工智能和自動化系統不會對婦女的人權造成不成比例的不利影響」(Gender Dimensions Handbook)。
鑑於社交媒體平台是受歧視之個人表達意見的重要場所,監察委員會一直明確表示期望 Meta 能特別關注錯誤刪除、關於或描繪這些群體之內容的可能性。正如監察委員會在關於原住民藝術創作的「貝殼串珠腰帶」決策(2021-012-FB-UA)中的看法,僅僅評估 Meta 對 Facebook「仇恨言論」政策對整體用戶族群的執行效果是不夠的,還必須考慮這些政策執行到對特定族群產生的影響。同樣地,在「重新掌握阿拉伯語用字的權力」案例中,監察委員會認為「過度審查受迫害之少數族群的言論,是對其言論自由的嚴重威脅」,並對 Meta 政策(此案為「仇恨言論」政策)對邊緣化群體的表達套用例外情況的方式表示擔憂(2022-003-IG-UA)。
Meta 的選擇將導致其平台上的女性、跨性別者和非二元性別者獲得截然不同的表達機會。Meta 現行的「成人裸露與性行為」政策將女性的乳房和乳頭視為天生具有色情意味,因此禁止用戶發佈相關內容,除非這些內容顯示主體已經或將要進行手術或正在哺乳。Meta 的政策並沒有採取措施來確保審查制度不會對特定群體造成不成比例的影響,反而加強並延續了對這些群體受到的影響。
這些案例突顯了 Meta 的政策選擇對自我認同為 LGBTQI+ 的族群造成了不成比例的影響,因為儘管內容並不在政策範圍之內,但「成人裸露與性行為」分類器依然多次標記了這些內容。監察委員會認為,這些案例象徵著更廣泛的問題。舉例來說,根據 Haimson 等人的研究發現,在跨性別者的舉報中,內容被刪除和帳戶被刪除的比例很高,而這通常都與裸露和色情內容有關。
Meta 的政策選擇的處置也對女性產生了不成比例的影響。Witt、Suzor 和 Higgins 的一項研究發現,Instagram 刪除的女性身體圖像中,有多達 22% 的內容明顯是誤判。公眾評論中也提到了對女性身體的差別對待影響(參見第 10616 號公眾評論,來自 Zahra Stardust 博士)。
這種對於裸露內容的預設立場,對於女性傳統上可能會裸露胸部的環境也會造成嚴重影響。推廣及保護意見與表達自由的網絡言論問題特別報告員敦促企業應與世界各地的原住民族群合作,以「制定更好的指標,以便在評估以裸體為特色的內容時考慮到文化和藝術背景」(第 54 節,A/HRC/38/35)。
除了這些與政策相關的非歧視性問題之外,這些案例還引發了與政策執行相關的非歧視性問題。Meta 應該注意,邊緣化族群的用戶的內容更容易遭到重複或惡意舉報,用戶舉報非違規內容是為了給用戶造成壓力或騷擾用戶。許多公眾評論也都提到了這些問題(例如,參見 GLAAD 的第 10596 號公眾評論和人權運動基金會的第 10628 號公眾評論)。
這些案例突顯了一個重點:以多次舉報促成多次審查,有可能會增加錯誤刪除內容的可能性。事實上,以本案來說,多數送交人工審查的用戶舉報最後都判定內容沒有違規,但內容持續遭到舉報,一直到審查人員誤判其違規並將其刪除為止。
Meta 應該設法制定和實施能夠改善所有這些問題的政策。這樣才有可能納入更統一的裸露內容政策,這些政策不會因性或性別認同而歧視用戶。這些政策也可以納入更多的情境決定要素來判斷哪些內容是色情內容,前提是這些決定要素要避免在做出此類決定時依賴歧視性的標準。
監察委員會指出,Meta 在其「成人性剝削」政策中有專門的規定來解決未經同意散佈親密圖像的問題。這一直是公司會優先處理的問題(例如,參見他們推出的自動偵測技術,以阻止未經同意而外流的圖像遭到重複發佈)。在考慮改變其平台管理裸露內容的方法時,Meta 應仔細檢視「成人裸露與性行為」政策在防止未經同意散佈親密圖像方面有多大的效力,以了解是否有必要調整「成人性剝削」政策及其執行方式以加強其效力。
監察委員會也意識到,Meta 限制其平台上的色情內容或許具有合法利益。但委員會相信,Meta 可以並應該通過平等對待所有用戶的方式來實現相關的業務目標。
部分監察委員會成員認為,Meta 應該通過採用不基於性或性別差異的成人裸露政策,以尋求減少現行政策的歧視性影響。這些成員表示,《消除對婦女一切形式歧視公約》(CEDAW)關於消除性別刻板印象的條文(例如參見第 5 條和第 10 條),以及 Meta 在其企業人權政策中對 CEDAW 的明確承諾。他們的結論是,以裸露內容政策來說,這些國際人權標準和 Meta 自己對不歧視的承諾,都支持消除刻板印象的差別對待。這些成員總結認為,鑑於 Meta 的企業價值理念和承諾,改為採用不基於性或性別差異的政策,將是 Meta 維護其為企業人權責任的最佳方式。這些成員還指出,公司的規範和政策應不斷發展,以解決具有歧視性影響的慣例,因為許多形式的歧視已經或將繼續成為廣泛的社會慣例。
監察委員會成員在這些問題上存在一些分歧。部分成員原則上同意 Meta 不應基於性和性別來限制言論表達,但對於 Meta 採用沒有性和性別意識的裸露內容政策之後,能否有效解決非自願親密圖像外流和其他潛在危害的能力深表懷疑。監察委員會的其他成員則認為,因為針對不歧視的適用人權原則只要是「基於合理且客觀的標準,並且是為了實現公約中規定的合理目的」(Nepomnyashchiy 訴俄羅斯,人權委員會,2018 年,第 7.5 節(CCPR/C/123/D/2318/2013),即可允許基於受保護之特徵進行區別對待,而不需要採用性和性別中立的裸露內容政策,因為這可能會導致或加劇其他危害。
支持採用性和性別中立的成人裸露政策的監察委員會成員能理解,根據適用於各國的國際人權標準,可以根據合理且客觀的標準,在服務於合理目的的情況下,以受保護的特徵為由進行區分對待。但他們認為 Meta 的裸露內容政策中的區別對待並不符合該標準。他們進一步指出,作為一個企業,Meta 基於公司對性和性別的看法而限制網絡言論表達的做法,與他們做出的人權承諾相悖。
《Facebook 社群守則》「成人裸露與性行為」政策對女性和 LGBTQI+ 用戶的影響過大,並且過度依賴審查人員於對性和性別的主觀和推測性認知,這在大規模審查內容的情況下是不切實際的做法。綜合來看,鑑於規則及其執行方式的混淆不清,以及 Meta 當前的「成人裸露與性行為」政策造成了不成比例和歧視性的影響,監察委員會建議 Meta 應定義明確、客觀、尊重權利的規範來管理其整體的成人裸露政策,確保以符合國際人權標準對待所有的用戶,包括不受基於性或性別認同的歧視。首先,Meta 應進行全面的人權影響評估,以檢視採用此類標準規範的影響,該評估應廣泛邀請來自多元意識形態、地理和文化背景的利益相關者參與討論。就此評估應確定的任何潛在危害而言,新政策的執行應包括解決這些危害的緩解計劃。監察委員會要求 Meta 應在本判決發佈之日起的 6 個月內提交一份關於評估和計劃的報告。
9.監察委員會的判決
監察委員會推翻了 Meta 刪除兩則帖子的原始處置決定,並要求恢復顯示帖子。
10.政策建議聲明
內容政策
1.為了公平對待所有用戶,並為審查人員和公眾提供一個可行的裸露內容規範,監察委員會建議 Meta 應該定義明確、客觀、尊重權利的標準規範來管理整體的「成人裸露與性行為」政策,確保所有用戶都能受到符合國際人權標準的平等對待,以及避免產生基於性或性別認同的歧視行為。首先,Meta 應進行全面的人權影響評估,以檢視採用此類標準規範的影響,該評估應廣泛邀請來自多元意識形態、地理和文化背景的利益相關者參與討論。就此評估應確定的任何潛在危害而言,新政策的執行應包括解決這些危害的緩解計劃。
2.為了向用戶提供更清楚的說明,Meta 應該為用戶近一步闡釋構成「提供或徵求」性行為(包括提供通往第三方網站的連結)的條件,以及構成公開《Facebook 社群守則》中所謂性暗示姿勢的條件。在 Meta 將這些字詞的解釋和示例添加到《Facebook 社群守則》「性誘惑」政策後,監察委員會才會將此建議視為已落實。
政策執行
3.為了確保 Meta 的「性誘惑」政策的內部標準不會超標刪除對外公開的政策規定所規範的內容,且非色情內容不會遭到錯誤刪除,Meta 應該修改其內部審查人員指南,以確保該標準符合對外公開的規則,並在「提供或徵求」與「性暗示元素」之間更清楚地說明兩者的關聯性。在 Meta 向監察委員會提供反映這些修訂標準的新版內部指南後,監察委員會才會將此建議視為已落實。
*程序備註:
監察委員會的判決書是由五人團隊所備製,且獲得監察委員會大多數委員的同意。監察委員會的判決未必代表所有委員的個人意見。
此個案在作出判決的過程中,已委託某他方代表監察委員會進行獨立研究。這間總部設在哥德堡大學的獨立研究機構組成了一個團隊,成員包括六大州超過 50 位社會科學家,以及 3,200 位來自世界各國的專家,在社會政治和文化領域具備豐沛的專業素養。監察委員會也使用了 Duco Advisors 的協助,Duco Advisors 是一間專門提供地緣政治、信任與安全以及技術交叉領域的諮詢公司。
Retour aux décisions de cas et aux avis consultatifs politiques