攻击跨性别人士的波兰语帖子

如果想查看此决定的波兰语版本，请点击此处。

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

摘要

监督委员会推翻了 Meta 保留一篇 Facebook 帖子的最初决定，在该帖中，一名用户针对跨性别人士发表暴力言论，鼓动此群体的成员自杀。监督委员会认为，该帖违反了社群守则有关仇恨言论的政策以及有关自杀和自残内容的政策。然而，在本案中，根本问题不在于政策，而在于政策的执行。尽管有多个信号表明该帖子的内容有害，但 Meta 在执行政策时屡屡失误，监督委员会因此得出结论称，Meta 没有实现他们在 LGBTQIA+ 人群安全方面所阐述的理想。监督委员会敦促 Meta 弥合政策执行方面的差距，包括改进提供给审核员的内部指南。

案件详情

2023 年 4 月，波兰的一名 Facebook 用户发布了一张蓝粉白三色条纹窗帘的图片，颜色与跨性别旗帜的颜色相同，并用波兰文字写道：“New technology … Curtains that hang themselves”（新科技，窗帘都会自己吊起了），这行文字上方还写着：“spring cleaning <3”（春季大扫除 <3）。该用户的个人简介中包含这样的描述：“I am a transphobe.”（我是一名恐跨人士。）该帖子收到的心情不到 50 个。

2023 年 4 月至 2023 年 5 月期间，11 名不同用户总共举报了该帖 12 次。在这 12 项举报中，仅有两项被 Meta 的自动系统优先送交人工审核，其余均作结案处理。送交人工审核的两项举报指出该内容有可能违反了 Facebook 守则有关自杀和自残内容的规定，但是经过评估后，审核员认为该内容未违规。依据仇恨言论政策提交的举报均未送交人工审核。

之后，三位用户就 Meta 保留该 Facebook 帖子的决定提出了申诉，在审核其中一项申诉后，人工审核员根据社群守则有关自杀和自残内容的政策维持了最初决定。而根据社群守则有关仇恨言论的政策提出的其他申诉依然没有送交人工审核。最后，其中一名最初举报了该内容的用户向监督委员会提出了申诉。在监督委员会选择审理此案后，Meta 判定该帖同时违反了其仇恨言论政策和有关自杀和自残内容的政策，并将该帖从 Facebook 移除。此外，由于发帖用户的帐户此前曾多次违规，Meta 禁用了该帐户。

主要结论

监督委员会认为该内容违反了 Meta 的仇恨言论政策，因为它包含呼吁具有受保护特征的群体自杀身亡的“暴力言论”。这篇鼓动跨性别人士自杀的帖子营造了一种恐吓和排斥的氛围，可能会造成人身伤害。考虑到文字和图片的性质，该帖还加剧了跨性别群体正在经历的心理健康危机。同性恋反诽谤同盟 (GLAAD) 最近的一份报告指出了在网上“无休止地遭受诋毁和仇恨行为所带来的极端心理创伤影响”。监督委员会考虑了更广泛的背景，即波兰 LGBTQIA+ 群体面临的网络和现实世界中的伤害，包括有影响力的政府官员和公众人物的攻击和政治言论，并从中发现了支持其结论的其他证据。

监督委员会担心，Meta 的人工审核员没有注意到背景信息线索。该帖提到了升高的自杀风险（“curtains that hang themselves”[窗帘都会自己吊起了]），并支持该群体的死亡（“spring cleaning”[春季大扫除]），这明显违反了社群守则有关仇恨言论的政策，而发帖用户自称是恐跨人士，单单这一点就构成了另一项违规。监督委员会敦促 Meta 在面对针对 LGBTQIA+ 人士的仇恨言论时，提高政策执行的准确性，尤其是当帖子包含需要背景信息来解读的图片和文字时。在本案中，对自杀的暗指以及描绘受保护人群的图像（跨性别旗帜）采用了“恶意创意”的形式。这是指不良行为者发明新颖的手段，通过帖子和表情包来攻击 LGBTQIA+ 群体，尽管他们辩称这些帖子和表情包是“幽默或讽刺”，但实际上它们是仇恨或骚扰内容。

此外，Meta 表示，人工审核员未能移除该内容是严格执行其内部指南的结果，监督委员会对此感到不安。这表明 Meta 的内部指南不能充分体现文字和图片可如何相互作用，来代表一个由成员的性别认同所定义的群体。

虽然该帖也明显违反了 Facebook 社群守则有关自杀和自残内容的政策，但监督委员会认为，此政策应该更明确地禁止针对某个可识别群体（而非该群体中的某个人）宣扬自杀的内容。

在本案中，Meta 的自动化审核优先排序系统严重影响了政策执行，包括 Meta 如何处理有关同一条内容的多项举报。Meta 会对这些举报进行监控和去重（移除），以“确保审核员的决定和政策执行措施的一致性”。举报被自动结案的其他原因包括内容的严重程度和传播力（内容累计获得的浏览量）评分较低，这意味着内容不会被优先送交人工审核。在本案中，监督委员会认为，在确定严重程度评分时，可以将该用户的个人简介视为一个相关信号。

监督委员会认为，Meta 应该投入更多资源来开发相关分类技术，用于识别影响 LGBTQIA+ 群体的潜在违规内容，并围绕与性别认同相关的伤害加强对人工审核员的培训。

监督委员会的决定

监督委员会推翻了 Meta 保留这条内容的最初决定。

监督委员会建议 Meta：

• 在其有关自杀和自残内容的政策页面上清楚说明，该政策禁止发布针对某个可识别人群宣扬或煽动自杀的内容。
• 修改其提供给批量审核员的内部指南，确保用旗帜来描绘性别认同，但是并不包含人物形象的图像被理解为代表了由成员的性别认同所定义的群体。

*案件摘要是对案件的概述，不具有先例参考价值。

案件审理决定全文

1.决定摘要

监督委员会推翻了 Meta 在 Facebook 保留一条波兰语内容的最初决定，在该内容中，一名用户针对跨性别人士发表暴力言论，鼓动此群体的成员自杀。在监督委员会确定要审理此案后，Meta 得出结论称，允许该帖留在平台上的最初决定属于误判，因而他们移除了该内容并采取了制裁措施。监督委员会认为，该帖违反了社群守则有关仇恨言论的政策以及有关自杀和自残内容的政策。监督委员会借此机会敦促 Meta 改进其政策和提供给审核员的指南，以便更好地在其平台上保护跨性别人士。具体而言，在评估某篇帖子是否是仇恨言论时，Meta 应确保用旗帜来描绘性别认同，但是并不包含人物形象的图像被理解为代表了由成员的性别认同所定义的群体。Meta 还应清楚说明，跟煽动个人自杀一样，煽动整个群体自杀同样是违规行为。但是，监督委员会认为，在本案中，根本问题不在于政策，而在于政策的执行。即便是从条文本身来看，相关政策也明确禁止了此帖，因为它有多种基于性别认同对某个群体发表仇恨言论的迹象。在本案中，尽管用户曾多次举报，但 Meta 在执行政策时屡屡失误，监督委员会因此得出结论称，Meta 没有实现他们在 LGBTQIA+ 人群安全方面所阐述的理想。监督委员会敦促 Meta 弥合这些政策执行差距。

2.案件说明和背景资料

2023 年 4 月，波兰的一名 Facebook 用户发布了一张蓝粉白三色条纹窗帘的图片，颜色与跨性别旗帜的颜色相同。图片上用波兰文字写道：“New technology. Curtains that hang themselves”（新科技，窗帘都会自己吊起了）。在这行文字上方，还有波兰文字写着：“spring cleaning <3”（春季大扫除 <3）。该用户的个人简介中包含用波兰语写成的描述，意为“I am a transphobe.”（我是一名恐跨人士。）该帖从其他用户那里收到了不足 50 个心情，其中大多数都表示支持。用得最多的心情符号是“笑趴”。

2023 年 4 月至 2023 年 5 月期间，11 名不同用户总共举报了该内容 12 次。其中有 10 项举报因多种原因没有被 Meta 的自动化系统优先送交人工审核，包括因为内容的“严重程度和传播力评分较低”。Meta 在确定对内容进行人工审核的优先顺序时，一般以内容的严重程度、传播力和违反内容政策的概率为依据。另外两项举报则因为依据的是 Facebook 社群守则有关自杀和自残内容的政策，而使得该内容被送交人工审核。依据仇恨言论政策提交的举报均未送交人工审核。据 Meta 表示，审核员拥有相应的培训和工具，能“评估和处理”指定给他们的政策队列（即仇恨言论或自杀和自残）之外的内容。然而，两位审核员均认为该内容并未违规，因此没有进一步上报。

三名用户对 Meta 将该内容保留在 Facebook 上的决定提出了申诉。其中一项申诉的结果是，人工审核员维持了 Meta 的最初决定，即判定该内容没有违反其有关自杀和自残内容的政策。另外两项申诉依据的是 Facebook 的仇恨言论政策，未被送交人工审核。这是因为 Meta 会对有关同一条内容的多项举报进行“监控和去重”，以确保审核员的决定和政策执行措施的一致性。

其中一名最初举报了该内容的用户向监督委员会提出了申诉。在监督委员会选择审理此案后，Meta 判定该内容同时违反了其仇恨言论政策和有关自杀和自残内容的政策，并移除了该帖。此外，Meta 在审核该案时，认定发帖用户的帐户已多次违反社群守则，并达到了禁用标准。2023 年 8 月，Meta 禁用了该帐户。

监督委员会在得出其案件审理决定的过程中注意到了以下背景信息：

经常有报道称，波兰对 LGBTQIA+ 群体充满敌意。[备注：监督委员会使用“LGBTQIA+”（女同、男同、双性恋、跨性别人士、酷儿、双性人和无性恋者）来指代基于性取向、性别认同和/或性别表达的群体。但是，监督委员会在进行引用或引述时，会保留引用内容采用的缩写或用法。]欧洲委员会人权专员曾呼吁关注“对 LGBTI 人群的污名化”这一“波兰长期存在的问题”。国际 LGBTI 联合会 (ILGA) 的 Rainbow Europe 报告根据直接影响 LGBTI 人权的法律和政策对国家/地区进行了排名。该报告将波兰列为表现最差的欧盟 (EU) 成员国，在受评估的 49 个欧洲国家中排名第 42 位。国家和地方政府以及知名公众人物越来越多地通过歧视性言论和立法行动来打压 LGBTQIA+ 群体。

从 2018 年开始，ILGA-欧洲追踪了该组织所谓的“波兰政治领导人针对 LGBTI 人群的高调政治仇恨言论”，其中有言论称“整个 LGBT 运动”是对波兰的“威胁”。同年，波兰卢布林市市长试图禁止该市的平等游行，尽管上诉法院在原定游行前不久解除了禁令。2019 年，华沙市市长推出华沙 LGBT+ 宪章，希望在该市“改善 LGBT 人群的处境”。波兰的执政党“法律与公正党”(PiS) 和宗教领袖批评了该宪章。波兰总统和中央政府也将跨性别群体列为打压目标。例如，执政党“法律与公正党”主席曾声称跨性别人士是“不正常的”。波兰司法部长还要求波兰最高法院考虑，“跨性别人士在想要获得 LGR [法定性别承认] 时，除了向父母提出请求外，还应向自己的子女和配偶提出请求 [以获得变性许可]。”

波兰还通过了反 LGBTQIA+ 立法。人权观察组织表示，各城市开始呼吁“将 LGBT 人群排斥在波兰社会之外”，并为此采取了各种措施，包括在 2019 年实施了“无 LGBT 区”。据人权观察组织报道，在这些区域，“地方当局采用了歧视性‘家庭宪章’，承诺‘保护儿童免受道德败坏的影响’，或宣称他们自己不受‘LGBT 意识形态’的影响”。超过 100 个城市建立了这类区域。ILGA-欧洲报告称，由于地方、欧盟和国际方面的压力，其中一些城市已经撤回了“反 LGBT 决议或家庭权利宪章”。2022 年 6 月 28 日，波兰最高行政法院命令四个城市撤回其反 LGBTQI+ 决议。然而，正如 Rainbow Europe 报告对波兰的排名所示，波兰的环境对 LGBTQIA+ 群体明显充满敌意。

欧盟基本权利机构 (European Union Agency for Fundamental Rights) 在 2019 年对欧盟地区的 LGBTI 人群开展了一项调查，比较了波兰与欧盟其他地区的 LGBTI 人群遭受袭击和骚扰的经历。据调查显示，波兰 51% 的 LGBTI 人士因为担心遇袭，经常或总是避开某些地点。而在欧盟其余地区，这一数字仅为 33%。该调查还发现，在调查前的五年里，五分之一的跨性别人士遭受过身体袭击或性侵犯，是其他 LGBTI 群体的两倍多。

监督委员会委托外部专家分析了社交媒体对波兰政府官员贬损言论的反应。这些专家指出，“自 2015 年以来，针对波兰少数群体（包括 LGBTQIA+ 群体）的网络仇恨言论有所上升，这种现象令人担忧”。在对 Facebook 上波兰语反 LGBTQIA+ 内容的分析中，这些专家指出，这类内容在“与反 LGBTQIA+ 立法有关的法院裁决”期间达到了高峰。这些裁决包括上文讨论的最高行政法院的裁决，以及与波兰监察员（人权事务专员）就多项反 LGBT 宣言的通过向地方行政法院提出的法律质疑有关的裁定，自 2019 年以来，波兰监察员一直在提出这些法律质疑。

监督委员会还向语言专家询问了帖中两个波兰语短语的含义。关于短语“curtains that hang themselves”（窗帘都会自己吊起了），专家们认为，在“窗户上挂着一面跨性别旗帜”的语境中，这个短语是“一个文字游戏”，用“吊起窗帘”来暗示“上吊自杀”。专家得出结论称，该短语是“对跨性别人士的隐晦诋毁”。关于“spring cleaning”（春季大扫除）这个短语，专家们表示，该短语“通常是指春天到来时的大扫除”，但是在某些语境下，“它还意味着‘扔掉所有垃圾’和‘摆脱所有不需要的物品（和/或人）’”。多条公众评议，包括人权运动基金会提交的评议 (PC-16029) 都认为，该帖提到的“spring cleaning”（春季大扫除）是在“赞扬（通过跨性别人士的死亡）将跨性别人士排斥和孤立在波兰社会之外的行为”。

本案中涉及的网络和现实世界中的伤害问题不单会影响波兰的 LGBTQIA+ 群体，还会影响全球的 LGBTQIA+ 群体。据世界卫生组织称，自杀是全球 15-29 岁人群的第四大死因。世界卫生组织指出，“遭受歧视的弱势人群（如难民和移民；原住民；女同性恋者、男同性恋者、双性恋者、变性人和两性人）中自杀率也很高。”其他调研发现，受到网络伤害与自残念头和行为之间存在“正相关”。

对跨性别和非二元性别群体来说，自杀风险是尤其值得关注的问题。特雷弗项目 (Trevor Project) 的 2023 年全国 LGBTQ 人群心理健康调查发现，2022 年，美国有一半跨性别和非二元性别年轻人曾有过自杀念头。同一项研究估计，在过去的一年里，14% 的 LGBTQ 年轻人曾企图自杀，其中包括近五分之一的跨性别和非二元性别年轻人。根据美国疾病控制与预防中心 (CDC) 的青少年危险行为调查，2021 年，美国有 10% 的高中生曾企图自杀。世界各地的多项研究发现，与顺性别者相比，跨性别人士或非二元性别人士产生自杀念头和企图自杀的风险更高。

在提交给监督委员会的公众评议 (PC-16027) 中，同性恋反诽谤同盟 (GLAAD) 强调了其年度调查“社交媒体安全指数”(Social Media Safety Index) 的结果，这项调查涉及五个主要社交媒体平台上 LGBTQ 用户的安全状况。2023 年的报告根据 12 个专门针对 LGBTQ 群体的指标，给 Facebook 打出了 61% 的分数。相比 2022 年，Facebook 的得分提高了 15 点，仅次于 Instagram，排在第二位，高于其他三大平台。然而，GLAAD 写道：“LGBTQ 用户的安全状况和保障质量仍不理想。”该报告发现，“LGBTQ 人群在网络上受到的伤害是实实在在的，包括 LGBTQ 人士因害怕成为攻击目标而噤若寒蝉，无法享受表达自由，以及无休止地遭受诋毁和仇恨行为所带来的极端心理创伤影响。”

3.监督委员会的权力和管辖范围

收到用户就被举报后保留的内容提出的申诉后，监督委员会有权审核 Meta 的决定（章程第 2 条第 1 款；细则第 3 条第 1 款）。

监督委员会可以维持或推翻 Meta 的决定（章程第 3 条第 5 款），并且其决定对该公司具有约束力（章程第 4 条）。此外，Meta 还必须评估将监督委员会的决定应用于具有同等语境的相同内容的可行性（章程第 4 条）。监督委员会的决定可能包括相关建议，这些建议并不具有约束力，但 Meta 必须对建议做出回应（章程第 3 条第 4 款；章程第 4 条）。如果 Meta 承诺就建议采取行动，监督委员会将监督其执行情况。

若监督委员会选择审理某个案件后，Meta 承认自己的决定有误（就像本案件中发生的情况那样），监督委员会将审核 Meta 最初的决定，以更好地了解内容审核流程并提出建议，帮助 Meta 减少错误并更公平地对待 Facebook 和 Instagram 用户。

4.权威来源和指南

在本案中，监督委员会在开展分析时参考了以下标准和先例：

I.监督委员会的决定

监督委员会此前做出的与本案最为相关的决定包括：

• 有关给某些阿拉伯词语重新赋予积极意义的案件
• 有关克宁动画片的案件
• 有关哥伦比亚抗议的案件
• 有关阿塞拜疆境内亚美尼亚人的案件

II.Meta 内容政策

在仇恨言论政策的政策依据部分，仇恨言论被定义为“针对他人受保护的特征，而非观念或习俗发起的直接言论攻击”，这些特征包括性别和性别认同。Meta 对“攻击”的定义为：“激烈的言辞或非人化言论，有害的成见，贬低他人的言语，轻蔑、厌恶或蔑视他人的表达，以及号召排挤或孤立他人的行为”。在政策依据中，Meta 进一步表示：“我们认为，当人们觉得自己不会因身份而受到攻击时，才会以真实形象示人，更自由地与外界交流互动。所以我们禁止在 Facebook 发布仇恨言论，这些内容会营造出恐吓和排斥的氛围，在某些情况下还可能会助长现实世界中的暴力。”

Meta 社群守则有关仇恨言论的政策将攻击分为多个“级别”。第 1 级攻击包括针对有受保护特征的个人或人群且“以文字或图像的形式表达暴力言论或者支持暴力”的内容。Meta 最终发现，本案中的帖子违反了这项政策规定。2023 年 12 月 6 日，Meta 更新了社群守则，以便反映禁止针对具有受保护特征的群体发表暴力言论的规定已被移至暴力与煽动暴力政策中。

第 2 级攻击包括针对有受保护特征的个人或人群且含有“含轻蔑之意的措辞（以文字或图像的形式）”的内容。在社群守则有关仇恨言论的政策中，Meta 将含轻蔑之意的措辞定义为包括“自我承认不能容忍受保护的特征”以及“声称某个受保护的特征不应该存在”。

社群守则有关自杀和自残内容的政策禁止发布“任何鼓励自杀或自残的内容，包括表情包或插图等虚构内容”。根据此政策，Meta 会移除“宣扬、煽动、配合或指导自杀和自残行为的内容”。

监督委员会的分析参考了 Meta 对自由表达的承诺，Meta 称“十分重视”此承诺，同时，此分析还参考了 Meta 的“安全”和“尊严”价值观。

III.Meta 的人权责任

2011 年，联合国人权理事会批准了《联合国工商企业与人权指导原则》（UN Guiding Principles on Business and Human Rights，简称 UNGP），为私营企业的人权责任确立了自愿性框架。2021 年，Meta 发布了自己的企业人权政策，重申了其根据 UNGP 做出的尊重人权的承诺。监督委员会参考以下国际标准，分析了 Meta 在本案中的人权责任：

• 意见和表达自由权：《公民权利和政治权利国际公约》（International Covenant on Civil and Political Rights，简称 ICCPR）第 19 条；人权事务委员会第 34 号一般性意见，2011 年；联合国促进和保护意见和表达自由权问题特别报告员的报告：A/HRC/38/35（2018 年）、A/74/486（2019 年）；《拉巴特行动计划》，联合国人权事务高级专员的报告：A/HRC/22/17/Add.4（2013 年）。
• 生命权：ICCPR 第 6 条。
• 享有能达到的最高身心健康标准的权利：《经济、社会及文化权利国际公约》（International Covenant on Economic, Social and Cultural Rights，简称 ICESCR）第 12 条。
• 平等和无歧视权利：ICCPR 第 2 条第 1 款和第 26 条。

5.用户提交的信息

举报该内容的用户在向监督委员会提交的申诉中指出，发布该图片的用户此前曾在网上骚扰跨性别人士，还在其帐户被 Facebook 封禁后又创建了一个新帐户。提交申诉的用户还表示，“不应该允许”为跨性别群体的高自杀率喝彩的行为。

6.Meta 提交的信息

Meta 最终根据其社群守则有关仇恨言论的政策的第 1 级规定移除了该帖，因为该内容违反了禁止发布以下内容的政策规定：针对有受保护特征的个人或人群且“以文字或图像的形式表达暴力言论或者支持暴力”。Meta 在其有关如何运用此政策的内部指南中规定，以下内容应被移除：“以文字或图像的形式表达暴力言论，具体形式包括煽动令他人死亡、患病或受到伤害的行为，表达令他人死亡、患病或受到伤害的意图，有关令他人死亡、患病或受到伤害的愿望性或条件性言论，或者鼓动或支持他人死亡、患病或受到伤害的言论”。

在这些内部指南中，Meta 还描述了他们认为怎样是用图片或视频图像来代表具有受保护特征的群体。Meta 不允许监督委员会公布与此指南有关的更多详细信息，而是表示：“根据仇恨言论政策，Meta 在确定内容是否是在针对有受保护特征的个人或人群时，可能会考虑内容中的图像元素”。

Meta 声称，其审核员多次判定该内容未违反社群守则有关仇恨言论的政策，这是“严格执行我们的内部指南”的结果。他们阐述道：“虽然窗帘与跨性别骄傲旗相似，但是只从针对旗帜的攻击来看，我们会将其解读为针对观念或习俗发起的攻击，而不是针对个人或人群发起的攻击，这并不违反我们的政策。”然而，Meta 随后认定，“此帖提到了‘吊起’，这表明此帖是在攻击某个人群”。此判断的依据是认定短语“‘curtains which hang themselves’（窗帘都会自己吊起了）暗指跨性别群体的自杀率，因为窗帘与跨性别骄傲旗相似，而照片中吊起的窗帘（以及叠加文字）是上吊自杀的隐喻”。Meta 还指出“观念或习俗无法‘hang themselves’（自己吊起），至少从字面上看不能”。因此，Meta 认为该用户指的是“跨性别人士，而不仅仅是观念”。Meta 由此表示：“此内容违反了仇恨言论政策，因为按照它的本意，应将它解读为支持某个具有受保护特征的群体自杀身亡的言论。”

Meta 更新了仇恨言论政策，将禁止针对具有受保护特征的群体发表暴力言论的规定移至暴力与煽动暴力政策中，在此次更新后，Meta 告诉监督委员会，该内容仍然违规。

Meta 还报告说，发帖用户的帐户在个人简介中描述道：“I am a transphobe”（我是一名恐跨人士），这属于“自我承认不能容忍受保护的特征”，因而违反了仇恨言论政策的第 2 级规定。据 Meta 称，在监督委员会选择审理本案后，Meta 不论是在审核本案时还是在审核发帖用户的帐户时，都将该描述判定为违规。Meta 表示，此描述有助于他们理解用户在本案内容中的意图。

监督委员会询问该内容是否违反了有关自杀和自残内容的政策，Meta 在回应此问题时证实“该内容因煽动自杀，违反了有关自杀和自残内容的政策，这与我们认定该内容构成支持某个具有受保护特征的群体自杀身亡的言论是一致的”。Meta 还报告说，有关自杀和自残内容的政策“不会区分宣扬或煽动特定个人自杀的内容与宣扬或煽动人群自杀的内容”。

监督委员会以书面形式向 Meta 提出了 13 个问题。这些问题涉及：Meta 在跨性别和 LGBTQIA+ 问题上采用的内容审核方法；社群守则有关仇恨言论的政策与有关自杀和自残内容的政策之间的关系；审核员在审核内容是否违反了仇恨言论政策时，是如何判断内容是否属于“幽默”和“讽刺”的；在确定对内容进行人工审核的优先顺序时，“传播力”和“严重程度”评分的作用；Meta 的内容审核实践如何处理将多次受到用户举报的内容送交人工审核的优先顺序。Meta 回答了全部 13 个问题。

7.公众评议

监督委员会收到了与本案件有关的 35 条公众评议意见，其中 25 条来自美国和加拿大，7 条来自欧洲，还有 3 条来自亚太地区和大洋洲。此总数包含重复的公众评议，以及提交时同意公开但不符合监督委员会的发布条件的公众评议。不符合发布条件的原因可能是因为评议的辱骂性质、对用户隐私的顾虑和/或其他法律原因。在给监督委员会提交公众评议意见时可以选择是否同意公开，还可以选择是否同意透露身份。

提交的评议涉及以下主题：波兰的人权状况，尤其是跨性别人士的经历；社交媒体平台上 LGBTQIA+ 用户的安全状况；在波兰，网络伤害与现实伤害之间的关系；在社交媒体平台上，幽默、讽刺、表情包与针对跨性别人士的仇恨/骚扰之间的关系；在审核需要背景信息来解读的内容时遇到的挑战。

如要查阅针对本案件提交的公众评议，请点击此处。

8.监督委员会的分析

监督委员会通过分析 Meta 的内容政策、人权责任和价值观，探讨了是否应该移除此内容。监督委员会还评估了此案件对 Meta 更广泛的内容监管方法的影响。

监督委员会选择审理此案件是为了评估 Meta 执行其仇恨言论政策的准确性，以及更好地了解 Meta 如何处理同时涉及仇恨言论和宣扬自杀或自残行为的内容。

8.1 对 Meta 内容政策的遵守情况

I.内容政策规定

仇恨言论

监督委员会认为，本案中的内容违反了社群守则有关仇恨言论的政策。该帖包含以煽动具有受保护特征的群体自杀身亡的形式“表达暴力言论或者支持暴力”的内容（第 1 级），这明显违反了仇恨言论政策。

监督委员会同意 Meta 的最终结论，即帖中提到的“吊起”是针对某个人群而不是针对某种观念发起的攻击，因为“观念或习俗无法‘hang themselves’（自己吊起）”。监督委员会考虑了更广泛的背景，即波兰 LGBTQIA+ 群体中的成员（特别是跨性别人士）面临的网络和现实伤害，并从中发现了支持其结论的证据。使用暴力言论来鼓动和支持跨性别人士自杀身亡的帖子营造了一种恐吓和排斥的氛围，可能会造成人身伤害。发帖用户正是在这种背景下使用了帖中的措辞，很明显，其意图是针对目标对象发表非人化言论。鉴于文字和图片的性质，该帖还加剧了跨性别群体目前正在经历的心理健康危机。据多项研究显示，与顺性别者相比，跨性别人士或非二元性别人士产生自杀念头和企图自杀的风险更高。此外，受到网络攻击和伤害的经历与自杀念头呈正相关。在这种背景下，监督委员会认为跨性别旗帜的出现，加上帖子提到跨性别群体内自杀风险的升高（“curtains that hang themselves”[窗帘都会自己吊起了]），清楚表明跨性别人士是该帖针对的目标对象。监督委员会认为，短语“spring cleaning”（春季大扫除）以及后面跟着的“<3”（心形）表情符号，也构成支持该群体的死亡。因此，该内容还违反了社群守则有关仇恨言论的政策中的第 2 级规定，即禁止“声称某个受保护的特征不应该存在”。

关于社群守则中的这项政策，监督委员会认为，在应对针对历史上被边缘化群体的内容趋势中的“恶意创意”时，该政策以及用于执行该政策的内部指南可以做得更好。Wilson Center 在进行性别虐待和性虐待方面的研究时创造了“恶意创意”这个短语，而 GLAAD 也在其提交的公众评议 (PC-16027) 中强调了其相关性。“恶意创意”是指“在社交媒体平台上使用暗语；迭代的、基于上下文的图像和文字形式表情包；以及其他方法来规避检测”。GLAAD 将这一概念应用到本案中的帖子上，称“恶意创意”涉及“不良行为者发明新颖的手段”，通过帖子和表情包来“攻击 LGBTQ 群体”，以及更广义的弱势群体，尽管他们辩称这些帖子和表情包是“幽默或讽刺”，但”实际上它们是反 LGBTQ 的仇恨或骚扰内容”。具体而言，在本案中，“恶意创意”的形式是，在一篇帖子中使用了两种影射自杀的暗语（“curtains that hang themselves”[窗帘都会自己吊起了] 和“spring cleaning”[春季大扫除]），加上描绘受保护群体的图像（跨性别旗帜）来煽动该群体自杀身亡。在有关阿塞拜疆境内亚美尼亚人的案件的审理决定中，监督委员会注意到，在确定该案中所审词语旨在针对受保护特征向某个群体发起攻击时，背景信息十分重要。虽然在那起案件中，战争背景占了上风，但是波兰的跨性别人士面临的威胁表明，即使没有战争，某个群体的处境也可能极其堪忧。正如上文所说，波兰五分之一的跨性别人士报告称，在 2019 年前的五年里曾遭受过身体袭击或性侵犯，此数字是其他 LGBTI 群体中曾报告遭此类袭击或侵犯的人数的两倍多。

监督委员会担心，Meta 最初的人工审核员没有注意到内容中的这些背景信息线索，因而断定该内容未违规。虽然监督委员会建议对社群守则有关仇恨言论的政策的相关执行指南做一些修订，但是监督委员会强调，即使是从当时的政策条文本身来看，该帖也违反了政策。帖中所用的两个短语都支持跨性别人士自杀身亡。该用户的个人简介中也包含支持此结论的额外信号。该用户自称是恐跨人士，此描述本身就违反了社群守则有关仇恨言论的政策中禁止“自我承认不能容忍受保护的特征”的第 2 级规定。Meta 在面对针对 LGBTQIA+ 群体的仇恨言论时，不论是通过自动化还是人工方式进行内容审核，都必须提高政策执行的准确性，尤其是当帖子包含需要背景信息来解读的图片和文字时。正如 GLAAD 所观察到的 (PC-16027)，Meta“在审核对采用‘恶意创意’的内容的举报时，始终未能执行其政策”。

Meta 表示，审核员未能移除该内容是“严格执行我们的内部指南”的结果，监督委员会对此也感到不安。Meta 的言论表明，提供给审核员的内部指南不能充分体现社交媒体帖子中的文字和图片可如何相互作用，来代表一个由成员的性别认同所定义的群体。监督委员会认为，当针对具有受保护特征的群体的内容是以图像来代表该群体，而没有指名道姓或描绘人物形象时，该指南可能不足以让批量内容审核员对这类内容做出正确的政策执行决定。Meta 不允许监督委员会公布更多详细信息，尽管这些信息原本有助于更充分地讨论在面对这类内容时如何改进政策执行。然而，监督委员会认为，Meta 应该修改其指南，确保审核员在评估内容是否有攻击意味时，能充分理解描绘性别认同的图像。监督委员会强调，提出此建议并不是为了削弱 Meta 对质疑观念、习俗、思想、实践或信仰的做法的保护。监督委员会只是希望 Meta 清楚说明，帖子不必描绘人物形象也能构成对人的攻击。

自杀和自残

监督委员会认为，本案中的内容还违反了社群守则有关自杀和自残内容的政策。这项政策禁止发布“宣扬、煽动、配合或指导自杀和自残行为的内容”。根据 Meta 提供给审核员的内部指南，“宣扬”被定义为“以积极方式谈论”。监督委员会同意 Meta 的最终结论，认为该内容构成支持某个具有受保护特征的群体自杀身亡的言论，因此煽动了自杀行为。

监督委员会还认为，社群守则有关自杀和自残内容的政策应该更明确地禁止针对某个可识别的人群（而非该群体中的个人）宣扬或煽动自杀的内容。Meta 向监督委员会透露，该政策并未区分这两种形式的内容。然而，考虑到在本案中，审核员在确定煽动群体自杀的言论时所面临的挑战，监督委员会敦促 Meta 清楚说明，该政策禁止发布针对某个可识别人群宣扬或煽动自杀的内容。Meta 应该在其有关自杀和自残内容的政策页面上以及提供给审核员的相关内部指南中清楚说明这一点。

II.政策执行措施

监督委员会认为，在本案中，Meta 的自动化审核优先排序系统严重影响了政策执行措施。该帖收到了 12 项用户举报，Meta 的自动化系统对其中 10 项举报作了自动结案处理。在用户就 Meta 的决定提出的三项申诉中，Meta 的自动化系统对其中的两项申诉作了自动结案处理。令监督委员会感到担忧的是，Meta 与监督委员会分享的案件记录中含有多个违规迹象，因此这表明 Meta 的政策没有得到充分执行。

监督委员会注意到，由于 Meta 在处理有关同一条内容的多项举报时所采用的内容审核实践，多项用户举报受到结案处理。第一项依据仇恨言论政策提出的用户举报没有被优先送交人工审核，因为内容的“严重程度和传播力评分较低”。依据仇恨言论政策提出的后续举报也没有被优先送交人工审核，因为当同一条内容收到多项举报时，Meta 会“对这些举报进行去重，以确保审核员的决定和政策执行措施的一致性”。监督委员会承认，在进行批量内容审核时，去重是合理的做法。但是，监督委员会注意到，这种做法将更大的压力给到了对某项举报做出的最初决定上，因为这也会决定与该举报归为一组的所有举报的命运。

监督委员会认为，不论是执行内容政策还是确定内容审核优先顺序的自动化系统，Meta 都必须优先提高它们的准确性，这一点很重要，特别是在处理有可能影响 LGBTQIA+ 人士的内容时。如能做出此类改进，让自动化系统能够更好地识别本案中所审议的这类暗语和基于上下文的图片，无疑也有助于在审核针对其他具有受保护特征的群体的内容时更好地执行政策。例如，监督委员会认为，在确定严重程度评分以决定是否要将内容优先送交人工审核和/或采取政策执行措施时，该用户的个人简介（其中承认自己是恐跨人士）本可被视为一个相关信号。此信号可以补充 Meta 可能会用来发现潜在违规内容的现有行为和社交网络分析。

此外，监督委员会强调，Meta 应务必确保自动化系统得到良好的校准，而且内容审核员训练有素，以便能有效地批量评估与 LGBTQIA+ 群体相关的帖子，这一点很重要。根据 Meta 目前的做法，负责评估申诉的审核员似乎往往与进行第一次内容评估的审核员具有相同的专业知识水平，监督委员会对此感到担心。监督委员会认为，Meta 应该投入更多资源来开发和训练相关分类技术，用于发现影响 LGBTQIA+ 群体的潜在违规内容，并将这些内容优先送交人工审核。仇恨言论，尤其是 Meta 政策第 1 级中规定的最严重内容，应始终优先送交人工审核。监督委员会还建议通过以下措施来加强这些流程改进：i) 针对与性别认同有关的伤害，加强对审核员的这方面培训；ii) 围绕跨性别人士和非二元性别人士在 Meta 旗下平台上的体验成立一个工作组；iii) 成立一个专门的主题专家小组，负责审核与影响 LGBTQIA+ 群体的问题相关的内容。虽然本案的事实具体涉及跨性别人士在 Facebook 所面临的伤害，但监督委员会也鼓励 Meta 探索在面对影响其他具有受保护特征的群体的仇恨内容时，应如何改进政策执行。

虽然监督委员会只在下文提出两项正式建议，但监督委员会强调，这是因为本案中凸显的挑战与政策条文的关系不大，而与政策的执行更加相关。在本案中，监督委员会至少发现了五个表明内容有害的迹象：(1) 该帖提到“self-hanging curtains”（窗帘都会自己吊起了）；(2) 该帖提到“spring cleaning <3”（春季大扫除 <3）；(3) 在波兰这个据报道对 LGBTQIA+ 群体充满敌意的国家，发帖用户自称是一名“transphobe”（恐跨人士）；(4) 其他用户针对该内容提交的举报和申诉数量；以及 (5) 相对于该内容的传播力，该内容收到的举报和申诉数量。监督委员会担心 Meta 忽略了这些信号，并认为这表明其政策执行不力。监督委员会坚决认为，Meta 应该严谨而富有创造力地思考如何缩小理想与现实之间的差距，弥合在其平台上保护 LGBTQIA+ 用户的理想与这些理想的落实之间的鸿沟。

8.2 对 Meta 人权责任的遵守情况

表达自由权（ICCPR 第 19 条）

《公民权利和政治权利国际公约》(ICCPR) 第 19 条第 2 款规定：“人人有发表自由之权利；此种权利包括以语言、文字或出版物、艺术或自己选择之其他方式，不分国界，寻求、接受及传播各种消息及思想之自由。”第 34 号一般性意见（2011 年）进一步指出，受到保护的言论包括可能被认为“极为冒犯”的言论（第 11 段）。

若国家对表达自由权施加限制，则此等限制措施必须满足合法性、正当目的、必要性和相称性的要求（ICCPR 第 19 条第 3 款）。这些要求通常被称为“三方面要求”。监督委员会使用这一框架来解读 Meta 的自愿人权承诺，这既涉及到正在接受审理的个别内容决定，也涉及到 Meta 更广泛的内容监管方法。联合国促进和保护意见和表达自由权问题特别报告员曾表示：尽管“公司没有政府的义务，但它们造成的影响则要求它们评估保护其用户表达自由权利的类似问题”（A/74/486，第 41 段）。

I.合法性（规定应清晰明确且直观透明）

根据国际人权法定义的合法性原则，所有限制表达的规定必须清晰明确且公之于众（第 34 号一般性意见，第 25 段）。该原则规定，限制自由表达的规定“不得赋予负责限制言论自由的人以不受约束的酌处权”，还要“为负责限制言论自由的人提供充分的指导，以使他们能够确定何种言论应当适当限制，何种言论不需限制”（出处同上）。如果将该原则应用到管理线上言论的规定上，联合国促进和保护意见和表达自由权问题特别报告员表示，这意味着这些规定应该清楚而具体（A/HRC/38/35，第 46 段）。Meta 旗下平台的用户应能访问和理解这些规定，并且内容审核员应能遵循清晰的政策执行指南。

监督委员会认为，Meta 禁止发布以下内容的规定足够明确：针对具有受保护特征的群体，以文字或图像的形式“表达暴力言论或者支持暴力”；声称某个受保护的特征不应该存在；宣扬或煽动自杀和自残行为的言论。

然而，正如上文第 8.1 节所述，监督委员会指出，Meta 可以通过为人工审核员提供更明确的指南，来让审核员更准确地执行本案中所涉及的政策。Meta 应该清楚说明，描绘性别认同的图像（例如通过旗帜来描绘性别认同）不必描绘人物形象，也能构成仇恨言论政策中所说的攻击。Meta 还应该清楚说明，煽动某个群体（而非个人）自杀的行为违反了有关自杀和自残内容的政策。

II.正当目的

任何对表达的限制均应符合 ICCPR 中所列的正当目的之一，其中包括“他人的权利”。在多项审理决定中，监督委员会发现，Meta 的仇恨言论政策旨在保护用户免受仇恨言论造成的伤害，这符合国际人权法标准所承认的正当目的（比如说，请参见有关克宁动画片的案件的审理决定）。此外，监督委员会认为，在本案中，有关自杀和自残内容的政策中与煽动自杀或自残行为的内容有关的规定符合以下正当目的：保护人们的权利，包括享有能达到的最高身心健康标准的权利（ICESCR 第 12 条）和生命权（ICCPR 第 5 条）。在本案中，具有受保护特征的群体被煽动自杀，遇到诸如此类的案件时，有关自杀和自残内容的政策还会保护用户的平等和无歧视权利（ICCPR 第 2 条第 1 款）。

III.必要性和相称性

必要性和相称性原则要求，对表达自由的任何限制“必须适合于实现保护功能；必须是可用来实现预期结果的诸种手段中侵犯性最小的一个；[且]必须与要保护的利益相称”（第 34 号一般性意见，第 34 段）。

在分析暴力内容带来的风险时，监督委员会通常以《拉巴特行动计划》中提出的六点测试法为指导。该计划就构成煽动敌意、歧视或暴力的鼓吹民族、种族或宗教仇恨的言论进行了阐述。根据对相关因素的评估，特别是对内容和表达形式、发言者的意图以及背景信息（下文中有进一步说明）的评估，监督委员会认为移除该内容符合 Meta 的人权责任，因为该内容有可能造成迫在眉睫的伤害。为了在波兰保护广大 LGBTQIA+ 群体（尤其是跨性别人士）的生命权以及享有能达到的最高身心健康标准的权利，移除该内容是一种必要和相称的表达限制措施。

尽管监督委员会先前曾指出过给贬损词语重新赋予积极意义在帮助 LGBTQIA+ 群体对抗歧视方面的重要性（请参见有关给某些阿拉伯词语重新赋予积极意义的案件的审理决定），但本案的情况并非如此。该帖也未包含政治言论或具有新闻价值的言论（请参见有关哥伦比亚抗议的案件的审理决定）。本案中的帖子包含作为窗帘吊起的跨性别旗帜的图片，并配有文字描述，表示窗帘都会自己吊起了。据监督委员会咨询的专家称，以图像和文字形式使用窗帘这种意象，似乎不是经常用来攻击跨性别群体的暗语。尽管如此，正如上文所讨论的，“恶意创意”现象，即使用新颖的语言和表现手法来表达仇恨和骚扰，已成为针对跨性别人士的内容趋势的特点。监督委员会认为，本案中的内容完全符合该趋势。尽管有人认为该帖中使用的图像很“幽默”（有“笑趴”心情符号为证），该帖仍能被解读为针对跨性别群体的暴力和挑衅言论。当然，幽默和讽刺可以用来以打破常规的方式展开合理批评，但不能成为仇恨言论的幌子。该帖只涉及跨性别群体自杀率高这一话题，以表达对此事实的幸灾乐祸。

在考虑发帖用户的意图时，监督委员会注意到该用户在个人简介中公开将自己描述为一名“transphobe”（恐跨人士）。虽然 Meta 后来才考虑到此描述对案件内容本身的影响，但是监督委员会认为，在确定该用户的意图时，此描述是高度相关的信息。它也为移除该内容提供了独立的理由，因为它违反了仇恨言论政策的第 2 级规定。该帖还将跨性别人士自杀身亡的行为描述为“spring cleaning”（春季大扫除），并在该描述旁添加了一个心形表情符号。鉴于此言论支持某个群体自杀身亡，监督委员会根据该帖的内容、使用的图片以及随附的文字和配文，认定其意图是煽动歧视和暴力。本案中的内容不仅煽动跨性别人士对自己采取暴力行为，还煽动他人歧视和敌视跨性别人士。其他用户与该内容互动时，用得最多的心情符号是“笑趴”，这一事实证实了上述理解。

最后，监督委员会注意到了波兰 LGBTQIA+ 群体面临的重大现实风险，包括由立法和行政行动以及中央政府官员和知名公众人物的政治言论带来的越来越多的攻击。根据 ILGA-欧洲的数据，自 2020 年以来，在 LGBTQIA+ 权利方面，波兰一直排名倒数，被列为表现最差的欧盟成员国。同样值得注意的是，波兰的仇恨言论和仇恨犯罪法律中没有保护 LGBTQIA+ 的条文，这是 ILGA-欧洲和国际特赦组织等团体曾呼吁波兰政府解决的问题。此外，正如外部专家和众多公众评议所指出的，Facebook 上波兰语反 LGBTQIA+ 言论有所增加，这种现象并不是孤立发生的。许多组织和机构对社交媒体上反 LGBTQIA+ 言论的盛行表示担忧。联合国性取向和性别认同问题独立专家 (IE SOGI) Victor Madrigal-Borloz 表示，对性别多元化和跨性别人士的暴力和歧视程度“冒犯了人类的良知”。GLAAD 的研究和报告发现，“LGBTQ 人群在网络上受到的伤害是实实在在的，包括…无休止地遭受诋毁和仇恨行为所带来的极端心理创伤影响。”像本案中的帖子这样的内容，尤其是当它们聚沙成塔时，可能会助长一种氛围，加剧跨性别群体中已经普遍存在的自杀身亡伤害。此外，像此帖一样将反跨性别人士的暴力言论正常化的内容，有可能会加剧正在影响跨性别群体的心理健康危机，并增加针对该群体的现实暴力行为。

9.监督委员会的决定

监督委员会推翻了 Meta 保留这条内容的最初决定。

10.建议

内容政策

1.Meta 应在其有关自杀和自残内容的政策页面上清楚说明，该政策禁止发布针对某个可识别人群宣扬或煽动自杀的内容。

当社群守则有关自杀和自残内容的政策的公开条文中反映了提议的变更后，监督委员会将认为此建议已实施。

政策执行

2.Meta 应修改其提供给批量审核员的内部指南，确保用旗帜来描绘性别认同，但是并不包含人物形象的图像被理解为代表了由成员的性别认同所定义的群体。此修改将清楚说明，当这类内容包含违规攻击时，批量审核员应如何执行政策。

当 Meta 向监督委员会提供了对内部指南的修改后，监督委员会将认为此建议已实施。

*程序说明：

监督委员会的决定由五名成员组成的审议小组做出，并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。

对于本案的审理决定，监督委员会委托第三方代其开展了独立研究。一家总部位于哥德堡大学的独立研究机构为监督委员会提供了帮助；其团队包含六大洲的 50 多位社会科学家，以及全球超过 3,200 位国家级专家。从事社交媒体趋势开源调研的组织 Memetica 也提供了分析。Lionbridge Technologies LLC 公司在语言方面提供了专业意见。这家公司的专业人员可流利使用 350 多种语言，并且遍布全球 5,000 座城市。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें