将已认定的危险人物称为“shaheed”

执行摘要

监督委员会认为，在审核使用“shaheed”一词来指代已认定危险人物的内容时，Meta 的处理方法严重和过度地限制了自由表达。Meta 认为所有使用“shaheed”来指代已认定“危险”人物的内容均属违规，并会将其移除。Meta 表示，在 Meta 旗下平台上，相比其他任何字词或短语，因“shaheed”一词违反社群守则而被移除的内容可能是最多的。恐怖主义暴力行为会造成严重的后果，包括摧毁无辜人民的生活、妨碍人权，以及破坏我们的社会结构。然而，为了防止此类暴力行为而对表达自由施加的任何限制都必须是必要的和相称的，因为不适当地移除内容可能无济于事，甚至会适得其反。

监督委员会的建议基于以下出发点：Meta 必须采取有效措施，确保其平台不会被用于煽动暴力行为或被用于招募人员参与暴力行为。极端分子有时会用“shaheed”一词来赞扬或美化那些在实施暴力恐怖行为时死亡的人。然而，Meta 在应对此威胁时，也必须以尊重所有人权（包括表达自由权）为指导。

2023 年 10 月 7 日，正当监督委员会最终确定本政策咨询意见之时，哈马斯（Meta 的危险组织和人物政策将其认定为第 1 级危险组织）对以色列发动了史无前例的恐怖袭击，导致约 1,200 人死亡，约 240 人被劫持为人质（以色列政府外交部）。根据新闻报道，截至 2024 年 2 月 6 日，1 月初被哈马斯囚禁的约 136 名人质中，至少有 30 人据信已经死亡。随即，Meta 依据其危险组织和人物政策，将这些事件定性为恐怖袭击。作为对这些袭击的回应，以色列迅速发动了军事行动。截至 3 月 4 日，该军事行动已在加沙造成 30,000 多人死亡（联合国人道主义事务协调厅，数据来自加沙卫生部）。1 月份的报告表明，估计 70% 的死者是妇女和儿童。

在发生这些事件后，监督委员会暂停了本政策咨询意见的发布，以确保其建议能够针对人们在这种情况下对 Meta 旗下平台和“shaheed”一词的使用做出回应。这一额外的研究证实，即使是在此类事件造成的极端压力下，监督委员会就“shaheed”一词的审核向 Meta 提出的建议也是经得起考验的，这些建议会确保 Meta 在应对危机时更加尊重所有人权。与此同时，监督委员会强调，Meta 在这方面的政策是全球性的，其影响远远超出这场冲突。虽然监督委员会承认最近在以色列和巴勒斯坦发生的事件尤为突出，但是其建议也是全球性的，并不局限于任何特定情况。

监督委员会认为，在审核“shaheed”一词时，Meta 的处理方法过于宽泛，过度限制了表达自由和公民言论。例如，报道暴力行为和已认定实体的帖子可能会被误删。Meta 的处理方法也没有考虑到“shaheed”一词的各种含义，其中许多含义并非意在美化或表达赞同，而且这种做法经常导致阿拉伯语使用者和其他语言的使用者（其中许多人是穆斯林）被删帖，而这种删帖处理并不符合危险组织和人物政策的目的。此外，Meta 的政策禁止发布诸如美化、支持已认定的危险人物、组织和事件或充当其代言人的内容以及煽动暴力的内容。这些政策如果得到准确执行，就能减轻因恐怖分子使用 Meta 旗下平台而造成的危险。因此，监督委员会建议 Meta 停止一刀切地禁止使用“shaheed”一词来指代已认定危险人物的做法，并修改其政策，在分析包含该词的内容时更加注重背景信息。

背景信息

2023 年 2 月，Meta 询问监督委员会，是否应该继续移除符合以下情况的内容：使用阿拉伯语单词“shaheed”（阿拉伯语字母的写法为 شهيد）来指代根据其危险组织和人物政策认定的危险人物。“Shaheed”也是一个外来词（这是指阿拉伯语之外的许多语言“借用了”这个源于阿拉伯语的词汇，包括以改写其拼写的方式进行借用）。

根据 Meta 的描述，“shaheed”是一个“敬词”，被来自不同文化、宗教和语言背景的许多群体用于指代意外死亡的人（例如在事故中）或者光荣牺牲的人（例如在战争中）。Meta 承认该词具有“多种含义”，而且虽然该词“在英语中没有直接等同的词汇”，但是常用的英语翻译为“martyr”（烈士）。Meta 指出，“在英语中，‘martyr’[烈士]一词指的是为正义事业而受难或牺牲的人，通常具有褒义”，并表示“正是因为这种用法，我们才认为[‘shaheed’]一词构成了我们的[危险组织和人物]政策中所说的赞扬”。

Meta 推定，凡是用“shaheed”来指代已认定的危险人物，一律构成危险组织和人物政策中所说的“赞扬”，这种推定导致了一刀切的禁令。Meta 承认，由于该词具有多种含义，他们“可能过度处理了大量无意赞扬已认定的危险人物的言论，尤其是阿拉伯语使用者的言论”。此外，Meta 没有运用危险组织和人物政策的例外规定来允许出于以下目的使用“shaheed”一词：“报道、谴责或以中立态度讨论已认定实体”。Meta 于 2023 年 12 月对该政策做出了最新更新，但仍然没有对“shaheed”一词运用例外规定。现在，更新后的政策完全移除了“赞扬”一词，取而代之的是禁止“美化”和“不明确提及”的规定。

鉴于这些问题，Meta 在 2020 年启动了一项政策制定流程，希望重新评估他们对“shaheed”一词的处理方法。然而，该公司内部没有达成共识，也没有商定新的方法。

在请求监督委员会提供本政策咨询意见时，Meta 向监督委员会提出了三种可能的政策方案：

1. 保持现状。
2. 如果帖子符合禁止“赞扬”规定的例外情形（例如，报道、以中立态度讨论或谴责），则允许在帖中使用“shaheed”一词来指代已认定的危险人物，只要帖中没有其他表示赞扬的内容或“暴力信号”。Meta 提出的这些信号的一些例子包括：以图像形式描绘武器、提及军事用语或提到现实世界的暴力事件。
3. 允许使用“shaheed”一词来指代已认定的危险人物，只要没有其他表示赞扬的内容或暴力信号。与第二种方案不同的是，此方案不考虑内容是否属于上面列出的例外情形之一。

监督委员会还考虑了其他可能的政策选择。出于本政策咨询意见通篇所述的原因，监督委员会的建议与第三种方案非常一致，尽管建议中所采用的暴力信号比 Meta 在其请求中提出的要少，而且要求 Meta 更广泛地应用有关报道、以中立态度讨论或谴责已认定实体及其行为的政策例外规定。

主要结论和建议

监督委员会认为，对于用来指代已认定的危险人物的“shaheed”一词，Meta 目前的处理方法过于宽泛，严重和过度地限制了自由表达。

“Shaheed”是一个具有文化和宗教意义的词汇。有时，它被用来赞扬那些在实施暴力行为时死亡的人，甚至被用来“美化”他们。但是这个词经常用于新闻报道、中立评论、学术讨论和人权辩论中，甚至是以更加没有赞扬和美化之意的方式被提及，即使它指代的是危险人物。“shaheed”具有多种含义，包括广泛被用于指代在为国效力或为事业奋斗时牺牲的人，或者是因遭受社会政治暴力或自然灾害而意外死亡的人。在一些穆斯林群体中，它甚至被用作姓氏和名字。我们有充分的理由相信，“shaheed”的多种含义导致大量无意赞扬恐怖分子或其暴力行为的内容被移除。

Meta 的处理方法是，只要内容中使用了“shaheed”一词来指代已认定的危险人物，就将该内容移除，这种做法故意无视该词在语言上的复杂性和它的多种用法，始终只将它视为英语单词“martyr”（烈士）的同义词。这样做严重影响了表达自由和媒体自由，不适当地限制了公民言论，并对平等和无歧视权利产生了严重的负面影响。不论是对于阿拉伯语使用者来说，还是对于存在“shaheed”相关外来词的其他语言的使用者来说，这种过度执行都造成了过大的影响。与此同时，如果以其他方式执行危险组织和人物政策，Meta 仍能推进其“安全”价值观，并实现防止美化恐怖分子的内容出现在其平台上的目标。因此，现行政策是不相称和不必要的。

为了使 Meta 有关“shaheed”一词的政策和执行实践更符合人权标准，监督委员会提出了以下建议（完整建议请参见第 6 节）：

1. Meta 应该停止做出以下推定：凡是使用“shaheed”一词来指代已认定的危险人物或是指代已认定的危险组织中的不具名成员，一律构成违规，并且没有资格根据政策例外规定受到特例处理。只有在两种情况下，才应以“不明确提及”为由移除将已认定的危险人物称为“shaheed”的内容。第一种情况是，存在以下三种暴力信号中的一种或多种：以图像形式描绘军械/武器；有关使用或携带军械/武器的意图表达或教唆；或者提及已认定事件。第二种情况是，该内容在其他方面违反了 Meta 的政策（例如，因为美化已认定实体或事件，或者因为除了使用“shaheed”一词外，仍以其他方式不明确提及了已认定的危险人物）。在任意一种情况下，内容应仍有资格适用有关“报道、以中立态度讨论或谴责”的例外规定。

2. 为了澄清禁止“不明确提及”的规定，Meta 应该添加几个违规内容的例子，包括符合以下情况的帖子：将已认定的危险人物称为“shaheed”，且包含建议 1 中所述的三种暴力信号中的一种或多种。

3. Meta 还应更新内部政策指南，清楚说明将已认定的危险人物称为“shaheed”并不违规，除非伴有暴力信号，而且即使存在这些信号，相关内容仍可能受益于有关“报道、以中立态度讨论或谴责”的例外规定。

如果 Meta 接受并实施这些建议，根据其现有规定，Meta 会继续移除符合以下任一情况的内容：“美化”已认定的危险人物、将他们的暴力或仇恨行为描述为一种成就、为他们的暴力或仇恨行为正名或辩护、支持已认定的危险实体或充当其代言人。根据这些建议，监督委员会提出的处理方法是，Meta 停止将用来指代已认定危险人物的“shaheed”一词一律解释为违规的做法，只有在相关内容还存在其他违反政策的行为（例如，美化）或者由于存在暴力信号而被认为属于“不明确提及”时，才移除该内容。此类内容仍需有资格适用有关“报道、以中立态度讨论或谴责已认定的危险人物”的政策例外规定。

监督委员会还建议 Meta：

4. 更详细地解释根据其危险组织和人物政策来认定危险实体和事件的程序，以提高此名单的透明度。Meta 还应发布汇总信息，说明其认定名单中每一级实体的总数，以及过去一年中添加和移除的实体数量。

5. 引入清晰有效的流程，定期审计已认定实体和事件，并移除那些不再符合已公布标准的实体和事件，以确保其危险组织和人物实体名单保持最新，且不包含不再符合 Meta 对已认定实体和事件所做定义的组织、人物和事件。

6. 解释 Meta 为了评估以下事项所采用的方法：人工审核在执行危险组织和人物政策方面的准确性，以及自动化系统在这方面的表现。针对用于执行此政策的分类技术，Meta 还应定期分享这些分类技术的表现评估结果，并且以能够在不同语言和/或地区之间进行比较的方式提供这些结果。

7. 清楚解释 Meta 如何使用分类技术来预测涉嫌违反政策的内容，以及 Meta 如何设置阈值来决定是不采取行动、将内容加入人工审核队列还是移除内容。Meta 应该在政策及信息公示平台中提供此信息，以便告知利益相关者。

政策咨询意见全文

1. Meta 提交的请求

I. 政策咨询意见请求

1. Meta 在其提交的请求（有英语和阿拉伯语两版）中询问监督委员会，是否应该继续移除符合以下情况的内容，还是说换种做法会更符合该公司的价值观和人权责任：使用“shaheed”(شهيد)（及其单数/复数形式，包括阿拉伯语和其他语言中的外来词变体）来指代根据其危险组织和人物政策认定的危险人物。Meta 还请求监督委员会就将来可能出现的类似内容问题提供指导。

II. Meta 的方法

2. Meta 的危险组织和人物政策先前禁止“赞扬、实质性支持已认定的危险实体和人物，或充当其代言人”，且同样禁止赞扬、实质性支持已认定的“暴力犯罪事件”或充当其代言人。2023 年 12 月 29 日，Meta 更新了此政策，移除了禁止“赞扬”的规定，并添加了禁止“美化”和“不明确提及”的规定。监督委员会扩大了审议范围，以评估这些政策变化对其结论和建议的任何影响。

3. 这项政策咨询意见请求涉及禁止赞扬已认定的危险人物的规定，而不是与之并列的禁止实质性支持或充当代言人的规定。与充当代言人和实质性支持相比，Meta 认为“赞扬”是严重程度最轻的违规行为。Meta 将最危险的实体认定为“第 1 级”实体，这包括恐怖、仇恨和犯罪组织。当 Meta 认定了某个“暴力犯罪事件”时，这些事件的肇事者也会被认定为第 1 级危险人物，因此禁止美化（先前称为“赞扬”）他们。已认定事件包括“恐怖袭击、仇恨事件、多重受害者暴力事件或多重受害者暴力事件企图、连环谋杀和仇恨犯罪”。虽然 Meta 控制着自己的已认定实体名单，且没有对外公开名单内容，但这份名单在一定程度上衍生自美国政府的指定名单（也就是说，Meta 的认定名单将至少与其参考的美国政府名单一样广泛）。社群守则解释说，第 1 级实体包括“特别指定毒枭 (SDNTK)”、“外国恐怖组织 (FTO)”和“特别指定全球恐怖分子”。这些美国政府名单是公开的，请分别点击此处、此处和此处来访问这些名单。

4. 在 2023 年 12 月 29 日的政策更新之前，Meta 对“赞扬”的定义包括：“吹捧已认定的某个实体或事件”；“为已认定的某个实体或事件赋予成就感”；“声称已认定实体的仇恨、暴力或犯罪行为是合法的、合乎道德的，或者是有正当理由或可接受的，企图将此类行为正义化”；以及“称自己与已认定的某个实体或事件持相同的意识形态”。根据监督委员会在首批审理的其中一个案件中提出的建议（有关纳粹言论的案件的审理决定，建议 2），Meta 在该政策中添加了此定义及一系列例子，来更清楚地说明相关政策规定。在 2023 年 12 月的政策更新之后，“美化”被定义为“声称已认定实体的暴力或仇恨行为具有道德、政治、逻辑或其他方面的正当理由，使其可被接受或变得合理，以此为这类行为正名或为其辩护”或者“将已认定实体的暴力或仇恨行为描述为一种成就或成绩，或颂扬这类行为”。Meta 在其政策更新中制定了更宽泛的规定，表示“如果用户未明确表明意图”，他们将移除不明确提及或在缺乏背景信息的情况下做出提及的内容。该政策指出，“这包括以幽默、不带任何说明文字或从正面角度出发的方式不明确地提及该类实体或事件，但是未美化已认定实体的暴力或仇恨行为的内容”。然而，该政策没有举例说明什么样的帖子会违反此规定。Meta 告诉监督委员会，他们仍在继续移除所有将已认定的危险人物称为“shaheed”的内容。Meta 推定，在所有情况下，“shaheed”的这种用法均属违规，这基本上导致了 Meta 一刀切地禁止使用该词来指代已认定的危险人物。参考上文所述的美国政府指定名单可在一定程度上了解此禁令的范围，因为 Meta 的政策禁止将列入他们自己的衍生名单中的所有人（和组织成员）称为“shaheed”（或者“martyr”[烈士]一词的其他任何译法）。这包括各大洲的实体，而且不局限于恐怖组织或具有某种特定意识形态的组织。

5. 根据 Meta 的描述，“shaheed”是一个“敬词”，来自不同文化、宗教和语言背景的许多群体都在使用这个词。Meta 承认，该词有“多种含义”，“用于描述某人意外去世或英年早逝，有时可指光荣牺牲，例如死于事故、冲突或战争”。Meta 表示，虽然该词“在英语中没有直接等同的词汇”，但是常用的英语翻译为“martyr”（烈士）。在 2023 年 12 月的政策更新之前，Meta 在向监督委员会发送请求时表示：“我们推定这个词的意思是‘martyr’（烈士）”，“正是因为这种用法，我们才认为该词构成了我们的[危险组织和人物]政策中所说的赞扬”。在公开的社群守则中，唯一提到这条规定的内容用举例的方式说明了违反该禁止“赞扬”规定的各种短语。在这些例子中，有个短语将已定罪的美国恐怖分子称为“martyr”（烈士）。在该政策的阿拉伯语版中，Meta 使用了相同的例子，并将“martyr”（烈士）一词翻译为“shaheed”。2023 年 12 月对公开社群守则的更新中移除了“martyr”（烈士）/“shaheed”的例子，尽管 Meta 告诉监督委员会，这种用法仍属违规，审核员按照指示应移除这类内容。

6. 对于使用“shaheed”一词来指代已认定危险人物的内容，Meta 没有运用危险组织和人物政策的例外规定。这些例外规定在其他情况下允许发布“报道、以中立态度讨论或谴责”已认定的危险人物的内容。如果包含“shaheed”的内容因“赞扬”已认定的危险人物而被移除，会导致发布该内容的用户受到严重“违规记分”，这些违规记分累积起来，会导致用户受到更迅速的制裁，例如账户或公共主页被封禁或停用。在公开的社群守则中，并没有解释例外规定对“shaheed”一词不适用一事。

7. Meta 解释说，他们对“shaheed”一词的处理方法有助推进其“安全”价值观，因为在他们看来，这类内容“可能会导致现实世界中的伤害”。与此同时，Meta 承认，英语单词“martyr”（烈士）并不是能充分体现“shaheed”含义的翻译。鉴于“shaheed”含义丰富，且在批量审核时难以根据语境/背景和用户意图来判断其具体含义，Meta 承认，他们一直在移除“不会造成伤害风险”的言论和“无意赞扬已认定的危险人物的言论，尤其是阿拉伯语使用者的言论”。这方面的例子包括：移除使用了“shaheed”一词的新闻报道内容，或者移除使用了“shaheed”一词来以中立态度讨论已认定危险人物的早逝，但是没有赞扬（或美化）他们或其行为的内容。

8. 2023 年 8 月 29 日，Meta 更新了危险组织和人物政策的例外规定，添加了“新闻报道”、“中立的讨论”和“谴责”的定义，并为每种例外情形添加了说明性示例。与此同时，Meta 扩展了对这项例外规定的描述，承认“在社会和政治话题的背景下”，用户可能会提及已认定实体。在 2023 年 12 月的政策更新中，受允许内容的说明性示例被全部移除，尽管例外规定本身得以保留。在 2024 年 2 月 8 日的政策更新中，Meta 又重新添加了这些示例。然而，不论是 2023 年 12 月的更新，还是 2024 年 2 月的更新，都没有明确指出：不明确提及或在缺乏背景信息的情况下提及已认定危险人物或组织的内容不会受益于这些例外规定，因为这类提及的定义是建立在帖子本身未明确表明意图的基础上的。

9. Meta 在 2020 年启动了一项政策制定流程，希望重新评估他们对“shaheed”一词的处理方法。这包括开展研究评估和征询利益相关者的意见。Meta 称此次利益相关者交流的关键结论为：“shaheed”的含义依语境/背景而定，并且“在某些情况下，该词已变得不那么敏感，且与赞扬无关”。与此同时，无疑在某些情况下，“shaheed”也会被用来赞扬已认定的危险人物，以及被理解为是在赞扬这类人物。若想区分这些差异，确定一篇帖子究竟是何意图，这本身就具有挑战性，尤其是在批量审核时。在此流程中，正如其请求中概述的那样，针对如何处理“shaheed”一词，Meta 提出了两种政策方案，作为当前处理方法的可能替代方案。然而，关于哪种方案更好，利益相关者之间没有达成共识，Meta 也没有商定出新方法。Meta 强调，鉴于其平台上的内容体量庞大，一个关键的实际问题是，任何修改后的政策能否在批量审核时执行。

III. Meta 请求监督委员会考虑的政策变化

10. 在用禁止“美化”和“不明确提及”的规定取代禁止“赞扬”的规定之前，Meta 提出了以下政策方案供监督委员会审议：

1) 继续移除以下所有内容：使用“shaheed”一词来指代根据其危险组织和人物政策认定的危险人物。

2) 如果将已认定的危险人物称为“shaheed”的内容满足以下条件，则允许发布：(i) 在危险人物和组织政策允许的情况下使用该词（例如谴责、新闻报道、学术辩论、社会和政治话题）；(ii) 不含其他对已认定的危险人物表示赞扬、实质性支持或充当其代言人的内容（例如，帖子没有明确赞扬恐怖袭击的肇事者，或为他们的暴力行为正名）；(iii) 内容中不含暴力信号。Meta 提出的信号包括：以图像形式描绘军械；有关使用或携带军械/武器的意图表达或教唆；提及军事用语；提及纵火烧毁、抢劫或以其他方式破坏财产；提及现实世界中已知的暴力事件；有关对他人实施暴力的意图表达、行为煽动、表述、支持或教唆。

3) 如果某条内容使用了“shaheed”来指代根据 Meta 的危险组织和人物政策认定的危险人物，那么仅在该内容中还包含其他对该危险人物表示赞扬、实质性支持或充当其代言人的内容时，或者包含暴力信号时，才移除该内容。这些信号与方案二中所述的信号相同。

11. 第二种和第三种方案都力求更好地结合语境/背景来理解“shaheed”一词的使用，而且在预期结果上似乎并无太大分歧。禁止“赞扬”（现在为“美化”）的规定存在一些须结合背景来判断的一般例外情形，由于 Meta 扩大了这些例外情形的范围（请参见上文第 8 段），这两种方案似乎更加接近。在向 Meta 询问了这两种方案在具体应用和结果上的差异后，根据监督委员会的理解，关键差异在于，第二种方案要求 Meta 求证并确认其中有一种例外情形（报道、以中立态度讨论或谴责）适用于相关内容，而第三种方案则无视该步骤，仅考虑该帖是否还有其他表示赞扬（现在为“美化”或“不明确提及”）的内容，或者是否包含列出的六种暴力信号之一。就 Meta 提出的所有方案而言，在执行该政策时，任何点名提及或描绘已认定危险人物的内容如果在意图上是含糊不清或不明确的，则默认为违规，因此将由用户来承担阐明意图的责任。2023 年 12 月的更新将这一点纳入了社群守则有关危险组织和人物的政策中，并解释说，该政策禁止发布“不明确或在缺乏背景信息的情况下提及”第一级实体和已认定事件的内容，这包括“以幽默、不带任何说明文字或从正面角度出发的方式不明确地提及该类实体或事件，但是未美化已认定实体的暴力或仇恨行为的内容”。例如，根据禁止“不明确提及”的政策，一张已认定危险人物的照片如果没有任何进一步的文字或评论，那么该照片将被移除，因为用户的意图不够明确。

12. 监督委员会在审议 Meta 所提出方案的同时，还审议了其他方案，并且考虑到了 2023 年 12 月的政策变化。此外，鉴于 Meta 在请求中直接要求监督委员会提供政策建议，以应对未来的类似挑战，监督委员会针对本政策咨询意见中显而易见的领域，评估了与 Meta 在这些领域的政策执行和透明度实践相关的关联问题，这些问题也对表达自由和其他人权具有更广泛的影响。

IV. 监督委员会向 Meta 提出的问题

13. 监督委员会以书面形式向 Meta 提出了 41 个问题。这些问题涉及：社群守则有关危险组织和人物的政策背后的政策依据；在 Meta 旗下平台上允许“赞扬”已认定实体或事件可能造成的危害的证据；Meta 的人工和自动化政策执行流程；Meta 的认定流程和已认定实体名单；Meta 的违规记分系统；以及采用方案二或方案三的实际影响。2023 年 10 月，监督委员会提出了后续问题，这些问题涉及：与 10 月 7 日对以色列的恐怖袭击和以色列正在采取的军事反击相关的“shaheed”一词内容趋势，以及鉴于当前的危机，对于在其请求中向监督委员会提出的政策方案，Meta 的分析是否发生了变化。监督委员会就 Meta 于 2023 年 12 月 29 日做出的政策更新提出了三个额外的问题。Meta 共回答了 40 个问题，还有 1 个问题未完整回答。Meta 仅向监督委员会提供了第 1 级已认定实体的名单，而没有分享第 2 级和第 3 级实体的名单，并解释说，只有“赞扬”第 1 级实体的内容才会受到禁止。

2. 利益相关者交流

14. 监督委员会收到了 101 条符合提交条件的公众评议。其中共有 72 条评议来自美国和加拿大；15 条来自中东和北非；8 条来自欧洲；3 条来自亚太地区和大洋洲；2 条来自拉丁美洲和加勒比地区；还有 1 条来自中亚和南亚。所有评议都是在 2023 年 4 月 10 日之前收到的。如要查阅在提交时同意公开的公众评议，请点击此处。

15. 这些评议涉及很多问题。其中许多评议解释了“shaheed”一词的多种含义，以及由于这一点，Meta 默认将该词视为“赞扬”对自由表达的负面影响，特别是对政治言论和人权文献的负面影响。这些评议还涉及对使用自动化技术来执行政策的关切，以及 Meta 的认定名单、透明度问题和认定流程中有可能存在的偏见。其他评议对以下事项表示关切：政策变化有可能导致恐怖组织正常化和暴力的增加，特别是在巴勒斯坦被占领土和以色列。

16. 监督委员会针对西南亚和北非、撒哈拉以南非洲和东南亚这些地区，举行了三场地区性利益相关者圆桌会议。此外，还举行了两场主题圆桌会议，一场是关于在内容审核中使用自动化技术，另一场是关于反恐和人权。与会者强调，“shaheed”一词有许多含义。殉难是一种可能的含义，这包括个人在实施恐怖主义行为时死亡，但是“shaheed”也经常用于其他情况，例如用来描述这些袭击中的暴力受害者。许多与会者（包括受影响群体的成员、反恐专家和内容审核专家）对该政策中的偏见表示关切，并讨论了这类偏见对自由表达的负面影响，特别是对阿拉伯语使用者和使用“shaheed”一词的其他群体的影响。其他主题包括，缺少证据表明，使用“shaheed”一词来指代已认定的危险人物与现实世界中的伤害之间存在因果关系，国家安全和反恐专家也强调了这一点。同样，也有人担心，如果完全不审核该词，就会使已认定的危险人物及其组织正常化，他们可能会利用社交媒体来进行招募活动和获得其他形式的实质性支持。其他主题包括：对 Meta 在进行该词的内容审核时所用自动化技术的质量表示关切，与会者呼吁提高与自动化技术的使用有关的透明度，以及与 Meta 的已认定实体名单和认定流程有关的透明度。

17. 有关利益相关者交流圆桌会议的报告，请点击此处（如需阿拉伯语版，请点击此处）。

3. 监督委员会的权力和管辖范围

18. Meta 可以请求监督委员会提供政策咨询意见（章程第 3 条第 7.3 款），而监督委员会可酌情接受或拒绝 Meta 的请求（细则第 2 条第 2.1.3 款）。这些意见是建议性的（章程第 3 条第 7.3 款）。Meta 必须在此意见发布后 60 天内对其做出回应（细则第 2 条第 2.3.2 款）。如果 Meta 承诺就建议采取行动，监督委员会将监督其执行情况，而且监督委员会可能会跟进其先前在案件审理决定中提出的任何建议的落实情况。

4. 权威来源和指南

I. 先前的监督委员会建议

19. 在先前的案件中，监督委员会建议 Meta 澄清危险组织和人物政策并缩小该政策的范围，并且在执行政策时更好地尊重正当程序，做到更加透明。

20. 关于提高政策的清晰性和缩小其范围，监督委员会建议 Meta：

• 在提供给审核员的《已知问题》指南中，缩小“赞扬”一词的定义范围（新闻报道中提及塔利班，建议 3）。
• 修订其内部指南，明确说明按照危险组织和人物政策中允许“报道”的例外规定，允许在报道中从正面角度描述已认定实体，同时说明如何区分该例外情形与禁止发布的“赞扬”内容（新闻报道中提及塔利班，建议 4）。
• 在其政策中添加标准和说明性示例，以提高人们对中立讨论、谴责和新闻报道例外情形的认识（有关分享半岛电视台帖子的案件，建议 1）。
• 更新政策依据，以反映对表达自由和其他人权的尊重能推进 Meta 的“安全”价值观，并且更详细地说明，该政策会为了防止和遏制哪些“现实中可能发生的伤害”而限制“自由表达”价值观（有关奥贾兰单独监禁的案件，建议 4）。
• 解释用户可如何清楚表明帖子背后的真实意图，以便其帖子可以受益于政策例外规定（有关奥贾兰单独监禁的案件，建议 6）。
• 解释危险组织和人物政策中使用的关键术语并提供这些术语的应用示例，包括“赞扬”的含义，并为用户提供更明确的指导，让他们了解如何清楚表明自己的意图（有关纳粹言论的案件，建议 2）。

21. 关于 Meta 的违规记分系统，监督委员会建议 Meta：

• 以一种清晰、全面和易于理解的方式，解释用于对 Facebook 和 Instagram 上的个人主页、公共主页、小组和账户采取限制措施的违规记分和处罚流程（有关封禁前总统特朗普的案件，建议 15）。
• 采用更全面和易于理解的方式，进一步公开解读两种违规记分系统，为“严重违规记分”提供更多背景信息（新闻报道中提及塔利班，建议 2）。
• 向用户提供直观易懂的评估信息，展示他们的违规次数、违规记分次数及受罚次数分别是多少，以及未来若违规有何后果（有关封禁前总统特朗普的案件，建议 16）。

22. 关于透明度，监督委员会建议 Meta：

• 公开分享其已认定实体名单，或者至少提供已认定实体的说明性示例（有关纳粹言论的案件，建议 3）。
• 改进其执行情况报告，除了内容移除决定外，还在报告中提供个人主页、公共主页和账户收到的限制数量，并按国家和地区细分这一信息（有关封禁前总统特朗普的案件<，建议 17）。
• 提供更全面的信息，按地区和语言报告在执行有关“赞扬”和“支持”危险人物和组织的规定方面的失误率（有关奥贾兰单独监禁的案件，建议 12）。
• 通过按国家/地区和语言提供每项社群守则的执行失误率，增进公众对此信息的了解（有关旁遮普媒体对印度 RSS 的威胁表示担忧的案件，建议 3）。

23. 关于自动化技术，监督委员会建议 Meta：

• 在使用自动化技术对用户内容采取处理措施时通知用户，包括用易于理解的方式说明这意味着什么（有关乳腺癌症状宣传与裸露内容的案件，建议 3）。
• 在透明度报告中增加披露以下数据：根据社群守则自动做出移除决定的次数，以及这些决定在经过人工审核后被撤销的比例（有关乳腺癌症状宣传与裸露内容的案件，建议 6）。
• 在其透明度报告中，按每项内容政策进行细分，分门别类地公布被错误包含在违规内容媒体匹配服务库中的内容的错误率。此报告中应包含以下方面的信息：内容是如何入库的，以及 Meta 为减少该过程中的错误所做的努力（影射哥伦比亚警察的漫画，建议 3）。
• 公开说明对申诉的自动优先级排序和结案处理（伊朗抗议口号，建议 7）。

24. 如想查看本意见定稿之时，这些既往建议的落实情况，请点击此处（如需阿拉伯语版，请点击此处）。

II. Meta 的价值观和人权责任

25. 监督委员会在本政策咨询意见中的分析和建议参考了 Meta 的价值观和人权责任。

26. Meta 称“自由表达”是他们“十分重视”的价值观，并指出他们可能会本着其他四种价值观来限制自由表达，与本政策咨询意见最为相关的是“安全”价值观。为履行“安全”价值观，Meta 会“删除可能对人身安全造成危害的内容”。Meta 也禁止发布“威胁他人的内容”，因为这些内容“可能会令人感到恐惧、受到排斥或陷入沉默”。

27. 2021 年 3 月 16 日，Meta 发布了公司的企业人权政策，概述了其根据《联合国工商企业与人权指导原则》（UN Guiding Principles on Business and Human Rights，简称 UNGP）做出的尊重人权的承诺。2011 年，联合国人权理事会 (UN Human Rights Council) 批准了 UNGP，为私营企业的人权责任确立了自愿性框架。这些责任意味着公司应做到的事情包括“避免侵犯其他人的人权，并应在自身卷入时，消除负面人权影响”（UNGP 原则 11）。公司应：“(a) 避免通过其本身活动造成或加剧负面人权影响，并消除已经产生的影响；(b) 努力预防或缓解经由其商业关系与其业务、产品或服务直接关联的负面人权影响，即使并非它们造成了此类影响”（UNGP 原则 13）。

28. 正如 Meta 向监督委员会提出的请求所承认的那样，他们的内容审核做法可能会对表达自由权产生不利影响。鉴于表达自由权对政治言论的重要性，《公民权利和政治权利国际公约》（International Covenant on Civil and Political Rights，简称 ICCPR）第 19 条第 2 款为此权利提供广泛的保护，人权事务委员会指出，这也包括保护可能被认为极为冒犯的言论（第 34 号一般性意见，第 11、13 和 38 段）。若国家对表达自由权施加限制，则此等限制措施必须满足合法性、正当目的、必要性和相称性的要求（ICCPR 第 19 条第 3 款）。这些要求通常被称为“三方面要求”。监督委员会使用这一框架来解释 Meta 的自愿人权承诺，这既涉及到正在接受审理的个别内容决定，也涉及到 Meta 更广泛的内容监管方法。联合国促进和保护意见和表达自由权问题特别报告员曾表示：尽管“公司没有政府的义务，但它们造成的影响则要求它们评估保护其用户表达自由权利的类似问题”（报告 A/74/486，第 41 段）。

29. 人人都平等地享有表达自由权。对此权利的任何限制必须是无歧视的，无分宗教或信仰、使用的语言或原国籍（ICCPR 第 2 条和第 26 条）。

合法性（规定应清晰明确且直观透明）

30. 对表达自由的任何限制在范围、含义和实行方面都应方便查阅和足够清晰，以便为用户和内容审核员提供指导，让他们知道允许和禁止发布哪些内容。如果规定不够清晰严谨，会导致对规定的执行不一致和随意执行（联合国特别报告员的报告 A/HRC/38/35，第 46 段）。监督委员会先前曾批评危险组织和人物政策不够清晰，并建议 Meta 改进其政策（有关奥贾兰单独监禁的案件，建议 4 和建议 6；有关分享半岛电视台帖子的案件，建议 1；新闻报道中提及塔利班，建议 3 和建议 4）。Meta 随后实施了监督委员会的建议，澄清了对“赞扬”一词的定义。

31. Meta 于 2023 年 12 月更新了危险组织和人物政策，然而，此更新又引入了新的合法性问题。尽管 Meta 举例说明了什么样的帖子会违反禁止“充当代言人”、“支持”和“美化”的规定，但是他们没有提供违反“不明确提及”规定的例子。本政策咨询意见中包含监督委员会提出的建议，目的是让 Meta 的规定更加清晰明确且直观透明。

正当目的

32. ICCPR 第 19 条第 3 款规定，对表达的任何限制须出于正当目的，这包括保护他人的权利以及更广泛的社会利益，例如国家安全（另请参见第 34 号一般性意见，第 21 段和第 30 段）。Meta 社群守则有关危险组织和人物的政策在政策依据中解释说，他们力求“防止和遏制现实中可能发生的伤害”，监督委员会在各种案件中发现这符合保护他人权利的正当目的，包括保护他人的生命权（ICCPR，第 6 条）。监督委员会先前也承认，赞扬已认定实体可能会造成危害他人权利的风险，而 Meta 试图在社群守则有关危险组织和人物的政策中通过禁止赞扬的规定来减轻这些危害，此举符合正当目的（新闻报道中提及塔利班）。

必要性和相称性

33. 对表达自由的任何限制都“必须适合于实现保护功能；必须是可用来实现预期结果的诸种手段中侵犯性最小的一个；必须与要保护的利益相称”（第 34 号一般性意见，第 34 段）。

34. 联合国安理会第 1624 (2005) 号决议吁请所有国家根据它们依国际法承担的义务，采取必要和适当的措施，以便“在法律上禁止煽动实施一种或多种恐怖行为”（第 1a 段），并且随后的决议表达了对恐怖组织使用互联网的关切（联合国安理会第 2178 (2014) 号决议和联合国安理会第 2396 (2017) 号决议）。虽然这些决议重申，各国应根据它们依国际人权法承担的义务应对和防止恐怖主义，但是联合国反恐中注意促进和保护人权和基本自由问题特别报告员对以下事项表示了关切：试图履行其义务（包括与网络表达相关的义务）的法律的模糊性，以及这些法律更关注言论的内容，而不是说话人的意图或者言论对他人的影响（报告 A/HRC/40/52，第 37 段）。特别报告员的结论是，若要将宣传恐怖主义的行为定为刑事罪，要求以下情况有合理的可能性成立：“有关言论成功地煽动某一恐怖行为，从而能确立一定程度的因果关系或受禁止的行为发生的实际风险”（出处同上）。联合国促进和保护意见和表达自由权问题特别报告员、欧洲安全与合作组织 (OSCE) 媒体自由代表、美洲国家组织 (OAS) 表达自由权问题特别报告员发表了关于互联网和反恐措施的联合宣言，这份 2005 年 12 月 21 日通过的宣言表示，如果没有明确迹象显示有关言论构成直接和蓄意煽动他人从事恐怖行为，并且直接增加了恐怖行为发生的可能性，则国家不得通过惩罚性措施来限制和制裁言论（第 39 页）。促进和保护意见和表达自由权问题特别报告员在报告 A/HRC/17/27（2011 年 5 月 16 日，第 36 段）中也提出了高门槛，指出只有在以下情况下，才应出于国家安全或反恐目的限制表达：“(a) 该言论旨在煽动即将发生的暴力；(b) 它可能会煽起这种暴力；并且 (c) 该言论和这种暴力的发生或发生的可能性之间存在直接和紧密的联系”。人权事务委员会表示，当反恐措施禁止某些言论时，必须“明确界定”诸如“怂恿”、“美化”和“赞扬”等词汇，不得“不合理地限制媒体在向公众通报恐怖主义行为方面的关键作用”（第 34 号一般性意见，第 30 段和第 46 段）。

35. 虽然这些原则和标准是监督委员会开展分析的重要出发点，但是国际人权法对国家施加的义务和限制与私营公司在这一领域可能具有的责任和自由裁量权并不相同。国家实施刑事制裁并不等同于审核社交媒体平台上的内容，监督委员会认识到，Meta 作为一家私营公司而不是一个国家，在考虑到其公司价值观和批量内容审核所面临的独特挑战的情况下，可能会而且有时确实采取了比国家应采取的措施更严格的方法来限制表达（请参见上文第 27 - 28 段）。联合国促进和保护意见和表达自由权问题特别报告员表示：“如果公司规则与国际标准不同，公司应提前对政策差异作出合理的解释，并明确说明差异”（促进和保护意见和表达自由权问题特别报告员有关网络仇恨言论的报告 A/74/486，2019 年 10 月 9 日，第 48 段）。在先前的许多决定中，监督委员会在评估相称性要求时，探讨了如何适当地将为国家设计的国际标准转化为公司的人权责任，这也是本政策咨询意见所要达到的目的。

36. 在先前与社群守则有关危险组织和人物的政策相关的决定中，监督委员会也探讨了与“赞扬”已认定实体有关的 Meta 人权责任。虽然防止已认定实体违规使用 Meta 旗下平台来实现其企图（包括煽动暴力、进行招募活动或获得其他形式的实质性支持）属于正当目的，但是监督委员会发现，在各种情况下，禁止“赞扬”规定的过于宽泛或不够精确都对用户的表达造成了不必要和不相称的限制。例如，监督委员会推翻了移除一家乌尔都语报纸所发帖子的决定，这篇帖子报道了塔利班宣布有关恢复妇女和女童教育的计划，监督委员会认为该内容不属于“赞扬”（新闻报道中提及塔利班）。同样，监督委员会撤销了 Meta 移除另一篇帖子的决定，发帖用户在该帖中引用了一句被误认为是出自约瑟夫·戈培尔之口的话（有关纳粹言论的案件）。撤销删帖决定的原因是，有足够的背景信息清楚表明，该帖不是在赞扬纳粹意识形态，而是在参与美国的政治讨论。监督委员会还推翻了 Meta 移除一篇分享半岛电视台新闻文章的帖子的决定，该内容报道了已认定恐怖组织的暴力威胁，原本应保留在平台上，而删帖之举引起了人们对 Meta 政策的潜在歧视性影响的担忧（有关分享半岛电视台帖子的案件）。在简要和加急审理决定中，监督委员会也撤销了或促使 Meta 撤销了该公司最初以赞扬已认定危险人物为由对 Facebook 和 Instagram 帖子做出的多项删帖决定（内容涉及反殖民领导人阿米尔卡·卡布拉尔；黎巴嫩活动家；回应反犹太主义；尼日利亚联邦选区；阿富汗女童教育；提及青年党；感谢真主；和以色列人质劫持）。尽管 Meta 最近更改了危险组织和人物政策，但其中许多审理决定仍与此处的讨论相关。监督委员会在今后的案件中将继续探讨此政策，包括讨论与新的“美化”和“不明确提及”规定相关的问题。

6. 建议和分析

37. 监督委员会就内容政策、政策执行和透明度问题向 Meta 提出了七条建议。监督委员会相信，这些建议在批量审核时是可行的，并将促使 Meta 恪守其“自由表达”和“安全”价值观，同时让他们更加尊重表达自由和其他人权，并做到更加透明。

6.1 与“Shaheed”一词有关的 Meta 政策

建议 1 – 内容政策：Meta 应该停止做出以下推定：凡是使用“shaheed”一词来指代已认定的危险人物或是指代已认定的危险组织中的不具名成员，一律构成违规，并且没有资格根据政策例外规定受到特例处理。只有在两种情况下，才应以“不明确提及”为由移除将已认定的危险人物称为“shaheed”的内容。第一种情况是，存在以下三种暴力信号中的一种或多种：以图像形式描绘军械/武器；有关使用或携带军械/武器的意图表达或教唆；或者提及已认定事件。第二种情况是，该内容在其他方面违反了 Meta 的政策（例如，因为美化已认定实体或事件，或者因为除了使用“shaheed”一词外，仍以其他方式不明确提及了已认定的危险人物）。在任意一种情况下，内容应仍有资格适用有关“报道、以中立态度讨论或谴责”的例外规定。

当 Meta 采取以下行动后，监督委员会将认为此建议已实施：公开更新其社群守则，表明当存在所列出的三种暴力信号中的一种或多种时，不允许将已认定的危险人物称为“shaheed”。

建议 2 – 内容政策：为了澄清禁止“不明确提及”的规定，Meta 应该添加几个违规内容的例子，包括符合以下情况的帖子：将已认定的危险人物称为“shaheed”，且包含建议 1 中所述的三种暴力信号中的一种或多种。

当 Meta 公开更新其社群守则，添加了“不明确提及”的例子后，监督委员会将认为此建议已实施。

建议 3 – 政策执行：Meta 还应更新内部政策指南，清楚说明将已认定的危险人物称为“shaheed”并不违规，除非伴有暴力信号，而且即使存在这些信号，相关内容仍可能受益于有关“报道、以中立态度讨论或谴责”的例外规定。

当 Meta 更新了其提供给审核员的指南，允许“shaheed”一词受益于“报道、以中立态度讨论或谴责”的例外规定，且将此修订版指南分享给监督委员会之后，监督委员会将认为此建议已实施。

38. 虽然 Meta 必须努力防止其平台被用于煽动恐怖暴力行为（这是其内容审核政策的正当目的），但是 Meta 的人权责任则要求，对表达的任何限制必须是必要的和相称的，尤其是要尊重受暴力影响群体中成员的表达自由。尽管“shaheed”的一种含义确实与英语单词“martyr”（烈士）相对应，但是监督委员会认为，Meta 仅因内容中使用了“shaheed”一词来指代已认定的危险人物，就移除所有这类内容的做法是不必要的，也是不相称的。这是因为一刀切的禁令没有考虑该词在语言上的复杂性，导致言论遭到过度移除，不适当地限制了媒体自由和公民空间，并对平等和无歧视权利产生了严重的负面影响。此外，如果 Meta 接受并实施此建议，Meta 更广泛地禁止“美化”和“不明确提及”的详细政策规定将继续适用。因此，Meta 应该停止仅因存在“shaheed”一词就移除内容的做法，而是应该采用一种更注重背景信息的方法，并明确和精准地定义会使“shaheed”一词被解释为有害的暴力信号。如下文所述，监督委员会只完全认同 Meta 在其请求中所提出的六种信号中的两种，并建议缩小第三种信号的范围。Meta 提出的其他三种暴力信号作为指南提供给了审核员，用于执行另外的暴力与煽动暴力政策，但是就危险组织和人物政策而言，这三种信号过于宽泛。与此同时，监督委员会建议 Meta 在存在暴力信号的情况下，对报道、谴责或以中立态度讨论已认定实体的内容运用例外规定。上述建议适用于“shaheed”的单数和复数形式，以及采用该词的许多语言中存在的“shaheed”变体。

39. 对于使用“shaheed”一词来指代已认定实体的内容，为了评估在 Meta 旗下平台上允许这类内容的潜在危害，监督委员会咨询了专家和利益相关者的意见。一些利益相关者担心 Meta 旗下平台会为恐怖分子的宣传和招募活动提供便利，并助长歧视或暴力，包括对犹太人的歧视或暴力（请参见相关公众评议，例如 PC-11123 – CyberWell Ltd；PC-11153 – Stop Antisemitism Now；PC-11194 – Committee for Accuracy in the Middle East [中东报道准确性委员会]；PC-11068 – Canadian Antisemitism Education Foundation [加拿大反犹太主义教育基金会]）。虽然没有研究表明“shaheed”一词与此类暴力或歧视的增加之间存在任何具体的因果关系（正如 Meta 先前在提交的请求第 10 页所述，而且这是 Meta 在提出政策咨询意见请求之前，自己与专家和利益相关者开展交流后得出的结论），但是在个别情况下，殉道的愿望与暴力行为之间存在联系。更一般地说，人们普遍担心暴力组织会利用社交媒体来进行招募活动和推动实施恐怖行为、使恐怖主义正常化，并助长极端主义。监督委员会开展了广泛的利益相关者交流和专家咨询，其中包括与反恐专家的圆桌会议（请参见利益相关者交流圆桌会议），证实了这些假设和担忧。

40. 专家和利益相关者向监督委员会提交的许多意见还说明了移除使用“shaheed”一词的内容对表达自由造成的负面影响（请参见相关公众评议，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX；PC-11183 – ECNL EFF；PC-11190 – Brennan Centre [布伦南中心]；PC-11188 – Digital Rights Foundation [数字权利基金会]）。这包括移除符合以下情况的言论：虽然使用了“shaheed”一词，但并不是为了赞扬或美化已认定实体，而是为了报道恐怖分子或其他已认定危险组织的暴力行为，或者是为了对已认定危险人物进行中立的政治或学术讨论。

41. 以下例子可以说明 Meta 在移除将已认定的危险人物称为“shaheed”的内容时采取的做法：

• 某个政府在 Meta 旗下平台分享了一篇新闻稿，确认一名已认定危险人物已经死亡，并在其姓名旁使用了“shaheed”这个敬词。这篇帖子会被移除，因为 Meta 推定“shaheed”一词构成违规，即使背景信息表明这是中立的讨论。
• 一位用户分享了一张自己正在参加的抗议活动的照片，但是没有用文字清楚解释该抗议活动的目的。一些标语牌上写着已去世的已认定危险人物的名字，并带有“shaheed”一词。这篇帖子会被移除，因为图片中的标语牌写有已认定危险人物的名字且带有“shaheed”一词，Meta 推定这样的图片构成违规。
• 一名人权维护者分享了一篇帖子，其中描述了国家对一名已认定危险人物的草率处决，该帖称这名危险人物为“shaheed”，并谴责了政府的反恐政策。这篇帖子会被移除，因为 Meta 推定“shaheed”一词构成违规，即使该内容属于新闻报道。
• 一位热心的社区成员发布了一条有关当地道路状况的投诉，这条道路以一位已认定危险人物的名字命名，并带有敬词“shaheed”。这条投诉会被移除，因为 Meta 推定“shaheed”一词构成违规，即使用户是在讨论当地事务时附带提到已认定危险人物的。
• 一名家庭成员将死于恐怖袭击的亲人称为“shaheed”，并谴责了身为已认定危险人物的袭击者。尽管这篇帖子并不违规，但是鉴于 Meta 一刀切的处理方法，在点名提及肇事者的情况下结合使用“shaheed”一词，很可能会导致该内容被误删。

42. 一些利益相关者担心，对“shaheed”一词的使用放宽限制，可能会导致包含该词的内容大规模出现，产生使恐怖主义正常化的累积效应。不可否认，在某些情况下，“shaheed”意在以某种形式认可或赞同某人及其暴力行为，并确实构成了这种认可或赞同，但是监督委员会认为，该政策根据这些理由对这个词采取一刀切的禁令是不合理的。根据监督委员会从利益相关者（包括反恐专家）那里收到的信息，以及从 Meta 先前的研究和利益相关者咨询中获得的信息，监督委员会得出结论称，现行政策对表达自由造成了非常明显的负面影响，此影响超过了对此类情况可能产生实质性的有害累积效应的担忧。这尤其是因为，即使监督委员会的建议得到落实，仍然存在重要的防护机制来帮助实现防止暴力和危害的目标，即防止因允许恐怖分子及其支持者自由使用 Meta 旗下平台而导致的暴力和其他危害。

43. 监督委员会还认为，“shaheed”有各种含义，并且通常并非用于煽动暴力或仇恨，而是用来报道公众关心的问题。执行一刀切的禁令，意味着有大量内容即使没有造成 Meta 政策试图减轻的危害，也会被移除。虽然对内容进行批量审核时，有时需要接受一定比例的执行失误，但是 Meta 有责任根据其所有人权责任权衡利弊。基于所有这些考量，监督委员会得出结论称，其提出的方法最符合 Meta 的总体人权责任。

“shaheed”的文化和宗教意义以及多种含义

44. “Shaheed”是一个在文化和宗教上具有重要意义的词汇，在许多不同的语境中使用，含义各有不同。监督委员会收到的公众评议及其委托第三方开展的研究提供了有关该词的进一步见解。“Shaheed”可以指“见证”和“作证”。它也被用作伊斯兰教徒的名字，并且在某些地区（包括西亚和北非）还用作姓氏（请参见相关公众评议，例如 PC-11196 – Integrity Institute；PC-11164 – SMEX）。“Shaheed”也用来指代在履行宗教职责时死亡的人。在武装冲突或暴力袭击中，包括有已认定危险组织参与的事件中，人们有时会将暴力和恐怖主义的受害者称为“shaheed”，以示缅怀（请参见相关公众评议，例如 PC-11164 – SMEX；新西兰政府提交的 PC-11197 号公众评议承认基督城枪击事件的受害者是“shuhada”，这是“shaheed”的复数形式；Integrity Institute 提交的 PC-11196 号公众评议强调，一些国家/地区的边缘化穆斯林群体（包括罗兴亚人）将因宗教或信仰迫害而被迫离开缅甸的难民称为“shaheed”）。监督委员会委托 Memetica 对 Meta 旗下平台上发布和保留的内容进行了定量研究，结果表明“shaheed”被广泛用于指代在为国效力或为事业奋斗时牺牲的人，或者是因遭受社会政治暴力或自然灾害而意外死亡的人。虽然这些帖子不一定将“shaheed”与已认定的危险人物联系在一起，但是前面引用的例子（见第 41 段）说明了“shaheed”的许多含义和用法在那种背景下也是相关的。

45. 2023 年 10 月，哈马斯领导发起了对以色列的恐怖袭击，以色列随后还以颜色，在加沙采取了军事行动，在这些事件发生后，监督委员会委托第三方开展了额外的研究，调查与“shaheed”一词的使用有关的内容趋势。此次分析共评估了超过 12,000 篇公开帖子，只有两篇帖子支持哈马斯。对该词的所有使用几乎都涉及到描述加沙地带巴勒斯坦人的伤亡，没有提到任何已认定的危险组织或人物。一些帖子的内容涉及巴勒斯坦人悼念失去的亲人，而另一些帖子则展示了受伤的巴勒斯坦儿童和/或加沙空袭后的情景。由于研究人员在调查内容趋势时，只能访问平台上保留的公开内容，而不能访问 Meta 以违反其危险组织和人物政策为由移除的内容，因此监督委员会向 Meta 提出了额外的问题。Meta 的回答进一步证实了研究结论。在 Meta 看来，相比这些事件发生前，危机期间的内容趋势未显示出“shaheed”一词的使用或理解有任何变化。

46. Meta 默认推定，使用“shaheed”一词的内容均属违规，会造成现实世界中的伤害，因此应一律移除，但是“shaheed”的这些不同含义表明，这种做法给自由表达带来了全球性的代价，必须加以解决。Meta 解释说，“shaheed”有可能是其平台上受到审核最多的一个词，而不同的利益相关者观察到，报道已认定实体和暴力的内容经常会被 Meta 移除（政策咨询意见请求，第 3 页）。对“shaheed”的这种处理方法是一个例子，表明 Meta 在进行批量内容审核时，会优先采用容易判别的“明线”（明显）规则。虽然原则上，这种明线规则有时可能是合适的，因为批量内容审核往往需要进行艰难的权衡，但是在这种情况下，监督委员会认为，Meta 默认推定凡是使用“shaheed”一词来指代已认定危险人物的内容须一律移除，这种做法是不合理的，必须摒弃。正如 Meta 所承认的那样，其方法在设计上未能考虑语言和文化背景，并从两方面导致了严重的过度执行。一是，这种方法导致无意赞扬或美化已认定实体或事件的内容却因违反政策被移除，因为 Meta 推定“shaheed”一律构成违规。二是，如果内容中使用了“shaheed”一词来指代并非已认定危险人物的人士，这种方法会提高这类内容的误删率，因为这是一种一刀切的处理方法，阻碍了更注重背景信息的评估。

47. 尽管“shaheed”有各种含义，但是监督委员会注意到，在 Meta 的危险组织和人物政策中，先前在禁止“赞扬”的规定下提供的例子没有针对不同市场的具体情况进行调整，而是采用了过于简单的直译。社群守则中只有一处表明了 Meta 如何处理包含“shaheed”一词的内容，这是在更宽泛的禁止“赞扬”规定下列出的一个例子，显示了一句短语将已定罪的恐怖分子称为“martyr”（烈士）。同样的例子被用于不同的语言，在阿拉伯语中，“martyr”（烈士）被翻译为“shaheed”，尽管这两个词不一定是等同的。监督委员会注意到，在 2023 年 12 月的政策更新中，这个例子被移除。虽然这个例子中的翻译不一定是不准确的，但是如果使用这一个例子来断言“shaheed”总是等同于“martyr”（烈士）则是不准确的。

48. 反之，出于相同的原因，监督委员会在本政策咨询意见中就“shaheed”一词所做的结论不应自动套用于“martyr”（烈士）一词以及“martyr”在其他语言中的所有翻译。“Martyr”和“shaheed”并不是直接等同的，因为前者在英语中的语义变化较少，在使用英语的地区内和不同地区之间都是如此。对于不同语言，Meta 必须评估哪些词汇符合 Meta 关于“美化”的门槛，并牢记本政策咨询意见中提供的指导。在任何情况下，监督委员会都不赞成罔顾包含“shaheed”一词的帖子的整个背景，一刀切地禁止使用“shaheed”。根据监督委员会的先例，应从整体上评估这些帖子。此外，根据 Meta 的公开政策，Meta 应该确保政策例外规定允许人们在使用“martyr”一词（以及其他语言中与这个词真正对应的具有美化或正面意味的词）的情况下，“报道、谴责或以中立态度讨论”已认定的危险人物。这凸显了根据当地具体情况和所审核语言的特点来制定提供给审核员的内部指南的重要性（请参见监督委员会在缅甸机器翻译争议案的审理决定中表达的类似看法，这些看法是该案中建议 1 的基础）。

49. 在多起案件中，监督委员会都敦促 Meta 重新调整在明线规则与执行时更注重背景信息的政策之间所做的权衡，前者可在批量内容审核时执行，而后者则通常有利于自由表达和用户发声（例如，尊重对已认定实体的新闻报道，请参见新闻报道中提及塔利班和有关分享半岛电视台帖子的案件）。虽然之前的案件没有直接涉及“shaheed”一词的使用，但是监督委员会曾提醒 Meta，不要假定人们在提及已认定实体时怀有不良意图（请参见有关纳粹言论的案件）。Meta 推定，“shaheed”一律构成“赞扬”。对于这一点，不同公众评议都强调了，面对缅怀恐怖袭击受害者的内容，由于审核员或自动化技术在批量审核中的失误，Meta 的这种推定可能会如何导致对政策的过度执行（请参见相关公众评议，例如 PC-11164 – SMEX，第 1 页；新西兰政府提交的 PC-11197 号公众评议）。移除此类内容甚至可能会违背危险组织和人物政策的宗旨，因为这么做可能会阻止对恐怖暴力行为的讨论，也可能会阻碍为了抵制此类暴力行为背后的意识形态而做出的努力（例如，请参见 PC-11164 – SMEX）。

尊重媒体自由和公民空间

50. 监督委员会尤其担心 Meta 的做法对新闻话语和公民言论的影响。在恐怖组织或其他已认定组织的暴力行为更加猖獗的地方，以及在已认定实体拥有领土控制权或以其他方式掌握政治权力的地方，这些影响尤为严重。不同公众评议表达了这些担忧（请参见相关公众评议，例如 PC-11196 – Integrity Institute；PC-11157 – Palestine Institute for Public Diplomacy [巴勒斯坦公共外交研究所]）。媒体机构和其他评论者可能会对报道已认定实体持谨慎态度，因为他们希望避免内容被移除。一旦内容被移除，有可能会带来严厉的制裁，包括公共主页或小组被移除，或者账户被禁用。在某些情况下，这可能是无法预测的，例如，在报道反对政府行为者的抗议活动时，人们展示了支持死于该政府行为者之手的已认定危险人物的标志。语言、文化或宗教习俗可能会要求用“shaheed”一词来指代在这些情况下丧生的人，包括在实施暴力行为时死亡的人。

51. 值得注意的是，已认定实体可能参与暴力活动的情况十分复杂，包括可能属于武装冲突、反抗外国占领和内乱的情况。媒体在报道这些情况时可能面临重大挑战，因为媒体机构需要对当地的语言、文化或宗教习俗保持敏感，同时遵守 Meta 的内容政策。Meta 的已认定实体名单缺乏透明度，用户实际上并不知道谁在名单上，这一事实加剧了这些担忧。对这些情况的报道往往也会包含暴力信号，例如对军械的描绘，在“报道、以中立态度讨论或谴责”的例外情形之外，这可能是违反政策的迹象。因此 Meta 必须对报道、以中立态度讨论或谴责已认定实体的内容应用政策例外规定，这一点很重要。

52. 当用户生活在已认定实体活动的地盘上或这类实体掌握政治权力的环境中时，该禁令也可能会使用户更难表达自己的看法和批评。为了避免直接冲突和安全风险，处于这些环境中的用户可能会以尊重的方式发表评论，这不一定意味着赞扬。制裁此类言论尤其令人担忧，因为社交媒体为辩论提供了重要论坛，特别是在冲突地区和新闻自由有限的国家/地区。

平等和无歧视

53. 由于“shaheed”一词使用广泛且用法多变，对于阿拉伯语使用者和存在“shaheed”相关外来词的其他语言的使用者（其中许多人是穆斯林）来说尤其如此，因此 Meta 的政策对这些群体造成了尤为严重的影响。鉴于 Meta 有责任尊重所有用户在行使表达自由权方面的平等和无歧视权利，上述影响引发了人们对 Meta 的这种责任的极大关注。这是许多公众评议的焦点（例如，请参见 PC-11183 ECNL EFF；PC-11190 – Brennan Centre [布伦南中心]；PC-11188 – Digital Rights Foundation [数字权利基金会]；PC-11196 – Integrity Institute；另请参见 BSR 关于 Meta 在以色列和巴勒斯坦的影响的报告）。联合国开发计划署 (UNDP) 在其关于“阻断极端主义之路”的报告中强调，除其他根本原因外，极端主义暴力的主要推动因素是“不平等、排斥、缺乏机会和感到不公正”。令监督委员会感到担忧的是，Meta 的政策方法可能会加剧某些群体的边缘化和受排斥经历，甚至与所说的减少暴力的目的背道而驰。联合国开发计划署强调，在网络平台内容审核方面，各公司应确保与防止暴力极端主义有关的工作“不会无意中导致对个人的污名化和针对”。

使用侵扰性较小的手段来防止伤害

54. 在评估政策的必要性和相称性时，还需要分析是否有限制性较小的手段来实现相关的正当目的。监督委员会在本政策咨询意见中提出的建议若得到落实，将要求 Meta 不再一刀切地移除所有使用“shaheed”一词来指代已认定危险人物的内容。尽管如此，Meta 仍能在范围较窄的情况下移除使用此词的内容，在这些情况下，这类内容与伤害的联系不是那么模糊，而是更加明显。这些建议将允许 Meta 继续移除以下内容：将已认定的危险人物称为“shaheed”，且伴有其他违反政策的行为（例如“美化”或“不明确提及”），或者包含暴力信号。这种做法将继续提供重要的制约手段，同时减少该政策的不利影响，包括在审核特定语言或宗教群体的言论时过度执行政策。

55. 如果帖中存在暴力信号，且将已认定的危险人物称为“shaheed”，则由于该帖与暴力的关联，会更清楚地表明该帖意在从正面角度提及该人物（前提是“报道、以中立态度讨论或谴责”的例外情形不适用）。Meta 借鉴了有关暴力与煽动暴力政策的内部指南，在其请求中提出了以下暴力信号：(1) 以图像形式描绘军械；(2) 有关使用或携带军械/武器的意图表达或教唆；(3) 提及军事用语；(4) 提及纵火烧毁、抢劫或以其他方式破坏财产；(5) 提及现实世界中已知的暴力事件；以及 (6) 有关对他人实施暴力的意图表达、行为煽动、表述、支持或教唆。监督委员会认为，其中一些信号提供了表明内容可能会造成伤害的有用迹象，而仅凭“shaheed”一词的使用是无法推断出内容可能会造成伤害的。然而，其他信号被认为在这里用处不大。公开的暴力与煽动暴力政策三次提到了“临时有迹象表明这样做极有可能导致暴力事件”，每次提到这一点时，所涉及的规定均是为了应对特定地点和有时限的活动（例如投票站和抗议活动）中存在的暴力风险。对于提及“shaheed”一词的内容，如果在所有情况下全盘应用这些信号来指导对这类内容的处理，而罔顾其造成伤害的可能性或紧迫程度并不能与上述情形相提并论，则有可能会导致对政策的过度执行。

56. 监督委员会认为，在危险组织和人物政策的大背景下，采用一套范围更窄的信号才是适当的做法。“以图像形式描绘军械”和“有关使用或携带军械或武器的意图表达或教唆”这两个信号，都应该被视为内容更有可能造成伤害的迹象。然而，监督委员会认为，“提及现实世界中已知的暴力事件”这个信号过于宽泛，包含了太多与已认定危险组织或人物的暴力行为无关的情况。因此，应该缩小此信号的定义范围，仅包含根据 Meta 的危险组织和人物政策认定的事件，这包括恐怖袭击、仇恨事件、多重受害者暴力事件或多重受害者暴力事件企图、连环谋杀和仇恨犯罪。监督委员会建议的三个信号允许 Meta 更深入地考虑语境/背景的微妙差别，帮助确保使用“shaheed”一词来更明确地提及恐怖暴力行为，因而与伤害的联系不是那么模糊的内容仍会被移除。

57. Meta 提出的其余两个信号“提及军事用语”和“提及纵火烧毁、抢劫或以其他方式破坏财产”太过宽泛，将导致不精确的政策执行。Meta 提出的最后一个信号是“有关对他人实施暴力的意图表达、行为煽动、表述、支持或教唆”，由于内容中只要包含此信号，就会违反社群守则有关暴力与煽动暴力的政策，因此，如果将其列为暴力信号，将是重复和不必要的。

58. 与 Meta 的第三种政策方案不同的是，监督委员会注意到，即使是在存在这些暴力信号的情况下提及已认定的危险人物，该内容仍可能无意美化这些人物或其行为。在其请求（第 9 – 10 页）中，Meta 解释了过度执行政策的可能性，并提到了巴基斯坦的媒体报道做法。在监督委员会看来，媒体在提到已认定危险人物的死亡时，经常会配上图像，展示他们携带军械的形象和/或他们所造成的破坏，但是并没有美化这些行为。因此，有必要对批量审核员进行培训，指示他们保留意图明显是报道、谴责或以中立态度讨论该实体的内容。

59. 此外，监督委员会建议的政策修改将保留一系列其他内容政策，以防止恐怖分子及其支持者利用 Meta 旗下平台来在现实世界中造成伤害。在以下情况下，使用“shaheed”来指代第 1 级已认定危险人物的帖子会被移除：

• 伴有上述三种暴力信号中的一种或多种。
• 帖子存在其他任何违反危险组织和人物政策的行为（例如，支持、美化已认定的危险人物或充当其代言人）。比如说，“美化”包括为已认定危险人物的暴力或仇恨行为正名或为其辩护，或者将他们的暴力或仇恨行为作为一种成就来颂扬。
• 帖子存在其他任何违反政策的行为，包括违反仇恨言论政策或暴力与煽动暴力政策。
• 帖子包含“不明确或缺乏背景信息”的提及。这包括“以幽默、不带任何说明文字或从正面角度出发的方式不明确地提及该类实体或事件，但是未美化已认定实体的暴力或仇恨行为的内容”。

60. 因此，对于将第 1 级已认定危险人物称为“shaheed”的帖子，监督委员会的建议不会妨碍 Meta 要求用户确保这类帖子的意图明确。这些建议只是防止 Meta 仅凭“shaheed”一词就断言帖子违规。Meta 积极参与全球互联网反恐论坛 (Global Internet Forum to Counter Terrorism)，并使用了散列匹配数据库，这也确保了可能会造成现实伤害的内容将被移除。监督委员会的建议有助于 Meta 采用更清晰、更注重背景信息和更相称的方式来处理有可能增加暴力风险的内容，同时更好地尊重表达自由和无歧视权利。

对备选政策方案的评估

61. 出于这些原因，监督委员会得出结论称，继续让政策保持现状（这是 Meta 提出的供监督委员会审议的方案之一）将强化对自由表达的不合理限制，而这些限制对阿拉伯语使用者、相关语言群体和穆斯林的影响尤为严重。Meta 提出的第二种政策方案与第三种方案类似。监督委员会建议采用第三种方案，因为它试图结合背景来评估“shaheed”一词的使用，并允许以多种方式使用该词来指代危险人物。事实上，据 Meta 称，2023 年 8 月 29 日的政策更新允许在某些情况下进行更多的社会和政治话题讨论，这包括对和平协议、选举和人权相关问题的讨论、新闻报道，以及学术、中立和谴责性讨论。这使得第二种和第三种方案所寻求的政策结果甚至更为接近。这两种方案之间最显著的区别在于技术可行性以及在批量审核中的实际实施。第二种方案要求 Meta 首先确认允许的例外情形之一适用，然后再检查该内容是否存在违反政策的行为或暴力信号；第三种方案则直接来到检查是否存在违反政策的行为或暴力信号这一步。Meta 表示，从技术角度看，第二种方案的设计和实现要麻烦得多，因为它需要考虑可能存在的广泛例外情形（在最近的政策更新之后甚至更加广泛），每种例外情形都高度依赖对背景信息的评估。难以准确、一致地进行这些评估反过来意味着，若采用这种方案，可能需要更多的人工审核，并且会导致政策执行失误的数量大幅增加。

62. 监督委员会认为，Meta 最好是采用一种方法，在现有例外情形之外，更一致地审核所有使用“shaheed”来指代已认定危险人物的内容，并且在内容中还存在其他违反政策的行为，或存在建议 1 中所列三种暴力信号之一时，移除这些内容。根据监督委员会的建议来修改政策，采取与 Meta 提出的第三种方案更接近的立场，只有在还存在其他违反政策的行为或存在特定暴力信号的情况下，才禁止使用“shaheed”来指代已认定的危险人物，这种做法将有助于减少误删（错误移除未违规内容）、更好地保护公共利益言论、媒体自由和公民言论，并减少对受影响群体的平等和无歧视权利的负面影响。2023 年 10 月，哈马斯领导发起了对以色列的袭击并引发了随后的冲突，在回答监督委员会于这些事件发生后提出的问题时，Meta 确认，对于最初在请求中提出的方案，这些事件并未改变他们对这些方案在批量审核中的可执行性的分析。在监督委员会看来，如果“报道、以中立态度讨论或谴责”的政策例外规定仍然存在，那么当这种规模的危机爆发时，根据 Meta 的第三种方案提出的建议将最能应对有可能发生的错误。监督委员会承认，设立这些政策例外规定确实会增加在批量审核中执行 Meta 在第三种方案中所提出的政策的复杂性，但是监督委员会认为，为了在审核使用“shaheed”一词的内容时充分保护表达自由，这些例外规定至关重要。

63. 监督委员会的少数成员不同意此结论，而是倾向于建议 Meta 维持现状或采用提出的第二种方案。一些成员强调，“shaheed”一词实际上被恐怖组织用来赞扬和美化实施暴力行为的人，这可能是激进化和应招加入组织的诱因。这些监督委员会成员认为，仅这些事实就足以构成在现实世界中造成伤害的严重危险，因此有理由维持目前一刀切的禁令，即使存在牺牲表达自由的公认代价。另一些成员则认为，由于缺乏足够的数据来说明 Meta 旗下平台上使用“shaheed”一词的内容会在多大程度上造成现实世界中的伤害，以及在该政策下过度执行的情况是否普遍，因此宁可以安全为重，采用更加谨慎的方法。一些监督委员会成员还认为，第二种方案（若采用这种方案，Meta 只有在首先发现受允许的特定例外情形适用时，才会考虑“shaheed”一词的含义和用法）是一种更加严格限缩的折衷方案，尽管其技术难度和在批量审核中的可行性会对方案采用有影响。监督委员会广泛审议和讨论了这些其他意见。鉴于上文各节所述的原因，大多数成员得出的结论是，根据 Meta 的第三种方案提出的建议可实现更好的平衡。

违规记分和惩罚

64. 虽然维持危险组织和人物政策下的其他限制可能是合理的，但是 Meta 必须确保这些限制以及对违规行为施加的任何制裁是相称的。Meta 先前曾告诉监督委员会，他们一直对所有违反危险组织和人物政策（包括先前的禁止“赞扬”规定）的行为实施严重违规记分。严重违规记分可以更快速地导致账户层级的惩罚，例如有时间限制的功能限制、账户封禁以及个人主页或公共主页永久禁用。这些措施可能会严重限制用户的表达自由权（公众评议也强调了这一点，例如，请参见 PC-11190 - Brennan Centre [布伦南中心]）。监督委员会先前曾建议，Meta 应该提高其违规记分系统的清晰性和透明度（新闻报道中提及塔利班，建议 2；有关封禁前总统特朗普的案件，建议 15）。作为回应，Meta 在其政策及信息公示平台中提供了有关违规记分系统的信息，并允许用户查看 Meta 对其账户实施了哪些惩罚。Meta 最近更新了标准违规记分系统，使之更加相称，但是这并没有向公众清楚说明，Meta 是否也调整了在“严重违规记分”方面的做法。

65. Meta 表示，他们正在着手变更与危险组织和人物政策相关的政策执行系统，尽管他们在解释 2023 年 12 月的政策更新时，并未说明其政策执行系统是否有变化或将发生变化，或者有什么变化或将如何变化（例如，与严重违规记分有关的变化）。监督委员会欢迎对政策执行系统的变更，只要这么做能像监督委员会之前建议的那样，对被准确认定为违规的内容实行更加相称的惩罚。对于违反了危险组织和人物政策，但是违规程度较轻和语义较模糊的内容，实施严重违规记分是不相称的惩罚，会导致该政策的过度执行率和不公平对待用户的情况继续居高不下。

6.2 改善名单的透明度和审计

建议 4 – 透明度：为了改善已认定实体和事件名单的透明度，Meta 应更详细地解释认定危险实体和事件的程序。Meta 还应定期发布与其认定名单有关的汇总信息，包括名单中每一级实体的总数，以及过去一年中添加和移除的每一级实体数量。

当 Meta 在政策及信息公示平台中发布要求的信息后，监督委员会将认为此建议已实施。

建议 5 – 政策执行：为了确保危险组织和人物实体名单保持最新，且不包含不再符合 Meta 对已认定实体和事件所做定义的组织、人物和事件，Meta 应引入清晰有效的流程，定期审计已认定实体和事件，并移除那些不再符合已公布标准的实体和事件。

当 Meta 建立了这样的审计流程，并在政策及信息公示平台中解释了该流程后，监督委员会将认为此建议已实施。

66. 根据 Meta 先前的危险组织和人物政策，只有在“赞扬”和使用“shaheed”一词指代的对象是 Meta 认定为第 1 级危险人物（包括已认定“暴力犯罪事件”的肇事者）的实体时，这类内容才会被禁止。在 2023 年 12 月更新后，该政策现在禁止“不明确提及”和美化所有第 1 级已认定实体。“不明确提及”包括“以幽默、缺乏背景信息或从正面角度出发的方式不明确地提及该类实体或事件，但是未美化已认定实体的暴力或仇恨行为的内容”。此类禁令对表达自由的潜在不利影响很大程度上取决于 Meta 将哪些实体认定为第 1 级组织，以及 Meta 认定了哪些“暴力犯罪事件”。在圆桌会议和公众评议中，许多利益相关者批评该名单缺乏透明度和正当程序，认为 Meta 应该公布该名单（请参见相关公众评议，例如 PC-11164 – SMEX，第 3 页；PC-11157 – Palestine Institute for Public Diplomacy [巴勒斯坦公共外交研究所]）。一位利益相关者对广泛分享该名单表示担忧，认为这可能会引发安全问题。由于该名单对于了解 Meta 政策的范围十分重要，Meta 向监督委员会提供了其第 1 级已认定危险组织和人物名单，并解释了其认定流程，监督委员会对该流程开展了深入研究，下文将述及此点。

67. 如上文所述，Meta 在认定第 1 级实体时所参考的名单中有很多是美国政府已公开的名单。这包括“特别指定毒枭 (SDNTK)”、“外国恐怖组织 (FTO)”和“特别指定全球恐怖分子”。这些名单的范围十分广泛，包括多个大洲高度政治化背景下的实体（及其成员），而且不限于恐怖主义实体。这种广泛性和多样性表明了 Meta 的危险组织和人物政策禁令（包括对使用“shaheed”一词来指代已认定危险人物的更加一刀切的禁令）可能涉及的范围及其影响。

68. Meta 解释说，他们有关将实体列入危险组织和人物名单的审批流程“依赖于与各种内部专家的协商，以及对内部数据和外部研究的评估”。Meta 还制定了一项流程来记录“与已认定危险组织和人物相关的其他成员、别名、符号、口号、子团体或媒体分支”。2022 年，根据 Meta 对其平台所面临的危险组织和人物威胁的评估，该公司认定了不到 1,000 个实体。被认定的犯罪实体数量最多，紧随其后的是恐怖主义实体，然后是仇恨实体。Meta 有一个认定取消政策流程，该流程通常会检查一个实体是否仍符合认定为危险组织或人物的政策门槛，并会考虑“一个实体为了停止暴力行为和追求和平而采取的积极措施”。Meta 目前正在重新制定该流程，但是在 2022 年，该流程的应用次数不到 10 次。Meta 解释说，为了持续使名单尽可能保持最新，准确反映来自危险组织和人物的威胁，他们正在审计先前认定的实体和事件。

69. Meta 解释说，公开分享已认定实体或事件名单，或者在将实体列入名单时通知这些实体，可能会对政策执行的有效性和许多 Meta 员工的安全构成一些风险。发现自己被列为已认定实体时，一些实体可能会对 Meta 提起法律诉讼（请参见 Facebook 诉庞德之家 [CasaPound] 案，2020 年 4 月 29 日，意大利罗马法院，以及相关案件分析：点击此处）。监督委员会注意到，在某些情况下，Meta 在回应媒体问询时透露了对某些组织的认定，监督委员会的决定也分享了这些认定情况。

70. 监督委员会先前曾建议 Meta 公开分享其已认定实体名单，或者至少提供说明性示例（有关纳粹言论的案件，建议 3）。Meta 尚未公布该名单，并且在开展可行性评估后也未就此建议提供更多进展更新。如果 Meta 继续拒绝实施此建议，他们至少应采取其他措施来提高名单的透明度。为了让用户更好地认识 Meta 的规定和流程，可从发布汇总数据、提高认定流程的透明度和改善认定取消流程的有效性这几个方面着手。这还有助于围绕 Meta 所做的认定及其对表达自由和其他人权的影响，进行更严格的审查和问责。Meta 还可以考虑为研究人员访问数据提供便利，以提高透明度，同时仍然保持名单的机密性。

6.3 用于评估政策执行准确性和分类技术测试的数据

建议 6 – 透明度：为了让人们更清楚地了解 Meta 的政策执行情况，包括在不同市场和针对不同语言执行政策时的地区性差异，Meta 应解释为了评估以下事项所采用的方法：人工审核在执行危险组织和人物政策方面的准确性，以及自动化系统在这方面的表现。针对用于执行此政策的分类技术，Meta 还应定期分享这些分类技术的表现评估结果，并且以能够在不同语言和/或地区之间比较这些评估的方式提供这些结果。

当 Meta 在其政策及信息公示平台和社群守则执行情况报告中包含此信息时，监督委员会将认为此建议已实施。

建议 7 – 透明度：为了告知利益相关者，Meta 应清楚解释他们如何使用分类技术来预测涉嫌违反政策的内容。Meta 还应解释他们如何设置阈值来决定是不采取行动、将内容加入人工审核队列还是移除内容，为此，他们需要说明设置这些阈值时所用的流程。Meta 应该在政策及信息公示平台中提供此信息。

当 Meta 在政策及信息公示平台中发布要求的信息后，监督委员会将认为此建议已实施。

71. 许多利益相关者在圆桌会议和公众评议中指出，在人工和自动化审核中，Meta 对危险组织和人物政策的执行方式，以及对“shaheed”一词的处理方式，往往会导致严重影响穆斯林和相关语言群体的政策执行失误（请参见相关公众评议，例如 PC-11183 – ECNL EFF；PC-11190 – Brennan Centre [布伦南中心]；PC-11188 – Digital Rights Foundation [数字权利基金会]；PC-11196 – Integrity Institute；另请参见 BSR 关于 Meta 在以色列和巴勒斯坦的影响的报告）。Meta 也在其请求中承认，这是他们有关“shaheed”一词的政策造成的后果。为了提高 Meta 的人工和自动化政策执行流程的透明度、准确性和公平性，监督委员会提出了上述两条建议。

72. Meta 解释说，他们会定期衡量人工和自动化政策执行的准确性。人工审核员要接受 Meta 外包合作伙伴的定期审计，这些审计会受到 Meta 全球运营团队的额外评估。

73. 监督委员会先前曾建议 Meta 改进其透明度报告，按国家/地区和语言提供以下信息，增进公众对此的了解：与“赞扬”和“支持”危险组织和人物有关的规定的执行失误率（有关奥贾兰单独监禁的案件，建议 12）；以及每项社群守则的执行失误率（有关旁遮普媒体对印度 RSS 的威胁表示担忧的案件，建议 3）。Meta 解释说，在开展可行性评估后，他们拒绝实施此建议（有关奥贾兰单独监禁的案件，建议 12；Meta 2021 年第 4 季度监督委员会建议实施更新报告，第 21 页），并将重点转向长期努力，根据个人主页、公共主页和账户限制情况以及地区（而不是语言）来定义准确性指标（有关旁遮普媒体对印度 RSS 的威胁表示担忧的案件，建议 3；Meta 2023 年第 2 季度监督委员会建议实施更新报告，第 59 页）。考虑到人们对危险组织和人物政策的过度执行（Meta 对“shaheed”一词的立场就说明了这一点）的普遍担忧，以及 Meta 在披露有用政策执行数据方面的不足，监督委员会重申了这些建议，并重申了 Meta 按地区提供信息以提高政策执行透明度的重要性。

74. Meta 目前在政策及信息公示平台中分享的数据不能使人们充分了解人工审核的准确性和自动化系统的表现。为了允许审查其方法，Meta 必须解释他们如何评估以下事项：人工审核在执行危险组织和人物政策方面的准确性，以及自动化系统在这方面的表现。为了让人们更清楚地了解分类技术的表现，Meta 应该分享包括查准率（表示在所有标记为违规的内容中，被正确识别为违规的内容所占比例）和查全率（表示在所有存在的违规内容中，被分类技术识别为违规的内容所占比例）在内的指标。发布按不同地区划分的与人工审核准确性有关的信息，以及发布按不同语言划分的与分类技术表现有关的信息，有助于对 Meta 的人权义务进行问责。因此，监督委员会重申了先前的建议，并敦促 Meta 实施提议的变更。

75. Meta 依赖自动化系统（包括分类技术）来执行其社群守则。分类技术模型根据一组训练数据自动将数据分为一个或多个“类别”（例如，违规或不违规）。了解这些系统的运作方式和准确性对于评估 Meta 如何进行批量内容审核至关重要。在政策及信息公示平台的政策执行版块，Meta 提供了与他们如何使用自动化系统来检测违规内容有关的一些基本信息，而在方案版块，Meta 解释了他们是如何对内容进行排名和筛选展示的。在社群守则执行情况报告中，Meta 已经公布了与尚未被举报便已移除的内容（即根据自动检测移除的内容）所占百分比有关的信息。这些数据表明了自动检测的重要性，但是没有提供与 Meta 自动化系统的使用情况和准确性有关的详细指标，特别是在自动移除方面。这组建议旨在加强与 Meta 使用算法的情况有关的透明度。

76. 在回应监督委员会提出的问题时，Meta 解释说，用于“一般语言 – 阿拉伯语”的危险组织和人物分类技术会根据 Meta 的政策来初步审核内容，以便执行政策。分类技术旨在检测可能会违反这些政策的内容。监督委员会认为，Meta 应该在政策及信息公示平台的政策执行版块向用户详细解释对分类技术的这种依赖，这与其先前的决定一致（请参见有关乳腺癌症状宣传与裸露内容的案件，建议 3；影射哥伦比亚警察的漫画，建议 3）。特别重要的是，Meta 应提供信息，帮助人们清楚了解用于确定要采取哪种处理措施（对内容采取行动或不采取行动，或者将内容加入人工审核队列）的大概置信度阈值，以及决定这些分数的考虑事项或因素。

77. Meta 解释说，其准确性测试并不关注该政策内的个别违规类型，而是关注整个政策领域的总体准确率。Meta 表示，他们会“定期进行指标监控，并审计批量审核的准确率”。监督委员会先前曾解释说，仅从整体上评估 Meta 对社群守则的执行情况是不够的（请参见有关贝壳串珠带的案件的审理决定）。一些系统即使平均表现良好，它们在某些子类别内容（例如使用“shaheed”一词的内容）上的表现也可能相当差，而就是在这些内容上，错误的决定对人权的影响尤其显著。因此，Meta 必须证明，他们已经尽了应有的努力，以查明和尽量减少其系统对人权的潜在负面影响，并且已分享信息，以便允许审查这些影响。

78. 许多利益相关者认为，Meta 基于算法的政策执行系统未能考虑背景信息，在审核非英语内容时准确性更低，这导致了对穆斯林群体的不平等影响（请参见相关公众评议，例如 PC-11190 – Brennan Centre [布伦南中心]）。

79. 一些利益相关者建议 Meta 完全停止使用自动化技术来审核“shaheed”一词，因为迄今为止，自动化技术一般都未能考虑背景信息（请参见相关公众评议，例如 PC-11164 – SMEX，第 4 页；PC-11157 – Palestine Institute for Public Diplomacy [巴勒斯坦公共外交研究所]）。其他利益相关者则认为，考虑到针对违反危险组织和人物政策的内容所施加的严厉惩罚，只应将自动化技术用于将内容加入人工审核队列，而不应将其用于自动移除内容（例如，请参见 PC-11183 – ECNL EFF，第 4f 页）。利益相关者建议，任何使用“shaheed”一词来指代已认定危险人物的帖子应该“最好是由熟悉帖子来源地情况的人工审核员来审核”（请参见 PC-11188 – Digital Rights Foundation [数字权利基金会]，第 2 页）。一些利益相关者建议，应该给内容添加地理标记，以便人工和自动化审核能够更好地考虑背景信息（例如，请参见 PC-11165 – Taraaz，第 1 页）。利益相关者还呼吁 Meta 提供与其自动化政策执行的准确性有关的更多信息，并投入更多资金来改进用于审核非英语内容的自动化系统（例如，请参见 PC-11164 – SMEX，第 5 页；PC-11190 – Brennan Centre [布伦南中心]）。他们还敦促 Meta“针对不同语言，一致地报告其内容审核活动，包括提供有关用户举报、处理率、处理措施类型、审核技术效果、训练信息和申诉率的全面数据”（例如，请参见 PC-11196 – Integrity Institute）。

80. 一些专家不同意让自动化系统仅因内容中使用了“shaheed”一词来指代已认定实体就从平台上移除该内容，但是他们建议将该词用作更多层次的审核方法的一部分（例如，用作将内容加入队列，以便根据 Meta 政策进行人工审核的信号，而不是仅因内容中包含这种指代就移除内容）。

81. 监督委员会承认，在进行批量内容审核时，依赖基于算法的系统是有必要的，所提议的这些方法中有很多在批量审核和使用自动化技术的情况下是不可行的。但是监督委员会也得出结论称，Meta 需要采取进一步措施，包括上文建议的措施，来确保这些系统的透明度和公平性。

*程序说明：

监督委员会的政策咨询意见由五名成员组成的审议小组做出，并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。

对于本政策咨询意见，监督委员会委托第三方代其开展了独立研究。一家总部位于哥德堡大学的独立研究机构为监督委员会提供了帮助；其团队包含六大洲的 50 多位社会科学家，以及全球超过 3,200 位国家/地区专家。Duco Advisors 也为监督委员会提供了帮助。这是一家专注地缘政治学、信任和安全以及技术交叉研究的咨询公司。从事社交媒体趋势开源调研的组织 Memetica 也提供了分析。Lionbridge Technologies LLC 公司在语言方面提供了专业意见。这家公司的专业人员可流利使用 350 多种语言，并且遍布全球 5,000 座城市。

Retour aux décisions de cas et aux avis consultatifs politiques