有关给某些阿拉伯词语重新赋予积极意义的案件

监督委员会推翻了 Meta 移除一篇 Instagram 帖子的最初决定，据该发帖用户称，这篇帖子图片中展示的阿拉伯词语可用来贬损“effeminate mannerisms”（举止柔弱）的男性。该内容属于 Meta 仇恨言论政策的例外情形，不应被移除。

案件详情

2021 年 11 月，一个自称要为阿拉伯文化中的“酷儿”词语提供讨论平台的 Instagram 公开帐户发布了一组轮播图片（一种最多可展示十张图片和一段文字的 Instagram 帖子）。这篇帖子的说明文字同时用阿拉伯语和英语做出了解释，称每张图片都展示了一个不同的词语，这些词可用来贬损阿拉伯语文化中“举止柔弱”的男性，包括“zamel”、“foufou”和“tante/tanta”等。该用户称其发帖的目的在于“to reclaim [the] power of such hurtful terms”（给这些伤害性词语重新赋予积极意义）。

Meta 最初移除了该内容，理由是其违反了 Meta 的仇恨言论政策，不过在发帖用户提出申诉后，Meta 恢复展示了该内容。之后，该帖子被其他用户举报，Meta 再次以该内容违反其仇恨言论政策为由将其移除。Meta 表示，在监督委员会选中该案件前，该内容已提交至内部人员进行复审，审核员判定，这篇帖子实际并未违反公司的仇恨言论政策。之后，Meta 在 Instagram 恢复了该内容。Meta 解释称，公司最初决定移除该内容的依据是对包含“z***l”和“t***e/t***a”词语的图片的审核结果。

主要结论

监督委员会认为，移除该内容明显是一个错误的决定，不符合 Meta 的仇恨言论政策。虽然该帖子确实含有诋毁词语，但其内容属于“出于自述或自我激励而使用禁用词语”的例外情形，以及目的“在于谴责或提高大众认知”而允许提及仇恨言论的例外情形。该用户在声明中称，其并没有“纵容或鼓励使用”这些诋毁词语，而是为了“给这些伤害性词语重新赋予积极意义”，这些信号都应提醒审核员该帖子可能适用例外情形。

对于生活在会因言获罪的国家/地区的 LGBTQIA+ 群体来说，社交媒体往往是他们能自由表达自我的少数途径之一。过度审核受迫害少数群体用户发布的言论，是对他们自由表达权的严重威胁。因此，监督委员会担心，Meta 没有始终如一地将其仇恨言论政策中的豁免情形应用于边缘化群体发布的言论。

在本案中，有三名不同的审核员判定该内容违反仇恨言论政策，这个失误表明，在如何评定提及贬损词语的内容方面，Meta 为审核员提供的指导可能还不够全面。监督委员会担心，审核员可能没有足够的能力或没有接受足够的培训，以至于没能防止本案件中的这类失误。

为审核员提供英语指导，说明应如何审核非英语语言的内容（Meta 目前的做法），这种安排本身就具有挑战性。为了帮助审核员更好地评估含有诋毁词语的内容在什么情况下适用例外情形，监督委员会建议 Meta 将其内部指南翻译成审核员所使用的阿拉伯语方言。

监督委员会还认为，为了制定详实的诋毁词语列表，以及就什么情况下适用诋毁词语相关政策的例外情形为审核员提供适当的指导，Meta 必须定期向各国家/地区和文化中被人用这些诋毁词语攻击的少数群体征求意见。此外，Meta 还应更清楚地公示公司是如何创建、执行以及审核特定市场的诋毁词语列表的。

监督委员会的决定

监督委员会推翻了 Meta 移除这条内容的最初决定。

监督委员会在政策咨询声明中建议 Meta：

• 将内部执行标准和已知问题翻译成内容审核员所使用的阿拉伯语方言。这项举措可以帮助审核员更好地评估，什么情况下含诋毁词语的内容适用例外情形，从而减少在阿拉伯语地区过当执行政策的现象。
• 就 Meta 如何创建特定市场的诋毁词语列表发布清楚的说明。该说明应包括 Meta 为特定市场的列表指定诋毁词和划分国家/地区时所使用的流程和标准。
• 就 Meta 如何执行特定市场的诋毁词语列表发布清楚的说明。该说明应包括 Meta 在准确判定应于何时、何处执行禁用诋毁词语规定时所使用的流程和标准，无论是对来自争议发生地区的帖子，还是对来自其他地区但与争议发生地区相关的帖子，以及/或与争议发生地区的所有用户相关的帖子，无论帖子来自哪个地区。
• 就 Meta 如何审核特定市场的诋毁词语列表发布清楚的说明。该说明应包括从 Meta 特定市场列表中删除或保留诋毁词语时所使用的流程和标准。

*案件摘要是对案件的概述，不具有先例价值。

案件审理决定全文

1. 决定摘要

监督委员会推翻了 Meta 移除一篇 Instagram 帖子的最初决定，发帖帐户旨在讨论“阿拉伯历史和流行文化中的‘酷儿’词语”。这篇帖子的内容适用于 Meta 仇恨言论政策中的例外情形，因为它的目的主要是报道、谴责和讨论一些人使用的恐同性恋诋毁词语，并且是在明确、积极的语境中使用这些词语。

2. 案件说明和背景资料

2021 年 11 月，一个自称要为阿拉伯文化中的“酷儿”词语提供讨论平台的 Instagram 公开帐户发布了一组轮播图片（一种最多可展示十张图片和一段文字的 Instagram 帖子）。该用户在帖子的说明文字中同时用阿拉伯语和英语做出了解释，称每张图片都展示了一个不同的词语，这些词可用来贬损阿拉伯语文化中“举止柔弱”的男性，包括“zamel”、“foufou”和“tante/tanta”等。在帖子的说明文字中，用户称其并没有“condone or encourage the use of these words”（纵容或鼓励使用这些词），并解释称，自己之前曾被他人用这些词语侮辱过，这次发帖的目的在于“to reclaim [the] power of such hurtful terms”（给这些伤害性词语重新赋予积极意义）。经监督委员会的外部专家证实，这篇帖子中提及的词语确实常用于诋毁他人。

该内容获得了约 9,000 次浏览、30 条评论和 2,000 条心情。在该内容发布后的三个小时内，一名用户举报其为“成人裸露和性行为内容”，另一位用户举报其为“性引诱”内容。这两条举报分别由不同的人工审核员处理。审核第一条举报的审核员没有采取任何措施，但审核第二条举报的审核员认为该内容违反了 Meta 的仇恨言论政策，于是将其移除。该发帖用户对这次移除处理提出了申诉，第三位审核员将这篇帖子在平台上恢复展示。内容恢复后，又有一位用户举报该内容为“仇恨言论”，随后，另一名审核员对其进行了第四次审核，并再次移除了该内容。于是该发帖用户再次提出申诉。在第五次审核后，另一名审核员维持了移除内容的决定。在 Meta 向发帖用户通知此决定之后，该用户向监督委员会提交了申诉。Meta 后来证实，所有审核该内容的审核员都能流利地使用阿拉伯语。

Meta 解释称，公司最初决定移除该内容的依据是对包含“z***l”和“t***e/t***a”词语的图片的审核结果。在对监督委员会所提问题的回应中，Meta 还提到，他们认为内容中使用的另一个词语“moukhanath”属于诋毁用语。

Meta 表示，在用户向监督委员会提交了申诉但案件尚未被监督委员会选中的这段时间内，该内容被单独上报至公司的内部人员进行复审，这次审核判定该帖子并未违反 Meta 的仇恨言论政策。之后，该内容在平台上恢复了展示。

3. 监督委员会的权力和适用范围

在收到被移除内容的用户提出的申诉后，监督委员会有权审核 Meta 的决定（章程第 2 条第 1 款；细则第 3 条第 1 款）。

监督委员会可以支持或推翻 Meta 的决定（章程第 3 条第 5 款），并且其决定对该公司具有约束力（章程第 4 条）。此外，Meta 还将评估将监督委员会的决定应用于具有同等语境的相同内容的可行性（章程第 4 条）。监督委员会的决定可能包括内含建议的政策咨询声明，这些建议并不具有约束力，但 Meta 必须对建议做出回应（章程第 3 条第 4 款；章程第 4 条）。

当监督委员会选择审理类似本案件的案件，且 Meta 同意系其失误所致时，监督委员会会审理原始决定，帮助更好地了解为什么会发生失误，同时提出可能有助于减少失误和改进正当程序的意见或建议。

4. 权威来源

监督委员会将以下视为其权威的来源：

I. 监督委员会的决定：

监督委员会此前做出的与本案最为相关的决定包括：

• “贝壳串珠带案决定”(2021-012-FB-UA)：在该案件的决定中，监督委员会强调了保护边缘群体表达自由的重要性，并指出 Meta 必须确保不会移除属于仇恨言论政策例外情形的内容。
• “南非诋毁案决定”(2021-011-FB-UA)：在该案件的决定中，监督委员会认为 Meta 必须更清楚地公示其制定诋毁词语列表时所采用的流程和标准。监督委员会还建议 Meta 在执行仇恨言论政策时优先考虑提高其程序的公平性，以便用户能够更清楚地理解内容被移除的原因。
• “缅甸机器翻译争议案决定”(2021-007-FB-UA)：在该案件的决定中，监督委员会强调了在评估内容是否属于仇恨言论政策的例外情形时参考语境的重要性。

监督委员会还参考了以下决定中的建议：“奥贾兰单独监禁案决定”(2021-006-IG-UA)、“双按钮表情包案决定”(2021-005-FB-UA) 以及“乳腺癌症状与裸露内容案决定”(2020-004-IG-UA)。

II. Meta 内容政策：

本案件涉及 Instagram 社群守则和 Facebook 社群守则。Meta 在政策及信息公示平台中称，“Facebook 和 Instagram 有一套共用的内容政策。这意味着，违反 Facebook 社群守则的内容同样也违反了 Instagram 社群守则”。

Instagram 社群守则称：

我们致力于营造一个积极向上的多元化社群。我们会移除含有实质性威胁或仇恨言论的内容……绝不姑息煽动暴力的行为，或者基于他人的种族、族裔、原国籍、社会性别、生理性别、性别认同、性取向、宗教信仰、残疾或疾病而攻击他人。不过，我们允许出于谴责仇恨言论或提高大众认知之目的分享仇恨言论。在这些情形下，用户务必要清楚表明意图。

Facebook 社群守则对仇恨言论的定义是：“针对人们受保护的特征所发起的直接言论攻击，这些特征包括种族、族裔、原国籍、宗教信仰、性取向、种姓、生理性别、社会性别、性别认同，以及严重疾病或残疾”。Meta 将攻击分为三个等级。仇恨言论政策中有关诋毁词语的部分禁止发布“以诋毁词语来描绘或消极攻击他人的内容，其中诋毁词语的定义为：本身具有冒犯性的字词，且被用作指代上述受保护特征的侮辱性标签。”第三级的其余内容则是禁止发布号召排挤或孤立他人的内容。

Meta 解释称，这项决定的政策依据之一是：

我们知道，用户有时分享包含他人仇恨言论的内容是为了表达谴责或提升大众的认知。在其他一些情况下，用户会将可能违反我们守则的言论用于自述或自我激励。我们的政策在一定程度上允许发布这种类型的言论，但要求用户清楚表明意图。如果未清楚表明意图，我们可能会移除此类内容。

III. Meta 的价值观：

Facebook 社群守则的简介部分概述了 Meta 的价值观，其中称“自由表达”是“首要”价值观。

Facebook 社群守则矢志不渝的宗旨是打造一个可自由表达的平台。[…]我们希望用户能够坦诚地谈论他们关注的问题，即使一些人可能会不赞同或觉得反感。

Meta 通过四种价值观来限制“自由表达”，其中两种价值观与此案件相关：

“安全”：我们致力于维护 Facebook 平台的安全环境。威胁他人的内容可能会令人感到恐惧、受到排斥或陷入沉默，Facebook 不允许发布这些内容。

“尊严”：我们认为，所有人的尊严和权利都是平等的。我们希望用户尊重他人的尊严，不骚扰或贬低他人。

IV. 国际人权标准：

2011 年，联合国人权理事会 (UN Human Rights Council) 批准了《联合国工商企业与人权指导原则》（UN Guiding Principles on Business and Human Rights，简称 UNGP），为私营企业的人权责任确立了自愿性框架。2021 年，Meta 发布了自己的企业人权政策，重申了其根据《联合国工商企业与人权指导原则》做出的尊重人权的承诺。监督委员会对 Meta 在本案件中的人权责任的分析参考了以下人权标准（已应用于本决定的第 8 节）：

• 自由表达权：《公民权利和政治权利国际公约》(ICCPR) 第 19 条，人权事务委员会第 34 号一般性意见（2011 年）；Toonen 诉澳大利亚案第 488/1992 号来文，人权事务委员会，1992 年；人权理事会第 32/2 号决议，2016 年；联合国促进和保护意见和表达自由权问题特别报告员的报告：A/HRC/38/35（2018 年）和 A/74/486（2019 年）；联合国人权事务高级专员的报告：A/HRC/19/41（2011 年）。
• 不受歧视的权利：ICCPR 第 2 条第 1 款和第 26 条。

5.用户的申诉信息

在向监督委员会提交的声明中，该发帖用户称其帐号是“颂扬阿拉伯酷儿文化”的空间。该用户还解释称，虽然这是一个“安全空间”，但随着粉丝的增长，帐号也越来越多地成为恐同喷子的目标，他们撰写辱骂性评论并大规模举报内容。

该用户解释称，其发布这条内容是为了维护阿拉伯社会中经常被本帖所提及诋毁词语贬损的“柔弱男性”。该用户还进一步解释称，其发布此帖的目的是给这些贬损柔弱男性的词语重新赋予积极意义，以这种方式抵制使用这些词语来贬损他们以及支持这类男性群体；该用户还称其在帖子内容中已清楚表明，其并没有纵容或鼓励将图片中所提及的词语用于诋毁目的。该用户还表示，其认为这条内容符合 Meta 的内容政策，因为该政策特别规定，允许出于自述或自我激励之目的使用禁用词语。

6. Meta 提交的信息

Meta 在其案件决定依据中解释称，最初他们根据仇恨言论政策移除该内容的理由是，这篇帖子包含 Meta 诋毁词语列表中的禁用词语，该词语是一个“贬损同性恋者的用语”。Meta 最终撤销了其最初的决定并将该内容恢复展示，因为有关词语的使用属于 Meta 允许发布的例外情形，是“谴责诋毁词语或仇恨言论、讨论诋毁词语的使用（包括报道使用这类诋毁词语的情况）或辩论是否可以使用这类词语的内容。”Meta 承认，根据内容的语境可以判断出，该用户是在提醒人们注意该词语的伤害性质，因此没有违反其政策。

在回答监督委员会有关 Meta 评估仇恨言论政策例外情形的适用情况时如何参考语境这个问题时，Meta 表示，其允许出于嘲讽、谴责、讨论、报道或自述目的“使用仇恨言论或诋毁词语”，但用户有责任在提及这些词语时表明意图。

在回答监督委员会提出的另一个问题时，Meta 表示，他们无法就该内容为何会被错误地移除“做出推测”，因为内容审核员没有记录他们做出决定的原因。

监督委员会总共向 Meta 提出了 17 个问题，其中有 16 个得到了完全解答，1 个得到部分解答。

7. 公众评议

监督委员会收到了与此案件有关的 3 条公众评议。其中 1 条来自美国和加拿大，1 条来自中东和北非，1 条来自拉丁美洲和加勒比地区。

评议内容包含以下三个主题：LGBT 群体在主流社交媒体平台上的安全问题、Meta 在执行仇恨言论政策时对当地背景信息的考量以及阿拉伯词语不断变化的含义。

如要查阅针对此案件提交的公众评议，请点击此处。

此外，在目前正在开展的利益相关方参与计划中，监督委员会成员与致力于表达自由和 LGBTQIA + 群体权利的组织（包括阿拉伯语人群）展开了内容丰富而详实的交流讨论。这些讨论重点关注以下问题：无论发言者的意图如何，相关词语仍有可能被部分听众认为是诋毁言论，这将造成难以宣称该诋毁词语已被明确重新赋予积极意义且已完全不具冒犯性的问题；因缺乏 LGBTQIA + 倡议团体和非英语社群对内容政策的意见反馈所造成的问题；以及在内容审核中，对语境不够敏感所引起的风险问题。

8. 监督委员会的分析

监督委员会通过以下三个方面酌情考虑是否应该恢复展示这条内容：Meta 的内容政策；公司的价值观；及其人权责任。

监督委员会之所以选择该案件，是因为过度审核受迫害少数群体用户的言论将对该群体的自由表达造成严重且普遍的威胁。线上的自由表达空间对于面临迫害的群体尤为重要，社交媒体公司需要高度重视保护他们的权利。这起案件也反映出了 Meta 在平衡以下两点时面临的矛盾：保护少数群体免受仇恨言论的侵害，以及为少数群体提供一个可充分表达自我的空间，包括通过对诋毁性仇恨言论重新赋予积极意义。

8.1 对 Meta 内容政策的遵守情况

I. 内容政策规定

监督委员会发现，虽然该内容使用了诋毁词语，但其并不是仇恨言论，因为它属于仇恨言论政策的例外情形，即“出于自述或自我激励”的目的使用诋毁词语，以及“出于谴责或提高公众认知”之目的提及仇恨言论。

在“贝壳串珠带案”和“双按钮表情包案”的决定中，监督委员会指出，用户不一定必须在帖子中明确说明其意图，才能满足仇恨言论政策例外情形的适用要求。用户只需在帖子的语境中清楚表明，他们是在以政策允许的方式使用仇恨言论词语就已足够。

然而，在本案件中，用户已在内容中声明，称其没有“condone or encourage（纵容或鼓励）”将相关诋毁词语用作冒犯之意，而是“an attempt to resist and challenge the dominant narrative（想要抵制和谴责这种主流含义）”以及“to reclaim the power of such hurtful terms（给这些伤害性词语重新赋予积极意义）”。虽然明确的意图声明并不总是必要或足以使仇恨言论的使用或提及正当化，但这些信息应能提醒审核员该帖子可能适用例外情形。监督委员会认为，在本案件中，意图声明再加上发帖语境，可清楚表明该内容明显属于例外情形。

尽管如此，Meta 最初还是移除了该内容，有三位不同的审核员判定该内容违反了仇恨言论政策。虽然多位审核员均未能正确对该内容进行分类的原因各不相同，但 Meta 却无法为此次失误提供具体的解释，因为公司未要求审核员记录其做出决定的理由。正如“贝壳串珠带案”的决定中所指出的，Meta 的决定失误类型以及失误所影响到的人群或社群可反映出，平台政策执行系统的设计存在缺陷，且这些设计有可能损害受迫害群体成员的言论自由权。当 Meta 观察到有关受迫害或边缘化群体的内容中存在一种持续的过当处理迹象时（比如在本案中），Meta 应该对做出这种执行决定背后的原因展开调查，思考可对哪些审核规定做出修改，或是加强对现有规定的培训或监督，这些措施都可以避免出现过当执行政策的现象，避免损害表达权利受到威胁的群体成员的利益。

II. 政策执行行动

在对监督委员会所提问题的回复中，Meta 解释称，该内容之所以在平台恢复展示，是因为恰好有一名 Meta 员工将其标记为需上报进行复审。“上报复审”意味着，处理决定不会通过批量审核进行复审（通常会外包出去），而是会提交至 Meta 的内部团队。这似乎需要 Meta 员工先行注意到内容被移除，然后填写并提交内部网站表单来报告该问题。除了偶然因素以外，此类系统也只能识别 Meta 员工亲自发现的内容审核失误。因此，非英语内容、不是由在美国拥有庞大粉丝群的帐户发布的内容、或是由在 Meta 公司内没有充分代表性的团体或为此类团体创建的内容，则内容被注意、标记和重视的可能性要小得多。

监督委员会在与外部人员/组织交流时，了解到利益相关方存在这样的担忧：准确执行仇恨言论政策的例外情形需要具备一定程度的相关专业知识以及对当地背景信息的认识，而 Meta 可能缺乏或并不总是能满足这样的要求。监督委员会同样担忧，除非 Meta 定期向各国家/地区被人用这些诋毁词语攻击的少数群体征求建议，否则便无法制定出详实的诋毁词语列表，也无法就如何应用诋毁词语政策的例外情形给审核员提供适当的指导。

8.2 对 Meta 价值观的遵守情况

监督委员会认为，移除这条内容的最初决定违背了 Meta 的“自由表达”和“尊严”价值观，也不符合其“安全”价值观。虽然防止在平台上使用诋毁词语辱骂他人符合 Meta 的价值观，但监督委员会担心 Meta 没有始终如一地将政策中的例外情形应用于来自边缘化群体的言论。

就本案件而言，旨在促进边缘化群体成员自由发声的“自由表达”价值观是最重要的。Meta 试图限制用户使用诋毁词语来贬低和恐吓他人，同时也允许用户秉持真诚的态度去重新赋予这些词语积极的意义，去除其负面影响，这种做法是正确的。

监督委员会意识到，诋毁词语的广泛流传会伤害他人的“尊严”。特别是当使用者有意冒犯他人，或者没有语境线索可表明这些诋毁词语不是为了冒犯他人时，看到这些词语的用户会感到恐惧、不安或受到冒犯，进而会压制他们在网络上表达自我。如果有明确的语境线索可表明，提及诋毁词语是为了谴责、提高认知，或者出于自述或自我激励之目的，则根据“尊严”价值观，没有从平台上移除相关诋毁词语的必要。相反，无视例外情形的过当处理会尤其对少数群体和边缘化群体产生负面影响。正如监督委员会在“双按钮表情包案”决定中提出的建议：Meta 必须确保其审核员拥有足够的资源和支持，以便其正确评估相关语境。审核员应能正确区分允许提及诋毁词语和禁止使用诋毁词语的情形，保护平台用户的“自由表达”和“尊严”，特别是边缘化社群用户的“自由表达”和“尊严”，做到这一点至关重要。

由于边缘化社群的“尊严”和“安全”在社交媒体平台上受到威胁的风险更高，各个平台都加强了对他们的保护。监督委员会已经在“贝壳串珠带案”决定中建议 Meta：应该对仇恨言论政策例外情形的应用进行准确性评估。准确性可通过以下方式来提高：培训审核员，帮助他们正确识别涉及受歧视社群的内容，并为审核员提供指示，帮助他们仔细评估某条内容是否适用仇恨言论政策的例外情形。仔细评估内容，并参考相关的语境线索，将有助审核员正确应用这项政策的例外情形。

在“安全”方面，监督委员会还指出，营造安全的网络空间和采用谨慎的审核机制，对边缘化社群和受威胁社群都十分重要。LGBTQIA+ 阿拉伯语人群在网络上公开表达自我时会面临一定程度的危险，特别是在中东和北非地区。Meta 必须在以下两者之间取得平衡：既要为自由表达营造支持性的空间，又要确保不会过度审核，压制本就遭受审查和压迫之苦的人为自己发声。虽然监督委员会也承认，这种审核工作十分复杂，尤其是批量应用时难度更大，但重要的是，平台应投入必要的资源来做好这项工作。

8.3 对 Meta 人权责任的遵守情况

监督委员会认为，Meta 最初决定移除该内容时未尽到其作为企业的人权责任。Meta 承诺根据《联合国工商企业与人权指导原则》(UNGP) 的规定尊重人权。根据 Facebook 的企业人权政策，这包括遵守《公民权利和政治权利国际公约》(ICCPR)。

1. 表达自由权（ICCPR 第 19 条）

ICCPR 第 19 条为表达自由提供了广泛的保护，包括对人权的讨论以及可能被视为“极度冒犯”的表达（第 34 号一般性意见，第 11 款）。人人都享有自由表达的权利，不得因“性别”或“其他身份”而受到歧视（ICCPR 第 2 条第 1 款）。这包括性取向和性别认同（Toonen 诉澳大利亚案（1992 年）；A/HRC/19/41，第 7 款）。

这篇帖子涉及到对 LGBTQIA+ 群体歧视的重要社会议题。联合国人权事务高级专员提出这样的担忧：在倡导 LGBTQIA+ 群体权利方面，歧视性限制措施可能引发对自由表达的限制（A/HRC/19/41，第 65 款）。

第 19 条规定，如果某个国家/地区对表达自由权施加限制，则此等限制措施必须满足合法性、正当目的、必要性和相称性的要求（ICCPR 第 19 条第 3 款）。联合国促进和保护意见和表达自由权问题特别报告员根据 UNGP 框架，呼吁社交媒体公司确保其内容准则以 ICCPR 第 19 条第 3 款的要求为指导（A/HRC/38/35 第 45 和 70 款）。

I. 合法性（规定应清晰明确且直观透明）

合法性要求规定，对自由表达权进行限制时，相关措施必须足够明确易懂，并且应该就允许和禁止的情形提供相应的指导。

监督委员会在“乳腺癌症状与裸露内容”案件（2020-004-IG-UA，第 9 号建议）、“奥贾兰单独监禁”案件（2021-006-IG-UA，第 10 号建议）和关于分享私人住宅信息的政策咨询意见（第 9 号建议）中建议：Meta 应向 Instagram 用户阐明，Facebook 社群守则不仅适用于 Facebook 用户，同样也适用于 Instagram 用户，但有一些例外情形。在政策咨询意见中，监督委员会建议 Meta 在 90 天内完成这项工作。监督委员会指出，Meta 虽然在对政策咨询意见的答复中称会全面执行这项建议，但也表示公司仍在努力制定更全面的 Instagram 社群守则，以澄清 Instagram 社群守则与 Facebook 社群守则之间的关系，因而不能承诺在 90 天的期限内完成这项工作。监督委员会多次重申了这条建议，并认为 Meta 已经有足够的时间为这些更改做好准备。Instagram 社群守则和 Facebook 社群守则之间关系的不明确，是 Meta 旗下平台用户长期感到困惑的根源。虽然现在 Meta 在 Instagram 社群守则中添加了跳转至 Facebook 社群守则仇恨言论部分的链接，但用户并不清楚整个 Facebook 社群守则有关仇恨言论的规定（包括禁用诋毁词语的情况及其例外情形）也适用于 Instagram。监督委员会认为，及时且全面地更新 Instagram 社群守则仍然是首要任务。

关于诋毁词语列表的制定，监督委员会重申了在“南非诋毁”案 (2021-011-FB-UA) 中提出的观点：Meta 应该对制定该列表时所采用的流程和标准更加透明。对此，Meta 解释称其是根据“相关内部合作伙伴（如流程、市场和内容政策团队）的分析和审核”，为每个已确定的市场制定诋毁词语列表的。Meta 还表示，其市场专家每年都会审核诋毁词语列表，对每个词语进行定性和定量评估，以区分“即使单独出现，在本质上也具有冒犯性的词语和本质上不具冒犯性的词语。”监督委员会不清楚此类年度审核的具体发生时间，但在监督委员会选择审理此案件后，Meta 确实审核了“z***l”一词的使用。在这次审核之后，Meta 将该词语从“阿拉伯”地区的诋毁词语列表中删除，但仍将其保留在“马格里布市场”的诋毁词语列表中。监督委员会不清楚此次审核是否是 Meta 常规程序的一部分，还是其针对监督委员会选择此案后临时安排的审核。总的来说，监督委员会并不清楚年度审核中的定性和定量评估包含哪些内容。

Meta 没有向用户公开关于其制定诋毁词语列表和划分市场时所采用的流程和标准，特别是关于其如何划分语言和地理市场的信息。而缺少这些信息，仅根据仇恨言论政策中对诋毁词语的定义，用户可能很难判断哪些词语有可能被视为诋毁词语，因为这种判断依赖于每个人自身对“本身具有冒犯性和侮辱性”等概念的主观理解（A/74/486第 46 款；另见 A/HRC/38/35 第 26 款）。

关于如何执行诋毁词语列表，Meta 在“南非诋毁”案（2021-011-FB-UA）中表示，公司“禁止使用诋毁词语的规定适用于全球，但列表中的词语是按市场划分的。”Meta 解释称，“[如果]某个词出现在某市场的诋毁词语列表中，则仇恨言论政策便禁止用户在该市场中使用这个词语。”Meta 的解释在以下方面让人不解：因为政策执行适用于全球，这是否意味着，按市场划分的诋毁词语也会在全球范围内被禁用。Meta 解释称，公司将市场定义为“国家/地区和语言/方言的组合”，“......市场的划分主要是基于语言/方言和内容所在国的组合”。Meta“根据内容审核员的语言能力、文化背景和市场知识来为其分配审核市场”。Meta 表示，该内容涉及阿拉伯和马格里布市场诋毁词语列表中的词语。所以“基于多种信号组合，如在内容中检测到的地理位置、语言和方言以及内容类型和举报类型等”，该内容被转交给了这些市场的人员进行审核。监督委员会并不十分清楚多种信号是如何共同作用，以确定一项内容涉及哪些市场，以及含有某一特定市场禁用诋毁词语的内容是否只会在该市场中被移除，还是会在全球范围内被移除。社群守则本身并没有解释这个过程。

Meta 应发布一则全面的解释，说明平台对诋毁词语的政策执行过程。目前的政策有多个不透明之处，比如，为特定市场指定的诋毁词语是否只有在这些市场发布或者在这些市场被用户看见才会从平台上移除，还是无论在哪里发布或看到都会被移除。Meta 还应解释，平台是如何处理那些在某些情形下被认为是诋毁词语，但在其他情形下却有完全不同的含义且并未违反 Meta 任何政策的词语。

社群守则中仇恨言论部分的叙述结构也可能引起困惑。监督委员会认为，虽然禁用诋毁词语出现在第三级仇恨言论的标题下，但守则未清楚说明该禁止规定是否属于第三级，因为第三级其余内容的重点是排挤或孤立，而诋毁他人时并不一定会采取排挤或孤立的方式来进行攻击。

II. 正当目的

任何对表达的限制均应符合《公民权利和政治权利国际公约》中所列的正当目的之一，其中包括“他人的权利”。本案所涉政策所依据的正当目的是保护他人的平等权利（第 34 号一般性意见，第 28 款），不因性取向和性别认同而受到暴力侵害和歧视（ICCPR 第 2 条第 1 款、第 26 条；联合国人权事务委员会，Toonen 诉澳大利亚案（1992 年）；联合国人权理事会关于防止基于性取向和性别认同的暴力和歧视问题的第 32/2 号决议）。

III. 必要性和相称性

必要性和相称性原则要求，对表达自由的限制“必须适合于实现保护功能；必须是可用来实现预期结果的诸种手段中干扰性最小的一种；[且]必须与要保护的利益相称”（第 34 号一般性意见，第 34 款）。

在本案中，Meta 没有必要移除该内容，因为移除明显是一个错误的决定，不符合 Meta 仇恨言论政策的例外情形规定。移除也不是实现平台正当目的时干扰性最低的一种手段，因为在每次给出移除决定的审核中，包含 10 张图片的轮播帖子都仅因其中一张图片涉嫌违反政策而被整个移除。即使这篇轮播帖子中有一张图片包含不适用于例外情形的禁用诋毁词，移除整篇帖子也不是一个相称的处罚措施。

Meta 向监督委员会解释称，“帖子中只要有任何照片含有违反社群守则的内容，都会被视为违规”，“与 Facebook 不同的是，Meta 无法从含有多张图片的 Instagram 帖子中仅移除一张图片”。Meta 表示，公司已经将更新内容审核工具的工作提上议程，以方便审核员仅移除轮播帖子中违规的图片，但这项更新并不是一项优先任务。监督委员会认为这一解释并不清楚，并认为不重视这项更新可能会导致系统性的过当处理，导致只有部分内容违规的轮播帖子被整个移除。监督委员会还指出，如果某用户在 Facebook 和 Instagram 发布了同一组照片，两个平台对该内容的不同处理方式会导致结果的不一致，而没有任何有意义的政策差异可以对这种不一致作出合理解释：如果其中只有一张照片违规，将导致在 Instagram 平台的轮播帖子被整个移除，而在 Facebook 却不会。

2. 非歧视政策

考虑到给贬损词语重新赋予积极意义在帮助 LGBTQIA+ 群体对抗歧视方面的重要性，监督委员会希望 Meta 对误删本案件中的内容及 Facebook 和 Instagram 上类似内容的可能性保持高度敏感。正如监督委员会在有关原住民艺术表达的“贝壳串珠带案”决定 (2021-012-FB-UA) 中指出的那样，仅从整体上评估 Meta 对 Facebook 仇恨言论政策的执行情况是不够的，还必须考虑到这项政策执行对特定边缘化群体的影响。根据 UNGP，“工商企业应特别注意对高风险弱势/边缘化群体的人权产生的任何具体影响”（UNGP，第 18 和 20 条原则）。对于生活在会因言获罪的国家/地区的 LGBTQIA+ 群体来说，社交媒体往往是他们仍能自由表达自我的少数几个途径之一。尤其是在 Instagram 上，因为 Instagram 社群守则允许用户不使用自己的真实姓名。监督委员会注意到，Facebook 社群守则并没有向 Facebook 用户提供相同的自由度。Meta 必须证明自己已开展人权方面的尽职调查，以确保其系统运作的公平性，不会助长歧视（UNGP，第 17 条原则）。监督委员会注意到，Meta 会例行评估其执行系统在处理仇恨言论方面的准确性（“贝壳串珠带案”决定）。然而，在这些评估中，Meta 并没有更进一步衡量其准确区分以下两类内容的能力：禁止发布的仇恨言论和尝试重新赋予贬损词语积极意义因而允许发布的内容。

本案件中的失误表明，Meta 在提及贬损词语的内容评估方面，为审核员提供的指导可能不够充分。监督委员会担心，审核员可能没有足够的能力或没有接受足够的培训，以至于没能防止本案件中的这类失误，特别是政策例外情形所允许发布的内容方面。在本案中，Meta 告知监督委员会，“为确保在全球范围内一致地执行”公司政策，已知问题和内部执行标准只有英文版本，而且“公司的所有内容审核员都能流利地使用英语”。在“缅甸机器翻译争议案”决定中 (2021-007-FB-UA)，监督委员会建议 Meta：确保根据内容审核员审核内容时所用的语言，为其提供相应语言版本的内部执行标准。Meta 未对这条建议采取进一步行动，仅给出了类似的答复，即其内容审核员的英语很流利。监督委员会注意到，为审核员提供英语指导，来说明如何审核非英语内容，这本身就颇具挑战。内部执行标准和已知问题通常使用美国英语语言结构编写，这些结构可能不适用于其他语言，例如阿拉伯语。

在“贝壳串珠带案”决定中（2021-012-FB-UA，第 3 条建议），监督委员会建议 Meta 进行准确性评估，尤其是评估仇恨言论政策中侵犯人权的表达之例外情形的应用情况（例如，出于谴责、提高公众认知、自述或自我激励之目的），并且 Meta 应分享评估结果，包括这些结果将如何为改进政策执行和政策制定提供参考。监督委员会提出这条建议是因为其认为，过度移除侵犯人权言论的代价特别大。监督委员会了解到，Meta 在评估这条建议的可行性时提出了几点担忧：一是 (a) 公司政策中缺乏对侵犯人权等领域例外情形的具体分类，二是 (b) 缺乏容易识别的仇恨言论例外情形内容样本。监督委员会认为这些挑战是可以克服的，因为 Meta 可以把分析重点放在现有的仇恨言论例外情形上，并优先确定内容样本。监督委员会督促 Meta 尽快执行“贝壳串珠带”案 (2021-012-FB-UA) 中的建议，并欢迎 Meta 在下一期季度报告中分享最新进展信息。

9. 监督委员会的决定

监督委员会推翻了 Meta 关于撤下这条内容的最初决定。

10. 政策咨询声明

政策执行

1. Meta 应将内部执行标准和已知问题翻译成现代标准阿拉伯语。这项举措可以帮助审核员更好地评估，什么情况下含诋毁词语的内容适用例外情形，从而减少在阿拉伯语地区过当执行政策的现象。监督委员会注意到，Meta 没有对“缅甸机器翻译争议”案 (2021-007-FB-UA) 中的下列建议采取进一步行动：确保根据内容审核员审核内容时所用的语言，为其提供相应语言版本的内部执行标准。在 Meta 通知监督委员会其已经将内部执行标准翻译为现代标准阿拉伯语后，监督委员会方可将这条建议视为已采纳。

透明度

2. Meta 应就其如何创建特定市场诋毁词语列表发布清楚的说明。该说明应包括 Meta 为特定市场的列表指定诋毁词和划分国家/地区时所使用的流程和标准。Meta 在政策及信息公示平台发布相关信息后，监督委员会方可将这条建议视为已采纳。

3. Meta 应就其如何执行特定市场的诋毁词语列表发布清楚的说明。该说明应包括 Meta 在准确判定应于何时、何处执行禁用诋毁词语规定时所使用的流程和标准，无论是对来自争议发生地区的帖子，还是对来自其他地区但与争议发生地区相关的帖子，以及/或与争议发生地区的所有用户相关的帖子，无论帖子来自哪个地区。Meta 在政策及信息公示平台发布相关信息后，监督委员会方可将这条建议视为已采纳。

4. Meta 应就其如何审核特定市场的诋毁词语列表发布清楚的说明。该说明应包括从 Meta 特定市场列表中移除或保留诋毁词语时所采用的流程和标准。Meta 在政策及信息公示平台发布相关信息后，监督委员会方可将这条建议视为已采纳。

*程序说明：

监督委员会的决定由五名成员组成的审议小组做出，并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。

对于本案的审理决定，监督委员会委托第三方代其开展了独立研究。一家总部位于哥德堡大学的独立研究机构；其团队包含六大洲的 50 多位社会科学家，以及全球超过 3,200 位国家级专家。Duco Advisors 也为监督委员会提供了帮助。这是一家专注地缘政治学、信任和安全以及技术交叉研究的咨询公司。Lionbridge Technologies LLC 公司在语言方面提供了专业意见。这家公司的专业人员可流利使用 350 多种语言，并且遍布全球 5,000 座城市。