伊朗女子街头遭遇对峙

摘要

监督委员会推翻了 Meta 移除一段视频的最初决定，该视频显示了一名男子在伊朗街头与一名女子发生对峙，原因是这名女子没有佩戴头巾。该帖并未违反暴力与煽动暴力政策的规定，因为它包含的是比喻性言论，而不是字面意思，也不构成真实的暴力威胁。该帖发布之时，伊朗正处于动荡不安的时期，对抗议者的镇压和暴力不断升级，能使用社交媒体在伊朗变得至关重要，因为互联网代表着争取女性权利的新战场。由于 Instagram 是伊朗为数不多的未被禁用的平台之一，它在反政权的“女性、生命、自由”运动中发挥着不可估量的作用，尽管伊朗政权极力向女性灌输恐惧并在网上压制她们的声音。监督委员会得出结论称，在存在系统性国家镇压的背景下，Meta 为确保尊重表达和集会自由所做的努力是不够的，并建议 Meta 修改其危机政策协议。

案件详情

2023 年 7 月，一名用户在 Instagram 发布了一段视频，该视频显示了一名男子在公共场合与一名女子发生对峙，原因是这名女子没有佩戴头巾。在这段配有英文字幕的波斯语视频中，这名女子回应说，她是在捍卫自己的权利。帖子配文表达了对这名女子和反抗伊朗政权的伊朗女性的支持。配文中还批评了伊朗政权，据 Meta 称，其中有一句话翻译过来就是“it is not far to make you into pieces”（很快就会让你变成碎片）。

伊朗刑法规定，女性在公共场合中必须“适当佩戴头巾”，否则将被处以监禁、罚款或鞭刑。2023 年 9 月，伊朗政权通过了一项新的《头巾和贞洁法案》，根据该法案，如果女性继续违抗强制佩戴头巾的规定，可能会面临长达 10 年的监禁。此帖配文清楚表明，视频中的女性已被捕。

该帖起初被 Meta 的自动化系统标记为涉嫌违反 Instagram 社群守则，并被送交人工审核。尽管多名审核员根据 Meta 的暴力与煽动暴力政策评估了该内容，但是他们并未得出一致的结论，再加上一项技术错误，该帖被保留了下来。之后一名用户举报了该帖，引起了又一轮审核，这次负责审核该帖的是具有语言专业知识的 Meta 区域团队。在此阶段，该帖被判定为违反了暴力与煽动暴力政策，并从 Instagram 移除。随后，发帖用户向监督委员会提出了申诉。Meta 起初坚持认为删帖决定是正确的，直到监督委员会选择审理本案后，Meta 才撤销了其决定，恢复了该帖。

主要结论

监督委员会认为该帖并未违反社群守则有关暴力与煽动暴力的政策，因为它包含的是比喻性言论，而不是字面意思，也不构成能够煽动线下伤害的真实暴力威胁。虽然 Meta 最初移除该帖的一部分原因是，他们判断“it is not far to make you into pieces”（很快就会让你变成碎片）这句话是有关实施高强度暴力行为的意图陈述，目标对象是视频中的男子，但是这句话不该从字面上来解读。考虑到伊朗广泛的抗议活动，再结合配文和视频整体来看，这句话是比喻性的，表达了对伊朗政权的愤怒和失望。监督委员会咨询的语言专家指出，这句话还有一个略有不同的翻译（“we will tear you to pieces sometime soon”[我们很快就会把你撕成碎片]），并解释说，这表达了对伊朗政权的愤怒、失望和怨恨。与其说此帖会引发对伊朗政权的伤害，不如说它最有可能带来的伤害是伊朗政权的报复性暴力。

虽然 Meta 在政策依据中表示，在评估内容是否构成“真实威胁”时，可能会考虑“语言措辞”和“背景信息”，但是 Meta 提供给审核员的内部指南并不能在实践中实现这一点。根据该指南的指示，审核员需要确定内容是否符合特定标准（威胁和目标对象），并在符合标准时移除内容。监督委员会先前曾在伊朗抗议口号案中表达过对这种不一致的担忧，在那起案件中，监督委员会建议 Meta 围绕如何考虑背景信息，提供基于具体情况的指南，指示审核员停止默认移除表达异议的“修辞言论”的做法。令人担忧的是，在伊朗这样的环境下，对比喻性言论的处理仍有不一致的空间。此外，由于人类提供的训练数据的质量会影响自动化审核的准确性，移除比喻性言论的错误有可能被放大。

此帖还根据社群守则有关配合实施伤害和宣扬犯罪行为的政策受到了评估，因为该政策有一项规定是禁止发布“将不戴面纱的女性置于危险之中，违背她们的意愿或未经允许而暴露她们未戴面纱的图像的内容”。此后，该政策规定经过编辑，禁止发布以下内容：“曝光下列人群的身份，致使其面临受到伤害的风险：[未戴面纱的女性]”。在这一点上，监督委员会同意 Meta 的观点，认为该内容并没有“曝光”视频中的女子，而且由于她的身份已广为人知且她已被捕，该内容造成伤害的风险已减少。事实上，用户分享这篇帖子是为了引起人们对她被捕的关注，这可能有助于向当局施压，使当局释放她。

由于 Meta 根据其危机政策（包括危机政策协议）将伊朗指定为危险国家/地区，Meta 能够运用临时政策变更（“政策杠杆”）来解决特定情况。虽然监督委员会承认 Meta 在伊朗问题上的努力，但是在存在系统性镇压的环境下，这些努力不足以确保尊重人民的表达和集会自由。

监督委员会的决定

监督委员会推翻了 Meta 移除该帖的最初决定。

监督委员会建议 Meta：

• 在危机政策协议中添加一项政策杠杆，清楚表明在相关背景下，比喻性（即，非字面意思的）言论如果无意且不可能煽动暴力，则不违反暴力与煽动暴力政策中禁止暴力威胁的规定。这应该包括制定标准，让批量审核员了解如何在相关背景下识别此类言论。

*案件摘要是对案件的概述，不具有先例参考价值。

案件审理决定全文

1. 决定摘要

监督委员会推翻了 Meta 移除一段视频的最初决定，该视频显示了一名男子在伊朗街头与一名女子发生对峙，原因是这名女子没有佩戴头巾。Meta 从 Instagram 移除该帖是因为帖子配文中包含以下言论：“it is not far to make you into pieces”（很快就会让你变成碎片），Meta 认为这句话是在威胁视频中因女子未戴头巾而上前对峙的男子。监督委员会认为该帖并未违反暴力与煽动暴力政策，因为相关言论是比喻性的，而不是字面意思，考虑到背景信息，该言论并不构成真实的暴力威胁。在监督委员会选择审理本案后，Meta 起初维持了移除该帖的决定，然而，在向监督委员会提交理由之前，Meta 认定其移除该内容的最初决定是错误的，并在平台上恢复展示该帖。监督委员会得出结论称，在国家系统性地压制表达自由的背景下，Meta 为确保尊重表达和集会自由所做的努力是不够的，并建议 Meta 修改其危机政策协议。

2. 案件说明和背景资料

2023 年 7 月，一名 Instagram 用户发布了一段配有英文字幕的波斯语视频，显示了一名男子在公共场合与一名女子发生对峙，原因是这名女子没有佩戴头巾，而这名女子回应说，她是在捍卫自己的权利。视频中的男子面容不可辨识，而女子的面容完全可见。发帖用户似乎是重新发布了最初由与伊朗政权有关联或支持该政权的人分享的录像，于是有了该视频。该视频配有同样用波斯语写成的文字，表达了对这名女子和反抗伊朗政权的伊朗女性的支持，并批评了伊朗政权及其支持者。配文中的一句话被 Meta 翻译为“it is not far to make you into pieces”（很快就会让你变成碎片），并且配文表示，视频中的女子在该事件后已被捕。该帖获得了约 47,000 次浏览、2,000 个赞、100 条评论和 50 次分享。

此内容起初被一项自动化分类技术（Meta 使用的一种算法，用于识别有可能违反其政策的内容）标记为涉嫌违反 Instagram 社群守则，并被送交人工审核。多名审核员评估了该内容，但是因为一项技术错误，加上对于该帖是否违反了暴力与煽动暴力政策，这些审核员未得出一致的结论，所以该帖最初未被移除。然后，一名用户举报了该内容，为回应此举报，一项自动化分类技术再次判定该内容涉嫌违反 Meta 政策，并将其提交复审。该内容被一名用户举报，而且仅被举报一次。这次复审由具有地区和语言专业知识的 Meta 团队开展，经过这次复审后，Meta 根据其暴力与煽动暴力政策从 Instagram 移除了该帖。Meta 的删帖决定基于配文中的以下言论：“it is not far to make you into pieces”（很快就会让你变成碎片）。Meta 认为这句话是在威胁视频中因女子未戴头巾而上前对峙的男子。发帖用户就删帖决定向 Meta 提出了申诉。一名审核员维持了删帖决定。

然后，发帖用户就删帖决定向监督委员会提出了申诉。当监督委员会决定要对本案进行法律审核时，Meta 维持了其删帖决定。在此审核阶段，Meta 还考虑了社群守则有关配合实施伤害和宣扬犯罪行为的政策，该政策禁止发布以下内容：“曝光”未戴面纱的女性的身份，致使其面临受到伤害的风险。在该内容发布之时，视频中的女子已被伊朗政权逮捕。在监督委员会选择审理本案后，Meta 随后根据其区域团队提供的额外意见以及监督委员会在呼吁古巴女性抗议一案中的审理决定，改变了其决定并恢复了该内容。

正如监督委员会在伊朗抗议口号一案的审理决定中所指出的，至少自 1979 年革命以来，伊朗人民就一直在抗议政府，并为争取公民权利和政治权利以及性别平等而进行抗议活动。2023 年，诺贝尔和平奖授予被监禁的人权维护者纳尔吉斯·穆罕默迪 (Narges Mohammadi)，以表彰她“20 多年来为争取女性权利而不懈奋斗，[这]使她成为自由的象征和反抗伊朗神权政体的旗手”。伊朗刑法规定，女性在公共场合中必须“适当佩戴头巾”，否则将被处以监禁、罚款或鞭刑。伊朗女性还受到许多禁令的限制，包括不得学习某些专业，不得进入许多公共场所，此外，人们不得与异性跳舞。男人被认为是一家之主，女性需要得到她们父亲和丈夫的允许才能工作、结婚或旅行。女性的法庭证词被认为只有男性证词的一半分量，这限制了女性诉诸司法的机会。

伊朗当局于 2022 年加强并扩大了强制佩戴头巾执法措施的力度和范围，此后，女性面临更多审查，这经常导致她们遭到言语和身体骚扰以及逮捕。2022 年 9 月，22 岁的吉娜·玛莎·阿米尼 (Jina Mahsa Amini) 因据称未能遵守伊朗有关“适当佩戴头巾”的规定而被捕，并于三天后在遭警方拘留期间死亡。她的死亡激起了伊朗全国人民的愤慨和抗议浪潮，并引发了一场反政权运动，该运动被称为：“Zan, Zendegi, Azadi”（“女性、生命、自由”）。这导致了当局的暴力镇压，截至 2022 年底，有 500 多人确认死亡，估计有 14,000 人被捕，其中包括抗议者以及声援该运动的记者、律师、活动人士、艺术家和运动员。

2023 年 9 月，伊朗议会通过了一项新的《头巾和贞洁法案》，根据该法案，如果女性继续违抗该国强制佩戴头巾的规定，可能会面临长达 10 年的监禁。为没戴头巾的女性提供服务的企业也会面临制裁，并有被关停的风险。

在伊朗，社交媒体一直是女性抗议运动的主要阵地，在动员抗议和传播重要信息（参见 PC-21007、PC-21011 号公众评议）以及记录和公开保存虐待和人权侵犯行为的证据（PC-21008 号公众评议，附件）方面发挥着关键作用。

然而，网络运动也使女性面临受到伊朗政权进一步镇压的风险，镇压手段包括威胁、诽谤活动、逮捕和监禁。监督委员会咨询的专家指出，与伊斯兰革命卫队和伊朗政府有关联的实体组成了一个广泛的网络，这些实体在 Instagram 和 Telegram 经营着账号，而 Telegram 经常被用来直接针对和指责抗议者和持不同政见者。

提交给监督委员会的多条公众评议还强调了伊朗政权利用用户举报系统，对 Instagram 上的抗议内容进行大规模举报的策略，其目的是“迫使社交媒体公司移除与持不同政见者相关的内容或对其进行限流”（参见 PC-21011、PC-21009 号公众评议）。还有报道称，伊朗情报官员向内容审核员提供金钱，让他们移除伊朗政权的批评者分享的内容。

由于伊朗当局大力压制表达异议的渠道，包括动用大规模中断互联网和审查社交媒体平台等手段，2023 年 2 月，联合国伊朗问题特别报告员在报告中表达了对民间社会活动人士、人权维护者、女性权利活动人士、律师和记者持续受到镇压和攻击的关切。

3. 监督委员会的权力和管辖范围

在收到被移除内容的用户提出的申诉后，监督委员会有权审核 Meta 的决定（章程第 2 条第 1 款；细则第 3 条第 1 款）。

监督委员会可以维持或推翻 Meta 的决定（章程第 3 条第 5 款），并且其决定对该公司具有约束力（章程第 4 条）。此外，Meta 还必须评估将监督委员会的决定应用于具有同等语境的相同内容的可行性（章程第 4 条）。监督委员会的决定可能包括相关建议，这些建议并不具有约束力，但 Meta 必须对建议做出回应（章程第 3 条第 4 款；章程第 4 条）。如果 Meta 承诺就建议采取行动，监督委员会将监督其执行情况。

若监督委员会选择审理某个案件后，Meta 承认自己的决定有误（就像本案件中发生的情况那样），监督委员会将审核 Meta 最初的决定，以更好地了解内容审核流程并提出建议，帮助 Meta 减少错误并更公平地对待 Facebook 和 Instagram 用户。

4. 权威来源和指南

在本案中，监督委员会在开展分析时参考了以下标准和先例：

I. 监督委员会的决定

监督委员会此前做出的与本案最为相关的决定包括：

• 呼吁古巴女性抗议
• 针对秘鲁总统的隐喻式陈述
• 伊朗抗议口号
• 有关奥贾兰单独监禁的案件
• 有关乳腺癌症状宣传与裸露内容的案件

II. Meta 内容政策

监督委员会的分析基于 Meta 对自由表达的承诺（Meta 称“十分重视”此承诺）及其“安全”、“隐私”和“尊严”价值观。

Instagram 社群守则

Instagram 社群守则表示 Meta 将“删除含有实质性威胁的内容”，并链接到 Facebook 社群守则有关暴力与煽动暴力的政策。Instagram 社群守则并未直接链接到 Facebook 社群守则有关配合实施伤害和宣扬犯罪行为的政策。Meta 在 2023 年第 1 季度社群守则执行情况报告中称，“Facebook 和 Instagram 有一套共用的内容政策。这意味着，违反 Facebook 社群守则的内容同样也违反了 Instagram 社群守则”。

本案中的内容根据暴力与煽动暴力政策予以移除。在监督委员会选择审理本案后，Meta 还根据其有关配合实施伤害和宣扬犯罪行为的政策分析了该内容。

社群守则有关暴力与煽动暴力的政策

根据政策依据所述，社群守则有关暴力与煽动暴力的政策致力于防止 Meta 旗下平台上的“内容带来潜在的线下伤害”。同时，Meta 承认“人们通常会以不严肃和开玩笑的方式来威胁或提出使用暴力，以此表达轻蔑或反对”。因此，Meta 会移除他们认为包含“可能导致死亡的暴力威胁”的内容，这包括含有关于实施“高强度暴力行为”的“意图陈述”的内容，不论目标对象是谁。Meta 表示，在评估威胁是否真实时，他们会考虑该言论的背景信息，这可能是任何额外的信息，例如“目标对象的公众可见度和是否易受伤害”。

该政策的“禁止发布以下内容”部分明确禁止发布“可能导致死亡的暴力威胁（或其他形式的高强度暴力行为）”。“威胁”一词涵盖有关实施高强度暴力行为的“意图陈述”。

社群守则有关配合实施伤害和宣扬犯罪行为的政策

根据政策依据所述，社群守则有关配合实施伤害和宣扬犯罪行为的政策致力于“杜绝现实世界中可能发生的伤害事件和模仿行为”，为此，该政策禁止用户“鼓动、组织、宣扬或加入某些会对人、企业、财产或动物带来伤害的犯罪活动或有害行为”。这包括“曝光”行为，Meta 将其定义为揭露据称符合某些情况的任何人的身份或所在地的内容，包括据称“属于高曝光风险人群”的人士。批量审核员会针对某些特定群体执行这项政策规定。在升级处理阶段，根据额外的背景信息，Meta 在该内容发布之时实行的政策表示他们还会移除：“将不戴面纱的女性置于危险之中，违背她们的意愿或未经允许而暴露她们未戴面纱的图像的内容”。现在，此条文经过编辑，禁止发布以下内容：“曝光下列人群的身份，致使其面临受到伤害的风险：[未戴面纱的女性]”。

III. Meta 的人权责任

2011 年，联合国人权理事会批准了《联合国工商企业与人权指导原则》（UN Guiding Principles on Business and Human Rights，简称 UNGP），为私营企业的人权责任确立了自愿性框架。Meta 于 2021 年 3 月 16 日宣布了其企业人权政策，重申了 Meta 尊重 UNGP 中所规定权利的承诺。

监督委员会参考以下国际标准，分析了 Meta 在本案中的人权责任：

• 表达自由权：《公民权利和政治权利国际公约》（International Covenant on Civil and Political Rights，简称 ICCPR）第 19 条，人权事务委员会第 34 号一般性意见，2011 年；联合国促进和保护意见和表达自由权问题特别报告员的报告：A/HRC/38/35（2018 年）、A/74/486（2019 年）；《拉巴特行动计划》，联合国人权事务高级专员的报告：A/HRC/22/17/Add.4（2013 年）。
• 和平集会自由权：ICCPR 第 21 条；人权事务委员会第 37 号一般性意见，2020 年。
• 生命权：ICCPR 第 6 条。
• 自由和人身安全权：ICCPR 第 9 条。
• 不受歧视的权利：ICCPR 第 2(1) 条、第 3 条和第 26 条；《消除对妇女一切形式歧视公约》（Convention on the Elimination of All Forms of Discrimination Against Women，简称 CEDAW）第 1 条和第 7 条（在不受歧视的基础上参与本国的政治和公共事务）。另请参见《人权维护者宣言》，第 8 条：在不受歧视的基础上得到有效机会，参与开展公共事务的权利。
• 隐私权：ICCPR 第 17 条。

5. 用户提交的信息

发帖用户就删帖决定向监督委员会提出了申诉。在其声明中，该用户解释说，这篇帖子显示了一名伊朗政府代表与一名女子发生对峙，原因是这名女子没有佩戴头巾。该用户表示，这段视频显示了这位伊朗女性捍卫自己权利的勇气。该用户称，其他用户也在社交媒体上分享了类似视频，而且该内容并不会带来危害或危险，且没有违反任何 Instagram 政策。

6. Meta 提交的信息

社群守则有关暴力与煽动暴力的政策

Meta 告诉监督委员会，他们最初是根据暴力与煽动暴力政策做出了移除本案所涉内容的决定。Meta 解释说，其决定是基于帖子配文中的一句话，他们将这句话翻译为：“it is not far to make you into pieces”（很快就会让你变成碎片）。Meta 认为这句话针对的是视频中因女子未戴头巾而上前对峙的男子。Meta 的区域团队认为，在伊朗的背景下，“make you into pieces”（让你变成碎片）这个短语构成了人身伤害威胁。鉴于这种解读，Meta 最初根据其暴力与煽动暴力政策维持了删帖决定。

尽管在监督委员会最初决定要对本案进行法律审核时，Meta 维持了其删帖决定，但是 Meta 随后在监督委员会选择审理本案后，根据其区域团队提供的额外意见改变了删帖决定，并恢复了该内容。根据这些意见，Meta 认为最有可能的解释是，配文中的措辞是指推翻伊朗政权或打倒那些支持强制佩戴头巾的人，而不是针对视频中的男子发出的字面威胁。

在这次最终审核中，Meta 得出结论称，该内容旨在提高公众认知，引起人们对虐待女性行为的关注，例如视频中因未戴头巾而遭到男子对峙的女子。发帖用户提到了伊朗女性的力量，批评了拍摄视频的男子或整个伊朗政权的“bastardness”（卑劣行为），并提高了人们对视频中女子被捕一事的认知。Meta 解释说，应根据这一总体背景来阅读和理解可能有威胁意味的措辞。Meta 在其提交的理由中引用了监督委员会在“伊朗抗议口号”一案中的决定，指出这类提高认知的内容在伊朗尤其重要，因为伊朗的自由表达渠道有限。

Meta 还告诉监督委员会，经过额外的研究后，其区域团队表示，“it is not far to make you into pieces”（很快就会让你变成碎片）这句话最合理的解释是，它并不是真实的威胁，而是更普遍地针对整个伊朗政权或是那些支持强制佩戴头巾规定的人发出的政治批评。虽然“make you into pieces”（让你变成碎片）通常是指将某人碎尸万段，这里可将其理解为让政权瓦解（类似于针对秘鲁总统的隐喻式陈述简要审理决定中所述的隐喻式措辞）。

Meta 告诉监督委员会，促使他们最终恢复该内容的另一个因素是监督委员会最近在呼吁古巴女性抗议一案中做出的决定，在那起案件中，监督委员会强调了在结合背景信息阅读帖子时，应该考虑国家镇压浪潮，以及作为帖子主题的历史性抗议活动所具有的重大公共利益价值。此外，Meta 考虑了伊朗抗议口号案，在该案中，监督委员会分析了在伊朗围绕女性权利展开的政治运动。在那起案件中，监督委员会强调了在抗议运动的背景下保护自由表达的重要性，特别是考虑到伊朗政府对自由表达的系统性压制，以及数字空间作为表达异议的论坛的重要性。Meta 还指出，他们考虑了监督委员会最近在“针对秘鲁总统的隐喻式陈述”一案中的简要审理决定，其中再次强调了“设计出重视语境，能意识到反讽、讽刺或修辞性表述的审核系统至关重要，特别是出于保护政治言论的目的”。

社群守则有关配合实施伤害和宣扬犯罪行为的政策

Meta 告诉监督委员会，他们还考虑了根据社群守则有关配合实施伤害和宣扬犯罪行为的政策来移除该内容，理由是该内容在非自愿情况下曝光了视频中未戴面纱的女性。Meta 只会在升级处理阶段执行这项政策规定，且前提是获得了额外的背景信息。执行这项规定需要来自利益相关方的意见，重点在于确定该内容是否描绘了未戴面纱的女性、未经她的允许暴露了她的身份，且有可能使她处于危险之中，而不在于该内容或配文的任何具体用词或语气。Meta 指出，用户无法自我“曝光”，只有非自愿的曝光行为才会违反该政策。

在本案中，Meta 判定该内容不应由于非自愿曝光而被移除，因为这名女子的身份已广为人知并且在网上可查到，而且在本案中的内容发布之时，她已经被捕。这种情况大大降低了将该内容留在平台上有可能带来的伤害风险。

监督委员会以书面形式向 Meta 提出了 11 个问题和 2 个跟进问题。这些问题涉及：针对伊朗采用的政策执行程序以及投入的资源；Meta 针对伊朗进行的总体风险评估，以及特别针对视频中的女子进行的风险评估；自动化和人工审核流程；对描绘未戴面纱的女性的内容以及曝光高风险人群的内容的处理；批量审核和升级处理。Meta 回答了所有问题。

7. 公众评议

监督委员会收到了与本案件有关的 12 条公众评议意见。其中 7 条评议来自美国和加拿大，2 条来自中亚和南亚，2 条来自欧洲，还有 1 条来自中东和北非。

提交的评议涵盖以下主题：社交媒体在伊朗抗议活动中的作用，包括在“女性、生命、自由”运动中的作用，以及未戴面纱的女性图像在网络运动中的作用；在社交媒体上传播未戴面纱的伊朗女性图像的风险；伊朗当局对社交媒体的使用；面对有关伊朗政治形势的波斯语表达，Meta 执行内容审核政策的情况；伊朗在表达自由、人权、女性权利、政府镇压和社交媒体禁令方面的情况。

如要查阅针对本案件提交的公众评议，请点击此处。

8. 监督委员会的分析

监督委员会根据 Meta 的内容政策、人权责任和价值观，探讨了 Meta 移除该内容的最初决定。

监督委员会选择审理此案件，是因为这让监督委员会有机会在自 2022 年 9 月以来，在伊朗爆发的与女性权利和女性参与公共生活相关的大规模抗议活动的背景下，探讨 Meta 的暴力与煽动暴力政策以及有关配合实施伤害和宣扬犯罪行为的政策及其相关的政策执行流程。特别是，本案涉及社交媒体平台对于抗议强制佩戴头巾规定的人士的重要性。

此外，本案让监督委员会有机会讨论用于确定以下事项的 Meta 内部程序：在什么情况下，比喻性言论如果从字面上理解，可能会被解释为威胁，但是考虑到背景信息，不应被解释为真实威胁；原因是什么。本案主要属于监督委员会重点关注的“选举和公民领域”议题，但也涉及到监督委员会重点关注的“性别”、“政府机构对 Meta 旗下平台的使用”以及“危机和冲突事件”议题。

8.1 对 Meta 内容政策的遵守情况

社群守则有关暴力与煽动暴力的政策

监督委员会认为，本案中的内容并未违反社群守则有关暴力与煽动暴力的政策，因为它包含的是比喻性言论，表达了对政府镇压的愤怒，不能仅从字面意思就判断它构成了真实的暴力威胁。

Meta 解释说，他们最初移除本案中的内容是因为它包含“有关实施高强度暴力行为的意图陈述”。Meta 将高强度暴力行为定义为可能导致死亡或可能致命的威胁。

根据其区域团队的评估，Meta 认为在伊朗的背景下，帖子配文中的“it is not far to make you into pieces”（很快就会让你变成碎片）这句话是一种人身伤害威胁，因而违反了暴力与煽动暴力政策。

监督委员会咨询的语言专家解释说，配文中的相关部分可以翻译为“we will tear you to pieces sometime soon!”（我们很快就会把你撕成碎片！）或“it is not far away, we will rip you into shreds”（离我们把你撕成碎片不远了）。这些专家指出，在伊朗的背景下，这句话表达了对压迫者的愤怒、失望和怨恨，并暗示了一种想法，即压迫者对权力的掌控不会是永恒的，这种局面最终可能会改变。这句话不应按字面意思解释为意图造成人身伤害，而应将它看作旨在吸引关注的“修辞言论”，其中使用了“tear”（撕）或“rip into pieces/shreds”（撕成碎片）等有力的动词，用充满情感的语言来起到强调作用。这些专家强调，此类比喻性言论反映了发帖用户及其受众的强烈愤怒。因此，它并不意味着实际的人身暴力威胁。

尽管 Meta 告诉监督委员会，他们在评估威胁是否真实时还会考虑言论的背景，但是他们提供给审核员的指南并未表明审核员在评估是否存在“有关实施高强度暴力行为的意图陈述”时，可以考虑背景信息。根据该指南，只要满足相关规定的要素，具体而言，只要内容中包含威胁和目标对象，就可以认为帖子违规，本案中的情况便是如此。在本案中，Meta 认为配文中的言论针对的是与女子对峙的男子。该规定并不要求目标对象的面容或身份可辨识。作为规则，相关规定仅举了一个例子来说明被豁免或被认为不构成真实威胁的威胁言论：“针对某些暴力行为者（例如恐怖组织）实施的威胁”。

在本案中，“make you into pieces”（让你变成碎片）这个短语并不构成真实威胁。考虑到该帖发布之时，伊朗正处于动荡不安的时期，对抗议政权者的镇压和暴力不断升级，再结合配文和视频整体来看，监督委员会认为该短语是比喻性的，而不是字面意思，它表达了对伊朗政权的愤怒和失望，并不构成“有关实施高强度暴力行为的意图陈述”。此解读符合 Meta 对自由表达的承诺，以及保护政治不满言论的重要性。

社群守则有关配合实施伤害和宣扬犯罪行为的政策

监督委员会认为，本案中的内容没有违反社群守则有关配合实施伤害和宣扬犯罪行为的政策。

Meta 曾考虑根据以下规定移除该帖：禁止发布“将不戴面纱的女性置于危险之中，违背她们的意愿或未经允许而暴露她们未戴面纱的图像的内容”。此后，该政策规定经过编辑，禁止发布以下内容：“曝光下列人群的身份，致使其面临受到伤害的风险：[未戴面纱的女性]”。根据 Meta 的理解，有“曝光”行为的内容包括分享了未戴面纱的女性的图像、未经她的允许暴露了她的身份且致使其面临伤害风险的内容。这项政策规定仅在升级处理阶段适用，且需要获得不同利益相关方提供的意见才能执行（参见上文第 4 节）。

在本案中，监督委员会同意 Meta 的观点，认为该内容并没有“曝光”视频中的女子，因为她的身份已广为人知，而且在该内容发布之时，她已经被捕，因此该内容造成伤害的风险已减少。有鉴于此，将该视频留在平台上不会显著增加这名女子面临的风险，实际上，这种做法还可提高人们对她被捕一事的认知，从而对她起到保护作用。若想确定一篇帖子是否“曝光”了某位女性并使她处于危险之中，尤其要考虑背景信息；仅在升级处理阶段执行这项政策规定，可确保执行此规定的团队有时间和资源来有效地识别和考虑相关的背景信息。

8.2 对 Meta 人权责任的遵守情况

监督委员会认为，从平台上移除该内容不符合 Meta 的人权责任。

表达自由权（ICCPR 第 19 条）

ICCPR 第 19 条为表达自由提供了广泛的保护，包括“以语言、文字或出版物、艺术或自己选择之其他方式，不分国界，寻求、接受及传播各种消息及思想之自由”。若国家对表达自由权施加限制，则此等限制措施必须满足合法性、正当目的、必要性和相称性的要求（ICCPR 第 19 条第 3 款）。监督委员会使用这一框架来解读 Meta 的自愿人权承诺，这既涉及到正在接受审理的个别内容决定，也涉及到 Meta 更广泛的内容监管方法。联合国促进和保护意见和表达自由权问题特别报告员曾表示：尽管“公司没有政府的义务，但它们造成的影响则要求它们评估保护其用户表达自由权利的类似问题”（A/74/486，第 41 段）。

在伊朗这样一个封闭的社会，能使用社交媒体至关重要。作为“数字守门人”，社交媒体平台对公众获取信息“影响深远”（A/HRC/50/29，第 90 段）。本案中的帖子是更广泛的抗议运动的一部分，数字公民空间是该运动赖以生存的基础。规定女性必须如何着装的法律影响了她们的自由和尊严（A/68/290，第 38 段），不论该法律是试图禁止戴面纱，还是禁止在公共场所不戴面纱（例如，请参见Yaker 诉法国案，CCPR/C/123/D/2747/2016）。在这方面，“互联网已经成为争取妇女权利的新战场，扩大了妇女表达自己的机会”（A/76/258，第 4 段）。赋予女性自由表达的权力能够使她们参与政治并实现其人权（A/HRC/Res/23/2，第 1-2 段；A/76/258，第 5 段）。

I. 合法性（规定应清晰明确且直观透明）

根据合法性原则的要求，对表达自由的任何限制都必须符合既定的规定，且该规定对用户来说必须是清晰明确且直观透明的。该规定“必须以充分的准确性来制订”，“以使个人能够相应地约束自身行为”，并且必须“公之于众”（第 34 号一般性意见，第 25 段）。此外，限制表达的规定“不得赋予负责限制言论自由的人以不受约束的酌处权”，还要“为负责限制言论自由的人提供充分的指导，以使他们能够确定何种言论应当适当限制，何种言论不需限制”（第 34 号一般性意见，第 25 段；A/HRC/38/35 (undocs.org)，第 46 段）。如果规定不够清晰严谨，会导致对规定的执行不一致和随意执行。将此原则套用于 Meta，则意味着用户应该能够预料到在 Facebook 和 Instagram 发布内容的后果，并且内容审核员应获得清晰的政策执行指导。

社群守则有关暴力与煽动暴力的政策

监督委员会认为，对于社群守则有关暴力与煽动暴力的政策，虽然其政策依据（表达了社群守则的目的，但不是政策规定本身的一部分）中表示“背景信息很重要”，而且 Meta 在评估内容是否构成“真实威胁”时，可能会考虑背景信息，但是 Meta 的内部指南和审核方法并不能在实践中实现这一点。正如监督委员会在“伊朗抗议口号”案中所指出的，依照指示，批量内容审核员会在帖子中寻找是否有符合特定标准或要素的内容，一旦满足这些要素，审核员按照指示应该移除该帖。换言之，如果帖子中包含威胁（例如“kill”[杀死]或“I will tear you into pieces”[我会把你撕成碎片]）和目标对象，帖子就会被移除。内容审核员无权评估威胁是否真实。正如 Meta 在那起案件中所解释的，之所以采用呆板或公式化的方法是因为“想要评估[某个短语]是否是一种修辞言论，而不是真实威胁，这是有挑战性的，尤其是进行批量审核时”。对威胁是否真实的考虑是在制定规定时进行的，而不是在执行规定时进行的。正如监督委员会在“伊朗抗议口号”案中所指出的，尽管“政策依据似乎容许在抗议背景下可能出现的此类修辞言论，但书面规定和对审核员的相应指南却没有跟上。事实上，在实践中，政策执行比规定本身更公式化，尤其是进行批量审核时，这可能会让用户对规定的可能执行方式产生误解。目前起草的审核员指南排除了背景分析的可能性，即使内容本身存在明确信号，暗示威胁性语言是修辞言论。”Meta 所陈述的政策依据与实际政策执行实践之间的这种不一致仍在继续，无法充分满足合法性原则。

监督委员会重申了在“伊朗抗议口号”案中得出的结论，认为 Meta 应该围绕如何考虑背景信息，提供基于具体情况的指南，指示审核员不要默认移除表达异议的“修辞言论”或非字面意思的措辞，尤其是在像伊朗这样的敏感政治环境下。

社群守则有关配合实施伤害和宣扬犯罪行为的政策

监督委员会认为，就本案而言，Meta 的以下规定足够明确：禁止发布“将不戴面纱的女性置于危险之中，违背她们的意愿或未经允许而暴露她们未戴面纱的图像的内容”。它清楚表明，Meta 旗下平台上禁止发布“曝光”未戴面纱的女性并可能导致伤害的内容。然而，监督委员会注意到 Instagram 社群守则并未直接链接到 Facebook 社群守则有关配合实施伤害和宣扬犯罪行为的政策，并为此感到担忧。这不利于 Instagram 用户访问这些规定。在先前的案件（有关乳腺癌症状宣传与裸露内容的案件、有关奥贾兰单独监禁的案件）中，监督委员会建议 Meta 向用户公开澄清 Facebook 社群守则如何适用于 Instagram。作为回应，Meta 已经着手开展一个流程，以便将 Facebook 社群守则与 Instagram 社群守则统一起来，并指明两个平台之间的政策在哪些方面略有不同。在随后的季度透明度报告中，Meta 向监督委员会保证，此工作仍是优先事项，并指出法律和监管方面的考量影响了他们的时间表。监督委员会重申，必须尽快完成此流程，并确保适用规定清晰明确，这一点非常重要。

II. 正当目的

根据 ICCPR 第 19 条第 3 款，可出于明确而有限的理由对表达进行限制，包括出于保护他人权利的目的。在本案中，监督委员会发现，社群守则有关暴力与煽动暴力的政策旨在通过移除“存在真实的人身伤害风险或对公共安全构成直接威胁”的内容，来防止“潜在的线下伤害”。因此，这项政策是出于以下正当目的：保护生命权（ICCPR 第 6 条）和人身安全权（ICCPR 第 9 条；第 35 号一般性意见，第 9 段）。

有关配合实施伤害和宣扬犯罪行为的政策是出于以下正当目的：保护伊朗女性不受歧视的权利（ICCPR 第 2 条、第 3 条和第 26 条；CEDAW 第 1 条和第 7 条），包括享受表达自由权与集会权（ICCPR 第 19 条和第 21 条）、参与公共生活的权利（CEDAW 第 1 条和第 7 条）、隐私权（ICCPR 第 17 条），以及保护她们的生命权（ICCPR 第 6 条）、自由和人身安全权（ICCPR 第 9 条）。

III. 必要性和相称性

对表达自由的任何限制都“必须适合于实现保护功能；必须是可用来实现预期结果的诸种手段中侵犯性最小的一个；必须与要保护的利益相称”（第 34 号一般性意见，第 34 段）。除了删除内容之外，社交媒体公司还应考虑对有问题的内容有可能采取的其他各种对策，确保有针对性地采取精准的限制措施（A/74/486，第 51 段）。

社群守则有关暴力与煽动暴力的政策

监督委员会认为，Meta 最初做出的移除本案所涉内容的决定是不必要的。由于帖子配文中提到的威胁并非字面意思，因此无需用删帖的手段来保护视频拍摄者或其他人的安全。令监督委员会感到担忧的是，即使监督委员会此前在“伊朗抗议口号”案中提供了指导，在伊朗发生的抗议活动至今已持续一年多的局势下，Meta 的社群守则与提供给审核员的指南仍然为比喻性（非字面意思的）威胁的处理留下了不一致的空间。就像本案一样，那起案件涉及一个短语，Meta 未能将其识别为非字面意思的威胁言论。本案中的内容经过多名批量审核员与 Meta 内部团队的审核，并屡次被认定为违规，此事实进一步凸显了审核者持续缺乏充分指导的问题。

在分析过程中，监督委员会借助《拉巴特行动计划》中提出的六个因素，评估本案中的内容是否极有可能造成煽动歧视、暴力或其他不法行为的风险。监督委员会指出，虽然《拉巴特行动计划》中提出的因素是针对构成煽动行为的鼓吹民族、种族或宗教仇恨的言论而制定的，而不是针对一般的煽动行为，但是六因素测试法有助于评估一般的煽动行为，监督委员会以前也以这种方式使用过该测试（例如，请参见“伊朗抗议口号”案和“呼吁古巴女性抗议”案）：

• 背景：该内容发布于 2023 年 7 月，当时伊朗正处于动荡不安的时期，对抗议政权者的镇压和暴力不断升级。由于大规模互联网中断和对主要社交媒体平台（例如 Facebook、Telegram 和 X）的封禁，伊朗国内表达抗议的渠道有限。而 Instagram 是为数不多的未被禁用的平台之一，因此它在“女性、生命、自由”运动中发挥着不可估量的作用。监督委员会咨询的专家指出，该运动的矛头直指四十年来歧视女性的法律，旨在使对这些法律的抗议和反抗正常化。这些专家观察到，自从该运动开始以来，向女性灌输恐惧并在网上压制她们的声音一直是主要趋势。新出台的法律和高调的逮捕行动旨在遏制这些表达抗议的声音，并阻止使反抗头巾法的行为正常化的趋势。
• 发布言论者的身份：Meta 告诉监督委员会，他们不认为发帖用户是公众人物。根据视频的配文，该用户似乎是“女性、生命、自由”运动的支持者或成员。因此，在本案中，发布言论者并不是权威人士，且此人也有可能因表示支持和发布此内容而危及自身安全。
• 意图：虽然在对内容进行批量审核时，评估内容意图是一项巨大的挑战，但是如果以常规方式客观阅读和理解整篇帖子，就会发现它旨在表达对视频中女子的支持，以及提高人们对她被捕一事的认知。据监督委员会咨询的专家称，在伊朗，抗议者经常会在未戴面纱的女性被捕后传播其图像和姓名，以便向当局施压，确保她的安全。抗议者认识到，通过宣传这些人，可以防止受害者受到进一步骚扰。
• 内容和表达形式：据监督委员会咨询的语言专家称，在这种情况下，波斯语使用者会将“make you into pieces”（让你变成碎片）这个短语理解为是在表达一种强烈的情绪，例如愤怒和失望，而不是字面上的暴力威胁。该运动经常使用有力和明显带有威胁性的措辞来公然反对伊朗政权。在伊朗抗议口号案中，监督委员会认为“Death to Khamenei”（哈梅内伊去死）这一口号构成了“辞令性威胁”，并指出 Meta 曾出于类似原因，依据“政策的宗旨”做出例外处理，允许保留包含短语“I will kill whoever kills my sister/brother”（杀我兄弟姐妹者，我将手刃之）的内容。本案中的短语出现在配文中间，该配文赞扬了捍卫自己权利的女子。从整体来看，该配文表达了对抗议歧视性法律和伊朗政权暴行的伊朗女性的支持。
• 影响程度和传播范围：该帖获得了约 47,000 次浏览、2,000 个赞、100 条评论和 50 次分享。考虑到《拉巴特行动计划》分析方法中的其他因素，此言论似乎并不构成煽动行为，因此内容的高传播度本身并不是表明有必要删帖的因素。
• 造成危害的可能性和紧迫程度：此因素评估的是该言论是否有可能对其潜在目标对象造成迫在眉睫的伤害，在本案中，目标对象是伊朗政权。该抗议运动及其支持者反对的是一个不断对抗议者进行暴力镇压和报复的政权。在本案中，该言论最有可能引起的伤害是伊朗政权对发帖用户或视频中的女子实施的报复性暴力，而不是对伊朗政权或其支持者实施的暴力。专家们强调了这些抗议活动的参与者所面临的危险，以及尽管暴力威胁迫在眉睫，这场运动仍在继续。专家们还表示，传播被捕的未戴面纱女性的图像是为了引起人们对她们被捕一事的关注，并向当局施压，以确保她们的安全。

根据对上述因素的分析，监督委员会认为该内容并不构成真实威胁，也不能煽动线下伤害。当人们在广泛抗议遭到暴力镇压的背景下使用比喻性言论时，Meta 应该让提供给审核员的指南与背后的政策依据保持一致，使得审核员能够评估语言措辞和当地背景。为了更广泛地在危机情况下改善内容审核，必须确保准确评估一篇帖子是否属于“比喻性言论”或是否有可能煽动暴力，这一点至关重要。人工审核员提供的训练数据的质量会影响自动化审核的准确性。如果人工审核员因为严格执行某项规定而移除了“比喻性”言论，那么该错误有可能会通过自动化审核而被重复和放大。

监督委员会注意到，Meta 有许多机制可用于在危机情况下调整其政策及其执行方式，这些机制包括“危险”国家/地区分级系统，以及危机政策协议。“危险”国家/地区分级系统用于识别存在“线下伤害和暴力”风险的国家/地区，以便 Meta 确定应如何划分其产品开发工作的优先顺序，或者应如何投入其资源。其他流程（例如，是否成立特别行动小组或启用其危机政策协议）也可考虑该评估。Meta 告诉监督委员会，在 2023 年下半年，伊朗被指定为“危险国家/地区”。自 2022 年 9 月 21 日以来，根据危机政策协议，伊朗还被指定为处于危机中，并自那时起一直保持此状态。危机政策协议让 Meta 能够做出某些临时政策变更（称为“政策杠杆”），用来解决特定情况。Meta 提供了一些例子来说明已经在伊朗使用的政策杠杆，包括“做出例外处理，允许保留包含口号‘I will kill whoever kills my sister/brother’（杀我兄弟姐妹者，我将手刃之）或其衍生用语的内容，前提是该内容没有其他违反我们政策的行为”。（有关政策杠杆的更多示例，请参见 2022 年 1 月 25 日的政策交流委员会纪要：危机政策协议）。

虽然监督委员会认可 Meta 对安全的承诺，也承认 Meta 通过对伊朗启用危机政策协议来减轻潜在内容审核风险的努力，但是在异议受到系统性压制且社会局势紧张的环境中，这些努力不足以确保尊重人民的表达和集会自由。监督委员会委托第三方开展的研究表明，在 Meta 旗下平台上，当背景是讨论在伊朗戴头巾的问题时，绝大多数描绘未戴面纱的女性的内容都是由该抗议运动分享的或是为了支持该抗议运动而分享的。在本案中，Meta 的政策执行流程多次未能在相关背景下区分以下两者：比喻性（或非字面意思的）言论，以及有可能进一步造成线下伤害的真实威胁和煽动暴力行为。

监督委员会建议 Meta 在危机政策协议中添加一项政策杠杆，并据此向批量审核员提供内部标准，说明如何识别以下言论：使用了比喻性（或非字面意思的）威胁措辞，在相关背景下被认为不违反暴力与煽动暴力政策中禁止暴力威胁的规定。在制定针对危机情况的标准，用于说明如何确定一项威胁是否为比喻性而非字面意思时，Meta 可参考《拉巴特行动计划》中提到的因素（例如，广泛抗议国家镇压的背景；发布言论者是否有能力或有可能煽动人们从事伤害行为；相关的语言和社会背景，表明人们常使用强烈/情绪化的措辞来增加修辞力量；根据对当地情况的了解，该内容是否有可能造成伤害，等等）。Meta 还可依赖可信合作伙伴来帮助设计或评估审核标准。Meta 自身也强调了《拉巴特行动计划》对内容审核的实际重要性，并帮助联合国将该计划翻译成了 32 种语言。这项政策杠杆应允许在抗议政权的背景下发布“比喻性言论”，前提是这些言论无意也不可能煽动暴力。

社群守则有关配合实施伤害和宣扬犯罪行为的政策

在本案中，监督委员会认为不必根据社群守则有关配合实施伤害和宣扬犯罪行为的政策做出删帖处理，因为视频中的女子的身份已广为人知，而且用户发布该内容明显是为了引起人们对这名女子被捕一事的关注，并希望这种关注能让她获得释放。此外，多位提交公众评议者强调，这名女子是有意在公共场所不戴头巾的，这是她表达抗议的一种形式，而且她知道这么做的潜在后果，并选择“有策略地对抗权威，表达自己的反抗”（请参见 Tech Global Institute 提交的 PC-21009 号公众评议）。伊朗政权已认出视频中的女子并将她逮捕。用户分享此帖是为了引起人们对这名女子被捕一事的关注。被伊朗政权拘留的抗议者和持不同政见者遭受了酷刑、性别暴力，或失踪不见。监督委员会咨询的专家和多位提交公众评议者特别指出，呼吁关注逮捕事件和要求释放被拘留者是该运动和伊朗的人权维护者经常采用的做法，有助于保护被伊朗政权关押的人。

Meta 一方面需要保护易受攻击的用户的身份，另一方面又要避免对希望曝光的用户进行审查，平衡好这两者的关系是一个微妙的问题，需要进行背景分析、及时开展审核并快速采取行动。

9. 监督委员会的决定

监督委员会推翻了 Meta 移除该内容的最初决定。

10. 建议

1. 政策执行

为了确保在存在系统性国家镇压的环境中尊重用户的表达和集会自由，Meta 应在危机政策协议中添加一项政策杠杆，规定在相关背景下，比喻性（或非字面意思的）言论如果无意且不可能煽动暴力，则不违反暴力与煽动暴力政策中禁止暴力威胁的规定。这应该包括制定标准，让批量审核员了解如何在相关背景下识别此类言论。

当 Meta 向监督委员会分享了在伊朗实施该政策杠杆的方法以及由此产生的审核标准时，监督委员会将认为此建议已实施。

*程序说明：

监督委员会的决定由五名成员组成的审议小组做出，并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。

对于本案的审理决定，监督委员会委托第三方代其开展了独立研究。一家总部位于哥德堡大学的独立研究机构为监督委员会提供了帮助；其团队包含六大洲的 50 多位社会科学家，以及全球超过 3,200 位国家级专家。Duco Advisors 也为监督委员会提供了帮助。这是一家专注地缘政治学、信任和安全以及技术交叉研究的咨询公司。从事社交媒体趋势开源调研的组织 Memetica 也提供了分析。Lionbridge Technologies LLC 公司在语言方面提供了专业意见。这家公司的专业人员可流利使用 350 多种语言，并且遍布全球 5,000 座城市。

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة