Multiple Case Decision
性别认同和裸露内容
January 17, 2023
监督委员会推翻了 Meta 移除两篇 Instagram 帖子的最初决定,这些帖子描绘了跨性别者和非二元性别者袒露胸部的画面。
2 cases included in this bundle
IG-AZHWJWBW
Instagram 上有关性招揽的案件
IG-PAVVDAFF
Instagram 上有关性招揽的案件
案件摘要
监督委员会推翻了 Meta 移除两篇 Instagram 帖子的最初决定,这些帖子描绘了跨性别者和非二元性别者袒露胸部的画面。监督委员会还建议 Meta 更改其社群守则有关成人裸露和性行为内容的规定,以便这项政策受到尊重国际人权标准的明确标准的管辖。
案件详情
在这项决定中,监督委员会首次同时审议了两起案件。这两起案件共涉及两条不同的内容,它们皆由同一个 Instagram 帐户发布,发布时间分别为 2021 年和 2022 年。该帐户由一对美国情侣维护,两人是跨性别者和非二元性别者。
两条帖子都出现了这对情侣赤裸上身、遮挡乳头的画面。图片配文中讨论了跨性别者的医疗保健问题,并表示这对情侣中有一人不久后将接受平胸手术(让胸部变得更平坦的变性手术),两人正在筹集手术费用。
在 Meta 自动系统发出一系列提醒和其他用户提交举报后,这两篇帖子因为涉嫌违反不同的社群守则规定而接受了多次审核。Meta 最终移除了这两篇帖子,理由是它们违反了社群守则有关性引诱内容的规定,这似乎是因为它们包含袒露乳房的画面和一个指向筹款页面的链接。
发帖用户先后向 Meta 和监督委员会提出了申诉。在监督委员会选择审理这两起案件后,Meta 发现这两篇帖子属于误删,并恢复了这些帖子。
主要结论
监督委员会认为,移除这两篇帖子的做法不符合 Meta 的社群守则、价值观或人权责任。这两起案件也突显了 Meta 政策的根本问题。
对于何时应根据有关性引诱内容的政策来移除内容,Meta 给审核员的内部指南中规定的范围比公开可用的指南或该政策中所述的理由要广得多。这给用户和审核员带来了困惑,而且就像 Meta 所承认的那样,这导致内容被误删。
在其中至少一起案件中,相关帖子由自动系统提交给审核员进行人工审核,该自动系统经过训练,用于执行社群守则有关成人裸露和性行为内容的规定。这项守则禁止发布包含女性乳头的图像,但是特定情况除外,例如以哺乳和变性手术为背景的情况。
此政策是基于二元性别观和男女身体之间的区别。这样的方法令人不清楚这些规定应该如何适用于双性人、非二元性别者和跨性别者,并且要求审核员快速对所描绘人物的生理性别和社会性别做出主观评估,这在大规模审核内容时是不现实的。
有关女性乳头的规定中存在的限制和例外情况是广泛而令人困惑的,尤其是当它们应用于跨性别者和非二元性别者时。该政策的例外情况包括抗议行动、分娩场景,以及与医疗和健康相关的情况,例如平胸手术和提升对乳腺癌的认知。这些例外情况往往令人费解,定义也不明确。比如说,在某些情况下,审核员必须评估可见疤痕的程度和性质,以确定是否适用某些例外情况。这项政策内在的不明确性给用户和审核员带来了不确定性,并使其在实践中无法妥善执行。
监督委员会一直表示,Meta 必须对其政策会如何影响受歧视人群保持敏感(比如说,可参见“贝壳串珠带”案和“给某些阿拉伯词语重新赋予积极意义”案中的审理决定)。而在本文所讨论的两起案件中,监督委员会认为,Meta 有关成人裸露内容的政策对其旗下平台上女性、跨性别者和非二元性别者的表达造成了更大的障碍。比如说,在传统上女性可能会坦露胸部的情况下,这些政策会造成严重影响,而且正如这两起案件所示,LGBTQI+ 人群可能会受到尤其严重的影响。Meta 的自动系统多次判定该内容涉嫌违规,尽管该内容其实并未违反 Meta 政策。
Meta 应该努力制定并实施能解决所有这些问题的政策。Meta 应该改变对其旗下平台上裸露内容的管理方法,通过定义明确的标准来管辖有关成人裸露和性行为内容的政策,确保以符合人权标准的方式对待所有用户。Meta 还应检查有关成人裸露和性行为内容的政策是否可以防止未经同意的图像分享,以及在这方面是否需要加强其他政策。
监督委员会的决定
监督委员会推翻了 Meta 移除这两篇帖子的最初决定。
监督委员会还建议 Meta:
- 定义明确、客观、尊重权利的标准来管辖其社群守则有关成人裸露和性行为内容的规定,以便能以符合国际人权标准的方式对待所有用户,而不存在基于生理性别或社会性别的歧视。Meta 首先应该对该等变更开展全面的人权影响评估,让各种不同的利益相关者参与到评估中来,并制定计划来解决所发现的任何隐患。
- 在社群守则有关性引诱内容的公开规定中,提供与移除内容的标准有关的更多详细信息。
- 对于社群守则有关性引诱内容的规定,修改其提供给审核员的相关指南,以便能更准确地反映有关该政策的公开规定。这有助于减少 Meta 这边的政策执行失误。
*案件摘要是对案件的概述,不具有先例价值。
案件审理决定全文
1. 决定摘要
监督委员会推翻了 Meta 在两起案件中移除 Instagram 帖子的最初决定。Meta 承认,他们在这两起案件中的最初决定都是错误的。这两起案件引发了人们对 Meta 政策会如何过度影响其旗下平台上女性和 LGBTQI+ 用户的表达权利的重要关切。监督委员会建议 Meta 定义明确、客观、尊重权利的标准来管辖其有关成人裸露和性行为内容的整个政策,确保以符合国际人权标准的方式平等对待所有用户,避免基于生理性别或性别认同的歧视。Meta 首先应该开展全面的人权影响评估来评估采用此类标准的影响,这包括让具有不同意识形态、地理和文化背景的各种利益相关者广泛参与进来。此评估若发现任何隐患,则新政策的落实应包含一个用于解决这些隐患的缓解计划。
监督委员会进一步建议 Meta 澄清其有关性引诱内容的公开政策,并缩小其内部执行指南的范围,以便更好地针对此类违规行为。
2. 案件说明和背景资料
这两起案件涉及 Meta 做出的两项内容决定,监督委员会将在此审理决定中一并解决。由一对美国情侣共同维护的一个帐户在 Instagram 发布了两张不同的图片,并且都配上了文字。这两张图片的主角都是这对情侣,两人在帖子里以及提交给监督委员会的信息中都声明了他们是跨性别者和非二元性别者。
Meta 以违反社群守则有关性引诱内容的规定为由,移除了这两篇帖子。在这两起案件中,Meta 的自动系统都判定相关内容涉嫌违规。
第一张图片发布于 2021 年,两人都袒露胸部,乳头部位用肉色胶带遮挡。第二张图片发布于 2022 年,其中一人穿了衣服,另一人则坦露胸部,用手遮住乳头部位。两张图片的配文中都提到,在两张图片中都坦露胸部的那个人不久后将接受平胸手术,也就是让胸部变得更平坦的变性手术。他们表示打算记录手术过程,并讨论了跨性别者的医疗保健问题。两人宣布他们正在举行一项筹款活动来筹措手术费用,因为这个手术难以得到承保。
在第一起案件中,相关图片起先被自动分类为不太可能违规。收到的举报在未经审核的情况下被关闭,因而该内容一开始继续留在平台上。随后,三位用户以色情和自残为由举报了该内容。人工审核员在审核这些举报后,判定帖子并未违规。当该内容第四次被用户举报后,另一名人工审核员判定此帖违反了社群守则有关性引诱内容的规定,并将帖子移除。
在第二起案件中,相关帖子两次被 Meta 的自动系统判定为涉嫌违规,然后发给审核员进行人工审核,在两次审核中,审核员均认为此帖未违规。后来有两位用户举报了该内容,但这两项举报都未经人工审核就自动关闭了,该内容继续留在 Instagram 上。最后,Meta 的自动系统第三次判定该内容涉嫌违规,并将该内容发给审核员进行人工审核。最后两次,Meta 有关成人裸露和性行为内容的自动分类技术均标记了该内容,但反复进行这些审核的原因尚不清楚。最后这名人工审核员判定此帖违反了社群守则有关性引诱内容的规定,并将帖子移除。
帐户所有者就这两项删帖决定向 Meta 提出了申诉,然后在这两起案件中,相关内容都得到了人工审核员的审核。但是,这些审核并没有使得 Meta 恢复这两篇帖子。于是,帐户所有者就这两项删帖决定向监督委员会提出了申诉。监督委员会决定同时审议这两起案件,这对监督委员会来说尚属首次。这么做的好处在于找出 Meta 内容政策和流程中的类似问题,并提供这些问题的解决方案。
在监督委员会选择了这些帖子并要求 Meta 提供做出删帖决定的理由后,Meta 确定删帖的做法属于“执行失误”,并恢复了这两篇帖子。
在考虑为什么这两起案件代表着重要问题时,监督委员会注意到了这两起案件收到的大量公众评议并将它们作为相关背景,其中许多评议意见来自跨性别者、非二元性别者或顺性别女性,他们解释说,他们个人曾受到执行失误以及与这两起案件类似的问题的影响。
监督委员会还注意到了公众评议中引用的学术研究(作者:Haimson 等人;Witt、Suzor 和 Huggins)以及 Salty 关于算法偏见和对边缘群体的审查的两份报告,并将它们作为相关背景。这些研究发现,当这两起案件中讨论的这两项社群守则出现执行失误时,会对女性和 LGBTQI+ 人群造成尤其严重的影响。其中一项研究的一名共同作者是监督委员会成员。
3. 监督委员会的权力和管辖范围
在收到被移除内容的用户提出的申诉后,监督委员会有权审核 Meta 的决定(章程第 2 条第 1 款;细则第 3 条第 1 款)。
监督委员会可以维持或推翻 Meta 的决定(章程第 3 条第 5 款),并且其决定对该公司具有约束力(章程第 4 条)。此外,Meta 还必须评估将监督委员会的决定应用于具有同等语境的相同内容的可行性(章程第 4 条)。监督委员会的决定可能包括内含建议的政策咨询声明,Meta 必须对此做出回应(章程第 3 条第 4 款;章程第 4 条)。
监督委员会选择审理本案后,Meta 承认其决定有误,监督委员会在遇到像这样的情况时,会审核 Meta 的最初决定。这是为了更好地了解导致失误的政策参数和内容审核流程,并解决监督委员会在基本政策中发现的问题。监督委员会还希望提出建议,帮助 Meta 减少在未来再次失误的可能性,让 Meta 在今后能更加公平地对待用户。
当监督委员会发现涉及类似问题的案件时,这些案件可能被分配给同一个审议小组,同时一并审议。监督委员会将针对每一条内容做出有约束力的决定。
4. 权威来源
监督委员会考虑了以下权威来源和标准:
I. 监督委员会的决定:
- “给某些阿拉伯词语重新赋予积极意义”案的审理决定(2022-003-IG-UA)。监督委员会分析了应用政策例外情况的挑战,以及一些政策选择造成的过度影响。
- “贝壳串珠带”案的审理决定(2021-012-FB-UA)。监督委员会分析了应用政策例外情况的挑战,以及一些政策选择造成的过度影响。
- “乳腺癌症状与裸露内容”案的审理决定(2020-004-IG-UA)。监督委员会分析了 Instagram 社群守则,并建议 Meta 澄清有一种例外情况是提升对乳腺癌的认知。
II. Meta 内容政策:
这两起案件涉及 Instagram 社群守则和 Facebook 社群守则。Meta 在政策及信息公示平台中称:“Facebook 和 Instagram 有一套共用的内容政策。这意味着,违反 Facebook 社群守则的内容同样也违反了 Instagram 社群守则。”
性引诱
Instagram 社群守则中禁止“提供性服务”。这条规定链接到 Facebook 社群守则有关性引诱内容的规定。
在针对性引诱内容的政策依据中,Meta 表示:“但我们禁止发布煽动、鼓励或促成成人间性接触或商业性服务的内容。这样做是为了避免促成可能涉及非法买卖、胁迫和非自愿性行为的交易。同时,我们还禁止使用可能存在性引诱之意的露骨色情语言,因为我们全球社群的部分用户可能对此种内容敏感,并且这些内容可能会阻碍用户与好友和更广泛社群交流互动。”
Facebook 社群守则有关性引诱内容的规定中表示,Meta 禁止露骨和含蓄的性引诱。含蓄的性引诱有两个条件,内容必须同时符合这两个条件,才可被视为违反该政策。第一个条件是“提供或寻求”性引诱,这是指“内容中存在含蓄或间接(通常以联系方式为媒介)提供或寻求性引诱的问题”。第二个条件是“性暗示元素”,这是指“内容中存在借助下方一种或多种性暗示元素来提供或寻求前述性引诱的问题”。列出的性暗示元素包括“地区性色情俚语”和“姿势”。
成人裸露和性行为
Instagram 社群守则表示用户应该:“发布适合分享给多元化人群的照片和视频。我们理解用户有时候可能会出于艺术或创作之目的而想要分享裸露图像,但考虑到种种理由,我们不允许在 Instagram 上发布此类图像。此类图像包括描绘性交、生殖器以及全裸臀部特写镜头的照片、视频及某些通过数字化手段创建的内容,另外还包括部分裸露女性乳头的照片,但描绘哺乳、分娩期和分娩后亲子时刻、与健康相关(例如:乳房切除术后图像,提升对乳腺癌的认知,或变性手术)或抗议游行情况除外。”这一节链接到 Facebook 有关成人裸露和性行为内容的政策,后者提供了有关这些规定的更多详细信息。
在社群守则有关成人裸露和性行为内容的规定的政策依据中,Meta 解释道:“我们禁止展示裸体或性活动的内容,因为我们社群的部分用户可能不适合看到这种内容。此外,我们会默认移除色情图像,防止非自愿性或不符合年龄要求的内容得以传播。”
Facebook 有关成人裸露和性行为内容的政策中还规定:“禁止发布以下内容:裸露的女性乳头,但描绘哺乳、分娩期间和分娩后亲子时刻、医疗或健康知识(例如,乳房切除术后图像,提升对乳腺癌的认知,或变性手术)或抗议行动的情况除外。”用户也可以在“与医疗或健康相关”(包括变性手术)的情况下发布生殖器官的图像,但是系统会添加警告标签,提醒人们该内容属于敏感内容。内部指南中还有至少 18 个与乳头图像和这些例外情况相关的其他因素。
III. Meta 的价值观:
Facebook 社群守则的简介部分概述了 Meta 的价值观,其中称“自由表达”价值观“至为重要”。
Facebook 社群守则矢志不渝的宗旨是打造一个可自由表达的平台。[…]我们希望用户能够坦诚地谈论他们关注的问题,即使一些人可能会不赞同或觉得反感。
Meta 通过四种价值观来限制“自由表达”,其中两种价值观与这里的案件相关:
“安全”:我们致力于维护 Facebook 平台的安全环境。威胁他人的内容可能会令人感到恐惧、受到排斥或陷入沉默,Facebook 不允许发布这些内容。
“尊严”:我们认为,所有人的尊严和权利都是平等的。我们希望用户尊重他人的尊严,不骚扰或贬低他人。
IV. 国际人权标准:
2011 年,联合国人权理事会批准了《联合国工商企业与人权指导原则》(UN Guiding Principles on Business and Human Rights,简称 UNGP),为私营企业的人权责任确立了自愿性框架。2021 年,Meta 发布了自己的企业人权政策,重申了其根据 UNGP 做出的尊重人权的承诺。监督委员会参考以下人权标准,分析了 Meta 在这两起案件中的人权责任:
- 意见和表达自由权:《公民权利和政治权利国际公约》(International Covenant on Civil and Political Rights,简称 ICCPR)第 19 条,人权事务委员会第 34 号一般性意见,2011 年;第 488/1992 号来文;人权理事会第 32/2 号决议,2016 年;联合国促进和保护意见和表达自由权问题特别报告员的报告:A/HRC/38/35(2018 年)和 A/74/486(2019 年)。
- 女性的权利:《消除对妇女一切形式歧视公约》(Convention on the Elimination of All Forms of Discrimination Against Women,简称 CEDAW)第 2 条和第 5 条。
- 不受歧视的权利:ICCPR 第 2 条第 1 款和第 26 条。Nepomnyashchiy 诉俄罗斯联邦案,人权事务委员会,2018 年(CCPR/C/123/D/2318/2013)。
5. 用户提交的信息
在就这两起案件提交的信息中,发帖用户表示他们相信这些内容被移除是因为跨性别恐惧症。他们写道,如果监督委员会确认这些内容应该保留在平台上,那么这一决定将有助于使 Instagram 成为一个对 LGBTQI+ 人群更友好的表达空间。
6. Meta 提交的信息
Meta 在其决定理由中解释道,两篇帖子被删均属政策执行失误,它们都没有违反其有关性引诱内容的政策。Meta 表示:“发帖用户称得上是‘提供或寻求’的行为只有请求人们向筹款活动捐款或访问网站购买 T 恤,两者都与性引诱无关。”
Meta 还表示,两篇帖子均未违反其社群守则有关成人裸露和性行为内容的规定。该决定理由说道,内部“审核员指南具体说明了如何处理非二元性别者、性别中立人士或跨性别者的裸露内容”。这两起案件中的内容“明显是在非二元性别或跨性别背景下分享的,这从内容的整体主题(打算进行平胸手术)和所使用的话题标签就可以看出来”。Meta 得出结论称:“即使在这两起案件中,乳头部位未遮挡,是可以看见的,这两篇帖子也不会违反我们有关成人裸露和性行为内容的政策”。Meta 还承认,在两张图片中,乳头部位都被“完全遮挡”。
鉴于内容被移除后已经过了一段时间,Meta 无法告诉监督委员会,判定这些内容涉嫌违规的各种自动系统按照设定的程序执行了哪条或哪些政策。在一起案件中,Meta 解释说,相关内容两次被有关成人裸露和性行为内容的分类技术列入审核队列。对于为什么审核员认为该内容违反了有关性引诱内容的政策,Meta 也无法提供任何解释。该决定理由承认,Meta“意识到,一些内容审核员由于过度技术化地应用我们内部的审核员指南,可能会认为内容中存在含蓄的性引诱(即使并没有)而误删该内容”。
监督委员会向 Meta 提出了 18 个问题,Meta 回答了所有问题。
7. 公众评议
监督委员会考量了与这两起案件有关的 130 条公众评议。其中 97 条评议来自美国和加拿大,19 条来自欧洲,10 条来自亚太地区和大洋洲,1 条来自拉丁美洲和加勒比地区,1 条来自中东和北非,1 条来自撒哈拉以南非洲,还有 1 条来自中亚和南亚。
提交的评议涵盖以下主题:来自跨性别、非二元性别和女性用户的内容被误删;在确定平台上允许发布何种形式的裸露内容时,基于社会性别的区别对待的不公平性和不平等性;对社群守则有关成人裸露和性行为内容的规定以及有关性引诱内容的规定允许发布哪些内容的困惑;以及在 LGBTQI+ 人群的权利受到威胁的社会中,社交媒体在表达方面的重要性。
如要查阅针对这两起案件提交的公众评议,请点击此处。有若干条提交的评议没有被包括在内,因为它们包含除评议者之外的个人身份信息。
8. 监督委员会的分析
监督委员会通过以下三个方面酌情考虑是否应该恢复展示这两篇帖子:Meta 的内容政策;公司的价值观;及其人权责任。
监督委员会之所以选择审理这两起案件,是因为移除边缘群体成员发布的未违规内容会影响他们的表达自由。鉴于 Instagram 可能是这些群体建立社群的重要论坛,所以这一点特别重要。这两起案件表明了政策执行失误会如何对某些群体造成尤其严重的影响,并且可能标志着政策和执行中存在更广泛的问题,应该加以解决。
8.1 对 Meta 内容政策的遵守情况
监督委员会认为这两篇帖子未违反任何 Meta 内容政策。虽然 Instagram 社群守则适用于 Instagram,但是 Meta 也表示“Facebook 和 Instagram 有一套共用的内容政策。违反 Facebook 社群守则的内容同样也违反了 Instagram 社群守则。”Facebook 社群守则提供了更多详细信息,这些守则的链接可在 Instagram 社群守则中找到。
a. 性引诱
根据社群守则有关性引诱内容的规定,含蓄的性引诱需要符合两个条件:
- 内容中存在含蓄提供或寻求性引诱的问题,且
- 内容中存在性暗示元素。
含蓄提供或寻求性引诱。
在社群守则有关性引诱内容的规定中,含蓄提供或寻求性引诱被定义为“内容中存在含蓄或间接(通常以联系方式为媒介)提供或寻求性引诱的问题”。Meta 的《已知问题》向审核员提供了额外的内部指南,在《已知问题》中有一份列表,列出了会被视为含蓄提供性引诱而触发内容移除的联系方式,其中包括社交媒体主页链接和“指向基于订阅的网站(例如,OnlyFans.com 或 Patreon.com)的链接”。在这两起案件中,相关内容都提供了指向某个平台的链接,在那里,发帖用户举办了一项筹款活动来筹措手术费用。因为 Meta 的内部标准对“含蓄提供或寻求性引诱”的定义非常广泛,所以根据 Meta 给审核员的指南,此链接在技术上符合“提供或寻求”性引诱的条件,尽管它并未违反公开的守则,因为公开的守则中规定,“提供或寻求”这一行为的目的必须与性有关,才算符合条件。
性暗示元素。
社群守则提供了一份性暗示元素的列表,其中包括“姿势”。《已知问题》中提供了一份列表,列出了带有性暗示的姿势,包括“以数字方式或者用人体部位或物体遮挡的裸露女性乳房”。Meta 称这份列表是详尽无遗的。监督委员会注意到,在这两张图片中,乳房被人体部位(双手)或物体(胶带)遮挡。在这两起案件中,帖子内容清楚表明了照片中的人物是跨性别者和非二元性别者,这意味着照片中描绘的乳房属于不认为自己是女性的个人。监督委员会还认为,这些内容没有性暗示意味。若要判定内容违反有关性引诱内容的政策,第二个条件是内容中存在性暗示元素,例如带有性暗示的姿势(包括被遮挡的女性乳房),但是鉴于上面所说的因素,这些内容并不满足这个条件。
因为没有满足第二个条件,所以这两篇帖子没有违反这项守则。再来看第一个公开的判定条件,其中规定“提供或寻求”这一行为的目的必须与性有关,才算是“提供或寻求”性引诱,因此根据这一条件,这两张图片也不构成性引诱。
b. 成人裸露和性行为
根据社群守则有关成人裸露和性行为内容的规定,用户不得发布展示“裸露的女性乳头”的图像,“但描绘哺乳、分娩期间和分娩后亲子时刻、医疗或健康知识(例如,乳房切除术后图像,提升对乳腺癌的认知,或变性手术)或抗议行动的情况除外”。Meta 的《已知问题》进一步指出,审核员应该允许“在明显是女跨男跨性别者、非二元性别者或性别中立人士背景下(例如,当用户表明了这类性别认同的情况下)分享的乳头图像,不论乳房的大小或形状是怎样的”。这两起案件中的图片均未违反这项社群守则。
首先,两张图片均未露出乳头。在这两张图片中,人物用其双手或胶带遮挡住了自己的乳头。其次,监督委员会指出,哪怕露出了乳头,发帖用户在分享图片时也通过配文清楚说明了他们是非二元性别者。因此,这些内容并未违反这项政策。
8.2 对 Meta 价值观的遵守情况
监督委员会认为,移除这两篇帖子的最初决定违背了 Meta 的“自由表达”和“尊严”价值观,也不符合其“安全”价值观。
对受歧视群体影响尤甚的政策执行失误会给“自由表达”和“尊严”带来严重威胁。虽然 Meta 在阐述其人权论点时讨论了“安全”方面的考量,尤其是与未经同意的图像分享、性贩卖和儿童虐待相关的安全考量,但是监督委员会认为,移除这两篇帖子并不能促进“安全”。
8.3 对 Meta 人权责任的遵守情况
表达自由权(ICCPR 第 19 条)
ICCPR 第 19 条为表达自由提供了广泛的保护,包括对人权的讨论以及人们可能会认为具有冒犯性的表达(第 34 号一般性意见,第 11 段)。人人都享有自由表达的权利,不得因“性别”或“其他身份”而受到歧视(ICCPR 第 2 条第 1 款)。人权事务委员会在 Nepomnyashchiy 诉俄罗斯联邦案 (CCPR/C/123/D/2318/2013) 等案件中已确认,禁止歧视包括禁止基于性别认同的歧视。
这两起案件中的内容涉及重大的社会议题。对这些用户而言,Instagram 提供了一个论坛来供他们讨论和展现自己的社会性别表达,来供他们交流互动和获取支持。这些内容还可能会直接影响到用户进行变性手术的能力,因为两篇帖子均解释说,其中一人将接受平胸手术,并分享了筹款活动来筹措手术费用。
第 19 条规定,若国家对表达施加限制,则这些限制必须满足合法性、正当目的、必要性和相称性的要求(ICCPR 第 19 条第 3 款)。联合国促进和保护意见和表达自由权问题特别报告员根据 UNGP 框架,呼吁社交媒体公司确保其内容准则以 ICCPR 第 19 条第 3 款的要求为指导(A/HRC/38/35 第 45 和 70 段)。监督委员会采用这个框架来分析 Meta 的政策和执行。
在本案中,监督委员会认为,Meta 有责任制定和执行符合这些标准的政策,但 Meta 没有履行这些责任。就有关性引诱内容的政策而言,用于根据该政策来移除内容的内部标准比该政策所述的理由范围更广,这造成了过度执行的后果,Meta 自己也意识到了这点。社群守则有关成人裸露和性行为内容的规定对女性和 LGBTQI+ 用户影响尤甚,并且依赖于对生理性别和社会性别的主观判断和推测,这在进行大规模内容审核时是行不通的。监督委员会分析了这些不足,并建议 Meta 启动一个全面的流程来解决这些问题。
I. 合法性(规定应清晰明确且直观透明)
用于限制表达的规定必须清晰明确且直观透明,这样一来,不论是负责执行规定的人还是用户都能知道哪些内容是允许发布的。这两起案件中审议的两项社群守则都未达到该标准。
a. 性引诱
监督委员会认为,就社群守则有关性引诱内容的规定而言,提供给审核员的相关内部指南中包含过于宽泛的标准。这种制定不当的指南导致了审核员对政策的过度执行,也给用户带来了困惑。Meta 承认这一点,因为他们向监督委员会解释说,在内容符合含蓄提供或寻求性引诱的条件,但是显然“不存在性引诱意图”的情况下,运用其内部指南可能会“导致过度执行”。
这项政策的两个条件中都有这种令人困惑之处。在社群守则有关性引诱内容的规定中,有一个判定条件是“提供或寻求”性引诱,对于这个条件,公开规定中提到了引诱方以“联系方式”作为性引诱的媒介。然而,给审核员的指南《已知问题》中说道,构成含蓄“提供或寻求”性引诱的“联系方式”包括社交媒体主页链接或指向基于订阅的第三方网站(例如 Patreon)的链接。Meta 并未向用户清楚说明,任何指向其他社交媒体主页、第三方支付平台或筹款链接(例如 Patreon 或 GoFundMe)的链接都可能意味着他们的帖子被视为性引诱。监督委员会收到的许多公众评议中也反映了这种困惑,提交这些评议意见的人不明白为什么包含此类第三方链接的内容被移除或导致他们的帐户被封禁。
第二个条件要求内容中存在性暗示元素,这个要求宽泛而模糊,而且与 Meta 有关成人裸露和性行为内容的政策不一致。在公开的社群守则中,“带有性暗示的姿势”属于性暗示元素。《已知问题》中则提供了一份详细列表,列出了“带有性暗示的姿势”,其中包括赤裸上身并用手或物体遮住乳房的姿势。用户可能无法预料到,任何图像中遮住乳房的姿势都被认为是带有性暗示的姿势。而有关成人裸露内容的政策中允许发布赤裸上身但遮住了乳头的照片,这一事实加剧了这种困惑。从这方面来看,在一项政策下被认为具有性意味的内容在另一项政策下却不会被认为具有性意味。
除了用户不明就里之外,审核员对这些内容反复得出不同结果的事实也表明,审核员对哪些内容应被视为性引诱缺乏明确的认识。
Meta 针对含蓄的性引诱的两个判定条件制定了相关的内部指南,但是正如 Meta 所承认的那样,运用该内部指南,会导致没有寻求性行为的内容被移除。从长远来看,修改这项政策的范围或许能最好地解决误删问题。但是,在短期内,监督委员会建议 Meta 修改其内部指南,确保相关标准反映公开的规定,并要求“提供或寻求”性引诱的行为与“性暗示元素”之间有更明确的联系。Meta 还应在公开的社群守则中向用户提供更详细的解释,说明什么样的内容会构成“提供或寻求”性引诱,以及什么样的内容会构成带有性暗示的姿势。
b. 成人裸露和性行为
社群守则有关成人裸露和性行为内容的规定以基于生理性别和社会性别的区别对待为前提,这些区别对待难以执行,而且包含定义不明确的例外情况。该政策中的某些规定令用户感到困惑,他们不知道哪些内容是允许发布的。这也给审核员带来了困惑,他们必须根据难免不完整的信息进行主观评估,并快速运用具有众多因素、排除条件和假设的规定。
尽管政策中使用的语言措辞侧重于特定的身体部位,而不是性别(而且用户在自己的主页上可以从各种性别身份中选择自己认同的性别),但是 Meta 的大多数规定都没有解释 Meta 如何处理描绘双性人、跨性别者或非二元性别者的内容。例如,该政策提到了“男性和女性裸露的生殖器图像”、“女性乳房”和“女性乳头”,但是并未清楚说明这些描述如何适用于那些从身体和身份上看可能不符合这些定义的人。许多跨性别者和非二元性别者向监督委员会提交了公众评议,表示用户不知道他们的内容是根据他们自己认同的性别、他们出生时被指定的性别还是根据他们的外表因素来进行评估和分类的。
现行的规定要求人工审核员既要快速评估用户的生理性别(因为此政策适用于“女性乳头”),又要快速评估用户自己认同的性别,因为根据所描绘的人物是否是非二元性别者、性别中立人士、跨性别者,或者内容是否是在变性手术的背景下发布的,此政策存在例外情况。在判断某人的生理性别和社会性别时,需要解读背景信息线索和分析此人的外表,这两者都是主观判断,容易产生失误。
Meta 的“默认为女性原则”使得这一方法变得更加复杂,根据这一原则,在有疑问的情况下,会适用针对女性(而不是男性)裸露内容的政策,这些政策更具限制性。《已知问题》中规定,当背景信息不明确,而图像中的人物“外表为女性,或者存在男跨女跨性别者的背景信息时,则默认为是女性裸露内容,并适用相关政策”。
有关女性乳头的规定存在众多限制和例外情况,这些限制和例外情况范围广泛且令人困惑。例外情况包括抗议行动、分娩和哺乳场景,以及与医疗和健康相关的情况,例如乳房切除术后图像和提升对乳腺癌的认知。例外情况往往没有得到定义,或定义不明确。随着时间推移,例外情况列表中的项目也大幅增加,而且预计随着表达的不断发展变化,其中的项目会继续增多。对于女性乳房,Meta 有关成人裸露和性行为内容的政策默认这类描绘构成色情图像。然而,不断扩大的例外情况列表反映出,在该政策承认的许多情况下,女性乳房的图像并没有性暗示意味。
即使是对于每种例外情况,也有很多疑问。例如,变性手术例外情况对跨性别和非二元性别用户特别重要,但是 Meta 没有在其公开规定中解释变性手术例外情况的范围。这使得许多公众评议都表达了对此的困惑,评议者表示不知道例外情况下允许发布的内容是否包括术前照片(用于创建前后对比图像)以及接受了隆胸手术的跨性别女性的图像。内部指南和《已知问题》清楚地表明,这一例外情况比公开指南所暗示的范围更窄。
Meta 的政策以基于二元性别(男性和女性)的区别对待为前提,当 Meta 试图阐明其变性手术例外情况时,就会因此遇到挑战。在给监督委员会的回应中,Meta 解释道,变性手术例外情况是指 Meta 允许发布“在接受切除乳房的平胸手术前露出女性乳头的图像,前提是该内容明显是在女跨男跨性别者、非二元性别者或性别中立人士背景下分享的”。这些规定进一步表示“禁止发布接受过隆胸手术的男跨女跨性别者的乳头图像,除非乳头上存在疤痕”。
关于手术疤痕和乳头的内部指南甚至更令人费解。比如说,有关乳房切除术的规定中允许“乳头是从其他组织重建或者乳头上有印花或纹身的情况”以及“至少有一个乳房经手术切除的情况,即使另一个裸露的女性乳头是可见的”。更令人困惑的是,这些规定表示“对于乳房切除术,疤痕包括对被切乳房组织原来所在区域的描绘。不需要显露实际的手术疤痕”。
审核员很可能在应用这些规定时感到万分棘手,因为这些规定要求他们快速评估所描绘人物的生理性别特征,以便决定是否应用有关女性乳头的规定,然后要快速评估此人的社会性别,以便确定某些例外情况是否适用,接下来考虑该内容是否描绘了手术程序之前或之后的情景,是什么手术程序,以及可见疤痕的程度和性质,以确定是否可适用其他例外情况。同一张看起来为女性乳头的图片,如果是由顺性别女性发布的,则会被禁止,但是如果是由自认为是非二元性别的人士发布的,则会被允许。监督委员会还注意到了与乳头相关的其他例外情况,这些例外情况基于抗议行动、分娩、分娩后和哺乳等背景。监督委员会没有在这两起案件中讨论这些例外情况,但是这些例外情况也必须得到评估,而且可能涉及其他内部标准。
鉴于与社会性别、身体健康、分娩和育儿等事项相关的表达权利十分重要,目前各种例外情况错综复杂,给用户造成了不应有的不确定性,并有可能造成规定的误用,本案就是明证。这项政策从内在来说对用户和审核员缺乏明确性,使得该守则不可行。正如下文进一步讨论的那样,监督委员会认为 Meta 应该采用一种适当的方法来处理成人裸露内容,确保所有用户都不会受到基于生理性别或性别认同的歧视。
II. 正当目的
ICCPR 第 19 条规定,国家只能出于正当目的而限制表达,这些目的包括:“尊重他人权利或名誉;[以及]保障国家安全或公共秩序、或公共卫生或风化”。此审理决定根据这些标准,审议了 Meta 在其政策中限制言论的理由。
a. 性引诱
Meta 在其有关性引诱内容的政策中解释说,此政策是为了避免用户使用 Facebook 或 Instagram 来“促成可能涉及非法买卖、胁迫和非自愿性行为的交易”,这些交易可能在平台外发生。这是一个保护他人权利的例子,属于正当目的。
b. 成人裸露和性行为
对于有关成人裸露和性行为内容的政策,Meta 为此政策的特定方面提供了多项理由,包括防止非自愿内容的传播、当用户的年龄不明确时保护未成年人,以及“我们社群的部分用户可能不适合看到这种内容”这一事实。Meta 还向监督委员会解释了其关于裸露内容的一般原则。Meta 表示:“在起草政策时,Meta 考虑了 (1) 图像的私密性或敏感性;(2) 拍摄和分享裸露图像时是否征得了当事人的同意;(3) 性剥削的风险;以及 (4) 曝光此类图像是否会导致平台外的骚扰,特别是在此类图像可能具有文化冒犯性的国家/地区”。
其中大多数目标与保护他人权利是一致的。然而,Meta 有一个理由是保护“不适合看到这种内容的社群用户”,这个理由值得进一步探讨。此理由有可能与保护“公共道德”的正当目的一致。尽管如此,监督委员会注意到,政府言论监管机构有时会不当地援引保护“公共道德”的目的来侵犯人权,尤其是少数群体和弱势群体成员的人权。人权事务委员会告诫说:“道德观念来源于许多社会、哲学和宗教传统;因此,为了保护道德对…….实行的限制必须基于不光是来自单一传统的原则”(人权事务委员会第 34 号一般性意见)。
虽然人权法确实承认公共道德可以构成国家限制自由表达的正当目的,而且世界各地都存在对公开裸露内容的限制,但是在本案的具体背景下,Meta 强调了除保护“不适合看到这种内容的社群用户”之外的目的。Meta 表示:“尽管[其]有关裸露内容的政策与保护公共道德是一致的,但是 Meta 所实行的限制最终不是基于此目的,因为在不同文化背景下,有关裸露内容的道德标准存在很大差异,而且无法大规模实施。”例如,在世界许多地方和许多社群中,对跨性别者和非二元性别者裸露乳房的描绘很可能被认为是社群中的部分用户不适合看到的内容。但是 Meta 并未限制这类表达。此外,Meta 的政策给女性、跨性别者和非二元性别者的表达带来了已知的和反复出现的过度负担(见下文),监督委员会也对此感到担忧。出于这些原因,监督委员会在探讨 Meta 的人权责任时,重点并没有放在 Meta 提出的保护“不适合看到这种内容的社群用户”这一理由上,而是侧重于除此之外的其他目的。
值得注意的是,对于有关裸露内容的政策,Meta 为此政策提供的一些理由反映了一种作为依据的默认假设,那就是女性乳房具有性暗示性质。监督委员会收到了来自许多用户的公众评议,他们对女性、跨性别者和非二元性别者的身体被假设具有性暗示性质表示担忧,因为顺性别男性的图像就不会像这样被假设具有性暗示性质。(比如说,请参见 InternetLab 提交的第 10624 号公众评议)。
监督委员会通过其正常的案件外联流程收到了关于本案的许多公众评议。作为一个致力于向 Meta 的用户群和关键利益相关者提供问责措施的机构,监督委员会在审议过程中会认真考虑评议意见。就像所有案件一样,我们明白这些评议可能不代表全球的意见。监督委员会对大家通过公众评议分享的经验和专业知识表示感谢,并且会继续采取措施来扩大外联范围,以便触达目前可能没有参与到此流程中来的社群。
最后,监督委员会认识到,Meta 可以合理地考虑到防止某些可能产生性别差异影响的伤害的重要性。正如联合国暴力侵害妇女问题特别报告员所指出的那样:“必须承认,使用互联网的大环境中存在着对妇女和女童的普遍、系统和结构性歧视及性别暴力行为”(A/HRC/38/47)。此外,调查表明:“未经同意以数字方式散播亲密图片行为的受害人中,90%是妇女。”(A/HRC/38/47)。Meta 应该努力限制性别伤害,包括解决裸露内容禁令过度执行或执行不足的问题。
III. 必要性和相称性
监督委员会认为,Meta 的政策从制定和执行上看,涵盖的内容都超出了必要的范围。这两项政策都与它们试图解决的问题不相称。
a. 性引诱
有关性引诱内容的政策对含蓄“提供或寻求”性引诱和性暗示姿势的定义过于宽泛,势必会涵盖大量与性引诱无关的内容。Meta 自己也承认存在执行失误的风险,表示他们“意识到,一些内容审核员由于过度技术化地应用[其]内部审核员指南,可能会认为内容中存在含蓄的性引诱(即使并没有)而误删该内容”。Meta 还说道:
目前,根据我们的《已知问题》,我们认为分享、提及或提供社交或数字身份的联系方式是含蓄提供或寻求性引诱的行为。[…]然而,在某些情况下,应用此指南可能会导致过度执行,比如说,一位模特被审核员认为摆出了具有性暗示意味的姿势(符合“性暗示元素”条件),且该模特标记了摄影师以表明图片的拍摄者是谁(符合“提供或寻求”性引诱的条件)。这种内容并未违规,因为它没有性引诱意图,但是它仍可能被移除(这与政策相冲突),因为它符合上面所说的两个条件。
联合国教科文组织在一份讨论数字领域科普教育的报告中,描述了错误地过度执行政策的风险。报告中指出:“关于分享露骨图像的严格规定意味着,在某些情况下,在网上发布的支持了解身体或性关系的科普教育资料可能会被审核员误认为是不适当的露骨内容,因此会从一般网络平台上被移除。”监督委员会还注意到,所收到的许多公众评议都讨论了内容因此守则而被误删的问题。例如,ACON(澳大利亚一家致力于 HIV 科普教育的非政府组织)写道,以积极正面的性态度宣传 HIV 预防信息的内容和宣传教育研讨会的内容都因被视为性引诱而被移除。这使得该非政府组织在其内容中会小心选择措辞,避免被 Meta 移除,而不是选择使用触达目标群体的最佳措辞(第 10550 号公众评议)。研究员 Joanna Williams 对此也有同感,她发现自己采访的 12 个性健康组织中,有 9 个报告说,Meta 在这方面的审核对他们产生了负面影响(第 10613 号公众评议)。
b. 成人裸露和性行为
如上文所述,根据 Meta 对生理性别和性别认同的认知来建立可执行和可大规模应用的规则是一项具有挑战性的工作,除了这方面的挑战之外,监督委员会还认为 Meta 有关成人裸露内容的政策对某些类型的内容和表达造成了不相称的限制。在限制性较小的措施可以实现所述政策目标的情况下,这些政策却要求移除内容。
除了移除内容之外,Meta 已经采用了多种政策执行措施,包括添加警告画面以及为内容设置年龄限制,只允许年满 18 岁的用户查看内容。此外,Meta 已将此类措施纳入到其有关成人裸露和性行为内容的政策中,包括对描述性行为的艺术使用此类措施。Meta 可能还希望让自动和人工审核员做出更加完善的、基于背景信息的判断,准确判定在相关背景下,裸露内容何时真正具有性意味,而不论该内容所描绘的身体的社会性别是什么。Meta 可以进一步采取广泛的政策干预措施,通过赋予用户更大的控制权,限制裸露内容对不愿意看到这类内容的用户的可见性。对于有关裸露内容的政策中处理的问题,Meta 也有一系列专门的政策涉及到这些问题(例如有关成人性剥削内容的政策以及有关儿童性剥削、虐待和裸露内容的政策),这些政策可以得到加强。
监督委员会注意到,据报告,Meta 的政策执行实践导致了大量误判,或者未违规内容被误删。Meta 最近一份针对 Instagram 的社群守则执行情况报告(2022 年 4 月至 6 月)披露说,根据有关成人裸露和性行为内容的政策而被移除但用户提起了申诉的内容中,有 21% 得到了恢复。监督委员会还收到大量公众评议,提到了有关成人裸露内容的政策导致内容被误删的问题。
无歧视
有证据表明,与有关成人裸露和性行为内容的政策相关的 Meta 政策和执行可能会对女性和 LGBTQI+ 人群产生尤其严重的影响。这些影响体现在政策和执行两方面,并限制了某些群体表达自我、抵制偏见和提高社会可见度的方式。
虽然本案涉及跨性别和非二元性别用户,但是本案中的执行失误缘于一项也会影响女性的基本政策,尤其是鉴于 Meta 对裸露内容采用了“默认为女性”的方法。因此,本节将考虑 Meta 政策对 LGBTQI+ 人群和女性的影响。本案中收到的大量公众评议充分说明了这些政策可能造成的影响。
人人都享有自由表达的权利,不得因“性别”或“其他身份”而受到歧视(ICCPR 第 2 条第 1 款)。这包括性取向和性别认同(Toonen 诉澳大利亚案(1994 年);A/HRC/19/41,第 7 段)。人权事务委员会的判例指出:“并非基于《公约》第二十六条所列理由的每一种区别都构成歧视,但这种区别应基于合理和客观的标准,且目的是实现《公约》规定的合法目标。”Nepomnyashchiy 诉俄罗斯联邦案,人权事务委员会,2018 年( (CCPR/C/123/D/2318/2013 第 7.5 段)。
《消除对妇女一切形式歧视公约》(CEDAW) 禁止“任何区别、排斥或限制,其影响或其目的均足以妨碍或否认妇女[…]在男女平等的基础上认识、享有或行使在政治、经济、社会、文化、公民或任何其他方面的人权和基本自由”(CEDAW,第 1 条)。监督委员会注意到,国际人权机构尚未阐明允许或禁止发布自愿的成人裸露内容及其潜在的歧视性后果带来的人权影响。
《联合国工商企业与人权指导原则》(UNGP) 中说道:“工商企业应特别关注对属于高危脆弱或边缘化群体或人口的个人的任何特殊人权影响”(UNGP,第 18 条和第 20 条原则)。促进和保护意见和表达自由权问题特别报告员敦促科技公司“积极征求并考虑一贯易受审查和歧视的社区的关切”(A/HRC/38/35 第 48 段)。联合国工商业与人权工作组也建议科技公司确保“人工智能和自动化技术不会对女性的人权产生不相称的不利影响”(《Gender Dimensions Handbook》)。
鉴于社交媒体平台是受歧视个人表达自我的重要舞台,监督委员会一直明确表示,希望 Meta 对这些群体的成员发布的内容、与他们相关的内容或描绘他们的内容被误删的可能性保持高度敏感。正如监督委员会在有关原住民艺术表达的“贝壳串珠带”案中的决定 (2021-012-FB-UA) 中指出的那样,仅从用户群整体上评估 Meta 对 Facebook 仇恨言论政策的执行情况是不够的,还必须考虑到这项政策执行对特定群体的影响。与此类似,在“给某些阿拉伯词语重新赋予积极意义”一案中,监督委员会确认道“过度审核受迫害少数群体用户发布的言论,是对他们自由表达权的严重威胁”,并对 Meta 政策(在该案件中指的是仇恨言论政策)中的豁免情形如何适用于边缘化群体的表达表示关切 (2022-003-IG-UA)。
Meta 所做选择的后果导致女性、跨性别者和非二元性别者在其旗下平台上的表达机会存在差别。Meta 有关成人裸露和性行为内容的现行政策默认女性乳房和乳头具有性意味,因此禁止发布此类内容,除非所描绘的人物进行了或将要进行手术或者正在哺乳。Meta 的政策非但没有采取措施来确保内容审查不会过度影响某些群体,反而使这些群体受到的影响更加根深蒂固和持久。
这两起案件突出显示了 Meta 的政策选择对 LGBTQI+ 人群的过度影响,因为有关成人裸露和性行为内容的分类技术多次判定相关内容涉嫌违规,尽管这些内容其实不在该政策的范围内。监督委员会相信,这两起案件象征着更广泛的问题。例如,Haimson 等人的研究发现,跨性别者报告了大量内容和帐户被删的事件,这通常是因为他们发布的内容被判定为裸露和具有性意味的内容。
执行 Meta 的政策选择也对女性造成了过度影响。Witt、Suzor 和 Higgins 的研究发现,从 Instagram 被移除的女性身体图片中,有 22% 显然是误删。公众评议(比如说,参见 Zahra Stardust 博士提出的第 10616 号公众评议)中也指出了描绘女性身体的内容所受到的差别化影响。
在传统上女性可能会坦露胸部的情况下,对裸露内容的这种默认立场也会造成严重影响。促进和保护意见和表达自由权问题特别报告员敦促各个公司与世界各地的各种土著群体互动,以便“制定更完善的指标,在评估裸露内容时考虑到文化和艺术背景”(A/HRC/38/35 第 54 段)。
除了这些与政策相关的无歧视问题外,这两起案件还引发了与政策执行相关的无歧视问题。Meta 应该注意,属于边缘化群体的用户所发布的内容被重复或恶意举报的风险更大,在这种情况下,其他用户举报未违规内容是为了给发布内容的用户造成负担或骚扰发布内容的用户。多条公众评议(比如说,请参见 GLAAD 提出的第 10596 号公众评议和人权运动基金会提出的第 10628 号公众评议)中也提到了这些问题。
这两起案件表明,引发多次审核的多次举报可能会增加误删的可能性。实际上,在本案中,大多数的用户举报引发的人工审核都认为该内容并未违规,但是该内容持续受到举报,直到审核员错误判定该内容违规并将其移除。
Meta 应该努力制定并实施能改善所有这些问题的政策。这可能包括针对裸露内容制定更加统一的政策,在运用这些政策时不存在基于生理性别或性别认同的歧视。这可能还包括在判断什么样的内容具有性意味时多多考虑背景信息,前提是避免根据歧视性标准来做出此类判断。
监督委员会注意到,在 Meta 有关成人性剥削内容的政策中,有一条专门的政策是针对未经同意而分享的私密图像的。这一直是 Meta 执行政策的优先领域(比如说,请参见 Meta 引入自动检测技术,以阻止未经同意反复发布的图像)。Meta 在考虑改变对平台上裸露内容的管理方法时,应该仔细检查有关成人裸露和性行为内容的政策在多大程度上防止了未经同意的图像分享,并了解是否需要变更有关成人性剥削内容的政策或其执行,以加强其效力。
监督委员会还认识到,Meta 在限制其平台上的性或色情内容方面可能有合法权益。但是,监督委员会认为,Meta 可以而且应该通过无歧视地对待所有用户的方法来实现相关业务目标。
一些监督委员会成员认为,Meta 应该采用不基于生理性别或社会性别差异的成人裸露内容政策,来设法减少其现行政策带来的歧视性影响。他们注意到了《消除对妇女一切形式歧视公约》(CEDAW) 关于消除性别定型观念的规定(比如说,请参见第 5 条和第 10 条)以及 Meta 在其企业人权政策中对 CEDAW 的明确承诺。他们得出结论称,就有关裸露内容的政策而言,这些国际人权标准和 Meta 自身对无歧视的承诺,都支持消除基于定型观念的区别对待。这群成员得出结论称,考虑到 Meta 的企业价值观和承诺,Meta 若想履行其作为企业的人权责任,最佳方式是改为采用不基于生理性别或社会性别差异的政策。这些成员指出,这方面的规范和政策应发展演变,以解决具有歧视性影响的惯例,因为许多形式的歧视曾经是或仍然是普遍的社会惯例。
监督委员会成员在这些问题上存在一些分歧。一些成员在原则上同意 Meta 不应基于生理性别或社会性别来限制表达,但是他们对一件事情深表怀疑,那就是如果不采用基于生理性别和社会性别意识的裸露内容政策,Meta 能否有效解决未经同意分享私密图像的问题和其他隐患。监督委员会的其他成员认为,因为适用的无歧视人权原则允许基于受保护特征的区别对待,只要这种区别是“基于合理和客观的标准,且目的是实现《公约》规定的合法目标”(Nepomnyashchiy 诉俄罗斯联邦案,人权事务委员会,2018 年,CCPR/C/123/D/2318/2013 第 7.5 段),因此无需采用不考虑生理性别和社会性别的裸露内容政策,而且这样的政策可能会导致或加剧其他伤害。
支持采用不考虑生理性别和社会性别的成人裸露内容政策的监督委员会成员认识到,根据适用于国家的国际人权标准,可以进行基于受保护特征的区别对待,但这种区别对待应基于合理和客观的标准,且服务于正当目的。他们不认为 Meta 裸露内容政策中的区别对待符合此标准。他们进一步指出,作为一家企业,Meta 做出的人权承诺与其实际做法不符,Meta 实际上采用了一种根据其对生理性别和社会性别的认知来限制网上表达的做法。
社群守则有关成人裸露和性行为内容的规定对女性和 LGBTQI+ 用户影响尤甚,并且依赖于对生理性别和社会性别的主观判断和推测,这在进行大规模内容审核时是行不通的。综合来看,考虑到与这些规定及其执行有关的困惑,以及 Meta 有关成人裸露和性行为内容的现行政策带来的不相称和歧视性的影响,监督委员会建议 Meta 定义明确、客观、尊重权利的标准来管辖其有关成人裸露内容的整个政策,确保以符合国际人权标准的方式对待所有用户,包括避免基于生理性别或性别认同的歧视。Meta 首先应该开展全面的人权影响评估来评估采用此类标准的影响,这包括让具有不同意识形态、地理和文化背景的各种利益相关者广泛参与进来。此评估若发现任何隐患,则新政策的落实应包含一个用于解决这些隐患的缓解计划。监督委员会要求 Meta 在本决定发布之日起六个月内提交一份关于上述评估和计划的报告。
9. 监督委员会的决定
监督委员会推翻了 Meta 移除这两篇帖子的最初决定,要求恢复展示这两篇帖子。
10. 政策咨询声明
内容政策
1. 为了公平对待所有用户,并向审核员和公众提供有关裸露内容的可行标准,Meta 应该定义明确、客观、尊重权利的标准来管辖其有关成人裸露和性行为内容的整个政策,确保以符合国际人权标准的方式对待所有用户,包括避免基于生理性别或性别认同的歧视。Meta 首先应该开展全面的人权影响评估来评估采用此类标准的影响,这包括让具有不同意识形态、地理和文化背景的各种利益相关者广泛参与进来。此评估若发现任何隐患,则新政策的落实应包含一个用于解决这些隐患的缓解计划。
2. 为了向用户提供更明确的信息,Meta 应在公开的社群守则中向用户提供更详细的解释,说明什么样的内容会构成“提供或寻求”性引诱(包括说明指向第三方网站的链接也属于此范畴),以及什么样的内容会构成带有性暗示的姿势。当 Meta 在社群守则有关性引诱内容的规定中添加了对这些术语的解释及相关例子时,监督委员会将认为 Meta 已采纳此建议。
政策执行
3. 对于有关性引诱内容的政策,为了确保关于此政策的 Meta 内部标准不会导致比公开政策所述范围更广的内容被移除,进而使得没有性引诱意图的内容不会被误删,Meta 应该修改给审核员的内部指南,确保相关标准反映公开的规定,并要求“提供或寻求”性引诱的行为与“性暗示元素”之间有更明确的联系。当 Meta 向监督委员会提供了更新版内部指南,在其中反映了这些经修改的标准后,监督委员会将认为 Meta 已采纳此建议。
*程序说明:
监督委员会的决定由五名成员组成的审议小组做出,并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。
对于本案的审理决定,监督委员会委托第三方代其开展了独立研究。一家独立研究机构在社会政治和文化背景方面提供了专业意见。这家独立研究机构总部位于哥德堡大学;其团队包含六大洲的 50 多位社会科学家,以及全球超过 3,200 位国家级专家。Duco Advisors 也为监督委员会提供了帮助。这是一家专注地缘政治学、信任和安全以及技术交叉研究的咨询公司。