巴西将军的演讲

案件摘要

监督委员会推翻了 Meta 保留一条 Facebook 视频的最初决定，该视频显示了巴西一位将军呼吁民众“hit the streets”（走上街头）并“go to the National Congress and the Supreme Court”（走到国会和最高法院去）的场景。尽管监督委员会承认，Meta 在选举期间和选举过后设立了数项风险评估和缓解措施，但考虑到其平台被用来在选举中煽动暴力的潜在风险，Meta 还是应当不断加大力度，防止、减轻和解决此类负面结果。监督委员会建议 Meta 制定一个框架来评估诚信选举工作，从而防止其平台被用来煽动政治暴力。

案件详情

2022 年 10 月举行的巴西总统选举两极分化严重，线上线下言论四起，一致质疑选举的合法性。其中就有声音呼吁军队干预，以及号召民众强闯政府大楼，阻碍新政府过渡。在新任总统路易斯·伊纳西奥·卢拉·达席尔瓦于 2023 年 1 月 1 日就职后，已然加剧的政治暴力风险并未平息，内乱、抗议活动仍在继续，更有甚者，在军事基地前扎营示威。

两天后，即 2023 年 1 月 3 日，一名 Facebook 用户发布了一条与 2022 年巴西选举相关的视频。葡萄牙语的字幕呼吁将“besiege”（围攻）巴西国会作为“the last alternative”（最后的选择）。该视频还放出了巴西一位著名将军发表的部分演讲，他支持前总统雅伊尔·博索纳罗再次当选。在该视频中，这位将军身着制服，呼吁民众“hit the streets”（走上街头）并“go to the National Congress... [and the] Supreme Court”（走到国会...[和]最高法院去）。之后还显示了几张图片，其中一张是烈火中的巴西利亚三权广场，而巴西总统府、国会和最高法院均位于该广场。图片上叠加了葡萄牙语的文字，翻译成英文就是：“Come to Brasília!Let’s Storm it!Let’s besiege the three powers.”（快来巴西利亚！让我们掀起风暴！围攻三权广场吧！）另一张图片上的文字则声称：“we demand the source code”（我们要源代码），抗议者曾用这个口号质疑巴西电子投票机的可靠性。

在该内容发布的当天，一名用户举报其违反了 Meta 社群守则有关暴力与煽动暴力的规定，该规定禁止呼吁他人强行闯入高风险地点。在 1 月 3 日至 4 日期间，总共有 4 名用户举报了该内容 7 次。在该内容遭到第一次举报之后，一位内容审核员对其进行了审核，但认为其并未违反 Meta 的政策。该用户对这一决定提出了申诉，但第二位内容审核员维持了之前的决定。第二天，5 位不同的审核员对另外 6 次举报进行了审核，结果所有审核员一致认为该内容并未违反 Meta 的政策。

1 月 8 日，前总统博索纳罗的支持者闯入位于巴西利亚三权广场的国会、最高法院和总统府，恐吓警察并毁坏财物。1 月 9 日，Meta 根据有关危险人物和组织的政策，宣布 1 月 8 日的骚乱属于“违规事件”，并表示会移除“支持或赞扬这些行为的内容”。他们还宣布“已将巴西指定为临时高风险地区”，并且“一直在移除呼吁民众拿起武器或强行闯入国会、总统府和其他联邦大楼的内容”。

在监督委员会选择审理这起案件后，Meta 判定之前重复做出的在 Facebook 保留内容的决定有误。2023 年 1 月 20 日，在监督委员会将这起案件确定为入围案件之后，Meta 移除了该内容。

主要结论

这起案件引发了人们的关注，他们对 Meta 诚信选举工作在 2022 年巴西大选以及其他选举活动中的有效性表示担忧。质疑选举诚信通常被认为是受保护的言论，但在某些情况下，试图破坏选举的言论若广泛传播，就有可能导致暴力。在这起案件中，演讲者的意图、演讲内容和影响范围以及在当时巴西政治背景下造成紧迫伤害的可能性，均可证明移除该帖子是合理的。

在判定一篇帖子违反 Meta 禁止呼吁他人强行闯入高风险地点的规定时，该地点必须被视为“高风险”，并且必须位于单独指定为“临时高风险地区”的地区或邻近地区。这篇帖子明确呼吁民众强行闯入位于巴西利亚三权广场的政府大楼（即位于“临时高风险地区”巴西的“高风险地点”），而 Meta 最初决定在政治暴力加剧的时期保留该内容，这显然背离了他们自己的规定。

尽管内容发布时巴西正值内乱，并且类似内容在 1 月 8 日骚乱发生前数周、数月就已广泛传播，但 Meta 的多位内容审核员屡次将内容评估为没有违规，未能将其上报进行复审，这让监督委员会深表担忧。此外，监督委员会要求 Meta 提供巴西选举之前、期间和之后其平台上与选举相关的特定言论，而后者表示没有关于这类言论的传播度数据。这起案件中的内容最终在两个多星期后移除，当时，该内容呼吁的违规事件已经发生，并且是在监督委员会提请 Meta 注意这起案件之后。

在回应监督委员会提出的问题时，Meta 表示，他们未采用任何具体的指标来大致衡量诚信选举工作的成功与否。因此，监督委员会认为，Meta 应制定一个框架来评估其诚信选举工作，并公布相关报告。如此一来，Meta 就能获得相关数据，从整体上完善内容审核系统，并确定如何在选举中最恰当地利用资源。如果没有这类信息，监督委员会和公众都无法更广泛地评估 Meta 诚信选举工作的有效性。

监督委员会的决定

监督委员会推翻了 Meta 保留这篇帖子的最初决定。

监督委员会还建议 Meta：

• 制定一个框架来评估诚信选举工作。这包括创建和分享诚信选举工作的成效指标，例如与 Meta 内容政策执行及广告处理方法有关的指标。
• 在政策及信息公示平台澄清，除了危机政策协议外，Meta 还会通过其他协议来防止和解决选举或其他高风险事件中引发的潜在伤害风险。

*案件摘要是对案件的概述，不具有先例参考价值。

案件审理决定全文

1. 决定摘要

监督委员会推翻了 Meta 保留一条 Facebook 视频的最初决定，该视频显示了巴西一位将军呼吁民众“hit the streets”（走上街头）并“go to the National Congress and the Supreme Court”（走到国会和最高法院去）的场景。紧接着是一张烈火中的巴西利亚三权广场（即这些政府大楼的所在地）图片，图上的文字翻译成英文就是：“Come to Brasília!Let’s storm it!Let’s besiege the three powers.”（快来巴西利亚！让我们掀起风暴！围攻三权广场吧！）监督委员会认为，考虑到博索纳罗的支持者质疑选举结果、呼吁军队干预，以阻止政府过渡的背景，这些言论明显是在呼吁民众强闯并控制政府大楼。在监督委员会将这篇帖子确定为要审核的入围案件之后，Meta 推翻了最初决定，将其从 Facebook 移除。

这起案件引发了更广泛的关注，人们对 Meta 诚信选举工作在 2022 年巴西大选以及其他选举活动中的有效性表示担忧。质疑选举诚信通常被认为是受保护的言论，但在某些情况下，试图破坏选举的言论若在线上线下广泛传播，就有可能导致现实世界中的暴力行为，正如本案件中一样。在巴西，每个危险信号都预示着这种暴力行为的发生。尽管监督委员会承认，Meta 在选举期间和选举过后设立了数项风险评估和缓解措施，但考虑到其平台被用来在选举中煽动暴力的潜在风险，Meta 还是应当不断加大力度，防止、减轻和解决此类负面结果。Meta 的诚信选举工作应涵盖选举后阶段，以应对政权过渡期间的暴力风险。

因此，监督委员会建议 Meta 应制定一个框架来评估其诚信选举工作，并公开相关的报告。该框架应包括衡量 Meta 诚信选举工作最相关方面的成效指标，让公司不仅能识别和纠正错误，还能追踪其措施在危急情况下的有效性如何。监督委员会还建议 Meta 明确说明采取了哪些不同协议和措施，来防止和解决选举和其他高风险事件中引发的潜在伤害风险。这包括命名和描述这些协议、协议目标、它们之间的接触点以及它们之间有何不同。这类协议需要更加有效、具备明确的指挥链并配足人手，特别是在政治暴力风险加剧的选举活动中开展工作时。这些建议能让 Meta 更有效地防止其平台被用于煽动政治暴力，并更广泛地提升对选举相关暴力的响应能力，从而帮助 Meta 从整体上完善内容审核系统。

2. 案件说明和背景资料

2023 年 1 月 3 日，一名 Facebook 用户发布了一条与 2022 年巴西选举相关的视频。葡萄牙语的字幕呼吁将“besiege”（围攻）巴西国会作为“the last alternative”（最后的选择）。这条 1 分 32 秒的视频显示了巴西一位著名将军发表的部分演讲，他支持前总统雅伊尔·博索纳罗再次当选。在该视频中，这位将军身着制服，呼吁民众“hit the streets”（走上街头）并“go to the National Congress... [and the] Supreme Court”（走到国会...[和]最高法院去）。之后还显示了几张图片，其中一张是烈火中的巴西利亚三权广场，而巴西总统府、国会和最高法院均位于该广场。图片上叠加了葡萄牙语的文字，翻译成英文就是：“Come to Brasília!Let’s Storm it!Let’s besiege the three powers.”（快来巴西利亚！让我们掀起风暴！围攻三权广场吧！）另一张图片上的文字则声称：“we demand the source code”（我们要源代码），抗议者曾用这个口号质疑巴西电子投票机的可靠性。该视频播放了 18,000 余次，但无人分享。

在内容发布前 2 天，博索纳罗的竞选对手路易斯·伊纳西奥·卢拉·达席尔瓦宣誓就任巴西总统，后者在 2022 年 10 月 30 日以 50.9% 的得票率赢得总统决选。在两轮投票之前、期间和之后的一段时间，有言论称选举舞弊发生在即，导致政治暴力风险不断加剧。之所以会出现这种言论，是因为巴西的电子投票机据称容易受到黑客攻击。在选举之前，时任总统博索纳罗在没有证据支持的情况下指控选举舞弊，并声称电子投票机并不可靠，此举进一步加剧了民众对选举制度的不信任。一些军方官员对此表示附和，并发布了关于选举舞弊的类似言论，称支持由军方来仲裁选举争端。据报告，Meta 旗下平台有几则政治广告攻击了选举的合法性。其中包括攻击司法机构、煽动军事政变的帖子和视频。此外，非政府组织 Global Witness 发布了一篇关于巴西的报告，其中描述了违反社群守则的政治广告是如何经 Meta 批准并在 Meta 旗下平台传播的。这些发现与该组织关于缅甸、肯尼亚等其他国家/地区的报告相似。

选举后更是伴随着内乱，包括抗议活动、制造路障等，一些民众甚至在军事基地前扎营示威，呼吁武装部队推翻选举结果。据监督委员会咨询的专家称，这起案件中的视频于 2022 年 10 月首次在网上发布，当时选举结果才公布不久；类似的内容还留在不同的社交媒体平台上，共同引发了 1 月 8 日的骚乱。2022 年 12 月 12 日，最高选举法院确认卢拉赢得选举的同一天，一群支持博索纳罗的抗议者试图闯入巴西利亚联邦警察局总部。期间发生了几起恶意毁坏财物的行为。2022 年 12 月 24 日，巴西利亚国际机场附近发生了一起爆炸未遂事件。袭击事件的肇事者已被逮捕，他承认自己是想吸引民众关注他们的支持政变之举。

2023 年 1 月 1 日，巴西新任总统就职后，已然加剧的政治暴力风险并未平息。根据监督委员会委托第三方开展的调研，在 Meta 旗下平台上，关于投票机的虚假言论在第一轮和第二轮投票后达到最高峰，并在卢拉获胜后的几周内再次传开。此外，在 1 月 8 日前的几天里，博索纳罗的支持者用了一些暗语来煽动民众在巴西利亚参与抗议活动，并将攻击的目标锁定在政府大楼。大部分的后勤组织工作似乎都是通过 Facebook 以外的沟通渠道来完成的。

国际选举观察团（如美洲国家组织和卡特中心）报告称，没有关于选举舞弊的实质性证据，并且，尽管面临着选民两极分化严重的压力，选举仍然是以自由、公正的方式进行的。巴西国防部在正式观察选举后，报告称不存在违规或舞弊证据，不过后来又发布了一份相矛盾的声明，称武装部队“do not rule out the possibility of fraud”（不排除选举舞弊的可能性）。在巴西，国防部负责监督武装部队的工作。

1 月 8 日，紧张局势达到高潮，前总统博索纳罗的支持者闯入位于巴西利亚三权广场的国会、最高法院和总统府（即案件内容中提及的地点），恐吓警察并毁坏财物。大约 1,400 人因参与 1 月 8 日的骚乱而被逮捕，其中约 600 人仍在拘留之中。

在此骚乱事件之后，联合国对使用暴力的行径表示谴责，称这是“culmination of the sustained distortion of facts and incitement to violence and hatred by political, social and economic actors who have been fueling an atmosphere of distrust, division, and destruction by rejecting the result of democratic elections”（政治、社会和经济行动分子持续歪曲事实、煽动暴力和仇恨的结果，这些人拒绝接受民主选举结果，一直在助长不信任、分裂和破坏的氛围）。他们重申了对巴西民主制度的信心和决心。公众评议和监督委员会咨询的专家表示，预先质疑巴西选举制度诚信的言论，在推动政治两极分化、助长线下政治暴力方面会造成有害影响（参见来自 Dangerous Speech Project [PC-11010]、LARDEM - Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011]、Instituto Vero [PC-11015]、ModeraLab [PC-11016]、Campaign Legal Center [PC-11017]、Center for Democracy & Technology [PC-11018]、InternetLab [PC-11019] 和 Coalizão Direitos na Rede [PC-11020] 的公众评议）。

2023 年 1 月 9 日，Meta 根据有关危险人物和组织的政策，宣布 1 月 8 日的骚乱属于“违规事件”，并表示会移除“支持或赞扬这些行为的内容”。他们还宣布“在选举之前”，“已将巴西指定为临时高风险地区”，并且“一直在移除呼吁民众拿起武器或强行闯入国会、总统府和其他联邦大楼的内容”。

1 月 3 日，在该内容发布的当天，一名用户举报其违反了 Meta 社群守则有关暴力与煽动暴力的规定，该规定禁止呼吁“强行闯入特定地点 . . . 只要临时有迹象表明这样做极有可能导致某些地点发生暴力事件或现实伤害行为”。在 1 月 3 日至 4 日期间，总共有 4 名用户举报了该内容 7 次。在该内容遭到第一次举报之后，一位人工审核员对其进行了审核，但认为其并未违反 Meta 的政策。该用户对这一决定提出了申诉，但第二位人工审核员维持了之前的决定。第二天，5 位不同的审核员对另外 6 次举报进行了审核，结果所有审核员一致认为该内容并未违反 Meta 的政策。该内容未被上报给政策或行业专家进行复审。在回应监督委员会提出的问题时，Meta 澄清道，7 位内容审核员都位于欧洲。据 Meta 表示，这些审核员均能流利使用葡萄牙语，并具有审核巴西内容的语言能力和文化背景。

在监督委员会选择审理这起案件后，Meta 判定之前重复做出的在 Facebook 保留内容的决定有误。2023 年 1 月 20 日，在监督委员会将这起案件确定为入围案件之后，Meta 移除了该内容，对内容创作者的帐户处以违规记分，并施加了 24 小时功能限制，阻止其在此期间创建新内容。尽管 Meta 采取了行动，但民间社会团体 Ekō 向监督委员会提交的公众评议以及其他报告均强调道，在监督委员会提请 Meta 注意这起案件后，Facebook 上仍然存在类似的内容 (PC-11000)。

3. 监督委员会的权力和管辖范围

收到用户就被举报后保留的内容提出的申诉后，监督委员会有权审核 Meta 的决定（章程第 2 条第 1 款；细则第 3 条第 1 款）。监督委员会可以维持或推翻 Meta 的决定（章程第 3 条第 5 款），并且其决定对该公司具有约束力（章程第 4 条）。此外，Meta 还必须评估将监督委员会的决定应用于具有同等语境的相同内容的可行性（章程第 4 条）。监督委员会的决定可能包括相关建议，这些建议并不具有约束力，但 Meta 必须对建议做出回应（章程第 3 条第 4 款；章程第 4 条）。如果 Meta 承诺就建议采取行动，监督委员会将监督其执行情况。

当监督委员会选择审理诸如此类的案件，且 Meta 随后承认自己的决定有误时，监督委员会将审核 Meta 最初的决定，以更好地了解导致错误发生的政策参数和内容审核流程。之后，监督委员会将设法解决与 Meta 基本政策或流程相关的问题。监督委员会还力求为 Meta 提供建议，以帮助 Meta 在今后提高政策执行的准确性并公平对待用户。

4. 权威来源和指南

在本案中，监督委员会在开展分析时参考了以下标准和先例：

I. 监督委员会的决定：

监督委员会此前做出的与本案最为相关的决定包括：

• “封禁前总统特朗普案”（2021-001-FB-FBR 号案件审理决定）：监督委员会指出，在选举方面，Meta 人权责任要求允许政治表达，同时避免其他人权受到严重威胁。
• “缅甸机器翻译争议案”（2021-007-FB-UA 号案件审理决定）：监督委员会强调了在政治危机时期保护政治言论的重要性。
• “提格雷通讯事务管理局案”（2022-006-FB-MR 号案件审理决定）：监督委员会强调道，Meta 有责任建立一个原则清晰、公开透明的内容审核系统来审核冲突地区的内容，以降低其平台被用来煽动暴力的风险。
• “克宁动画片案”（2022-001-FB-UA 号案件审理决定）：监督委员会敦促 Meta 进一步明确内容要如何上报给行业专家。

II.Meta 内容政策：

社群守则有关暴力与煽动暴力的规定

根据社群守则有关暴力与煽动暴力的规定，Meta 不允许“有关强行闯入特定地点（包括但不限于宗教场所、教育机构、投票点、计票点或选举管理点）的意图表达、行为煽动或教唆，或者愿望性或条件性言论，只要临时有迹象表明这样做极有可能导致暴力事件或现实伤害行为”。该社群守则的政策依据指出，要“防止 Meta 旗下平台上的内容带来潜在的现实伤害”。同时，Meta 承认“人们通常会以不严肃的方式来威胁或提出使用暴力，以此表达轻蔑或反对”。因此，当 Meta 认为“存在真实的人身伤害风险或对公共安全构成直接威胁”时，他们将移除相关内容。在确定威胁是否真实时，Meta 也会考虑“语言措辞和背景信息”。

此外，监督委员会的分析还基于 Meta 对“自由表达”价值观（该公司称其为“首要”价值观）和“安全”价值观的承诺。

III. Meta 的人权责任

2011 年，联合国人权理事会批准了《联合国工商企业与人权指导原则》（UN Guiding Principles on Business and Human Rights，简称 UNGP），为各公司的人权责任确立了自愿性框架。2021 年，Meta 发布了自己的企业人权政策，重申了其根据 UNGP 做出的尊重人权的承诺。

监督委员会参考以下国际标准，分析了 Meta 在本案中的人权责任：

• 意见和表达自由权：《公民权利和政治权利国际公约》（International Covenant on Civil and Political Rights，简称 ICCPR）第 19 条和第 20 条，人权事务委员会第 34 号一般性意见，2011 年；关于数字时代选举的第 1/2019 号研究报告（2019 年）：联合国促进和保护意见和表达自由权问题特别报告员的报告：A/HRC/38/35（2018 年）和 A/74/486（2019 年）；拉巴特行动计划，联合国人权事务高级专员的报告：A/HRC/22/17/Add.4（2013 年）。
• 和平集会权利：ICCPR 第 21 条；人权事务委员会第 37 号一般性意见，2020 年。
• 生命权：ICCPR 第 6 条。
• 参与公共事务的权利和投票权：ICCPR 第 25 条。

5. 用户提交的信息

在向监督委员会提出的申诉中，举报该内容的用户表示“have already reported this and countless other videos to Facebook and the answer is always the same, that it doesn’t violate the Community Standards”（已经向 Facebook 举报了这篇帖子和其他无数视频，但每次得到的答复都是内容并未违反社群守则）。该用户进一步将内容煽动暴力的可能性与巴西“who do not accept the results of elections”（不接受选举结果）的民众发起的行动联系起来。

6. Meta 提交的信息

当监督委员会提请 Meta 注意这起案件时，Meta 判定最初保留该内容的决定是不正确的。Meta 向监督委员会提供了总统选举之前、期间和之后关于巴西社会和政治背景的广泛分析，以证明移除这起案件中的内容是合理的，尽管为时已晚。之后，Meta 向监督委员会提供了“可能导致”政策执行反复出错的可能因素。

Meta 陈述的观点是，“在字幕和视频中多次提到‘围攻’高风险地点，不足以单独上升到[暴力与煽动暴力]政策所规定的‘强行闯入’层面”。不过，“在三权广场着火的背景图片下，呼吁民众‘Come to Brasília! Let’s storm it! Let’s besiege the three powers’（快来巴西利亚！让我们掀起风暴！围攻三权广场吧！），其意图明显是要强行闯入这些著名地点”。

Meta 表示，该内容不适用于“允许保留具新闻价值内容”的规则，尽管他们承认旗下平台是“表达政治话语的重要场所，尤其是在选举期间”。在这起案件中，考虑到该内容“明确呼吁暴力行为”，其公共利益价值不足以超过造成伤害的风险，并且“现实世界中发生伤害的风险在巴西总统选举和卢拉就任后不断加剧”。Meta 认为没有任何迹象表明，分享该内容是为了谴责暴力或提高公众认知。Meta 坚持认为，移除该内容的最终决定既符合其价值观，也符合国际人权标准。

为了应对选举和其他危机情况，Meta 设立了数项风险评估和缓解措施，并由不同团队负责运行，这些措施可同时或单独运用。根据相应的风险评估，每项都具有不同的强度“等级”或“层级”：

• 诚信国家/地区优先级政策（又名风险评估分级系统），由 Meta 内部的产品团队运行，提供了关于长期投资产品资源的优先顺序的框架。根据 Meta 的描述，该流程对短期危机无反应，但每年会对所有国家/地区进行两次关于新出现风险/威胁的评估。
• 诚信产品运营中心（Integrity Product Operations Center，简称“IPOC”），来自公司各部的行业专家组成了一支跨职能部门团队，力求“实时响应潜在问题和趋势”。建立 IPOC 旨在快速评估大量问题、识别风险并确定如何在危机或高风险情况下解决这些问题。专门应对选举事宜的 IPOC 则称为选举运营中心。
• 选举运营中心可以“实时监控关键选举问题，例如有意阻止民众投票、垃圾信息增多、潜在的境外势力合谋造假行为或举报内容违反 [Meta] 政策”，同时“监控其他社交网络和传统媒体的新闻报道和选举相关活动”。借助该运营中心，Meta 可以“综合了解并追踪哪类内容会疯传”，从而“加快”他们对这些威胁的响应速度。选举运营中心的部分准备工作包括“通过广泛的情景规划推演出从骚扰到选民压制的各类潜在威胁，同时提前开发系统和制定程序，以有效应对各种问题”。
• 最后，Meta 采用了危机政策协议的框架，在特定的政策下，针对新出现的危机制定有时限的响应措施。作为对监督委员会在封禁前总统特朗普一案中提出的建议所做的回应，Meta 制定了该协议。在该协议下，Meta 建立了三种危机类别，并在此基础上采用一套特定的措施来缓解风险。例如，第 1 类危机由“加强执法或军事活动”或“计划的高风险选举或导火索事件”触发。

负责 2022 年巴西大选的选举运营中心在 2022 年 9 月至 11 月的不同时间点开展了运营工作，包括在第一轮和第二轮选举期间。不过，在内容发布之时（2023 年 1 月 3 日），选举运营中心（或 IPOC）并未在运营，危机政策协议用于帮助 Meta 评估如何最恰当地缓解内容风险，根据该协议，Meta 将“选举后骚乱”指定为危机。

在回应监督委员会提出的关于巴西选举之前、期间和之后 Meta 旗下平台数字趋势的问题时，Meta 表示“在选举准备和响应工作中，若干团队确定了与选举相关的内容趋势，并将其整合到[他们的]风险缓解策略中”。其中包括：“(i) 与煽动或传播暴力威胁相关的风险；(ii) 错误信息；(iii) 商业诚信，包括有害内容广告相关的潜在违规风险...或企图以操纵或破坏公众舆论的方式开展营销活动”。Meta 表示“除其他因素外，相应结果可作为许多产品和政策缓解措施的参考”。不过，Meta 没有关于特定言论（例如选举舞弊、呼吁前往巴西利亚或强行闯入联邦政府大楼、呼吁军队干预）的“传播度数据”，因为一般而言，Meta 的政策执行系统旨在“根据所违反的政策进行监控和追踪”。

监督委员会以书面形式向 Meta 提出了 15 个问题，其中 5 个是关于口头阐述选举运营中心运作方式的跟进问题。这些问题涉及：用于解决 Meta 旗下平台上合谋行为的政策工具；在 2022 年巴西选举前识别的风险；巴西选举的选举运营中心与危机政策协议之间的关系；Meta 如何界定区分合法的政治组织与有害的合谋行动；巴西选举之前、期间和之后 Meta 旗下平台的数字趋势；负责审核该案件内容的审核员的语言能力。

对此，Meta 回答了 13 个问题，有 2 个问题没有回答，一个是关于政治广告与错误信息之间的关系，另一个是关于 2022 年巴西选举的选举运营中心在运行期间移除的公共主页和帐户数量。Meta 还告诉监督委员会，除了已公开分享的内容移除数量外，在 2022 年巴西选举背景下，暂无其他关于内容审核的一般数据要与监督委员会分享。Meta 进一步解释道，他们没有根据一套既定的成效指标和基准来评估其在选举背景下的效果。在回应监督委员会提出的问题时，Meta 表示需要优先考虑资源，无法在案件裁定的期限内提供监督委员会要求的数据。

7. 公众评议

监督委员会收到了与本案件有关的 18 条公众评议意见。其中 11 条来自拉丁美洲和加勒比地区，3 条来自美国和加拿大，2 条来自中东和北非，1 条来自亚太地区和大洋洲，1 条来自中亚和南亚。此外，2023 年 2 月，监督委员会与来自巴西和拉丁美洲的利益相关方召开了一次圆桌会议，会议主题为“内容审核与政治过渡”。

提交的评议涵盖以下主题：2022 年巴西选举之前、期间和之后，社交媒体平台上累积的有关选举舞弊和呼吁军事政变的有害言论；与选举相关的虚假信息；Meta 的诚信选举工作；在政权民主过渡时期，Meta 在保护用户权利方面的责任；选举否定主义与政治暴力之间的关系；内容审核员熟悉当地政治背景的重要性。

如要查阅针对本案件提交的公众评议，请点击此处。

8. 监督委员会的分析

监督委员会通过分析 Meta 的内容政策、人权责任和价值观，探讨了是否应该移除此内容。之所以选择审理本案，是因为监督委员会可借此评估 Meta 如何界定区分平台上的和平组织与煽动或合谋暴力行动，特别是在政权过渡的背景下。此外，考虑到选举过后是质疑选举诚信、保证合法选举结果得到尊重的关键时刻，监督委员会可通过本案更全面地检查 Meta 的诚信选举工作，特别是在巴西。因此，监督委员会认为 Meta 的诚信选举工作应同时涵盖选举过程和选举过后，因为选举过后也很容易出现舆论操控、与选举相关的错误信息和暴力威胁。本案属于监督委员会定义的“选举和公民活动”这一战略重点，需优先处理。

8.1 对 Meta 内容政策的遵守情况

I. 内容政策规定

暴力与煽动暴力

监督委员会认为，这起案件中的内容违反了社群守则有关暴力与煽动暴力的规定，因为该规定禁止发布呼吁他人强行闯入特定高风险地点的内容。监督委员会认为，尽管 Meta 的“自由表达”价值观在选举过程中（包括选举过后）尤其重要，但对于这起案件，为了推进 Meta 的“安全”价值观，移除该内容是必要之举。

在判定内容违反“呼吁强行闯入高风险地点”的政策规定时，必须满足两项“高风险”相关的指定条件。首先，该地点必须被视为“高风险”，其次，还必须位于单独指定为“临时高风险地区”的地区或邻近地区。Meta 给内容审核员的具体指示是，“有关强行闯入临时高风险地区内的高风险地点的行动号召、意图表达、鼓吹性言论和愿望性言论，应予以移除”。

Meta 对“高风险地点”的定义是，“在考量其成为暴力攻击对象的可能性后，认为永久或临时存在高风险的地点”。永久高风险地点包括“高风险人物或其家人工作或居住的地点（例如新闻机构总部、医疗中心、实验室、警察局、政府办公室等）；地方、地区和国家选举期间用作选民注册中心、投票点、计票点的设施（例如当地图书馆、政府大楼、社区或市民中心等）或用于选举管理的场所”。据 Meta 表示，巴西国会、最高法院和总统府均为永久“高风险地点，因为它们是高风险人物或其家人工作或居住的地点”。

还有一项关于“临时高风险地区”的指定条件指的是更广泛的地区或邻近地区，包括任何“由 [Meta] 临时指定，在一定时间内属于高风险的地点”。指定临时高风险地区时会考虑诸多因素，包括“过去 7 天内，该地是否发生了存在高强度暴力的抗议活动”；“有证据表明，该地与内乱或争议性法院判决相关的暴力风险增加”；“根据执法部门、内部安全报告或可信合作伙伴的评估，该地可能即将发生暴力事件”；“有证据表明，该地计划发生或正在发生抗议活动，或者，该地计划发生或正在发生抗议活动，并且抗议活动的组织者呼吁在该地使用武器或将武器带到该地”以及“根据内部团队的评估，安全隐患超过了自卫、自决表达受到的潜在影响”。一旦指定临时高风险地区，该指定信息将与 Meta 内部团队共享。虽然这类指定具有时限性，但 Meta 偶尔会批准延期。Meta 表示，指定临时高风险地区有助于“在用户举报前”主动审核内容。

对于 2022 年选举，Meta 将巴西全国指定为临时高风险地区。这项指定最初定于 2022 年 9 月 1 日，依据是 Meta 评估该地与持续内乱和选举骚乱相关的暴力风险增加，后来延期至 2022 年 10 月的选举及选举过后，一直持续到 2023 年 2 月 22 日。案件内容发布之时，这项指定仍在有效期内。

Meta 表示在判定一篇内容违反政策时，必须同时满足这两项指定条件，本文正在分析的帖子就属于这种情况。Meta 称，双重要求可帮助确保抗议活动的呼声没有被大范围抑制，并且，只有可能招致暴力的内容会被移除。

综上所述，监督委员会认为，Meta 最初决定在政治暴力加剧的时期将该内容保留在平台上，显然背离了其社群守则，因为该内容明确呼吁民众强行闯入位于巴西利亚三权广场的政府大楼，而这里正是位于“临时高风险地区”巴西的“高风险地点”。

II. 政策执行行动

Meta 称，7 位具备必要语言能力和文化背景的人工审核员对该内容进行了审核。Meta 没有要求批量审核员记录他们的裁决理由。在监督委员会选择审理本案后，Meta 内部团队开展了一项分析，结论是三个潜在因素“可能导致”政策执行反复出错：(1) 审核员对用户的意图（行动号召）有误解，可能是因为没有标点，误将内容解读为对事件的中立评论；或 (2) 审核员裁决有误，因为尽管有正确的指南可供参考，但在处理不同来源的高风险事件的相关内容时，适用规则多有变化；或 (3) 审核员可能未看到视频中的暴力行为。

第 1 个和第 3 个因素表明审核员没有仔细审核内容，或者没有完整观看视频，因为该内容违反 Meta 政策的可能性是显而易见的。不过，关于内容为什么没有上报给行业和政策专家进行后续分析，Meta 未提供任何解释。在内容发布和被举报之时，其所在国家被指定为“临时高风险地区”，相关的政策规定只有在相应的有效期内才会启动，尽管如此，该内容并未进行上报。此外，在考虑巴西线上线下的整体环境后，该内容仍未进行上报（见第 2 节）。

Meta 告知监督委员会，有时候内容审核员根本没有时间完整地看完视频。尽管如此，在暴力风险加剧的情况下，有些政策工具已被触发，监督委员会希望内容审核员能尽量完整看完视频，并针对可能违规的内容进行上报。

关于第 2 个因素，尽管 Meta 表示已将临时高风险地区的指定告知批量审核员，但他们也承认，在对这方面以及其他针对选举的风险缓解措施进行社交共享上可能还有所欠缺。通过这类信息的社交共享，内容审核员可以检测、移除有问题的内容或将其上报，比如这起案件中的视频。鉴于巴西当时已在采用不同的评估和缓解措施，Meta 可能有必要清晰阐明这些措施，进一步明确指挥链，才能让诚信选举工作更加有效。

即使内容发布时巴西正值内乱，并且类似的网络内容在 1 月 8 日骚乱发生前数月、数周就已广泛传播，但 Meta 的多位内容审核员在有背景线索的情况下屡次将内容评估为没有违规，未能将其上报进行复审，这让监督委员会深表担忧，尽管 Meta 最终决定移除该内容。并且，监督委员会要求 Meta 提供巴西选举之前、期间和之后其平台上与选举相关的特定言论，而后者表示没有这类传播度数据（见第 6 节），这一事实加剧了这种担忧。这起案件中的内容最终在两个多星期后移除，当时，该内容呼吁的违规事件已经发生，并且是在监督委员会提请 Meta 注意这起案件之后。

Meta 承认巴西的暴力风险有所加剧，他们首先在内容发布之前、期间和之后采用了不同风险评估措施，并在最终决定移除内容后直接向监督委员会报告。然而，他们的审核员始终未能正确执行社群守则的规定，特别是指定临时高风险地区后，所触发的社群守则有关暴力与煽动暴力的政策规定。尽管明确存在违规的可能性，并且当时 Facebook 上也有类似的内容传播（见第 2 节和第 8.2 节），但审核员在监督委员会选择审理此案之前没有上报该内容，这表明上报渠道可能还不够清晰有效（见克宁动画片案）。此外，这也表明 Meta 有必要完善关于选举的保障措施。正如监督委员会之前的决定所指出的那样，批量审核员拥有适当的语言能力和背景知识，并具备上报潜在违规内容的必要工具和渠道，这些都责无旁贷。

III. 透明度

监督委员会认识到，Meta 为了维护 2022 年巴西选举诚信做出了重要努力。2022 年 8 月，当竞选期正式开始时，Meta 公开宣布了他们为该国实行的选举相关举措。Meta 与巴西最高选举法院合作，为 Facebook 和 Instagram 上的选举相关帖子添加了标签，“引导人们在选举公正 (Electoral Justice) 网站上获得可靠信息”。Meta 表示，该网站的访问量因此而“增至 10 倍”。在合作期间，最高选举法院还可直接向 Meta 举报潜在违规内容。Meta 为巴西各地的选举官员举办了培训课程，以讲解 Meta 的社群守则以及如何解决 Facebook 和 Instagram 上的错误信息。Meta 还禁止付费广告“对即将举行的选举的合法性提出质疑”。此外，他们还设置了 WhatsApp 转发次数上限，规定一条消息一次只能转发到一个 WhatsApp 群聊。最后，Meta 报告了根据各条社群守则（如暴力与煽动暴力、仇恨言论以及欺凌和骚扰政策）移除的内容数量，以及引导用户了解巴西选举权威信息的选举标签的总点击量。

然而，在监督委员会问及有关 2022 年巴西选举的诚信选举工作时，Meta 表示除了报告有关内容移除、观看量、选举标签点击量的数据外，他们未采用任何特定指标来大体衡量诚信选举工作的成功与否。监督委员会还指出，根据 Meta 在政策及信息公示平台披露的信息以及与监督委员会的交流，Meta 不同风险评估措施和协议在单独使用和结合使用时的运作方式（见上文第 6 节）尚不完全明确。Meta 应阐明这些不同协议的接触点，进一步明确它们之间的不同之处，以及它们具体是如何影响内容政策执行的。

监督委员会收到的一系列公众评议（Ekō [PC-11000]、Dangerous Speech Project [PC-11010]、ModeraLab [PC-11016]、Campaign Legal Center [PC-11017]、InternetLab [PC-11019] 和 Coalizão Direitos na Rede [PC-11020]）称，Meta 在保护巴西选举方面的工作还不够完善。监督委员会承认批量审核内容存在固有的挑战，但在选举和其他高风险背景下，Meta 愈加有责任防止、减轻和消除负面人权影响，因此，监督委员会要求 Meta 为此建立有效的防护措施。在这起案件中，政策执行出错似乎并非偶然事件。据 Ekō (PC-11000) 表示，类似的内容甚至在 1 月 8 日骚乱后仍保留在 Facebook 上。

有必要提高透明度，以评估 Meta 的措施在选举背景下是否适当和完备。监督委员会缺乏可供审核的数据，因此难以充分评估这起案件是否政策执行出错，而不同的利益相关方也表示担忧，这都体现出 Meta 政策和政策执行方式存在系统性问题。受此影响，监督委员会也难以提供具体的建议，向 Meta 说明如何进一步完善全球的诚信选举工作。

Meta 当前披露的数据主要与内容移除有关，并未全面反映其在具体市场安排的诚信选举措施所取得的结果。例如，其中未包括选举中重要政策的执行准确率，如社群守则有关暴力与煽动暴力的规定，也未包括 Meta 最初批准、后又发现违规的政治广告占比。使用这些指标进行统计审计，不仅能帮助 Meta 消除错误，还能追踪措施的效果如何，当然前提是必须正确采取措施。

如果没有这类信息，监督委员会和公众都无法更广泛地评估 Meta 诚信选举工作的有效性。这点至关重要，因为许多政治暴力事件往往是选举相关争端所引起或激化的，而网络上留存的有害内容先于或伴有现实世界中的暴力行为（见“缅甸机器翻译争议案”[2021-007-FB-UA]、“提格雷通讯事务管理局案”[2022-006-FB-MR] 和“封禁前总统特朗普案”[2021-001-FB-FBR]）。

因此，监督委员会认为，Meta 应制定一个框架来评估其诚信选举工作，并公布相关报告。如此一来，Meta 就能获得相关数据，全面完善内容审核系统，并确定如何在选举中最恰当地利用资源。这还有助 Meta 有效利用当地知识，确定并评估企图扰乱民主进程的线上线下合谋行动。此外，这一框架应能帮助 Meta 建立永久的反馈渠道，并确定在选举过程正式结束后，如果政治暴力持续存在，应该采用什么样的措施。最后，如上所述，监督委员会指出在选举相关背景下，Meta 不同风险评估措施和协议（例如 IPOC、诚信国家/地区优先级政策和危机政策协议，见上文第 6 节）之间的阐释需要重新审视，以更好地向公众进行说明。

8.2 对 Meta 人权责任的遵守情况

表达自由权（ICCPR 第 19 条）

意见和表达自由权是“民主社会的中心支柱，也是保障自由和公正选举过程、有意义和代表性公共舆论和政治话语的基石”（联合国促进和保护表达自由权问题特别报告员，第 1/2019 号研究报告，第 2 页）。《公民权利和政治权利国际公约》(ICCPR) 第 19 条为表达提供了广泛的保护，特别是政治言论。如果某个国家/地区对表达自由权施加限制，则此等限制措施必须满足合法性、正当目的，以及必要性和相称性的要求（ICCPR 第 19 条第 3 款）。这些要求通常被称为“三方面要求”。监督委员会使用这一框架来解释 Meta 的自愿人权承诺。

I. 合法性（规定应清晰明确且直观透明）

根据国际人权法律定义的合法性原则，所有限制表达的规定必须清晰明确且公之于众（第 34 号一般性意见，第 25 段）。如果将该原则应用到社交媒体公司的规定上，联合国促进和保护意见和表达自由权问题特别报告员表示，这意味着这些规定应该清楚而具体（A/HRC/38/35，第 46 段）。Meta 旗下平台的用户应能访问和理解这些规则，并且内容审核员应能遵循清晰的政策执行指导。

监督委员会认为，就本案的事实而言，Meta 关于禁止内容呼吁强行闯入特定高风险地点的规定非常明确，而禁令触发的确切条件也同样明确。对用户和内容审核员来说，案件内容很容易可以看出是属于违规，特别是在巴西内乱的背景下。因此，监督委员会认为 Meta 的做法符合合法性要求。

II. 正当目的

对表达自由的限制（ICCPR 第 19 条）必须出于正当目的。有关暴力与煽动暴力的政策旨在移除“存在真实的人身伤害风险或对公共安全构成直接威胁”的内容，来“防止现实中可能发生的伤害”。该政策的正当目的是保护他人的权利，例如生命权（ICCPR 第 6 条）以及公共秩序和国家安全（ICCPR 第 19 条第 3 款）。在选举背景下，该政策的正当目的还可包括保护他人的投票权和参与公共事务的权利（ICCPR 第 25 条）。

III. 必要性和相称性

必要性和相称性原则要求，对表达自由的限制“必须适合于实现保护功能；必须是可用来实现预期结果的诸种手段中侵犯性最小的一个；[且]必须与要保护的利益相称”（第 34 号一般性意见，第 33 段和第 34 段）。正如之前涉及煽动暴力的案件一样，监督委员会认为联合国《拉巴特行动计划》中的 6 个因素与确定限制的必要性和相称性有关（例如，参见：封禁前总统特朗普案）。

监督委员会承认在许多政治环境下，质疑选举或选举制度诚信是民众在合法行使表达和抗议自由的权利，即使偶尔会出现暴力事件。考虑到涉及政治信息，这些质疑享有更高级别的保护（第 37 号一般性意见，第 19 段和第 32 段）。然而，监督委员会指出这一点并不适用于本案。在受保护的政治言论与煽动暴力推翻合法普选结果之间，有一条至关重要的界限。根据《拉巴特行动计划》中概述的因素，本案显然已经触及言论限制的最低要求。监督委员会认为，案件内容中有数项元素与分析有关：呼吁将“besiege”（围攻）巴西国会作为“the last alternative”（最后的选择），以及在“three powers”（三权广场）掀起“storm”（风暴）；视频中巴西一位著名将军呼吁民众“hit the streets”（走上街头）并“go to the National Congress... [and the] Supreme Court”（走到国会...[和]最高法院去）；图片背景中联邦政府大楼在熊熊燃烧；以及索要“the source code”（源代码）。考虑到博索纳罗支持者质疑选举结果、要求发动军事政变的巴西大环境，所有这些元素无一不是在明确呼吁民众强闯并控制政府大楼。演讲者的意图、演讲内容和影响范围以及在当时巴西政治背景下造成紧迫伤害的可能性，均可证明移除该帖子是合理的。

该内容在政治暴力风险加剧的背景下发布，当时民众普遍在呼吁武装部队推翻选举结果。与此同时，他们还使用了一些暗语来煽动抗议，并将攻击的目标锁定在巴西利亚的政府大楼（见第 2 节）。在这方面，根据监督委员会通过多条公众评议（包括 ITS Rio – Modera Lab [PC-11016]、Coalizão Direitos na Rede [PC-11020]、InternetLab [PC-11019], 和 Ekō [PC-11000] 提交的公众评议，这些为监督委员会委托第三方开展的调研提供了佐证）了解到的信息，在 1 月 8 日骚乱发生前，类似的内容一直在社交媒体上广泛传播。他们还强调道，博索纳罗支持者即将袭击三权广场的建筑，并煽动军队干预（包括发起军事政变）。

综上所述，监督委员会认为移除该内容符合 Meta 的人权责任。为了保护人民（包括公职人员）的生命权和巴西的公共秩序，移除该内容是必要且相称的响应措施。此外，当时抗议者企图破坏政权的民主过渡，为了保护巴西人民的投票权和参与公共事务的权利，移除该内容和类似内容也是必要且相称的措施。

有个严重的问题是，Meta 的审核系统始终未能正确识别视频中的违规内容或将其上报进行复审，也未能移除本案涉及的内容，监督委员会认为，Meta 实行以下建议将能更好地解决问题。尽管 Meta 已采取积极措施来改进巴西的诚信选举工作，但其所做的工作仍然不够，比如未能解决不法分子在平台上借合谋行动造成的潜在违规，就像巴西这次的情况一样。当时，巴西有一些错误信息和煽动暴力的言论在 Meta 旗下平台上传播，而在这起案件中，得以保留并广泛分享的内容似乎正是其中的典型。这进一步证实，在 Meta 旗下平台上，影响力大且具有强大号召力的帐户在煽动暴力方面确实发挥了作用。正如监督委员会收到的公众评议所述（见 Instituto Vero [PC-11015]、ModeraLab [PC-11016]、InternetLab [PC-11019]、Instituto de Referência em Internet e Sociedade [PC-11021]），当这类内容伴随着有组织的合谋行动且意图扰乱民主进程时，只审核并视情况移除 Meta 旗下平台上的单条内容是不够的，效果也相对微弱。诚信选举工作和危机政策协议需要应对这些大范围的数字趋势。

8.3 具有同等语境的相同内容

在 1 月 8 日巴西骚乱前数月，与本案类似的内容也在大量传播，监督委员会对此表示担忧。考虑到 Meta 屡次未能判定该内容违规，监督委员会将特别关注 Meta 是否针对旗下平台保留的具有同等语境的相同内容执行了相关判决，除非其分享目的是谴责这名将军的演讲以及关于围攻巴西利亚三权广场大楼的呼吁，或提高公众认知。

9. 监督委员会的决定

监督委员会推翻了 Meta 保留这条内容的最初决定。

10. 建议

A. 政策执行

1. Meta 应制定一个框架来评估自己的诚信选举工作。这包括创建和分享诚信选举工作的成效指标，例如与 Meta 内容政策执行及广告策略有关的指标。当 Meta 制定该框架（包括说明指标和指标对应的目标）、在政策及信息公示平台公布、开始发布具体国家/地区的报告、公开披露此次评估为诚信选举总体工作带来的任何改变后，监督委员会便会将此建议视为已采纳。

B. 透明度

1. Meta 应在政策及信息公示平台澄清，除了危机政策协议外，Meta 还会通过其他协议来防止和解决选举或其他高风险事件中引发的潜在伤害风险。除了命名和描述这些协议外，Meta 还应大致介绍协议目标、不同协议之间的接触点以及它们之间有何不同。当 Meta 在政策及信息公示平台发布相关信息后，监督委员会便会将此建议视为已采纳。

* 程序说明：

监督委员会的决定由五名成员组成的审议小组做出，并须获得监督委员会多数成员的批准。监督委员会的决定不一定代表所有成员的个人观点。

对于本案的审理决定，监督委员会委托第三方代其开展了独立研究。一家总部位于哥德堡大学的独立研究机构为监督委员会提供了帮助；其团队包含六大洲的 50 多位社会科学家，以及全球超过 3,200 位国家级专家。Duco Advisors 也为监督委员会提供了帮助。这是一家专注地缘政治学、信任和安全以及技术交叉研究的咨询公司。从事社交媒体趋势开源调研的组织 Memetica 也提供了分析。Lionbridge Technologies LLC 公司在语言方面提供了专业意见。这家公司的专业人员可流利使用 350 多种语言，并且遍布全球 5,000 座城市。