ブラジルの将軍による演説

事例の概要

監督委員会は、「hit the streets」(街に繰り出す)とともに、「go to the National Congress and the Supreme Court」(連邦議会と最高裁判所に向かう)よう人々に呼びかけているブラジルの将軍を大きく取り上げたFacebook動画を残すMetaの当初の決定を無効と判断しました。委員会は、Metaが選挙中と選挙後に複数のリスク評価および緩和策を設定したことを認めていますが、選挙の状況下で暴力を扇動するためにMetaのプラットフォームが使用される潜在的なリスクを考慮すると、Metaは、有害な結果を防止・軽減し、これに対処する取り組みを継続的に強化する必要があります。委員会は、政治的暴力を宣伝するためにMetaのプラットフォームが使用されることを阻止すべくMetaが選挙の公正性を保全する取り組みを評価するための枠組を構築するよう勧告します。

事例の内容

2022年10月に行われたブラジルの大統領選挙は、非常に二極分化され、選挙の正当性に異議を唱える主張がオンラインとオフラインで広範にわたって組織的に喧伝されました。これには、軍事介入を求める呼びかけや、新政府への移行を阻止するための政府施設の占領を求める呼びかけが含まれていました。軍事基地の前で市民の暴動、抗議活動、野営が続いていたため、2023年1月1日に新しく選出されたルイス・イナシオ・ルーラ・ダ・シルヴァ氏が大統領に就任しても、高まっていた政治的暴力のリスクは弱まりませんでした。

2日後の2023年1月3日、1人のFacebookユーザーが、2022年のブラジルの選挙に関する動画を投稿しました。このキャプションには、「the last alternative」(最後の選択肢)としてブラジル連邦議会を「besiege」(包囲する)よう呼びかけるポルトガル語の文言が含まれていました。この動画は、ジャイル・ボルソナロ前大統領の再選を支持するブラジルの知名度の高い将軍による演説の一部も紹介しています。この動画で、制服を着たこの将軍が、人々に対し、「hit the streets」(街に繰り出す)とともに、「go to the National Congress... [and the] Supreme Court」(連邦議会…(そして)最高裁判所に向かう)よう呼びかけています。将軍の演説に続き、一連の画像が表示されます。これには、ブラジルの大統領府、連邦議会、最高裁判所が置かれているブラジリアの三権広場で燃え盛る炎の画像も含まれています。この画像にはポルトガル語のオーバーレイテキストで、「Come to Brasília!Let’s Storm it!Let’s besiege the three powers」(ブラジリアに集結せよ！攻め込もう！三権を包囲しよう！)と表示されます。別の画像にはオーバーレイテキストで、デモ参加者がブラジルの電子投票機の信頼性に対して異議を唱えるために使用しているスローガン「we demand the source code」(我々はソースコードを要求する)が表示されます。

当該コンテンツが投稿された当日、ある利用者が同コンテンツをMetaの暴力と扇動に関するコミュニティ規定に違反するものとして報告しました。このコミュニティ規定では、リスクが高い特定の場所に力ずくで押し入るよう呼びかけることを禁止しています。当該コンテンツは1月3日～4日の間に、合計で4人の利用者によって7回報告されました。最初の報告を受けて実施されたコンテンツ審査担当者による審査の結果、当該コンテンツはMetaのポリシーに違反していないと判断されました。当該利用者はこの判断に異議を申し立てましたが、この判断は2人目のコンテンツ審査担当者によっても維持されました。翌日、残りの6件の報告が5人の異なるモデレーターによって審査されましたが、その全員が、当該コンテンツはMetaのポリシーに違反していないと判断しました。

1月8日、ボルソナロ前大統領の支持者がブラジリアの「三権広場」にある連邦議会、最高裁判所、大統領府に侵入し、警察を威嚇したり、物を破壊したりしました。1月9日、Metaは、危険な人物および団体に関するポリシーに基づいて1月8日の暴動が「違反行為にあたる出来事」であると宣言し、「これらの行動を支持または賞賛するコンテンツ」を削除すると述べました。Metaはまた、「ブラジルを暫定的にリスクの高い地域に指定」し、「武器を取ったり、大統領府、連邦議会、その他の連邦政府の建物に力ずくで侵入したりするよう人々に呼びかけるコンテンツを削除してきた」ことも発表しました。

委員会がこの事例を選定したことを受け、Metaは当該コンテンツをFacebookに引き続き掲載するという複数回の判断が誤りだったと結論付けました。2023年1月20日、委員会が本事例を最終候補に残した後、Metaは当該コンテンツを削除しました。

主な調査結果

本事例は、ブラジルの2022年大統領選挙という状況およびその他の場所におけるMetaの選挙の公正性を保全する取り組みの効果に関する懸念を提起しています。選挙の公正性に異議を唱える行為は一般的に保護されるべき言論であるとみなされていますが、状況によっては、選挙を根底から揺るがすことを試みる広範囲の主張は、暴力につながるおそれがあります。本事例では、発言者の意図、発言の内容と影響範囲、当時のブラジルの政治的な背景の結果として生じる可能性がある差し迫った危害という要素すべてにより、当該投稿を削除することが正当化されました。

リスクの高い特定の場所に力ずくで押し入るよう呼びかけることに関するMetaのルールに、ある投稿が違反していると判断するには、当該場所が「リスクの高い」とみなされる必要があり、当該場所が「暫定的にリスクの高い場所」として個別に指定される地域または界隈にある必要があります。当該投稿はブラジリアの三権広場にある政府施設(ブラジルの「暫定的にリスクの高い地域」にある「リスクの高い場所」)に力ずくで押し入るよう呼びかけることを求める明確な呼びかけであるため、政治的暴力の意識が高まった時期に当該コンテンツを残すというMetaの当初の判断は、Meta独自のルールからの明確な逸脱を表していました。

委員会は、当該コンテンツが投稿された時期にブラジルで市民暴動が起き、1月8日の暴動の前の数週間および数か月の間に同様のコンテンツが広範に拡散していたにもかかわらず、Metaのコンテンツモデレーターが当該コンテンツがルールに違反していないと繰り返し評価し、当該コンテンツをさらに審査するためにエスカレーションしなかったことを深く懸念しています。また、委員会がMetaに対し、ブラジルの選挙の前、途中、後にMetaのプラットフォーム上で行われた特定の選挙関連の主張に関する情報を提供するようMetaに求めた際に、Metaは、そのような主張の普及に関するデータがないと伝えました。本事例のコンテンツは最終的に2週間以上経ってから削除されました。この時点までに、当該コンテンツが呼びかけた違反行為にあたる出来事はすでに起きていました。Metaは、委員会がMetaにこの事例を指摘した後になってようやく削除しました。

委員会からの質問に対してMetaは、選挙の公正性を保全する取り組みの成果を測定するための特定の指標を一般的に採用していないと回答しました。したがって、MetaがMetaの選挙の公正性を保全する取り組みを評価し、当該案件を公開するための枠組を構築する必要があると委員会は考えます。この目的は、Metaのコンテンツのモデレーションシステムを全体的に改善し、選挙の状況下でMetaのリソースを採用する最適な方法を確認するための関連データをMetaに提供することにあります。こうした情報がなければ、委員会も一般の人も、Metaの選挙の公正性を保全する取り組みの効果をより広範に評価できません。

監督委員会の決定

監督委員会は、投稿を残すというMetaの当初の決定を無効と判断します。

また、委員会はMetaが次の対応をするよう勧告します。

• Metaの選挙の公正性を保全する取り組みを評価するための枠組を構築する。これには、Metaのコンテンツポリシー施行および広告に対するアプローチに関連する取り組みを含む、選挙の公正性を保全する取り組みの成功に関する指標の作成とシェアが含まれます。
• 透明性センターで、危機対応ポリシープロトコルに加えて、Metaが選挙の状況下またはその他のリスクの高い出来事の発生時に生じる潜在的な危害のリスクを阻止し、これらに対処する試みにおいてその他のプロトコルを実施することを明確にします。

* 事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 決定の概要

監督委員会は、「hit the streets」(街に繰り出す)とともに、「go to the National Congress and the Supreme Court」(連邦議会と最高裁判所に向かう)よう人々に呼びかけているブラジルの将軍を大きく取り上げたFacebook動画を残すMetaの当初の決定を無効と判断します。これらの呼びかけの後には、これらの政府施設があるブラジリアの三権広場で燃え盛る炎の画像が続きます。この画像にはオーバーレイテキストで、「Come to Brasília!Let’s storm it!Let’s besiege the three powers」(ブラジリアに集結せよ！攻め込もう！三権を包囲しよう！)と表示されます。委員会は、これらの発言が、選挙結果に異議を申し立て、政府の移行を阻止するための軍事介入を呼びかけるボルソナロ氏の支持者を背景としてこれらの施設に侵入して支配権を握るための疑問の余地のない明確な呼びかけであると判断します。委員会が当該投稿を最終候補に残した後、Metaは当初の決定を覆し、当該投稿をFacebookから削除しました。

本事例は、ブラジルの2022年大統領選挙という状況およびその他の場所におけるMetaの選挙の公正性を保全する取り組みの効果に関するより広範な懸念を提起しています。選挙の公正性に異議を唱える行為は一般的に保護されるべき言論であるとみなされていますが、状況によっては、本事例での主張のような、選挙を根底から揺るがすことを試みる広範囲のオンラインおよびオフラインでの主張は、オフラインでの暴力につながるおそれがあります。ブラジルでは、そのような暴力が結果的に行われることを示すあらゆる警告シグナルが現れていました。委員会は、Metaが選挙中と選挙後に複数のリスク評価および緩和策を設定したことを認めていますが、選挙の状況下で暴力を扇動するためにMetaのプラットフォームが使用される潜在的なリスクを考慮すると、Metaは、有害な結果を防止・軽減し、これに対処する取り組みを継続的に強化する必要があります。権力の移行の状況下で暴力のリスクに対処するために、選挙後のフェーズもMetaの選挙の公正性を保全する取り組みの対象にする必要があります。

したがって、委員会は、MetaがMetaの選挙の公正性を保全する取り組みを評価し、当該案件を公開するための枠組を構築するよう勧告します。このような枠組には、Metaの選挙の公正性を保全する取り組みの最も関連する側面に関する成功の指標を含める必要があります。これにより、Metaは、過ちを特定して撤回できるだけでなく、重大な状況下でその方策にどれくらい効果があったかを追跡できるようになります。委員会はまた、Metaが選挙の状況下とその他のリスクの高い出来事の発生時に生じる潜在的な危害のリスクを阻止し、これらに対処するために設ける様々なプロトコルと方策を明確にするよう勧告します。これには、このようなプロトコル、その目的、プロトコル間の接点、互いの相違点の指定と説明が含まれます。このようなプロトコルは、特に政治的な暴力が発生するリスクの高い選挙の状況下で使用する際に、より効果的であり、明確な指揮系統を持ち、適切にスタッフが配置される必要があります。これらの勧告は、政治的暴力を宣伝するためにMetaのプラットフォームが使用されることを阻止するためにMetaがより良い立場を確保し、選挙関連の暴力に対する対応をより広範に強化することで、Metaのコンテンツモデレーションシステムを全体的に改善する上で役に立ちます。

2. 事例の説明と背景

2023年1月3日、あるFacebookユーザーが、2022年のブラジルの選挙に関する動画が投稿しました。このキャプションには、「the last alternative」(最後の選択肢)としてブラジル連邦議会を「besiege」(包囲する)よう呼びかけるポルトガル語の文言が含まれていました。この1分32秒の動画は、ジャイル・ボルソナロ前大統領の再選を支持するブラジルの知名度の高い将軍と支持者による演説の一部も紹介しています。この動画で、制服を着たこの将軍が、人々に対し、「hit the streets」(街に繰り出す)とともに、「go to the National Congress... [and the] Supreme Court」(連邦議会…(そして)最高裁判所に向かう)よう呼びかけています。将軍の演説に続き、一連の画像が表示されます。これには、ブラジルの大統領府、連邦議会、最高裁判所が置かれているブラジリアの三権広場で燃え盛る炎の画像も含まれています。この画像にはポルトガル語のオーバーレイテキストで、「Come to Brasília!Let’s Storm it!Let’s besiege the three powers」(ブラジリアに集結せよ！攻め込もう！三権を包囲しよう！)と表示されます。別の画像にはオーバーレイテキストで、デモ参加者がブラジルの電子投票機の信頼性に対して異議を唱えるために使用しているスローガン「we demand the source code」(我々はソースコードを要求する)が表示されます。この動画の再生回数は1万8,000回以上、シェアされた回数は0回でした。

当該コンテンツが投稿される2日前、ボルソナロ氏の対立候補であるルイス・イナシオ・ルーラ・ダ・シルヴァ氏が2022年10月30日の大統領選の決戦投票において50.9%の得票で勝利を収めた後にブラジルの大統領に就任しました。2回の投票の前、途中、後の期間には、差し迫った選挙の不正に関する主張によって拍車をかけられた、潜在的な暴力のリスクの高さがはっきり示されました。これは、ブラジルの選挙の投票機に不正アクセスされる脆弱性があるという疑いを前提にしていました。選挙の前、ボルソナロ大統領は、裏付けとなる証拠なしに不正行為を申し立て、選挙の投票機を信頼できないと主張することで、選挙制度に対する不信感を煽りました。一部の軍将校が、選挙に不正があったという同様の主張をして同調し、選挙の異議申し立ての仲裁人として軍を使用することを支持すると話しました。Metaのプラットフォームでの選挙の正当性を非難する政治広告の事例が報告されました。これには、司法当局を非難し、軍事クーデターを促す投稿と動画が含まれていました。また、Global Witnessがブラジルに関するレポートを公開し、コミュニティ規定に違反する政治広告がどのようにMetaによって承認され、Metaのプラットフォームで頻繁に繰り返されたかについて説明しました。調査結果では、ミャンマーやケニアなどのその他の国に関するGlobal Witnessの同様のレポートを追跡しました。

選挙後の期間には、選挙結果を覆すよう軍に呼びかけるための抗議活動、バリケード設置、軍事基地前での野営などの市民暴動が伴いました。委員会が意見を求めた専門家によると、本事例の動画は、選挙の結果が明らかになった直後の2022年10月に初めてオンラインに出現し、同様のコンテンツが異なるソーシャルメディアプラットフォームに残され、1月8日の暴動につながりました。ルーラ氏の勝利が高等選挙裁判所によって確定された日と同日の2022年12月12日、ボルソナロ氏を支持する抗議者のグループがブラジリアの連邦警察本部に押し入ろうとしました。複数の破壊行為・器物損壊行為が行われました。2022年12月24日、ブラジリアの国際空港付近で爆破未遂がありました。この攻撃の首謀者である男性が逮捕され、クーデター支持派の主張に注目を集めることが目的であったことを認めました。

2023年1月1日に新しく選出された大統領就任式が行われても、ブラジルで高まっていた政治的暴力のリスクは弱まりませんでした。委員会が委託した調査に基づいて、投票機に関する虚偽の主張は1回目と2回目の投票の後にMetaのプラットフォームで最高に達し、ルーラ氏の勝利の数週間後に再度最高に達しました。また、1月8日に至るまでの数日間、ボルソナロ氏の支持者が複数の暗合化されたスローガンを使用して、特に政府施設に焦点を当てたブラジリアでの抗議活動を促しました。後方支援組織の大半は、Facebook以外のコミュニケーションチャネルを介して作業を遂行しているようでした。

米州機構とカーターセンターなどの国際的な選挙監視使節団は、実質的な不正の証拠はなかったこと、および非常に二極分化された有権者の圧力にもかかわらず選挙は自由で公平なやり方で実施されたことを報告しました。また、ブラジルの国防省は、選挙を公式に監視し、異常や不正の証拠がなかったことを報告しました。ただし、その後、軍が「do not rule out the possibility of fraud」(不正の可能性を除外していない)という矛盾する声明を発表しました。ブラジルの国防省は、軍の活動を監督しています。

1月8日、本事例のコンテンツで言及されているブラジリアの三権広場にある連邦議会、最高裁判所、大統領府にボルソナロ前大統領の支持者が侵入し、警察を威嚇したり、物を破壊したりしたときに緊張が最高潮に達しました。約1,400人が、1月8日の暴動の参加したために逮捕され、約600人が依然として留置されています。

1月8日の出来事の結果として、国連が暴力の使用を非難し、この出来事が「culmination of the sustained distortion of facts and incitement to violence and hatred by political, social and economic actors who have been fueling an atmosphere of distrust, division, and destruction by rejecting the result of democratic elections」(民主的な選挙の結果を拒否することで不信、不和、破壊の雰囲気を醸成している政治的、社会的、経済的行為者による事実の継続的な歪曲および暴力と憎悪の扇動の最高点)であると述べました。国連は、ブラジルの民主主義的な制度に対する強い関心と信頼を繰り返し述べました。パブリックコメントと委員会が助言を求めた専門家は、ブラジルの選挙制度の公正性に機先を制して疑いを投げ掛けた主張が、政治的二極分化を促し、オフラインでの政治的暴力を可能にすることに及ぼした有害な影響力を指摘しました(Dangerous Speech Project [PC-11010]、LARDEM - Clínica de Direitos Humanos da Pontifícia Universidade Católica do Paraná [PC-11011]、Instituto Vero [PC-11015]、ModeraLab [PC-11016]、Campaign Legal Center [PC-11017]、Center for Democracy & Technology [PC-11018]、InternetLab [PC-11019]、Coalizão Direitos na Rede [PC-11020]からのパブリックコメントを参照)。

2023年1月9日、Metaは、危険な人物および団体に関するポリシーに基づいて1月8日の暴動が「違反行為にあたる出来事」であると宣言し、「これらの行動を支持または賞賛するコンテンツ」を削除すると述べました。Metaはまた、「投票日前から」「ブラジルを暫定的にリスクの高い地域に指定」し、「武器を取ったり、大統領府、連邦議会、その他の連邦政府の建物に力ずくで侵入したりするよう人々に呼びかけるコンテンツを削除してきた」ことも発表しました。

当該コンテンツが投稿されたのと同日の1月3日、ある利用者が当該コンテンツをMetaの暴力と扇動に関するコミュニティ規定に違反するものとして報告しました。このコミュニティ規定では、「暴力やオフラインでの被害のリスクが高まっている、普段とは異なる兆候が見られる. . .特定の場所に力ずくで押し入る」よう呼びかけることを禁止しています。当該コンテンツは1月3日～4日の間に、合計で4人の利用者によって7回報告されました。最初の報告を受けて実施された人間のモデレーターによる審査の結果、当該コンテンツはMetaのポリシーに違反していないと判断されました。当該利用者はこの判断に異議を申し立てましたが、この判断は2人目の人間のモデレーターによっても維持されました。翌日、残りの6件の報告が5人の異なるモデレーターによって審査されましたが、その全員が、当該コンテンツはMetaのポリシーに違反していないと判断しました。当該コンテンツがポリシーや対象分野の専門家にエスカレーションされ、再審査を受けることはありませんでした。委員会からの質問に対してMetaは、当該コンテンツを審査した7人の担当者がヨーロッパに拠点を置いていると明言しました。Metaによると、これらの担当者は全員、 ポルトガル語に堪能で、ブラジルのコンテンツを審査するための言語的および文化的専門知識を有していました。

委員会がこの事例を選定したことを受け、Metaは当該コンテンツをFacebookに引き続き掲載するという複数回の判断が誤りだったと結論付けました。2023年1月20日、委員会が本事例を最終候補に残した後、Metaは当該コンテンツを削除し、当該コンテンツ作成者のアカウントに対して警告を発し、24時間の機能制限を適用し、この期間中に当該コンテンツ作成者が新しいコンテンツを作成できないようにしました。Metaの措置にもかかわらず、委員会に提出された市民団体Ekōのパブリックコメントとその他のレポートでは、委員会が本事例をMetaに指摘した後でさえ、同様のコンテンツがFacebookに残っていたことを強調しました(PC-11000)。

3. 監督委員会の権限と範囲

委員会には、プラットフォームに残されたコンテンツを以前に報告した利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、拘束力のない勧告を含めることができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。Metaが勧告に基づき行動することを約束する場合、委員会はその実施をモニタリングします。

委員会が今回のような事例、つまり、誤りがあったことをその後にMetaが認めるような事例を選定した場合、委員会は当初の決定を審査して、誤りにつながったポリシーの要素とコンテンツモデレーションのプロセスの理解を深めます。その後、根底にあるMetaのポリシーまたはプロセスに関して委員会が特定する問題に対処する方策を模索します。また、委員会は、施行の正確性を改善し、利用者が今後より公平に扱われるように勧告を行うことを目指しています。

4. 先例および指針の資料

本事例における委員会の分析は、次に掲げる基準および先例に基づいて行われました。

I. 監督委員会の決定:

監督委員会による過去の決定のうち、最も関連度の高いものには以下の決定などがあります。

• 「トランプ前大統領のアカウント停止」(事例に関する決定 2021-001-FB-FBR): 委員会は、選挙の状況下では、Metaの人権に対する責任上、政治的見解の表明を認めると同時に、他の人権に対する深刻なリスクを回避することが必要であると指摘しました。
• 「ミャンマーでのボット」(事例に関する決定 2021-007-FB-UA): 委員会は、政治的危機の期間中に政治的発言を保護することの重要性を強調しました。
• 「ティグレ州広報局」(事例に関する決定 2022-006-FB-MR): 委員会は、暴力を扇動するためにMetaのプラットフォームが利用されるリスクを軽減するため、紛争地帯のコンテンツモデレーションに関し、原則に基づいた、透明性のあるシステムを確立するMetaの責任を強調しました。
• 「クニンに関連するアニメ」(事例に関する決定 2022-001-FB-UA): 委員会は、コンテンツを対象分野の専門家にエスカレーションする方法を明確にするようMetaに強く求めました。

II.Metaのコンテンツポリシー:

暴力と扇動に関するコミュニティ規定

暴力と扇動に関するコミュニティ規定に基づいて、Metaは、宗教関連施設、教育施設、投票所、開票作業や選挙運営に使用される場所を含むがこれらに限定されない場所、または暴力やオフラインでの被害が生じるリスクが高まる、普段とは異なる兆候が見られる特定の場所に力ずくで押し入ることについて、当該行為を意図もしくは擁護する発言、当該行為を呼びかける発言、当該行為を望んでいるような発言、または条件次第で当該行為を実行する発言を認めていません。このコミュニティ規定のポリシーの基本理念は、Metaのプラットフォームに表示される「コンテンツに関連して起こりうるオフラインでの危害を防止すること」です。同時に、Metaは、「人は不満や他人との意見の相違を示すため、実行するつもりのない暴力の脅しや呼びかけを行うことがある」ことを認識しています。したがって、Metaは、「人身に実際の危害を及ぼす、または公共の安全を直接脅かすリスクがある」と思われる場合、コンテンツを削除します。また、Metaは、脅迫の確実性が高いかどうかを判断する際に、「言語と状況」も考慮します。

また、委員会の分析は、Metaが「何よりも大切にしている」とする「意見」に対する取り組み、および、Metaが重んじる「安全性」の価値観も基にして行われました。

III. Metaの人権保障責任

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して企業が負う責任について自主的な枠組を定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権を尊重することへの約束を再確認しました。

委員会は、本事例での人権に対するMetaの責任について、次に掲げる国際基準に基づき分析しました。

• 意見と表現の自由の権利: 市民的及び政治的権利に関する国際規約(ICCPR)第19条および第20条、規約人権委員会の一般的意見34 (2011年)、デジタル時代の選挙に関する調査報告(Research Paper 1/2019 on Elections in the Digital Age) (2019年): 意見及び表現の自由に関する国連特別報告者(UN Special Rapporteur on freedom of opinion and expression)報告書: A/HRC/38/35 (2018年)およびA/74/486 (2019年)、ラバト行動計画(国連人権高等弁務官報告書): A/HRC/22/17/Add.4 (2013年)
• 平和的な集会の権利: ICCPR第21条、規約人権委員会の一般的意見37(2020年)
• 生命に対する権利: ICCPR第6条
• 公共分野への参加権と投票権: ICCPR第25条

5. 利用者からの陳述書の提出

委員会への異議申し立ての中で、当該コンテンツを報告した利用者は、「have already reported this and countless other videos to Facebook and the answer is always the same, that it doesn’t violate the Community Standards」(これと、数え切れないほどのその他の動画をFacebookにすでに報告したが、回答は常に同じで、コンテンツがコミュニティ規定に違反していない、というものだった)と述べました。この利用者はさらに、当該コンテンツが暴力を扇動する可能性と、「who do not accept the results of elections」(選挙結果を受け入れていない)ブラジルの人々の行動を関連付けました。

6. Metaからの情報提供

委員会がMetaに本事例を指摘した時点で、Metaは、当該コンテンツを残すという当初の判断は誤りだったと結論しました。Metaは、大統領選挙の前、途中、後にブラジルの社会的および政治的な背景の広範な分析を委員会に提供し、本事例における当該コンテンツの削除(遅ればせながらではあるが)を正当化しました。Metaはその後、持続的な施行上の誤りに「寄与した可能性がある」確度の高い要因を委員会に提供しました。

Metaは、「リスクの高い場所への「殺到」についてキャプションと動画内で複数回言及することは、[暴力と扇動に関する]ポリシーに基づき、「力ずくで押し入る」ことにはならない程度のものである」という見解を述べました。ただし、Metaは、「Come to Brasília! Let’s storm it!Let’s besiege the three powers」(ブラジリアに集結せよ！攻め込もう！三権を包囲しよう！)という人々に対する呼びかけと三権広場で燃え盛る炎の背景画像の組み合わせからは、これらの目立つ場所に力ずくで押し入るという意図が明確になります。」とも述べました。

Metaによると、MetaがMetaのプラットフォームが「特に選挙に関して政治的議論にとって重要な場所」であることを認めたとしても、当該コンテンツは他の人に知らせる価値という許容要件を満たしていませんでした。本事例における当該コンテンツに対する社会的関心は、「明示的な暴力の呼びかけ」と「ブラジルの大統領選挙とルーラ氏の就任に続くオフラインでの危害のリスクの高まり」を考慮すると、危害のリスクを上回るほど高くありませんでした。Metaは、当該コンテンツが暴力の呼びかけの非難や意識喚起を目的にシェアされたことを示すものを何も見つけることができませんでした。Metaは、当該コンテンツを削除する最終的な決定は、Metaが重んじる価値観および国際的な人権基準に則ったものであると主張しています。

選挙とその他の危機的状況に対処するために、Metaは、様々なチームによって実行され、同時または個別に適用できる複数のリスク評価および緩和策を設けました。これらはそれぞれ、各リスク評価に応じて強度の「階層」または「レベル」が異なります。

• Metaの製品チームによって実行される公正性国優先順位付けポリシー(危険な状態のレベル設定システム)は、製品リソース投資の長期的な優先順位付けの枠組を提供します。Metaは、このプロセスは短期的な危機には対応できないと説明していますが、このプロセスは出現しつつあるリスク/脅威に関してすべての国を年に2回評価します。
• インテグリティプロダクト運用センター(IPOC)は、該当分野を専門に扱う社内の担当者を一堂に集めて、「潜在的な問題とトレンドにリアルタイムで対処」します。IPOCは、危機的状況やリスクの高い状況において、一連の多数の問題を素早く評価し、リスクを特定し、これらへの対処方法を決定することを目的として立ち上げられます。IPOCは、特に選挙に焦点を当てている場合は選挙オペレーションセンターと呼ばれます。
• 選挙オペレーションセンターは、「投票を妨害しようとする試み、スパムの増加、外国からの干渉の可能性、[Metaの]ポリシーに違反するコンテンツの報告など、選挙に関する主要な問題をリアルタイムで監視」し、「その他のソーシャルネットワークと従来のメディアにおける報道と選挙関連の活動を監視」します。選挙オペレーションセンターは、Metaに「統一見解を示し、どのような種類のコンテンツが拡散される可能性があるかを追跡するのを支援し」、これらの脅威に対するMetaの対応を「加速」します。選挙オペレーションセンターの準備の一部には、「嫌がらせや投票妨害などの潜在的な脅威に対応し、効果的に対応するためのシステムと手続きを事前に策定するための詳細なシナリオプランニング」が含まれます。
• 最後に、危機対応ポリシープロトコルは、出現しつつある危機に対する期限を定めたポリシー固有の対応を策定するためにMetaが採用した枠組です。Metaはこのプロトコルを、トランプ前大統領のアカウント停止の事例における監督委員会の勧告を受けて策定しました。このプロトコルに基づいて、Metaは、3つの危機カテゴリを確立します。Metaはこれらに基づいて、リスクを軽減するために一連の特定の方策を採用します。たとえば、カテゴリ1の危機は、「法執行機関または軍の活動の増加」または「選挙または一触即発の臨戦態勢にある地域の出来事の計画」によってトリガーされます。

2022年のブラジルの総選挙に対処した選挙オペレーションセンターは、選挙1回目と2回目の間を含む2022年9月から11月にかけて様々な時点で運営されました。ただし、当該コンテンツが投稿された2023年1月3日の時点では選挙オペレーションセンター(IPOC)は設けられていませんでした。Metaは、コンテンツのリスクを軽減する最善の方法を評価しやすくするために、危機対応ポリシープロトコルに基づいて「選挙後の暴動」を危機として指定しました。

ブラジルの選挙の前、途中、後のMetaのプラットフォーム上のデジタルトレンドに関する委員会からの質問への回答において、Metaは、「選挙の準備と選挙への対応業務」の一環として「複数のチームが選挙関連のコンテンツのトレンドを特定し、これらをリスク軽減戦略に組み込みました」と述べました。これらには、「(i)暴力の脅威の扇動または拡散に関連するリスク、(ii)偽情報、(iii)有害なコンテンツの広告の潜在的な不正利用に関連するリスクを含むビジネスインテグリティ...または公の論議を操作したり貶めたりする方法でキャンペーンを実施する試み」が含まれます。Metaは、「数ある要因の中でも特に結果が、複数の製品とポリシー対策を伝える上で役に立ちました」と述べました。ただし、Metaには、特定の主張(選挙の不正、ブラジリアに行くことまたは連邦政府施設に力ずくで押し入ることの呼びかけ、軍事介入の呼びかけなど)に関する「普及データ」がありません。なぜなら、一般的にMetaの施行システムは「これらが違反しているポリシーに基づいて監視およびトラッキングするよう設定されている」からです。

委員会はMetaに書面で15件の質問をしました。これには、選挙オペレーションセンターの仕組みに関する口頭でのブリーフィングに対する5件のフォローアップが含まれます。質問は、Metaのプラットフォームでの協調的行動に対処するために利用可能なポリシーレバー、2022年のブラジルの選挙の前に特定されたリスク、ブラジルの選挙の選挙オペレーションセンターと危機対応ポリシープロトコルの関係、Metaが正当な政治的組織化と有害な組織的活動を区別する方法、選挙の前、途中、後のブラジルでのMetaのプラットフォーム上のデジタルトレンド、本事例のコンテンツを審査したコンテンツモデレーターの言語能力に関連するものでした。

Metaは、13件の質問に回答しました。Metaは、2件の質問に回答しませんでした。そのうち1件は、政治広告と偽情報の関係に関する質問で、もう1件は、2022年のブラジルの選挙の選挙オペレーションセンターが設けられている間に削除されたページとアカウントの数に関する質問です。また、Metaは委員会に対し、委員会へすぐに開示できる2022年のブラジルの選挙を背景としたコンテンツのモデレーションに関する一般データがこれ以上ないと伝えるとともに、すでに公開されているコンテンツの削除の件数を伝えました。Metaはさらに、成功の一連の特定の指標とベンチマークに基づいて選挙を背景としたMetaのパフォーマンスを評価しないことも説明しました。Metaは、委員会の質問に対する回答の中でリソースを優先順位付けする必要性を提起し、本事例を決定するために期間内に要求されたデータを提供することは不可能であったと述べました。

7. パブリックコメント

本事例に関して、監督委員会には18件のパブリックコメントが寄せられました。これらのコメントのうち11件はラテンアメリカ・カリブ地方から、3件は米国・カナダから、2件は中近東・北アフリカから、1件はアジア太平洋・オセアニアから、1件は中央・南アジアから寄せられたものでした。また、2023年2月、委員会は、「コンテンツモデレーションと政治的移行」のトピックに関してブラジルとラテンアメリカの関係者らと討論会を開催しました。

提出内容には、2022年のブラジルの選挙の期間中およびその前後のソーシャルメディアプラットフォームでの選挙の不正に関する有害な主張と軍事クーデターの呼びかけの蓄積、選挙関連の偽情報、選挙の公正性を保全するMetaの取り組み、権力の民主的な移行を背景として利用者の権利を保護するMetaの責任、選挙否認主義と政治的暴力の関係、現地の政治的背景に対するコンテンツレビュー担当者の熟知度の重要性などに関するテーマがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8. 監督委員会による分析

委員会は、このコンテンツが削除されるべきか否かという点について、Metaのコンテンツポリシー、人権保障責任および同社が重んじる価値観を分析することにより検討を加えました。本事例が選定された理由は、特に権力の移行を背景として、Metaがプラットフォーム上での平和的な組織化と暴力行為の扇動または連携を区別する方法を委員会が評価できるからです。また、特にブラジルにおいて、選挙の公正性に異議を唱えることと、正当な選挙結果が尊重されるよう保証することの両方にとって選挙後の期間が極めて重要な時期であることを考慮すると、本事例により、委員会はMetaの選挙の公正性を保全する取り組みをより全般的に検討できます。したがって、Metaの選挙の公正性を保全する取り組みは選挙プロセス自体と選挙後の期間の両方を対象とする必要があると委員会は考えます。なぜなら、選挙後の期間は、不正操作、選挙関連の偽情報、暴力の脅威の対象にもなりやすいからです。本事例は、委員会の「選挙および市民空間」という戦略的優先事項に該当します。

8.1 Metaのコンテンツポリシーへの準拠

I. コンテンツルール

暴力と扇動

委員会は、本事例のコンテンツが、暴力と扇動に関するコミュニティ規定の、リスクの高い特定の場所に力ずくで押し入るよう呼びかけるコンテンツを禁止する規定に違反すると判断します。委員会は、「意見」に関するMetaの価値観は選挙後の期間を含む選挙プロセスに特に該当するが、「安全性」に関するMetaの価値観を高めるために本事例におけるコンテンツの削除が必要であると判断します。

リスクが高い場所に力ずくで押し入るよう求める呼びかけに対するポリシーの文言に違反するには、2つの「リスクの高い」指定が必要です。最初に、当該場所が「リスクの高い」とみなされる必要があり、2つ目に、当該場所が暫定的にリスクの高い場所として個別に指定される地域または界隈にある必要があります。コンテンツ審査担当者に対するMetaの具体的な指示は、「暫定的にリスクの高い場所内のリスクの高い場所に力ずくで押し入るよう求める行動に対する呼びかけ、当該行動を意図する発言、当該行動を擁護する発言、当該行動を望むような発言を削除」することです。

Metaは、「リスクの高い場所」を「暴力の対象となる可能性が高いためにリスクが高いとみなされる永続的または一時的な場所」として定義しています。永続的にリスクの高い場所には、「リスクの高い人物またはその家族の勤務場所または住居(報道機関の本社、医療センター、研究所、警察署、官庁など)、地方選挙と国政選挙中に有権者登録センター、投票所、開票所として使用される施設(地域の図書館、政府施設、コミュニティセンターまたは市民会館など)または選挙管理委員会が使用する施設」が含まれます。Metaによると、ブラジルの連邦議会、最高裁判所、大統領府は、リスクの高い人物またはその家族の勤務場所または住居であることを理由にすべて永続的な「リスクの高い場所」です。

より広範な地域または界隈を別の「暫定的にリスクの高い場所」として指定することで、「期限を定めて[Metaがそれなりに]暫定的に指定する場所」を網羅します。ある場所が暫定的にリスクの高い場所として指定される場合、多くの要因に基づいて判断されます。これには、「深刻度が高い暴力行為が過去7日間に当該場所で抗議活動として行われたかどうか」、「当該場所での市民暴動または議論を引き起こす判決に関連付けられた暴力のリスクの高まりの証拠」、「当該場所で差し迫った暴力が起こる可能性が高いことを示す法執行機関、内部のセキュリティレポート、または信頼できるパートナーからの評価」、「当該場所で計画されている抗議活動もしくは活発な抗議活動、または抗議活動の場所で武器を使用するか当該場所に武器を持ち込むことを活動家が呼びかけた当該場所で計画されている抗議活動もしくは活発な抗議活動の証拠」、「安全に関する懸念が自己防衛と自己決定の表現に対する潜在的な影響を上回っていることを示す社内チームによる評価」が含まれます。暫定的にリスクの高い場所が指定されたら、この指定がMetaの社内チームとシェアされます。このような指定は期限を定められていますが、Metaは時々延長を許可します。Metaによると、暫定的にリスクの高い場所の指定の結果、「ユーザーが[これ]を報告する前に」コンテンツの先回り審査が行われます。

2022年の選挙では、Metaはブラジル全土を暫定的にリスクの高い場所として指定しました。この指定は当初、進行中の市民暴動と選挙関連の暴動に関連する暴力のリスクの高まりに関するMetaの評価に基づいて2022年9月1日に確立されました。この指定は、2022年10月の選挙とその余波を対象とするために2023年2月23日まで延長されました。この指定は、本事例のコンテンツが投稿された時点で有効でした。

Metaによると、分析中の投稿に関する本事例の場合のように、コンテンツの一部がポリシーに違反していると判断されるには両方の指定が存在する必要があります。Metaによると、この二重の要件が、抗議活動に対する呼びかけが広範に抑制されず、暴力に至る可能性が高いコンテンツのみが削除されるようにする上で役に立ちます。

上記を前提として、委員会は、政治的暴力のリスクが高まっている時期にプラットフォーム上に当該コンテンツを残すというMetaの当初の決定はMeta独自の標準からの明確な逸脱だとみなします。なぜなら、これにより、ブラジルの「暫定的にリスクの高い場所」にある「リスクの高い場所」であるブラジリアの三権広場にある政府施設に力ずくで押し入るよう求める明確な呼びかけが引き起こされたからです。

II. 施行措置

Metaによると、必要な言語的および文化的専門知識を有していたモデレーターが当該コンテンツを審査しました。Metaは、大規模審査において担当者に判断の理由を記録するよう指示していません。委員会が本事例を審査対象にした際、Metaの社内チームが分析を実施し、確度の高い以下の3つの要因が原因で永続的な施行上の誤り「につながった可能性がある」と結論付けました。(1)担当者が、当該コンテンツを出来事に関する中立的コメントとして解釈することにつながった句読点の欠落がおそらく原因で利用者の意図(行動への呼びかけ)を誤解した可能性がある、または(2)担当者が、様々なソースからのリスクの高い出来事の関連するコンテンツの扱いに関する複数の更新が原因で適切なガイドラインが用意されているにもかかわらず間違った判断を行った、または(3)担当者が、動画内の暴力を視聴していなかった可能性がある。

要因1および3は、当該コンテンツにMetaのポリシーの潜在的な違反があったことは明確であったにもかかわらず、モデレーターが当該コンテンツを慎重に審査しなかった、または動画全体を視聴しなかったことを示唆しています。ただし、Metaは、当該コンテンツが対象分野およびポリシーの専門家にエスカレーションされてさらなる分析が行われなかった理由を説明していません。当該コンテンツが投稿および報告された時点で、「暫定的にリスクの高い場所」という指定が実施された場合のみ有効になるポリシーの文言に関連する「暫定的にリスクの高い場所」として指定されていた国からのコンテンツであるという事実にもかかわらず、当該コンテンツはエスカレーションされませんでした。また、当該コンテンツは、全体的なブラジルのオンラインおよびオフラインの状況にもかかわらず、エスカレーションされませんでした(第2条を参照)。

Metaはすでに、コンテンツ審査担当者が動画全体を視聴できるとは限らないと委員会に伝えています。それでもなお、特定のポリシーレバーがトリガーされた、暴力のリスクが高まる状況下では、委員会は、コンテンツ審査担当者が動画をすべて視聴するとともに、違反している可能性があるコンテンツをエスカレーションするよう指導されることを期待していました。

要因2に関しては、Metaは大規模審査担当者に暫定的にリスクの高い場所の指定を伝えていると述べましたが、Metaは、これとその他の選挙固有のリスク緩和策の普及に欠点があった可能性があることを認めています。この種の情報の普及により、コンテンツの審査担当者が、本事例の動画のような問題のあるコンテンツを検知、削除、またはエスカレーションできるようになります。ブラジルでは当時、様々な評価と緩和策が実施されていたという事実は、これらをより明確に表現し、その指揮系統をより明確にすることで、Metaの選挙の公正性を保全する取り組みをより効率的にする必要がある可能性が高いことを示します。

当該コンテンツを削除するというMetaの最終的な決定をよそに、委員会は、当該コンテンツが投稿された時期にブラジルで市民暴動が起き、1月8日の暴動の前の数週間および数か月の間に同様のコンテンツが広範に拡散していたにもかかわらず、Metaのコンテンツモデレーターが当該コンテンツがルールに違反していないと繰り返し評価し、コンテンツに含まれていた文脈的な手がかりにもかかわらず当該コンテンツをさらに審査するためにエスカレーションしなかったことを深く懸念しています。この懸念は、委員会がMetaに対し、ブラジルの選挙の前、途中、後にMetaのプラットフォーム上で行われた特定の選挙関連の主張に関する情報を提供するようMetaに求めた際に、Metaは、そのような主張の普及に関するデータがないと伝えたという事実によって増します。本事例のコンテンツは最終的に2週間以上経ってから削除されました。この時点までに、当該コンテンツが呼びかけた違反行為にあたる出来事はすでに起きていました。Metaは、委員会がMetaにこの事例を指摘した後になってようやく削除しました。

Metaは、最初に当該コンテンツの投稿の前、途中、後に様々なリスクの評価手法を採用することでブラジルにおける暴力のリスクの高まりを確認しており、当該コンテンツを最終的に削除することを決定した際に委員会にもその旨を直接伝えました。にもかかわらず、Metaの審査担当者は、コミュニティ規定、特に暫定的にリスクの高い場所の指定によってトリガーされる暴力と扇動に関するコミュニティ規定のポリシーの文言を適切に慢性的に実施しませんでした。潜在的な違反が明確であり、当時同様のコンテンツがFacebook上で出回っていたにもかかわらず(第2条および第8.2条を参照)、委員会による選定以前に当該コンテンツがエスカレーションされなかったという事実は、エスカレーションの経路が十分に明確で効果的ではなかった可能性が高いことを示しています(「クニンに関連するアニメ」の事例を参照)。これは、Metaが選挙に関する保護措置を改善する必要があることも示しています。委員会が以前の判断で指摘したとおり、大規模審査担当者が適切な言語的および背景的知識を有し、違反している可能性があるコンテンツをエスカレーションするために必要な設定と経路が用意されていることが不可欠です。

III. 透明性

委員会は、Metaが2022年のブラジルの選挙の公正性を保全するための重要な取り組みをしたことを認識しています。2022年8月、キャンペーン期間が正式に開始されたとき、Metaはブラジルでの選挙関連の構想を公表しました。Metaは、ブラジルの高等選挙裁判所と提携して、FacebookとInstagram上の選挙に関する投稿に「Electoral Justiceのウェブサイト上の信頼できる情報に利用者を誘導」するためのラベルを追加しました。Metaによると、この結果、このウェブサイトへのアクセスが「10倍に増えました」。また、この提携により、違反している可能性があるコンテンツを高等選挙裁判所がMetaに直接報告できるようになりました。Metaは、Metaのコミュニティ規定およびFacebookとInstagramで偽情報に対処する方法を説明するために、ブラジル全土にわたって選挙担当職員向けのトレーニングセッションを開催しました。Metaは、「実施予定の選挙の正当性に異論を唱えるよう呼びかける」有料広告も禁止しました。さらに、WhatsAppの転送の上限を導入し、1つのWhatsAppグループに一度に転送できるメッセージの数を1件に限定しました。最後に、暴力と扇動、ヘイトスピーチ、いじめと嫌がらせに関するポリシーなどの様々なコミュニティ規定に基づいて削除したコンテンツの数、およびブラジルの選挙に関して信頼できる情報にユーザーを誘導する選挙ラベルのクリック数の合計回数を報告しました。

にもかかわらず、2022年のブラジルの選挙の状況下で選挙の公正性を保全する取り組みについて委員会から質問された際、Metaは、コンテンツの削除、再生、選挙ラベルのクリック数に関するデータを報告する以外に、選挙の公正性を保全する取り組みの成功を一般的に測定するための特別な指標を採用していないと述べました。委員会は、Metaによる透明性センターでの開示と委員会とのやり取りからは、Metaの様々なリスク評価手法とプロトコルが個別にまたは平行してどのように実施されているか(上記の第6条を参照)が全体的に明確でないことも指摘しています。Metaは、これら様々なプロトコル間の接点を明確にし、これらが互いにどのように異なり、コンテンツポリシーの施行がこれらの影響を正確にどのように受けるのかをより分かりやすく説明する必要があります。

委員会が受け取った複数のパブリックコメント(Ekō [PC-11000]、Dangerous Speech Project [PC-11010]、ModeraLab [PC-11016]、Campaign Legal Center [PC-11017]、InternetLab [PC-11019]、Coalizão Direitos na Rede [PC-11020])は、ブラジルの選挙を保護するMetaの取り組みが十分ではなかったことを指摘しています。委員会は、コンテンツモデレーションを大規模に実施する際に避けられない課題を認めていますが、人権に対する悪影響を防止し、緩和し、これに対処するMetaの責任が選挙やその他のリスクの高い状況下では高くなるため、Metaはこれらに対する効果的な保護策を確立する必要があります。本事例における施行の誤りは、単独事象ではないように見受けられます。Ekō (PC-11000)によると、1月8日の暴動の後でさえ、同様のコンテンツがFacebookに残っていました。

Metaの措置が選挙の状況下全体を通じて適切かつ十分であったかどうかを評価するために、さらなる透明性の向上を図ることが必要です。委員会が審査するために利用可能なデータが欠如していたため、本事例における施行の誤り、および様々な関係者から寄せられた懸念がMetaのポリシーと施行手法における体系的な問題の徴候であるかどうかを適切に評価する委員会の能力が損なわれました。また、選挙の公正性を保全する取り組みを全世界でさらに改善する方法に関するより具体的な勧告をMetaに伝える委員会の能力も損なわれました。

大部分がコンテンツの削除に関するものであるMetaの現在のデータ開示は、特定の市場で実施している選挙の公正性を保全する手法の結果の全体像を示していません。たとえば、これらのデータ開示には、暴力と扇動に関するコミュニティ規定や、Metaによって当初は承認されたがその後ポリシーに違反していることが判明した政治的広告の割合など、選挙の状況下における重要なポリシーに関連する施行の正確性が含まれていません。このような指標を使用して統計的な監査を実行すれば、Metaは過ちを撤回できるだけでなく、手法を適切に施行することが最重要であるときに手法がどれくらい効果的であるかを追跡することもできます。

こうした情報がなければ、委員会も一般の人も、Metaの選挙の公正性を保全する取り組みの効果をより広範に評価できません。有害なコンテンツがオンライン上に残ってオフラインでの暴力行為に先行したりこれらの暴力行為に付随したりする場合、政治的暴力の出来事の多くがしばしば、選挙関連の申し立ての結果として生じたりこれらの申し立てによって激化したりすることを考慮すると、この事実は重要です(「ミャンマーのボット」(2021-007-FB-UA)、「ティグレ州広報局」(2022-006-FB-MR)、「トランプ前大統領のアカウント停止」(2021-001-FB-FBR)を参照)。

したがって、MetaがMetaの選挙の公正性を保全する取り組みを評価し、当該案件を公開するための枠組を構築する必要があると委員会は考えます。この目的は、Metaのコンテンツのモデレーションシステムを全体的に改善し、選挙の状況下でMetaのリソースを採用する最適な方法を確認するための関連データをMetaに提供することにあります。また、これにより、Metaが現地の知識を利用し、民主的なプロセスを妨害することを意図して企てられたオンラインおよびオフラインのキャンペーンを特定して評価しやすくなります。さらに、この枠組は、Metaが永続的なフィードバックチャンネルを設け、選挙プロセスが正式に終わった後に政治的暴力がいつまでもなくならないときに採用すべき手法を決定する上で役に立つものである必要があります。最後に、委員会は、上記で説明したとおり、選挙に関連する状況下でMetaの様々なリスク評価手法とプロトコル(IPOC、公正性国優先順位付けポリシー、危機対応ポリシープロトコル(上記の第6条を参照))間の相互関係を審査し、市民に分かりやすく説明する必要があると指摘します。

8.2 Metaの人権保障責任の遵守

表現の自由(ICCPR第19条)

意見と表現の自由の権利は、「central pillar of democratic societies, and a guarantor of free and fair electoral processes, and meaningful and representative public and political discourse」(民主的社会の中心的な柱であり、自由で公平な選挙プロセス、有意義で代表的な公共の議論と政治的議論を保証します) (表現の自由に関する国連特別報告者、調査報告書1/2019、2頁)。ICCPR第19条では、特に政治的発言に関して、表現に対する幅広い保護を規定しています。国が表現を制限する場合、その制限は合法性、正当性、および必要性と相応性の各要件を満たさなければなりません(ICCPR第19条第3項)。これらの要件はよく「3要素のテスト」と呼ばれます。委員会は、この枠組を使用して人権に対するMetaの自主的な取り組みを解釈しています。

I. 合法性(規則の明確さとわかりやすさ・閲覧可能性)

国際的な人権法に基づく合法性の原則により、表現を制限する規則は、明確でわかりやすく、公開されていることが求められます(一般的意見34、第25項)。表現の自由に関する国連特別報告者は、ソーシャルメディア企業の規則に当てはめた場合、当該規則が明確かつ具体的である必要があると述べています(A/HRC/38/35、第46項)。Metaのプラットフォーム利用者は規則にアクセスしてそれを把握できなければならず、コンテンツの審査担当者には施行に関する明確な指針が用意されていなければなりません。

本事例に関する事実に対して適用されたとおり、委員会は、リスクの高い場所に力ずくで押し入るよう呼びかけるコンテンツをMetaが禁止することが明確に伝えられており、この禁止がトリガーされる正確な状況も同様に明確であると判断しています。本事例のコンテンツは、特にブラジルの市民暴動の状況下において、利用者とコンテンツの審査担当者の双方によって違反していると簡単に理解される可能性があります。したがって、委員会は合法性要件が満たされているものとみなしています。

II. 正当な目的

表現の自由に対する制限(ICCPR第19条)は、「正当な目的」を追求するものである必要があります。暴力と扇動に関するポリシーは、「人身に実際の危害を及ぼす、または公共の安全を直接脅かすおそれがある」コンテンツを削除することで、「起こりうるオフラインでの危害を防止」することを目的としています。当該ポリシーは、生命に対する権利(ICCPR第6条)および社会秩序と国家安全保障に対する権利(ICCPR第19条第3項)などの第三者の権利の保護という正当な目的に資するものです。選挙の状況下では、当該ポリシーは、投票および公共分野への参加の第三者の権利(ICCPR第25条)の保護という正当な目的も推し進めます。

III. 必要性と相応性

必要性と相応性の原則は、表現の自由に対するいかなる制限も「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応でなければならない」(一般的意見34、第33項および第34項)と規定しています。暴力の扇動が関わる以前の事例の場合と同様、委員会は、国連ラバト行動計画の6つの要因が制限の必要性と相応性の決定に関連していると判断しています(「トランプ前大統領のアカウント停止に関する事例」などを参照)。

委員会は、多くの政治的環境において、単独の暴力行為があったとしても、選挙または選挙システムの公正性に異議を唱える行為は人々の表現と抗議の自由の権利の正当な行使であることを認識しています。人々は、それが政治的なメッセージであるため、保護レベルの高まりを享受しています(一般的意見37、第19項および第32項)。ただし、委員会は、本事例はこれに当たらないことを指摘しています。保護された政治的発言と、法律に基づく普通選挙の結果を覆すための暴力の扇動の間には極めて重要な線引きがあります。ラバト行動計画に記載された要因に基づき、本事例における発言の制限のしきい値は明確に満たされています。委員会は、本事例のコンテンツ内の複数の要素がその分析に関連していると判断します。具体的には、「the last alternative」(最後の選択肢)としてブラジルの連邦議会を「besiege」(包囲)し、「three powers」(三権)を「storm」(包囲)するよう求める呼びかけ、「hit the streets」(街に繰り出す)とともに、「go to the National Congress... [and the] Supreme Court」(連邦議会…(そして)最高裁判所に向かう)よう求めるブラジルの知名度の高い将軍による呼びかけが録画された動画、背景で燃え盛る連邦政府施設の画像、「the source code」(ソースコード)に対する要求です。これらはすべて、ボルソナロ氏の支持者が選挙結果に異議を唱え、軍事クーデターを求める、というより幅広いブラジルの状況下で、政府施設に侵入して支配権を握るための疑問の余地のない呼びかけです。発言者の意図、発言の内容と影響範囲、差し迫った危害の結果として当時のブラジルで政治的状況が生じる可能性の高さすべてが、当該投稿の削除を正当化しています。

当該コンテンツは、軍が選挙結果を覆すことを求める継続的な呼びかけが拡がる中、政治的暴力のリスクが高まる状況下で投稿されました。同時に、暗合化されたスローガンを使用して、特にブラジリア政府施設に焦点を当てた抗議活動が促されていました(第2条を参照)。これに関して、委員会が複数のパブリックコメントを介して受け取った情報(ITS Rio – Modera Lab (PC-11016)、 Coalizão Direitos na Rede (PC-11020)、 InternetLab (PC-11019)、Ekō (PC-11000)からの情報を含む)は、委員会が委託した調査を裏付けし、これらすべてが、1月8日の出来事へ向けての下準備として同様のコンテンツがソーシャルメディア上で幅広く頻繁に繰り返されていたことを示しています。これらはまた、ボルソナロ氏の支持者が三権広場の施設を包囲し、軍事クーデターを含む軍の介入を求める、という差し迫った危険も浮き彫りにしています。

これらを踏まえて、委員会は、当該コンテンツを削除することがMetaの人権保障責任に沿うものだという判断を下しています。当該コンテンツを削除することは、ブラジルの公務員と公共の秩序を含む人々の生命に対する権利を保護するために必要かつ相応な対応です。また、当該コンテンツおよび同様のコンテンツを削除することは、民主的な権力の移行を根底から揺るがそうとする試みが進行中であった状況下では、ブラジル人が投票する権利と公務に参加する権利を保護するために必要かつ相応な対応です。

Metaの審査システムが当該動画の違反を適切に特定すること、またはさらに審査するためにエスカレーションし、本事例のコンテンツを削除することを慢性的に怠っていたことは、重大な懸念です。委員会は、Metaが以下の勧告を導入すれば、より適切な立場で対処できると考えています。Metaはブラジルで選挙の公正性を保全する取り組みを改善するために積極的に措置を講じましたが、ブラジルで見られたこの種の組織的なキャンペーンを介したプラットフォームの潜在的な不正使用に対処するために十分な措置を講じていません。本事例の場合、プラットフォーム上に残されて広範にシェアされた当該コンテンツは、当時ブラジルでMetaのプラットフォームで頻繁に繰り返されたことが報告されている偽情報と扇動の典型的な種類であると見受けられます。このことは、Metaのプラットフォームで重大な動員力を持つ影響力のあるアカウントが暴力を促す役割を果たしたという主張を裏付けます。委員会が受け取ったパブリックコメント(Instituto Vero [PC-11015]、ModeraLab [PC-11016]、InternetLab [PC-11019]、Instituto de Referência em Internet e Sociedade [PC-11021]を参照)で主張されているとおり、Metaのプラットフォーム上のコンテンツが、民主的なプロセスを妨害することを意図した組織的かつ協調的な活動の一部である場合、当該コンテンツの個別部分の審査と潜在的な削除では不十分であり、相対的に非効率です。選挙の公正性を保全する取り組みと危機プロトコルでは、これらのより広範なデジタルトレンドに対処する必要があります。

8.3 類似の背景を持つ同一のコンテンツ

委員会は、ブラジルでの1月8日の暴動前の数か月間に分析対象のコンテンツと同様のコンテンツが拡散したことの懸念を表明します。違反している当該コンテンツを特定することをMetaが繰り返し失敗したことを踏まえて、委員会は、Metaのプラットフォームに残された類似の背景を持つ同一のコンテンツに対するMetaの決定の適用に対して特別な注意を払います。ただし、ブラジリアの三権広場にある施設を包囲するよう求める将軍の演説や呼びかけを非難したりこれらの認知度を高めたりするためにシェアされる場合は除きます。

9. 監督委員会の決定

監督委員会は、コンテンツを残すというMetaの当初の決定を無効と判断しました。

10. 勧告

A.施行

1. Metaは、Metaの選挙の公正性を保全する取り組みを評価するための枠組を構築する必要があります。これには、Metaのコンテンツポリシーの施行に関連する指標やMetaの広告に対するアプローチを含む、選挙の公正性を保全する取り組みの成功に関する指標の策定とシェアが含まれます。委員会は、Metaがこの枠組(指標の説明とこれらの指標の目標を含む)を構築し、これをMetaの透明性センターに開示し、国固有のレポートを公開し、この評価の結果として一般的な選挙の公正性を保全する取り組みに対する変更を公開した時点で、Metaがこの勧告に従ったものとみなします。

B.透明性

1. Metaは、透明性センターで、危機対応ポリシープロトコルに加えて、Metaが選挙の状況下またはその他のリスクの高い出来事の発生時に生じる危害の潜在的なリスクを防止し、これらに対処する試みにおいて、その他のプロトコルを実行することを明らかにする必要があります。これらのプロトコルの指定および説明に加えて、Metaは、その目的、これらの様々なプロトコル間の接点、これらの互いの相違点の概要も示す必要があります。委員会は、Metaがこの情報を透明性センターに公開した時点で、Metaがこの勧告に従ったものとみなします。

* 手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。委員会は、ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関による支援を受けました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。このほか、ソーシャルメディアのトレンドに関するオープンソース調査に従事する組織、Memeticaによる分析の提供も受けました。350種類を超える言語を話し、世界各地の5,000の都市を拠点とする専門家を擁するLionbridge Technologies, LLCが、言語面での専門的知識を提供しました。