ロシア語の詩

この審査結果はロシア語(この画面上部のメニューの「言語」のタブから)、ラトビア語(こちらから)およびウクライナ語(こちらから)でも閲覧可能です。

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

事例の概要

監督委員会は、ウクライナにいるロシア軍をナチスと比べ、ファシストの殺害を呼びかける詩を引用したFacebook投稿を削除するというMetaの当初の決定を無効と判断しました。また、同投稿内の死体と思われるものの画像が暴力や過激な描写を含むコンテンツに関するポリシーに違反するというMetaの結論も無効と判断しました。Metaはポリシー違反を根拠に、この画像に警告表示を適用していました。本事例は、紛争状況でのコンテンツモデレーションに関して重要な点をいくつか提起しています。

事例の内容

2022年4月、ラトビア在住のFacebook利用者が、地面にうつ伏せた死体と思われるものの画像を投稿しました。傷口などは見えません。Metaは委員会に対し、これがウクライナのブチャで撃たれた人物であることを確認しています。

画像に添えられたロシア語のテキストでは、第二次世界大戦中にソビエト兵がドイツで犯したとされる残虐行為は、ナチスの兵士がソビエト連邦で犯した犯罪に対する復讐であることを根拠に容認されていたと主張しています。テキストでは、ナチス軍とウクライナにいるロシア軍とを結びつけ、ロシア軍が「became fascist」(ファシスト化している)と述べています。

この投稿では、ロシア軍がウクライナで犯したとされる残虐行為に触れ、「after Bucha, Ukrainians will also want to repeat... and will be able to repeat」(ブチャでの出来事以降、ウクライナ人も同じような行為を繰り返そうとするだろうし、繰り返すことができるだろう)と述べています。投稿は、ソ連の詩人コンスタンチン・シモノフによる「Kill him!」(彼を殺せ！)という詩を引用して締めくくられています。ここには次のような詩行が含まれています。「kill the fascist...Kill him!Kill him!Kill!」(ファシストを殺せ...彼を殺せ！彼を殺せ！殺せ！)

この投稿は、別のFacebook利用者から、Metaのヘイトスピーチに関するコミュニティ規定に違反しているとして報告され、Metaはこれを削除しました。委員会が本事例を選定した後、Metaはこの投稿を誤って削除したと判断し、投稿を復元しました。3週間後、Metaは、暴力や過激な描写を含むコンテンツに関するポリシーに基づいて画像に警告表示を適用しました。

主な調査結果

この投稿を削除し、その後警告表示を適用したことは、Facebookコミュニティ規定やMetaが重んじる価値観、Metaの人権保障責任に沿っていないと委員会は判断します。

委員会は、この投稿が「ロシア兵はナチスのようだ」と一般的な非難をしているのではなく、ロシア兵が特定の時と場所においてナチスのような行為をしていたと主張し、歴史的な類似点を描写するものだと判断します。また、この投稿は、ロシア兵の国籍を理由としてではなく、戦闘員としての役割を理由としてロシア兵を標的としています。このような意味で、Metaの人権保障責任やヘイトスピーチに関するコミュニティ規定は、悲惨な悪事に関する主張から兵士を守るものでも、兵士の行為と過去の出来事とを挑発的な形で比較することを阻止するものでもありません。

コンテンツが暴力を促しているかどうかを評価するにあたり、委員会は文脈が重要であることを強調します。本事例では、「Kill him!」(彼を殺せ！)という詩の引用が芸術・文化関連の記述であり、修辞的技巧として用いられているものと委員会は理解します。投稿全体の文脈からすると、この引用は一定の心的状態を奨励するものではなく、ある心的状態を描写するために用いられていると判断します。この引用は、暴力のサイクルや、ウクライナで歴史が繰り返される可能性を警告しています。

モデレーター向けのMetaの社内ガイダンスでは、暴力と扇動に関するコミュニティ規定の解釈として、こうした「起こり得る結果への中立的言及」および「助言としての警告」は許可されることが明確になっています。しかし、このことは公開されているコミュニティ規定では説明されていません。同様に、暴力や過激な描写を含むコンテンツに関するポリシーでは暴力的な死を描写する画像を禁止しており、モデレーター向けの社内ガイダンスでは暴力的な死と捉えられるかどうかの判断方法が記載されていますが、その方法は公開されているポリシーには記述されていません。

モデレーター向けのMetaの社内ガイダンスに基づくと、暴力にあたるという明確なしるしがある場合には警告表示を使用する正当な理由となるでしょうが、本事例では、投稿内の画像にはそうしたしるしが含まれていないと委員会の過半数が判断しています。

総じて、この投稿が暴力を増幅させる可能性は低いと委員会は判断します。ただし、国際紛争の状況では国際法により戦闘員を標的とすることが認められ、暴力的な発言を評価するにあたっては複雑さが増す点を委員会は指摘します。ロシアによるウクライナ侵攻は違法だと国際的に認識されています。委員会はMetaに対し、違法な軍事介入の状況について考慮に入れるためにポリシーを修正することを勧めます。

監督委員会の決定

監督委員会は、この投稿を削除するというMetaの当初の決定、および警告表示を適用するに至った、投稿内の画像に暴力や過激な描写を含むコンテンツに関するポリシーへの違反があったというその後の決定を無効と判断します。

委員会はMetaが次の対応をするよう勧告します。

• 公開されている暴力と扇動に関するコミュニティ規定を改訂し、Metaによるポリシーの解釈によれば「起こり得る結果への中立的言及」をするコンテンツが認められることを明確にする。
• 公開されている暴力や過激な描写を含むコンテンツに関するコミュニティ規定において、「暴力的な死」を描写する画像に当たるかどうかの判断方法について説明を加える。
• 成人である利用者が過激な描写を含むコンテンツをいったい見るのかどうか、また見るのであれば警告表示ありで表示するのか、なしで表示するのかを決定できるようにするツール導入の実現可能性を評価する。

* 事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 決定の概要

監督委員会は、ウクライナでの紛争を扱ったFacebook投稿を削除するMetaの当初の決定について、これを無効と判断しました。このコンテンツはラトビアにおいてロシア語で投稿されたもので、地面に横たわった、死亡していると思われる人が写った市街地の画像と、それに添えられたテキストで構成されています。テキストには、第二次世界大戦中のドイツの侵攻軍に対する抵抗を呼びかける、ソ連の詩人コンスタンチン・シモノフによる有名な詩の引用が含まれており、ソビエト連邦でのドイツ兵の行動と同じような行動をロシアの侵攻軍がウクライナでとっていることを暗に示しています。委員会がこの投稿を審査対象に選定した後、Metaは自身の見解を変更し、プラットフォームに同コンテンツを復元しました。このコンテンツは、Metaのヘイトスピーチに関するポリシーおよび暴力と扇動に関するポリシーにおける、定義関連の重要な疑問を投げかけています。投稿の復元を決定してから数週間後、Metaはこのコンテンツの写真に警告表示を付しました。委員会の過半数は、この画像が暴力や過激な描写を含むコンテンツに関するポリシーに違反するものでないと判断しています。コンテンツモデレーター向けのMetaの社内ガイドラインが記述するところの、暴力にあたるという目に見える明確なしるしがあれば警告表示を使用する正当な理由となるでしょうが、この画像にはそうしたしるしがないためです。

2. 事例の説明と背景

2022年4月、ラトビア在住のFacebook利用者がニュースフィードに写真とロシア語のテキストを投稿しました。この投稿は約20,000回閲覧され、約100回シェアされるとともに、およそ600回のリアクションと100を超えるコメントがありました。

投稿された市街地の写真には、倒れた自転車の横で地面に横たわり、死亡していると思われる人が写っています。傷口などは見えません。テキストは「they wanted to repeat and repeated」(彼らは繰り返すことを望み、そして繰り返した)と始まっています。この投稿では、第二次世界大戦中にソビエト兵がドイツで犯したとされる犯罪についてコメントしており、このような犯罪は、ナチスがソビエト連邦に与えた恐怖に対する兵士の復讐であることを根拠に容認されていたと述べられています。それに続き、この投稿は第二次世界大戦とウクライナ侵攻を結びつけ、ロシア軍が「became fascist」(ファシスト化している)と主張しています。投稿では、ウクライナにいるロシア軍が「rape[s] girls, wound[s] their fathers, torture[s] and kill[s] peaceful people」(少女たちをレイプし、その父親を切りつけ、罪のない人びとを拷問して殺している)と記しています。この投稿は「after Bucha, Ukrainians will also want to repeat ... and will be able to repeat」(ブチャでの出来事以降、ウクライナ人もこのような行為を繰り返そうとするだろうし、繰り返すことができるだろう)と結論付けています。この利用者は投稿の最後に、ソ連の詩人コンスタンチン・シモノフによる「Kill him!」(彼を殺せ！)という詩の抜粋をシェアしています。ここには次のような詩行が含まれています。「kill the fascist so he will lie on the ground’s backbone, not you」(ファシストを殺せ。地面に横たわるのはあなたではなく彼だ)、「kill at least one of them as soon as you can」(できるだけ早く、少なくとも彼らの1人を殺せ)、「Kill him!Kill him!Kill!」(彼を殺せ！彼を殺せ！殺せ！)

このコンテンツが投稿された同じ日に、別の利用者がこれを「暴力や過激な描写を含むコンテンツ」として報告しました。人間による審査の判断に基づき、Metaはこのコンテンツをヘイトスピーチに関するコミュニティ規定に違反しているとして削除しました。数時間後、このコンテンツを投稿した利用者が異議を申し立て、2人目の審査担当者もこのコンテンツが同ポリシーに違反していると評価しました。

この利用者は監督委員会に異議を申し立てました。2022年5月31日に委員会がこの異議申し立てを審査対象として選定したことを受け、Metaはコンテンツを削除した前回の判断が誤りだったとしてコンテンツを復元しました。コンテンツが復元されてから23日後の2022年6月23日、Metaは写真に人の暴力的な死が写っていることを根拠に、暴力や過激な描写を含むコンテンツに関するコミュニティ規定に基づいて投稿の写真に警告表示を適用しました。警告表示には、「不適切なコンテンツ – この写真は暴力や過激な描写を含む可能性があります」との記載があり、「詳しくはこちら」あるいは「写真を見る」という2つの選択肢を利用者に提示しています。

委員会の決定には、背景となる以下の事実が関係しています。これらの内容は、委員会が委託した調査に基づくものです。

• 2022年3月2日、ロシアによるウクライナ侵攻が違法であると国際連合総会が認めた(A/RES/ES-11/1)。
• 国連人権高等弁務官であるミチェル・バチェレ氏が、ウクライナにおける「戦争犯罪の可能性、国際人道法の重大な違反、および国際人権法の重大な違反に関する重大かつ憂慮すべき問題」について懸念を表明した。
• ソ連崩壊後の文化において、「ファシスト」という言葉は特に第二次世界大戦の文脈においてナチス・ドイツを指して用いられることが多いが、「ファシスト」という言葉の定義はナチス・ドイツと直接関連するものではなくなっている。ロシアおよびウクライナでは、対立する政治勢力に汚名を着せるために政治的議論で「ファシスト」という言葉が用いられていることから、この言葉の意味は曖昧なものになっている。
• この利用者の投稿の最初の文にある「They wanted to repeat and repeated」(彼らは繰り返すことを望み、そして繰り返した)という表現は、ロシアでよく知られている「[w]e can repeat」(我らは繰り返すことができる)というスローガンを参照したものである。このスローガンは、第二次世界大戦中のナチスに対するソビエトの勝利を指して用いられる。さらにこの利用者は、「after Bucha, Ukrainians will also want to repeat ... and will be able to repeat」(ブチャでの出来事以降、ウクライナ人もロシア軍の行為を繰り返そうとするだろうし、繰り返すことができるだろう)と述べ、このスローガンにそれとなく触れている。

3. 監督委員会の権限と範囲

委員会には、コンテンツを削除された利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、拘束力のない勧告を伴ったポリシーに関する助言を盛り込むことができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。

Metaが誤りを犯したことを認めている本事例のような事例を選定する際、委員会は、誤りが生じた理由について理解を深める助けとなり、誤りの減少と公正かつ透明性のある手続きの増進に資するような意見・勧告を行うために、当初の決定の審査を行います。

4. 先例の情報

監督委員会は、以下の先例と基準を考慮しました。

I. 監督委員会の決定:

監督委員会による過去の決定のうち、最も関連度の高いものには以下の決定などがあります。

• 「ティグレ州広報局」の事例(2022-006-FB-MR)。この事例で委員会は、利用者のプロフィール(地域政府の省庁)、用いられた文言(降伏しない兵士を殺すよう求める明確な要求)、ページのリーチ(約260,000のフォロワー)を考慮すると投稿が暴力のエスカレートにつながるリスクが高いと結論づけたうえで、コンテンツを削除するというMetaの決定を支持しました。
• 「スーダンの過激な描写を含む動画」の事例(2022-002-FB-MR)。この事例で委員会は、(i)暴力や過激な描写を含むコンテンツに関するコミュニティ規定を修正し、人権侵害に関する問題意識の喚起や人権侵害の記録を目的としてシェアする場合には人体または死体の動画を許可し、(ii)ポリシー策定プロセスを実施し、人権侵害に関する問題意識の喚起や人権侵害の記録を目的としてシェアされる場合の人体または死体の動画を特定するための条件を策定するよう、Metaに勧告しました。

II. Metaのコンテンツポリシー:

ヘイトスピーチに関するコミュニティ規定でMetaは、保護特性を根拠に個人やグループに向けられる「暴力的な」発言や「人間性を否定するような」発言を禁止しています。同ポリシーでは、「人間性を否定するような発言」には「暴力的犯罪者および性的犯罪者」に関する「比喩、安易な一般化、不適切な見解による主張」などがあると述べています。同ポリシーが適切な見解による主張に適用されないことは明らかです。「暴力犯罪や性的犯罪を犯した」とされるグループは、ヘイトスピーチに関するポリシーで攻撃からの保護対象とはなりません。

暴力と扇動に関するコミュニティ規定でMetaは、「脅迫」をとりわけ「深刻度の高い暴力行為を呼びかける表現」および「深刻度が高い暴力行為を擁護する発言」と定義したうえで、「死亡につながる恐れがある脅迫(および深刻度が高い他の類型の暴力行為)」を禁止しています。コンテンツの審査担当者向けのMetaの社内ガイドラインにおいては、Metaによる同ポリシーの解釈として、「ある行為により起こり得る結果への中立的言及、または助言としての警告」を伴う発言を含むコンテンツが認められると明確になっています。

暴力や過激な描写を含むコンテンツに関するコミュニティ規定に基づき、「1人または複数の人の事故や殺人による暴力的な死を見せる画像」には警告表示がされます。

III. Metaが重んじる価値観:

Metaはコミュニティ規定の「はじめに」で、とりわけ「意見」、「尊厳」および「安全」というFacebookが重んじる価値観について述べています。本決定では、審査結果に関連するものである場合、これらの価値観に言及していきます。

IV. 国際的な人権基準:

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権を尊重することへの約束を再確認しました。委員会は、本事例での人権に対するMetaの責任について、次に掲げる人権基準に基づき分析しました。

• 意見と表現の自由の権利: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34 (2011年)、意見及び表現の自由に関する国連特別報告者(UN Special Rapporteur on freedom of opinion and expression)、報告書: A/HRC/38/35 (2018年)、A/74/486 (2019年)、A/HRC/44/49/Add.2 (2020年)、国連人権高等弁務官、報告書: A/HRC/22/17/Add.4 (2013年)
• 平等と差別禁止: ICCPR第2条第1項
• 身体の安全に対する権利: ICCPR第9条
• 生命に対する権利: ICCPR第6条

5. 利用者からの陳述書の提出

利用者は委員会への異議申し立ての中で、シェアした写真は「where dozens of dead civilians lie on the streets」(道路に何十体もの市民の遺体が横たわっていた)「crimes of the Russian army in the city of Bucha」(ブチャ市でのロシア軍による犯罪)を記録した写真の中では「most innocuous」(最も無害)なものだったと主張しています。利用者は、この投稿は暴力を扇動するものではなく、「past history and the present」(過去の歴史と現在)に関するものだと述べています。また、この詩はもともと「struggle of Soviet soldiers against the Nazis」(ナチスに対するソビエト兵の苦闘)に捧げられたものであり、「the Russian army became an analogue of the fascist army」(ロシア軍がファシスト軍に同化していく)様子を示すために投稿したと言います。異議申し立ての一環として、彼らはジャーナリストであり、特に戦時中は何が起きているかを人びとが理解することが重要と信じていると述べています。

6. Metaからの情報提供

Metaは、委員会に提示した理由の説明の中で、ヘイトスピーチに関するポリシーを始めとして、3つの異なるポリシーの視点から本事例のコンテンツを分析しました。Metaの説明は、当初の決定に至った理由を説明するというよりは、当初の決定を撤回した理由に焦点を当てたものでした。Metaによると、Metaのプラットフォームでは「適切な見解による主張」が許可されるため、ロシアとウクライナ間の紛争という状況でロシア兵が犯罪を犯したと主張することは、ヘイトスピーチに関するポリシーに基づく攻撃には当たりません。また、ファシズムは政治的イデオロギーであり、ロシア軍をある政治的イデオロギーに単に結びつけることは攻撃ではないとも説明しました。これは、「ロシア軍は機関であるため、(人を指すロシア兵と異なり)ヘイトスピーチに関するポリシーの対象となる保護特性に関連したグループや集団に該当しない」ためです。最後に、投稿のテキストで引用されている「Kill him!」(彼を殺せ！)という詩のさまざまな抜粋(「kill a fascist」(ファシストを殺せ)、「kill at least one of them」(少なくとも彼らの1人を殺せ)、「kill him!」(彼を殺せ！)など)は、第二次世界大戦での「ナチス」を参照するものであり、ナチスは保護対象のグループではないとMetaは指摘しました。

Metaは、暴力と扇動に関するポリシーにも照らしてこの投稿を分析しています。この点に関して、Metaは、ブチャでの出来事以降「Ukrainians will also want to repeat… and will be able to repeat」(ウクライナ人も同じような行為を繰り返そうとするだろうし、繰り返すことができるだろう)と発言することが暴力の擁護に当たらないと説明しています。この発言は「起こり得る結果への中立的言及」であるとMetaは主張しており、同社はこれが暴力と扇動に関するポリシーの下で認められると解釈しています。また、Metaは、シモノフによる詩の引用が、ウクライナで歴史が繰り返される可能性について問題意識を喚起する手段だと述べました。最後に同社は、暴力と扇動に関するコミュニティ規定に基づき、ナチス(シモノフによる詩では「ファシスト」と表現される)など、危険な人物および団体に関するポリシーの対象となる者への暴力を擁護することは認められると説明しました。

さらにMetaは、コンテンツに含まれていた画像に人の暴力的な死が写っていたことを理由に、暴力や過激な描写を含むコンテンツに関するポリシーに基づいて、この投稿に警告表示および適切な年齢制限が適用されたと説明しました。Metaは、この画像がウクライナのブチャで撃たれた人物を写したものであることを確認しています。

委員会からの質問への回答の中で、Metaは、ウクライナでの紛争を受けて展開しているイニシアチブについて追加で説明をしました。しかし、こうしたイニシアチブは本事例のコンテンツの当初の削除や、警告表示を付して復元する決定に何ら関連がなかったことをMetaは確認しています。同社は、紛争時のデューデリジェンスを確実なものにするため、国連ビジネスと人権に関する指導原則に沿っていくつかの措置を講じたと付け加えました。こうした措置には、ウクライナとロシアの市民社会、およびロシアの独立系メディアとの接触が含まれていました。これは、紛争が開始した時点でMetaが採った措置の影響についてフィードバックを求めることを目的としたものです。

委員会はMetaに11件の質問をし、Metaはそれらすべてに全面的に回答しました。

7. パブリックコメント

本事例に関して、監督委員会には8件のパブリックコメントが寄せられました。そのうち、3件はヨーロッパから、4件は米国およびカナダから、1件はラテンアメリカおよびカリブ地方からのものでした。提出された意見には、国際武力紛争、コンテンツモデレーションにおける文脈の重要性、紛争状況でのジャーナリストの役割、戦争犯罪の記録、芸術的表現などに関するものがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8. 監督委員会による分析

委員会は、Metaのコンテンツポリシーに基づいてこのコンテンツが許可されるかどうかをまず分析し、必要に応じてMetaのプラットフォームが重んじる価値観に照らして解釈したうえで、コンテンツの取扱いが同社の人権保障責任と調和するものかどうかを評価しました。

委員会が本事例を選定したのは、芸術的表現や文化関連記述が別の目的のために新たな文脈で利用され、紛争状況における暴力を扇動するリスクをもたらし得るという重要な懸念を本投稿の削除が提起するものだったためです。オンラインでの表現の場は戦争の影響を受ける人たちにとって特に重要であり、ソーシャルメディア企業はこうした人たちの権利の保護に特別な注意を払わなければなりません。大規模なコンテンツモデレーションでは文脈の分析に不足が起こりがちですが、本事例は、こうした分析不足によってなぜ、利用者が紛争に関する意見を述べたり挑発的な形で歴史的類似点を描写したりできなくなるおそれがあるかを示しています。

8.1 Metaのコンテンツポリシーへの準拠

委員会は、本事例のコンテンツがヘイトスピーチに関するコミュニティ規定や暴力と扇動に関する規定に違反しないと判断しています。また、委員会の過半数は、このコンテンツが暴力や過激な描写を含むコンテンツに関するコミュニティ規定に違反しないと判断しています。

I. ヘイトスピーチ

Metaのヘイトスピーチに関するポリシーは、国籍などの保護特性に基づいて人々を攻撃することを禁止しています。職業については、保護特性と共に言及される場合には「一定の保護」が与えられます。モデレーター向けの社内ガイドラインでは、保護特性プラス職業により特徴づけられるグループ(ロシア兵など)を含む「準保護対象の集団」が一般に、ヘイトスピーチのレベル1の攻撃からの保護を受けられることをさらに明確にしています。レベル1の攻撃にはとりわけ、「暴力的な発言」や、「暴力的犯罪者および性的犯罪者」に関する「比喩、安易な一般化、不適切な見解による主張の形での人間性を否定するような発言」が含まれます。Metaのヘイトスピーチに関するポリシーでは、「暴力犯罪や性的犯罪を犯したとされるグループ」を保護していません。

ロシア兵は犯罪を犯す傾向があるという包括的な主張は、内容と文脈によってはMetaのヘイトスピーチに関するポリシーに違反する可能性があります。こうした主張は、同ポリシーに基づいた「不適切な見解による主張」の形に当たり、「人間性を否定するような発言」の禁止に該当するおそれがあります。Metaのポリシーは、(i)民族、国籍などの保護特性を理由として、悪い特性や望ましくない特質をあるグループに起因するものだとすること(Metaが「安易な一般化」とするもの)と、(ii)あるグループのメンバーを何の文脈もなく批判すること(Metaが「不適切な見解による主張」とするもの)、そして(iii)過去の行為を理由としてあるグループのメンバーを批判すること(Metaが「適切な見解による主張」とするもの)とを区別しています。本事例では、侵攻してきたロシア兵がウクライナとの紛争でとった行為という文脈でロシア兵に関する主張がされており、主張は一般的な性質のものではありません。

ここで問題となるのは、ロシア兵と第二次世界大戦時代のドイツのファシストとを比較する行為、そしてロシア兵が女性をレイプし、その父親を殺し、罪のない人びとを拷問して殺しているという主張がMetaのヘイトスピーチに関するポリシーに違反するのかどうかという点です。Metaと委員会は双方とも、この投稿がヘイトスピーチに関するポリシーに基づく暴力的な発言または人間性を否定するような発言に当たらないと結論づけています。しかし、そのような結論に至る理由は異なります。ヘイトスピーチに関するポリシーとしてはこの部分が唯一、本投稿に関連するとされています。

Metaは、非難する発言が機関としてのロシア軍に向けられており、人物としてのロシア兵に向けられてはいないとして、この投稿に違反がないと主張しています。委員会は、この区別は本事例では有効でないと判断します。この利用者は「army」(軍)と「soldiers」(兵)を同じ意味で使っているためです。

ただ、ロシアによるウクライナ侵攻の文脈において、ロシア兵がナチスに匹敵する犯罪を犯したとこの利用者が非難することは許可されると委員会は判断します。なぜなら、ある者が具体的な行為(「they began to really take revenge – rape girls, cut their fathers, torture and kill peaceful people of peaceful outskirts Kyiv」(彼らは本当に復讐を始めた。少女たちをレイプし、その父親を切りつけ、平和なキーウ郊外の罪のない人びとを拷問して殺している)など)をとったとし、ウクライナにいるロシア兵の行為を、戦争犯罪を犯したとして知られる別の軍と比較する(「the Russian army, after 70 years, completely repeated itself in Germany and the German [army] in Ukraine」(70年を経て、ロシア軍はドイツの状況、ドイツ軍はウクライナの状況となって完全に繰り返された)など)ことは、具体的な紛争中に確認された行動に関連する「適切な」発言だからです。

このため、具体的な文脈でロシア兵の行為をナチスの犯罪と比較することは、ナチスとの包括的な比較が許可されるかどうかにかかわらず、コミュニティ規定に基づいて許可されると委員会は判断します。Metaの社内ガイドラインによれば、「暴力犯罪や性的犯罪を犯したとされる」グループを標的とする素材は、別の規定によりヘイトスピーチに当たるような場合であってもポリシーに違反しません。さらに広く見ると、特定の文脈において人権侵害の事例を報告することは、ヘイトスピーチに関するポリシーに違反しません。これは、国籍を参照し、関与する者が特定される場合であっても同様です。

また、委員会は、コンテンツで引用される「Kill him!」(彼を殺せ！)という詩のさまざまな抜粋(「kill a fascist」(ファシストを殺せ)、「kill at least one of them」(少なくとも彼らの1人を殺せ)、「kill him!」(彼を殺せ！)など)を「暴力的な発言」だと捉えるべきでないと判断します。投稿の他の箇所を併せて読めば、この利用者は暴力を促しているのではなく、暴力のサイクルに注意を払うよう呼びかけていると理解できるからです。

最終的に委員会は、ロシア兵がこの投稿において、国籍を根拠としてではなく、戦闘員としての役割を根拠として標的となったのだと結論づけます。本事例の主張は、保護特性を「理由に」あるグループに向けられた攻撃ではありません。保護特性に関わるものでないため、このコンテンツはヘイトスピーチではないと委員会は理解します。

II. 暴力と扇動

Metaは暴力と扇動に関するポリシーに基づいて、数ある表現の中でも特に「深刻度の高い暴力行為を呼びかける表現」、「深刻度が高い暴力行為を擁護する発言」および「深刻度が高い暴力行為の実行を望むような発言、または条件次第でそのような暴力を実行するとの発言」を削除します。また、同社のモデレーター向けの社内ガイドラインでは、Metaの解釈として、このコミュニティ規定により「ある行為により起こり得る結果への中立的言及、または助言としての警告」を伴う発言が認められるとさらに明確になっています。さらに、社内ガイドラインでは、「暴力的脅迫に関する非難や問題意識の喚起をするコンテンツ」も、暴力と扇動に関するポリシーに基づいて許可されるとしています。この規定は、「具体的なトピックや問題について他の者に知らせたり伝えたりしようとすることが明らかな」コンテンツや、「脅迫や暴力の標的となった経験を取り上げるコンテンツ」に適用され、対象には学術報告やメディア報道などが含まれます。

Metaは委員会に対し、この投稿が暴力を擁護するものでなかったため、コンテンツの復元を決定したと説明しました。Metaは、ブチャでの出来事以降「Ukrainians will also want to repeat … and will be able to repeat」(ウクライナ人も同じような行為を繰り返そうとするだろうし、繰り返すことができるだろう)という利用者の発言を、「起こり得る結果への中立的言及」とみなしています。こうした中立的言及は暴力と扇動に関するポリシーに基づいて許可されると同社は解釈しています。Metaは、シモノフによる詩の引用は、ウクライナで歴史が繰り返される可能性について問題意識を喚起する手段だったとも述べています。最後にMetaは、シモノフによる詩はドイツのファシストに向けられたものであるという事実を指摘したうえで、ナチスなど、危険な人物および団体に関するポリシーの対象となる者たちへの暴力を擁護することは、暴力と扇動に関するコミュニティ規定に基づき許可されるとしています。

委員会はこの論拠に部分的には納得します。「Ukrainians will also want to repeat... and will be able to repeat」(ウクライナ人も同じような行為を繰り返そうとするだろうし、繰り返すことができるだろう)という文は、暴力を呼びかけるものでも、暴力を擁護するものでもないという点には同意します。文字どおりに読めば、投稿のこの部分は単に、ナチスに対するソビエトの反応と同様、ウクライナの人たちもロシア軍の行為に暴力的に反応するであろうことを述べています。言い換えると、この文はMetaによる暴力と扇動に関するポリシーの解釈により認められる「起こり得る結果への中立的言及」です。この解釈は、コンテンツモデレーターに提供される社内ガイドラインで明確になっています。

委員会は、上のセクションで引用されている「Kill him!」(彼を殺せ！)という詩の暴力的な文言を含む抜粋が、一定の心的状態を奨励するものではなく、ある心的状態を描写していると読めると判断します。画像を含め、投稿全体と併せて読むと、この抜粋は、ウクライナで歴史が繰り返される可能性があることを警告する、より広範なメッセージの一部です。この利用者は、自身のメッセージを伝えるために修辞的技巧としてこの芸術・文化関連の記述を用いています。このため、委員会は、コンテンツのこの部分もMetaの社内ガイドラインによって許可されると結論づけます。

ただし、Metaがこの投稿を単にナチスに対する暴力の呼びかけのようだと分析するのは現実的ではないと委員会は結論します。この利用者は、現在ウクライナにいるロシア兵が第二次世界大戦にロシアにいたドイツ兵に類似すると捉えていることを明確にしています。投稿でシモノフの詩を引用し、その投稿が現在市民に対して残虐行為を犯している兵士に言及するものだと考えられる範囲で、この投稿を読む人は、この投稿が現在のロシア軍に対する暴力を呼びかけるものだと理解するリスクがあります。しかし、この投稿の文脈上の主な意味合いが暴力のサイクルに対する警告であることから、この投稿が暴力と扇動に関する規定に違反しないというMetaの結論には同意します。

III. 暴力や過激な描写を含むコンテンツ

暴力や過激な描写を含むコンテンツに関するポリシーに基づき、Metaはコンテンツに対し、「過激な描写を含む、あるいは暴力的だとクリックする前に利用者がわかるよう」警告ラベルを付しています。「1人または複数の人の事故や殺人による暴力的な死を見せる画像」にも警告ラベルが適用されます。Metaはコンテンツモデレーター向けの社内ガイドラインで、「被害者が死亡した、または見るからに無能力状態になったと思われ」、そのうえ「人体についた血や傷、被害者の周りの血、膨れ上がった人体や変色した人体、がれきから掘り出された人体」などの「目に見える暴力のしるしがある、暴力的な死の直後」を写したグラフィック画像であるかどうかが「暴力的な死にあたるかどうかの指標」だとしています。この社内ガイドラインではさらに、「暴力的な死であるという目に見えるしるしが一切」ない、あるいは「少なくとも1つの暴力のしるし」がない人体については「暴力的な死」の描写とは捉えてはならないと説明しています。

このコンテンツに含まれる写真は、地面に横たわって動かない人がいる市街地の様子を写しています。傷口などは見えません。Metaは、これがウクライナのブチャで撃たれた人物であることを確認できました。委員会は、大規模な審査を担当するコンテンツモデレーターが必ずしもこの種の情報にアクセスできるわけではないと把握しています。委員会の過半数は、暴力や過激な描写を含むコンテンツに関するポリシーに対する違反はなかったと判断しています。画像には、コンテンツモデレーター向けのMetaの社内ガイドラインが記述するところの、暴力にあたるという目に見える明確なしるしがないためです。このため、委員会の過半数は、警告表示が適用されるべきでなかったと結論づけます。

委員会の少数メンバーは、ウクライナでの武力紛争の状況、および画像で描かれているがれきを考慮し、このコンテンツが暴力や過激な描写を含むコンテンツに関するポリシーに違反すると判断しています。

IV. 施行措置

このコンテンツは、暴力や過激な描写を含むコンテンツに当たるとしてある利用者により報告されましたが、ヘイトスピーチに関するポリシーに基づき削除されました。委員会がMetaに指摘して初めて、このコンテンツは復元されました。委員会からの質問に対する回答でMetaは、本事例のコンテンツについては追加審査を求めてポリシーの専門家や専門スタッフにエスカレーションされなかったと説明しました。「審査を求めてエスカレーションする」とは、大規模審査を実施するコンテンツモデレーターが再検討して決定を下すのではなく、関連するポリシー分野やテーマを担当するMetaの社内チームに事案が送られることを意味します。

8.2 Metaが重んじる価値観の遵守

委員会は、このコンテンツを削除し、それに含まれる画像に警告表示を適用することはMetaが重んじる価値観に沿っていないと判断します。

ロシアの一般市民の状況や、ロシア人全般を標的にした暴力的な発言を生じさせる影響の可能性については懸念しています。しかし、一般のロシア人の「尊厳」や「安全」に対して現実のリスクが生じる場合には「意見」の削除が正当化されるでしょうが、本事例に関しては、特に戦争の影響を受ける利用者らが戦争から引き起こされる影響について議論できるようにする必要があるという中で、このコンテンツがそうした現実のリスクを生じさせるものでないと委員会は判断します。

8.3 Metaの人権保障責任の遵守

委員会は、コンテンツを削除するというMetaの当初の決定、およびコンテンツに警告表示を適用するというMetaの決定がともに、Metaの企業としての人権保障責任に沿っていなかったと判断します。Metaは、国連ビジネスと人権に関する指導原則(UNGPs)に基づいて人権を尊重することを約束しています。Facebookの企業人権ポリシーでは、この約束には市民的及び政治的権利に関する国際規約(ICCPR)が範囲として含まれると規定されています。

表現の自由(ICCPR第19条)

表現の自由に対する権利の範囲は幅広いものです。ICCPR第19条第2項は、表現に対する高度な保護を規定しています。保護の対象には、芸術的な表現や政治問題、公共性のある問題についての解釈のほか、人権や歴史的主張に関する議論も含まれます(一般的意見34、第11項および第49項)。「極めて攻撃的」として扱われる表現であっても、保護の対象となります(一般的意見34、第11項)。本事例で委員会の分析対象となったコンテンツには強い言葉が含まれています。しかし、このコンテンツは結局のところ政治論であり、戦争状況での人権侵害への注目を集めるものです。

本事例のコンテンツには戦争に関する有名な詩からの引用が含まれていますが、この利用者は、ロシア兵によるウクライナでの行為がもたらし得る帰結をオーディエンスに知らせ警告する目的で、挑発的な文化関連記述としてこの引用を用いています。意見及び表現の自由に関する国連特別報告者は、芸術的表現には「情報を伝え、あるいは気分を晴らせたり挑発したりするフィクションおよびノンフィクションの物語」が含まれることを強調しています(A/HRC/44/49/Add.2第5項)。

ICCPR第19条は、国が表現を制限する場合、その制限は合法性、正当な目的、および必要性と相応性の各要件を満たすことを求めています(ICCPR第19条第3項)。表現の自由に関する国連特別報告者は、オンラインでの表現のモデレーションを行う際にソーシャルメディア企業がこれらの原則に従うことを奨励しています(A/HRC/38/35第45項および第70項)。

I. 合法性(規則の明確性とわかりやすさ・閲覧可能性)

合法性の原則により、表現を制限するために国により用いられる規則は、明確でわかりやすく容易に閲覧可能であることが求められます(一般的意見34、第25項)。規約人権委員会は、規則では「表現の自由に対する制限を実施する者に対し、その制限について自由裁量の余地を与えてはならない」ことも言及しています(一般的意見34、第25項)。個人は、自分の表現が制限される可能性があるかどうか、またどのように制限される可能性があるかを判断し、その判断結果に応じて自分の言動を調整できるようにするために、十分な情報を利用できなければなりません。Facebookに関するMetaのコンテンツルールに当てはめて言えば、利用者は、認められるコンテンツと禁止されるコンテンツについて知ることができなければなりません。

Metaと委員会はこのコンテンツをFacebookに引き続き掲載すべきだという結論に達しましたが、この結論には、Metaの社内ガイドラインのうち、暴力と扇動に関するコミュニティ規定の施行方法に関する2つのセクションが特に関連しています。まず、Metaは、第三者による暴力が生じる可能性を警告するメッセージについて、これらが「ある行為により起こり得る結果への中立的言及、または助言としての警告」を伴う発言である場合には許可されるとこのポリシーを解釈しています。次に、他の規定で違反にあたるコンテンツでも、「暴力的脅迫の非難や問題意識の喚起をする」ものである場合には許可されます。しかし、委員会は、こうした社内ガイドラインが、暴力と扇動に関するコミュニティ規定の公開されている文言に含まれていない点を指摘します。これにより、本事例の投稿のようなコンテンツについて、本来は違反するものでないのに、違反があると利用者が考えることになるかもしれません。この点が利用者にとって十分明確になるよう、Metaは、暴力と扇動に関するポリシーの公開されている文言にこれらのセクションを組み入れるべきです。Metaのコンテンツポリシーについてさらに詳しい内容を公表することで、悪意のある利用者がより容易にコミュニティ規定を回避できるおそれがあることは認識しています。しかし、明確さと具体性を実現する必要性は、一部の利用者が「システムをごまかす」試みをするかもしれないという懸念に優先するものだと委員会は考えます。「起こり得る結果への中立的言及」、「助言としての警告」、暴力的脅迫について「非難」や「問題意識の喚起をする」ことが許可されると知らなければ、利用者はMetaのプラットフォームで公益性のある議論を始めたり議論に関わったりするのを避けるかもしれません。

委員会は本事例において、警告表示を付すというMetaの決定がコンテンツモデレーター向けの社内ガイドラインに一致していない点も懸念しています。また、Metaによる暴力や過激な描写を含むコンテンツに関するポリシーの解釈は、利用者にとって明確でない可能性があります。Metaは、同ポリシーの公開されている文言で、コンテンツモデレーター向けのMetaの社内ガイドラインに従ったポリシーの解釈方法のほか、紛争状況においてある画像が「1人または複数の人の事故や殺人による暴力的な死を見せる」画像にあたるかどうかの判断方法を明確にするよう努めるべきです。

なお、Metaは委員会に対し、もともとこのコンテンツを報告した利用者に対して、この投稿がのちに復元されたことを通知するメッセージを送信していないと伝えました。このことは適法性に関する懸念を生じさせます。利用者に関連情報が提供されない場合、「コンテンツに対する措置に異議を唱え、またはコンテンツ関連の苦情をフォローアップする個人の能力」(A/HCR/38/35第58項)を妨げる可能性があるためです。報告のあったコンテンツに対して講じた施行措置や施行した関連コミュニティ規定について報告者に通知することで、利用者がMetaのルールをよりよく理解し、それに従いやすくなると委員会は認識します。

II. 正当な目的

表現の自由に対する制限は、同時に「正当な目的」を追求している必要があります。委員会はこれまでに、ヘイトスピーチに関するコミュニティ規定が、平等権および民族や国籍に基づき差別を受けない権利(ICCPR第2条第1項)など、他の者の権利を保護するという正当な目的を追求するもの(一般的意見34、第28項)であることを認めています。このため、ヘイトスピーチの標的であるロシア人を保護することは正当な目的に当たります。しかし、委員会は、悪事を働いたという主張から「兵」を保護することは、国籍や他の保護特性を理由としてではなく、戦争中の戦闘員としての役割を理由としてこれらの兵が標的となっている場合には正当な目的に当たらず、軍のような機関の批判は禁止されるべきでない(一般的意見34、第38項)と判断します。

暴力と扇動に関する規定は、適切な形で枠組みの構成と適用が行われれば、他の者の権利を保護するという正当な目的を追求するものです。本事例に照らしていえば、このポリシーは、ロシアとウクライナ間の紛争により影響を受ける地域にいる人たちの身体の安全(ICCPR第9条)および生命(ICCPR第6条)に対する危害につながるおそれのある暴力の激化を防ごうとしています。

侵攻に対する武力抵抗という文脈で暴力的な発言を評価するにあたっては、問題がさらに複雑になることを委員会は認識しています。ロシアによるウクライナ侵攻は違法であると国際的に認識されており(A/RES/ES-11/1)、そうした攻撃行為に対する自衛として武力行使することは認められます(国連憲章第51条)。国際的な武力紛争という状況においては、戦争行為の当事者の行動に関する国際人道法により、戦闘に参加している戦闘員を武力紛争の過程において適法に標的とすることは認められます。戦争捕虜など、戦争行為にもう参加していない人はこれには該当しません(捕虜の待遇に関するジュネーブ条約第3条)。暴力それ自体が国際法に基づいて合法な場合でも、そうした暴力を促す発言については別途検討を要します。本事例のコンテンツに違反はないと委員会は判断していますが、委員会はMetaに対し、ポリシーを修正して、違法な軍事介入の状況について考慮するよう促します。

警告表示を付すという決定に関して、Metaは、「暴力を賛美したり他の人の苦痛や屈辱を称賛したりするコンテンツ」を制限することにより、暴力や過激な描写を含むコンテンツに関するポリシーが多様な参加を促す環境の促進を目指していると指摘しています。あらゆるグループを受け入れるプラットフォームを促進するというMetaの目標に照らし、委員会はこの目的が正当である点に同意します。

III. 必要性と相応性

必要性と相応性の原則は、表現の自由に対するいかなる制限も「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応でなければならない」(一般的意見34、第34項)と規定しています。

暴力的なコンテンツやヘイトコンテンツがもたらすリスクを評価するため、委員会は通常、ラバト行動計画に記載された6要素のテストを指針としています。このテストは、敵意、差別または暴力の扇動を構成する国籍、人種、宗教に関する憎悪の擁護に対処するものです。武力紛争が継続し、この利用者が用いている文化関連記述により緊張が生じるような状況ではあるものの、本事例において委員会は、暴力のサイクルを警告する本投稿が危害につながる可能性は低いと判断します。委員会は、コンテンツの当初の削除が必要でなかったと結論づけます。また、委員会の過半数は警告表示も必要なかったと判断しますが、少数のメンバーは警告表示が必要かつ相応だったと判断しています。

この事例で関連する要素を検討したうえで、委員会は、ロシアによる違法なウクライナ侵攻という、潜在的に挑発的な発言で緊張が高まる可能性がある状況ではあるものの、この利用者の明白な意図(戦争やその帰結に関する問題意識の喚起)、戦争に関する詩を引用する際の思慮深い口調、ウクライナでの恐ろしい出来事に関する他の情報の拡散状況から、このコンテンツが暴力の悪化に大きく貢献する可能性は低いと結論づけます。

委員会の過半数は、警告表示の適用が表現の自由を抑制するものであり、本事例における必要な対応ではないと結論づけます。コンテンツモデレーター向けのMetaの社内ガイドラインが記述するところの、暴力にあたるという目に見える明確なしるしがあれば警告表示を使用する正当な理由となるでしょうが、この画像にはそうしたしるしがないためです。ソーシャルメディア会社は、制限の範囲を狭めるよう、問題のあるコンテンツに対してさまざまな対応を検討する必要があります(A/74/486第51項)。この点に関し、委員会は、利用者がFacebookおよびInstagramにおいて警告ありで、または警告なしで、過激な描写を含む不適切なコンテンツを表示するかどうかを決定できるよう、Metaがさらにカスタマイズツールを開発すべきだと考えます。

なお、委員会のうち少数メンバーは、警告表示が、参加や表現の自由を促すために適切な、必要かつ相応の措置だったと判断しています。こうした少数メンバーは、特に武力紛争という状況で亡くなった人の尊厳や、死や暴力を描写する画像が多数の利用者に及ぼし得る影響を考慮すると、今回分析の対象となったコンテンツのようなコンテンツには警告表示を適用し、Metaは慎重の上にも慎重を期すことができると考えています。

9. 監督委員会の決定

監督委員会は、このコンテンツを削除するというMetaの当初の決定、および投稿内の画像に警告表示を付すこととなった、暴力や過激な描写を含むコンテンツに関するポリシーへの違反があったというMetaのその後の決定を無効と判断します。

10. ポリシーに関する助言

コンテンツポリシー

1.Metaは、「ある行為により起こり得る結果への中立的言及、または助言としての警告」を伴う発言を含むコンテンツ、および「暴力的脅迫に関する非難や問題意識の喚起をする」コンテンツが許可されるという同社によるポリシーの解釈について、暴力と扇動に関するコミュニティ規定の公開されている文言に追加すべきです。本勧告が実行される場合、こうした追加を反映するためにMetaが暴力と扇動に関するポリシーの公開されている文言を更新することを委員会は期待します。

2.Metaは、「1人または複数の人の事故や殺人による暴力的な死を見せる」画像にあたるかどうかの判断方法に関する社内ガイドラインの詳細を、暴力や過激な描写を含むコンテンツに関するコミュニティ規定の公開されている文言に追加すべきです。本勧告が実行される場合、こうした追加を反映するためにMetaが暴力や過激な描写を含むコンテンツに関するコミュニティ規定の公開されている文言を更新することを委員会は期待します。

施行

3.Metaは、18歳を超えた利用者がFacebookおよびInstagramの両方において警告表示ありで、または警告表示なしで、過激な描写を含む不適切なコンテンツを見るのかどうかを決定できるようにするカスタマイズツールを実装する実現可能性を評価すべきです。本勧告が実行される場合、Metaが実現可能性評価の結果を公表することを委員会は期待します。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関が調査を行いました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。350を超える言語に精通し、世界各地の5,000の都市を拠点とする専門家を擁する会社であるLionbridge Technologies, LLCが、言語面での専門的知識を提供しました。