スーダンの過激な描写を含む動画

事例の概要

監督委員会は、スーダンの一般市民に対する暴力を描写したFacebook投稿を復元するMetaの決定を支持しました。このコンテンツは、人権侵害について問題意識を喚起する内容であり、公益的な価値が非常に大きいものです。委員会はMetaに対し、暴力や過激な描写を含むコンテンツに関するコミュニティ規定に、人権侵害についての問題意識の喚起や人権侵害の記録に関する具体的な例外を追加するよう勧告しました。

事例の内容

2021年12月21日、Metaは、スーダンで暴力を受けた一般市民の過激な描写を含むと思われる動画に関する事例を委員会に提起しました。このコンテンツは、同国で2021年10月25日に発生した軍事クーデターの後、ある利用者のFacebookプロフィールページに投稿されたものです。

この動画には、頭に重傷を負い、明らかに片目が飛び出した人が車の横に横たわっている様子が映っています。背後では、誰かが殴られて通りに置き去りにされているとアラビア語で話す声が聞こえます。同じくアラビア語のキャプションが、人々に団結し、軍を信頼しないよう呼びかけており、軍による人権侵害と市民的不服従に言及するハッシュタグが付けられています。

この投稿は、Metaの自動システムによって識別され、人間のモデレーターによって審査された後、暴力や過激な描写を含むコンテンツに関するFacebookコミュニティ規定に違反しているとして削除されました。ただし、利用者が異議を申し立てた後、Metaは2021年10月29日、他の人に知らせる価値という許容要件を適用し、この投稿を削除の適用外としました。社内の連絡ミスにより、Metaがこのコンテンツを復元したのは5週間近く経ってからでした。Metaは、この投稿を復元する際、動画に警告表示を付けました。

主な調査結果

委員会は、警告表示を付けた上でこのコンテンツをFacebookに復元するというMetaの決定に同意します。しかし、暴力や過激な描写を含むコンテンツに関するMetaのポリシーでは、過激な描写を含むコンテンツを、ユーザーがどのようにシェアし、人権侵害に関する問題意識の喚起や人権侵害の記録を行うことができるのかが不明確です。

ポリシーの目的を定めたコミュニティ規定の基本理念と、ポリシーのルールが合致していません。ポリシーの基本理念には、人権侵害に関する「利用者の問題意識を喚起する目的がある場合は」ユーザーが過激な描写を含むコンテンツを投稿することをMetaが認めると記載されていますが、このポリシーの本文では、(問題意識を喚起するためにシェアしているかどうかにかかわらず)「医療の現場以外での人体または死体に関して手、足、首などの切断を描写した」動画をすべて禁止しています。

委員会はまた、他の人に知らせる価値という許容要件は、本事例に適用されたものの、この種のコンテンツをFacebookで大規模に許可する有効な手段ではないと結論付けています。Metaは、「暴力や過激な描写を含むコンテンツに関するポリシーに関連して、他の人に知らせる価値という許容要件を、過去12か月間(2022年3月8日より前の12か月間)で17件記録しました。本事例のコンテンツは、その17件のうちの1件である」と、委員会に報告しています。これに対し、Metaは2021年の第1四半期～第3四半期に、このコミュニティ規定に基づいて9,070万件のコンテンツを削除しています。

委員会は、本ポリシー関連のコンテンツの中で、他の人に知らせる価値があり公益になるとしてプラットフォームに残ることが許可されるべきであったものが、1年間にわずか17件しかなかったとは考えにくいと判断しています。このようなコンテンツがFacebookで確実に許可されるように、委員会は、Metaが暴力や過激な描写を含むコンテンツに関するコミュニティ規定を修正し、問題意識の喚起や侵害の記録を目的としてシェアする場合には人体または死体の動画を許可するよう勧告します。

Metaはまた、世界中の紛争や危機的状況に迅速かつ体系的に対応できるよう準備しておく必要があります。「トランプ前大統領のアカウント停止」に関する委員会の決定では、「危機的状況へのFacebookの対応に適用されるポリシーを策定して公開」するようMetaに勧告しました。委員会は、Metaが採択したというプロトコルの策定を歓迎しますが、Metaはプロトコルをより迅速に導入し、その運用方法に関してできるだけ詳細に説明する必要があります。

監督委員会の決定

監督委員会は、18歳未満の未成年がこのコンテンツを閲覧できないように警告表示を付けた上でこの投稿を復元するというMetaの決定を支持します。

委員会は、ポリシーに関する答申として、Metaが次の対応を行うよう勧告します。

• 暴力や過激な描写を含むコンテンツに関するコミュニティ規定を修正し、人権侵害に関する問題意識の喚起や人権侵害の記録を目的としてシェアする場合には人体または死体の動画を許可する。このコンテンツは、コンテンツが不快なものである可能性があることを人々が認識できるように警告表示を付けた上で、許可されるべきです。
• ポリシー策定プロセスを実施し、人権侵害に関する問題意識の喚起や人権侵害の記録を目的としてシェアされる場合の人体または死体の動画を特定するための条件を策定する。
• 他の人に知らせる価値という許容要件の説明において、このポリシーに基づいて講ずる可能性のあるすべての措置(警告表示付きの復元など)を明示する。
• 他の人に知らせる価値という許容要件に基づいてコンテンツに対しコンテンツの復元や警告表示の適用などの措置を講じる場合は、利用者に通知する。この利用者への通知は、他の人に知らせる価値という許容要件について説明している透明性センターの該当箇所にリンクさせることができます。

*事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 決定の概要

監督委員会は、スーダンの一般市民に対する暴力を描写する動画が含まれる投稿を、キャプションも併せてFacebookに復元するというMetaの決定を支持します。この投稿は、他の人に知らせる価値という許容要件に基づいて警告表示付きで復元されました。この警告表示により、コンテンツが配慮を要するものであることが示され、18歳未満の未成年は一般的にアクセスできず、その他すべてのユーザーが閲覧するにはクリックすることが求められます。委員会は、このコンテンツは人権侵害に関する問題意識の喚起や人権侵害の記録を目的としており、公益的な価値が非常に大きいと判断しています。このコンテンツが当初削除されたことは、暴力や過激な描写を含むコンテンツに関するコミュニティ規定のルールに合致したものでした。その一方で、配慮を要するとの警告を付けてコンテンツを復元するというMetaの決定は、同社のポリシー、価値観、人権保障責任に沿うものです。

しかしながら、委員会は、他の人に知らせる価値という許容要件をMetaが適用することは、このようなコンテンツを大規模に保持または復元するには有効な手段ではないことに注目しています。したがって、委員会はMetaに対し、暴力や過激な描写を含むコンテンツに関するコミュニティ規定に、侵害についての問題意識の喚起や侵害の記録に関する具体的な例外を追加するよう勧告します。委員会はさらに、国際法違反の証拠となり得るコンテンツの取得、保存、シェアに関するポリシーを導入するために、以前の勧告への対応を優先させるようMetaに要請します。

2. 事例の説明と背景

2021年12月21日、Metaは、スーダンで暴力を受けた一般市民の過激な描写を含むと思われる動画に関する事例を委員会に提起しました。このコンテンツは、同国で2021年10月25日に発生した軍事クーデター、および軍が政府を乗っ取ったことに対する抗議デモの開始を受けて、ある利用者のFacebookプロフィールページに2021年10月26日に投稿されたものです。

この動画には、頭に重傷を負い、明らかに片目が飛び出した人が車の横に横たわっている様子が映っています。背後では、誰かが殴られて通りに置き去りにされているとアラビア語で話す声が聞こえます。この投稿には、人々に団結し、軍を信頼しないよう呼びかけるキャプション(同様にアラビア語)と、軍による人権侵害の記録と市民的不服従に言及するハッシュタグが付けられています。

Metaの説明によると、投稿と同じ日(2021年10月26日)に、Metaのテクノロジーが、暴力や過激な描写を含むコンテンツに関するコミュニティ規定に違反している可能性があるとしてこのコンテンツを特定しました。人間による審査を経て、Metaは、このコンテンツがFacebookの暴力や過激な描写を含むコンテンツに関するポリシーに違反していると判断し、これを削除しました。コンテンツ作成者はその後、この決定に対し異議を申し立てました。2021年10月28日、このコンテンツはポリシーと対象分野の専門家にエスカレーションされ、再審査を受けました。審査を経て、Metaは2021年10月29日、他の人に知らせる価値という許容要件を適用し、この投稿を、暴力や過激な描写を含むコンテンツに関するポリシーに基づく削除の適用外としました。しかしながら、社内の連絡ミスにより、Metaがこのコンテンツを実際に復元したのは、5週間近く経った2021年12月2日でした。同社はコンテンツを復元した際、この動画に、コンテンツが配慮を要するものであることを示し、コンテンツを見たい利用者にクリックするよう求める警告表示も配置しました。その警告表示には、18歳未満の利用者による動画の閲覧を禁じる文言があります。

この投稿の閲覧回数は1,000回未満で、このコンテンツに関する利用者からの報告はありませんでした。

本事例の背景となる事実で、委員会の決定に関連するものは以下のとおりです。国連人権高等弁務官によると、2021年10月にスーダンの文民政権が軍により乗っ取られ市民の抗議活動が開始した後、同国の治安部隊が実弾を発砲し、催涙ガスを使用し、抗議者を恣意的に逮捕して拘留しました。また、治安部隊はジャーナリストや活動家も標的にし、その自宅や事務所を捜索しました。ジャーナリストは襲撃されたり、逮捕・拘留されたりしました。

委員会が意見を求めた専門家によると、軍が国営メディアを乗っ取り、スーダンの新聞社と放送局を弾圧したことで、ソーシャルメディアが、軍が行った暴力行為を記録するための重要な情報源および拠点になりました。軍が2021年10月25日に文民指導者を逮捕すると同時にインターネットをシャットダウンしたため、それ以降、インターネットへの安定したアクセスは同国全土において定常的に中断されています。

3. 監督委員会の権限と範囲

委員会には、Metaが審査に付した決定を審査する権限があります(憲章第2条第1項、定款第2条第2.1.1項)。委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、拘束力のない勧告を伴ったポリシーに関する助言を盛り込むことができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。

4. 権限のソース

監督委員会では、以下の権限のソースを考慮しました。

I. 監督委員会の決定:

委員会は以前の決定において、Metaのポリシーとプロセスについて検討し勧告を行ってきました。最も関連性の高いものとして、以下のものが挙げられます。

• 事例に関する決定2021-010-FB-UA (「コロンビアでの抗議活動」):この事例において委員会は、他の人に知らせる価値という許容要件の対象として審査されるようコンテンツをエスカレーションする(エスカレーションはこの条件を適用するための唯一の方法である）ための条件を、Metaが公開していないと指摘しています。また、「政治的表現のはけ口が制限されている環境において、これまでソーシャルメディアはジャーナリストを含む全ての人々に対し、抗議活動に関する情報を共有するためのプラットフォームを提供してきた」と述べました。委員会は、Metaが「社会的関心に係るコンテンツを、コンテンツ審査担当者が追加審査にエスカレーションするための明確な条件を作成し公開する」ことを勧告するとともに、「これらの条件では、国が人権侵害の非難を受けているという背景、および活動に関する公的記録の維持の重要性が高いという背景がある場合には特に、政治問題に関する大規模な抗議活動を描写するコンテンツを対象に含むべきである」と述べました。
• 事例に関する決定 2021-001-FB-FBR (「トランプ前大統領のアカウント停止」):この事例では、委員会は、Metaが「Facebookの通常のプロセスでは差し迫った危害の防止や回避が不可能であるような危機的状況や過去に例のない状況へのFacebookの対応に適用されるポリシーを策定し、公開する」ことを勧告しました。2022年1月、Metaは、委員会による勧告に対応して策定した「危機対応ポリシープロトコル」に関するポリシーフォーラムを開催しました。しかしながらMetaは、委員会からの質問に対する回答の中で、本事例におけるスーダンでのクーデターとそれに続くコンテンツの削除・復元の決定の時点では、このプロトコルは導入されていなかったことを確認しています。

II.Metaのコンテンツポリシー:

Facebookのコミュニティ規定:

Metaは暴力や過激な描写を含むコンテンツに関するポリシーの基本理念において、「暴力行為を称賛したり、苦痛を与えることをもてはやしたりする」コンテンツは削除されるものの、「利用者の意識を喚起する目的がある場合は」過激な描写を含むコンテンツが認められると定めています。このポリシーのルールでは、「医療の現場以外での人体または死体に関して、手、足、首などの切断を描写した動画」の投稿が禁止されています。Metaは、他の人に知らせる価値という許容要件に基づき、コンテンツに他の人に知らせる価値があり、「コンテンツを表示しておくことが公益にかなう場合」には、ポリシー違反コンテンツをプラットフォーム上で許可しています。

III. Metaが重んじる価値観:

Metaが重んじる価値観は、Facebookコミュニティ規定の「はじめに」の部分にその概要が示されています。本事例に関連する価値観は、「意見」、「安全性」、「プライバシー」、「尊厳」です。「意見」の価値観は以下の説明にも示されるように、「何よりも大切」と記されています。

「コミュニティ規定の目的は、常に誰もが自由に表現し発言できる場を作ることでした。[弊社では、]たとえ賛同できない、あるいは好ましくないと感じる人がいるかもしれない問題に関しても、利用者にとって重要な問題についてはオープンに話し合えるようにしたいと考えています」

Metaは他の4つの価値観を重んじることを目的として、「意見」を制限します。本事例に関連するのは、次の3つの価値観です。

「安全性」: 利用者を脅かすようなコンテンツは、他の人を脅迫したり、排除したり、黙らせたりすることにつながる可能性があり、Facebookでは認められていません。

「プライバシー」: 弊社では、個人のプライバシーと情報の保護に努めています。プライバシーが重視されると、自由にありのままの自分を表現し、Facebookでいつどのように他の人とシェアするかを選択し、より簡単につながることができるようになります。

「尊厳」: 弊社では、すべての人の尊厳と権利は平等だと考えています。利用者が他の人の尊厳を尊重し、嫌がらせや誹謗を行わないことを望んでいます。

IV: 国際的な人権基準:

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権を尊重することへの約束を再確認しました。委員会は、本事例での人権に対するMetaの責任について、次に掲げる人権基準に基づき分析しました。

• 表現の自由の権利(情報を求めて受け取る能力を含む):市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34 (2011年)、意見及び表現の自由に関する国連特別報告者(UN Special Rapporteur on freedom of opinion and expression)報告書:A/HRC/38/35 (2018年)、A/73/348 (2018)。
• 子どもの最善の利益: 子どもの権利条約(CRC)第13条および第17条、子どもの権利委員会の一般的意見25: デジタル環境に関する子どもの権利(2021年)。
• プライバシー権: ICCPR第17条、
• 実効性のある救済を受ける権利: ICCPR第2条、規約人権委員会の一般的意見31(2004年)、UNGPs原則22、29、31。

5. 利用者からの陳述書の提出

Metaが審査を要請し、委員会がこの事例を受け入れる決定を下した後、この利用者には、委員会による審査の実施について通知し、委員会に陳述書を提出する機会を提供するメッセージが送信されましたが、この利用者は陳述書を提出しませんでした。

6. Metaからの情報提供

Metaは審査要請の中で、このコンテンツに関する判断は難しいと述べ、その理由は、人権侵害を記録するという公益上の価値と、そのような過激な描写を含むコンテンツのシェアに関連する危害のおそれの間における対立が現れていることだとしています。また、同社はクーデターの間、そして同国のインターネットアクセスが遮断されている期間に利用者が人権侵害を記録できるようにすることの重要性も強調しました。

Metaは、スーダンで軍事クーデターが発生した直後に、状況を監視し、新たな動向やリスクを伝えるために、危機対応のためのクロスファンクショナルチームを結成したことを委員会に伝えました。Metaによると、このチームは、「抗議活動が最も活発であったときに、過激な暴力や、暴力と扇動を描写したコンテンツの報告に関連するトラフィックの急上昇」を確認したとのことです。また、Metaによると、「[このチーム]は、暴力や過激な描写を含むコンテンツに関するポリシーに違反するような過度な暴力描写の事例であっても、国家による人権侵害を描写するコンテンツなどの事例を許可するよう求めるリクエストがあった場合は、エスカレーションするよう指示されていた」ということです。

Metaは、この動画は、広く展開された抗議活動と、スーダンでの報道の自由に関する現実的な懸念を背景として撮影されたものだと指摘しています。Metaはまた、この種のコンテンツは、「安全が脅かされた地域に住む利用者に警告を与え得るとともに、ジャーナリストの現地へのアクセスが制限される可能性があるインターネット中断時には特に重要である」と指摘しました。

Metaはさらに、このコンテンツを復元する決定が、同社の価値観、特に最も大切な「意見」の価値観に沿うものである点についても言及しました。Metaは、政治的発言は「意見」の価値観の中核をなすと述べた委員会の以前の決定を引用しています。事例に関する決定事項2021-010-FB-UA (「コロンビアでの抗議活動」)、2021-003-FB-UA (「インドのRSSに対するパンジャブ人の懸念に関する事例」)、2021-007-FB-UA (「ミャンマーのボット」)、2021-009-FB-UA (「アルジャジーラの投稿のシェア」)。

Metaは委員会に対し、コンテンツを削除する当初の決定は、特に必要性の原則についてICCPR第19条と矛盾していると判断したと伝えました。このため、Metaは、他の人に知らせる価値という許容要件に従ってこのコンテンツを復元しました。過激な描写を含むコンテンツが復元後にプラットフォーム上に残ることを許可することは潜在的な危害のリスクを伴いますが、そうした潜在的な危害のリスクを軽減するために、Metaは、このコンテンツへのアクセスを18歳以上の利用者に限定し、警告表示を適用しました。Metaはまた、この事例の理論的根拠として、このコンテンツを復元する決定は、意見および表現の自由の権利(特に「人権侵害に関する情報にアクセスする権利」)の促進と保護に関する国連特別報告者の報告に沿うものであることにも言及しました。

Metaはさらに、18歳未満の利用者がこのコンテンツを閲覧できないよう警告表示を適用したことで、決定が子どもの権利に与える影響も考慮に入れたことにも言及しています。Metaはその決定を行う際に、「国境とのかかわりなく、あらゆる種類の情報および考えを求め、受け、伝える自由」を含む、子どもの表現の自由の権利を保護する上で、子どもの権利条約第13条と、デジタル環境に関する子どもの権利についての一般的意見25を考慮したと委員会に伝えました。Metaは、この事例の理論的根拠として、コンテンツの閲覧を成人に限定する決定は、18歳未満の未成年の安全を保護するという正当な目的にかない、その目的に相応であると説明しました。

委員会はMetaに対し21件の質問をしました。Metaはそのうち17件に対し完全に回答し、4件に対しては部分的に回答しました。これらの部分的な回答は、Metaの自動システムがプラットフォーム上のコンテンツに与える影響の測定に関する質問、暴力や過激な描写を含むコンテンツに関するコミュニティ規定に、問題意識を喚起するための例外が含まれない理由に関する質問に対するものでした。

7. パブリックコメント

本事例に関して、委員会には5件のパブリックコメントが寄せられました。コメントのうち2件はヨーロッパから、1件はサハラ以南のアフリカから、2件は米国およびカナダからのものでした。

寄せられたコメントで扱われていたテーマには、削除されるコンテンツを減らすために、武力紛争の影響下にある地域でのコンテンツの削除に対しより高いしきい値を設定するような、より状況に配慮したアプローチを採用する必要性、将来行われる可能性がある調査や人権侵害者に対する責任追及のために資料を保持する必要性、他の人に知らせる価値という許容要件が場当たり的で物議を醸すやり方で適用される可能性が高く、この慣行を再検討すべきとする内容などがありました。

2022年3月、進行中のステークホルダーエンゲージメントの一環として、委員会は、人権侵害の報告と記録に取り組んでいる支援団体の代表者やメンバー、倫理・人権・記録を研究している学者、暴力や過激な描写を含むコンテンツに関するコミュニティ規定から生じる問題や、危機的状況や抗議活動における規定の施行に関し委員会との連携に関心を持つステークホルダーら50名と話し合いました。こうした進行中のエンゲージメントは、率直な議論の場を確保し、参加者を保護するために、チャタムハウスルールの下で開催されています。この議論では、抑圧的な体制によって支配されている国において、人権侵害を記録し、国家が認めた暴力について国際的なメディアや世間の注目を集めるためにソーシャルメディアが果たす重要な役割、暴力や過激な描写を含むコンテンツに関する世界的な基準が実質的に米国中心の基準となっていることへの共通の懸念、心的外傷の現実的な問題に対処する上で警告表示の適用は有用であるとの観察結果、これに対する一部の組織からの、警告画面によってコンテンツが届く範囲が制限され得ると報告など、複数のテーマが扱われました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8. 監督委員会による分析

このコンテンツをプラットフォームに残すべきかどうかという問いについて、委員会は、Metaのコンテンツポリシー、同社が重んじる価値観、および同社の人権保障責任という3つの観点から見ていきます。

8.1. Metaのコンテンツポリシーへの準拠

I. コンテンツルール

委員会は、このコンテンツに警告表示と年齢制限を付けてプラットフォームに復元するというMetaの決定に同意しますが、Metaのコンテンツポリシーは明確ではなく、また、この対応を同様のコンテンツに対して大規模に実施する有効な手段がないことを指摘します。

このコンテンツを削除するというMetaの当初の決定は、暴力や過激な描写を含むコンテンツに関するコミュニティ規定内のルールに合致したものでした。このコンテンツは、医療の現場以外での人体の切断(頭に重傷を負い、明らかに片目が飛び出した人)を描写したことで、ポリシーに違反していました。しかしながら、暴力や過激な描写を含むコンテンツに関するコミュニティ規定のポリシーの基本理念には、「[Meta]は、利用者の問題意識を喚起する目的がある場合は、いくつかの制限付きで過激な描写を含むコンテンツを認めています。[Meta] では、利用者が人権の侵害やテロ行為などの重要な問題を議論できることは重要だと考えます。」と記載されています。ポリシーの基本理念におけるこの言及にもかかわらず、コミュニティ規定内の特定のルールには、「問題意識の喚起」に関する例外が含まれていません。また、Metaの審査担当者向けの内部規定にも、人権侵害に関する問題意識の喚起または人権侵害の記録を求めるコンテンツに関する例外が含まれていません。

コミュニティ規定では具体的な例外について規定されていませんが、委員会は、他の人に知らせる価値という許容要件によりコンテンツを復元するMetaの決定に同意します。Metaは、他の人に知らせる価値という許容要件に基づいて違反コンテンツがプラットフォーム上に残ることを許可するのは、このコンテンツが他の人に知らせる価値のあるものであり、「これを表示し続けることが公益にかなう」とMetaが判断した場合で、[かつ]「公益と危害のリスクとを比較検討するバランステストを実施した後」であると述べています。

II.施行措置

委員会は、Metaが2021年10月29日に、他の人に知らせる価値という許容要件を適用し、警告表示を付けて投稿を復元する決定を下したものの、この投稿が実際にプラットフォームに復元されたのは、5週間近く経った2021年12月2日であったことを指摘します。Metaは、コンテンツに対する最終決定に関する連絡が通常の報告管理ツール外で行われたため、「コンテンツに対する適切な措置の遅れにつながった」と述べています。委員会は、この説明と遅れが生じたことを非常に問題視しており、公共の危機の中、報道の自由が厳しく制限されている場合に、このような決定に関連してMetaがタイムリーに措置を講じることの重要性を強調します。Metaは、当初このコンテンツを削除した際、街頭にいる抗議者や、クーデターと軍の弾圧について報道するジャーナリストが正に深刻な暴力行為と抑圧に遭っている最中に、この利用者が新しいコンテンツを作成できないようにする30日間の利用制限を適用したのです。

8.2. Metaが重んじる価値観の遵守

委員会は、このコンテンツを警告表示とともにプラットフォーム上に残すことは、Metaの「意見」と「安全性」の価値観に沿うものであると結論付けました。

委員会は、人権侵害の被害者を保護するという点で「尊厳」と「プライバシー」の重要性を認識しています。このコンテンツは、動画内の負傷者とその家族の尊厳とプライバシーに影響します。映っている人物は特定可能であり、本人やその家族、大切な人たちは、負傷者のこうした映像が配信されることを望んでいなかった可能性があります。

委員会はまた、この状況において、「人の身体的安全に対する危害のリスク」をもたらすコンテンツから利用者を保護することを目的とする、「安全性」との関連についても留意しています。一方では、この利用者は進行中のクーデターについて問題意識を喚起することを求めており、これは、その地域における人々の安全性の向上に寄与する可能性があります。他方では、このコンテンツにより、動画に写っている人物および/またはその家族のリスクが生じる可能性もあります。

委員会は、市民社会スペースとメディアの自由が国によって制限されている状況では、「意見」の価値観の方がよりいっそう重要であると結論付けました。ここでは「意見」が、人々が情報にアクセスできるようにし、国家による暴力が暴露されるように確保することで、「安全性」の価値観を高めるという役割も果たしているのです。

8.3. Metaの人権保障責任の遵守

委員会は、このコンテンツを警告表示とともにプラットフォームに残すことがMetaの人権保障責任に沿うものであると判断しています。ただし、委員会は、侵害に関する問題意識の喚起や侵害の記録を求める利用者の表現の自由に対する権利をより尊重するように、Metaのポリシーを修正すべきであると結論付けました。

表現の自由(ICCPR第19条)

ICCPR第19条は、情報を求めて受け取る権利を含む、表現の自由に対する幅広い保護を規定しています。ただし、合法性(明確性)、正当性、および必要性・相応性の3つのテストという、特定の条件を満たす場合にこの権利は制限されることがあります。ICCPRは、国家を対象としているため、Metaに対して義務を生じさせるものではありませんが、同社はUNGPsで定められている人権尊重の遵守に積極的に取り組んでいます。この取り組みは、ICCPRをはじめとする各種法律文書で定義されている国際的に認められた人権を包括しています。

I. 合法性(規則の明確性とわかりやすさ・閲覧可能性)

表現の自由に対する制限は、何が認められて何が認められないかについての指針を提供できるように、アクセスしやすくかつ明確である必要があります。委員会は、利用者が侵害に関する問題意識の喚起や侵害の記録のために過激な描写を含むコンテンツをシェアする場合、Metaがそうしたコンテンツを許可する方法が、暴力や過激な描写を含むコンテンツに関するポリシーでは明確にされていないと結論付けました。ポリシーの目的を定めたコミュニティ規定の基本理念と、ポリシーのルールが合致していません。このポリシーの基本理念には、人権侵害に関する「問題意識を喚起する目的がある場合は」ユーザーが過激な描写を含むコンテンツを投稿することをMetaが許可すると記載されていますが、このポリシーは、(問題意識を喚起するためにシェアされたかどうかにかかわらず)「医療の現場以外での人体または死体に関して手、足、首などの切断を描写した」動画をすべて禁止しています。Metaがこのコンテンツの復元にあたって、他の人に知らせる価値という、より広範な許容要件に依拠したのは正しいことですが、暴力や過激な描写を含むコンテンツに関するコミュニティ規定では、こうしたコンテンツがプラットフォーム上で許可されるかどうかについて明らかにされていません。

委員会はまた、他の人に知らせる価値という許容要件では、人権侵害や残虐行為を記録したコンテンツが、どのような場合にこの許容要件の恩恵を受けられるが明らかにされていないとも結論付けました。委員会は、他の人に知らせる価値の決定が「高度に主観的」である点についてMetaに同意しますが、問題となっているルールでは、用語の定義すら行われていません。このポリシーでは、Metaが「公衆衛生や安全への差し迫った脅威を明るみに出すコンテンツや、政治的プロセスの一部として現在議論されている見解を表明するコンテンツを特別に尊重する」と規定されています。象徴的な例と明確な原則により、この許容要件を適用する際の裁量権の行使に関し指針を示す必要があります。こうした例や原則が存在しない場合、その適用は一貫性のない恣意的なものになる可能性が高くなります。また、他の人に知らせる価値という許容要件では、その他の形でMetaのポリシーに違反するコンテンツに警告表示(またはインタースティシャル)を使用することに言及していません。

最後に、委員会は、以前の事例(「コロンビアでの抗議活動」)において、「コンテンツ審査担当者が社会的関心に係るコンテンツを追加審査にエスカレーションするための明確な条件を作成し公開する」ことをMetaに勧告しました。Metaは、他の人に知らせる価値に関する透明性センターの記事を通じて、エスカレーションの条件をすでに公開したと回答しています。ただし、この記事は、他の人に知らせる価値という許容要件を適用する際にMetaが検討する要素に焦点を当てていますが、コンテンツをエスカレーションする(追加審査のために回す)タイミングに関してモデレーターに提供される条件には焦点を当てていません。他の人に知らせる価値という許容要件がMetaの大規模なコンテンツのモデレーションシステムの一部となることが意図されている場合、エスカレーションと適用のプロセスは、その目的を促進するものであるべきです。委員会は、他の人に知らせる価値という許容要件を適用するタイミングと方法が明確でないため、このポリシーの恣意的な適用を招く可能性が高いことに留意しています。

II. 正当な目的

表現の自由に対する制限は、正当な目的を追求するものであるべきです。正当な目的には、描写された個人のプライバシー権などの他者の権利の保護(一般的意見34、第28項)や身体の完全性の権利などがあります。Metaはまた、ポリシーの基本理念で、「暴力行為を称賛したり、他者に苦痛や屈辱を与えることをもてはやしたりする過激な描写を含むコンテンツは...コミュニティへの参加を阻害するものである」と述べています。委員会は、暴力や過激な描写を含むコンテンツに関するポリシーが、複数の正当な目的を追求するものであることに同意します。

III. 必要性と相応性

表現に対する制限は、「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、[かつ]保護すべき利益に相応でなければなりません」(一般的意見34、第34項)。

本事例では、委員会は、コンテンツに警告ラベルを付けることは必要であり、表現の自由に対する相応な制限であったと結論付けました。警告表示は、コンテンツを見たい利用者には過度な負担を与えない一方で、その他の利用者にはコンテンツの性質を伝え、コンテンツを見るかどうかの判断を任せるようにするものです。警告表示はまた、描写された本人とその家族の尊厳も十分保護するものです。

委員会は、8.1節で議論したように、Metaによる投稿の復元が5週間近く遅れたことにも留意しています。この遅れは、スーダンでの進行中の暴力と制限されたメディア環境において、表現の自由に不相応な影響を与えました。これほどの遅れは、市民に警告を与え問題意識を喚起するという本投稿の利点を損なうものです。

委員会はまた、他の人に知らせる価値という許容要件は、頻繁に使用されないため、侵害を記録したり問題意識の喚起を求めたりするコンテンツをプラットフォーム上で大規模に許可するためには有効なメカニズムではないと結論付けました。Metaは、「暴力や過激な描写を含むコンテンツに関するポリシーに関連して、他の人に知らせる価値という許容要件を、過去12か月間(2022年3月8日より前の12か月間)で17件記録しました。本事例のコンテンツは、その17件のうちの1件である」と、委員会に報告しています。これに対し、Metaは2021年の第1四半期～第3四半期に、このコミュニティ規定に基づいて9,070万件のコンテンツを削除しています。委員会は、本ポリシー関連のコンテンツの中で、他の人に知らせる価値があり公益になるとしてプラットフォームに残ることが許可されるべきであったものが、世界中で1年間にわずか17件しかなかったとは考えにくいと判断しています。他の人に知らせる価値という許容要件は、こうした性質のコンテンツを残すのに適したメカニズムを提供するものでありません。保護された表現の検閲を避けるために、Metaは、暴力や過激な描写を含むコンテンツに関するポリシー自体を修正し、このようなコンテンツをプラットフォーム上に残すことを許可すべきです。

戦争や政情不安の状況では、侵害に関する問題意識の喚起や侵害の記録を目的として、過激な描写や暴力行為を含むコンテンツが利用者によって撮影され、プラットフォーム上でシェアされることが増えるはずです。このコンテンツは、責任追及のために重要です。委員会は「トランプ前大統領のアカウント停止」に関する事例において、Metaには、「犯罪、人権、人道に関する国際法への重大な違反に対する調査や可能性のある起訴に向けて管轄機関および説明責任機構に協力するために、情報を取得し、保持し、適切な場合に共有する」責任があると指摘しました。委員会はまた、調査員が国際基準とデータ保護法を順守しつつ公開済みのコンテンツを利用できるようする方法について、Metaの人権に関するポリシーのプロトコルにおいて明確に規定するよう同社に勧告しました。これに対しMetaは、この問題に対処するための進行中の取り組みについて委員会に説明することを約束しました。委員会が2021年5月5日にこの勧告を公開して以降、Metaはこの件に関し進捗状況を一切報告してきていません。委員会は、世界中の暴力的な紛争(利用者がソーシャルメディアを通じて侵害を記録しているウクライナでの現在の戦争など)や政情不安の状況下でプラットフォームが果たす役割を考慮すると、これほどの遅れと進捗の欠如は懸念すべき問題であると判断しています。

最後に、委員会は、「トランプ前大統領のアカウント停止」に関する事例で「Facebookの通常のプロセスでは差し迫った危害の防止や回避が不可能であるような危機的状況や過去に例のない状況への対応に適用されるポリシーを策定して公開する」ようにMetaに勧告したことを想起しています。Metaは、監督委員会に関する2021年第4四半期の最新情報報告で、委員会からの勧告に応えて新しい危機対応プロトコルに関する提案を準備し、この提案が採択されたことを報告しています。Metaは、このプロトコルに関する情報を近日中に透明性センターで提供するとも述べています。Metaはまた、このプロトコルがスーダンでのクーデターの時点では導入されておらず、本事例の審査中も運用されていなかったことを委員会に報告しました。Metaは、このプロトコルを2022年後半に導入する予定です。適切に設計されたプロトコルは、危機的状況下で必要かつ相応な対応を策定・実施する上でMetaの指針となるはずです。Metaは、このプロトコルをより迅速に導入し、このプロトコルがどのように運用され、Metaの既存のプロセスと連携するのかについて、できるだけ詳細に説明すべきです。Metaのプラットフォームは世界中の紛争や危機的状況下で重要な役割を担っており、同社は間違いを防止するために迅速かつ体系的に対応できるよう準備しておく必要があります。

9. 監督委員会の決定

監督委員会は、アクセスできる利用者を18歳以上に制限するという表示を付けてこのコンテンツを残すというMetaの決定を支持します。

10. ポリシーに関する助言

コンテンツポリシー

1.Metaは、暴力や過激な描写を含むコンテンツに関するコミュニティ規定を修正し、人権侵害に関する問題意識の喚起やその記録を目的としてシェアする場合は、人体または死体の動画を許可すべきです。このコンテンツは、コンテンツが不快なものである可能性があることを人々が認識できるように警告表示を付けた上で、許可されるべきです。委員会は、コミュニティ規定が更新された時点で、Metaが勧告に従ったものとみなします。

2.Metaは、人権侵害に関する問題意識の喚起および人権侵害の記録を目的として人体または死体の動画がシェアされた場合にそうした動画を特定する条件を策定するために、ポリシー策定プロセスに着手すべきです。委員会は、Metaがポリシー策定プロセスの結果(プロセス関する情報やこうしたコンテンツを大規模に特定するための条件を含む)を公開した時点で、Metaがこの勧告に従ったものとみなします。

3.Metaは、他の人に知らせる価値という許容要件の説明において、このポリシーに基づいて講ずる可能性のあるすべての措置(警告表示付きの復元など)を明示する必要があります。委員会は、ポリシーが更新された時点で、Metaがこの勧告に従ったものとみなします。

施行

4.利用者がこのルールを確実に理解できるように、Metaは、他の人に知らせる価値という許容要件に基づいてコンテンツに対しコンテンツの復元や警告表示の適用などの措置を講じる場合は、利用者に通知すべきです。この利用者への通知は、他の人に知らせる価値という許容要件について説明している透明性センターの該当箇所にリンクさせることができます。委員会は、Metaがこの更新の通知をすべてのマーケットの利用者まで広げて行い、利用者がこの通知を受け取っていることを施行データにより証明した時点で、これが実施されたものとみなします。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関が調査を行いました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。

Volver a Decisiones de casos y opiniones consultivas sobre políticas