ミャンマーのボット

事例の概要

監督委員会は、Facebookのヘイトスピーチに関するコミュニティ規定に基づきミャンマー語の投稿を削除する旨のFacebookの決定を無効としました。委員会は、投稿が中国人を標的としたものではなく、中国国家を標的にしたものだと判断しました。特に、投稿では、ミャンマーでの中国政府の役割に関する政治的な議論の一環として、香港における中国政府の政策に言及するのに不適切な言葉が使用されていました。

事例の内容

2021年4月、ミャンマーにいると見られるあるFacebook利用者が、ミャンマー語でタイムラインに投稿しました。投稿では、2021年2月1日にミャンマーで起きたクーデターの後、ミャンマー国軍への資金供給を制限する方法について議論していました。投稿では、クーデターに対抗する連邦議会議員らの団体である、連邦議会代表委員会(CRPH)に税収を渡すことを提案していました。この投稿は約50万回閲覧され、この投稿に関するFacebook利用者からの報告はありませんでした。

Facebookは、利用者の投稿のうち違反があると思われる部分を、「Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them」(くそ中国が香港の人をひどく苦しめたから、香港の人は銀行取引を英国に移し、もう中国は手を出すことができない)と翻訳しました。Facebookは、ヘイトスピーチに関するコミュニティ規定に基づき当該投稿を削除しました。同規定では、人種、民族、国籍を理由に、「侮辱することを目的とした冒とく的な言葉やフレーズ」を用いて個人またはグループを標的とするコンテンツを禁止しています。

投稿はFacebookのルールに違反すると、投稿を確認したコンテンツ審査担当者4人全員が同意しました。委員会への異議申し立ての中で、利用者は、コンテンツを投稿した目的が「stop the brutal military regime」(残忍な軍事政権を阻止すること)だと述べました。

主な調査結果

本事例は、ヘイトスピーチに関するポリシーを施行する際に背景を考慮する重要性と、政治的発言を保護する重要性を浮き彫りにしています。2021年2月にクーデターが発生したことや、ミャンマーにおける通信媒体としてFacebookが重要な役割を果たしていることを踏まえると、このことはミャンマーでは特に問題となります。

投稿はミャンマー語の「$တရုတ်,」(「sout ta-yote」)というフレーズを使用し、Facebookはこれを「fucking Chinese」(くそ中国)と翻訳しました。Facebookによると、「ta-yote」という言葉は文化的・言語学的に、国としての中国と中国人との間の重複した意味をもつものとして認識されます。Facebookは、この言葉の性質と、利用者が「中国の国・政府を指すと明確に示して」いないことを踏まえ、「利用者は少なくとも中国人のことを指している」と判断したと述べました。したがって、Facebookはこの投稿を、Facebookのヘイトスピーチに関するコミュニティ規定に基づいて削除しました。

ミャンマー語でこの言葉は、国家とその国家の人の両方を指すのに用いられるため、趣旨を理解するには背景が重要となります。いくつかの要素により、委員会は、利用者が中国人ではなく、中国国家を標的としていると確信しました。

投稿のうち、Facebookのルールに違反すると思われる部分では、香港における中国の金融政策が「torture」(ひどい苦痛)あるいは「persecution」(迫害)だとしており、ミャンマーにおける個人または中国人の行動に言及しているわけではありません。委員会の翻訳者は2人とも、本事例において「ta-yote」という言葉は国家を指していると指摘しました。この記述に曖昧さが残る可能性はあるかと問われた際に、2人の翻訳者は懸念を示しませんでした。また、委員会の翻訳者は、ミャンマー政府および中国大使館が互いを呼ぶのによく使われる言葉が投稿には含まれていると述べました。さらに、50万人が投稿を閲覧し、6,000人を超える人がシェアしましたが、この投稿を報告した利用者はいませんでした。パブリックコメントでも、投稿の全体的なトーンは政治的な議論だと評されました。

投稿が人種、民族、国籍を理由に人々を標的とするのではなく、国家に向けられたものであるとして、委員会は、投稿がFacebookのヘイトスピーチに関するコミュニティ規定に違反しないと判断しました。

監督委員会の決定

監督委員会は、コンテンツを削除するFacebookの決定を撤回し、投稿を復元するよう求めます。

また、ポリシーに関する助言として、Facebookが次の対応を行うよう勧告します。

• コンテンツモデレーターがコンテンツを審査する言語で、内部実施規定が入手できるようにすること。優先順位をつける必要がある場合、Facebookはまず、人権に対するリスクがより深刻な状況に重点を置く必要があります。

*事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 審査結果の概要

監督委員会は、Facebookのヘイトスピーチに関するコミュニティ規定に基づいてコンテンツを削除するというFacebookの決定について、これを無効としました。委員会は、投稿の内容がヘイトスピーチに当たらないと判断しました。

2. 事例の説明

2021年4月、ミャンマーにいると見られるあるFacebook利用者が、ミャンマー語でタイムラインに投稿しました。投稿では、2021年2月1日にミャンマーで起きたクーデターの後、ミャンマー国軍への資金供給を制限する方法について議論していました。投稿では、クーデターに対抗する連邦議会議員らの団体である、連邦議会代表委員会(CRPH)に税収を渡すことを提案していました。この投稿は約50万回閲覧され、約6,000件のリアクションがあり、約6,000回シェアされました。この投稿に関するFacebook利用者からの報告はありませんでした。

Facebookは、利用者の投稿のうち違反があると思われる部分を、「Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them」(くそ中国が香港の人をひどく苦しめたから、香港の人は銀行取引を英国に移し、もう中国は手を出すことができない)と翻訳しました。Facebookは投稿の翌日、ヘイトスピーチに関するコミュニティ規定の「レベル2」のヘイトスピーチに当たるとして、投稿を削除しました。同規定では、人種、民族、国籍を理由に、「侮辱することを目的とした冒とく的な言葉やフレーズ」を用いて個人またはグループを標的とするコンテンツを禁止しています。

Facebookによると、この投稿の再シェアは「サンプルの一部として自動的に選択された上で、分類システムの訓練に利用するために人間の審査担当者に送信」されました。この訓練では、コンテンツがFacebookのポリシーに違反しているかどうか予測するために自動検知・施行処理を訓練することを目的として、違反しているコンテンツとそうでないコンテンツの例のデータセットをFacebookが作成する処理を伴います。審査担当者は、シェアされた投稿がヘイトスピーチに関するコミュニティ規定に違反すると判断しました。処理の目的は分類システムを訓練するためにコンテンツのセットを作成することでしたが、シェアされた投稿に違反があると判明したため、投稿は削除されました。

シェアされた投稿がFacebookのルールに違反していると判明したため、「管理アクションボット」が自動で元の投稿を審査対象としました。管理アクションボットは、コンテンツの評価はしませんが、「人間または自動検知技術による決定に基づく施行システムを通じたさまざまなアクション」を実施する内部的なFacebookアカウントであるとFacebookは説明しました。そうして、人間の審査担当者2人が元の投稿を分析し、両者とも、投稿が「レベル2」のヘイトスピーチに当たると判断しました。このため、コンテンツは削除されました。利用者は削除についてFacebookに異議を申し立て、4人目の人間の審査担当者が削除を支持しました。Facebookによれば、「本事例におけるコンテンツ審査担当者は全員、Facebookのミャンマー語コンテンツの審査チームのメンバー」でした。これを受け、利用者は監督委員会に対し、異議申し立てを提出しました。

3. 権限と範囲

委員会には、投稿を削除された利用者からの異議申し立てを受けて、Facebookの決定を審査する権限があります(憲章第2条第1項、定款第2条第2.1項)。委員会は、当該決定の維持または撤回を行うことができます(憲章第3条第5項)。委員会の決定には拘束力があり、ポリシーに関する助言が勧告とともに併せて提示される場合もあります。この勧告に拘束力はありませんが、Facebookはこれに回答する必要があります(憲章第3条第4項)。委員会は独立した苦情解決の仕組みであり、透明性を確保し原則に基づいた方法で紛争に対処します。

4. 関連する基準

監督委員会では、判断を下すにあたり以下の基準を考慮しました。

I. Facebookのコミュニティ規定

Facebookのコミュニティ規定は、ヘイトスピーチを、「人種、民族、国籍、障がい、宗教、社会階級、性的指向、性別、ジェンダーアイデンティティ、重度の病気など、保護特性と呼ばれるものを理由に人々を直接攻撃すること」と定義しています。「レベル2」で禁止されるコンテンツとしては、「侮辱することを目的とした冒とく的な言葉やフレーズ: fuck、bitch、motherfuckerなど(ただしこれらに限定されない)」と定義される暴言などがあります。

II. Facebookが重んじる価値観

Facebookが重んじる価値観は、コミュニティ規定の「はじめに」の部分にその概要が示されています。そこでは、「意見」の価値観が「何よりも大切」と記されており、このことは以下の説明にも示されています。

「コミュニティ規定の目的は、常に誰もが自由に表現し発言できる場を作ることでした。[…]弊社では、たとえ賛同できない、あるいは好ましくないと感じる人がいるかもしれない問題に関しても、利用者にとって重要な問題についてはオープンに話し合えるようにしたいと考えています」

Facebookは4つの価値観を重んじることを目的として、「意見」を制限します。本事例に関連するのは、次の2つの価値観です。

「安全性」: 弊社では、Facebookが安全な場所となるように努めています。利用者を脅かすような表現は、他の人を脅迫したり、排除したり、黙らせたりすることにつながる可能性があり、Facebookでは認められていません。

「尊厳」: 弊社では、すべての人の尊厳と権利は平等だと考えています。利用者が他の人の尊厳を尊重し、嫌がらせや誹謗を行わないことを望んでいます。

III. 人権基準

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。Facebookは2021年、企業人権ポリシーを発表しました。同ポリシーで、FacebookはUNGPsに従って人権を尊重することへの約束を改めて表明しました。本事例における委員会の分析は、次に掲げる人権基準に基づいて行われました。

1. 表現の自由: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34(2011年)
2. 企業の責任人権及び多国籍企業並びにその他の企業の問題に関する国連作業部会の企業、人権および紛争地域: 行動の高まりに向けての報告書(A/75/212)

5. 利用者の陳述書

委員会への異議申し立ての中で、利用者は「stop the brutal military regime」(残忍な軍事政権を阻止)し、ミャンマーの民主的指導者に助言するためにこのコンテンツを投稿したと述べています。利用者は、ミャンマーの軍事政権の財源を制限する必要があるとも繰り返し述べました。利用者は「活動家」を自称しており、ミャンマーの軍事政権の通報者がこの投稿を報告したのではないかと推測していました。また、「someone who understands Myanmar Language」(ミャンマー語を理解する人物)がこの投稿を審査するべきだと述べました。

6. Facebookの決定の説明

Facebookは、ヘイトスピーチに関するコミュニティ規定に基づく「レベル2」の攻撃に当たるとしてコンテンツを削除しました。具体的には、人種、民族、国籍を理由に人々を標的とする冒とく的な暴言を禁止するポリシーに違反するとしました。Facebookによれば、違反の疑いのあるコンテンツは、中国人に対する攻撃であると捉えられました。

コンテンツには、ミャンマー語の「$တရုတ်」(「sout ta-yote」)というフレーズが含まれており、Facebookの地域別チームはこれを「fucking Chinese」(くそ中国)と翻訳しました。Facebookの地域別チームはさらに、「$」が「စောက်」あるいは「sout」の略記として用いられることがあり、訳すと「fucking」(くそ)になると述べました。Facebookのチームによると、「ta-yote」という言葉は文化的・言語学的に、国としての中国と中国人との間の重複した意味をもつものとして認識されます。Facebookは、保護特性を理由に人々を標的とする極めて特徴的な言い回しや、保護特性関係のコンセプトに関してモデレーターに提供している社外秘の関連ガイダンス、すなわち内部実施規定を委員会に提供しました。

また、Facebookは、決定の根拠として、2021年2月のクーデターの後、ミャンマーでの「反中国感情の高まりが報告」され、「ミャンマーのヤンゴンにある、中国の資金提供を受けた衣料品工場での放火の疑いにより、複数の中国人が怪我をし、閉じ込められ、死亡した」ことを指摘しました。委員会からの質問を受けて、Facebookは、この投稿に関して同社がミャンマーの軍事政権と何ら連絡を取っていないと述べました。

Facebookは、「ta-yote」という言葉の性質と、利用者が「中国の国・政府を指すと明確に示して」いないことを踏まえ、「利用者は少なくとも中国人のことを指している」と判断したと述べました。したがって、投稿の削除はヘイトスピーチに関するコミュニティ規定に沿ったものだとFacebookは述べました。

また、Facebookは、削除が、「意見」の価値観とはかりにかけた結果尊重された、「尊厳」と「安全性」の価値観に沿うものであったと述べました。Facebookによると、中国人に向けられた冒とく的な暴言は「中国人に対する危害を生じさせるおそれ」があり、「個人の尊厳をおとしめ、人間性を奪い、尊厳を軽視する」ものです。

Facebookは、同社の決定が国際的な人権基準に則ったものであると主張しました。その上で、同社の決定は合法性、正当性、および必要性と相応性という国際的な人権法の要件に適合したものだと述べました。Facebookによれば、同社のポリシーはコミュニティ規定の中で「容易にアクセスできる」ものであり、「利用者による言葉の選択は、冒とく的な言葉の禁止に直接該当する」ものでした。さらに、コンテンツを削除する決定は、「危害や差別から他の者の権利」を守るために正当なものだとしました。最後に、ズワルトピートに関する委員会の決定2021-002-FB-UAを引用し、「中国人に向けられた不適切な言葉を含むコンテンツが蓄積していけば、『暴力行為がより容認されやすい、社会における差別を再現する環境が作り出される』」ことになるため、コンテンツを削除する決定は「必要かつ相応」なものだとしました。同社は、「両事例とも、人種や民族を理由として人々に向けられたヘイトスピーチに関する」ものであるため、この事例が本事例に類似していると述べました。

7. 第三者から寄せられた提案

本事例に関して、監督委員会には10件のパブリックコメントが寄せられました。5件はアジア太平洋・オセアニア、具体的にはミャンマーから、5件は米国およびカナダからのものでした。委員会は、人権活動家や市民社会組織などの利害関係者から、ミャンマーにおける表現の自由やヘイトスピーチに注目したコメントを受け取りました。

提案内容には、「sout ta-yote」という言葉の翻訳と分析、コンテンツが中国や中国人への攻撃に当たるか否か、ミャンマーでの武力衝突の観点から、この投稿が保護されるべき政治的発言に当たるか否か、2021年2月のクーデターの後、ミャンマーで反中国感情が高まったか否か、中国とミャンマーの軍事政権との間の関係性、Facebookのコンテンツのモデレーション手法(特に、ミャンマー語のコンテンツに関するFacebookの自動検知技術ツールの利用、訓練、チェック)などに関するものがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8. 監督委員会による分析

本事例は、政治的発言を尊重しつつ、ヘイトスピーチから利用者を保護することを目的としたコンテンツポリシーを施行する際に背景を考慮する重要性を浮き彫りにしています。2021年2月にクーデターが発生したことや、通信媒体としてFacebookが重要な役割を果たしていることを理由として、このことはミャンマーでは特に問題となります。このコンテンツを復元すべきかどうかという問いについて、委員会は、Facebookのコミュニティ規定、同社が重んじる価値観、および同社の人権保障責任という3つの観点から見ていきます。

8.1 コミュニティ規定への準拠

委員会は、当該コンテンツの復元はFacebookのヘイトスピーチに関するコミュニティ規定に沿うものだと判断しました。Facebookのポリシーでは、人種、民族、国籍を理由に個人またはグループを標的とした「侮辱することを目的とした冒とく的な言葉」を禁止しています。委員会は、投稿が人々を標的としたものでなく、香港における中国政府の政策に向けられたものであり、ミャンマーにおける中国政府の役割を議論する中で作成されたと結論づけました。

パブリックコメントに加えて、委員会は2名によるテキストの訳文も求めました。訳文には、ミャンマーに所在するミャンマー語話者と、ミャンマー国外に所在する別のミャンマー語話者のものがありました。パブリックコメントおよび委員会の翻訳者により、ミャンマー語では、国家とその国家の人を指すのに同一の言葉が使われることが指摘されました。したがって、趣旨を理解するには、背景が重要となります。これは、Facebookのヘイトスピーチに関するポリシーを適用する際に特に該当します。コンテンツが削除された時点において、ヘイトスピーチに関するコミュニティ規定は、国籍を理由として人々を攻撃することを禁止するとしていましたが、国に対する攻撃は禁止していません。

委員会は、投稿が民族、人種、国籍を理由として中国人を標的としたものでないと決定するに当たり、さまざまな要素を検討しました。第1に、投稿全体では、軍事政権への財政的な関与を制限し、CRPHに財政支援を行う方法について提案しています。第2に、投稿のうち、違反があると思われる部分では、香港における中国の金融政策を「torture」(ひどい苦痛)あるいは「persecution」(迫害)としており、ミャンマーにおける個人または中国人の行動に言及しているわけではありません。第3に、広くシェアされている投稿が報告されないからといって、必ずしもその投稿に違反がないということにはなりませんが、50万人を超える人が投稿を閲覧し、6,000人を超える人がシェアする中で、投稿を報告した利用者はいませんでした。第4に、委員会が相談した2人の翻訳者は共に、国家とその国家の人の両方を指すのに同一の言葉が使われるものの、この投稿においては国家を指していると指摘しました。この記述に曖昧さが残る可能性はあるかと問われた際に、翻訳者らは懸念を示しませんでした。第5に、2人の翻訳者は、ミャンマー政府および中国大使館が互いを呼ぶのによく使われる言葉が投稿には含まれていると述べました。最後に、パブリックコメントの多くで、投稿の総合的な趣旨が主に政治的議論にあると指摘されました。

したがって、不適切な言葉が人種、民族、国籍を理由に人々を標的としたものではなく、国家を標的としたものであることを踏まえ、委員会は、投稿がFacebookのヘイトスピーチに関するコミュニティ規定に違反しないと結論づけました。保護特性を理由に人々を標的とすることの禁止規定が、政府や制度を批判から守るような方法で解釈されないようにすることは重要です。反中国のヘイトスピーチが深刻な懸念であるものの、この投稿は中国国家に言及したものだと委員会は認識しています。

委員会は、このコンテンツを削除する決定が、事例に関する決定2021-002-FB-UA(黒くした顔の人の描写の削除を委員会が支持した事例)における委員会の根拠に従ったものだというFacebookの主張に同意できません。当該事例の場合、Facebookは、黒くした顔の人の描写に対する規則を設けていました。この事例は、ズワルトピートの黒い顔の描写を含むコンテンツにその規則を適用することを委員会がFacebookに認めたものです。一方、本事例の投稿の背景から見ると、使用された文言はFacebookの規則に全く違反していませんでした。

本事例に関する委員会の審議中、Facebookはヘイトスピーチに関するコミュニティ規定を更新し、一定の状況において保護特性に関する「概念」を禁止する方法について、より詳細な情報を提示しました。この新規の規則では、Facebookが施行のために「追加で情報または背景情報を求め」、利用者が「保護特性に関連した概念、制度、アイデア、慣例または信条を攻撃するコンテンツであって、その保護特性に関連した人に対する差し迫った実際の危害、威嚇または差別につながるおそれのあるもの」を投稿すべきでないと規定されています。

Facebookが本コンテンツを削除した時点で上記内容はコミュニティ規定に盛り込まれておらず、この更新された規定に基づいてコンテンツを削除したとの主張がFacebookからなかったため、委員会は、このポリシーを本事例に適用することについて分析しませんでした。しかしながら、委員会は、「概念、制度、アイデア、慣例または信条」の範囲が、政治的発言を含め、非常に広範な表現に及ぶ可能性がある点に注目しています。

8.2 Facebookが重んじる価値観の遵守

委員会は、当該コンテンツを復元することがFacebookの価値観に沿うものだと結論づけました。Facebookの「尊厳」と「安全性」の価値観は重要ですが、特に2021年2月に起きたミャンマーのクーデターという背景において、このコンテンツは、「意見」の排除を正当化するような、「尊厳」と「安全性」の価値観にリスクを及ぼすものでありませんでした。また委員会は、この投稿には「意見」の価値観の中核を成す政治的発言が含まれていると判断しました。

8.3 Facebookの人権保障責任の遵守

委員会は、当該コンテンツを復元することがFacebookの企業としての人権保障責任に沿うものだと結論づけました。Facebookは、国連ビジネスと人権に関する指導原則(UNGPs)に基づいて人権を尊重することを約束しています。同社の企業人権ポリシーでは、この約束には市民的及び政治的権利に関する国際規約(ICCPR)が範囲として含まれると規定されています。

ICCPR第19条では、表現に対する幅広い保護を規定しています。この保護の度合いは、公的機関に関するものなど、政治的な表現や議論では「特段に高い」ものです(一般的意見34、第38項)。第19条は、国が表現を制限する場合、合法性、正当性、および必要性と相応性という3つの部分からなるテストに合格することを要件としています。委員会は、Facebookのアクションについて、このテストに基づいた企業としての責任を果たしていなかったと結論づけました。

I. 合法性(規則の明確性とわかりやすさ・閲覧可能性)

国際的な人権法に基づく合法性の原則により、表現を制限するために国により用いられる規則は、明確でわかりやすく容易に閲覧可能であることが求められます(一般的意見34、第25項)。また、表現を制限する規則は、「どういった表現が適切に制限され、どういった表現が制限されないのかを、施行を担当する者が確かめられるよう、十分な指針を提示」しなければなりません(一般的意見34、第25項)。

ヘイトスピーチに関するコミュニティ規定では、人種、民族、国籍を理由として人々を標的とした不適切な言葉を禁止しています。Facebookは委員会に対して、「十分な情報を得た上で意図を判断する」ことは困難なため、「投稿が国・政府のみを指していると利用者が追加の背景情報を提供しない限り、Facebookは、「fucking Chinese」(くそ中国)というフレーズについて、中国人と中国の国・政府の両方を含意するものと捉える」と述べました。通常取る措置が削除であるというポリシーは、コミュニティ規定には記載されていません。

委員会は、ヘイトスピーチに関するコミュニティ規定の分析で述べたとおり(上記8.1を参照)、投稿が国家または国を指したものだという追加の背景情報を利用者が提供していたと結論づけました。Facebookにおける複数の審査担当者は、委員会の翻訳者や、パブリックコメントの提出者、そしておそらく、投稿を閲覧したものの報告しなかった50万人超の利用者の多くとは異なる結論に達したこととなります。この相違を踏まえ、委員会は、コンテンツモデレーターに提供されるFacebookの社内ガイダンス、リソースおよびトレーニングが適切なものかどうか、疑問視しています。

利用者にFacebookのヘイトスピーチに関するポリシーへの違反はなかったとする委員会の調査結果を踏まえ、委員会は、削除を通常取る措置とする非公開のポリシーが合法性の原則に違反するかどうかについては判断を下しませんが、不適切な言葉が人に向けられた、あるいは国家に向けられたと解釈され得る場合に、削除を通常取る措置とするポリシーがコミュニティ規定からは明らかでないことに懸念を有しています。一般に、Facebookは、公開されているコミュニティ規定の解釈を変えるような社内ガイダンスについて公表すべきです。

II. 正当な目的

国が表現を制限する場合、ICCPRで列挙する正当な目的のいずれかを追求するものである必要があります。これには「他の者の権利」が含まれます。Facebookによれば、ヘイトスピーチに関するポリシーは利用者を差別から守ることを目的としています。委員会は、これが正当な目的であることに同意します。

III. 必要性と相応性

国際的な人権法に基づく必要性と相応性の原則は、表現に対する制限が「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応でなければならない」(一般的意見34、第34項)としています。本事例では、コンテンツの解釈に基づき、委員会はこの投稿を制限することで保護機能は達成されないと判断しました。

UNGPsでは、企業は活動の影響を評価するために人権デューデリジェンスを継続して実施し(UNGP 17)、紛争影響下の状況においては人権への危害のリスクが高まっていることを確認すべきだ(UNGP 7)と述べています。人権及び多国籍企業並びにその他の企業の問題に関する国連作業部会は、企業によるデリジェンスの責任について、一層複雑となる状況と、いくつかのシナリオにおける危害のリスクを反映したものとすべきだと指摘しました(A/75/212、第41-49項)。同様に、委員会は事例に関する決定2021-001-FB-FBRにおいて、Facebookがリスクの高い地域に注意を向けるべきだと認識した上で、Facebookが「世界中の影響力のあるアカウントを対象に、その各アカウントから危害が生じるリスクを評価するため、十分なリソースと専門知識を確保するよう」勧告しました。

本事例において委員会は、こうして責任が高まる中で、削除が通常取る措置になってはならないと考えました。有害なコンテンツを残す場合も、危害のリスクがほとんどないか全くないコンテンツを削除する場合も同様に危険だからです。ミャンマーにおけるヘイトスピーチに関してFacebookが有する懸念は根拠のあるものですが、政治批判や政治的表現、本事例について言えば民主的統治を支持する表現を削除しないよう、Facebookは細心の注意を払う必要があります。

委員会は、同一の言葉が2つの意味で用いられる場合に、国籍に関する不適切な言葉(本事例においては「$တရုတ်」)が国家および人を指すと仮定するFacebookのポリシーは、本事例のように、言語的文脈によっては不相応な施行につながり得ると指摘しました。また、Facebookはこの事例をヘイトスピーチに関するコミュニティ規定に違反するコンテンツの例として分類システムの訓練に用いたとしており、削除による影響がこの事例の範囲外に及ぶことを委員会は指摘しました。

上記を踏まえ、国際的な人権基準により、Facebookへのコンテンツの復元は支持されます。

9. 監督委員会の審査結果

監督委員会は、当該コンテンツを削除する旨のFacebookの決定を無効とし、当該コンテンツを復元するよう求めます。Facebookは委員会憲章に基づき、この決定を同様の状況に適用する義務があり、分類システムの訓練で用いる場合、本コンテンツを違反のないコンテンツとして印をつける必要があります。

10. ポリシーに関する助言

Facebookは、コンテンツモデレーターがコンテンツを審査する言語で、内部実施規定が入手できるようにすべきです。優先順位をつける必要がある場合、Facebookはまず、人権に対するリスクがより深刻な状況に重点を置く必要があります。

*手続きに関する注記:

監督委員会の審査結果は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の審査結果は、メンバー全員の個人的見解を反映したものでは必ずしもありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関が、社会政治的・文化的背景に関して専門知識を提供しました。350を超える言語に精通し、世界各地の5,000の都市を拠点とする専門家を擁する会社であるLionbridge Technologies, LLCが、言語面での専門的知識を提供しました。

Volver a Decisiones de casos y opiniones consultivas sobre políticas