ワムパムベルト

事例の概要

注: 2021年10月28日、Facebookは会社名をMetaに変更すると発表しました。本文では、Metaとは会社名を指し、Facebookとは引き続き、特定のアプリに付随する製品やポリシーのことを指すこととします。

監督委員会は、Facebookのヘイトスピーチに関するコミュニティ規定に基づき北米の先住民のアーティストによるFacebook投稿を削除する旨のMetaの当初の決定を無効と判断しました。委員会は、このコンテンツが北米先住民族に対する歴史的犯罪への関心を高めることを意図しており、ヘイトスピーチに関するポリシーの許容範囲に含まれると判断しました。

事例の内容

2021年8月、あるFacebook利用者が、ワムパムベルトの写真を英語のテキストによる説明とともに投稿しました。ワムパムベルトは、貝殻を織り込んで表現を形作る北米先住民の芸術形態であり、物語や合意事項を記録するものです。このベルトには、「the Kamloops story」(カムループスの物語)に着想を得たとその利用者が述べる一連の描写が含まれています。その物語とは、先住民の子ども向けにカナダ・ブリティッシュコロンビア州に設立された旧寄宿学校で2021年5月に墓標のない墓が発見されたことに関するものです。

テキストには工芸品のタイトルとして「Kill the Indian/ Save the Man,」(インディアンを殺せ、人間を救え)との記載があり、自身が制作者だとしています。この利用者は、ベルトに描かれた一連の表現の意味について、「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.」(罪なき人を奪う行為、救世主だと掲げる悪、寄宿学校・強制収容所、発見されるのを待っている、子どもたちを連れて帰る)と説明しています。投稿では、この工芸品の意味のほか、ワムパムベルトの歴史や教育手段としての目的についても触れています。この利用者は、ベルトを作成するのは簡単ではなく、このベルトがカムループスで起きた出来事の物語を伝えることを目的とした、感情に訴えるためのものだったと述べています。利用者は、この工芸品がカムループスの生存者に苦しみを与えることについて謝罪した上で、この工芸品について、「sole purpose is to bring awareness to this horrific story.」(恐ろしい物語の認知度を高めることを唯一の目的としている)としています。

投稿の翌日、Facebookのヘイトスピーチに関するコミュニティ規定に違反している可能性があるとして、Metaの自動システムがこのコンテンツを特定しました。同日、人間の審査担当者がコンテンツに違反があったと評価し、これを削除しました。その決定に関して、利用者がMetaに対して異議申し立てを行い、2人目の人間が審査を行いましたが、2人目もこのコンテンツに違反があったと評価しました。削除の時点でこの投稿は4,000回以上閲覧され、50回以上シェアされていました。このコンテンツに関する利用者からの報告はありませんでした。

委員会がこの事例を選定したことを受け、Metaは8月27日、この削除を「enforcement error」(施行上の誤り)として投稿を復元しました。しかし、委員会が利用者へのメッセージの内容についてMetaに尋ねてから2日経った9月30日まで、Metaは復元について利用者に通知しませんでした。Metaは、メッセージの送信が遅れたのは人為的ミスによるものだと説明しました。

主な調査結果

Metaは、このコンテンツを削除する当初の決定がFacebookコミュニティ規定に反したものであり、「施行上の誤り」だったと認めています。委員会は、このコンテンツが、抑圧や差別に抵抗する目的でヘイトスピーチを引き合いに出す「カウンタースピーチ」の良い例だと理解しています。

Facebookのヘイトスピーチに関するポリシーの導入部分では、利用者の意図が明確に示されている場合にはカウンタースピーチが許可されると説明しています。投稿内容から、これがヘイトスピーチでないことは明らかです。工芸品はカムループスで起きた出来事の物語を伝えるものであり、添えられている解説文でその出来事の重大さを説明しています。「Kill the Indian」(インディアンを殺せ)という発言単独ではヘイトスピーチとなる可能性がありますが、文脈の中で見ると、このフレーズは憎悪と差別に関する具体的行為への注目を集め、非難するものです。

委員会は、ナチスの当局者からの引用を扱った事例における決定2020-005-FB-UAを想起しました。当該事例は、引用の内容や意味、投稿が行われた時期や国、投稿へのリアクションやコメントの内容など、直接の発言以外のしるしによって意図を評価する方法について、同じような教訓を与えてくれています。

この事例で委員会は、投稿内容がカウンタースピーチだと認識してもらうために、利用者が問題への関心を高めているのだと明言する必要はないと判断しました。委員会は、モデレーター向けの社内用の「論点集」に注目しました。この論点集は、意図に関する明確な発言があっても、ヘイトスピーチに相当する投稿の意味を変えるのに必ずしも十分ではないとしています。モデレーターには、はっきりとした発言のみに依拠するのではなく、コンテンツから推論して意図を評価することが求められています。

この投稿については、2人の別のモデレーターがヘイトスピーチに当たると結論付けました。Metaは、こうした誤りが2度起きた具体的な理由を説明することができませんでした。

監督委員会の決定

監督委員会は、コンテンツを削除するMetaの当初の決定を無効と判断しました。

またポリシーに関する助言として、Metaが次の対応を行うよう勧告します。

• 異議申し立てに関係するコンテンツに対して会社が講じる措置について、申し立てを行う利用者に適時かつ正確に通知をすること。該当する場合(本事例のような、施行上の誤りの場合を含む)、利用者への通知では、監督委員会の審査プロセスを受けて措置が講じられたことを知らせる必要があります。
• 実施するのが2度目の審査だという説明をコンテンツモデレーターが受けており、当初の決定に異議が唱えられていることを把握している場合に、審査担当者の正確さにどのような影響があるのか、調査すること。
• 芸術的表現や人権侵害に関する表現を対象として含む、ヘイトスピーチに関するポリシーの許容範囲(非難したり、問題への関心を高めたりするもの、自分への戒めや、奮い立たせるためのものなど)に焦点を当てて、審査担当者の正確さに関する評価を実施すること。この評価では、審査担当者の所在地によって、同一地域、あるいは異なる地域で行われたヘイトスピーチやカウンタースピーチをモデレーターが正確に評価する能力にどのような影響があるのかという点についても具体的に調査すべきです。評価結果を施行の運用やポリシーの策定の改善につなげる方法や、こうした許容範囲に対する審査担当者の正確さに関して定期評価の実施を計画しているか否かを含め、Metaはこの評価の結果を委員会と共有すべきです。また、委員会は、こうした評価の結果の概要を委員会に関する四半期ごとの透明性アップデートで公表し、この勧告に従っていることを証明するようMetaに求めます。

*事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 決定の概要

監督委員会は、北米先住民のアーティストによる投稿を削除する旨のMetaの当初の決定を無効と判断しました。この投稿は、投稿者の工芸品の写真のほか、ヘイトスピーチに当たる歴史上の事例を引用したタイトルを含むものでした。Metaは、この投稿が北米先住民族に対する歴史的犯罪への関心を高めることを明確に意図しており、ヘイトスピーチに関するFacebookコミュニティ規定の許容範囲に含まれることを認めました。

2. 事例の説明

2021年8月初めに、あるFacebook利用者が、ワムパムベルトの写真を英語のテキストによる説明とともに投稿しました。ワムパムベルトは、貝殻を織り込んで表現を形作る北米先住民の芸術形態であり、物語や合意事項を記録するものです。このベルトには、「the Kamloops story」(カムループスの物語)に着想を得たとその利用者が述べる一連の描写が含まれています。その物語とは、先住民の子ども向けにカナダ・ブリティッシュコロンビア州に設立された旧寄宿学校で2021年5月に墓標のない墓が発見されたことに関するものです。

テキストには工芸品のタイトルとして「Kill the Indian/ Save the Man,」(インディアンを殺せ、人間を救え)との記載があり、自身が制作者だとしています。それから、利用者はベルトに描かれた一連の表現に対応するものとして、「Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.」(罪なき人を奪う行為、救世主だと掲げる悪、寄宿学校・強制収容所、発見されるのを待っている、子どもたちを連れて帰る)というフレーズの一覧を掲載しています。投稿では、この工芸品の意味のほか、ワムパムベルトの歴史や教育手段としての目的についても触れています。この利用者は、ベルトを作成するのは簡単ではなく、このベルトがカムループスで起きた出来事の物語を伝えることを目的とした、まさに感情に訴えるためのものだったと述べています。そして、物語を社会から再び隠すことはできず、ベルトがこうした出来事を防ぐ助けとなることを願っているとしています。利用者は、この工芸品が寄宿学校制度の生存者に苦しみを与えることについて謝罪した上で、この工芸品について、「sole purpose is to bring awareness to this horrific story.」(この恐ろしい物語の認知度を高めることを唯一の目的としている)として投稿を締めくくっています。

投稿の翌日、Facebookのヘイトスピーチに関するコミュニティ規定に違反している可能性があるとして、Metaの自動システムがこのコンテンツを特定しました。同日、人間の審査担当者がコンテンツに違反があったと評価し、これを削除しました。その決定に関して、利用者がMetaに対して異議申し立てを行い、2人目の人間が審査を行いましたが、2人目もこのコンテンツに違反があったと評価しました。削除の時点でこの投稿は4,000回以上閲覧され、50回以上シェアされていました。このコンテンツに関する利用者からの報告はありませんでした。委員会がこの事例を選定したことを受け、Metaは8月27日、この削除を「enforcement error」(施行上の誤り)として投稿を復元しました。しかし、委員会が利用者へのメッセージの内容についてMetaに尋ねてから2日経った9月30日まで、Metaは復元について利用者に通知しませんでした。Metaは、メッセージの送信が遅れたのは人為的ミスによるものだと説明しました。メッセージそれ自体は、委員会への異議申し立ておよび委員会による本事例の選択を受けてコンテンツが復元されたことを、利用者に伝えるものではありませんでした。

アメリカインディアン問題協会(Association on American Indian Affairs)からのパブリックコメント(パブリックコメント-10208)は、この工芸品のタイトルとして使われているのが、米国における最初の連邦インディアン寄宿学校を設立した陸軍士官、Richard Henry Pratt氏からの引用である点を指摘しています。このフレーズは、先住民を強制的に「教化」し、「インディアン文化のあらゆる痕跡を根絶」しようという、寄宿学校設立の背景にある政策を要約したものです。カナダでも同様の政策が採用され、文化的ジェノサイドに至ったことがカナダ真実和解委員会(Truth and Reconciliation Commission of Canada)によって判明しています。

この利用者が「カムループス」で起きた出来事と言っているのは、カナダ・ブリティッシュコロンビア州に設立されたファーストネーション(先住民)の子ども向けの旧寄宿学校であるカムループス・インディアン寄宿学校(Kamloops Indian Residential School)のことを指しています。2021年5月、Tk’emlúps te Secwépemcファーストネーション(Tk’emlúps te Secwépemc First Nation)の指導者は、カムループスで墓標のない墓が発見されたと発表しました。当局は、この区域に埋葬場所と見られる箇所が200あることを確認しています。

カナダ政府は、1997年に最後の学校が閉鎖されるまで、最低でも150,000人の先住民の子どもが寄宿学校制度を経験したと推測しています。先住民の子どもは家族から無理やり引き離され、あらゆる面で先住民文化を表現するのを禁じられることが多々ありました。この学校は厳しく虐待的な体罰を用いて、職員が多くの学生に対して性的虐待や深刻な暴力行為を行ったり容認したりしていました。生徒たちは栄養失調になり、学校の暖房や衛生状態は不十分で、多くの子どもがろくに治療も受けないまま結核などの病気で死亡しました。真実和解委員会は、少なくとも4,100人の学生が学校に通う間に死亡し、その多くの原因が虐待やネグレクトによるもので、病気や事故で死亡する学生もいたと結論付けました。

3. 権限と範囲

委員会には、コンテンツを削除された利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。委員会は、Metaの決定の維持または撤回を行うことができ、委員会の決定は同社に対して拘束力があります(憲章第4条、第3条第5項)。委員会の決定には、拘束力のない勧告を伴ったポリシーに関する助言を盛り込むことができ、Metaはこれに回答しなければなりません(憲章第4条、第3条第4項)。

本事例のように、委員会が事例を選択し、その後Metaが誤りを犯したことを認めた場合、委員会は、誤りが生じた理由について理解を深める助けとなり、誤りの減少と適正手続きの増進に資するような意見・勧告を行うために、当初の決定の審査を行います。乳がんの症状とヌードにおける委員会決定(2020-004-IG-UA、セクション3)の後、委員会は、パネルに事例が割り当てられる前にMetaが施行上の誤りを特定できるようにするプロセスを採用しました(透明性に関するレポート30ページを参照)。こうした事例において、Metaが見直し後の決定に全面的に論拠の焦点を当て、利用者のコンテンツに対して取るべきだった行為について説明しつつ、これを同社の「最終」決定として支持するよう委員会に請うのは無益なことです。異議申し立ての対象である決定が不適切であった理由とともに、誤りが生じた理由と、Metaの社内審査プロセスでその誤りを特定・是正できなかった理由についても説明するよう、委員会はMetaに提言します。委員会は、利用者から異議申し立てのあった決定を基に、引き続き審査をしていきます。

4. 関連する基準

監督委員会では、判断を下すにあたり以下の基準を考慮しました。

I. Facebookコミュニティ規定:

Facebookコミュニティ規定は、ヘイトスピーチを、「人種、民族、国籍、障がい、宗教、社会階級、性的指向、性別、ジェンダーアイデンティティ、重度の病気など、保護特性と呼ばれるものを理由に人々を直接攻撃すること」と定義しています。レベル1で禁止されているコンテンツには、「記述または視覚的な形での暴力的な発言や支援」が含まれます。コミュニティ規定は、違反していないコンテンツを識別するために、許容範囲についても記載しています。

ときには非難したり問題への関心を高めたりするために、あえて他人によるヘイトスピーチを含むコンテンツをシェアする場合もあるでしょう。Metaの基準に違反するような発言を、自分への戒めや、奮い立たせるために使用する場合もあるかと思います。Metaのポリシーにはこのような発言を許可する余地が残されていますが、利用者はそのような発言の意図を明確に示す必要があります。意図が明確でない場合は、コンテンツを削除する場合があります。

II. Metaが重んじる価値観:

Metaが重んじる価値観は、Facebookコミュニティ規定の「はじめに」の部分にその概要が示されています。「意見」の価値観は以下の説明にも示されるように、「何よりも大切」と記されています。

「コミュニティ規定の目的は、常に誰もが自由に表現し発言できる場を作ることでした。[…]弊社では、たとえ賛同できない、あるいは好ましくないと感じる人がいるかもしれない問題に関しても、利用者にとって重要な問題についてはオープンに話し合えるようにしたいと考えています」

Metaは4つの価値観を重んじることを目的として、「意見」を制限します。本事例に関連するのは、次の2つの価値観です。

「安全性」: 「弊社では、Facebookが安全な場所となるように努めています。利用者を脅かすような表現は、他の人を脅迫したり、排除したり、黙らせたりすることにつながる可能性があり、Facebookでは認められていません」

「尊厳」: 弊社では、すべての人の尊厳と権利は平等だと考えています。利用者が他の人の尊厳を尊重し、嫌がらせや誹謗を行わないことを望んでいます。

III. 人権基準:

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権を尊重することへの約束を再確認しました。委員会は、本事例での人権に対するMetaの責任について、次に掲げる人権基準に基づき分析しました。

• 表現の自由: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34(2011年)、あらゆる形態の人種差別の撤廃に関する国際条約(ICERD)第5条、ヘイトスピーチに関する国連特別報告者報告書A/74/486(2019年)、オンラインコンテンツのモデレーションに関する国連特別報告者報告書A/HRC/38/35(2018年)
• 平等と差別禁止: ICCPR第2条第1項および第26条、ICERD第2条、人種差別撤廃委員会の一般的勧告35(2013年)
• 文化的権利:ICCPR第27条、経済的、社会的、文化的権利に関する国際規約(ICESCR)第15条、文化的権利分野の国連特別報告者の芸術的自由および創造性に関する報告書A/HRC/23/34(2013年)
• 先住民族の権利:先住民族の権利に関する国際連合宣言第7条第2項、第8条第1項、第19条

5. 利用者の陳述書

利用者は委員会への異議申し立ての中で、自身の投稿は歴史を記録する伝統工芸品を紹介するものであり、ヘイトスピーチとは何ら関係ないと述べました。さらに、この歴史は「認識する必要のあるもの」であり、Metaによる投稿の削除に関して「これは検閲だ」と述べました。

6. Metaの決定の説明

Metaは委員会に対して、「Kill the Indian」(インディアンを殺せ)というフレーズがFacebookのヘイトスピーチに関するコミュニティ規定に基づくレベル1の攻撃に当たると述べました。同規定では、人種や民族などの保護特性に基づいて人々を標的とする「暴力的な発言」を禁止しています。しかし、ポリシーでは「非難したり問題への関心を高めたりする」ために、あえて他人によるヘイトスピーチをシェアすることを許可しているため、コンテンツの削除は不適切であったとMetaは認めました。Metaは、利用者が投稿の中で、カムループスで起きた出来事の恐ろしい物語の認知度を高めることを目的としていると述べていた点に言及しました。

また、Metaは、「Kill the Indian/ Save the Man,」(インディアンを殺せ、人間を救え)というフレーズが、先住民の子どもの強制同化に起源を持つフレーズである点に言及しました。この利用者はカムループスの物語への関心を高めることにより、同時に、寄宿学校を通じた強制同化への関心も高めていました。委員会からの質問に対してMetaは、コンテンツの審査担当者がポリシーを正しく施行するのにこの歴史について認識する必要はないだろうとを明言しました。投稿には、この利用者が恐ろしい物語への関心を高めている旨がはっきり記載されています。このため、審査担当者はこの投稿が、引用するヘイトスピーチへの関心を高めるものだと当然に結論付けることができました。

Metaは委員会に対して、本事例のコンテンツを報告した利用者はいないと伝えました。Metaは、Facebookコミュニティ規定の違反の可能性を自動で検出するようにトレーニングされた機械学習に基づく分類システムを運用しています。本事例では、2つの分類システムが、ヘイトスピーチの可能性があるとしてこの投稿を自動で特定しました。1つ目の分類システムはコンテンツを分析しましたが、この投稿がコミュニティ規定に違反しているという十分な確度は得られませんでした。しかし、2つ目の分類システムは、文脈上のさまざまなシグナルを基に、この投稿が広くシェアされ、多くの人に閲覧される可能性があると判断しました。ヘイトスピーチが広く配信されることにより生じ得る危害を考慮して、Metaのシステムは自動的に、この投稿を人間による審査に回しました。

Metaは委員会からの質問に対する回答の中で、アジア太平洋地域に勤務する人間の審査担当者がこの投稿をヘイトスピーチだと判断し、プラットフォームから削除したことを明らかにしました。利用者は異議を申し立て、アジア太平洋地域にいる2人目の人間の審査担当者がコンテンツを審査しましたが、2人目もこのコンテンツがヘイトスピーチに当たると判断しました。Metaは委員会に対し、コンテンツに関する個々の決定について、モデレーターは根拠を記録していないことを確認しました。

7.第三者から寄せられた提案

監督委員会は、本事例に関する8件のパブリックコメントを検討しました。このうち、4件は米国およびカナダから、2件は欧州から、1件はサハラ以南のアフリカから、1件はアジア太平洋・オセアニアからのものでした。提案内容には、この利用者が工芸品のタイトルにした引用の重要性、北米における寄宿学校の使用に関する背景や、Metaによるコンテンツのモデレーションが先住民のアイデンティティ、起源を持つ人の芸術的自由および表現の権利にどのように影響するかなどに関するものがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8.監督委員会による分析

このコンテンツを復元すべきかどうかという問いについて、委員会は、Facebookコミュニティ規定、Metaが重んじる価値観、人権に対する責任という3つの観点から見ていきます。

8.1 コミュニティ規定への準拠

Metaは、このコンテンツを削除する当初の決定がFacebookコミュニティ規定に反するものであり、この決定が「施行上の誤り」であったと認めました。委員会は、本事例のコンテンツは明らかにヘイトスピーチに当たらないと判断しています。このコンテンツは、抑圧や差別と闘う際にヘイトスピーチを引き合いに出したり、その意味を捉え直したりする「カウンタースピーチ」の良い例です。

ヘイトスピーチに関するコミュニティ規定は、「非難したり問題への関心を高めたりするために、あえて他人によるヘイトスピーチを含むコンテンツ」を明示的に許可しています。それにもかかわらず、2人の別々のモデレーターはこの投稿がヘイトスピーチに当たると結論付けました。Metaは、この特定の誤りが2度起きた具体的な理由を説明することができませんでした。

ナチスの引用を扱った事例(2020-005-FB-UA)で、委員会は、引用の意味を理解するには、それを使用する文脈が重要であることを指摘しました。この事例では、危険人物として指定された人物を称賛する意図が利用者になかったことを、引用の内容や意味、投稿が行われた時期や国、投稿へのリアクションやコメントの内容が明確に示していました。

委員会は、この投稿の意図や意味合いを明らかにするために、利用者が問題への関心を高めているのだと明言する必要はなかったと理解しています。写真に写っている工芸品は、カムループスで起きた出来事の物語を伝えるものであり、添えられている解説文でその出来事の重大さを説明しています。「Kill the Indian」(インディアンを殺せ)という発言単独ではヘイトスピーチになる可能性がありますが、コンテンツを全体として評価すれば、このフレーズが憎悪と差別への関心を高め、憎悪と差別を非難するために用いられていることは明らかです。このコンテンツは、タイトルである憎悪的フレーズ(全体では「Kill the Indian / Save the Man.」(インディアンを殺せ、人間を救え))を区別するために、引用符を用いていました。これに着目して、審査担当者はより深く検討すべきでした。カムループスの物語の伝え方や、ワムパムベルトの文化的重要性の説明の仕方を見れば、この利用者が差別や暴力の加担者に対してではなく、犠牲者に共感していることは明らかです。解説文は、カムループスで発覚した出来事を明確に非難していました。この投稿へのコメントやリアクションからすると、この利用者のオーディエンスが当該投稿について、非難したり問題への関心を高めたりする意図のものだと理解していることは明らかでした。

委員会は、Facebookの社内用の「論点集」に注目しました。これは、モデレーターに対するガイダンスの一部を成しています。この中ではモデレーターに対して、利用者の意図が明確でない場合にはヘイトスピーチを含むコンテンツを削除せずに失敗するよりも、削除して失敗するよう指示を与えています。この論点集は、意図に関する明確な発言があっても、ヘイトスピーチに相当する投稿の意味を変えるのに必ずしも十分ではないとも述べています。禁止されるヘイトスピーチと、非難したり問題への関心を高めたりするためにヘイトスピーチを引用するカウンタースピーチとを適切に区別する方法に関して、内部ガイダンスでモデレーターに行っている指示は限定的なものです。委員会が認識している限り、ヘイトスピーチに当たる語を引用したり使用したりする芸術的コンテンツや、人権侵害を論じるコンテンツについて、こうしたコンテンツがポリシーの許容範囲に含まれる場合に、その意図に関する証拠の評価方法についてガイダンスは存在しません。

8.2 Metaが重んじる価値観の遵守

委員会は、このコンテンツを削除する当初の決定が、Metaが重んじる「意見」と「尊厳」の価値観に背いたものであり、「安全性」の価値観に資するものでなかったと理解しています。プラットフォーム上でのヘイトスピーチの拡散制限はMetaが重んじる価値観に沿ったものではありますが、委員会は、Metaのモデレーションプロセスでは、疎外や差別に直面する人がカウンタースピーチを通じて自己表現する能力を適切に識別し保護することができないのではないかと、懸念を持っています。

Metaはカウンタースピーチを支持する約束の中で以下のように述べています。

コミュニティ、ソーシャルプラットフォーム、人間としての経験を共有する場として、Facebookは、強固なコンテンツポリシーを施行し、ローカルコミュニティ、ポリシー立案者、専門家、変革者と共に世界中でカウンタースピーチに対する取り組みを断行することで、カウンタースピーチに対する極めて重要な取り組みを支持します。

Metaは、「意見」が同社の最も重要な価値観であると主張しています。過去の残虐行為の恐ろしさを明らかにし、その出来事が与え続けている影響について啓発しようとする芸術は、とりわけ自分たちの文化を表現し、自分たちの歴史に耳を傾けてもらおうとする、社会から取り残されたグループにとって、「意見」の価値観の最も重要かつ影響力の強い表現方法の1つです。カウンタースピーチは単なる「意見」の表現でなく、ヘイトスピーチの標的である人が自身の尊厳を守り、抑圧的・差別的・侮辱的な行為に抵抗するための重要な手段でもあります。Metaは、コンテンツポリシーとモデレーション手法でこの表現形態を確実に考慮に入れ、これを保護するようにする必要があります。

大規模残虐行為への関心を高めている利用者にとって、自身の発言がヘイトスピーチとして抑制されると伝えられることは、尊厳に対する侮辱に当たります。こうした非難は、特に異議申し立てにおいてMetaにより改めて確定される場合、自己検閲につながるおそれがあります。

8.3 Metaの人権保障責任の遵守

委員会は、この投稿の削除が企業としてのMetaの人権保障責任に背いたものだと結論付けます。Metaは、国連ビジネスと人権に関する指導原則(UNGPs)に基づいて人権を尊重することを約束しています。同社の企業人権ポリシーでは、この約束には市民的及び政治的権利に関する国際規約(ICCPR)が範囲として含まれると規定されています。

委員会にとって、本事例は芸術的表現を扱う初の事例であり、同時に、利用者が先住民を自認している表現を扱う初の事例です。また、利用者が重大な人権侵害に注目してもらおうとする事例で、委員会が選択した数件の事例のうちの一例です。

表現の自由(ICCPR第19条)

国際的な人権基準は、政治的表現の価値を強調しています(規約人権委員会の一般的意見34、第38項)。この権利の保護範囲はICCPR第19条第2項に規定されており、「芸術の形態」による表現に特別に言及しています。あらゆる形態の人種差別の撤廃に関する国際条約(ICERD)でも、表現の自由に対する権利の行使に際して差別から保護される旨を規定しており(第5条)、加盟国による遵守監視の任務を負う委員会は、「脆弱なグループが社会要素間の力の均衡を是正する」のを支援し、議論において「別の視点や反対意見」を提案することに関する権利の重要性を強調しています(人種差別撤廃委員会、一般的勧告35第29項)。

芸術は政治的な意味を持つことも多く、国際基準は、現状に疑問を投げかける際にこのコミュニケーション形態が持つ、独特かつ強力な役割を認識しています(文化的権利分野の国連特別報告者A/HRC/23/34第3項～第4項)。アーティストがより幅広い新たなオーディエンスの心を動かそうとする際に、インターネット、特にFacebookやInstagramのようなソーシャルメディアプラットフォームは特別な価値を持っています。インターネットを席巻するソーシャルプラットフォームへのアクセスにより生活が左右されることもあります。

表現の自由の権利は、差別なしにすべての人に保証されています(ICCPR第19条第2項)。委員会は、国家が先住民族コミュニティに影響を及ぼす立法的・行政的措置を講じる場合には、十分な説明を受けた上で自由意思により事前同意を行う当該先住民族の権利を考慮すると、コンテンツポリシーの策定に際して当該コミュニティと協議するMetaの責任が示唆されるという提案を受け取りました(パブリックコメント10240、マイノリティ・ライツ・グループ(Minority Rights Group)。先住民族の権利に関する国際連合宣言第19条も参照)。意見および表現の自由に関する国連特別報告者は、ソーシャルメディアプラットフォームの責任との関連で同様の懸念を提起しています(A/HRC/38/35第54項)。

本事例のコンテンツは、国家的、種族的または言語的少数民族に属する人がその集団の他の構成員とコミュニティ内で自身の文化を享有する権利(ICCPR第27条)や、文化的生活に参加し、芸術を享受する権利(ICESCR第15条)など、他の多くの権利にも関わるものです。人権に対する残虐行為と、それが現在にわたって残しているものを記録し、その認知度を高めようとするワムパムベルトを創作する芸術は、人権擁護者に関する国際連合宣言第6条(c)、および残虐行為に関する真実を求める権利(不処罰と闘う国際連合原則)に基づき保護されます。先住民族の権利に関する国際連合宣言は、子どもの強制的引き離しが暴力行為およびジェノサイド行為になり得ると明示的に認めており(第7条第2項)、強制的な同化および文化の破壊からの具体的保護について規定しています(第8条第1項)。

ICCPR第19条は、国が表現を制限する場合、その制限は合法性、正当な目的、および必要性と相応性の各要件を満たすことを求めています(ICCPR第19条第3項)。表現の自由に関する国連特別報告者は、民間企業による大規模な表現の規制がこうした状況に特有の懸念を生じさせ得ることを念頭に置いて、オンラインでの表現のモデレーションを行う際にソーシャルメディア企業がこれらの原則に従うことを奨励しています(A/HRC/38/35第45項および第70項)。委員会はこれまで、すべての決定においてICCPR第19条に基づいた3つの部分から成るテストを行っています。

I. 合法性(規則の明確性とわかりやすさ・閲覧可能性)

ヘイトスピーチに関するコミュニティ規定は、ヘイトスピーチを非難したり問題への関心を高めたりするコンテンツを明確に許可しています。ポリシーの当該部分は十分に明確で、入手しやすく、利用者は規則を理解してそれに応じて行動することができます(一般的意見34、第25項)。また、合法性の基準は、表現を制限する規則が、「どういった表現が適切に制限され、どういった表現が制限されないのかを、施行を担当する者が確かめられるよう、十分な指針を提示」することも求めています(同項)。2人のモデレーターが、このコンテンツに対してポリシーの許容範囲の規定を適用することについて、適切な評価を下せなかったことは、モデレーター向けのさらなる内部ガイダンスを要する可能性があることを示しています。

II. 正当な目的

国が表現の自由を制限する場合、ICCPR第19条第3項で列挙する正当な目的のいずれかを追求するものでなければなりません。発言を抑制する措置を講じたことを正当化する際、Metaは委員会への提出情報において、いつも決まってこの列挙された目的を引き合いに出してきました。委員会は過去に、Facebookのヘイトスピーチに関するコミュニティ規定が、他の者の権利を保護する正当な目的を追求するものであることを認めています。これらの権利には、平等・無差別の権利、表現の自由および身体的完全性に対する権利が含まれます。

III. 必要性と相応性

本事例において誤りが明白であったということは、削除が明らかに必要なかったということであり、Metaはこの点を受け入れています。委員会は、Metaの自動プロセスおよび人間による審査プロセスにおいて、相応性に関するより深い問題があることをこうした明らかな誤りが示しているのではないかと、懸念を持っています。表現の自由に対する制限は、その保護機能の達成に適したものであるべきで、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものであるべきです(一般的意見34、第34項)。Metaによるコンテンツのモデレーションシステムが必要性と相応性の要件を満たしているかどうかは、誤った検知と削除の数を最小限に抑えつつ、実際のヘイトスピーチを削除する際にシステムがどれほど有効に機能しているかという点に大きく左右されます。

投稿が誤って削除されれば、必ず表現の自由に害を及ぼします。委員会は、人間にとっても機械にとっても誤りは避けられないものだと理解しています。ヘイトスピーチと、ヘイトスピーチに反応する内容は常に文脈に依存し、その境界線は必ずしも明確ではありません。しかし、誤りの種類や、こうした誤りのしわ寄せを受ける人・コミュニティというのは設計上の選択を反映しており、これについては絶えず評価し、分析しなければなりません。したがって、本事例の誤りの根本原因についてはさらに調査する必要があり、カウンタースピーチの効果的なモデレーション方法についてより広い評価を行うことが求められます。

憎悪や抑圧への反論を促す先住民アーティストの批判的芸術の重要性を考慮し、委員会は、本事例のコンテンツ、およびFacebookやInstagramにおける類似コンテンツを誤って削除する可能性に対しては特に注意を払うようMetaに期待します。Facebookのヘイトスピーチに関するポリシーのMetaによる施行実績を全体として評価するのでは十分ではありません。概してうまく機能しているシステムというのでは、誤った決定が人権に対して特に顕著な影響を及ぼすコンテンツという細部ではあまりうまく機能しない可能性があります。本事例で発生した種類の誤りは稀なのかもしれません。しかし、委員会は、社会から取り残されたグループの構成員が、ここ数年間の誤削除の率とその影響に関して懸念を提起していると把握しています。本事例の誤りは、自社のシステムが公正に動作しており、歴史的な抑圧や継続中の抑圧を増幅しないようにすべく、人権デューデリジェンスを実行してしていることを証明する義務がMetaにあることを示しています(UNGPs原則17)。

Metaは、ヘイトスピーチに対処する際の施行システムの正確さについて、定期評価を行っています。この評価は、ヘイトスピーチと、ヘイトスピーチを非難したり問題への関心を高めたりする許可対象のコンテンツとをMetaが区別できるのかという点を具体的に測定する正確性評価には細分化されていません。

Metaの既存のプロセスには、誤りの傾向を特定し、その根本原因を調査するための特別メカニズムも盛り込まれています。しかし、システムのパフォーマンスを測定するにはコンテンツの大規模なサンプルが必要となります。委員会は、芸術的表現に当たるカウンタースピーチや、人権侵害への関心を高めるカウンタースピーチを正確に評価する点において、Metaが審査システムのパフォーマンスを具体的に評価しているのかどうかを尋ねました。Metaは委員会に対し、芸術的表現や、先住民族のアイデンティティや起源を持つ人による表現の誤削除の影響について、特定の調査は実施していないと述べました。

Metaは、ポリシーの許容範囲に収まるコンテンツのサンプルの照合を自動化するシステムがないことなど、こうした評価の開始を阻む障害について委員会に伝えています。これは、審査担当者がコンテンツに違反の有無のマークのみを付け、違反のないコンテンツがポリシーの許容範囲に収まる場合にその旨を示す必要がないことによるものです。許容範囲に収まるカウンタースピーチのサンプルについては、手作業で集める必要があります。

委員会の要請で開催された質疑応答セッションでの、Metaのパフォーマンス評価方法に関する説明の詳細さに委員会は元気づけられましたが、ヘイトスピーチに関するポリシーの許容範囲に対する施行の正確さを評価し、誤りの傾向から学びを得るに当たり、より多くの投資が必要なことは明らかです。Metaの設計上の決定や人間・自動システムのパフォーマンスに関する追加情報がなければ、委員会やMetaにとって、ヘイトスピーチに対するMetaの現在のアプローチの相応性を評価することは困難です。

ヘイトスピーチの可能性を自動で検出するために、本事例で特定の機械学習ツールを稼働させることが必要かつ相応かを評価する際には、こうしたツールの正確さを理解することが鍵となります。機械学習による分類システムは常に、誤判定の率と検出漏れの率との間のトレードオフを伴います。分類システムの精度が高くなればなるほど、ヘイトスピーチの事例を正確に特定しやすくなりますが、同時に、ヘイトスピーチでない素材を誤ってフラグする可能性も高くなります。分類システムの訓練方法やモデルが異なれば、さまざまなタスクに対する有用性や有効性は異なってきます。いずれのモデルについても、さまざまな種類のミスを避けることの相対的重要性に関する判断を反映した、さまざまなしきい値を使用することができます。ただちに措置を講じることができるのか、あるいは人間の承認を要するのかどうかや、どのような予防措置が講じられるかなど、分類システムの導入方法については、誤りの可能性と重大度も考慮した上で決定されるべきです。

Metaは、本事例で問題となった投稿は多くのオーディエンスが閲覧する可能性があったため、自動システムがこの投稿を審査に回したと説明しました。こうしたアプローチを取れば、有害な素材の拡散を制限することはできますが、憎悪に異を唱える、影響力の強い芸術が誤って削除されるリスクを高める可能性もあります。委員会に対してMetaは、経時的な誤判定率について、専門家である審査担当者による一連の決定と対照して測定し、定期評価を行っていると述べました。また、本事例に関係する特定の機械学習モデルの正確さを評価することが可能であること、また同社が少なくとも90日間、分類システムの予測に関する情報を保持していることに言及しました。分類システムのパフォーマンスと、本事例においてMetaが使用したしきい値の妥当性を委員会が評価できるような情報を提供するよう委員会が要請したところ、Metaは、準備する時間が十分にないため、委員会が求めている情報を提供することができないと委員会に伝えましたが、今後の事例においてこうした情報を提供できるか検討していることに言及しました。

人間による審査は、Metaの分類システムの運用上、投稿の削除前と、異議申し立て後という2度にわたって、重要な予防措置を講じることができます。本事例における誤りは、カウンタースピーチを評価するモデレーターへのMetaのガイダンスが十分でない可能性があることを示しています。本事例において、人間のモデレーターが2度にわたって不適切な決定に至った原因となり得る理由は多くあります。委員会は、特に、ポリシーの許容範囲にあるコンテンツ(ヘイトスピーチを「非難」したり「問題への関心を高め」たりするコンテンツなど)に関して、本事例のような誤りを防ぐのに、時間面やトレーニング面で審査担当者に十分なリソースがなかったのではないかという懸念を持っています。

本事例では、2人の審査担当者はともにアジア太平洋地域に勤務していました。Metaは、ヘイトスピーチに当たるかどうかをコンテンツの作成地域に所在していないモデレーターが評価することで、審査担当者の精度が変わってくるのかどうかという点について、委員会に情報提供することができませんでした。特にモデレーターが毎日審査するコンテンツの量を考慮すると、ヘイトスピーチの評価は複雑であり、また、現地の状況や歴史を理解するのが困難であることを委員会は把握しています。本事例のコンテンツを評価したモデレーターは、北米先住民族の抑圧に関して、あまり認識がなかったのだろうと考えられます。ガイダンスは、コンテンツを全体として評価するよう明確に指示し、モデレーターがより正確に文脈を評価して意図と意味合いの形跡を判断できるようサポートするものである必要があります。

委員会は、2つのボタンのミームを扱った決定(2021-005-FB-UA)の中で、異議申し立てにおいて自分のコンテンツがヘイトスピーチに関するFacebookコミュニティ規定の許容範囲に含まれる旨を利用者に示してもらうようにMetaに勧告しました。現在、人間による審査に回されたMetaの決定への異議申し立てがあった場合、利用者が以前の決定に異議を唱えていることは審査担当者に知らされず、担当者が以前の審査の結果について知ることはありません。Metaは委員会に対し、こうした情報を知らせると審査にバイアスがかかると考える旨を伝えていましたが、委員会は、こうした情報を知らせることで、より角度を変えた意思決定が行われる可能性が高くならないかという点に興味を持っています。この点については、Metaが実証的にテストすることができます。テストの結果は、Metaが採用することとした具体的手段の相応性を評価する際に役立つでしょう。

UNGPsに基づき、Metaは人権デューデリジェンスを実行する責任を負っています(原則17)。その範囲には、差別に異を唱える先住民族の芸術的表現や政治的表現に対するコンテンツのモデレーションについて、負の影響を特定する作業も含まれます。Metaは、こうした負の影響を防止・軽減する方法、これに対処する取り組みについて説明する方法について、さらに特定を進める必要があります。委員会は、Metaのパフォーマンスのモニタリングに取り組んでいくとともに、社会から取り残されたグループに対するリスクを同社が優先して扱い、継続的な向上の兆候を見せることを期待しています。

9. 監督委員会の決定

監督委員会は、コンテンツを削除するMetaの当初の決定を無効と判断しました。

10. ポリシーに関する助言

施行

1. 異議申し立てに関係するコンテンツに対して会社が講じる措置について、申し立てを行う利用者に適時かつ正確に通知をすること。該当する場合(本事例のような、施行上の誤りの場合を含む)、利用者への通知では、監督委員会の審査プロセスを受けて措置が講じられたことを知らせる必要があります。Metaは、この勧告に従っていることを証明するため、利用者から異議申し立てのあったコンテンツに関する決定に委員会の対応が影響している場合に、利用者に送信したメッセージを共有する必要があります。委員会のプロセスのうち、適格性に関する段階で是正が行われたすべての事例に関して、こうした対応が取られるべきです。

2.2度目の審査に対するアプローチを変更することが、審査担当者の正確さと処理能力に及ぼす影響について調査すること。特に、委員会は、実施するのが2度目の審査だという説明をコンテンツモデレーターが受けており、当初の決定に異議が唱えられていることを把握している場合の精度を評価するよう要請します。委員会からの過去の勧告に沿って、この実験では、審査担当者によるコンテンツの評価に役立つ関連情報を提供する機会を利用者に与えることが理想です。Metaは、この勧告に従っていることを証明するため、こうした正確さに関する評価の結果を委員会と共有し、委員会の透明性に関する四半期レポートにおいて結果の概要をまとめる必要があります。

3. 芸術的表現や人権侵害に関する表現を対象として含む、ヘイトスピーチに関するポリシーの許容範囲(非難したり、問題への関心を高めたりするもの、自分への戒めや、奮い立たせるためのものなど)に焦点を当てて、正確さに関する評価を実施すること。この評価では、審査担当者の所在地によって、同一地域、あるいは異なる地域で行われたヘイトスピーチやカウンタースピーチをモデレーターが正確に評価する能力にどのような影響があるのかという点についても具体的に調査すべきです。こうした分析を行うには、関連するコンテンツについて、正確なラベルが付された適切なサンプルの構築が必要となりそうだということを委員会は理解しています。Metaは、この勧告に従っていることを証明するため、評価結果を施行の運用やポリシーの策定の改善につなげる方法や、こうした許容範囲に対する審査担当者の正確さに関して定期評価の実施を計画しているか否かを含め、この評価の結果を委員会と共有し、委員会の透明性に関する四半期レポートにおいて結果の概要をまとめる必要があります。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関、および地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisersが、社会政治的・文化的背景に関して専門知識を提供しました。

Return to Case Decisions and Policy Advisory Opinions