ジェンダーアイデンティティとヌード

事例の概要

監督委員会は、トランスジェンダーとノンバイナリーの人たちが上半身裸の様子を描写した2つのInstagram投稿を削除するというMetaの当初の決定を無効と判断しました。また、成人のヌードと性的行為に関するコミュニティ規定を変更し、国際人権基準を尊重した明確な基準に準拠するようMetaに勧告します。

事例の内容

本決定において、監督委員会は初めて2件の事例をまとめて検討します。2つの別個のコンテンツは、同一のInstagramアカウントによって1つは2021年に、もう1つは2022年に投稿されました。このアカウントは米国を拠点とするカップルが管理しており、この2人はトランスジェンダーとノンバイナリーを自認しています。

どちらの投稿にも、上半身裸で、乳首が隠されたカップルの画像が含まれています。画像のキャプションではトランスジェンダーの医療について論じていて、カップルのうち1人が近々胸の手術(胸を平らにするための性別適合手術)を受ける予定だと述べており、このカップルはその費用に充てるための募金キャンペーンも行っています。

Metaの自動システムによるアラートや利用者からの報告が相次ぎ、この投稿はさまざまなコミュニティ規定に違反する可能性があるとして複数回にわたって審査されました。最終的にMetaは、性的行為の勧誘に関するコミュニティ規定に違反するとして両投稿を削除しました。これは、胸の画像が含まれていたことと、募金キャンペーンのページへのリンクが含まれていたことが原因だと思われます。

この利用者らはMetaに異議を申し立て、その後委員会に異議を申し立てました。委員会が本事例を引き受けた後、Metaは誤ってこれらの投稿を削除したとして、両投稿を復元しました。

主な調査結果

これらの投稿を削除したことは、Metaコミュニティ規定やMetaが重んじる価値観、Metaの人権保障責任に沿っていないと監督委員会は判断します。本事例は、Metaのポリシーに関する根本的な問題を浮き彫りにしています。

性的行為の勧誘に関するポリシーに基づいてコンテンツを削除するケースについてモデレーター向けに提示されているMetaの内部指針は、規定されているポリシーの基本理念、すなわち公開されている指針よりはるかに広範な内容です。これにより利用者やモデレーターに混乱が生じ、Metaが認識しているとおり、コンテンツの誤った削除につながります。

両事例のうち少なくとも1つの事例において、成人のヌードと性的行為に関するコミュニティ規定を施行するために訓練された自動システムにより、投稿は人間による審査に回されました。当該コミュニティ規定では、授乳や性別適合手術などの特定の状況を除いて、女性の乳首を含む画像を禁止しています。

同ポリシーは、性別を二元的に捉え、男女の身体の違いに基づいて策定されています。こうしたアプローチを取ると、インターセックスやノンバイナリー、トランスジェンダーの人に対してどのようにルールを適用するかが不明確となります。また、審査担当者には、性別について短時間で主観的な評価を下すことが求められることになりますが、これは、コンテンツのモデレーションを大規模で実施する際には現実的ではありません。

女性の乳首に関するルールの制限と例外は、特にトランスジェンダーやノンバイナリーの人に適用する場合には、広範で分かりにくい内容です。このポリシーの例外の範囲は、抗議活動から出産の場面、医療や健康の文脈(胸の手術や乳がんの認知喚起など)に至るまで、多岐にわたります。こうした例外は多くの場合、複雑できちんと規定されていません。例えば一定の状況では、モデレーターは目に見える瘢痕の程度や性質を評価して、一定の例外が適用されるか否かを判断しなければなりません。このポリシーが明確でないことにより、利用者と審査担当者に不透明感が生じ、実際面でポリシーが機能しなくなります。

委員会はこれまで一貫して、差別を受ける人にMetaのポリシーがどのように影響を及ぼすかについて注意を払うべきだとMetaに伝えてきました(例えば、「ワムパムベルト」および「アラビア語の単語の再生」の決定を参照)。本事例では、女性、トランスジェンダー、ノンバイナリーの人がMetaのプラットフォームで表現をする際に、成人のヌードに関するMetaのポリシーがより大きな障壁になると委員会は理解しています。例えば、従来的な形で女性が上半身裸になるような状況でMetaのポリシーは大きな影響を及ぼすとともに、本事例が示すとおり、LGBTQI+を自認する人に過度に影響を及ぼす可能性があります。実際にはMetaのポリシーに違反していないにもかかわらず、Metaの自動システムはこのコンテンツを複数回にわたって特定しました。

こうした懸念すべてに対応したポリシーをMetaは策定し、実施するよう努めるべきです。Metaは、成人のヌードと性的行為に関するポリシーの適用にあたって、すべての利用者が人権基準に合致した方法で扱われることを確実にする明確な基準を規定することにより、同社のプラットフォームでヌードを管理するアプローチを変更すべきです。また、Metaは、成人のヌードと性的行為に関するポリシーが同意のない画像の共有を防ぐものかどうか、また、この点に関して他のポリシーを強化する必要があるかどうかも考察する必要があります。

監督委員会の決定

監督委員会は、投稿を削除するMetaの当初の決定を無効と判断しました。

また、委員会はMetaが次の対応をするよう勧告します。

• 成人のヌードと性的行為に関するコミュニティ規定に適用される明確で客観的、かつ権利を尊重した基準を定めて、すべての人が性別に基づいた差別を受けることなく、国際人権基準に合致した方法で取り扱われるようにすること。Metaはまず、多様なステークホルダーを巻き込んで、こうした変更について総合的な人権影響評価を実施し、特定された害に対処する計画を作成する必要があります。
• コンテンツの削除に至る基準について、公開されている性的行為の勧誘に関するコミュニティ規定で詳細を規定すること。
• 性的行為の勧誘に関するコミュニティ規定についてのモデレーター向けの指針を改定し、同ポリシーについて公開されているルールをより正確に反映させること。こうした改定は、Meta側で施行上の誤りが生じるのを減らす効果があるでしょう。

*事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 決定の概要

監督委員会は、Metaによって削除されたInstagram投稿に関する2件の事例において、Metaが下した当初の決定を無効と判断します。Metaは両事例での当初の決定が誤りだったことを認めています。両事例は、Metaのポリシーが同社のプラットフォームにおける女性およびLGBTQI+の利用者の表現の権利に過度に影響を及ぼす方法について重要な懸念を提起しています。委員会は、成人のヌードと性的行為に関するコミュニティ規定に適用される明確で客観的、かつ権利を尊重した基準を定めて、国際人権基準に合致した、性別やジェンダーアイデンティティに基づく差別をしないような平等な取り扱いをすべての人に対して確保するようMetaに勧告します。Metaはまず、総合的な人権影響評価を実施してこうした基準を採用する意味合いを確認する必要があります。この評価では、イデオロギー面、地理面、文化面で多様な背景を持つステークホルダーを広く包括的に巻き込む必要があります。この評価で潜在的な害が特定された範囲で、新規ポリシーの施行にあたっては、その害に対処するための軽減プランを盛り込むべきです。

また、委員会は、公開されている性的行為の勧誘に関するポリシーを明確化するとともに、同ポリシーの違反をより適切な形で特定するため、内部施行指針の規定の範囲を狭めるようMetaに勧告します。

2. 事例の説明と背景

本事例はコンテンツに対してMetaが下した2件の決定に関するものですが、本決定で監督委員会はこれら2件をまとめて取り上げています。2件の個別の画像(キャプション付き)が、同一のアカウントによってInstagramに投稿されました。このアカウントは米国を拠点とするカップルが共同で管理しています。どちらの画像にもカップルが写っており、投稿および委員会への提出情報でこの2人はトランスジェンダーとノンバイナリーを自認していると述べています。

Metaは性的行為の勧誘に関するコミュニティ規定に基づいて両投稿を削除しました。どちらの事例も、Metaの自動システムによって違反の可能性のあるコンテンツとして特定されました。

2021年に投稿された最初の画像では、2人が上半身裸で写っており、その乳首は肌色のテープで隠されています。2022年に投稿された2つ目の画像では、1人は衣服を着用していますが、もう1人は上半身裸で乳首を手で隠した状態で写っています。これらの画像に添えられたキャプションには、両方の写真に上半身裸で写っている人物が近々、胸を平らにするための手術(性別適合手術)を受けることが記されています。また、手術の経過を記録し、トランスジェンダーの医療に関する問題について議論する計画が記載されています。さらに、手術で保険適用を受けることが困難であるため、手術費用に充てるための募金キャンペーンをしているというお知らせが記されています。

最初の事例では、画像はまず、違反に当たる可能性は低いと自動分類されました。報告は審査されることなく打ち切られ、このコンテンツは当初プラットフォームにそのまま掲載されました。その後、3人の利用者がこのコンテンツをわいせつと自傷行為に関するコンテンツとして報告しました。これらの報告は人間のモデレーターによって審査され、この投稿は違反がないと判断されました。このコンテンツに対して4回目の利用者からの報告があった際に、この投稿は性的行為の勧誘に関するコミュニティ規定に違反すると別の人間の審査担当者が判断し、同投稿を削除しました。

2件目の事例では、この投稿はMetaの自動システムによって2回特定され、人間による審査に諮られ、2回とも違反がないと判断されました。その後、2人の利用者がコンテンツを報告しましたが、どちらの報告も人間による審査を受けることなく自動的に打ち切られ、コンテンツはInstagramにそのまま掲載されました。最終的に、このコンテンツはMetaの自動システムによって3回目の特定がなされ、人間による審査に諮られました。過去2回、Metaの成人のヌードと性的行為に関する自動分類システムがコンテンツをフラグしましたが、繰り返し審査が行われた理由は分かりません。最後に審査した人間の担当者は、この投稿が性的行為の勧誘に関するコミュニティ規定に違反すると判断し、投稿を削除しました。

アカウント所有者は両削除決定についてMetaに異議を申し立て、両事例において人間の審査担当者がコンテンツを審査しました。しかし、これらの審査によって両投稿が復元されることはありませんでした。これを受け、アカウント所有者は両削除決定について委員会に異議を申し立てました。委員会は初めて、2件の事例をまとめて検討します。これには、Metaのコンテンツポリシーやプロセスの類似した問題を特定し、こうした問題に対処する解決策を提示できるという利点があります。

委員会が両投稿を選定し、コンテンツの削除決定の根拠を提示するようMetaに求めた後、同社は削除が「施行上の誤り」だったと特定し、両投稿を復元しました。

これらの事例が重要な問題を示している理由を考えるうえで、委員会は、関連する背景情報として、本事例で大量のパブリックコメントが寄せられていることに留意しています。パブリックコメントの多くはトランスジェンダー、ノンバイナリー、シスジェンダーの女性を自認する人によるもので、本事例に類似した施行上の誤りや問題によって個人的に影響を受けていると説明するものでした。

また、関連する背景情報として、パブリックコメントでも引用されていたHaimson他、ならびにWitt、SuzorおよびHugginsによる学術研究のほか、アルゴリズムのバイアスと社会から疎外されているコミュニティの検閲に関するSaltyによる2件の報告書にも留意しています。これらの研究により、本事例で取り扱う2つのコミュニティ規定における施行上の誤りが、女性とLGBTQI+コミュニティに過度に影響を及ぼすことが分かりました。監督委員会のメンバーの1人は、上記研究のうちの1つの共著者です。

3. 監督委員会の権限と範囲

委員会には、コンテンツを削除された利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。

委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、勧告を伴ったポリシーに関する助言を盛り込むことができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。

委員会による事例の特定後にMetaが誤りについて認識するという本件のような事例を委員会が選定した場合、委員会は当初の決定について審査します。これは、誤りにつながったポリシーの要素とコンテンツモデレーションのプロセスについて理解を深め、根底にあるポリシーに関して委員会が特定する問題に対処することを目的としています。また、委員会は、将来誤りが生じる可能性を減らし、利用者が今後より公平に扱われるように勧告を行うことを目指しています。

同様の問題を提起する事例を委員会が特定した場合、これらの事例は同時にパネルに割り当てられ、まとめて審査される可能性があります。この場合、各コンテンツに関して拘束力のある決定が下されることになります。

4. 先例の情報

監督委員会は、以下の先例と基準を考慮しました。

I. 監督委員会の決定:

• 「アラビア語の単語の再生」に関する決定(2022-003-IG-UA)。この事例で委員会は、ポリシーの例外を適用する課題と、ポリシーの一定の選択に伴う過度の影響について分析しました。
• 「ワムパムベルト」に関する決定(2021-012-FB-UA)。この事例で委員会は、ポリシーの例外を適用する課題と、ポリシーの一定の選択に伴う過度の影響について分析しました。
• 「乳がんの症状とヌード」(2020-004-IG-UA)。この事例で委員会はInstagramコミュニティガイドラインを分析し、乳がんの認知に関する例外がある旨を明確にするようMetaに勧告しました。

II. Metaのコンテンツポリシー:

本事例で関係するのは、InstagramコミュニティガイドラインおよびFacebookコミュニティ規定です。Metaの透明性センターには、「FacebookとInstagramはコンテンツポリシーを共有しています。つまり、Facebook上で違反していると判断されるコンテンツは、Instagramでも違反していると判断されます」と記載されています。

性的行為の勧誘

Instagramコミュニティガイドラインでは、「性的サービスの提供」は認められないと記載されています。この規定では、性的行為の勧誘に関するFacebookコミュニティ規定へのリンクが張られています。

性的行為の勧誘のポリシーの基本理念でMetaは、「しかし一方で、Facebookでは、成人間での性的関係または営利目的の性的サービスを促進、奨励、または手配するコンテンツを制限しています。これは、人身売買、同意のない性的行為の強要などにかかわる可能性のある取引を助長することを防止するためです。また、性的行為の勧誘につながる可能性のある性的に露骨な文言も制限しています。世界中のさまざまな人が利用する弊社コミュニティでは、そのようなコンテンツが利用者に不快な思いをさせ、利用者が友達や幅広いコミュニティとつながるのを妨げる可能性があるからです。」と記しています。

性的行為の勧誘に関するFacebookコミュニティ規定は、Metaが明示的な勧誘と黙示的な勧誘を両方とも禁止するとしています。黙示的な勧誘には2つの基準があり、コンテンツがポリシー違反に該当するにはこれら両方の基準を満たしていなければなりません。1つ目の基準は「提供または要求」です。具体的には、「黙示的または間接的に(通常は連絡方法を提供することで)性的行為の勧誘を提供または要求するコンテンツ」を指します。第2の基準は「挑発的な要素」です。具体的には、「性的に挑発的な以下の要素のいずれかを使用して、前述の提供または要求を行うコンテンツ」を指します。列挙される要素には、「地域特有の性的な俗語」や「ポーズ」が含まれます。

成人のヌードと性的行為

Instagramコミュニティガイドラインは利用者に対し、「多様なオーディエンスに配慮した写真と動画を投稿してください。芸術的・創造的なヌード画像をシェアしたい場合があることも理解していますが、Instagramではさまざまな理由からヌード画像を許可していません。これには、性行為や性器、衣服を着けていない臀部のアップの写真、動画、デジタル処理で作成されたコンテンツなどが含まれます。女性の乳首の写真も対象となりますが、授乳、出産時や出産後、医療関連の状況(乳房切除手術後、乳がんの認知喚起、性別適合手術など)、または抗議活動に関する写真は許可されます。」と述べています。このセクションには、こうしたルールの詳細を定めたFacebookの成人のヌードと性的行為に関するポリシーへのリンクが張られています。

成人のヌードと性的行為に関するコミュニティ規定のポリシーの基本理念の一部として、Metaは「Facebookでは、ヌードや性的行為の表示を制限しています。世界中のさまざまな人が利用するコミュニティでは、このようなコンテンツが利用者に不快な思いをさせる可能性があるからです。またFacebookでは、性的な画像を削除して、同意のないコンテンツや未成年のコンテンツをシェアすることを防止しています。」と説明しています。

また、Facebookの成人のヌードと性的行為に関するポリシーでは、「以下のコンテンツの投稿は禁止されています。: 隠されていない女性の乳首。ただし授乳、出産時や出産後、医療や健康の文脈(乳房切除手術後、乳がんの認知喚起、性別適合手術など)、または抗議活動に関するものを除く」とされています。利用者は「医療や健康の文脈」(性別適合手術を含む)でシェアされる場合、性器の画像を投稿することもできますが、コンテンツが不快な思いをさせる可能性があることを警告するラベルが適用されます。乳首と上記の例外に関しては、ほかに内部指針に少なくとも18の要素が存在します。

III. Metaが重んじる価値観:

Metaが重んじる価値観は、Facebookコミュニティ規定の「はじめに」の部分にその概要が示されており、そこには「意見」の価値観が「何よりも大切」であることが記されています。

「コミュニティ規定の目的は、常に誰もが自由に表現し発言できる場を作ることでした。[…]弊社では、たとえ賛同できない、あるいは好ましくないと感じる人がいるかもしれない問題に関しても、利用者にとって重要な問題についてはオープンに話し合えるようにしたいと考えています」

Metaは4つの価値観を重んじることを目的として、「意見」を制限します。本事例に関連するのは、次の2つの価値観です。

「安全性」: 弊社では、Facebookが安全な場所となるように努めています。利用者を脅かすような表現は、他の人を脅迫したり、排除したり、黙らせたりすることにつながる可能性があり、Facebookでは認められていません。

「尊厳」: 弊社では、すべての人の尊厳と権利は平等だと考えています。利用者が他の人の尊厳を尊重し、嫌がらせや誹謗を行わないことを望んでいます」

IV. 国際的な人権基準:

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組を定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権を尊重することへの約束を再確認しました。委員会は、本事例での人権に対するMetaの責任について、次に掲げる人権基準に基づき分析しました。

• 意見と表現の自由の権利: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34 (2011年)、文書番号488/1992、規約人権委員会の決議32/2(2016年)、意見及び表現の自由に関する国連特別報告者(UN Special Rapporteur on freedom of opinion and expression)報告書: A/HRC/38/35 (2018年)、A/74/486 (2019年)
• 女性の権利: 女子に対するあらゆる形態の差別の撤廃に関する条約(CEDAW)第2条および第5条
• 差別を受けない権利: ICCPR第2条第1項および第26条規約人権委員会Nepomnyashchiy対ロシア(2018年)(CCPR/C/123/D/2318/2013)

5. 利用者からの陳述書の提出

本事例に関する陳述書の提出で、この利用者らは、トランスフォビアが原因でこれらのコンテンツが削除されたと考えているとしました。また、もしこのコンテンツがプラットフォームにそのまま掲載されるべきだと委員会が認めれば、その決定により、InstagramがLGBTQI+の表現行為にとってより寛容な場になるだろうと記載されています。

6. Metaからの情報提供

Metaは決定の根拠の説明において、両コンテンツの削除は施行上の誤りであり、いずれの投稿も性的行為の勧誘に関するポリシーに違反していないと釈明しました。Metaは、「提供または要求に当たる唯一の要素は、募金キャンペーンへの寄付の呼びかけ、あるいはウェブサイトにアクセスしてTシャツを購入するよう求める呼びかけであり、これらはいずれも性的行為の勧誘には無関係」だと述べています。

Metaは、両投稿が成人のヌードと性的行為に関する規定にも違反していないと述べています。根拠の説明の中では、内部の「審査担当者向け指針で、ノンバイナリー、ジェンダーニュートラル、トランスジェンダーのヌードに対して措置を講じる方法について具体的に取り上げている」とされています。両事例のコンテンツは「コンテンツ全体のトピック(胸の手術)や、使用されているハッシュタグから明らかなように、明示的にノンバイナリーやトランスジェンダーの文脈」でシェアされました。Metaは、「両事例の乳首が隠されておらず、見える状態だったとしても、成人のヌードと性的行為に関するポリシーには違反しないだろう」と結論づけました。また、Metaは両方の画像で乳首が「完全に隠されている」ことを認めました。

コンテンツが削除されてから期間が経過していることから、違反の可能性があるとしてコンテンツを特定するさまざまな自動システムが、どのポリシーを施行するようプログラムされていたかについて、Metaは委員会に説明できませんでした。1件の事例に関しては、成人のヌードと性的行為に関する分類システムにより2度、コンテンツが審査の待機状態になったとMetaより説明がありました。また、Metaは、このコンテンツが性的行為の勧誘に関するポリシーに違反していると審査担当者が考えた理由についても説明することができませんでした。根拠の説明では、Metaが「一部のコンテンツ審査担当者が、審査担当者向けの内部指針を過度に厳密に適用して、(実際にはそうでないにもかかわらず)黙示的な性的行為の勧誘として誤ってコンテンツを削除する可能性があることを認識している」と認めています。

委員会はMetaに18件の質問をし、Metaはそれらすべてに回答しました。

7. パブリックコメント

監督委員会は、本事例に関する130件のパブリックコメントを検討しました。これらのコメントのうち、97件は米国・カナダ、19件は欧州、10件はアジア太平洋・オセアニア、1件はラテンアメリカ・カリブ海地域、1件は中東・北アフリカ、1件はサハラ砂漠以南のアフリカ地域、1件は中央・南アジアから寄せられたものでした。

提出された意見には、トランスジェンダー、ノンバイナリーおよび女性の利用者が投稿したコンテンツの誤った削除、プラットフォームで認められるヌード形態を判断する際の性別に基づいた区別に関わる不公平と不平等、成人のヌードと性的行為および性的行為の勧誘に関するコミュニティ規定で認められるコンテンツを巡る混乱、LGBTQI+の権利が脅かされている社会における表現活動にとってソーシャルメディアが持つ重要性などに関するものがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。提出された何件かのパブリックコメントは、コメントの提出者以外の個人に関する個人情報が含まれていたため、数に含まれていません。

8. 監督委員会による分析

これらの投稿を復元すべきかどうかという問いについて、委員会は、Metaのコンテンツポリシー、同社が重んじる価値観、および同社の人権保障責任という3つの観点から分析しました。

委員会が本事例を選定したのは、社会から疎外されているグループに属すると感じる人が投稿したコンテンツを違反がないのにもかかわらず削除すると、その人たちの表現の自由に影響が及ぶためです。Instagramはこうしたグループがコミュニティを構築するのに重要な場である可能性があるため、この点は特に重要です。両事例は、施行上の誤りが一定のグループに過度の影響を及ぼし得る状況を実際に説明するものであり、ポリシーや施行に関して修正すべき幅広い問題を示している可能性があります。

8.1 Metaのコンテンツポリシーへの準拠

委員会は、両投稿がMetaのコンテンツポリシーに違反していないと理解しています。コミュニティガイドラインはInstagramに適用されますが、Metaは「FacebookとInstagramはコンテンツポリシーを共有しています。Facebook上で違反していると判断されるコンテンツは、Instagramでも違反していると判断されます」とも述べています。Facebookコミュニティ規定にはより詳細な規定があり、コミュニティガイドラインにはコミュニティ規定へのリンクが張られています。

a. 性的行為の勧誘

性的行為の勧誘に関するコミュニティ規定では、黙示的な性的行為の勧誘に当たるには以下2つの要素が両方とも必要だと定められています。

• 黙示的な提供または要求を含むコンテンツ
• 性的に挑発的な要素

黙示的な提供または要求

性的行為の勧誘に関するコミュニティ規定で、黙示的な提供または要求は「黙示的または間接的に(通常は連絡方法を提供することで)性的行為の勧誘を提供または要求するコンテンツ」と定義されています。審査担当者向けの内部指針を追加的に定めるMetaの「論点集」では、黙示的な提供に当たるとして削除につながる連絡先情報の一覧で、ソーシャルメディアのプロフィールへのリンクや、「サブスクリプションベースのウェブサイト(例えば、OnlyFans.comやPatreon.com)へのリンク」などを挙げています。本事例のコンテンツでは、手術費用に充てるための募金キャンペーンを実施しているプラットフォームへのリンクが提示されていました。公開されている基準では「提供または要求」は何か性的なものでなければならないと示されており、本事例のリンクはこの基準には違反していないものの、Metaの内部基準における「黙示的な提供または要求」の定義は非常に広範であるため、Metaの審査担当者向けの指針に基づくと技術的には「提供または要求」に該当するでしょう。

性的に挑発的な要素

コミュニティ規定には性的に挑発的な要素の一覧が規定されており、これにはポーズも含まれています。論点集では、性的に挑発的なポーズの特徴の一覧が提示されていて、Metaはこれが網羅的なものだと述べています。一覧には、「デジタル処理で、または人間の体の部分や物体で隠された女性の胸」のヌードが含まれています。委員会は本事例の両方の画像で、胸が人間の体の部分(手)あるいは物体(テープ)で隠されていたと把握しています。両事例において、投稿されたコンテンツは、被写体がトランスジェンダーとノンバイナリーを自認していることを明確にしており、つまり描写されている胸は女性だと自認していない人のものだということになります。また、委員会は、これらのコンテンツが性的に挑発的でないと判断します。これらの理由から、同コンテンツは、性的行為の勧誘に関するポリシーに対する違反の要件となる第2の要素(性的なポーズなどの性的に挑発的な要素。隠された女性の胸を含む)を満たしていません。

第2の要素を満たしていないため、両投稿はこの基準に違反していません。このため、提供または要求が何か性的なものでなければならないと示す第1の要素の公開版を適用した場合であっても、両画像が性的行為の勧誘に当たらないということになります。

b. 成人のヌードと性的行為

成人のヌードと性的行為に関するコミュニティ規定は、利用者が「隠されていない女性の乳首。ただし授乳、出産時や出産後、医療や健康の文脈(乳房切除手術後、乳がんの認知喚起、性別適合手術など)、または抗議活動に関するものを除く」の画像を投稿してはならないとしています。さらに、Metaの論点集には、審査担当者は「明らかに女性から男性へのトランスジェンダー、ノンバイナリー、またはジェンダーニュートラルの文脈(例: 利用者がそうしたジェンダーアイデンティティであることを示している場合)で乳首の画像がシェアされている場合には、胸の大きさや形にかかわらずその画像」を許可すべきだと記されています。両事例の画像はいずれも、このコミュニティ規定に違反していません。

まず、いずれの画像も、隠されていない乳首を写したものではありません。両方の画像とも、被写体の人物は手あるいはテープで乳首を隠しています。2点目に、たとえ乳首が隠されていなかったとしても、両画像は、これらの人物がノンバイナリーを自認していることを明らかにするテキストを添えてシェアされていたことを、委員会は指摘しています。このため、このポリシーには違反しません。

8.2 Metaが重んじる価値観の遵守

委員会は、両投稿を削除する当初の決定が、Metaが重んじる「意見」と「尊厳」の価値観に背いたものであり、「安全性」の価値観に資するものでなかったと理解しています。

差別を受けるグループに過度に影響を及ぼす施行上の誤りは、「意見」と「尊厳」に重大な脅威を与えます。Metaの人権に関する主張では「安全性」、特に同意によらない画像のシェア、性目的の人身売買および児童虐待に関する安全性が論じられていましたが、本件の削除によって「安全性」が促進されなかったと委員会は考えます。

8.3 Metaの人権保障責任の遵守

表現の自由(ICCPR第19条)

ICCPR第19条では、表現に対する幅広い保護を規定しており、これには、人権および不快とみなされる可能性のある表現に関して議論することが含まれます(一般的意見34、第11項)。表現の自由の権利は、「性別」または「その他のステータス」に関する差別なしにすべての人に保証されています(ICCPR第2条第1項)。規約人権委員会は、Nepomnyashchiy対ロシア ( CCPR/C/123/D/2318/2013)などの事案で、差別禁止にはジェンダーアイデンティティを理由とした差別が含まれることを確認しています。

本事例のコンテンツは重要な社会問題に関連しています。これらの利用者にとって、Instagramはジェンダーについて論じたりジェンダーを表現したりする場であり、つながりを生んで支援を得る場を提供するものです。両投稿は1人が胸の手術を受ける予定であると説明し、手術費用を賄うための募金キャンペーンをシェアしていることから、これらのコンテンツは、利用者らが性別適合手術を達成できるかどうかに直接影響を及ぼす可能性もあります。

第19条は、国が表現を制限する場合、その制限は合法性、正当な目的、および必要性と相応性の各要件を満たすことを求めています(ICCPR第19条第3項)。意見および表現の自由に関する国連特別報告者は、UNGPフレームワークを拠り所として、ICCPR第19条第3項の要件に沿ったコンテンツ規則を確保するようソーシャルメディア企業に呼びかけています(A/HRC/38/35、第45項および第70項を参照)。委員会は、Metaのポリシーとその施行を分析するにあたり、このフレームワークを採用しています。

本事例において、委員会は、こうした基準に沿ったポリシーを作成し施行する責任をMetaが果たしていなかったと理解しています。性的行為の勧誘に関するポリシーに基づいてコンテンツを削除するために適用される社内の条件は、規定されたポリシーの基本理念より広範であり、Meta自身が認めているとおり、過剰な施行という結果を招きます。成人のヌードと性的行為に関するコミュニティ規定は女性およびLGBTQI+の利用者に過度に影響を及ぼすと同時に、主観的で推測に基づいた性別の認識に依拠していますが、これは、コンテンツモデレーションを大規模に実施する際には実用的ではありません。委員会はこうした欠陥を分析し、Metaがこれらの問題に対処するための包括的プロセスを開始するよう勧告します。

I. 合法性(規則の明確性とわかりやすさ・閲覧可能性)

表現を制限する規則は、施行担当者と利用者の双方が認められる内容を把握できるよう、明確でアクセスしやすいものでなければなりません。本事例で検討する両コミュニティ規定は、この基準を満たしていません。

a. 性的行為の勧誘

委員会は、性的行為の勧誘に関するコミュニティ規定に関して、審査担当者に提供される内部指針の基準が広範すぎると理解しています。この指針で個々の状況に沿った規定が十分になされていないことにより、審査担当者の過度な施行と、利用者の混乱が生じます。Metaはこのことを認めており、黙示的な性的行為の勧誘の条件に合致しているものの「性的行為を勧誘する意図がない」ことが明確な場合に、内部指針の適用によって「過度な施行につながる」可能性があると委員会に説明しています。

この混乱は、当該ポリシーの2つの要素に反映されています。性的行為の勧誘に関するコミュニティ規定の「提供または要求」の要素に関しては、公開されているルールでは勧誘を行う者に対する「連絡方法」への言及があります。しかし、モデレーター向けの指針である論点集では、黙示的な「提供または要求」に関する「連絡方法」には、ソーシャルメディアのプロフィールへのリンクや、Patreonなど、サードパーティのサブスクリプションベースのウェブサイトへのリンクなどが含まれるとしています。別のソーシャルメディアのプロフィールや、サードパーティの決済プラットフォーム、または募金キャンペーンへのリンク(PatreonやGoFundMeなど)を提供すると、投稿が勧誘として取り扱われる可能性があるという点は利用者にとって明確ではありません。この混乱は、こうしたサードパーティへのリンクを含むコンテンツが削除されたり、そうしたコンテンツが理由でアカウントがブロックされたりした理由を理解できない利用者から委員会に寄せられた多くのパブリックコメントに反映されています。

性的に挑発的な要素であることを求める第2の基準は、範囲が広く曖昧なだけでなく、Metaの成人のヌードと性的行為に関するポリシーに合致していません。公開されているコミュニティ規定は、「性的に挑発的なポーズ」を性的に挑発的な要素に含めています。論点集は「性的に挑発的なポーズ」の詳細な一覧を提示しており、その内容には、上半身裸で手や物体で胸を隠した状態が含まれています。利用者は、隠された胸を写した画像がすべて性的に挑発的なポーズだと捉えられるとはおそらく予測できないでしょう。成人のヌードに関するポリシーで、乳首が隠されている場合には上半身裸の写真が認められていることにより、この混乱はさらに大きくなります。この点において、あるポリシーでは性的だとみなされるコンテンツが、別のポリシーでは性的とはみなされないということになります。

利用者にとって不確かな状況が生じているだけでなく、当該コンテンツに関して審査担当者が繰り返し異なる結論に達したという事実は、性的行為の勧誘とみなされるべきコンテンツをモデレーターがはっきりと理解していないことを示唆しています。

Metaが認めるとおり、黙示的な勧誘の2要素に関する内部指針を適用することで、性的行為を求めていないコンテンツが削除されます。長期的には、当該ポリシーの適用範囲を修正するのが誤った削除に対処する方法として最善でしょう。しかし、短期的には、内部指針を改定して、公開されているルールをその基準に反映させ、「提供または要求」と「性的に挑発的な要素」とのより明確な関連が必要だと規定するようMetaに勧告します。またMetaは、性的行為の「提供または要求」を構成する内容、および性的に挑発的なポーズを構成する内容について、公開されているコミュニティ規定で利用者に対して詳細な説明を提示すべきです。

b. 成人のヌードと性的行為

成人のヌードと性的行為に関する規定は性別に基づく区別を前提にしていますが、それを実際に実施するのは困難であり、例外は含まれるもののその定義は十分ではありません。認められるコンテンツを知らない利用者にとって、ポリシーの一部のルールは分かりにくい内容です。情報が不完全であることは避けがたい中、モデレーターはそうした情報に基づいて主観的に判断を下し、数多くの要素、例外、推測を考慮してルールを迅速に適用しなければなりませんが、ルールが分かりにくいとモデレーターにも混乱が生じます。

性別ではなく具体的な体の部分に焦点を当てた文言を使用している(また、プロフィールでは利用者がさまざまなジェンダーアイデンティティを選択できるようにしている)にもかかわらず、Metaのルールのほとんどは、インターセックスやトランスジェンダー、ノンバイナリーの人を描写したコンテンツの取り扱い方法について説明していません。例えば、ポリシーには「男性および女性の性器」、「女性の胸」、「女性の乳首」という記載がありますが、身体とアイデンティティがこうした定義に合致しない人にこれらの描写がどのように適用されるのかは明確ではありません。多くのトランスジェンダーやノンバイナリーの人が委員会にパブリックコメントを提出し、自身のコンテンツがジェンダーアイデンティティ、出生時に割り当てられた性別、または外見の側面のいずれに基づいて評価、分類されるのかが分からないと述べていました。

現在のルールの下では、人間の審査担当者が利用者の性別(当該ポリシーは「女性の乳首」に適用されるため)と、ジェンダーアイデンティティ(描写されている人がノンバイナリー、ジェンダーニュートラル、トランスジェンダーなのかどうか、または性別適合手術の文脈で投稿されているのかどうかに基づいた例外があるため)の両方を迅速に評価することが求められます。性別の認識には文脈の手がかりと容姿の解釈が必要となりますが、これらは両方とも主観的な判断であり、誤りにつながります。

このアプローチは、Metaが「デフォルトを女性とする原則」を取ることでさらに複雑になっています。この原則の下では、疑わしい状況の場合、(男性ではなく)女性のヌードに適用される、より制限の度合いが強いポリシーを適用します。論点集には、はっきりした文脈がなく、画像に写った人が「女性、または男性から女性へのトランスジェンダーとして存在するという文脈がある場合には、デフォルトで女性のヌードだと捉え、関連ポリシーを適用する」と記載されています。

女性のものと認識される乳首に関しては、ルールの制限と例外の数が多く、分かりにくいです。例外は抗議活動や出産の場面、授乳の様子から、医療や健康の文脈(乳房切除手術後の画像や乳がんの認知喚起を含む)に及びます。例外は多くの場合定義されていないか、あるいは定義が不十分です。時が経つにつれ、例外の一覧は大幅に増えてきました。表現が発展していくにつれて、その内容は引き続き増加することが予想できます。女性の胸に関しては、Metaの成人のヌードと性的行為に関するポリシーは、性的画像に該当する描写だという仮定をデフォルトとしています。しかし、例外の一覧が拡大しているということは、ポリシーで認められる多くの状況において、女性の胸の画像が性的に挑発的ではないことを反映しています。

それぞれの例外に関しても、多くの疑問が生じます。例えば、トランスジェンダーやノンバイナリーの利用者にとって性別適合手術の例外は特に重要ですが、Metaは公開されているルールの中で性別適合手術の例外の適用範囲について説明していません。こうした結果として、多くのパブリックコメントでは、例外の下で認められるコンテンツには手術前の写真(手術前後を比較する画像を作成するため)が含まれるのかどうか、また豊胸手術を受けたトランス女性の画像が含まれるのかどうかについて混乱があると述べられていました。内部指針と論点集は、この例外が、公表されている指針で解釈され得る内容より範囲の狭いものであることを明確にしています。

Metaのポリシーは、男性と女性という二元的な区別を前提としていることから、Metaが性別適合手術の例外を規定しようとする際には困難が生じます。委員会への回答の中でMetaは、性別適合手術の例外を設けているのは「コンテンツが明らかに女性から男性へのトランスジェンダー、ノンバイナリー、またはジェンダーニュートラルの文脈でシェアされる場合に、乳房切除手術を受ける前の女性の隠されていない乳首」を許可するという意味だと説明しました。このルールではさらに、「豊胸手術(胸の手術)を受けた男性から女性へのトランス女性の乳首は禁止されます。ただし、乳首に瘢痕があるものは除きます」と記載されています。

手術の瘢痕と乳首に関する内部ガイドラインはさらに複雑です。例えば、乳房切除手術に関するルールでは、「他の組織から乳首を再建したり、乳首のステンシルや入れ墨を入れる事例」や「手術で切除された胸が1つでも写っている事例(もう1つの女性の乳首がむき出しになって見えている場合であっても同様)」は認められます。さらに紛らわしいことに、このルールには「乳房切除手術に関しては、瘢痕には切除された胸の組織があった部分を描写するものが含まれます。実際の手術痕が見える必要はありません」と記載されています。

審査担当者は、女性の乳首に関するルールの適用の有無を判断する目的で被写体の性別特有の特徴を迅速に評価し、次いで、一定の例外の適用の有無を判断する目的でその人の性別を評価し、他の例外の適用可能性の有無を判断する目的でコンテンツが描写するのが手術の前段階なのか結果なのか、何の手術なのか、また目に見える瘢痕の程度と性質を検討することを求めるルールの適用に苦労するでしょう。女性性を表している人の乳首の同一画像でも、シスジェンダーの女性が投稿すれば禁止され、ノンバイナリーを自認する人が投稿すれば認められることになります。また、委員会は、抗議活動、出産、出産後、授乳という文脈を根拠にした乳首関連のその他の例外にも留意しています。これらについては本決定では検討しませんでしたが、評価すべき事項であり、おそらく追加の内部基準が必要となるでしょう。

性別、身体の健康、出産および育児という事柄に関する表現の権利が重要だとすれば、現行の複雑な例外の継ぎはぎによって利用者には必要以上に不透明な状態が生まれ、ルールが誤って適用される可能性が生じることは本事例から明らかです。利用者とモデレーターにとってこのポリシーが明確でないことにより、この基準が機能しなくなります。以下で詳述するとおり、委員会は成人のヌードに対して、性別やジェンダーアイデンティティを根拠に差別することなくすべての人を取り扱うことを確実にするアプローチをMetaが採用すべきだと考えます。

II. 正当な目的

ICCPR第19条は、国家が表現を制限するに際しては正当な目的を推進するために必要な場合に限って制限が可能であると定めており、その目的とは具体的に「他の者の権利または信用の尊重…(および)国の安全、公の秩序または公衆の健康もしくは道徳の保護」と定められています。本決定ではこの基準に照らして、Metaがポリシーで発言を制限する根拠を考察します。

a. 性的行為の勧誘

Metaは性的行為の勧誘に関するポリシーで、利用者がFacebookやInstagramを利用してプラットフォーム外で生じ得る「人身売買、同意のない性的行為の強要などにかかわる可能性のある取引」を助長するのを防止することを意図していると説明しています。これは他の者の権利保護の例であり、正当な目的に当たります。

b. 成人のヌードと性的行為

Metaは、成人のヌードと性的行為に関するポリシーの特定の側面についていくつかの根拠を提示しています。これには、同意のないコンテンツの拡散防止、年齢が不明確な場合の未成年保護、および「世界中のさまざまな人が利用するコミュニティでは、このようなコンテンツが利用者に不快な思いをさせる可能性がある」という事実が含まれます。また、Metaは委員会に対し、ヌードに関する一般原則について説明しました。Metaは、「ポリシーの草稿にあたっては、(1) 画像のプライベート性やデリケートさ、(2) ヌード画像の撮影と共有に関する同意の有無、(3) 性的搾取のリスク、および(4) 特にこうした画像が文化的に不快な内容となるような国において、当該画像の公開によりプラットフォーム外で嫌がらせが生じることとなる可能性の有無を検討した」としています。

上記の目的のほとんどは、他の者の権利保護という目的に合致するものです。しかし、「コミュニティの不快感」の回避というMetaの根拠は、さらなる検討に値します。この根拠は、「公衆の道徳」という正当な目的に合致する可能性があります。とは言うものの、委員会は、政府の発言規制当局が特にマイノリティや脆弱なグループのメンバーの人権侵害を目的として、「公衆の道徳」を保護するという目的を不適切な形で引き合いに出すことがあることに留意します。規約人権委員会は、「道徳という概念は多くの社会的、哲学的、宗教的伝統から生じるものである。このため、道徳保護を目的とする…制限は、単一の伝統のみに由来する原則に基づくものであってはならない」と警告しています(規約人権委員会一般的意見34)。

人権法は、公衆の道徳が国家による自由な表現の制限に対する正当な目的を構成し得ることを認めており、国によるヌードの制限は世界中に存在しますが、Metaは、本事例の具体的な文脈において「コミュニティの不快感」以外の目的にウェイトを置いています。Metaは、「ヌードに関するポリシーは公衆の道徳保護という目的に沿ってはいるものの、結局のところ、同ポリシーはこの目的を根拠とするのではありません。ヌードに関する道徳基準は文化により大きく異なり、大規模に実施することができないためです」と述べました。例えば、トランスジェンダーやノンバイナリーの隠されていない胸の描写は、世界の多くのコミュニティや場所でコミュニティの不快感に触れるとみなされるでしょう。しかし、Metaはこうした表現を制限していません。さらに、委員会は、Metaのポリシーが原因でこれまで女性、トランスジェンダー、ノンバイナリーの人の表現に対して過度の負担が度々生じていることを懸念しています(下記参照)。こうした理由により、委員会は、Metaが人権保障責任の考察にあたって提示した「コミュニティの不快感」以外の他の目的に焦点を当てます。

ヌードに関するポリシーについてMetaが提示したいくつかの根拠が、基本的に女性の胸は性的に挑発的な性質を持つというデフォルトの仮定を反映している点には注目すべきです。委員会には、シスジェンダーの男性には画像を性的対象として見る仮定が同程度に適用されないにもかかわらず、女性、トランスジェンダー、ノンバイナリーの身体を性的対象として見る仮定がされていることについて懸念を表明する多くの利用者からパブリックコメントが寄せられました(InternetLabが提出したパブリックコメント10624などを参照)。

委員会は本事例で、委員会の標準の事例アウトリーチプロセスを通じて多くのパブリックコメントを受け取りました。Metaのユーザー基盤と主な利害関係者に対して一定程度の説明責任を果たすことに取り組む機関として、委員会は審議の一環としてコメントを真剣に検討します。他のあらゆる事例と同様、これらのコメントが世界全体の意見を表していない可能性があることは理解しています。委員会は、パブリックコメントで経験や専門知識が共有されたことに感謝するとともに、現在このプロセスに関与していないコミュニティにアウトリーチの幅を広げるための対策を引き続き講じます。

最終的に委員会は、いずれかの性に特有の影響を及ぼし得る一定の害を防ぐ重要性を考慮に入れる正当性がMetaにあることを認めます。女性への暴力に関する国連特別報告者が指摘するとおり、「女性や少女に対する制度的、構造的な差別や性別に基づいた暴力が横行する幅広い環境において、インターネットが用いられていると認識することが重要」(A/HRC/38/47)です。さらに、調査によれば、「同意のない私的画像のデジタル流出の被害者のうち、90パーセントが女性」です(A/HRC/38/47)。Metaは、ヌード禁止の過剰な施行と施行不足の両面において、いずれかの性に特有の危害を抑制するよう努める必要があります。

III. 必要性と相応性

委員会は、Metaのポリシーがその枠組みと施行において、必要な内容より多くの内容を含んでいると理解しています。いずれのポリシーも、Metaが対処しようとしている問題に相応の内容ではありません。

a. 性的行為の勧誘

性的行為の勧誘に関するポリシーの黙示的な「提供または要求」と性的に挑発的なポーズの定義は過度に広範であり、性的勧誘に関係のないかなりの数のコンテンツが定義の範疇に入ってしてしまいます。Meta自身、誤った施行のリスクを認識しており、「一部のコンテンツ審査担当者が、審査担当者向けの内部指針を過度に厳密に適用して、(実際にはそうでないにもかかわらず)黙示的な性的行為の勧誘として誤ってコンテンツを削除する可能性があることを認識している」と述べています。続けて以下のように述べています。

現在、弊社は自社の論点集に基づいて、ソーシャルアイデンティティまたはデジタルアイデンティティの連絡先情報のシェア、言及または提示が性的勧誘の黙示的な提供または要求に当たるとみなしています。[…]しかし、この指針を適用すると、例えば性的に挑発的な方法でモデルがポーズをとっていると審査担当者が受け止め(「性的に挑発的な要素」の基準に合致)、写真について称賛を示すために写真家をタグ付けする(「提供または要求」の基準に合致)ような場合、過剰な施行につながる可能性があります。こうしたコンテンツには性的行為を勧誘する意図がなく、違反には当たりませんが、上述する2つの基準には合致するため、依然として(ポリシーに反するとして)削除される可能性があります。

ユネスコは、デジタル空間での教育を扱った報告書の中で、誤った過剰な施行のリスクについて述べ、「露骨な画像のシェアに関する厳しい規制により、身体や性的関係に関する学習をサポートするためにオンラインで公開されている教材が、不適切で露骨なコンテンツだとモデレーターによって誤って判断され、その結果、一般的なウェブプラットフォームから削除されることになる場合がある」としています。委員会は、寄せられたパブリックコメントの多くが当該規定に基づいた誤った削除を扱っていた点にも注目しています。例えば、ACON(HIVの啓発に取り組むオーストラリアのNGO)は、性的行為に肯定的な形でHIV防止のメッセージを宣伝するコンテンツと、啓発のためのワークショップを宣伝するコンテンツが、性的行為の勧誘に当たるとして削除されたと述べていました。これにより、当該NGOは、ターゲットとするコミュニティに届く最善の文言を選択するのではなく、Metaによる削除を回避するためにコンテンツで用いる文言を選択することになりました(パブリックコメント10550)。リサーチ専門家であるJoanna Williams氏も同様の意見を提出しました。同氏は、自身がインタビューした12の性的健康団体のうち9団体がこの分野におけるMetaのモデレーションにより悪影響を受けたと報告しています(パブリックコメント10613)。

b. 成人のヌードと性的行為

Metaの性別やジェンダーアイデンティティに対する認識に基づいて施行可能で大規模なルールを確立する際に課題があるだけでなく、委員会は上述のとおり、成人のヌードに関するMetaのポリシーが一定種類のコンテンツや表現に対して過度の制限を課していると理解しています。成人のヌードに関するポリシーは、制限の度合いの低い措置でポリシーの規定された目標を達成できるのに、コンテンツの削除を義務付けています。

Metaはすでに、警告表示の適用や、18歳超の利用者にのみ閲覧を認める年齢制限コンテンツなど、削除以外のさまざまな施行措置を用いています。また、性的行為の芸術的表現に関する場合など、成人のヌードと性的行為に関するポリシーですでにこうした措置を採用しています。Metaは、ヌードの文脈が実際に性的なケースについて、描写される身体の性別にかかわらず、自動技術や人間のモデレーターがより厳正な、文脈に応じた判断を下すようにすることもできます。さらに、利用者による管理の範囲を拡大することにより、ポリシーへの幅広い介入を採用し、閲覧を望まない利用者に対するヌードコンテンツの表示を制限することもできます。また、Metaには、ヌードに関するポリシーでも取り上げているテーマについて特化したポリシー(成人に対する性的搾取に関するポリシー、児童に対する性的搾取、虐待、ヌードに関するポリシーなど)がいくつもあり、これらを強化することもできます。

委員会は、Metaの施行の取り組みによって、誤検出や違反していないコンテンツの誤った削除が多数生じていると報告されていることに留意しています。MetaのInstagramに関する最新のコミュニティ規定施行レポート(2022年4月から6月まで)では、異議申し立ての対象となった成人のヌードと性的行為に関する削除のうち、21%がコンテンツの復元に至ったことが明らかになっています。委員会には、成人のヌードに関するポリシーに基づいたコンテンツの誤った削除に関して、多数のパブリックコメントも寄せられています。

差別禁止

成人のヌードと性的行為に関するポリシーに関連した一連のポリシーや施行は、特に女性やLGBTQI+の人に対する過度の影響につながる可能性があるという根拠があります。こうした影響はポリシーと施行の両面に表れており、グループが自身を表現し、偏見に抵抗し、社会での認知を喚起できる方法が制限されることになります。

本事例はトランスジェンダーとノンバイナリーの利用者に関するものですが、本事例の施行上の誤りは、女性にも影響するポリシーを根本として生じたものです。とりわけ、Metaがヌードコンテンツに関して「デフォルトを女性とする」アプローチを採っていることから、このことが言えます。このため、本セクションは、MetaのポリシーがLGBTQI+の人と女性の両方に影響する方法について検討します。本事例で一般から提出された意見の多数が、これらのポリシーが及ぼし得る影響について多くの実例を挙げていました。

表現の自由の権利は、「性別」または「その他のステータス」に関する差別なしにすべての人に保証されています(ICCPR第2条第1項)。これには、性的指向およびジェンダーアイデンティティが含まれます(トゥーネン対オーストラリア(1994年)、A/HRC/19/41、第7項)。規約人権委員会の判決は「合理的かつ客観的な基準に基づいており、条約に基づく正当な目的を追求する限りにおいて、条約第26条で列挙する根拠に基づいた区別がすべて差別になるとは限らない」と言及しています(規約人権委員会Nepomnyashchiy対ロシア(2018年)第7.5項(CCPR/C/123/D/2318/2013))。

女子に対するあらゆる形態の差別の撤廃に関する条約(CEDAW)は、「性に基づく区別、排除または制限であって、政治的、経済的、社会的、文化的、市民的その他のいかなる分野においても、女子[…]が男女の平等を基礎として人権および基本的自由を認識し、共有しまたは行使することを害しまたは無効にする効果または目的を有するもの」を禁止しています(CEDAW第1条)。国際人権機関は、同意のある成人のヌードを許可または禁止する人権上の意味合いや、その差別的な影響について言及していません。

国連ビジネスと人権に関する指導原則は、「企業は弱い立場になったり疎外されたりするリスクが高いグループや人口に属する個人の人権に対する特定の影響に特に注意を払う必要があります」と述べています(UNGPs原則18および20)。表現の自由に関する特別報告者は、「従来より検閲と差別のリスクがあるコミュニティの懸念事項を積極的に見つけ出し、考慮に入れる」ようテクノロジー企業に促しています( A/HRC/38/35第48項)。ビジネスと人権に関する国連ワーキンググループも、「人工知能と自動検知技術が女性の人権に過度に悪影響を及ぼさないよう」徹底することをテクノロジー企業に勧告しています(ジェンダーの視点に関するハンドブック)。

差別を受ける人たちにとってソーシャルメディアのプラットフォームが表現の場として重要であることを考慮し、委員会は一貫して、こうしたグループのメンバーが作成するコンテンツや、これらのメンバーに関するコンテンツ、またはこれらのメンバーを描写するコンテンツを誤って削除する可能性にMetaが特に注意を払うことを期待する旨を伝えています。先住民の芸術的表現に関する「ワムパムベルト」の事例における決定(2021-012-FB-UA)で委員会が示しているとおり、MetaによるFacebookのヘイトスピーチに関するポリシーの施行の成果を全利用者について全体的に評価するだけでは十分でなく、特定のグループへの影響を考慮する必要があります。同様に、「アラビア語の単語の再生」の事例で委員会は、「迫害を受けているマイノリティグループに属する利用者の発言に対する過剰なモデレーションは、その人の表現の自由への深刻な脅威」となることを確認し、社会から疎外されたグループからの表現に対するMetaのポリシー(当該事例ではヘイトスピーチに関するポリシー)の例外の適用状況について懸念を表明しました(2022-003-IG-UA)。

Metaが下す選択の結果により、女性、トランスジェンダーおよびノンバイナリーの人がMetaのプラットフォームで利用できる表現の機会が大きく左右されます。Metaの成人のヌードと性的行為に関する現在のポリシーは、女性の胸と乳首を本質的に性的なものとして扱っていることから、手術を受けたか受ける予定、または授乳中の様子である場合を除いてこれらは禁止対象となっています。Metaのポリシーは、検閲が一部のグループに過度に影響を及ぼさないようにする手段を講じるのではなく、こうしたグループへの過度の影響を定着、永続させるものです。

本事例は、実際にはポリシーの範囲外であるにもかかわらず、成人のヌードと性的行為に関する分類システムが何度もコンテンツを特定した事例であり、LGBTQI+を自認する人にとって、Metaのポリシーの選択が過度の影響が及ぼすことを浮き彫りにしています。委員会は、本事例がより広範な問題を象徴していると考えます。例えば、Haimson他の研究により、ヌードと性的なコンテンツを典型的な原因として、トランスジェンダーの人が高い水準でコンテンツ削除とアカウント削除を報告していることが分かりました。

また、Metaが選択するポリシーの施行は、女性に過度の影響を与えます。Witt、SuzorおよびHugginsによる研究では、Instagramで削除された女性の身体の画像のうち、最大で22%が誤検出だと考えられることが分かりました。女性の身体に対しては特別の影響があることがパブリックコメントでも指摘されています(例えば、Zahra Stardust博士によるパブリックコメント10616を参照)。

ヌードに対するデフォルトの見解は、従来的な形で女性が上半身裸になるような状況にも大きな影響を及ぼします。意見および表現の自由の権利の推進および保護に関する特別報告者は、企業に対し、世界中の先住民族と関わり合い、「ヌードを含むコンテンツを評価する際に文化的・芸術的な文脈を考慮に入れるためのより優れた指標を策定する」よう促しています(A/HRC/38/35第54項)。

こうした差別禁止に関するポリシー関連の懸念に加え、本事例は、差別禁止に関する施行関連の懸念も提起しています。社会から疎外されているグループに属すると感じる利用者によって投稿されるコンテンツは、その人を苦しめたり嫌がらせをしたりする目的で違反のないコンテンツを報告するユーザーがいる場合、繰り返し、あるいは悪意により報告されるリスクがより高いことをMetaは意識すべきです。こうした問題は、数件のパブリックコメントでも提起されていました(例えば、GLAADによるパブリックコメント10596や、The Human Rights Campaign Foundationによるパブリックコメント10628を参照)。

本事例は、複数の報告により審査が複数回行われる場合、誤った削除の可能性が高くなり得ることを浮き彫りにしました。実際、本事例では、利用者からの報告はほとんど人間による審査に諮られ、コンテンツに違反はないと判断されましたが、審査担当者が誤って違反があると判断し、削除するまでコンテンツの報告は続きました。

Metaは、こうした懸念すべての改善に役立つポリシーを策定し実施することを検討する必要があります。内容としては、性別やジェンダーアイデンティティを根拠とした差別なく適用される、ヌードに関するより統一的なポリシーなどが考えられます。また、どのようなコンテンツが性的なのかに関して、判断の際に差別的な基準によらない限りで、より文脈に沿った判断を下すことなども考えられます。

委員会は、Metaには成人の性的搾取に関するポリシーで、同意のない私的画像に特化したポリシーがあることに注目しています。これは、同社が施行を優先させてきた領域です(例えば、同意のない画像が繰り返し投稿されるのを阻止するための自動検知技術の導入を参照)。Metaがプラットフォームでヌードを管理するアプローチの変更を検討する際には、成人のヌードと性的行為に関するポリシーが同意のない画像のシェアを防いでいる度合いを精査し、成人の性的搾取に関するポリシーやその施行の変更が、その有効性を高めるために必要なのかどうかを理解しなければなりません。

また、委員会は、Metaにはプラットフォームで性的コンテンツやポルノコンテンツを制限する正当な利益があることを認めます。しかし、これに関連するビジネス目標については、すべての利用者を差別なく扱うというアプローチに合致させることができ、そうすべきだと委員会は考えます。

委員会の一部のメンバーは、成人のヌードに関するポリシーを性差に基づかない形で導入することにより、Metaが現在のポリシーの差別的な影響の軽減に努める必要があると考えています。これらのメンバーは、女子に対するあらゆる形態の差別の撤廃に関する条約(CEDAW)の、性別に基づいた固定観念の排除に関する規定(例えば、第5条および第10条)、および企業人権ポリシーでMetaが示したCEDAWに対する明確な約束に言及しました。そのうえで、ヌードに関するポリシーという文脈では、当該国際人権基準とMeta自身の差別禁止に対する約束が、固定観念による区別排除の裏付けになると結論づけました。メンバーのうちこうした意見の者は、Metaの企業価値と約束を前提とすると、Metaが企業として人権保障責任を果たす方法としては、性差に基づかないポリシーへの移行が最善だろうという結論に至りました。これらのメンバーは、これまでの差別形態の多くは社会慣習が広がったものであり、あるいは今後もそうあり続けることから、差別的な影響を及ぼす慣習に対応するよう規範やポリシーを発展させる必要があると指摘しています。

この問題に関しては、委員会のメンバー間で足並みが揃いませんでした。一部のメンバーは、Metaが性別に依拠して表現を制限すべきでないという指針に同意するものの、ヌードに関するポリシーで性別を重視することなく同意のない私的画像や他の潜在的な危害にMetaが効果的に対処できるのかどうか大きな疑念を抱きました。一方で、差別禁止に関して適用される人権原則では、「合理的かつ客観的な基準に基づいており、条約に基づき正当な目的を追求する」限りにおいて(規約人権委員会Nepomnyashchiy対ロシア(2018年)第7.5項 (CCPR/C/123/D/2318/2013))、保護特性を根拠とした区別が許可されることから、ヌードに関するポリシーで性別による区別をしないとする必要はなく、こうした区別をしたポリシーを採用すると、その他の危害が生じたり悪化したりする可能性があると考えるメンバーもいました。

成人のヌードに関するポリシーで性別による区別をしないことに賛成する委員会メンバーは、国家に適用される国際人権基準によると、合理的かつ客観的な基準に基づき、正当な目的にかなうのであれば、保護特性を根拠とした区別をできることは認識しています。こうしたメンバーらは、Metaのヌードに関するポリシーにおける区別がこの基準を満たすとは考えていません。さらに、このメンバーらは、Metaは企業として人権に対する約束をしているものの、同社の性別認識に基づいてオンラインでの表現を制限するというアプローチはその約束に背いたものだと指摘しています。

成人のヌードと性的行為に関するコミュニティ規定は女性およびLGBTQI+の利用者に過度に影響を及ぼすと同時に、主観的で推測に基づいた性別の認識に依拠していますが、これは、コンテンツモデレーションを大規模に実施する際には実用的ではありません。総合的に見て、ルールとその施行を巡る混乱や、Metaの成人のヌードと性的行為に関する現在のポリシーの過度の差別的な影響を考慮し、委員会は、成人のヌードに関するポリシー全体に適用される明確で客観的、かつ権利を尊重した基準を定めて、性別やジェンダーアイデンティティに基づいた差別の排除を含め、すべての人の取り扱いを国際人権基準に沿ったものとするようMetaに勧告します。Metaはまず、総合的な人権影響評価を実施してこうした基準を採用する意味合いを確認する必要があります。この評価では、イデオロギー面、地理面、文化面で多様な背景を持つステークホルダーを広く包括的に巻き込む必要があります。この評価で潜在的な害が特定された範囲で、新規ポリシーの施行にあたっては、その害に対処するための軽減プランを盛り込むべきです。委員会は、本決定の発表日から6か月後に、その評価と計画に関する報告書を提示するよう要請します。

9. 監督委員会の決定

監督委員会は、両投稿を削除する旨のMetaの当初の決定を無効と判断し、当該投稿を復元するよう求めます。

10. ポリシーに関する助言

コンテンツポリシー

1.すべての利用者を公平に扱い、モデレーターや一般の人に対して実際に機能するヌードに関する基準を提示するため、Metaは、成人のヌードと性的行為に関するポリシー全体に適用される明確で客観的、かつ権利を尊重した基準を定めて、性別やジェンダーアイデンティティに基づいた差別の排除を含め、すべての人の取り扱いを国際人権基準に沿ったものとすべきです。Metaはまず、総合的な人権影響評価を実施してこうした基準を採用する意味合いを確認する必要があります。この評価では、イデオロギー面、地理面、文化面で多様な背景を持つステークホルダーを広く包括的に巻き込む必要があります。この評価で潜在的な害が特定された範囲で、新規ポリシーの施行にあたっては、その害に対処するための軽減プランを盛り込むべきです。

2.利用者に対する透明性を高めるため、Metaは、性的行為の「提供または要求」を構成する内容(サードパーティのウェブサイトへのリンクを含む)、および性的に挑発的なポーズを構成する内容について、公開されているコミュニティ規定により詳しい説明を記載すべきです。委員会は、こうした用語の説明が例を添えて性的行為の勧誘に関するコミュニティ規定に追記されたことをもって、この勧告が実施されたとみなします。

施行

3.Metaの性的行為の勧誘に関するポリシーの内部基準により、公開されているポリシーが示す範囲を越えてコンテンツが削除されないよう徹底するとともに、性的でないコンテンツが誤って削除されないよう、Metaは、審査担当者向けの内部指針を改定し、公開されているルールをその基準に反映させ、「提供または要求」と「性的に挑発的な要素」とのより明確な関連が必要だと規定すべきです。委員会は、改定された基準を反映した更新済みの内部ガイドラインをMetaが委員会に提示したことをもって、この勧告が実施されたとみなします。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

この事例決定のために、独立した調査が委員会に代わって委託されました。ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関が、社会政治的・文化的背景に関して専門知識を提供しました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。