トランスジェンダーの人々を標的としたポーランド語の投稿

この審査結果についてポーランド語で読むには、こちらをクリックしてください。

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

まとめ

監督委員会は、ある利用者がトランスジェンダーの人たちを標的にして、そのグループのメンバーの自殺を奨励する暴力的な発言をしたFacebook投稿を残す旨のMetaの当初の決定を無効と判断しました。この投稿は、ヘイトスピーチに関するコミュニティ規定および自殺と自傷行為に関するコミュニティ規定の両方に違反したと委員会は判断します。しかし、本事例の根本的な問題はポリシー自体ではなく、ポリシーの施行にあります。この投稿には有害なコンテンツとしてのサインが複数あったにもかかわらず、Metaが適切な施行措置を講じない状況が続いたことを踏まえ、委員会は、同社がLGBTQIA+の安全について自ら明確に伝えている理想の実現に向けて取り組んでいないと結論付けるに至りました。審査担当者への社内ガイダンスを改善してポリシーとその施行との隔たりをなくすようMetaに強く求めます。

事例の内容

2023年4月、ポーランドのあるFacebook利用者が、トランスジェンダーフラグの色である青、ピンク、白のストライプのカーテンの画像を投稿しました。この投稿には、「New technology … Curtains that hang themselves」(新技術 … 自らを吊るすカーテン)と発言するポーランド語のテキストがあり、その上には「spring cleaning <3」(春の大掃除(ハート))ともあります。この利用者の自己紹介には、「I am a transphobe」(私はトランスジェンダー嫌悪者です)という説明が含まれています。この投稿には50件未満のリアクションがありました。

2023年4～5月の期間に、11人の利用者が合計12回、当該投稿を報告しました。Metaの自動システムによって人間による審査に送られたのは12件の報告のうち2件のみで、残りの報告は対応が打ち切られました。Facebookの自殺と自傷行為に関する規定に違反している可能性があるとして人間による審査に送られたこれら2件の報告については、当該投稿は規定違反には当たらないという評価が下されました。ヘイトスピーチに関するポリシーに基づく報告は、いずれも人間による審査に送られませんでした。

その後、3人の利用者が、当該Facebook投稿を残す旨のMetaの決定に異議を申し立て、そのうちの1件の申し立てについては、人間の審査担当者によって、自殺と自傷行為に関するコミュニティ規定に基づき当初の決定が維持されました。また、ヘイトスピーチに関するコミュニティ規定に基づき行われたほかの申し立ては、前回と同様に人間による審査に送られませんでした。最終的に、当該コンテンツを最初に報告した利用者のうちの1人が委員会に異議を申し立てました。委員会が本事例を選定したことを受けて、Metaは、当該投稿がヘイトスピーチに関するポリシーにも、自殺と自傷行為に関するポリシーにも違反していたと判断し、当該投稿をFacebookから削除しました。さらに、当該コンテンツを投稿した利用者には複数の違反が過去にあったことから、同社は当該利用者のアカウントを停止しました。

主な調査結果

当該コンテンツは、保護特性を持つグループの人々に自殺による死を呼びかけるという形での「暴力的な発言」を含むため、Metaのヘイトスピーチに関するポリシーに違反したと委員会は判断します。トランスジェンダーの人々の自殺を奨励する当該投稿は、脅迫的かつ排他的な風土を醸成し、場合によっては実際の危害を助長する恐れがあります。また、当該投稿は、そこに含まれるテキストおよび画像の性質を考慮すれば、トランスジェンダーコミュニティが直面しているメンタルヘルス危機を深刻化させたとも言えます。Gay and Lesbian Alliance Against Defamation (GLAAD)による最近の報告では、オンラインで「中傷や憎悪に満ちた行動に常に晒されることによる衝撃的としか言いようのない心理的影響」が指摘されています。委員会は、影響力がある政府高官および公人・著名人による攻撃や政治的修辞など、ポーランドでLGBTQIA+コミュニティがオンラインおよびオフラインでの危害に直面しているという一段と広範な文脈に、委員会の結論を裏付けるさらなる根拠を見出しています。

委員会は、Metaの人間の審査担当者が文脈的な手がかりをつかめなかったことを懸念しています。当該投稿で見られる、自殺リスクの高まりへの言及(「curtains that hang themselves」(自らを吊るすカーテン))と、当該グループの人々の死への支持(「spring cleaning」(春の大掃除))は、ヘイトスピーチに関するコミュニティ規定に明らかに違反しており、また当該コンテンツクリエイターが自身についてトランスジェンダー嫌悪者であると紹介していることだけでも別の違反に値します。委員会は、LGBTQIA+の人々を標的としたヘイトスピーチ、特に投稿に文脈の解釈が必要な画像やテキストを含んでいる場合の施行の精度を改善するようMetaに強く求めます。本事例では、保護されたグループの視覚的描写(トランスジェンダーフラグ)と合わせた、若干遠回しな自殺への言及は「悪意のあるクリエイティビティ」という方法をとっています。「悪意のあるクリエイティビティ」とは、「ユーモアまたは風刺」と主張しているものの実際にはヘイト行為または嫌がらせに該当する投稿やミームを通じてLGBTQIA+コミュニティを標的とする新たな手段を考え出す悪質行為を指します。

加えて、委員会は、人間の審査担当者が当該コンテンツを削除しなかったことは社内ガイドラインの厳格な適用に沿っているというMetaの発言に困惑しています。これは、Metaの社内ガイダンスには、メンバーのジェンダーアイデンティティによって定義されるグループを表現する上でテキストや画像がどう作用するかについての指針が十分に取り入れられていないことを示している可能性があります。

当該投稿がFacebookの自殺と自傷行為に関するコミュニティ規定に違反していることは明らかですが、このポリシーでは、特定できるグループに属する個人を標的にして自殺を助長するコンテンツだけでなく、そのグループ自体を標的にしたものも一段と明確に禁止する必要があると委員会は判断します。

本事例では、審査の優先順位を付けるMetaの自動システムが、同一のコンテンツに関する複数の報告の処理方法を含め、同社の施行に大きな影響を与えました。Metaは、「審査担当者が下した決定および施行措置における一貫性を確保する」ため、そうした報告の監視と重複除外(削除)を行います。報告への対応が自動的に打ち切られた別の理由として、当該コンテンツの深刻度とバイラリティ(コンテンツの累積閲覧数)のスコアが低いというものもありました。当該スコアが低かったために人間による審査に送られなかったのです。本事例では、深刻度のスコアを決定する際に当該利用者の自己紹介を1つの重要なサインとして考慮できたはずであると委員会は考えます。

Metaは、LGBTQIA+コミュニティに影響を及ぼす、違反の可能性のあるコンテンツを特定する分類システムの開発への投資を拡大し、ジェンダーアイデンティティに関連する危害について、人間の審査担当者の訓練を強化すべきです。

監督委員会の決定

監督委員会は、コンテンツを残すというMetaの当初の決定を無効と判断しました。

委員会は、Metaが次の対応をするよう勧告します。

• Metaの自殺と自傷行為に関するページにおいて、当該ポリシーが、特定可能なグループを標的として自殺を助長または奨励するコンテンツを禁止していることを明確にすること。
• 大規模なコンテンツモデレーションに従事する審査担当者に提供される社内ガイダンスを修正して、あるグループがそのメンバーのジェンダーアイデンティティによって定義される場合に、人物の描写を含んでいない、フラグ(旗)を使ったジェンダーアイデンティティの視覚的描写がそのグループを表現するものであると理解されるようにすること。

* 事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1.審査結果の概要

監督委員会は、ある利用者がトランスジェンダーの人々を標的にして、そのグループのメンバーの自殺を奨励する暴力的な発言をしたポーランド語のコンテンツをFacebookに残す旨のMetaの当初の決定を無効と判断しました。委員会が本事例を審査対象に認定した後で、Metaは、当該投稿をプラットフォームに残す旨の当初の決定が誤りであったと結論付け、コンテンツを削除し、制裁措置を講じました。この投稿は、ヘイトスピーチに関するコミュニティ規定および自殺と自傷行為に関するコミュニティ規定の両方に違反したと委員会は判断します。また委員会は、これを機に、Metaに対し、ポリシーおよび審査担当者へのガイダンスを改善して、同社のプラットフォームにおけるトランスジェンダーの人々に対する保護を強化することを強く求めます。具体的には、Metaは、投稿がヘイトスピーチに該当するかどうかを評価するにあたり、あるグループがそのメンバーのジェンダーアイデンティティによって定義される場合に、人物の描写を含んでいない、フラグ(旗)を使ったジェンダーアイデンティティの視覚的描写がそのグループを表現するものであると理解されるようにすべきです。さらに、あるグループ全体に対して自殺を促すことは、個人に対して自殺を促すのと同等の違反であることを明確にする必要があります。しかし、委員会は、本事例の根本的な問題はポリシーではなく、ポリシーの施行にあると判断します。当該ポリシーは、ジェンダーアイデンティティに基づくグループを標的とするヘイトスピーチであることを示唆するものが複数確認された本事例のような投稿を文面上でも明確に禁止していました。複数の利用者から報告があったにもかかわらず、Metaが適切な施行措置を講じない状況が続いたことを踏まえ、委員会は、同社がLGBTQIA+の安全について自ら明確に伝えている理想の実現に向けて取り組んでいないと結論付けるに至りました。委員会は、ポリシーと施行とのこのような隔たりをなくすようMetaに強く求めます。

2.事例の説明と背景

2023年4月、ポーランドのあるFacebook利用者が、トランスジェンダーフラグの色である青、ピンク、白のストライプのカーテンの画像を投稿しました。この画像には、ポーランド語のテキストで「New technology. Curtains that hang themselves」(新技術。自らを吊るすカーテン)と述べられています。このテキストの上には、ポーランド語で「spring cleaning <3」(春の大掃除(ハート))と付け加えられています。この利用者の自己紹介には、「I am a transphobe」(私はトランスジェンダー嫌悪者です)というポーランド語での説明があります。この投稿にはほかの利用者からのリアクションが50件あり、その大半は賛同的なものでした。最もよく使われたリアクションの絵文字は「うけるね」でした。

2023年4～5月の期間に、11人の利用者が合計12回、当該コンテンツを報告しました。そのうち10件の報告については、Metaの自動システムによって、人間による審査に送られませんでした。その理由はさまざまで、「深刻度とバイラリティのスコアが低い」といった理由もありました。通常、Metaは、コンテンツの深刻度、バイラリティ、およびコンテンツポリシー違反の可能性に基づいて、コンテンツを人間による審査に送る優先順位を付けています。ほかの2件の報告のみが自殺と自傷行為に関するFacebookコミュニティ規定に該当するとみなされ、当該コンテンツが人間による審査に送られることになりました。ヘイトスピーチに関するポリシーに基づく報告は、いずれも人間による審査に送られませんでした。Metaによると、審査担当者は指定された担当ポリシー(すなわち、ヘイトスピーチまたは自殺と自傷行為)の対象外のコンテンツを「評価して措置を講じる」ための訓練を受け、そのためのツールを持ち合わせています。にもかかわらず、これらのポリシーを担当する審査担当者は、双方とも当該コンテンツには違反がないと評価し、さらなるエスカレーションを行うことはありませんでした。

3人の利用者が、当該コンテンツをFacebookに残すというMetaの決定に異議を申し立てました。1件の異議申し立てでは、当該コンテンツは自殺と自傷行為に関するポリシーに違反していないとするMetaの当初の決定を、人間の審査担当者が支持しました。ほかの2件の異議申し立てはヘイトスピーチに関するFacebookのポリシーに基づき行われたもので、人間による審査に送られませんでした。こうした状況が生じたのは、Metaが、審査担当者が下す決定および施行措置における一貫性を確保するため、同一コンテンツに関する複数の報告の「監視と重複除外」を行うためです。

その後、最初に当該コンテンツを報告した利用者の1人が、Metaの判断について委員会に異議を申し立てました。委員会が本事例を選定したことを受けて、Metaは、当該コンテンツがヘイトスピーチに関するポリシーおよび自殺と自傷行為に関するポリシーに違反していたと判断し、当該投稿を削除しました。さらに、同社は、本事例の審査の一環として、当該コンテンツクリエイターのアカウントがコミュニティ規定にすでに複数回違反しており、アカウントの停止措置を適用する基準値に達していると判断しました。Metaが当該アカウントを停止したのは2023年8月のことです。

委員会は、本事例における判断を下すにあたり以下の背景に留意しました。

ポーランドでは、LGBTQIA+コミュニティに対する強い敵意があることがしばしば報告されています[注: 委員会は、性的指向やジェンダーアイデンティティ、ジェンダー表現に基づくグループに言及する場合に「LGBTQIA+」(Lesbian、Gay、Bisexual、Transgender、Queer、Intersex、Asexual)を使用しています。ただし、参照または引用の際には、参照元または引用元で使われている頭字語およびその使用法を流用しています]。過去に、欧州評議会人権弁務官は、「ポーランドにおける長期的な問題」として「『LGBTI』の人々の社会的スティグマ」への注意を促しています。国際レズビアン・ゲイ協会(ILGA)の「Rainbow Europe」報告では、LGBTIの人々の人権に直接影響を及ぼす法律および方策に基づき、各国をランク付けしています。このランキングで、ポーランドは欧州連合(EU)加盟国の中で最下位となっており、ヨーロッパ諸国49か国中では42位にランク付けされています。ポーランドでは、LGBTQIA+コミュニティが政府および地方自治体、ならびに公人・著名人による差別的発言と法的措置の標的になることがますます増えています。

2018年初頭、ILGA-Europeは、同団体の言葉を借りると「ポーランドの政治的リーダーによるLGBTIの人々に対する正面切った政治的ヘイトスピーチ」を確認しました。これには、「LGBTムーブメント全体」はポーランドに対する「脅威」であるといった発言などがありました。同年、ポーランドのルブリン県知事は、同県でのEquality March (平等を訴える行進)の禁止を試みましたが、計画されていた行進日の直前に控訴裁判所はこの禁止措置を撤回しました。2019年、ワルシャワ市長は同市における「LGBTの人々の状況を改善」するためにワルシャワLGBT+憲章を制定しました。ポーランド政府与党の「法と正義」(PiS)と宗教指導者はこの憲章を非難しました。また、同国大統領および中央政府もトランスジェンダーコミュニティを標的にしています。例えば、与党PiSはトランスジェンダーの個人を「異常」と呼んでいます。また、ポーランドの法務大臣は「LGR (性自認に関する法的権利)を受けたいならば、トランスジェンダーの人々は、(性転換のために)、自身の両親だけでなく、子どもと配偶者に対しても訴えを起こす必要があるようにする」ことを検討するよう同国の最高裁判所に求めています。

ポーランドでは、反LGBTQIA+法も制定されています。Human Rights Watchによると、2019年の「LGBTフリーゾーン」を始めとする対策を講じることで「LGBTの人々をポーランドの社会から排除する」呼びかけが各都市で開始されました。LGBTフリーゾーンは「道徳的腐敗から子どもを守ることを訴える差別的な『家族憲章』を地方当局が採択している地域や『LGBTイデオロギー』からの解放を宣言している地域」であると同団体は報告しています。同ゾーンは100以上の都市で敷かれています。ILGA-Europeの報告によると、国内、EUおよび国際社会による圧力により、これら地方自治体の一部は「反LGBT的な決議または家族の権利憲章」を撤回しています。2022年6月28日、ポーランド最高行政裁判所は、4つの地方自治体に対し反LGBTQI+的な決議を撤回するよう命令しました。にもかかわらず、Rainbow Europeによる報告でのポーランドのランキングが示しているとおり、同国にはLGBTQIA+コミュニティに対する顕著な敵意が定着している風土があります。

EU基本権庁がEUにおけるLGBTIの人々を対象に実施した2019年の調査では、LGBTIの人々が受ける暴行と嫌がらせについて、ポーランドとその他のEU加盟国を比較しています。この調査によると、ポーランドではLGBTIの人々の51%が、暴行を受ける恐れがある特定の場所を頻繁もしくは常に避けるようにしています。ポーランド以外のEU加盟国ではこの数字は33%でした。当該調査では、トランスジェンダーの5人に1人が調査前の直近5年間に身体的または性的な攻撃を受けていることが分かっています。これは、その他のLGBTIグループと比べ、倍以上の割合です。

委員会は、ポーランド政府高官による軽蔑的な発言に対するソーシャルメディアでの反応について分析するよう外部の専門家に依頼しました。当該専門家は「2015年以降、ポーランドでLGBTQIA+コミュニティを含む少数派コミュニティを標的としたオンラインでのヘイトスピーチが深刻なレベルで増加していること」に着目しました。Facebookでのポーランド語の反LGBTQIA+的なコンテンツの分析で、当該専門家は「反LGBTQIA法に関連する判決」が下された期間にそのようなコンテンツが急増したと指摘しています。こうした判決には、上述の最高行政裁判所の判決に加え、人権弁務官のポーランドオンブズマンによって地方行政裁判所に提起された、複数の反LGBT宣言の採択にまつわる訴訟に関連するものなどがあります。これらは2019年以来継続中です。

委員会は、当該投稿に含まれるポーランド語の2つの語句が意味するものについても言語の専門家に助言を求めました。当該専門家は「curtains that hang themselves」(自らを吊るすカーテン)という語句は「窓に吊るされているトランスジェンダーフラグ」という文脈において「カーテンを吊るす(hang)こと」と「首吊り(hang)をして自殺すること」を並置させた「言葉遊び」であることを確認しています。当該語句は「トランスジェンダーを嫌悪する婉曲的な中傷」であると当該専門家は結論付けました。「春の大掃除」という語句について、専門家は「通常は、春恒例の大掃除を意味する」語句で、一定の文脈では「『ゴミをすべて捨てる』や『不要なもの(または人々)を処分する』という意味もある」と述べています。Human Rights Campaign Foundationからの提出物(PC-16029)など一部のパブリックコメントでは、当該投稿における「春の大掃除」への言及は「ポーランドの社会からトランスジェンダーの人々を(死をもって)排除および隔離することを称賛する」形の1つであるとされています。

本事例におけるオンラインおよびオフラインでの危害の問題は、ポーランドのLGBTQIA+コミュニティの枠を超えて全世界の同コミュニティに影響を及ぼします。世界保健機関(WHO)によると、自殺は世界全体で15〜29歳の人々の死亡原因の第4位となっています。WHOは「難民、移民および先住民、ならびにレズビアン、ゲイ、バイセクシャル、トランスジェンダー、インターセックス(LGBTI)の人々など、差別的な攻撃を受けやすいグループでも自殺率が高い」ことを指摘しています。その他のリサーチ調査では、サイバー環境での被害と、自傷念慮および自傷行為の間に「明らかな関連性」があることが分かっています。

自殺のリスクは、トランスジェンダーおよびノンバイナリーのコミュニティにとって特に深刻な懸念となっています。Trevor Projectが実施したLGBTQのメンタルヘルスに関する2023年全国調査では、米国のトランスジェンダーおよびノンバイナリーの若者の半数が2022年に自殺を考えたことが明らかになっています。同調査では、トランスジェンダーおよびノンバイナリーの若者の5人に約1人を含め、LGBTQの若者の14%が過去1年間に自殺を図ったと推定されています。CDCの「Youth Risk Behavior Survey」によると、米国の高校生の10%が2021年に自殺を図りました。また、シスジェンダーの人々よりも、トランスジェンダーまたはノンバイナリーの人々の方が自殺念慮および自殺企図のリスクが高いことが世界各国の多くの調査で明らかになっています。

Gay and Lesbian Alliance Against Defamation (GLAAD)は、委員会へのパブリックコメント(PC-16027)において、5つの主要ソーシャルメディアプラットフォームでのLGBTQユーザーの安全に関する同団体の年次調査「Social Media Safety Index」の結果を強調しています。2023年の報告において、Facebookには、LGBTQ固有の12の指標に基づき、61%のスコアが付けられました。これは2022年との比較で15ポイント増加しており、Facebookは、Instagramに次ぐ第2位で、残り3つの主要プラットフォームよりも上位につけています。しかし、GLAADは「LGBTQユーザーの安全および保護は未だ満足できるレベルではない」としています。当該報告では、「標的にされる恐れによってもたらされる、LGBTQに関する表現の自由に対する萎縮効果、および中傷や憎悪に満ちた行為に常に晒されることによる衝撃的としか言いようのない心理的影響を含め、オンラインを利用するLGBTQの人々に極めて現実的な危害が生じている」ことが明らかになっています。

3.監督委員会の権限と範囲

委員会には、プラットフォームに残されたコンテンツを以前に報告した利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、細則第3条第1項)。

委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、拘束力のない勧告を含めることができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。Metaが勧告に基づき行動することを約束する場合、委員会はその実施をモニタリングします。

委員会が今回のような事例、つまり、誤りがあったことをその後にMetaが認めるような事例を選定した場合、委員会は当初の決定を審査して、コンテンツモデレーションプロセスに対する認識を深め、将来に向けエラーを減らし、FacebookとInstagramの利用者にとっての公平性を強化するための勧告を行います。

4.先例および指針の資料

本事例における委員会の分析は、次に掲げる基準および先例に基づいて行われました。

I.監督委員会の決定

監督委員会による過去の決定のうち、最も関連度の高いものには以下の決定などがあります。

• アラビア語の単語の再生
• クニンに関連するアニメ
• コロンビアでの抗議活動
• アゼルバイジャンのアルメニア人

II.Metaのコンテンツポリシー

ヘイトスピーチに関するポリシーの基本理念では、ヘイトスピーチとは、性別およびジェンダーアイデンティティを含む「保護特性を理由に、(概念や制度ではなく)人々を直接攻撃すること」と定義されています。Metaは、「攻撃」について、暴力的な発言や人間性を否定するような発言、有害な固定観念、劣等性を主張する発言、侮辱的または嫌悪的な表現、過小評価する表現、暴言、他者を排除したり差別したりするような呼びかけと定義しています。ポリシーの基本理念において、Metaはさらに次のように述べています。「当社では、利用者が自身の属性を理由に攻撃を受けていると感じることがなければ、より自由な発言と交流が可能になると考えています。そのため、当社はFacebookでのヘイトスピーチを許容しません。ヘイトスピーチは他者を脅迫したり排除したりする環境を生み出し、場合によっては現実世界での暴力行為を促す恐れがあります」

Metaのヘイトスピーチに関するコミュニティ規定では、攻撃は「レベル」で区分されています。レベル1の攻撃には、保護特性に基づき、個人またはグループを「記述または視覚的な形での暴力的な発言や支援」の標的とするコンテンツが含まれます。最終的に、Metaは、本事例のコンテンツが当該ポリシーのこの文言に違反したと判断しました。2023年12月6日、Metaはコミュニティ規定を改定し、保護特性を持つグループに対する暴力的な発言の禁止に関する文言を暴力と扇動に関するポリシーに移しました。

レベル2の攻撃には、保護特性に基づき、個人またはグループを「(文章または視覚による)侮辱表現」の標的とするコンテンツが含まれます。侮辱表現は、Metaのヘイトスピーチに関するコミュニティ規定において、「保護特性に基づいた不寛容を認める発言」および「保護特性を持つ人は存在するべきではないとする表現」を含める形で定義されています。

自殺と自傷行為に関するコミュニティ規定では、「ミームやイラストなどのフィクションのコンテンツを含む、自殺または自傷行為を助長するようなコンテンツ」を禁止しています。Metaは、このポリシーに基づき、自殺および自傷行為について助長、奨励、計画、もしくは手順の提供を行うコンテンツを削除します。

委員会の分析は、Metaが「何よりも大切にしている」とする「意見」に対する取り組みと、Metaが重んじる「安全性」と「尊厳」の価値観に基づいています。

III.Metaの人権保障責任

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。Metaは2021年、企業人権ポリシーを発表しました。同ポリシーで、MetaはUNGPsに従って人権の尊重に注力することを再確認しました。委員会は、本事例での人権に対するMetaの責任について、次に掲げる国際基準に基づき分析しました。

• 意見と表現の自由の権利: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34(2011年)、意見及び表現の自由に関する国連特別報告者(UNSR)による報告書: A/HRC/38/35 (2018年)、A/74/486 (2019年)、ラバト行動計画(国連人権高等弁務官報告書): A/HRC/22/17/Add.4 (2013年)
• 生命に対する権利: ICCPR第6条
• 到達可能な最高水準の身体および精神の健康を享受する権利: 経済的、社会的、文化的権利に関する国際規約(ICESCR)第12条
• いかなる差別もなしに平等の保護を受ける権利: ICCPR第2条第1項および第26条

5.利用者からの陳述書の提出

当該コンテンツを報告した利用者は、委員会への異議申し立てにおいて、当該画像の投稿者は過去にトランスジェンダーの人たちに対しオンラインで嫌がらせをしたことがあり、Facebookの利用を停止された後で新しいアカウントを作成した点を指摘しています。また、トランスジェンダーコミュニティで自殺率が高いことへの称賛は「許可されるべきでない」とも述べています。

6.Metaからの情報提供

Metaは、最終的に、ヘイトスピーチに関するコミュニティ規定に定めるレベル1に従い、当該コンテンツが、保護特性に基づき、個人またはグループを「記述または視覚的な形での暴力的な発言や支援」の標的とするコンテンツを禁止するポリシーの文言に違反したとして、それを削除しました。このポリシーの適用方法に関する社内ガイドラインにおいて、Metaは、「(記述または視覚的な形での)、危害を加える行動の呼びかけまたは意図の表明、死、疾患または危害に関する願望や条件付きの発言、あるいはそれらを奨励・支持する発言などの暴力的な発言」に該当するコンテンツは削除する必要があると述べています。

また、同ガイドラインには、画像または動画において、保護特性を持つグループの視覚的な表現とみなされるものについての説明があります。Metaは、当該ガイドラインに関するさらに詳細な情報を公開することを委員会に許可しませんでした。代わりに、「ヘイトスピーチに関するポリシーに従い、Metaは、コンテンツが保護特性に基づき個人またはグループを標的としているかどうかを判断する際に、そこに含まれる視覚的要素を考慮する場合がある」と述べており、

同社の審査担当者によって当該コンテンツがヘイトスピーチに関するコミュニティ規定に違反していないと複数回評価されたことについて、「社内ガイドラインの厳格な適用」に沿っていたとしています。さらに、「描写されているカーテンはトランスジェンダープライドフラグに類似しているものの、フラグ自体に対する攻撃は、個人またはグループに対するものではなく、概念や制度に対する攻撃(ポリシー違反には当たらないもの)と解釈する」と具体的に説明しました。しかし、Metaは、「吊るすことへの言及は、当該投稿がグループを攻撃していることを示唆している」と後になって判断しました。こうした評価は、「当該カーテンがトランスジェンダープライドフラグに類似しており、これが吊るされている画像(およびテキストオーバーレイ)が首吊り自殺の隠喩であるため、『curtains which hang themselves』(自らを吊るすカーテン)という語句がトランスジェンダーコミュニティの自殺率に暗黙的に言及している」という判断に基づいています。また、Metaは「少なくとも文字通りには、概念または制度が『自らの首を吊るす』ことはできない」とも述べています。こうした理由により、Metaは、当該利用者が「概念だけでなく、トランスジェンダーの人々」に言及していると判断しました。従って、Metaによると「このコンテンツは、保護特性を持つグループの人々の自殺による死を支持する発言として解釈されることを意図しているため、ヘイトスピーチに関するポリシー違反」に該当します。

Metaは委員会に対し、ヘイトスピーチに関するポリシーの改定後(保護特性を持つグループに対する暴力的な発言を禁止する文言を暴力と扇動に関するポリシーに移した後)も当該コンテンツは引き続き違反に該当するとしており、

また、当該利用者のアカウントの自己紹介にある「I am a transphobe」(私はトランスジェンダー嫌悪者です)という発言は「保護特性に基づいた不寛容を認める発言」でありヘイトスピーチに関するポリシーのレベル2に違反するとも述べています。Metaによると、当該利用者の同発言は、委員会が本事例を選定した後にMetaが実施した本事例および当該利用者アカウントの審査において、違反と評価されました。Metaは、本事例のコンテンツでの利用者の意図を把握するうえで、この発言が判断材料になったと述べています。

当該コンテンツが自殺と自傷行為に関するポリシー違反に当たるかどうかを尋ねる委員会からの質問への回答で、Metaは、「当該コンテンツは、自殺を奨励していることにより自殺と自傷行為に関するポリシーに違反しており、これは当該コンテンツが保護特性を持つグループの人々の自殺による死を支持する発言に該当するという当社判断に整合するものである」ことを確認しました。また、Metaは、自殺と自傷行為に関するポリシーでは「自殺を助長または奨励するコンテンツが、特定の個人を標的としているか、あるいはグループを標的としているかは区別されない」とも述べています。

委員会はMetaに書面で13件の質問をしました。これらの質問では、トランスジェンダーおよびLGBTQIA+に関する問題へのMetaのコンテンツモデレーションの手法、ヘイトスピーチに関するコミュニティ規定と自殺と自傷行為に関するコミュニティ規定の関係、ヘイトスピーチに関する違反がコンテンツにあるか審査する際にモデレーターが「ユーモア」および「風刺」をどう評価しているか、コンテンツに対し人間による審査の優先順位を付ける際の「バイラリティ」と「深刻度」の役割、そして複数の利用者からの報告があったコンテンツを人間による審査に送る際にその優先順位付けがMetaのコンテンツモデレーション慣行においてどう処理されているか、こうしたことに関連する内容について尋ねました。Metaからは13件の質問すべてに回答がありました。

7.パブリックコメント

監督委員会は、本事例に関し35件のパブリックコメントを受け取りました。このうち、25件は米国およびカナダから、7件は欧州から、3件はアジア太平洋・オセアニアからのものでした。この総数には、重複していた、または公開への同意ありで提出されたが委員会の公開条件を満たしていなかったパブリックコメントが含まれています。このようなパブリックコメントを除外するうえでは、コメントに不適切な性質があることや、ユーザーのプライバシーに関する懸念、その他の法的理由が根拠になっている場合があります。パブリックコメントは、公開への同意の有無や帰属への同意の有無とは関係なく提出できます。

提出された意見で取り上げられていたテーマとしては、ポーランドでの人権にまつわる状況(特にトランスジェンダーの人々が直面する状況)、ソーシャルメディアプラットフォームでのLGBTQIA+の安全、ポーランドにおけるオンラインとオフラインでの危害の関係、ソーシャルメディアプラットフォームでのユーモア、風刺、ミームとトランスジェンダーの人々に対するヘイト行為/嫌がらせの間の関係、文脈の解釈が必要なコンテンツのモデレーションにおける課題といったものがありました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8.監督委員会による分析

委員会は、当該コンテンツの削除の必要性について、Metaのコンテンツポリシー、人権保障責任および同社が重んじる価値観を分析することにより検討を加えました。また、コンテンツガバナンスに対してMetaが取る広範なアプローチに関して、本事例が意味するところについても評価しました。

委員会が本事例を選定した理由は、Metaによるヘイトスピーチに関するポリシーの施行の精度を評価することと、ヘイトスピーチと自殺や自傷行為の奨励の両方に関連するコンテンツに対するMetaのアプローチについて理解を深めるためです。

8.1 Metaの定めるコンテンツポリシーへの準拠

I.コンテンツルール

ヘイトスピーチ

委員会は、本事例のコンテンツはヘイトスピーチに関するコミュニティ規定違反に当たると判断します。当該投稿には、保護特性を持つグループの人々の自殺による死の呼びかけという形での「暴力的な発言または支援」(レベル1)を含んでおり、これはヘイトスピーチに関するポリシーに明らかに違反しています。

当該投稿での「吊るす」行為への言及は、「概念または制度自体は『hang themselves』(自分の首を吊るす)ことができない」ため、概念ではなくグループに対する攻撃に該当するというMetaの最終的な結論に委員会は同意します。また、ポーランドでLGBTQIA+コミュニティのメンバー、特にトランスジェンダーの人々が直面しているオンラインとオフラインでの危害にまつわるより広範な文脈においても、Metaの結論には根拠があると判断します。投稿でトランスジェンダーの人々の自殺による死を奨励・支持する暴力的な発言を行うことは、脅迫と排除の風土を醸成するだけでなく、実際の危害をもたらす可能性もあります。当該投稿の言葉が使われている文脈から、標的にした人々の人間性を奪う意図があったことは明らかです。また、当該投稿は、そこに含まれるテキストおよび画像の性質を考慮すれば、トランスジェンダーコミュニティが現在直面している継続的なメンタルヘルス危機も悪化させたと言えます。複数の調査では、トランスジェンダーやノンバイナリーの人々は、シスジェンダーの人々よりも自殺念慮と自殺企図の両方のリスクが高いことが明らかになっています。さらに、オンラインでの攻撃および被害の経験は、自殺念慮との間に正の相関関係があることが認められています。こうした背景を踏まえ、委員会は、トランスジェンダーフラグの描写を、トランスジェンダーコミュニティでの自殺リスクの高まりへの言及(「curtains that hang themselves」(自らを吊るすカーテン))と組み合わせることは、トランスジェンダーの人々が当該投稿の標的であることを明らかに示すものであると判断します。また、「spring cleaning」(春の大掃除)という語句とそれに続く「<3」(ハート)の絵文字も、グループの人々の死を支持するものに該当すると判断します。このため、当該投稿は、ヘイトスピーチに関するコミュニティ規定が定める「保護特性を持つ人は存在するべきではないとする表現」の禁止(レベル2)にも違反していることになります。

このコミュニティ規定について、委員会は、ポリシーおよびその施行に関する社内ガイドラインで、歴史的に疎外されたグループを標的とするコンテンツの傾向に見られる「悪意のあるクリエイティビティ」への対応をさらに強化できるのではないかと考えます。これは、Wilson Centerが、性別に基づく性的な虐待に関する研究により新たに作った用語で、GLAADもパブリックコメント(PC-16027)で、この用語と虐待の関連性について強調しています。「悪意のあるクリエイティビティ」とは、「ソーシャルメディアプラットフォームでの検出を回避するために、遠回しな言葉、文脈に基づいた視覚的およびテキスト形式のミーム、およびその他の手法を用いること」を意味します。GLAADは、この概念を本事例の投稿に当てはめたうえで、「悪意のあるクリエイティビティ」は、投稿やミームを通じて「LGBTQコミュニティおよびより全般的な脆弱グループを標的とする新たな手段を考え出す悪質行為者」が関与するものであり、当該行為者はこうした投稿やミームが「ユーモアまたは風刺」であると反論しているものの、「実際には反LGBTQ的なヘイト行為または嫌がらせ」であると述べています。具体的に、本事例では「悪意のあるクリエイティビティ」は、自殺による死を推奨するために、幾分遠回しな表現での自殺への言及(「curtains that hang themselves」(自らを吊るすカーテン)および「spring cleaning」(春の大掃除)の2つの言及)と、保護されたグループの視覚的描写(トランスジェンダーフラグ)を組み合わせた投稿の形式を取っています。アゼルバイジャンのアルメニア人に関する事例の決定で、委員会は、当該事例で検討した用語が保護特性に基づきグループを標的としていることを判断するにあたり、背景情報が重要な鍵を握ることを指摘しました。当該事例では戦争という大きな背景があったものの、ポーランドでトランスジェンダーの人々が直面している脅威を見れば、戦争という背景がなくても、あるコミュニティにとって悲惨な状況が起こり得ることが分かります。すでに指摘したとおり、ポーランドではトランスジェンダーの5人に1人が2019年より前の5年間で身体的または性的な攻撃を受けたことがあると報告しています。これは、ほかのLGBTIグループでそのような攻撃を報告した人数の倍以上に相当します。

委員会は、Metaの当初の審査担当者が当該コンテンツで文脈的な手がかりをつかめずに、違反でないと結論付けたことに懸念を抱いています。委員会は、ヘイトスピーチに関するコミュニティ規定の施行についてのガイダンスを修正するよう勧告していますが、当初のポリシーの文言にも当該投稿は違反していたことを強調します。当該投稿での両発言は、トランスジェンダーの人々の自殺による死を支持するものです。この結論は、当該利用者の自己紹介で確認できるサインによっても裏付けられています。当該利用者がトランスジェンダー嫌悪者であると自己紹介していること自体、ヘイトスピーチに関するコミュニティ規定が定める「保護特性に基づいた不寛容を認める発言」の禁止(レベル2)に対する違反に該当します。Metaは、LGBTQIA+コミュニティへのヘイトスピーチに対するポリシー施行(自動審査または人間による審査)の精度を改善する必要があります。これは、投稿に文脈の解釈が必要な画像やテキストが含まれているケースで特に望まれます。GLAADは、Metaが「『悪意のあるクリエイティビティ』を用いたコンテンツに関する報告を審査する際に、一貫性をもってポリシーを施行していない」ことを確認しています(PC-16027)。

また、委員会は、審査担当者が当該コンテンツを削除しなかったことは「社内ガイドラインの厳格な適用に沿っている」というMetaの発言にも困惑しています。Metaのこうした発言は、審査担当者への社内ガイダンスには、メンバーのジェンダーアイデンティティによって定義されるグループを表現する上でテキストや画像がソーシャルメディアでの投稿においてどう作用するかについての指針が十分に取り入れられていないことを示しています。大規模なコンテンツモデレーションに従事する審査担当者にとって当該ガイダンスは、名前を挙げたり人物で描写したりするのではなく視覚的に表現することで保護特性を持つグループを標的とするコンテンツに対して適切な施行結果を実現するうえで不十分な可能性があると委員会は判断します。当該ガイダンスに関してさらに詳細な情報を公開すれば、こうしたコンテンツに対する施行を改善する方法について一層活発な議論が生まれたと考えられますが、Metaは詳細を公開することを委員会に許可しませんでした。しかしながら、Metaは、攻撃についてコンテンツを評価する際に、ジェンダーアイデンティティの視覚的描写が適切に理解されるようにするために、当該ガイダンスを修正する必要があると委員会は考えます。委員会は、こうした方向性を提案するにあたり、概念や制度、アイデア、慣行信念に対する異議や批判をMetaが保護する措置を弱めようとしているわけでないことを強調します。むしろ、委員会がMetaに望んでいるのは、人々に対する攻撃とみなす条件として投稿に人物の描写が含まれている必要はないことを明確にすることです。

自殺と自傷行為

委員会は、本事例のコンテンツが自殺と自傷行為に関するコミュニティ規定にも違反していると判断します。このポリシーでは、「自殺および自傷行為について助長、奨励、計画、もしくは手順の提供を行うコンテンツ」を禁止しています。Metaが審査担当者に提供している社内ガイドラインによると、「助長」は「肯定的に発言すること」と定義されています。当該コンテンツは保護特性を持つグループの人々の自殺による死を支持する発言に該当し、よって自殺を奨励しているという旨のMetaの最終的な結論に委員会は同意します。

また、自殺と自傷行為に関するコミュニティ規定において、特定可能なグループに属する個人ではなく、そのグループ自体を標的とする自殺の助長または奨励を一段と明示的に禁止する必要があると判断します。Metaは、委員会に対し、当該ポリシーではコンテンツがとり得るこのような2つの形式を区別していないことを明らかにしました。しかし、委員会は、本事例においてグループの人々の自殺を奨励している発言を特定する審査担当者が直面した課題を踏まえ、特定可能なグループを標的として自殺の助長または奨励するコンテンツを当該ポリシーが禁止していることを明確にするようMetaに強く求めます。Metaはこの点を、自殺と自傷行為に関するポリシーのページ、およびそれに関連する審査担当者向け社内ガイドラインで明記する必要があります。

II.施行措置

委員会は、審査の優先順位を付けるMetaの自動システムが本事例での施行措置に大きく影響したと判断します。当該投稿に関する利用者からの12件の報告のうち、10件はMetaの自動システムによって自動的に対応が打ち切られました。前記利用者のうち3人は、Metaの決定に対して異議を申し立てましたが、2件の申し立てはMetaの自動システムによって自動的に対応が打ち切られました。委員会が懸念しているのは、委員会に共有された本事例の履歴において、違反の可能性を示すものが数多く含まれており、ゆえにMetaのポリシーが適切に施行されていないことが示唆されている点です。

委員会は、同一のコンテンツに対する複数の報告の扱いに関するMetaのコンテンツモデレーション慣行の結果として、利用者からの報告の多くが対応を打ち切られたことに着目しています。利用者からのヘイトスピーチに関する最初の報告は、「深刻度およびバイラリティのスコアが低い」との理由で、人間による審査に送られませんでした。その後のヘイトスピーチに関する報告は、同一のコンテンツに対して複数の報告がある場合にMetaが「審査担当者が下す決定および施行措置における一貫性を保つためにそれらの報告の重複除外を行う」ため、人間による審査に送られませんでした。重複除外は、大規模なコンテンツモデレーションにおいて合理的な慣行であることを委員会は認めます。しかし、こうした慣行は、ある報告に対して下される最初の判断に一層大きな負担を課すものだと委員会は指摘します。なぜなら、その判断によって、その報告にまとめられるほかの報告すべての扱いも決まるからです。

委員会は、コンテンツポリシーの施行と審査対象のコンテンツの優先順位付けの両方を担う自動システムの精度の向上、特に、LGBTQIA+の人々に影響を及ぼし得るコンテンツを扱う場合の精度の向上に優先的に取り組むことはMetaにとって重要であると考えます。本事例で取り上げられているような遠回しな言葉や文脈に基づいた画像に対する自動システムの認識性能を高めることは、保護特性を持つほかのグループを標的とするコンテンツに対する施行の改善にもつながるはずです。例えば、コンテンツを審査に送るべきかや施行措置を講じるべきかを判断するための深刻度スコアを決定する際、トランスジェンダー嫌悪者であることを認める発言を含んでいた当該利用者の自己紹介を、重要な1つのサインとして考慮できていた可能性があると委員会は考えます。このようなサインは、Metaが違反の可能性のあるコンテンツを検知するために使用し得る既存の行動分析およびソーシャルネットワーク分析において補完的な役割を果たす場合があります。

さらに委員会は、LGBTQIA+コミュニティに関連する投稿の大規模な評価を効果的に行えるよう、自動システムの適切な調整とコンテンツ審査担当者の訓練を徹底することは、Metaにとって重要な取り組みであることを強調します。委員会は、異議申し立ての評価を担う審査担当者の専門知識が、しばしば最初のコンテンツ評価を担う担当者と同等レベルであるかのように感じさせる、Metaの現行アプローチに懸念を抱いています。違反の可能性がありLGBTQIA+コミュニティに影響を及ぼしかねないコンテンツを検知し、人間による審査に送る分類システムの開発と訓練への投資をMetaは強化すべきであると考えます。ヘイトスピーチ、特にMetaのポリシーのレベル1に該当する深刻度の最も高いコンテンツは、常に審査に送られるべきです。委員会は、Metaに対し、以下のプロセス改善の取り組みを強化することも提案します。i)ジェンダーアイデンティティに関連する危害についての審査担当者の訓練の強化、ii) Metaのプラットフォームでトランスジェンダーおよびノンバイナリーの人々が経験する事象に対応するタスクフォース、およびiii) LGBTQIA+コミュニティに影響を及ぼす問題に関わるコンテンツを審査する、対象分野の知識を備えた専門グループの編成。厳密に言えば、本事例で確認された事実はFacebookでトランスジェンダーの人々が直面する危害に関連するものですが、委員会は、Metaに対し、保護特性を持つほかのグループに影響を及ぼす憎悪に満ちたコンテンツに対する施行を改善する方法を模索するよう推奨します。

本事例では、委員会は以下の2つの勧告のみを行いますが、これは、本事例で明らかになった課題が、ポリシーの文面よりも、その施行のあり方に強く関連しているからであることを強調します。委員会は、本事例のコンテンツの有害性を示すサインとして、以下の5点を確認しています。(1)投稿内での「self-hanging curtains」(自らを吊るすカーテン)への言及、(2)投稿内での「spring cleaning <3」(春の大掃除(ハート))への言及、(3) LGBTQIA+コミュニティに対する強い敵意が報告されているという背景がある国で当該利用者が「transphobe」(トランスジェンダー嫌悪者)であると自己紹介していること、(4)当該コンテンツに関する利用者からの報告および異議申し立ての件数、(5)当該コンテンツのバイラリティと報告および異議申し立ての件数との比較。委員会は、Metaがこうしたサインを見落としたことに懸念を抱くとともに、この状況はMetaのポリシーが十分に施行されていないことを示唆していると考えています。委員会は、MetaがそのプラットフォームでLGBTQIA+の個人を保護するという同社の理想と、その理想の実現に向けた施行とのギャップをなくす方法を、創造力を生かして徹底的に検討すべきであると断固主張します。

8.2 Metaの人権保障責任の遵守

表現の自由(ICCPR第19条)

市民的及び政治的権利に関する国際規約(ICCPR)第19条第2項には、「すべての者は、表現の自由についての権利を有する。この権利には、口頭、手書き若しくは印刷、芸術の形態又は他の方法により、国境とのかかわりなく、あらゆる種類の情報及び考えを求め、受け及び伝える自由を含む」と定められています。さらに、一般的意見34 (2011年)では、保護される表現には、「極めて不快」とみなされる可能性のある表現も含まれることが明確に述べられています(第11項)。

国が表現を制限する場合、その制限は合法性、目的の正当性、および必要性と相応性の各要件を満たさなければなりません(ICCPR第19条第3項)。これらの要件はよく「3要素テスト」と呼ばれます。委員会はこの枠組みを用い、審査対象であるコンテンツに関する個別の決定とそれがコンテンツガバナンスに対するMetaの広範なアプローチについて示す内容の両方に関して、人権に対するMetaの自主的な取り組みを解釈します。表現の自由に関する国連特別報告者が述べているとおり、「企業には政府と同じ義務はないが、影響力が高いため、ユーザーの表現の自由に対する権利の保護に関して、企業も政府と同様の問題を評価する必要があります」(A/74/486、第41項)。

I.合法性(規則の明確さとわかりやすさ・閲覧可能性)

国際的な人権法に基づく合法性の原則により、表現を制限する規則は、明確でわかりやすく、公開されていることが求められます(一般的意見34、第25項)。表現を制限する規則は、「表現の自由の制限の施行を担当する者に対して、その制限に関して自由裁量を与えるものであってはならない」こと、および「どういった表現が適切に制限され、どういった表現が制限されないのかを、施行を担当する者が確かめられるよう、十分な指針を提示」することも求められます(同項)。表現の自由に関する国連特別報告者は、オンラインでの発言を管理する規則に当てはめた場合、当該規則が明確かつ具体的である必要があると述べています(A/HRC/38/35、第46項)。Metaのプラットフォーム利用者は規則を閲覧してそれを把握できなければならず、コンテンツの審査担当者には適用に関する明確な指針が用意されていなければなりません。

委員会は、Metaが、保護特性を持つグループを標的とする記述または視覚的な形での「暴力的な発言または支援」、保護特性を持つ人は存在すべきではないとする表現、および自殺と自傷行為を助長または奨励する発言を禁止していることは十分に明らかであると判断します。

しかし、上記の第8.1条で述べたとおり、Metaは、人間の審査担当者にさらに明確なガイダンスを提供することで、本事例で取り上げられているポリシーに関連する施行の精度を改善できる可能性があることを委員会は指摘します。Metaは、フラグを使用するなどした、ジェンダーアイデンティティの視覚的表現が、ヘイトスピーチに関するポリシーに基づく攻撃とみなされる条件として、そこに人物の描写が含まれている必要はないことを明確にすべきです。また、(個人ではなく)グループに対して自殺を呼びかけることは、自殺と自傷行為に関するポリシー違反であることを明確にする必要もあります。

II.目的の正当性

表現に対する制限は、「他者の権利」を含む、ICCPRの正当な目的のいずれかを追求するものである必要があります。委員会は、複数の決定において、Metaのヘイトスピーチに関するポリシーが、ヘイトスピーチに起因する危害から人々を守ることを目的としており、国際的な人権法の基準によって認められた正当な目的を有していると判断しています(例: クニンに関連するアニメに関する決定を参照)。また、本事例においては、自殺または自傷行為を奨励するコンテンツについて言及している自殺と自傷行為に関するポリシーの文言は、到達可能な最高水準の身体および精神の健康を享受する権利(ICESCR 12)および生命に対する権利(ICCPR第5条)を保護するという正当な目的に沿っていると委員会は判断します。保護特性を持つグループの人々の自殺を奨励している本事例のような事例においては、自殺と自傷行為に関するポリシーは、人々が持つ平等に対する権利と差別を受けない権利(ICCPR第2条第1項)も保護するものとなります。

III.必要性と相応性

必要性と相応性の原則では、表現の自由に対するいかなる制限も「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応なものでなければならない」(一般的意見34、第34項)と規定しています。

暴力的なコンテンツがもたらすリスクを分析するに当たり、委員会は通常、ラバト行動計画に記載された6要素テストを指針としています。このテストは、敵意、差別または暴力の扇動を構成する国籍、人種、宗教に関する憎悪の擁護に対処するものです。該当する要素、特に表現の内容と形式、発言者の意図、以下に説明する文脈に基づき、委員会は、当該コンテンツを削除することはMetaの人権保障責任に沿うものだと判断します。当該コンテンツは差し迫った、蓋然性の高い危害を招いたためです。コンテンツを削除することは、広範なLGBTQIA+コミュニティ、特にポーランドにおけるトランスジェンダーの人々の生命に対する権利、および到達可能な最高水準の身体および精神の健康を享受する権利を保護するために必要かつ相応な表現の制限です。

委員会は、過去に、差別に直面しているLGBTQIA+の人々に対する軽蔑的な言葉を再生することの重要性について指摘しましたが(アラビア語の単語の再生に関する決定を参照)、これは本事例の場合には当てはまりません。当該投稿には、政治的発言もほかの人に知らせる価値のある発言も含まれていませんでした(コロンビアでの抗議活動に関する決定を参照)。本事例の投稿には、カーテンとして吊るされたトランスジェンダーフラグの画像が含まれ、自らを吊るすカーテンという説明が付けられています。委員会が助言を求めた専門家によると、「カーテン」自体は、視覚的なものもテキスト形式のものも、トランスジェンダーコミュニティを標的として繰り返し使われるような遠回しな言葉もしくは表現ではないと考えられます。しかしながら、上記で述べたとおり、「悪意のあるクリエイティビティ」という現象、またはヘイト行為および嫌がらせを表現するための新しい言葉やリプレゼンテーション戦略の使用は、トランスジェンダーの人々を標的とするコンテンツの傾向を特徴付けるものとなっています。委員会は、本事例のコンテンツはこうした傾向に合致していると判断します。当該投稿は、画像を使用して「ユーモアがある」と一部の人たちに感じさせている(「うけるね」の絵文字によるリアクションから確認できる)ものの、それでもなおトランスジェンダーコミュニティを標的とする暴力的かつ挑発的な発言と解釈できます。ユーモアおよび風刺は、当然ながら、正当な批判の限界を押し広げるために使用できます。しかしヘイトスピーチを覆い隠すものにはなり得ません。当該投稿は、トランスジェンダーコミュニティにおける自殺率が高いという事実だけを話題として取り上げて、それを称賛しています。

委員会は、当該コンテンツクリエイターの意図を考察するにあたり、その自己紹介に「transphobe」(トランスジェンダー嫌悪者)であることが公然と述べられていることに着目しました。Metaは、本事例のコンテンツ自体に関連してこの自己紹介が示唆するものを後になって初めて考慮しましたが、委員会は、当該利用者の意図を判断するうえで、この発言は高い関連性を持つと判断します。この発言は、ヘイトスピーチに関するポリシーが定めるレベル2に違反しているため、当該コンテンツを削除するための独立した根拠にもなります。また、当該投稿では、自殺によって死ぬというトランスジェンダーの人々の行為が「spring cleaning」(春の大掃除)になぞらえられ、その後にハートの絵文字が付け加えられています。委員会は、あるグループの人々の自殺による死を支持するようなこの発言を踏まえ、当該投稿のコンテンツ、使われている画像、付随するテキストとキャプションに基づき、差別および暴力を奨励する意図があると判断します。本事例のコンテンツは、トランスジェンダーの人々による自身への暴力行為を奨励しているだけでなく、トランスジェンダーの人々に対する差別や憎悪を扇動するものです。この認識は、当該コンテンツとの関わりを持ったほかの利用者が最も多く使用したリアクションの絵文字が「うけるね」であったという事実によって裏付けられています。

最後に、委員会は、ポーランドのLGBTQIA+コミュニティが直面しているオフラインでの深刻なリスクに着目しています。こうしたリスクは、法的・行政措置や、中央政府高官や影響力のある公人・著名人による政治的修辞を通じた攻撃の増加という形で表れています。ILGA-Europeによると、LGBTQIA+の権利に関する評価で、2020年以降、ポーランドはEU加盟国の中で常に最下位にランク付けされています。また、ポーランドではヘイトスピーチおよびヘイトクライムに関連する法律においてLGBTQIA+が保護されていないことに注目する必要もあります。これは、ILGA-Europeおよびアムネスティ・インターナショナルなどがポーランドに対応を求めている課題の1つです。さらに、外部専門家および多くのパブリックコメントによって指摘されているFacebookでのポーランド語の反LGBTQIA+的な修辞の増加は、単独的に起きているわけではありません。多くの団体および機関が、ソーシャルメディアでの反LGBTQIA+的な発言のまん延について警鐘を鳴らしています。性的指向およびジェンダーアイデンティティに関する国連の独立専門家(IE SOGI)のVictor Madrigal-Borloz氏は、性別の多様性およびトランスジェンダーの人々に対する暴力と差別は、「人の良心に反する」レベルに達していると述べています。GLAADの調査および報告では、「中傷や憎悪に満ちた行為に常に晒されることによる衝撃的としか言い様のない心理的影響を含め、オンラインを利用するLGBTQの人々に極めて現実的な危害が生じている」ことが明らかになっています。本事例の投稿のようなコンテンツは、特に広範な観点から考察すれば、自殺による死という形ですでにトランスジェンダーコミュニティにまん延している危害を深刻化させる環境の一因となる可能性があります。さらに、暴力的な反トランスジェンダー発言を標準的なものとしようとする当該投稿のようなコンテンツは、トランスジェンダーコミュニティに影響を及ぼす継続的なメンタルヘルス危機と、このコミュニティを標的とするオフラインでの暴力の増加の要因となる恐れもあります。

9.監督委員会の審査結果

監督委員会は、コンテンツを残すというMetaの当初の決定を無効と判断しました。

10.勧告

コンテンツポリシー

1.Metaの自殺と自傷行為に関するページにおいて、このポリシーが、特定可能なグループを標的として自殺を助長または奨励するコンテンツを禁止していることを明確にすべきです。

委員会は、提案した変更が自殺と自傷行為に関するコミュニティ規定に反映されたことをもって、Metaがこの勧告を履行したものとみなします。

施行

2.大規模なコンテンツモデレーションに従事する審査担当者向けのMetaの社内ガイダンスを修正して、あるグループがそのメンバーのジェンダーアイデンティティによって定義される場合に、人物の描写を含んでいない、フラグ(旗)を使ったジェンダーアイデンティティの視覚的描写がそのグループを表現するものであると理解されるようにする必要があります。この修正は、当該コンテンツのような形式に対する大規模な施行に関する手順(違反に当たる攻撃を含む場合に必ず従うべき手順)を明確にするものです。

委員会は、社内ガイドラインの変更をMetaから提示されたことをもって、この勧告が履行されたとみなします。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の審査結果は、必ずしもメンバー全員の個人的見解を反映したものではありません。

本事例について結論を下すため、委員会からの委託を受け独立した調査が実施されました。委員会は、ヨーテボリ大学に本部を置く独立調査機関から支援を受けました。同機関では6つの大陸の50名を超える社会科学者と世界各地の3,200名を超える専門家が活動しています。このほか、ソーシャルメディアのトレンドに関するオープンソース調査を手がける組織「Memetica」からも分析の提供を受けました。また、350種類を超える言語に精通し世界各地の5,000の都市に言語の専門家を擁する「Lionbridge Technologies, LLC」から、言語面での専門的知識の提供を受けました。

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas