アフリカ系アメリカ人の否定的なステレオタイプ

これは要約決定です。要約決定では、委員会がMetaに対して注意喚起を行った後に同社がコンテンツに関する当初の決定を撤回した事例を審査します。これらの決定には、Metaが認めた誤りに関する情報が含まれます。これらは、委員会全員ではなく、一部メンバーで構成されるパネルが承認したものであり、パブリックコメントのプロセスを伴わず、委員会にとって先例としての価値はありません。要約決定は、Metaの決定への変更を直接求めるものであり、Metaの訂正について透明性を提供し、Metaの施行において改善の余地がある箇所を指摘します。

概要

委員会は、Metaが掲載し続けた、人種差別的なコンテンツを含む3件のFacebook投稿を審査しました。各投稿には、アフリカ系アメリカ人の風刺画や合成画像が含まれており、父親不在、生活保護、商店での略奪といった侮辱的なステレオタイプが強調されています。これらの事例は、Metaがヘイトスピーチおよびいじめと嫌がらせに関する各ポリシーを施行するにあたっての誤りを浮き上がらせています。委員会がMetaに対してこれらの異議申し立てへの注意喚起を行った後、同社は当初の決定を撤回し、これらの投稿を削除しました。

事例の内容

2023年末に委員会は、Facebookに投稿された3つの異なる画像について3件の異議申し立てを別々に受け取りました。これらすべての投稿にはアフリカ系アメリカ人に関する否定的なコンテンツが含まれていました。

約50万回閲覧された1つ目の投稿で利用者が投稿したコンピューター生成画像には、火事で燃える商店とともに、商品を抱えて店から走り出る、フード付きのトレーナーを着た黒人が漫画のキャラクターとして描かれていました。この画像では、商店の名前がTargetから「Loot」(略奪)に変更されており、添付のキャプションでは、この画像を次回のピクサー映画だと説明しています。

2つ目の投稿でも、映画のポスターに似せたコンピューター生成画像が使用されており、身体的特徴が誇張された黒人女性がチートスでいっぱいのショッピングカートを押している様子が描かれています。映画のタイトルには、「EBT」(米国で社会福祉給付金を受け取るためのシステムの名称)とあります。ポスターの上部には、俳優の名前の代わりにトレイボン・マーティンとジョージ・フロイドの名前が記載されています。どちらも暴力の被害者となったアフリカ系アメリカ人で、一人は2012年に武装した自警団員に射殺され、もう一人は2020年に警察の手によって殺害されました。彼らの死は、米国の司法制度における人種間格差に対する抗議活動が広がるきっかけとなりました。

3つ目の投稿は、約1400万回閲覧され、「Adobe has developed software that can detect photoshop in an image」(AdobeはPhotoshopで加工された画像を検出できるソフトウェアを開発した)と表示されたミームを使用しています。この文言の下に女性の画像があり、女性の顔全体にカラフルなマーク(通常、熱感知を示すために使用されるもの)が付けられており、画像の一部が加工されていることを示唆しています。この画像と対比された、食事中の黒人家族の画像では、父親とテーブル上の料理に同じカラフルなマークが付けられており、これらの2つの要素が加工によって追加されたものであることを示唆しています。この投稿は、制度的人種差別と経済的不平等の複雑な歴史に端を発した、米国の黒人家庭における父親像の不在という広く浸透した否定的なステレオタイプを助長するものです。

Metaは、利用者から異議申し立てがあったにもかかわらず、当初は、3件すべての投稿をFacebook上に残していました。これらの利用者は、委員会への異議申し立てにおいて、当該コンテンツがアフリカ系アメリカ人に関する有害な人種的ステレオタイプを描写していると主張しました。

委員会がMetaに対してこれらの異議申し立てへの注意喚起を行った後、同社は、各投稿がヘイトスピーチに関するコミュニティ規定に違反していると判断しました。同コミュニティ規定では、人種や民族などの保護特性を理由とした人々への直接攻撃を禁止しています。また当該ポリシーは、「泥棒などの犯罪者に関する比喩」、「ヘイトクライムの概念、出来事、被害者を嘲笑すること」、および「...道徳的な欠陥において劣等感を与える安易な一般化」という形での「人間性を否定するような発言」により「個人またはグループを標的とすること」を明確に禁止しています。

また、Metaは、トレイボン・マーティンとジョージ・フロイドの名前が記載された2つ目の投稿は、いじめと嫌がらせに関するコミュニティ規定にも違反していると判断しました。同社は、このコミュニティ規定に基づいて、誰かの「死や病気を祝ったりあざけったりする」コンテンツを削除します。同社は「この画像には、故人であるトレイボン・マーティンとジョージ・フロイドの2名の名前が記載されている...このコンテンツは、彼らが架空のアニメーション映画で主演を務めると示唆することで彼らの死を矮小化している」と説明しました。
したがって、同社は3つの投稿をすべて削除しました。

委員会の権限と範囲

委員会には、プラットフォームに残されたコンテンツを報告した利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。

委員会の審査について検討中である事例で誤りがあったことをMetaが認めてその決定を撤回する場合、委員会は、本事例を要約決定の対象として選定する場合があります(定款第2条第2.1.3項)。委員会が当初の決定を審査してコンテンツモデレーションプロセスに関する理解を深めることで、誤りが減少し、FacebookとInstagramの利用者の公平性が高まります。

事例の重要性

本事例では、Metaがヘイトスピーチおよびいじめと嫌がらせに関する各ポリシーを効果的に施行できず、利用者からの苦情にもかかわらず、違反投稿を掲載し続けた3つの事例を取り上げています。これらの投稿のうち2件は、かなりの閲覧数がありました。こうしたポリシーの抑制的な施行によるモデレーションの誤りは、保護特性グループに属する人々に悪影響を及ぼし、差別的な環境を生み出す一因となる可能性があります。委員会は、社会から疎外されたグループに対するヘイトスピーチという戦略的な優先事項に対処することをMetaに受け入れさせました。

2022年に委員会は、「ヘイトスピーチに関するコミュニティ規定および審査担当者に提供されるガイダンスを明確にし、保護されたグループへの暗示的な言及もそれが合理的に理解されると考えられる場合には、かかるポリシーによって禁止されることを説明すること」をMetaに勧告しました(クニンに関連するアニメ、勧告1)。Metaは、この勧告を一部実施したと報告しています。

決定

委員会は、これらの3件の投稿を残すというMetaの当初の決定を無効と判断しました。委員会は、Metaにこれらの事例を指摘した後、Metaが当初の誤りを訂正したことを認めます。

मामले के निर्णयों और नीति सलाहकार राय पर लौटें