指定された危険人物の呼称としての「shaheed」

概要

委員会は、危険人物として指定された人物を指す際に「shaheed」という単語を使用するコンテンツのモデレーションに対するMetaのアプローチは、大幅かつ不相応に表現の自由を制限すると判断しました。Metaは、「危険」と指定された人物を指す「shaheed」の使用をすべて違反とみなし、当該コンテンツを削除します。Metaによると、「shaheed」という単語は、コミュニティ規定に基づくコンテンツ削除に占める割合がMetaのプラットフォーム上のほかのどの単語または語句よりも大きくなっています。テロリストの暴力行為は、罪のない人々の生活を破壊し、人権を蹂躙し、社会構造を弱体化させるなどの重大な結果をもたらします。しかし、そのような暴力を阻止するために表現の自由を制限する場合、そのような制限は必要かつ相応でなければなりません。コンテンツの不当な削除は、効果がないどころか、逆効果になる可能性さえあるからです。

委員会は、Metaのプラットフォームが暴力行為を扇動するためや、暴力に加担する人々を勧誘するために使用されないよう、同社が効果的な措置を講じることが不可欠であるという視点から最初の勧告を行います。「shaheed」という単語は、暴力的なテロ行為の実行中に死亡した人物を称賛・賛美するために過激主義者によって使用されることがあります。しかしながら、この脅威に対するMetaの対応も、表現の自由を含め、あらゆる人権を尊重するという指針に従って行わなければなりません。

委員会がこのポリシーに関する忠告をまとめたとおり、2023年10月7日にハマス(Metaの危険な団体および人物に関するポリシーに基づきレベル1に指定された組織)はイスラエルに対する前例のないテロ攻撃を実行し、推定1,200人を殺害するとともに、約240人を人質として拉致しています(イスラエル政府外務省)。2024年2月6日付けのニュース報道によると、1月初旬にハマスに拘束されたままになっていた推定136人の人質のうち少なくとも30人が死亡したとみられています。Metaは、危険な団体および人物に関するポリシーに基づき、この出来事をテロ攻撃として即時に指定しました。イスラエルは、この攻撃への報復として即時軍事作戦を展開しました。この軍事作戦によるガザの死者数は、3月4日時点で3万人以上に上っています(国際連合人道問題調整事務所、ガザの保健省からのデータを引用)。1月以降の報道では、死亡者の70%が女性と子供たちであると推定されています。

委員会は、これらの出来事を受けて、このポリシーに関する忠告の公開を一時停止し、委員会の勧告が、この状況でのMetaのプラットフォームと「shaheed」という単語の使用に対応していることを確認することにしました。この追加調査によって、「shaheed」という単語のモデレーションに関する委員会のMetaに対する勧告は、このような出来事による過度のストレス下でも耐え得るものであり、Metaによる危機対応時のあらゆる人権のいっそうの尊重を確保するものであることが確認されました。同時に委員会は、この分野におけるMetaのポリシーがグローバルなものであり、その影響の範囲は、この紛争をはるかに超えていることを強調します。委員会の勧告は、イスラエルとパレスチナにおける最近の出来事の顕著性を認めると同時に、グローバルなものでもあり、特定の文脈に限定されるものではありません。

委員会の考えでは、「shaheed」という単語のモデレーションに対するMetaのアプローチは、あまりに広すぎて、表現の自由や市民の議論を不相応に制限します。例えば、暴力や指定された個人・団体について報道する投稿が誤って削除される可能性があります。また、Metaのアプローチでは、「shaheed」のさまざまな意味(その多くは賛美や是認を意図するものではありません)を考慮することはできず、アラビア語や他の言語の話者(その多くがイスラム教徒)による投稿があまりに頻繁に削除されることになりますが、そうした削除は、危険な団体および人物に関するポリシーの目的にかなうものではありません。さらに、Metaのポリシーは、例えば、指定された人物、団体、イベントの称賛、支援、表現を禁止するほか、暴力の扇動を禁止しています。これらのポリシーを適切に適用すれば、テロリストがMetaのプラットフォームを使用することで生じる危険性を緩和することができます。したがって委員会はMetaに対し、危険と指定された人物を指す「shaheed」という単語の全面的な使用禁止を中止し、この単語を含むコンテンツについて、より文脈に即した分析が行われるようポリシーを改定することを勧告します。

背景

2023年2月にMetaは、危険な団体および人物に関するポリシーに基づき指定された人物を指すために、アラビア語の「shaheed」(アラビア文字ではشهيد)という単語を使用するコンテンツの削除を継続すべきかどうか委員会に尋ねました。「shaheed」も借用語です(つまり、多くの非アラビア語が、スペルを変化させるなどにより、このアラビア由来の単語を「借用」しています)。

同社は「shaheed」が、不慮の事故で死亡したり、戦争などで名誉の死を遂げたりした人物を指す際に「尊敬を表す」言葉として、文化、宗教、言語の異なるさまざまなコミュニティで使用されていると説明しています。同社は、この単語には「複数の意味」があり、「英語には、直接相当する語は存在しない」が、一般的な英訳は「martyr」(殉教者)であると認めています。Metaは「英語の『martyr』は、正当な理由で苦痛を受け、または死亡した人物を意味し、通常、肯定的な意味合いを持つ」としたうえで、「『shaheed』という単語を『危険な団体および人物』に関するポリシーに基づき称賛に該当するものとして分類したのは、この用法が理由である」と述べています。

指定された人物を「shaheed」と呼ぶことは、危険な団体および人物に関するポリシーに基づく「称賛」に常に該当するとするMetaの推定が全面的な禁止につながりました。Metaは、この単語には複数の意味があるため、「指定された人物の称賛を意図していない、特にアラビア語の話者間の大量の発言に対してポリシーが過剰適用された可能性がある」ことを認めています。また、Metaは、危険な団体および人物に関するポリシーの「指定された個人・団体について報道、非難、または中立的に議論」するための「shaheed」の使用を認める例外を適用していません。これは、同ポリシーの最新版(2023年12月)の下でも継続しており、現在は「称賛」に代わり「賛美」と「不明瞭な言及」が禁止され、「称賛」は完全に削除されています。

Metaは、これらの懸念により「shaheed」という単語へのアプローチを再評価するため、2020年にポリシーの策定プロセスを開始しました。しかし、社内で意見の一致には至らず、新たなアプローチについての合意はありません。

Metaは、このポリシーに関する忠告を要請する際に、次の3つのポリシーの選択肢を委員会に提示しました。

1. 現状を維持する。
2. 別の称賛や「暴力の兆候」が見られない限り、「称賛」禁止の例外の条件を満たす投稿(報道、中立的な議論、非難など)において、指定された個人に言及するために「shaheed」を使用することを認める。Metaが提案したこれらの兆候の例には、武器の視覚的描写、軍事用語や実際の暴力への言及などがありました。
3. 別の称賛や暴力の兆候が見られない限り、指定された個人に言及するために「shaheed」を使用することを許可する。これは、2つ目の選択肢とは対照的に、コンテンツが上記のいずれかの例外に該当するかどうかを問いません。

委員会は、他のポリシーの選択肢も検討しました。このポリシーに関する忠告を通して示される理由により、委員会の勧告は、3つ目の選択肢とほぼ一致しています。異なる点は、委員会が採用した暴力の兆候は、Metaが要請時に提案したものより少ないことと、指定された個人・団体およびその行為についての報道、中立的な議論、非難に関するポリシーの例外の適用範囲拡大の要件が存在することです。

主な調査結果と勧告

委員会は、危険として指定された個人と関連する「shaheed」という単語に対するMetaの現在のアプローチはあまりに広すぎ、大幅かつ不相応に表現の自由を制限すると判断しました。

「Shaheed」は文化的、宗教的に重要な単語です。時には、暴力行為を実行中に死亡した人物への称賛を示唆するために使用され、また、これらの人物を「賛美」している場合さえあります。しかし、この単語は、報道、中立的なコメント、学術的議論、人権に関する議論においても、危険人物に関連して、はるかに消極的な意味で頻繁に使用されます。また「shaheed」は、国や正義のために尽くして死亡した人物や、社会政治的暴力あるいは自然災害による不測の被害者を指す際にも広く使用されます。一部のイスラム教コミュニティでは、苗字や名前(ファーストネーム)として使用されることさえあります。「shaheed」に複数の意味があることから、テロリストやその暴力行為の称賛を意図していない大量のマテリアルが削除されたと判断する根拠があります。

指定された個人に言及する際に「shaheed」を使用していることを唯一の理由としてコンテンツを削除するMetaのアプローチは、この単語を常に英単語の「martyr」に相当する語としてのみ扱っており、「shaheed」の言語的複雑性や多様な用法を意図的に無視しています。このような取り扱いは、表現の自由やメディアの自由に大きな影響を及ぼし、市民の議論を不当に制限し、平等と無差別に重大な悪影響をもたらします。このようなポリシーの過剰適用は、アラビア語の話者や借用語として「shaheed」を使用する他の言語の話者に偏った影響を及ぼします。同時に、Metaは、危険な団体および人物に関するポリシーを他の方法で実施したとしても、安全性の価値観を高め、テロリストを賛美するマテリアルをプラットフォームから排除するという目標を前進させることができます。したがって、現行のポリシーは不均衡かつ不必要です。

「shaheed」という単語に関わるMetaのポリシーと適用方法を、人権基準に厳密に適合させるために、委員会は、以下の勧告を行います(勧告の全文は第6項を参照)。

1. Metaは、「shaheed」が、指定された個人または指定された団体の無名のメンバーに言及するために使用される場合には常に違反であり、ポリシーの例外の対象外であるとの推定を中止すべきです。指定された個人を「shaheed」と呼ぶコンテンツを、「不明瞭な言及」として削除するのは、2つの状況に限るべきです。1つ目の状況は、3つの暴力の兆候(兵器/武器の視覚的描写、兵器/武器の使用または携帯の意図または擁護の表明、指定されたイベントへの言及)のうち1つ以上が存在する場合です。2つ目は、コンテンツがMetaのポリシーにその他の形で違反している場合です(例えば、賛美や、指定された個人への言及が「shaheed」の使用以外の理由で不明瞭なままであるなど)。いずれのシナリオでも、コンテンツは依然として「報道、中立的な議論および非難」の例外の対象となります。

2. 「不明瞭な言及」の禁止を明確にするため、Metaは、違反コンテンツの例をいくつか含める必要があります。例えば、指定された個人を「shaheed」と呼ぶ投稿に、勧告1で指定する3つの暴力の兆候のうち1つ以上が伴う場合などです。

3. また、Metaは、指定された人物を「shaheed」と呼ぶことは、暴力の兆候が伴わない限り違反に該当せず、また、これらの兆候が存在するコンテンツでも「報道、中立的な議論または非難」の例外の適用対象となり得ることを明確にするために、ポリシーに関する社内指針を更新すべきです。

Metaがこれらの勧告を受け入れて、現行のルールに基づき実施した場合、同社は、指定された個人を「賛美」するコンテンツ、暴力やヘイト行為を功績とみなすコンテンツ、あるいは指定された危険な個人・団体を支援または表現するコンテンツを引き続き削除することになります。これらの勧告の結果として委員会が提案するアプローチでは、Metaは、指定された個人を指す「shaheed」を常に違反と解釈するのを止め、別のポリシー違反(賛美など)が伴う場合または暴力の兆候により「不明瞭な言及」としてのみコンテンツを削除することになります。ただし、こうしたコンテンツは、指定された個人についての「報道、中立的な議論および非難」に関するポリシーの例外の適用対象とする必要があります。

また、委員会はMetaが次の対応をするよう勧告します。

4. 個人・団体やイベントが危険な団体および人物に関するポリシーに基づき指定される際の手順について詳しく説明することで、このリストに関する透明性を改善すること。また、Metaは、指定リストの各レベルの個人・団体の総数のほか、過去1年間に追加・削除された個人・団体数に関する集計情報を公開すべきです。

5. 危険な団体および人物のリストが最新であり、Metaの指定の定義を満たさなくなった団体、人物、イベントが掲載されていないよう確認するために、指定リストを定期的に監査し、公開された基準を満たさなくなった団体、人物、イベントを削除するための明確かつ効果的なプロセスを導入すること。

6. 危険な団体および人物に関するポリシーの適用においてMetaが人間による審査の精度および自動システムの性能について評価するために使用する方法について説明すること。また、Metaは、このポリシーを適用する際に使用する分類システムの性能評価の結果を定期的に共有するとともに、異なる言語、異なる宗教間で比較できる方法で結果を提供すべきです。

7. ポリシー違反の予測を生成するための分類システムの使用方法と、Metaがコンテンツについて無措置、人間による審査対象への追加、または削除のいずれにするかを判断する基準の設定方法を明確に説明すること。この情報は、関係者への情報提供のために同社の透明性センターで提供されるべきです。

ポリシーに関する忠告の全文

1. Metaの要請

I. ポリシーに関する忠告の要請

1. この要請(英語とアラビア語で閲覧可能)の中で、Metaは危険な団体および人物に関するポリシーに基づいて、危険人物として指定された個人を「shaheed」(شهيد) (およびその単数形/複数形、アラビア語とその他の言語の借用語の変化形を含む)と表現するコンテンツを引き続き削除するべきか、あるいは別のアプローチを採るほうが同社の価値観と人権保障責任に合致するのではないかという質問を委員会に提示しています。また、今後生じる可能性のある、コンテンツ関連の同様の課題に関する指針も求めています。

II. Metaのアプローチ

2. Metaの危険な団体および人物に関するポリシーでは、これまで、「指定された個人・団体」および「違反している暴力的なイベント」に指定された事件の「称賛、実質的な支援もしくは表現」を禁止していました。2023年12月29日にMetaは、このポリシーを更新し、称賛の禁止を削除するとともに、「賛美」と「不明瞭な言及」の禁止を追加しました。委員会は、このポリシーの変更が委員会の調査結果と勧告に与える影響を評価するために検討を加えました。

3. このポリシーに関する忠告の要請は、指定された個人の称賛の禁止に関するもので、並記された実質的な支援および表現の禁止に関するものではありませんでした。Metaは、表現や実質的な支援と比較して、「称賛」を最も重大性の低い違反とみなしていました。Metaは、テロ組織、ヘイト団体、犯罪組織などの最も危険な団体のために「レベル1」を留保しています。Metaが「違反に該当する暴力的イベント」を指定する際には、その事件の加害者もレベル1の危険人物として指定され、したがって、それらの人物の賛美(以前は「称賛」)も禁止されます。指定されるイベントには、「テロ攻撃、ヘイトイベント、多数の被害者が発生する暴力、連続殺人、ヘイトクライム」があります。Metaは指定された個人・団体の独自のリスト(非公開)を管理しており、指定の一部は米国政府の指定リストに基づいています(すなわち、Metaの指定リストは米国政府のリストから派生しているため、少なくとも同リストと同程度に広範となります)。コミュニティ規定では、レベル1の個人・団体には、「特別指定麻薬取引人(SDNTK)」、「海外テロ組織(FTO)」、「特別指定国際テロリスト」が含まれると説明されています。これらの米国政府のリストは、こちら、こちら、こちらでそれぞれ公開されています。

4. 2023年12月29日のポリシーの更新前のMetaの「称賛」の定義には、「指定された個人・団体やイベントについて肯定的に語ること」、「指定された個人・団体に達成感を与えること」、「憎悪に満ちた行為、暴力的行為、または犯罪的な行為が法的に、道徳的に、またはその他の方法で正しいと判断または容認されるとして、指定された個人・団体の目的を正当化すること」または「指定された個人・団体やイベントのイデオロギーに同調すること」が含まれていました。この定義と一連の例は、監督委員会の初期の事例における勧告(ナチスの引用に関する決定、勧告2)に従って、明確化するために同ポリシーに追加されました。2023年12月のポリシーの更新後、「賛美」は、「指定された個人・団体による暴力的行為または憎悪に満ちた行為には、それらを許容可能または妥当なものにする、道徳的、政治的、論理的またはその他の正当な理由があると主張することで、これらの行為を正当化または擁護すること」あるいは「指定された個人・団体による暴力またはヘイト行為を功績または偉業として称賛または特徴付けること」と定義されています。さらに、Metaは、このポリシーの更新において「利用者の意図が明確に示されていない場合は、不明瞭なまたは背景の説明がない言及も削除する」と述べています。同ポリシーには「これには、指定された個人・団体による暴力やヘイト行為を賛美するものではない、不明瞭なユーモアや、キャプションのない言及、肯定的な言及」が含まれると定められています。しかし、同ポリシーでは、このルールに違反する種類の投稿の例が提供されていません。Metaは、指定された人物を「shaheed」と呼ぶコンテンンツを今後もすべて削除すると委員会に伝えています。この呼称に関し、同社は、「shaheed」があらゆる文脈において違反であるとみなしており、その結果、指定された個人を指すために使用されている場合には、この単語を全面禁止にしています。この禁止の範囲は、前述の米国の指定リストを参照することで部分的に説明することができます。Meta独自の派生的なリストに掲載された人物(および団体のメンバー)を「shaheed」(または「martyr」という単語のその他の訳語)と呼ぶことは、Metaのポリシーに基づき一切禁止されているからです。これには、世界中の個人・団体が含まれており、テロ組織や、ある特定のイデオロギーを持つ組織に限定されません。

5. 同社は「shaheed」が「尊敬を表す」言葉として、文化、宗教、言語の異なるさまざまなコミュニティで使用されていると説明しています。同社はこの言葉が「複数の意味」を持ち、「思いがけなく、または若くして亡くなった人物を表現するのに使用され、事故や紛争・戦争で亡くなった場合など、名誉を与えるべき死を指すこともある」と認めています。Metaは「英語には、これに直接相当する単語はない」が、一般的な英訳は「martyr」であると述べています。2023年12月のポリシーの変更前に委員会に要請を提出するにあたり、Metaは「この単語は『martyr』を意味するとみなしている」こと、また、「この単語を『危険な団体および人物』に関するポリシーに基づき称賛に該当するものとして分類したのは、この用法が理由である」と述べています。公表されているコミュニティ規定でこのルールの参考となるものは、称賛の禁止に違反するフレーズの例のみでした。Metaは、その他の例とともに、有罪判決を受けた米国のテロリストを「martyr」と呼ぶフレーズを例に含めました。同ポリシーのアラビア語版では、「martyr」を「shaheed」と訳して、同じ例を使用していました。「martyr」/「shaheed」の例は、公表されているコミュニティ規定の2023年12月の更新で削除されましたが、Metaは、これが引き続き違反に該当し、モデレーターは削除するよう指示を受けていると委員会に伝えました。

6. Metaは、指定された人物を指す「shaheed」の使用に対し、危険な団体および人物に関するポリシーの例外を適用していません。これらの例外では、指定された人物に関する「報道、中立的な議論、非難」を認めています。指定された人物の「称賛」として「shaheed」を含むコンテンツを削除することは、利用者にとって厳しい「ストライク」となり、これが積み重なると、アカウントやページの一時停止や利用停止などの制裁にすぐにつながることになります。「shaheed」に関するルールに例外を適用しないことは、公表されているコミュニティ規定では説明されていません。

7. Metaは、このコンテンツが「オフラインでの危害のリスクを助長する」可能性があると考えているため、「shaheed」の扱いは、Metaの安全の推進という価値観を促進すると説明しています。同時にMetaは、英語の「martyr」は「shaheed」の訳語として適当ではないと認めています。「shaheed」に複数の意味があることと、大規模審査で文脈や利用者の意図を考慮することは困難であることから、Metaは「危害のリスクを助長せず」、「指定された人物の称賛を意図していない」発言、特にアラビア語の話者の間の発言を削除していることを認めました。例えば、指定された人物やその行為の称賛(または賛美)ではなく、ニュース報道や早すぎる死に関する中立的な議論で「shaheed」が使用されているコンテンツの削除などです。

8. 2023年8月29日にMetaは、危険な団体および人物に関するポリシーの例外を更新し、「ニュース報道」、「中立的な議論」および「非難」の定義を、各例外の実例とともに同ポリシーに追記しました。同時にMetaは、利用者が「社会的・政治的議論の文脈において」、指定された個人・団体に言及できることを認めるために、この例外の説明を追加しました。許可されるコンテンツの実例は、2023年12月のポリシーの更新の一環としてすべて削除されましたが、例外自体は残されています。これらの例は、2024年2月8日のポリシーの更新で再び挿入されました。しかし、2023年12月と2024年2月のいずれの更新でも、指定された個人または団体についての不明瞭な言及と背景説明がない言及は、投稿自体の中で明確に示された意図の欠如によって定義されるため、これらの例外の対象とならないことは明示されていません。

9. Metaは、「shaheed」という単語に対するアプローチを再評価するために2020年にポリシー策定プロセスを開始しました。これには、調査の検討や関係者との協議が含まれます。Metaはこの関係者の関与から得られた主な知見として、「shaheed」の意味が文脈によって異なり、また「場合によってはこの言葉が称賛とは関連なく、切り離して使用されること」を挙げています。同時に、「shaheed」が、指定された人物の称賛として使用され、理解されている例も間違いなく存在します。1つの投稿において意図の違いを判断することは、特に大規模審査では本質的に困難です。Metaは、要請の中で概要が示されているとおり、このプロセスの過程で、「shaheed」という単語の現在の取り扱い方法の代替案としてポリシーの選択肢を2つ提示しています。しかし、どちらの選択肢がより適切であるかについて、関係者の間で意見の一致が見られなかったため新たなアプローチの決定には至りませんでした。同社は、プラットフォーム上に大量のコンテンツが存在することから、変更後のポリシーの大規模な適用可能性が実用的観点での主な懸念事項だと強調しています。

III. Metaが委員会に検討を要請したポリシーの変更

10. Metaは、「称賛」の禁止を「賛美」および「不明瞭な言及」の禁止に置き換える前に、以下のポリシーの選択肢を委員会に提示し、検討を求めました。

1)危険な団体および人物に関するポリシーに基づき、危険人物として指定された個人への言及に「shaheed」を使用するコンテンツをすべて削除する措置を継続する。

2)以下の3つの条件を満たす場合に、指定された個人を「shaheed」と表現するコンテンツを許可する。(i)危険な団体および人物に関するポリシーに基づき認められている文脈(非難、ニュース報道、学術的議論、社会的・政治的議論など)で使用される、(ii)指定された個人に対する追加の称賛、表現、実質的な支援が存在しない(例: 投稿がテロ攻撃の実行犯を明示的に称賛したり、その暴力を正当化したりしていない)、(iii)コンテンツに暴力の兆候が見られない。Metaが提案する兆候は、次のとおりです。兵器の視覚的描写、兵器/武器の使用または携帯の意図または擁護の表明、軍事用語への言及、放火、略奪、その他の財産の破壊への言及、実際に起きた既知の暴力事件への言及、人間に対する暴力の意図の表明、実行の呼びかけ、表現、支援、擁護。

3)追加の称賛、表現、実質的な支援が存在する場合、あるいは暴力の兆候が見られる場合にのみ、Metaの危険な団体および人物に関するポリシーに基づき、危険人物として指定された個人への言及に「shaheed」を使用するコンテンツを削除する。これらの兆候は、2番目の選択肢で説明されているものと同じです。

11. 2番目と3番目の選択肢は、いずれも「shaheed」の使用について、文脈に沿って理解を深めることを目指しており、意図する結果に大きな違いはないように思われます。これらの2つの選択肢は、Metaが一般に称賛(現在は賛美)の禁止に適用する、文脈に基づく例外の範囲を拡大している点において、さらに類似しているように思われます(上記の第8項を参照)。これら2つの選択肢の適用と結果の違いについてMetaに尋ねた結果、委員会は、主要な違いを次のように理解しました。2番目の選択肢では、例外の1つ(報道、中立的な議論、非難)がコンテンツに適用されることを検討・確認する必要がある一方、3番目の選択肢では、そのようなステップは無視され、投稿に追加の称賛(現在は「賛美」または「不明瞭な言及」)または上記の6つの暴力の兆候のいずれか1つがあるかどうかのみが検討されます。Metaが提案したどの選択肢でも、指定された人物の名前に言及または描写するコンテンツは、その意図が曖昧または不明瞭な場合には、同ポリシーの適用によりデフォルトで違反として扱われるため、利用者は意図を明確に示すという負担を負います。2023年12月の変更で、このような適用が危険な団体および人物に関するコミュニティ規定に組み込まれ、レベル1の個人・団体や指定されたイベントに関する「不明瞭なまたは背景の説明がない言及」が同ポリシーで禁止されること、また、これには「指定された個人・団体による暴力やヘイト行為を賛美するものではない、不明瞭なユーモアや、キャプションのない言及、肯定的な言及」が含まれることが説明されています。例えば、指定された個人の写真に言葉やコメントが一切伴わない場合、この写真は、利用者の意図が十分に明示されていないため、不明瞭な言及を禁止するポリシーに基づき削除されます。

12. 委員会はMetaが提示した選択肢を検討すると同時に、2023年12月のポリシーの変更などについても検討しました。また、Metaが今後生じる同様の問題に対処するために、委員会にポリシーに関する勧告を直接要請したことから、委員会は、このポリシーに関する忠告において明らかな分野でのMetaのポリシーの適用と透明性に関する慣行に関わる問題を評価しました。ただし、これらは、表現の自由やその他の人権に対しても影響があります。

IV. 委員会からMetaへの質問

13. 委員会はMetaに書面で41件の質問をしました。質問は次の事項に関するものでした。危険な団体および人物に関するコミュニティ規定の背後にあるポリシーの基本理念、Metaのプラットフォーム上で「称賛」を認めることから生じる恐れのある危害の証拠、Metaの人および自動システムによるポリシー適用プロセス、Metaの指定プロセスと指定された個人・団体のリスト、Metaのストライクシステム、ポリシーの選択肢2または3を採用した場合の実務への影響。2023年10月に、委員会は10月7日に発生したイスラエルへのテロ攻撃と、現在継続中のイスラエルによる軍事対応に関連した「shaheed」という単語に関するコンテンツの傾向、および要請時に委員会に提示されたポリシーの選択肢に関するMetaの分析が、現在の危機を踏まえて変化したかどうかについて補足質問をしました。委員会は、Metaの2023年12月29日のポリシーの更新について3つの追加質問をしました。合計40件の質問について回答があり、1件については部分的な回答がありました。Metaは、「称賛」が禁止されるのは、レベル1に指定された個人・団体に言及する場合に限られると説明し、委員会にレベル1に指定された個人・団体のリストのみを提出し、レベル2と3のリストは提出しませんでした。

2. ステークホルダーエンゲージメント

14. 監督委員会には、提出条件を満たす101件のパブリックコメントが寄せられました。合計72件は米国・カナダ地域からのものでした。また、15件は中東・北アフリカから、8件は欧州から、3件はアジア太平洋・オセアニアから、2件はラテンアメリカ・カリブ海地域から、1件は中央・南アジアから寄せられたものでした。すべて2023年4月10日までに受け取りました。公開に同意して提出されたパブリックコメントを読むには、こちらをクリックしてください。

15. 提出された意見は、さまざまな問題を取り上げていました。その多くは「shaheed」という単語の複数の意味について説明し、その結果として、Metaがデフォルトでこの単語を「称賛」として取り扱うことが、表現の自由、特に政治的意見や人権に関する資料における表現の自由に悪影響を及ぼすことについて説明していました。また提出意見では、ポリシー適用に自動システムを使用することについての懸念のほか、Metaの指定リスト、透明性の問題、指定プロセスにおけるバイアスの可能性についての懸念にも触れていました。ほかには、ポリシーの変更によって、特にイスラエルと占領下のパレスチナ地域でテロ集団の常在化や、暴力の増加を招く恐れがあるとの懸念を示すものがありました。

16. 委員会は、西南アジア、北アフリカ、サハラ以南のアフリカおよび東南アジアの地域関係者との討論会を3回行いました。加えて、対象分野の討論会も2回行いました。1つはコンテンツモデレーションの自動化について、1つはテロ対策と人権についてです。参加者は「shaheed」には数多くの意味があることを強調しました。「殉教」はその1つであり、これには、テロ行為の実行時の個人の死亡も含まれますが、「shaheed」は、テロ攻撃による暴力の被害者を表現するなど、他の文脈で使われることも多くあります。影響を受けるコミュニティのメンバーや、テロ対策の専門家、コンテンツモデレーションの専門家を含む、多くの参加者は、同ポリシーのバイアスについて懸念を示すとともに、それが表現の自由、特にアラビア語の話者や「shaheed」を使用する他のコミュニティの表現の自由にどのような悪影響を及ぼすかについて議論しました。その他のテーマには、指定された人物を指す「shaheed」の使用と実際の危害の因果関係を示す証拠の欠如などがありました。この点は国家安全保障やテロ対策の専門家も強調していました。同様に、この単語のモデレーションをまったく行わなければ、指定された人物や団体の常在化を許してしまい、これらの人物が勧誘、その他の実質的な支援のためにソーシャルメディアを使用する恐れがあります。その他のトピックには、Metaがこの単語のコンテンツモデレーションで使用する自動システムの質についての懸念や、自動システムの使用、指定された団体・個人に関するMetaのリストおよび指定プロセスに関する透明性の改善を求める参加者からの要請などがありました。

17. ステークホルダーエンゲージメントの討論会に関する報告書は、こちらをクリックしてください(アラビア語バージョンはこちらをクリックしてください)。

3. 監督委員会の権限と範囲

18. Metaは、ポリシーに関する忠告を委員会に要請することができ(憲章第3条、第7.3項)、委員会は、Metaの要請を承諾または拒否する裁量権を有します(定款第2条、第2.1.3項)。これらの意見は忠告です(憲章第3条、第7.3項)。Metaは、公開から60日以内にこの意見に回答する必要があります(定款第2条、第2.3.2項)。委員会は、Metaが対応すると約束した勧告の実施をモニタリングするとともに、委員会の事例に関する決定事項における過去の勧告のフォローアップを行う場合があります。

4. 先例および指針の資料

I. 監督委員会の過去の勧告

19. 過去の事例で委員会は、Metaに危険な団体および人物に関するポリシーの範囲を明確化し、狭めること、ポリシーの適用に関する適正手続きと透明性を改善することを勧告しました。

20. 委員会は、ポリシーの範囲を明確化し、狭めることに関連してMetaに以下を勧告しました。

• 審査担当者向けの論点集のガイダンスの「称賛」の定義を狭めること(報道におけるタリバンへの言及、勧告3)
• 社内ガイダンスを改訂し、危険な団体および個人に関するポリシーで定める「報告」(報道)の許容要件により、報道の一環として、指定された個人・団体について肯定的に発言することが許可されること、また、こうした肯定的な発言と禁止される「称賛」を区別する方法を明確にすること(報道におけるタリバンへの言及、勧告4)。
• 中立的な議論や非難、ニュース報道に関する例外について理解を深めるために条件や例示を追記すること(アルジャジーラの投稿のシェア、勧告1)
• 表現の自由とその他の人権を尊重することにより、Metaの安全性の価値観を高めることができる旨を反映するためにポリシーの基本理念を更新すること、意見の価値観が抑制される場合にポリシーが防止しようとしている「実際の危害」について詳細に規定すること(オジャラン氏の隔離、勧告4)
• 利用者は、ポリシーの例外の適用を受けるために、どうすれば投稿の意図を明確にできるかについて説明すること(オジャラン氏の隔離、勧告6)。
• 「称賛」の意味など、危険な団体および人物に関するポリシーの主要な用語の適用について説明し、例示するとともに、意図を明確にする方法について、より分かりやすいガイダンスを利用者に提供すること(ナチスの引用、勧告2)。

21. 委員会は、Metaのストライクシステムに関連してMetaに以下を勧告しました。

• FacebookおよびInstagram上のプロフィール、ページ、グループ、アカウントを制限する際のストライクやペナルティのプロセスについて明確、包括的に、かつ分かりやすく説明すること(トランプ前大統領のアカウント停止、勧告15)。
• 二重構造のストライク制度について公開されている説明を、より包括的でアクセスしやすいものにし、「厳しいストライク」に関する詳しい経緯を提供すること(報道におけるタリバンへの言及、勧告2)。
• 利用者に対して判定された違反の数、ストライク回数、課された罰則の数について、ならびに以後違反した場合はどのような結果となるのかについて、わかりやすく容易に確認できる情報を利用者に提供すること(トランプ前大統領のアカウント停止、勧告16)。

22. 委員会は、透明性に関連してMetaに以下を勧告しました。

• 指定された個人・団体のリストを一般公開するか、少なくとも、指定された個人・団体の具体例を提供すること(ナチスの引用、勧告3)。
• プロフィール、ページ、アカウントの制限件数を(コンテンツ削除決定件数とともに)、地域別・国別に分けた情報とともに明記することで、ポリシーの適用に関する報告を改善すること(トランプ前大統領のアカウント停止、勧告17)。
• 危険な人物および団体の「称賛」や「支援」に対してルールを実施する際のエラー率について、地域ごと、言語ごとに分類し、より包括的な情報を盛り込むこと(オジャラン氏の隔離、勧告12)
• 各コミュニティ規定のエラー率に関する公開情報を増やし、国・言語別に閲覧可能にすること(インドのRSSに対するパンジャブ人の懸念、勧告3)

23. 委員会は、自動システムに関連してMetaに以下を勧告しました。

• 利用者のコンテンツに対して自動システムによって措置が講じられた場合は(それがどのような意味を持つかについてのわかりやすい説明を付けて)利用者に通知すること(乳がんの症状とヌード、勧告3)。
• 透明性レポートを拡充し、コミュニティ規定に従った自動機能による削除決定の件数と、それらの決定のうち後に人間による審査を経て撤回された件数の比率データを開示すること(乳がんの症状とヌード、勧告6)。
• コンテンツが違反コンテンツのメディアマッチングサービスバンクに誤って追加されるエラー率を、コンテンツポリシー別に分けて、透明性レポートで公表すること。このレポートには、コンテンツがバンクに登録された経緯のほか、この過程におけるエラーを削減するための同社の取り組みに関する情報を含める必要があります(コロンビア警察に関連する風刺画、勧告3)。
• 自動システムによる優先順位付けと異議申し立ての打ち切りに関する説明を公表すること(イランにおける抗議デモのスローガン、勧告7)

24. この意見がまとめられた時点での、これらの過去の勧告の実施状況を確認するには、こちらをクリックしてください(アラビア語版は、こちらをクリックしてください。)。

II. Metaの価値観と人権保障責任

25. このポリシーに関する忠告における委員会の分析と勧告は、Metaの価値観と人権保障責任に基づいています。

26. Metaは、意見を「最も重要」な価値観と位置づけ、他の4つの価値観を重んじることを目的として、これを制限する場合があると述べていますが、これらのうち、このポリシーに関する忠告に最も関連性が高いのは安全性です。「安全性」の価値観を守るため、Metaは「身体の安全に危害を及ぼすリスクにつながり得るコンテンツを削除」しています。また「利用者を脅かすようなコンテンツ」は、「他の人を脅迫したり、排除したり、黙らせたりすることにつながる可能性」があるため、認められていません。

27. 2021年3月16日、Metaは人権に関する企業ポリシーを発表し、その中で、国連ビジネスと人権に関する指導原則(UNGPs)に従って権利を尊重することへの決意の概要を示しました。UNGPsは、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。この責任は、とりわけ、企業が「他者への人権侵害を回避し、企業が関与した人権への悪影響に対処すべき」ことを意味します(UNGPs、原則11)。企業は、「(a) 企業活動による人権への悪影響の惹起またはその助長を回避し、惹起した際には対処すること。(b) 企業活動と直接関連する、または取引関係による製品もしくはサービスに直接関連する人権への悪影響については、企業がその惹起に寄与していなくても、回避または軽減に努めること」ことが期待されます(UNGPs、原則13)。

28. Metaが委員会への要請で認めているとおり、Metaのコンテンツモデレーションの慣行は、表現の自由の権利に悪影響を及ぼす可能性があります。市民的及び政治的権利に関する国際規約(ICCPR)の第19条第2項には、政治的議論の重要性を考慮し、この権利の幅広い保護を規定しています。また、規約人権委員会は、極めて攻撃的と思われる表現も保護されると述べています(一般的意見34、第11項、第13項および第38項)。国が表現を制限する場合、その制限は合法性、正当な目的、および必要性と相応性の各要件を満たさなければなりません(ICCPR第19条第3項)。これらの要件はよく「3要素のテスト」と呼ばれます。委員会は、審査対象であるコンテンツに関する個別の決定、およびコンテンツガバナンスに対するMetaの幅広いアプローチの両方に関して、この枠組みを用い、人権に対するMetaの自主的な取り組みを解釈します。意見と表現の自由に関する国連特別報告者が述べているとおり、「企業には政府と同じ義務はないが、影響力が高いため、ユーザーの表現の自由に対する権利の保護に関して、企業も政府と同様の問題を評価する必要があります」(報告書A/74/486第41項)。

29. 表現の自由の権利は、すべての人々に平等に保証されています。この権利に制限を課す場合は、宗教・信条、使用言語、国籍などに基づく差別なく、制限が課されなければなりません(ICCPR第2条および第26条)。

合法性(規則の明確さとわかりやすさ・閲覧可能性)

30. 表現の自由に対する制限は、どのようなコンテンツが認められ、どのようなコンテンツが禁止されるかに関する指針をユーザーやコンテンツの審査担当者に提供できるように、アクセスしやすく、かつ適用範囲、意味合い、効果の点で十分に明確である必要があります。明確さや正確さに欠けると、一貫性のない、恣意的なルールの適用につながる可能性があります(国連特別報告者報告書A/HRC/38/35、第46項)。委員会は、危険な団体および人物に関するポリシーの明確さの欠如を過去に批判し、ポリシーの改善をMetaに勧告しました(オジャラン氏の隔離、勧告4および6、アルジャジーラの投稿のシェア、勧告1、報道におけるタリバンへの言及勧告3および4)。Metaは、その後、称賛の定義の明確化に関する委員会の勧告を実施しました。

31. しかしながら、Metaの危険な団体および人物に関するポリシーの2023年12月の更新は、適法性について新たな懸念を生じさせています。Metaは、「表現」、「支援」、「賛美」の禁止に違反する投稿の例を提供していますが、「不明瞭な言及」の違反の例を提供していません。このポリシーに関する忠告での委員会の勧告は、Metaのルールの明確さとわかりやすさ・閲覧可能性のさらなる改善を目的としています。

正当な目的

32. ICCPR第19条第3項の規定に従って、表現に対する制限は、正当な目的を追求するものでなければならず、これには他者の権利の保護のほか、国の安全など、より広範な社会的利益の保護が含まれます(一般的意見34第21項および第30項も参照)。Metaの危険な団体および人物に関するコミュニティ規定の基本理念には、「実際の危害や損害の発生を防止すること」を目標とする旨が説明されており、委員会は、さまざまな事例において、これが生命に対する権利(ICCPR第6条)を含む、他者の権利の保護という正当な目的に合致すると判断しています。また委員会は、指定された個人・団体の称賛は、他者の権利に対する危害のリスクをもたらす可能性があり、危険な団体および人物に関するポリシーで称賛を禁止することで、このような危害の軽減に努めることは正当な目的に当たることも過去に認めています(報道におけるタリバンへの言及).

必要性と相応性

33. 表現の自由に対する制限は、「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応でなければなりません」(一般的意見34、第34項)。

34. 国連安全保障理事会決議1624 (2005年)は、加盟国に対し、国際法の下の義務に則り、必要かつ適切な措置を講じて、「テロ行為の実行の扇動を法律で禁止すること」(第1a項)を求めており、また、その後の決議では、テロ組織によるインターネットの利用について懸念が示されています(UNSC決議2178 (2014年)とUNSC決議2396 (2017年))。これらの決議によって、加盟国は国際人権法に基づく義務に則ってテロの対処・防止を行う必要があることが再確認された一方で、テロ対策における人権および基本的自由の促進と擁護に関する国連特別報告者は、オンラインでの表現に関するものなど、加盟国の義務の履行を目指す法律の曖昧さと、発言者の意図やその発言が他者に及ぼす影響よりも発言の内容が重視されることの両方に懸念を表明しています(報告書A/HRC/40/52、第37項)。特別報告者は、テロリストのプロパガンダを犯罪化するには、「問題とされる表現によって、テロ行為の扇動が妥当な確率で成功する必要があり、そのため、非合法な結果の発生の因果関係や実際のリスクの程度を明らかにする必要がある」と結論づけています(同書)。表現の自由に関する国連特別報告者、メディアの自由に関するOSCE代表、および表現の自由に関するOAS特別報告者のインターネットとテロ対策に関する共同宣言(2005年12月21日)には、問題とされる言論が、テロ行為の実行を他者に直接的かつ意図的に呼びかける行為に該当し、かつそれによって、テロ行為の発生可能性が直接的に高まることが明確に示されなければ、国は制裁措置によって言論を制限および処罰してはならないと述べられています(39ページ)。また、表現の自由に関する特別報告者は、報告書A/HRC/17/27 (2011年5月16日、第36項)において高いハードルを定めており、国家安全保障やテロ対策の目的で表現を制限するのは、「(a)表現が、差し迫った暴力の扇動を意図しており、(b)表現が、そのような暴力を扇動する可能性が高く、かつ(c)そのような表現と暴力の発生可能性または発生の間に直接的な関係が存在する場合に限るべき」だと述べています。規約人権委員会によると、テロ対策のために特定の言論を禁止する場合、「奨励」、「賛美」、「称賛」などの用語を「狭く定義」しなければならず、また、「テロ行為について国民に伝えるメディアの重要な役割を不当に制限」してはなりません(一般的意見34、第30項および第46項)。

35. これらの原則や基準は委員会の分析の重要なスタート地点ですが、国際人権法が各国に課す義務と制限は、この分野において民間企業が有する責任や裁量権と同じではありません。国による刑事罰の適用は、ソーシャルメディアプラットフォーム上のコンテンツモデレーションと同等ではなく、委員会は、Metaが国ではなく民間企業として、会社の価値観(上記の第27～28項を参照)とコンテンツの大規模なモデレーションに特有の課題の両方を考慮して、国が正当と認められる以上に制限的なアプローチを表現に対してとることができること、また、実際にそのようなアプローチをとる場合があることを認識しています。表現の自由に関する国連特別報告者によると、「企業のルールが国際基準と異なる場合、企業は、ポリシーの違いについて、その相違点を正確に示す方法で、理由も含めた説明を事前に提供する必要があります」(表現の自由に関する特別報告者のオンラインヘイトスピーチに関する報告書、A/74/486 (2019年10月9日)、第48項)。過去の多くの決定において委員会は、相応性の要件を評価する際に、国を対象に策定された国際基準を企業の人権保障責任に適切に置き換える方法を検討してきましたが、このポリシーに関する忠告でもそれを達成しようとしています。

36. 危険な団体および人物に関するコミュニティ規定に関連する過去の委員会の決定でも、指定された個人・団体の「称賛」に関連してMetaの人権保障責任を検討しています。指定された個人・団体が暴力の扇動、勧誘、その他の物質的支援を行うためにMetaのプラットフォームを悪用するのを阻止することは正当な目的にあたりますが、委員会は、さまざまな事例において、「称賛」の禁止の広範さと不正確さが利用者の表現を不必要かつ不相応に制限しているのを確認しています。たとえば、委員会は、女性と少女の教育改革計画についてのタリバンの発表に関するウルドゥー語の新聞の投稿は、「称賛」にあたらないと判断し、削除を撤回させました(報道におけるタリバンへの言及)。同様に、ある格言をヨーゼフ・ゲッベルスのものだと間違えていた利用者の投稿をMetaが削除した事例(ナチスの引用)では、この投稿がナチを称賛するものでなく、米国で政治的議論をしていたことを明確に示す十分な背景情報があったことから、この投稿の削除を撤回させました。また委員会は、指定されたテロ集団による暴力の脅威に関するアルジャジーラのニュース記事をシェアした投稿を削除したMetaの決定は無効であり、この投稿をプラットフォームに残すべきだと判断して、Metaのポリシーが差別的な影響を及ぼす可能性について懸念を表明しました(アルジャジーラの投稿のシェア)。概要および至急決定においても、委員会は、指定された人物の称賛として当初削除されたFacebookおよびInstagramの投稿に関するMetaの複数の削除決定を撤回させ、または撤回を求めました(反植民地主義のリーダーのアミルカル・カブラル氏、レバノンの活動家、反ユダヤ主義への応酬、ナイジェリアの連邦選挙区、アフガニスタンにおける女子教育、アル・シャバーブへの言及、神を称えよ、イスラエルから拉致された人質)。Metaの危険な団体および人物に関するポリシーの最近の変更にかかわらず、これらの決定の多くは、今なお関連性があります。委員会は、賛美と「不明瞭な言及」についての新しい規定に関連する事例など、今後の事例でも、引き続きこのポリシーを検討する予定です。

6. 勧告と分析

37. 監督委員会は、コンテンツポリシー、ポリシーの適用および透明性に関してMetaに7件の勧告を行いました。委員会は、これらの勧告は大規模審査で実行可能であり、Metaの意見および安全性の価値観の遵守を促進させるとともに、Metaによる表現の自由やその他の人権の尊重と透明性を改善させると考えています。

6.1 Metaの「shaheed」に関するポリシー

勧告1 – コンテンツポリシー: Metaは、「shaheed」が、指定された個人または指定された団体の無名のメンバーに言及するために使用される場合には常に違反であり、ポリシーの例外の対象外であるとの推定を中止すべきです。指定された個人を「shaheed」と呼ぶコンテンツを「不明瞭な言及」として削除するのは、2つの状況に限定すべきです。1つ目の状況は、3つの暴力の兆候(兵器/武器の視覚的描写、兵器/武器の使用または携帯の意図または擁護の表明、指定されたイベントへの言及)のうち1つ以上が存在する場合です。2つ目は、コンテンツがMetaのポリシーにその他の形で違反している場合です(例えば、賛美や、指定された個人への言及が「shaheed」の使用以外の理由で不明瞭なままであるなど)。いずれのシナリオでも、コンテンツは依然として「報道、中立的な議論および非難」の例外の対象となります。

委員会は、Metaが、上記の3つの暴力の兆候のうち1つ以上が存在する場合に、指定された人物を「shaheed」と呼ぶことは許可されない旨を明記するためにコミュニティ規定を更新し、公開した時点で、Metaがこの勧告に従ったものとみなします。

勧告2 – コンテンツポリシー: 「不明瞭な言及」の禁止を明確にするため、Metaは、違反コンテンツの例をいくつか含める必要があります。例えば、指定された個人を「shaheed」と呼ぶ投稿に、勧告1で指定する3つの暴力の兆候のうち1つ以上が伴う場合などです。

委員会は、Metaが「不明瞭な言及」の例を追記してコミュニティ規定を更新し、公開した時点で、Metaがこの勧告に従ったものとみなします。

勧告3 – ポリシーの適用: また、Metaは、指定された個人を「shaheed」と呼ぶことは、暴力の兆候が伴わない限り、違反に該当せず、また、これらの兆候が存在するコンテンツでも「報道、中立的な議論または非難」の例外の適用対象となり得ることを明確にするために、ポリシーに関する社内指針も更新すべきです。

委員会は、Metaが、審査担当者向けの指針を更新し、「shaheed」を報道、中立的な議論または非難の例外の対象とすることを認めたうえで、この改訂版の指針を委員会に提出した時点で、Metaがこの勧告に従ったものとみなします。

38. Metaがテロリストの暴力行為の扇動にMetaのプラットフォームが使用されるのを阻止しようとすること(同社のコンテンツモデレーションポリシーの正当な目的)は不可欠ですが、Metaの人権保障責任により、表現の自由に対する制限は、必要かつ相応であり、とりわけ、暴力の影響を受けるコミュニティの人々の意見を尊重するものでなければなりません。「shaheed」の意味の1つが英語の「martyr」に対応し、その意味で使用されていたとしても、指定された人物を指すために「shaheed」を使用していることだけを理由にMetaがすべてのコンテンツを削除することは、必要かつ相応でないと委員会は判断します。なぜなら、全面的な禁止は、この単語の言語的な複雑さを考慮していないため、発言の過剰な削除を招き、メディアの自由と市民空間を不当に制限し、平等と無差別に重大な悪影響を及ぼすからです。また、この勧告が受け入れられ、実施された場合でも、「賛美」と「不明瞭な言及」を一般的に禁止するMetaのポリシーの詳細は、引き続き適用可能です。したがって、Metaは、「shaheed」という単語が存在するというだけでコンテンツを削除することを止めるべきです。代わりに、Metaは、より文脈に即したアプローチを採用するとともに、「shaheed」が有害と解釈されることにつながる暴力の兆候を明確かつ狭義に定義すべきです。以下で説明するとおり、委員会は、Metaが要請の中で提案した6つの兆候のうち2つを全面的に支持し、3番目については範囲を狭めることを勧告します。Metaが提案した残り3つは、別の暴力と扇動に関するポリシーを実施する審査担当者への指針として提供されており、危険な団体および人物に関するポリシーの目的には広範すぎます。同時に委員会は、暴力の兆候が存在する場合でも、指定された個人・団体を報道、非難または中立的に議論するコンテンツには例外を適用することをMetaに勧告します。上記の勧告は、「shaheed」の単数形・複数形のほか、この単語を取り入れた多くの言語における「shaheed」の変化形にも適用されます。

39. 委員会は、Metaのプラットフォームで、指定された個人・団体を指すために「shaheed」という単語を使用するコンテンツを認めることで生じる危害の可能性を評価するために専門家や関係者と協議しました。一部の関係者は、Metaのプラットフォームがテロリストのプロパガンダや勧誘行為を容易にし、ユダヤ教徒などへの差別や暴力を助長することを懸念していました(パブリックコメントのPC-11123 – CyberWell Ltd、PC-11153 – Stop Antisemitism Now、PC-11194 – Committee for Accuracy in the Middle East、PC-11068 – Canadian Antisemitism Education Foundationなどを参照)。そのような暴力・差別の増加と「shaheed」との間の明確な因果関係を示す研究はありませんが(Metaの審査要請の10ページですでに指摘されているとおりであり、Metaがポリシーに関する忠告を要請する前に自ら実施した専門家および関係者とのエンゲージメントから踏襲されています)、殉教への願望と暴力行為を関連づける個別の事例は存在します。より一般的な懸念は、ソーシャルメディアが暴力的な組織によってテロ行為の助長や実行役の勧誘に利用され、テロの常態化や過激主義の蔓延を招くことです。委員会が実施したテロ対策専門家との討論会(ステークホルダーエンゲージメントの討論会を参照)など、広範囲に及ぶ関係者とのエンゲージメントや専門家との協議で、これらの推測や懸念が確認されました。

40. また、多数の専門家や関係者が委員会に提出した意見では、「shaheed」という単語を使用するコンテンツの削除によって生じる表現の自由への悪影響が指摘されています(パブリックコメントPC-11196 – Integrity Institute、PC-11164 – SMEX、PC-11183 ECNL EFF、PC-11190 – Brennan Centre、PC-11188 – Digital Rights Foundationなどを参照)。これには、指定された個人・団体の称賛・賛美ではなく、テロリストやその他の指定団体による暴力について報道したり、中立的な政治的・学術的議論を行ったりするために「shaheed」という単語を使用する発言の削除も含まれます。

41. 以下は、指定された人物を「shaheed」と呼ぶコンテンツが削除される場合のMetaのアプローチを例示したものです。

• 政府が、指定された人物の氏名とともに尊敬を表す「shaheed」という単語を使用して、当該人物の死亡を確認するプレスリリースをMetaのプラットフォーム上でシェアした場合。Metaは「shaheed」という単語を違反とみなすことから、この投稿は、中立的な議論であることが文脈から示されているにもかかわらず、削除されます。
• 利用者が参加している抗議活動の写真をシェアしたが、抗議活動の目的を説明する明確なキャプションがない場合。複数のプラカードには、死亡した指定人物の名前とともに「shaheed」という語句が記載されている。Metaは、指定された人物の名前とともに「shaheed」という単語が記載されたプラカードが写る画像を違反とみなすことから、この投稿は削除されます。
• 指定された人物が国によって簡易死刑執行に処されたことを説明し、当該人物を「shaheed」と呼び、政府のテロ対策方針を非難する投稿を人権活動家がシェアした場合。Metaは「shaheed」という単語を違反とみなすことから、この投稿は、報道の文脈にもかかわらず削除されます。
• 指定された人物にちなんで名づけられた、尊敬を表す単語「shaheed」が含まれる地元の道路の状況についてコミュニティの関係者が苦情を投稿した場合。Metaは「shaheed」という単語を違反とみなすことから、この投稿は、指定された人物への言及が地元の問題に関する議論に付随しているだけにもかかわらず削除されます。
• ある人物が、テロ攻撃によって死亡した家族を「shaheed」と呼び、指定された人物であるテロリストを非難している場合。この投稿は違反とはなりませんが、加害者の名前が記載されている文脈に「shaheed」の使用も伴っているため、Metaの断定的なアプローチを考慮すると、誤った削除を招くコンテンツの具体例です。

42. 一部の関係者は、大規模審査において、「shaheed」の使用に対して、より制限度の低いアプローチをとることで、テロの常態化という累積的な影響をもたらす恐れがあるとの懸念を示しました。一部の事例では「shaheed」が特定個人とその暴力行為へのある種の是認や支持を意図しており、実際にそれらに該当することは否定できませんが、委員会は、この単語に対するポリシーの全面禁止は、そのような理由で正当化されるものではないと考えます。委員会は、テロ対策専門家などの関係者から寄せられた情報と、Metaの過去の調査や関係者との協議から得た情報に基づいて、これらの事例が実質的な累積的悪影響を及ぼす可能性についての懸念は、表現の自由に関する現行のポリシーによる非常に明白な悪影響を上回るものではないと結論づけました。これは特に、委員会の勧告が実施されたとしても、テロリストやその支援者によるMetaのプラットフォームの自由な使用が可能になることで生じる暴力その他の危害を防止するという目標を達成するための重要な防護柵は、依然として残されていることが理由です。

43. 委員会は、「shaheed」にはさまざまな意味があり、暴力やヘイトを扇動するためではなく、公益にかかわる問題を報道するために使用されることも多いと考えます。全面禁止の実施により、Metaのポリシーが軽減しようとしている危害を招くものではないコンテンツを大量に削除することになります。コンテンツの大規模なモデレーションには、ポリシーの誤適用が一定割合で発生することを容認することが必要になる場合もありますが、Metaは、自社のすべての人権保障責任に基づきトレードオフを検討する責任があります。委員会は、これらすべての検討結果に基づき、委員会が提案したアプローチが、Metaの全体的な人権保障責任と最も両立するものと結論づけました。

「shaheed」の文化的・宗教的重要性と意味の多様性

44. 「Shaheed」は、非常に多様な文脈で使用される文化的・宗教的に重要な単語であり、さまざまな意味があります。委員会に提出されたパブリックコメントや、委員会が委託した調査から、この単語に関してさらなる洞察が得られました。「Shaheed」は、「証言する」や「証人となる」を意味することもあります。また、イスラムのファーストネームとして使われたり、西アジアや北アフリカの一部の地域では、姓として使用されたりすることもあります(パブリックコメントPC-11196 – Integrity Institute、PC-11164 – SMEXなどを参照)。「Shaheed」は、宗教的義務を果たしている最中に死亡した人を指すために使用されることもあります。指定された団体が関与する事件など、武力紛争や暴力的な攻撃では、暴力やテロの被害者を「shaheed」と呼んで追悼することもあります(パブリックコメントPC-11164 – SMEXなどを参照。ニュージーランド政府からのPC-11197によると、クライストチャーチの乱射事件の被害者は「shaheed」の複数形である「shuhada」と呼ばれています。Integrity InstituteからのPC-11196では、ロヒンギャなど、一部の国の疎外されたイスラム教徒コミュニティは、宗教や信条に基づく迫害によりミャンマーを追われた難民を「shaheed」と呼ぶことが強調されています)。Metaのプラットフォームに投稿されたまま、掲載されているコンテンツに関する定量調査(委員会がMemeticaに委託)では、「shaheed」は、国や正義のために尽くしながら死亡した人物のほか、社会政治的暴力や自然災害による不測の被害者を指す際にも広く使用されることが示されました。これらの投稿では、指定された人物と「shaheed」は必ずしも関連付けられていませんが、前述の例(第41項を参照)では、「shaheed」のさまざまな意味と用法がその文脈でどのように関連しているか例示しています。

45. 2023年10月に発生したハマス主導によるイスラエルへの攻撃と、その後のイスラエルによるガザでの軍事行動を受け、委員会は、「shaheed」の使用に関するコンテンツの傾向について追加調査を委託しました。この分析で12,000件を超える公開投稿を調査しましたが、そのうち、ハマスを支持していたのは2件のみでした。ほぼすべての使用が、ガザ地区におけるパレスチナ死傷者の描写に関するものであり、指定された組織や人物への言及はありませんでした。投稿には、愛する人を失ったパレスチナ人の哀悼、負傷したパレスチナ人の子ども、ガザの空爆後の状況などが示されていました。調査実施者によるコンテンツの傾向へのアクセスは、プラットフォームに掲載され続けている公開コンテンツに限られており、Metaが危険な団体および人物に関するポリシーの違反を理由に削除したコンテンツは含まれないため、Metaに追加質問を行いました。Metaの回答は調査の結果を裏付けました。同社の見解によると、現在の危機下におけるコンテンツの傾向は、「shaheed」という単語の使用または解釈が、これらの出来事の発生前と比べて変化していなことを示していました。

46. これらの多様な意味が示しているのは、「shaheed」の使用を違反とし、実際の危害につながるため常に削除すべきとするMetaの既定の前提は、表現の自由に世界的な負担を課しているため、これに対処する必要があるということです。Metaは、同社のプラットフォームで最もモデレーションの対象となる可能性の高い単語は「shaheed」であると説明しており、さまざまな関係者は、指定された個人・団体や暴力について報道するコンテンツがMetaによって頻繁に削除されていることに気づいています(ポリシーに関する忠告の要請、3ページ)。「shaheed」に対するこのアプローチは、同社がポリシーの大規模な適用のために明確な区別を優先している一例です。大規模なコンテンツのモデレーションには、難しいトレードオフが伴うことが多いため、原則的にこのような区別を行うことは、時に適切なことがあるかもしれませんが、委員会は、この事例では、指定された人物と関連している「shaheed」を常に削除しなければならないとする既定の前提は正当化されず、中止すべきと結論づけます。Metaが認めているように、同社のアプローチは、言語的・文化的背景の考慮を意図的に怠っており、その結果、2つの方向で重大な過剰適用が行われています。第一に、このアプローチにより、Metaは「shaheed」を常に違反とみなすことを選択しているため、称賛や賛美を意図していないコンテンツが、ポリシーに違反しているとして削除されます。第二に、このアプローチは断定的な手法を定着させ、より文脈に即した評価を妨げるので、指定された人物でない人物と関連して「shaheed」を使用しているコンテンツの誤削除率の上昇をもたらします。

47. 「shaheed」にはさまざまな意味があるにもかかわらず、Metaの危険な団体および人物に関するポリシーの「称賛」禁止において過去に掲載されていた例は、市場ごとの状況を考慮しておらず、これらの例の安易な直訳が掲載されていたことを委員会は確認しています。コミュニティ規定において、「shaheed」が含まれるコンテンツに対するMetaのアプローチを示しているのは、称賛禁止についての大まかな規定の下に記載された、有罪判決を受けたテロリストを「martyr」と呼ぶフレーズの例だけでした。この同じ例は、異なる言語にまたがって使用され、アラビア語では、必ずしも同義でないにもかかわらず、「shaheed」と翻訳されていました。委員会は、この例が同ポリシーの2023年12月の更新で削除されたことを確認しています。この例の翻訳が必ずしも不正確というわけではありませんが、この1つの例を使用して、「shaheed」が常に「martyr」と同義であると主張するのは、正確ではありません。

48. 逆に、同じ理由で、このポリシーに関する忠告の「shaheed」に関する委員会の結論は、「martyr」やその他の言語の「shaheed」の訳語すべてに自動的に当てはめるべきではありません。「martyr」と「shaheed」は必ずしも同じ意味ではなく、前者は、英語が話されている地域内・地域間で、意味の変化がそれほどありません。Metaは、このポリシーに関する忠告で提示された指針を念頭に置いて、各言語にわたり、どの単語がMetaの「賛美」の基準を満たすかを評価する必要があります。いずれにしても、委員会は、「shaheed」が使用されている投稿の幅広い文脈からこの単語を切り離し、「shaheed」の使用を禁止する全面的な禁止を支持しません。監督委員会の先例と同様に、これらの投稿はその全体を評価すべきです。また、Metaの公開しているポリシーに沿って、Metaは、「martyr」(また、その他の言語の「賛美」や肯定的表現に真に対応する単語)が使用されている場合でも、ポリシーの例外を適用して、利用者が指定された人物の「報道、非難または中立的な議論」を行えるようにすべきです。これは、現地の状況に適合させた、審査担当者向けの社内ガイダンスと審査対象言語の言語的特異性の重要性を強調するものです(委員会のミャンマーのボットに関する決定で示された同様の懸念を参照。当該事例の勧告1は、この懸念に基づいています)。

49. いくつかの事例において、委員会は、大規模に適用可能な明確なルールを定めることと、適用の際に、文脈に細心の注意を払い、多くの場合、表現の自由と利用者の意見を優先するポリシーとの間のトレードオフを再調整するようMetaに強く求めてきました(指定された個人・団体に関する報道を尊重するためなど、タリバンへの言及とアルジャジーラの投稿のシェアを参照)。過去の事例では「shaheed」の使用を直接的に取り上げていませんが、委員会は、利用者が、指定された人物・個人に言及する際に悪意を前提としないよう警告します(ナチスの引用を参照)。さまざなパブリックコメントでは、Metaが「shaheed」を常に「称賛」と同義とみなすことは、結果として、モデレーターまたは大規模な自動適用によるミスの発生を招き、テロ攻撃の犠牲者を追悼する利用者への過剰な適用につながる恐れがあることが強調されていました(パブリックコメントPC-11164 – SMEX、1ページ、ニュージーランド政府によるコメントPC-11197などを参照)。そのようなコンテンツを削除することは、危険な団体および人物に関するポリシーの趣旨に反する影響を生じさせる可能性があります。削除によって、テロリストの暴力に関する議論や、そうした暴力の背後にあるイデオロギーに対抗する取り組みを妨害する可能性があるからです(PC-11164 – SMEXなどを参照)。

メディアの自由と市民空間の尊重

50. 委員会は、Metaのアプローチがジャーナリズムや市民の議論に影響を及ぼすことを特に懸念しています。テロリストや他の指定された組織による暴力が蔓延する地域や、指定された個人・団体が支配し、または政治的権力を握る地域では、このような影響は深刻です。さまざまなパブリックコメントで、このような懸念が示されていました(パブリックコメントPC-11196 – Integrity Institute、PC-11157 – Palestine Institute for Public Diplomacyなどを参照)。報道機関などの解説者は、ページやグループの削除、あるいはアカウントの無効化などの厳しい制裁につながり得るコンテンツの削除を避けたいと考えて、指定された個人・団体についての報道に慎重になる恐れがあります。これは場合によっては予測できないこともあり得ます。例えば、当該政府関係者への抗議活動を報道する場合に、指定された人物が当該政府関係者によって殺害されており、その抗議活動で、指定された人物への支持を示す看板が掲げられている場合などです。言語的、文化的または宗教的慣習によっては、このような状況で殺害された人物を指すために「shaheed」が使用される可能性があり、これには、暴力的な行為の実行中に死亡した人物も含まれます。

51. 武力紛争、外国の占領・暴動への抵抗と認められる状況など、指定された個人・団体が暴力に関与している可能性のある状況の複雑さに着目することが重要です。メディアは、このような状況を報道する際に大きな課題に直面する可能性があります。現地の言語、文化、宗教的慣習に対して慎重になる必要があると同時に、Metaのコンテンツポリシーを遵守する必要があるからです。このような懸念は、Metaの指定された個人・団体のリストに関する透明性の欠如や、実際に誰がリストに記載されているかを利用者が知らないという事実により悪化します。このような状況の報道には、兵器の描写などの暴力の兆候も含まれることが多くありますが、これは、報道、中立的な議論、非難の例外が適用される場合を除いて、ポリシー違反のサインとなり得ます。そのためMetaは、コンテンツが、指定された個人・団体について報道し、中立的に議論し、または非難する事例ではポリシーの例外を適用することが重要です。

52. 指定された個人・団体が活動したり政治的権力を握っていたりする地域に居住している利用者は、このような禁止によって、自分の見解や批評を述べることがより難しくなる可能性もあります。このような状況にある利用者は、直接対立や安全性のリスクを避けるため、敬意を示す形でコメントを作成する可能性がありますが、これは必ずしも称賛と解釈されるべきではありません。紛争地帯や報道の自由が制限された国では特に、ソーシャルメディアは重要な議論の場を提供するため、こうした発言への制裁措置は特に懸念すべき問題です。

平等と無差別

53. 「shaheed」は、アラビア語の話者や、「shaheed」を借用語に持つ他の言語の話者(その多くはイスラム教徒)の間では特に、極めて多様かつ広範に使用されているため、Metaのポリシーは、これらのコミュニティに不均衡な影響を及ぼします。このことは、利用者が表現の自由を行使する際に、いかなる差別もなしに平等の保護を受けられるよう、すべての利用者の権利を尊重するMetaの責任に関して重大な懸念をもたらします。これは、多くのパブリックコメントの主眼点でした(PC-11183 ECNL EFF, PC-11190 – Brennan Centre、PC-11188 – Digital Rights Foundation、PC-11196 – Integrity Instituteなどを参照。また、イスラエルとパレスチナにおけるMetaの影響に関するBSR報告書も参照)。国際連合開発計画(UNDP)は、その「過激主義への流れの阻止」に関する報告書の中で、過激主義者を暴力に向かわせる主要な要因は、いくつかの根本原因がある中で、特に「不平等、疎外、機会の欠如、不正義の認識」であると強調しています。委員会は、Metaのポリシーのアプローチが、特定のコミュニティの社会的疎外の経験を悪化させるだけでなく、暴力を減少させるという公言目標に逆効果をもたらす恐れさえあることを懸念しています。UNDPは、オンラインプラットフォームのコンテンツモデレーションに関して、企業は暴力的な過激主義防止の取り組みが、「個人の非難および標的化」に意図せずつながることがないよう注意する必要があると強調しています。

危害を防止するための干渉性の低い方法

54. ポリシーの必要性と相応性を評価するには、対象となる正当な目的を達成するために、制限の度合いがより低い手段が存在するかどうかを分析する必要もあります。委員会のこの忠告での勧告を実施するならば、Metaは、指定された人物を指すために使用される「shaheed」の全面的な削除を中止する必要があります。それでもなお、この単語を使用するコンテンツは、危害との関連がより明確で、はっきりしている限られた状況では削除することができます。この勧告は、指定された個人を「shaheed」と呼ぶコンテンツに他のポリシーの違反(賛美や不明瞭な言及など)が伴う場合またはコンテンツに暴力の兆候が含まれる場合には、Metaが今後もコンテンツを削除することを認めています。これは、引き続き重要な制限を課す一方で、特定の言語・宗教グループへのポリシーの過剰適用などの悪影響を緩和します。

55. 指定された人物を指す「shaheed」という単語とともに、暴力の兆候が存在する場合、この投稿は、暴力と関連しているため、この人物について肯定的に言及していることを明確に示しています(ただし、報道、中立的な議論または非難の例外が適用されない場合)。Metaは、その要請の中で、暴力と扇動に関するポリシーの社内指針から引用した以下の暴力の兆候を提案しています。(1)兵器の視覚的描写(2)武器/兵器の使用または携帯の意図または擁護の表明(3)軍事用語への言及(4)放火、略奪、その他の財産の破壊への言及(5)実際に起きた既知の暴力事件への言及、(6)人間に対する暴力の意図の表明、実行の呼びかけ、表現、支援または擁護。委員会は、これらの兆候の中には、「shaheed」の使用だけからは推定できない、危害を招く恐れのあるコンテンツの有用な指標もあると考えます。しかしながら、その他の兆候は、ここではあまり有用ではないと考えています。公開されている暴力と扇動に関するポリシーでは、特定の場所、および投票所や抗議活動などの時間的制約のあるイベントでの暴力のリスクに対処するために規定されたルールに関連し、「暴力の被害のリスクが高まっている、普段とは異なる兆候」にそれぞれ3回言及しています。あらゆる文脈での「shaheed」の使用にポリシーを適用する指針として、これらすべての兆候を大規模に適用することは、危害の可能性がそれほど高くないまたは切迫していない場合には、偏ったポリシーの適用を招く危険性があります。

56. 委員会は、危険な団体および人物に関するポリシーのより広範な文脈では、より限定された兆候が適切だと考えます。兵器の視覚的描写の兆候、および兵器/武器の使用または携帯の意図または擁護の表明の兆候は、いずれも危害をもたらす可能性が高いコンテンツの指標と見るべきです。しかし、委員会は「実際に起きた既知の暴力事件への言及」の兆候は広範過ぎ、指定された組織または人物の暴力からは除外されるシナリオを多く含みすぎていると考えます。したがって、より狭義に規定され、Metaの危険な団体および人物に関するポリシーに基づき指定されたイベント(テロ攻撃、ヘイトイベント、多数の被害者が発生した暴力とその未遂、連続殺人、ヘイトクライムなど)に限定すべきです。委員会が勧告する3つの兆候であれば、文脈による微妙な違いの考慮が可能になり、なおかつ、テロによる暴力行為に明確に言及する、不明瞭ではない「shaheed」の使用を確実に削除することができます。

57. 残りの「軍事用語への言及」と「放火、略奪、その他の財産の破壊への言及」の兆候は広範過ぎて、ポリシーの不正確な適用を招くでしょう。最後に提案された「人間に対する暴力の意図の表明、実行の呼びかけ、表現、支援または擁護」の兆候は、暴力と扇動に関するコミュニティ規定に違反するコンテンツを独自に検出するものであり、暴力の兆候として含める場合には重複しており、不必要です。

58. Metaの3番目のポリシーのオプションと異なり、委員会は、指定された人物への言及と並んで、これらの暴力の兆候が見られる場合でも、これらの人物やその行為への賛美を意図していない可能性があると考えます。Metaは、その要請(9～10ページ)の中で、パキスタンのメディアの報道慣行に言及して、ポリシーの過剰適用の可能性について説明しています。委員会の見解では、メディアが指定された人物の死亡に言及する際に、兵器を持った当該人物の画像を掲載したり、当該人物によって引き起こされた破壊の画像を掲載したりすることは一般的ですが、メディアは、これらの行為を賛美しているわけではありません。そのため、大規模審査担当者は、指定された個人・団体についての報道、非難または中立的な議論を行う明確な意図が存在する場合には、コンテンツを残すようにトレーニングを受ける必要があります。

59. また、委員会が勧告するポリシーの変更は、テロリストやその支援者が実際の危害を引き起こすためにMetaのプラットフォームを利用するのを防ぐ他のさまざまなコンテンツポリシーに手を付けるものではありません。レベル1に指定された人物を指す「shaheed」を含む投稿は、以下の状況で削除されます。

• 上記の3つの暴力の兆候のうち1つ以上が伴う場合。
• 危険な団体および人物に関するポリシーの他の違反が投稿に含まれる場合(指定された人物の表現、支援、賛美など)。賛美には、例えば、指定された人物の暴力行為やヘイト行為の正当化、擁護、あるいは暴力行為やヘイト行為を功績として称えることなどが含まれます。
• 投稿にヘイトスピーチや、暴力と扇動などの他のポリシー違反が含まれる場合。
• 投稿に「不明瞭なまたは背景の説明がない」言及が存在する場合。これには、指定された個人・団体による暴力やヘイト行為を賛美するものではない、不明瞭なユーモアや、キャプションのない言及、肯定的な言及が含まれます。

60. したがって、委員会の勧告は、レベル1に指定された人物を「shaheed」と呼ぶ際には、投稿の意図を明確にするようMetaが利用者に要求することを妨げません。ただし、Metaは「shaheed」という単語だけを根拠に投稿が違反していると主張することはできなくなります。また、テロに対処するためのグローバルインターネットフォーラムへのMetaの積極的な関与と、ハッシュマッチングデータベースの使用によって、実際の危害をもたらす恐れのあるコンテンツは確実に削除されます。委員会の勧告は、暴力のリスクを高める恐れのあるコンテンツへの、より明快で、より文脈に即した公平なポリシー適用を可能にすると同時に、表現の自由の尊重と無差別を強化することができます。

代案のポリシーの選択肢の評価

61. 前記の理由により、委員会は、Metaが委員会に検討を求めて1番目の選択肢として提示した現状のポリシーの継続は、アラビア語の話者、関連言語のコミュニティおよびイスラム教徒に偏った影響を及ぼす、表現の自由への不当な制限を定着させると結論づけます。Metaが提案した2番目のポリシーの選択肢は、「shaheed」という単語が使用されている文脈を考慮しようとしている点では、委員会が推奨する3番目と類似しており、いくつかの方法で、この単語を危険人物と関連して使用することができます。実際、Metaによると、2023年8月29日のポリシーの変更により、和平合意、選挙、人権関連問題、ニュース報道、学術的・中立的議論、非難などの特定の事例で社会的・政治的議論が認められ余地が拡大しています。これにより、2番目と3番目の選択肢に求めるポリシーの成果が、さらに類似したものになります。これらの最も大きな違いは、大規模審査での技術的実現可能性と実施の実用性です。2番目の選択肢では、Metaは、まず、認められた例外の1つが適用されることを肯定的に確認し、次に、ポリシー違反や暴力の兆候がないか審査する必要があります。3番目の選択肢では、ポリシー違反や暴力の兆候がないかどうかの審査をすぐに開始します。Metaによると、2番目の選択肢は、(最近のポリシーの変更後に、さらに広範となった)適用し得る広範な例外について検討する必要があり、それぞれの例外は文脈の評価に高度に依存することになるため、設計と実施が技術面で大幅に煩雑になります。これらの評価を一貫性のある方法で正確に実施するのは困難であることから、人間による審査の必要性がさらに高まり、適用エラーの件数が大幅に増加する可能性があります。

62. 委員会は、Metaが、指定された人物に関連する「shaheed」のすべての使用を、現行の例外の範囲を超えて、より均一に審査するアプローチを採用し、他のポリシー違反や勧告1に列挙する3つの暴力の兆候のうちいずれかが伴う場合に削除することが望ましいと考えます。Metaが提案する3番目の選択肢に近い立場を採用し、委員会の勧告に従って、他のポリシーの違反や特定の暴力の兆候が存在する場合に限り、「shaheed」を禁止対象の表現として取り扱うというポリシーの変更は、誤検出(違反していないコンテンツの誤った削除)を減らし、公共の利益になる発言、メディアの自由、市民の議論の保護を向上させるとともに、影響を受けるグループ間で、いかなる差別もなしに平等の保護を受ける権利への悪影響を軽減するのに役立ちます。2023年10月に発生したハマス主導のイスラエルへの攻撃とその後の紛争後の委員会の質問への回答で、Metaは、これらの出来事によって、Metaが要請の中で当初提示していた選択肢の分析と拡張性に変更はないと確認しました。委員会の見解では、Metaの3番目の選択肢に基づく勧告案は、「報告、中立的な議論、非難」のポリシーの例外が引き続き適用可能であることを条件に、これほど大規模な危機が起きたときに発生し得るミスに対して最も弾力性があります。委員会は、これらのポリシーの例外によって、Metaの3番目の選択肢で提案されるポリシーの拡張性がいっそう複雑になることを認識していますが、「shaheed」という単語を使用するコンテンツのモデレーションに関連して表現の自由を十分に保護するためには必要不可欠だという結論を下します。

63. 委員会の少数派は、この結論に同意しておらず、現状維持か、またはMetaが2番目に提案した選択肢の採用を勧告するのが望ましいとしています。一部のメンバーは、「shaheed」という単語が実際にテロ組織により、暴力行為の実行者への称賛や賛美を意味するために使用されており、これが過激主義化や勧誘へのインセンティブになり得ることを強調しています。これらの委員会メンバーにとって、こうした事実はそれだけで実際の危害の重大な脅威となるため、一般に認められた範囲で表現の自由を制限しても、全面的禁止を維持する十分な根拠となります。他のメンバーは、より慎重なアプローチを採用する理由として、Metaのプラットフォーム上の「shaheed」の使用と関連づけられる実際の危害の程度についてのデータや、同ポリシーに基づく過剰適用の多発に関するデータが十分でないと考えており、安全性を非常に重視しています。また、一部のメンバーは、2番目の選択肢(特定の認められる例外が適用可能であることを最初に確認してから「shaheed」の意味と用法を検討する)は、大規模審査での技術的な困難と実現可能性にもかかわらず、より厳密に定められた妥協的立場であると判断しています。委員会は、これらの代替案について幅広く検討し、協議しました。前項に示した理由により、多数派は、Metaの3番目の選択肢に基づく勧告が望ましいバランスを提供するという結論に達しました。

ストライクとペナルティ

64. 危険な団体および人物に関するポリシーに基づく他の制限の維持は正当化できるかもしれませんが、Metaは、これらの制限と、違反に対して課す制裁が相応であるよう確保しなければなりません。Metaが委員会に過去に伝えた内容によると、同社は、危険な団体および人物に関するポリシーのすべての違反(過去の称賛の禁止の違反を含む)に対して厳しいストライクを常に適用します。厳しいストライクは、アカウントレベルのペナルティ(期限を定めた機能制限、アカウントの一時停止、プロフィールやページの無期限の利用停止など)にすぐにつながる可能性があります。これらの措置は、利用者の表現の自由の権利への厳しい制限となり得ます(パブリックコメントでも強調、PC-11190 – Brennan Centreなどを参照)。委員会は過去にストライク制度の明確さと透明性の改善をMetaに勧告しました。(報道におけるタリバンへの言及、勧告2、トランプ前大統領のアカウント停止、勧告15)。これに対応し、Metaが透明性センターでストライク制度に関する情報を提供したことで、利用者は、Metaがアカウントに適用したペナルティの種類を確認できるようになりました。最近Metaは、よりバランスのとれた制度にするため、標準のストライクの制度を改定しましたが、これにより「厳しいストライク」に対するMetaのアプローチも改定されたかどうかは一般の利用者に明らかにされていません。

65. Metaは、危険な団体および人物に関するポリシーに関連する適用システムの改定に取り組んでいると述べていますが、2023年12月のポリシーの更新の説明には、同社の適用システムが(厳しいストライクなどに関して)改定されたのか、改定される予定なのか、あるいはどのような改定なのかについての説明はありません。委員会は、過去の委員会の勧告に沿って、明確に違反と特定されたコンテンツに、よりバランスのとれたペナルティが適用されるようになるならば、ポリシー適用システムの改定を歓迎します。厳しいストライクは、危険な団体および人物に関するポリシーの、意味的により曖昧でより軽度な違反には不釣り合いなペナルティであり、同ポリシーの過剰適用と利用者の不公平な取り扱いの一因となっています。

6.2 透明性の改善とリストの監査

勧告4 – 透明性: 指定された個人・団体およびイベントのリストの透明性を改善するために、Metaは、個人・団体およびイベントを指定する際の手順について詳しく説明すべきです。また、指定リストの各レベルの個人・団体の総数のほか、過去1年間に追加・削除された個人・団体数に関する集計情報を公開すべきです。

委員会は、Metaが要請された情報を透明性センターで公開した時点で、Metaがこれに従ったものとみなします。

勧告5 – ポリシーの適用: 危険な団体および人物のリストが最新であり、Metaの指定の定義を満たさなくなった団体、人物、イベントが掲載されていないよう確認するために、同社は、指定リストを定期的に監査し、公開された基準を満たさなくなった団体、人物、イベントを削除するための明確かつ効果的なプロセスを導入すべきです。

委員会は、Metaがこの監査プロセスを策定し、当該プロセスの説明を透明性センターで公開した時点で、Metaがこれに従ったものとみなします。

66. Metaの以前の危険な団体および人物に関するポリシーによると、「称賛」と「shaheed」の使用が禁止されるのは、これらが、レベル1の危険人物(指定された「違反している暴力的なイベント」の加害者を含む)としてMetaが指定した人物を指している場合に限られていました。2023年12月の更新を受けて、現在、同ポリシーは、レベル1に指定された個人・団体への「不明瞭な言及」と賛美を禁止しています。「不明瞭な言及」には、「指定された個人・団体による暴力やヘイト行為を賛美するものではない、不明瞭なユーモアや、背景の説明がない言及、肯定的な言及」が含まれます。このような禁止が表現の自由に及ぼす恐れのある悪影響は、Metaがどのような団体をレベル1に指定し、また、どのような「違反している暴力的なイベント」を指定するかによって大きく左右されます。討論会やパブリックコメントで多くの関係者が、リストに関する透明性と適正手続きの欠如を批判し、Metaはこれらを公開すべきだと主張していました(パブリックコメントPC-11164 – SMEX、p.3、PC-11157 – Palestine Institute for Public Diplomacyなどを参照)。ある関係者は、リストを広く共有することは、安全性に関する懸念をもたらす可能性があると主張して、これに懸念を示しました。リストはMetaのポリシーの対象範囲を理解するうえで非常に重要であるため、同社は委員会に、レベル1に指定された団体と人物のリストとともに、指定プロセスの説明を提出しました。委員会は、以下で述べるとおり、これを詳細に調査しました。

67. 前述のとおり、Metaがレベル1の指定をする際に基にするリストの多くは、米国政府によって公開されています。これには、「特別指定麻薬取引人(SDNTK)」、「海外テロ組織(FTO)」、「特別指定国際テロリス」が含まれます。これらの広範なリストには、複数の大陸にまたがって、極めて政治色の強い背景を持った個人・団体(そのメンバーを含む)が掲載されており、必ずしもテロ組織に限られません。この広範さと多様さは、Metaの危険な団体および人物に関するポリシーの禁止(指定された人物を指す「shaheed」の全面的な禁止を含む)が及ぶ範囲と、その影響を示しています。

68. Metaは、危険な団体および人物のリストに追加される個人・団体の見直しや承認のプロセスは「社内のさまざまな専門家との協議や、社内データの評価、外部調査に基づく」と説明しました。また、Metaは「すでに指定されている団体・人物に関連する追加のメンバー、別名、シンボル、スローガン、下位集団、メディア組織」を文書化するプロセスも定めています。2022年にMetaは、危険な団体および人物が同社のプラットフォームにもたらす脅威の評価に基づいて、1,000未満の団体・人物を指定しました。指定のうち最も多かったのが犯罪組織、次に多かったのが僅差でテロ組織、3番目がヘイト団体でした。Metaは、危険な団体・人物がポリシー基準を満たし続けているかどうかを検討するリスト解除ポリシープロセスを定めており、これにより「団体・人物が暴力行為を止めて、平和を追求するために講じた積極的な措置」を検討します。このプロセスは現時点で再策定の過程にありますが、2022年に適用されたのは10回未満でした。Metaは、リストをできるだけ最新の状態に保ち、危険な団体・人物からの脅威を正確に反映する継続的取り組みの一貫として、過去の指定を監査していると説明しました。

69. Metaは、指定された団体・人物、イベントのリストを公開したり、リストに追加した団体に追加を通知したりすることで、ポリシー実施の有効性や、Metaの多くの社員の安全がリスクにさらされる可能性があると説明しました。指定されたことを知った個人・団体の中には、Metaに対して法的措置を提起したものもありました(Facebook v.CasaPound訴訟事件(2020年4月29日、イタリア、ローマ裁判所)を参照、分析はこちら)。委員会は、一部のケースでMetaが、メディアの問い合わせに応じて一部の団体の指定を開示したり、監督委員会の決定を通じて指定を共有したりしていることを確認しています。

70. 委員会は過去に、指定された個人・団体のリストを公開するか、少なくとも、わかりやすい具体例を提示するようMetaに勧告しました(ナチスの引用、勧告3)。Metaは、リストを公開せず、実現可能性の評価の実施後、この勧告に関する最新情報を一切提供していません。Metaは、この勧告の実施を引き続き拒否する場合、最低でも、リストに関する透明性を改善するために他の措置を講じるべきです。集計データの公開、指定プロセスに関する透明性の改善、および指定解除プロセスの有効性の改善によって、Metaのルールとプロセスに対する利用者の認知度を向上させることができるでしょう。これは、Metaの指定と、表現の自由やその他の人権に対する影響の調査およびMetaの説明責任の強化にもつながります。Metaは、透明性を強化するために調査実施者によるデータへのアクセスを促進しながら、リストの機密性を保持することを検討することになるかもしれません。

6.3 ポリシー適用の精度を評価するためのデータと分類システムのテスト

勧告6 – 透明性Metaのポリシー適用の透明性を改善するために、Metaは、各市場、各言語間の地域差など、危険な団体および人物に関するポリシーを適用する際の人間による審査の精度と自動システムの性能の評価に用いる方法について説明すべきです。また、Metaは、同ポリシーを適用する際に使用する分類システムの性能評価の結果を定期的に共有するとともに、これらの評価を各言語、各地域間で比較できる方法で結果を提供すべきです。

委員会は、Metaがこの情報を透明性センターとコミュニティ規定施行レポートに掲載した時点で、これに従ったものとみなします。

勧告7 – 透明性: 関係者への情報提供のため、Metaは、ポリシー違反の予測を生成するための分類システムの使用方法について明確な文言で説明すべきです。またMetaは、コンテンツについて無措置、人間による審査対象への追加、または削除のいずれにするかを判断する基準の設定プロセスについて説明することで、これらの基準の設定方法についても説明すべきです。この情報は、同社の透明性センターで提供する必要があります。

委員会は、Metaが要請された情報を透明性センターで公開した時点で、Metaがこれに従ったものとみなします。

71. Metaの危険な団体および人物に関するポリシーの適用や、「shaheed」という単語の取り扱いは、人間による審査と自動審査の両方において、頻繁な適用エラーを招き、イスラム教徒や関連する言語コミュニティに偏った影響を及ぼしていると、多くの関係者が討論会やパブリックコメントで主張しています(パブリックコメントPC-11183 ECNL EFF、PC-11190 – Brennan Centre、PC-11188 – Digital Rights Foundation、PC-11196 – Integrity Instituteなどを参照。また、イスラエルとパレスチナにおけるMetaの影響に関するBSR報告書も参照)。Metaは、その要請の中で、これが「shaheed」という単語に関する同社のポリシーの影響であることも認めています。Metaの人間および自動システムによるポリシー適用のプロセスの透明性、正確性、公平性を改善するために、委員会は、上記2件の勧告を行います。

72. Metaは、人間と自動システムによるポリシー適用の精度を定期的に測定していると説明しました。人間の審査担当者は、Metaの外部委託パートナーによる定期的な監査を受けており、監査を実施する人物は、Metaのグローバルオペレーションチームによるさらなる評価の対象となります。

73. 委員会は過去に、Metaが透明性レポートを改善するために、危険な団体および人物の「称賛」と「支援」(オジャラン氏の隔離、勧告12)のエラー率、および各コミュニティ規定(インドのRSSに対するパンジャブ人の懸念、勧告3)のエラー率についての国別・言語別の情報を閲覧可能にすることで公開情報を増やすよう勧告しました。Metaは、実現可能性評価の実施後、この勧告の実施を断念し(オジャラン氏の隔離、勧告12、監督委員会に関するMeta四半期別アップデート(2021年第4四半期)、21ページ)、プロフィール、ページ、アカウントの制限のほか、言語ではなく地域に基づき精度の指標を定義する長期的取り組みに重点をシフトさせたと説明しました(インドのRSSに対するパンジャブ人の懸念、勧告3、監督委員会に関するMeta四半期別アップデート(2023年第2四半期)、59ページ)。危険な団体および人物に関するポリシーの偏った適用(Metaの「shaheed」に関する姿勢を例示しています)に関する懸念の広がりや、ポリシー適用についての有益なデータの不十分な開示を念頭に、委員会は、これらの勧告を強調するとともに、同社が地域ごとのポリシーの適用の透明性を改善する重要性を強調します。

74. Metaが透明性センターで現在公開しているデータは、人間による審査の精度と自動システムの性能について十分な洞察を提供するものではありません。Metaの手法の精査を可能にするために、同社は、危険な団体および人物に関するポリシーを適用する際の人間による審査の精度と自動システムの性能をどのように評価しているか説明しなければなりません。Metaは、分類システムの性能に関する透明性を改善するためには、精度(違反とマークされたすべてのコンテンツのうち、違反と正確に特定されたコンテンツの比率を示す)と再現率(既存のすべての違反コンテンツのうち、分類システムが違反と特定した違反コンテンツの比率を示す)などの指標を共有するべきです。人間による審査の地域別の精度と、分類システムの言語別の性能についての情報を公開することは、Metaの人権保障義務に関する説明責任を果たすことにもつながります。そのため委員会は、過去の勧告を再度繰り返し、変更案を実施することをMetaに要請します。

75. Metaはコミュニティ規定を実施するにあたり、分類システムなどの自動システムに依存しています。分類システムモデルは、一連のトレーニングデータに基づき、データを1つまたは複数の「クラス」(違反している、または違反していないなど)に自動的に分類します。これらのシステムがどのように機能し、どの程度正確かを理解することは、Metaの大規模なコンテンツモデレーションの方法を理解するうえで必要不可欠です。Metaは、透明性センターのポリシー施行セクションで違反コンテンツを検出するための自動システムの使用方法について一部の基本情報を提供しており、機能セクションでは、コンテンツのランク付けとキュレーションの方法について説明しています。Metaは、報告される前に(すなわち自動検出に基づいて)削除するコンテンツの比率に関して、すでにコミュニティ規定施行レポートで情報を公開しています。これらのデータは自動検出の重要性を示していますが、Metaの自動システム、特に自動削除の使用と精度についての詳細な指標の提供が不十分です。この一連の勧告は、Metaのアルゴリズムの使用に関する透明性の強化を目的としています。

76. Metａは、委員会からの質問への回答で「一般言語 – アラビア語」向けの危険な団体および人物の分類システムが、Metaのポリシーに基づく適用の最初の審査を実施すると説明しました。分類システムは、これらのポリシーに違反する可能性のあるコンテンツの検出を目的としています。Metaは、過去の決定に従って、透明性センターのポリシー施行セクションで、このような分類システムの使用について利用者に詳しく説明すべきです(乳がんの症状とヌード、勧告3、コロンビア警察に関連する風刺、勧告3を参照)。特に、コンテンツに対して措置を講じるか、講じないか、人間による審査対象とするかについてのおおよその信頼しきい値のほか、これらのスコアを決定する考慮事項や要因について透明性があることが重要です。

77. Metaは、同社の精度テストはポリシー内の個々の違反タイプを重視しておらず、代わりにポリシーの全体的な分野にわたる全体的な精度を重視していると説明しました。Metaは、「定期的な指標のモニタリングを実施し、大規模審査の精度の監査を行っている」と委員会に述べています。委員会は過去に、Metaのコミュニティ規定の全体的な適用の実績を評価するだけでは十分ではないと説明しました(ワムパムベルトに関する決定を参照)。平均して性能が良いシステムは、サブカテゴリのコンテンツ(「shaheed」という単語を使用するコンテンツなど)に対する性能が悪い可能性があり、このようなコンテンツに関する不正確な判断は特に人権に対して顕著な影響を及ぼします。したがってMetaは、自社のシステムが人権に及ぼす恐れのある悪影響を特定し、最小限に抑えるためにデューデリジェンスを実施していること、また、これらの影響の調査を可能にする情報を提供するということを実際に示すことが必要不可欠です。

78. 多くの関係者は、Metaのアルゴリズムに基づくポリシー適用システムが文脈を考慮できておらず、英語以外の言語では、より不正確であり、その結果、イスラム教コミュニティに対して不平等な影響を及ぼしていると主張しています(パブリックコメントPC-11190 – Brennan Centreなどを参照)。

79. 一部の関係者は、「shaheed」という単語のモデレーションでの自動システムの使用を完全に中止するようMetaに勧告しています。概して自動システムは、これまでのところ文脈を考慮できていないからです(パブリックコメントPC-11164 – SMEX、4ページ、PC-11157 – Palestine Institute for Public Diplomacyなどを参照)。他の関係者は、危険な団体および人物に関するポリシーに違反しているコンテンツへの厳しいペナルティを考慮して、自動システムは、コンテンツを自動削除するためでなく、コンテンツを審査対象に追加するためにのみ使用すべきと主張しています(PC-11183 ECNL EFF、p. 4fなどを参照)。関係者は、指定された人物を指すために「shaheed」を使用する投稿は「理想的には、投稿の発信地の現地状況を熟知した人間による審査の対象とする」べきと提案しています(PC-11188 – Digital Rights Foundation、2ページを参照)。コンテンツにジオタグを付けるべきだと提案する関係者もいます。そうすれば、人間による審査と自動審査で、より適切に文脈を考慮できる可能性があるからです(PC-11165 – Taraaz、1ページなどを参照)。また、関係者は、Metaが自動適用の精度に関する情報をもっと提供し、英語以外の言語の自動システムの改善により多くの資金を投資するよう要求しています(PC-11164 – SMEX、5ページ、PC-11190 – Brennan Centreなどを参照)。また、これらの関係者は、Metaが「各言語で一貫した方法で」コンテンツモデレーション活動(利用者の報告、措置実施率、措置の種類、緩和技術の有効性、トレーニング情報、異議申し立て率など)を報告するよう強く求めています(PC-11196 – Integrity Instituteなどを参照)。

80. 一部の専門家は、指定された団体・人物に関連する「shaheed」の使用を、プラットフォームからコンテンツを削除する自動システムの唯一の基準とすることに異議を唱えていますが、この単語をより多層的なモデレーション手法の一貫として使用することは推奨しています(この単語が含まれることだけを理由に削除するのではなく、Metaのポリシーに基づく審査対象にコンテンツを追加するための指標として使用するなど)。

81. 委員会は、コンテンツの大規模なモデレーションを行うには、アルゴリズムによるシステムの使用が必要であり、これらのアプローチ案は大規模審査および自動システムの使用時には実行可能でないことを認識しています。しかしながら、委員会は、Metaがこれらのシステムの透明性と公平性を確保するためには、上記で勧告されたものなど、さらなる措置を講じる必要があると結論づけます。

*手続きに関する注記:

監督委員会によるポリシーに関する忠告は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

今回のポリシーに関する忠告のために、独立した調査が委員会に代わって委託されました。委員会は、ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関による支援を受けました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。このほか、ソーシャルメディアのトレンドに関するオープンソース調査に従事する組織、Memeticaによる分析の提供も受けました。350を超える言語に精通し、世界各地の5,000の都市を拠点とする専門家を擁する会社であるLionbridge Technologies, LLCが、言語面での専門的知識を提供しました。

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة