街頭で行く手を阻まれたイランの女性

概要

監督委員会は、ヒジャブを着用していないという理由から、イランの街頭で男性が女性の前に立ちはだかっている場面を映した動画を削除するMetaの当初の決定を無効と判断しました。この投稿は、逐語的に解釈されない比喩的な発言を含んでおり、それは確実性の高い暴力的な脅迫ではないため、暴力と扇動に関するルールに違反していませんでした。この投稿は、抗議者への弾圧と暴力が深刻化していた混乱の時期に共有されました。インターネットが女性の権利を巡る戦いの新たな戦場となっていることを鑑みれば、イランにおけるソーシャルメディアへのアクセスは極めて重要です。Instagramは、イランで禁止されずに残っている数少ないプラットフォームの1つであり、恐怖を植え付け、オンラインで女性を沈黙させようとするイラン政権の試みに反し、「Woman, Life, Freedom」(女性、命、自由)反体制ムーブメントにおいて計り知れない役割を果たしています。委員会は、政権による組織的な弾圧がある状況において、表現と集会の自由への尊重を確実にするためのMetaの取り組みは、不十分であると結論付けるとともに、同社の危機管理ポリシープロトコルに変更を加えるよう勧告します。

事例の内容

2023年7月、ヒジャブを着用していないという理由から、公の場で男性が女性の前に立ちはだかっている場面を映した動画が、ある利用者によってInstagramに投稿されました。ペルシア語(英語字幕付き)のこの動画で、かかる女性は自分の権利のために立ち上がっていると述べて対応しています。付随するキャプションでは、動画の女性、および政権に立ち向かうイランの女性たちへの支持が表現されています。キャプションの一部でも、政権への非難が見られ、Metaによると「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)と翻訳される表現を含んでいます。

イランの刑法は、「適切なヒジャブ」を着用することなく公の場に出る女性に懲役、罰金または笞刑を科しています。2023年9月、イラン政権は「ヒジャブと慎み」に関する新たな法令を承認しました。この法令により、ヒジャブに関する強制的な規則に従わない女性は最長10年の禁固刑が科される可能性があります。当該投稿のキャプションは、動画の女性がすでに拘束されていることを明らかにしています。

当該投稿は、Instagramのコミュニティガイドラインに違反している可能性があるとして、最初にMetaの自動システムによってフラグされ、次に人間による審査に回されました。複数の審査担当者がMetaの暴力と扇動に関するポリシーに基づき当該コンテンツを評価したものの、一致した結論には至らず、技術的なエラーと相重なって、この投稿はプラットフォームに残されたままになりました。その後、ある利用者が当該投稿を報告したため、言語の専門知識を有するMetaの地域チームが追加の審査を実施しました。この段階において、当該投稿は暴力と扇動に関するポリシーに違反すると判断され、Instagramから削除されました。その後で、当該コンテンツの投稿者が委員会に対し異議を申し立てました。委員会が本事例を選定するまで、Metaはコンテンツを削除するという同社の決定が正しかったいう立場を維持しましたが、委員会による選定を受け、かかる決定を覆して当該投稿を復元しました。

主な調査結果

この投稿は、逐語的に解釈されない比喩的な発言を含んでおり、オフラインでの危害を扇動するような確実性の高い暴力的な脅迫ではないため、暴力と扇動に関するコミュニティ規定に違反していなかったと委員会は判断します。Metaは当初「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という表現を、動画の男性を標的とした深刻度が高い暴力行為を意図する発言と評価したために当該投稿を削除しましたが、この発言は逐語的に解釈されるべきではありません。イランで広く展開されている抗議活動と、キャプションおよび動画を全体的に考慮すれば、この表現は比喩的であり、政権に対する怒りと失望を表現しているものであるといえます。委員会が助言を求めた言語専門家は、この表現(「we will tear you to pieces sometime soon」(近いうちにあなたをずたずたに引き裂く))が少々異なって翻訳されることに着目しており、それは政権に対する怒り、失望および反感を伝えていると説明しています。当該投稿の結果として生じる可能性が最も高い危害は、政権に対する危害ではなく、政権による報復的な暴力行為によるものであると考えられます。

Metaのポリシーの基本理念は「確実性の高い脅迫」を評価する際に「言語」および「背景」が考慮される場合があることを示唆しているものの、モデレーター向けのMetaの内部指針は、こうした考慮が実際になされることを可能にしていません。モデレーターは、具体的な条件(脅迫および標的)を特定し、それらを満たすコンテンツを削除するように指示されています。委員会は過去に、イランにおける抗議デモのスローガンの事例で、このような不整合性についての懸念を示しています。この事例において、委員会は、反対意見を表明する「修辞的な表現」をデフォルトで削除することを止めるようモデレーターに指示する、背景の考慮方法に関するきめ細かい指針を設けるようにMetaに勧告しました。イランのような状況において、比喩的な発言に関する施行の一貫性のなさを改善できる余地がいまだあるため、こうした懸念は解消されていないといえます。さらに、自動化の正確さは人間が供給するトレーニングデータの質による影響を受けるため、比喩的な発言の誤削除のリスクが増大する可能性があります。

当該投稿は、危害を加えるための計画および犯罪の助長に関するコミュニティ規定にも照らし合わせて検討されました。なぜなら、このコミュニティ規定には「ヴェールを着用していない時の女性の画像をその意向に反して、または許可を得ずに公開することで、ヴェールを着用していない時のその女性を危険にさらすコンテンツ」を禁止するルールがあるからです。後にこのポリシーの文言は、「暴露[ヴェールを着用していない女性]: 人の身元を暴露し、危害の危険にさらすこと」を禁止すると編集されています。この点に関し、委員会は、当該コンテンツにおいて女性が動画内で「暴露」されていないこと、彼女の身元が広く知られ、彼女がすでに拘束されていたために危害のリスクが弱まっていたことについてMetaに同意します。事実、当該投稿は、この女性の拘束への注目を集め、彼女を釈放するよう関係当局に圧力をかけるために共有されました。

危機管理ポリシープロトコルを含む、Metaの危機管理ポリシーでイランはリスクのある国に指定されていることから、Metaは、特定の状況に対応するために一時的なポリシーの変更(「改善策」)を講じることができます。委員会は、イランに関するMetaの取り組みを認識しているものの、それは、組織的な抑圧がある中で人びとの表現と集会の自由への尊重を確実にするには十分でないと判断しています。

監督委員会の決定

監督委員会は、投稿を削除するMetaの当初の決定を無効と判断しました。

委員会は、Metaが次の対応をするよう勧告します。

• 暴力を扇動することを意図していない、または暴力を扇動する可能性が低い比喩的な発言(すなわち、逐語的に解釈されない発言)は、関連の文脈における暴力的な脅迫を禁止する暴力と扇動に関するポリシーの文言に違反しないことを明確にするための改善策を危機管理ポリシープロトコルに加えること。これには、関連のある文脈においてこうした発言を見分ける方法に関する基準を大規模なモデレーションの担当者のために策定することが含まれます。

*事例の概要はその事例の要約であり、先例としての価値はありません。

事例に関する決定の詳細

1. 審査結果の概要

監督委員会は、ヒジャブを着用していないという理由から、イランの街頭で男性が前に立ちはだかっている場面を映した動画を削除するMetaの当初の決定を無効と判断します。Metaは、この投稿のキャプションに「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という文言があることを根拠に、当該投稿をInstagramから削除しました。同社は、この文言について、ヒジャブを着用していないという理由からこの女性に迫る動画の男性を標的にした脅迫であると解釈しました。当該投稿でのこの発言は、逐語的に解釈されない比喩的なものであり、背景情報を考慮すると確実性の高い暴力的な脅迫には該当しないため、暴力と扇動に関するポリシーに違反していなかったと委員会は判断します。委員会が本事例を選定した当初、Metaは当該投稿を削除する決定を維持しましたが、委員会に対してこの決定の拠り所となる基本理念を提示する前に、コンテンツを削除する当初の決定が誤りであったと判断し、当該投稿をプラットフォームに復元しました。委員会は、表現の自由に対する政権の組織的な抑圧がある中で表現と集会の自由への尊重を確実にするためのMetaの取り組みは、不十分であると結論付けるとともに、同社の危機管理ポリシープロトコルに変更を加えるよう勧告します。

2. 事例の説明と背景

2023年7月、ヒジャブを着用していないという理由から、公の場で男性が女性の前に立ちはだかっている場面を映したペルシア語(英語字幕付き)の動画が、あるInstagram利用者によって投稿されました。この事態に対し、かかる女性は自分の権利のために立ち上がっていると述べて対応しています。この動画の男性は特定不能ですが、女性は全体的に確認可能な状態で映っています。この動画はもともと、イラン政権との関係がある人またはその支持者が共有した録画の再投稿であると考えられます。この動画に付けられた同じくペルシア語のキャプションでは、かかる女性に加え、政権に立ち向かい、政権とその支持者を非難しているイランの女性たちへの支持が表明されています。このキャプションは、Metaの翻訳によると「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という表現を含んでおり、この出来事の後にかかる女性が拘束されたことを伝えています。この投稿は、約47,000回閲覧され、2,000件の「いいね！」、100件のコメント、50回のシェアがありました。

当該コンテンツは、自動分類システム(Metaのポリシーの潜在的な違反を検出するために同社が使用するアルゴリズム)によって、Instagramのコミュニティガイドラインに違反している可能性があるとして最初にフラグされ、次に人間による審査に送られました。複数の審査担当者が当該コンテンツを評価しましたが、技術的なエラーが発生したこと、また当該投稿が暴力と扇動に関するポリシーの違反に該当するかどうかについてこれらの審査担当者が同じ結論に至らなかったことにより、当該コンテンツは当初削除されませんでした。その後、ある利用者が当該コンテンツを報告しました。この報告を受けて実行された自動分類システムによる評価でも当該コンテンツがMetaのポリシーに違反している可能性があると再び判定され、追加の審査に回されました。当該コンテンツは1人の利用者によって1回のみ報告されました。地域と言語に関する専門知識を有するMetaのチームがこの追加審査を実施した後、Metaは、暴力と扇動に関するポリシーに基づき当該投稿をInstagramから削除しました。当該投稿を削除するMetaの決定は、キャプションに「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という文言があることを根拠としていました。この文言について、同社は、ヒジャブを着用していないという理由からこの女性に迫る動画の男性を標的にした脅迫であると解釈しています。当該投稿の作成者は、投稿を削除する決定について、Metaに対し異議を申し立てました。1人の審査担当者は、削除する決定を維持しました。

これを受け、当該コンテンツの投稿者は、この削除措置について、委員会に対し異議を申し立てました。委員会が法的審査に本事例を認定した際には、Metaは当該コンテンツを削除する決定を維持していました。この審査の段階では、Metaは、ヴェールを着用していない女性を「暴露」することによって危害のリスクが及ぶ場合にその女性を「暴露」することを禁止する、危害を加えるための計画および犯罪の助長に関するコミュニティ規定も検討しました。当該コンテンツが投稿された時点で、かかる女性は政権によってすでに拘束されていました。委員会が本事例を選定した後、同社は、地域チームからの追加情報と、キューバでの女性による抗議デモの呼びかけの事例における委員会の決定に基づき、削除する当初の決定を変更し、当該コンテンツを復元しました。

イランにおける抗議デモのスローガンに関する決定で委員会が指摘したとおり、イランでは、遅くとも1979年の革命以降、イラン政府に対する抗議デモや公民権、政治的権利、男女平等を訴える抗議活動が展開されています。2023年には、イランで収監中の人権擁護者ナルゲス・モハマディ氏にノーベル平和賞が授与されています。同氏は「20年以上にわたり女性の権利のために闘い続け、それにより自由の象徴およびイランの神権政治との闘争の旗手として知られるようになった人物です。イランの刑法は、「適切なヒジャブ」を着用することなく公の場に出る女性に懲役、罰金または笞刑を科しています。また、イランの女性は、一定の学問分野への関与、多くの公共の場への立ち入りが禁止されており、イランの人びとは異性と踊ることなどが禁止されています。男性は家長とみなされ、女性が就業、結婚、旅行をするには父親か夫の許可が必要となります。女性の法廷証言は男性による法廷証言の重みの半分だとみなされるため、女性の司法アクセスは制限されています。

イラン当局がヒジャブに関する強制的な施行措置を強化・拡大した2022年以降、女性はより厳しく監視されるようになり、その結果、女性が言葉による嫌がらせや身体的嫌がらせを受けたり、拘束されたりすることが頻繁に起きています。2022年9月には、当時22歳のジナ・マフナ・アミニさんが警察の留置所で死亡するという事件が起きました。これは、「適切なヒジャブ」の着用に関する同国の規則に従わなかったとして拘束された3日後のことでした。彼女の死は、全国的な暴動と一連の抗議活動、そして「Zan, Zendegi, Azadi」(女性、命、自由)として知られるようになった反体制ムーブメントの火種となりました。これに対し、イラン当局は暴力的な取り締まりに乗り出し、これによる死者数は2022年末時点で500人以上が確認されています。また、抗議活動の参加者に加え、当該ムーブメントへの支持を表明したジャーナリスト、弁護士、活動家、芸術家、アスリートを含む推定14,000人が拘束されました。

2023年9月、イラン議会は「ヒジャブと慎み」に関する新たな法令を承認しました。この法令により、ヒジャブに関する強制的な規則に従わない女性は最長10年の禁固刑が科される可能性があります。ヒジャブを着用していない女性にサービスを提供した事業者にも制裁が課されたり、閉鎖に追い込まれたりする可能性があります。

イランにおける女性による抗議運動にとって、ソーシャルメディアは、抗議活動への参加者動員および重要な情報の一斉配信(パブリックコメントPC 21007、PC-21011を参照)、虐待および人権侵害に関する証拠の文書化と公的保管(PC-21008、添付資料)において不可欠かつ中心的な役割を果たしています。

しかし、オンラインキャンペーンは、政権による脅迫、中傷キャンペーン、拘束、懲役といったさらなる弾圧の危険に女性をさらすことも事実です。委員会が助言を求めた専門家は、イスラム革命防衛隊やイラン政府とのつながりがある団体や個人の広範なネットワークを通じた、InstagramとTelegramでの作戦行動が展開されており、抗議者および反体制活動家を直接標的にして告発する目的でTelegramが頻繁に利用されていることに着目しています。

委員会に提出されたパブリックコメントのいくつかでは、「ソーシャルメディア企業に対し、反体制活動家に関連するコンテンツを削除したり、それにシャドーバンを適用したりするよう圧力を加える」ために、利用者による報告のシステムを利用した、反体制派に関連するInstagram上のコンテンツを大量に報告する政権の戦術についても強調されています(パブリックコメントPC-21011、PC-21009を参照)。また、政権を非難する人たちによって共有されたコンテンツを削除してもらうためにコンテンツモデレーターに報酬を支払っているイラン諜報機関職員に関する報告もあります。

2023年2月、イランに関する国連特別報告者は、深刻なインターネット通信妨害やソーシャルメディアプラットフォームの検閲を含む、反対意見の表明手段に対するイラン当局の取り締まりが実施されるなか、市民社会活動家、人権擁護者、女性の権利の活動家、弁護士、ジャーナリストを標的にした継続的な弾圧に関する懸念を報告しています。

3. 監督委員会の権限と範囲

委員会には、コンテンツを削除された利用者からの異議申し立てを受けて、Metaの決定を審査する権限があります(憲章第2条第1項、定款第3条第1項)。

委員会は、Metaの決定を維持するか、または無効とすることができ(憲章第3条第5項)、この決定は同社に対して拘束力があります(憲章第4条)。Metaは、類似した文脈にある同一のコンテンツについて、委員会の決定の適用が実現可能かどうかについても評価しなければなりません(憲章第4条)。委員会の決定には、拘束力のない勧告を含めることができ、Metaはこれに回答しなければなりません(憲章第3条第4項、第4条)。Metaが勧告に基づき行動することを約束する場合、委員会はその実施をモニタリングします。

委員会が今回のような事例、つまり、誤りがあったことをその後にMetaが認めるような事例を選定した場合、委員会は当初の決定を審査して、コンテンツモデレーションプロセスの理解を深め、将来に向けエラーを減らし、FacebookとInstagramの利用者にとっての公平性を強化するための勧告を行います。

4. 先例および指針の資料

本事例における委員会の分析は、次に掲げる基準および先例に基づいて行われました。

I. 監督委員会の決定

監督委員会による過去の決定のうち、最も関連度の高いものには以下の決定などがあります。

• キューバでの女性による抗議デモの呼びかけ
• ペルーの大統領に対する隠喩的な発言
• イランにおける抗議デモのスローガン
• オジャラン氏の隔離
• 乳がんの症状とヌード

II. Metaのコンテンツポリシー

委員会の分析は、Metaが「何よりも大切にしている」とする「意見」に対する取り組みと、Metaが重んじる「安全性」、「プライバシー」および「尊厳」の価値観に基づいています。

Instagramコミュニティガイドライン

Instagramコミュニティガイドラインには、Metaが「確実性の高い脅迫を含むコンテンツを削除する」ことが定められており、このガイドラインは暴力と扇動に関するコミュニティ規定にリンクされています。当該コミュニティガイドラインは、危害を加えるための計画および犯罪の助長に関するコミュニティ規定に直接リンクされていません。Metaの2023年第1四半期コミュニティ規定施行に関する報告には、「FacebookとInstagramには共通のコンテンツポリシーがあります。つまり、Facebook上で違反していると判断されるコンテンツは、Instagramでも違反していると判断されます」と記載されています。

当該コンテンツは、暴力と扇動に関するポリシーに基づいて削除されました。委員会が本事例を選定したことを受け、Metaは、危害を加えるための計画および犯罪の助長に関するポリシーに照らし合わせた当該コンテンツの分析も行いました。

暴力と扇動に関するコミュニティ規定

ポリシーの基本理念によると、暴力と扇動に関するコミュニティ規定は、「コンテンツに関連して起こりうるオフラインでの暴力行為を防止する」ことを目的としています。同時に、Metaは、「人は不満や他人との意見の相違を示すため、実行するつもりのない無計画な暴力の脅しや呼びかけを行うことがある」ことを認識しています。そのため、Metaは、「死亡につながる恐れがある脅迫」を含んでいると判断したコンテンツを削除します。これには、人を「深刻度が高い暴力行為を意図する発言」の標的にするコンテンツも含まれます。同社は、起こりうる脅威かどうかを評価する際に、標的になっている個人の「知名度や攻撃されやすい対象かどうか」などの追加情報を含む、発言に関する背景情報を考慮すると述べています。

このポリシーの「以下のコンテンツの投稿は禁止されています」セクションは、「死亡につながる恐れがある暴力的な脅迫(および深刻度が高いほかの類型の暴力行為)」を禁止しています。「脅迫」には、深刻度が高い暴力行為を「意図する発言」も含まれます。

危害を加えるための計画および犯罪の助長に関するコミュニティ規定

ポリシーの基本理念によると、危害を加えるための計画および犯罪の助長に関するコミュニティ規定は、「人、ビジネス、財産、動物を対象とする特定の犯罪行為や有害行為について、これらを助長、計画、宣伝すること、またはそのような行為を告白すること」を禁止することで、「オフラインでの危害と模倣行為を防止および阻止」することを目的としています。これには「暴露」することも含まれ、Metaは、この行為を、「暴露のリスクにさらされたグループのメンバー」などに該当するとされる人物に関連する個人情報や所在地を公表することと定義しています。このポリシーの当該文言は、モデレーターによって、具体的な一定のグループに関連して大規模に施行されています。当該コンテンツが投稿された時点のMetaのポリシーは、追加の背景情報が提供されるエスカレーションにおいて、「ヴェールを着用していない時の女性の画像をその意向に反して、または許可を得ずに公開することで、ヴェールを着用していない時のその女性を危険にさらすコンテンツ」も同社が削除することを定めていました。現在この文言は、「暴露[ヴェールを着用していない女性]: 人の身元を暴露し、危害の危険にさらすこと」を禁止すると編集されています。

III. Metaの人権保障責任

国連ビジネスと人権に関する指導原則(UNGPs)は、国連人権理事会により2011年に採択された、人権に関して民間企業が負う責任について自主的な枠組みを定めた基準です。2021年3月16日に発表されたMetaの企業人権ポリシーは、UNGPsに記載のとおり、人権を尊重することへの約束を再確認するものです。

本事例での人権に対するMetaの責任に関する委員会の分析に関連する可能性のある国際基準は次のとおりです。

• 表現の自由の権利: 市民的及び政治的権利に関する国際規約(ICCPR)第19条、規約人権委員会の一般的意見34 (2011年)、意見及び表現の自由に関する国連特別報告者(UN Special Rapporteur on freedom of opinion and expression)報告書: A/HRC/38/35 (2018年)、およびA/74/486 (2019年)、ラバト行動計画(国連人権高等弁務官報告書): A/HRC/22/17/Add.4 (2013年)
• 平和的な集会の自由の権利:ICCPR第21条、規約人権委員会の一般的意見37(2020年)
• 生命に対する権利: ICCPR第6条
• 自由および身体の安全に対する権利: ICCPR第9条
• 差別を受けない権利: ICCPR第2(1)条、第3条および第26条、第1条および第7条(政治的・公的活動への参加における差別禁止)、女子に対するあらゆる形態の差別の撤廃に関する条約(CEDAW)。人権擁護者に関する宣言第8条、差別を受けずに広報活動への参加に効果的にアクセスする権利も参照。
• プライバシー権: ICCPR第17条

5. 利用者からの陳述書の提出

当該コンテンツを投稿した利用者は、この削除措置について、委員会に対し異議を申し立てました。この利用者は陳述の中で、当該投稿は、ヒジャブを着用していないことを理由にイラン政府が女性に対して取る姿勢の代表的な例を示していると説明しました。当該利用者は、この動画は自分の権利のために立ち上がるイランの女性たちの勇気を示すものであると述べています。また、他者によって同様の動画がソーシャルメディアで共有されており、当該コンテンツは有害または危険なものではなく、いかなるInstagramのポリシーにも違反していないとも述べています。

6. Metaからの情報提供

暴力と扇動に関するコミュニティ規定

Metaは、委員会に対し、本事例の投稿を削除した当初の決定は暴力と扇動に関するポリシーに基づいていたと伝えています。この決定は、「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)とMetaが翻訳した表現が投稿のキャプションに含まれていことを根拠としていたと同社は説明しました。この表現は、ヒジャブを着用していないという理由からこの女性に迫る動画の男性を標的にしたものであると同社は解釈しました。同社の地域チームは、「make you into pieces」(あなたをずたずたに引き裂く)という表現は、イラン語の文脈において身体的危害に該当すると判断しました。この解釈を踏まえ、Metaは暴力と扇動に関するポリシーに基づき当該コンテンツを削除する決定を維持しました。

Metaは、委員会が法的審査の対象として本事例を最初に認定した際には、当該コンテンツを削除する決定を維持しましたが、委員会が本事例を選定した後でこの決定を変更し、地域チームから提供された追加情報に基づき当該コンテンツを復元しました。Metaは、この追加情報に基づき、キャプションの文言の解釈として最も可能性の高いのは、動画の男性を標的とした現実的な脅迫でなく、イラン政権または強制的なヒジャブの着用を支持する個人・団体を解体することへの言及であると結論付けました。

Metaは、この最終審査において、当該コンテンツは、ヒジャブを着用していないという理由から男性によって迫られている動画の女性が受けているような、女性に対する虐待の認知度を高め、それに注目させることを目的としていたと結論付けました。当該利用者は、イランの女性たちの力強さに言及し、当該動画を撮影していた男性または政権全体のどちらかについて述べている「bastardness」(下劣さ)を非難し、動画の女性が拘束されたことの認知度を高めています。Metaは、脅迫の可能性のある当該表現は、このような全体的な文脈を考慮して、解釈および理解されるべきであると説明しました。Metaはその基本理念において、イランにおける抗議デモのスローガンに関する事例での決定を参照しつつ、このように認知度を高める試みは、自由に表現できる場所が限られているイランでは特に重要であると指摘しています。

またMetaは、追加の調査後に、「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という表現の最も妥当な解釈は、現実的な脅迫ではなく、政権全体または強制的なヒジャブ着用規制を支持するより一般的な人びとに向けた政治的批判であることが地域チームによって示されたことも委員会に伝えています。「make you into pieces」(あなたをずたずたに引き裂く)という表現は、一般的に人体をばらばらに切り裂くことを意味しますが、この事例では、(ペルーの大統領に対する隠喩的な発言(要約決定)で見られた隠喩的な表現のように)政権を解体すると理解することが可能です。

Metaが最終的に当該コンテンツを復元したもう1つの要因は、キューバでの女性による抗議デモの呼びかけに関する事例での委員会の決定であったと、同社は委員会に対し伝えています。この決定では、投稿の文脈の解釈において、一連の弾圧措置と、投稿の主題であった歴史的な抗議活動に関連する重大な公益性が考慮されるべきであることが強調されています。さらに、同社は、委員会がイランにおける女性の権利にまつわる政治運動を分析したイランにおける抗議デモのスローガンに関する事例も検討しました。この事例では、委員会は、イラン政府が組織的に表現の自由を抑圧している状況と、反対意見を述べる場としてデジタル空間が重要な場となっていることを特に考慮し、抗議活動という背景において意見を守ることの重要性を強調しました。また同社は、ペルーの大統領に対する隠喩的な発言に関する事例での委員会の最近の要約決定を検討したとも述べています。この要約決定では「特に政治的発言を保護するために、皮肉、風刺、または修辞的議論を意識しながら状況に配慮したモデレーションシステムを設計することの重要性」が再度強調されています。

危害を加えるための計画および犯罪の助長に関するコミュニティ規定

Metaは、当該コンテンツは動画に映っているヴェール未着用の女性を不本意な形で暴露しているという理由により、危害を加えるための計画および犯罪の助長に関するコミュニティ規定に基づき当該コンテンツを削除することも検討したと委員会に伝えています。Metaは、このポリシーの文言を、追加の背景情報が提供されている場合にエスカレーションでのみ施行します。この施行では、関連ステークホルダーからの情報提供が義務付けられており、コンテンツまたはキャプションで使われている具体的な言葉やトーンではなく、コンテンツがヴェールを着用していない女性を、彼女の許可なく身元を暴露する形で描写し、彼女を危害の危険にさらす可能性があるかどうかに重点が置かれます。Metaは、人は自分自身を暴露することはできないため、ポリシー違反に該当するには、暴露は不本意なものである必要があることに着目しています。

本事例では、かかる女性の身元がオンラインで広く知られており、当該コンテンツが投稿された時点でこの女性がすでに拘束されていたため、当該コンテンツは不本意な形での暴露を理由に削除されるべきではないとMetaは判断しました。こうした背景状況により、プラットフォームに当該コンテンツを残すことによって生じる危害の危険は大幅に軽減されていました。

委員会はMetaに書面で11件の質問および2件の追加の質問をしました。質問は、イランでの施行の手続きおよびリソース、イランに関する全般的なMetaのリスク評価、動画の女性に関するMetaのリスク評価、自動・人間による審査プロセル、ヴェールを着用していない女性を描写するコンテンツとリスクのあるグループの暴露に関する大規模な施行およびエスカレーションでの施行に関連したものでした。Metaはすべての質問に回答しました。

7. パブリックコメント

本事例に関して、監督委員会には12件のパブリックコメントが寄せられました。7件は米国およびカナダ、2件は中央・南アジア、2件はヨーロッパ、1件は中近東・北アフリカからのものでした。

これらのコメントでは、「Woman, Life, Freedom」(女性、命、自由)ムーブメントを含むイランでの抗議活動におけるソーシャルメディアの役割、ヴェールを着用していない女性の画像がデジタルキャンペーンにおいて果たす役割、イランでヴェールを着用していない女性の画像がソーシャルメディアで流布することによる危険、イラン当局によるソーシャルメディアの利用、イランの政治的状況に関連するペルシア語による表現に関するMetaのコンテンツモデレーションポリシーの施行、イランにおける表現の自由、人権、女性の権利、政府による弾圧およびソーシャルメディアの禁止といった主題が取り上げられていました。

本事例に関して提出されたパブリックコメントを読むにはこちらをクリックしてください。

8. 監督委員会による分析

委員会は、Metaのコンテンツポリシー、人権保障責任および価値観に基づき当該コンテンツを削除する当初の同社の決定を調査しました。

委員会が本事例を選定したのは、Metaの暴力と扇動に関するポリシーと危害を加えるための計画および犯罪の助長に関するポリシーについて、および2022年9月以降イランで起きている、女性の権利と社会生活への女性の参加を訴える大規模な抗議活動の渦中における当該ポリシー関連の施行プロセスについて考察する機会となるからです。こうした考察において、委員会は、特にヒジャブに関する強制的な規則に対する抗議者にとってのソーシャルメディアプラットフォームの重要性について取り上げています。

さらに本事例は、比喩的な発言について、逐語的に理解する場合には脅迫的と解釈されるが、背景情報がある場合には確実性の高い脅迫と解釈されるべきではないとするケースおよび理由を判断するうえでのMetaの社内手続きについて議論する機会ともなります。本事例は主として、委員会が優先する選挙と市民空間という課題に該当すると同時に、ジェンダー、政府によるMetaのプラットフォームの利用、危機的状況と紛争状況という委員会の優先課題にも関連します。

8.1 Metaのコンテンツポリシーへの準拠

暴力と扇動に関するコミュニティ規定

本事例のコンテンツは、政府の弾圧に対する怒りを表現する、逐語的には解釈されない比喩的な発言を含んでおり、確実性の高い暴力的な脅迫に該当しないため、暴力と扇動に関するコミュニティ規定に違反していないと委員会は判断します。

Metaは、本事例のコンテンツを当初削除した理由は、「深刻度の高い暴力行為を意図する発言」が含まれていたためだと説明しました。同社は、深刻度が高い暴力行為を、死亡につながるおそれのある脅迫、あるいは致死的である可能性が高い脅迫と定義しています。

Metaは、同社の地域チームの評価に基づき、当該投稿のキャプションにある「it is not far to make you into pieces」(あなたをずたずたに引き裂くときは遠くない)という表現は、イラン語の文脈において身体的危害の脅迫であり、暴力と扇動に関するポリシーに違反するとみなしました。

委員会が助言を求めた言語専門家は、キャプションの該当部分を、「we will tear you to pieces sometime soon！」(私たちは近いうちにあなたをずたずたに引き裂く！)または「it is not far away, we will rip you into shreds」(そのときは遠くない、私たちがあなたを粉々にするのは)と翻訳できると説明しています。これらの専門家は、イラン語の文脈においてこの表現は、抑圧者に対する怒り、失望および反感を伝え、抑圧者の権力掌握は永遠に続かないため最終的には状況が変わることを示唆していると指摘しています。この表現は、身体的危害を加える意図として逐語的に解釈されるべきでなく、「tear into pieces」(ずたずたに引き裂く)または「rip into shreds」(粉々にする)といった強引な動詞を使って感情を込めた表現で強調された、注目を集めるための「修辞的な発言」として機能しています。これらの専門家は、こうした比喩的な発言には、当該コンテンツの投稿者とそのオーディエンスが共有する深い怒りが反映されていると強調しました。こうしたことから、当該コンテンツは身体的危害の現実的な脅迫を示唆していないといえます。

Metaは、委員会に対し、脅迫の確実性を評価する際には発言の背景も検討すると伝えていますが、モデレーターへの指針では「深刻度の高い暴力行為を意図する発言」があるかどうかを評価する際に背景を検討できることが示されていません。ルールの要素、具体的にはコンテンツに脅迫と標的の両方が含まれているという条件が満たされている場合、本事例のようにその投稿は違反と判断されます。本事例において、当該発言は女性を追っている男性を標的にしているとMetaは解釈しました。当該ルールでは、標的になっている人がコンテンツで描写されているか、特定可能であるかは問われていません。当該ルールでは、脅迫的な発言を確実性が高くないとして免除する、またはそうみなすルールとして、「テログループなど特定の暴力行為者に向けられた脅迫」という1つだけの例を挙げています。

本事例での「make you into pieces」(あなたをずたずたに引き裂く)という表現は確実性の高い脅迫に該当しません。イランで政権に抗議する人びとに対する弾圧と暴力が深刻化している混乱の時期を踏まえつつ、キャプションと動画の両方を全体的に考慮すれば、この表現は逐語的に解釈されるものではなく、政権への怒りと失望を表す比喩的なものであり、「深刻度の高い暴力行為を意図する発言」に該当しないと委員会は判断します。この解釈は、意見という価値観へのMetaの取り組みと、政治上の不満の表現を保護する重要性に合致しています。

危害を加えるための計画および犯罪の助長に関するコミュニティ規定

委員会は、本事例のコンテンツは危害を加えるための計画および犯罪の助長に関するコミュニティ規定に違反しないと判断します。

Metaは、「ヴェールを着用していない時の女性の画像をその意向に反して、または許可を得ずに公開することで、ヴェールを着用していない時のその女性を危険にさらすコンテンツ」を禁止するルールに基づいて当該投稿を削除することを検討しました。この後で、このポリシーの文言は「暴露[ヴェールを着用していない女性]: 人の身元を暴露し、危害の危険にさらすこと」を禁止すると編集されています。同社が理解する「暴露」の対象には、ヴェールを着用していない女性の画像を共有し、女性の身元をその人の許可なく暴露し、危害の危険にさらすコンテンツが含まれます。エスカレーションにのみ適用されるこのポリシーの文言は、その施行にあたってさまざまなステークホルダーからの情報提供を義務付けています(上記の第4項を参照)。

本事例では、当該コンテンツの女性の身元が広く知られ、投稿時にはすでに拘束されて危害のリスクが弱まっていたという理由により、この女性は動画内で「暴露」されていないとするMetaの判断に委員会は同意します。したがって、当該動画をプラットフォームに残すことは、この女性への危険を実質的に増大させず、実際にはこの女性に関する事例の認知度を高めるうえでの保護的な措置になり得ると考えられます。投稿が女性を「暴露」し、危険にさらしているかの判断では、背景情報への依存度が特に高いため、エスカレーションでのみ当該ポリシーを施行することによって、施行チームが関連の背景情報を効果的に特定および検討するための時間とリソースを確保できるようになります。

8.2 Metaの人権保障責任の遵守

委員会は、本事例のコンテンツをプラットフォームから削除することがMetaの人権保障責任に沿うものではないと判断します。

表現の自由(ICCPR第19条)

ICCPR第19条は、「口頭、手書き若しくは印刷、芸術の形態又は自ら選択する他の方法により、国境とのかかわりなく、あらゆる種類の情報及び考えを求め、受け及び伝える自由を含む」幅広い表現の保護を定めています。国が表現を制限する場合、その制限は合法性、正当な目的、および必要性と相応性の各要件を満たさなければなりません(ICCPR第19条第3項)。委員会は、審査対象であるコンテンツに関する個別の決定、およびこれがコンテンツガバナンスに対するMetaの幅広いアプローチについて示す内容の両方に関して、この枠組みを用い、人権に対するMetaの自主的な取り組みを解釈します。表現の自由に関する国連特別報告者が述べているとおり、「企業には政府と同じ義務はないが、影響力が高いため、ユーザーの表現の自由に対する権利の保護に関して、企業も政府と同様の問題を評価する必要があります」(A/74/486、第41項)。

イランのような閉鎖的な社会において、ソーシャルメディアへのアクセスは極めて重要です。ソーシャルメディアプラットフォームは、「デジタルゲートキーパー」として、情報へのパブリックアクセスに「多大な影響」をもたらします(A/HRC/50/29、第90項)。本事例の投稿は、存続のためにデジタル市民空間に依存する、より広範な抗議運動の一環を成すものです。女性の服装のあり方を強制する法令は、それが公の場でのヴェールの着用を禁止するものであるか、ヴェールを着用せずに外出することを禁止するものであるかを問わず(Yaker v France、CCPR/C/123/D/2747/2016を参照)、女性の自由と尊厳に影響を及ぼします(A/68/290、第38項)。これに関連して、「インターネットは、女性の権利を巡る戦いの新たな戦場となり、女性が自分の意見を表明する機会を増大させています」(A/76/258、第4項)。女性が自分の意見を自由に表明できるようになることで、女性による政治への参加と女性の人権の実現が可能になります(A/HRC/Res/23/2、第1項および第2項、A/76/258、第5項)。

I. 合法性(規則の明確さとわかりやすさ・閲覧可能性)

表現の自由に対する制限は、合法性の原則に基づき、かつ確立された規則に従った、アクセスしやすくかつ明確であるものである必要があります。こうした規則は、個々が規則に応じて行動を律することができるよう十分正確に策定されなければならず、容易に閲覧可能でなければなりません(一般的意見34、第25項)。また、表現を制限する規則が、「表現の自由の制限の施行を担当する者に対して、その制限に関して自由裁量を与えるものであってはならない」こと、および「どういった表現が適切に制限され、どういった表現が制限されないのかを、施行を担当する者が確かめられるよう、十分な指針を提示」することも求められます(一般的意見34、第25項、A/HRC/38/35 (undocs.org)、第46項)。明確さや正確さに欠けると、一貫性のない、恣意的なルールの施行につながる可能性があります。Metaに関して言えば、FacebookやInstagramにコンテンツを投稿することの結果を予測できるべきであり、コンテンツの審査担当者には施行に関する明確な指針が用意されていなければなりません。

暴力と扇動に関するコミュニティ規定

暴力と扇動に関するコミュニティ規定に関するポリシーの基本理念(このコミュニティ規定のポリシーの基本理念は目的を表明しているものの、そのルール自体には盛り込まれていません)は、「背景が重要である」こと、および「確実性の高い脅迫」を評価する際に背景が考慮される場合があることを示唆しているものの、モデレーションに関するMetaの内部指針およびアプローチは、こうした考慮が実際になされることを可能にしていないと委員会は判断します。イランにおける抗議デモのスローガンに関する事例で委員会が指摘しているとおり、大規模なコンテンツモデレーションの担当者は、投稿において具体的な条件または要素を探し、それらの要素が含まれている場合に、その投稿を削除するように指示されています。すなわち、投稿に脅迫(例:「殺す」または「あなたをずたずたに切り裂く」)と標的が含まれる場合に、削除措置が講じられます。コンテンツモデレーターには脅迫の確実性を評価する権限は与えられていません。当該事例において、Metaが決まりきったアプローチまたは定型的なアプローチを取っているのは「確実性の高い脅迫とは対照的に、修辞的な発言に該当するかどうかの判断、特に大規模審査においては、困難を伴う」からであるとも同社は説明しています。脅迫の確実性は、ルールの施行ではなく、ルールの策定にあたって考慮されます。イランにおける抗議デモのスローガンに関する事例で委員会が指摘したとおり、「ポリシーの基本理念では、抗議活動が展開されている状況下で予測されるような修辞上の発言が認められているように思われますが、審査担当者向けの書面によるルールとそれに対応する指針ではこうした発言が認められているようには見えません。実際に、実務上の施行、特に大規模施行はルールで示されるよりさらに定型的で、これにより、ルールがどのように施行されるかという点について利用者に誤解が生まれる可能性があります。現在起草されている審査担当者向けの指針では、脅迫の文言が修辞上の表現であるという明確な手がかりがコンテンツ自体にある場合であっても、文脈を分析する可能性が排除されています。」同社が表明するポリシーの基本理念と実際の施行慣行との間にあるこうしたズレはいまだあり、合法性の原則を適切に遵守しているとはいえません。

委員会は、イランにおける抗議デモのスローガンに関する事例で下した判断のように、反対意見を表明する「修辞的な表現」または逐語的に解釈されない表現を、特にイランのように慎重な扱いが必要とされる政治的環境において、デフォルトで削除することを控えるようモデレーターに指示する、背景の考慮方法に関するきめ細かい指針をMetaは提供すべきであるという勧告を繰り返します。

危害を加えるための計画および犯罪の助長に関するコミュニティ規定

委員会は、本事例で適用された「ヴェールを着用していない時の女性の画像をその意向に反して、または許可を得ずに公開することで、ヴェールを着用していない時のその女性を危険にさらすコンテンツ」を禁止するMetaの規定は十分に明確であると判断します。Metaは、ヴェールを着用していない女性を「暴露」し、危害をもたらす可能性のあるコンテンツが同社のプラットフォームで禁止されることを明確にしています。しかし委員会は、Instagramコミュニティガイドラインが危害を加えるための計画および犯罪の助長コミュニティ規定に直接リンクされていないことを懸念しています。こうしたことは、Instagram利用者に適用されるルールのアクセシビリティを損なわせています。委員会は、過去の事例(乳がんの症状とヌード、オジャラン氏の隔離)で、Facebookコミュニティ規定がInstagramにどう適用されるかについて利用者に明確に公開するようにMetaに勧告しました。この勧告に応じて、Metaは、コミュニティ規定とInstagramコミュニティガイドラインを統合し、これらのプラットフォーム間におけるポリシーのわずかな相違点を示すためのプロセスを実施しています。Metaは、四半期ごとの透明性レポートを公開した後に、法令および規制に関して考慮するべき事項によって、このプロセスのタイムラインが影響を受けていることを伝えたうえで、優先事項としてこのプロセスに引き続き取り組むことを委員会に対して約束しました。委員会は、すみやかにこのプロセスを完了させ、適用されるルールを明確にすることの重要性を繰り返し強調します。

II. 正当な目的

ICCPR第19条第3項に基づき、表現は、他者の権利を保護する目的などを含む、規定された、限定的な一連の理由により制限されることがあります。本事例において、委員会は、暴力と扇動に関するコミュニティ規定は「人身に実際の危害を及ぼす、または公共の安全を直接脅かすおそれがある」コンテンツを削除することで、「起こりうるオフラインでの危害を防止」することを目的としていると判断しています。そのため、当該ポリシーは、生命に対する権利(ICCPR第6条)および身体の安全に対する権利(ICCPR第9条、一般的意見35、第9項)の保護という正当な目的に資するものです。

危害を加えるための計画および犯罪の助長に関するポリシーは、イランの女性の差別を受けない権利の保護(ICCPR第2条、第3条および第26条、CEDAW第1条および第7条)という正当な目的に資するものです。これには、表現と集会の自由(ICCPR第19条および第21条)、公的活動に参加する権利(CEDAW第1条および第7条)、プライバシーの権利(ICCPR第17条)、生命に対する権利(ICCPR第6条)、自由および身体の安全に対する権利(ICCPR第9条)を享受することが含まれます。

III. 必要性と相応性

表現の自由に対する制限は、「その保護機能の達成に適したものでなければならず、その保護機能を達成する可能性がある手段の中で最も干渉性の低いものでなければならず、保護すべき利益に相応でなければなりません」(一般的意見34、第34項)。ソーシャルメディア会社は、制限の範囲を狭めるよう、問題のあるコンテンツに対して削除以外のさまざまな対応を検討する必要があります(A/74/486第51項)。

暴力と扇動に関するコミュニティ規定

委員会は、本事例のコンテンツを削除するMetaの当初の決定は必要ではなかったと判断します。当該投稿のキャプションでの脅迫への言及は逐語的に解釈されるものではないため、動画を撮影していた人やその他の人の安全を守ることは必要ではありませんでした。イランにおける抗議デモのスローガンに関する事例で指導を受けた後も、すでに1年以上も抗議活動が続いているイランの状況にもかかわらず、Metaのコミュニティ規定およびモデレーター向けの指針では、逐語的に解釈されない比喩的な脅迫について一貫性のない施行が生じる可能性があることに委員会は懸念を抱いています。本事例のように、当該事例でも、逐語的に解釈されない脅迫としてMetaが特定できなかった表現が取り上げられていました。本事例のコンテンツが、Metaで大規模なモデレーションを実施する複数の担当者やチームによって審査され、繰り返し違反と判断されたという事実は、適切な指針がいまだ欠如していることをさらに裏付けています。

委員会は、分析の一環として、ラバト行動計画に掲げられている以下の6つの要因に立脚し、本事例のコンテンツが差別や暴力、その他の違法な行為を扇動する深刻なリスクを生み出す可能性を評価しました。ラバト行動計画は、扇動全般でなく、扇動を構成する国籍、人種、宗教に関する憎悪に対処するものですが、その6要素のテストは一般的な扇動を評価するうえで有益であることに委員会は着目しており、過去にもこのテスト方法を使用しています(イランにおける抗議デモのスローガン、キューバでの女性による抗議デモの呼びかけを参照)。

• 背景状況: 当該コンテンツは、2023年7月、政権に抗議する人びとへの弾圧と暴力が高まっていた混乱の時期に投稿されました。大規模なインターネット通信妨害およびFacebook、Telegram、Xといった主要ソーシャルメディアプラットフォームの禁止を鑑みれば、イラン国内における抗議の手段は限られているといえます。Instagramは、イランで禁止されずに残っている数少ないプラットフォームの1つであり、「Woman, Life, Freedom」(女性、命、自由)ムーブメントにおけるその役割は計り知れません。委員会が助言を求めた専門家の指摘によると、このムーブメントは、抗議活動の正規化と、女性に対する差別的な法令が40年にわたり存続していることに対する抵抗を目的としています。当該専門家は、このムーブメントが起きて以降の主な傾向として、恐怖心を植え付け、女性がオンラインで自分を表現することを封じ込める動きを観測しています。新しい法令および著名人の拘束は、こうした抗議の表明に歯止めをかけ、ヒジャブに関する法令に対する抵抗を正規化しようとする動向を抑止することを意図しています。
• 発言者の身元: Metaは、委員会に対し、当該コンテンツの投稿者を著名人と見なさなかったと伝えています。当該動画のキャプションを考慮すると、当該投稿者は「Woman, Life, Freedom」(女性、命、自由)ムーブメントの支持者または参加者であると考えられます。そのため、当該投稿における発言者は、権威的な立場になく、このムーブメントへの支持を表明し、当該コンテンツを投稿することによって自身の安全を危険にさらしている可能性があります。
• 意図: 大規模なコンテンツモデレーションにおいて意図を評価することには大きな困難が伴いますが、当該投稿全体を一般的に解釈すると、描写されている女性を支持し、この女性の拘束に関する認知度を高めることが当該投稿の目的の1つとしてあることが示されています。委員会が助言を求めた専門家によると、ヴェールを着用していない女性が拘束された後に、抗議者がその人の画像と名前を拡散して、その人の安全を守るために関係当局に圧力をかけることはイランにおいて一般的なことです。抗議者は、こうした女性を公開することで、被害者に対するさらなる嫌がらせを防ぐことができることを理解しています。
• コンテンツと表現形式: 委員会が助言を求めた言語専門家によると、「make you into pieces」(あなたをずたずたに引き裂く)という表現は、文字どおりの暴力的な脅迫ではなく、怒りや失望といった深い感情の表現としてペルシア語話者によって理解されます。当該ムーブメントでは、政権を非難するために、強引で脅迫的とも思える言語が普段から使用されています。イランにおける抗議デモのスローガンに関する事例で、委員会は、「Death to Khamenei」(ハメネイに死を)というスローガンが「修辞的な脅迫」に該当すると判断し、Metaも同様の理由により「I will kill whoever kills my sister/brother」(同胞を殺す者なら誰でも殺す)という表現にポリシーの精神に対する配慮を講じていたことを指摘しました。本事例での当該表現は、自身の権利のために立ち上がる女性を称賛するキャプションの中盤に表示されています。こうしたことを全体的に考慮すると、当該キャプションは、差別的な法令および政権による強制的な慣行に抗議するイランの女性たちへの支持であるといえます。
• 範囲とリーチ: この投稿は、約47,000回閲覧され、2,000件の「いいね！」、100件のコメント、50回のシェアがありました。ラバト行動計画に基づく分析におけるその他の要素を考慮すれば、この発言は扇動に該当しないと考えられるため、当該コンテンツのリーチの高さ自体は、削除措置が必要であったことを示す要素ではありません。
• 蓋然性と切迫の度合い: この要素では、当該発言がその潜在的な標的(本事例では政権)に対して差し迫った危害を引き起こす可能性があるかどうかを評価します。当該抗議ムーブメントとその支持者は、抗議者に対して暴力的な弾圧と報復行為を常習的に繰り返す政権に対して立ち向かっています。本事例の発言によって起こり得る可能性の最も高い危害は、政権またはその支持者に対する暴力ではなく、当該投稿者または動画に映っている女性に対する政権による報復的な暴力です。専門家は、こうした抗議活動に参加している個人が直面している危険と、迫りくる暴力的な脅迫に対して、当該ムーブメントが持ち堪えている状況を強調しています。また、ヴェールを着用していないという理由から拘束された女性の画像を拡散する目的は、この女性が拘束された事実への注目を集め、この女性の安全を守るために関係当局に圧力をかけることにあるとも述べています。

委員会は、上述のその他の要素の分析に基づき、当該コンテンツは確実性の高い脅迫に該当せず、オフラインでの危害を扇動し得るものではないと考えます。暴力的な弾圧で報復される抗議活動が広く展開されている状況下で比喩的な発言が使われた場合、Metaは、根底をなすポリシーの基本理念とのモデレーターへの指針の整合性を確保し、審査担当者が言語と地域に関する背景情報を評価できるようにする必要があります。投稿が「比喩的な発言」を含んでいるかどうか、または暴力を扇動する可能性があるかについての正確な評価を確実にすることは、危機的状況におけるモデレーションをより全体的に改善するために不可欠です。自動化の正確さは、人間が供給するトレーニングデータの質による影響を受けます。人間のモデレーターがルールを厳格に施行することによって「比喩的な」発言が削除されるという誤りは、自動化を通じて再現され、増大する可能性があります。

委員会は、「リスクのある」国のレベル設定システムや、危機管理ポリシープロトコルを含め、Metaには、危機的状況下において同社のポリシーとその施行を調整するために利用できる多くのメカニズムがあることに着目しています。「リスクのある」国のレベル設定システムは、同社がどのように製品開発の優先順位を決めるべきか、およびどのように資源を投資すべきかを判断するにあたって、「オフラインの危害と暴力」のリスクのある国を特定するために使用されます。こうした評価は、他のプロセスでも考慮される場合があります(特別運用チームを立ち上げるべきか、危機管理ポリシープロトコルを発動すべきかなど)。Metaは委員会に対し、2023年の後半にイランが「リスクのある国」に指定されていたと伝えています。イランは、2022年9月21日以降、危機管理ポリシープロトコルにおいても指定されており、この指定はいまだ解除されていません。危機管理ポリシープロトコルは、Metaが特定の状況に対応するために一時的なポリシーの変更(「ポリシー改善策」)を行うことを可能にするものです。Metaは、「『I will kill whoever kills my sister/brother』(同胞を殺す者なら誰でも殺す)というスローガンまたはそれから派生した表現を含むコンテンツを、その他のMetaのポリシーへの違反がないことを条件に許可する配慮」を含む、イランですでに実施済みのポリシー改善策の例をいくつか提供しています(その他のポリシー改善策の例については、ポリシーフォーラム議事録(2022年1月25日)、危機管理ポリシープロトコルを参照)。

委員会は、Metaが安全に対して取り組み、イランに対して危機管理ポリシープロトコルを発動することによってコンテンツモデレーションにおける潜在的なリスクを軽減しようと努めていることを認識していますが、これらの取り組みは、反対意見に対する組織的な弾圧と社会的な緊張がある状況において表現の自由の尊重を確実にするうえで十分ではなかったといえます。委員会が委託した調査では、Metaのプラットフォームにおいて、イランでのヒジャブの着用に関する議論の文脈で、ヴェールを着用していない女性を描写するコンテンツの圧倒的多数が、当該抗議ムーブメントによって共有されたものか、それを支持するものかであることが示されています。本事例におけるMetaの施行プロセスでは、関連の文脈において逐語的に解釈されない比喩的な発言を、オフラインでのさらなる危害につながる可能性のある実際の暴力的な脅迫と扇動から区別できないことが繰り返し起きています。

委員会は、危機管理ポリシープロトコルにポリシー改善策を追加し、この改善策に基づき、関連の文脈において脅迫的な表現を文字どおりではなく比喩的に使用しているため、暴力的な脅迫を禁止する暴力と扇動に関するポリシーの文言に違反しないものとみなす発言を特定する方法についての社内基準を、大規模なモデレーションの担当者に提供するようMetaに勧告します。脅迫が比喩的であるか、それとも文字どおりであるかを判断する方法に関する危機的状況固有の基準を策定するあたり、Metaは、ラバト行動計画の要素(例: 政権による弾圧に対する広範な抗議活動が展開されている状況、扇動する能力を発言者が有しているかまたは発言者が危害への関与を扇動するリスクがあるかどうか、修辞技法として強引/感情的な表現が一般に使用されていることを示す関連の言語学的または社会的な背景情報、地域に関する知識を考慮したうえでの危害の可能性など)を参照できます。Metaは、同社の信頼できるパートナーにモデレーション基準の策定または評価を依頼することもできます。Metaは、コンテンツモデレーションにおけるラバト行動計画の実際的な重要性を重視しており、当該行動計画を32か国語に翻訳する国連の取り組みを支援しています。当該ポリシー改善策では、政権に対する抗議という文脈における「比喩的な発言」を、暴力の扇動を意図せず、その可能性が低いことを条件として、許可する必要があります。

危害を加えるための計画および犯罪の助長に関するコミュニティ規定

本事例では、描写されていた女性の身元が広く知られており、当該コンテンツがこの女性の拘束への注目を集め、この注目が彼女の釈放につながることを願いつつ投稿されたことは明らかであるため、危害を加えるための計画および犯罪の助長に関するコミュニティ規定に基づく削除措置は必要なかったと委員会は判断します。また、公の場でヒジャブを脱ぎ捨てる女性たちは目的を持って、1つの抗議手段としてそれを行っており、「政権に対する戦略的な抵抗として反抗的態度」を選択することによって起こり得る結果を認識していることが、複数のパブリックコメント提供者によって強調されています(パブリックコメント、Tech Global Institute、PC-21009を参照)。当該動画の女性は、すでに身元が知られており、政権によって拘束されていました。当該投稿は、この女性の拘束への注目を集めるために共有されました。政権によって拘束されている抗議者や反体制派には、拷問や性別に基づく暴力行為を受けた人、なかには消息が不明な人もいます。委員会が助言を求めた専門家および複数のパブリックコメント提供者は、拘束への注目を集め、拘束者の解放を呼びかけるこうした活動は、イランにおけるムーブメントおよび人権擁護者によって定期的に展開されており、政権によって拘束されている人びとを保護するのに寄与していることに特に着目しています。

露出を望む利用者による投稿の検閲を回避しつつ、攻撃の対象となりやすい利用者の個人情報を保護する必要性のバランスを取ることは微妙な課題であり、文脈と背景の分析、適時な審査および迅速な措置が求められます。

9. 監督委員会の決定

監督委員会は、コンテンツを削除するMetaの当初の決定を無効と判断しました。

10. 勧告

1. 施行

Metaは、政権による組織的な弾圧がある状況において利用者の表現と集会の自由への尊重を確実にするため、暴力を扇動することを意図していない、または暴力を扇動する可能性が低い比喩的な発言(または逐語的に解釈されない発言)は、関連の文脈における暴力的な脅迫を禁止する暴力と扇動に関するポリシーの文言に違反しないことを定めるポリシー改善策を危機管理ポリシープロトコルに加えるべきです。これには、関連のある文脈においてこうした発言を見分ける方法に関する基準を大規模なモデレーションの担当者のために策定することが含まれます。

委員会は、イランにおけるポリシー改善策を実装する方法と、それに基づくモデレーション基準の両方が委員会に共有された時点で、Metaが勧告に従ったとみなします。

*手続きに関する注記:

監督委員会の決定は、5名のメンバーからなるパネルにより準備され、委員会の過半数の承認を得ています。委員会の決定は、必ずしもメンバー全員の個人的見解を反映したものではありません。

本事例決定のために、独立した調査が委員会に代わって委託されました。委員会は、ヨーテボリ大学に本部を置く、6つの大陸の50名を超える社会科学者からなり、世界各地の3,200名を超える専門家と連携する独立調査機関による支援を受けました。また、委員会は、地政学、信用と安全、テクノロジーを横断的に扱うアドバイザリー会社であるDuco Advisorsによる支援も受けています。このほか、ソーシャルメディアのトレンドに関するオープンソース調査に従事する組織、Memeticaによる分析の提供も受けました。350を超える言語に精通し、世界各地の5,000の都市を拠点とする専門家を擁する会社であるLionbridge Technologies, LLCが、言語面での専門的知識を提供しました。

Return to Case Decisions and Policy Advisory Opinions