Об упоминании указанных опасных лиц как "шахидов"

Сводный отчет

По мнению Совета, подход Meta к модерации контента, где термин "шахид" используется в отношении лиц, указанных в списке опасных, существенно и несоразмерно ограничивает свободу слова. Meta интерпретирует любое использование термина "шахид" по отношению к лицам, указанным в списке опасных, как нарушение правил и удаляет такой контент. По информации Meta, на слово "шахид", по-видимому, приходится больше всего случаев удаления контента с платформ Meta за нарушение Норм сообщества. Террористические акты имеют серьезные последствия: они приносят страдания ни в чем не повинным людям, препятствуют реализации прав человека и подрывают основы общества. Тем не менее любое ограничение свободы слова для предотвращения подобного насилия должно быть необходимым и соразмерным, учитывая, что ненадлежащее удаление контента может быть неэффективным и даже контрпродуктивным.

Отправной точкой рекомендаций Совета является тот факт, что Meta необходимо принимать эффективные меры, чтобы гарантировать, что платформы компании не будут использоваться для подстрекательства к актам насилия или для вербовки людей для участия в них. Слово "шахид" иногда используется экстремистами для восхваления и прославления людей, погибших при совершении террористических актов. Однако, принимая ответные меры, в Meta должны уважать все права человека, включая свободу слова.

7 октября 2023 г., когда Совет заканчивал работу над этим пакетом рекомендаций относительно правил, ХАМАС (организация 1 уровня в списке политики Meta в отношении опасных организаций и лиц) провела серию беспрецедентных террористических атак на Израиль, в результате которых было убито около 1 200 человек, а около 240 человек попали в заложники (Министерство иностранных дел, правительство Израиля). Согласно сообщениям в СМИ, на 6 февраля 2024 г. как минимум 30 из предполагаемых 136 заложников, удерживаемых ХАМАС на начало января, были мертвы. Специалисты Meta незамедлительно обозначили эти события как теракт в политике в отношении опасных организаций и лиц. В ответ на теракты Израиль быстро организовал военную кампанию. В ходе этой кампании было убито более 30 тыс. человек в секторе Газа по состоянию на 4 марта (по данным Управления ООН по координации гуманитарных вопросов, на основе данных, полученных от Министерства здравоохранения Газа). По данным за январь, около 70 % погибших были женщины и дети.

Из-за этих событий Совет приостановил публикацию пакета рекомендаций относительно правил, чтобы учесть в своих рекомендациях использование платформ Meta и слова "шахид" в этом контексте. В ходе такого дополнительного анализа были подтверждены рекомендации Совета Meta по поводу модерации слова "шахид" (даже с учетом крайне напряженной обстановки в связи с этими событиями), которые должны обеспечить более полное соблюдение всех прав человека в рамках ответных мер Meta на кризисные ситуации. При этом Совет подчеркивает, что политики Meta в этой сфере глобальны и их влияние распространяется далеко за пределы данного конфликта. Признавая актуальность недавних событий в Израиле и Палестине, рекомендации Совета также носят глобальный характер и не ограничены конкретным контекстом.

С точки зрения Совета Meta реализует чрезмерно широкий подход к модерации слова "шахид", который несоразмерно ограничивает свободу слова и участие в общественной дискуссии. Например, по ошибке могут удаляться публикации, сообщающие о насилии и опасных субъектах. Кроме того, в подходе Meta не учитываются различные значения термина "шахид", многие из которых не связаны с прославлением и выражением одобрения, что слишком часто ведет к удалению публикаций на арабском и других (часто мусульманских) языках, при том что такое удаление не служит целям политики в отношении опасных организаций и лиц. Более того, политики Meta запрещают, например, восхваление, поддержку и представление интересов опасных лиц, организаций и событий, а также подстрекательство к насилию. Эти политики, при условии их грамотного применения, помогают предотвратить риски, связанные с использованием платформ Meta террористами. Исходя из этого, Совет рекомендует Meta отказаться от поголовного запрета использования термина "шахид" при упоминании опасных лиц и внести изменения в политику, которые обеспечили бы анализ контента, содержащего данное слово, с учетом контекста.

Предыстория

В феврале 2023 г. представители Meta задали Совету вопрос о том, следует ли продолжать удалять контент, в котором арабский термин "шахид" (شهيد в арабском написании) используется при упоминании лиц, внесенных в список политики в отношении опасных организаций и лиц. "Шахид" также является заимствованным словом (то есть многие неарабские языки "заимствовали" этот арабский термин, в том числе адаптируя его написание).

Компания квалифицирует слово "шахид" как один из "почтительных" терминов, использующихся в разных сообществах, культурах, религиях и языках по всему миру для обозначения человека, который умер внезапно, например в результате несчастного случая, или почетно, например на войне. Компания признает, что у термина есть "несколько значений" и, хотя для него "нет прямого эквивалента в английском языке", обычным переводом на английский будет "мученик". Отмечая, что "в английском языке слово "мученик" означает человека, который пострадал или умер за правое дело, и, как правило, имеет положительные коннотации", в Meta заявляют, что "именно поэтому мы квалифицировали термин ["шахид"] как восхваление в рамках нашей политики [в отношении опасных организаций и лиц]".

Допущение Meta о том, что упоминание опасного лица как "шахида" всегда представляет собой "восхваление" в рамках политики в отношении опасных организаций и лиц, привело к тотальному запрету. В Meta признали, что, поскольку термин имеет много значений, "возможна чрезмерная модерация значительного числа высказываний, целью которых не является восхваление опасных лиц, особенно среди пользователей, говорящих на арабском языке". В Meta также не применяют к использованию слова "шахид" исключения в рамках политики в отношении опасных организаций и лиц, разрешающие тот или иной термин для "информирования об опасных субъектах, их осуждения либо нейтрального обсуждения". Такая ситуация сохранялась на момент последнего обновления политики (в декабре 2023 г.), которая теперь запрещает "прославление" и "неоднозначные упоминания", вместо "восхваления", которое полностью удалено.

В 2020 году в Meta инициировали разработку политики, в рамках которой предполагалось переоценить подход к термину "шахид", руководствуясь этими соображениями. Однако компании не удалось прийти к согласию, и новый подход не был согласован.

Запрашивая этот пакет рекомендаций относительно правил, в Meta представили Совету три возможных варианта политики:

1. Сохранить "статус-кво".
2. Разрешить использование слова "шахид" при упоминании опасных лиц в публикациях, соответствующих исключениям в рамках запрета "восхваления" (например, для информирования, нейтрального обсуждения или осуждения) в отсутствие других одобрительных терминов или "признаков пропаганды насилия". К некоторым примерам таких признаков, предложенным Meta, относятся визуальное изображение оружия или упоминание военного лексикона или насилия в реальном мире.
3. Разрешить использование слова "шахид" в отношении опасных лиц в отсутствие других восхвалений или признаков пропаганды насилия. Этот вариант не учитывает, подпадает ли контент под одно из вышеуказанных исключений, в отличие от второго варианта.

Совет рассмотрел и другие возможные варианты политики. По причинам, приведенным в данном пакете рекомендаций относительно правил, рекомендации Совета ближе к третьему варианту, хотя и предусматривают меньшее количество признаков пропаганды насилия, чем предложено в запросе Meta. Кроме того, они предусматривают требование более широкого применения исключений в отношении информирования об опасных субъектах и их деятельности, их нейтрального обсуждения и осуждения.

Основные выводы и рекомендации

По мнению Совета, текущий подход Meta к термину "шахид" в связи с лицами, указанными в списке опасных, чрезмерно широк, а также существенно и несоразмерно ограничивает свободу слова.

"Шахид" — это термин, имеющий культурное и религиозное значение. Иногда он используется для одобрения действий тех, кто погиб, совершая акт насилия, и даже для их "прославления". Но он также часто используется, даже при упоминании опасных лиц, в новостях и нейтральных комментариях, абстрактных дискуссиях, полемике по правам человека и даже другими, более пассивными способами. Среди других значений, "шахид" широко используется при упоминании лиц, погибших на благо страны, на благо своего дела или в результате социополитического насилия или несчастных случаев. В некоторых мусульманских сообществах он даже используется как имя или фамилия. Именно это служит веским основанием считать, что многочисленные значения слова "шахид" стали причиной удаления существенного числа материалов, не имевших своей целью восхваление террористов или их преступлений.

Подход Meta, предусматривающий удаление контента исключительно из-за слова "шахид" при упоминании опасных лиц, намеренно игнорирует лингвистическую сложность этого слова и многочисленные варианты его использования, всегда трактуя его только как эквивалент английского слова "мученик". Такой подход существенно влияет на свободу слова и свободу СМИ, неоправданно ограничивает общественную дискуссию и противоречит принципам равенства и отказа от дискриминации. Такое чрезмерно строгое применение несоразмерно влияет на людей, говорящих на арабском языке и других языках, в которых слово "шахид" является заимствованным. При этом существуют другие варианты реализацииполитики в отношении опасных организаций и лиц, которые позволили бы Meta реализовывать такую ценность, как "безопасность", и эффективно удалять материалы, прославляющие террористов, со своих платформ. Таким образом текущая политика является несоразмерной и нецелесообразной.

Чтобы обеспечить более тесное соответствие политик и практик обеспечения соблюдения правил в отношении термина "шахид" нормам по защите прав человека, Совет рекомендует следующее (полный список рекомендаций см. в разделе 6):

1. Meta следует отказаться от допущения, что слово "шахид", используемое при упоминании опасного лица или неназванных участников опасных организаций, всегда является нарушением и не подлежит исключениям в рамках политики. Контент, в котором опасное лицо названо "шахидом", подлежит удалению по принципу "неоднозначного упоминания" только в двух ситуациях. Во-первых, при наличии одного или нескольких из трех признаков пропаганды насилия: визуальное описание оружия, заявление о намерении или поддержке использования или ношения оружия или упоминание опасного события. Во-вторых, когда контент иным образом нарушает политики Meta (например, в случае прославления или из-за того, что упоминание опасного лица остается неоднозначным по другим причинам, нежели использование слова "шахид"). В любом случае должна сохраняться возможность применить к контенту исключение по принципу "информирования, нейтрального обсуждения или осуждения".

2. Чтобы пояснить запрет "неоднозначных упоминаний", Meta следует предоставить несколько примеров нарушающего контента, включая публикацию, в которой опасное лицо упоминается как "шахид" в сочетании с одним или более из трех признаков пропаганды насилия, указанных в рекомендации № 1.

3. Meta также следует обновить внутренние инструкции по политике, чтобы пояснить, что упоминание опасного лица как "шахида" не является нарушением, если не сопровождается признаками пропаганды насилия, и даже при наличии таких признаков на контент может распространяться исключение по принципу "информирования, нейтрального обсуждения или осуждения".

Если в Meta примут и реализуют эти рекомендации, в рамках имеющихся правил компания по-прежнему сможет удалять контент, "прославляющий" опасных лиц, изображающий их насилие и враждебность как подвиг или признающий законным их насилие или враждебные действия, включая поддержку или представление интересов указанных опасных субъектов любого рода. Предложенный Советом подход на основе данных рекомендаций позволит Meta отказаться от неизменной трактовки слова "шахид" в отношении опасных лиц как нарушения и удалять контент, только если он включает другие нарушения политик (например, прославление) или является "неоднозначным упоминанием" из-за признаков пропаганды насилия. При этом к такому контенту должно быть возможно применить исключение по принципу "информирования, нейтрального обсуждения или осуждения".

Совет также рекомендует компании Meta:

4. Предоставить дополнительные сведения о процедуре добавления субъектов и событий в список политики в отношении опасных организаций и лиц, чтобы обеспечить надлежащую прозрачность. Meta также следует опубликовать сводную информацию по общему числу субъектов на каждом уровне списка, а также по числу субъектов, добавленных в список или удаленных из него за прошлый год.

5. Разработать четкий и эффективный процесс регулярной проверки списка и удаления из него лиц и организаций, которые уже не соответствуют опубликованным критериям, чтобы гарантировать актуальность списка опасных организаций и лиц и не включать в него организации, лиц и события, которые больше не подпадают под определение "опасных".

6. Разъяснить методы, используемые для оценки точности проверки вручную и эффективности автоматизированных систем в плане применения политики в отношении опасных организаций и лиц. Meta следует периодически публиковать результаты оценки эффективности классификаторов, используемых при обеспечении соблюдения данной политики, с возможностью сравнения по разным языкам и/или регионам.

7. Четко объяснить, как классификаторы используются для создания прогнозов нарушения политики и как специалисты Meta задают пороговые значения для разных вариантов: бездействие, оправка контента на проверку вручную, удаление контента. Эту информацию следует опубликовать в Центре прозрачности Meta, где она будет доступна заинтересованным лицам.

Полный пакет рекомендаций относительно правил

1. Запрос Meta

I. Запрос пакета рекомендаций относительно правил

1. В своем запросе (доступен на английском и арабском языке) Meta запрашивает у Совета рекомендации о том, следует ли продолжать удалять контент, в котором слово "шахид" (شهيد) (и его формы единственного/множественного лица, включая заимствованные варианты на арабском и других языках) используется при упоминании лиц, указанных как опасные в политике в отношении опасных организаций и лиц, или, в соответствии с ценностями компании и обязательствами по соблюдению прав человека, компании следует использовать иной подход. Представители Meta также запросили рекомендации относительно других подобных вопросов, которые могут возникнуть в будущем.

II. Подход Meta

2. Политика Meta в отношении опасных организаций и лиц ранее запрещала "восхваление, открытую поддержку и представление интересов организаций и лиц, которые считаются опасными для общества", а также "нарушающих правила насильственных действий". 29 декабря 2023 г. в Meta обновили эту политику, удалив запрет восхваления и добавив запрет "прославления" и "неоднозначного упоминания". Совет продлил рассмотрение пакета рекомендаций, чтобы оценить влияние этих изменений в политике на свои выводы и рекомендации.

3. Этот запрос пакета рекомендаций относительно правил касался запрета восхваления опасных лиц, а не параллельного запрета открытой поддержки и представления интересов. По сравнению с открытой поддержкой и представлением интересов в Meta считают "восхваление" наименее серьезным нарушением. "Уровень 1" зарезервирован Meta для наиболее опасных субъектов, включая террористические, человеконенавистнические и преступные организации. Когда Meta добавляет в список "нарушающее правила насильственное действие", исполнители этого действия также попадают в список опасных лиц первого уровня, и их прославление (ранее "восхваление") запрещается. Опасные насильственные действия включают "террористические акты, действия на почве ненависти, насилие с несколькими жертвами или покушения на такое насилие, серийные убийства, преступления на почве ненависти". Хотя в Meta ведут собственный список опасных субъектов, не разглашаемый публично, он частично основан на санкционных списках правительства США (то есть рамки списка Meta как минимум соответствуют рамкам правительственных списков США, на которых они основаны). В Нормах сообщества объясняется, что к субъектам первого уровня относятся "в том числе специально обозначенные лица, участвующие в незаконном обороте наркотиков (SDNTK)", "иностранные террористические организации (FTO)" и "специально обозначенные международные террористы". Эти списки правительства США опубликованы здесь, здесь и здесь, соответственно.

4. До обновления политики 29 декабря 2023 г. понятие "восхваление" определялось Meta как "положительные высказывания о субъекте или событии", придающие опасному субъекту "ощущение подвига", подводящие законные "основания под деятельность опасного субъекта посредством заявлений о том, что враждебные, насильственные или преступные действия этого субъекта оправданы или допустимы с юридической, моральной или иной точки зрения", или выражающие "идеологическую поддержку опасному субъекту или событию". Такое определение (или серия примеров) было добавлено в политику для уточнения на основе рекомендации Независимого надзорного совета в рамках одного из первых дел (решение по делу о цитате нацистов, рекомендация № 2). После обновления политики в декабре 2023 г. "прославление" определяется как "легитимизация или оправдание актов жестокости и ненависти путем утверждений о том, что эти акты могут быть морально, политически, логически или иначе оправданы, что в свою очередь делает их приемлемыми или разумными" или "описание или восхваление актов насилия или ненависти, совершенных опасным лицом или организацией, как подвигов". В более широком смысле в обновлении политики Meta заявляет, что "удалению подлежат неоднозначные или лишенные контекста упоминания, если намерение пользователя выражено недостаточно четко". В политике указано, что к ним относятся "неочевидные шутки", а также "контент без подписей или упоминания в положительном ключе, не прославляющие насилие или враждебность со стороны обозначенного субъекта". Тем не менее в политике не приводятся примеры публикаций, нарушающих это правило. Представители Meta сообщили Совету, что продолжают удалять весь контент, называющий опасных лиц "шахидами". Что касается таких упоминаний, компания квалифицирует слово "шахид" как нарушение во всех контекстах, по сути дела поголовно запрещая употребление этого термина при упоминании опасных лиц. Сферу действия этого запрета можно частично проиллюстрировать, обратившись к вышеупомянутым санкционным спискам правительства США, поскольку в политике Meta запрещается упоминание всех лиц (и участников организаций) из собственного производного списка компании как "шахидов" (включая любые другие переводы термина "мученик"). К ним относятся субъекты из разных стран и континентов, а не только террористические организации или организации, придерживающиеся какой-то конкретной идеологии.

5. Meta квалифицирует слово "шахид" как один из "почтительных" терминов, использующихся в разных сообществах, культурах, религиях и языках по всему миру. В компании признают, что термин имеет "несколько значений" и "используется в отношении человека, умершего неожиданно или преждевременно, иногда почетной смертью, например в результате несчастного случая, во время вооруженного столкновения или на войне". В Meta заявили, что хотя "для этого термина нет прямого эквивалента в английском языке", обычным переводом на английский будет "мученик"". В запросе, отправленном в Совет до обновления политики в декабре 2023 г., представители Meta заявили: "мы исходим из допущения, что значением слова является "мученик"," и "именно из-за этого значения квалифицируем термин как восхваление в рамках нашей политики [в отношении опасных организаций и лиц]". Единственным упоминанием этого правила в общедоступных Нормах сообщества является пример фраз, которые считаются нарушением запрета на восхваление. Среди других примеров Meta указывает фразу, в которой признанного виновным террориста из США называют "мучеником". В арабской версии политики Meta использует тот же пример, в котором слово "мученик" переводится как "шахид". Пример с использованием термина "мученик/шахид" был удален в обновлении общедоступной Нормы сообщества в декабре 2023 г., хотя представители Meta сообщили Совету, что он по-прежнему считается нарушением и модераторы должны удалять такой контент.

6. Исключения в рамках политики Meta в отношении опасных организаций и лиц не применяются к использованию слова "шахид" при упоминании опасного лица. Такие исключения подразумевают возможность сохранения контента для "информирования, нейтрального обсуждения или осуждения" опасных лиц. Результатом удаления контента, содержащего слово "шахид" в значении "восхваления" опасного лица, станет применение серьезных "предупреждений" к пользователям, а накопление таких серьезных предупреждений быстрее повлечет за собой применение санкций, таких как приостановка или отключение аккаунтов и Страниц. Отказ от применения исключений из правила в отношении термина "шахид" не объясняется в общедоступной версии Норм сообщества.

7. В Meta объяснили, что такая трактовка слова "шахид" служит ценности "безопасность", поскольку такой контент мог бы, по мнению компании, "представлять риск причинения вреда в реальном мире". В то же время Meta признает, что английское слово "мученик" не является корректным переводом слова "шахид". Учитывая несколько значений этого слова и трудности учета контекста и намерений пользователей при массовой модерации, в Meta допустили, что будут удалять высказывания, "не способствующие угрозе причинения вреда" и "не имеющие своей целью восхваление опасного лица, особенно среди людей, говорящих на арабском языке". Например, контент, где слово "шахид" используется в новостных материалах или для нейтрального обсуждения преждевременной смерти опасного лица, а не для восхваления (или прославления) его самого или его деяний.

8. 29 августа 2023 г. исключение в рамках политики Meta в отношении опасных организаций и лиц обновили, добавив в него определения "новостных материалов", "нейтрального обсуждения" и "осуждения" наряду с примерами, иллюстрирующими каждое исключение. В то же время в Meta расширили описание исключения, признав, что пользователи могут ссылаться на опасных субъектов в контексте "обсуждения социальных и политических вопросов". Все примеры, иллюстрирующие разрешенный контент, были удалены в ходе обновления политики в декабре 2023 г., но само исключение осталось. Примеры были снова добавлены в обновленную версию политики от 8 февраля 2024 г. При этом ни в обновлении за декабрь 2023 г., ни в обновлении за февраль 2024 г. не было явно указано, что к неоднозначным или лишенным контекста упоминаниям опасных лиц или организаций эти исключения не применяются, поскольку они определяются по недостаточно четкому выражению намерения в самой публикации.

9. В 2020 году в Meta инициировали разработку политики, в рамках которой предполагалось переоценить подход к термину "шахид". Процесс включал в себя анализ исследований и консультацию с заинтересованными сторонами. Как сообщили представители Meta, ключевыми результатами участия заинтересованных сторон стало заключение о том, что значение слова "шахид" зависит от контекста и "в некоторых случаях этот термин используется без привязки к первоначальному значению восхваления". В то же время, несомненно, слово "шахид" может использоваться и восприниматься как восхваление опасного лица. Определение точного намерения в рамках одной публикации по сути весьма затруднительно, особенно при массовой модерации. В ходе этого процесса, как указывалось в запросе, Meta удалось сформулировать два варианта политики как возможные альтернативы текущему подходу к трактовке слова "шахид". Однако заинтересованные стороны не смогли прийти к согласию по поводу оптимального варианта, в результате чего в Meta так и не разработали новый подход. В компании подчеркивают, что ввиду большого количества контента на ее платформах одним из главных соображений при разработке решения является возможность его применения на массовом уровне.

III. Изменения политики, предложенные на рассмотрение Совета

10. В Meta представили на рассмотрение Совета следующие варианты политики перед заменой запрета "восхваления" запретом "прославления" и "неоднозначных упоминаний":

1. Продолжить удалять весь контент, в котором словом "шахид" названы лица, считающиеся опасными в рамках политики в отношении опасных организаций и лиц.

2. Разрешать контент, в котором опасные лица названы словом "шахид", если соблюдены следующие условия: а) слово использовано в контексте, разрешенном политикой в отношении опасных организаций и лиц (т. е. осуждение, новостные материалы, научные дебаты, социальные и политические обсуждения); б) в публикации не содержится восхвалений опасного лица, представления его интересов или открытой поддержки (например, в ней нет открытого восхваления или оправдания лица, совершившего теракт); в) в контенте отсутствуют признаки пропаганды насилия. Такими признаками, как определено Meta, являются: визуальное описание оружия, заявление о намерении или поддержке использования или ношения оружия; использование военного лексикона; упоминание поджогов, мародерства или иного уничтожения имущества; упоминание известных актов насилия в реальном мире; а также заявления о намерении, призывы к действию, представление интересов, поддержка или оправдание насилия над людьми.

3. Удалять контент, в котором словом "шахид" названы опасные лица, указанные в политике Meta в отношении опасных организаций и лиц, только когда в публикации содержится дополнительное восхваление опасного лица, представляются его интересы, выражается открытая поддержка или есть признаки пропаганды насилия. Признаки аналогичны указанным в варианте 2.

11. Второй и третий вариант можно считать попыткой реализовать трактовку слова "шахид", более ориентированную на контекст. Предполагаемые результаты их применения не слишком различаются. Различия между этими двумя вариантами ещё больше уменьшились, когда в Meta расширили сферу применения контекстных исключений в отношении запрета восхваления (теперь прославления) до общего уровня (см. пункт 8 выше). Уточнив в Meta разницу в сферах применения и результатах этих двух вариантов, Совет пришел к выводу, что основным отличием второго варианта будет то, что Meta потребуется находить и подтверждать применение одного из исключений (информирование, нейтральное обсуждение, осуждение) к контенту, тогда как третий вариант не будет включать этот этап, учитывая лишь наличие в публикации дополнительного восхваления (теперь "прославления" или "неоднозначных упоминаний") или одного из шести указанных признаков пропаганды насилия. Все предложенные Meta варианты подразумевают, что любой контент, называющий или описывающий опасных лиц с неоднозначным или недостаточно четко выраженным намерением, по умолчанию будет считаться нарушающим правила, а значит эта политика требует от пользователей четко выражать свои намерения. Это требование входит в обновление Нормы сообщества в отношении опасных организаций и лиц за декабрь 2023 г.: в отношении опасных субъектов и событий 1 уровня политика запрещает "неоднозначные или лишенные контекста упоминания", в том числе "неочевидный юмор, контент без подписей или упоминания в положительном ключе, не прославляющие насилие или враждебность со стороны обозначенного субъекта". Например, фото опасного лица без каких-либо дополнительных слов или комментариев будет удаляться в рамках правила, запрещающего "неоднозначное упоминание", поскольку намерение пользователя выражено недостаточно явно.

12. Совет рассмотрел не только варианты, предложенные Meta, но и другие возможности, а также принял во внимание изменения, внесенные в политику в декабре 2023 г. Кроме того, учитывая, что в Meta напрямую запросили у Совета рекомендации по политикам для решения аналогичных проблем в будущем, Совет проанализировал связанные проблемы, касающиеся практической стороны обеспечения соблюдения правил и прозрачности не только в сферах, рассматриваемых в этом пакете рекомендаций относительно правил, но и с точки зрения свободы слова и более широкого влияния на другие права человека.

IV. Вопросы, заданные Meta Советом

13. Совет задал Meta 41 вопрос в письменной форме. Вопросы касались обоснования правил Нормы сообщества в отношении опасных организаций и лиц; свидетельств вреда, который может повлечь за собой разрешение "восхваления" на платформах Meta; автоматизированных и ручных процессов обеспечения соблюдения правил Meta; процесса признания лица или организации опасными и списка таких опасных субъектов; системы предупреждений Meta и практических последствий применения второго и третьего варианта политики. В октябре 2023 г. Совет задал дополнительные вопросы по поводу тенденций в отношении контента, в котором используется слово "шахид", в связи с атакой террористов на Израиль 7 октября и возможных изменений в анализе Meta вариантов политики, представленных Совету в запросе, в свете текущего кризиса. Совет задал три дополнительных вопроса касательно обновления политики Meta от 29 декабря 2023 г. На 40 вопросов были получены ответы; на один вопрос был получен частичный ответ. Представители Meta передали Совету список опасных субъектов 1 уровня, но не списки 2 и 3 уровня, объяснив это тем, что "восхваление" запрещено только по отношению к 1 уровню.

2. Участие заинтересованных сторон

14. Независимый надзорный совет получил 101 комментарий общественности, соответствующий условиям. 72 комментария были отправлены из США и Канады; 15 — из стран Ближнего Востока и Северной Африки; восемь — из Европы, три — из Азиатско-Тихоокеанского региона и Океании, два — из стран Латинской Америки и Карибского бассейна и один — из Центральной и Южной Азии. Все они были получены до 10 апреля 2023 г. Ознакомиться с комментариями общественности, отправленными с согласием на публикацию, можно здесь.

15. Полученные обращения касались многих вопросов. Во многих объяснялись различные значения слова "шахид" и, соответственно, отрицательные последствия трактовки Meta этого термина априори как "восхваления" в плане свободы слова, в частности, политических высказываний и документирования нарушений прав человека. Кроме того, в них выражалась озабоченность использованием автоматизации при обеспечении соблюдения правил, а также списками Meta, проблемами прозрачности и потенциальной необъективности при составлении таких списков. В других обращениях выражались опасения по поводу того, что изменения в политике могут привести к нормализации террористических группировок и росту насилия, особенно в Израиле и на оккупированных палестинских территориях.

16. Совет провел три региональных круглых стола с заинтересованными лицами в Юго-Западной Азии и Северной Африке, Тропической Африке и Юго-Восточной Азии. Кроме того, было проведено два совещания с экспертами: одно по поводу автоматизации модерации контента и одно по вопросам борьбы с терроризмом и защиты прав человека. Участники неоднократно подчеркивали, что слово "шахид" имеет много значений. Мученичество — это одно из возможных значений, включая смерть людей при совершении терактов, но термин "шахид" также часто используется в других контекстах, например при описании жертв таких терактов. Многие участники, включая членов затронутых сообществ, экспертов по борьбе с терроризмом и модерации контента, выражали опасения по поводу необъективности политики и ее негативного влияния на свободу слова, в частности, для людей, говорящих на арабском языке, и других сообществ, использующих слово "шахид". Кроме того, поднимались такие вопросы, как отсутствие свидетельств причинно-следственной связи между использованием слова "шахид" в отношении опасных лиц и причинением вреда в реальном мире, что также подчеркивалось экспертами в сфере борьбы с терроризмом и национальной безопасности. Наравне с этим выражались опасения по поводу того, что полный отказ от модерации этого термина приведет к нормализации опасных организаций и лиц, которые могут использовать социальные сети для вербовки сторонников и других форм открытой поддержки. Также поднимались вопросы качества автоматических систем, используемых Meta при модерации контента с данным термином, повышения прозрачности их применения, а также списка опасных субъектов Meta и процесса составления этого списка.

17. Ознакомиться с отчетом по результатам совещаний с участием заинтересованных лиц можно здесь (версия на арабском языке доступна здесь).

3. Полномочия и сфера действия Независимого надзорного совета

18. Meta может запрашивать у Совета пакет рекомендаций относительно правил (статья 3 Устава, раздел 7.3), а Совет — на свое усмотрение принимать или отклонять запросы Meta (Правила внутреннего распорядка, статья 2, раздел 2.1.3). Такие пакеты носят рекомендательный характер (Устав, статья 3, раздел 7.3). Meta обязуется ответить на такой пакет рекомендаций относительно правил в течение 60 дней с момента публикации (Правила внутреннего распорядка, статья 2, раздел 2.3.2). Совет следит за выполнением рекомендаций, которые в Meta обязались выполнить, и может снова обратиться к любой предыдущей рекомендации в своих решениях по делам.

4. Источники полномочий и нормативов

I. Предыдущие рекомендации Независимого надзорного совета

19. Рассматривая предыдущие дела, Совет рекомендовал Meta уточнить и сузить область действия политики в отношении опасных организаций и лиц, а также повысить эффективность и прозрачность процесса обеспечения соблюдения правил в отношении контента.

20. Касательно повышения точности и сужения области действия политики Совет рекомендовал Meta:

• сузить определение "восхваления" в руководстве для проверяющих "Известные вопросы" (дело об упоминании о движении "Талибан" в новостном материале, рекомендация № 3);
• пересмотреть внутренние руководства с целью разъяснить, что исключение об "информировании" в рамках политики в отношении опасных организаций и лиц допускает положительные высказывания о субъектах, признанных опасными, в рамках информирования, и как их отличать от "восхваления" (дело об упоминании о движении "Талибан" в новостном материале, рекомендация № 4);
• добавить критерии и наглядные примеры в политику в отношении опасных организаций и лиц, чтобы улучшить понимание исключений в плане нейтрального обсуждения, осуждения и новостных материалов (дело о распространяемой публикации "Аль-Джазира", рекомендация № 1);
• обновить обоснование политики, чтобы указать, что защита свободы слова и других прав человека может способствовать продвижению ценности Meta "безопасность", и более подробно описать "вред, причиняемый в реальном мире", который эта политика призвана предотвратить за счет ценности "свобода слова" (дело об изоляции Оджалана, рекомендация № 4);
• объяснить, каким образом пользователи должны демонстрировать намерение при публикации контента, чтобы к нему могли применяться исключения (дело об изоляции Оджалана, рекомендация № 6);
• объяснить и предоставить примеры применения основных терминов политики в отношении опасных организаций и лиц, включая значение слова "восхваление", и предоставить более четкие инструкции для пользователей, которые помогут им продемонстрировать свое намерение (дело о цитате нацистов, рекомендация № 2).

21. Касательно системы предупреждений Meta Совет рекомендовал Meta:

• четко, развернуто и доступно разъяснить порядок применения блокировок и санкций при ограничении профилей, Страниц, групп и аккаунтов на Facebook и в Instagram (дело о блокировке аккаунтов бывшего президента США Трампа, рекомендация № 15);
• более доступно и развернуто объяснить широкой общественности принципы работы двухступенчатой системы предупреждений, особенно в части "строгих предупреждений" (дело об упоминании о движении "Талибан" в новостном материале, рекомендация № 2);
• предоставлять пользователям понятную информациюо количестве нарушений, блокировок и санкций, прошедших оценку в их отношении, и о последствиях дальнейших нарушений (дело блокировке аккаунтов бывшего президента США Трампа, рекомендация № 16).

22. Касательно прозрачности Совет рекомендовал Meta:

• опубликовать список опасных организаций и лиц в открытом доступе или, по крайней мере, предоставить наглядные примеры опасных субъектов (дело о цитате нацистов, рекомендация № 3);
• усовершенствовать отчеты по обеспечению соблюдения правил, включив в них число ограничений в отношении профилей, Страниц и аккаунтов (помимо решений об удалении контента) с разбивкой по регионам и странам (дело о блокировке аккаунтов бывшего президента США Трампа, рекомендация № 17);
• включить более полную информацию о частоте возникновения ошибок при обеспечении соблюдения правил в отношении "восхваления" и "поддержки" опасных организаций и лиц с разбивкой по регионам и языкам (дело об изоляции Оджалана, рекомендация № 12);
• повысить уровень информирования общественности о частоте ошибок и предоставить возможность их просмотра по странам и языкам для каждой Нормы сообщества (дело об опасениях пенджабцев по поводу организации "Раштрия сваямсевак сангх" в Индии, рекомендация № 3).

23. Касательно автоматизации Совет рекомендовал Meta:

• уведомлять пользователей, если в отношении их контента используется автоматическое принятие мер, в том числе предоставлять понятные описания того, что это означает (дело о симптомах рака молочной железы и изображении обнаженного тела, рекомендация № 3);
• повысить уровень прозрачности и раскрывать данные о количестве автоматических решений об удалении с разбивкой по Нормам сообщества, а также процентную долю таких решений, отмененных после проверки вручную (О симптомах рака молочной железы и изображении обнаженного тела, рекомендация № 6);
• публиковать в отчетах по обеспечению прозрачности показатели ошибочного добавления контента в банки контента службы сопоставления медиафайлов с разбивкой по политикам в отношении контента. Такие отчеты должны включать информацию о том, как контент попадает в банки, а также о принятых компанией мерах по уменьшению количества ошибок в ходе данного процесса (дело о карикатуре на полицию Колумбии, рекомендация № 3);
• опубликовать в широком доступе объяснение принципов работы системы автоматического назначения приоритета и закрытия жалоб (дело о призыве к протестам в Иране, рекомендация № 7).

24. Чтобы получить представление о ходе выполнения этих предыдущих рекомендаций, нажмите здесь (версия на арабском языке доступна здесь).

II. Ценности Meta и обязательства по защите прав человека

25. Анализ данных и рекомендации в рамках этого пакета рекомендаций относительно правил основывались на ценностях Meta и обязательствах компании по защите прав человека.

26. Свободу слова в Meta называют "первостепенной" ценностью, отмечая, что она может быть ограничена в пользу четырех других ценностей, самой актуальной из которых в рамках этого пакета рекомендаций относительно правил является "личная безопасность". Ценность "личная безопасность" требует "удаления контента, который может способствовать возникновению угрозы для физической безопасности людей". Кроме того, она предусматривает запрет "контента, который угрожает людям", поскольку он "может запугивать, унижать или заставлять их замолчать".

27. 16 марта 2021 года в Meta опубликовали корпоративную политику в отношении прав человека, в которой приняли на себя обязательство соблюдать права в соответствии с разработанными ООН Руководящими принципами предпринимательской деятельности в аспекте прав человека (РП ООН). РП ООН, утвержденные Советом по правам человека ООН в 2011 г., устанавливают добровольный порядок выполнения обязанностей по защите прав человека частными компаниями. Такие обязанности подразумевают, помимо прочего, что компании должны "избегать нарушения прав человека других и устранять неблагоприятное воздействие своей работы на права человека" (РП ООН, принцип 11). От компаний требуется: "(а) избегать оказания или содействия оказанию неблагоприятного воздействия на права человека в рамках своей деятельности и устранять последствия такого воздействия в случае, когда оно имело место; (б) стремиться предотвращать или смягчать неблагоприятное воздействие на права человека, которое непосредственно связано с их деятельностью, продукцией или услугами вследствие их деловых отношений, даже если они непосредственно не способствовали оказанию такого воздействия" (РП ООН, принцип 13).

28. Как признается в запросе, направленном в Совет, практики модерации контента Meta могут оказывать неблагоприятное воздействие на право свободно выражать свое мнение. Статья 19, пункт 2 Международного пакта о гражданских и политических правах (МПГПП) предусматривает широкую защиту этого права, учитывая значимость политического дискурса. Кроме того, Комитет по защите прав человека отмечал, что защите также подлежат мнения, которые могут восприниматься как крайне оскорбительные (Замечание общего порядка № 34, пункты 11, 13 и 38). Если ограничения свободы слова установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). Эти требования часто называют "трехэтапной проверкой". Совет использует ее для интерпретации добровольных обязательств Meta по защите прав человека как при вынесении решений по конкретному контенту, так и при оценке общего подхода Meta к управлению контентом. В докладе Специального докладчика ООН по вопросу права на свободу мнений и их свободное выражение говорится: "у компаний нет обязательств государственного уровня, однако их влияние таково, что им необходимо рассматривать те же вопросы защиты прав пользователей, касающиеся свободы слова" (отчет A/74/486, пункт 41).

29. Право на свободу слова гарантировано всем людям в равной мере. Любые ограничения этого права не должны подразумевать дискриминацию, в том числе на основе религии или вероисповедания, языка или национальности (статьи 2 и 26 МПГПП).

Правомерность (четкость и доступность правил)

30. Любое ограничение свободы слова должно быть понятным и содержать достаточно четкое описание сферы применения, цели и воздействия, чтобы пользователи и специалисты по проверке контента точно знали, какой контент разрешен или запрещен на платформе. Отсутствие ясности или точности может привести к непоследовательному и произвольному применению правил (доклад Специального докладчика ООН A/HRC/38/35, пункт 46). Совет ранее критиковал недостаточно четкую формулировку политики в отношении опасных организаций и лиц и рекомендовал Meta внести улучшения в нее (дела об изоляции Оджалана, рекомендации № 4 и № 6; о распространяемой публикации "Аль-Джазира", рекомендация № 1; об упоминании о движении "Талибан" в новостном материале, рекомендации № 3 и № 4). В Meta впоследствии выполнили рекомендации Совета, уточнив определение термина "восхваление".

31. Обновление политики Meta в отношении опасных организаций и лиц в декабре 2023 г. вызывает новые вопросы, касающиеся правомерности. Хотя в Meta предоставили примеры публикаций, нарушающих запрет на "представление", "поддержку" и "прославление", примеров "неоднозначного упоминания" предоставлено не было. Рекомендации Совета в рамках этого пакета рекомендаций относительно правил имеют своей целью повысить точность и доступность правил Meta.

Законная цель

32. В пункте 3 статьи 19 МПГПП указывается, что любое ограничение свободы слова должно преследовать законную цель, включая защиту прав других лиц, а также более широких интересов общества, таких как национальная безопасность (см. также Замечание общего порядка № 34, пункты 21 и 30). В обосновании политики Meta в отношении опасных организаций и лиц поясняется, что ее целью является "предотвращение вреда в реальном мире". Как выяснил Совет при рассмотрении различных дел, эта цель соответствует законной цели защиты прав других, включая право на жизнь (статья 6 МПГПП). Совет также ранее признавал, что восхваление опасных субъектов может представлять риск пагубных последствий для прав других и что стремление смягчить такие последствия путем запрета восхваления в Норме сообщества в отношении опасных организаций и лиц преследует законную цель (дело об упоминании о движении "Талибан" в новостном материале).

Необходимость и соразмерность

33. Любые ограничения свободы слова "должны являться уместными для выполнения своей защитной функции; они должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат; и они должны быть соразмерны защищаемому интересу" (Замечание общего порядка № 34, пункт 34).

34. Решение Совета безопасности ООН № 1624 (2005 г.) содержит призыв к государствам по мере необходимости и в соответствии с их обязательствами в рамках международного права "запрещать в силу закона подстрекательство к совершению террористического акта или актов" (пункт 1а), а в последующих решениях выражались опасения по поводу использования Интернета террористическими организациями (Решение Совбеза ООН № 2178 (2014 г.) и Решение Совбеза ООН № 2396 (2017 г.)). Хотя в этих решениях подтверждается, что государствам следует предотвращать терроризм и бороться с ним в соответствии с их обязанностями в рамках международных законов по защите прав человека, Специальный докладчик ООН по вопросам содействия и защиты прав и основных свобод человека при борьбе с терроризмом выразил обеспокоенность как неоднозначностью законов, целью которых является реализация таких обязательств, так и их ориентацией на содержание высказываний, а не на намерение говорящего или влияние этих высказываний на других (отчет № A/HRC/40/52, пункт 37). Специальный докладчик заключил, что внесение террористической пропаганды в разряд противозаконных деяний "требует достаточной вероятности того, что рассматриваемые высказывания спровоцируют террористический акт, которая таким образом определяет степень причинно-следственной связи или фактического риска возникновения предполагаемого результата" (там же). В Совместной декларации по вопросам Интернета и мер по борьбе с терроризмом Специального докладчика ООН по вопросам свободы мнений и их свободного выражения, Представителя ОБСЕ по вопросам свободы СМИ и Специального докладчика ОАГ по вопросам свободы слова от 21 декабря 2005 г. утверждается, что в отсутствие четких оснований полагать, что высказывание представляет собой прямой и намеренный призыв к другим принять участие в террористических актах и непосредственно повышает вероятность совершения теракта, государство не может ограничивать такое высказывание и применять в его отношении меры (п. 39). Специальный докладчик по вопросам свободы слова в своем отчете № A/HRC/17/27 (16 мая, 2011 г., пункт 36) также задает высокий порог, отмечая, что высказывания подлежат ограничению в целях обеспечения национальной безопасности и борьбы с терроризмом, только если "а) такое высказывание имеет целью подстрекательство к непосредственному насилию; б) высока вероятность провокации такого насилия и в) имеет место прямая и непосредственная связь между высказыванием и вероятностью или осуществлением такого насилия". По мнению Комитета по защите прав человека, в случаях когда меры по борьбе с терроризмом предусматривают запрет определенных высказываний, такие термины, как "поощрение", "прославление" и "восхваление", должны быть "строго определены" и не должны "необоснованно ограничивать важнейшую роль СМИ по информированию общества о террористических актах" (Замечание общего порядка № 34, пункты 30 и 46).

35. Хотя эти принципы и нормы являются важной отправной точкой для анализа Совета, обязательства и ограничения, налагаемые международными законами по защите прав человека на государства, не равнозначны обязательствам и полномочиям частной компании в этой сфере. Применение уголовного наказания со стороны государства не равноценно модерации контента на платформе социальных сетей, и Совет признает, что Meta как частная компания, а не государство, может и иногда применяет к высказываниям меры, которые могут быть более ограничительными, чем это оправдано государством, принимая во внимание как ценности компании (см. пункты 27–28 выше), так и очевидные сложности, связанные с модерацией контента на массовом уровне. Согласно отчету Специального докладчика ООН по вопросам свободы мнений и их выражения: "В случае расхождений между внутренними правилами компании и международными стандартами компаниям следует заблаговременно представить обоснованное объяснение этого, при этом различия должны быть аргументированы" (отчет Специального докладчика ООН по вопросам свободы мнений и их выражения, посвященный враждебным высказываниям в Интернете № A/74/486 от 9 октября 2019 г., пункт 48). Во многих предыдущих решениях Совет изучал возможность надлежащего толкования международных норм, разработанных для государств, в рамках обязательств компании по защите прав человека, оценивая требования к соразмерности. В рамках этого пакета рекомендаций относительно правил Совет стремился реализовать те же принципы.

36. В рамках предыдущих решений, связанных с Нормой сообщества в отношении опасных организаций и лиц, Совет также анализировал обязательства Meta по защите прав человека в плане термина "восхваление" применимо к опасным субъектам. Признавая, что предотвращение ненадлежащего использования платформ Meta опасными субъектами, стремящимися спровоцировать насилие, привлечь сторонников и заручиться существенной поддержкой другого рода, является законной целью, Совет обнаружил различные примеры того, что слишком широкое или неточное толкование запрета на "восхваление" несоразмерно и нецелесообразно ограничивало свободу слова пользователей. Например, Совет отменил удаление публикации новостного агентства на урду, где упоминалось заявление движения "Талибан" о планах вернуть женщинам и девочкам право на образование, определив, что она не являлась "восхвалением" (дело об упоминании о движении "Талибан" в новостном материале). Аналогичным образом Совет отменил решение Meta удалить публикацию пользователя, в которой цитата ошибочно приписывалась Йозефу Геббельсу (дело о цитате нацистов), поскольку контекст был достаточным для того, чтобы понять, что публикация не восхваляет нацистскую идеологию, а служит аргументом в политической дискуссии, касающейся США. Совет также отменил решение Meta удалить публикацию с новостной статьей "Аль-Джазира", в которой сообщалось об угрозе насилия со стороны террористической группировки из списка и которую следовало сохранить на платформе. Совет выразил озабоченность потенциальными последствиями политик Meta в плане дискриминации (дело о распространяемой публикации "Аль-Джазира"). В обзорных и срочных решениях Совет также отменял или призывал к отмене различных решений Meta об удалении публикаций на Facebook и в Instagram, которые первоначально удалялись за восхваление опасных лиц (дела о лидере антиколониального движения Амилкаре Кабрале; о ливанском активисте; о реакции на проявления антисемитизма; о федеральном избирательном округе Нигерии; о доступе девочек в Афганистане к образованию; об упоминании террористической группировки "Аш-Шабаб"; о фразе "Слава Богу" и о заложниках, захваченных в Израиле). Многие из этих решений по-прежнему актуальны, несмотря на недавние изменения в политике Meta в отношении опасных организаций и лиц. Совет продолжит изучение этой политики в рамках будущих дел, в том числе на предмет новых положений, касающихся прославления и "неоднозначного упоминания".

6. Рекомендации и анализ

37. Независимый надзорный совет разработал семь рекомендаций для Meta касательно политик в отношении контента, обеспечения соблюдения правил и прозрачности. По мнению Совета, эти рекомендации можно применять на массовом уровне, и они позволят Meta более эффективно реализовать ценности "свобода слова" и "безопасность", а также содействовать прозрачности и соблюдению прав на свободу слова и других прав человека.

6.1. Политика Meta в отношении слова "шахид"

Рекомендация 1. Содержание политики. Meta следует отказаться от допущения, что слово "шахид", используемое при упоминании опасного лица или неназванных участников опасных организаций, всегда является нарушением и не подлежит исключению в рамках политики. Контент, в котором опасное лицо названо "шахидом", подлежит удалению по принципу "неоднозначного упоминания" только в двух ситуациях. Во-первых, при наличии одного или нескольких из трех признаков пропаганды насилия: визуальное описание оружия, заявление о намерении или поддержке использования или ношения оружия или упоминание опасного события. Во-вторых, когда контент иным образом нарушает политики Meta (например, в случае прославления или из-за того, что упоминание опасного лица остается неоднозначным по другим причинам, нежели использование слова "шахид"). В любом случае должна сохраняться возможность применить к контенту исключение по принципу "информирования, нейтрального обсуждения или осуждения".

Совет сочтет эту рекомендацию выполненной, когда Meta обновит общедоступные Нормы сообщества, указав, что называть опасных лиц "шахидами" запрещено при наличии одного или нескольких указанных признаков пропаганды насилия.

Рекомендация 2. Содержание политики. Чтобы пояснить запрет "неоднозначного упоминания", Meta следует предоставить несколько примеров нарушающего контента, включая публикацию, в которой опасное лицо упоминается как "шахид" в сочетании с одним или более из трех признаков пропаганды насилия, указанных в рекомендации № 1.

Совет сочтет эту рекомендацию выполненной, когда Meta опубликует обновление Норм сообщества с примерами "неоднозначного упоминания".

Рекомендация 3. Обеспечение соблюдения правил в отношении контента. Meta также следует обновить внутренние инструкции по политике, чтобы пояснить, что упоминание опасного лица как "шахида" не является нарушением, если не сопровождается признаками пропаганды насилия, и даже при наличии таких признаков на контент может распространяться исключение по принципу "информирования, нейтрального обсуждения или осуждения".

Совет сочтет эту рекомендацию выполненной, когда Meta обновит руководство для специалистов по проверке контента, разрешив употребление слова "шахид" в рамках исключений по принципу "информирования, нейтрального обсуждения или осуждения", и представит такие обновленные инструкции Совету.

38. Хотя для Meta крайне важно предотвратить использование своих платформ для подстрекательства к насилию и терактам (законная цель политик модерации контента), обязательства Meta по защите прав человека требуют, чтобы любые ограничения свободы слова были необходимыми и соразмерными, в особенности касательно защиты свободы слова людей в сообществах, на которые направлено это насилие. Даже при том что одно из значений слова "шахид" соответствует английскому слову "мученик" и используется в этом смысле, Совет считает, что со стороны Meta будет нецелесообразным и несоразмерным удалять весь контент исключительно за использование слова "шахид" при упоминании опасных лиц. Такой категоричный запрет не учитывает лингвистическую сложность термина, что ведет к удалению чрезмерно большого числа высказываний, необоснованному ограничению свободы СМИ и пространства для деятельности гражданского общества, а также противоречит принципам равенства и отказа от дискриминации. Кроме того, если эта рекомендация будет принята и выполнена, положения политики Meta, запрещающие "прославление" и "неоднозначные упоминания" в более общем виде, останутся применимыми. Таким образом Meta следует прекратить удалять контент, основываясь исключительно на наличии слова "шахид". Meta следует реализовать подход, более ориентированный на контекст, и точно и однозначно определить признаки пропаганды насилия, по которым упоминание слова "шахид" будет считаться нарушением. Как объясняется ниже, Совет полностью поддерживает только два из шести признаков пропаганды насилия, предложенных Meta в запросе, и рекомендует уточнить третий признак. Три других признака, предложенных Meta (которые входят в инструкции для проверяющих, применяющих отдельную политику в отношении насилия и подстрекательства), слишком широки для целей политики в отношении опасных организаций и лиц. В то же время Совет рекомендует Meta разрешить применение исключений в отношении контента, информирующего, осуждающего или нейтрально обсуждающего опасного субъекта, даже в присутствии признаков пропаганды насилия. Вышеуказанные рекомендации применяются к слову "шахид" в единственной и множественной форме и к вариантам слова "шахид" на многих языках, заимствовавших этот термин.

39. Совет консультировался с экспертами и заинтересованными лицами, чтобы оценить потенциальные последствия разрешения на платформах Meta контента, в котором словом "шахид" называются опасные субъекты. Некоторые заинтересованные лица выразили опасение, что платформы Meta могут способствовать распространению пропаганды и вербовке приверженцев террористами, поощряя дискриминацию и насилие, в том числе в отношении евреев (см. комментарии общественности, например PC-11123 от CyberWell Ltd; PC-11153 от организации по противодействию антисемитизму Stop Antisemitism Now; PC-11194 от Комитета по вопросам точности информации о Ближнем Востоке; PC-11068 от Канадского образовательного фонда по борьбе с антисемитизмом). Нет исследований, которые демонстрировали бы четкую причинно-следственную связь между упоминанием слова "шахид" и ростом насилия и дискриминации (как отмечалось выше в упоминании Meta на стр. 10, которое вытекало из консультаций с экспертами и заинтересованными лицами, проведенных Meta до запроса пакета рекомендаций относительно правил), однако в отдельных случаях стремление к мученической смерти связано с насильственными деяниями. В более общем смысле опасения того, что социальные сети могут использоваться террористическими организациями для вербовки сторонников и поощрения совершения терактов, нормализации терроризма и содействия экстремизму, широко распространены. Привлечение широкого круга заинтересованных лиц и консультации с экспертами, проведенные Советом, включая круглый стол с экспертами по борьбе с терроризмом (см. совещания с участием заинтересованных лиц), подтвердили эти допущения и опасения.

40. Во многих заявлениях экспертов и заинтересованных лиц, переданных в Совет, также описывались негативные последствия для свободы слова, связанные с удалением контента, в котором используется слово "шахид" (см. комментарии общественности, например PC-11196 от Integrity Institute; PC-11164 от SMEX, PC-11183 ECNL EFF, PC-11190 от Brennan Centre; PC-11188 от Digital Rights Foundation). Сюда относится удаление высказываний, в которых термин "шахид" используется не для восхваления или прославления опасных субъектов, а для информирования о насилии со стороны террористических или других опасных организаций или для нейтрального политического или научного обсуждения опасных лиц.

41. Ниже приведены примеры, иллюстрирующие подход Meta при удалении контента, в котором словом "шахид" названо опасное лицо:

• Правительство публикует на платформах Meta пресс-релиз, подтверждающий смерть опасного лица, используя почтительное обращение "шахид" наряду с его именем. Эта публикация будет удалена, так как Meta трактует термин "шахид" как нарушение независимо от контекста, указывающего на то, что контент является нейтральным обсуждением.
• Пользователь публикует фото акции протеста, в которой он участвовал, без однозначной подписи, объясняющей цели этой акции. На различных плакатах указано имя умершего опасного лица в сопровождении слова "шахид". Эта публикация подлежит удалению, так как в Meta исходят из предположения, что изображение с плакатами, на которых названо опасное лицо в сопровождении термина "шахид", является нарушением.
• Правозащитник размещает публикацию с описанием казни опасного лица государством без суда и следствия, называя его "шахидом" и осуждая антитеррористическую политику правительства. Эта публикация будет удалена, так как Meta трактует термин "шахид" как нарушение независимо от контекста.
• Неравнодушный член сообщества в своей публикации жалуется на состояние местной улицы, названной в честь опасного лица, добавляя почтительное обращение "шахид". Эта жалоба будет удалена, так как Meta трактует термин "шахид" как нарушение, даже если упоминание опасного лица было случайным в рамках обсуждения вопросов местного значения.
• Члены семьи называют своего родственника, убитого в ходе теракта, "шахидом" и осуждают убийц, которые являются лицами из санкционного списка. Хотя эта публикация не является нарушением, использование слова "шахид" вместе с именами преступников является отличным примером контента, который "напрашивается" на ошибочное удаление, учитывая категоричный подход Meta.

42. Некоторые заинтересованные лица выразили опасение, что менее ограничительный подход к использованию слова "шахид" на массовом уровне может стать причиной накопительного эффекта и нормализации терроризма. Нельзя отрицать, что в некоторых случаях слово "шахид" имеет целью и действительно представляет собой форму одобрения или поддержки лица и его насильственных действий, однако Совет не считает, что это может стать оправданием для тотального запрета слова в рамках политики. В свете информации, полученной Советом от заинтересованных лиц, включая экспертов по борьбе с терроризмом, а также на основе предыдущего исследования Meta и консультаций с заинтересованными лицами Совет пришел к выводу, что опасения по поводу вероятного существенного накопительного вредного эффекта нивелируются весьма реальным негативным влиянием текущей версии политики на свободу слова. Это особенно справедливо, поскольку, даже в случае выполнения рекомендации Совета, остаются серьезные защитные меры, служащие целям предотвращения насилия и другого вреда, который может возникнуть, если разрешить террористам и их сторонникам свободно пользоваться платформами Meta.

43. Совет также принял во внимание тот факт, что слово "шахид" имеет различные значения и часто используется в материалах, которые не провоцируют насилие и вражду, но скорее информируют о делах, представляющих общественный интерес. Применение абсолютного запрета влечет за собой удаление большого объема контента, который не несет вреда, против которого направлены политики Meta. При массовой модерации контента какая-то доля ошибок иногда может быть допустима; тем не менее Meta несет ответственность за поиск компромиссов, учитывая все свои обязательства по защите прав человека. С учетом вышеизложенного Совет пришел к выводу, что предложенный Советом подход лучше согласуется с общими обязательствами Meta в плане защиты прав человека.

Культурная и религиозная значимость слова "шахид" и разнообразие значений

44. "Шахид" — это культурно и религиозно значимый термин, который используется в разных контекстах и значениях. Комментарии общественности, полученные Советом, и исследование, проведенное по заказу Совета, дают более глубокое понимание термина. Значения слова "шахид" включают "свидетельствовать" и "удостоверять". Оно также используется в качестве исламского имени и в некоторых регионах, включая Западную Азию и Северную Африку, в качестве фамилии (см. комментарии общественности, например PC-11196 от Integrity Institute; PC-11164 от SMEX). "Шахидами" также называют людей, погибших, исполняя религиозный долг. В контексте вооруженных конфликтов и нападений, в которых участвуют опасные организации, люди иногда поминают жертв насилия и терроризма, называя их "шахидами" (см. комментарии общественности, например PC-11164 от SMEX; PC-11197 от правительства Новой Зеландии, называющего жертв нападения на мечеть в Крайстчерче "шухада" (множественное число от "шахид"); PC-11196 от Integrity Institute, где подчеркивается, что маргинализированные мусульманские сообщества, включая рохинджа, которых в некоторых странах относят к беженцам, вынужденным покинуть Мьянму из-за притеснений по религиозному признаку, называют "шахидами"). Количественный анализ контента, опубликованного и оставленного на платформах Meta, выполненный Memetica по заказу Совета, свидетельствует о том, что термин "шахид" широко используется при упоминании лиц, погибших на благо страны, на благо своего дела или став жертвой социополитического насилия или несчастных случаев. Хотя в этих публикациях слово "шахид" не всегда связано с опасным лицом, приведенные выше примеры (см. пункт 41) показывают, как много значений и вариантов слова "шахид" может использоваться в соответствующем контексте.

45. После событий октября 2023 г., когда вслед за терактами, организованными ХАМАС, Израиль начал военную кампанию в секторе Газа, Совет заказал дополнительный анализ тенденций использования слова "шахид" в контенте. Из более чем 12 тыс. общедоступных публикаций, рассмотренных в ходе этого анализа, только в двух выражалась поддержка ХАМАС. Почти все случаи использования были связаны с описанием потерь палестинцев в секторе Газа без упоминания опасных организаций и лиц. В одних публикациях палестинцы выражали скорбь по поводу утраты друзей и родных, в других были показаны раненые палестинские дети и/или последствия авианалетов в секторе Газа. Meta были заданы дополнительные вопросы, поскольку исследователи могли оценить тенденции только в общедоступном контенте, который оставался на платформе, но не в контенте, который был удален Meta за нарушение политики в отношении опасных организаций и лиц. Ответы Meta подтвердили выводы исследования. С точки зрения компании, тенденции в контенте во время кризиса не демонстрировали каких-либо изменений в использовании и трактовке слова "шахид" по сравнению с ситуацией до этих событий.

46. Широкий спектр значений указывает на то, что допущение Meta о том, что использование слова "шахид" является нарушением, влечет за собой причинение вреда в реальном мире и поэтому всегда подлежит удалению, несет серьезные издержки для свободы слова и требует исправления ситуации. В Meta объяснили, что "шахид", по всей видимости, является самым часто удаляемым словом на платформах, а различные заинтересованные лица отмечают, что Meta часто удаляет публикации, где сообщается об опасных субъектах и насилии (пакет рекомендаций относительно правил, стр. 3) Такой подход к слову "шахид" — пример того, как компания отдает приоритет четким (очевидным) характеристикам при модерации на массовом уровне. Ориентация на такие характеристики, в принципе, может быть приемлема в некоторых ситуациях, учитывая трудные компромиссы, которые часто подразумевает модерация на массовом уроне. Тем не менее в этом случае Совет считает, что допущение о том, что слово "шахид" априори подлежит удалению в связи с опасными лицами, не оправдано и от него необходимо отказаться. Как признает Meta, в рамках этого подхода невозможно учитывать лингвистический и культурный контекст, результатом чего является чрезмерно строгая модерация. Во-первых, это приводит к удалению контента, целью которого не является восхваление или прославление, но который при этом нарушает эту политику, так как в Meta предпочитают всегда трактовать слово "шахид" как нарушение. Во-вторых, это влечет за собой более частое ошибочное удаление контента, в котором словом "шахид" называют людей, которые не являются опасными лицами, поскольку такой категоричный подход не располагает к оценке ситуации с учетом контекста.

47. Даже не учитывая различные значения слова "шахид", Совет отмечает, что примеры, которые приводились в старом положении политики Meta в отношении опасных организаций и лиц касательно запрета "восхваления", не учитывали контекст разных регионов, а являлись чрезмерно упрощенным прямым переводом с одного языка на другой. Единственным указанием на подход Meta в отношении контента со словом "шахид" в Нормах сообщества был пример фразы, называющей признанного виновным террориста "мучеником", который содержался в более общей формулировке положения с запретом "восхваления". Один и тот же пример использовался для разных языков, а при переводе на арабский использовалось слово "шахид", несмотря на то что эти термины не всегда равнозначны. Совет отмечает, что этот пример был удален в обновлении политики за декабрь 2023 г. Если даже допустить, что перевод в этом примере был точным, использование единственного примера для утверждения о том, что "шахид" всегда значит "мученик", некорректно.

48. По этим же причинам заключения Совета по поводу слова "шахид" в этом пакете рекомендаций относительно правил не следует автоматически переносить на термин "мученик" и все его переводы на другие языки. Термины "мученик" и "шахид" не являются точными эквивалентами, поскольку для последнего характерна меньшая семантическая вариативность в английском языке в тех регионах, где говорят на английском. При переводе политики на разные языки Meta потребуется оценить, какие термины будут соответствовать порогу "прославления", ориентируясь на советы, приведенные в этом пакете рекомендаций относительно правил. Как бы то ни было, Совет не одобряет абсолютный запрет, подразумевающий изоляцию использования термина "шахид" от более широкого контекста публикаций, в которых он используется. Согласно прецеденту Независимого надзорного совета, такие публикации необходимо анализировать в их целостности. Кроме того, в соответствии с общедоступными версиями политик, Meta необходимо гарантировать, что люди смогут полагаться на исключения для "информирования, осуждения или нейтрального обсуждения" опасных лиц при использовании слова "мученик" (и соответствующих терминов прославления или упоминания в положительном ключе на других языках). Это подчеркивает значимость адаптации внутренних инструкций для проверяющих к местному контексту и лингвистическим особенностям конкретного контента (см. аналогичные опасения, выраженные Советом в решении по делу о мьянманском боте, которое легло в основу рекомендации № 1 по этому делу).

49. В нескольких делах Совет призывал Meta к переоценке компромисса между четкими и однозначными правилами, которые удобно применять на массовом уровне, и политиками, более полно учитывающими контекст, часто в пользу права на свободное выражение мнений и свободу слова пользователей (например, касательно информирования об опасных субъектах, см. дела об упоминании о движении "Талибан" в новостном материале и о распространяемой публикации "Аль-Джазира"). Хотя предыдущие дела не были напрямую связаны с использованием слова "шахид", Совет предостерегал об опасности предположения, что упоминание опасных субъектов подразумевает злой умысел (см. дело о цитате нацистов). В нескольких комментариях общественности подчеркивалось, что допущение Meta о том, что "шахид" — это всегда "восхваление", может (в результате ошибок со стороны модераторов или автоматических систем) привести к чрезмерно строгому применению правил по отношению к пользователям, скорбящим по жертвам терактов (см. комментарии общественности, например PC-11164 от SMEX, пункт 1; PC-11197 от правительства Новой Зеландии). Удаление такого контента может даже идти вразрез с целями политики в отношении опасных организаций и лиц, поскольку может препятствовать обсуждению деяний террористов и усилиям по борьбе с идеологиями, стоящими за такими деяниями (см., например, PC-11164 от SMEX).

Защита свободы СМИ и пространства для деятельности гражданского общества

50. Совет особенно озабочен тем фактом, что подход Meta влияет на работу журналистов и участие в общественной полемике. Эти последствия особенно критичны для регионов, где широко распространены атаки террористов и других опасных организаций, а также для регионов, которые находятся под контролем или политическим влиянием опасных субъектов. Эти опасения выражались в нескольких комментариях общественности (см. комментарии общественности, например PC-11196 от Integrity Institute; PC-11157 от Палестинского института по общественной дипломатии). СМИ и другим комментаторам приходится быть очень осмотрительными при упоминании опасных субъектов, чтобы избежать удаления контента, а также других строгих мер, включая удаление Страниц и групп или отключение аккаунтов. В некоторых случаях последствия могут быть непредсказуемыми. Это, например, может быть репортаж об акции протеста против государственного деятеля, в ходе которой люди демонстрируют поддержку опасным лицам, погибшим по вине этого деятеля. Лингвистические, культурные или религиозные аспекты могут диктовать использование слова "шахид" по отношению к людям, убитым в таких обстоятельствах, включая людей, погибших при совершении акта насилия.

51. Нельзя не отметить сложность ситуаций, в которых опасные субъекты могут быть задействованы в насилии, включая обстоятельства вооруженных конфликтов, сопротивления иностранной оккупации и народных восстаний. СМИ могут сталкиваться с серьезными трудностями, сообщая о таких ситуациях, поскольку они должны учитывать местные лингвистические, культурные и религиозные особенности и при этом стараться не нарушать политики Meta в отношении контента. Эти опасения осложняются тем, что список опасных субъектов Meta не доступен публично, поэтому пользователям по сути неизвестно, кто входит в этот список. Репортажи о таких событиях также могут включать признаки пропаганды насилия, такие как изображение оружия, что, без учета контекста информирования, нейтрального обсуждения или осуждения в рамках исключений, может служить признаком нарушения политики. Таким образом, применение Meta исключения очень важно в случаях, когда целью контента является информирование, нейтральное обсуждение или осуждение опасных субъектов.

52. Такой запрет также может затруднять выражение мнения и критики со стороны пользователей, живущих в регионах, где опасные субъекты ведут свою деятельность или имеют политическое влияние. Чтобы не подвергать себя риску прямой конфронтации, пользователи в таких регионах могут формулировать комментарии в уважительной форме, что необязательно нужно трактовать как восхваление. Применение запретов к таким высказываниям вызывает особые опасения, так как социальные сети являются важной площадкой для дискуссии, особенно в зонах конфликтов и в странах, где свобода прессы ограничена.

Равенство и отсутствие дискриминации

53. Учитывая широкое и вариативное использование термина "шахид", особенно людьми, говорящими на арабском языке и других языках (многие из которых являются мусульманскими), в которых слово "шахид" является заимствованным, политика Meta оказывает несоразмерное влияние на эти сообщества. Это вызывает серьезную озабоченность в плане обязательств компании по соблюдению прав всех пользователей на свободное выражение мнений в равной степени и без дискриминации. Это стало темой многих комментариев общественности (см., например, PC-11183 ECNL EFF, PC-11190 от Brennan Centre; PC-11188 от Digital Rights Foundation; PC-11196 от Integrity Institute; см. также отчет BSR о влиянии Meta в Израиле и Палестине). В отчете Программы развития ООН (ПРООН), посвященном предотвращению распространения экстремизма, подчеркивается, что ключевыми факторами насильственной деятельности экстремистов, помимо других причин, являются "неравенство, изоляция, отсутствие перспектив и ощущение несправедливости". Совет обеспокоен тем, что подход Meta может усугубить чувство лишения прав и изоляции некоторых сообществ и даже возыметь обратный эффект вместо заявленной цели сокращения насилия. ПРООН подчеркивает, что в плане модерации контента на онлайн-платформах компании должны позаботиться о том, чтобы усилия по предотвращению насилия со стороны экстремистов "непреднамеренно не привели к стигматизации и нападкам на отдельных лиц".

Менее ограничительные меры по предотвращению вреда

54. Оценка необходимости и соразмерности политики также требует анализа в плане поиска менее ограничительных мер для достижения рассматриваемой законной цели. Если в Meta решат выполнить рекомендации Совета в рамках этого пакета, компании придется отказаться от категоричного удаления всего контента, где словом "шахид" названы опасные лица. Тем не менее контент с этим термином может всё же подлежать удалению в более узких обстоятельствах, когда связь с причинением вреда более однозначна и ясна. Эти рекомендации позволят Meta продолжать удалять контент, в котором опасные лица упоминаются как "шахиды" в сочетании с другими нарушениями политики (например, прославлением или неоднозначными упоминаниями), или при наличии в контенте признаков пропаганды насилия. Это позволит реализовать необходимые ограничения, одновременно снизив негативное влияние политики, включая чрезмерно строгое применение в отношении конкретных языковых и религиозных групп.

55. Наличие признаков пропаганды насилия наряду с упоминанием опасного лица как "шахида" служит более четким индикатором того, что публикация упоминает то или иное лицо в позитивном ключе именно из-за связи этого лица с насилием (при условии что не применяется исключение по принципу информирования, нейтрального обсуждения или осуждения). В запросе специалисты Meta предложили следующие признаки пропаганды насилия, взятые из внутреннего руководства по политике в отношении насилия и подстрекательства: (1) визуальное описание оружия; (2) заявление о намерении или поддержке использования или ношения оружия; (3) использование военного лексикона; (4) упоминание поджогов, мародерства или иного уничтожения имущества; (5) упоминание известных актов насилия в реальном мире; (6) а также заявления о намерении, призывы к действию, представительство, поддержка или оправдание насилия над людьми. Совет считает, что некоторые из этих признаков могут служить полезными индикаторами потенциально вредоносного контента, который не может считаться таковым только из-за использования слова "шахид". Однако не все признаки в этом списке могут быть полезны. В общедоступной версии политики в отношении насилия и подстрекательства "временные признаки повышенного риска насилия" упоминаются три раза, каждый раз в связи с правилами, направленными на снижение риска насилия в определенных местах и ограниченных по времени событиях, например на избирательных участках или во время акций протеста. Массовое применение всех этих признаков в инструкциях по модерации упоминаний слова "шахид" во всех контекстах, для которых вероятность причинения вреда сравнительно маловероятна или не неизбежна, увеличивает риск несоразмерно строгого применения правил.

56. Совет считает, что в широком контексте политики в отношении опасных организаций и лиц допустимо применение более узкого набора признаков. Такие признаки, как визуальное описание оружия и заявление о намерении или поддержке использования или ношения оружия, могут служить индикаторами контента, который с большей вероятностью приведет к причинению вреда. По мнению Совета, признак "упоминание известных актов насилия в реальном мире" слишком широк и охватывает слишком много сценариев, не связанных с насилием со стороны субъектов из списка опасных организаций и лиц. Поэтому его следует определить более узко и ограничить событиями, указанными в политике Meta в отношении опасных организаций и лиц, которые включают террористические акты, действия на почве ненависти, насилие с несколькими жертвами или покушения на такое насилие, серийные убийства и преступления на почве ненависти. Эти три признака, рекомендованные Советом, обеспечат более точный учет контекста и возможность удаления менее расплывчатых упоминаний слова "шахид", которые более явно относятся к актам террористического насилия.

57. Остальные признаки, предложенные Meta, такие как "использование военного лексикона" или "упоминание поджогов, мародерства или иного уничтожения имущества", слишком широки и могут повлечь за собой ошибки в обеспечении соблюдения правил. Последний предложенный признак "заявления о намерении, призывы к действию, представление интересов, поддержка или оправдание насилия над людьми" будет независимо служить основанием для удаления контента, нарушающего Норму сообщества в отношении насилия и подстрекательства, и поэтому дублирующее включение его в список признаков в рамках данной политики нецелесообразно.

58. В отличие от третьего варианта политики, предложенного Meta, Совет отмечает, что даже если упоминание опасных лиц сопровождается этими признаками пропаганды насилия, оно, тем не менее, может не иметь намерения прославлять этих лиц или их деяния. В своем запросе (стр. 9–10) Meta поясняет опасения, связанные с потенциально чрезмерно строгим применением правил, ссылаясь на практики публикации новостей в СМИ в Пакистане. С точки зрения Совета, в новостных репортажах, где упоминается смерть опасного лица, публикация изображений, на которых они показаны с оружием, или изображений разрушений, которые произошли по их вине, будет обычным делом, при том что они не прославляют эти деяния. По этой причине необходимо, чтобы модераторы первой линии получили инструкции сохранять контент с четким намерением информирования, осуждения или нейтрального обсуждения таких субъектов.

59. Более того, рекомендованные Советом изменения в политиках можно применить к широкому ряду других политик в отношении контента для предотвращения использования платформ Meta террористами и их сторонниками для причинения вреда в реальном мире. Публикации, где слово "шахид" используется в отношении опасного лица 1 уровня, подлежат удалению в следующих случаях:

• в сопровождении одного или нескольких признаков пропаганды насилия, упомянутых выше;
• при наличии в публикации нарушений каких-либо других правил в рамках политики в отношении опасных организаций и лиц (например, представительства, поддержки или прославления опасного лица). Прославление, например, может включать одобрение или оправдание насильственных или враждебных действий указанного опасного лица или восхваление их деяний как подвига.
• При наличии в публикации нарушений других политик, включая политики в отношении враждебных высказываний или насилия и подстрекательства.
• При наличии в публикации "неоднозначных или лишенных контекста" упоминаний. Сюда относятся "неочевидный юмор, контент без подписей или упоминания в положительном ключе, не прославляющие насилие или враждебность со стороны обозначенного субъекта".

60. Таким образом, рекомендации Совета не препятствуют реализации требования Meta к пользователям четко выражать намерения публикации при упоминании опасного лица 1 уровня как "шахида". Однако они препятствуют использованию Meta термина "шахид" как единственного основания для признания публикации нарушающей правила. Активное участие Meta в Глобальном интернет-форуме по борьбе с терроризмом и использование базы данных сопоставления хэштегов также способствуют удалению контента, который может повлечь за собой причинение вреда в реальном мире. Рекомендации Совета помогут обеспечить более четкую, соразмерную и ориентированную на контекст модерацию контента, представляющего риск насилия, и улучшить ситуацию в плане свободы слова и противодействия дискриминации.

Оценка альтернативных вариантов политики

61. Учитывая вышеизложенное, Совет пришел к выводу, что сохранение статуса-кво, представленного Meta на рассмотрение Совета как один из вариантов, усугубит неоправданные ограничения свободы слова, несоразмерно сказывающиеся на пользователях, говорящих на арабском языке, соответствующих языковых сообществах и мусульманах. Второй вариант политики, предложенный Meta, аналогичен третьему, который Совет рекомендует при условии ориентации на контекст использования слова "шахид", которое может быть разрешено упоминать в связи с опасными лицами в различных ситуациях. Фактически, по информации Meta, изменения в политике от 29 августа 2023 г. допускают расширение социального и политического дискурса в определенных случаях, в том числе в связи с мирными соглашениями, выборами, вопросами защиты прав человека, новостными материалами, а также осуждением в научном, нейтральном или осуждающем ключе. Это способствует достижению целей, заявленных во втором и третьем варианте политики. Самое существенное различие между ними заключается в возможности технической и практической реализации на массовом уровне. Второй вариант требует от Meta сначала подтвердить, что применяется одно из допустимых исключений, а затем изучить контент на предмет других нарушений политики или признаков пропаганды насилия. Третий же вариант предусматривает переход сразу к анализу наличия других нарушений политики или признаков пропаганды насилия. В Meta заявили, что второй вариант будет гораздо сложнее разработать и реализовать технически, поскольку он требует рассмотрения широкого набора возможных исключений (и даже ещё более широкого, учитывая недавние изменения в политике), каждое из которых сильно зависит от контекста. Сложность точного и согласованного анализа, в свою очередь, означает, что может потребоваться проводить гораздо больше проверок вручную, что может повлечь за собой увеличение числа ошибок модерации.

62. По мнению Совета, Meta желательно разработать подход, который подразумевает более однородный анализ всех вариантов применения слова "шахид" в связи с опасными лицами помимо имеющихся исключений и удаление такого контента в сопровождении других нарушений политик или одного из трех признаков пропаганды насилия, указанных в рекомендации № 1. Изменение политики в соответствии с позицией, изложенной в третьем предложенном Meta варианте, то есть трактовка слова "шахид" как запрещенного упоминания только при наличии других нарушений политик или конкретных признаков пропаганды насилия, как рекомендовано Советом, поможет снизить число ложных срабатываний (ошибочного удаления приемлемого контента), более эффективно защищать высказывания в общественных интересах, свободу СМИ, право на участие в общественном обсуждении и снизить негативное влияние на право затронутых групп на равное отношение и отсутствие дискриминации. Отвечая на вопросы Совета, заданные после атаки ХАМАС на Израиль в октябре 2023 г. и развертывания конфликта, представители Meta подтвердили, что эти события не повлияли на анализ масштабируемости вариантов, представленных в первоначальном запросе. С точки зрения Совета, предложенные рекомендации, основанные на третьем варианте Meta, будут наиболее эффективны в плане исключения возможных ошибок при развертывании кризиса подобных масштабов, при условии что исключение в отношении "информирования, нейтрального обсуждения и осуждения" останется в силе. Совет признает, что реализация этих исключений усложняет масштабирование политики, предложенной специалистами Meta в третьем варианте, но приходит к выводу, что они необходимы для надлежащей защиты свободы слова в связи с модерацией контента со словом "шахид".

63. Меньшинство членов Совета не согласно с этим выводом и предпочло бы рекомендовать сохранить статус-кво или реализовать второй вариант политики, предложенный Meta. Некоторые подчеркивают, что слово "шахид", фактически, используется террористическими организациями для восхваления и прославления людей, совершивших насильственные деяния, в том числе с целью спровоцировать обострение ситуации и привлечь сторонников. По мнению этих членов Совета, эти факты сами по себе представляют достаточно высокую опасность причинения вреда в реальном мире, чтобы оправдать текущий категоричный запрет, даже в ущерб свободе слова. Другие указывают отсутствие надежных данных о степени вреда в реальном мире, который может быть связан с использованием слова "шахид" на платформах Meta, и о распространении ошибочных удалений в рамках этой политики как аргумент в пользу более осторожного подхода, при котором во главе угла стоят соображения безопасности. Некоторые члены Совета также считают, что второй вариант, при котором значение и использование слова "шахид" учитываются только при наличии конкретных допустимых исключений, представляет собой более узкое компромиссное решение, несмотря на трудности технической реализации и применения на массовом уровне. Совет тщательно рассматривал и обсуждал эти альтернативы. По причинам, изложенным в предыдущих разделах, большинство членов Совета пришло к выводу, что рекомендации, основанные на третьем варианте, предложенном Meta, обеспечат оптимальный баланс.

Предупреждения и штрафные меры

64. Хотя сохранение других ограничений в рамках политики в отношении опасных организаций и лиц может быть оправдано, Meta необходимо обеспечить соразмерность таких ограничений и санкций, налагаемых за нарушения. Представители Meta ранее сообщали Совету, что ко всем нарушениям политики в отношении опасных организаций и лиц, включая прежний запрет "восхваления", всегда применяются строгие предупреждения. Строгие предупреждения могут быстрее приводить к применению штрафных мер на уровне аккаунта, таких как временные ограничения функций, временная блокировка аккаунта или постоянное отключение профилей и Страниц. Эти меры могут существенно сказываться на праве пользователей на свободное выражение мнений (что также подчеркивается в комментариях общественности: см., например, PC-11190 от Brennan Centre). Совет ранее рекомендовал Meta повысить четкость и прозрачность системы предупреждений (дело об упоминании о движении "Талибан" в новостном материале, рекомендация № 2; дело о блокировке аккаунтов бывшего президента США Трампа, рекомендация № 15). Выполняя эти рекомендации, в Meta опубликовали информацию о системе предупреждений в Центре прозрачности и разрешили пользователям просматривать штрафные меры, примененные Meta к их аккаунтам. Эту систему недавно обновили для стандартных предупреждений, чтобы сделать их более соразмерными, но это не дает широкой общественности возможность понять, изменился ли подход Meta к "строгим предупреждениям".

65. Представители Meta сообщили, что работают над изменениями в системе обеспечения соблюдения правил, касающимися политики в отношении опасных организаций и лиц, хотя в объяснении обновления политики за декабрь 2023 г. не сказано, будет ли изменена эта система, и если да, то каким образом (например, в связи со строгими предупреждениями). Совет приветствует изменения в системе обеспечения соблюдения правил, если результатом станут более соразмерные штрафные меры в отношении контента, достоверно определенного как нарушающий, в соответствии с предыдущими рекомендациями Совета. Строгие предупреждения несоразмерны умеренным или семантически неоднозначным нарушениям политики в отношении опасных организаций и лиц. Как следствие, эта политика продолжает иметь высокий уровень избыточно строгой модерации, что приводит к несправедливому отношению к пользователям.

6.2. Повышение прозрачности и проведение аудита списка

Рекомендация 4. Прозрачность. Для повышения прозрачности списка опасных субъектов и событий Meta следует более подробно объяснить процедуру, используемую при добавлении таких субъектов и событий в список. Meta также следует регулярно публиковать сводную информацию по санкционному списку, включая общее число субъектов на каждом уровне списка, а также число субъектов, добавленных в список на каждом уровне или удаленных из него за прошлый год.

Совет сочтет эту рекомендацию выполненной, когда запрошенная информация будет опубликована в Центре прозрачности Meta.

Рекомендация 5. Обеспечение соблюдения правил в отношении контента. Чтобы гарантировать актуальность списка опасных организаций и лиц и не включать в него организации, лиц и события, которые больше не подпадают под определение "опасных", Meta следует разработать четкий и эффективный процесс регулярной проверки списка и удаления из него лиц и организаций, которые уже не соответствуют опубликованным критериям.

Совет сочтет эту рекомендацию выполненной, когда в Meta разработают такой процесс аудита и опубликуют его описание в Центре прозрачности.

66. Согласно предыдущей версии политики Meta в отношении опасных организаций и лиц, "восхваление" и использование термина "шахид" запрещалось только при упоминании субъектов, указанных в списке Meta как опасные лица 1 уровня (включая исполнителей указанных "нарушающих правила насильственных действий"). В версии, обновленной в декабре 2023 г., политика запрещает "неоднозначные упоминания" и прославление всех опасных субъектов 1 уровня. "Неоднозначные упоминания" могут включать "неочевидные шутки, контент без подписей или упоминания в положительном ключе, не прославляющие насилие или враждебность со стороны обозначенного субъекта". Потенциальное влияние таких запретов на свободу слова во многом зависит от того, каких субъектов или "нарушающие правила насильственные действия" Meta включит в список 1 уровня. В ходе круглых столов и публичного обсуждения многие заинтересованные лица критиковали недостаточную прозрачность и отсутствие надлежащей процедуры работы с этим списком, утверждая, что Meta следует опубликовать его (см. комментарии общественности, например PC-11164 от SMEX, пункт 3; PC-11157 от Палестинского института по общественной дипломатии). Одно заинтересованное лицо выразило опасение по поводу публикации этого списка в широком доступе, утверждая, что это может сказаться на безопасности. Поскольку этот список необходим для понимая сферы действия политик Meta, компания предоставила Совету список опасных организаций и лиц 1 уровня и пояснения по поводу процессов ведения этого списка, которые были тщательно изучены Советом, как описано ниже.

67. Как отмечалось выше, многие списки, на которых основаны списки 1 уровня Meta, опубликованы правительством США в широком доступе. К ним относятся списки "специально обозначенных лиц, участвующих в незаконном обороте наркотиков (SDNTK)", "иностранных террористических организаций (FTO)" и "специально обозначенных международных террористов". Это очень подробные списки, включающие организации (и их членов) в крайне политизированном контексте на различных континентах, и они не ограничиваются террористическими организациями. Такой широкий охват и многоплановость свидетельствуют о масштабах, которых могут достигать запреты в рамках политики Meta в отношении опасных организаций и лиц, включая категоричный запрет употребления слова "шахид" в отношении опасного лица, и их влиянии.

68. В Meta объяснили, что процесс анализа и утверждения субъектов, добавляемых в список политики, "основан на консультации с широким рядом внутренних экспертов, оценке внутренних данных и внешних исследованиях". В Meta также предусмотрен процесс документирования "дополнительных участников, прозвищ, символов, лозунгов, подгрупп или медийных крыльев, связанных с организациями и лицами, уже добавленными в список". В 2022 г. на основе оценки Meta угроз, создаваемых опасными организациями и лицами для платформ компании, компания добавила в список менее 1 000 таких субъектов. Большую их часть составили криминальные субъекты, за которыми следовали террористические субъекты и субъекты ненависти. В Meta предусмотрен процесс исключения из списка, в рамках которого обычно анализируется, продолжает ли субъект отвечать пороговым требованиям для обозначения его как опасного лица или организации, с учетом "активных действий, предпринятых субъектом к прекращению насильственных действий и проведению мирной политики". В настоящее время этот процесс пересматривается, однако в 2022 г. он был применен менее 10 раз. В Meta объяснили, что проводят аудит предыдущих записей списка в рамках постоянных усилий по поддержанию его актуальности и точного отражения угроз со стороны опасных организаций и лиц.

69. По словам представителей Meta, публикация списка опасных субъектов или событий в общем доступе или уведомление субъектов о добавлении в список может представлять некоторые риски в плане эффективности применения правил и безопасности многих сотрудников Meta. Субъекты, добавленные в список и узнавшие об этом, в некоторых случаях предъявляли Meta иски (см. дело Facebook против CasaPound , 29 апреля 2020 г., суд г. Рим, Италия, и анализ здесь). Совет отмечает, что в некоторых случаях в Meta разглашали добавление в список некоторых групп в ответ на запросы СМИ. Кроме того, эти данные публиковались в рамках решений Независимого надзорного совета.

70. Совет ранее рекомендовал Meta опубликовать список опасных организаций и лиц в открытом доступе или, по крайней мере, предоставить наглядные примеры (дело о цитате нацистов, рекомендация № 3). В Meta не опубликовали такого списка и не сообщили о дальнейшей работе по реализации этой рекомендации после проведения оценки ее выполнимости. Если Meta продолжит отказываться от выполнения этой рекомендации, как минимум, компании следует принять другие меры для повышения прозрачности этого списка. Публикация сводных данных, повышение прозрачности процессов включения в список и исключения из него помогут Meta сделать свои правила и процессы более понятными для пользователей. Это также поможет лучше контролировать такие процессы и их последствия для защиты свободы слова и других прав человека. Кроме того, в Meta могли бы рассмотреть возможность предоставлять специалистам доступ к данным для повышения прозрачности без раскрытия конфиденциальности списков.

6.3. Данные для анализа точности применения правил и тестирования классификаторов

Рекомендация 6. Прозрачность. Чтобы повысить прозрачность обеспечения соблюдения правил Meta в отношении контента, включая региональные различия для разных стран и языков, Meta следует разъяснить методы, используемые для оценки точности проверки вручную и эффективности автоматизированных систем в плане применения политики в отношении опасных организаций и лиц. Meta также следует периодически публиковать результаты оценки эффективности классификаторов, используемых при обеспечении соблюдения данной политики, с возможностью сравнения по разным языкам и/или регионам.

Совет будет считать эту рекомендацию выполненной, когда Meta включит эту информацию в Центр прозрачности и в Отчеты об обеспечении соблюдения Норм сообщества.

Рекомендация 7. Прозрачность. Для информирования заинтересованных лиц Meta следует предоставить четкие объяснения по поводу использования классификаторов для формирования прогнозов нарушений политики. Кроме того, Meta следует объяснить, каким образом задаются пороговые значения для разных вариантов (бездействие, оправка контента на проверку вручную или удаление контента), описав процессы, лежащие в основе задания таких порогов. Эту информацию следует опубликовать в Центре прозрачности Meta.

Совет сочтет эту рекомендацию выполненной, когда запрошенная информация будет опубликована в Центре прозрачности Meta.

71. В ходе круглых столов и публичного обсуждения многие заинтересованные лица заявляли о том, что применение Meta политики в отношении опасных организаций и лиц, а также трактовка слова "шахид" при автоматизированных проверках и проверках вручную часто приводили к ошибкам в применении правил, которые несоразмерно влияли на мусульман и соответствующие языковые сообщества (см. комментарии общественности, например PC-11183 ECNL EFF, PC-11190 от Brennan Centre; PC-11188 от Digital Rights Foundation; PC-11196 от Integrity Institute; см. также отчет BSR о влиянии Meta в Израиле и Палестине). Meta в своем запросе также признает это последствием своей политики в отношении слова "шахид". Для повышения прозрачности, точности и справедливости автоматизированных и ручных процессов обеспечения соблюдения правил Meta Совет разработал две вышеуказанные рекомендации.

72. В Meta объяснили, что регулярно измеряют точность автоматизированных и ручных процессов применения правил. Meta проводит аудит работы специалистов по проверке вручную с привлечением партнеров. Кроме того, такие проверки дополнительно оцениваются глобальной командой Meta по обеспечению безопасности контента.

73. Совет ранее рекомендовал Meta повысить прозрачность отчетов, публикуя информацию о количестве ошибок в отношении "восхваления" и" поддержки" опасных организаций и лиц с разбивкой по странам и языкам (дело об изоляции Оджалана, рекомендация № 12) и по Нормам сообщества (дело об опасениях пенджабцев по поводу организации "Раштрия сваямсевак сангх" в Индии, рекомендация № 3). В Meta объяснили, что после оценки выполнимости отказались выполнять эту рекомендацию (дело об изоляции Оджалана, рекомендация № 12; Ежеквартальный новостной бюллетень Meta о работе Независимого надзорного совета за 4 квартал 2021 г., стр. 21) и сосредоточились на долгосрочных мерах по разработке метрик точности на основе ограничений профилей, Страниц и аккаунтов, а также местонахождения, а не языка (дело об опасениях пенджабцев по поводу организации "Раштрия сваямсевак сангх" в Индии, рекомендация № 3; Ежеквартальный новостной бюллетень Meta о работе Независимого надзорного совета за 2 квартал 2023 г., стр. 59). Принимая во внимание многочисленные опасения по поводу несоразмерного применения политики в отношении опасных организаций и лиц (как демонстрирует позиция Meta в отношении слова "шахид") и недостаток полезных данных об обеспечении соблюдения правил, раскрываемых Meta, Совет счел необходимым повторить эти рекомендации и ещё раз привлечь внимание к необходимости повысить прозрачность модерации по регионам.

74. Текущие данные, опубликованные Meta в Центре прозрачности, не обеспечивают достаточного представления о точности проверок вручную и эффективности автоматизированных систем. Meta следует разъяснить, каким образом оценивается точность проверки вручную и эффективность автоматизированных систем в плане применения политики в отношении опасных организаций и лиц, чтобы дать общественности возможность проанализировать эффективность своих методов. Чтобы повысить прозрачность работы классификаторов, Meta надлежит опубликовать метрики, включая точность (доля контента, корректно определенного как нарушающий, относительно всего объема контента, помеченного как нарушающий) и полноту поиска (доля нарушающего контента, определенного классификатором как нарушение, относительно общего объема существующего нарушающего контента). Публикация информации о точности проверок вручную по регионам и эффективности классификаторов по языкам будет способствовать ответственному подходу Meta к соблюдению обязательств по защите прав человека. Таким образом Совет повторяет предыдущие рекомендации и призывает Meta реализовать предложенные изменения.

75. Обеспечивая соблюдение Норм сообщества, Meta полагается на автоматизированные системы, включая классификаторы. Модели классификаторов автоматически распределяют данные по категориям (например, неприемлемые или приемлемые) на основе набора обучающих данных. Понимание функционирования этих систем и их точности необходимо для оценки принципов модерации контента Meta на массовом уровне. Meta предоставляет некоторые основные сведения об использовании автоматизированных систем для обнаружения неприемлемого контента в разделе Центра прозрачности, посвященном обеспечению соблюдения правил, тогда как в разделе, посвященном функциям, Meta объясняет принципы ранжирования и подбора контента. В Отчетах Meta об обеспечении соблюдения Норм сообщества уже публиковались данные о доле контента, удаляемого до подачи жалоб (например, на основе автоматического обнаружения). Эти данные подтверждают значимость автоматического обнаружения, но в них не хватает подробных метрик использования и точности автоматизированных систем Meta, особенно отвечающих за удаление контента. Этот пакет рекомендаций призван повысить прозрачность алгоритмов, используемых Meta.

76. Отвечая на вопросы, заданные Советом, в Meta объяснили, что классификатор опасных организаций и лиц на "общем арабском языке" проводит первичную проверку на основе политик Meta. Задачей классификаторов является выявление контента, который может нарушать эти политики. Совет считает, что Meta следует более подробно объяснить пользователям принципы работы классификаторов в разделе Центра прозрачности, посвященном обеспечению соблюдения правил в отношении контента, что согласуется с предыдущими решениями Совета (см. дело о симптомах рака молочной железы и изображении обнаженного тела, рекомендация № 3; дело о карикатуре на полицию Колумбии, рекомендация № 3). В частности, важно обеспечить прозрачность ориентировочных порогов уверенности для принятия или непринятия мер в отношении контента и для его постановки в очередь для проверки вручную, а также факторов и аспектов, определяющих эти показатели.

77. В Meta объяснили, что тестирование точности ориентировано не на какие-либо отдельные типы нарушений в рамках политики, а на общие показатели точности по всей области действия политики. В Meta сообщили, что "проводят регулярный мониторинг метрик и аудит точности на массовом уровне". Совет ранее объяснял, что недостаточно оценивать эффективность применения Meta Норм сообщества в целом (см. решение по делу о поясе вампума). Системы, которые в среднем работают хорошо, могут потенциально плохо работать с подкатегориями контента, такими как контент со словом "шахид", неправильные решения в отношении которого могут иметь особенно сильное влияние на права человека. Поэтому для Meta важно продемонстрировать, что компания принимает должные меры для выявления и минимизации потенциального негативного влияния своих систем на права человека и публикует данные, позволяющие оценить такие последствия.

78. Многие заинтересованные лица утверждали, что системы применения правил на основе алгоритмов Meta не могут учитывать контекст и работают менее точно для всех языков, кроме английского, что приводит к несоразмерному влиянию на мусульманские сообщества (см. комментарии общественности, например PC-11190 от Brennan Centre).

79. Некоторые заинтересованные лица рекомендовали Meta полностью отказаться от использования автоматизации при модерации термина "шахид", так как автоматическим системам до сих пор не удавалось корректно учитывать контекст (см. комментарии общественности, например PC-11164 от SMEX, пункт 4; PC-11157 от Палестинского института по общественной дипломатии). По мнению других, учитывая строгие штрафные меры в отношении контента, нарушающего политику в отношении опасных организаций и лиц, автоматизацию следует использовать только для постановки контента в очередь для проверки, но не для его удаления (см., например, PC-11183 ECNL EFF, п. 4f). По мнению заинтересованных лиц, публикации, в которых словом "шахид" названы опасные лица, "в идеале должны проверяться модераторами, знакомыми с местным контекстом того региона, где была размещена публикация" (см. PC-11188 от Digital Rights Foundation, п. 2). Некоторые предложили присваивать контенту геометки, чтобы повысить эффективность учета контекста в ходе автоматизированных проверок и проверок вручную (см. PC-11165 от Taraaz, п. 1). Заинтересованные лица также призвали Meta предоставить дополнительные данные о точности автоматизированного применения правил и увеличить инвестиции в повышение эффективности автоматизированных систем для других языков помимо английского (см., например, комментарии PC-11164 от SMEX, п. 5; PC-11190 от Brennan Centre). Они также настаивали на том, что в Meta должны отчитываться о модерации контента "согласованно по разным языкам, включая подробные данные по жалобам пользователей, доле действий, типам мер, эффективности мер по смягчению рисков, обучению и количеству обжалований (см., например, комментарий PC-11196 от Integrity Institute).

80. Некоторые эксперты не согласны с использованием слова "шахид" в отношении опасного субъекта в качестве единственной отправной точки для удаления контента с платформы автоматизированными системами, однако они рекомендуют использовать этот термин в рамках многоуровневого подхода к модерации (например, в качестве сигнала для помещения контента в очередь для проверки на предмет нарушения политик Meta, но не для удаления из-за того, что контент содержит только такое упоминание).

81. Совет признает, что использование систем на основе алгоритмов необходимо при массовой модерации контента и что многие из предложенных подходов могут оказаться неприменимыми на массовом уровне и при использовании автоматизации. Тем не менее Совет также пришел к выводу, что Meta необходимо принять дальнейшие меры, включая рекомендованные выше, чтобы обеспечить прозрачность и справедливость таких систем.

* Процедурное примечание.

Пакеты рекомендаций относительно правил Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для составления пакета рекомендаций от имени Совета было поручено провести независимое исследование. Помощь в проведении исследования оказал независимый исследовательский институт при Гётеборгском университете, располагающий коллективом из более чем 50 ученых-социологов на шести континентах, а также более 3 200 специалистов из разных стран. В работе Совету также помогала консалтинговая фирма Duco Advisors, специализирующаяся на вопросах геополитики, доверия, безопасности и технологий. Кроме того, аналитика была предоставлена компанией Memetica, специализирующейся на исследовании трендов в социальных сетях по открытым источникам. Лингвистическая экспертиза была проведена компанией Lionbridge Technologies, LLC, специалисты которой владеют более чем 350 языками и работают в 5 тыс. городов по всему миру.

Return to Case Decisions and Policy Advisory Opinions