पलट जाना

Об обвинении иранки на улице

7 मार्च 2024

निर्णय का प्रकार

मानक

नीतियां और विषय

विषय: अभिव्यक्ति की स्वतंत्रता, विरोध, सुरक्षा
सामुदायिक मानक: हिंसा और उकसावा

क्षेत्र/देश

जगह: ईरान

प्लैटफ़ॉर्म

प्लैटफ़ॉर्म: Instagram

Сводка

Независимый надзорный совет отменил первоначальное решение Meta об удалении видео, в котором мужчина на улице Ирана требовал от женщины объяснений по поводу отсутствия хиджаба. Публикация не нарушает правила в отношении насилия и подстрекательства, так как содержит фигуральное, а не буквальное заявление и не представляет реальную угрозу насилия. Учитывая текущую нестабильность, ужесточение репрессий и насилия по отношению к протестующим, возможность доступа к социальным сетям в Иране, где Интернет становится новой ареной борьбы за права женщин, имеет огромное значение. Поскольку Instagram является одной из немногих платформ, которые ещё не запрещены в стране, его роль в движении "Женщина, жизнь, свобода", противостоящем режиму, неизмерима, несмотря на попытки правительства запугать женщин и принудить их к молчанию. Совет заключает, что усилия Meta по защите прав на свободу слова, а также прав на свободу собраний в контексте систематических репрессий со стороны государства недостаточны, и рекомендует внести изменения в Протокол кризисной политики компании.

Сведения о деле

В июле 2023 г. пользователь опубликовал в Instagram видео, в котором мужчина прилюдно требует от женщины объяснений по поводу отсутствия хиджаба. В этом видео на персидском языке с английскими субтитрами женщина отвечает, что отстаивает свои права. В подписи к видео выражается поддержка этой женщине и всем иранским женщинам, противостоящим режиму. В части подписи также содержится критика режима, включая фразу, которую, по мнению Meta, можно перевести как "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски").

Уголовный кодекс Ирана предусматривает наказание в виде тюремного заключения, штрафа или наказания плетьми для женщин, появляющихся на публике без "надлежащего хиджаба". В сентябре 2023 г. правительство Ирана утвердило новый закон "О хиджабе и целомудрии", предусматривающий до 10 лет тюремного заключения для женщин, не подчиняющихся правилам в отношении обязательного ношения хиджаба. Исходя из подписи в публикации, становится понятно, что женщина, показанная в видео, уже арестована.

Публикация сначала была отмечена автоматическими системами Meta за потенциальное нарушение Руководства сообщества Instagram, а затем отправлена на проверку вручную. Хотя контент проверялся несколькими специалистами на предмет нарушения Политики Meta в отношении насилия и подстрекательства, они не пришли к единому заключению, и по этой причине, а также из-за технической ошибки, публикация была оставлена на платформе. Один из пользователей затем пожаловался на публикацию, была проведена ещё одна серия проверок, на этот раз с участием специалистов регионального подразделения Meta со знанием языка. На этом этапе было решено, что публикация нарушает Политику в отношении насилия и подстрекательства, и ее удалили из Instagram. Пользователь, опубликовавший контент, отправил запрос на обжалование в Совет. В Meta не изменили свое решение о корректности удаления контента, пока Совет не выбрал это дело, после чего компания отменила решение, восстановив публикацию.

Основные выводы

Совет считает, что данная публикация не нарушает Норму сообщества в отношении насилия и подстрекательства, поскольку содержит метафорические, а не буквальные заявления, и не является реальной угрозой насилия, способной повлечь за собой причинение вреда в реальном мире. Хотя первоначальное решение Meta об удалении публикации частично определялось тем, что фраза "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски") интерпретировалась как выражение намерения причинить насилие высокой степени тяжести по отношению к мужчине в видео, ее не следует трактовать буквально. Учитывая всё большее число протестов в Иране и подпись к видео в целом, фраза является фигуральной и выражает гнев и недовольство режимом. Лингвисты, с которыми консультировался Совет, предложили немного другой перевод фразы ("когда-нибудь мы разорвем вас на куски"), пояснив, что она выражает гнев, разочарование и негодование по отношению к властям. Вместо того чтобы повлечь за собой причинение вреда правительству, наиболее вероятно, что именно автор станет жертвой репрессий со стороны властей.

Хотя обоснование политики Meta предполагает учет "языка" и "контекста" при оценке "достоверности угрозы", во внутреннем руководстве Meta для модераторов это не реализуется на практике. Согласно инструкциям, модераторы должны выявлять конкретные критерии (угрозу и объект) и, при их наличии, удалять контент. Совет ранее уже выражал озабоченность по поводу такого несоответствия в деле о призыве к протестам в Иране, когда Meta было рекомендовано разработать подробные инструкции по учету контекста, чтобы предотвратить удаление модераторами по умолчанию "риторических заявлений", выражающих несогласие. Вызывает озабоченность тот факт, что проблема непоследовательной модерации фигуральных выражений в случаях, подобных ситуации в Иране, сохраняется до сих пор. Более того, поскольку на точность автоматических систем влияет качество обучающих данных, предоставляемых людьми, вероятность ошибочного удаления фигуральных выражений только повышается.

Эта публикация также оценивалась на предмет нарушения Нормы сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности, поскольку в ней есть правило, запрещающее "контент, который подвергает опасности женщин с непокрытым лицом, показывая их изображения без хиджаба против их воли или без разрешения". Это положение политики было изменено и теперь запрещает: "раскрытие личности [женщин с непокрытым лицом], подвергающее их риску причинения вреда". По этому вопросу Совет согласен с Meta в том, что данный контент не "раскрывает личность" женщины в видео и риск причинения вреда снижен, поскольку ее личность широко известна и она уже арестована. Этот контент был опубликован с целью привлечь внимание к ее аресту и оказать давление на власти, вынудив их освободить эту женщину.

Поскольку Иран относится к странам из группы риска в рамках кризисных политик Meta, включая Протокол кризисной политики, компания может применять временные изменения политик ("рычаги") в конкретной ситуации. Совет признает усилия Meta в отношении Ирана, однако этих мер недостаточно, чтобы обеспечить соблюдение прав людей на свободу слова и собраний в условиях систематических репрессий.

Решение Независимого надзорного совета

Независимый надзорный совет отменил первоначальное решение Meta об удалении публикации.

Совет рекомендует Meta:

добавить в Протокол кризисной политики разъяснение того, что фигуральные (то есть не буквальные) высказывания, которые не имеют своей целью провокацию насилия и вряд ли приведут к нему, не нарушают положение Политики в отношении насилия и подстрекательства, запрещающее угрозы насилия в соответствующих контекстах. Эти меры также должны включать разработку критериев для модераторов первой линии, позволяющих им выявлять такие высказывания в соответствующем контексте.

* Сводки по делам описывают дела в общих чертах и не имеют прецедентной силы.

Полное описание решения по делу

1. Сводка по решению

Независимый надзорный совет отменяет решение Meta об удалении видео, в котором мужчина на улице Ирана требует от женщины объяснений по поводу отсутствия хиджаба. Специалисты Meta удалили публикацию из Instagram из-за следующей строки в подписи: "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски"), которую они интерпретировали как угрозу, направленную на мужчину в видео, который обращался к женщине без хиджаба. По мнению Совета, эта публикация не нарушала Политику в отношении насилия и подстрекательства, поскольку соответствующее высказывание является фигуральным, а не буквальным и, учитывая контекст, не представляет реальной угрозы насилия. После того как Совет выбрал это дело, представители Meta изначально оставили решение об удалении публикации в силе, однако перед отправкой обоснования в Совет в Meta сочли, что первоначальное решение об удалении контента было ошибочным, и восстановили публикацию на платформе. Совет заключает, что усилия Meta по соблюдению прав на свободу слова и собраний в контексте систематического подавления свободы слова со стороны государства недостаточны, и рекомендует внести изменения в Протокол кризисной политики компании.

2. Описание и краткая предыстория дела

В июле 2023 г. пользователь Instagram опубликовал видео на персидском языке с английскими субтитрами, в котором мужчина на публике требовал от женщины объяснений по поводу того, что она была без хиджаба, а женщина отвечала, что она отстаивает свои права. Мужчину невозможно идентифицировать в видео, тогда как женщина полностью на виду. По всей видимости, видео является репостом записи, изначально опубликованной кем-то, кто связан с иранским режимом или поддерживает его. Видео сопровождалось подписью, также на персидском языке, выражавшей поддержку этой женщине и всем иранским женщинам, которые противостоят режиму, и критиковавшей правительство и его сторонников. В подписи содержалась фраза, которую в Meta перевели как "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски"), и заявление о том, что женщина была арестована после этого инцидента. Публикация набрала около 47 тыс. просмотров, 2 000 отметок "Нравится", 100 комментариев. Кроме того, ею поделились 50 раз.

Этот контент изначально был помечен автоматизированным классификатором (алгоритмом, используемым Meta для выявления потенциальных нарушений политик) как потенциально нарушающий правила Руководства сообщества Instagram и был отправлен на проверку вручную. Несколько специалистов проверили контент, но из-за технической ошибки и из-за того, что проверяющие не пришли к единому мнению по поводу того, нарушала ли публикация Политику в отношении насилия и подстрекательства, первоначально публикацию не удалили с платформы. Затем один из пользователей пожаловался на контент, и тогда автоматический классификатор снова определил, что контент потенциально нарушает правила Meta и передал его на дополнительную проверку. На данный контент поступила только одна жалоба одного пользователя. По результатам дополнительного круга проверки специалисты Meta со знанием языка и региона удалили публикацию из Instagram согласно Политике в отношении насилия и подстрекательства. Решение Meta об удалении публикации основывалось на следующей фразе в подписи: "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски"). Компания интерпретировала эту строку как угрозу, направленную на мужчину в видео, который обращался к женщине без хиджаба. Автор публикации отправил запрос на обжалование решения об удалении контента в Meta. Проверяющий оставил решение об удалении в силе.

Затем пользователь, опубликовавший контент, отправил запрос на обжалование удаления в Совет. Когда Совет выбрал это дело для проверки правомерности, представители Meta оставили решение об удалении контента в силе. На этом этапе проверки в Meta также анализировали этот контент на предмет нарушения Нормы сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности, которая запрещает "раскрытие личности" женщин с непокрытым лицом, подвергающее их риску причинения вреда. На момент публикации контента женщина уже была арестована властями. После того как Совет выбрал это дело, компания изменила свое решение и восстановила контент, ориентируясь на дополнительные данные, полученные от собственных специалистов по региону, и решение Совета по делу о призыве к женским протестам на Кубе.

Как отмечал Совет в решении по делу о призыве к протестам в Иране, люди в Иране протестуют против правительства, отстаивая гражданские и политические права и равноправие полов, как минимум с революции 1979 года. В 2023 г. Нобелевскую премию мира получила Наргиз Мохаммади, отбывающая заключение правозащитница, за "более чем 20-летнюю борьбу за права женщин, [что] сделало ее символом свободы и ключевой фигурой борьбы против иранской теократии". Уголовный кодекс Ирана предусматривает наказание в виде тюремного заключения, штрафа или наказания плетьми для женщин, появляющихся на публике без "надлежащего хиджаба". Женщинам в Иране также запрещено заниматься некоторыми науками и посещать многие общественные места. Кроме прочего, людям запрещено танцевать с представителями противоположного пола. Мужчина считается главой семьи, и женщины должны получать разрешение отца или мужа, чтобы устроиться на работу, выйти замуж или отправиться в поездку. Свидетельство женщины в суде имеет вес в половину от мужского, что ограничивает доступ женщин к правосудию.

После того как иранские власти ужесточили и расширили меры принудительного исполнения закона об обязательном ношении хиджаба в 2022 г., женщины стали чаще подвергаться проверкам, частыми последствиями которых стали оскорбления, притеснения, физическая агрессия и аресты. В сентябре 2022 г. 22-летняя Джина Махса Амини умерла в полицейском участке через три дня после того, как ее арестовали якобы за нарушение правила о ношении "надлежащего хиджаба". Ее смерть вызвала возмущение и волны протеста по всей стране, а также привела к зарождению антиправительственного движения, которое стало известно под названием Zan, Zendegi, Azadi (Женщина, жизнь, свобода). За этими событиями последовали жестокие карательные меры со стороны властей, в результате которых по подтвержденным данным к концу 2022 г. погибло 500 человек, а около 14 тыс. человек было арестовано, включая участников протестов, а также журналистов, юристов, активистов, спортсменов и деятелей искусств, выступавших в поддержку движения.

В сентябре 2023 г. парламент Ирана утвердил новый закон "О хиджабе и целомудрии", предусматривающий до 10 лет тюремного заключения для женщин, не подчиняющихся правилам страны в отношении обязательного ношения хиджаба. Компании, обслуживающие женщин без хиджаба, также сталкиваются с санкциями вплоть до закрытия предприятия.

Социальные сети стали одним из главных инструментов женского протестного движения в Иране, играя ключевую роль в мобилизации протестов и распространении жизненно важной информации (см. комментарии общественности PC 21007, PC-21011), а также в документировании и сохранении общедоступных доказательств злоупотреблений и нарушений прав человека (PC-21008, вложение).

При этом, участвуя в онлайн-кампаниях, женщины также подвергаются риску дальнейшего преследования со стороны режима, включая угрозы, клевету, аресты и тюремное заключение. Эксперты, с которыми консультировался Совет, упоминали обширную сеть лиц, связанных с Корпусом стражей исламской революции и иранским правительством, которые ведут свою деятельность в Instagram и Telegram, причем последняя платформа часто используется для прямых нападок и обвинений в сторону протестующих и несогласных.

В нескольких комментариях общественности, направленных в Совет, также описывалась такая тактика властей, как массовые жалобы на протестный контент в Instagram через систему подачи жалоб пользователями, целью которых является "принуждение социальных сетей к удалению контента, связанного с диссидентами, или его скрытая блокировка" (см. комментарии общественности PC-21011, PC-21009). Кроме того, сообщалось о случаях, когда сотрудники иранской разведки предлагали модераторам контента деньги за удаление контента, публикуемого оппонентами режима.

В феврале 2023 г. Специальный докладчик ООН по Ирану выразил озабоченность продолжающимися репрессиями и нападками на активистов гражданского общества, правозащитников, активистов по правам женщин, юристов и журналистов, по мере того как власти всё больше ограничивают средства для выражения несогласия, включая отключение интернет-доступа и цензуру в социальных сетях.

3. Полномочия и сфера действия Независимого надзорного совета

Независимый надзорный совет уполномочен пересматривать решение Meta после отправки запроса на обжалование лицом, чей контент был удален (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка).

Совет может подтвердить либо отменить решение Meta (раздел 5 статьи 3 Устава), и решение Совета является обязательным для исполнения Meta (статья 4 Устава). Meta также необходимо оценить возможность применения своего решения в отношении аналогичного контента в сходном контексте (статья 4 Устава). В решениях Совета могут содержаться необязательные к исполнению рекомендации, на которые Meta надлежит давать ответы (раздел 4 статьи 3 Устава; статья 4). В случаях, когда Meta берет на себя обязательство по выполнению рекомендаций, Совет отслеживает их реализацию.

Если Совет выбирает дела, подобные этому случаю, когда Meta впоследствии признает свою ошибку, Совет проверяет первоначальное решение, чтобы более тщательно изучить процесс модерации контента и выработать рекомендации для уменьшения количества ошибок и обеспечения более объективного отношения к пользователям Facebook и Instagram.

4. Источники полномочий и нормативов

При анализе этого дела члены Совета опирались на нормы и прецеденты, приведенные ниже.

I. Решения Независимого надзорного совета

Наиболее актуальные предыдущие решения Независимого надзорного совета:

II. Политики Meta в отношении контента

В ходе анализа Совет опирался на заявленное Meta обязательство способствовать свободе слова, которое компания называет "первостепенным", а также такие ценности, как "безопасность", "конфиденциальность" и "достоинство".

Руководство сообщества Instagram

В Руководстве сообщества Instagram сказано, что удалению подлежит "контент, содержащий реальные угрозы", с отсылкой к Норме сообщества в отношении насилия и подстрекательства. В Руководстве сообщества нет прямых ссылок на Норму сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности. В отчете Meta об обеспечении соблюдения Норм сообщества за первый квартал 2023 г. указано, что "Facebook и Instagram используют общие политики в отношении контента. Это означает, что если контент признан нарушающим политики Facebook, то он также считается нарушающим политики Instagram".

Рассматриваемый контент был удален в рамках Политики в отношении насилия и подстрекательства. После того как Совет выбрал это дело, в Meta также провели анализ этого контента на предмет нарушения политики в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности.

Норма сообщества в отношении насилия и подстрекательства

Согласно обоснованию политики, Норма сообщества в отношении насилия и подстрекательства направлена на "предотвращение насилия над кем-либо в реальном мире в связи с контентом", опубликованным на платформах Meta. При этом Meta понимает, что "люди часто выражают свое презрение или несогласие посредством угроз или призывов к насилию в несерьезной и случайной форме". Поэтому контент удаляют, если, по мнению специалистов Meta, он содержит "угрозы насилия, которые могут привести к смерти", включая контент, направленный на кого-либо, с "утверждением о намерении" совершить "насилие высокой степени тяжести". В Meta утверждают, что при оценке достоверности угрозы учитывают контекст, например дополнительную информацию, такую как "известность" этого человека или "уязвимость объекта".

В частности, данная политика запрещает "угрозы насилия, способные привести к смерти (и другим формам насилия высокой степени тяжести)". Термин "угроза" включает "заявление о намерении" совершить насилие высокой степени тяжести.

Норма сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности

Согласно обоснованию политики, целью Нормы сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности является: "предотвращение и пресечение причинения вреда и подражания подобному поведению в реальном мире" путем запрета пользователям "способствовать определенным преступным или вредоносным действиям, направленным против людей, компаний, имущества или животных, а также организовывать и продвигать такие действия либо признаваться в их совершении". Сюда же относится "разглашение личности", которое в Meta определяют как контент, раскрывающий личность или местонахождение, связанные с кем-либо, кто предположительно, среди прочего, "является членом группы лиц, подверженных риску разглашения личности". Это положение применяется модераторами первой линии в отношении определенных групп. При эскалации и наличии дополнительного контекста в политике Meta на момент публикации контента говорилось, что удалению также может подлежать "контент, который подвергает опасности женщин с непокрытым лицом, показывая их изображения без хиджаба против их воли или без разрешения". На данный момент эта формулировка изменена и запрещает "раскрытие личности [женщин с непокрытым лицом], подвергающее их риску причинения вреда".

III. Обязательства Meta по защите прав человека

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом ООН по правам человека в 2011 году, устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. Корпоративная политика в отношении прав человека Meta, опубликованная 16 марта 2021 года, вновь подтверждает обязательство компании соблюдать права человека в соответствии с РП ООН.

При анализе обязанностей Meta по защите прав человека в рамках этого дела Совет мог учитывать приведенные ниже международные нормы:

Право на свободу мнений и их свободное выражение: статья 19 Международного пакта о гражданских и политических правах (МПГПП), Замечание общего порядка № 34 Комитета по правам человека, 2011 г.; доклады Специального докладчика ООН по вопросам защиты права на свободу мнений и их свободное выражение: № A/HRC/38/35 (2018 г.) и № A/74/486 (2019 г.); Рабатский план действий, отчет Верховного комиссара ООН по правам человека: № A/HRC/22/17/доп. 4 (2013 г.).
Право на свободу мирных собраний: статья 21 МПГПП; Замечание общего порядка № 37 Комитета по правам человека (2020 г.).
Право на жизнь: статья 6 МПГПП.
Право на свободу и личную неприкосновенность: статья 9 МПГПП.
Право на отсутствие дискриминации: статьи 2(1), 3 и 26 МПГПП; статьи 1 и 7 (отсутствие дискриминации при участии в политической и общественной жизни страны), Конвенция о ликвидации всех форм дискриминации в отношении женщин (КЛВФДОЖ). См. также статью 8 Декларации о правозащитниках, право на реальный доступ к участию в государственной политике без дискриминации.
Право на неприкосновенность частной жизни: статья 17 МПГПП.

5. Заявления пользователя

Пользователь, опубликовавший этот контент, отправил в Совет запрос на обжалование удаления. В своем заявлении пользователь объяснил, что в публикации показан представитель иранского правительства, который требовал от женщины объяснений по поводу того, что она была без хиджаба. Пользователь заявил, что в видео показана храбрость иранской женщины, отстаивающей свои права. Пользователь также заявил, что другие пользователи публиковали аналогичные видео в социальных сетях и что контент не является вредоносным или опасным и не нарушает какие бы то ни было политики Instagram.

6. Заявления Meta

Норма сообщества в отношении насилия и подстрекательства

Представители Meta заявили Совету, что первоначальное решение об удалении рассматриваемого контента было основано на Политике в отношении насилия и подстрекательства. Они объяснили, что решение основывалось на фразе в подписи, которую в Meta перевели как "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски"). Компания интерпретировала эту строку как направленную на мужчину в видео, который обращался к женщине без хиджаба. Специалисты по региону решили, что фраза "порвем на куски" представляет собой угрозу причинения физического вреда с учетом ситуации в Иране. Принимая во внимание такую интерпретацию, в Meta сначала оставили в силе решение об удалении контента в рамках Политики в отношении насилия и подстрекательства.

Хотя в Meta оставили решение об удалении контента в силе, когда Совет впервые выбрал это дело для рассмотрения на предмет правомерности, впоследствии (когда дело было отобрано Советом) компания изменила решение и восстановила контент, учитывая дополнительные данные, полученные от специалистов по региону. Основываясь на этих данных, в Meta пришли к выводу, что наиболее вероятной интерпретацией фразы в подписи была отсылка к свержению иранского правительства и тех, кто поддерживает обязательное ношение хиджаба, а не буквальная угроза, направленная на мужчину в видео.

В рамках этой окончательной проверки в Meta заключили, что целью контента было привлечь внимание общественности к плохому обращению с женщинами, как например с женщиной на видео, которая подвергалась нападкам со стороны мужчины по поводу отсутствия хиджаба. Пользователь говорит о силе иранских женщин и критикует "bastardness" ("омерзительное поведение"), ссылаясь либо на мужчину, снимающего видео, либо на режим в целом, и привлекает внимание общественности к аресту женщины, показанной в видео. В Meta объяснили, что потенциально угрожающие фразы следует читать и понимать с учетом контекста в целом. Именно такие примеры привлечения внимания общественности, как отмечается в обосновании политики Meta с цитатой решения Совета по делу о призыве к протестам в Иране, особенно важны в Иране, где ограничены возможности свободного выражения мнений.

Представители Meta также проинформировали Совет о том, что после дополнительного анализа специалисты по региону предположили, что наиболее разумной интерпретацией фразы "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски") можно считать не фактическую угрозу, а скорее политическую критику, направленную либо на режим в целом, либо на людей, поддерживающих обязательное ношение хиджаба. Хотя выражение "порвать на куски" обычно относится к убийству человека путем разрезания его тела на части, в данном контексте его следует понимать как метафору свержения режима (аналогично выражению, упоминаемому в обзорном решении по делу о метафорическом заявлении в отношении президента Перу).

Представители Meta сообщили Совету, что ещё одним фактором, повлиявшим на окончательное решение о восстановлении контента на платформе, стало недавнее решение Совета по делу о призыве к женским протестам на Кубе, в котором Совет подчеркивает, что при контекстуальном прочтении публикации следует учитывать волну репрессий со стороны правительства и значительный общественный интерес в плане исторически важных акций протеста, которые были темой публикации. Кроме того, в Meta также учли дело о призыве к протестам в Иране, в котором Совет анализировал политическое движение в защиту прав женщин в Иране. В рамках того дела Совет подчеркивал значимость защиты свободы слова в контексте протестного движения, в частности в свете систематического подавления свободы слова со стороны правительства, и важность цифровых платформ как трибуны для выражения несогласия. Представители компании также отметили, что приняли во внимание недавнее обзорное решение Совета по делу о метафорическом заявлении в отношении президента Перу, в котором ещё раз подчеркивалась "важность разработки систем модерации, учитывающих контекст, способных распознать иронию, сатиру или риторический дискурс особенно в части защиты политических высказываний".

В Meta Совету сообщили, что также рассматривали удаление этого контента в рамках Нормы сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности из-за недобровольного раскрытия личности женщины, показанной в видео без хиджаба. Это положение политики применяется Meta только при эскалации и только при наличии дополнительного контекста. Для применения правила требуются данные, полученные от соответствующих заинтересованных лиц, а само правило в первую очередь учитывает то, изображает ли контент женщину без хиджаба, раскрывая ее личность без ее разрешения, и насколько вероятен риск причинения ей вреда, а не какие-либо конкретные термины или тон контента или подписи. В Meta отметили, что люди не могут "раскрыть" собственную личность: раскрытие личности должно быть недобровольным, чтобы его признали нарушением данной политики.

В этом случае в Meta определили, что контент не подлежит удалению за недобровольное раскрытие личности, поскольку личность женщины широко известна, в том числе в Интернете, и ее уже арестовали на момент публикации рассматриваемого контента. Такой контекст существенно снижает риск причинения вреда, связанный с сохранением контента на платформе.

Совет задал Meta 11 вопросов и ещё два дополнительных вопроса в письменной форме. Вопросы касались процедур обеспечения соблюдения правил и ресурсов по Ирану, оценки Meta рисков, связанных с Ираном в общем и с женщиной в видео в частности, процедур автоматической проверки и проверки вручную, модерации контента, изображающего женщин без хиджаба, и раскрытия личности людей из группы риска (при массовой проверке и при эскалации). На все вопросы были предоставлены ответы.

7. Публичное обсуждение

Независимый надзорный совет получил 12 комментариев общественности в связи с этим делом. Семь комментариев были отправлены из США и Канады, два — из Центральной и Южной Азии, два — из Европы и один — из региона Ближнего Востока и Северной Африки.

Комментарии охватывали следующие темы: роль социальных сетей в организации акций протеста в Иране, включая движение "Женщина, жизнь, свобода", и роль, которую изображения женщин без хиджаба играют в онлайн-кампаниях; риски, связанные с распространением изображений женщин без хиджаба в социальных сетях в Иране, использование социальных сетей иранскими властями; реализация политик Meta в отношении модерации контента в плане выражений на персидском языке, связанных с политической ситуацией в Иране, свобода слова, права человека, права женщин, репрессии со стороны правительства и блокировка социальных сетей в Иране.

Чтобы ознакомиться с комментариями общественности по этому делу, нажмите здесь.

8. Анализ Независимого надзорного совета

Совет проанализировал первоначальное решение Meta удалить данный контент с учетом политик в отношении контента, ценностей и обязанностей компании по защите прав человека.

Совет выбрал это дело, так как оно дает возможность изучить политики Meta в отношении насилия и подстрекательства, организованного намеренного причинения вреда и пропаганды преступной деятельности, а также связанных процессов обеспечения соблюдения правил в контексте массовых акций в защиту прав женщин и возможности участия женщин в общественной жизни в Иране с сентября 2022 г. В частности, в нем рассматривается значимость социальных сетей для людей, выступающих против обязательного ношения хиджаба.

Кроме того, это дело дало Совету возможность обсудить внутренние процедуры Meta, которые используются для принятия решения о том, в каких случаях фигуральные выражения, будучи понятыми буквально, могут интерпретироваться как угрозы, но с учетом контекста не должны считаться достоверной угрозой. Это дело в первую очередь связано с таким приоритетом Совета, как "выборы и общественное пространство", однако оно также касается других приоритетов, таких как "пол", "использование платформ Meta государственными структурами", "кризисные и конфликтные ситуации".

8.1. Соблюдение политик Meta в отношении контента

Норма сообщества в отношении насилия и подстрекательства

По мнению Совета, рассматриваемый контент не нарушает Норму сообщества в отношении насилия и подстрекательства, так как содержит метафорическое заявление, выражающее гнев в отношении репрессий правительства, а не буквальную и потому достоверную угрозу насилия.

В Meta объяснили, что первоначально удалили рассматриваемый контент, так как он содержал "заявление о намерении совершить насилие высокой степени тяжести". Meta определяет "насилие высокой степени тяжести" как угрозу, которая может привести к смерти или с высокой вероятностью закончиться летальным исходом.

Исходя из оценки специалистов по региону, учитывая ситуацию в Иране, в Meta трактовали фразу "it is not far to make you into pieces" ("совсем скоро мы порвем вас на куски") в подписи к публикации как угрозу причинения физического вреда, нарушающую политику в отношении насилия и подстрекательства.

Лингвисты, с которыми консультировался Совет, пояснили, что соответствующую часть подписи можно перевести как "когда-нибудь мы разорвем вас на куски!" или "уже скоро мы разорвем вас в клочья". Эксперты отметили, что эта фраза, учитывая ситуацию в Иране, выражает гнев, разочарование и негодование по отношению к угнетателям и предположение о том, что ситуация в конечном итоге изменится, поскольку власть угнетателей не вечна. Эту фразу не следует трактовать буквально как намерение причинить физический вред; она скорее служит "риторическим заявлением", направленным на привлечение внимания, что подчеркивается эмоциональными формулировками, в том числе такими резкими глаголами, как "разрывать"/"порвать на куски". Эксперты подчеркнули, что такое фигуральное высказывание отражает глубокое возмущение, которое испытывают как пользователь, опубликовавший контент, так и его аудитория. Таким образом оно не подразумевает фактической угрозы физического насилия.

Хотя представители Meta сообщили Совету, что также учитывали контекст заявления при оценки достоверности угрозы, в инструкциях для модераторов компании не указано, что они могут учитывать контекст, оценивая, является ли фраза "заявлением о намерении [совершить] насилие высокой степени тяжести". Если критерии правила удовлетворяются, особенно если контент включает и угрозу, и объект, публикация признается нарушающей правила, как это и случилось в данном деле. В этом случае в Meta интерпретировали заявление как нацеленное на мужчину, конфликтовавшего с женщиной. Для применения этого правила не требуется, чтобы объект был видимым или идентифицируемым. В правиле содержится только один пример угрожающего заявления, которое, как правило, считается исключением или не считается реальной угрозой: "угрозы, направленные на определенных лиц, совершивших насилие, таких как террористические группировки".

Фраза "порвем вас на куски" в данном контексте не представляет реальной угрозы. Учитывая нестабильную ситуацию, расширение репрессий и насилия в отношении людей, протестующих против режима в Иране, и учитывая подпись к видео в целом, Совет пришел к выводу, что фраза является фигуральной, а не буквальной, и выражает гнев и недовольство режимом, а также не является "заявлением о намерении [совершить] насилие высокой степени тяжести". Эта интерпретация согласуется со стремлением Meta дать слово каждому и значимостью защиты прав на свободное выражение политического недовольства.

Совет полагает, что контент, рассматриваемый в рамках этого дела, не нарушает Норму сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности.

Специалисты Meta рассматривали возможность удаления публикации в рамках правила, запрещающего "контент, который подвергает опасности женщин с непокрытым лицом, показывая их изображения без хиджаба против их воли или без разрешения". На данный момент это положение политики изменено и запрещает "раскрытие личности [женщин с непокрытым лицом], подвергающее их риску причинения вреда". С точки зрения компании "раскрывающий личность" контент включает изображение женщины без хиджаба, который раскрывает ее личность без ее разрешения и подвергает ее риску причинения вреда. Это положение политики применяется только при эскалации, и для его применения требуется получение информации от нескольких заинтересованных лиц (см. раздел 4 выше).

По этому вопросу Совет согласен с Meta в том, что контент не "раскрывает личность" женщины, поскольку она и так широко известна, а риск причинения вреда снижен, так как она уже была арестована на момент публикации контента. Таким образом сохранение видео на платформе не привело бы к существенному повышению уровня риска для этой женщины и, напротив, могло стать защитной мерой, привлекая внимание общественности к этой ситуации. Контекст играет особенную роль в определении того, "раскрывает" ли публикация личность женщины и подвергает ли ее риску: применение этого правила только при эскалации гарантирует, что у специалистов будет достаточно времени и ресурсов для выявления и оценки соответствующего контекста.

8.2. Выполнение обязанностей Meta по защите прав человека

Совет считает, что удаление этого контента с платформы не согласовывалось с обязанностями Meta по защите прав человека.

Свобода выражения мнений (статья 19 МПГПП)

В статье 19 МПГПП предусматриваются широкие меры защиты права на свободу слова, включая "свободу искать, получать и распространять всякого рода информацию и идеи, независимо от государственных границ, устно, письменно или посредством печати или художественных форм выражения, или иными способами по своему выбору". Если ограничения свободы слова установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). Совет использует ее для интерпретации добровольно принятых Meta обязанностей по защите прав человека: как при вынесении решений по проверяемому контенту в конкретном деле, так и при оценке общего подхода Meta к управлению контентом. В докладе Специального докладчика ООН по вопросам права на свободу мнений и их свободное выражение говорится: "у компаний нет обязательств государственного уровня, однако их влияние таково, что им необходимо рассматривать те же вопросы защиты прав пользователей, касающиеся свободы слова" (доклад № A/74/486, пункт 41).

Доступ к социальным сетям играет важнейшую роль в таких закрытых сообществах, как Иран. Будучи своего рода "цифровыми цензорами", социальные сети имеют "глубокое влияние" на доступ широкой публики к информации (доклад № A/HRC/50/29, пункт 90). Рассматриваемая в данном деле публикация — один из элементов более широкого протестного движения, жизнеспособность которого зависит от цифровых общественных пространств. Законы, диктующие женщинам, как им одеваться, влияют на их свободу и достоинство (доклад № A/68/290, пункт 38), в том числе если закон пытается запретить ношение хиджаба или предписывает появление на публике без него (см. например дело Yaker v France, CCPR/C/123/D/2747/2016). В связи с этим "Интернет стал новым полем битвы в борьбе за права женщин, расширяя возможности для выражения женщинами своих мнений" (доклад № A/76/258, пункт 4). Защита прав женщин на свободное выражение мнений обеспечивает их участие в политической жизни и реализацию прав человека (A/HRC/Res/23/2, пункты 1–2; A/76/258, пункт 5).

I. Правомерность (четкость и доступность правил)

Принцип правомерности подразумевает, что любое ограничение свободы слова должно следовать установленному правилу, которое должно быть доступным для понимания пользователей и достаточно четким. Правило должно быть "сформулировано с достаточной точностью, чтобы люди могли соответствующим образом регулировать свое поведение, и быть общедоступным" (Замечание общего порядка № 34, пункт 25). Кроме того, правила, ограничивающие свободу слова, "не должны предусматривать наличия у лиц, отвечающих за [их] выполнение, ничем не ограниченного права ограничивать свободу слова", но должны "предоставлять лицам, которым поручено их осуществление, достаточные руководящие указания для того, чтобы они могли определить, на какие формы выражения мнений установлены должные ограничения, а на какие — нет" (Замечание общего порядка № 34, пункт 25); A/HRC/38/35 (undocs.org), в пункте 46). Отсутствие ясности или точности может привести к непоследовательному и произвольному применению правил Применительно к Meta, пользователи должны быть в состоянии предугадать последствия публикации контента на Facebook и в Instagram, а специалисты по проверке контента должны иметь четкие инструкции по применению правил.

Норма сообщества в отношении насилия и подстрекательства

Совет считает, что хотя обоснование (в котором выражаются цели Нормы сообщества, но которое не является частью самого правила) политики в отношении насилия и подстрекательства предполагает, что "контекст имеет значение" и может учитываться при оценке "достоверности угрозы", во внутренних инструкциях и подходе Meta к модерации эта практика не реализуется. Как Совет отмечал в деле о призыве к протестам в Иране, инструкции для специалистов по массовой модерации контента предполагают поиск в публикации определенных критериев (или элементов) и ее удаление при соблюдении этих критериев. Другими словами, если публикация содержит угрозу (например, слова "убить" или "я порву тебя на куски") и объект, она будет удалена. У модераторов контента нет возможности оценивать достоверность угрозы. Как объяснили представители Meta в рамках этого дела, такой механический или шаблонный подход применяется, поскольку "определение того, является ли [фраза] риторическим выражением или реальной угрозой, представляет собой трудную задачу, особенно для первой линии проверки". Таким образом достоверность угрозы принимается во внимание при создании правила, но не при его применении. Как отмечал Совет в деле о призыве к протестам в Иране, хотя в "обосновании правила делается попытка учесть риторические высказывания такого рода, которые можно ожидать в контексте протестов, в самих правилах и соответствующих инструкциях для проверяющих они не учитываются. На практике эта политика, особенно на уровне массовой проверки, реализуется более формально, чем подразумевается правилом, из-за чего пользователи могут получить ошибочное представление о том, как именно применяются правила. Инструкции для проверяющих в текущей версии исключают возможность контекстуального анализа даже при наличии в самом контексте четких сигналов того, что фразы с угрозами являются риторическими". Это несоответствие между заявленным компанией обоснованием правила и фактической практикой его применения не устранено и не удовлетворяет принципу правомерности в полной мере.

Совет счел необходимым повторить выводы по делу о призыве к протестам в Иране в плане того, что Meta следует разработать подробные инструкции по учету контекста, чтобы предотвратить удаление модераторами по умолчанию "риторических" или не буквальных заявлений, выражающих несогласие, особенно в таких сложных политических условиях, как в Иране.

По мнению Совета, запрет Meta "контента, который подвергает опасности женщин с непокрытым лицом, показывая их изображения без хиджаба против их воли или без разрешения", достаточно понятен в том, что касается данного дела. Он четко определяет, что контент, "раскрывающий личность" женщин без хиджаба и способный повлечь за собой причинение вреда", запрещен на платформах Meta. Тем не менее Совет выражает озабоченность тем фактом, что в Руководстве сообщества Instagram нет прямых ссылок на Норму сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности. Это отрицательно сказывается на доступности этих правил пользователям Instagram. Рассматривая предыдущие дела (о симптомах рака молочной железы и изображении обнаженного тела и об изоляции Оджолана), Совет рекомендовал Meta снабдить пользователей открытым и четким объяснением того, как Нормы сообщества Facebook применяются к Instagram. В ответ на эту рекомендацию в Meta начали процесс унификации Норм сообщества Facebook и Руководства сообщества Instagram с указанием различий в политиках для разных платформ. В рамках последующих ежеквартальных отчетов о прозрачности представители Meta заверили Совет, что этот процесс остается приоритетным, отметив, что на сроках реализации сказались юридические и нормативные соображения. Совет ещё раз подчеркивает важность скорейшего завершения этого процесса и разъяснения соответствующих правил.

II. Законная цель

Согласно пункту 3 статьи 19 МПГПП, свобода слова может быть ограничена по определенному и ограниченному перечню причин, в том числе для защиты прав других лиц. В рамках этого дела Совет считает, что Норма сообщества в отношении насилия и подстрекательства направлена на "предотвращение потенциального причинения вреда в реальном мире" путем удаления контента, который представляет "реальный риск физического насилия или угрозы общественной безопасности". Таким образом, эта политика служит законной цели защиты права на жизнь (статья 6 МПГПП) и физическую неприкосновенность (статья 9 МПГПП; Замечание общего порядка № 35, пункт 9).

Политика в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности служит законной цели противодействия дискриминации женщин в Иране (статьи 2, 3 и 26 МПГПП; статьи 1 и 7 КЛВФДОЖ), включая право на свободу слова и собраний (статьи 19 и 21 МПГПП), право на участие в политической жизни (статьи 1 и 7 КЛВФДОЖ), право на конфиденциальность (статья 17 МПГПП) и право на жизнь (статья 6 МПГПП) и свободу и личную неприкосновенность (статья 9 МПГПП).

III. Необходимость и соразмерность

Любые ограничения свободы слова "должны являться уместными для выполнения своей защитной функции; они должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат; и они должны быть соразмерны защищаемому интересу" (Замечание общего порядка № 34, пункт 34). Операторам социальных сетей необходимо рассмотреть возможность оптимизации управления проблемным контентом, помимо его удаления, для точной настройки параметров ограничений (доклад № A/74/486, пункт 51).

Норма сообщества в отношении насилия и подстрекательства

Совет пришел к выводу, что первоначальное решение Meta об удалении рассматриваемого контента не было необходимым. Удаление не требовалось для защиты человека, снимающего видео, или других лиц, так как угроза, упомянутая в подписи, не была буквальной. Совет выражает озабоченность тем фактом, что даже после рекомендаций по делу о призыве к протестам в Иране Нормы сообщества Meta и инструкции для модераторов оставляют возможность непоследовательной модерации фигуральных (не буквальных) угроз несмотря на ситуацию в Иране, где протесты продолжаются уже больше года. В упомянутом деле, как и в текущем, специалисты Meta не смогли интерпретировать фразу как иносказательную угрозу. То, что контент в рамках данного дела проверяло несколько модераторов первой линии и отделов Meta, которые снова и снова признавали его нарушающим правила, лишний раз доказывает, что надлежащие инструкции по-прежнему отсутствуют.

В рамках проведенного анализа Совет использовал шесть факторов из Рабатского плана действий для оценки способности рассматриваемого контента создать серьезный риск подстрекательства к дискриминации, насилию или другим неправомерным действиям. Совет отмечает, что факторы Рабатского плана действий были разработаны для выявления пропаганды национальной, расовой и религиозной ненависти, считающейся подстрекательством, а не подстрекательства в общем смысле. Тем не менее проверка, основанная на шести факторах, подходит для оценки подстрекательства в общем смысле, и Совет уже использовал ее таким образом ранее (см., например, дела "О призыве к протестам в Иране" и "О призыве к женским протестам на Кубе"):

Контекст. Контент был опубликован в июле 2023 г., в период нестабильности, усиления репрессий и насилия по отношению к протестующим против режима. Возможности выражения протеста в стране ограничены, учитывая массовое отключение Интернета и запрет крупных социальных сетей, таких как Facebook, Telegram и X. Поскольку Instagram — это одна из немногих разрешенных платформ, его роль в движении "Женщина, жизнь, свобода" огромна. Эксперты, с которыми консультировался Совет, отмечали, что целью этого движения является нормализация протестов и выступлений против четырех десятилетий действия законов, направленных на дискриминацию женщин. По наблюдениям экспертов, с момента зарождения движения одной из основных тенденций стали попытки запугать женщин и заставить их отказаться от выражения своего мнения онлайн. Новые законы и громкие аресты направлены на то, чтобы ограничить выражение протеста и помешать нормализации выступлений против законов о ношении хиджаба.
Статус говорящего. Представители Meta сообщили Совету, что не считают пользователя, опубликовавшего контент, публичной личностью. Судя по подписи к видео, пользователь поддерживает движение "Женщина, жизнь, свобода" или является его участником. Таким образом автор не является представителем власти и, возможно, рискует своей собственной безопасностью, выражая поддержку движению и публикуя этот контент.
Намерение. Даже при том, что анализ намерения при массовой модерации контента представляет собой сложную задачу, цель и обычное прочтение всей публикации указывают на поддержку изображенной женщины и привлечение внимания общественности к ее аресту. По мнению экспертов, с которыми консультировался Совет, распространение изображения женщины с непокрытым лицом и ее имени после ареста является обычной практикой протестующих в Иране с целью оказать давление на власти и защитить ее. Протестующие выяснили, что раскрытие личности жертв помогает предотвратить дальнейшие издевательства над ними.
Содержимое и форма выражения. По мнению лингвистов, с которыми консультировался Совет, фраза "разорвем на куски" в этом контексте может быть понята говорящими на персидском языке как выражение сильных эмоций, таких как гнев и разочарование, но не буквальная угроза насилия. Эмоциональные и очевидно угрожающие фразы часто используются движением при выступлениях против режима. Рассматривая дело о призыве к протестам в Иране, Совет выяснил, что лозунг "смерть Хаменеи" представляет собой "риторическую угрозу", и отметил, что в Meta ввели исключение "в духе политики" для фразы "Я буду убивать тех, кто убивает моих сестер/братьев" по аналогичным причинам. Фраза, рассматриваемая в данном деле, содержится в середине подписи, восхваляющей женщину, которая отстаивает свои права. Если рассматривать ее полностью, подпись выражает поддержку иранским женщинам, протестующим против дискриминирующих законов и злоупотреблений правительства.
Степень воздействия и охват. Публикация набрала около 47 тыс. просмотров, 2 000 отметок "Нравится" и 100 комментариев. Ею поделились 50 раз. Учитывая, что эта фраза не похожа на подстрекательство, принимая во внимание другие факторы в рамках Рабатского плана, высокий охват контента сам по себе не является фактором, указывающим на необходимость его удаления.
Вероятность и неизбежность. Этот фактор оценивает то, насколько вероятно, что рассматриваемое заявление повлечет за собой неизбежный и возможный вред потенциальному объекту, обозначенному в заявлении, то есть, в данном случае — правительству. Участники протестного движения и его сторонники выступают против правительства, которое постоянно прибегает к жестоким репрессиям и карательным мерам в отношении протестующих. Наиболее вероятной формой вреда, который может повлечь за собой призыв, рассматриваемый в данном деле, могут быть репрессии со стороны режима, направленные против автора публикации или женщины, показанной в видео, а не насилие в отношении правительства или его сторонников. Эксперты подчеркивают опасности, с которыми сталкиваются участники акций протеста, и говорят о том, что движение сохраняет силу несмотря на нависшую угрозу насилия. Они также заявляют, что цель распространения изображений женщин без хиджаба, которые подверглись аресту, — привлечь внимание к их аресту, оказать давление на власти и таким образом защитить их.

Основываясь на анализе указанных выше факторов, Совет считает, что этот контент не представлял реальной угрозы и не мог повлечь за собой причинение вреда в реальном мире. Когда фигуральные выражения используются в контексте широких протестов, участники которых сталкиваются с жестокими репрессиями, Meta следует предоставить своим модераторам возможность анализировать контекст формулировок и местных особенностей, обеспечив соответствие инструкций для модераторов базовому обоснованию политики. Возможность точно оценить, является ли публикация "фигуральным высказыванием" или может спровоцировать насилие, имеет огромное значение для повышения эффективности модерации в условиях кризиса. На точность работы автоматических систем может влиять качество обучающих данных, предоставляемых модераторами-людьми. В условиях, когда модераторы удаляют "фигуральные" заявления из-за строгих инструкций по применению правила, высока вероятность того, что эта ошибка будет воспроизводиться и усугубляться при автоматизации.

Совет отмечает, что в распоряжении Meta есть ряд механизмов корректировки политик и способов обеспечения их соблюдения в кризисных ситуациях, включая систему присвоения странам разных уровней риска и Протокол кризисной политики. Система распределения стран по группам риска используется для выявления стран, в которых существует риск "причинения вреда и насилия в реальном мире", что позволяет компании определить приоритеты в плане разработки продуктов и распределения ресурсов. Подобную оценку можно учитывать и в других процессах (например, чтобы решить, нужно ли привлекать специалистов специального оперативного центра или обращаться к Протоколу кризисной политики). Представители Meta сообщили Совету, что во второй половине 2023 г. Иран был добавлен в список "стран из группы риска". Иран также входит в список Протокола кризисной политики с 21 сентября 2022 г. на постоянной основе. Протокол кризисной политики позволяет Meta вносить в политики определенные временные изменения, называемые "рычагами политики", в той или иной ситуации. В Meta предоставили несколько примеров рычагов политики, которые уже использовались в Иране, в том числе "исключение, разрешающее контент, который содержит лозунг "Я буду убивать тех, кто убивает моих сестер/братьев" и его производные, если отсутствуют другие нарушения наших политик". (Другие примеры рычагов политик см. в Протоколе Форума по вопросам политики, 25 января 2022 г., Протокол кризисной политики.)

Хотя Совет признает стремление компании обеспечить безопасность и ее усилия, направленные на устранение потенциальных рисков при модерации контента путем активации Протокола кризисной политики для Ирана, этих усилий недостаточно, чтобы обеспечить соблюдение прав людей на свободу слова и собраний в условиях систематического подавления несогласных и социальной напряженности. Исследование, проведенное по запросу Совета, показало, что подавляющее большинство контента, изображающего женщин без хиджаба в контексте дискуссий о ношении хиджаба в Иране, на платформах Meta публикуется участниками протестного движения или его сторонниками. При этом процесс обеспечения соблюдения правил Meta раз за разом оказывается не в состоянии отличить фигуральные (иносказательные) заявления в соответствующем контексте от реальных угроз и подстрекательства к насилию, которые могут повлечь за собой причинение вреда в реальном мире.

Совет рекомендует Meta добавить в Протокол кризисной политики соответствующий рычаг и предоставить модераторам первой линии внутренние критерии, которые позволят определять заявления, в которых угрозы используются фигурально (а не буквально) в соответствующем контексте, как не нарушающие положение Политики в отношении насилия и подстрекательства, запрещающее угрозы совершения насилия. Разрабатывая критерии для определения фигурального (а не буквального) характера угроз в кризисных ситуациях, Meta может воспользоваться факторами Рабатского плана действий (например, контекст массовых протестов против репрессий со стороны государства, способность автора спровоцировать насилие или вовлечь других людей в причинение вреда, актуальный лингвистический и социальный контекст, указывающий на повсеместное использование сильных/эмоциональных выражений для достижения большего риторического эффекта, вероятность причинения вреда с учетом знаний местной культуры и т. д.). За помощью в разработке или оценке критериев для модерации компания также может обратиться к доверенным партнерам. Представители Meta сами обратили внимание на практическую ценность Рабатского плана действий в плане модерации контента, поддержав ООН в переводе этого документа на 32 языка. Этот рычаг политики должен разрешать "фигуральные высказывания" в контексте протестов против режима, при условии что они не имеют своей целью провокацию насилия и вряд ли приведут к нему.

Рассматривая это дело, Совет пришел к выводу, что удаление контента в рамках Нормы сообщества в отношении организованного намеренного причинения вреда и пропаганды преступной деятельности не было необходимым, поскольку личность изображенной женщины широко известна и контент публиковался с явной целью привлечь внимание к ее аресту в надежде, что это поможет освободить ее. Кроме того, несколько участников публичного обсуждения подчеркивали, что женщины, снимающие хиджаб на публике, делают это намеренно, в знак протеста, и осознают возможные последствия, выбирая "неповиновение как продуманную меру сопротивления властям" (см. комментарий общественности от Tech Global Institute, PC-21009). Личность женщины в видео уже была раскрыта, и она была арестована режимом. Данная публикация была размещена, чтобы привлечь внимание к этому аресту. Участники акций протеста и диссиденты, задержанные режимом, подвергались пыткам и насилию по половому признаку или исчезали. Эксперты, с которыми консультировался Совет, и ряд участников общественного обсуждения прямо отмечали, что эта практика, то есть привлечение внимания к арестам и призывы к освобождению задержанного человека, регулярно используется движением и правозащитниками в Иране и помогает защитить людей, удерживаемых режимом.

Поиск баланса в попытках оградить уязвимых пользователей от раскрытия личности и не препятствовать тем, кто заинтересован в таком раскрытии, — это деликатный вопрос, требующий учета контекста, своевременного анализа и принятия мер.

9. Решение Независимого надзорного совета

Независимый надзорный совет отменяет решение Meta об удалении контента.

10. Рекомендации

Обеспечение соблюдения правил в отношении контента

Чтобы обеспечить соблюдение прав пользователей на свободу слова и собраний в условиях систематических репрессий со стороны государства, Meta следует добавить в Протокол кризисной политики разъяснение того, что фигуральные (то есть не буквальные) высказывания, которые не имеют своей целью провокацию насилия и вряд ли приведут к нему, не нарушают положение Политики в отношении насилия и подстрекательства, запрещающее угрозы насилия в соответствующих контекстах. Эти меры также должны включать разработку критериев для модераторов первой линии, позволяющих им выявлять такие высказывания в соответствующем контексте.

Совет сочтет эту рекомендацию выполненной, когда Meta представит Совету методы реализации такого рычага политики и соответствующие критерии модерации контента в Иране.

* Процедурное примечание.

Решения Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для принятия решения по этому делу от имени Совета было поручено провести независимое исследование. Помощь в проведении исследования оказал независимый исследовательский институт при Гётеборгском университете, опираясь на мнение группы, состоящей из более чем 50 ученых-социологов на шести континентах, а также более 3 200 специалистов из разных стран. В работе Совету также помогала консалтинговая фирма Duco Advisors, специализирующаяся на вопросах геополитики, доверия, безопасности и технологий. Кроме того, аналитика была предоставлена компанией Memetica, специализирующейся на исследовании трендов в социальных сетях по открытым источникам. Лингвистическая экспертиза была проведена компанией Lionbridge Technologies, LLC, специалисты которой владеют более чем 350 языками и работают в 5 тыс. городов по всему миру.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें