"О возвращении первоначального значения словам на арабском языке"

Независимый надзорный совет отменил первоначальное решение Meta об удалении публикации в Instagram, которая, по мнению пользователя, содержала фото слов на арабском языке, которые могут использоваться как оскорбление в адрес мужчин, имеющих "effeminate mannerisms" ("женственные манеры"). Контент подпадал под действие исключения из правил Meta в отношении враждебных высказываний и его нельзя было удалять.

Сведения о деле

В ноябре 2021 г. общедоступный аккаунт Instagram, который описывает себя как место для обсуждения квир-концепций в арабской культуре, опубликовал серию изображений в кольцевой галерее (единой публикации в Instagram, которая может содержать до 10 фото с общей подписью). Подпись на арабском и английском языках поясняет, что каждое фото содержит слово, которое в арабоговорящем мире может использоваться как оскорбление в адрес мужчин с "effeminate mannerisms" ("женственными манерами"), например "zamel", "foufou" и "tante/tanta". Пользователь указал, что публикация имела целью "to reclaim [the] power of such hurtful terms" ("возвращение первоначального значения этим оскорбительным словам").

Первоначально Meta удалила контент за нарушение Политики в отношении враждебных высказываний, но после обжалования решения пользователем восстановила контент. После получения жалобы от другого пользователя Meta снова удалила контент за нарушение правил в отношении враждебных высказываний. По утверждению Meta, до того как Совет выбрал это дело, контент был передан на дополнительную внутреннюю проверку, в результате которой было установлено, что на самом деле контент не нарушал правила компании в отношении враждебных высказываний. Затем Meta восстановила этот контент в Instagram. Meta пояснила, что первоначальные решения удалить контент были приняты на основе фото, содержащих слова "z***l" и "t***e/t***a".

Основные выводы

Совет полагает, что удаление этого контента было явной ошибкой и не соответствовало правилам Meta в отношении враждебных высказываний. Несмотря на то, что публикация содержит оскорбительные слова, на контент как на реплику "о самом себе или для поддержания самооценки" распространяется действие исключения, а также оговорки, допускающей цитирование враждебных высказываний с целью "их осуждения или привлечения к ним внимания". Заявления пользователя о том, что он не "condone or encourage the use" ("не оправдывает и не поощряет использование") оскорбительных слов, являющихся предметом обсуждения, и что цель заключалась в "to reclaim [the] power of such hurtful terms" ("восстановлении первоначального значения этих оскорбительных слов"), должны были подсказать модератору, что можно применить исключение.

Для людей, относящихся к сообществу LGBTQIA+ и проживающих в странах, где их самовыражение уголовно наказуемо, социальные сети часто являются для них единственным средством свободного самовыражения. Чрезмерная сдержанность пользователей, принадлежащих к преследуемым группам представителей меньшинств, в высказываниях является серьезной угрозой их свободе самовыражения. В связи с этим Совет обеспокоен тем, что Meta не применяет исключения из правил в отношении враждебных высказываний к мнениям, высказываемым обособленными социальными группами, на регулярной основе.

Ошибки, допущенные по этому делу, в рамках которого три модератора по отдельности установили, что контент нарушает правила в отношении враждебных высказываний, свидетельствуют, что инструкции Meta для модераторов, оценивающих принадлежность высказывания к категории оскорбительных, могут быть недостаточными. Совет обеспокоен, что специалисты по проверке могут быть недостаточно квалифицированными или не прошли соответствующую подготовку, чтобы не допускать такого рода ошибок, которые сделаны в этом случае.

Предоставление модераторам инструкций на английском языке о том, как следует проверять контент на других языках (именно это Meta делает в настоящее время), — сам по себе сложный процесс. Чтобы модераторы могли лучше оценивать, когда следует применять исключения в отношении контента, содержащего оскорбительные выражения, Совет рекомендует компании Meta переводить свои внутренние инструкции на диалекты арабского языка, используемые ее модераторами.

Совет также полагает, чтобы составить учитывающие языковые нюансы списки оскорбительных выражений и предоставить модераторам надлежащие указания относительно применения исключений из правил компании, регулирующих оскорбительные высказывания, Meta должна стремиться регулярно получать отзывы от групп меньшинств, на которые направлены оскорбления, на уровне конкретных стран и культур. Компании Meta также следует быть более прозрачной относительно порядка создания списков оскорбительных выражений для конкретных рынков, обеспечения их соблюдения и их проверки.

Решение Независимого надзорного совета

Независимый надзорный совет отменяет изначальное решение Meta об удалении контента.

Совет предоставляет компании Meta следующие рекомендации в отношении политики:

• Обеспечить перевод внутренних правил реализации и Известных вопросов на диалекты арабского языка, которыми владеют модераторы контента. Это позволит сократить практику чрезмерного принудительного применения правил в арабоговорящих регионах, т. к. модераторы смогут лучше оценивать основания для применения исключений в отношении контента с оскорбительными выражениями.
• Опубликовать четкое разъяснение того, как компания создает списки оскорбительных выражений для конкретных рынков. В разъяснении должны быть указаны процедуры и критерии, используемые для определения, какие оскорбления и страны относятся к каждому списку, созданному для конкретного рынка.
• Опубликовать четкое разъяснение того, как компания применяет свои списки оскорбительных выражений для конкретных рынков. Это разъяснение должно включать процедуры и критерии точного определения случаев, когда и где необходимо принудительно исполнять запрет на оскорбления, будь то в отношении публикаций, создаваемых в рассматриваемом регионе с точки зрения географии, создаваемых за его пределами, но касающихся такого региона, и/или в отношении всех пользователей в таком регионе независимо от географии возникновения публикации.
• Опубликовать четкое разъяснение того, как компания проверяет свои списки оскорбительных выражений для конкретных рынков. В этом разъяснении должны быть указаны процедуры и критерии удаления оскорбительных выражений из списков, подготовленных Meta для конкретных рынков, или процедуры и критерии их сохранения в таких списках.

*Сводки по делам описывают дела в общих чертах и не имеют прецедентного значения.

Полное описание решения по делу

1.Сводка по решению

Независимый надзорный совет отменяет первоначальное решение Meta удалить публикацию в Instagram, созданную аккаунтом, исследующим "queer narratives in Arabic history and popular culture" ("квир-концепции в арабской истории и арабской народной культуре"). Контент подпадает под действие исключения из правил Meta в отношении враждебных высказываний, поскольку он сообщает об использовании другими лицами оскорбительных для гомосексуального сообщества выражений в негативном контексте, осуждает и обсуждает их использование, и делает это в очевидно позитивном контексте.

2. Описание и краткая предыстория дела

В ноябре 2021 г. общедоступный аккаунт Instagram, который позиционирует себя как место для обсуждения квир-концепций в арабской культуре, опубликовал серию изображений в кольцевой галерее (единой публикации в Instagram, которая может содержать до 10 фото с общей подписью). Подпись, сделанная пользователем на арабском и английском языках, поясняет, что каждое фото содержит слово, которое в арабоговорящем мире может использоваться как оскорбление в адрес мужчин с "effeminate mannerisms" ("женственными манерами"), например "zamel", "foufou" и "tante"/"tanta". В подписи пользователь указал, что он не "condone or encourage the use of these words" ("не оправдывает и не поощряет использование этих слов") и пояснил при этом, что прежде подвергался оскорблению с использованием одного из этих слов, и что целью публикации было "to reclaim [the] power of such hurtful terms" ("восстановление первоначального значения этих оскорбительных слов"). Внешние эксперты Совета подтвердили, что цитируемые в контенте слова часто используются как оскорбительные.

Контент получил около 9 000 просмотров, примерно 30 комментариев и почти 2 000 реакций. В течение трех часов с момента публикации один пользователь пожаловался на "adult nudity or sexual activity" ("изображение обнаженного тела взрослого человека или действия сексуального характера"), а другой — на "sexual solicitation" ("сексуальное домогательство"). Каждая жалоба рассматривалась отдельно разными модераторами вручную. Модератор, проверявший первую жалобу, не предпринял никакого действия, но модератор, анализировавший вторую жалобу, удалил контент за нарушение правил в отношении враждебных высказываний Meta. Пользователь обжаловал удаление, а третий модератор восстановил контент на платформе. После восстановления контента ещё один пользователь пожаловался на "hate speech" ("враждебные высказывания"). Ещё один модератор провел четвертую проверку и снова удалил контент. Автор обжаловал решение повторно, и после пятой проверки другой модератор признал обоснованным решение удалить контент. После того как Meta известила пользователя о своем решении, он обжаловал решение в Независимом надзорном совете. Позже Meta подтвердила, что все модераторы, проверявшие контент, свободно владеют арабским языком.

Meta пояснила, что первоначальные решения удалить контент были приняты по результатам проверок фото, содержащих слова "z***l" и "t***e/t***a". Отвечая на вопрос Совета, Meta также отметила, что компания считает оскорблением ещё одно слово, использованное в контенте, — "moukhanath".

По утверждению Meta, после обращения пользователя в Совет за обжалованием, но до того как Совет выбрал это дело, контент был передан в индивидуальном порядке на дополнительную внутреннюю проверку, в результате которой было установлено, что контент не нарушал правила компании в отношении враждебных высказываний. В последующем контент был восстановлен на платформе.

3. Полномочия и сфера действия Независимого надзорного совета

Независимый надзорный совет уполномочен пересматривать решение Meta после отправки запроса на обжалование пользователем, чей контент был удален (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка).

Совет может подтвердить либо отменить решение Meta (раздел 5 статьи 3 Устава), и решение Совета является обязательным для исполнения компанией Meta (статья 4 Устава). Компания Meta также должна оценить возможность применения своего решения в отношении аналогичного контента в параллельном контексте (статья 4 Устава). В решениях Совета могут содержаться рекомендации в отношении политики и необязательные к исполнению рекомендации, на которые компания Meta должна давать ответ (раздел 4 статьи 3 Устава; статья 4).

Если Совет выбирает случаи, подобные этому, когда компания Meta соглашается, что допустила ошибку, Совет анализирует первоначальное решение, чтобы лучше понять причину возникновения ошибок, а также предоставить замечания или рекомендации, которые могут способствовать сокращению количества ошибок и повышению эффективности надлежащего процесса проверки.

4.Источники полномочий

Вынося решение, Независимый надзорный совет руководствовался следующим как источниками полномочий:

I.Решения Независимого надзорного совета

К решениям Совета, наиболее релевантным к этому делу, относятся:

• "Решение по делу о поясе вампума" (№ 2021-012-FB-UA). В этом решении Совет подчеркнул важность защиты права обособленных социальных групп на самовыражение, отметив, что Meta должна гарантировать, что контент, подпадающий под исключение из правил в отношении враждебных высказываний, не удаляется.
• "Решение по делу об оскорблениях в ЮАР" (№ 2021-011-FB-UA). В этом решении Совет установил, что процедуры и критерии, используемые Meta для формирования своих списков оскорбительных выражений, должны быть более прозрачными. Совет также рекомендовал Meta признать повышение процедурной справедливости в рамках правил в отношении враждебных высказываний одной из своих приоритетных задач, чтобы пользователи могли лучше понимать основания для удаления контента.
• "Решение по делу о мьянманском боте" (№ 2021-007-FB-UA). В этом решении Совет сделал акцент на важности контекста при оценке того, подпадает ли контент под исключения из правил в отношении враждебных высказываний.

Совет также ссылается на рекомендации, изложенные в: "Решении по делу об изоляции Оджалана" (№ 2021-006-IG-UA), "Решении по делу о меме о двух кнопках" (№ 2021-005-FB-UA) и "Решении по делу о симптомах рака молочной железы и изображении обнаженного тела" (№ 2020-004-IG-UA).

II.

Это дело имеет отношение к Руководству сообществаInstagram и Нормам сообщества Facebook. Центр прозрачности Meta заявляет, что "Facebook и Instagram используют общие правила в отношении контента. Это означает, что если контент признан нарушающим правила Facebook, то он также считается нарушающим правила Instagram".

Руководство сообщества Instagram гласит:

Мы стремимся поддерживать в Instagram позитивную и доброжелательную атмосферу. Мы удаляем контент, содержащий реальные угрозы или враждебные высказывания... Недопустимо призывать к насилию или нападкам на людей по признакам их расовой принадлежности, этнического или национального происхождения, пола, гендерной идентичности или религиозной принадлежности, сексуальной ориентации, заболеваний или ограниченной дееспособности. Мы допускаем публикацию враждебных высказываний, если вы хотите их оспорить или предать огласке. В подобных случаях мы просим вас четко выразить свои намерения.

В Нормах сообщества Facebook под враждебными высказываниями подразумеваются "прямые нападки на людей, мотивированные так называемыми "характеристиками, подлежащими защите от дискриминации: расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом, гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью". Meta подразделяет нападки на три уровня. Раздел правил в отношении враждебных высказываний, касающийся оскорблений, запрещает "[к]онтент, в котором люди описываются или упоминаются в негативном ключе посредством оскорблений, под которыми понимаются слова, по природе своей являющиеся оскорбительными и используемые для уничижительного обозначения людей, объединенных какой-либо из вышеуказанных характеристик". Остальные положения, описывающий третий уровень, запрещают контент, направленный против людей, страдающих от сегрегации или социального отчуждения.

В рамках обоснования правила Meta поясняет, что:

Нам известно, что люди иногда делятся контентом, который включает чужие враждебные высказывания, чтобы осудить такие высказывания или повысить осведомленность о них. В некоторых случаях высказывания, которые иначе считались бы нарушающими наши нормы, используются человеком в отношении самого себя или в мотивационных высказываниях. Разработанные нами правила допускают существование таких типов высказываний, однако мы требуем, чтобы люди четко выражали свои намерения. В случаях когда цель публикации неясна, мы можем удалить контент.

III. Ценности Meta

Ценности Meta изложены во введении к Нормам сообщества Facebook, где ценность "Свобода самовыражения" определяется как "приоритетная".

Цель Норм сообщества всегда состояла в том, чтобы создать платформу для самовыражения и предоставить людям возможность высказывать свои мнения. […] Мы стремимся дать пользователям возможность свободно высказываться о важных для них проблемах, даже если некоторые люди не соглашаются с какими-либо мнениями или считают их спорными.

Meta ограничивает ценность "Свобода самовыражения" во имя соблюдения четырех других ценностей, две из которых имеют отношение к этому делу.

"Личная безопасность". Мы делаем всё возможное, чтобы обеспечить безопасность на Facebook. Высказывания и материалы, содержащие угрозы, могут запугивать, призывать к бойкоту других людей или заставлять их молчать; такое поведение запрещено на Facebook.

"Достоинство". Мы убеждены, что все люди равны в своем достоинстве и правах. Мы ожидаем, что наши пользователи будут уважать достоинство других людей, а также воздерживаться от травли и унижений.

Международные нормы в области прав человека.

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом по правам человека ООН в 2011 г., устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. В 2021 г. компания Meta опубликовала свою Корпоративную политику в отношении прав человека, в которой ещё раз подтвердила свое обязательство соблюдать права человека в соответствии с РП ООН. При анализе обязанностей компании Meta по защите прав человека в этом деле Совет руководствовался приведенными ниже нормами в области прав человека, которые применяются в разделе 8 этого решения.

• Права на свободу убеждений и их свободное выражение: статья 19 Международного пакта о гражданских и политических правах (МПГПП), Замечание общего порядка № 34 Комитета по правам человека, 2011 г.; Сообщение № 488/1992 "Тоонен (Toonen) против Австралии" Комитета по правам человека, 1992 г.; Резолюция № 32/2 Совета по правам человека, 2016 г.; доклады Специального докладчика ООН по вопросу о поощрении и защите права на свободу мнений и их свободное выражение: № A/HRC/38/35 (2018 г.) и № A/74/486 (2019 г.); отчет Верховного комиссара ООН по правам человека: № A/HRC/19/41 (2011 г.).
• Право на отсутствие дискриминации: пункт 1 статьи 2 и статья 26 МПГПП.

5. Заявления пользователя

В своем заявлении Совету пользователь описал свой аккаунт как место "to celebrate queer Arab culture" ("восхваления арабской культуры"). Он пояснил, при том, что это "safe space" ("безопасное место"), по мере роста числа подписчиков все значительнее увеличивалось количество провокаторов, враждебно настроенных по отношению к людям нетрадиционной сексуальной ориентации. Эти провокаторы пишут оскорбительные комментарии и массово жалуются на контент.

Пользователь объяснил, что целью публикации было поддержать "effeminate men and boys" ("женственных мужчин и мальчиков") в арабском обществе, часто подвергающихся унижению с использованием оскорбительных выражений, внимание на которых акцентирует его публикация. Кроме того, он пояснил, что пытался использовать указанные слова, которые использовались, чтобы оскорбить его, демонстрируя тем самым сопротивление и борьбу за свои права; при этом он утверждал, что в своей публикации ясно дал понять, что не оправдывает и не поощряет использование слов, изображенных на фото, с целью оскорбления. Пользователь также утверждает, что считал, что его контент не противоречит правилам Meta. В частности, использование запрещенных в иных случаях терминов разрешено, если они употребляются пользователем в отношении самого себя или с целью борьбы за свои права.

6. Заявления Meta

В своем обосновании Meta пояснила, что контент был первоначально удален согласно ее правилам в отношении враждебных высказываний, поскольку он содержит запрещенное слово, включенное компанией Meta в список оскорблений, которое является "оскорбительным уничижительным термином, обозначающим людей нетрадиционной сексуальной ориентации". Компания Meta в конечном итоге изменила свое первоначальное решение и восстановила контент, поскольку использование указанного слова подпадает под исключения, действующие в отношении "контента, в котором осуждаются оскорбления и враждебные высказывания, обсуждается использование оскорблений, в том числе жалоб на случаи применения таких слов, а также в котором ставится вопрос, приемлемо ли использование таких слов". Meta согласилась, что контекст указывал на то, что пользователь пытался привлечь внимание к оскорбительной природе слова и поэтому не нарушал правила.

На вопросы Совета о том, какое отношение имеет контекст к применению компанией Meta исключений из правил в отношении враждебных высказываний, Meta отметила, что "враждебные высказывания и оскорбления допустимы", когда они высмеиваются, осуждаются, обсуждаются, являются предметом жалоб или используются пользователем по отношению к самому себе; при этом пользователь должен четко обозначить свое намерение при упоминании оскорбления.

В ответ на другой вопрос Совета компания Meta заявила, что "не размышляла" над причинами удаления контента по ошибке, поскольку ее специалисты по проверке контента не документируют основания для принятия своих решений.

Совет задал компании Meta в целом 17 вопросов, на 16 из которых она дала полные ответы и ответила частично на 1 вопрос.

7. Публичное обсуждение

Совет получил три комментария общественности по этому делу. Один из комментариев был отправлен из США и Канады, один — из Ближнего Востока и Северной Африки, один — из Латинской Америки и Карибского бассейна.

Комментарии касались следующих тем: Личная безопасность представителей ЛГБТ-сообщества на платформах основных социальных сетей, необходимость учитывать местную специфику при обеспечении соблюдения правил в отношении враждебных высказываний, а также изменение значений слов в арабском языке.

Чтобы ознакомиться с комментариями общественности по этому делу, нажмите здесь.

Кроме того, в рамках усилий, направленных на постоянную вовлеченность заинтересованных сторон, члены Совета провели информативные и расширяющие понимание дискуссии с организациями, занимающимися вопросами свободы самовыражения и правами людей, относящихся к сообществу LGBTQIA+, в том числе говорящих на арабском языке. Эта дискуссия обозначила вызывающие озабоченность вопросы, включая: трудности, связанные с безусловным восстановлением первоначального значения оскорбительного слова и объявлением его абсолютно безобидным, когда все ещё можно слышать, как это слово используют в некоторых аудиториях как оскорбление, независимо от намерения спикера; проблемы, связанные с отсутствием предложений от групп, выступающих в защиту сообщества LGBTQIA+, и обществ, говорящих не на английском языке, о правилах в отношении контента; а также риски, связанные с недостаточно учитывающей нюансы контекста модерацией.

8.Анализ Независимого надзорного совета

Совет рассмотрел вопрос о восстановлении этого контента в свете трех аспектов: Правил Meta в отношении контента; ценностей компании; и ее обязанностей по защите прав человека.

Совет выбрал к рассмотрению это дело, т. к. чрезмерная сдержанность пользователей, принадлежащих к группам преследуемых меньшинств, в высказываниях является серьезной и широко распространенной угрозой свободе самовыражения таких пользователей. Онлайн-пространства, где можно выразить свое мнение, особенно важны для групп, сталкивающихся с преследованием, при этом их права требуют особого внимания и защиты со стороны компаний, управляющих социальными сетями. Это дело также говорит о давлении, испытываемом компанией Meta в ее стремлении защитить меньшинства от враждебных высказываний, в условиях, когда компания в то же время заинтересована в создании пространства, где меньшинства смогут самовыражаться в полной мере, в т. ч. посредством возвращения первоначального значения оскорбительным словам, разжигающим ненависть.

8.1 Соблюдение правил Meta в отношении контента

I.Правила, регулирующие контент

Совет полагает, что невзирая на использование в нем оскорбительных слов, контент не является враждебным высказыванием, поскольку подпадает под исключение из правил в отношении враждебных высказываний, которое применимо к оскорбительным словам, "используемым по отношению к самому себе или для поддержания самооценки", а также под исключение, применимое к случаям цитирования враждебного высказывания с целью "осуждения или привлечения внимания".

В своих решениях по делам "О поясе вампума" и "О меме о двух кнопках" Совет отметил, что пользователю нет необходимости в явной форме указывать свое намерение в публикации, чтобы к ней можно было применить исключение из правил в отношении враждебных высказываний. Пользователю достаточно четко дать понять в контексте своей публикации, что он использует терминологию враждебных высказываний разрешенным правилами образом.

Однако в этом деле контент включал заявления пользователя о том, что он не "condone or encourage" ("не оправдывал и не поощрял") использование указанных оскорбительных слов с целью нанесения обиды. Вместо этого публикация была "an attempt to resist and challenge the dominant narrative" ("попыткой оказать сопротивление и бросить вызов господствующей концепции"), а также "to reclaim the power of such hurtful terms" ("восстановить первоначальное значение этих оскорбительных слов"). Четкое заявление о намерении не всегда требуется или достаточно для признания правомерным использования или цитирования враждебных высказываний, однако они служат для модератора подсказкой о вероятной применимости исключения. Что касается этого дела, Совет полагает, что заявление о намерении вкупе с контекстом ясно дают понять, что контент однозначно подпадает под действие исключения.

Тем не менее сначала Meta удалила контент, и при этом три разных модератора установили, что контент нарушил правила в отношении враждебных высказываний. Существует ряд вероятных причин, по которым несколько модераторов не смогли надлежащим образом определить категорию контента, а компания Meta была не в состоянии предоставить конкретные объяснения ошибки, поскольку Meta не требует от модераторов фиксировать обоснование своих решений. Как отмечается в решении по делу "О поясе вампума", типы ошибок и люди либо сообщества, на которых ложится бремя таких ошибок, зависят от проектных решений, используемых на платформе для систем обеспечения соблюдения правил в отношении контента. Такие проектные решения подвергают риску права членов преследуемых групп на свободу слова. Когда Meta замечает повторяющийся сценарий устойчивого чрезмерного регулирования контента, имеющего отношение к преследуемой или обособленной социальной группе (как в этом случае), целесообразно расследовать обоснования решений по обеспечению соблюдения правил в отношении контента и рассмотреть необходимость внесения изменений в правила модерации либо возможность улучшения подготовки или контроля за выполнением существующих правил, чтобы предотвратить излишне усердное регулирование, от которого страдают члены групп, чьи права на самовыражение особенно уязвимы.

II.Действие по обеспечению соблюдения правил в отношении контента

В ответ на вопросы Совета Meta пояснила, что контент был восстановлен на платформе только потому, что он был помечен сотрудником Meta как требующий проверки на следующем уровне. "Требующий проверки на следующем уровне" означает, что, вместо многократного анализа решения на том же уровне (этот процесс часто выполняется сторонними исполнителями), решение передается на рассмотрение внутренней команде Meta. По-видимому, в результате сотрудник Meta заметил, что контент был удален, заполнил и отправил внутреннюю веб-форму, выделив проблему. Помимо элемента случайности, такие системы могут лишь идентифицировать ошибки в контенте, с которыми персонал Meta сталкивается лично. Соответственно, если контент составлен не на английском языке, опубликован аккаунтом, не имеющим многочисленных подписчиков в США, либо создан для групп, слабо представленных в рамках Meta, или создан такими группами, вероятность, что такой контент будет замечен, помечен и на него обратят дополнительное внимание, значительно ниже.

В рамках своего взаимодействия с заинтересованными сторонами Совет узнал об их опасениях о том, что обеспечение точного применения исключений из правил в отношении враждебных высказываний требует определенного уровня знаний предметной области и местных особенностей, которых у Meta недостаточно либо которые она не всегда способна применить. Совет разделяет озабоченность о том, что, если Meta не будет стремиться на регулярной основе получать отзывы от групп меньшинств, подвергающихся оскорблениям на уровне конкретной страны, компания не сможет создавать списки оскорбительных выражений с учетом всех нюансов и давать своим модераторам надлежащие инструкции о том, как следует применять исключения из правил, регулирующих оскорбления.

8.2. Соответствие ценностям Meta

Совет считает, что первоначальное решение об удалении этого контента противоречило ценностям компании Meta "Свобода самовыражения" и "Достоинство", а также не соответствовало ценности "Личная безопасность". Предотвращение оскорблений на платформах, используемых для нападок на людей, отвечает ценностям Meta, однако Совет высказывает озабоченность, что Meta не применяет последовательно исключения из правил применительно к правам обособленных социальных групп на самовыражение.

Что касается этого дела, первостепенное значение имеет ценность "Свобода самовыражения", целью которой является продвижение свободы слова среди членов обособленных социальных групп. Meta поступает правильно, пытаясь ограничить использование оскорблений, направленных на очернение и запугивание, и разрешая предпринимать добросовестные попытки лишить такие слова их негативного влияния, восстановив их первоначальное значение.

Совет признает, что распространение оскорблений оказывает негативное влияние на ценность "Достоинство". В частности, когда оскорбительные слова используются с намерением нанести обиду или в отсутствие контекстных подсказок, указывающих на то, что целью не является нанесение обиды, такие слова могут запугать, расстроить или нанести обиду пользователям, что помешает выражению мнений онлайн. Если из контекста следует, что оскорбление призвано осудить его использование, привлечь к нему внимание либо используется по отношению к самому себе или для поддержания самооценки, ценность "Достоинство" не требует удалять слово с платформы. Напротив, излишние меры по обеспечению соблюдения правил в отношении контента, игнорирующие исключения, особенно сильно влияют на представителей меньшинств и обособленных социальных групп. Согласно рекомендациям Совета, изложенным в его решении по делу "О меме о двух кнопках", Meta должна обеспечить наличие достаточных ресурсов и поддержку своим модераторам, чтобы они могли надлежащим образом оценивать соответствующий контекст. Чтобы защитить ценности "Свобода самовыражения" и "Достоинство" применительно к пользователям, особенно представителям социально обособленных сообществ, важно, чтобы модераторы могли отличать разрешенные упоминания оскорбительных слов от случаев их недопустимого использования.

Поскольку ценности "Достоинство" и "Личная безопасность" применительно к обособленным социальным группам подвержены повышенному уровню риска на платформах социальных сетей, эти платформы усилили свои обязательства по защите ценностей. В своем решении по делу "О поясе вампума" Совет уже рекомендовал Meta проводить оценку правильности применения исключений из правил в отношении враждебных высказываний. Правильность применения можно повысить с помощью подготовки модераторов, чтобы они могли определять контент, затрагивающий дискриминируемые сообщества, и получать указания о необходимости его тщательной оценки независимо от применимости исключений из правил в отношении враждебных высказываний. Оценка контента наряду с наличием контекстных подсказок должны служить поводом для применения таких исключений.

Относительно ценности "Личная безопасность" Совет также указывает на особую значимость безопасных онлайн-пространств и внимательной модерации контента обособленных социальных и сталкивающихся с угрозами групп. Говорящие на арабском языке представители сообщества LGBTQIA+, особенно в странах Ближнего Востока и Северной Африки, подвергаются определенной опасности, когда открыто выражают свое мнение онлайн. Meta должна соразмерять необходимость предоставлять комфортные пространства для самовыражения с гарантией отсутствия излишней модерации и запрета высказываться людям, и так сталкивающимся с цензурой и притеснениями. Совет осознает сложность модерации в этой области, особенно с учетом ее масштабов, однако крайне необходимо, чтобы платформы вкладывали ресурсы, необходимые для надлежащей модерации.

8.3. Соблюдение обязательств Meta по защите прав человека

Совет заключает, что первоначальное решение Meta как компании удалить контент соответствовало ее обязательствам по защите прав человека. Компания Meta обязалась соблюдать права человека в соответствии с разработанными ООН Руководящими принципами предпринимательской деятельности в аспекте прав человека (РП ООН). В Корпоративной политике в отношении прав человека Facebook указано, что сюда входит Международный пакт о гражданских и политических правах (МПГПП).

1. Свобода самовыражения (статья 19 МПГПП)

Статья 19 МПГПП предусматривает всеобъемлющую защиту свободы самовыражения, в т. ч. обмен мнениями о правах человека и свободе самовыражения, которые могут восприниматься как "крайне оскорбительные" ( пункт 11 Замечания общего порядка № 34). Всем людям гарантируется, что у них будет право на свободу самовыражения без дискриминации по "половому" либо "иному признаку" (пункт 1 статьи 2 МПГПП). К ним относятся сексуальная ориентация и гендерная идентичность ( "Тоонен против Австралии" (1992 г.); № A/HRC/19/41, пункт 7).

Эта публикация затрагивает важные социальные проблемы, связанные с дискриминацией представителей сообщества LGBTQIA+. Верховный комиссар ООН по правам человека выразил озабоченность по поводу фактов ущемления свободы самовыражения, возникающих ввиду ограничений дискриминационного характера на отстаивание прав сообщества LGBTQIA+ ( № A/HRC/19/41, пункт 65).

Согласно статье 19, если ограничения на свободу самовыражения установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). Ссылаясь на основные положения РП ООН, Специальный докладчик ООН по вопросу о поощрении и защите права на свободу мнений и их свободное выражение призвал компании, управляющие социальными сетями, обеспечить соответствие своих правил в отношении контента требованиям пункта 3 статьи 19 МПГПП ( № A/HRC/38/35, пункты 45 и 70).

I. Правомерность (четкость и доступность правил)

Согласно требованию в отношении правомерности любое ограничение свободы самовыражения должно быть доступным для понимания и достаточно четким, чтобы дать представление о допустимых и запрещенных действиях.

В рамках дел "О симптомах рака молочной железы и изображении обнаженного тела" (№ 2020-004-IG-UA, Рекомендация № 9), "Об изоляции Оджалана" (№ 2021-006-IG-UA, Рекомендация № 10) и в своем Рекомендательном заключении о политике касательно распространения конфиденциальной информации о постоянном месте жительства (Рекомендация № 9) Совет рекомендовал Meta довести до сведения пользователей Instagram, что Нормы сообщества Facebook применимы к Instagram так же, как они применимы к Facebook, но с некоторыми исключениями. В своем Рекомендательном заключении о политике Совет рекомендовал Meta провести соответствующую работу в течение 90 дней. Совет принимает к сведению ответ Meta на Рекомендательное заключение о том, что эта рекомендация будет выполнена полностью, однако Meta всё ещё продолжает разрабатывать более исчерпывающее Руководство сообщества Instagram, чтобы разъяснить его взаимосвязь с Нормами сообщества Facebook, и не может взять на себя обязательства по соблюдению 90-дневного срока. Совет, который неоднократно давал эту рекомендацию по разным случаям, полагает, что у Meta было достаточно времени на подготовку этих изменений. Неясная связь между Руководством сообщества Instagram и Нормами сообщества Facebook является для пользователей платформ Meta источником постоянного замешательства. В Руководстве сообщества Instagram есть ссылка на Норму сообщества Facebook о враждебных высказываниях, однако в настоящее время пользователю неясно, что действие всей Нормы сообщества Facebook о враждебных высказываниях, включая запрет на оскорбления и исключения, распространяется на Instagram. Своевременные и исчерпывающие обновления Руководства сообщества Instagram остаются для Совета критически важными.

Что касается составления списков оскорбительных слов, Совет вновь подтверждает свое мнение, изложенное в рамках дела "Об оскорблениях в ЮАР" ( № 2021-011-FB-UA), что компании Meta следует быть более прозрачной в отношении процедур и критериев разработки списков. В рамках этого дела Meta пояснила, что она определяет списки оскорбительных слов для каждого устоявшегося рынка на основе "анализа и одобрения, полученных от соответствующих внутренних партнеров, например команд, отвечающих за обработку, рынки и правила в отношении контента". Meta также указала, что эксперты по рынку проверяют списки оскорбительных слов на ежегодной основе, каждый термин оценивается качественно и количественно, при этом устанавливается различие между "словами оскорбительного по своей природе характера, даже если они написаны о себе, и словами, не являющимися оскорбительными по своей сути". Совету неясно, когда именно проводится ежегодная проверка. Однако после того, как Совет выбрал это дело, Meta проверила использование слова "z***l". По результатам этой проверки слово было удалено из списка оскорблений на "арабском языке", но осталось в списке, составленном для "рынка Магриба". Совет не знает, проводилась ли эта проверка в рамках постоянно действующих процедур или во внеочередном порядке как реакция на выбор Советом этого дела. В целом, Совету не ясно, что подразумевают качественные и количественные оценки в ходе ежегодных проверок.

Пользователям недоступна информация о процедурах и критериях разработки списков оскорбительных слов и определении рынков, особенно в плане разграничения рынков по лингвистическим и географическим характеристикам. Без этой информации пользователям сложно определить, какие слова могут быть признаны оскорблением, руководствуясь исключительно определением оскорблений, приведенным в правилах в отношении враждебных высказываний, которые полагаются на субъективные представления, например присущий слову глумливый и оскорбительный характер ( № A/74/486, пункт 46; см. также № A/HRC/38/35, пункт 26).

Что касается порядка обеспечения соблюдения списка оскорбительных слов, в рамках дела "Об оскорблениях в ЮАР" ( № 2021-011-FB-UA) Meta отметила, что ее "запрет на оскорбления действует на по всему миру, но определение оскорблений отражает реалии конкретного рынка". Компания пояснила, что "[е]сли то или иное слово вносится в список оскорблений для какого-либо рынка, на этом рынке политика сообщества в отношении враждебных высказываний запрещает использование этого слова". Объяснение Meta не вносит ясность, означают ли ее методы обеспечения соблюдения правил в отношении контента, которые могут действовать по всему миру, что оскорбительные слова, запрещенные в рамках определенного рынка, также запрещены в других странах. Meta объяснила, что согласно ее определению, рынок — это "совокупность страны/группы стран и языка(-ов)/диалекта(-ов)", и что "разграничение…рынка[-ов] основано главным образом на комбинации языка/диалекта и страны контента". Специалисты Meta по проверке контента "работают с рынками в зависимости от их лингвистической квалификации, а также знаний культуры и рынка". По словам Meta этот контент затрагивал арабский и магрибский рынки согласно списку оскорбительных слов. Он был привязан к этим рынкам "на основе комбинации многочисленных сигналов, например местоположение, язык, а также диалект, выявленный в контенте, тип контента и тип жалобы". Совету не совсем понятно, как используются многочисленные сигналы в совокупности, чтобы определить, какие рынки затрагивает конкретный контент, а также будет ли удален контент, содержащий оскорбительное на рассматриваемом рынке слово, только если он имеет отношение к такому рынку, или он будет удален со всех рынков. Норма сообщества сама по себе не разъясняет этот процесс.

Meta должна опубликовать исчерпывающее разъяснение о том, как на платформе обеспечивается соблюдение правил в отношении оскорблений. В текущих правилах есть много неясных вопросов, в том числе о том, удаляются ли с платформы оскорбления, установленные для конкретных регионов, только если они опубликованы в соответствующих странах, или если их просматривают пользователи из этих стран, или независимо от места их публикации и просмотров. Meta также следует объяснить, как она принимает решения относительно слов, которые считаются оскорблением в некоторых ситуациях, но при этом в других ситуациях имеют абсолютно другое значение, не нарушающее правила Meta.

Структура Нормы сообщества в отношении враждебных высказываний также может вызвать замешательство. Запрет на оскорбления вынесен под заголовок о враждебных высказываниях третьего уровня, однако Совет считает непонятным, относится ли этот запрет к третьему уровню, поскольку оскорбления не обязательно направлены на людей, страдающих от сегрегации или изоляции, на чем акцентируется внимание в остальных положениях об оскорблениях этого уровня.

II.Законная цель

Любое ограничение свободы самовыражения также должно преследовать одну из законных целей, перечисленных в МПГПП, к которым относятся "права других людей". Имеющая отношение к этому делу политика преследует законную цель — защиту прав других людей ( Замечание общего порядка № 34, пункт 28) на равенство, защиту от насилия и дискриминации по признакам сексуальной ориентации и гендерной идентичности (пункт 1 статьи 2, статья 26 МПГПП; Комитет ООН по правам человека, дело "Тунен против Австралии" (1992 г.); Резолюция № 32/2 Совета ООН по правам человека о защите от насилия и дискриминации по признаку сексуальной ориентации и гендерной идентичности).

III. Необходимость и соразмерность

Принцип необходимости и соразмерности предписывает, что любые ограничения свободы самовыражения "должны быть уместны для выполнения своей защитной функции; должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат; [и] должны являться соразмерными защищаемому интересу" ( пункт 34 Замечания общего порядка № 34).

В этом случае не было необходимости удалять контент, поскольку его удаление было очевидной ошибкой, которая не учитывала исключение из правил Meta в отношении враждебных высказываний. Удаление также не было средством достижения законной цели, которое меньше всего повлияло бы на работу, поскольку в результате каждого удаления по результатам проверки вся кольцевая галерея, в которой было 10 фото, была очищена по причине предполагаемых нарушений правил лишь одним из фото. Даже если в кольцевой галерее было бы одно изображение, содержащее недопустимые оскорбления, не подпадающие под действие исключения, удаление всей кольцевой галереи не являлось бы соразмерной реакцией.

Meta объяснила Совету, что "публикация признается нарушающей правила, если фото нарушает Нормы сообщества", и "[в] отличие от возможностей на Facebook, удалить отдельное изображение из публикации в Instagram, состоящей из нескольких фото, невозможно". Meta заявила, что предложено обновление инструмента для проверки контента с тем, чтобы специалисты по проверке могли удалять из кольцевой галереи лишь фото, нарушающее правила, однако обновление не получило первоочередного статуса. Совет не считает это объяснение понятным и полагает, что исключение обновления из числа приоритетных может привести к систематическому чрезмерному регулированию, когда кольцевые галереи будут очищаться целиком, несмотря на то, что только некоторые фото в них нарушают правила. Совет также отмечает, что, когда пользователь размещает серию одних и тех же фото на Facebook и в Instagram, разные меры, принимаемые в отношении такого рода контента на двух платформах, приводят к непоследовательным результатам, что нельзя оправдать никаким значимым различием в политике. Если одно из фото нарушает правила, будет удалена вся кольцевая галерея в Instagram, но не на Facebook.

2.Противодействие дискриминации

Учитывая важность для представителей сообщества LGBTQIA+ возвращения первоначального значения оскорбительным словам в процессе борьбы с дискриминацией, Совет ожидает, что компания Meta будет особенно внимательна к возможности неправомерного удаления контента в этом случае и аналогичного контента на Facebook и в Instagram. Как указал Совет в своем решении по делу "О поясе вампума" ( № 2021-012-FB-UA) относительно прав коренных жителей на художественное самовыражение, недостаточно оценивать эффективность мер, принимаемых Meta для обеспечения соблюдения правил Facebook в отношении враждебных высказываний в целом, но следует учитывать их влияние на конкретные обособленные социальные группы. РП ООН гласят, что "коммерческие компании должны уделять особое внимание любым конкретным факторам, влияющим на права человека, применительно к представителям групп или населения, подверженным повышенному риску уязвимости или маргинализации" (Принципы 18 и 20 РП ООН). Для представителей сообщества LGBTQIA+, проживающих в странах, где их самовыражение уголовно наказуемо, социальные сети часто являются для них единственным средством свободного самовыражения. Это особенно справедливо в случае Instagram, где Руководство сообщества разрешает пользователям не указывать свое настоящее имя. Совет отмечает, что согласно Нормам сообщества пользователи Facebook не имеют таких же свобод. Важно, чтобы Meta представила доказательства проведения комплексной проверки соблюдения прав человека с тем, чтобы гарантировать объективную работу своих систем, не предполагающую никакой дискриминации (Принцип 17 РП ООН). Соблюдения отмечает, что Meta регулярно оценивает правильность принятия решений системами для обеспечения соблюдения правил в отношении контента в борьбе с враждебными высказываниями (решение по делу "О поясе вампума"). Однако эти оценки не включают меры по оценке правильности, которые позволили бы реально оценить способность Meta проводить различие между недопустимыми враждебными высказываниями и разрешенным контентом, через который делается попытка вернуть первоначальные значения оскорбительным словам.

Ошибки в этом случае указывают на то, что рекомендации Meta, получаемые модераторами, могут быть недостаточными для оценки оскорбительных слов. Совет обеспокоен тем, что специалисты по проверке могут не располагать достаточными ресурсами с точки зрения возможностей или подготовки, чтобы предотвращать такого рода ошибки, допущенные в этом случае, особенно в отношении контента, разрешенного с учетом исключений из правил. В этом случае Meta проинформировала Совет, что Известные вопросы и внутренние правила реализации доступны только на английском языке, чтобы "гарантировать стандартизированные меры по соблюдению ее правил по всему миру", и что "все ее модераторы контента свободно владеют английским языком". В своем решении по делу "О мьянманском боте" ( № 2021-007-FB-UA) Совет рекомендовал Meta обеспечить наличие внутренних правил реализации норм на том языке, на котором модераторы контента проверяют контент. Meta не предпринимала никаких дальнейших действий по этой рекомендации, давая аналогичный ответ, что ее модераторы контента свободно владеют английским языком. Совет отмечает, что предоставление специалистам по проверке инструкций на английском языке о том, как следует проверять контент на других языках, создает связанные с этим сложности. Внутренние правила реализации и Известные вопросы часто основаны на структурах американского варианта английского языка, которые могут быть неприменимы к другим языкам, например к арабскому.

В своем решение по делу "О поясе вампума" ( № 2021-012-FB-UA, Рекомендация № 3) Совет рекомендовал Meta проводить оценки правильности, акцентируя внимание на исключениях из правил в отношении враждебных высказываний, которые предусматривают право на выражение мнения о нарушениях прав человека (например, в целях осуждения, привлечения внимания, при описании себя, для поддержания самооценки), а также отметил, что компании Meta следует делиться результатами оценки, в т.ч. информировать о том, как эти результаты будут способствовать мерам по обеспечению соблюдения правил в отношении контента и их разработке. Совет представил свою рекомендацию на основе своего понимания, что издержки, связанные с чрезмерным удалением публикаций, содержащих мнения о нарушениях прав человека, особенно велик. Совет принимает к сведению опасения Meta относительно рекомендации при оценке осуществимости, в т. ч. (а) отсутствия в ее правилах об исключениях конкретных категорий, регулирующих такие вопросы как нарушения права человека, и (б) отсутствия легко определяемого примера контента, подпадающего под действие исключений, касающихся враждебных высказываний. Совет полагает, что эти сложные задачи можно решить, т. к. в процессе анализа Meta может сконцентрировать внимание на существующих исключениях для враждебных высказываний и отнести к числу приоритетных задач определение примеров соответствующего контента. Совет призывает Meta взять на себя обязательства по реализации рекомендации, изложенной в решении по делу "О поясе вампума" ( № 2021-012-FB-UA) и с одобрением примет обновления, которые Meta внесет в отчет за следующий квартал.

9. Решение Независимого надзорного совета

Независимый надзорный совет отменяет первоначальное решение Meta об удалении контента.

10. Рекомендательное заявление о политике

Обеспечение соблюдения правил в отношении контента

1. Meta должна перевести внутренние правила реализации и Известные вопросы на современный арабский литературный язык. Это позволит сократить практику чрезмерного принудительного применения правил в арабоговорящих регионах, т. к. модераторы смогут лучше оценивать основания для применения исключений в отношении контента с оскорбительными выражениями. Совет отмечает, что Meta не приняла никаких дальнейших мер по рекомендации, изложенной в решении по делу "О мьянманском боте" (№ 2021-007-FB-UA). Совет указал, что Meta должна обеспечить наличие внутренних правил реализации норм на том языке, на котором модераторы контента проверяют контент. Совет посчитает эту рекомендацию выполненной, когда Meta проинформирует Совет о том, что перевод на современный арабский литературный язык завершен.

Прозрачность

2. Meta должна опубликовать четкое разъяснение о том, как компания создает списки оскорбительных выражений для конкретных рынков. В разъяснении должны быть указаны процедуры и критерии, используемые для определения, какие оскорбления и страны относятся к каждому списку, созданному для конкретного рынка. Совет посчитает эту рекомендацию выполненной, когда соответствующая информация будет опубликована в Центре прозрачности.

3. Meta должна опубликовать четкое разъяснение того, как компания применяет свои списки оскорбительных выражений для конкретных рынков. Это разъяснение должно включать процедуры и критерии точного определения случаев, когда и где необходимо принудительно исполнять запрет на оскорбления, будь то в отношении публикаций, создаваемых в рассматриваемом регионе с точки зрения географии, создаваемых за его пределами, но касающихся такого региона, и/или в отношении всех пользователей в таком регионе независимо от географии возникновения публикации. Совет посчитает эту рекомендацию выполненной, когда соответствующая информация будет опубликована в Центре прозрачности Meta.

4. Meta должна опубликовать четкое разъяснение о том, как компания проверяет свои списки оскорбительных выражений для конкретных рынков. Это разъяснение должно включать процедуры и критерии удаления оскорбительных выражений из списков, подготовленных Meta для конкретных рынков, или процедуры и критерии их сохранения в таких списках. Совет посчитает эту рекомендацию выполненной, когда соответствующая информация будет опубликована в Центре прозрачности Meta.

* Процедурное примечание.

Решения Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для принятия решения по этому делу от имени Совета было заказано проведение независимого исследования. Его провел Независимый исследовательский институт со штаб-квартирой в Гётеборгском университете, опираясь на мнение группы, состоящей из более чем 50 ученых-социологов на шести континентах, а также более 3 200 специалистов из разных стран мира. Совету также оказывала содействие консалтинговая фирма Duco Advisors, область специализации которой находится на стыке аспектов геополитики, доверия и безопасности, а также технологий. Лингвистическая экспертиза была проведена компанией Lionbridge Technologies, LLC, специалисты которой владеют более чем 350 языками и работают в 5 000 городов по всему миру.