"О мьянманском боте"

Сводка по делу

Независимый надзорный совет отменил решение Facebook об удалении публикации на бирманском языке на основании Норм сообщества о враждебных высказываниях. Совет пришел к выводу, что публикация была направлена не против китайцев, а против китайского государства. А именно: в ней с использованием ругательств упоминалась политика китайского правительства в Гонконге в рамках политического обсуждения роли китайского правительства в Мьянме.

Сведения о деле

В апреле 2021 года пользователь Facebook, по всей видимости, находившийся в Мьянме, разместил в своей хронике публикацию на бирманском языке. В публикации обсуждались способы ограничить финансирование вооруженных сил Мьянмы после военного переворота, произошедшего в Мьянме 1 февраля 2021 года. Предлагалось передавать доход от налогов Представительному комитету Ассамблеи Союза (Committee Representing Pyidaungsu Hlutaw, CRPH) — группе законодателей, выступавших против военного переворота. Публикация набрала около полумиллиона просмотров, и ни один пользователь Facebook на нее не пожаловался.

В переводе компании Facebook та часть публикации пользователя, которая предположительно нарушала правила, звучит следующим образом: "Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them" (Гонконгцы, поскольку эти сраные китайцы их пытали, сменили банковскую систему на британскую, и теперь они (китайцы) их не тронут). Компания Facebook удалила эту публикацию на основании Норм сообщества о враждебных высказываниях. Эти нормы запрещают публикацию контента, направленного против лица или группы лиц на основании их расовой, этнической или национальной принадлежности и содержащего "оскорбительные слова и фразы".

Все четыре специалиста по проверке контента, изучившие эту публикацию, согласились с тем, что она нарушала правила Facebook. В отправленном Совету запросе на обжалование пользователь заявил, что опубликовал этот контент с целью "остановить жестокий военный режим".

Основные выводы

Это дело подчеркивает важность рассмотрения контекста при обеспечении соблюдения правил в отношении враждебных высказываний, а также необходимость защиты политических высказываний. Это в особенности актуально для Мьянмы, учитывая произошедший в феврале 2021 года военный переворот и ключевую роль Facebook как одного из основных средств связи в этой стране.

В публикации была использована фраза на бирманском языке "$တရုတ်" (сут та-йоте), которая в переводе Facebook звучит как "fucking Chinese" (сраные китайцы). По утверждению Facebook, слово "та-йоте" "с культурной и лингвистической точки зрения воспринимается на пересечении определений/значений Китая как страны и китайцев как народа". Компания Facebook заявила, что с учетом характера этого слова и того, что пользователь не "указал четко, что термин касается страны/правительства Китая", она пришла к выводу, что "пользователь по меньшей мере имеет в виду китайцев". Поэтому компания Facebook удалила эту публикацию на основании Норм сообщества о враждебных высказываниях.

Поскольку в бирманском языке для обозначения государства и народа этого государства используется одно и то же слово, ключевым фактором при выяснении подразумеваемого значения выступает контекст. Ряд факторов убедил Совет в том, что пользователь имел в виду не китайцев, а китайское государство.

В той части публикации, которая предположительно нарушала правила Facebook, слова "torture" (пытки) или "persecution" (преследования) использовались для описания финансовой политики Китая в Гонконге, а не действий отдельных людей или китайцев в Мьянме. Оба переводчика Совета указали, что в этом случае слово "та-йоте" относится к государству. В ответ на вопрос, возможна ли двусмысленность в такой трактовке, переводчики не высказали каких-либо сомнений. Переводчики Совета также заявили, что в этой публикации содержатся термины, которые правительство Мьянмы и посольство Китая часто используют для обращения друг к другу. Кроме того, несмотря на полмиллиона просмотров и более 6 000 пользователей, поделившихся публикацией, на нее не было получено ни одной жалобы. В комментариях общественности общий тон публикации также описывается как политическое обсуждение.

Учитывая то, что публикация была направлена не против людей на основании их расовой, этнической или национальной принадлежности, а против государства, Совет пришел к выводу, что она не нарушала Норм Facebook в отношении враждебных высказываний.

Решение Независимого надзорного совета

Независимый надзорный совет отменяет решение Facebook об удалении контента и требует восстановить публикацию.

В рекомендательном заявлении о политике Совет рекомендует компании Facebook выполнить следующие действия:

• Обеспечить наличие внутренних правил реализации норм на том языке, на котором модераторы контента рассматривают контент. Если необходимо определить приоритеты, компании Facebook следует в первую очередь сосредоточиться на ситуациях с более высоким риском нарушения прав человека.

* Сводки по делам описывают дела в общих чертах и не имеют прецедентного значения.

Полное описание решения по делу

1. Сводка по решению

Независимый надзорный совет отменил решение Facebook об удалении контента на основании Норм сообщества о враждебных высказываниях. Совет пришел к выводу, что публикация не содержала враждебных высказываний.

2. Описание дела

В апреле 2021 года пользователь Facebook, по всей видимости, находившийся в Мьянме, разместил в своей хронике публикацию на бирманском языке. В публикации обсуждались способы ограничить финансирование вооруженных сил Мьянмы после военного переворота, произошедшего в Мьянме 1 февраля 2021 года. Предлагалось передавать доход от налогов Представительному комитету Ассамблеи Союза (Committee Representing Pyidaungsu Hlutaw, CRPH) — группе законодателей, выступавших против военного переворота. Публикация получила около 500 000 просмотров и около 6 000 реакций. Пользователи также поделились ею около 6 000 раз. При этом жалоб от пользователей Facebook на публикацию не поступало.

В переводе компании Facebook та часть публикации пользователя, которая предположительно нарушала правила, звучит следующим образом: "Hong Kong people, because the fucking Chinese tortured them, changed their banking to UK, and now (the Chinese) they cannot touch them" (Гонконгцы, поскольку эти сраные китайцы их пытали, сменили банковскую систему на британскую, и теперь они (китайцы) их не тронут). На следующий день после размещения публикации компания Facebook удалила ее за нарушение Норм сообщества в отношении враждебных высказываний как содержащую враждебные высказывания "уровня 2". Эти нормы запрещают публикацию контента, направленного против лица или группы лиц на основании их расовой, этнической или национальной принадлежности и содержащего "оскорбительные слова и фразы".

По словам Facebook, репост публикации был "автоматически включен в выборку и отправлен на проверку вручную в целях использования в обучении классификатора". Этот процесс подразумевает создание компанией Facebook подборок данных с примерами контента, нарушающего и не нарушающего правила, чтобы учить программы автоматического обнаружения нарушений и обеспечения соблюдения правил определять, нарушает ли контент политики Facebook. Проверяющий установил, что репост публикации нарушал Нормы сообщества в отношении враждебных высказываний. Несмотря на то что целью процедуры было создание подборок контента для обучения классификатора, после выявления нарушения репост публикации был удален.

Поскольку в репосте было выявлено нарушение правил Facebook, бот для административных мер автоматически обозначил исходную публикацию как подлежащую проверке. Компания Facebook объяснила, что бот для административных мер представляет собой внутренний аккаунт Facebook, который не проводит оценку контента, а выполняет "разнообразные действия через систему обеспечения соблюдения правил на основании решений, принятых специалистами или автоматизированными средствами". Затем два специалиста по проверке проанализировали исходную публикацию и оба определили, что она содержала враждебные высказывания "уровня 2". Контент был удален. Пользователь отправил запрос на обжалование в компанию Facebook, после чего четвертый специалист по проверке подтвердил обоснованность удаления. По словам Facebook, "все специалисты по проверке контента в этом деле были членами бирманской команды проверки контента на Facebook". После этого пользователь отправил запрос на обжалование в Независимый надзорный совет.

3. Полномочия и область принятия решений

Независимый надзорный совет уполномочен пересматривать решение Facebook после отправки запроса на обжалование пользователем, чей контент был удален (раздел 1 статьи 2 Устава; раздел 2.1 статьи 2 правил внутреннего распорядка). Совет может подтвердить либо отменить такое решение (раздел 5 статьи 3 Устава). Решения Совета имеют обязательную силу и могут включать рекомендательные заявления относительно политик. Эти рекомендации не имеют обязательной силы, но компания Facebook должна на них ответить (раздел 4 статьи 3 Устава). Совет представляет собой независимый механизм рассмотрения жалоб, призванный разрешать спорные ситуации прозрачным образом и выносить по ним принципиальные решения.

4. Надлежащие нормы

Вынося решение, Независимый надзорный совет руководствовался следующими нормами:

I. Нормы сообщества Facebook.

В Нормах сообщества Facebook под враждебными высказываниями подразумеваются "прямые нападки на людей, мотивированные так называемыми "характеристиками, подлежащими защите от дискриминации": расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом, гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью". На "уровне 2" запрещается публиковать контент, содержащий ругательства, которые определяются как "оскорбительные слова или фразы: «сука», «сволочь», «подонок» и т. п."

II. Ценности Facebook.

Ценности Facebook изложены во введении к Нормам сообщества. Ценность "Высказывание мнений" описывается как "приоритетная".

Цель Норм сообщества всегда состояла в том, чтобы создать платформу для самовыражения и предоставить людям возможность высказывать свои мнения. […] Мы стремимся дать пользователям возможность свободно высказываться о важных для них проблемах, даже если некоторые люди не соглашаются с какими-либо мнениями или считают их спорными.

Facebook ограничивает ценность "Высказывание мнений" ради четырех других ценностей, две их которых имеют отношение к этому случаю:

"Личная безопасность". Мы делаем всё возможное, чтобы обеспечить безопасность на Facebook. Высказывания и материалы, содержащие угрозы, могут запугивать других людей или заставлять их молчать. Такое поведение запрещено на Facebook.

"Достоинство". Мы убеждены, что все люди равны в своем достоинстве и правах. Мы ожидаем от наших пользователей уважительного отношения к достоинству других людей, отсутствия травли и унижения.

III. Стандарты в области прав человека.

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом по правам человека ООН в 2011 году, устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. В 2021 году компания Facebook опубликовалаКорпоративную политику в отношении прав человека, в которой отметила свое обязательство соблюдать права человека в соответствии с РП ООН. При анализе этого дела Совет основывался на нормах в области прав человека, приведенных ниже.

1. Свобода самовыражения: статья 19 Международного пакта о гражданских и политических правах (МПГПП), Замечание общего порядка № 34 Комитета по правам человека, 2011 г.
2. Обязанности компаний: доклад Рабочей группы ООН "Предпринимательская деятельность, права человека и затронутые конфликтом регионы: переход к более активным действиям" (A/75/212) по вопросу о правах человека и транснациональных корпорациях и других предприятиях.

5. Заявление пользователя

В отправленном в Совет запросе на обжалование пользователь заявил, что разместил этот контент, чтобы "остановить жестокий военный режим" и дать совет демократическим лидерам в Мьянме. Он также повторно подчеркнул необходимость ограничить финансирование мьянманского военного режима. Пользователь назвал себя "активистом" и высказал предположение, что на его публикацию пожаловались информаторы мьянманского военного режима. Пользователь также заявил, что его публикацию должен проверить "человек, который понимает мьянманский язык".

6. Обоснование решения со стороны Facebook

Компания Facebook удалила контент как содержащий нападки "уровня 2" в соответствии с Нормами сообщества в отношении враждебных высказываний, а именно за нарушение правил, запрещающих использование нецензурных ругательств в адрес людей на основании их расовой, этнической и/или национальной принадлежности. По словам Facebook, предположительно нарушавший правила контент был расценен как нападки на китайцев.

В публикации была использована фраза на бирманском языке "$တရုတ်" (сут та-йоте), которая в переводе региональной команды Facebook звучит как "fucking Chinese" (сраные китайцы). Региональная команда Facebook также указала, что "$" может использоваться как сокращение от "စောက်", или "сут", что на английский переводится как "fucking" (сраный). По словам команды Facebook, слово "та-йоте" "с культурной и лингвистической точки зрения воспринимается на пересечении определений/значений Китая как страны и китайцев как народа". Компания Facebook предоставила Совету соответствующее закрытое внутреннее руководство, которое она выдает модераторам, или внутренние правила реализации норм, в отношении распознавания высказываний, направленных против людей на основании характеристик, подлежащих защите от дискриминации, и понятий, связанных с такими характеристиками.

В обосновании своего решения компания Facebook также отметила, что после военного переворота в феврале 2021 года в Мьянме "отмечался рост антикитайских настроений" и что "несколько китайцев были ранены, захвачены или убиты в результате предполагаемого поджога финансируемой китайцами швейной фабрики в Янгоне, Мьянма". В ответ на заданный Советом вопрос компания Facebook заявила, что она не общалась с мьянманским военным режимом по вопросу этой публикации.

Компания Facebook заявила, что с учетом характера слова "та-йоте" и того, что пользователь не "указал четко, что термин касается страны/правительства Китая", она пришла к выводу, что "пользователь по меньшей мере имеет в виду китайцев". Компания Facebook заявила, что в связи с этим удаление публикации соответствовало ее Нормам сообщества в отношении враждебных высказываний.

Компания Facebook также указала, что удаление соответствовало ее ценностям "достоинство" и "личная безопасность", уравновешивающим ценность "высказывание мнений". По словам Facebook, нецензурные ругательства в адрес китайцев "могут привести к причинению вреда этим людям" и являются "оскорбительными, обесценивающими и унижающими человеческое достоинство".

Компания Facebook заявила, что ее решение соответствовало международным нормам в области прав человека. Компания Facebook заявила, что ее решение соответствовало требованиям правомерности, законной цели, необходимости и соразмерности, установленным международным законодательством в области прав человека. По словам компании Facebook, ее политика была "легкодоступна" в Нормах сообщества, и "выбранные пользователем слова четко попадают под запрет ругательств". Кроме того, решение об удалении контента было правомерным для защиты "прав других людей от причинения вреда и дискриминации". И наконец, решение об удалении контента было "необходимым и соразмерным", поскольку "накопление контента, содержащего ругательства в адрес китайцев, «создает обстановку, в которой повышается вероятность попустительства в отношении актов насилия и порождения дискриминации в обществе»", цитируя решение Совета 2021-002-FB-UA в отношении Черного Пита. Компания Facebook заявила, что это похожая ситуация, поскольку "оба случая связаны с использованием враждебных высказываний против людей на основе их расы или этнической принадлежности".

7. Обращения третьих сторон

Независимый надзорный совет получил 10 комментариев общественности, связанных с этим делом. Пять из них были получены из Азиатско-Тихоокеанского региона, главным образом из Мьянмы, и пять — из США и Канады. Совет получил комментарии от заинтересованных сторон, в том числе от правозащитников и общественных организаций, которые заостряли внимание на вопросах свободы самовыражения и враждебных высказываний в Мьянме.

В обращениях затрагивались такие темы, как перевод и анализ слова "сут та-йоте", содержал ли контент нападки на Китай или китайцев; являлась ли публикация политическим высказыванием, подлежащим защите в контексте конфликта в Мьянме; усилились ли антикитайские настроения в Мьянме после военного переворота в феврале 2021 года; отношения между Китаем и военным режимом в Мьянме; а также методы модерирования контента компанией Facebook, в частности использование, обучение и проверка инструментов автоматизации Facebook для контента на бирманском языке.

Чтобы ознакомиться с комментариями общественности по этому делу, нажмите здесь.

8. Анализ Независимого надзорного совета

Это дело подчеркивает важность рассмотрения контекста при обеспечении соблюдения правил в отношении контента, направленных на защиту пользователей от враждебных высказываний, уважая при этом право на свободу политических высказываний. Это в особенности актуально для Мьянмы ввиду произошедшего в феврале 2021 года военного переворота и значимости Facebook как средства связи. Совет рассмотрел вопрос о восстановлении этого контента в свете трех аспектов: Нормы сообщества Facebook; ценности компании; и ее обязанности по защите прав человека.

8.1. Соблюдение Норм сообщества

Совет заключил, что восстановление этого контента соответствует Нормам сообщества Facebook в отношении враждебных высказываний. Политика Facebook запрещает использовать "оскорбительные слова и фразы", направленные против лица или группы лиц на основании их расовой, этнической или национальной принадлежности. Совет пришел к выводу, что публикация была направлена не против людей, а против правительственной политики Китая в Гонконге и была размещена в контексте обсуждения роли китайского правительства в Мьянме.

Помимо комментариев общественности, Совет получил ещё два перевода текста. Один из них был выполнен носителем бирманского языка, находящимся в Мьянме, а другой — носителем бирманского языка, находящимся за ее пределами. И авторы комментариев, и переводчики Совета отметили, что в бирманском языке для обозначения государства и народа этого государства используется одно и то же слово. Поэтому ключевую роль для понимания подразумеваемого значения играет контекст. Это особенно актуально при применении политики Facebook в отношении враждебных высказываний. На момент удаления контента в Нормах сообщества в отношении враждебных высказываний было указано, что запрещаются нападки на людей на основании национальности, но не запрещаются нападки на страны.

Принимая решение о том, что эта публикация не была направлена против китайцев на основании их этнической, расовой или национальной принадлежности, Совет рассмотрел различные факторы. Во-первых, в более широком контексте публикации речь идет об ограничении финансового взаимодействия с военным режимом и предоставлении финансовой поддержки CRPH. Во-вторых, в той части публикации, которая предположительно нарушала правила, слова "torture" (пытки) или "persecution" (преследования) использовались для описания финансовой политики Китая в Гонконге, а не действий отдельных людей или китайцев в Мьянме. В-третьих, несмотря на то что отсутствие жалоб на получившую широкое распространение публикацию не всегда означает отсутствие в ней нарушений, публикацию просмотрело более 500 000 человек, и более 6 000 поделились ею, при этом ни один пользователь на нее не пожаловался. В-четвертых, оба переводчика, с которыми консультировался Совет, указали, что, хотя для обозначения государства и его народа используется один и тот же термин, в этом случае речь шла о государстве. В ответ на вопрос о возможной двусмысленности такой трактовки переводчики не высказали каких-либо сомнений. В-пятых, оба переводчики заявили, что в публикации содержатся термины, которые правительство Мьянмы и посольство Китая часто используют для обращения друг к другу. Наконец, в комментариях общественности отмечалось, что общий тон публикации в целом представлял собой политическое обсуждение.

Поэтому, учитывая направленность ругательства не на людей на основании их расовой, этнической или национальной принадлежности, а на государство, Совет пришел к выводу, что публикация не нарушала Норм сообщества Facebook в отношении враждебных высказываний. Крайне важно добиться того, чтобы трактовка запретов на оскорбление людей на основании характеристик, подлежащих защите от дискриминации, не позволяла защищать от критики правительства или учреждения. Совет признает, что антикитайские враждебные высказывания вызывают серьезную обеспокоенность, но в этой публикации речь идет о китайском государстве.

Совет не согласен с аргументом компании Facebook о сходстве обоснования ее решения об удалении этого контента с обоснованием Совета в решении по делу 2021-002-FB-UA (в котором Совет поддержал удаление изображений людей с "черным лицом"). В том деле у компании Facebook было правило, запрещающее публиковать изображения людей с "черным лицом", и Совет разрешил компании Facebook применить это правило к контенту, содержавшему изображения Черного Пита с "черным лицом". Здесь же контекст публикации указывает на то, что использованные выражения вовсе не нарушали правил Facebook.

Во время рассмотрения Советом этого дела компания Facebook обновила свои Нормы сообщества в отношении враждебных высказываний, предоставив больше информации о том, как в некоторых обстоятельствах она запрещает "понятия", касающиеся характеристик, подлежащих защите от дискриминации. В новом правиле говорится, что для обеспечения соблюдения правил компании Facebook "требуется дополнительная информация и/или контекст" и что пользователям не следует публиковать "контент, содержащий нападки на понятия, учреждения, идеи, порядки или убеждения, связанные с характеристиками, подлежащими защите от дискриминации, которые с большой вероятностью могут способствовать причинению неминуемого физического вреда, запугиванию или дискриминации людей, связанных с такой характеристикой, подлежащей защите от дискриминации".

Поскольку этот текст не входил в Нормы сообщества на момент удаления этого контента и компания Facebook не заявляла Совету, что удалила контент на основании обновленных Норм, Совет не анализировал применение этой политики к этому делу. Однако Совет отмечает, что "понятия, учреждения, идеи, порядки или убеждения" могут охватывать очень широкий спектр высказываний, включая политические.

8.2. Соответствие ценностям Facebook

Совет пришел к выводу, что восстановление этого контента соответствует ценностям Facebook. Несмотря на важность ценностей Facebook "достоинство" и "личная безопасность", особенно в контексте военного переворота в Мьянме в феврале 2021 года, этот контент не подвергал эти ценности риску, который оправдывал бы ущемление ценности "высказывание мнений". Совет также заключил, что публикация содержит политические высказывания, которые являются одним из центральных элементов ценности "высказывание мнений".

8.3. Соблюдение обязанностей Facebook по защите прав человека

Совет пришел к выводу, что восстановление контента соответствует обязанностям Facebook по защите прав человека как компании. Компания Facebook обязалась соблюдать права человека в соответствии с разработанными ООН Руководящими принципами предпринимательской деятельности в аспекте прав человека (РП ООН). В ее Корпоративной политике в отношении прав человека указано, что сюда входит Международный пакт о гражданских и политических правах (МПГПП).

Статья 19 МПГПП предусматривает широкую защиту свободы самовыражения. "Особое внимание" в рамках такой защиты уделяется политическим высказываниям и дебатам, в том числе касающимся государственных учреждений (Замечание общего порядка № 34, пункт 38). Статья 19 устанавливает требование, согласно которому ограничения свободы самовыражения со стороны государства должны соответствовать трем критериям: правомерности, наличия законной цели, а также необходимости и соразмерности. Совет пришел к выводу, что действия Facebook не соответствовали этим критериям для выполнения ее обязательств как компании.

I. Правомерность (четкость и доступность правил)

Принцип правомерности в соответствии с международными нормами в области прав человека требует, чтобы правила, используемые государствами для ограничения свободы самовыражения, были четкими и доступными (Замечание общего порядка № 34, пункт 25). Правила, ограничивающие свободу самовыражения, также должны "предоставлять лицам, которым поручено их осуществление, достаточные руководящие указания для того, чтобы они могли определить, на какие формы выражения мнений установлены должные ограничения, а на какие нет" (Замечание общего порядка 34, пункт 25).

Нормы сообщества в отношении враждебных высказываний запрещают использование ругательств, оскорбляющих людей на основании их расовой, этнической или национальной принадлежности. Компания Facebook сообщила Совету, что из-за сложностей в "определении намерения в больших объемах Facebook считает, что фраза «сраные китайцы» относится как к китайцам, так и к Китайскому государству или правительству, если только пользователь не предоставит дополнительный контекст, из которого будет ясно, что речь идет исключительно о стране или правительстве". В Нормах сообщества не указано, что по умолчанию выбор делается в пользу удаления.

Совет пришел к выводу, что пользователь предоставил дополнительный контекст, указывающий на то, что публикация касалась государства или страны, как было отмечено в выполненном Советом анализе Норм сообщества в отношении враждебных высказываний (раздел 8.1. выше). Несколько проверяющих Facebook пришли к иному выводу, чем переводчики Совета, люди, отправившие комментарии общественности, и предположительно многие из более чем полумиллиона пользователей, которые просмотрели публикацию и не пожаловались на нее. Учитывая это расхождение, Совет задается вопросом, предоставляет ли компания Facebook модераторам контента достаточно подробные внутренние руководства, материалы и обучение.

Учитывая вывод Совета о том, что пользователь не нарушал политику Facebook в отношении враждебных высказываний, Совет не принимает решения в отношении того, нарушает ли закрытая политика удаления по умолчанию принцип правомерности. Однако Совет обеспокоен тем, что в Нормах сообщества четко не обозначена политика удаления по умолчанию в случаях, когда ругательства могут трактоваться как направленные либо на людей, либо на государство. В целом, компании Facebook следует обнародовать внутреннее руководство, изменяющее трактовку общедоступных Норм сообщества.

II. Законная цель

Любое ограничение свободы самовыражения со стороны государства также должно преследовать одну из законных целей, перечисленных в МПГПП. Одна из таких целей — уважение "прав других лиц". По словам Facebook, политика в отношении враждебных высказываний направлена на защиту пользователей от дискриминации. Совет признает, что это законная цель.

III. Необходимость и соразмерность

Принцип необходимости и соразмерности в соответствии с международными нормами в области прав человека гласит, что ограничения свободы самовыражения "должны являться уместными для выполнения своей защитной функции; они должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат; и они должны быть соразмерны защищаемому интересу" (пункт 34Замечания общего порядка № 34). В этом деле Совет установил на основании своей трактовки контента, что ограничение этой публикации не выполнило бы защитной функции.

В РП ООН указано, что компании должны проводить непрерывную комплексную проверку в отношении прав человека для оценки воздействия на них своей деятельности (РП ООН 17) и признавать, что риск нарушения прав человека повышен в районах, затронутых конфликтом (РП ООН 7). Рабочая группа ООН по вопросу о правах человека и транснациональных корпорациях и других предприятиях отметила, что обязательства компаний по проявлению должной осмотрительности должны отражать повышенную сложность и риск причинения вреда в некоторых ситуациях (доклад A/75/212, пункты 41–49). Аналогичным образом в решении по делу 2021-001-FB-FBR Совет рекомендовал компании Facebook "выделить достаточное количество ресурсов и экспертов для оценки рисков причинения вреда от влиятельных аккаунтов по всему миру", признавая, что ей следует уделить внимание регионам с повышенным уровнем риска.

В этом деле Совет пришел к выводу, что такие возросшие обязательства не должны приводить к удалению по умолчанию, поскольку ставки высоки как при сохранении вредного контента, так и при удалении контента, который не несет или почти не несет риска причинения вреда. Несмотря на то что обеспокоенность компании Facebook враждебными высказываниями в Мьянме вполне обоснована, ей также следует быть особенно внимательной, чтобы не удалять политическую критику и высказывания, в данном случае поддерживающие демократическое правление.

Совет отметил, что политика предположения, что ругательства с упоминанием национальной принадлежности (в этом деле "$တရုတ်") относятся и к государствам, и к людям, может привести к несоразмерному обеспечению соблюдения правил в некоторых лингвистических контекстах, как в этом случае, когда для обозначения обоих понятий используется одно и то же слово. Совет также отметил, что последствия этого удаления выходят за рамки этого дела, поскольку компания Facebook указала, что этот контент был использован при обучении классификатора в качестве примера контента, нарушающего Нормы сообщества в отношении враждебных высказываний.

Учитывая вышесказанное, международные нормы в области прав человека поддерживают восстановление контента на Facebook.

9. Решение Независимого надзорного совета

Независимый надзорный совет отменяет решение Facebook об удалении контента и требует его восстановить. В соответствии с Уставом Совета компания Facebook обязуется применять это решение в аналогичных контекстах и должна отметить этот контент как не нарушающий правил в случае его использования для обучения классификатора.

10. Рекомендация в отношении политики

Компании Facebook следует обеспечить наличие внутренних правил реализации норм на том языке, на котором модераторы контента рассматривают контент. Если необходимо определить приоритеты, компании Facebook следует в первую очередь сосредоточиться на ситуациях с более высоким риском нарушения прав человека.

* Процедурное примечание.

Решения Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для принятия решения по этому делу от имени Совета было заказано проведение независимого исследования. Независимый исследовательский институт со штаб-квартирой в Гётеборгском университете, опираясь на мнение группы, состоящей из более чем 50 ученых-социологов на шести континентах, а также более 3 200 специалистов из разных стран мира, предоставил экспертную оценку социально-политического и культурного контекста. Лингвистическая экспертиза была проведена компанией Lionbridge Technologies, LLC, специалисты которой владеют более чем 350 языками и работают в 5 000 городов по всему миру.

Return to Case Decisions and Policy Advisory Opinions