"О поясе вампума"

Сводка по делу

Примечание. 28 октября 2021 года компания Facebook объявила об изменении названия компании на Meta. В настоящем тексте слово "Meta" обозначает компанию, а слово "Facebook" по-прежнему относится к продукту и политикам, касающимся конкретного приложения.

Независимый надзорный совет отменил первоначальное решение компании Meta об удалении публикации художника из числа коренных народов Северной Америки с Facebook в соответствии с Нормой сообщества Facebook в отношении враждебных высказываний. Совет установил, что контент подпадает под действие принципов политики в отношении враждебных высказываний для отбора контента, достойного публикации, поскольку он предназначен для повышения осведомленности об исторических преступлениях против коренных народов в Северной Америке.

Сведения о деле

В августе 2021 года пользователь Facebook опубликовал фото пояса вампума с сопроводительным текстовым описанием на английском языке. Пояс вампум — это форма искусства коренных народов Северной Америки в виде сплетенных вместе ракушек, образующих изображения. Такой пояс использовался для увековечения историй и соглашений. На поясе была серия изображений, которые, по словам пользователя, были вдохновлены "the Kamloops story" (историей в Камлупсе). Это отсылка к обнаружению в мае 2021 года безымянных могил в бывшей школе-интернате для детей коренных народов в Британской Колумбии, Канада.

В тексте указано, что название произведения искусства — "Kill the Indian / Save the Man" (Убей индейца, спаси человека), а его автором является пользователь. Пользователь описывает изображения, из которых состоит пояс: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Кража невинных; зло, выдающее себя за спасителя; школа-интернат или концентрационный лагерь; в ожидании раскрытия; верните наших детей домой). В публикации пользователь описывает значение своего произведения искусства, а также историю поясов вампумов и их назначение как средства обучения. Пользователь заявляет, что создать пояс было непросто и что рассказывать историю того, что произошло в Камлупсе, было волнительно. Он приносит извинения за любую боль, которую произведение искусства причиняет пострадавшим в Камлупсе, отмечая, что его "sole purpose is to bring awareness to this horrific story" (единственная цель — повысить осведомленность об этой ужасающей истории).

Автоматизированные системы компании Meta определили контент как потенциально нарушающий Нормы сообщества Facebook в отношении враждебных высказываний на следующий день после его публикации. Специалист по проверке оценил контент как нарушающий правила и удалил его в тот же день. Пользователь отправил запрос на обжалование этого решения в компанию Meta, что побудило проведение второй проверки вручную, по результатам которой контент был также оценен как нарушающий правила. На момент удаления контент просмотрели 4 000 раз. Им поделились более 50 раз. На него не поступило ни одной жалобы.

Совет выбрал этот случай, после чего компания Meta сочла удаление "ошибкой обеспечения соблюдения правил в отношении контента" и восстановила контент 27 августа. Однако компания Мета уведомила пользователя о восстановлении только 30 сентября, через два дня после того, как Совет запросил у нее содержание сообщения, отправленного пользователю. Компания Мета объяснила, что отправку сообщения задержал человеческий фактор.

Основные выводы

Компания Мета согласна с тем, что ее первоначальное решение об удалении этого контента противоречило Нормам сообщества Facebook и было "ошибкой обеспечения соблюдения правил в отношении контента". Совет считает, что этот контент является наглядным примером "ответного действия", когда враждебные высказывания упоминаются для борьбы с притеснениями и дискриминацией.

Во введении к политике Facebook в отношении враждебных высказываний указано, что ответное действие разрешено, если пользователь четко выражает свои намерения. Из содержания публикации очевидно, что она не является враждебным высказыванием. Произведение искусства рассказывает историю того, что произошло в Камлупсе, а сопровождающее его повествование объясняет его значение. Хотя слова "Kill the Indian" (Убей индейца) сами по себе могут представлять собой враждебное высказывание, в контексте эта фраза повышает осведомленность о конкретных проявлениях ненависти и дискриминации, а также осуждает их.

Совет напоминает о своем решении 2020-005-FB-UA по делу о цитате нацистского чиновника. Этот случай предоставляет аналогичные уроки в отношении того, как можно оценивать намерение с помощью показателей, отличных от прямых заявлений, таких как содержание и значение цитаты, время и страна публикации, а также содержание реакций и комментариев к публикации.

В этом случае Совет пришел к выводу, что пользователю не нужно было прямо указывать о своем намерении повысить осведомленность, чтобы публикация считалась ответным действием. Совет обратил внимание на то, что во внутреннем руководстве "Известные вопросы" для модераторов указано, что четкого заявления о намерениях не всегда будет достаточно, чтобы изменить смысл публикации, представляющей собой враждебное высказывание. Ожидается, что модераторы при оценке намерений будут делать выводы из содержания, а не полагаться исключительно на явные заявления.

Два разных модератора пришли к выводу, что эта публикация представляет собой враждебное высказывание. Компания Мета не смогла предоставить конкретные причины, по которым эта ошибка была допущена дважды.

Решение Независимого надзорного совета

Независимый надзорный совет отменяет первоначальное решение Meta об удалении контента.

Совет предоставляет компании Meta следующие рекомендации в отношении политики:

• Предоставлять пользователям своевременное и точное уведомление о любых действиях, предпринимаемых компанией в отношении контента, решение по которому они обжалуют. Когда это применимо, в том числе в случаях возникновения ошибок обеспечения соблюдения правил в отношении контента, подобных этой, в уведомлении, отправляемому пользователю, должно быть указано, что действие было предпринято после проверки Независимым надзорным советом.
• Изучить влияние на правильность принятия решений специалистом по проверке, когда модераторам контента сообщается, что они занимаются вторичной проверкой, чтобы они знали, что изначальное решение было оспорено.
• Оценить принятие решений специалистами по проверке, уделяя основное внимание принципам политики в отношении враждебных высказываний для отбора контента, достойного публикации, которые включают художественные самовыражение и самовыражение в отношении нарушения прав человека (например, осуждение, повышение осведомленности, высказывания, используемые человеком в отношении самого себя или в мотивационных высказываниях). При проведении оценки также должно быть специально изучено, как местоположение специалистов по проверке и находятся ли они в одном и том же или разных регионах, влияет на способность модераторов правильно оценивать враждебные высказывания и ответные действия. Компания Meta должна поделиться результатами этой оценки с Советом, в том числе о том, как результаты будут способствовать усовершенствованию операций по обеспечению соблюдения правил в отношении контента и разработки политики, а также планирует ли она проводить регулярные оценки правильности принятия решений специалистами по проверке в отношении этих принципов отбора контента, достойного публикации. Совет также призывает компанию Meta публиковать сводки по результатам этих оценок в ежеквартальных отчетах о прозрачности для Совета, чтобы продемонстрировать соблюдение компанией этой рекомендации.

* Сводки по делам описывают дела в общих чертах и не имеют прецедентного значения.

Полное описание решения по делу

1. Сводка по решению

Независимый надзорный совет отменяет первоначальное решение компании Meta об удалении публикации художника из числа коренных народов Северной Америки, которая включала фото его произведения искусства с названием, цитирующем исторический случай враждебного высказывания. Компания Meta согласилась с тем, что эта публикация подпадает под действие принципов Нормы сообщества Facebook в отношении враждебных высказываний для отбора контента, достойного публикации, поскольку она была явно предназначена для повышения осведомленности об исторических преступлениях против коренных народов в Северной Америке.

2. Описание дела

В начале августе 2021 года пользователь Facebook опубликовал фото пояса вампума с сопроводительным текстовым описанием на английском языке. Пояс вампум — это форма искусства коренных народов Северной Америки в виде сплетенных вместе ракушек, образующих изображения. Такой пояс использовался для увековечения историй и соглашений. На поясе была серия изображений, которые, по словам пользователя, были вдохновлены "the Kamloops story" (историей в Камлупсе). Это отсылка к обнаружению в мае 2021 года безымянных могил в бывшей школе-интернате для детей коренных народов в Британской Колумбии, Канада.

В тексте указано, что название произведения искусства — "Kill the Indian / Save the Man" (Убей индейца, спаси человека), а его автором является пользователь. Затем пользователь предоставляет список фраз, которые соответствуют серии изображений, из которых состоит пояс: "Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Кража невинных; зло, выдающее себя за спасителя; школа-интернат или концентрационный лагерь; в ожидании раскрытия; верните наших детей домой). В публикации пользователь описывает значение своего произведения искусства, а также историю поясов вампумов и их назначение как средства обучения. Пользователь заявляет, что создать пояс было непросто, и что рассказывать историю того, что произошло в Камлупсе, было очень волнительно. Он продолжает говорить, что эту историю нельзя снова скрывать от общественности, и что он надеется, что пояс поможет предотвратить это. В конце публикации пользователь извиняется за любую боль, которую произведение искусства причиняет тем, кто прошел через систему школ-интернатов, говоря, что его "sole purpose is to bring awareness to this horrific story" (единственная цель — повысить осведомленность об этой ужасающей истории).

Автоматизированные системы компании Meta определили контент как потенциально нарушающий Нормы сообщества Facebook в отношении враждебных высказываний на следующий день после его публикации. Специалист по проверке оценил контент как нарушающий правила и удалил его в тот же день. Пользователь отправил запрос на обжалование этого решения в компанию Meta, что побудило проведение второй проверки вручную, по результатам которой контент был также оценен как нарушающий правила. На момент удаления контент просмотрели 4 000 раз. Им поделились более 50 раз. На него не поступило ни одной жалобы. Совет выбрал этот случай, после чего компания Meta сочла удаление "ошибкой обеспечения соблюдения правил в отношении контента" и восстановила контент 27 августа. Однако компания Мета уведомила пользователя о восстановлении только 30 сентября, через два дня после того, как Совет запросил у нее содержание сообщения, отправленного пользователю. Компания Мета объяснила, что отправку сообщения задержал человеческий фактор. В самом сообщении, отправленном пользователю, ему не сообщили, что его контент был восстановлен в результате отправки им запроса на обжалование в Совет и выбора Советом этого дела.

В комментарии общественности, предоставленному Ассоциацией по делам американских индейцев (комментарий общественности № 10208), указывается, что цитата, использованная в качестве названия произведения искусства, принадлежит Ричарду Генри Пратту, военному офицеру, который основал первую федеральную школу-интернат для индейцев в Соединенных Штатах Америки. Эта фраза в общих чертах обрисовывала политику создания школ-интернатов, направленную на насильственную "цивилизацию" коренных народов и "искоренение всех остатков индейской культуры". Аналогичные политики были приняты в Канаде и были признаны Канадской комиссией по установлению истины и примирению как культурный геноцид.

Ссылка пользователя на то, что произошло в "Kamloops" (Камлупсе), — это отсылка к школе-интернату для индейцев в Камлупсе, бывшей школе-интернату для детей коренных народов в Британской Колумбии, Канада. В мае 2021 года представители общины коренных народов, называющей себя "Народ слияния" (Tk’emlúps te Secwépemc), объявили об обнаружении безымянных могил в Камлупсе. Власти подтвердили 200 возможных мест захоронения в этом районе.

По оценкам правительства Канады, по крайней мере 150 000 детей из числа коренных народов прошли обучение в рамках системы школ-интернатов до того, как последняя школа была закрыта в 1997 году. Детей из числа коренных народов часто насильно изымали из семей, и им запрещалось проявлять какие-либо аспекты культуры коренных народов. В школах применялись суровые и оскорбительные телесные наказания, персонал совершал сексуальное и жесткое насилие в отношении многих учеников, а также допускал его совершение. Ученики недоедали, школы плохо отапливались, уборка в них осуществлялась не надлежащим образом, многие дети умирали от туберкулеза и других болезней из-за недостаточной медицинской помощи. Комиссия по установлению истины и примирению пришла к выводу, что по меньшей мере 4 100 учеников умерли во время учебы в школах. Многие из них умерли из-за плохого обращения или отсутствия заботы, а другие — в результате болезней или несчастных случаев.

3. Полномочия и область принятия решений

Независимый надзорный совет уполномочен пересматривать решение Meta после отправки запроса на обжалование пользователем, чей контент был удален (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка). Совет может подтвердить либо отменить решение Meta, и решение Совета является обязательным для исполнения компанией Meta (статья 4 Устава; раздел 5 статьи 3). В решениях Совета могут содержаться рекомендации в отношении политики и необязательные к исполнению рекомендации, на которые компания Meta должна давать ответ (статья 4 Устава; раздел 4 статьи 3).

Если Совет выбирает случаи, подобные этому, когда компания Meta впоследствии соглашается, что допустила ошибку, Совет анализирует первоначальное решение, чтобы лучше понять причину возникновения ошибок, а также предоставить замечания или рекомендации, которые могут способствовать сокращению количества ошибок и повышению эффективности надлежащего процесса проверки. После решения Совета по делу, касающемуся симптомов рака груди и изображений обнаженного тела (раздел 3 решения 2020-004-IG-UA), Совет утвердил процесс проверки, который позволяет компании Meta выявлять любые ошибки обеспечения соблюдения правил в отношении контента до того, как дело будет передано группе (см. страницу 30 отчетов о прозрачности). В этих случаях то, что компания Meta в своем обосновании уделяет все внимание своему пересмотренному решению, объясняя, что должно было произойти с контентом пользователя, и при этом предлагая Совету придерживаться его как "окончательного" решения компании, не способствует решению этого дела. В дополнение к объяснению того, почему решение, которое обжаловал пользователь, было неправильным, Совет предлагает, чтобы компания Мета объяснила, как произошла ошибка и почему она не была выявлена и исправлена в рамках внутреннего процесса проверки компании. Совет будет продолжать проводить проверки на основании решения, обжалованного пользователем.

4. Надлежащие нормы

Вынося решение, Независимый надзорный совет руководствовался следующими нормами:

I.Нормы сообщества Facebook

В Нормах сообщества Facebook под враждебными высказываниями подразумеваются "прямые нападки на людей, мотивированные так называемыми "характеристиками, подлежащими защите от дискриминации": расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом, гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью". Согласно разделу "1-й уровень", запрещается публиковать контент, содержащий "агрессивные высказывания или высказывания в поддержку насилия в письменной или визуальной форме". Нормы сообщества также включают принципы отбора контента, достойного публикации, чтобы различать контент, не нарушающий правила:

"Нам известно, что люди иногда делятся контентом, который включает чужие враждебные высказывания, чтобы осудить такие высказывания или повысить осведомленность о них. В некоторых случаях высказывания, которые иначе считались бы нарушающими наши нормы, используются человеком в отношении самого себя или в мотивационных высказываниях. Разработанные нами правила допускают существование таких типов высказываний, однако мы требуем, чтобы люди четко выражали свои намерения. В случаях когда цель публикации неясна, мы можем удалить контент".

II. Ценности Meta

Ценности Meta изложены во введении к Нормам сообщества Facebook. Ценность "Свобода самовыражения" описывается как "приоритетная".

Цель Норм сообщества — создать платформу для свободного самовыражения и обмена мнениями. И эта цель остается неизменной. […] Мы хотим, чтобы люди могли открыто высказываться о важных для них проблемах, даже если кто-то не согласен с их мнением или считает его спорным.

Meta ограничивает ценность "Свобода самовыражения" ради четырех других ценностей, две из которых имеют отношение к этому случаю.

"Личная безопасность". Мы делаем всё возможное, чтобы обеспечить безопасность на Facebook. Высказывания и материалы, содержащие угрозы, могут запугивать других людей или заставлять их молчать; такое поведение запрещено на Facebook.

"Достоинство". Мы убеждены, что все люди равны в своем достоинстве и правах. Мы ожидаем, что наши пользователи будут уважать достоинство других людей, а также воздерживаться от травли и унижений.

III. Нормы в области прав человека.

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом по правам человека ООН в 2011 году, устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. В 2021 году компания Meta опубликовалаКорпоративную политику в отношении прав человека, в которой еще раз подтвердила свое обязательство соблюдать права человека в соответствии с РП ООН. При анализе обязанностей компании Meta по защите прав человека в этом деле Совет основывался на нормах в области прав человека, приведенных ниже.

• Свобода самовыражения: статья 19 Международного пакта о гражданских и политических правах (МПГПП); Замечание общего порядка № 34 Комитета по правам человека (2011 г.); статья 5 Международной конвенции о ликвидации всех форм расовой дискриминации (МКЛРД); доклад Специального докладчика ООН по вопросам враждебных высказываний A/74/486 (2019 г.); доклад Специального докладчика ООН по вопросам модерации контента в Интернете A/HRC/38/35 (2018 г.).
• Равенство и отсутствие дискриминации: пункт 1 статьи 2 и статья 26 (МПГПП); статья 2 МКЛРД. Общая рекомендация № 35 Комитета по ликвидации расовой дискриминации (2013 г.).
• Культурные права: статья 27 МПГПП; статья 15 Международного пакта об экономических, социальных и культурных правах (МПЭСКП); доклад Специального докладчика ООН в области культурных прав, доклад о праве на свободу художественного самовыражения и творчества A/HRC/23/34 (2013 г.).
• Права коренных народов: Декларация ООН о правах коренных народов (пункт 2 статьи 7; пункт 1 статьи 8 и статья 19).

5. Заявление пользователя

Пользователь заявил в своем запросе на обжалование, отправленном в Совет, что его публикация демонстрирует фрагмент традиционного произведения искусства, посвященного документальному изложению истории, и что она не имеет ничего общего с враждебным высказыванием. Пользователь также заявил, что эту историю "необходимо увидеть", а удаление публикации компанией Meta назвал "цензурой".

6. Обоснование решения со стороны Meta

Компания Мета сообщила Совету, что фраза "Kill the Indian" (Убей индейца) представляет собой нападок, который относится к контенту 1-го уровня в соответствии с Нормой сообщества Facebook в отношении враждебных высказываний, которая запрещает "агрессивные высказывания", направленные против людей на основе характеристик, подлежащих защите от дискриминации, в том числе по признаку расовой или этнической принадлежности. Однако компания Meta признала, что удаление контента было ошибочным, потому что политика разрешает делиться чужими враждебными высказываниями, чтобы "осудить такие высказывания или повысить осведомленность о них". Компания Meta отметила, что пользователь заявил в публикации, что он публикует ее с целью повышения осведомленности об ужасающей истории того, что произошло в Камлупсе.

Компания Meta отметила, что фраза "Kill the Indian/Save the Man" ("Убей индейца, спаси человека") возникла из-за принудительной ассимиляции детей из коренных народов. Повышая осведомленность об истории в Камлупсе, пользователь также повышал осведомленность о принудительной ассимиляции с помощью школ-интернатов. В ответ на вопрос Совета компания Meta пояснила, что специалисту по проверке контента не нужно было знать эту историю, чтобы правильно применять политику. В публикации пользователя говорилось, что он повышает осведомленность об ужасающей истории, и поэтому специалист по проверке мог сделать разумный вывод о том, что публикация повышает осведомленность о цитируемых в ней враждебных высказываниях.

Компания Meta сообщила Совету, что в этом случае ни один пользователь не пожаловался на контент. Компания Meta использует классификаторы машинного обучения, которые обучены автоматически обнаруживать потенциальные нарушения Норм сообщества Facebook. В этом случае два классификатора автоматически определили публикацию как возможное враждебное высказывание. Первый классификатор, который проанализировал контент, не был уверен, что публикация нарушает Нормы сообщества. Однако другой классификатор на основе ряда контекстных сигналов определил, что публикацией может поделиться и ее может увидеть большое количество людей. Учитывая потенциальный вред, который может быть причинен в результате распространения враждебного высказывания большим количеством людей, система компании Meta автоматически отправила публикацию на проверку вручную.

В ответ на вопросы Совета компания Meta пояснила, что специалист по проверке из Азиатско-Тихоокеанского региона определил, что эта публикация является враждебным высказыванием, и удалил ее с платформы. Пользователь отправил запрос на обжалование, и второй специалист по проверке из Азиатско-Тихоокеанского региона проверил контент и также определил, что это враждебное высказывание. Компания Meta подтвердила Совету, что модераторы не записывают обоснование отдельных решений по контенту.

7.Обращения сторонних лиц

Независимый надзорный совет рассмотрел восемь комментариев общественности по этому делу: четыре из США и Канады, два из Европы, один из стран Африки к югу от Сахары и один из Азиатско-Тихоокеанского региона и Океании. В обращениях затрагивались темы значения цитаты, на основании которой пользователь назвал свое произведение искусства, контекст использования школ-интернатов в Северной Америке и то, как модерация контента компанией Meta влияет на свободу художественного самовыражения и права на самовыражение людей, принадлежащих к коренным народам.

Чтобы ознакомиться с комментариями общественности по этому делу, нажмите здесь.

8.Анализ Независимого надзорного совета

Совет рассмотрел вопрос о восстановлении этого контента в свете трех аспектов: Нормы сообщества Facebook, ценности компании Meta и ее обязательства по защите прав человека.

8.1. Соблюдение Норм сообщества

Компания Мета согласилась с тем, что ее первоначальное решение об удалении этого контента противоречило Нормам сообщества Facebook и было "ошибкой обеспечения соблюдения правил в отношении контента". Совет считает, что в этом случае контент однозначно не является враждебным высказыванием. Этот контент является наглядным примером "ответного действия", когда враждебные высказывания упоминаются или повторно используются для борьбы с притеснениями и дискриминацией.

Норма сообщества в отношении враждебных высказываний прямо допускает возможность делиться "контентом, который включает чужие враждебные высказывания, чтобы осудить такие действия или повысить осведомленность о них". Тем не менее два разных модератора пришли к выводу, что эта публикация представляет собой враждебное высказывание. Компания Мета не смогла предоставить конкретные причины, по которым эта конкретная ошибка была допущена дважды.

По делу в отношении нацисткой цитаты (2020-005-FB-UA) Совет отметил, что контекст, в котором используется цитата, важен для понимания ее значения. В этом случае контент и значение цитаты, время публикации и страна, в которой она была опубликована, а также содержание реакций и комментариев к публикации были четкими указаниями того, что пользователь не собирался восхвалять это враждебное высказывание.

Совет считает, что пользователю не нужно было прямо указывать о своем намерении повысить осведомленность, для того, чтобы цель и значение этой публикации были ясны. Приведенное произведение искусства рассказывает историю того, что произошло в Камлупсе, а сопровождающее его повествование объясняет его значение. Хотя слова "Kill the Indian" (Убить индейца) сами по себе могут представлять собой враждебное высказывание, оценка содержания в целом помогает четко понять, что эта фраза используется для повышения осведомленности и осуждения ненависти и дискриминации. В контенте использовались кавычки, чтобы отличить враждебное высказывание в названии, которое полностью гласило: "Kill the Indian / Save the Man" (Убей индейца, спаси человека). Это должно было заставить специалиста по проверке задуматься и взглянуть глубже. То, как пользователь рассказал историю, что произошла в Камлупсе, и объяснил культурное значение пояса вампума, ясно дает понять, что он отождествляет себя с жертвами дискриминации и насилия, а не с их виновниками. В его рассказе явно осуждалось то, что было обнаружено в Камлупсе. Из комментариев и реакций к публикации было ясно, что аудитория пользователя поняла его намерение осудить и повысить осведомленность.

Совет отмечает, что во внутреннем документе Facebook "Известные вопросы", который является частью руководства для модераторов, указано, что модераторы должны склоняться к удалению контента, содержащего враждебные высказывания, если намерения пользователя не ясны. Во внутреннем руководстве "Известные вопросы" говорится, что четкого заявления о намерениях не всегда будет достаточно, чтобы изменить смысл публикации, представляющей собой враждебное высказывание. Это внутреннее руководство содержит ограниченные инструкции для модераторов о том, как правильно отличить запрещенные враждебные высказывания от ответных действий, в которых цитируются враждебные высказывания для осуждения или повышения осведомленности. Насколько известно Совету, нет никаких указаний относительно того, как оценивать доказательства намерений в художественном контенте, в котором цитируются или используются враждебные высказывания, или в контенте, в котором обсуждаются нарушения прав человека, если такой контент подпадает под действие принципов политики для отбора контента, достойного публикации.

8.2. Соответствие ценностям Meta

Совет считает, что первоначальное решение об удалении этого контента противоречило ценностям компании Meta "Свобода самовыражения" и "Достоинство", а также не осуществлялось для обеспечения ценности "Личная безопасность". Хотя ограничение распространения враждебных высказываний на платформах компании Meta соответствует ее ценностям, Совет обеспокоен тем, что процессы модерации компании Meta не могут должным образом выявлять самовыражение людей, столкнувшихся с маргинализацией или дискриминацией, в виде ответного действия, а также же защищать их способность это делать.

Компания Meta заявила о своей приверженности поддержке ответных действий:

Как сообщество, социальная платформа и объединение общего человеческого опыта, Facebook поддерживает важнейшие инициативы по борьбе с общественным осуждением, обеспечивая соблюдение строгих правил в отношении контента и работая вместе с местными сообществами, разработчиками политики, экспертами и проводниками перемен для реализации инициатив по борьбе с общественным осуждением по всему миру.

Компания Meta утверждает, что ценность "Свобода самовыражения" является для нее самой приоритетной. Искусство, целью которого является освещение ужасов прошлых злодеяний и информирование людей об их долговременном воздействии, является одним из наиболее важных и сильных выражений ценности "Свобода самовыражения", особенно для маргинализированных групп, которые выражают свою собственную культуру и стремятся обеспечить, чтобы их собственная история была услышана. Ответное действие — это не только выражение ценности "Свобода самовыражения", но и основной инструмент жертв враждебных высказываний для защиты собственного достоинства и противодействия притесняющему, дискриминационному и унижающему достоинство поведению. Компания Meta должна гарантировать, что ее правила в отношении контента и методы модерации учитывают и защищают эту форму самовыражения.

Для пользователя, который занимается повышением осведомленности о массовых злодеяниях, сообщение о том, что его высказывание запрещено как враждебное высказывание, является оскорблением его достоинства. Такое обвинение, особенно если оно подтверждается компанией Meta после отправки запроса на обжалование, может привести к самоцензуре.

8.3. Соблюдение обязательств Meta по защите прав человека

Совет приходит к выводу, что удаление этой публикации противоречило обязательствам Meta как компании по защите прав человека. Компания Meta обязалась соблюдать права человека в соответствии с разработанными ООН Руководящими принципами предпринимательской деятельности в аспекте прав человека (РП ООН). В ее Корпоративной политике в отношении прав человека указано, что сюда входит Международный пакт о гражданских и политических правах (МПГПП).

Это первое дело Совета, касающееся художественного самовыражения, а также первое дело, касающееся самовыражения, когда пользователь идентифицирует себя как лицо из числа коренных народов. Это один из нескольких случаев, выбранных Советом, когда пользователь стремился привлечь внимание к серьезным нарушениям прав человека.

Свобода самовыражения (статья 19 МПГПП)

Международные стандарты в области прав человека подчеркивают ценность политического самовыражения (пункт 38 Замечания общего порядка № 34 Комитета по правам человека). Сфера защиты этого права определена в пункте 2 статьи 19 МПГПП, в котором особо упоминается самовыражение "в форме искусства". Международная конвенция о ликвидации всех форм расовой дискриминации (МКЛРД) также обеспечивает защиту от дискриминации при осуществлении права на свободу самовыражения (статья 5), а Комитет, в задачи которого входит контроль соблюдения государствами этой конвенции, подчеркнул важность права в отношении помощи "уязвимым группам в восстановлении баланса сил между слоями общества" и возможностей для высказывания "альтернативной точки зрения и разнообразия мнений" при обсуждении (пункт 29 Рекомендации общего порядка № 35 Комитета по ликвидации расовой дискриминации).

Искусство часто носит политический характер, и международные стандарты признают уникальную и весомую роль этой формы коммуникации в изменении сложившегося положения (пункты 3–4 доклада Специального докладчика ООН в области культурных прав A/HRC/23/34). Интернет и социальные сети, такие как Facebook и Instagram, в частности, имеют особую ценность для художников, так как они привлекают новую и более широкую аудиторию. Их средства к существованию могут зависеть от доступа к социальным платформам, доминирующим в Интернете.

Всем людям гарантируется, что у них будет право на свободу самовыражения и их при этом не будут дискриминировать (пункт 2 статьи 19 МПГПП). Совет получил обращения о том, что права коренных народов на свободное, предварительное и осознанное согласие в тех случаях, когда государства принимают законодательные или административные меры, влияющие на эти сообщества, подразумевают обязанность компании Meta консультироваться с этими сообществами при разработке правил в отношении контента (комментарий общественности № 10240 от Группы по правам меньшинств; см. также статью 19 Декларации ООН о правах коренных народов). Специальный докладчик ООН по вопросам свободы мнения и самовыражения выразил аналогичную озабоченность по поводу обязанностей социальных сетей (пункт 54 доклада A/HRC/38/35).

Контент в этом случае также затрагивает ряд других прав, в том числе права лиц, принадлежащих к национальным, этническим или языковым меньшинствам, иметь вместе с другими членами своей группы свою собственную культуру (статья 27 МПГПП) и право участвовать в культурной жизни, а также заниматься искусством (статья 15 МПЭСКП). Искусство создания пояса вампума, цель которого — увековечить злодеяния в области прав человека и их продолжающееся наследие, а также повысить о них осведомленность, защищается в соответствии со статьей 6(с) Декларации ООН о правозащитниках и правом на установление истины о зверствах (Свод принципов ООН по борьбе с безнаказанностью). Декларация ООН о правах коренных народов прямо признает, что насильственное изъятие детей может быть актом насилия и геноцида (пункт 2 статьи 7), и предоставляет конкретную защиту от насильственной ассимиляции и уничтожения культуры (пункт 1 статьи 8).

Согласно статье 19 МПГПП, если ограничения на свободу самовыражения установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). В своем докладе по вопросам свободы самовыражения Специальный докладчик ООН призвал компании-владельцы социальных сетей руководствоваться этими принципами при модерации самовыражения в Интернете, помня, что масштабное регулирование самовыражения частными компаниями может вызвать озабоченность, особенно в таком контексте (A/HRC/38/35, пункты 45 и 70). До сегодняшнего дня Совет использует во всех своих решениях трехэтапный тест на основании статьи 19 МПГПП.

I. Правомерность (четкость и доступность правил)

Норма сообщества в отношении враждебных высказываний явно разрешает публиковать контент, осуждающий враждебные высказывания или повышающий осведомленность. Эта часть политики достаточна ясна и доступна для пользователей, чтобы понимать правила и действовать соответственно (пункт 25 Замечания общего порядка № 34). Норма законности также требует, чтобы правила, ограничивающие свободу самовыражения, "предоставляли лицам, которым поручено их осуществление, достаточные руководящие указания для того, чтобы они могли определить, на какие формы самовыражения установлены должные ограничения, а на какие — нет" (там же). Неспособность двух модераторов должным образом оценить применение принципов политики для отбора контента, достойного публикации, к этому контенту указывает на то, что модераторам могут потребоваться дополнительные внутренние инструкции.

II. Законная цель

Любое ограничение свободы самовыражения со стороны государства также должно преследовать одну из законных целей, перечисленных в пункте 3 статьи 19 МПГПП. В своих обращениях к Совету компания Мета обычно ссылалась на цели из этого списка, оправдывая действия, предпринятые для подавления самовыражения. Совет ранее признавал, что Норма сообщества Facebook в отношении враждебных высказываний преследует законную цель защиты прав других людей. Эти права включают право на равенство и недискриминацию, свободу самовыражения и право на физическую неприкосновенность.

III. Необходимость и соразмерность

Однозначная ошибка в этом случае означает, что в удалении явно не было необходимости, и компания Meta согласилась с этим. Совет обеспокоен тем, что такая однозначная ошибка может указывать на более глубокие проблемы соразмерности в автоматизированных процессах и процессах проверки вручную компании Meta. Любые ограничения свободы самовыражения должны быть уместными для выполнения своей защитной функции и должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат (пункт 34 Замечания общего порядка № 34). Отвечает ли система модерации контента компании Meta требованиям необходимости и соразмерности, во многом зависит от того, насколько она эффективна в устранении настоящих враждебных высказываний, сводя к минимуму количество ошибочных обнаружений и удалений.

Каждая ошибочно удаленная публикация вредит свободе самовыражения. Совет понимает, что ошибки неизбежны как для людей, так и для машин. Враждебные высказывания и ответы на них всегда зависят от контекста, а их границы не всегда четкие. Однако типы ошибок и люди или сообщества, которые несут бремя этих ошибок, отображают программные решения, которые необходимо постоянно оценивать и изучать. Это требует дальнейшего изучения первопричин ошибки в этом случае и более широкой оценки того, насколько эффективно модерируются ответные действия.

Учитывая важность критического искусства художников из числа коренных народов в борьбе с ненавистью и притеснениями, Совет ожидает, что компания Meta будет особенно внимательна к возможности неправомерного удаления контента в этом случае и аналогичного контента на Facebook и в Instagram. Недостаточно оценивать в целом эффективность обеспечения компанией Meta соблюдения политики в отношении враждебных высказываний. Система, которая в среднем работает хорошо, может потенциально плохо работать с подкатегориями контента, неправильные решения в отношении которого могут иметь особенно сильное влияние на права человека. Не исключено, что типы ошибок, которые произошли в этом случае, встречаются редко; однако Совет отмечает, что члены маргинализированных групп выражали озабоченность по поводу количества и влияния ошибочных удалений в течение нескольких лет. Ошибки в этом случае показывают, что компания Meta должна продемонстрировать, что она предприняла должную осмотрительность в отношении прав человека, чтобы убедиться, что ее системы работают справедливо и не усугубляют исторические и продолжающиеся притеснения (принцип 17 РП ООН).

Meta регулярно оценивает правильность принятия решений системами для обеспечения соблюдения правил в отношении контента в борьбе с враждебными высказываниями. Эта оценка не состоит из оценок правильности принятия решений, которые конкретно измеряют способность компании Meta отличать враждебные высказывания от разрешенного контента, осуждающего враждебные высказывания или повышающего осведомленность.

Существующие процессы компании Meta также включают специальные механизмы для выявления тенденций к ошибкам и исследования их первопричин, но для этого требуются большие образцы контента, на основе которых можно измерить производительность системы. Совет задал вопрос компании Meta, оценивала ли она производительность своих систем проверки конкретно с точки зрения правильной оценки ответных действий, представляющих собой художественное самовыражение, и ответных действий, повышающих осведомленность о нарушениях прав человека. Компания Meta ответила Совету, что не проводила конкретного исследования влияния ошибочных удалений на художественное самовыражение или на самовыражение людей, принадлежащих к коренным народам.

Компания Meta сообщила Совету о препятствиях для начала таких оценок, в том числе об отсутствии системы для автоматизации сопоставления выборки контента, на который распространяются принципы политики для отбора контента, достойного публикации. Это произошло потому, что специалисты по проверке помечают контент как нарушающий или не нарушающий правила, и не обязаны указывать, когда на контент, нарушающий правила, распространяются принципы политики для отбора контента, достойного публикации. Выборку ответных действий, на которые распространяются принципы отбора контента, достойного публикации, необходимо будет собрать вручную.

Хотя Совет был обнадежен уровнем детализации в отношении того, как компания Meta оценивает производительность, во время сессии вопросов и ответов, проведенной по запросу Совета, очевидно, что необходимы дополнительные инвестиции для оценки правильности обеспечения соблюдения принципов политики в отношении враждебных высказываний для отбора контента, достойного публикации, и извлечения уроков из тенденций ошибок. Без дополнительной информации о проектных решениях компании Meta и производительности ее автоматизированных систем и систем проверки вручную Совету или компании Meta трудно оценивать соразмерность нынешнего подхода компании к враждебным высказываниям.

При оценке необходимости и соразмерности использования конкретных инструментов машинного обучения в работе в этом случае для автоматического обнаружения потенциальных враждебных высказываний основным моментом является понимание правильности принятий решений этими инструментами. Классификаторы машинного обучения всегда предполагают компромисс между количеством ложноположительных и ложноотрицательных результатов. Чем более чувствительным является классификатор, тем выше вероятность, что он правильно определит случаи враждебных высказываний, но также существует большая вероятность, что он ошибочно пометит материал, который не является враждебным высказыванием. По-разному обученные классификаторы и разные модели различаются по своей полезности и эффективности для разных задач. Для любой конкретной модели могут использоваться разные пороговые значения, которые отражают суждение об относительной важности избежания различных типов ошибок. Вероятность и серьезность ошибок также должны определять решения о том, как использовать классификатор, в том числе о том, может ли он немедленно принять меры или требуется одобрение человеком, а также какие меры предосторожности приняты.

Компания Meta объяснила, что в этом случае публикация была отправлена на проверку автоматизированными системами, потому что, вероятно, ее могла увидеть большая аудитория. Такой подход может ограничить распространение враждебных высказываний, но также может увеличить риск того, что сильное искусство, противодействующее ненависти, будет ошибочно удалено. Компания Meta сообщила Совету, что регулярно оценивает количество ложноположительных результатов с течением времени, сравнивая с решениями специалистов по проверке. Компания Meta также отметила, что можно было оценить правильность принятия решений конкретными моделями машинного обучения, которые были актуальны в этом случае, и что она хранит информацию о прогнозах своих классификаторов не менее 90 дней. Совет запросил информацию, которая позволила бы ему оценить производительность классификатора и уместность пороговых значений, использованных компанией Meta в этом случае. Компания Meta сообщила Совету, что не может предоставить запрашиваемую им информацию, потому что у нее не было достаточно времени, чтобы ее подготовить. Однако компания Meta отметила, что рассматривает возможность предоставления этой информации в будущих делах.

Проверка вручную может обеспечить две важные гарантии работы классификаторов компании Meta: сначала перед удалением публикации, а затем снова после обжалования. Ошибки в этом случае указывают на то, что модераторам может быть недостаточно рекомендаций Meta при оценке ответных действий. Существует множество причин, по которым модераторы могли дважды принять неправильное решение в этом случае. Совет обеспокоен тем, что специалисты по проверке могут не располагать достаточными ресурсами с точки зрения времени или обучения для предотвращения ошибок, допущенных в этом случае, особенно в отношении контента, разрешенного в соответствии с принципами политики для отбора контента, достойного публикации (в том числе, например, "осуждающий" враждебные высказывания и "повышающий осведомленность").

В этом случае оба специалиста по проверке находились в Азиатско-Тихоокеанском регионе. Компания Meta не смогла предоставить Совету информацию о том, различались ли показатели правильности принятия решений специалистами по проверке для модераторов, оценивающих потенциальные враждебные высказывания, которые не находились в регионе, где был создан контент. Совет отмечает сложность оценки враждебных высказываний и трудность понимания местного контекста и истории, особенно с учетом объема контента, который модераторы проверяют каждый день. Вполне возможно, что модераторы, оценивавшие контент в этом случае, знали меньше о притеснениях коренных народов в Северной Америке. Руководство должно включать четкие инструкции по оценке контента в целом и помогать модераторам более правильно оценивать контекст для определения доказательств намерения и значения.

Совет рекомендовал в своем решении в отношении мема в виде двух кнопок (2021-005-FB-UA), чтобы компания Meta позволяла пользователям указывать в своем запросе на обжалование, что их контент подпадает под действие одного из принципов политики Facebook в отношении враждебных высказываний для отбора контента, достойного публикации. В настоящее время, когда пользователь отправляет запрос на обжалование одного из решений компании Meta, которое передается на проверку вручную, специалисту по проверке не сообщается, что пользователь обжалует предыдущее решение, и он не знает результатов предыдущей проверки. Хотя компания Meta проинформировала Совет, что, по ее мнению, наличие такой информации может привести к предвзятой проверке, Совет интересуется, может ли эта информация повысить вероятность принятия более тщательных решений. Это вопрос, который компания Meta могла бы проверить эмпирическим путем; результаты этих тестов были бы полезны при оценке соразмерности конкретных мер, которые компания Meta решила принять.

Согласно РП ООН, компания Meta несет ответственность за должную осмотрительность в вопросах прав человека (принцип 17). Это должно включать выявление любых неблагоприятных воздействий модерации контента на художественное самовыражение и политическое самовыражение коренных народов в борьбе с дискриминацией. Компания Meta должна также определить, как она будет предотвращать, смягчать и учитывать свои усилия по устранению этих неблагоприятных воздействий. Совет стремится отслеживать результаты деятельности компании Meta и ожидает, что компания уделит первостепенное внимание рискам для маргинализированных групп и продемонстрирует доказательства постоянных улучшений.

9.Решение Независимого надзорного совета

Независимый надзорный совет отменяет первоначальное решение Meta об удалении контента.

10. Рекомендательное заявление о политике

Обеспечение соблюдения правил в отношении контента

1. Предоставлять пользователям своевременное и точное уведомление о любых действиях, предпринимаемых компанией в отношении контента, решение по которому они обжалуют. Когда это применимо, в том числе в случаях возникновения ошибок обеспечения соблюдения правил в отношении контента, подобных этой, в уведомлении, отправляемому пользователю, должно быть указано, что действие было предпринято после проверки Независимым надзорным советом. Компания Meta должна делиться сообщением, отправленным пользователю, когда действия Совета влияют на решения по контенту, в отношении которых пользователи отправили запрос на обжалование, чтобы продемонстрировать выполнение компанией этой рекомендации. Эти действия должны быть предприняты в отношении всех случаев, которые исправляются на этапе отбора Советом для рассмотрения.

2. Изучить влияние модифицированных подходов к вторичной проверке на правильность принятия решений и скорость обработки информации специалистами по проверке. В частности, Совет требует оценки показателей правильности принятия решения, когда модераторам контента сообщается, что они занимаются вторичной проверкой, чтобы они знали, что изначальное решение было оспорено. В идеале этот эксперимент должен включать возможность предоставления пользователями соответствующего контекста, который может помочь специалистам по проверке оценить их контент в соответствии с предыдущими рекомендациями Совета. Компания Meta должна поделиться результатами этих оценок правильности принятия решений с Советом и обобщить результаты в своем ежеквартальном отчете прозрачности для Совета, чтобы продемонстрировать соблюдение компанией этой рекомендации.

3. Провести оценки правильности принятия решений, уделяя основное внимание принципам политики в отношении враждебных высказываний для отбора контента, достойного публикации, которые включают художественные самовыражение и самовыражение в отношении нарушения прав человека (например, осуждение, повышение осведомленности, высказывания, используемые человеком в отношении самого себя или в мотивационных высказываниях). При проведении оценки также должно быть специально изучено, как местоположение специалистов по проверке и находятся ли они в одном и том же или разных регионах, влияет на способность модераторов правильно оценивать враждебные высказывания и ответные действия. Совет понимает, что этот анализ, вероятно, потребует разработки соответствующих и правильно помеченных образцов соответствующего контента. Компания Meta должна поделиться результатами этой оценки с Советом, в том числе о том, как эти результаты будут способствовать усовершенствованию операций по обеспечению соблюдения правил в отношении контента и разработки политики, а также планирует ли она проводить регулярные оценки правильности принятия решений специалистами по проверке в отношении этих принципов отбора контента, достойного публикации, и обобщить результаты в своем ежеквартальном отчете прозрачности для Совета, чтобы продемонстрировать соблюдение ею этой рекомендации.

* Процедурное примечание.

Решения Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для принятия решения по этому делу от имени Совета было заказано проведение независимого исследования. Опираясь на мнение группы, состоящей из более чем 50 ученых-социологов с шести континентов и свыше 3 200 страноведов из разных частей мира, а также консультационной фирмы Duco Advisers, область специализации которой находится на стыке аспектов геополитики, доверия, безопасности и технологий, независимый исследовательский институт при Гётеборгском университете провел экспертную оценку социально-политического и культурного контекста.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas