Гендерная идентичность и изображение обнаженного тела

Сводка по делу

Независимый надзорный совет отменил первоначальные решения Meta об удалении двух публикаций Instagram, изображающих трансгендерных и небинарных людей с обнаженной грудью. Он также рекомендует Meta внести изменения в Норму сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей так, чтобы она регулировалась четкими критериями, учитывающими международные стандарты прав человека.

Сведения о деле

Независимый надзорный совет впервые рассматривает два дела вместе. Два отдельных материала были опубликованы одним аккаунтом Instagram: первый в 2021 г., а второй — в 2022 г. Аккаунт принадлежит паре из США, которые идентифицируют себя как трансгендерных и небинарных людей.

Обе публикации включают изображения пары с обнаженной грудью, но закрытыми сосками. В подписи говорится о здоровье трансгендеров и о том, что одному из членов пары вскоре предстоит хирургическая операция на груди (операция по изменению пола для создания более плоской груди), на которую пара собирает деньги.

После ряда оповещений от автоматических систем Meta и жалоб пользователей публикации были проверены несколько раз на предмет потенциального нарушения различных Норм сообщества. В конечном итоге Meta удалила обе публикации за нарушение Нормы сообщества в отношении сексуального домогательства, по всей очевидности потому, что они содержали изображение грудей и ссылку на страницу сбора денег.

Пользователи подали обжалование в Meta, а затем в Совет. После того как Совет занялся этим делом, Meta постановила, что публикации были удалены по ошибке, и восстановила их.

Основные выводы

Независимый надзорный совет постановил, что удаление указанных публикаций противоречит Нормам сообщества Meta, ценностям компании и ее обязанностям по защите прав человека. Эти дела также выявили важные проблемы, связанные с правилами Meta.

Внутренние инструкции Meta для модераторов в отношении удаления контента в рамках правила о сексуальном домогательстве гораздо шире, чем заявленное обоснование правила или общедоступные инструкции. Это вводит в заблуждение пользователей и модераторов и, как признала Meta, ведет к ошибочному удалению контента.

Как минимум по одному делу публикация была передана на проверку вручную автоматической системой, обученной для применения Нормы сообщества в отношении изображения обнаженного тела взрослых людей и действий сексуального характера. Эта Норма запрещает изображения женских сосков, за исключением определенных ситуаций, таких как кормление грудью и хирургические операции для подтверждения пола.

Это правило основано на бинарном представлении о поле и различии мужского и женского тела. Такой подход затрудняет применение правил в отношении интерсексуальных, небинарных и трансгендерных людей и требует от проверяющих принятия быстрых и субъективных оценок в отношении пола человека, что не может считаться практичным при модерации контента на массовом уровне.

Ограничения и исключения в правилах в отношении женских сосков чрезмерны и неоднозначны, в особенности при применении к транcгендерным и небинарным людям. Исключения по этому правилу варьируются от протестов до сцен рождения детей и контекста медицины и здравоохранения, включая хирургические операции на груди и информирование о проблемах рака груди. Эти исключения часто неоднозначны и недостаточно четко определены. В некоторых контекстах, например, от модераторов требуется оценить масштабы и характер видимого рубцевания, чтобы определить применяемые исключения. Недостаток четкости, присущий этому правилу, создает неопределенность для пользователей и проверяющих и затрудняет его осуществимость на практике.

Совет регулярно напоминает Meta о необходимости учитывать влияние правил компании на людей, подвергающихся дискриминации (см. например, решения по делам "О поясе вампума" и "О возвращении первоначального значения словам на арабском языке"). В данном случае Совет обнаружил, что правила Meta в отношении изображения обнаженного тела взрослых людей стали большим препятствием для самовыражения женщин, трансгендеров и небинарных людей на платформах компании. Например, они серьезно сказываются на таких контекстах, когда женщины традиционно обнажают грудь, и интересы людей, идентифицирующих себя как ЛГБТКИ+, могут быть затронуты несоразмерно, как показывают данные дела. Автоматические системы Meta идентифицировали этот контент несколько раз, хотя он не нарушает правила компании.

Meta следует разработать и внедрить правила, учитывающие все этих аспекты. Компании следует изменить подход к вопросам изображения обнаженного тела на своих платформах, определив четкие критерии, регулирующие правило в отношении изображения обнаженного тела и действий сексуального характера взрослых людей, чтобы гарантировать равное отношение ко всем пользователям согласно стандартам в области прав человека. Кроме того, следует проверить, обеспечивает ли правило в отношении изображения обнаженного тела и действий сексуального характера взрослых людей защиту от публикации изображений без обоюдного согласия. Возможно, потребуется внести соответствующие изменения и в другие правила в этом отношении.

Решение Независимого надзорного совета

Независимый надзорный совет отменяет первоначальное решение Meta об удалении публикаций.

Совет также рекомендует компании Meta:

• Определить четкие, объективные, учитывающие права критерии регулирования Нормы сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей, чтобы обеспечить равное отношение ко всем людям согласно международным стандартам в области прав человека без дискриминации по половому признаку. Meta следует провести комплексную оценку влияния такого изменения на права человека, в которой будут участвовать разные заинтересованные лица, и выработать план по устранению соответствующих неблагоприятных последствий.
• Предоставить в общедоступной Норме сообщества в отношении сексуального домогательства дополнительные сведения о критериях, которые ведут к удалению контента.
• Пересмотреть инструкции для модераторов в отношении Нормы сообщества о сексуальном домогательстве с тем, чтобы они более точно отражали положения общедоступного правила. Это позволит сократить ошибки в применении правил со стороны Meta.

*Сводки по делам описывают дела в общих чертах и не имеют прецедентной силы.

Полное описание решения по делу

1. Сводка по решению

Независимый надзорный совет отменяет первоначальные решения Meta по двум делам о публикациях Instagram, удаленных Meta. Meta признала, что ее первоначальные решения в обоих случаях были ошибочными. Эти дела поднимают важные вопросы в отношении того, что правила Meta несоразмерно влияют на права на самовыражение женщин и представителей сообщества ЛГБТКИ+ на платформах компании. Совет рекомендует Meta определить четкие, объективные, учитывающие права критерии регулирования всего правила в отношении изображения обнаженного тела и действий сексуального характера взрослых людей, включая равное отношение ко всем людям согласно международным стандартам в области прав человека без дискриминации по половому признаку или гендерной идентичности. Прежде всего, Meta необходимо провести комплексную проверку влияния на права человека, чтобы оценить последствия принятия таких критериев с учетом разнообразных идеологических, географических и культурных контекстов, в которой будет участвовать широкий круг заинтересованных лиц по принципу инклюзивности. В случае если такая проверка выявит потенциальные негативные последствия, при внедрении нового правила следует реализовать план по смягчению таких последствий.

Совет также рекомендует Meta уточнить общедоступное правило в отношении сексуального домогательства и сузить внутренние инструкции по его применению для более эффективной обработки таких нарушений.

2. Описание и краткая предыстория дела

Эти дела связаны с двумя решениями по контенту, принятыми Meta, которые Независимый надзорный совет рассматривает вместе в рамках этого решения. Два разных изображения с подписью были опубликованы в Instagram одним аккаунтом, которой принадлежит паре из США. На обоих изображениях была показана эта пара, участники которой и в публикации, и в материалах, переданных Совету, заявляли, что идентифицируют себя как трансгендерных и небинарных людей.

Meta удалила обе публикации в рамках Нормы сообщества о сексуальном домогательстве. В обоих случаях, автоматизированные системы Meta установили, что данный контент потенциально нарушает правила.

На первом изображении, опубликованном в 2021 г., оба человека показаны с обнаженной грудью, и их соски закрывает лента телесного цвета. На втором изображении, опубликованном в 2022 г., один человек одет, тогда как другой показан с обнаженной грудью и прикрывает соски руками. В подписях к этим изображениям говорится о том, что человеку с обнаженной грудью на обоих изображениях вскоре предстоит операция на груди для подтверждения пола, направленная на уменьшение груди. Они сообщают о планах задокументировать процесс хирургической операции и обсуждают проблемы, связанные со здоровьем трансгендеров. Они сообщают, что проводят сбор пожертвований для оплаты операции, так как столкнулись с трудностями при получении страховой выплаты в отношении этой процедуры.

В первом случае изображение первоначально автоматически было классифицировано как маловероятное нарушение правил. Жалоба была закрыта без проверки, а контент изначально сохранен на платформе. После этого три пользователя пожаловались на контент с указанием причины "порнография" и "причинение себе вреда". Эти жалобы были проверены модераторами, которые определили, что публикация не нарушает правила. После того как на контент пожаловался четвертый пользователь, другой проверяющий решил, что публикация нарушает Норму сообщества в отношении сексуального домогательства и удалил ее.

Во втором случае публикация дважды идентифицировалась автоматическими системами Meta и передавалась на проверку вручную. Оба раза проверка подтвердила, что нарушений нет. После этого два пользователя пожаловались на контент, но обе жалобы были закрыты автоматически без проверки вручную и контент был сохранен в Instagram. Наконец, автоматизированные системы Meta установили, что идентифицировали контент в третий раз и отправили его на проверку вручную. Последние два раза автоматический классификатор изображения обнаженного тела и действий сексуального характера взрослых людей пометил контент, но причина таких повторных проверок неясна. В ходе окончательной проверки вручную проверяющий решил, что публикация нарушает Норму сообщества в отношении сексуального домогательства, и удалил ее.

Владельцы аккаунта отправили в Meta запрос на обжалование обоих решений об удалении, и контент был проверен вручную в обоих случаях. Тем не менее, эти проверки не привели к восстановлению публикаций. Владельцы аккаунта отправили запрос на обжалование обоих решений об удалении в Совет. Совет решил рассмотреть оба дела вместе, впервые в своей истории. Это было сделано с целью выявления сходных проблем в правилах и процессах Meta в отношении контента и поиска решений, которые помогли бы устранить такие проблемы.

После того как Совет выбрал эти публикации, и компанию Meta попросили предоставить обоснование решения об удалении контента, Meta определила, что удаление произошло в результате "ошибок в применении правил" и восстановила публикации.

Анализируя причины, по которым эти дела проливают свет на важные проблемы, Совет в качестве важного контекста отмечает большое число комментариев общественности, полученных в рамках этих дел, многие из которых принадлежали людям, идентифицирующим себя как транссексуалов, небинарных или цисгендерных женщин, которые объясняли, что лично столкнулись с ошибками применения правил и проблемами, аналогичными тем, с которыми связаны данные дела.

Совет также отмечает в качестве важного контекста научное исследование (также цитируемое в комментариях общественности) таких авторов, как Хэймсон (Haimson) и проч., Уитт, Сьюзор и Хаггинс (Witt, Suzor, Huggins), и два отчета сообщества Salty об алгоритмической предвзятости и цензуры в отношении маргинализированных сообществ. Эти исследования выявили, что ошибки в применении двух Норм сообщества, рассматриваемых в рамках этих дел, несоразмерно влияют на женщин и представителей ЛГБТКИ+. Соавтор одного из этих исследований является членом Независимого надзорного совета.

3. Полномочия и сфера действия Независимого надзорного совета

Независимый надзорный совет уполномочен пересматривать решение Meta после отправки запроса на обжалование пользователем, чей контент был удален (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка).

Совет может подтвердить либо отменить решение Meta (раздел 5 статьи 3 Устава), и решение Совета является обязательным для исполнения компанией Meta (статья 4 Устава). Компания Meta также должна оценить возможность применения своего решения в отношении аналогичного контента в сходном контексте (статья 4 Устава). В решениях Совета могут содержаться консультации и рекомендации в отношении правил, на которые компания Meta должна давать ответ (раздел 4 статьи 3 Устава; статья 4).

При выборе Советом дел, аналогичных этим, когда Meta признает ошибочность решения после указания дела Советом, Совет рассматривает первоначальное решение. Это делается с целью более четкого понимания параметров правил и процессов модерирования контента, которые способствовали возникновению ошибки, и решения проблем в соответствующих правилах, выявленных Советом. В задачи Совета также входит разработка рекомендаций по снижению вероятности будущих ошибок и более справедливому отношению к пользователям в дальнейшем.

Когда Совет обнаруживает дела, где поднимается одинаковая проблематика, они могут быть переданы на рассмотрение совместно и одновременно. Обязательное к исполнению решение будет принято в отношении каждого элемента контента.

4. Источники полномочий

Независимый надзорный совет руководствовался следующими источниками права и нормами:

I. Решения Независимого надзорного совета

• Решение по делу "О возвращении первоначального значения словам на арабском языке" (2022-003-IG-UA). Совет проанализировал проблемы, связанные с применением исключений из правил и непропорциональным влиянием некоторых возможностей выбора в рамках правила.
• Решение по делу "О поясе вампума" (2021-012-FB-UA). Совет проанализировал проблемы, связанные с применением исключений из правил и непропорциональным влиянием некоторых возможностей выбора в рамках правила.
• "О симптомах рака молочной железы и изображении обнаженного тела" (2020-004-IG-UA). Совет проанализировал Руководство сообщества Instagram и порекомендовал Meta пояснить, что существует исключение с целью привлечения внимания к проблемам рака груди.

II. Правила Meta в отношении контента

Эти дела имеют отношение к Руководству сообщества Instagram и Нормам сообщества Facebook. Центр прозрачности Meta заявляет, что "Facebook и Instagram используют общие правила в отношении контента. Это означает, что если контент признан нарушающим правила Facebook, то он также считается нарушающим правила Instagram".

Сексуальное домогательство

В Руководстве сообщества Instagram заявляется о недопустимости "предложения сексуальных услуг". Это положение затем ссылается на Норму сообщества Facebook в отношении сексуального домогательства.

В обосновании правила о сексуальном домогательстве Meta заявляет следующее: "Однако мы не допускаем публикацию контента, который облегчает, поощряет или координирует половые контакты либо коммерческие услуги сексуального характера между взрослыми людьми. Мы делаем это, чтобы не способствовать транзакциям, которые могут быть связаны с торговлей людьми, принуждением и действиями сексуального характера без согласия. Мы также ограничиваем использование выражений сексуального характера, которые в определенных регионах из-за особенностей культуры могут расцениваться как сексуальное домогательство и препятствовать общению с друзьями и сообществом в целом".

В Норме сообщества Facebook в отношении сексуального домогательства заявляется, что Meta запрещает как явное, так и неявное домогательство. Неявное домогательство определяется по двум критериям: чтобы контент был признан нарушающим правило, должны быть соблюдены оба критерия. Первый критерий — "предложение или запрос", то есть "контент, представляющий собой неявное или непрямое сексуальное домогательство в виде предложения или запроса (обычно посредством предоставления контактных данных)". Второй критерий — "провокационные элементы", то есть "контент, который содержит упомянутые выше предложение или запрос с использованием следующих элементов с сексуальным подтекстом". Перечисленные элементы включают "региональный сленг с сексуальным подтекстом" и "позы".

Изображение обнаженного тела и действий сексуального характера взрослых людей

Руководство сообщества Instagram гласит, что пользователи должны: "Публиковать фото и видео, уместные для разнообразной аудитории. Мы знаем, что иногда людям хочется поделиться изображениями обнаженных тел из творческих или художественных соображений, но есть ряд причин, по которым такие изображения в Instagram запрещены. В число запрещенных входят фото, видео и некоторые цифровые материалы, изображающие половые сношения, гениталии и изображения полностью обнаженных ягодиц крупным планом. К ним также относятся некоторые фото женских сосков, однако разрешены фото в контексте грудного вскармливания, родов и послеродовых моментов, ситуаций, связанных со здоровьем (таких как восстановление после мастэктомии, повышение осведомленности о проблеме рака груди или операция по смене пола), либо актов протеста". Этот раздел ссылается на правило об изображениях обнаженного тела и действий сексуального характера взрослых людей Facebook, в котором эти положения рассматриваются более подробно.

В обосновании Нормы сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей Meta в том числе поясняет, что: "Мы запрещаем публиковать изображения обнаженного тела или половых актов, поскольку часть людей в нашем сообществе может посчитать такой контент оскорбительным. Кроме того, мы удаляем изображения сексуального характера во избежание публикации контента без согласия людей, которые в нем фигурируют, а также контента, в котором фигурируют несовершеннолетние".

Facebook’s Правило в отношении изображения обнаженного тела и действий сексуального характера взрослых людей также гласит: "Запрещается публиковать: неприкрытые женские соски, за исключением изображений моментов грудного вскармливания, родов и послеродовых моментов, ситуаций, связанных с медициной и здравоохранением (например, восстановление после мастэктомии, профилактика рака груди или операции по смене пола), или актов протеста". Пользователи также могут публиковать изображения гениталий в "контексте медицины или здравоохранения" (включая операции по смене пола), однако с применением предупреждающей пометки о том, что контент является потенциально неприемлемым. Кроме того, в отношении изображения сосков и соответствующих исключений действует по крайней мере 18 дополнительных внутренних инструкций.

III. Ценности Meta

Ценности Meta изложены во введении к Нормам сообщества Facebook, где ценность "Свобода самовыражения" определяется как "приоритетная".

Цель Норм сообщества всегда состояла в том, чтобы создать платформу для самовыражения и предоставить людям возможность высказывать свои мнения. […] Мы стремимся дать пользователям возможность свободно высказываться о важных для них проблемах, даже если некоторые люди не соглашаются с какими-либо мнениями или считают их спорными.

Meta ограничивает ценность "Свобода самовыражения" во имя соблюдения четырех других ценностей, две из которых имеют отношение к этому делу.

"Личная безопасность". Мы делаем всё возможное, чтобы обеспечить безопасность на Facebook. Высказывания и материалы, содержащие угрозы, могут запугивать, призывать к бойкоту других людей или заставлять их молчать; такое поведение запрещено на Facebook.

"Достоинство". Мы убеждены, что все люди равны в своем достоинстве и правах. Мы ожидаем, что наши пользователи будут уважать достоинство других людей, а также воздерживаться от травли и унижений.

Международные нормы в области прав человека.

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом по правам человека ООН в 2011 г., устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. В 2021 г. компания Meta опубликовала свою Корпоративную политику в отношении прав человека, в которой ещё раз подтвердила свои намерения соблюдать права человека в соответствии с РП ООН. При анализе обязанностей компании Meta по защите прав человека в рамках этих дел Совет основывался на приведенных ниже нормах в области прав человека.

• Права на свободу убеждений и их свободное выражение: статья 19 Международного пакта о гражданских и политических правах (МПГПП), Замечание общего порядка № 34 Комитета по правам человека, 2011 г.; сообщение 488/1992; Резолюция № 32/2 Совета по правам человека, 2016 г.; доклады Специального докладчика ООН по вопросам защиты права на свободу мнений и их свободное выражение: A/HRC/38/35 (2018 г.) и A/74/486 (2019 г.).
• Права женщин: статья 2 и статья 5 Конвенции о ликвидации всех форм дискриминации в отношении женщин (КЛВФДОЖ).
• Право на отсутствие дискриминации: пункт 1 статьи 2 и статья 26 МПГПП. "Непомнящий против Российской Федерации", Комитет по защите прав человека, 2018 г. (CCPR/C/123/D/2318/2013).

5. Заявления пользователя

В своем заявлении по этим делам пользователи сообщили, что, по их мнению, контент был удален по причине трансфобии. Они написали, что если Совет подтвердит, что этот контент должен остаться на платформе, это решение поможет сделать Instagram более благоприятным пространством для самовыражения представителей ЛГБТКИ+.

6. Заявления Meta

Meta в обосновании своего решения пояснила, что оба случая удаления контента были связаны с ошибками применения правил и ни одна из публикаций не нарушает правила о сексуальном домогательстве. По словам Meta, "единственное соответствие критерию "предложение или запрос" здесь — просьба о пожертвованиях или посещении веб-сайта для покупки футболок, ни то, ни другое никак не связано с сексуальным домогательством".

Meta также заявляет, что данные публикации не нарушают Норму сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей. Обоснование гласит, что внутренние "инструкции для проверяющих особым образом указывают на действия в отношении изображения обнаженного тела небинарных, гендерно нейтральных или трансгендерных людей. Контент в этом случае был опубликован в "однозначно небинарном или трансгендерном контексте, как свидетельствует общая тема контента (хирургическая операция на груди) и используемые хэштеги". Meta пришла к заключению, что "даже если соски в этих случаях были видны и неприкрыты, это не является нарушением нашего правила в отношении изображения обнаженного тела и действий сексуального характера взрослых людей". Meta также признала, что на обоих изображениях соски были "полностью закрыты".

Учитывая время, прошедшее с момента удаления контента, Meta не смогла сообщить Совету, какое правило или правила применялись всеми различными автоматическими системами, которые определили контент как потенциально нарушающий правила. В одном случае Meta удалось объяснить, что контент был дважды поставлен в очередь на проверку классификаторами по изображениям обнаженного тела и действиям сексуального характера взрослых людей. Meta также не удалось предоставить объяснение тому факту, почему проверяющие решили, что контент нарушает правило о сексуальном домогательстве. В обосновании подтверждается, что Meta "известно о том, что некоторые проверяющие контента могут некорректно удалять контент как неявное сексуальное домогательство (хотя он им и не является) из-за слишком формального применения наших внутренних инструкций для проверяющих".

Совет задал Meta 18 вопросов, и на все из них были получены ответы.

7. Публичное обсуждение

Независимый надзорный совет рассмотрел 130 комментариев общественности, связанных с этими делами. Восемьдесят семь комментариев были отправлены из США и Канады, 19 — из Европы, 10 — из Азиатско-Тихоокеанского региона и Океании, 1 — из Латинской Америки и Карибского бассейна, 1 — из Ближнего Востока и Северной Африки, 1 — из стран Африки к югу от Сахары и 1 — из Центральной и Южной Азии.

Комментарии касались следующих тем: некорректного удаления контента, опубликованного трансгендерными, небинарными пользователями и женщинами; несправедливое и неравное деление по признаку пола при определении допустимых форм изображения обнаженного тела на платформе; неоднозначности в отношении допустимого контента в рамках Норм сообщества об изображении обнаженного тела и действиях сексуального характера взрослых людей и сексуальном домогательстве; а также значимости социальных сетей для самовыражения в тех обществах, где права представителей ЛГБТКИ+ находятся под угрозой.

Чтобы ознакомиться с комментариями общественности по этим делам, нажмите здесь. Ряд полученных комментариев не включен в подборку, так как они содержали личные данные в отношении людей, не являющихся авторами комментариев.

8. Анализ Независимого надзорного совета

Совет рассмотрел вопрос о целесообразности восстановления этих публикаций с трех сторон: правила Meta в отношении контента, ценности компании и ее обязанности по защите прав человека.

Совет выбрал эти дела, так как удаление контента, не нарушающего правила, опубликованного людьми, связанными с маргинализированными группами, влияет на их свободу самовыражения. Это особенно важно, поскольку Instagram может являться значимой площадкой для формирования сообщества такими группами. Эти дела демонстрируют, как ошибки в применении правил могут несоразмерно влиять на определенные группы, и указывают на более широкие проблемы в правилах и способах их применения, которые требуют решения.

8.1. Соблюдение правил Meta в отношении контента

Совет постановил, что эти публикации не нарушают каких-либо правил Meta в отношении контента. Руководство сообщества применимо к Instagram, однако, по словам Meta, "для Facebook и Instagram действуют одни и те же правила в отношении контента. Если контент считается нарушающим правила на Facebook, он также считается нарушающим правила в Instagram". Нормы сообщества Facebook более подробны, и Руководства сообщества ссылаются на них.

а. Сексуальное домогательство

Норма сообщества в отношении сексуального домогательства гласит, что неявное сексуальное домогательство определяется по наличию двух критериев:

• контента, содержащего неявное предложение или запрос, И
• сексуально провокационные элементы.

Неявное предложение или запрос.

Неявное предложение или запрос в Норме сообщества в отношении сексуального домогательства определяется как "контент, представляющий собой неявное или непрямое сексуальное домогательство в виде предложения или запроса (обычно посредством предоставления контактных данных)". В "Известных вопросах" Meta, содержащих дополнительные внутренние инструкции для проверяющих, список контактных сведений, которые служат основанием для удаления в качестве неявного предложения, включает ссылки на профили в социальных сетях и "ссылки на веб-сайты на основе подписки (например, OnlyFans.com или Patreon.com)". В этих случаях контент содержал ссылку на платформу, где пользователи осуществляли сбор пожертвований для оплаты хирургической операции. Поскольку внутренние критерии Meta очень широко определяют "неявное предложение или запрос", эта ссылка формально соответствует определению "предложения или запроса" в инструкциях Meta для проверяющих, хотя и не нарушает общедоступную норму, где указано, что предложение или запрос должны быть связаны с сексуальными аспектами.

Сексуально провокационный элемент.

В Норме сообщества перечисляются сексуально провокационные элементы, которые включают позы. В Известных вопросах содержится список (который Meta описывает как исчерпывающий) поз, характеризующихся как сексуально провокационные, включая обнаженные "женские груди, прикрытые цифровым способом или частями человеческого тела либо объектами". Совет отмечает, что на обоих изображениях груди были прикрыты частями человеческого тела (руками) или объектами (лентой). В рамках данных дел материалы публикации делают очевидным тот факт, что субъекты на фото идентифицируют себя как трансгендерных и небинарных людей, то есть груди на изображении принадлежат лицам, которые не идентифицируют себя как женщин. Совет также считает, что контент не несет эротического подтекста. Исходя из этого, второй критерий нарушения правила о сексуальном домогательстве — сексуально провокационный элемент, такой как эротическая поза (включая прикрытые женские груди) — не соблюдается.

Поскольку публикации не удовлетворяют второму критерию, они не нарушают данную норму. Если учесть общедоступную версию первого критерия (то есть тот факт, что предложение или запрос должны относится к сексуальным аспектам), он также указывает, что эти изображения не относятся к сексуальному домогательству.

б. Изображение обнаженного тела и действия сексуального характера взрослых людей

Норма сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей гласит, что пользователи не должны публиковать изображения "неприкрытых женских сосков, за исключением изображений моментов грудного вскармливания, родов и послеродовых моментов, ситуаций, связанных с медициной и здравоохранением (например, восстановление после мастэктомии, профилактика рака груди или операции по смене пола), или актов протеста". В Известных вопросах Meta также говорится, что проверяющим следует разрешать "изображения сосков, опубликованные в явном трансгендерном "женщина-мужчина", небинарном или гендерно нейтральном контексте (например, когда пользователь указывает такую половую принадлежность), независимо от размера или формы груди". Ни одно из изображений в рамках этих дел не нарушает эту Норму сообщества.

Во-первых, ни на одном из изображений нет неприкрытых сосков. На обоих изображениях люди прикрывают соски руками или лентой. Во-вторых, даже если бы соски не были прикрыты, Совет отмечает, что изображения были опубликованы с текстом, поясняющим, что эти лица идентифицируют себя как небинарных людей. Это правило, таким образом, не нарушено.

8.2. Соответствие ценностям Meta

Совет считает, что первоначальное решение об удалении этих публикаций противоречило ценностям компании Meta "Свобода самовыражения" и "Достоинство", а также не соответствовало ценности "Личная безопасность".

Ошибки в применении правил, которые несоразмерно влияют на группы, подверженные дискриминации, представляют серьезную угрозу таким принципам, как защита свободы слова и достоинства. Аргументы Meta в области защиты прав человека касались "Личной безопасности", особенно в связи с публикацией изображений без согласия, торговли сексуальными услугами и насилием над людьми, Совет считает, что удаление этих публикаций не способствовало защите "личной безопасности".

8.3. Соблюдение обязанностей Meta по защите прав человека

Свобода самовыражения (статья 19 МПГПП)

Статья 19 МПГПП предусматривает всеобъемлющую защиту свободы самовыражения, в т. ч. обмен мнениями о правах человека и свободе самовыражения, которые люди могут воспринимать как оскорбительные (Замечание общего порядка № 34, пункт 11). Всем людям гарантируется, что у них будет право на свободу самовыражения без дискриминации по "половому" либо "иному признаку" (МПГПП, пункт 1 статьи 2). Комитет по защите прав человека подтвердил, например, в рамках таких дел, как Непомнящий против Российской Федерации (CCPR/C/123/D/2318/2013), что запрет дискриминации касается также дискриминации на почве половой принадлежности.

Контент связан с важными социальными проблемами. Для таких пользователей Instagram является площадкой для обсуждения и выражения своей половой идентичности, дающей возможность наладить общение и получить поддержку. Контент также может прямо влиять на возможность пользователей провести операцию по смене пола, так как обе публикации объясняют, что одному представителю пары требуется хирургическая операция на груди и пара занимается сбором пожертвований на оплату этих расходов.

Согласно статье 19, если ограничения на свободу самовыражения установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). Ссылаясь на основные положения РП ООН, Специальный докладчик ООН по вопросу о поощрении и защите права на свободу мнений и их свободное выражение призвал компании, управляющие социальными сетями, обеспечить соответствие своих правил в отношении контента требованиям пункта 3 статьи 19 МПГПП ( № A/HRC/38/35, пункты 45 и 70). Совет следовал этой методологии при анализе правил Meta и их реализации.

В данном случае Совет обнаружил, что Meta не выполнила свои обязанности по созданию и реализации правил, соответствующих данным стандартам. Внутренние критерии, на основе которых контент был удален в рамках правила о сексуальном домогательстве, гораздо шире, чем заявленное обоснование правила, а последствия чрезмерно формального подхода к их применению были признаны самой Meta. Норма сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей несоразмерно влияет на женщин и представителей ЛГБТКИ+ и зависит от субъективного и умозрительного восприятия пола, что нельзя назвать целесообразным при модерации контента на массовом уровне. Совет проанализировал эти недостатки и порекомендовал Meta реализовать комплексный процесс по решению этих проблем.

I. Правомерность (четкость и доступность правил)

Правила, ограничивающие свободу самовыражения, должны быть четкими и доступными, чтобы люди, ответственные за их применения, и пользователи точно знали, что именно разрешено. Обе Нормы сообщества, рассматриваемые в рамках этих дел, не соответствуют этому критерию.

а. Сексуальное домогательство

Совет пришел к выводу, что Норма сообщества в отношении сексуального домогательства содержит чрезмерно широкие критерии во внутренних инструкциях, предназначенных для проверяющих. Такие недостаточно эффективные инструкции определяют некорректное применение правил проверяющими и неоднозначность для пользователей. Meta признает этот факт, так как компания объяснила Совету, что применение внутренней инструкции могло "привести к некорректному применению" в случаях, когда критерии неясного сексуального домогательства выполняются, однако очевидно, что "намерение предлагать сексуальные услуги отсутствует".

Неоднозначность отражена в обоих критериях этого правила. Что касается компонента "предложение или запрос" Нормы сообщества о сексуальном домогательстве, в общедоступных правилах речь идет о "способе контакта" со стороной, навязывающей услуги. При этом инструкция для модераторов ("Известные вопросы") гласит, что "способ контакта" для неявного "предложения или запроса" включает ссылки на профили в социальных сетях или ссылки на сторонние веб-сайты на основе подписки, такие как Patreon. Пользователям не объясняется, что любые ссылки на другой профиль в социальной сети, стороннюю платежную платформу или сайт сбора пожертвований (такой как Patreon или GoFundMe) могут означать, что их публикации могут рассматриваться как домогательство. На эту неопределенность указывают многие комментарии общественности, полученные Советом от людей, которые не понимают, почему контент, включающий такие сторонние ссылки, был удален или повлек за собой блокировку их аккаунтов.

Второй критерий, касающийся сексуально провокационных элементов, расплывчат и допускает широкое трактование. Кроме того, он не согласуется с правилом Meta в отношении изображения обнаженного тела и действий сексуального характера взрослых людей. В общедоступной Норме сообщества в качестве сексуально провокационного элемента указываются "позы с эротическим подтекстом". Руководство "Известные вопросы" содержит подробный список "поз с эротическим подтекстом", включая обнаженную или прикрытую руками или объектами грудь. Очевидно, что пользователи не могут предположить, что любое изображение с прикрытой грудью может считаться позой с эротическим подтекстом. Такая неопределенность усугубляется тем фактом, что правило в отношении изображения обнаженного тела взрослых людей допускает фотографии обнаженной груди с прикрытыми сосками. Таким образом, контент, который считается сексуальным в рамках одного правила, не считается таковым в рамках другого.

Помимо неуверенности пользователей, тот факт, что проверяющие каждый раз приходили к разным выводам в отношении этого контента, подразумевает недостаточно четкие инструкции для модераторов в отношении того, какой контент должен считаться сексуальным домогательством.

По признанию Meta, применение внутренней инструкции на основе двух критериев неявного домогательства приводит к удалению контента, целью которого не являются действия сексуального характера. В долгосрочной перспективе проблему ошибочного удаления контента, вероятно, удастся решить путем изменения области действия данного правила. Однако в ближайшее время Совет рекомендует Meta пересмотреть внутренние инструкции, чтобы гарантировать, что критерии отражают правила, доступные для пользователей, включая более четкую связь между "предложением или запросом" и "сексуально провокационным элементом". Meta следует также предоставить пользователям дополнительные пояснения в отношении "предложения и запроса" секса и сути поз с эротическим подтекстом в общедоступных Нормах сообщества.

б. Изображение обнаженного тела и действия сексуального характера взрослых людей

Норма в отношении изображения обнаженного тела и действий сексуального характера взрослых людей основана на критериях различия по признаку пола, которые трудно реализовать, и содержит недостаточно четко сформулированные исключения. Определенные положения правила могут быть непонятными для пользователей, которые не знают, что именно разрешено. Это также дезориентирует модераторов, которым приходится делать субъективные оценки на основе неизбежно неполных данных и быстро применять правило, учитывая многочисленные факторы, исключения и допущения.

Несмотря на использование выражений, имеющих отношение к определенным частям тела, а не полу (и возможность широкого выбора вариантов гендерной ориентации в профиле пользователей), в большинстве правил Meta не объясняется, как именно компания обрабатывает контент в отношении интерсексуальных, небинарных и трансгендерных людей. Например, в правиле говорится о "мужских и женских гениталиях", "женской груди" и "женских сосках", однако неясно, как эти описания применяются к людям, чьи тела и ориентация могут не совпадать с этими определениями. Многие трансгендерные и небинарные люди в рамках публичного обсуждения отправили Совету комментарии о том, что им непонятно, оценивается ли их контент согласно гендерной идентичности, полу, который был указан при рождении, или аспектам их внешнего вида.

Текущие правила требуют от проверяющих быстрой оценки пола пользователя, так как в правиле говорится о "женских сосках", и гендерной идентичности, так как предусмотрены исключения в отношении небинарных, гендерно-нейтральных, трансгендерных людей, а также тех, кто публикует контент в контексте ожидания операции по смене пола. Восприятие пола требует интерпретации контекстных сигналов и внешнего вида, которые являются субъективными параметрами и могут повлечь за собой ошибки.

Этот подход Meta дополнительно осложняется принципом "женского по умолчанию", согласно которому в случае сомнений более строгие правила применяются к обнаженному женскому (а не мужскому) телу. Известные вопросы гласят, что там, где нет четкого контекста, а человек на изображении "представляет собой женщину ИЛИ имеется контекст трансгендера, сменившего пол с мужского на женский, по умолчанию обнаженное тело считается женским и применяется соответствующее правило".

Число ограничений и исключений для правил о сосках, воспринимаемых как женские, обширно и не позволяет сделать однозначные выводы. Исключения варьируются от протестов до сцен рождения детей и кормления грудью, контекста медицины и здравоохранения, включая изображения груди после мастэктомии и информирование о проблемах рака груди. Исключения часто не определены или нечетко сформулированы. Список исключений также существенно вырос с течением времени, и можно ожидать его дальнейшего расширения с появлением новых исключений. Что касается женской груди, правило в отношении изображения обнаженного тела и действий сексуального характера взрослых людей по умолчанию основано на допущении, что такие изображения несут сексуальный характер. При этом растущий список исключений отражает тот факт, что во многих ситуациях, признаваемых правилом, изображения женской груди не несут эротического подтекста.

И даже каждое отдельное исключение вызывает ряд вопросов. Например, исключение об операции по смене пола особенно важно для трансгендеров и небинарных пользователей, однако Meta не разъясняет область действия исключения об операции по смене пола в общедоступных правилах. Это отражено во многих комментариях общественности, выражающих неуверенность по поводу того, может ли разрешенный контент в рамках этого исключения включать фотографии до операции (для создания изображений "до и после") и изображения женщин-транссексуалов, подвергшихся операции по увеличению груди. Судя по внутренним инструкциям и Известным вопросам, это исключение уже, чем общедоступное толкование.

Правила Meta основаны на бинарных различиях между мужчинами и женщинами, что влечет за собой проблемы при попытке сформулировать исключение об операциях по смене пола. В ответе, направленном Meta Совету, компания пояснила, что исключение об операциях по смене пола означает, что допускается изображение "неприкрытых женских сосков до операции по удалению груди, когда контент публикуется в явном контексте трансгендеров, меняющих пол с женского на мужской, небинарных или гендерно-нейтральных людей". Далее правила гласят, что изображение "сосков женщины-трансгендера, сменившей пол с мужского на женский и подвергшейся операции по увеличению груди, запрещены в отсутствие видимых шрамов на сосках".

Внутренние инструкции по поводу хирургических шрамов и сосков ещё запутаннее. Правила в отношении мастэктомии, например, допускают "случаи, когда соски восстановлены из других тканей или нанесены через трафарет или вытатуированы" и "случаи, когда на изображении присутствует хотя бы одна удаленная хирургическим путем грудь, даже если другой обнаженный женский сосок остается видимым". Ещё больше сбивает с толку правило о том, что "в отношении мастэктомии рубцевание включает изображение области, где находились удаленные ткани груди. Фактический шрам от операции необязательно должен быть видимым".

Очевидно, что проверяющим будет непросто применить правила, которые требуют, чтобы они быстро оценили характеристики человека, имеющие отношение к полу, чтобы решить, действуют ли правила о женских сосках, затем гендерную принадлежность этого лица, чтобы определить, можно ли применять определенные исключения, а затем решить, показаны ли на изображении события, предшествовавшие операции или последующие за ней, какая именно операция была проведена, а также определить масштабы и характер видимого рубцевания, чтобы оценить возможность применения других исключений. Одно и то же изображение с видимыми женскими сосками будет запрещено, если опубликовано цисгендерной женщиной, но разрешено, если опубликовано лицом, идентифицирующим себя как небинарного человека. Совет также отмечает дополнительные исключения в отношении сосков в контексте протестов, рождения детей, после родов и кормления грудью, которые здесь не рассматриваются, однако проверяющим также приходится их оценивать, и можно допустить, что они будут включать дополнительные внутренние критерии.

Учитывая то, насколько важна свобода выражения мнений по вопросам пола, физического здоровья, рождения и воспитания детей, имеющаяся на данный момент сложная "мешанина" из исключений создает чрезмерную неопределенность для пользователей и влечет за собой потенциально некорректное применение правил, как показывает данное дело. Недостаточно четкие формулировки для пользователей и модераторов, присущие этому правилу, делают его несостоятельным. Совет полагает, что Meta следует внедрить такой подход к изображению обнаженного тела взрослых людей, который обеспечит равное отношение ко всем людям без дискриминации по признаку пола или гендерной идентичности. Об этом и пойдет речь ниже.

II. Законная цель

В статье 19 МПГПП говорится о том, что ограничение свободы самовыражения со стороны государства должно преследовать одну из законных целей, таких как "уважение прав и репутации других лиц.., [а также] защиту государственной безопасности, общественного порядка, здоровья или нравственности населения". Рассматривая это дело, мы изучили аргументацию Meta в отношении ограничения свободы слова в правилах компании в свете этих стандартов.

а. Сексуальное домогательство

В правиле о сексуальном домогательстве Meta объясняет, что оно "призвано предотвратить использование Facebook или Instagram для содействия транзакциям, которые могут быть связаны с торговлей людьми, принуждением и действиями сексуального характера без согласия", которые могут происходить за пределами платформы. Это пример защиты прав других лиц, что является законной целью.

б. Изображение обнаженного тела и действия сексуального характера взрослых людей

Meta предоставила несколько аргументов по конкретным аспектам правила об изображении обнаженного тела и действиях сексуального характера взрослых людей, включая предотвращение распространения контента, публикуемого без согласия, защиту несовершеннолетних, когда возраст лица неочевиден, и тот факт, что "часть людей в нашем сообществе может посчитать такой контент оскорбительным". Meta также предоставила Совету пояснения по общим принципам в отношении изображения обнаженного тела. Компания заявила, что "при составлении правила Meta принимала во внимание следующее: (1) частный или деликатный характер изображений; (2) было ли получено согласие на съемку и публикацию изображений обнаженного тела; (3) риск сексуальной эксплуатации; а также (4) может ли раскрытие таких изображений привести к преследованию за пределами платформы, в частности, в странах, где такие изображения могут считаться оскорбительными".

Большинство этих целей соответствуют защите прав других людей. При этом аргумент Meta в пользу защиты "чувств участников сообщества" требует дальнейшего изучения. Это обоснование может соответствовать законной цели по защите "нравственности населения". Тем не менее, Совет отмечает, что цель защиты "нравственности населения" иногда безосновательно используется государственными органами по цензуре для нарушения прав человека, особенно прав меньшинств и уязвимых групп. Комитет по защите прав человека предупреждает, что "понятие морали проистекает из множества социальных, философских и религиозных традиций; а значит и ограничений... цель защиты нравственности должна быть основана на принципах, не проистекающих исключительно из единственной традиции" (Комитет по защите прав человека, Замечание общего порядка № 34).

Хотя законодательство по правам человека признает, что защита нравственности населения может является законной целью ограничения свободы слова для государств, а ограничения на публичное изображение обнаженного тела существуют по всему миру, Meta подчеркивает другие цели, помимо "защиты чувств участников сообщества" в конкретном контексте данного дела. Meta заявила, что "хотя правило в отношении изображения обнаженного тела соответствует принципам защиты нравственности населения [… оно] не основано исключительно на этой цели, так как моральные нормы в отношении обнаженного тела широко различаются в разных культурах, и их невозможно практически реализовать на массовом уровне". Например, во многих сообществах и частях света изображение неприкрытых грудей трансгендеров и небинарных людей может противоречить моральным нормам сообщества. Тем не менее, Meta не ограничивает такую свободу самовыражения. Более того, Совет обеспокоен известными и регулярными несоразмерными затруднениями в сфере самовыражения, с которыми сталкивались женщины, трансгендерные и небинарные люди из-за правил Meta (см. ниже). Именно поэтому Совет обратил внимание на другие цели, помимо "чувств участников сообщества", которые были выдвинуты Meta при оценке ее обязательств по защите прав человека.

Следует отметить, что некоторые аргументы Meta в отношении правила об изображении обнаженного тела берут за основу стандартное допущение о сексуальном подтексте изображения женской груди. В ходе публичного обсуждения Совет получил много комментариев от пользователей, которые выражали озабоченность предполагаемой сексуализацией изображения тел женщин, трансгендерных и небинарных людей, при том что сопоставимое предположение о сексуализации изображений не применяется в отношении цисгендерных мужчин. (См., например, комментарий общественности № 10624, отправленный InternetLab).

Совет получил много комментариев общественности по этому делу в рамках стандартных процедур распространения информации по делу. Будучи органом, в задачи которого входит выработка критериев ответственности для пользовательской базы и основных заинтересованных лиц Meta, Совет считает комментарии важным компонентом рассмотрения дел. Как и во всех делах, мы понимаем, что эти комментарии могут не представлять мнение мировой общественности. Совет ценит опыт и знания, которыми делятся авторы комментариев, и продолжает работу над увеличением широты охвата сообществ, которые в данное время, возможно, не участвуют в этом процессе.

И наконец, Совет признает, что у Meta могут быть законные основания, связанные со значимостью предотвращения определенного вреда, связанного с вопросами пола. Как отметил специальный докладчик ООН по вопросам насилия в отношении женщин, "важно признать тот факт, что Интернет используется в более широкой среде распространения и систематической структурной дискриминации и насилия, связанного с полом, в отношении женщин и девочек" (A/HRC/38/47). Кроме того, по данным опросов "90 процентов от тех, кто пострадал в связи с распространением интимных изображений без согласия, являются женщинами" (A/HRC/38/47). Meta необходимо принять меры по ограничению вреда, связанного с полом, как в отношении чрезмерного, так и недостаточного применения запретов на изображение обнаженного тела.

III. Необходимость и соразмерность

По мнению Совета правила Meta в текущей формулировке и способе применения изымают больше контента, чем необходимо. Кроме того, правила несоразмерны проблемам, которые они должны решать.

а. Сексуальное домогательство

Определения правила о сексуальном домогательстве в отношении неявного "предложения и запроса" и поз с эротическим подтекстом слишком широки и служат основанием для удаления значительного числа материалов, не связанных с сексуальным домогательством. Сама компания признает риск ошибочного применения правил, заявляя, что ей "известно о том, что некоторые проверяющие контента могут некорректно удалять контент как неявное сексуальное домогательство (хотя он им и не является) из-за слишком формального применения внутренних инструкций [Meta] для проверяющих". Meta продолжает:

В настоящее время, основываясь на Известных вопросах, мы рассматриваем публикацию, упоминание или предоставление контактных сведений о личности в социальных сетях и цифровом пространстве как неявное предложение или запрос, связанные с сексуальным домогательством. […] При этом применение этой инструкции может вести к чрезмерным ограничениям в ситуациях, когда, например, поза модели воспринимается проверяющим как эротическая (соответствие критерию "сексуально провокационный элемент") при наличии отметки для ссылки на фотографа-автора изображения (соответствие критерию "предложение или запрос"). Этот тип контента не нарушает правила, поскольку отсутствует цель предложения сексуальных услуг, тем не менее, он может быть удален (что противоречит правилу), так как во всём остальном соответствует двум критериям, приведенным выше.

В отчете ЮНЕСКО об образовании в цифровом пространстве указывается на риск ошибочного чрезмерно строгого применения правил. В частности, в нем говорится, что "нормы в отношении цифровых технологий (ICT) касательно публикации откровенных изображений означают, что в определенных случаях образовательные материалы, публикуемые онлайн для поддержки изучения строения тела или сексуальных отношений, могут по ошибке восприниматься модераторами как неуместный, провокационный контент и удаляться с общедоступных веб-платформ". Совет также отмечает, что многие полученные им комментарии общественности также касались ошибочного удаления контента в рамках этой Нормы. Например, ACON (образовательная общественная организация из Австралии, занимающаяся вопросами ВИЧ) сообщает, что материалы, продвигающие основную идею о предупреждении ВИЧ и сексе в позитивной форме, и контент с рекламой обучающих семинаров были удалены как сексуальное домогательство. Таким образом общественной организации пришлось подбирать для контента выражения, которые бы позволили избежать удаления со стороны Meta, вместо того чтобы использовать оптимальный язык для обращения к целевым сообществам (комментарий общественности № 10550). Эту точку зрения поддерживает Джоанна Уильямс (Joanna Williams), исследователь, выяснившая, что девять из двенадцати опрошенных организаций в сфере сексуального здоровья сообщили, что модерация Meta отрицательно сказалась на их деятельности (комментарий общественности № 10613).

б. Изображение обнаженного тела и действия сексуального характера взрослых людей

Помимо проблем с созданием осуществимых и масштабируемых правил, основанных на восприятии Meta половой и гендерной идентичности, как описано выше, Совет также считает, что правила Meta в отношении изображения обнаженного тела взрослых людей налагают несоразмерные ограничения на некоторые типы контента и самовыражения. Эти правила предписывают удаление контента в случаях, когда заявленных целей правила можно было бы добиться менее ограничительными способами.

Meta и без того использует разнообразные меры обеспечения соблюдения правил, помимо удаления, включая применение экрана с предупреждением и возрастные ограничения (когда контент доступен только для лиц старше 18 лет). Более того, компания уже применяет подобные меры в правиле в отношении изображения обнаженного тела и действий сексуального характера взрослых людей, включая художественное описание действий сексуального характера. Meta также может привлечь к участию автоматические системы и проверяющих-людей, чтобы более точно и с учетом контекста определять, когда изображение обнаженного тела имеет сексуальный характер, независимо от пола человека, тело которого изображается. Meta может также применить широкий ряд мер в рамках правил, чтобы ограничить отображение изображений обнаженного тела для пользователей, которые не хотят их видеть, реализовав более строгий контроль со стороны пользователя. Кроме того, в распоряжении Meta есть ряд специализированных правил по вопросам, рассматриваемым в рамках правила об изображении обнаженного тела, таких как правило о сексуальной эксплуатации взрослых и правила о сексуальной эксплуатации детей, насилии над детьми и изображении обнаженного детского тела, которые можно ужесточить.

Совет отмечает, что методы применения правил Meta, по имеющимся сведениям, обуславливают большое число ложных срабатываний и ошибочного удаления контента, не нарушающего правила. В последнем Отчете об обеспечении соблюдения Норм сообщества Meta (за апрель-июнь 2022 г.) сообщается, что 21 % обжалованных удалений в рамках правила об изображении обнаженного тела и действий сексуального характера взрослых людей привели к восстановлению контента. Совет также получил большое число комментариев общественности по поводу ошибочного удаления контента в рамках правила об изображении обнаженного тела взрослых людей.

Противодействие дискриминации

Это свидетельствует о том, что правила Meta и способы их реализации, связанные с изображением обнаженного тела и действиями сексуального характера взрослых людей, могут вести к несоразмерным последствиям, в частности, для женщин и представителей ЛГБТКИ+. Такие последствия отражены в самом правиле и способах его применения и ограничивают возможности выражения мнений, противостояния предрассудкам и представления интересов определенных групп в обществе.

Хотя это дело касалось трансгендерных и небинарных пользователей, ошибки применения были обусловлены соответствующим правилом, которое также влияет на женщин, особенно учитывая тот факт, что Meta руководствуется принципом "по умолчанию женское" в отношении изображений обнаженного тела. Таким образом эта часть принимает в расчет влияние правил Meta на представителей ЛГБТКИ+ и женщин. Большое число комментариев общественности по этому делу продемонстрировало влияние, которое могут оказывать эти правила.

Всем людям гарантируется, что у них будет право на свободу самовыражения без дискриминации по "половому" либо "иному признаку" (пункт 1 статьи 2 МПГПП). К ним относятся сексуальная ориентация и гендерная идентичность ("Тоонен против Австралии" (1994 г.);A/HRC/19/41, пункт 7). В юриспруденции Комитета по защите прав человека отмечается, что "не все различия по основаниям, перечисленным в статье 26 Пакта, представляют собой дискриминацию, если они основаны на разумных и объективных критериях и используются в рамках достижения цели, которая является законной согласно Пакту". "Непомнящий против Российской Федерации", Комитет по защите прав человека, 2018 г., пункт 7.5 (CCPR/C/123/D/2318/2013).

Конвенция о ликвидации всех форм дискриминации в отношении женщин (КЛВФДОЖ) запрещает "любые формы разграничений, исключений или ограничений на основе пола, имеющие своей целью или результатом ущемление или сведение на нет признания, реализации или осуществления женщинами […] в условиях равенства женщин и мужчин любых прав человека и фундаментальных свобод в политической, экономической, социальной, культурной, гражданской или любой другой сфере (КЛВФДОЖ, ст. 1). Совет отмечает, что международные органы по защите прав человека не оценивали возможные последствия для прав человека в связи с разрешением или запретом изображения обнаженного тела взрослого человека с его согласия и его потенциальным влиянием в сфере дискриминации.

Согласно РП ООН, "коммерческие компании должны уделять особое внимание любым конкретным факторам, влияющим на права человека, применительно к представителям групп или населения, подверженным повышенному риску уязвимости или маргинализации" (Принципы 18 и 20 РП ООН). Специальный докладчик по вопросам свободы слова призвал технологические компании "активно запрашивать и принимать к сведению информацию о проблемах сообществ, исторически подверженных риску цензуры и дискриминации" (A/HRC/38/35, пункт 48). Рабочая группа ООН по вопросам предпринимательской деятельности в аспекте прав человека также порекомендовала технологическим компаниям содействовать тому, чтобы "искусственный интеллект и автоматизация не оказывали несоразмерного отрицательного влияния на соблюдение прав человека в отношении женщин" (Руководство по определению гендерной идентичности).

Учитывая важную роль социальных сетей как площадки для самовыражения лиц, подверженных дискриминации, Совет регулярно выражает свои ожидания в отношении того, чтобы Meta особенно тщательно относилась к возможности некорректного удаления контента, создаваемого членами таких групп, касающегося или описывающего их. Как указал Совет в своем решении по делу "О поясе вампума" (№ 2021-012-FB-UA) относительно прав коренных жителей на художественное самовыражение, недостаточно оценивать эффективность мер, принимаемых Meta для обеспечения соблюдения правил Facebook в отношении враждебных высказываний на всю популяцию пользователей в целом, но следует учитывать их влияние на конкретные социальные группы. Аналогичным образом в деле "О возвращении первоначального значения словам на арабском языке" Совет подтвердил, что "чрезмерная сдержанность пользователей, принадлежащих к группам преследуемых меньшинств, в высказываниях является серьезной угрозой свободе самовыражения таких пользователей" и выразил озабоченность тем, как исключения в правилах Meta (в данном случае правила о враждебных высказываниях) применяются в выражениям участников маргинализированных групп (№ 2022-003-IG-UA).

Подход Meta обуславливает неравные возможности для самовыражения женщин, трансгендерных и небинарных людей на ее платформах. Текущее правило Meta в отношении изображения обнаженного тела и действий сексуального характера взрослых людей трактует изображения женских грудей и сосков как заведомо сексуально провокационные и потому подлежащие запрету, несмотря на контекст предстоящей или проведенной хирургической операции или кормления грудью. Вместо того чтобы принять меры по снижению несоразмерного влияния цензуры на определенные социальные группы, правила Meta закрепляют и усугубляют такие последствия.

Данные дела освещают несоразмерное воздействие правил Meta на людей, идентифицирующих себя как представителей ЛГБТКИ+: контент несколько раз определялся классификаторами правила об изображении обнаженного тела и действиях сексуального характера взрослых людей как ненадлежащий, хотя и не попадал в область действия этого правила. Совет считает эти дела показательными в свете более широких проблем. Например, в исследовании Хэймсона и проч. говорится о том, что трансгендерные люди сообщают о более частом удалении контента и аккаунтов, как правило, в связи с публикацией изображений обнаженного тела и материалов сексуального характера.

Применение правил Meta также несоразмерно сказывается на женщинах. Исследование Уитт, Сьюзора и Хаггинс показывает, что до 22 % изображений женских тел, удаленных из Instagram, можно отнести к очевидным ложным срабатываниям. Неравное отношение к женскому телу также было отмечено в ходе публичного обсуждения (см., например, комментарий общественности № 10616 от др. Захры Стардаст (Dr. Zahra Stardust)).

Такой априорный подход к изображению обнаженного тела также имеет огромные последствия в ситуациях, когда женщина может традиционно изображаться с обнаженной грудью. Специальный докладчик по вопросам защиты прав на свободу выражения мнений призвал компании к взаимодействию с коренными народами по всему миру для "выработки более эффективных индикаторов, которые позволили бы учитывать культурный и художественный контекст при оценке контента, включающего изображения обнаженного тела" (пункт 54, A/HRC/38/35).

Помимо проблем с дискриминацией, связанных с этими правилами, данные дела поднимают вопросы дискриминации, связанные с их применением. Meta следует помнить о том, что контент пользователей, принадлежащих к маргинализированным группам, подвергается более высокому риску регулярных или злонамеренных жалоб (когда пользователи жалуются на контент, не нарушающий правила, чтобы навредить его автору). Эти вопросы также поднимались в различных комментариях общественности (см., например, комментарий общественности № 10596 от GLAAD и комментарий общественности № 10628 от Human Rights Campaign Foundation).

Эти дела подчеркивают, что из-за многократных жалоб проводятся многократные проверки, что повышает вероятность некорректного удаления. В самом деле, в данном случае большинство жалоб пользователей привело к проведению ручных проверок, в результате которых контент был признан не нарушающим правила. Однако жалобы на контент продолжали поступать, пока проверяющие по ошибке не сочли его нарушающим правила и не удалили его.

Meta следует разработать и внедрить правила, которые помогут решить все эти проблемы. Возможно, потребуется создание более однородных правил в отношении изображения обнаженного тела, которые будут применяться без дискриминации по признаку пола или гендерной идентичности. Кроме того, может потребоваться расширение критериев контекста для отнесения контента к сексуальному, при этом такой анализ должен проводиться без опоры на критерии, допускающие дискриминацию.

Совет отмечает, что у Meta есть специальное правило в отношении интимных фото, опубликованных без согласия, в правиле о сексуальной эксплуатации взрослых. Компания располагает достаточным пространством для приоритетного применения правил (см., например, внедрение автоматической технологии обнаружения для прекращения регулярной публикации изображений без согласия). Если Meta решит изменить подход к изображениям обнаженного тела на платформе, компании следует уделить пристальное внимание изучению степени влияния правила в отношении изображения обнаженного тела и действий сексуального характера взрослых людей на публикацию изображений без согласия и определить, помогут ли изменения в правиле о сексуальной эксплуатации взрослых и его применении повысить эффективность.

Совет также признает законные интересы Meta в сфере ограничения сексуального или порнографического контента на платформе. Однако Совет полагает, что актуальные бизнес-цели можно и нужно реализовывать методами, которые исключают дискриминацию любых пользователей.

Некоторые члены Совета полагают, что Meta следует принять меры по снижению эффекта дискриминации в текущих правилах компании, приняв правило в отношении изображения обнаженного тела взрослых людей, не основанное на различиях по половому признаку. Они обращают внимание на положения Конвенции о ликвидации всех форм дискриминации в отношении женщин (КЛВФДОЖ), касающиеся борьбы со стереотипами по половому признаку (см., например, статьи 5 и 10) и явное указание обязательства по соблюдению КЛВФДОЖ в корпоративной политике Meta по защите прав человека. Они пришли к выводу, что в контексте правила в отношении изображения обнаженного тела такие международные стандарты по защите прав человека и собственное обязательство Meta по борьбе с дискриминацией поддерживают отказ от стереотипных различий. Эта группа членов Совета пришла к выводу, что переход к правилу, которое не основано на половых различиях, позволит Meta как компании наиболее эффективно выполнять свои обязанности в сфере прав человека, учитывая ее корпоративные ценности и обязательства. Они отмечают, что нормы и правила должны развиваться, чтобы реагировать на устоявшиеся нормы, которые влекут за собой дискриминацию, поскольку многие формы дискриминации связаны с распространенными общественными нормами.

По этим вопросам между членами Совета возникли некоторые разногласия. Некоторые члены Совета в принципе согласны с тем, что Meta не следует полагаться на половые признаки, ограничивая свободу самовыражения, однако они крайне скептически относятся к возможности Meta эффективно регулировать интимные фото, опубликованные без согласия, и другие потенциально вредоносные материалы, не располагая правилом в отношении изображения обнаженного тела, учитывающим половые и гендерные различия. Другие члены Совета считают, что, поскольку соответствующие принципы защиты прав человека в отношении дискриминации допускают различия на основе характеристик, подлежащих защите от дискриминации, если они "основаны на разумных и объективных критериях и используются в рамках достижения цели, которая является законной согласно Пакту" (Непомнящий против Российской Федерации, Комитет по защите прав человека, 2018 г., пункт 7.5 (CCPR/C/123/D/2318/2013)), правило в отношении изображения обнаженного тела, не учитывающее половые признаки, не является обязательным и может стать причиной вредных последствий или усугубить их.

Члены Совета, поддерживающие внедрение гендерно-нейтрального правила в отношении изображения обнаженного тела, признают, что в рамках международных стандартов по защите прав человека на уровне государств различия на основе характеристик, подлежащих защите от дискриминации, допустимы, если они основаны на разумных и объективных критериях и используются в рамках достижения законной цели. Однако они не считают, что различия в рамках правила Meta в отношении изображения обнаженного тела соответствуют этим стандартам. Они также отмечают, что Meta в качестве компании приняла на себя обязательства по защите прав человека, которые противоречат подходу, ограничивающему самовыражение в Интернете на основе восприятия компанией половых и гендерных признаков.

Норма сообщества в отношении изображения обнаженного тела и действий сексуального характера взрослых людей несоразмерно влияет на женщин и представителей ЛГБТКИ+ и зависит от субъективного и умозрительного восприятия пола, что нельзя назвать целесообразным при модерации контента на массовом уровне. Если подходить к этому вопросу комплексно, учитывая недоразумения, связанные с правилами и их применением, а также аспекты дискриминации и несоразмерности, связанные с текущим правилом Meta в отношении изображения обнаженного тела и действий сексуального характера взрослых людей, Совет рекомендует Meta определить четкие, объективные и учитывающие права критерии регулирования правила об изображении обнаженного тела взрослых людей во всей полноте, которые бы обеспечивали равное отношение ко всем людям и соответствовали международным стандартам в области прав человека, включая отсутствие дискриминации по половому признаку или гендерной идентичности. Прежде всего, Meta необходимо провести комплексную проверку влияния на права человека, чтобы оценить последствия принятия таких критериев с учетом разнообразных идеологических, географических и культурных контекстов, в которой будет участвовать широкий круг заинтересованных лиц по принципу инклюзивности. В случае если такая проверка выявит потенциальные негативные последствия, при внедрении нового правила следует реализовать план по смягчению таких последствий. Совет запросил отчет об этой проверке и планируемых действиях, который должен быть предоставлен в течение шести месяцев с момента публикации этого решения.

9. Решение Независимого надзорного совета

Независимый надзорный совет отменяет первоначальные решения Meta об удалении обеих публикаций и требует их восстановить.

10. Рекомендательное заявление о политике

Политика в отношении контента

1. В целях справедливого отношения ко всем пользователям и предоставления действенной нормы в отношении изображения обнаженного тела для модераторов и широкой общественности Meta следует определить четкие, объективные, учитывающие права критерии регулирования правила об изображении обнаженного тела и действиях сексуального характера взрослых людей во всей полноте, включая равное отношение ко всем людям согласно международным стандартам в области прав человека без дискриминации по половому признаку или гендерной идентичности. Прежде всего, Meta необходимо провести комплексную проверку влияния на права человека, чтобы оценить последствия принятия таких критериев с учетом разнообразных идеологических, географических и культурных контекстов, в которой будет участвовать широкий круг заинтересованных лиц по принципу инклюзивности. В случае если такая проверка выявит потенциальные негативные последствия, при внедрении нового правила следует реализовать план по смягчению таких последствий.

2. Для формирования у пользователей более четкого представления Meta следует предоставить пользователям дополнительные пояснения в отношении "предложения и запроса" секса (включая ссылки на сторонние веб-сайты) и сути поз с эротическим подтекстом в общедоступных Нормах сообщества. Совет сочтет эту рекомендацию выполненной, когда разъяснения этих терминов с примерами будут добавлены в Норму сообщества в отношении сексуального домогательства.

Обеспечение соблюдения правил в отношении контента

3. Чтобы гарантировать, что внутренние критерии Meta в отношении правила о сексуальном домогательстве не приведут к удалению большего числа материалов, нежели указано в общедоступном правиле, во избежание ошибочного удаления контента, не носящего сексуальный характер, Meta следует пересмотреть внутренние руководства для проверяющих так, чтобы они отражали критерии, определенные в общедоступных правилах, и требовали более четкой связи между "предложением или запросом" и "сексуально провокационным элементом". Совет сочтет это требование выполненным, когда Meta предоставит Совету обновленные внутренние инструкции, отражающие такие пересмотренные критерии.

* Процедурное примечание.

Решения Независимого надзорного совета подготавливаются группой из пяти его членов и утверждаются большинством членов Совета. Решения Совета не обязательно отражают личные взгляды всех его членов.

Для принятия решения по этому делу от имени Совета было заказано проведение независимого исследования. Опираясь на мнение группы, состоящей из более чем 50 ученых-социологов с шести континентов и свыше 3 200 страноведов из разных частей мира, независимый исследовательский институт при Гётеборгском университете провел экспертную оценку социально-политического и культурного контекста. В работе Совету также помогала консалтинговая фирма Duco Advisors, специализирующаяся на вопросах геополитики, доверия, безопасности и технологий.