О публикации на польском языке с нападками на трансгендерных людей

Нажмите здесь, чтобы прочитать это решение на польском языке.

Kliknij tutaj, aby przeczytać postanowienie w języku polskim.

Краткое изложение

Независимый надзорный совет отменил решение Meta оставить на Facebook публикацию, в которой пользователь агрессивно высказывался в адрес трансгендерных людей и призывал их к самоубийству. Совет постановил, что данная публикация нарушала Нормы сообщества в отношении враждебных высказываний и в отношении самоубийства или нанесения себе увечий. Однако главной проблемой в этом случае стало не нарушение правил, а подход к обеспечению их соблюдения. В Meta упорно не принимали надлежащие меры, несмотря на многочисленные сигналы о том, что публикация содержит вредный контент. В связи с этим Совет сделал вывод, что компания не соблюдает собственные принципы относительно безопасности сообщества ЛГБТКИА+. Совет настоятельно рекомендует Meta устранить пробелы в обеспечении соблюдения правил в отношении контента, в том числе доработать внутреннее руководство для проверяющих.

Сведения о деле

В апреле 2023 года пользователь Facebook из Польши опубликовал изображение полосатой шторы в цветах флага трансгендерного сообщества (голубом, розовом и белом) с текстом на польском следующего содержания: "Новая технология… шторы, которые вешаются сами", а немного выше — "весенняя уборка <3". В биографии пользователя была фраза "Я трансфоб". Публикация набрала менее 50 реакций.

С апреля по май 2023 года 11 разных пользователей пожаловались на эту публикацию 12 раз. Автоматизированные системы Meta передали эту публикацию на проверку вручную только по двум из 12 жалоб; остальные были закрыты. Две жалобы были переданы на проверку вручную ввиду потенциального нарушения Норм сообщества Facebook в отношении самоубийства или нанесения себе увечий, но контент был оценен как не нарушающий правила. Ни одна из жалоб на враждебные высказывания не была отправлена на проверку вручную.

Затем три пользователя обжаловали решение Meta оставить публикацию на Facebook. По итогам одного из обжалований проверяющий поддержал первоначальное решение, ссылаясь на Нормы сообщества в отношении самоубийства или нанесения себе увечий. Как и в предыдущих случаях, другие запросы на обжалование, касающиеся нарушения Норм сообщества в отношении враждебных высказываний, не были отправлены на проверку вручную. Затем один из пользователей, которые первоначально пожаловались на этот контент, отправил запрос на обжалование в Совет. После того как Совет выбрал это дело для рассмотрения, в Meta пришли к выводу, что публикация нарушала правила в отношении враждебных высказываний и в отношении самоубийства или нанесения себе увечий, и удалили ее из Facebook. Компания также отключила аккаунт пользователя, опубликовавшего контент, за несколько предыдущих нарушений.

Основные выводы

Совет постановил, что контент нарушал правила Meta в отношении враждебных высказываний. Публикация содержала "агрессивные высказывания" в форме призыва к самоубийству и адресовала их группе с характеристикой, которая подлежит защите от дискриминации. Публикация, призывающая трансгендерных людей к самоубийству, формировала атмосферу запугивания и эксклюзии и могла привести к физическому ущербу. Учитывая характер текста и изображения, публикация также усугубляла психологические проблемы, которые испытывают в трансгендерном сообществе. В недавнем отчете Альянса геев и лесбиянок против диффамации (GLAAD) отмечается "серьезное травматизирующее влияние на психику в результате постоянных оскорблений и проявлений ненависти" в Интернете. Совет дополнительно убедился в своем заключении, проанализировав более широкий контекст: случаи причинения вреда представителям сообщества ЛГБТКИА+ в Польше онлайн и офлайн, в том числе нападки и высказывания со стороны влиятельных политиков и публичных личностей.

Совет обеспокоен тем, что проверяющие Meta не обратили внимания на контекстуальные сигналы. Намек на повышенный риск самоубийств ("шторы, которые вешаются сами") и одобрение смерти участников определенной группы ("весенняя уборка") в этой публикации явно нарушают Нормы сообщества в отношении враждебных высказываний. При этом автор контента идентифицировал себя как трансфоба, что само по себе ещё одно нарушение. Совет настоятельно рекомендует Meta обеспечить более точное соблюдение правил в отношении враждебных высказываний в адрес представителей сообщества ЛГБТКИА+. Особенно это касается публикаций с изображениями и текстом, для интерпретации которых требуется контекст. В этом случае частично завуалированные намеки относительно самоубийства и визуальная репрезентация группы, подлежащей защите от дискриминации (флаг трансгендерного сообщества), приняли форму "злонамеренного творчества". Так называют новый способ нападок на сообщество ЛГБТКИА+, когда недоброжелатели размещают публикации и мемы под видом "юмора или сатиры", а на самом деле используют их для преследования либо разжигания ненависти.

Совет также обеспокоен заявлением Meta о том, что проверяющие не удалили контент, поскольку строго следовали внутреннему руководству. Это означало бы, что во внутреннем руководстве Meta ненадлежаще объясняется, как текст и изображения могут представлять группу, которую определяет гендерная идентичность ее представителей.

Публикация, безусловно, нарушала Нормы сообщества Facebook в отношении самоубийства или нанесения себе увечий. Однако Совет также постановил, что соответствующие правила должны более явно запрещать контент с пропагандой самоубийств, нацеленный на идентифицируемую группу в целом, а не только на отдельных ее представителей.

В этом случае на обеспечение соблюдения правил, в том числе на обработку нескольких жалоб по одному и тому же контенту, значительно повлияли автоматизированные системы Meta, устанавливающие приоритетность проверки. Meta отслеживает и дедуплицирует (удаляет) такие жалобы, чтобы "обеспечить согласованность решений проверяющих и ответных мер". Автоматическое закрытие жалоб также объяснили низкими показателями степени серьезности нарушения и вирусного распространения контента (общее количество просмотров). Поэтому контент не получил достаточно высокий приоритет для проверки вручную. В этом случае, по мнению Совета, важным сигналом при определении серьезности могла стать биография пользователя.

Совет убежден, что компании Meta следует выделять больше ресурсов на разработку классификаторов для обнаружения контента, который потенциально нарушает правила и затрагивает сообщество ЛГБТКИА+. Кроме того, проверяющих нужно лучше обучать тому, каким вредом могут обернуться нарушения правил, касающиеся гендерной идентичности.

Решение Независимого надзорного совета

Независимый надзорный совет отменил решение Meta оставить контент на платформе.

Совет рекомендует Meta:

• Разъяснить на странице правил в отношении самоубийства или нанесения себе увечий, что Нормы сообщества запрещают контент, пропагандирующий или поощряющий самоубийства в идентифицируемой группе людей.
• Изменить внутреннее руководство для проверяющих первой линии, чтобы они соотносили визуальную репрезентацию гендерной идентичности, основанную на флаге и не изображающую людей, с группой, которую определяет гендерная идентичность ее представителей.

* Краткое изложение дела описывает дело в общих чертах и не имеет прецедентной силы.

Полное описание решения по делу

1. Краткое изложение решения

Независимый надзорный совет отменил решение Meta оставить на Facebook публикацию на польском языке, в которой пользователь агрессивно высказывался в адрес трансгендерных людей и призывал их к самоубийству. После того как Совет выбрал это дело для рассмотрения, в Meta постановили, что первоначальное решение оставить публикацию на платформе было ошибочным, удалили контент и применили санкции. Совет пришел к выводу, что публикация нарушала Нормы сообщества в отношении враждебных высказываний и в отношении самоубийства или нанесения себе увечий. Заодно он настоятельно порекомендовал Meta доработать правила в отношении контента и руководство для проверяющих, чтобы лучше защитить трансгендерных людей на платформах компании. В частности, оценивая публикацию на враждебность высказываний, проверяющий должен соотносить визуальную репрезентацию гендерной идентичности, основанную на флаге и не изображающую людей, с группой, которую определяет гендерная идентичность ее представителей. Компании Meta также следует пояснить, что призыв к самоубийству всей группы — это такое же нарушение, как и призыв к самоубийству одного человека. Однако, по мнению Совета, главной проблемой в этом случае стало не нарушение правил, а подход к обеспечению их соблюдения. Публикация недопустима даже с точки зрения текущих правил. Она содержала ряд враждебных высказываний в адрес группы людей на основе их гендерной идентичности. В Meta упорно не принимали надлежащие меры по инциденту, несмотря на многочисленные жалобы пользователей. В связи с этим Совет сделал вывод, что компания не соблюдает собственные принципы относительно безопасности сообщества ЛГБТКИА+. Совет настоятельно рекомендует Meta устранить эти пробелы в обеспечении соблюдения правил в отношении контента.

2. Описание и краткая предыстория дела

В апреле 2023 года пользователь Facebook в Польше опубликовал изображение полосатой шторы в цветах флага трансгендерного сообщества — голубом, розовом и белом. На изображении был следующий текст на польском языке: "Новая технология. Шторы, которые вешаются сами". Над этой строкой был ещё текст на польском: "весенняя уборка <3". Описание на польском в биографии пользователя гласило: "Я трансфоб". Публикация набрала менее 50 реакций других пользователей, большинство которых были одобрительными. Наиболее часто использовался смайлик "Ха-ха".

С апреля по май 2023 года 11 разных пользователей пожаловались на этот контент 12 раз. 10 из этих жалоб автоматизированные системы Meta не отправили на проверку вручную по разным причинам, в том числе из-за "низких показателей степени серьезности нарушения и вирусного распространения контента". Meta обычно определяет приоритет публикаций для проверки вручную по степени серьезности, показателю вирусного распространения и вероятности нарушения правил в отношении контента. Только по двум жалобам, основанным на Нормах сообщества Facebook в отношении самоубийства или нанесения себе увечий, была инициирована проверка контента вручную. Ни одна из жалоб, связанных с правилами в отношении враждебных высказываний, не была отправлена на проверку вручную. Согласно заявлению Meta, у проверяющих есть знания и инструменты, которые позволяют во внеочередном порядке оценить контент по непрофильным правилам (например, в отношении враждебных высказываний либо в отношении самоубийства или нанесения себе увечий) и принять меры. Тем не менее оба проверяющих решили, что контент не нарушает правила, и не отправили его на дополнительную проверку.

Три пользователя обжаловали решение Meta оставить этот контент на Facebook. По итогам одного из обжалований проверяющий поддержал первоначальное решение Meta о том, что контент не нарушает правила компании в отношении самоубийства или нанесения себе увечий. Два других обжалования, основанные на правилах Facebook в отношении враждебных высказываний, не были отправлены на проверку вручную. Всё потому, что Meta "отслеживает и дедуплицирует" множественные жалобы по одному и тому же контенту, чтобы обеспечить согласованность решений проверяющих и ответных мер.

Один из пользователей, которые первоначально пожаловались на контент, отправил запрос на обжалование в Совет. После того как Совет выбрал это дело для рассмотрения, в Meta пришли к выводу, что контент нарушал правила в отношении враждебных высказываний и в отношении самоубийства или нанесения себе увечий, и удалили публикацию. Расследуя инцидент на своей стороне, команда Meta также обнаружила, что аккаунт автора контента уже несколько раз нарушал Нормы сообщества и достиг порога для отключения. В августе 2023 года специалисты Meta отключили аккаунт.

Принимая решение по этому делу, Совет учитывал следующие контекстуальные факторы:

В Польше часто отмечается высокий уровень враждебности по отношению к сообществу ЛГБТКИА+. (Примечание. Совет использует сокращение "ЛГБТКИА+" — лесбиянки, геи, бисексуалы, трансгендеры, квиры, интерсекс-люди и асексуалы — при упоминании различных групп на основе сексуальной ориентации, гендерной идентичности и/или гендерного самовыражения их представителей. Однако при цитировании других людей Совет будет сохранять их аббревиатуры или словоупотребление.) Комиссар Совета Европы по правам человека ранее призывал обратить внимание на "стигматизацию ЛГБТИ-людей", поскольку это давняя проблема в Польше. В отчете Международной ассоциации геев, лесбиянок, бисексуалов, трансгендеров и интерсекс-людей (ILGA) Rainbow Europe страны оцениваются на основе законов и политик, напрямую влияющих на соблюдение прав человека применительно к сообществу ЛГБТИ. В этом отчете Польша занимает самую низкую позицию среди членов Европейского союза и 42 место среди 49 оцененных европейских стран. Национальные и местные органы власти, а также влиятельные публичные личности всё чаще выбирают сообщество ЛГБТКИА+ целью своих дискриминационных выступлений и законотворческой деятельности.

С 2018 года организация ILGA-Europe отслеживает то, что она называет "резонансной политической риторикой ненависти против ЛГБТИ со стороны польских политических лидеров", в том числе заявления о том, что "всё ЛГБТ-движение " представляет "угрозу" для Польши. В том же году мэр Люблина (Польша) запретил городской марш равенства, однако апелляционный суд снял запрет незадолго до запланированной даты мероприятия. В 2019 году мэр Варшавы представил Хартию ЛГБТ+, призванную "улучшить положение ЛГБТ-сообщества" в этом городе. Правящая партия Польши "Право и справедливость" и религиозные лидеры страны критически отозвались о Хартии. Президент и центральное правительство Польши также совершали нападки в адрес трансгендерного сообщества. Например, председатель правящей партии "Право и справедливость" назвал трансгендерных людей "ненормальными". Кроме того, министр юстиции Польши недавно обратился в польский Верховный суд с просьбой рассмотреть законопроект о том, что "для получения юридического признания предпочитаемого пола трансгендеры должны, помимо родителей, просить своих детей и супругов [о разрешении на переход]".

В Польше также приняты законы, направленные против ЛГБТКИА+. Согласно заявлению правозащитной организации Human Rights Watch, некоторые города начали призывать к "исключению представителей ЛГБТ-сообщества из общественной жизни Польши" — помимо прочего, путем создания в 2019 году "зон, свободных от влияния ЛГБТ". Как сообщает Human Rights Watch, эти зоны представляют собой территории, "где местные власти приняли дискриминационные "хартии семейных прав", публично пообещав "защитить детей от морального разложения", или объявили свой город свободным от "влияния идеологии ЛГБТ"". Такие зоны появились более чем в 100 городах. ILGA-Europe сообщает, что под давлением местных активистов, ЕС и международного сообщества некоторые муниципалитеты отозвали "резолюции, направленные против ЛГБТ-сообщества, или хартии семейных прав". 28 июня 2022 года Высший административный суд Польши приказал четырем муниципалитетам отозвать резолюции, направленные против сообщества ЛГБТКИ+. Судя по позиции Польши в отчете Rainbow Europe, обстановка в стране остается заметно враждебной по отношению к представителям сообщества ЛГБТКИА+.

В 2019 году Агентство Европейского союза по основным правам опросило представителей ЛГБТИ в ЕС. Исследование позволило сравнить условия жизни ЛГБТИ-сообщества с точки зрения нападений и преследования в Польше и других странах ЕС. Как показали результаты опроса, 51 % людей, относящихся к польскому сообществу ЛГБТИ, часто или всегда избегают определенных мест из-за страха нападения. В других странах ЕС этот показатель составил 33 %. Опрос также показал, что в течение пяти предыдущих лет каждый пятый трансгендерный человек подвергался физическому или сексуальному насилию — более чем в два раза чаще по сравнению с другими группами ЛГБТИ.

Чтобы проанализировать реакцию на унизительные заявления польских государственных деятелей в социальных сетях, Совет обратился к внешним экспертам. Они отметили, что "с 2015 года в Польше наблюдается пугающий рост количества публикуемых онлайн враждебных высказываний в отношении меньшинств, включая ЛГБТКИА+". Эксперты анализировали контент на Facebook на польском языке, который направлен против сообщества ЛГБТКИА+, и заметили, что всплески совпадают во времени с "судебными постановлениями по законам против ЛГБТКИА+". К таким постановлениям относятся решение Высшего административного суда, о котором шла речь выше, и заключения, касающиеся юридических сложностей при принятии нескольких деклараций против ЛГБТ-движения, на которые местным административным судам указали польские омбудсмены по требованию Комиссара по правам человека, в рамках процессов, продолжающихся с 2019 года.

Совет также обратился к лингвистам с просьбой определить смысл двух фраз на польском языке в рассматриваемой публикации. Учитывая "флаг трансгендерного сообщества на окне", эксперты определили фразу "шторы, которые вешаются сами" как "игру слов", обыгрывание смыслов "вешать шторы" и "совершать самоубийство через повешение". Они пришли к выводу, что эта фраза была "завуалированным трансфобским оскорблением". Что касается фразы "весенняя уборка", эксперты объяснили, что она "обычно означает генеральную уборку с приходом весны", но в некоторых контекстах "также несет смысл "выбросить весь мусор" и "избавиться от ненужных вещей (и/или людей)". В некоторых публичных комментариях, включая заявление Human Rights Campaign Foundation (комментарий № PC-16029), высказывалось мнение, что упоминание "весенней уборки" в этой публикации было формой "восхваления эксклюзии и исключения трансгендерных людей из общественной жизни Польши (посредством их смерти)".

Проблемы причинения вреда онлайн и офлайн, обнаруженные в рамках этого дела, затрагивают представителей сообщества ЛГБТКИА+ не только в Польше, но и по всему миру. Согласно данным Всемирной организации здравоохранения (ВОЗ), самоубийство — четвертая по частоте причина смерти среди людей 15–29 лет во всем мире. ВОЗ сообщает, что "уровень самоубийств также высок среди уязвимых групп, которые подвергаются дискриминации, например беженцев и мигрантов, коренных народов и лесбиянок, геев, бисексуальных, трансгендерных, а также интерсекс-людей (представителей ЛГБТИ-сообщества)". Другие исследования выявили связь между кибервиктимизацией и саморазрушающими мыслями или действиями.

Риск самоубийств — это особенно серьезная проблема в сообществе трансгендерных и небинарных людей. Национальный опрос 2023 года о психическом здоровье представителей ЛГБТК, проведенный организацией Trevor Project, показал, что в 2022 году половина трансгендерной и небинарной молодежи в США задумывалась о самоубийстве. Тот же опрос выявил, что в прошлом году совершить самоубийство пытались примерно 14 % молодых представителей ЛГБТК-сообщества, в том числе почти каждый пятый трансгендерный и небинарный человек в этой возрастной категории. Согласно результатам опроса о рискованном поведении молодых людей, проведенного Центром по контролю и профилактике заболеваний США (CDC), в 2021 году 10 % старшеклассников США пытались совершить самоубийство. Многочисленныеисследования в разных странах показали, что трансгендерные и небинарные люди более склонны к суицидальным мыслям и самоубийству в сравнении с цисгендерными людьми.

В ходе публичного обсуждения Совет получил комментарий организации GLAAD (№ PC-16027). Она поделилась выводами о безопасности представителей ЛГБТК в пяти крупных соцсетях, к которым пришла в ходе собственного ежегодного опроса Social Media Safety Index. В отчете за 2023 год платформа Facebook набрала 61 % по 12 показателям отношения к ЛГБТК-сообществу. С 2022 года этот показатель вырос на 15 баллов. В общем рейтинге Facebook занимает следующую строчку после Instagram и находится выше трех других крупных платформ. Однако GLAAD отмечает, что "уровень безопасности и качество защиты ЛГБТК-пользователей остаются на неудовлетворительном уровне". Согласно отчету, сложившаяся ситуация "причиняет вполне реальный вред ЛГБТК-сообществу в Интернете, в частности ограничивает свободу самовыражения его представителей, которые боятся стать жертвами нападок, и оказывает серьезное травматизирующее влияние на психику в результате постоянных оскорблений и проявлений ненависти".

3. Полномочия и сфера действия Независимого надзорного совета

Независимый надзорный совет уполномочен пересматривать решение Meta после отправки запроса на обжалование человеком, ранее пожаловавшимся на контент, который был оставлен на платформе (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка).

Совет может подтвердить либо отменить решение Meta (раздел 5 статьи 3 Устава), а решение Совета является обязательным для исполнения компанией Meta (статья 4 Устава). Компании Meta также необходимо оценить возможность применения своего решения в отношении аналогичного контента в сходном контексте (статья 4 Устава). В решениях Совета могут содержаться необязательные к исполнению рекомендации, на которые компания Meta должна реагировать (раздел 4 статьи 3 Устава; статья 4). Если Meta обязуется выполнить рекомендации, Совет отслеживает их реализацию.

Если Совет выбирает дела, подобные этому случаю, когда Meta впоследствии признает свою ошибку, Совет проверяет первоначальное решение, чтобы более тщательно изучить процесс модерации контента и выработать рекомендации для уменьшения количества ошибок и обеспечения более объективного отношения к пользователям Facebook и Instagram.

4. Источники полномочий и нормативов

Анализируя это дело, представители Совета опирались на приведенные ниже нормы и прецеденты.

I. Решения Независимого надзорного совета

Наиболее актуальные предыдущие решения Независимого надзорного совета:

• О возвращении первоначального значения словам на арабском языке
• О мультфильме о городе Книн
• О протестах в Колумбии
• Об армянах в Азербайджане

II. Правила Meta в отношении контента

В обосновании правил в отношении враждебных высказываний такие высказывания определены как прямые нападки на людей (не концепции или социальные институты) в связи с характеристиками, подлежащими защите от дискриминации, в том числе по полу и гендерной идентичности. Под "нападками" Meta понимает "агрессивные или унижающие человеческое достоинство высказывания, вредные стереотипы, утверждения о неполноценности, высказывания, выражающие презрение, отвращение или неприятие, ругательства, а также призывы к эксклюзии или сегрегации". В обосновании правил Meta также говорится следующее: "Мы считаем, что люди свободнее общаются и высказывают свое мнение, когда не чувствуют себя подверженными нападкам на основе их идентичности. Поэтому враждебные высказывания запрещены на Facebook. Они способствуют формированию атмосферы запугивания и эксклюзии, а в некоторых случаях могут провоцировать насилие в реальном мире".

В Нормах сообщества в отношении враждебных высказываний Meta разделяет нападки на "уровни". К нападкам первого уровня относится контент, направленный против человека или группы людей на основе характеристик, подлежащих защите от дискриминации, с "агрессивными высказываниями или высказываниями в поддержку агрессии в письменной или визуальной форме". В итоге в Meta решили, что рассматриваемая в рамках этого дела публикация нарушала это правило. 6 декабря 2023 года Нормы сообщества Meta были обновлены с учетом того, что запрет на агрессивные высказывания в отношении групп, объединенных характеристиками, подлежащими защите от дискриминации, перемещен к правилам в отношении насилия и подстрекательства.

К нападкам второго уровня относится контент, направленный против человека или группы людей на основе характеристик, подлежащих защите от дискриминации, с "высказываниями, выражающими презрение (в письменной или визуальной форме)". В Нормах сообщества в отношении враждебных высказываний Meta определяет высказывания, выражающие презрение, как включающие в себя "заявления о личной нетерпимости на основе характеристик, подлежащих защите от дискриминации", и "заявления о том, что характеристика, подлежащая защите от дискриминации, не должна существовать".

Нормы сообщества в отношении самоубийства или нанесения себе увечий запрещают "любой контент, который поощряет самоубийство или нанесение себе увечий, включая вымышленный контент (например, мемы или иллюстрации)". Согласно этим правилам, Meta удаляет "контент, в котором пропагандируется, поощряется или координируется самоубийство или нанесение себе увечий либо содержатся соответствующие инструкции".

При анализе Совет учитывал обязательство Meta защищать ценность Свобода самовыражения, которую в Meta называют "первостепенной", а также ценности "Безопасность" и "Достоинство".

III. Обязательства Meta по защите прав человека

Руководящие принципы ООН относительно предпринимательской деятельности в аспекте прав человека (РП ООН), одобренные Советом ООН по правам человека в 2011 году, устанавливают порядок добровольного выполнения частными компаниями обязанностей по защите прав человека. В 2021 году в Meta опубликовали Корпоративную политику в области прав человека, подтверждающую приверженность Meta соблюдению прав человека в соответствии с РП ООН. При анализе обязанностей Meta по защите прав человека в рамках этого дела Совет основывался на приведенных ниже международных нормах.

• Права на свободу мнений и их свободное выражение: статья 19 Международного пакта о гражданских и политических правах (МПГПП); Замечание общего порядка № 34 Комитета по правам человека (2011 г.); доклады Специального докладчика ООН по вопросам защиты права на свободу мнений и их свободное выражение: № A/HRC/38/35 (2018 г.), № A/74/486 (2019 г.); Рабатский план действий, отчет Верховного комиссара ООН по правам человека: № A/HRC/22/17/доп. 4 (2013 г.).
• Право на жизнь: статья 6 МПГПП.
• Право на наивысший достижимый уровень физического и психического здоровья: статья 12 Международного пакта об экономических, социальных и культурных правах (МПЭСКП).
• Право на равенство и свободу от дискриминации: пункт 1 статьи 2 и статья 26 МПГПП.

5. Заявления пользователя

В запросе на обжалование, направленном в Совет, отправитель жалобы отметил, что человек, опубликовавший рассматриваемое изображение, ранее преследовал трансгендерных людей в Интернете и создал новый аккаунт после того, как его заблокировали на Facebook. Он также заявил, что "нельзя допускать" одобрение высокого уровня самоубийств в трансгендерном сообществе.

6. Заявления Meta

В итоге публикация была удалена компанией Meta в соответствии с первым уровнем Норм сообщества в отношении враждебных высказываний, поскольку контент нарушал правило, которое запрещает нападки на людей или группы людей на основе характеристик, подлежащих защите от дискриминации, с "агрессивными высказываниями или высказываниями в поддержку агрессии в письменной или визуальной форме". Во внутреннем руководстве Meta относительно применения этих правил указано, что контент следует удалять, если он представляет собой "агрессивные высказывания в виде призывов к действию или заявлений о намерении нанести вред, мотивационных или условных заявлений о нанесении вреда, а также утверждений, оправдывающих или поддерживающих смерть, болезнь или нанесение вреда (в письменной или визуальной форме)".

В этом внутреннем руководстве компания также описывает то, что она считает визуальной репрезентацией групп с характеристиками, подлежащими защите от дискриминации, на изображении или в видео. Совет не получил от Meta разрешения опубликовать более подробные сведения касательно этого руководства. Представители Meta заявили, что "согласно правилам в отношении враждебных высказываний, Meta может принимать во внимание визуальные элементы, чтобы определить, является ли контент нападкой на человека или группу людей на основе характеристик, подлежащих защите от дискриминации".

В Meta заявили, что неоднократные оценки публикации как контента, который не нарушает Нормы сообщества в отношении враждебных высказываний, — это следствие "строгого соблюдения внутреннего руководства" проверяющими. Дополнительно в компании пояснили: "Несмотря на то, что шторы напоминают трансгендерный флаг гордости, саму нападку на флаг мы интерпретировали как нападку на концепцию или социальный институт, что не является нарушением наших правил и агрессией в отношении человека или группы людей". Однако впоследствии в Meta пришли к заключению, что "намек на повешение в публикации сигнализирует о нападке на группу людей". Компания сделала вывод, что фраза "шторы, которые вешаются сами" — это намек на уровень самоубийств в трансгендерном сообществе, поскольку шторы на фото напоминают трансгендерный флаг гордости, а их свисание с окна (так же, как и наложенный текст) представляет собой метафору самоубийства путем повешения". Кроме того, в Meta указали, что "концепции или социальные институты не могут "вешаться сами", по крайней мере, не в прямом смысле". Так специалисты Meta пришли к выводу, что пользователь намекал на "трансгендерных людей, а не просто на концепцию". Таким образом, согласно выводу Meta, "этот контент нарушает правила в отношении враждебных высказываний, поскольку должен интерпретироваться как утверждение в поддержку смерти группы людей с характеристикой, подлежащей защите от дискриминации, путем самоубийства".

После обновления правил в отношении враждебных высказываний, а именно после переноса той ее части, где запрещаются агрессивные высказывания в отношении групп с характеристиками, подлежащими защите от дискриминации, к правилам в отношении насилия и подстрекательства, представители Meta сообщили Совету, что контент по-прежнему считается нарушающим правила.

В Meta также заявили, что утверждение "Я трансфоб" в биографии аккаунта пользователя нарушало правила в отношении враждебных высказываний (уровень 2), так как было "заявлением о личной нетерпимости на основе характеристик, подлежащих защите от дискриминации". Команда Meta сообщает, что признала это утверждение нарушением, анализируя инцидент и аккаунт пользователя, после того как Совет выбрал это дело для рассмотрения. В Meta заявили, что это утверждение помогло понять намерение, с которым пользователь публиковал данный контент.

В ответ на вопрос Совета, нарушает ли рассматриваемый контент правила в отношении самоубийства или нанесения себе увечий, в Meta подтвердили, что "контент нарушает правила в отношении самоубийства или нанесения себе увечий, так как поощряет самоубийство. Это согласовывается с нашим выводом о том, что данный контент представляет собой утверждение в поддержку смерти группы людей с характеристикой, подлежащей защите от дискриминации, путем самоубийства". В Meta также подчеркнули, что правила в отношении самоубийства или нанесения себе увечий "не различают контент с пропагандой или поощрением самоубийства, который нацелен на определенного человека или на группу людей".

Совет задал Meta 13 вопросов в письменной форме. Они касались следующих тем: подход Meta к модерации контента, касающегося проблем трансгендерных людей и сообщества ЛГБТКИА+; взаимосвязь между Нормами сообщества в отношении враждебных высказываний и в отношении самоубийства или нанесения себе увечий; принципы оценки "юмора" и "сатиры" модераторами при проверке контента на предмет нарушений, касающихся враждебных высказываний; роль "вирусного распространения" и "степени серьезности" при отборе контента для проверки вручную; порядок выбора системами модерации Meta контента для проверки вручную при наличии нескольких жалоб пользователей. Компания Meta ответила на все 13 вопросов.

7. Публичные комментарии

Независимый надзорный совет получил 35 публичных комментариев в связи с этим делом, в том числе 25 комментариев из США и Канады, семь из Европы и три из Азиатско-Тихоокеанского региона и Океании. В это число входили комментарии, которые повторялись или были отправлены с согласием на публикацию, но не отвечали требованиям Совета к публикации. Такое исключение могло быть связано с оскорбительным характером комментария, опасениями относительно конфиденциальности пользователей и/или другими юридическими причинами. Публичные комментарии можно отправлять в Совет с согласием на публикацию или без него, а также с согласием на указание авторства или без него.

Комментарии касались следующих тем: ситуация с правами человека в Польше, в частности ее восприятие трансгендерными людьми; безопасность представителей сообщества ЛГБТКИА+ в соцсетях; взаимосвязь между причинением вреда онлайн и офлайн в Польше; взаимосвязь между юмором, сатирой, мемами и ненавистью/преследованием в отношении трансгендерных людей в соцсетях; проблемы с модерацией контента, для интерпретации которого необходим контекст.

С публичными комментариями по этому делу можно ознакомиться здесь.

8. Анализ Независимого надзорного совета

Совет рассмотрел необходимость удаления этого контента, проанализировав правила в отношении контента, а также обязанности по защите прав человека и ценности компании Meta. Он также проанализировал, как выводы по этому делу могут изменить общий подход Meta к управлению контентом.

Совет выбрал это дело, чтобы оценить, насколько точно Meta обеспечивает соблюдение правил в отношении враждебных высказываний, и лучше понять, как Meta обращается с контентом, который можно отнести и к враждебным высказываниям, и к пропаганде самоубийства или нанесения себе увечий.

8.1. Соблюдение правил Meta в отношении контента

I. Правила в отношении контента

Враждебные высказывания

Совет полагает, что контент, рассматриваемый в этом деле, нарушает Нормы сообщества в отношении враждебных высказываний. Публикация содержала "агрессивные высказывания или высказывания в поддержку агрессии" (уровень 1) в виде призыва к смерти путем самоубийства представителей группы с характеристикой, подлежащей защите от дискриминации. Это явно нарушает правила в отношении враждебных высказываний.

Совет согласен с окончательным выводом Meta, что намек на повешение в публикации — нападка на группу людей, а не на концепцию, поскольку "концепции или социальные институты не могут "вешаться сами". Совет дополнительно убедился в своем заключении, проанализировав более широкий контекст: случаи причинения вреда представителям сообщества ЛГБТКИА+, в частности трансгендерным людям, в Польше онлайн и офлайн. Публикация с агрессивными высказываниями, оправдывающими и поддерживающими смерть трансгендерных людей путем самоубийства, способствовала формированию атмосферы запугивания и эксклюзии, вследствие чего могла привести к физическому ущербу. Контекст, в котором использовались формулировки из публикации, очевидно демонстрирует, что автор намеревался унизить человеческое достоинство людей, ставших целью нападки. Учитывая характер текста и изображения, публикация также усугубляет психологические проблемы, которые испытывают в трансгендерном сообществе. Согласно многочисленным исследованиям трансгендерные и небинарные люди более склонны к суицидальным мыслям и самоубийству в сравнении с цисгендерными людьми. Более того, постоянные нападки и виктимизация в Интернете демонстрируют положительную корреляцию с суицидальными мыслями. Учитывая контекст, Совет постановил, что флаг трансгендерных людей и намек на повышенный риск самоубийств в трансгендерном сообществе ("шторы, которые вешаются сами") прямо указывают на то, что цель публикации — трансгендерные люди. Совет пришел к выводу, что фраза "весенняя уборка", за которой следовал смайлик "<3" ("сердце"), также означала поддержку смерти группы людей. Таким образом она нарушала Нормы сообщества в отношении враждебных высказываний (уровень 2), поскольку Meta запрещает "заявления о том, что характеристика, подлежащая защите от дискриминации, не должна существовать".

Принимая во внимание эти Нормы сообщества, Совет убежден, что соответствующие правила и внутреннее руководство по обеспечению их соблюдения следует чаще применять в случаях "злонамеренного творчества", нацеленного на группы, чьи права издавна ущемлялись. Международный научный центр Wilson Center ввел этот неологизм в обиход в ходе исследования гендерно обусловленного и сексуального насилия. Организация GLAAD также подчеркнула актуальность этого термина в своем публичном комментарии (№ PC-16027). "Злонамеренным творчеством" называются "завуалированные формулировки, многократно повторяемые визуальные и текстовые мемы, основанные на контексте, и другие приемы, позволяющие избежать обнаружения в соцсетях". В GLAAD перенесли идею "злонамеренного творчества" на публикацию из дела и отметили, что "недоброжелатели находят всё новые способы нападок на ЛГБТК-сообщество" и уязвимые группы. Чаще всего они размещают публикации и мемы, которые преподносятся как "юмор или сатира", но "на самом деле применяются для разжигания ненависти или преследования представителей ЛГБТК-сообщества". В этом случае "злонамеренное творчество" приняло форму публикации с двумя частично завуалированными намеками на самоубийство ("шторы, которые вешаются сами" и "весенняя уборка") и визуальной репрезентацией группы, подлежащей защите от дискриминации (флаг трансгендерных людей), которая поощряет смерть путем самоубийства. В решении по делу Об армянах в Азербайджане Совет отметил, что при необходимости определить, является ли рассматриваемое в рамках дела выражение намеренной нападкой на группу с характеристикой, подлежащей защите от дискриминации, важно учитывать контекст. В том деле на первом месте стоял контекст войны, однако угрозы, с которыми сталкиваются трансгендерные люди в Польше, демонстрируют, что плачевная ситуация для того или иного сообщества может сложиться и в отсутствие войны. Как уже отмечалось выше, в течение пяти лет до 2019 года каждый пятый трансгендерный человек в Польше подвергался физическому или сексуальному насилию — более чем в два раза чаще по сравнению с другими группами ЛГБТИ, представители которых сообщали о таком насилии.

Совет обеспокоен тем, что проверяющие Meta, выполнявшие начальную оценку, не обратили внимания на контекстуальные сигналы в контенте и в результате заключили, что контент не нарушает правила. Совет порекомендовал ряд исправлений для руководства по обеспечению соблюдения Норм сообщества в отношении враждебных высказываний. При этом он подчеркнул, что публикация нарушала соответствующие правила даже с учетом формулировок на момент ее размещения. В обоих заявлениях из этой публикации выражается одобрение смерти трансгендерных людей путем самоубийства. Это заключение подтверждалось дополнительным сигналом в биографии пользователя. Самоидентификация пользователя как трансфоба могла бы считаться нарушением запрета на "заявления о личной нетерпимости на основе характеристик, подлежащих защите от дискриминации", который приведен в Нормах сообщества в отношении враждебных высказываний на уровне 2, — как в рамках этого дела, так и сама по себе. Компания Meta должна более точно обеспечивать соблюдение правил в отношении контента с враждебными высказываниями, которые нацелены на сообщество ЛГБТКИА+. Это особенно важно для публикаций с изображениями и текстом, для интерпретации которых требуется контекст. При этом не имеет значения, как будет достигнута поставленная цель: путем автоматизации или с помощью проверки вручную. Как отметили в GLAAD (комментарий № PC-16027), Meta "регулярно допускает ошибки при обеспечении соблюдения правил, когда проверяет жалобы на контент со злонамеренным творчеством".

Совет также обеспокоен заявлением Meta о том, что проверяющие не удалили контент, поскольку "строго следовали внутреннему руководству". Это означает, что во внутреннем руководстве для проверяющих ненадлежаще объясняется, как текст и изображения в публикации из соцсети могут представлять группу, которую определяет гендерная идентичность ее представителей. Совет предполагает, что в руководстве недостаточно информации, чтобы проверяющие первой линии могли эффективно обеспечивать соблюдение правил в отношении контента против групп с характеристиками, подлежащими защите от дискриминации. Речь идет о случаях, когда такие группы представлены визуально, но не названы или не изображены через людей. Совет не получил от Meta разрешения на публикацию дополнительных сведений, которые позволили бы вести более развернутую дискуссию о том, как улучшить обеспечение соблюдения правил в отношении контента такого типа. Тем не менее Совет считает, что компании Meta следует внести изменения в руководство, чтобы при анализе контента на предмет нападок проверяющие должным образом распознавали визуальную репрезентацию гендерной идентичности. Совет подчеркивает, что эта рекомендация не означает, что компании Meta следует ослабить защиту свободы оспаривания концепций, социальных институтов, идей, практик или убеждений. Скорее, Совет хочет видеть в руководстве Meta уточнение, что публикация может быть нападкой на людей, даже если в ней не изображены люди.

Самоубийство или нанесение себе увечий

Совет пришел к выводу, что контент, рассматриваемый в рамках этого дела, также нарушает Нормы сообщества в отношении самоубийства или нанесения себе увечий. Эти правила запрещают "контент, в котором пропагандируется, поощряется или координируется самоубийство или нанесение себе увечий либо содержатся соответствующие инструкции". Во внутреннем руководстве Meta для проверяющих "пропаганда" определяется как "положительное высказывание". Совет согласен с окончательным заключением Meta о том, что этот контент одобряет смерть людей из группы с характеристикой, подлежащей защите от дискриминации, путем самоубийства, а значит — поощряет самоубийство.

Совет также полагает, что Нормы сообщества в отношении самоубийства или нанесения себе увечий должны более явно запрещать контент с пропагандой или поощрением самоубийств, нацеленный на идентифицируемую группу в целом, а не только на отдельных ее представителей. В Meta раскрыли Совету, что правила не предусматривают различий между этими двумя видами контента. Однако, учитывая сложности, с которыми столкнулись проверяющие при выявлении утверждения, поощряющего самоубийства в группе людей, Совет настоятельно рекомендует Meta уточнить, что правила запрещают контент с пропагандой или поощрением самоубийств, нацеленный на идентифицируемую группу в целом. Meta следует добавить это пояснение на страницу правил в отношении самоубийства или нанесения себе увечий, а также в соответствующее внутреннее руководство для проверяющих.

II. Меры по обеспечению соблюдения правил в отношении контента

Совет пришел к выводу, что в этом случае на обеспечение соблюдения правил существенно повлияли автоматизированные системы Meta, устанавливающие приоритетность проверки. Из 12 жалоб пользователей на публикацию 10 были автоматически закрыты системами Meta. Автоматизированные системы Meta также закрыли два из трех запросов на обжалование решений Meta, отправленных пользователями. Совет обеспокоен тем, что в переданной ему истории дела были обнаружены многочисленные указания на нарушение, и предполагает, что соблюдение правил Meta в отношении контента не обеспечивается должным образом.

Совет отмечает, что многие жалобы пользователей были закрыты из-за правил модерации, предназначенных для множественных жалоб об одном и том же контенте. Первая жалоба пользователя по поводу враждебных высказываний не получила достаточно высокий приоритет для проверки вручную из-за "низких показателей степени серьезности нарушения и вирусного распространения контента". Последующие жалобы по поводу враждебных высказываний также не получили достаточно высокий приоритет для проверки вручную. Если поступает несколько жалоб об одном и том же контенте, Meta "дедуплицирует их, чтобы обеспечить согласованность решений проверяющих и ответных мер". Совет признает, что дедупликация — разумная практика при массовой модерации контента. Однако он отмечает, что такой подход требует более внимательного отношения при первоначальном анализе, поскольку тот определит судьбу всех сгруппированных жалоб.

Совет полагает, что команда Meta должна в первую очередь улучшить точность автоматизированных систем, которые обеспечивают соблюдение правил и отбирают контент для проверки вручную. Это особенно важно для работы с контентом, который потенциально затрагивает представителей сообщества ЛГБТКИА+. Улучшение способности автоматизированных систем распознавать подобные завуалированные формулировки и контекстно зависимые изображения, как в этом деле, несомненно повысит качество обеспечения соблюдения правил в отношении контента, который нацелен и на другие группы с характеристиками, подлежащими защите от дискриминации. Совет считает, что биография пользователя, в которой он сам признается в трансфобии, — важный сигнал, по которому можно было определить, какая степень серьезности у нарушения,стоит ли отбирать контент на проверку вручную и/или принимать меры по обеспечению соблюдения правил. Этот сигнал мог бы дополнить существующие результаты анализа поведения и соцсетей, с помощью которых Meta, вероятно, выявляет потенциально нарушающий правила контент.

Совет также подчеркнул, что компании Meta следует должным образом откалибровать автоматизированные системы и обучить проверяющих контента, чтобы они могли эффективно оценивать публикации, связанные с сообществом ЛГБТКИА+, в массовом порядке. Совет настораживает текущий подход Meta, в рамках которого специалисты по проверке, рассматривающие обжалования, зачастую обладают тем же уровнем компетенции, что и модераторы первой линии. Совет убежден, что Meta следует выделять больше ресурсов на разработку и обучение классификаторов, способных обнаруживать контент, который потенциально нарушает правила и затрагивает сообщество ЛГБТКИА+, а затем направлять его на проверку вручную. Враждебные высказывания, в частности контент наивысшей степени серьезности, который в правилах Meta относится к первому уровню, всегда должны передаваться на проверку. Совет также предлагает следующие улучшения: i) дополнительное информирование проверяющих о том, какой вред могут нанести нарушения правил, связанные с гендерной идентичностью; ii) создание целевой рабочей группы, изучающей опыт взаимодействия трансгендерных и небинарных людей с платформами Meta; iii) создание специализированной группы профильных экспертов для проверки контента с упоминаниями проблем, затрагивающих сообщество ЛГБТКИА+. Хотя факты, рассматриваемые в этом деле, относятся непосредственно к проблемам, с которыми сталкиваются трансгендерные люди на Facebook, Совет также рекомендует Meta изучить, как улучшить обеспечение соблюдения правил в отношении контента с враждебными высказываниями в отношении других групп с характеристиками, подлежащими защите от дискриминации.

Совет предоставил всего две официальные рекомендации (приведены ниже), однако подчеркивает, что на это есть причина. Дело в том, что перечисленные в рамках этого дела проблемы связаны не столько с формулировками правил в отношении контента, сколько с обеспечением их соблюдения. В рамках этого дела Совет насчитал по крайней мере пять признаков вредного контента: (1) фраза с намеком "шторы, которые вешаются сами" в публикации; (2) фраза с намеком "весенняя уборка <3" в публикации; (3) самоопределение пользователя —"трансфоб" — в стране с высоким уровнем враждебности к сообществу ЛГБТКИА+(согласно отчетам); (4) количество жалоб пользователей на контент и запросов на обжалование; (5) количество жалоб и обжалований относительно показателя вирусного распространения контента. Совет обеспокоен тем, что в Meta пропустили эти сигналы, и полагает, что это связано с недостаточно эффективным обеспечением соблюдения правил. Совет твердо убежден, что компании Meta следует выработать строгий, но не стандартный подход к устранению разрыва между декларируемыми принципами по защите сообщества ЛГБТКИА+ на своих платформах и их реальным воплощением.

8.2. Выполнение обязанностей Meta по защите прав человека

Свобода выражения мнений (статья 19 МПГПП)

В пункте 2 статьи 19 Международного пакта о гражданских и политических правах (МПГПП) говорится, что "каждый человек имеет право на свободное выражение своего мнения; это право включает свободу искать, получать и распространять всякого рода информацию и идеи, независимо от государственных границ, устно, письменно или посредством печати или художественных форм выражения, или иными способами". В Замечании общего порядка № 34 (2011 г.) дополнительно уточняется, что под защиту подпадает и такая форма выражения мнений, которая может рассматриваться как "глубоко оскорбительная" (пункт 11).

Если ограничения на свободу выражения мнений установлены государством, они должны соответствовать требованиям в отношении правомерности, законной цели, а также необходимости и соразмерности (пункт 3 статьи 19 МПГПП). Эти требования часто называют "трехэтапной проверкой". Совет использует ее для интерпретации добровольно принятых Meta обязательств по защите прав человека: как при вынесении решений по проверяемому контенту в конкретном деле, так и при оценке общего подхода Meta к управлению контентом. В отчете Специального докладчика ООН по вопросам права на свободу мнений и их свободное выражение говорится: "у компаний нет обязательств государственного уровня, однако их влияние таково, что им необходимо рассматривать те же вопросы защиты прав пользователей, касающиеся свободы слова" (№ A/74/486, пункт 41).

I. Правомерность (четкость и доступность правил)

Принцип правомерности в соответствии с международными законами в области прав человека требует, чтобы нормы, ограничивающие свободу выражения мнений, были четкими и доступными для понимания широкой общественности (Замечание общего порядка № 34, пункт 25). Правила, ограничивающие свободу выражения мнений, "не должны предусматривать наличия у лиц, отвечающих за [их] выполнение, ничем не ограниченного права ограничивать свободу самовыражения", но "должны предоставлять лицам, которым поручено их осуществление, достаточные указания для того, чтобы они могли определить, на какие формы самовыражения установлены должные ограничения, а на какие — нет" (там же). Применительно к правилам, регулирующим высказывания в Интернете, Специальный докладчик ООН по вопросам права на свободу мнений заявил, что они должны быть четкими и конкретными (№ A/HRC/38/35, пункт 46). Люди, использующие платформы Meta, должны обладать доступом к правилам и возможностью их понимать. Специалисты по проверке контента должны получить четкие инструкции по обеспечению соблюдения правил.

Совет полагает, что компания Meta разработала достаточно четкие запреты на "агрессивные высказывания или высказывания в поддержку агрессии" в письменной или визуальной форме, нацеленные на группы с характеристиками, подлежащими защите от дискриминации, на заявления о том, что такая характеристика не должна существовать, и на высказывания, в которых пропагандируется или поощряется самоубийство или нанесение себе увечий.

Однако Совет отметил, что Meta может повысить точность обеспечения соблюдения правил, связанных с этим делом, предоставив проверяющим более четкое руководство, как описано в разделе 8.1 выше. Компании Meta следует уточнить, что контент считается нападкой согласно правилам в отношении враждебных высказываний, даже если визуальная репрезентация гендерной идентичности (например, с помощью флага) не содержит изображений людей. Компании Meta также следует пояснить, что призыв к самоубийству, адресованный группе в целом (а не одному человеку), нарушает правила в отношении самоубийства или нанесения себе увечий.

II. Законная цель

Любое ограничение свободы выражения мнений также должно преследовать одну из законных целей, перечисленных в МПГПП, к которым относятся "права других людей". По итогам нескольких дел Совет определил, что правила Meta в отношении враждебных высказываний призваны защитить пользователей от вреда, причиняемого такими высказываниями, поэтому у них есть законная цель, подтверждаемая международными нормами в области прав человека (см., например, решение по делу О мультфильме о городе Книн). Кроме того, Совет постановил, что в этом деле правила в отношении самоубийства или нанесения себе увечий, касающиеся контента, в котором поощряется самоубийство или нанесение себе увечий, служат такой законной цели, как защита прав человека на наивысший достижимый уровень физического и психического здоровья (статья 12 МПЭСКП) и на жизнь (статья 5 МПГПП). В рамках дел, похожих на рассматриваемое, когда поощряется совершение самоубийств в группе с характеристикой, подлежащей защите от дискриминации, правила в отношении самоубийства или нанесения себе увечий также защищают права человека на равенство и свободу от дискриминации (пункт 1 статьи 2 МПГПП).

III. Необходимость и соразмерность

Принцип необходимости и соразмерности предполагает, что любые ограничения свободы выражения мнений "должны быть уместны для выполнения своей защитной функции; должны представлять собой наименее ограничительное средство из числа тех, с помощью которых может быть достигнут желаемый результат; и должны являться соразмерными защищаемому интересу" (Замечание общего порядка № 34, пункт 34).

При анализе рисков, связанных с публикацией контента, пропагандирующего насилие, Совет, как правило, руководствуется шестифакторным планом, который описан в Рабатском плане действий. Он позволяет определить, является ли контент пропагандой национальной, расовой или религиозной ненависти, представляющей собой подстрекательство к вражде, дискриминации или насилию. Опираясь на результаты оценки ключевых факторов, в особенности контента и формы его выражения, намерения автора и контекст (см. ниже), Совет пришел к выводу, что удаление контента соответствует обязанностям Meta по защите прав человека, так как этот контент создает непосредственную угрозу потенциального причинения вреда. Удаление этого контента было необходимым и соразмерным ограничением свободы выражения мнений, так как было призвано защитить право на жизнь, а также право на наивысший достижимый уровень физического и психического здоровья большинства представителей сообщества ЛГБТКИА+ в целом и трансгендерных людей из Польши в частности.

Ранее Совет отмечал важность возвращения первоначального значения уничижительным выражениям, применяемым в отношении сообщества ЛГБТКИА+, для борьбы с дезинформацией (см. решение по делу О возвращении первоначального значения словам на арабском языке), однако в данном случае это неприменимо. В этом контенте также не было высказываний, имеющих политическую значимость или достойных публикации (см. решение по делу О протестах в Колумбии). Публикация, рассматриваемая в этом деле, содержала изображение флага трансгендерного сообщества, свисающего, как штора, и описание, где говорилось о шторах, которые вешаются сами. По мнению экспертов, к которым обратился Совет, шторы (как в визуальной, так и в текстовой форме) не являются стандартным образом, используемым для завуалированных нападок на трансгендерное сообщество. Тем не менее, как говорилось выше, в контенте с нападками на трансгендерных людей проявляется феномен "злонамеренного творчества" (использование новых высказываний и стратегий репрезентации для выражения ненависти и преследования). Совет пришел к выводу, что анализируемый в рамках этого дела контент соответствует всем критериям, описывающим данный феномен. Несмотря на изображение, которое показалось ряду пользователей "юмором" (о чем свидетельствуют смайлики "Ха-ха" в реакциях), публикация всё равно может быть интерпретирована как агрессивное и провокационное заявление, нацеленное на трансгендерное сообщество. Разумеется, юмор и сатиру можно использовать для расширения границ обоснованной критики, но они не могут служить прикрытием для враждебных высказываний. Тема высокого уровня самоубийств среди трансгендерных людей в публикации затрагивается только для того, чтобы выразить радость от этого факта.

Изучая намерение автора контента, Совет обнаружил, что в своей биографии он открыто называет себя "трансфобом". В Meta учли это заявление позже, однако Совет считает, что оно имеет исключительную важность для определения намерения пользователя. Кроме того, оно само по себе могло быть причиной удаления контента независимо от его содержания, поскольку нарушало правила в отношении враждебных высказываний (уровень 2). Также в публикации акт самоубийства трансгендерных людей был назван "весенней уборкой", а после данного описания следовал смайлик "сердце". Приняв во внимание это заявление в поддержку смерти группы людей путем самоубийства, а также содержание публикации, использованное изображение, сопроводительный текст и подпись, Совет постановил, что намерение пользователя заключалось в поощрении дискриминации и насилия. Рассматриваемый в рамках данного дела контент не только побуждал трансгендерных людей совершать насилие по отношению к себе, но и призывал других к дискриминации транс-людей и враждебным действиям против них. Этот вывод подтверждается тем фактом, что наиболее частой реакцией других пользователей, взаимодействовавших с этим контентом, был смайлик "Ха-ха".

Наконец, Совет отметил серьезные риски в реальном мире, с которыми сталкиваются представители сообщества ЛГБТКИА+ в Польше. Они принимают форму репрессивных мер правового и административного регулирования, а также высказываний политических лидеров и влиятельных публичных личностей. С 2020 года, согласно рейтингу ILGA-Europe, Польша демонстрирует самые низкие показатели в плане защиты прав представителей ЛГБТКИА+ среди всех стран ЕС. Также стоит отметить, что в законах Польши о противодействии языку вражды и преступлениям на почве ненависти отсутствуют средства правовой защиты для сообщества ЛГБТКИА+. Это одна из проблем, которую Польшу призывают решить такие организации, как ILGA-Europe и Amnesty International. Кроме того, рост количества размещаемого на Facebook контента на польском языке, направленного против сообщества ЛГБТКИА+, который отметили внешние эксперты и многие участники публичного обсуждения, происходит не в отрыве от остального мира. Многие организации и учреждения выражают тревогу по поводу распространения в социальных сетях риторики, направленной против представителей сообщества ЛГБТКИА+. Независимый эксперт ООН по вопросам защиты от насилия и дискриминации по признаку сексуальной ориентации и гендерной идентичности Виктор Мадригал-Борлос (Victor Madrigal-Borloz) заявил, что уровень насилия и дискриминации в отношении людей с разнообразной гендерной идентичностью и трансгендерных людей "оскорбляет человеческую честь". В исследованиях и отчетах GLAAD сообщается, что это "причиняет вполне реальный вред ЛГБТК-сообществу в Интернете, в частности… оказывает серьезное травматизирующее влияние на психику в результате постоянных оскорблений и проявлений ненависти". Контент, аналогичный публикации в этом деле (особенно если рассматривать его в мировом масштабе), может способствовать созданию атмосферы, в которой и без того частая беда — самоубийства трансгендерных людей — только усугубится. Более того, контент, который приводит к нормализации агрессивных высказываний против трансгендерных людей, как в случае с данной публикацией, повышает риск того, что текущие психологические проблемы, которые испытывают транс-люди, примут более острую форму, а случаи насилия в отношении представителей этого сообщества в реальном мире участятся.

9. Решение Независимого надзорного совета

Независимый надзорный совет отменил решение Meta оставить контент на платформе.

10. Рекомендации

Правила в отношении контента

1. На странице правил Meta в отношении самоубийства или нанесения себе увечий должно уточняться, что Нормы сообщества запрещают контент, пропагандирующий или поощряющий самоубийства в идентифицируемой группе людей.

Совет будет считать эту рекомендацию выполненной, когда предложенное изменение появится в общедоступной версии Норм сообщества в отношении самоубийства или нанесения себе увечий.

Обеспечение соблюдения правил в отношении контента

2. Необходимо изменить внутреннее руководство Meta для проверяющих первой линии, чтобы они соотносили визуальную репрезентацию гендерной идентичности, основанную на флаге и не изображающую людей, с группой, которую определяет гендерная идентичность ее представителей. Эти изменения прояснят порядок обеспечения соблюдения правил в отношении подобного контента для проверяющих первой линии, если он будет содержать недопустимые нападки.

Совет будет считать эту рекомендацию выполненной, когда Meta предоставит ему информацию об изменениях, внесенных во внутреннее руководство.

* Процедурное примечание

Решения Независимого надзорного совета подготавливаются группой из пяти его представителей и утверждаются большинством участников Совета. Решения Совета не обязательно отражают личные взгляды всех его участников.

Для принятия решения по этому делу от имени Совета было поручено провести независимое исследование. Помощь в проведении исследования оказал независимый исследовательский институт при Гётеборгском университете, располагающий коллективом более чем из 50 ученых-социологов на шести континентах, а также более 3 200 специалистов из разных стран. Совет также получил аналитику от компании Memetica, специализирующейся на исследовании тенденций в социальных сетях по открытым источникам. Лингвистическую экспертизу провела компания Lionbridge Technologies, LLC, специалисты которой владеют более чем 350 языками и работают в 5 000 городов по всему миру.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें