О негативных стереотипах об афроамериканцах

Это обзорное решение. В обзорных решениях рассматриваются случаи, когда в Meta отменили первоначальное решение по той или иной единице контента после того, как Совет привлек к ней внимание компании. Кроме того, они включают информацию об ошибках, признанных Meta. Они утверждаются группой членов Совета, а не Советом в полном составе, комментарии общественности не запрашиваются, а решения не имеют прецедентного значения для Совета. В обзорных решениях непосредственно рассказывается об изменениях в решениях Meta, что обеспечивает прозрачность таких исправлений. Кроме того, они включают рекомендации, призванные повысить эффективность обеспечения соблюдения правил Meta.

Сводка

Совет рассмотрел три публикации с расистскими материалами на Facebook, которые в Meta не удалили. В каждой из этих публикаций содержалась карикатура или фотоколлаж, изображающие афроамериканцев с акцентом на оскорбительных стереотипах о них, включая отсутствие отцов, жизнь на социальное пособие и ограбления магазинов. Данные дела свидетельствуют об ошибках, допущенных Meta при обеспечении соблюдения политик в отношении враждебных высказываний и травли и преследования. После того как Совет привлек внимание Meta к соответствующим запросам на обжалование, первоначальные решения были отменены, а публикации были удалены.

Сведения о делах

В конце 2023 года в Совет поступило три отдельных запроса на обжалование решений по трем разным изображениям, опубликованным на Facebook. Все они содержали негативные материалы об афроамериканцах.

В первой публикации, набравшей около 500 тыс. просмотров, содержалось сгенерированное на компьютере изображение горящего магазина и чернокожих людей, изображенных в виде персонажей из мультфильма, одетых в свитшоты с капюшонами и выбегающих из этого магазина с товарами в руках. Название магазина Target заменено на "Loot" ("Добыча"), а в подписи пользователь описывает это изображение как новый фильм от Pixar.

Во второй публикации содержится сгенерированное на компьютере изображение, также имитирующее киноафишу, на которой чернокожая женщина с преувеличенными физическими особенностями держит тележку, полную чипсов Cheetos. Фильм называется "EBT", как и система получения социальных пособий в США. В верхней части плаката вместо имен актеров указаны имена Трейвона Мартина и Джорджа Флойда — афроамериканцев, ставших жертвами насилия: один был застрелен вооруженным линчевателем в 2012 году, а другой погиб от рук полицейского в 2020 году. Их смерть вызвала протесты против расового неравенства в системе правосудия США.

В третьей публикации, набравшей около 14 миллионов просмотров, содержится мем: "Adobe has developed software that can detect photoshop in an image" ("Компания Adobe разработала программное обеспечение, которое выявляет фотоманипуляции на изображении"). Под этим заявлением представлено изображение женщины с разноцветными отметинами по всему лицу (как в тепловизоре) — намек на то, что некоторые части этого изображения были изменены. Рядом с этим изображением для сравнения приведено изображение чернокожей семьи за обеденным столом, где точно так же отмечены отец и еда на столе — подразумевается, что эти два элемента изображения были добавлены в процессе редактирования. Эта публикация подкрепляет широко распространенный негативный стереотип об отсутствии фигуры отца в семьях чернокожих в США, что является следствием сложной истории системного расизма и экономического неравенства.

Первоначально в Meta оставили все три публикации на Facebook несмотря на запросы на обжалование, полученные от пользователей. В запросах на обжалование, направленных в Совет, те же пользователи утверждали, что этот контент демонстрирует вредные расовые стереотипы в отношении афроамериканцев.

После того как Совет обратил внимание Meta на эти дела, в компании определили, что все эти публикации нарушают Норму сообщества в отношении враждебных высказываний, которая запрещает прямые нападки на людей на основе характеристик, подлежащих защите от дискриминации, включая расу и этническую принадлежность. Данная политика также запрещает "нападки на отдельных людей или групп людей" посредством "высказываний, принижающих человеческое достоинство" в форме "сравнения с преступниками, включая воров", "высмеивания понятия преступлений на почве ненависти, случаев или жертв таких преступлений" и "различных обобщений, содержащих утверждения о неполноценности... по моральным характеристикам".

Кроме того, в Meta определили, что вторая публикация, содержащая имена Трейвона Мартина и Джорджа Флойда, также нарушает Норму сообщества в отношении травли и преследования, согласно которой в Meta удаляют "выражения радости от смерти или нарушения здоровья либо их высмеивание" по отношению к любому человеку. В компании пояснили, что "на данном изображении присутствуют имена двух погибших людей, Трейвона Мартина и Джорджа Флойда... Контент умаляет значение их гибели, подразумевая, что они будут сниматься в вымышленном анимационном фильме".
Поэтому представители компании удалили все три публикации.

Полномочия Совета и область принятия решений

Независимый надзорный совет уполномочен пересматривать решение компании Meta после отправки запроса на обжалование пользователем, пожаловавшимся на контент, который был оставлен на платформе (раздел 1 статьи 2 Устава; раздел 1 статьи 3 Правил внутреннего распорядка).

Если Meta признает ошибку и отменяет решение, связанное с рассматриваемым делом, Совет может выбрать такое дело для составления обзорного решения (раздел 2.1.3 статьи 2 Правил внутреннего распорядка). Совет проверяет первоначальное решение, чтобы более тщательно изучить процедуры модерации контента, уменьшить количество ошибок и обеспечить справедливость в отношении пользователей Facebook и Instagram.

Значимость дел

Эти дела привлекают внимание к трем случаям, когда в Meta не смогли обеспечить соблюдение политик в отношении враждебных высказываний, а также травли и преследования, оставив на платформе публикации, нарушающие эти политики, несмотря на жалобы пользователей. Две из этих публикаций набрали большое количество просмотров. Подобные ошибки модерации, связанные с недостаточно эффективным обеспечением соблюдения правил в отношении контента, могут негативно сказаться на представителях групп с характеристиками, подлежащими защите от дискриминации, и способствовать распространению дискриминации. Совет включил в число стратегических приоритетов решение проблемы с отсутствием реакции Meta на враждебные высказывания в отношении маргинализированных групп.

В 2022 году Совет рекомендовал Meta "уточнить формулировку Нормы сообщества в отношении враждебных высказываний и инструкции, предоставляемые специалистам по проверке, пояснив, что даже неявные отсылки к группам, подлежащим защите от дискриминации, запрещены данной политикой, если отсылка вполне понятна" дело О мультфильме о городе Книн, рекомендация № 1). В Meta сообщили, что частично выполнили эту рекомендацию.

Решение

Совет отменил первоначальное решение Meta оставить эти три публикации на платформе. Совет признает, что в Meta исправили первоначальные ошибки, после того как Совет привлек внимание к этим делам.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas