Reapropiación de términos árabes

El Consejo asesor de contenido ha anulado la decisión original de Meta de retirar una publicación de Instagram que, según el usuario, mostraba imágenes de palabras árabes que pueden usarse de forma despectiva en referencia a los hombres con “manierismos afeminados”. El contenido estaba amparado por una excepción a la política sobre lenguaje que incita al odio de Meta y no debería haberse retirado.

Información sobre el caso

En noviembre de 2021, una cuenta de Instagram pública que se autodescribe como un espacio para debatir narrativas queer en la cultura árabe publicó una serie de fotos en una secuencia (una sola publicación de Instagram que puede contener hasta diez imágenes con un solo subtítulo). El subtítulo, redactado en árabe y en inglés, explicaba que cada imagen incluía una palabra diferente que puede usarse de forma despectiva hacia los hombres con “manierismos afeminados” en el mundo de habla árabe, entre ellos, los términos “zamel”, “foufou” y “tante”/“tanta”. El usuario señaló que la publicación tenía como objetivo la “reapropiación de unos términos tan hirientes”.

Inicialmente, Meta retiró el contenido porque infringía su política sobre lenguaje que incita al odio, pero lo restauró después de que el usuario apelara la decisión. Tras recibir una denuncia de otro usuario, Meta volvió a retirar el contenido por infringir su política sobre lenguaje que incita al odio. Según Meta, antes de que el Consejo seleccionara este caso, el contenido se remitió de forma independiente a una revisión interna adicional, que dictaminó que, de hecho, no infringía la política sobre lenguaje que incita al odio de la empresa. Seguidamente, Meta restauró el contenido en Instagram. Meta explicó que las decisiones iniciales de retirar el contenido se basaron en revisiones de las imágenes que contenían los términos “z***l” y “t***e/t***a”.

Conclusiones principales

El Consejo considera que la retirada del contenido constituye un claro error y una infracción de la política sobre lenguaje que incita al odio de Meta. Aunque la publicación contiene términos que constituyen un insulto, el contenido está amparado por una excepción relativa a lenguaje “utilizado de forma autorreferencial o motivadora”, así como una excepción que permite citar lenguaje que incita al odio para “expresar rechazo o concienciar”. Las afirmaciones del usuario sobre el hecho de que no “aprobaba ni alentaba el uso” de los insultos en cuestión y que su objetivo era la “reapropiación de unos términos tan hirientes” deberían haber alertado al moderador sobre la posibilidad de que quizá hubiera lugar a una excepción.

Para personas LGBTQIA+ en países que reprimen su derecho de expresión, las redes sociales suelen ser una de las escasas formas que tienen de expresarse con libertad. La moderación excesiva del lenguaje de las personas de grupos minoritarios perseguidos constituye una grave amenaza a su libertad de expresión. Por tanto, al Consejo le preocupa que Meta, al aplicar la política sobre lenguaje que incita al odio, no esté aplicando excepciones de manera sistemática en los casos de expresión de grupos marginados.

Los errores de este caso, en el que participaron tres moderadores distintos que determinaron que el contenido infringía la política sobre lenguaje que incita al odio, indican que es posible que las recomendaciones de Meta para moderadores que evalúan referencias a términos despectivos sean insuficientes. Al Consejo le preocupa la posibilidad de que los revisores no dispongan de suficientes recursos en términos de capacidad o formación para evitar errores como el acontecido en este caso.

Proporcionar a los moderados de contenido pautas en inglés sobre el modo de revisar contenido en otros idiomas, como hace actualmente Meta, plantea retos intrínsecos. Para que los moderadores puedan evaluar mejor cuándo deben aplicar excepciones a contenido que contenga insultos, el Consejo recomienda a Meta traducir sus pautas internas a los dialectos del árabe que utilizan sus moderadores.

Asimismo, el Consejo cree que, a efectos de formular listas detalladas de insultos y ofrecer pautas apropiadas a los moderadores sobre la aplicación de excepciones a su política sobre insultos, Meta debe consultar de forma habitual a las minorías de culturas y países específicos que sean objeto de tales insultos. Además, Meta debe ofrecer una mayor transparencia sobre el modo en que crea, aplica y evalúa la lista de insultos de cada mercado.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anula la decisión original de Meta de retirar el contenido.

En un dictamen consultivo sobre políticas, el Consejo recomienda que Meta haga lo siguiente:

• Traducir las Normas de implementación internas y las Preguntas frecuentes a los dialectos del árabe utilizados por sus moderadores de contenido. Hacerlo podría reducir los casos de moderación excesiva en regiones de habla árabe, ya que los moderadores podrían evaluar mejor cuándo procede aplicar excepciones relativas a contenido que contenga insultos.
• Publicar una explicación clara sobre el modo en que crea la lista de insultos de cada mercado. Esta explicación debe incluir los procesos y criterios utilizados para designar qué insultos y países se asignan a la lista de cada mercado.
• Publicar una explicación clara sobre el modo en que aplica la lista de insultos de cada mercado. Esta explicación debe incluir procesos y criterios para determinar de forma precisa cuándo y dónde se prohibirán los insultos: si se hará en publicaciones (a) cuyo origen geográfico sea la propia región, (b) que tengan su origen fuera de la región pero que estén relacionadas con ella o (c) que guarden relación con todos los usuarios de la región, independientemente del origen geográfico de la publicación.
• Publicar una explicación clara sobre el modo en que evalúa la lista de insultos de cada mercado. Esta explicación debe incluir los procesos y criterios utilizados para la retirada o conservación de insultos de la lista de Meta de cada mercado.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión completa del caso

1.Resumen de la decisión

El Consejo asesor de contenido anula la decisión original de Meta de retirar una publicación de Instagram atendiendo a que se centra en “narrativas queer de la historia y la cultura popular árabes”. El contenido está amparado por una excepción dentro de la política sobre lenguaje que incita al odio de Meta, ya que denuncia, rechaza y expone el uso negativo que hacen otras personas de los insultos homófobos y los emplea en un contexto explícitamente positivo.

2. Descripción y antecedentes del caso

En noviembre de 2021, una cuenta de Instagram pública que se autoidentifica como un espacio para debatir narrativas queer en la cultura árabe publicó una serie de fotos en una secuencia (una sola publicación de Instagram que puede contener hasta diez imágenes con un solo subtítulo). El subtítulo, redactado por el usuario en árabe y en inglés, explicaba que cada imagen incluía una palabra diferente que puede usarse de forma despectiva hacia los hombres con “manierismos afeminados” en el mundo de habla árabe, entre ellos, los términos “zamel”, “foufou” y “tante”/“tanta”. En el subtítulo, el usuario indicaba que no “aprobaba ni alentaba el uso de estas palabras” y explicaba que anteriormente habían utilizado una de estas palabras para insultarle, por lo que la publicación tenía como objetivo la “reapropiación de unos términos tan hirientes”. Los expertos externos del Consejo confirmaron que los términos citados en el contenido suelen utilizarse como insultos.

El contenido se visualizó aproximadamente 9000 veces y obtuvo alrededor de 30 comentarios y 2000 reacciones. En las tres horas siguientes a la publicación del contenido, un usuario lo denunció por “desnudos o actividad sexual de adultos” y otro como “servicios sexuales”. Cada una de las denuncias fue revisada por separado por moderadores humanos distintos. El moderador que analizó la primera denuncia no emprendió ninguna acción, pero el que analizó la segunda retiró el contenido porque infringía la política sobre lenguaje que incita al odio de Meta. El usuario apeló esta retirada y un tercer moderador restauró el contenido en la plataforma. Tras la restauración del contenido, otro usuario lo denunció como “lenguaje que incita al odio” y un moderador distinto llevó a cabo una cuarta revisión y volvió a retirar el contenido. El usuario apeló por segunda vez y, después de una quinta revisión, otro moderador confirmó la decisión de retirar el contenido. Después de que Meta notificara la decisión al usuario, este presentó una apelación al Consejo asesor de contenido. Posteriormente, Meta confirmó que todos los moderadores que revisaron el contenido hablaban árabe con fluidez.

Meta explicó que las decisiones iniciales de retirar el contenido se basaron en revisiones de las imágenes que contenían los términos “z***l” y “t***e/t***a”. En respuesta a una consulta del Consejo, Meta también señaló que la empresa considera que otro término utilizado en el contenido, “moukhanath”, constituye un insulto.

Según Meta, después de que el usuario apelara al Consejo pero antes de que este seleccionara el caso, el contenido se remitió de forma independiente a una revisión interna adicional, lo que permitió dictaminar que no infringía la política sobre lenguaje que incita al odio. Posteriormente, el contenido se restauró en la plataforma.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene competencia para revisar la decisión de Meta tras una apelación del usuario cuyo contenido se haya eliminado (artículo 2 del acta constitutiva, apartado 1; artículo 3 de los estatutos; apartado 1).

El Consejo puede mantener o anular la decisión de Meta (artículo 3 del acta constitutiva, apartado 5), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir dictámenes consultivos sobre políticas con recomendaciones no vinculantes a las que Meta debe responder (artículo 3, apartado 4; y artículo 4 del acta constitutiva).

Cuando el Consejo selecciona casos como este, en los que Meta reconoce que ha cometido un error, procede a revisar la decisión inicial para entender mejor la causa de los errores, así como para realizar observaciones o recomendaciones que puedan contribuir a la reducción del número de errores y la optimización del proceso.

4.Precedentes

El Consejo asesor de contenido tuvo en cuenta los siguiente precedentes:

I.Decisiones del Consejo asesor de contenido:

Las decisiones más pertinentes del Consejo en relación con este caso incluyen:

• La “decisión sobre el cinturón de Wampum” (2021-012-FB-UA): en esta decisión, el Consejo destacó la importancia de proteger la expresión de grupos marginados y señaló que Meta debe asegurarse de no retirar contenido susceptible de constituir una excepción a la política sobre lenguaje que incita al odio.
• La “decisión sobre los insultos de Sudáfrica” (2021-011-FB-UA): en esta decisión, el Consejo dictaminó que Meta tiene que ser más transparente en cuanto a los procedimientos y criterios que utiliza para desarrollar sus listas de insultos. Asimismo, el Consejo recomendó que Meta priorizase la mejora de la equidad en los procedimientos de aplicación de la política sobre lenguaje que incita al odio, a efectos de que los usuarios puedan comprender mejor por qué se retira el contenido.
• La “decisión sobre el bot de Myanmar” (2021-007-FB-UA): en esta decisión, el Consejo hizo hincapié en la importancia del contexto a la hora de evaluar si el contenido está amparado por las excepciones a la política sobre lenguaje que incita al odio.

El Consejo también hace referencia a las recomendaciones efectuadas en la “decisión sobre el aislamiento de Öcalan” (2021-006-IG-UA), la “decisión sobre el meme de los dos botones” (2021-005-FB-UA) y la “decisión sobre los síntomas del cáncer de mama y la desnudez” (2020-004-IG-UA).

II. Políticas de contenido de Meta:

Tienen relación con este caso las Normas comunitarias de Instagram y las Normas comunitarias de Facebook. En el Centro de transparencia de Meta se establece que “Facebook e Instagram comparten políticas de contenido, lo que significa que, si se determina que el contenido infringe las normas en Facebook, también se considerará que infringe las normas en Instagram”.

Las Normas comunitarias de Instagram establecen que:

Queremos promover una comunidad diversa y positiva. Retiramos cualquier contenido que incluya amenazas creíbles o lenguaje que incita al odio […]. Resulta inaceptable fomentar el uso de la violencia o atacar a alguien por razones de raza, etnia, origen nacional, sexo, género, identidad de género, orientación sexual, creencias religiosas, discapacidad o enfermedad. Es posible que permitamos el lenguaje que incita al odio si se comparte para denunciarlo o para concienciar a las personas. En estos casos, te pedimos que expreses tu intención de forma clara.

En las Normas comunitarias de Facebook sobre lenguaje que incita al odio, este se define como “el que ataca directamente a las personas por lo que denominamos ‘características protegidas’: raza, etnia, nacionalidad de origen, creencias religiosas, casta, orientación sexual, sexo, género, identidad de género y discapacidad o enfermedad grave”. Meta divide los ataques en tres niveles. El apartado relativo a insultos de la política sobre lenguaje que incita al odio prohíbe el “contenido que describa o se dirija de forma negativa a personas con insultos, es decir, con términos que constituyan etiquetas inherentemente ofensivas y se refieran a las características mencionadas con anterioridad de forma peyorativa”. El resto del tercer nivel prohíbe el contenido dirigido a personas con fines de segregación o exclusión.

Como parte de las bases de la política, Meta señala lo siguiente:

“Somos conscientes de que, en ocasiones, las personas comparten contenido que incluye lenguaje que incita al odio usado por un tercero con la intención de rechazarlo o concienciar a los demás. En otros casos, el lenguaje que, de otra manera, infringiría nuestras normas se puede usar de forma autorreferencial o empoderadora. Nuestras políticas están diseñadas para dar espacio a estos tipos de lenguaje, pero exigimos que la intención quede clara. Si no es el caso, el contenido podría eliminarse”.

III. Valores de Meta:

Los valores de Meta se detallan en la introducción a las Normas comunitarias de Facebook, donde la “expresión” se define como un valor “fundamental”.

Nuestras Normas comunitarias siempre han tenido la finalidad de crear un espacio donde todos podamos expresarnos y dar a conocer nuestra opinión. […] Queremos que todo el mundo pueda tratar abiertamente los temas que le interesan, incluso si los demás no están de acuerdo o los consideran inapropiados.

Meta limita la “expresión” en favor de otros cuatro valores, y dos de ellos son pertinentes en este caso:

“Seguridad”: nos comprometemos a hacer de Facebook un lugar seguro. La expresión que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitida en Facebook.

“Dignidad”: creemos que todas las personas son igualmente dignas y tienen los mismos derechos. Esperamos que respeten la dignidad de los demás y no los acosen ni los degraden.

IV. Normas internacionales sobre derechos humanos:

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP, por sus siglas en inglés), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en este caso se basó en las siguientes normas de derechos humanos, que se aplican en el apartado 8 de esta decisión:

• Derecho a la libertad de opinión y expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR, por sus siglas en inglés); Observación general n.º 34, Comité de Derechos Humanos (2011); comunicación 488/1992, Toonen contra Australia, Comité de Derechos Humanos, 1992; resolución 32/2, Consejo de Derechos Humanos, 2016; informes del Relator Especial de la ONU sobre la libertad de opinión y de expresión: A/HRC/38/35 (2018) y A/74/486 (2019); Alto Comisionado de las Naciones Unidas para los Derechos Humanos, informe: A/HRC/19/41 (2011).
• Derecho a la no discriminación: párrafo 1 del artículo 2 y artículo 26 del ICCPR.

5. Manifestaciones del usuario

En su declaración ante el Consejo, el usuario describió su cuenta como un lugar para “celebrar la cultura árabe queer”. Explica que, aunque se trata de un “espacio seguro”, a medida que ha ido creciendo se ha ido convirtiendo en el objetivo de troles homófobos que escriben comentarios abusivos y denuncian contenidos de forma masiva.

El usuario afirmó que su intención al publicar el contenido era dar reconocimiento a los “hombres y niños afeminados” de la sociedad árabe, a los que se suele denigrar con el lenguaje despectivo señalado en la publicación. Además, explicó que perseguía la reapropiación de estas palabras despectivas utilizadas contra su persona como una forma de resistencia y empoderamiento, y argumentó que en el contenido de la publicación dejó claro que no aprueba ni alienta el uso de las palabras de las imágenes como insultos. También señaló que creía que su contenido está permitido según las políticas de contenido de Meta, que permiten específicamente el uso de términos, que de otro modo estarían prohibidos, cuando se utilizan de forma autorreferencial o empoderadora.

6. Manifestaciones de Meta

En su justificación, Meta explicó que el contenido se retiró originalmente de conformidad con su política sobre lenguaje que incita al odio, ya que el contenido incluye una palabra prohibida según la lista de insultos de Meta por constituir un “término despectivo para personas gay”. Finalmente, Meta anuló su decisión original y restauró el contenido porque el uso de la palabra en cuestión constituía una de las excepciones de Meta en cuanto a “contenido que rechaza insultos o lenguaje que incita al odio, discute el uso de insultos, incluidas las denuncias de casos en los que se han utilizado, o debate sobre si su uso es aceptable”. Meta admitió que el contexto indicaba que el usuario llamaba la atención sobre la naturaleza hiriente de la palabra y, por lo tanto, no constituía una infracción.

En respuesta a la pregunta del Consejo sobre el modo en que el contexto es pertinente cuando Meta aplica excepciones a la política sobre lenguaje que incita al odio, Meta indicó que se “permiten los insultos y el lenguaje que incita al odio” cuando son objeto de burla, rechazo, comentario, denuncia o bien se usan de forma autorreferencial, y que la responsabilidad recae en el usuario a la hora de dejar clara su intención al mencionar un insulto.

En respuesta a otra pregunta del Consejo, Meta señaló que “no especularon” en torno al motivo por el cual se retiró erróneamente el contenido porque sus revisores no documentan los motivos de sus decisiones.

El Consejo formuló a Meta un total de 17 preguntas, 16 de las cuales recibieron una respuesta completa y 1 una respuesta parcial.

7. Comentarios públicos

El Consejo recibió tres comentarios públicos en relación con este caso: uno tenía su origen en Estados Unidos y Canadá; otro, en Oriente Medio y África del Norte, y el tercero, en Latinoamérica y el Caribe.

Los comentarios presentados se referían a los siguientes temas: seguridad para los colectivos LGBT en las principales plataformas de redes sociales, la consideración del contexto local en la aplicación de la política sobre lenguaje que incita al odio y los significados cambiantes de las palabras en árabe.

Los comentarios públicos que se enviaron en relación con este caso se pueden leer aquí.

Además, como parte de los esfuerzos continuados para implicar a las partes interesadas, los miembros del Consejo mantuvieron conversaciones informativas y enriquecedoras con organizaciones que trabajan en defensa de la libertad de expresión y los derechos de personas LGBTQIA+, incluidos hablantes de árabe. Estas conversaciones pusieron de manifiesto problemas como los siguientes: la dificultad de proclamar la reapropiación categórica de un insulto y su inocuidad universal en casos en los que el término en cuestión puede seguir siendo un insulto para algunas audiencias, independientemente de la intención del emisor; los problemas provocados por la falta de participación de grupos de defensa de los derechos LGBTQIA+ y comunidades no angloparlantes en la elaboración de políticas de contenido, y los riesgos de una moderación de contenido que no sea lo bastante sensible al contexto.

8.Análisis del Consejo asesor de contenido

El Consejo analizó la pregunta de si este contenido debería restaurarse tomando como base tres perspectivas: las políticas sobre contenido de Meta, los valores de la empresa y sus responsabilidades con los derechos humanos.

Este caso fue seleccionado por el Consejo porque el exceso de moderación del lenguaje de personas de grupos minoritarios perseguidos constituye una amenaza grave y generalizada a su libertad de expresión. Los espacios de expresión en internet son especialmente importantes para los grupos que son perseguidos, y sus derechos requieren una mayor atención por parte de las empresas de redes sociales para protegerlos. Por otra parte, este caso demuestra la complejidad que supone para Meta encontrar un equilibrio entre proteger a las minorías del lenguaje que incita al odio y crear un espacio en el que las minorías puedan expresarse plenamente, incluso mediante la reapropiación de insultos hirientes.

8.1 Cumplimiento de las políticas de contenido de Meta

I.Reglas de contenido

El Consejo opina que, aunque se han utilizado insultos, el contenido no puede considerarse lenguaje que incita al odio porque está amparado por la excepción a la política sobre lenguaje que incita al odio relativa a insultos que se utilizan de forma “autorreferencial o empoderadora”, así como la excepción relativa al hecho de citar lenguaje que incita al odio para “expresar rechazo o concienciar”.

En las decisiones sobre el “cinturón de Wampum” y el “meme de los dos botones”, el Consejo indicó que no es necesario que un usuario señale de forma explícita su intención en una publicación para que esta cumpla los requisitos para constituir una excepción conforme a la política sobre lenguaje que incita al odio. Basta con que el usuario deje claro en el contexto de la publicación que está utilizando terminología de lenguaje que incita al odio de un modo que la política permita.

Sin embargo, en este caso el contenido incluía afirmaciones del usuario relativas a que no “aprobaba ni alentaba” el uso ofensivo de los insultos en cuestión, sino que se trataba de “un intento de resistirse a la narrativa dominante y ponerla en tela de juicio” y de “la reapropiación de unos términos tan hirientes”. Aunque no siempre serán necesarias ni suficientes unas declaraciones de intenciones claras para legitimar el uso o la cita de lenguaje que incita al odio, su presencia debería alertar al moderador sobre la posibilidad de que pueda proceder una excepción. En este caso, el Consejo opina que la declaración de intenciones, junto con el contexto, deja claro que el contenido se ajusta a la excepción sin duda alguna.

No obstante, en un primer momento Meta retiró el contenido, ya que tres moderadores distintos dictaminaron que el contenido infringía la política sobre lenguaje que incita al odio. Aunque existen varios motivos por los cuales distintos moderadores clasificaron de forma incorrecta el contenido, Meta no pudo ofrecer explicaciones específicas porque no obliga a los moderadores a registrar el razonamiento subyacente a sus decisiones. Como se indica en la decisión sobre el “cinturón de Wampum”, los tipos de errores y las personas o las comunidades que los sufren son un reflejo de las opciones de diseño de los sistemas de aplicación de normas de la plataforma, que amenazan los derechos de libertad de expresión de miembros de grupos perseguidos. En los casos en los que Meta observa patrones de exceso de celo en referencia a un grupo perseguido o marginado, como es el caso, resultaría apropiado investigar el razonamiento tras las decisiones relativas a la aplicación de las políticas y plantearse qué modificaciones en las reglas de moderación se requieren, o si es necesario un mayor grado de formación o supervisión en referencia a las reglas existentes, para evitar tales excesos en la aplicación que afecten a miembros de grupos cuyos derechos de expresión están sometidos a un riesgo específico.

II.Aplicación

En respuesta a las preguntas del Consejo, Meta explicó que solo se restauró el contenido en la plataforma porque había sido marcado por un empleado de Meta para remitirlo a otro nivel de revisión. “Remitido para revisión” significa que, en lugar de someter la decisión a una revisión al mismo nivel, que suele externalizarse, esta se somete a la consideración de un equipo interno de Meta. Aparentemente, ello requirió que un empleado de Meta se diese cuenta de que se había retirado el contenido, y que posteriormente rellenara y remitiera un formulario web interno señalando el asunto. Aparte de factores relativos al azar, este tipo de sistemas solo puede identificar errores en el contenido con el que el personal de Meta entre en contacto. Por consiguiente, es mucho menos probable que se detecte, marque y preste atención adicional a contenido que no esté redactado en inglés, que no se publique en cuentas con muchos seguidores en EE. UU. o que no haya sido creado por y para grupos con un amplia representación en Meta.

Como parte de su divulgación, se informó al Consejo de que a las partes interesadas les preocupa que la aplicación precisa de las excepciones a la política sobre lenguaje que incita al odio requiera una cierta experiencia en el asunto y conocimiento del contexto local que es posible que Meta no posea o no siempre pueda aplicar. El Consejo expresa su preocupación sobre el hecho de que, a menos que Meta recabe regularmente las opiniones de grupos minoritarios que son objeto de insultos en cada país, no podrá formular listas detalladas de los insultos indicados ni ofrecer pautas adecuadas a sus moderadores sobre cómo deben aplicarse las excepciones a las políticas sobre insultos.

8.2 Cumplimiento de los valores de Meta

El Consejo considera que la decisión original de eliminar el contenido no se tomó de conformidad con los valores de Meta de “expresión” y “dignidad”, ni contribuyó a fomentar el valor de “seguridad”. Aunque se ajusta a los valores de Meta para impedir el uso de insultos dirigidos a usuarios de sus plataformas, al Consejo le preocupa que Meta no esté aplicando de forma sistemática excepciones a la política en los casos de expresión de grupos marginados.

En el contexto de este caso, una “expresión” que busque promover la libertad de expresión de los miembros de un grupo marginado reviste la máxima importancia. Es justo que Meta intente limitar el uso de insultos que denigren o intimiden a sus destinatarios, pero también que tolere los intentos de buena fe de despojar a estas palabras de su impacto negativo a través de la reapropiación.

El Consejo admite que la difusión de insultos afecta al valor de “dignidad”. Especialmente al utilizarlos para ofender o en ausencia de indicadores contextuales que señalen que no se utilizan para ofender, los insultos pueden intimidar, alterar u ofender a los usuarios de maneras que inhiben la expresión en internet. En cambio, si existen indicadores contextuales claros que señalen que el insulto se menciona para rechazarlo o concienciar sobre él o que se utiliza de una forma autorreferencial o empoderadora, el valor de “dignidad” no dictamina que la palabra deba eliminarse de la plataforma. Por el contrario, un exceso de celo que ignora las excepciones afecta sobre todo a las minorías y los grupos marginados. Como recomienda el Consejo en la decisión sobre el “meme de los dos botones”, Meta debe garantizar que los moderadores cuenten con el apoyo y los recursos suficientes para evaluar adecuadamente los contextos pertinentes. Es importante que los moderadores puedan distinguir entre referencias permitidas a insultos y sus usos no permisibles para proteger la “expresión” y la “dignidad” de sus usuarios, sobre todo los de comunidades marginadas.

Dado que la “dignidad” y la “seguridad” de las comunidades marginadas están sometidas a un mayor nivel de riesgo en las plataformas de redes sociales, estas deben asumir mayores responsabilidades para protegerlas. El Consejo ya ha recomendado en la decisión relativa al “cinturón de Wampum” que Meta evalúe la precisión con la que se están aplicando las disposiciones de la política sobre lenguaje que incita al odio. Dicha precisión puede mejorarse formando a los moderadores, de modo que puedan identificar contenido que afecte a comunidades discriminadas y recibir instrucciones para evaluar atentamente si procede aplicar excepciones a la Política sobre el lenguaje que incita al odio. La evaluación del contenido, junto con indicaciones contextuales complementarias, debe ser el factor decisivo que provoque la aplicación de tales excepciones.

Con respecto a la “seguridad,” el Consejo también señala la especial importancia de los espacios seguros en internet y la atenta moderación para las comunidades marginadas y amenazadas. Los hablantes de árabe del colectivo LGBTQIA+, sobre todo en la región de Oriente Medio y África del Norte, corren cierto peligro al expresarse con franqueza en internet. Meta debe hallar un equilibrio entre la necesidad de proporcionar espacios de apoyo para esta expresión y asegurarse de actuar sin exceso de celo ni silenciando a aquellos que se enfrentan a la censura y la opresión. Si bien el Consejo reconoce la complejidad de la moderación en este respecto, y sobre todo a esta escala, resulta crucial que las plataformas inviertan los recursos necesarios para poder hacerlo correctamente.

8.3 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo concluye que la decisión inicial de Meta de eliminar el contenido no se ajustó a sus responsabilidades en materia de derechos humanos como empresa. Meta se ha comprometido a respetar los derechos humanos de conformidad con los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (UNGP). En la Política corporativa de derechos humanos de Facebook, se dispone el cumplimiento específico del Pacto Internacional de Derechos Civiles y Políticos (ICCPR).

1. Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR contiene disposiciones para una amplia protección de la expresión, incluyendo comentarios sobre derechos humanos y expresión que puedan considerarse “altamente ofensivos” (párrafo 11 de la Observación general n.º 34). El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a “sexo” u “otra condición” (artículo 2, párrafo 1 del ICCPR). Ello incluye la orientación sexual y la identidad de género (Toonen contra Australia (1992); informe A/HRC/19/41, párrafo 7).

Esta publicación guarda relación con importantes aspectos sociales de discriminación contra personas LGBTQIA+. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos ha expresado su preocupación respecto a las restricciones sobre la libertad de expresión dimanantes de limitaciones discriminatorias a la defensa de los derechos LGBTQIA+ (informe A/HRC/19/41, párrafo 65).

El artículo 19 exige que, si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo, y necesidad y proporcionalidad (artículo 19, párrafo 3 del ICCPR). En base al marco de los UNGP, en el informe del Relator Especial de la ONU sobre la libertad de opinión y expresión, se apela a las empresas de redes sociales a garantizar que sus reglas de contenido se rijan por los requisitos del párrafo 3 del artículo 19 del ICCPR (A/HRC/38/35, párrafos 45 y 70).

I. Legalidad (claridad y accesibilidad de las reglas)

El requisito de legalidad dispone que cualquier restricción sobre la libertad de expresión sea lo bastante accesible y clara como para ofrecer orientación sobre qué se permite y qué no.

El Consejo recomendó en el caso sobre los “síntomas del cáncer de mama y la desnudez” (2020-004-IG-UA, recomendación n.º 9), el caso del “aislamiento de Öcalan” (2021-006-IG-UA, recomendación n.º 10) y el dictamen consultivo sobre políticas sobre el uso compartido de información residencial privada (recomendación n.º 9) que Meta aclare a los usuarios de Instagram que las Normas comunitarias de Facebook también se aplican a Instagram, con algunas excepciones. En el dictamen consultivo sobre políticas, el Consejo recomendó que Meta no tardara más de 90 días en llevarlo a cabo. El Consejo toma nota de la respuesta de Meta al dictamen consultivo sobre políticas en cuanto a que, aunque la recomendación se implementará por completo, Meta sigue trabajando en el desarrollo de Normas comunitarias de Instagram más exhaustivas que aclaren su relación con las Normas comunitarias de Facebook, y no puede comprometerse a respetar el plazo de 90 días. El Consejo, tras haber reiterado esta recomendación en múltiples ocasiones, opina que Meta ha tenido tiempo suficiente para prepararse para estos cambios. La relación poco clara entre las Normas comunitarias de Instagram y las de Facebook es motivo continuo de confusión para los usuarios de las plataformas de Meta. En la actualidad, aunque las Normas comunitarias de Instagram contienen un enlace a la política sobre lenguaje que incita al odio de las Normas comunitarias de Facebook, no se indica claramente al usuario que esta política se aplica en su totalidad a Instagram, incluida la prohibición de insultar y sus excepciones. Las actualizaciones oportunas y exhaustivas de las Normas comunitarias de Instagram siguen siendo una prioridad esencial para el Consejo.

En relación con el desarrollo de la lista de insultos, el Consejo reitera lo expresado en el caso de los “insultos de Sudáfrica” (2021-011-FB-UA) respecto a la mayor obligación de transparencia de Meta en cuanto a procedimientos y criterios para desarrollar la lista. En este caso, Meta explicó que establece listas de insultos para cada mercado consolidado en base al “análisis y el visto bueno de socios internos pertinentes tales como equipos de procesos, mercados y políticas de contenido”. Asimismo, Meta señaló que sus expertos de mercado evalúan la lista de insultos cada año, y que cada término se valora de forma cualitativa y cuantitativa, distinguiendo las “palabras que son intrínsecamente ofensivas, aunque se escriban de forma aislada, de las palabras que no son intrínsecamente ofensivas”. El Consejo no conoce exactamente cuándo tiene lugar esa revisión anual, pero después de que se seleccionara este caso Meta evaluó el uso de la palabra “z***l.” Después de la evaluación, la palabra se eliminó de la lista “árabe” de insultos, pero se mantuvo en la lista destinada al “mercado magrebí”. El Consejo desconoce si la evaluación formaba parte de los procedimientos habituales o de una revisión específica en respuesta a su selección de este caso. En términos más generales, el Consejo no tiene claro en qué consisten las evaluaciones cualitativas y cuantitativas durante las revisiones anuales.

Los usuarios no pueden acceder a información sobre los procesos y los criterios de desarrollo de las listas de insultos ni a la designación de los mercados, particularmente en referencia a la distinción entre mercados lingüísticos y geográficos. Sin esta información, los usuarios podrían tener dificultades para valorar qué palabras pueden considerarse insultos a partir únicamente de la definición de “insultos” que aparece en la política sobre lenguaje que incita al odio, que se basa en conceptos subjetivos como el grado intrínseco en que algo es ofensivo y su naturaleza insultante (informe A/74/486, párrafo 46 e informe A/HRC/38/35, párrafo 26).

Respecto a cómo se aplica la lista de insultos, Meta señaló en el caso de los “insultos de Sudáfrica” (2021-011-FB-UA) que su “prohibición contra los insultos se aplica en todo el mundo, pero la designación de los insultos es específica para cada mercado”. Explicó que “si un término aparece en la lista de insultos de un mercado, la política sobre lenguaje que incita al odio prohíbe su uso en ese mercado”. La explicación de Meta no deja claro si sus prácticas de aplicación, que pueden ser de ámbito mundial, implican que los insultos designados para un mercado también se prohíben en todo el mundo. Meta explicó que definía un mercado como “una combinación de país(es) e idioma(s)/dialecto(s)” y que “la división entre […] mercado[s] se basa principalmente en una combinación de idioma/dialecto y país del contenido”. Los revisores de contenido de Meta se “designan para su mercado en función de su aptitud lingüística y su conocimiento de la cultura y el mercado”. Conforme a Meta, este contenido concernía a los mercados árabe y magrebí en la lista de insultos. Se dirigió a estos mercados “debido a la combinación de varios indicadores, como la ubicación, el idioma y el dialecto detectados en el contenido, el tipo de contenido y el tipo de denuncia”. Para el Consejo, no queda suficientemente claro cómo se combinan los distintos indicadores para determinar a qué mercados afectaría un contenido determinado ni si el contenido que incluye una palabra que es un insulto en un mercado determinado solo se eliminaría si está relacionado con ese mercado, o bien si se eliminaría en todo el mundo. La propia política de las Normas comunitarias no contiene ninguna explicación sobre este proceso.

Meta debería proporcionar una explicación exhaustiva sobre la aplicación de las normas sobre insultos en la plataforma. La política actual contiene diversas áreas de opacidad, entre ellas si los insultos designados para áreas geográficas específicas se retiran de la plataforma solo cuando se publican o visualizan en esas zonas o si esto ocurre independientemente de donde se publiquen o visualicen. Asimismo, Meta debería explicar cómo maneja las palabras que se consideran un insulto en algunos contextos pero que tienen un significado completamente distinto en otro contexto que no infringe ninguna política de Meta.

La estructura de la política sobre lenguaje que incita al odio de las Normas comunitarias también podría provocar confusión. Aunque la prohibición de insultos aparece bajo el encabezado relativo a lenguaje que incita al odio de nivel tres, el Consejo no tiene claro que la prohibición pertenezca a ese nivel porque los insultos no tienen necesariamente un fin de exclusión o segregación, que son las prioridades del resto de ese nivel.

II.Fin legítimo

Cualquier restricción a la libertad de expresión debe tener como objetivo el cumplimiento de alguno de los fines legítimos mencionados en el ICCPR, donde también se contemplan los “derechos de los demás”. La política en cuestión en este caso tenía el objetivo legítimo de proteger los derechos de terceros (Observación general n.º 34, párrafo 28) a la igualdad y la protección contra la violencia y la discriminación en base a la orientación sexual y la identidad de género (artículo 2, párrafo 1; artículo 26 del ICCPR; Comité de Derechos Humanos de la ONU, Toonen v Australia (1992); resolución 32/2 del Consejo de Derechos Humanos de la ONU sobre la protección contra la violencia y la discriminación por motivos de orientación sexual e identidad de género).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión “deben ser adecuadas a fin de cumplir su función de protección, deben ser el instrumento menos invasivo entre aquellos que permitan cumplir dicha función [y] deben ser proporcionales al interés que se pretende proteger” (Observación general n.º 34, párrafo 34).

En este caso no era necesario retirar el contenido, ya que dicha retirada fue un claro error que no se ajustó a la excepción contemplada en las políticas sobre lenguaje que incita al odio de Meta. Por otra parte, la retirada no era el instrumento menos invasivo para cumplir el objetivo legítimo porque, en cada revisión que dio lugar a una retirada, se retiró la totalidad de la secuencia que contenía diez fotos por presuntas infracciones de la política tan solo en una de las fotos. Incluso en el caso de que la secuencia hubiera incluido una imagen con insultos inadmisibles no amparados bajo una excepción, la retirada de toda la secuencia no supondría una respuesta apropiada.

Meta explicó al Consejo que “se considera que se ha cometido una infracción en una publicación cuando alguna foto contiene una infracción de las Normas comunitarias” y que “a diferencia de lo que ocurre en Facebook, Meta no puede eliminar una imagen concreta de una publicación de Instagram con varias fotos”. Meta señaló que se había propuesto una actualización de la herramienta de revisión de contenido con el objeto de que los revisores pudieran retirar de la secuencia tan solo la foto causante de la infracción, pero no se le dio prioridad. El Consejo opina que esta explicación es poco clara, y cree que no priorizar la actualización podría dar lugar a un exceso de celo sistémico que implique la retirada de secuencias enteras, aunque solo una parte de ellas contenga presuntas infracciones. El Consejo también señala que, si un usuario publica la misma serie de fotos en Facebook e Instagram, los distintos tratamientos de este tipo de contenido en las dos plataformas darían lugar a resultados contradictorios que no se justifican a través de ninguna diferencia significativa en las políticas: en caso de que una de las fotos suponga una infracción, ello provocará la retirada de toda la secuencia en Instagram, pero no en Facebook.

2.No discriminación

Dada la importancia de la reapropiación de los términos despectivos para contrarrestar la discriminación de los colectivos LGBTQIA+, el Consejo espera que Meta muestre una especial sensibilidad ante la posibilidad de eliminar de forma indebida el contenido de este caso y contenido similar en Facebook e Instagram. Como señaló el Consejo en la decisión sobre el “cinturón de Wampum” (2021-012-FB-UA) respecto a la expresión artística de colectivos indígenas, no basta con evaluar los resultados de aplicación de la política sobre lenguaje que incita al odio de Meta en su totalidad, sino que es necesario tener en cuenta los efectos sobre grupos marginados específicos. Conforme a los UNGP, “las empresas deben prestar especial atención a las consecuencias concretas sobre los derechos humanos de las personas pertenecientes a grupos o poblaciones expuestos a un mayor riesgo de vulnerabilidad o de marginación” (UNGP, principios 18 y 20). Para personas LGBTQIA+ en países que reprimen su derecho de expresión, las redes sociales suelen ser una de las escasas formas que aún tienen de expresarse con libertad. Tal es el caso sobre todo en Instagram, donde las Normas comunitarias permiten que los usuarios no utilicen su nombre real. El Consejo observa que no se otorgan las mismas libertades a los usuarios de Facebook en las Normas comunitarias. Sería importante que Meta demostrara que ha emprendido un proceso de diligencia debida en materia de derechos humanos para garantizar que sus sistemas funcionan de forma justa y que no contribuyen a ninguna discriminación (UNGP, principio 17). El Consejo menciona que Meta evalúa habitualmente la precisión de sus sistemas de aplicación de políticas en lo que respecta al trato del lenguaje que incita al odio (decisión sobre el “cinturón de Wampum”). Sin embargo, estas valoraciones no se desglosan en evaluaciones de precisión que determinen específicamente la capacidad de Meta de distinguir lenguaje inadmisible que incita al odio de contenido permitido que persigue la reapropiación de términos despectivos.

Los errores cometidos en este caso indican que las pautas que Meta ofrece a los moderadores que evalúan referencias a términos despectivos podrían no ser suficientes. Al Consejo le preocupa que quizá los revisores no cuenten con suficientes recursos en términos de capacidad o formación para evitar el tipo de error cometido en este caso, en especial, respecto al contenido que se permite conforme a las concesiones correspondientes a las políticas. En este caso, Meta informó al Consejo de que las Preguntas frecuentes y las Normas de implementación internas están disponibles únicamente en inglés para “garantizar una aplicación mundial estandarizada” de sus políticas, y de que “todos sus moderadores de contenido dominan el inglés”. En la decisión sobre el “bot de Myanmar” (2021-007-FB-UA), el Consejo recomendó a Meta que garantice que sus Normas de implementación internas estén disponibles en el idioma en que los moderadores revisan contenido. Meta no adoptó ninguna otra medida respecto a esta recomendación y dio una respuesta similar, en la que señaló que sus moderadores de contenido dominaban el inglés. El Consejo remarca que proporcionar a los moderados de contenido pautas en inglés sobre el modo de revisar contenido en otros idiomas plantea retos intrínsecos. Las Normas de implementación internas y las Preguntas frecuentes suelen basarse en estructuras idiomáticas del inglés americano, y quizá no puedan aplicarse a otros idiomas como el árabe.

En la decisión sobre el “cinturón de Wampum” (2021-012-FB-UA, recomendación n.º 3), el Consejo recomendó a Meta que realizase evaluaciones de precisión centradas en las excepciones a la política sobre lenguaje que incita al odio relacionadas con expresiones sobre violaciones de los derechos humanos (p. ej., actos de condena, concienciación, uso autorreferencial o uso empoderador) y que compartiese los resultados de la evaluación, incluido el modo en que estos resultados contribuirían a mejoras en operaciones de aplicación y desarrollo de políticas. El Consejo emitió esta recomendación porque, según su opinión, los costes de un exceso de celo al eliminar expresiones relativas a violaciones de los derechos humanos son especialmente elevados. El Comité toma nota de las preocupaciones sobre la recomendación expresadas por Meta en lo relativo a la evaluación de la viabilidad, incluidas (a) la falta de categorías específicas en sus políticas sobre excepciones en temas como las violaciones de los derechos humanos y (b) la falta de un ejemplo de contenido fácilmente identificable que se ampare bajo las excepciones al lenguaje que incita al odio. El Consejo opina que estos retos pueden superarse, ya que Meta podría centrar el análisis en excepciones existentes al lenguaje que incita al odio y otorgar prioridad a la identificación de ejemplos de contenido. El Consejo anima a Meta a implementar la recomendación del caso del “cinturón de Wampum” (2021-012-FB-UA) y agradece cualquier información adicional que Meta pueda facilitarle en su siguiente informe trimestral.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anula la decisión original de Meta de eliminar el contenido.

10. Dictamen consultivo sobre políticas

Aplicación

1. Meta debería traducir las Normas de implementación internas y las Preguntas frecuentes al árabe estándar moderno. Hacerlo podría reducir los casos de moderación excesiva en regiones de habla árabe, ya que los moderadores podrían evaluar mejor cuándo procede aplicar excepciones relativas a contenido que contenga insultos. El Consejo señala que Meta no ha adoptado ninguna acción adicional en respuesta a la recomendación en el caso del “bot de Myanmar” (2021-007-FB-UA), en la que se aconsejaba a Meta que se asegurase de que sus Normas de implementación internas estuviesen disponibles en el idioma en el cual los moderadores revisan el contenido. El Consejo considerará que esta recomendación se ha implementado cuando Meta le informe de que se ha terminado la traducción al árabe estándar moderno.

Transparencia

2. Meta debe publicar una explicación clara sobre el modo en que crea la lista de insultos de cada mercado. Esta explicación debería incluir los procesos y criterios utilizados para designar qué insultos y países se asignan a la lista de cada mercado. El Consejo considerará que se ha implementado cuando se publique la información en el Centro de transparencia.

3. Meta debe publicar una explicación clara sobre el modo en que vela por la aplicación de la lista de insultos de cada mercado. Esta explicación debe incluir procesos y criterios para determinar de forma precisa cuándo y dónde se prohibirán los insultos: si se hará en publicaciones (a) cuyo origen geográfico sea la propia región, (b) que tengan su origen fuera de la región pero que estén relacionadas con ella o (c) que guarden relación con todos los usuarios de la región, independientemente del origen geográfico de la publicación. El Consejo considerará que se ha implementado esta recomendación cuando se publique la información en el Centro de transparencia de Meta.

4. Meta debe publicar una explicación clara sobre el modo en que evalúa la lista de insultos de cada mercado. Esta explicación debería incluir los procesos y criterios utilizados para la retirada o conservación de insultos de la lista de Meta de cada mercado. El Consejo considerará que se ha implementado esta recomendación cuando se publique la información en el Centro de transparencia de Meta.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En lo que respecta específicamente a la decisión de este caso, se ha llevado a cabo una investigación independiente por encargo del Consejo. Se estableció un centro de investigación independiente en la Universidad de Gotemburgo y se recurrió a un equipo de más de 50 sociólogos en seis continentes y más de 3200 especialistas de países de todo el mundo. El Consejo también ha recibido asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, se ha encargado de las competencias en materia lingüística.