Bot de Myanmar/Birmania

Resumen del caso

El Consejo asesor de contenido ha revocado la decisión de Facebook de eliminar una publicación en birmano conforme a la política sobre lenguaje que incita al odio de las Normas comunitarias. El Consejo ha considerado que la publicación no iba dirigida al pueblo chino, sino al Estado de China. En concreto, se usaron groserías para hacer referencia a las políticas gubernamentales chinas en Hong Kong como parte de un debate político sobre el papel del gobierno chino en Myanmar/Birmania.

Información sobre el caso

En abril de 2021, un usuario de Facebook, que aparentemente se encontraba en Birmania, realizó una publicación en birmano en su biografía. En ella se hablaba de distintas formas de limitar la financiación del ejército de Birmania tras el golpe del 1 de febrero de 2021 en ese país. Se proponía que los ingresos tributarios se concedieran al Comité Representante de Pyidaungsu Hluttaw (CRPH), un grupo de legisladores que se opuso al golpe. La publicación obtuvo alrededor de medio millón de visualizaciones, y ningún usuario de Facebook la denunció.

Facebook tradujo el fragmento con la supuesta infracción de la publicación del usuario de la siguiente forma: “Los hongkoneses, debido a que los chinos de mierda los torturaron, trasladaron sus servicios bancarios al Reino Unido, y ahora (los chinos) no se pueden entrometer”. Facebook eliminó la publicación conforme a la política sobre lenguaje que incita al odio de las Normas comunitarias, según la cual, se prohíbe el contenido que se dirija a una persona o un grupo de personas en base a su raza, etnia o nacionalidad con “frases o términos ofensivos con la intención de insultar”.

Los cuatro revisores de contenido que examinaron la publicación estuvieron de acuerdo en que infringía las reglas de Facebook. En su apelación al Consejo, el usuario indicó que había publicado el contenido para “detener el brutal régimen militar”.

Conclusiones principales

Este caso pone de manifiesto la importancia de considerar el contexto a la hora de hacer cumplir las políticas relacionadas con el lenguaje que incita al odio, así como la magnitud de proteger el discurso político. Esto es especialmente pertinente en Birmania debido al golpe de febrero de 2021 y el papel clave de Facebook como medio de comunicación en el país.

En la publicación, se usó la frase en birmano “$တရုတ်”, que Facebook tradujo como “chinos de mierda” (o “sout ta-yote”). Según Facebook, la palabra “ta-yote” “desde un punto de vista cultural y lingüístico, se percibe como una superposición de identidades o significados entre China (el país en sí) y el pueblo chino”. Facebook señaló que, dada la naturaleza de esta palabra y el hecho de que el usuario no “indicó con claridad que el término se refería al país o Gobierno de China”, determinó que “el usuario se estaba refiriendo, al menos, al pueblo chino”. Por esta razón, Facebook eliminó la publicación conforme a la política sobre lenguaje que incita al odio de las Normas comunitarias.

Como la misma palabra se usa en birmano para referirse a un Estado y a las personas de ese Estado, el contexto es clave para comprender el significado buscado. Una serie de factores convenció al Consejo de que el usuario no se estaba dirigiendo al pueblo chino, sino al Estado de China.

El fragmento de la publicación que supuestamente infringía las reglas de Facebook se refería a las políticas financieras de China en Hong Kong como “tortura” o “persecución”, y no a las acciones de personas o del pueblo chino en Birmania. Ambos traductores del Consejo indicaron que, en este caso, la palabra “ta-yote” se refería a un Estado. Cuando se les preguntó si podría haber algún tipo de ambigüedad en esta referencia, los traductores no indicaron duda alguna en cuanto a su interpretación. Los traductores del Consejo también señalaron que la publicación incluía términos que habitualmente usan el Gobierno de Birmania y la embajada de China para dirigirse el uno al otro. Además, si bien medio millón de personas vio la publicación y más de 6000 la compartieron, ningún usuario la denunció. Asimismo, de acuerdo con los comentarios públicos, el tono general de la publicación fue el de un debate político.

Dado que la publicación no se dirigía a personas en base a su raza, etnia o nacionalidad, sino que iba dirigida a un Estado, el Consejo ha determinado que no infringía la política sobre lenguaje que incita al odio de las Normas comunitarias de Facebook.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ha revocado la decisión de Facebook de eliminar la publicación y exige su restauración.

En un dictamen consultivo sobre políticas, recomienda que Facebook tome las siguientes medidas:

• Asegurarse de que sus Normas de implementación internas estén disponibles en el idioma en el que los moderadores de contenido revisan el contenido. En caso de tener que priorizar, Facebook debe centrarse primero en aquellos contextos en los que los derechos humanos corran un mayor riesgo.

* En los resúmenes de casos se ofrece información general sobre estos y no se sienta precedente alguno.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido ha revocado la decisión de Facebook de eliminar contenido en cumplimiento de la política sobre lenguaje que incita al odio de las Normas comunitarias. El Consejo ha considerado que la publicación no incluía lenguaje que incita al odio.

2. Descripción del caso

En abril de 2021, un usuario de Facebook, que aparentemente se encontraba en Birmania, realizó una publicación en birmano en su biografía. En ella se hablaba de distintas formas de limitar la financiación del ejército de Birmania tras el golpe del 1 de febrero de 2021 en ese país. Se proponía que los ingresos tributarios se concedieran al Comité Representante de Pyidaungsu Hluttaw (CRPH), un grupo de legisladores que se opuso al golpe. La publicación obtuvo alrededor de 500 000 visualizaciones y unas 6000 reacciones, y se compartió aproximadamente 6000 veces. Ningún usuario de Facebook denunció la publicación.

Facebook tradujo el fragmento con la supuesta infracción de la publicación del usuario de la siguiente forma: “Los hongkoneses, debido a que los chinos de mierda los torturaron, trasladaron sus servicios bancarios al Reino Unido, y ahora (los chinos) no se pueden entrometer”. Facebook eliminó este contenido como caso de “nivel 2” en la categoría de lenguaje que incita al odio conforme a la política sobre este tipo de lenguaje de las Normas comunitarias el día posterior a su publicación. según la cual, se prohíbe el contenido que se dirija a una persona o un grupo de personas en base a su raza, etnia o nacionalidad con “frases o términos ofensivos con la intención de insultar”.

Según Facebook, una instancia en que se volvió a compartir la publicación “se seleccionó automáticamente como parte de una muestra y se envió a un revisor con fines de entrenamiento de clasificadores”. En este procedimiento, Facebook crea conjuntos de datos de ejemplos de contenido infractor y no infractor para entrenar sus procesos automatizados de detección y cumplimiento de normas que permiten predecir si el contenido infringe las políticas de la plataforma. El revisor determinó que la publicación compartida infringía la política sobre lenguaje que incita al odio de las Normas comunitarias. Si bien la finalidad del proceso era crear conjuntos de contenido para entrenar al clasificador, una vez que se determinó que la publicación compartida infringía las normas, se eliminó.

Como se determinó que la publicación compartida infringía las reglas de Facebook, un “bot de acción administrativa” identificó automáticamente la publicación original para que se revisara. Facebook explicó que el bot de acción administrativa es una cuenta interna de Facebook que no evalúa de ningún modo el contenido, sino que lleva a cabo “varias acciones a lo largo del sistema de cumplimiento de normas en función de decisiones que toman seres humanos o se derivan de la automatización”. Después, dos revisores analizaron la publicación original, y ambos determinaron que se trataba de un caso de “nivel 2” en la categoría de lenguaje que incita al odio. Se eliminó el contenido. El usuario apeló la eliminación ante Facebook, y un cuarto revisor ratificó la eliminación. De acuerdo con Facebook, “todos los revisores de contenido que intervinieron en este caso eran miembros de un equipo de revisión de contenido en birmano de Facebook”. Después, el usuario presentó la apelación ante el Consejo asesor de contenido.

3. Autoridad y ámbito de acción

El Consejo tiene la facultad para revisar la decisión de Facebook tras una apelación del usuario cuya publicación se eliminó (artículo 2, sección 1, del Acta constitutiva; sección 2.1 del artículo 2 de los Estatutos), y puede confirmarla o revertirla (sección 5 del artículo 3 del Acta constitutiva). Sus decisiones son vinculantes y pueden incluir dictámenes consultivos con recomendaciones que no lo son, aunque Facebook debe responder a ellas (sección 4 del artículo 3 del Acta constitutiva). El Consejo es un mecanismo de reclamación independiente para abordar disputas con transparencia y de acuerdo con una serie de principios.

4. Normas pertinentes

El Consejo asesor de contenido tuvo en cuenta las siguientes normas en su decisión:

I. Normas comunitarias de Facebook

En estas reglas, el lenguaje que incita al odio se define como “todo contenido que ataca directamente a las personas por lo que denominamos ‘características protegidas’: raza, etnia, nacionalidad, religión, clase, orientación sexual, sexo, identidad de género y discapacidad o enfermedad grave”. De acuerdo con la clasificación de “nivel 2”, el contenido prohibido incluye términos despectivos, definidos como “frases o términos ofensivos con la intención de insultar, incluidos, entre otros: ‘joder’, ‘zorra’ e ‘hijo de puta’”.

II. Valores de Facebook

Los valores de Facebook se detallan en la introducción a las Normas comunitarias. El valor de “expresión” se describe como “de suma importancia”:

Nuestras Normas comunitarias siempre apuntaron a crear un espacio donde las personas puedan expresarse y dar a conocer su opinión. [...] Queremos que las personas puedan hablar abiertamente sobre los temas que les importan, incluso si otros no están de acuerdo o los consideran objetables.

Facebook limita la “expresión” en favor de otros cuatro valores, y dos de ellos son relevantes en este caso:

“Seguridad”: nos comprometemos a hacer de Facebook un lugar seguro. La expresión que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitida en Facebook.

“Dignidad” : creemos que todas las personas son dignas y tienen los mismos derechos. Esperamos que esas personas respeten la dignidad de los demás y no los acosen ni los degraden.

III. Normas sobre derechos humanos

Los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (UNGP), que el Consejo de Derechos Humanos de dicha organización ratificó en 2011, establecen un marco voluntario de responsabilidad de las empresas privadas en relación con estos derechos. En 2021, Facebook anunció su Política corporativa de derechos humanos, con la que honró su compromiso por el respeto de los derechos humanos de conformidad con los UNGP. En este caso, el análisis del Consejo se ha basado en las siguientes normas sobre derechos humanos:

1. Libertad de expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR, por sus siglas en inglés), Observación general n.º 34 del Comité de Derechos Humanos (2011).
2. Responsabilidades de las empresas: informe “Empresas, derechos humanos y regiones afectadas por conflictos: hacia el aumento de las medidas” (A/75/212) del Grupo de Trabajo sobre la cuestión de los derechos humanos y las empresas transnacionales y otras empresas de la ONU.

5. Declaración del usuario

El usuario declaró en su apelación ante el Consejo que había publicado el contenido para “detener el brutal régimen militar” y aconsejar a los líderes democráticos de Birmania. El usuario también reiteró la necesidad de limitar la financiación del régimen militar de ese país. El usuario se identificó a sí mismo como “activista” y especuló con que los informantes del régimen militar de Birmania habían denunciado su publicación. También afirmó que “alguien que entendiera el birmano” debía revisar la publicación.

6. Explicación de la decisión de Facebook

Facebook eliminó el contenido como un ataque de “nivel 2” conforme a la política sobre lenguaje que incita al odio de las Normas comunitarias, específicamente, por infringir la política que prohíbe los insultos ofensivos dirigidos a personas en base a su raza, etnia o nacionalidad. De acuerdo con Facebook, se consideró que el contenido presuntamente infractor constituía un ataque al pueblo chino.

El contenido incluía la frase en birmano “$တရုတ်” , que el equipo regional de Facebook tradujo como “fucking Chinese” (“chinos de mierda”) (o “sout ta-yote”). El equipo regional de Facebook añadió que “$” puede usarse como abreviatura de “စောက်” o “sout”, que se traduce como “de mierda”. Según el equipo de Facebook, la palabra “ta-yote” “desde un punto de vista cultural y lingüístico, se percibe como una superposición de identidades o significados entre China (el país en sí) y el pueblo chino”. Facebook proporcionó al Consejo las pautas internas confidenciales pertinentes que facilita a los moderadores (o Normas de implementación internas) sobre lenguaje distintivo que se dirige a personas en base a características protegidas y conceptos relacionados con ellas.

Facebook también señaló en la argumentación de su decisión que, tras el golpe de febrero de 2021, “se informó de un incremento del sentimiento antichino” en Birmania y que “varias personas chinas sufrieron lesiones, quedaron atrapadas o fallecieron en un presunto ataque incendiario en una fábrica de ropa con financiación china en Rangún, Birmania”. En respuesta a una pregunta del Consejo, Facebook afirmó que no tuvo ningún contacto con el régimen militar de Birmania sobre esta publicación.

Facebook señaló que, dada la naturaleza de la palabra “ta-yote” y el hecho de que el usuario no “indicó con claridad que el término se refería al país o Gobierno de China”, determinó que “el usuario se estaba refiriendo, al menos, al pueblo chino”. Por este motivo, Facebook indicó que la eliminación de la publicación fue coherente con la política sobre lenguaje que incita al odio de las Normas comunitarias.

Facebook también alegó que la eliminación fue coherente con sus valores de dignidad y seguridad, que en este caso tuvieron más peso que el valor de expresión. De acuerdo con Facebook, los insultos ofensivos dirigidos al pueblo chino “podrían acabar causando daños a esas personas” y “las degradan, las deshumanizan y denigran su dignidad individual”.

Facebook declaró que su decisión fue coherente con las normas internacionales sobre derechos humanos y manifestó que su decisión cumplió los requisitos de las leyes internacionales sobre derechos humanos en cuanto a legalidad, fin legítimo, y necesidad y proporcionalidad. De acuerdo con Facebook, se podía “acceder con facilidad” a su política en las Normas comunitarias y “las palabras elegidas por el usuario estaban sin duda entre los términos ofensivos prohibidos”. Además, la decisión de eliminar el contenido fue legítima para proteger “los derechos de otras personas contra el daño y la discriminación”. Por último, la decisión de eliminar el contenido fue “necesaria y proporcionada”, ya que “la acumulación de contenido con groserías dirigidas al pueblo chino ‘crea un entorno en el que hay más probabilidades de tolerar actos de violencia y de que se replique la discriminación en la sociedad’”, tal y como se indica en la decisión del Consejo 2021-002-FB-UA relacionada con Zwarte Piet. Facebook señaló que existía una similitud porque “ambos casos involucran lenguaje que incita al odio dirigido a personas en base en su raza o etnia”.

7. Comentarios de terceros

El Consejo asesor de contenido recibió diez comentarios públicos en relación con este caso. Cinco de los comentarios fueron de Asia-Pacífico y Oceanía, específicamente, de Birmania, y cinco fueron de los Estados Unidos y Canadá. El Consejo recibió comentarios de partes interesadas, incluidos defensores de los derechos humanos y organizaciones de sociedad civil que se ocupan de la libertad de expresión y el lenguaje que incita al odio en Birmania.

Los comentarios abarcaron varios temas, como la traducción y el análisis de la palabra “sout ta-yote”, si el contenido atacaba a China o al pueblo chino, si se trataba de un discurso político que debería protegerse en el contexto del conflicto en Birmania, si hubo un incremento en el sentimiento antichino en Birmania tras el golpe de febrero de 2021, la relación entre China y el régimen militar de Birmania, y las prácticas de moderación de contenido de Facebook, en concreto, el uso, el entrenamiento y la auditoría de las herramientas de automatización de Facebook para contenido en birmano.

Si quieres leer los comentarios públicos que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

Este caso pone de manifiesto la importancia del contexto a la hora de hacer cumplir las políticas de contenido elaboradas para proteger a los usuarios contra el lenguaje que incita al odio, sin dejar de respetar el discurso político. Esto es especialmente pertinente en Birmania debido al golpe de febrero de 2021 y la importancia de Facebook como medio de comunicación. El Consejo analizó la pregunta de si este contenido debería restaurarse tomando como base tres perspectivas: las Normas comunitarias de Facebook, los valores de la empresa y sus responsabilidades con los derechos humanos.

8.1 Cumplimiento de las Normas comunitarias

El Consejo consideró que la restauración del contenido es coherente con la política sobre lenguaje que incita al odio de las Norma comunitarias de Facebook. La política de Facebook prohíbe “los términos ofensivos con la intención de insultar” que se dirigen a una persona o personas en base en su raza, etnia o nacionalidad. El Consejo concluyó que la publicación no se dirigía a personas, sino a las políticas gubernamentales chinas en Hong Kong, y que se hizo en el contexto de un debate sobre el papel del Gobierno chino en Birmania.

Además de los comentarios públicos, el Consejo también solicitó dos traducciones del texto. Las traducciones las realizaron un hablante de birmano ubicado en Birmania y otro hablante del mismo idioma ubicado fuera de ese país. De acuerdo con los comentarios públicos y los traductores del Consejo, en birmano, la misma palabra se usa para referirse a Estados y a las personas de esos Estados. Por lo tanto, el contexto es clave para comprender el significado buscado. Esto tiene especial importancia a la hora de aplicar la política relativa al lenguaje que incita al odio de Facebook. En el momento en que se eliminó el contenido, en la política sobre lenguaje que incita al odio de las Normas comunitarias, se prohibían los ataques contra personas en base a su nacionalidad, pero no se prohibían los ataques contra países.

El Consejo tuvo en cuenta varios factores al determinar que esta publicación no se dirigía al pueblo chino en base a su etnia, raza o nacionalidad. En primer lugar, la publicación en general sugería distintas formas de limitar el compromiso financiero con el régimen militar y de ofrecer apoyo financiero al CRPH. En segundo lugar, el fragmento de la publicación supuestamente infractor se refería a las políticas financieras de China en Hong Kong como “tortura” o “persecución”, y no a las acciones de personas o del pueblo chino en Birmania. En tercer lugar, aunque la ausencia de denuncias en una publicación que se haya compartido muchas veces no siempre indica que no es infractora, más de 500 000 personas la vieron, y más de 6000 la compartieron, pero ningún usuario la denunció. En cuarto lugar, los dos traductores que el Consejo consultó indicaron que, si bien el mismo término se usa para referirse tanto a un Estado como a las personas de este, en este caso en particular se refería al Estado. Cuando se les preguntó si podría haber algún tipo de ambigüedad en esta referencia, los traductores no indicaron duda alguna en cuanto a su interpretación. En quinto lugar, ambos traductores señalaron que la publicación incluía términos que el Gobierno de Birmania y la embajada de China usaban habitualmente para dirigirse el uno al otro. Por último, de acuerdo con la mayoría de los comentarios públicos, el tono general de la publicación, en gran medida, fue el de un debate político.

Por lo tanto, dado que las groserías no se dirigían a personas en base a su raza, etnia o nacionalidad, sino que iban dirigidas a un Estado, el Consejo concluyó que no infringían la política sobre lenguaje que incita al odio de las Normas comunitarias de Facebook. Es esencial garantizar que las prohibiciones que impiden dirigirse a personas en base a características protegidas no se interpreten de tal forma que acaben protegiendo a Gobiernos e instituciones contra las críticas. El Consejo reconoce que el lenguaje que incita al odio antichino es un asunto grave, pero esta publicación hacía referencia al Estado de China.

El Consejo no está de acuerdo con el argumento de Facebook de que su decisión de eliminar este contenido se basó en los fundamentos que siguió el Consejo para tomar la decisión del caso 2021-002-FB-UA, en la cual el Consejo ratificó la eliminación de representaciones de personas con la cara pintada de negro. En ese caso, Facebook tenía una regla contra las representaciones de personas con la cara pintada de negro, y el Consejo permitió que Facebook la aplicara a contenido que incluía representaciones de Zwarte Piet con la cara pintada de negro. Aquí, por el contrario, el contexto de la publicación indicaba que el lenguaje usado no infringía ninguna regla de Facebook en absoluto.

Durante la deliberación del Consejo acerca de este caso, Facebook actualizó la política sobre lenguaje que incita al odio de las Normas comunitarias e incorporó más información sobre la prohibición del uso de “conceptos” relacionados con características protegidas en determinadas circunstancias. En esta nueva regla, se establece que Facebook “requiere información adicional o contexto” para el cumplimiento de normas y que los usuarios no deben publicar “contenido que ataque a conceptos, instituciones, ideas, prácticas o creencias asociados con características protegidas, que probablemente contribuya a la aparición inminente de daño físico, intimidación o discriminación contra las personas vinculadas a esa característica protegida”.

Como no era parte de la norma comunitaria cuando Facebook eliminó este contenido, y Facebook no alegó que eliminó el contenido conforme a esta modificación de la norma ante el Consejo, este no analizó la aplicación de esta política en este caso. Sin embargo, el Consejo señala que “conceptos, instituciones, ideas, prácticas o creencias” podría abarcar muchísimas expresiones, incluido el discurso político.

8.2 Cumplimiento de los valores de Facebook

El Consejo concluye que el restablecimiento del contenido es coherente con los valores de Facebook. Si bien los valores de Facebook de dignidad y seguridad son importantes, especialmente en el contexto del golpe de febrero de 2021 en Birmania, este contenido no suponía ningún riesgo para estos valores que justificara el desplazamiento del valor de expresión. El Consejo también considera que la publicación contenía un discurso político que es esencial para el valor de expresión.

8.3 Cumplimiento de las responsabilidades de Facebook en materia de derechos humanos

El Consejo concluye que la restauración del contenido es coherente con las responsabilidades de Facebook como empresa en cuanto a los derechos humanos. Facebook se ha comprometido a respetar los derechos humanos de conformidad con los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (UNGP). En su Política corporativa de derechos humanos, se dispone que esto incluye el Pacto Internacional de Derechos Civiles y Políticos (ICCPR, por sus siglas en inglés).

En el artículo 19 del ICCPR se establece una amplia protección para la libertad de expresión. Esta protección es “especialmente elevada” cuando se trata de expresiones y debates políticos, incluidos aquellos sobre instituciones públicas (Observación general n.º 34, párrafo 38). En el artículo 19 se dispone que las restricciones estatales sobre la expresión deben superar la prueba de tres partes centrada en la legalidad, la legitimidad, y la necesidad y proporcionalidad. El Consejo concluyó que las medidas de Facebook no estuvieron en consonancia con sus responsabilidades como empresa conforme a esta prueba.

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad conforme a las leyes internacionales sobre derechos humanos exige que las reglas que los Estados usen para limitar la expresión sean claras y accesibles (Observación general n.º 34, párrafo 25). Además, las reglas que restringen la expresión deben “proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no” (Observación general n.º 34, párrafo 25).

La política sobre lenguaje que incita al odio de las Normas comunitarias prohíbe las groserías dirigidas a las personas por motivos de raza, etnia o nacionalidad. Facebook indicó al Consejo que, debido a la dificultad de “determinar la intención a escala, Facebook considera que la frase ‘chinos de mierda’ se refiere al pueblo chino y a China el país o su Gobierno, salvo que el usuario proporcione contexto adicional donde aclare que se refiere únicamente al país o al Gobierno”. La política de eliminar el contenido como opción predeterminada no está establecida en la norma comunitaria.

El Consejo concluye que el usuario proporcionó contexto adicional que demostraba que la publicación se refería a un Estado o país, como se ha señalado en el análisis del Consejo de la política sobre lenguaje que incita al odio de las Normas comunitarias (sección 8.1 anterior). Varios revisores de Facebook llegaron a una conclusión diferente de la de los traductores del Consejo, las personas que enviaron comentarios públicos y, presuntamente, muchos de los más de 500 000 usuarios que vieron la publicación y no la denunciaron. Dada esta divergencia, el Consejo cuestiona la idoneidad de las pautas internas, los recursos y la formación que Facebook ofrece a los moderadores de contenido.

A raíz de la conclusión del Consejo de que el usuario no infringió la política relativa al lenguaje que incita al odio de Facebook, el Consejo aún no ha decidido si la política no pública de eliminar el contenido como opción predeterminada infringe el principio de legalidad. Sin embargo, al Consejo le preocupa que la política de eliminar el contenido como opción predeterminada en los casos de groserías que puedan interpretarse como dirigidas a personas o a un Estado no está definida con claridad en las Normas comunitarias. En general, Facebook debería hacer públicas las pautas internas que modifiquen la interpretación de sus Normas comunitarias orientadas al público.

II. Fin legítimo

Cualquier restricción estatal sobre la expresión debe procurar alguno de los fines legítimos mencionados en el ICCPR, entre ellos, los “derechos de los demás”. De acuerdo con Facebook, la finalidad de su política relativa al lenguaje que incita al odio es proteger a los usuarios contra la discriminación. El Consejo coincide en que este es un fin legítimo.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad en el marco de la legislación internacional en materia de derechos humanos exige que las restricciones que se apliquen a la expresión “deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse” (Observación general n.º 34, párrafo 34). En este caso, en base a su interpretación del contenido, el Consejo determinó que la restricción de esta publicación no serviría como medida de protección.

En los UNGP se indica que las empresas deben llevar a cabo debida diligencia continua respecto a los derechos humanos para evaluar las repercusiones de sus actividades (UNGP 17) y se reconoce que el riesgo de que los derechos humanos se vean perjudicados aumenta en contextos afectados por conflictos (UNGP 7). El Grupo de Trabajo sobre la cuestión de los derechos humanos y las empresas transnacionales y otras empresas de la ONU señaló que las responsabilidades de diligencia de las empresas deben reflejar la mayor complejidad y riesgo de daños existentes en determinadas situaciones (A/75/212, párrafos 41-49). De forma similar, en la decisión del caso 2021-001-FB-FBR, el Consejo recomendó que Facebook “garantizara que los recursos y conocimientos fueran adecuados para evaluar los riesgos de daños que suponen las cuentas influyentes en todo el mundo” y reconoció que Facebook debería prestar atención a las regiones con mayores riesgos.

En este caso, el Consejo determinó que este aumento de las responsabilidades no debe originar la eliminación de forma predeterminada, ya que lo que está en juego es mucho, tanto en lo que respecta a conservar contenido dañino como a eliminar contenido que implica poco o ningún riesgo de daño. Si bien la preocupación de Facebook por el lenguaje que incita al odio en Birmania tiene buenos fundamentos, también debe prestar particular atención a no eliminar críticas o expresiones políticas, en este caso, en apoyo de una gobernanza democrática.

El Consejo indicó que la política de Facebook de suponer que las groserías que mencionan una nacionalidad (en este caso “$တရုတ်”) se refieren a Estados y a las personas podría conllevar un cumplimiento de normas desproporcionado en algunos contextos lingüísticos, como este, donde la misma palabra se usa para ambos conceptos. El Consejo también destacó que los efectos de esta eliminación se extienden más allá del caso, ya que Facebook indicó que se usó en un entrenamiento de clasificadores como ejemplo de contenido que infringía la norma comunitaria sobre lenguaje que incita al odio.

Teniendo en cuenta todo lo anterior, en base a las normas internacionales sobre derechos humanos, se debe restaurar el contenido en Facebook.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido revoca la decisión de Facebook de eliminar el contenido y solicita que se restaurare. Facebook tiene la obligación, de conformidad con el Acta constitutiva del Consejo, de implementar esta decisión en contextos similares. Además, debe marcar este contenido como no infractor si se usa para entrenar clasificadores.

10. Recomendación de políticas

Facebook debe garantizar que sus Normas de implementación internas estén disponibles en el idioma en que los moderadores de contenido revisan el contenido. En caso de tener que priorizar, Facebook debe centrarse primero en aquellos contextos en los que los derechos humanos corran un mayor riesgo.

* Nota procedimental:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente a nombre del Consejo. Un centro de investigación independiente establecido en la Universidad de Gotemburgo, con un equipo de más de 50 sociólogos en seis continentes, y más de 3200 expertos de países de todo el mundo aportaron sus conocimientos en materia de contextos sociopolíticos y culturales. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, se ha encargado de las competencias en materia lingüística.

Return to Case Decisions and Policy Advisory Opinions