Crítica de las políticas migratorias de la UE y los inmigrantes

Para leer la decisión completa en polaco, haz clic aquí.

Aby zapoznać się z tą decyzją w języku polskim, kliknij tutaj.

Para leer la decisión completa en alemán, haz clic aquí.

Klicken Sie hier, um diese Entscheidung auf Deutsch zu lesen.

Resumen

La mayoría del Consejo determinó que dos contenidos relacionados con la inmigración, publicados en Facebook antes de las elecciones al Parlamento Europeo de junio de 2024, infringen la política de conducta que incita al odio, por lo que Meta debe eliminarlos. El Consejo reconoce que el derecho a la libertad de expresión es primordial al evaluar los debates y comentarios políticos. Sin embargo, contenidos como estas dos publicaciones contribuyeron a aumentar los riesgos de violencia y discriminación en el período previo a unas elecciones en las que la inmigración era un tema político importante y la animadversión hacia los inmigrantes era cada vez mayor. Para la mayoría, es necesario y proporcionado eliminarlos. Una publicación de un partido político polaco usa intencionalmente terminología racista para aprovechar la animadversión hacia los inmigrantes. La otra publicación generaliza a los inmigrantes como violadores en grupo, una afirmación que, cuando se repite, despierta el miedo y el odio.

Nota adicional: Las modificaciones realizadas el 7 de enero de 2025 por Meta no cambiaron el resultado en estos casos, aunque el Consejo tuvo en cuenta las reglas vigentes al momento de la publicación, así como las actualizaciones posteriores durante la deliberación. En cuanto a los cambios más amplios en la política y su aplicación anunciados apresuradamente por Meta en enero, el Consejo manifiesta su preocupación por el hecho de que Meta no haya compartido públicamente si antes realizó, o no, una debida diligencia en materia de derechos humanos conforme a sus compromisos en el marco de los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas. Es fundamental que Meta garantice la identificación y prevención de cualquier impacto negativo sobre los derechos humanos en el mundo .

Información sobre el caso

El primer caso se refiere a un meme publicado en la página oficial de Facebook de la alianza política de extrema derecha de Polonia, la Confederación de Libertad e Independencia. En el meme, el primer ministro polaco, Donald Tusk, mira por la mirilla de una puerta, mientras un hombre negro camina detrás de él. El texto en polaco dice: "Buenas noches, ¿votaste por la Plataforma? Traje al 'murzyn' del pacto de inmigración". La Plataforma es el partido político de Tusk, la coalición Plataforma Cívica, mientras que el pacto es el Pacto sobre Migración y Asilo de la Unión Europea. La palabra polaca "murzyn", que se usa para describir a las personas negras, se considera despectiva. La descripción critica el pacto de la UE e incentiva a las personas a votar por la confederación en las elecciones europeas para detener la "inmigración descontrolada". Este contenido se visualizó aproximadamente 170.000 veces.

En el segundo caso, una página de Facebook en alemán, que se describe a sí misma como opuesta a los grupos de izquierda, publicó una imagen generada con IA de una mujer de cabello rubio y ojos azules levantando la mano en señal de alto. El texto en alemán dice que las personas ya no deberían venir al país porque no se necesitan más "especialistas en violaciones en grupo" debido a la política de inmigración del Partido Verde. También hay una dirección sin hipervínculo de un artículo titulado "Sospechosos no alemanes de violaciones en grupo" en el sitio web del Parlamento alemán. Esta publicación se visualizó aproximadamente 9.000 veces.

Ambas publicaciones se reportaron por lenguaje que incita al odio. Meta no encontró infracciones, por lo que las dejó en Facebook. Como resultado, los usuarios apelaron los casos ante el Consejo.

Resultados relevantes

La mayoría del Consejo considera que ambas publicaciones infringen la ahora denominada política de conducta que incita al odio, mientras que una minoría no encuentra infracciones en ninguna de ellas.

La publicación en polaco contiene la palabra "murzyn", que la mayoría considera un insulto discriminatorio usado para atacar a las personas negras sobre la base de su raza. Los cambios del 7 de enero realizados por Meta no afectaron su regla sobre los insultos, definidos como "palabras que generan inherentemente un clima de exclusión e intimidación en contra de las personas sobre la base de una característica protegida". Al insinuar la inferioridad o la suciedad de las personas negras, la naturaleza ofensiva del término está reconocida en los principales diccionarios de lengua polaca. También cabe destacar que los movimientos de la sociedad civil liderados por personas de raza negra y de habla polaca desempeñaron un papel importante en el reconocimiento de los efectos discriminatorios y perjudiciales del término. La mayoría señala que Meta no incluye actualmente el término "murzyn" como insulto, por lo que recomienda que se modifique y pide a la empresa que aplique con mayor precisión su política de insultos.

Una minoría del Consejo no está de acuerdo, ya que considera que el término no cumple con la definición de Meta de insulto y que se necesitan pruebas más claras de que crea inherentemente una atmósfera de exclusión e intimidación.

La mayoría también considera que la publicación en alemán infringe las normas porque contiene un ataque de nivel 1 al generalizar que la mayoría de los inmigrantes son "especialistas en violaciones en grupo". Esta regla, que no permite denuncias de "inmoralidad y criminalidad graves" sobre la base de la condición de inmigrante, lo que incluye llamar a las personas "depredadores sexuales", permanece sin cambios desde el 7 de enero. Para que esta regla se aplique, las publicaciones deben estar dirigidas a más del 50% de un grupo. Asimismo, las pautas internas de Meta (no disponibles al público) aconsejan a los revisores que dejen el contenido publicado cuando no esté claro si se cumple esta condición. Por tal motivo, Meta conservó la publicación en alemán. La mayoría del Consejo no está de acuerdo con la evaluación de Meta. Por consiguiente, recomienda que la empresa cambie esta regla para exigir a los usuarios que indiquen claramente que están dirigiéndose a menos de la mitad de un grupo, por ejemplo, mediante el uso de calificativos como "algunos".

Una minoría del Consejo no está de acuerdo, ya que considera que la publicación en alemán no afirma ni da a entender que todos o la mayoría de los inmigrantes sean violadores en grupo.

Por último, la mayoría señala que es apropiado que Meta considere los efectos sobre los derechos humanos de tal conducta que incita al odio acumulándose en sus plataformas. Una minoría no está de acuerdo con la mayoría, pues considera que las eliminaciones solo se habrían justificado si las publicaciones constituyeran una incitación a la violencia y la discriminación de manera probable e inminente. Estas dos publicaciones no pedían ninguna acción, aparte de la participación en unas elecciones y el debate sobre el interés público en torno a la inmigración.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta en ambos casos.

El Consejo recomendó a Meta lo siguiente:

• En relación con las modificaciones del 7 de enero de 2025 realizadas a la política de conducta que incita al odio, Meta debe identificar la manera en que las actualizaciones a la política y su cumplimiento pueden afectar negativamente los derechos de los inmigrantes, en particular de los refugiados y los solicitantes de asilo. Esto debería centrarse en los mercados en los que dichas poblaciones corren un mayor riesgo. Debe adoptar medidas para prevenir o mitigar estos riesgos y controlar su eficacia. Por último, Meta debe informar al Consejo cada seis meses sobre el avance y proporcionar informes públicos a la mayor brevedad posible.
• Agregar el término "murzyn" a su lista de insultos en el mercado polaco.
• Asegurarse de colaborar ampliamente con las partes interesadas externas que corresponda, lo que incluye asesorarse con los grupos afectados y la sociedad civil, al auditar sus listas de insultos.
• Actualizar sus pautas internas y dejar en claro que los ataques de nivel 1 (incluidos los que se basan en la condición de inmigrante) están prohibidos, a menos que el contenido indique claramente que se refiere a un subconjunto definido de menos de la mitad del grupo. Esto revertiría la presunción actual de que el contenido se refiere a una minoría, a menos que se indique específicamente lo contrario.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión completa del caso

1. Descripción y contexto del caso

El Consejo asesor de contenido revisó dos casos relacionados con publicaciones en Facebook antes de las elecciones al Parlamento Europeo de junio de 2024, en las que la inmigración fue un tema clave. En mayo de ese año, se adoptó el Pacto sobre Migración y Asilo de la Unión Europea (UE), que establece nuevas reglas para administrar la inmigración en Europa.

El primer caso se refiere a un meme publicado por un administrador de la página oficial de Facebook de la alianza política de extrema derecha de Polonia, la Confederación de Libertad e Independencia (Konfederacja Wolność i Niepodległość). La imagen muestra al primer ministro del país, Donald Tusk, mirando por la mirilla de una puerta, mientras un hombre negro camina detrás de él. El texto en polaco sobre la imagen dice: "Buenas noches, ¿votaste por la Plataforma? Traje al 'murzyn' del pacto de inmigración". La Plataforma se refiere a la coalición centrista Plataforma Cívica de Tusk, que llegó al poder en diciembre de 2023. "Murzyn", la palabra polaca usada para describir a las personas de raza negra en el texto, se considera en general un insulto despectivo en Polonia, aunque Meta no lo prohíbe. La descripción critica el pacto de la UE e incentiva a las personas a votar por la confederación en las elecciones europeas para detener el ingreso de inmigrantes en Polonia y la UE. La publicación se visualizó aproximadamente 170.000 veces, se compartió menos de 500 veces y tiene menos de 500 comentarios.

En el segundo caso, el administrador de una página de Facebook en alemán, que se describe como opuesta a los grupos de izquierda, publicó una imagen que parece generada con IA. La imagen muestra a una mujer de cabello rubio y ojos azules levantando la mano en un gesto de alto, con una señal y la bandera alemana al fondo. El texto en alemán sobre la imagen dice que las personas ya no deberían venir a Alemania, ya que no se necesitan más "especialistas en violaciones en grupo" debido a la política de inmigración del Partido Verde. A continuación, en un texto mucho más pequeño, aparece la dirección de un sitio web sin hipervínculo hacia un artículo en el sitio web del Parlamento alemán titulado "Sospechosos no alemanes de violaciones en grupo". La publicación se visualizó aproximadamente 9.000 veces y se compartió menos de 500 veces.

Diez usuarios de Facebook reportaron la publicación en polaco y uno reportó la publicación en alemán, ambas por lenguaje que incita al odio. Meta conservó ambas publicaciones en Facebook y, después de que cada decisión se apelara sin éxito ante Meta, ambos casos se apelaron ante el Consejo.

El 7 de enero de 2025, Meta anunció modificaciones a su política de lenguaje que incita al odio y cambió su nombre a política de conducta que incida al odio. Estos cambios, en la medida en que sean relevantes para estos casos, se describirán en la sección 3 y se analizarán en la sección 5. El Consejo observa que se puede acceder al contenido en las plataformas de Meta de forma continua y que las políticas actualizadas se aplican a todo el contenido presente en la plataforma, sin importar su fecha de publicación. Por lo tanto, el Consejo evalúa la aplicación de las políticas existentes en el momento de la publicación y, cuando corresponde, según revisiones posteriores (ver también el enfoque que se adoptó en el caso Negación del Holocausto).

2. Respuestas de los usuarios

El usuario que apeló contra la publicación en polaco citó referencias académicas para respaldar su postura, según la cual "murzyn" es un término peyorativo y despectivo que perpetúa los estereotipos raciales y la discriminación. El usuario que presentó una apelación contra la publicación en alemán señaló que en ella parece afirmarse que todos los refugiados son criminales y violadores.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

Política de conducta que incita al odio (anteriormente lenguaje que incita al odio)

Meta define la "conducta que incita al odio" de la misma manera que antes definía el "lenguaje que incita al odio", como un "ataque directo a las personas" sobre la base de características protegidas, como el origen nacional, la raza y la etnia. La política sigue tratando la condición de inmigrante como una "característica semiprotegida". Esto significa que Meta solo protege a los inmigrantes de los ataques más graves en virtud del nivel 1 de la política. El 7 de enero, Meta agregó una explicación a las bases de la política en la cual se indica que las personas a veces "incitan a la exclusión o usan lenguaje insultante en el contexto de debates sobre temas políticos o religiosos", incluida la inmigración. Meta establece explícitamente que sus "políticas se diseñaron para brindar espacio a este tipo de discursos".

En el nivel 1, se prohíben las "acusaciones de inmoralidad y criminalidad grave", y se dan como ejemplos los depredadores sexuales y los criminales violentos. La política prohibía anteriormente las denuncias sobre formas menos graves de criminalidad, pero esto se trasladó del nivel 1 al 2. En el nivel 2, no se ofrecen tales protecciones a los inmigrantes. Por lo tanto, Meta ahora permite las afirmaciones de que la mayoría de los inmigrantes son, por ejemplo, ladrones. En el nivel 2, se siguen prohibiendo las incitaciones a la exclusión, pero esta protección tampoco se extiende a los inmigrantes.

En el nivel 1, se establece que sus prohibiciones no se aplican si el contenido se dirige a menos de la mitad de un grupo. Las pautas internas de Meta para moderadores explican cómo tratar los ataques directos que se refieren a menos del 100% de un grupo objetivo, incluso sobre la base de la condición de inmigrante. Si el contenido contiene un cuantificador como "la mayoría", que indica que se refiere a más del 50% del grupo, se aplican las prohibiciones del nivel 1. Si no está claro si el contenido se refiere a más del 50% del grupo, se permite el contenido. En consecuencia, está prohibido el contenido que afirme que todos los inmigrantes de un país o la mayoría de ellos son violadores o criminales violentos, pero se permite el contenido que afirme que algunos de ellos son violadores o criminales violentos.

El nivel 1 de la política de conducta que incita al odio sigue prohibiendo "el contenido que describe o ataca negativamente a las personas con insultos". Los insultos se definen como "palabras que generan inherentemente un clima de exclusión e intimidación en contra de las personas sobre la base de una característica protegida, a menudo porque estas palabras están vinculadas a discriminación, opresión y violencia históricas". Meta establece cómo desarrolla, aplica y actualiza su lista de insultos en el Centro de transparencia.

II. Respuestas de Meta

Meta conservó ambas publicaciones, ya que consideró que ninguna infringía su política de conducta que incita al odio (actualizada con este nombre). Meta confirmó que los cambios del 7 de enero no afectaron sus decisiones porque sus políticas sobre insultos raciales y generalizaciones que comparan a los inmigrantes con depredadores sexuales o criminales violentos no cambiaron.

Meta declaró que la publicación en polaco no infringía la política porque no contiene un ataque infractor de conformidad con el nivel 1. Meta no clasifica el término "murzyn" como un insulto en el mercado polaco. Meta explicó que la categorización del término se consideró por última vez en 2023. Sin embargo, no lo agregó porque se determinó que su uso era históricamente neutro y, aunque puede usarse de forma despectiva, su similitud con otras palabras podría dar lugar a una aplicación excesiva.

En cuanto a la publicación en alemán, Meta consideró que el contenido no era infractor, ya que "no está claro si el contenido llama a todos los inmigrantes, a la mayoría o a algunos de ellos 'especialistas en violaciones en grupo'". Para Meta, el contenido no afirma ni implica que todos los inmigrantes, o la mayoría de ellos, cometerán violaciones en grupo. Meta también señaló que el artículo al que se hace referencia en la publicación no respalda la conclusión de que esté atacando a la mayoría de los inmigrantes que llegan a Alemania.

Por último, aunque Meta reconoció que ambas publicaciones pueden interpretarse como excluyentes, la empresa explicó que ninguna de ellas infringe su prohibición de "incitaciones a la exclusión", ya que las prohibiciones de nivel 2 no ofrecen protección por motivos de condición de inmigrante.

El Consejo formuló preguntas sobre la política de conducta que incita al odio de Meta, las listas de insultos de la empresa y la manera en que evalúa el contenido de partidos políticos y el lenguaje que incita al odio contra los inmigrantes en el contexto de las elecciones. Meta respondió todas las preguntas.

4. Comentarios del público

El Consejo asesor de contenido recibió 18 comentarios del público dentro de los plazos de presentación. De ellos, 15 se recibieron de Europa, 2 de los Estados Unidos y 1 de África subsahariana. Debido a que el plazo para comentarios del público concluyó antes del 7 de enero de 2025, ninguno de los comentarios aborda los cambios normativos que Meta realizó en esa fecha. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios enviados abarcaron los siguientes temas: si el término "murzyn" es un insulto discriminatorio; la retórica contra los inmigrantes en los medios sociales; los vínculos entre el lenguaje que incita al odio online y la violencia en la vida real; la importancia de poder debatir sobre cuestiones de inmigración; y el auge de las teorías conspirativas en la retórica política sobre cuestiones migratorias.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó estos casos para examinar cómo Meta garantiza la libertad de expresión en los debates sobre inmigración, a la vez que respeta los derechos humanos de los inmigrantes en el contexto de unas elecciones. Estos casos se enmarcan en las prioridades estratégicas del Consejo sobre lenguaje que incita al odio contra grupos marginados y sobre elecciones y espacio cívico.

El Consejo analizó la decisión de Meta en estos casos en relación con sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de estos casos para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

La mayoría del Consejo considera que las publicaciones en polaco y alemán infringen la política de conducta que incita al odio, por lo que deberían eliminarse de Facebook. No obstante, una minoría no encuentra infracciones en ninguna de las publicaciones en virtud de la política de conducta que incita al odio. El resultado del Consejo no cambió como consecuencia de las actualizaciones realizadas por Meta el 7 de enero.

La mayoría del Consejo considera que "murzyn" es un insulto discriminatorio en el sentido de la política de Meta porque se usa para atacar a las personas negras por su raza, lo que crea inherentemente una atmósfera de exclusión discriminatoria e intimidación. El Consejo señala que se usa online, de manera abrumadora, como parte de declaraciones despectivas sobre personas negras (ver también los comentarios del público, incluidos los del Instituto para el Diálogo Estratégico: PC-30797, PC-30795 y PC-30790). Los especialistas consultados por el Consejo explicaron que el término se usa en expresiones idiomáticas y proverbios que implican la inferioridad o la suciedad de las personas negras, sobre la base de su raza. Los movimientos de la sociedad civil polaca, liderados por personas negras y de habla polaca, desempeñaron un papel clave en el reconocimiento de los efectos discriminatorios y perjudiciales del término. Los perjuicios, que incluyen perpetuar estereotipos negativos y legitimar el trato discriminatorio al retratar a las personas negras como "diferentes" dentro de la sociedad, son el resultado de la naturaleza despectiva del término y de las asociaciones con la inferioridad. Para la mayoría, resulta especialmente convincente que un término se considere despectivo y perjudicial para el grupo marginado al que se refiere. Por esta razón, Meta debería ser más sistemático y exhaustivo en las consultas con los grupos afectados al auditar su lista de insultos y, en general, al actualizar sus políticas.

El Consejo señala que la comprensión contemporánea del término es importante. Aunque algunas personas que hablan polaco sostienen que el término es neutro, el Consejo de la Lengua Polaca publicó en 2020 una guía en la que se afirma que es arcaico, peyorativo y que no debe usarse en el ámbito público. Los especialistas también señalaron que, si bien el término puede haberse percibido como neutro en el siglo XX, antes de eso tenía connotaciones negativas y peyorativas. Por ejemplo, la palabra se usaba anteriormente para referirse a "un esclavo", lo que la vincula directamente a uno de los peores ejemplos de discriminación, opresión y violencia de la historia, de modo que cumple claramente con la definición de insulto de Meta. Los principales diccionarios de lengua polaca actualizaron sus definiciones del término para reconocerlo como ofensivo. Por estos motivos, la mayoría considera que el uso del término crea una atmósfera de exclusión e intimidación. Por consiguiente, el Consejo emite una recomendación para garantizar que Meta aplique con mayor precisión su política de insultos en el futuro. La mayoría también señala que, si la publicación no hubiera usado este insulto, habría sido permisible según las políticas de contenido de Meta (ver la decisión Armenios en Azerbaiyán del Consejo).

Una minoría del Consejo no está de acuerdo en que la publicación en polaco infrinja las normas, ya que considera que el término no cumple la definición de Meta de insulto. Si bien el término puede considerarse ofensivo y despectivo, esto no es suficiente para determinar que debe considerarse un término prohibido. Para la minoría, la política de Meta requiere pruebas más claras de que el uso del término crea inherentemente una atmósfera de exclusión e intimidación. Más que vínculos correlativos con períodos de discriminación, opresión y violencia históricas (en otros tiempos y lugares), debería haber pruebas de que su uso fue y sigue siendo intrínseco a la imposición de tales perjuicios.

La mayoría del Consejo considera que la publicación en alemán constituye un ataque de nivel 1 al generalizar que la mayoría de los inmigrantes son "especialistas en violaciones en grupo". Esta prohibición permanece inalterada tras las modificaciones de la política de Meta del 7 de enero.

Para la mayoría, la caracterización de los inmigrantes que ingresan al país como "especialistas en violaciones en grupo", sin usar ningún calificativo (por ejemplo, "algunos" o "demasiados"), transmite claramente un ataque generalizado contra todos los inmigrantes. A diferencia de la evaluación de Meta, el hecho de que la publicación incluya la dirección de un sitio web (que no tiene hipervínculo ni aparece en texto más pequeño) de un artículo titulado "Sospechosos no alemanes de violaciones en grupo" no afecta esta conclusión. En su lugar, respalda la conclusión de la mayoría. El texto de la publicación solo incluye el título del artículo, el cual, en lugar de transmitir los matices que se tratan en su análisis más completo, da a entender que los "no alemanes" son generalmente los sospechosos de violaciones en grupo.

Para garantizar una aplicación más precisa de la política de conducta que incita al odio, la mayoría del Consejo recomienda que Meta revoque su presunción predeterminada de que, a menos que el contenido se refiera claramente a más del 50% de un grupo, se considerará que no infringe las normas (por ejemplo, "los inmigrantes son violadores en grupo" debe considerarse una generalización y, por lo tanto, infringir las normas). Meta debe exigir a los usuarios que publiquen contenido potencialmente infractor de la política de conducta que incita al odio que indiquen claramente que se dirigen a menos del 50% de un grupo (por ejemplo, "algunos inmigrantes son violadores en grupo").

Una minoría del Consejo considera que, aunque la publicación en alemán es sumamente ofensiva, no es una generalización prohibida por la política de conducta que incita al odio de Meta, ya sea en su versión revisada o en la anterior al 7 de enero. El contenido no afirma ni da a entender que todos los inmigrantes, o la mayoría de ellos, sean violadores en grupo. A este grupo de miembros del Consejo también le preocupa que la recomendación de la mayoría suponga una carga excesiva para los usuarios, que tendrían que explicar sus posiciones. El artículo al que se hace referencia en la publicación titulada "Sospechosos no alemanes de violaciones en grupo" no respalda la conclusión de que la publicación ataque a la mayoría de los inmigrantes, ya que incluye un matiz en el debate sobre por qué los inmigrantes pueden tener una representación excesiva en las estadísticas oficiales sobre la perpetración de violaciones en grupo. La minoría señala que la publicación aborda un tema de debate válido, especialmente en el contexto de unas elecciones en las que la inmigración y, en particular, la relación entre los inmigrantes y los crímenes, es un tema fundamental. Los cambios introducidos por Meta el 7 de enero en las bases de la política de conducta que incita al odio dejan claro que, para la empresa, sus políticas deben dar más espacio a la libertad de expresión cuando se habla de inmigración.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

La mayoría del Consejo determinó que la eliminación de ambas publicaciones, como lo requiere una interpretación adecuada de las políticas de contenido de Meta, también concuerda con las responsabilidades de Meta en materia de derechos humanos. Una minoría del Consejo no está de acuerdo y considera que la eliminación no es coherente con estas responsabilidades.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR prevé una amplia protección de la libertad de expresión, incluidas las opiniones sobre política, asuntos públicos y derechos humanos (observación general n.º 34, párrafos 11 y 12). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes".

El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, en línea con los Principios Rectores sobre Empresas y Derechos Humanos de las Naciones Unidas (UNGP), que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Conforme al principio 13 de los UNGP, las empresas deben "evitar que sus propias actividades provoquen o contribuyan a provocar consecuencias negativas sobre los derechos humanos" y "tratar de prevenir o mitigar las consecuencias negativas sobre los derechos humanos directamente relacionadas con operaciones, productos o servicios". Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41). Al mismo tiempo, cuando las normas de las empresas difieren de los estándares internacionales, deben explicar y justificar con antelación esa diferencia, de una manera que articule la variación (ibid., párrafo 48).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que las reglas que limitan la expresión sean accesibles y claras, y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas (observación general n.º 34, párrafo 25). Asimismo, estas reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y deben "proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (ibidem). Cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo concluye que no hay problemas de legalidad con las reglas de conducta que incita al odio tal como se aplican a estos casos. Sin embargo, al Consejo le preocupa que una versión reciente de esta política, tras una actualización de diciembre de 2023, se haya aplicado durante muchos meses en todo el mundo, aunque solo estuviera disponible en inglés de Estados Unidos, hasta que el Consejo cuestionó a Meta al respecto. Los usuarios que accedan al Centro de transparencia desde cualquier otro mercado accederán, de forma predeterminada, a una traducción desactualizada de la política. El Consejo insta de nuevo a Meta a prestar mayor atención en lo referente a garantizar que sus reglas sean accesibles en todos los idiomas, lo más rápidamente posible, tras cualquier cambio de política (ver Inquietud punyabí en torno a la RSS en la India).

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos del ICCPR, entre ellos, los "derechos de los demás" (artículo 19, párrafo 3, ICCPR). En varias decisiones, el Consejo determinó que la política de lenguaje que incita al odio (ahora llamada "política de conducta que incita al odio") de Meta procura proteger la igualdad y la no discriminación, un fin legítimo reconocido por las normas internacionales sobre derechos humanos (ver, por ejemplo, Dibujos animados de Knin y Bot de Birmania). Este sigue siendo el fin legítimo de la política sobre conducta que incita al odio.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora, deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

El valor de la expresión es particularmente alto cuando se debaten temas de interés público y el derecho a la libertad de expresión es fundamental al evaluar el discurso político y los comentarios sobre asuntos públicos. Las personas tienen el derecho de buscar, recibir y difundir ideas y opiniones de todo tipo, incluidas aquellas que podrían ser controversiales o extremadamente ofensivas (observación general n. 34, párrafo 11). En la decisión Comentarios de un político sobre cambios demográficos, el Consejo determinó que, aunque controversial, la expresión de esta opinión sobre la inmigración no incluía lenguaje deshumanizante o de odio hacia grupos vulnerables o un llamado a la violencia.

La mayoría del Consejo considera que la eliminación de ambas publicaciones es necesaria y proporcionada, conforme a los seis factores descritos en el Plan de Acción de Rabat, para evaluar los riesgos que plantea el potencial lenguaje que incita al odio.

En la publicación en polaco, la palabra "murzyn" se usa generalmente y, en este caso, para denigrar a las personas por su raza. El uso repetido del término en las plataformas de Meta crea un entorno en el que la discriminación y la violencia contra las personas negras tienen más probabilidades de producirse. En este caso, el insulto no se usa en un contexto permisible, ya sea de manera autorreferencial para empoderarse, o para condenar o dar reconocimiento al lenguaje que incita al odio de otra persona. Para la mayoría, los efectos acumulativos del uso repetido de este insulto en las plataformas de Meta son comparables al uso deshumanizador de la "cara pintada de negro", como lo debatió la mayoría en el caso de Zwarte Piet. No obstante, en esta publicación es mucho más obvio que el usuario invoca intencionadamente terminología racista para aprovechar la animadversión hacia los inmigrantes mediante la movilización de estereotipos contra las personas negras (mientras que en el caso de Zwarte Piet la eliminación se justificó sin que hubiera intención hostil).

Por estas razones, la mayoría del Consejo considera que sería necesario eliminar la publicación, independientemente de cuándo se haya compartido. Además, señala que, en esta ocasión, en el período previo a unas elecciones con altos niveles de animadversión hacia los inmigrantes, existían mayores riesgos de violencia y discriminación. Los especialistas consultados por el Consejo destacaron que los grupos parapoliciales en Polonia se organizaron en los medios sociales para formar "patrullas cívicas", que dirigen su violencia e intimidación en la vida real a extranjeros y personas con acento extranjero, lo que incluye ataques a alojamientos de inmigrantes. Según la OSCE, la policía registró 893 delitos de odio en Polonia en 2023, de los cuales la motivación racista y xenófoba fue la categoría más alta que se registró. Una investigación también reveló anteriormente que los delitos de odio en Polonia los sufrían con mayor frecuencia las personas de ascendencia africana. En este contexto, cabe destacar que quien interviene es un partido político con un número considerable de seguidores y votos en Polonia. Tiene un amplio alcance (esta publicación tuvo alrededor de 170.000 visualizaciones) y la capacidad de influir en los seguidores para que actúen, así como de atraer la cobertura de los medios de comunicación. Por supuesto, aunque es importante que un partido político haga campaña libremente en unas elecciones, incluso expresando su inquietud por la inmigración, puede hacerlo sin usar insultos raciales (ver Armenios en Azerbaiyán).

La publicación en alemán comparte un contexto similar al de la publicación en polaco. También se compartió inmediatamente antes de las elecciones, durante las cuales la inmigración fue un tema político importante, con altos niveles de animadversión hacia los inmigrantes. De conformidad con las políticas de Meta, la mayoría considera necesario y proporcionado eliminar las declaraciones que generalizan que la mayoría de los inmigrantes son violadores en grupo. Los delitos y el discurso online contra los inmigrantes estaban aumentando en Alemania en ese momento. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos anteriormente "expresó su alarma por la representación a menudo extraordinariamente negativa en muchos países de los inmigrantes, pero también de los grupos minoritarios por parte de los medios de comunicación, los políticos y otros actores de la sociedad [por lo que hizo un llamamiento a] tomar medidas para frenar las crecientes actitudes xenófobas" ( A/HRC/22/17/ADD.4, párrafo 3). Los especialistas consultados por el Consejo señalaron que la retórica contra los inmigrantes en Alemania, a menudo expresada y amplificada en los medios sociales, puede haber contribuido a los ataques contra inmigrantes y minorías (ver también los comentarios del público PC-30803, PC-30797 y PC-30790). Los disturbios de 2024 en el Reino Unido también pusieron de manifiesto cómo el contenido de los medios sociales sobre temas como la raza y la inmigración puede contribuir a la violencia en la vida real. La publicación en alemán generaliza intencionadamente a los inmigrantes como depredadores sexuales, una afirmación que repetida una y otra vez fomenta el miedo y el odio, lo que sienta las bases para incitar a la discriminación y la violencia contra este grupo.

En ambos casos, los usuarios podrían haber contribuido al debate político sin usar insultos raciales o participar en generalizaciones degradantes si Meta les hubiera mostrado notificaciones sobre por qué sus publicaciones infringían potencialmente las normas. Es importante la especificidad en las notificaciones cuando se elimina contenido. Sin embargo, Meta también debería estudiar la posibilidad de aumentar el uso de indicaciones para invitar a los usuarios antes de la publicación a reconsiderar el lenguaje que pueda infringir las políticas de la empresa. En el caso Manifestaciones en Rusia a favor de Navalny, el Consejo recomendó que Meta notificara a los usuarios el motivo por el que su contenido infringía las normas, de modo que pudieran volver a publicarlo sin la parte infractora. En respuesta a esta recomendación, Meta introdujo notificaciones a los usuarios para avisarles que sus publicaciones podrían estar infringiendo las normas y les dio la oportunidad de eliminar y volver a publicar el contenido antes de que se tomen medidas coercitivas. Meta compartió que, durante un período de 12 semanas en 2023, los usuarios optaron por eliminar su publicación más del 20% de las veces, lo que disminuyó la cantidad de contenido que infringía las normas a través de la autorreparación.

La mayoría hace hincapié en que, al tomar sus decisiones sobre ambas publicaciones, los estándares de moderación de contenido por parte de una empresa de medios sociales no deben compararse tan directamente con los que limitan la aplicación de la ley punitiva por parte de los Estados. Meta no participa en una investigación detallada a posteriori sobre si se cometió un delito, sino que opera en tiempo real con información incompleta. Si esperara a que la violencia o la discriminación sean inminentes antes de actuar, sería demasiado tarde para prevenir el perjuicio de acuerdo con sus responsabilidades en virtud de los UNGP. Tanto el desafío de evaluar el impacto de cada contenido a gran escala como la naturaleza impredecible de la viralidad online justifican que Meta adopte un enfoque más cauteloso en cuanto a la moderación.

La mayoría reitera que Meta, como actor privado, puede eliminar el lenguaje que incita al odio que no constituye una incitación a la discriminación o violencia inminente cuando esto cumple con los requisitos del artículo 19(3) del ICCPR de necesidad y proporcionalidad (ver Insultos de Sudáfrica). Permitir en Meta todo el lenguaje que incita al odio que no llegue a la incitación, tal como se prevé en el artículo 20 del ICCPR, convertiría las plataformas de Meta en un lugar intolerable e inseguro para que las minorías y los grupos marginados se expresen. En estos casos, puede provocar que no solo los inmigrantes, sino cualquier persona que no sea blanca, se retire del discurso público, lo que tiene un efecto paralizador que disminuye el valor del pluralismo y el acceso a la información para todas las personas. Así pues, resulta apropiado que el enfoque de Meta en materia de moderación de contenido tenga en cuenta los efectos sobre los derechos humanos de la acumulación de contenido que incita al odio en sus plataformas, incluso cuando, de forma aislada, esas publicaciones no inciten a la violencia o la discriminación inminentes (ver Representación de Zwarte Piet, Violencia en una comunidad del estado de Odisha de la India, Armenios en Azerbaiyán y Dibujo animado de Knin).

La mayoría señala que las intervenciones menos drásticas, como las etiquetas, las pantallas de advertencia u otras medidas para reducir la difusión, no proporcionarían una protección adecuada contra los efectos acumulativos de dejar contenido de esta naturaleza en la plataforma (ver Representación de Zwarte Piet y Dibujo animado de Knin).

Una minoría del Consejo considera que la eliminación de las publicaciones en polaco o alemán no es necesaria ni proporcionada. Asimismo, señala que ambas publicaciones pueden ser ofensivas, pero ninguna alcanza el umbral de incitación a actos probables e inminentes de violencia, discriminación u hostilidad. Para la minoría, el concepto de perjuicios acumulativos no se basa en principios que se desprendan de las normas internacionales sobre libertad de expresión. Por el contrario, es tan elástica que se aparta de los requisitos de causalidad básica, lo que desvirtúa la evaluación de necesidad y proporcionalidad de la sustancia. En comparación con el uso del Plan de Acción de Rabat en sentido estricto para evaluar la necesidad y proporcionalidad de la eliminación de contenido en función de si el discurso plantea la posibilidad de un perjuicio inminente, el concepto de perjuicios acumulativos abandona esencialmente este factor clave. Con respecto a estas publicaciones, es significativo que ninguna de ellas solicitara otra acción que no fuera la participación en una elección o un debate sobre asuntos de interés público en torno a la inmigración. Es esencial que los usuarios puedan expresar sus opiniones sobre los problemas políticos más acuciantes a los que se enfrentan sus países, incluida la inmigración. La minoría señala que Meta dispone de una amplia gama de herramientas de moderación de contenido, aparte de la opción binaria de "dejar o retirar" contenido, con medios menos intrusivos que la eliminación para mitigar posibles perjuicios. Ante tal elección binaria, una minoría concedería más importancia al hecho de que el electorado tenga pleno acceso a las opiniones de los candidatos y partidos políticos en el contexto de unas elecciones, y a los mayores riesgos que la censura privada puede suponer para la expresión en los procesos democráticos. Las percepciones de injusticia y sesgo en la moderación de ideologías políticas amenazan la legitimidad de la gobernanza de la plataforma en general. Meta debe inspirarse en el Plan de Rabat, que también se centra en medidas de política positivas, para considerar medios menos intrusivos que la censura a fin de garantizar que se eviten los posibles perjuicios.

Acceso a mecanismos de reparación

A los usuarios que reportaron estas publicaciones no se les informó que la revisión de dichos reportes (o apelaciones) no tenía prioridad. El Consejo reitera las inquietudes planteadas anteriormente (ver Imágenes de IA explícitas de figuras públicas femeninas) de que los usuarios quizás no sepan que no se dio prioridad a la revisión de su reporte o apelación. En vista del aviso de Meta del 7 de enero, en el que anuncia que ahora planea centrar los sistemas automatizados en abordar las "infracciones ilegales y de alta gravedad", y confiar más en los reportes de usuarios para las infracciones de políticas "menos graves", las exigencias de revisión de estos pueden aumentar. Por consiguiente, será crucial que Meta tenga la capacidad de priorizar con precisión y revisar realmente el volumen de reportes que recibe para que sus políticas se apliquen de manera justa. Cuando no se dé prioridad a la revisión de los reportes de usuarios, se les debe informar que dicha revisión no se llevó a cabo.

Procesos de debida diligencia respecto de los derechos humanos

Los principios 13, 17(c) y 18 de los UNGP exigen que Meta se comprometa a ejercer la diligencia debida respecto de los derechos humanos para los cambios significativos en las políticas y su aplicación, lo que la empresa normalmente haría a través de su Foro de políticas de productos, lo que incluye la colaboración con las partes interesadas afectadas. Al Consejo le preocupa que los cambios en la política y su aplicación que Meta realizó el 7 de enero de 2025 se hayan anunciado apresuradamente, de un modo que se desvía del procedimiento habitual, sin compartir información pública sobre qué proceso de debida diligencia respecto de los derechos humanos se llevó a cabo, si es que hubo alguno.

Ahora que estos cambios se implementarán en todo el mundo, es importante que Meta garantice que se identifiquen, mitiguen, prevengan y publiquen los efectos adversos que tengan en los derechos humanos. Esto debe incluir un enfoque en cómo los grupos pueden verse afectados de manera diferente, como inmigrantes, refugiados y solicitantes de asilo. En relación con los cambios normativos, la diligencia debida debería tener en cuenta las posibilidades tanto de una sobreaplicación de la política (Convocatoria a protesta de mujeres en Cuba, Reapropiación de términos árabes) como de una aplicación deficiente ( Negación del Holocausto, Violencia homofóbica en África Occidental, Publicación en polaco contra las personas trans).

6. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló las decisiones de Meta de mantener el contenido en ambos casos.

7. Recomendaciones

Política de contenido

1. Como parte de su proceso continuo de diligencia debida respecto de los derechos humanos, Meta debe tomar todas las medidas que se mencionan a continuación en cuanto a las actualizaciones del 7 de enero 2025 realizadas a la norma comunitaria sobre conducta que incita al odio. En primer lugar, debe identificar cómo las actualizaciones de las políticas y su aplicación pueden afectar negativamente los derechos de los inmigrantes, en particular de los refugiados y solicitantes de asilo, centrándose en los mercados en los que estas poblaciones corren un mayor riesgo. En segundo lugar, Meta debe adoptar medidas para prevenir o mitigar estos riesgos y supervisar su eficacia. Por último, Meta debe informar al Consejo sobre los avances y los aprendizajes cada seis meses y proporcionar informes públicos a la mayor brevedad posible.

El Consejo considerará que se ha implementado esta recomendación cuando Meta brinde al Consejo datos y análisis sólidos sobre la eficacia de sus medidas de prevención y mitigación respecto de la cadencia que se detalla anteriormente y cuando Meta proporcione informes públicos sobre esto.

Aplicación de políticas

2. Meta debe agregar el término "murzyn" a su lista de insultos en el mercado polaco.

El Consejo considerará que esta recomendación se habrá implementado cuando Meta informe al Consejo que ya lo hizo.

3. Cuando Meta audite sus listas de insultos, debe asegurarse de tener una amplia colaboración externa con las partes interesadas que sean pertinentes. Lo anterior debe incluir la consulta con los grupos afectados y la sociedad civil.

El Consejo considerará implementada esta recomendación cuando Meta modifique su explicación de cómo audita y actualiza las listas de insultos específicos de cada mercado en el Centro de transparencia.

4. Para reducir los casos de contenido que infrinja la política de conducta que incita al odio, Meta debe actualizar sus pautas internas para dejar claro que los ataques de nivel 1 (incluidos los que se basan en la condición de inmigrante) están prohibidos, a menos que el contenido indique claramente que se refiere a un subconjunto definido de menos de la mitad del grupo. Esto revertiría la presunción actual de que el contenido se refiere a una minoría, a menos que se indique específicamente lo contrario.

El Consejo considerará implementada esta recomendación cuando Meta le proporcione las reglas internas actualizadas.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5 y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas