Comentarios de un político sobre cambios demográficos

Resumen

El Consejo asesor de contenido sostiene la decisión de Meta de mantener publicado un clip de vídeo en el que el político francés Éric Zemmour habla sobre los cambios demográficos en Europa y África. El contenido no infringe la política sobre lenguaje que incita al odio de las Normas comunitarias porque no hay un ataque directo por motivo de características protegidas, como raza, origen étnico o nacional. La mayoría del Consejo considera que mantener publicado el contenido es coherente con las responsabilidades de Meta en materia de derechos humanos. Sin embargo, el Consejo recomienda a Meta que aclare públicamente cómo distingue los debates relacionados con la inmigración del lenguaje nocivo (por ejemplo, teorías conspiratorias basadas en el odio o ataques contra personas según su estatus migratorio).

Información sobre el caso

En julio de 2023, un usuario que administra la página oficial de Facebook de Éric Zemmour publicó un clip de vídeo en el que el político francés habla sobre los cambios demográficos en Europa y África. El clip es parte de una entrevista más extensa con el político. En el vídeo, Zemmour afirma lo siguiente: “Desde principios del siglo XX, ha habido un auge en la población en África” (en inglés, “Since the start of the 20th century, there has been a population explosion in Africa”). Continúa diciendo que, mientras que la población europea se ha mantenido en la cifra más o menos estable de 400 millones, la población africana ha llegado a 1500 millones, “por lo que se ha producido un cambio en el equilibrio de poder” (en inglés, “so the power balance has shifted”). El texto de la publicación, en francés, afirma que a principios del siglo XX “cuando había cuatro europeos por cada africano, [Europa] colonizó África”, y ahora “hay cuatro africanos por cada europeo y África coloniza Europa” (en inglés, respectivamente, “when there were four Europeans for one African, [Europe] colonized Africa,” y “there are four Africans for one European and Africa colonizes Europe”). La página de Facebook de Zemmour tiene aproximadamente 300 000 seguidores y esta publicación se visualizó alrededor de 40 000 veces a fecha de enero de 2024.

Zemmour ha sido objeto de diversos procedimientos judiciales, con más de una condena en Francia por incitar al odio racial y hacer comentarios raciales insultantes sobre las personas musulmanas, africanas y negras. Se postuló a la presidencia en 2022, pero no pasó de la primera vuelta. El eje de su campaña electoral es la teoría del gran reemplazo, que argumenta que la población blanca europea está siendo intencionalmente reemplazada tanto étnica como culturalmente por la inmigración y el crecimiento de comunidades minoritarias. Los expertos en lingüística señalan que la teoría y los términos asociados con ella incitan al racismo, el odio y la violencia contra los inmigrantes y los europeos no blancos, y contra los musulmanes específicamente. El vídeo de la publicación no menciona específicamente la teoría.

Dos usuarios denunciaron el contenido por infringir la política sobre lenguaje que incita al odio de Meta, pero como las denuncias no fueron priorizadas para su revisión en un plazo de 48 horas, se cerraron automáticamente. Los sistemas automatizados de Meta priorizan los informes según la gravedad de la infracción prevista, la viralidad del contenido (cantidad de visualizaciones) y la probabilidad de que haya infracción. Uno de los usuarios apeló entonces ante Meta, tras lo cual los revisores de la empresa decidieron que no infringía las reglas de Meta. El usuario presentó entonces una apelación ante el Consejo.

Conclusiones principales

La mayoría del Consejo concluye que el contenido no infringe la política sobre lenguaje que incita al odio de las Normas comunitarias de Meta. El clip de vídeo incluye un ejemplo de expresión de opinión protegida (aunque polémica) sobre la inmigración, pero no incluye incitación a la violencia, ni tampoco emplea lenguaje deshumanizante o de odio contra grupos vulnerables. Si bien Zemmour ha sido procesado por usar lenguaje que incita al odio en el pasado, y en el vídeo se tratan temas similares a la teoría del gran reemplazo, estos hechos no justifican la supresión de una publicación que no infringe las normas de Meta.

Para que hubiera constituido una infracción, la publicación debería haber incluido un “ataque directo”, es decir, debería haber un llamamiento específico a la “exclusión o segregación” de un grupo con “características protegidas”. Como los comentarios de Zemmour no incluyen un ataque directo y tampoco contienen un llamamiento explícito a excluir a un grupo de Europa ni una declaración sobre los africanos equivalente a un estereotipo perjudicial, una difamación u otro tipo de ataque directo, no infringen las reglas sobre lenguaje que incita al odio de Meta. Las bases de la política también dejan claro que Meta permite “comentarios o críticas sobre políticas migratorias”, aunque lo que no se dice públicamente es que la empresa permite los llamamientos a la exclusión cuando se debate este tipo de políticas.

No obstante, al Consejo le preocupa que Meta no considere a la población africana como un grupo con características protegidas, puesto que el origen nacional, la raza y la religión están protegidos tanto en virtud de las políticas de Meta como de la legislación internacional de los derechos humanos. Durante todo el clip se hace referencia a los africanos, un término que en este vídeo hace referencia a la población africana no blanca.

El Consejo también estudió la pertinencia de la política sobre personas y organizaciones peligrosas para este caso. Sin embargo, la mayoría considera que la publicación no infringe esta política porque no hay suficientes elementos para revisarla como parte de una red de conspiración global que induzca a la violencia. Meta define estas redes como agentes no estatales que comparten la misma declaración de principios, promueven teorías sin fundamento que defienden que los problemas sociales y políticos se deben a conspiraciones secretas de personas poderosas y tienen una relación directa con un patrón de daño fuera de internet.

Una minoría del Consejo considera que el enfoque de Meta ante el contenido que difunde teorías conspiratorias nocivas no es coherente con los objetivos de las políticas que ha diseñado para evitar un entorno de exclusión que afecte a minorías protegidas tanto dentro como fuera de internet. Según estas políticas, el contenido que incluye algunas otras narrativas conspiratorias se modera para proteger a grupos minoritarios en riesgo. Si bien estos miembros del Consejo creen que la crítica a asuntos como la inmigración debería estar permitida, es precisamente el hecho de que el debate empírico sobre este tema sea tan importante lo que hace que la difusión de teorías conspiratorias, como el gran reemplazo, pueda ser perjudicial. El principal desafío de las empresas de medios sociales no son las piezas de contenido de manera individual, sino los efectos combinados que estas producen cuando se comparten a gran escala y velocidad. Por lo tanto, Meta debería reformular sus políticas para que quienes promueven teorías conspiratorias que causan daños dentro y fuera de internet no usen sus servicios de forma indebida.

Meta ha evaluado la posibilidad de incorporar una regla a la política para abordar las teorías conspiratorias basadas en odio, pero ha determinado que esto, en última instancia, conduciría a una supresión excesiva del discurso político. Al Consejo le preocupa la falta de información compartida por Meta en relación con este proceso.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido sostiene la decisión de Meta de conservar la publicación.

El Consejo recomienda que Meta tome las siguientes medidas:

• Proporcionar información más detallada en el texto de la política sobre lenguaje que incita al odio de sus Normas comunitarias para indicar cómo distingue los debates relacionados con la inmigración del lenguaje que incita al odio en función del estatus migratorio de las personas. Esto incluye explicar cómo la empresa gestiona el contenido que difunde teorías conspiratorias basadas en odio, de modo que los usuarios entiendan el modo en que Meta protege el discurso político sobre inmigración al tiempo que aborda los posibles daños fuera de internet que provocan estas teorías.

* Los resúmenes de casos ofrecen información general sobre estos y no sientan precedente alguno.

Decisión completa del caso

1.Resumen de la decisión

El Consejo asesor de contenido sostiene la decisión de Meta de conservar una publicación en la página de Facebook oficial del político francés Éric Zemmour, que incluye el vídeo de una entrevista en la que el Sr. Zemmour habla sobre los cambios demográficos en Europa y África. El Consejo considera que el contenido no infringe la política sobre lenguaje que incita al odio de las Normas comunitarias de Meta porque no ataca de manera directa a personas por motivo de características protegidas, como la raza o el origen étnico o nacional. La mayoría del Consejo considera que mantener publicado el contenido en Facebook es coherente con las responsabilidades de Meta en materia de derechos humanos. Una minoría del Consejo considera que las políticas de Meta son inadecuadas para que la empresa cumpla sus responsabilidades en materia de derechos humanos en lo que respecta a abordar la gran amenaza que suponen las teorías conspiratorias nocivas que generan exclusión, como la teoría del gran reemplazo. El Consejo recomienda a Meta que aclare públicamente cómo gestiona el contenido que difunde teorías conspiratorias basadas en odio, dada la necesidad de proteger el discurso sobre la inmigración, pero también de hacer frente a los daños fuera de internet que pueden ocasionar estas teorías.

2. Descripción y contexto del caso

El 7 de julio de 2023, un usuario publicó un vídeo en la página de Facebook oficial del político francés Éric Zemmour. En el vídeo, que es un fragmento de 50 segundos de una entrevista más extensa en francés, Zemmour habla de los cambios demográficos en Europa y África. El usuario que publicó el vídeo era administrador de la página, la cual tiene unos 300 000 seguidores. Zemmour se presentó como candidato en las elecciones presidenciales francesas de 2022 y obtuvo alrededor del 7 % de los votos en la primera vuelta según los resultados oficiales, pero no pasó a la siguiente. Antes de su candidatura, Zemmour era columnista habitual en Le Figaro y otros periódicos, así como un comentarista de TV sin pelos en la lengua, famoso por sus provocaciones relativas al Islam, la inmigración y las mujeres. Tal como se explica en mayor detalle más adelante, ha estado implicado en diversos procedimientos judiciales, en algunos de los cuales fue condenado a causa de estos comentarios. Si bien Meta no consideró que el usuario que publicó el vídeo fuera un personaje público, la empresa sí percibe a Zemmour como tal.

En el vídeo, Zemmour dice lo siguiente: “Desde principios del siglo XX, ha habido un auge en la población en África”. Afirma que, mientras que la población europea se ha mantenido en la cifra más o menos estable de 400 millones, la población africana ha llegado a 1500 millones, “por lo que se ha producido un cambio en el equilibrio de poder”. El texto en francés repite las declaraciones del vídeo y afirma que, a principios del siglo XX, “cuando había cuatro europeos por cada africano, [Europa] colonizó África”, y ahora “hay cuatro africanos por cada europeo y África coloniza Europa”. Estas cifras se comparan con cifras disponibles a través de organismos de las Naciones Unidas que figuran a continuación. Asimismo, la postura de la mayoría del Consejo respecto de estas cifras se describe en más detalle en el apartado 8.2.

Cuando el Consejo anunció este caso el 28 de noviembre de 2023, el contenido se había visualizado aproximadamente 20 000 veces. A fecha de enero de 2024, el contenido se había visualizado unas 40 000 veces y tenía menos de 1000 reacciones, en su mayoría “Me gusta, seguidas por “Me encanta” y “Me divierte”.

El 9 de julio de 2023, dos usuarios denunciaron por separado el contenido por infringir la política sobre lenguaje que incita al odio de Meta. La empresa cerró automáticamente ambas denuncias porque no se priorizaron para su revisión en un plazo de 48 horas. Meta explicó que las denuncias se priorizan de manera dinámica para su revisión en función de factores como la gravedad de la infracción prevista, la viralidad del contenido (cantidad de visualizaciones que ha tenido) y la probabilidad de que infrinja las políticas de la empresa. El contenido no se suprimió, sino que permaneció en la plataforma.

El 11 de julio de 2023, la primera persona que denunció el contenido apeló la decisión de Meta. Un revisor evaluó la apelación y sostuvo la decisión original de Meta de conservar el contenido. Tras esto, ese mismo usuario presentó una apelación ante el Consejo asesor de contenido.

Diez días antes de que se publicara el contenido, Francia se vio envuelta en una ola de disturbios y manifestaciones violentas generalizadas tras el fatal asesinato del adolescente francés de 17 años Nahel Merzouk, de descendencia marroquí y argelina, a quien dos policías dispararon a quemarropa en un suburbio de París el 27 de junio 2023. Las manifestaciones, que seguían sucediéndose cuando se publicó el contenido, eran en contra de la violencia policial y la discriminación racial sistemática que se percibe en la vigilancia policial en Francia. Estas manifestaciones eran las más recientes de una larga serie de protestas contra la violencia policial que, según se afirma, suele tener como objetivo a inmigrantes de origen africano y otras comunidades marginalizadas de Francia.

De acuerdo con la Comisión Europea contra el Racismo y la Intolerancia (ECRI), las principales víctimas del racismo en Francia son los inmigrantes, en especial los de origen africano y sus descendientes. En 2022, el Comité para la Eliminación de la Discriminación Racial (CERD) instó a Francia a redoblar sus esfuerzos para prevenir y combatir de manera efectiva el lenguaje que incita al odio por motivo de raza y afirmó que “[a] pesar de los esfuerzos realizados por el Estado parte […], el Comité está preocupado por la persistencia y el alcance de los discursos racistas y discriminatorios, especialmente en los medios de comunicación y en Internet. Está preocupado también por el discurso político racista de algunos responsables políticos hacia determinadas minorías étnicas, en particular los romaníes, los itinerantes, las personas africanas o afrodescendientes, las personas de origen árabe y los extranjeros” (CERD/C/FRA/CO/22-23, párrafo 11).

Según un informe de 1999 del Departamento de Asuntos Económicos y Sociales de las Naciones Unidas, la población estimada de África en el año 1900 era de 133 millones. Datos de las Naciones Unidas en 2022 estimaban que, en 2021, la población africana era de aproximadamente 1400 millones de personas. También proyecta que, para el año 2050, la cifra podría estar próxima a los 2500 millones. Según el mismo informe de 1999, la población de Europa en 1900 era de aproximadamente 408 millones de personas. El Departamento de Asuntos Económicos y Sociales de las Naciones Unidas estima que la población de Europa en 2021 era de alrededor de 745 millones y se reducirá a aproximadamente a 716 millones para 2050.

En Francia, como en muchas partes del mundo, la llegada de grandes cantidades de migrantes de otros países se ha convertido en uno de los temas centrales del debate político. En septiembre de 2023, en Francia había aproximadamente 700 000 refugiados y solicitantes de asilo, lo que convierte al país en el tercero con mayor densidad migratoria de la Unión Europea. Mientras el Consejo revisaba este caso, en Francia tenían lugar manifestaciones masivas y se mantenía un acalorado debate público sobre inmigración, en medio de la promulgación parlamentaria de una nueva ley migratoria que, entre otras cosas, establece cupos migratorios y refuerza las normas en torno a la reunificación familiar y el acceso a prestaciones sociales. Zemmour y su partido participaron muy activamente en estos debates en respaldo de restricciones migratorias.

En los últimos años, Zemmour ha sido objeto de diversos procedimientos legales y los tribunales de Francia lo han condenado varias veces por incitar al odio racial y hacer comentarios racistas insultantes, como declaraciones sobre las personas musulmanas, africanas, negras y LGBTQIA+. Zemmour fue condenado por incitación al odio racial tras unos comentarios que hizo en la televisión en 2011 en los que afirmaba que “la mayoría de los traficantes son negros o árabes. Es un hecho”. (en inglés, “most dealers are blacks and Arabs. That's a fact.”). Más recientemente, en 2020, un tribunal declaró a Zemmour culpable de incitación al odio racial y le impuso una multa de 10 000 euros por afirmar que los niños migrantes son “ladrones, asesinos, violadores. No son más que eso. Deberíamos enviarlos de vuelta a su país”. (en inglés, “thieves, killers, they’re rapists. That’s all they are. We should send them back.”). Agotó su derecho de apelación en otro caso en el que el tribunal correccional lo condenó y multó por incitar a la discriminación y al odio religioso contra la comunidad francomusulmana. La condena se basó en las declaraciones que hizo en un programa de televisión en 2016, en las que afirmaba que a los musulmanes deberían “darles a elegir entre el Islam y Francia” y que “en los últimos treinta años hemos experimentado una invasión, una colonización (...) es también una lucha por islamizar un territorio que no lo está, una tierra que de manera natural no está islamizada” (en inglés, respectivamente, “the choice between Islam and France” y “for thirty years we have been experiencing an invasion, a colonization (…) it is also the fight to Islamize a territory which is not, which is normally a non-Islamized land”). En diciembre de 2022, el Tribunal Europeo de Derechos Humanos sostuvo que la condena no infringía el derecho a la libertad de expresión de Zemmour.

Si bien el contenido en este caso no menciona explícitamente la teoría del gran reemplazo, este concepto es el eje central de la ideología política de Zemmour y tuvo un papel predominante en su campaña presidencial, durante la cual prometió que, si ganaba, crearía un “Ministerio de Remigración”. También afirmó a que enviaría de vuelta a un millón de extranjeros en el plazo de cinco años. Según un estudio independiente encargado por el Consejo y llevado a cabo por expertos en teorías conspiratorias y política francesa, tendencias en medios sociales y lingüística, los defensores de la teoría del gran reemplazo argumentan que las poblaciones europeas blancas están siendo intencionalmente reemplazadas tanto a nivel étnico como cultural por inmigrantes y el crecimiento de comunidades minoritarias. Esta teoría insiste en que la inmigración contemporánea de personas no blancas (y predominantemente musulmanas) procedentes de países no europeos (principalmente de África y Asia) a Europa es una forma de guerra demográfica. Los expertos del Consejo destacan que esta teoría no debate la inmigración y su aumento de manera factual. De hecho, lo que convierte a la teoría del gran reemplazo en un teoría conspiratoria es su insistencia en que existe un complot o una conspiración reales para traer a personas no blancas a Europa a fin de sustituir a la población blanca o reducir la proporción de personas blancas. Los expertos en lingüística consultados por el Consejo explican que la teoría y los términos asociados con ella incitan al racismo, el odio y la violencia contra los inmigrantes y los europeos no blancos, y contra los musulmanes específicamente. Un informe de la Radicalization Awareness Network (Red de Sensibilización frente a la Radicalización, RAN) de la Unión Europea señala que, en los últimos años, varios “lobos solitarios” de alto perfil en Europa han elegido a sus víctimas a partir del sentimiento antisemita, antimusulmán y antimigratorio en general que difunden los defensores de la teoría del gran reemplazo. El estudio encargado por el Consejo también señalaba que la teoría había servido de inspiración para un sinfín de sucesos violentos en todo el mundo durante los últimos años, como el tiroteo masivo en Christchurch (Nueva Zelanda), en el que fueron asesinados 51 musulmanes.

Una minoría del Consejo también considera una circunstancia importante el hecho de que las manifestaciones violentas de la extrema derecha hayan aumentado durante los últimos años en Francia. Tras el fatal apuñalamiento de un adolescente durante una reunión festiva el 18 de noviembre en Crépol, una comunidad rural de Francia, activistas y partidos de derecha lideraron manifestaciones violentas en las que los manifestantes se enfrentaron físicamente con la policía. Los manifestantes argumentaban que la culpa fue de los inmigrantes y las minorías, pese a que, de las nueve personas arrestadas en relación con el apuñalamiento, ocho eran francesas y una, italiana. El ministro del interior Gérald Darmanin dijo que los miembros de las milicias “buscan atacar a árabes, personas con diferente color de piel, y hablan de su nostalgia por el Tercer Reich” (en inglés, “seek to attack Arabs, people with different skin colors, speak of their nostalgia for the Third Reich”). Sandrine Rousseau, política del Partido Verde francés, comparó estas manifestaciones con “ratonnades”, término en francés para describir la violencia física contra una minoría étnica o un grupo social, predominantemente contra personas procedentes de África del Norte. La “ratonnade” más notoria, a menudo asociada con la popularización del término, tuvo lugar el 17 de octubre de 1961 durante las manifestaciones pacíficas de argelinos en las que 200 de ellos fueron asesinados durante un estallido de violencia policial. Desde entonces, la palabra se ha usado con frecuencia en diferentes contextos en Francia. Por ejemplo, en diciembre de 2022, algunos políticos franceses se unieron a usuarios de los medios sociales para denunciar la violencia callejera, que comparaban con “ratonnades”, tras el partido que disputaron Francia y Marruecos en la Copa Mundial.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene competencia para revisar la decisión de Meta tras la apelación de la persona que previamente había denunciado el contenido que se mantuvo publicado (artículo 2, apartado 1 del acta constitutiva; artículo 3, apartado 1 de los estatutos).

El Consejo puede sostener o revocar la decisión de Meta (artículo 3, apartado 5 del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debería evaluar la viabilidad de aplicar la decisión del Consejo respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, apartado 4, y artículo 4 del acta constitutiva). En los casos en los que Meta se compromete a tomar medidas basadas en esas recomendaciones, el Consejo supervisa su implementación.

4.Precedentes y pautas

El análisis del Consejo en este caso se basó en las normas y precedentes siguientes:

I.Decisiones del Consejo asesor de contenido

• Negación del Holocausto
• Violencia comunitaria en el estado indio de Odisha
• Caricaturas de Knin
• Publicación compartida de Al Jazeera
• Suspensión de la cuenta del expresidente de EE. UU. Donald Trump
• Representación de Zwarte Piet

II.Políticas de contenido de Meta

Lenguaje que incita al odio

En las bases de la política sobre lenguaje que incita al odio de las Normas comunitarias se explica que el lenguaje que incita al odio, que se define como un ataque directo contra las personas por motivo de características protegidas, no se permite en la plataforma “ya que crea un entorno de intimidación y exclusión, y en algunos casos puede fomentar la violencia fuera de internet”. En la política se enumeran como características protegidas, entre otras, la raza, el origen étnico, el origen nacional y las creencias religiosas. En la política se explica que los ataques se dividen en dos niveles de gravedad y el Nivel 1 es el más grave. En las bases de la política sobre lenguaje que incita al odio también se explica que la política protege a las “personas refugiadas, migrantes, inmigrantes y solicitantes de asilo de los ataques más graves” pero que Meta permite los “comentarios y críticas a las políticas de inmigración”. Las pautas internas que Meta proporciona a los moderadores de contenido ahondan en este punto y explican que el estatus de migrante, inmigrante, refugiado y solicitante de asilo se considera una característica cuasiprotegida. Esto significa que, al amparo de la política sobre lenguaje que incita al odio, Meta protege a estas personas de ataques de Nivel 1, pero no de ataques de Nivel 2.

La política (que anteriormente tenía tres niveles de ataque diferentes, pero ahora solo tiene dos), prohíbe actualmente como ataque de Nivel 2, entre otros tipos de contenido, la “[e]xclusión o segregación mediante llamamientos a la acción; declaraciones de intención, defensa o apoyo; o manifestaciones de la voluntad de llevar a cabo la exclusión o de hacerlo en determinadas circunstancias” y especifica que esta exclusión puede ser, entre otros tipos, una “[e]xclusión explícita: por ejemplo, expulsar a determinados grupos o indicarles que no están admitidos”. Meta rechazó la solicitud del Consejo de publicar más información sobre las pautas internas que ofrece a los revisores de contenido en relación con este punto.

En una publicación de 2017 en Newsroom titulada “Hard Questions: Who Should Decide What Is Hate Speech in an Online Global Community?” (Preguntas difíciles: ¿Quién debería decidir qué constituye lenguaje que incita al odio en una comunidad online global?), cuyo enlace figura en la parte inferior de las bases de la política sobre lenguaje que incita al odio con el texto “Obtén más información sobre nuestra postura respecto al lenguaje que incita al odio”, Meta reconoce que los debates normativos sobre la inmigración suelen convertirse en “un debate sobre lenguaje que incita al odio, ya que ambos extremos adoptan un lenguaje incendiario”. La empresa afirma que, tras revisar publicaciones en Facebook sobre el tema de la inmigración en todo el mundo, decidió “desarrollar nuevas pautas para suprimir los llamamientos a la violencia contra las personas migrantes y las referencias deshumanizantes hacia ellas, como las comparaciones con animales, suciedad o basura”. Sin embargo, la empresa sigue permitiendo que “las personas expresen sus opiniones sobre la inmigración”, dado que tiene “el firme compromiso de garantizar que Facebook siga siendo un espacio para el debate legítimo”.

Personas y organizaciones peligrosas

En las bases de la política sobre personas y organizaciones peligrosas de las Normas comunitarias, se indica que Meta no permite que las organizaciones o personas que proclamen un objetivo violento o participen en acciones de esta naturaleza tengan presencia en las plataformas de la empresa. También se indica que Meta evalúa estas entidades “en función de su comportamiento dentro y fuera de internet, atendiendo principalmente a sus vínculos con la violencia”.

La política sobre personas y organizaciones peligrosas explica que Meta prohíbe la presencia de redes conspiratorias que induzcan a la violencia, que actualmente se definen como agentes no estatales que: (i) “se identifica[n] mediante un nombre, una declaración de objetivos, un símbolo o un léxico compartido”; (ii) “promueve[n] teorías infundadas que intentan explicar las causas fundamentales de importantes problemas, acontecimientos y circunstancias sociales y políticos con afirmaciones de complots secretos de dos o más actores poderosos”; y (iii) “ha[n] defendido explícitamente o se ha[n] vinculado directamente con un patrón de daño físico offline por parte de adherentes motivados por el deseo de llamar la atención o reparar los supuestos daños identificados en las teorías infundadas promovidas por la red”.

El análisis de las políticas de contenido llevado a cabo por el Consejo se basó en el compromiso de Meta con la libertad de expresión, que la empresa califica como “de suma importancia”, y con los valores de seguridad y dignidad.

III. Responsabilidades de Meta en materia de derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos (PREDH) de la ONU, respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de responsabilidades de las empresas privadas en relación con estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los PREDH. El análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en este caso se basó en las siguientes normas internacionales:

• Derecho a la libertad de expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP); artículo 20, párrafo 2 del PIDCP; Observación general n.º 34 del Comité de Derechos Humanos, 2011; informes del Relator Especial de la ONU sobre la promoción y protección del derecho a la libertad de opinión y de expresión: A/HRC/38/35 (2018) y A/74/486 (2019).
• Igualdad y no discriminación: artículo 2, párrafo 1 y artículo 26 del PIDCP; artículo 2 de la Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial (CIEFDR); Asamblea General de la ONU, resolución A/RES/73/195.
• Derecho a la vida: artículo 6 del PIDCP.

5. Manifestaciones del usuario

Como parte de su apelación al Consejo, el usuario que denunció el contenido y apeló la decisión de Meta de conservarlo envió un comentario al Consejo en el que decía que Zemmour explica tanto la colonización como la inmigración únicamente en términos de sobrepoblación, lo que el usuario clasifica como “noticia falsa”.

6. Manifestaciones de Meta

Después de que el Consejo seleccionara este caso, Meta revisó la publicación bajo el prisma de la política sobre lenguaje que incita al odio con la colaboración de expertos en el tema y determinó que había tomado la decisión correcta al conservar el contenido. Meta no proporcionó más información sobre el campo o el área de conocimiento específicos de los expertos que llevaron a cabo esta revisión adicional. Meta señaló que, para que una pieza de contenido se considere infractora según la política, es necesario que haya tanto un grupo con características protegidas como un ataque directo, y que las declaraciones sobre los cambios en la población y la colonización carecen de esos elementos. Para Meta, la afirmación de que un grupo “está colonizando” un lugar no constituye un ataque en sí, siempre que no equivalga a un llamamiento a la exclusión. Asimismo, destacó que su objetivo es “permitir que los ciudadanos debatan sobre las leyes y políticas de su país, siempre y cuando ese debate no constituya un ataque contra grupos vulnerables que puedan estar sujetos a dichas leyes”. Por último, Meta explicó que el contenido no identifica a un grupo con características protegidas porque Zemmour se refiere a “África”, todo un continente junto con los países que lo conforman, y que la “política de lenguaje que incita al odio no protege a países o instituciones contra ataques”.

Meta se negó a desvelar información confidencial relacionada con su proceso de desarrollo de políticas sobre teorías conspiratorias perjudiciales. En su lugar, Meta afirmó lo siguiente: “Hemos sopesado opciones normativas específicas para el contenido que incluye teorías conspirativas que no infringen nuestras políticas actuales de otro modo. No obstante, nuestra conclusión ha sido que, por el momento, implementar cualquiera de esas opciones significaría correr el riesgo de suprimir una gran cantidad de discurso político”.

El Consejo planteó ocho preguntas a Meta por escrito. Las preguntas tenían que ver con el desarrollo de políticas de Meta en relación con la teoría del gran reemplazo; la posibilidad de aplicación de varias reglas de la política sobre personas y organizaciones peligrosas; y el historial de infracciones de la página de Facebook y del usuario que hizo la publicación. Meta respondió seis de las preguntas del Consejo, pero en dos de ellas la respuesta no fue satisfactoria. Después de que Meta no proporcionara suficientes detalles en respuesta a la pregunta inicial del Consejo sobre el desarrollo de políticas en torno a la teoría del gran reemplazo, el Consejo le hizo una pregunta de seguimiento, que Meta respondió, pero no con información lo suficientemente exhaustiva.

7.Comentarios públicos

El Consejo asesor de contenido ha recibido 15 comentarios públicos. Siete de los comentarios procedían de Estados Unidos y Canadá; tres, de Europa; dos, de Asia central y meridional; uno, de Oriente Medio y África septentrional; uno, de Asia-Pacífico y Oceanía; y uno, de África subsahariana. La cifra total incluye comentarios públicos que estaban duplicados o que se enviaron con consentimiento para publicarse, pero no cumplían las condiciones del Consejo para su publicación. Los comentarios públicos pueden enviarse al Consejo con o sin consentimiento para publicarse, y con o sin consentimiento para mencionar el nombre del autor (es decir, de manera anónima).

Los comentarios trataban principalmente dos temas. En primer lugar, varios comentarios incidían en que suprimir el contenido en revisión en este caso sería equivalente a la censura y podría incluso “aumentar la ira de los ciudadanos que sienten que nadie escucha lo que tienen que decir” (PC-22009). En segundo lugar, dos organizaciones enviaron comentarios en los que señalaban el impacto negativo que tiene este tipo de contenido y, en especial, la teoría del gran reemplazo, fuera de internet. Ambos comentarios argumentaban que existe un vínculo entre la masacre de Christchurch y esta teoría (véanse los comentarios PC-22013, Digital Rights Foundation; PC-22014, Global Project Against Hate and Extremism).

Los comentarios públicos recibidos en relación con este caso se pueden consultar aquí.

8.Análisis del Consejo asesor de contenido

El Consejo analizó si el contenido en este caso debía suprimirse en vista de las políticas de contenido, las responsabilidades en materia de derechos humanos y los valores de Meta. Asimismo, el Consejo evaluó las implicaciones de este caso en el enfoque general de Meta en cuanto a la gobernanza en estrategia de contenidos.

El Consejo seleccionó este caso como una oportunidad para evaluar el enfoque de Meta respecto del contenido que ataca a las personas migrantes en un contexto de creciente retórica mundial antinmigración y candentes debates públicos sobre las políticas migratorias, en especial, debido a las dificultades de distinguir, a gran escala, el contenido perjudicial del discurso político que trata sobre estas políticas.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo considera en que el contenido no infringe las políticas de Meta. Por ende, se considera correcta la decisión de Meta de conservarlo en Facebook. Una minoría del Consejo considera, sin embargo, que las políticas de Meta deberían distinguir con claridad incluso las críticas más duras a las políticas migratorias del discurso que contiene teorías conspiratorias que son perjudiciales para grupos con características protegidas.

I.Reglas de contenido

Lenguaje que incita al odio

La mayoría del Consejo considera que el contenido en este caso no infringe la política sobre lenguaje que incita al odio de las Normas comunitarias de Meta sino que, de hecho, constituye un ejemplo de expresión protegida, aunque polémica, de una opinión sobre el tema de la inmigración. El clip de 50 segundos de la entrevista de Zemmour que publicó el usuario no incluye un llamamiento a la violencia, ni se emplea en él lenguaje deshumanizante o de odio en referencia a grupos vulnerables. El hecho de que Zemmour haya sido procesado y condenado en el pasado por usar lenguaje que incita al odio o que los temas que se tratan en la publicación guarden semejanza con aquellos de la teoría del gran reemplazo (que muchos creen que ha provocado casos de violencia contra migrantes y miembros de grupos minoritarios) no es una justificación apropiada para suprimir una publicación que no infringe las normas de Meta. La política exige que el contenido presente dos elementos para que se considere infractor: (i) un “ataque directo” y (ii) un grupo con “características protegidas” objeto de dicho ataque. Meta define “ataques directos”, entre otros tipos de discurso, como “[e]xclusión o segregación mediante llamamientos a la acción”, tal como se ha explicado con mayor detalle en el apartado 4. Asimismo, las bases de la política dejan claro que Meta permite “comentarios o críticas sobre políticas migratorias”.

Para la mayoría del Consejo, los comentarios de Zemmour en el vídeo se centran principalmente en información demográfica que presenta sobre África, Europa y la “colonización”. El vídeo incluye, entre otras afirmaciones, las declaraciones “se ha producido un cambio en el equilibrio de poder” y “ahora que hay cuatro africanos por cada europeo, ¿qué ocurre? Pues que África coloniza Europa y, en particular, Francia” (en inglés, “When there are now four Africans for one European, what happens? Africa colonizes Europe, and in particular, France”). Los comentarios de Zemmour no contienen un ataque directo y, de hecho, no menciona la “teoría del gran reemplazo” ni hace ninguna referencia directa a ella. No hay un llamamiento explícito a excluir a un grupo de Europa y tampoco hace declaraciones sobre los africanos que equivalgan a estereotipos nocivos, expresiones difamatorias u otros ataques directos. No obstante, al Consejo le preocupa que Meta no considere a la población africana como un grupo con características protegidas, puesto que el origen nacional, la raza y la religión son características protegidas tanto en virtud de las políticas de Meta como de la legislación internacional de los derechos humanos. Las menciones a los africanos se repiten a lo largo del contenido. África es un conjunto de naciones, por lo que el término “africanos” hace referencia a las personas que residen en países de África. En segundo lugar, en el contexto de comentarios y conversaciones anteriores de Zemmour sobre inmigración en Francia, el término “africanos” se usa como indicador de africanos no blancos, en particular de la comunidad negra y musulmana.

Personas y organizaciones peligrosas

La mayoría del Consejo considera también que el contenido no infringe la política sobre personas y organizaciones peligrosas de Meta, dada la falta de elementos necesarios para evaluar esta pieza de contenido como parte de una red conspiratoria más amplia que induce a la violencia.

Conforme se ha explicado en el apartado 6, Meta ha estudiado la posibilidad de establecer opciones normativas específicas para el contenido que no infringe ninguna política, pero incluye teorías conspiratorias. Sin embargo, su conclusión ha sido que, si se implementase cualquiera de las opciones contempladas actualmente, se correría el riesgo de suprimir una gran cantidad de discurso político. El Consejo expresa su preocupación ante la falta de información proporcionada por Meta en respuesta a las preguntas del Consejo sobre este proceso de desarrollo de políticas. El Consejo señala que la empresa no ha proporcionado información específica sobre el estudio realizado, los datos recopilados, el alcance de la investigación, los tipos de expertos consultados ni las diferentes opciones normativas evaluadas. Al Consejo también le preocupa que Meta haya decidido no compartir públicamente información sobre su proceso de desarrollo de políticas y los resultados.

Una minoría del Consejo considera que, pese a que el contenido ataca de forma implícita a varios grupos que reúnen diversas características protegidas (personas negras, árabes y musulmanas), conforme a la redacción actual, las reglas de las política sobre personas y organizaciones peligrosas de Meta no prohíben contenido como este. El hecho de que la publicación solo reproduzca las partes más “aceptables” de la teoría del gran reemplazo no es, sin embargo, decisivo. En su decisión del caso Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, el Consejo señalaba que Meta debería “evaluar las publicaciones realizadas por usuarios influyentes en contexto de acuerdo con la forma en que podrían ser interpretadas, incluso si su mensaje provocador está formulado en un lenguaje diseñado para evitar responsabilidad”.

Sin embargo, como se explicará en más detalle en el apartado 8.3, una minoría del Consejo considera que el enfoque de Meta respecto del contenido que difunde teorías conspiratorias perjudiciales, como la teoría del gran reemplazo, no es coherente con los objetivos de las varias políticas que la empresa ha diseñado para prevenir que se genere un entorno de intimidación y exclusión que exponga a minorías protegidas a daños dentro o fuera de internet. Si bien una minoría del Consejo concuerda firmemente con que las políticas de Meta deben permitir las críticas y el debate de cualquier tema (por ejemplo, la inmigración) que sea relevante para una sociedad democrática, dichas políticas también deben establecer límites claros para prevenir la difusión de ataques implícitos y explícitos contra grupos vulnerables atendiendo al daño fuera de internet que suponen determinadas narrativas conspiratorias, como la teoría del gran reemplazo.

II. Transparencia

En su Centro de transparencia, Meta proporciona alguna información sobre cómo gestiona el contenido relacionado con la inmigración desde el punto de vista de la política sobre lenguaje que incita al odio. Ahí, la empresa explica que los refugiados, los migrantes, los inmigrantes y los solicitantes de asilo se encuentran protegidos contra los ataques más graves. Asimismo, Meta compartió algunos detalles adicionales en una publicación de 2017 en Newsroom, cuyo enlace figura en las bases de la política sobre lenguaje que incita al odio. Sin embargo, la empresa no explica de manera explícita qué hace con el contenido relacionado con la teoría del gran reemplazo. La publicación de 2017 cuenta con información pertinente para el tema, pero no se ha actualizado tras el proceso de desarrollo de políticas de 2021 mencionado en el apartado 6. Meta tampoco explica de manera explícita en su política de dominio público que los llamamientos a la exclusión están permitidos si se enmarcan en un debate sobre inmigración. Tampoco queda claro cómo se abordan los ataques implícitos o velados en este contexto.

8.2. Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

La mayoría del Consejo considera que mantener publicado el contenido es coherente con las responsabilidades de Meta en materia de derechos humanos. Una minoría considera que, para ser coherente con sus responsabilidades en materia de derechos humanos, Meta debería reformular sus políticas para que quienes promueven teorías conspiratorias que causan daños dentro y fuera de internet no usen sus servicios de forma indebida.

Libertad de expresión (artículo 19 del PIDCP)

El artículo 19 del PIDCP provee una amplia protección de la libertad de expresión, lo que incluye el “ derecho a buscar, recibir y difundir informaciones e ideas de toda índole”, incluidos el discurso político y los comentarios sobre los asuntos públicos (Observación general n.º 34, párrafo 11). El Comité de Derechos Humanos indica que el alcance de este derecho “llega incluso a expresiones que puedan considerarse profundamente ofensivas, aunque esta expresión solo puede limitarse de conformidad con lo dispuesto en el párrafo 3 del artículo 19 y en el artículo 20” para proteger los derechos o la reputación de otras personas o prohibir la incitación a la discriminación, la hostilidad o la violencia (Observación general n.º 34, párrafo 11).

En cuanto a los debates públicos respecto de la inmigración, la Asamblea General de la ONU señaló su compromiso de “proteger la libertad de expresión de conformidad con el derecho internacional, reconociendo que el debate abierto y libre contribuye a la comprensión cabal de todos los aspectos de la migración”. Se compromete, además, a “promover, en colaboración con todos los sectores de la sociedad, un discurso público abierto y con base empírica sobre la migración y los migrantes que genere una percepción más realista, humana y constructiva a este respecto”. (A/RES/73/195, párrafo 33). La inmigración y las políticas al respecto (asuntos muy debatidos y sumamente relevantes para los procesos políticos no solo en Francia, sino en todo el mundo) son temas legítimos de debate en las plataformas de Meta. Para la mayoría del Consejo, prohibir este tipo de discurso en las plataformas de Meta constituiría una clara infracción de la libertad de expresión y sentaría un precedente peligroso debido a las posibles implicaciones que tendría para el debate público. Para una minoría del Consejo, es precisamente el hecho de que los debates sobre inmigración abiertos y empíricos son muy importantes para las sociedades democráticas lo que hace que la difusión en redes sociales de teorías conspiratorias, como el gran reemplazo, pueda ser tan perjudicial. Como indica el Institute for Strategic Dialogue, entre los métodos que se utilizan para transmitir la teoría se encuentran memes racistas deshumanizantes, datos demográficos distorsionados y engañosos y el uso de ciencia desacreditada.

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3 del PIDCP). Estos requisitos reciben habitualmente el nombre de “prueba de tres partes”. El Consejo usa este marco para interpretar los compromisos voluntarios de Meta en materia de derechos humanos, tanto respecto de la decisión sobre el contenido concreto sometido a revisión como de lo que esto pone de manifiesto acerca del enfoque global de la empresa en relación con la gobernanza en estrategia de contenidos. Tal como afirma el Relator Especial de la ONU sobre la promoción y protección del derecho a la libertad de opinión y de expresión: “las empresas no tienen las obligaciones de los Gobiernos, pero su repercusión es de un tipo que las obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión” (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que las reglas que limitan la libreta de expresión sean accesibles y claras y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas (Observación general n.º 34, párrafo 25). Además, estas reglas “no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión” y “deben proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no” (ibidem). En referencia a las reglas que rigen el discurso online, el Relator Especial de la ONU sobre la promoción y protección del derecho a la libertad de opinión y de expresión ha indicado que deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

Ninguna de las políticas actuales de Meta prohíbe de forma específica y clara el contenido en este caso. Para la mayoría del Consejo, un usuario común que lea la política sobre lenguaje que incita al odio o la publicación de Meta del 2017 “Hard Questions” (cuyo enlace figura en la política) probablemente interpretaría que solo se suprimirán los ataques más graves contra migrantes e inmigrantes, ya que Meta indica claramente que quiere permitir que en sus plataforma se hagan comentarios y críticas sobre las políticas migratorias. La mayoría del Consejo considera que este compromiso es coherente con las responsabilidades de Meta en materia de derechos humanos. Para una minoría, la política sobre lenguaje que incita al odio busca prevenir que se geste un entorno de exclusión o segregación, algo que las teorías conspiratorias basadas en odio, como la del gran reemplazo, fomentan. Dado que el contenido que se da la mano con estas teorías generalmente suele tener como objetivo a grupos vulnerables y minoritarios y constituye un ataque a su dignidad, un usuario común podría esperar que la política sobre lenguaje que incita al odio de Meta proteja contra este tipo de contenido.

La política vigente de Meta sobre personas y organizaciones peligrosas no cuenta con reglas que prohíban el contenido en este caso. Para la mayoría del Consejo, incluso si Meta prohibiera de forma específica y clara el contenido relacionado con la teoría del gran reemplazo en sus plataformas, la publicación en este caso no llega a mencionar la teoría ni desarrolla aspectos de esta de manera que se puedan considerar conspiratorios o nocivos. La publicación no alega que los flujos migratorios de grupos específicos de personas hacia Europa sean parte de un complot secreto de agentes con intenciones ocultas.

II.Fin legítimo

Cualquier restricción a la libertad de expresión debe tener también como objetivo el cumplimiento de, al menos, uno de los fines legítimos mencionados en el PIDCP, donde también se contempla la protección de los derechos de terceros. “El término ‘derechos’ comprende los derechos humanos reconocidos en el Pacto y, más en general, en la normativa internacional de los derechos humanos” (Observación general n.º 34, párrafo 28).

En varias de sus decisiones, el Consejo ha determinado que la política sobre lenguaje que incita al odio de Meta, cuyo objetivo es proteger a las personas del daño que ocasiona el lenguaje que incita al odio, tiene un fin legítimo reconocido por los estándares internacionales en materia de derechos humanos (véase el caso “Caricaturas de Knin”). Protege el derecho a la vida (artículo 6, párrafo 1 del PIDCP), así como los derechos a la igualdad y a la no discriminación, entre otros, por motivo de raza u origen étnico o nacional (artículo 2, párrafo 1 del PIDCP; artículo 2 de la CIEFDR). El Consejo ya ha determinado anteriormente que la política sobre personas y organizaciones peligrosas de Meta pretende prevenir y frenar el daño fuera de internet con el fin legítimo de proteger los derechos de las personas (véase la decisión del caso Publicación compartida de Al Jazeera). En cambio, el Consejo ha señalado reiteradamente que restringir la expresión únicamente para evitar la ofensa no es un objetivo legítimo (véase el caso Representación de Zwarte Piet en el que se cita el párrafo 24 del informe A/74/486 del Relator Especial de la ONU sobre la libertad de expresión; y el caso Suspensión de la cuenta del expresidente de EE. UU. Donald Trump), ya que la legislación internacional de los derechos humanos considera sumamente importante que la expresión pueda tener lugar sin inhibiciones (Observación general n.º 34, párrafo 38).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión “deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse” (Observación general n.º 34, párrafo 34). La naturaleza y la variedad de las respuestas al alcance de una empresa como Meta son diferentes de las disponibles para un Estado, además de corresponderse generalmente con infracciones más leves de los derechos que, por ejemplo, las que meritan sanciones penales. Como parte de sus responsabilidades en materia de derechos humanos, las empresas de medios sociales deben evaluar diversas respuestas posibles ante contenido problemático, no solo su eliminación, para garantizar que las restricciones se apliquen de la manera más individualizada posible (A/74/486, párrafo 51).

Cuando se trata de analizar los riesgos que presenta el posible contenido violento, el Consejo se guía por la prueba de seis factores descrita en el Plan de Acción de Rabat, que trata la incitación a la discriminación, la hostilidad o la violencia (ACNUDH, A/HRC/22/17/Add.4, 2013). La prueba tiene en cuenta el contexto, el autor, la intención, el contenido y la forma, la medida en la que se ha difundido la expresión y la probabilidad de daño inminente.

Para la mayoría del Consejo, suprimir el contenido en este caso no era una medida necesaria ni proporcionada. La prueba del Plan de Acción de Rabat destaca que el contenido y la forma del discurso son elementos críticos de incitación. En este caso, los comentarios de Zemmour, conforme se reproducen en el clip de 50 segundos publicado por el usuario, no incluyen referencias a elementos conspiratorios de la teoría del gran reemplazo, y el vídeo no contiene elementos incendiarios, como imágenes violentas o de incitación. Los comentarios y la descripción tampoco hacen llamamientos directos a la violencia y la exclusión. La mayoría del Consejo cree que excluir contenido polémico desde el punto de vista político debido a declaraciones que el orador hizo en otros espacios infringiría la libertad de expresión. Esta mayoría considera que las cifras que cita Zemmour son solo un poco exageradas. También señala que el tema principal de las declaraciones de Zemmour en el vídeo es la inmigración, quizá uno de los temas políticos más importantes actualmente.

Para una minoría de miembros del Consejo, el contenido en este caso no infringe las políticas actuales de Meta (véase el apartado 8.1). Sin embargo, la empresa ha elaborado un conjunto de políticas cuyo objetivo es prevenir que se genere un entorno de exclusión e intimidación que perjudique a las minorías protegidas (y menoscabe la libertad de expresión de grupos excluidos) tanto dentro como fuera de internet. En virtud de estas políticas, se moderan las narrativas antisemitas y relacionadas con la supremacía blanca, así como el contenido procedente de redes de conspiración que inducen a la violencia. Suprimir este contenido es coherente con las responsabilidades de Meta en materia derechos humanos. Como se explica en el apartado 2, la teoría del gran reemplazo afirma que hay un complot intencionado para sustituir a las poblaciones blancas de Europa por poblaciones migrantes procedentes principalmente de África y Asia. La difusión de narrativas relacionadas con la teoría del gran reemplazo ha contribuido a la incitación del racismo, el odio y la violencia contra personas inmigrantes, europeas no blancas y musulmanas. Una minoría del Consejo hace hincapié en que no se trata solo de una idea abstracta o una opinión polémica, sino de la típica teoría conspiratoria que conduce a daños tanto dentro como fuera de internet. Sin duda, contribuye a la creación de una atmósfera de exclusión e intimidación que perjudica a determinadas minorías. La prueba del daño que produce la circulación de contenido antisemita en las plataformas de Meta de manera colectiva o acumulativa, a gran escala y velocidad (tal como se analiza en el caso Negación del Holocausto) es similar a la prueba del daño que produce la teoría del gran reemplazo, tal como se indica en el apartado 2. Por estos motivos, una minoría del Consejo considera que es incoherente con el principio de no discriminación y con los valores de seguridad y dignidad de Meta que la empresa haya decidido proteger a determinados grupos minoritarios de la exclusión y la discriminación que suscitan las narrativas conspiratorias, pero que deje sin protección a otros en una situación de riesgo similar. Esta minoría no encuentra un motivo convincente para que Meta aplique enfoques distintos a la teoría del gran reemplazo y a las demás narrativas conspiratorias antes mencionadas, que la empresa modera de conformidad con sus responsabilidades en materia de derechos humanos.

En relación con lo anterior, la minoría del Consejo considera que el mayor desafío al que se enfrentan las empresas de medios sociales no es las piezas de contenido de manera individual, sino la acumulación de contenido perjudicial que se comparte a gran escala y muy rápidamente. El Consejo ha explicado que, “en determinadas circunstancias, moderar el contenido con el objetivo de abordar los daños acumulativos que ocasiona el lenguaje que incita al odio, incluso cuando la expresión no incita a la violencia o la discriminación directamente, puede resultar coherente con las responsabilidades de [Meta] en materia de derechos humanos” (véanse las decisiones de los casos Representación de Zwarte Piet y Violencia comunitaria en el estado indio de Odisha). En 2022, el CIEFDR expresó su preocupación por “la persistencia y el alcance de los discursos racistas y discriminatorios [en Francia], especialmente en los medios de comunicación y en Internet”. Para una minoría del Consejo, la acumulación de contenido relacionado con la teoría del gran reemplazo “crea un entorno con mayores probabilidades de tolerar actos de violencia y de que se replique la discriminación en la sociedad” (véanse las decisiones de los casos Representación de Zwarte Piet y Violencia comunitaria en el estado indio de Odisha). Esta minoría señala que, conforme a los PREDH, “las empresas deben prestar especial atención a las consecuencias concretas sobre los derechos humanos de las personas pertenecientes a grupos o poblaciones expuestos a un mayor riesgo de vulnerabilidad o de marginación” (PREDH principios 18 y 20). Según lo indicado en el apartado 2, las principales víctimas del racismo en Francia son los inmigrantes, en especial los de origen africano y sus descendientes. En una entrevista realizada en 2023, el director general de Seguridad Interior de Francia compartió su creencia de que los grupos extremistas, incluidos los que piensan que deben tomar medidas para detener el “gran reemplazo”, suponen una amenaza grave para el país.

Pese a que Meta ha indicado que moderar el contenido relacionado con teorías conspiratorias supondría el riesgo de suprimir “una cantidad inaceptable de discurso político”, una minoría del Consejo señala que la empresa no ha proporcionado pruebas ni datos que respalden esa afirmación. Asimismo, Meta no ha explicado por qué existe este riesgo con el contenido relacionado con la teoría del gran reemplazo, pero no, por ejemplo, con el contenido antisemita o de supremacía blanca, dado que también se los podría considerar contenidos que difunden teorías conspiratorias. En vista de los motivos expuestos antes, una minoría del Consejo considera que Meta debería revisar sus políticas para incluir el contenido que promueve la teoría del gran reemplazo, a menos que cuente con pruebas suficientes para: (i) descartar el daño que ocasiona la difusión de este tipo de contenido, como se indica en esta decisión, o (ii) demostrar que el impacto de moderar este tipo de contenido sería desproporcionado para el discurso político protegido. Para que la respuesta sea proporcionada, Meta podría, entre otras opciones, crear una política solo para el proceso de escalado que permita suprimir el contenido que defienda abiertamente la teoría del gran reemplazo sin perjudicar el discurso político protegido, o bien, en virtud de su política sobre personas y organizaciones peligrosas, designar a las personas vinculadas explícitamente con esta teoría como parte de una red conspiratoria que induce a la violencia.

La mayoría del Consejo se muestra escéptica ante la idea de elaborar una política que considere este contenido infractor y que, al mismo tiempo, satisfaga las exigencias de legalidad, necesidad y proporcionalidad, especialmente, porque en el contenido no aparece el término “gran reemplazo” ni ninguna variación de este. Todo intento de suprimir dicho contenido, incluso si se interpreta como una referencia cifrada, daría lugar a la supresión de grandes cantidades de discurso político protegido. El contenido que claramente sea discurso protegido no debería considerarse “culpable por asociación” debido a la identidad del autor o a la afinidad de este con ideologías de odio.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido sostiene la decisión de Meta de conservar la publicación.

10. Recomendaciones

Transparencia

1. Meta debería proporcionar información más detallada en el texto de la política sobre lenguaje que incita al odio de sus Normas comunitarias para indicar cómo distingue los debates relacionados con la inmigración del lenguaje que incita al odio en función del estatus migratorio de las personas. Esto incluiría explicar cómo gestiona el contenido que difunde teorías conspiratorias basadas en odio. Esta medida es necesaria para que los usuarios entiendan la manera en que Meta protege el discurso político sobre inmigración al tiempo que hace frente a los posibles daños fuera de internet que pueden provocar las teorías conspiratorias basadas en discurso de odio.

El Consejo considerará implementada esta recomendación cuando Meta haya publicado una actualización en la que explique cómo aborda los debates sobre inmigración en el contexto de la teoría del gran reemplazo y proporcione un enlace claramente visible a dicha actualización en el Centro de transparencia.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En lo que respecta a la decisión de este caso, se ha llevado a cabo una investigación independiente por encargo del Consejo. Asimismo, el Consejo ha recibido asesoramiento de Duco Advisors, una consultora especializada en geopolítica, confianza, seguridad y tecnología. Memetica, una organización dedicada a la elaboración de estudios de open source sobre tendencias en los medios sociales, también ha proporcionado análisis. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, ha aportado las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas