Contenido dirigido a una defensora de los derechos humanos de Perú

Resumen

El Consejo asesor de contenido anuló la decisión de Meta de conservar contenido dirigido a una persona que se encuentra entre los principales defensores de los derechos humanos de Perú. Los casos de restricción a las libertades fundamentales, como el derecho a la reunión y asociación, son cada vez más numerosos en Perú, y, entre los afectados, se encuentran las organizaciones no gubernamentales (ONG). Un miembro de La Resistencia compartió la publicación de este caso, que incluía una imagen de la defensora que se había alterado, probablemente con IA, para mostrar sangre cayendo sobre el rostro. Este grupo amedrenta a periodistas, ONG y activistas e instituciones de derechos humanos de Perú con desinformación, intimidaciones y violencia. Si se la analiza considerando todo el contexto, esta publicación califica como "violencia encubierta" conforme a la política de violencia e incitación. Dado que este caso pone de manifiesto una posible subaplicación de políticas ante amenazas encubiertas o cifradas en las plataformas de Meta, el Consejo realizó dos recomendaciones relacionadas.

Información sobre el caso

Un miembro de La Resistencia publicó una imagen posiblemente manipulada con IA, en la que la foto del rostro de la líder de una organización de derechos humanos se había alterado para mostrar su cara cubierta de sangre. Un texto en español insinuaba que las organizaciones no gubernamentales (ONG) se están involucrando en delitos financieros al recibir fondos del exterior y también las acusaba de fomentar manifestaciones violentas. En el momento en que se compartió la publicación, había movilizaciones ciudadanas en curso en Perú en contra del Gobierno.

La publicación obtuvo unas 1.000 visualizaciones y se reportó. Meta determinó que no existían infracciones. El usuario que había apelado a Meta luego recurrió al Consejo. Antes de que el Consejo seleccionara el caso, Meta recibió un reporte de uno de sus socios de confianza, una red mundial de ONG, organismos humanitarios e investigadores sobre derechos humanos que marcan riesgos emergentes de contenido de las plataformas de Meta. Como resultado, Meta revisó la cuenta que publicó la imagen y la inhabilitó por infringir sus Condiciones del servicio, por lo que esta publicación en particular ya no está en Facebook.

Conclusiones principales

El Consejo determinó de manera unánime que esta publicación califica como amenaza "encubierta o implícita" conforme a la norma comunitaria sobre violencia e incitación. Cuando las amenazas están encubiertas, se requiere una señal de amenaza (como una declaración o una llamada a la acción de venganza) y un indicio contextual (así como la confirmación por parte de expertos de que la declaración podría conducir a violencia inminente).

La imagen manipulada con IA tiene un objetivo: la defensora de los derechos humanos, a quien muchos peruanos pueden identificar con claridad. La imagen se editó para que pareciera que sufrió lesiones físicas. En el texto, se presentaron agravios contra ONG, incluidos presuntos delitos financieros. En conjunto, estos factores cumplen los requisitos de una señal de amenaza. El contenido también satisface la exigencia de un indicio contextual, ya que en Perú se reportan numerosos casos de ataques contra defensores de los derechos humanos, incluso llevados a cabo por La Resistencia. Asimismo, en el informe que el socio de confianza envió a Meta, se destaca cómo esta publicación podría haber contribuido a actos de violencia inminentes.

Meta interpretó que se trataba de la imagen de una defensora de los derechos humanos con "sangre en las manos". Al Consejo lo decepcionó esta explicación, que no logró persuadirlo, e indicó que la imagen está alterada para mostrar una herida sangrante en la cabeza. Los equipos internos de Meta podrían haber averiguado fácilmente que la defensora puede reconocerse a través de una búsqueda online, que hubiera arrojado como resultado la foto del rostro sonriente original.

En este caso, ninguna intervención diferente de la eliminación del contenido hubiera mitigado de forma adecuada los riesgos para la defensora de los derechos humanos. En informes recientes de la ONU, se trató la inseguridad que los defensores, en especial las mujeres, enfrentan en Perú. El estigma de los grupos de sociedad civil creó una atmósfera de miedo, y esta dinámica se vio exacerbada por iniciativas legislativas que tienen como fin ejercer mayor control sobre las ONG y restringir las reuniones pacíficas.

Por último, también se reportó al Consejo que otras cuentas asociadas al mismo usuario que originalmente publicó este contenido lo volvieron a compartir. Meta debería garantizar que se eliminen tales publicaciones, a menos que su objetivo sea condenar el contenido o generar conciencia en torno a él.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de conservar el contenido.

Asimismo, el Consejo le recomendó a Meta:

• Aclarar que las "declaraciones cifradas en las que el método de violencia no se expresa con claridad" están prohibidas en forma escrita, visual y oral, conforme a la norma comunitaria sobre violencia e incitación.
• Realizar una evaluación anual de la precisión con la que se abordan las posibles amenazas encubiertas, con especial atención al contenido que incluye amenazas contra defensores de los derechos humanos y que permanece en la plataforma por error, así como instancias de discursos políticos que se eliminan de forma incorrecta.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

En julio de 2024, un usuario de Facebook de Perú publicó una foto alterada digitalmente del rostro de una reconocida líder de una organización de derechos humanos de Perú. Se la podía identificar claramente en la imagen, probablemente manipulada con IA, en la que se veía su rostro cubierto con sangre. Un texto en español insinuaba que las organizaciones no gubernamentales (ONG) están involucradas en delitos financieros al recibir fondos del exterior y también las acusaba de fomentar manifestaciones violentas. La publicación se compartió en la misma época en que ciudadanos se manifestaron en contra del Gobierno en la capital de Perú, Lima. Obtuvo unas 1.000 visualizaciones y menos de 100 reacciones.

Tres días después de la publicación del contenido, un usuario lo reportó por infringir las políticas de Meta. En una revisión manual, se determinó que el contenido no era infractor y se conservó en la plataforma. El usuario apeló la decisión de Meta, pero esa apelación se cerró automáticamente sin otra instancia de revisión. El mismo usuario entonces apeló al Consejo.

En el período intermedio entre la apelación del usuario al Consejo y la selección del caso por parte del Consejo, la publicación también se reportó a Meta a través del programa de socios de confianza. Se trata de una red de ONG, organismos humanitarios e investigadores de los derechos humanos de 113 países que reportan contenido y proporcionan comentarios a Meta sobre sus políticas de contenido y su aplicación. Luego de este reporte, los equipos internos de la etapa de escalamiento de Meta revisaron la cuenta asociada a la publicación y determinaron que infringía las Condiciones del servicio de Meta porque el usuario tenía múltiples cuentas con el mismo nombre o uno similar. Entonces, Meta inhabilitó la cuenta, y el contenido dejó de estar disponible en Facebook. Por lo tanto, el contenido no se evaluó más.

Cuando el Consejo seleccionó este caso, Meta revisó la publicación nuevamente y confirmó su decisión original de que el contenido no infringía sus políticas.

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó en este caso:

Perú enfrenta una "profunda crisis política y social", en la que hubo seis presidentes diferentes y tres legislaturas desde 2016 (consulta el informe de 2023 de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos [ACNUDH]). La inestabilidad política llegó a su punto máximo en diciembre de 2022, cuando se destituyó y se detuvo al expresidente Pedro Castillo por cargos de abuso de poder. Dina Boluarte, entonces vicepresidenta, asumió la presidencia por decisión del Congreso. La ACNUDH destacó que los sucesos de diciembre de 2022 "desencadenaron protestas en todo el país, canalizando el descontento social […] por la histórica discriminación y marginación política y socioeconómica a la que se enfrenta gran parte de la población".

Desde entonces, la ONU y grupos de derechos humanos manifestaron preocupación por las restricciones gubernamentales sobre los derechos humanos básicos en Perú, en particular sobre el derecho a la reunión, incluidas las manifestaciones. En un informe de 2024 del Relator Especial de la ONU sobre los derechos a la libertad de reunión pacífica y de asociación, se mencionaron denuncias de "uso excesivo, indiscriminado y desproporcionado de la fuerza y de armas de fuego, ejecuciones extrajudiciales, detenciones arbitrarias y prisión preventiva masivas" en el contexto de manifestaciones mayormente pacíficas que comenzaron en diciembre de 2022. Otras manifestaciones en contra del Gobierno siguieron ocurriendo, incluso en julio de 2024, cuando se publicó el contenido de este caso. Otra "gran preocupación" es la "presunta estigmatización y criminalización de los defensores de los derechos humanos […] y la falta de una protección eficaz para los defensores en situación de riesgo". A medida que aumentaron las restricciones sobre las libertades fundamentales relacionadas con la reunión y la asociación, el Relator Especial de la ONU sobre la situación de los defensores de los derechos humanos documentó de qué modo la posición de los defensores de los derechos humanos se volvió más precaria. Estas tendencias afectan especialmente a las mujeres, quienes sufren amenazas como consecuencia de su activismo y de su identidad de género. El Relator Especial destacó que "el tipo de acoso que sufrían era a menudo de carácter discriminatorio, misógino y sexual". El hecho de que "las autoridades no aplicaban un enfoque sistémico e interseccional" también obstaculizaba que las defensoras pudieran presentar denuncias y pedir reparación.

El trabajo de los defensores de los derechos humanos también se vio amenazado por las propuestas legislativas de limitar las actividades de las ONG. En junio de 2024, la Comisión de Relaciones Exteriores del Congreso de la República del Perú propuso un proyecto de enmiendas a la ley de 2022 y creó la Agencia Peruana de Cooperación Internacional. Estas enmiendas impedirían (según advirtieron miembros de la sociedad civil peruana) la financiación internacional de las ONG y restringirían su libertad de expresión. En marzo de 2025, el Congreso de Perú las aprobó. En caso de promulgarse, también se podrían imponer penalizaciones sobre las organizaciones de sociedad civil por iniciar acciones legales contra el Estado por abusos contra los derechos humanos. Human Rights Watch hizo un seguimiento de cómo este tipo de "leyes sobre la injerencia extranjera" en todo el mundo pueden estigmatizar a la sociedad civil independiente y "ofrecer una herramienta práctica para desacreditar" la promoción de los derechos humanos al igualarla con la "promoción de los intereses de un poder extranjero".

En Perú, estas propuestas avanzaron junto con el cabildeo político ejercido por grupos de derecha, así como con campañas de medios sociales dirigidas a ONG y defensores de los derechos humanos con acusaciones de terrorismo (llamado "terruqueo" en Perú) e incitación a la violencia en las manifestaciones (consulta el comentario PC-30930), según este artículo. El usuario que creó la publicación de este caso es un miembro influyente de La Resistencia, una agrupación con organización flexible de activistas de derecha. La agrupación se creó en 2018 y apuntó contra periodistas, ONG, defensores de los derechos humanos e instituciones públicas a través de campañas de desinformación, intimidaciones y violencia.

2. Respuestas de los usuarios

En la apelación al Consejo, el usuario que reportó el contenido afirmó que la publicación era una "amenaza de muerte encubierta con escasa sutileza" contra una defensora de los derechos humanos. Agregó que la publicación debía interpretarse en un contexto de "acoso y ataques físicos" contra los defensores de los derechos humanos en Perú y que se compartió como respuesta a las movilizaciones de julio de 2024. Explicó que el usuario que publicó el contenido es miembro de un grupo conocido por incitar a la violencia y que tales amenazas en internet habían escalado a violencia en la vida real.

3.Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

La norma comunitaria sobre violencia e incitación de Meta procura "prevenir la posible violencia en la vida real que pueda estar relacionada con contenido en [sus] plataformas". En las bases de la política, se indica que Meta elimina "el lenguaje que incita o da lugar a actos de violencia y amenazas creíbles a la seguridad pública o personal". La empresa también intenta "tener en cuenta el lenguaje y el contexto para distinguir afirmaciones casuales o de concientización de contenido que constituya una amenaza creíble a la seguridad pública o privada". En la política, se establece que Meta elimina el contenido que incluye "amenazas de violencia dirigida contra otras personas". La empresa define "amenazas de violencia" como "frases o imágenes que representan una intención, aspiración o llamada a cometer actos de violencia contra un objetivo".

En la sección en que se establece que Meta exige "información o contexto adicionales para hacer cumplir" las normas comunitarias, la política indica que Meta elimina las "declaraciones cifradas en las que el método de violencia no se expresa con claridad, pero hay una amenaza encubierta o implícita, según se indica mediante la combinación de una señal de amenaza y un indicio contextual". Una señal de amenaza puede incluir una declaración cifrada que "se compartió en un contexto de venganza" o una declaración cifrada que "actúa como una incitación amenazante". Un indicio contextual puede significar la confirmación por parte de expertos locales o información que indique que la declaración podría conducir a violencia inminente. Un indicio contextual también puede ser que el objetivo de una amenaza reporte el contenido.

Las pautas internas que se proporcionan a los revisores aclaran de qué modo las amenazas de violencia pueden presentarse en formato visual, incluidas las imágenes generadas o alteradas de manera digital. Para determinar si las imágenes generadas o alteradas de manera digital se dirigen a alguien con una amenaza en formato visual, Meta considera factores como la presencia del objetivo en la imagen o si se observa en las imágenes una intención de dirigirse a la persona con violencia de gravedad alta.

II. Respuestas de Meta

Meta indicó que esta publicación no infringe la parte de la política que prohíbe las amenazas contra personas objetivo, incluidas las imágenes alteradas de forma digital que muestran violencia visual, ya que no contiene una amenaza evidente. De acuerdo con Meta, el texto de la publicación "formula denuncias de corrupción y violencia por parte de ONG […]. Se centra en ONG indeterminadas y sus actividades: no identifica a un objetivo ni realiza amenazas". Meta señaló los desafíos que implica moderar contenido que denuncia corrupción o irregularidades dirigido a ONG y defensores de los derechos humanos. La empresa declaró que "no tenía potestad para determinar la veracidad o falsedad de las denuncias" y que "no quiere poner obstáculos ante lo que podría constituir un discurso político sobre corrupción o delitos". Sin embargo, Meta reconoció que "en ciertas ocasiones, con contexto adicional, estas denuncias pueden contribuir a un riesgo de daño en la vida real y deben eliminarse por la seguridad".

Para Meta, la imagen de la publicación era una "situación cercana [a una infracción], ya que pareciera haberse alterado digitalmente para mostrar [a la defensora de los derechos humanos] cubierta en sangre". En el análisis que hizo de la imagen, Meta determinó que "si bien hay sangre en la imagen, la defensora de los derechos humanos no parece estar herida. Más bien, parece estar serena, incluso apenas sonriendo, y mira directo a la cámara. No tiene una expresión de dolor que sugiera que está lastimada, ni la sangre proviene de heridas o lesiones visibles". Meta también hizo hincapié en que las señales de violencia de gravedad alta pueden ser importantes a la hora de determinar qué constituye una amenaza en forma visual. Meta expresó que "si [la imagen] se hubiera alterado para mostrar heridas de arma blanca visibles u otras lesiones de gravedad alta, eso sí podría constituir una amenaza en forma visual". Sin embargo, concluyó que, cuando "se interpreta a la luz del texto", el "significado más evidente de la imagen" es que la defensora de los derechos humanos tiene "sangre en las manos" debido a las "presuntas acciones descriptas en el texto" de la ONG.

La prohibición de Meta de "declaraciones cifradas en las que el método de violencia no se expresa con claridad, pero hay una amenaza encubierta o implícita" se evalúa únicamente en la etapa de escalamiento. Meta exige la presencia de una señal de amenaza y un indicio contextual para hacer cumplir la parte de la política de "amenazas encubiertas". Meta informó que, como la cuenta se había inhabilitado, no llegó a un equipo interdisciplinario amplio ni a terceros para que evaluaran la publicación como amenaza encubierta porque esto involucraría "medidas de investigación que requieren muchos recursos". Meta indicó que habría llevado a cabo esta revisión más detallada si el contenido hubiera permanecido publicado en Facebook. La empresa declaró que "probablemente no constituiría una amenaza encubierta porque la imagen [de la defensora de los derechos humanos] podía interpretarse como una crítica política, y no como violencia en forma visual". Como respuesta a una solicitud de datos acerca de las amenazas encubiertas, Meta reveló que no hace un seguimiento de la cantidad de contenido que se revisa por posibles amenazas encubiertas.

Meta señaló que "interactúa de forma proactiva con defensores de los derechos humanos para comprender sus necesidades y se esfuerza por ofrecerles medidas específicas para proteger su seguridad y mitigar los riesgos que enfrentan". De acuerdo con la Política corporativa de derechos humanos de Meta, el término "defensores de los derechos humanos" incluye a "organizaciones de derechos humanos, miembros de grupos vulnerables que abogan por sus derechos, periodistas profesionales y civiles, activistas políticos no violentos y miembros del público que presenten una inquietud en relación con los derechos humanos".

El Consejo formuló preguntas sobre el marco con que se abordan las amenazas encubiertas; cómo Meta interpreta y evalúa las amenazas en forma visual en imágenes; el papel que tienen los socios de confianza en la proporción de información adicional y contexto para la evaluación de la probabilidad de daño en la vida real; y cómo Meta protege a los defensores de los derechos humanos en sus plataformas. Meta respondió todas las preguntas.

4. Comentarios del público

El Consejo asesor de contenido recibió 65 comentarios del público que cumplieron las condiciones de presentación. De estos, 60 procedieron de Latinoamérica y el Caribe, tres de Europa y dos de los Estados Unidos y Canadá. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí. Se ocultó la información de identificación personal de los comentarios del público.

Los comentarios enviados se referían a los siguientes temas: el contexto social y político de Perú; la situación de los defensores de los derechos humanos; aspectos relacionados con el género de las amenazas contra los defensores; iniciativas legislativas recientes que afectan las actividades de las ONG en Perú; narrativas en medios sociales que acusan a ONG, defensores de los derechos humanos y grupos de la sociedad civil de "terrorismo"; las operaciones de La Resistencia; y de qué modo Meta debería moderar el contenido que incluye posibles amenazas encubiertas.

En enero de 2025, como parte de una interacción con las partes interesadas, el Consejo consultó con organizaciones de sociedad civil, académicos, organizaciones intergubernamentales y otros expertos sobre la protección de los defensores de los derechos humanos en internet. Esta mesa redonda se centró en las amenazas que enfrentan los defensores de los derechos humanos y en campañas anteriores organizadas para implementar recomendaciones de políticas para su protección en las empresas de medios sociales. Los participantes también debatieron sobre la posibilidad de reportar el contenido que creían que pudiera causar daño en la vida real a través del programa de socios de confianza de Meta.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó este caso para examinar de qué modo las políticas de Meta protegen a los defensores de los derechos humanos, en particular, cuando las amenazas de violencia están encubiertas o implícitas, exigen más contexto para su interpretación u ocurren en un entorno de intimidación y acoso. Este caso se enmarca dentro de la prioridad estratégica del Consejo en materia de elecciones y espacio cívico.

El Consejo analizó la decisión de Meta en este caso respecto de sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

El Consejo determinó de manera unánime que la publicación infringía la política de violencia e incitación. Si se analiza en conjunto, la combinación del texto con la imagen de la defensora de los derechos humanos cubierta en sangre satisface la definición de Meta de amenaza prohibida. El Consejo estuvo de acuerdo de forma unánime en que la publicación califica como amenaza "encubierta" según la descripción de Meta, que categoriza a las publicaciones potencialmente ambiguas como amenazas si tienen una "señal de amenaza" y un "indicio contextual" que en conjunto conforman una amenaza implícita o disimulada.

• Señal de amenaza: la publicación satisface el requisito de señal de "amenaza" específicamente como "una incitación amenazante" o una "expresión de deseo de ejercer violencia" en venganza por presuntos delitos llevados a cabo por ONG. La imagen incluye un objetivo en la forma de la defensora de los derechos humanos, a quien los usuarios peruanos pueden identificar con claridad. En el texto, se profieren agravios contra ONG, incluidas acusaciones de delitos financieros y de incitación a la violencia en las manifestaciones, junto con una imagen alterada de la defensora de los derechos humanos, editada para representarla con claridad con sangre y lesiones provocadas por un ataque. Al Consejo lo decepcionó, y no logró persuadirlo, la conclusión sorprendente de Meta de que la imagen de la defensora de los derechos humanos con sangre cayendo sobre el rostro significara "sangre en las manos" y, por lo tanto, constituyera una "crítica política". La defensora de los derechos humanos "parece estar serena" y "no tiene una expresión de dolor" porque la imagen es una versión alterada digitalmente de una foto del rostro profesional en la que está sonriendo. Las manos de la persona ni siquiera se ven. Los equipos internos de Meta podrían haber averiguado con facilidad que la persona puede reconocerse. El Consejo desconoce qué herramientas de búsqueda inversa de imágenes Meta pone a disposición de sus moderadores, pero presume que la empresa tiene la sofisticación técnica necesaria para proporcionarles la información que precisan para evaluar imágenes. Si bien no se ve ninguna herida en la versión alterada de la imagen, el patrón de la sangre que cae de un lado de la cabeza y desde los ojos de la persona indica que se origina de una herida en la cabeza.
• Indicio contextual: la publicación satisface la condición de indicio "contextual" porque "el conocimiento o el contexto locales confirma que la declaración en cuestión podría conducir a violencia inminente". Esta conclusión se basa en información contextual de que acusaciones similares en Perú se identificaron de forma creíble como motivación para que personas hostigaran a defensores de los derechos humanos con actos intimidatorios y de violencia. La ACNUDH documentó varios ataques perpetuados por La Resistencia contra organizaciones de derechos humanos, durante los cuales las organizaciones recibieron acusaciones de ser "proterroristas" y de fomentar la violencia en las manifestaciones. El Comité para la Protección de los Periodistas informó que, en una reunión de La Resistencia, los participantes gritaron amenazas como "tus días están contados" y "morirás" a personas que se encontraban dentro de la oficina de un medio de comunicación. En este caso, un reporte de un socio de confianza en el que afirmó que el contenido podía contribuir a violencia inminente también puso de manifiesto el riesgo contextual. Defensores de los derechos humanos también hicieron conocer sus preocupaciones en torno a las amenazas de violencia y abusos a la empresa a través de reportes, acciones judiciales estratégicas y eventos para partes interesadas.

Algunos miembros del Consejo consideraron que no es necesario basarse en un análisis de "amenazas encubiertas" para concluir que la publicación infringe la política de violencia e incitación. El Consejo hizo hincapié en reiteradas ocasiones en que Meta debe evaluar las publicaciones como un todo y en contexto (consulta los casos Cinturón de abalorios, Eslogan de protesta contra Irán, Violencia contra las mujeres y Declaraciones sobre el primer ministro de Japón). La política de violencia e incitación de Meta prohíbe las declaraciones "que representan una intención, aspiración o llamada a cometer actos de violencia contra un objetivo". Para estos miembros del Consejo, la imagen de la defensora de los derechos humanos identificable cubierta en sangre, presentada con un texto que alega un delito, es una "expresión de deseo", una "aspiración" o una "incitación" evidente en la forma de "violencia de gravedad alta". Para estos miembros del Consejo, esto solo puede significar que la persona representada se está usando como objetivo con una imagen que plasma una llamada a la violencia y que demuestra la intención de dirigirse a la persona con violencia de gravedad alta.

II. Aplicación de políticas

Este caso despertó inquietudes respecto de que la distinción operativa entre las amenazas que requieren y que no requieren contexto para que se apliquen las políticas está provocando una subaplicación de estas y que una mayor cantidad de amenazas encubiertas permanezcan en las plataformas de Meta.

El Consejo previamente reconoció los desafíos que implica aplicar las políticas en los casos de amenazas encubiertas de violencia (consulta los casos Música drill británica, Protesta en la India en contra de Francia y Dibujo animado de Knin) porque los análisis contextuales con la suficiente exhaustividad suelen realizarse únicamente en la etapa de escalamiento. Sin embargo, también recomendó aplicaciones de las políticas de Meta sobre las amenazas que tengan en cuenta el contexto y puedan implementarse en los procesos a gran escala (consulta el caso Declaraciones sobre el primer ministro de Japón). Las pautas actuales que Meta proporciona a los revisores de los procedimientos a gran escala limitan de forma significativa la posibilidad de un análisis contextual (consulta el caso Violencia contra las mujeres). Los moderadores de los procedimientos a gran escala de Meta no reciben capacitación ni cuentan con herramientas para identificar contenido que infringe las políticas de la empresa que solo se aplican en el proceso escalamiento, como la regla en cuestión en este caso (consulta el caso Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán). Esto significa que quien realizó la revisión manual en este caso no hubiera podido valorar ni juzgar el contenido en la evaluación realizada cuando se reportó inicialmente ni hubiera podido escalarlo a equipos capacitados para aplicar la parte de la política que considera el contexto.

Dado que Meta no hace un seguimiento de la cantidad de contenido revisado por amenazas encubiertas, el Consejo no pudo evaluar la prevalencia de las amenazas encubiertas ni la magnitud de la subaplicación de las políticas. Sin embargo, incluso si se determinara que las amenazas encubiertas contra los defensores de los derechos humanos tienen una "baja prevalencia", las consecuencias seguirían siendo grandes y los defensores de los derechos humanos igualmente se verían muy afectados al recibir amenazas, verse desanimados de cumplir sus tareas y enfrentarse con violencia física. Para afrontar este riesgo, Meta debería invertir en evaluaciones frecuentes de gran calidad de su capacidad para identificar oportunidades de mejora en la aplicación de políticas en esta área. Meta debería conocer mejor la prevalencia de las amenazas encubiertas en sus plataformas, así como con cuánta precisión sus sistemas detectan este contenido y aplican las políticas correspondientes. Este trabajo también podría servir como la base para, con el tiempo, generar métricas más detalladas, como la prevalencia de las amenazas dirigidas contra defensores de los derechos humanos, y mecanismos de evaluación dirigidos. Como parte de este proceso, Meta podría experimentar con el desarrollo de una herramienta automatizada para identificar posibles amenazas encubiertas y colocarlas en una lista de revisión a cargo de los equipos relevantes de la etapa de escalamiento.

Por último, los socios de confianza tienen un papel importante a la hora de identificar contenido potencialmente infractor, incluidas las amenazas cifradas o encubiertas, y proporcionar la información necesaria para la aplicación precisa de las políticas. El Consejo anteriormente abordó asuntos relacionados con el nivel de respuesta de Meta ante los reportes de los socios de confianza (consulta el caso Video de una estación de policía haitiana). Como Meta indicó su intención de basarse menos en los sistemas automatizados y más en los reportes de los usuarios para detectar contenido infractor, el programa de socios de confianza es un canal importante para poner en evidencia los riesgos emergentes e identificar errores. Meta debería asegurar que el programa cuente con los recursos y el apoyo adecuados de modo que sus equipos internos sean capaces de tomar decisiones de aplicación de políticas que aprovechen la pericia de los socios de confianza y la información contextual.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo determinó que la eliminación del contenido de la plataforma, como lo requiere una interpretación adecuada de las políticas de contenido de Meta, es coherente con las responsabilidades de Meta en materia de derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) establece una amplia protección de la libertad de expresión, incluidas las opiniones sobre política, asuntos públicos y derechos humanos (observación general n.º 34, párrafos 11 y 12). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los Gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad conforme al derecho internacional de derechos humanos requiere que cualquier regla que limite la expresión sea clara y de acceso público (observación general n.º 34, párrafo 25). En las normas sobre legalidad, también se exige que las reglas que restringen la expresión "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y "deben proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo determinó que las prohibiciones de Meta de "amenazas de violencia dirigida contra otras personas" y de "declaraciones cifradas en las que el método de violencia no se expresa con claridad, pero hay una amenaza encubierta o implícita" son lo suficientemente evidentes, conforme se aplica a este caso.

Sin embargo, el Consejo destacó que, si bien la prohibición de los procedimientos a gran escala de la política de violencia e incitación contra las amenazas estipula que "las amenazas de violencia son frases o imágenes", la parte de la política sobre amenazas encubiertas que se aplica únicamente en los procesos de escalamiento se centra en las "declaraciones cifradas". El Consejo le recomienda a Meta aclarar que las "declaraciones cifradas" que incluyen amenazas en forma escrita, visual y oral están prohibidas. Previamente, el Consejo le pidió a Meta que desarrollara políticas y pautas para su aplicación que abordaran las publicaciones que incluyen texto e imágenes de forma integral (consulta el caso Publicación en polaco contra las personas trans). Esto es especialmente importante para el contenido similar a la publicación de este caso, en la que se necesita contexto para comprender su significado como un todo. En el análisis que Meta realizó de la publicación, esto se lleva a cabo de forma inconsistente: la empresa considera el texto al interpretar la imagen, pero no considera la imagen al interpretar el texto. Asimismo, el Consejo destacó que la terminología elegida por Meta de "amenaza encubierta" podría ser engañosa para algunos usuarios, ya que sugiere que una amenaza está disimulada o, quizá, hasta que tiene menos gravedad. Si bien la publicación de este caso requiere algo de interpretación para comprenderla, hay una intención clara de transmitir un mensaje amenazante.

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar, además, uno o más de los fines legítimos mencionados en el ICCPR, incluido el de proteger los derechos de los demás. Por medio de la norma comunitaria sobre violencia e incitación, se pretende "prevenir la posible violencia en la vida real" eliminando el contenido que representa "riesgo real de daños físicos". Esta política favorece el fin legítimo de proteger los derechos a la libertad de expresión y de reunión (artículos 19 y 21 del ICCPR) y el derecho a la vida y a la seguridad de una persona (artículos 6 y 9 del ICCPR).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado; y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

Al analizar los riesgos derivados del contenido violento, el Consejo normalmente se guía por la prueba de seis factores que se describe en el Plan de Acción de Rabat. Si bien el marco de Rabat se creó para evaluar la defensa del odio nacional, racial o religioso que incita a actos discriminatorios, hostiles y violentos, la prueba es útil para evaluar la incitación a la violencia en general (consulta los casos Eslogan de protesta contra Irán y Convocatoria a protesta de mujeres en Cuba). Sobre la base de una evaluación de los factores relevantes (en especial, el contenido y la forma de expresión, la intención del hablante y el contexto que figura debajo), el Consejo determinó que la eliminación del contenido es una limitación necesaria y proporcionada sobre la expresión con el objetivo de proteger el derecho a la vida y a la seguridad de la defensora de los derechos humanos. En la publicación, se identifica a la defensora de los derechos humanos y se la amenaza con violencia. Ninguna intervención diferente de la eliminación mitigaría de forma adecuada los riesgos que presenta la publicación.

La Resistencia con frecuencia usó acusaciones de criminalidad y corrupción contra ONG y defensores de los derechos humanos de Perú para alentar movilizaciones, que dieron lugar a ataques. En la publicación, se identificó a la defensora de los derechos humanos de forma personal y se la amenazó a través de i) una imagen alterada que representa las secuelas de una agresión violenta y ii) un texto que evoca narrativas que se usaron para movilizar tales ataques.

El contenido se publicó el mismo día en que se llevaron a cabo movilizaciones contra el Gobierno peruano para criticar "infracciones que perjudican los intereses de la gran mayoría de la población" cometidas por el Estado. El Relator Especial de la ONU sobre los derechos a la libertad de reunión pacífica y de asociación destacó la "presunta estigmatización y criminalización de los defensores de los derechos humanos, la persistencia de prácticas problemáticas en la respuesta del Estado a las protestas sociales y la falta de una protección eficaz para los defensores en situación de riesgo" como una gran preocupación en Perú. Asimismo, la situación de los defensores de los derechos humanos debería interpretarse en el contexto de amenazas, intimidación, acoso y ataques físicos cometidos por grupos como La Resistencia (consulta los comentarios PC-30929, PC-30927, PC-30930 y PC-30932). Un miembro influyente de La Resistencia con una cantidad significativa de seguidores en los medios sociales realizó la publicación. En una investigación encargada por el Consejo, se destacó el papel público del usuario en la organización de reuniones para hostigar a periodistas y defensores de los derechos humanos con amenazas de muerte e intimidación. El Consejo determinó que cualquier amenaza de actos violentos por parte de tales usuarios conlleva riesgos de daños a corto plazo para las personas representadas. El Consejo hizo hincapié en que las críticas a las ONG están permitidas, pero las amenazas de violencia creíbles no lo están.

Informes recientes corroboran la gravedad de las amenazas dirigidas a los defensores de los derechos humanos. La Relatora Especial de la ONU sobre la situación de los defensores de los derechos humanos afirmó que los defensores reciben cada vez más amenazas y que "las amenazas de muerte, que a menudo preceden al asesinato de los defensores de los derechos humanos" representan una gran preocupación. La Relatora Especial también observó que "muchas amenazas están basadas en el género" y se dirigen a defensoras de los derechos humanos. En Perú, el Relator Especial llegó a la conclusión de que "muchos de los defensores de los derechos humanos no pueden trabajar en un entorno seguro y propicio". A través de una solicitud de información de carácter público realizada a las autoridades peruanas en 2023, la organización de derechos humanos Amnistía Internacional indicó que el Mecanismo para la Protección de Personas Defensoras de Derechos Humanos del Estado registró 197 amenazas contra defensores de los derechos humanos o sus familias, y que 60 de estos fueron víctimas de abusos físicos o verbales (consulta el comentario PC-30928). La Amnistía Internacional también confirmó el asesinato de, al menos, cuatro defensores de los derechos humanos en Perú en 2023.

Además de plantear riesgos físicos, el contenido que se dirige a defensores de los derechos humanos con amenazas y se acompaña con narrativas empleadas para movilizar a grupos que ya atacaron a ONG (incluso si esto se hace de forma implícita y se requiere contexto para la comprensión) perpetúa una atmósfera de miedo y fomenta un entorno en el que se normalizan los hostigamientos a los grupos de sociedad civil de forma más amplia. En la práctica, esto dificulta la tarea de los defensores de los derechos humanos de proteger los derechos de las demás personas. De acuerdo con un Relator de la ONU, la estigmatización está "intrínsecamente conectada" con el deterioro de los derechos humanos por los que abogan los defensores. En Perú, esta dinámica se vio exacerbada por iniciativas legislativas que procuran ejercer mayor control gubernamental sobre las ONG e implementar restricciones sobre los derechos a la libertad de reunión pacífica y de asociación durante las manifestaciones. Tal como The International Center for Not-for-Profit Law señaló en su comentario público (PC-30930): "El trabajo de los defensores de los derechos humanos es esencial para fortalecer la democracia y el estado de derecho […] el respeto por los derechos humanos en una sociedad democrática depende en gran medida de que haya garantías efectivas y adecuadas para los defensores de los derechos humanos, que les permitan llevar a cabo sus actividades con libertad".

Debido al miedo de convertirse en un objetivo, las amenazas pueden generar efectos amedrentadores en la libertad de expresión de los defensores de los derechos humanos, en especial, de las mujeres. Las mujeres suelen asumir una carga mayor en la defensa y la organización de la lucha por la igualdad de derechos y, con frecuencia, reciben amenazas y abusos de manera desproporcionada. Las defensoras de los derechos humanos también plantearon inquietudes acerca de los graves riesgos de sobreaplicación de políticas cuando Meta interpreta el discurso político que usa metáforas violentas o dirige la atención a abusos contra los derechos humanos (consulta el caso Eslogan de protesta contra Irán). Como la Relatora Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión indicó en un informe de 2023, la desinformación de género y el abuso online "puede[n] llevar a las mujeres que actúan en la vida pública o el periodismo a abandonar los espacios en línea o puede[n] tener un efecto amedrentador sobre su libertad de expresión y sobre su capacidad para continuar con sus actividades profesionales". Las partes interesadas que participaron en la mesa redonda organizada por el Consejo sobre la "Protección de los defensores de los derechos humanos online" manifestaron que los defensores, en especial, las mujeres, las mujeres de color y las mujeres queer, se encuentran atrapadas en una situación sin solución: dependen de los productos de Meta para realizar su trabajo, pero, a la vez, están sujetas a situaciones de acoso y amenazas en las plataformas de la empresa.

5.3 Contenido idéntico con contexto paralelo

El Consejo recibió reportes (comentario PC-30929) de que el contenido, a pesar de no estar disponible luego de la inhabilitación de la cuenta del usuario, se volvió a compartir en diferentes cuentas asociadas al usuario. Tras esta decisión, Meta debería garantizar que se elimine todo contenido idéntico, a menos que se haya compartido en un contexto de condena o de concientización.

6. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de conservar el contenido.

7. Recomendaciones

Política de contenido

1. Para garantizar que su noma comunitaria sobre violencia e incitación refleje con claridad de qué forma las amenazas encubiertas pueden presentarse en textos e imágenes, Meta debería aclarar que las amenazas estructuradas en "declaraciones cifradas" incluso "en las que el método de violencia no se expresa con claridad" están prohibidas en forma escrita, visual y oral.

El Consejo considerará que se implementó esta recomendación cuando el texto público de la norma comunitaria sobre violencia e incitación refleje el cambio propuesto.

Aplicación de políticas

2. Para garantizar que las posibles amenazas encubiertas se evalúen con mayor precisión, a la luz de la interpretación incorrecta que hizo Meta de este contenido en la etapa de escalamiento, el Consejo le recomendó a la empresa realizar una evaluación anual de la precisión con que trabaja en esta área problemática. Esta debería prestar especial atención a los índices de falsos negativos de detección y eliminación de amenazas contra los defensores de los derechos humanos, así como a los índices de falsos positivos correspondientes a discursos políticos (p. ej., consulta el caso "Eslogan de protesta contra Irán"). Como parte de este proceso, Meta debería investigar oportunidades de mejorar la precisión en la detección de amenazas de alto riesgo (baja prevalencia, alto impacto) en los procesos a gran escala.

El Consejo considerará que se implementó esta recomendación cuando Meta comparta los resultados de esta evaluación, entre otras cosas, de qué modo estos resultados se usarán para realizar mejoras en las operaciones de aplicación y desarrollo de políticas.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5 y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, un grupo de investigaciones digitales que brinda asesoría en materia de riesgos y servicios de inteligencia sobre amenazas para mitigar los riesgos online, también colaboró en la investigación.

Volver a Decisiones de casos y opiniones consultivas sobre políticas