Mujer iraní reprendida en la calle

Resumen

El Consejo asesor de contenido revoca la decisión original de Meta de retirar un vídeo en el que se mostraba a un hombre reprendiendo a una mujer en las calles de Irán por no llevar puesto el hiyab. La publicación no infringe la política sobre violencia e incitación de las Normas comunitarias porque contenía una afirmación figurada más que literal y no suponía una amenaza creíble de violencia. Se compartió durante un periodo de disturbios, creciente represión y violencia contra las personas que se manifestaban, por lo que el acceso a los medios sociales en Irán es fundamental, ya que internet representa el nuevo campo de batalla en la lucha por los derechos de las mujeres. Como Instagram es una de las pocas plataformas que aún no se han prohibido en el país, tiene un enorme valor para el movimiento antirrégimen “Mujer, Vida, Libertad”, pese a los esfuerzos del régimen por atemorizar y silenciar a las mujeres en internet. El Consejo concluye que las iniciativas de Meta para garantizar el respeto a la libertad de expresión y de reunión en el contexto de represión política sistemática no han sido suficientes y recomienda un cambio en el Protocolo de políticas durante emergencias.

Información sobre el caso

En julio de 2023, un usuario publicó un vídeo en Instagram en el que un hombre reprende a una mujer en público por no llevar puesto el hiyab. En el vídeo, que está en persa con subtítulos en inglés, la mujer responde diciendo que está defendiendo sus derechos. Una descripción que acompaña a la publicación expresa apoyo por esa mujer en particular y por las mujeres de Irán que hacen frente al régimen. Parte de la descripción, que también critica al régimen, incluye una frase que, según Meta, se traduce como “falta poco para hacerte pedazos” (en inglés, “it is not far to make you into pieces”).

El Código Penal de Irán penaliza a las mujeres que se muestran en público sin un hiyab adecuado con penas de cárcel, multas o azotes. En septiembre de 2023, el régimen iraní aprobó un nuevo proyecto de ley sobre castidad y uso del hiyab, conforme al cual las mujeres podrían ser condenadas a hasta diez años de cárcel si seguían desafiando las reglas obligatorias de uso del hiyab. La descripción de esta publicación deja claro que a la mujer del vídeo ya la habían detenido.

La publicación, que los sistemas automáticos de Meta habían marcado en un primer momento por infringir las Normas comunitarias de Instagram, se envió para que se sometiera a revisión manual. Varios revisores evaluaron el contenido en función de la política de violencia e incitación de Meta, pero no llegaron a la misma conclusión. Este hecho, junto con un error técnico, dio lugar a que la publicación se conservara en la plataforma. Posteriormente, un usuario la denunció, por lo que se llevó a cabo una ronda adicional de revisión, esta vez a cargo del equipo regional de Meta, que cuenta con conocimientos específicos del idioma. En esta etapa, se determinó que la publicación infringía la política de violencia e incitación y se la suprimió de Instagram. El usuario que publicó el contenido apeló ante el Consejo. Meta sostuvo que su decisión de suprimir la publicación era correcta hasta que el Consejo seleccionó el caso, momento en el cual la empresa revirtió su decisión y restauró la publicación.

Conclusiones principales

El Consejo considera que la publicación no infringe la política sobre violencia e incitación de las Normas comunitarias porque contiene lenguaje figurado, no literal, y no supone una amenaza creíble de violencia que pueda incitar a que se provoquen daños fuera de internet. Aunque la decisión original de Meta fue suprimir la publicación, en parte porque consideró la expresión “falta poco para hacerte pedazos” como una declaración de la intención de ejercer violencia de gravedad alta contra el hombre del vídeo, esta expresión no debería interpretarse de manera literal. Dado el contexto de las manifestaciones masivas en Irán, y teniendo en cuenta la descripción y el vídeo en conjunto, la frase es figurada y expresa ira y consternación hacia el régimen. Los expertos en lingüística consultados por el Consejo hicieron una traducción ligeramente distinta de la expresión, a saber: “te haremos pedazos dentro de poco” (en inglés, “we will tear you to pieces sometime soon”), y explicaron que transmite ira, decepción y resentimiento hacia el régimen. Más que incitar a causar daños al régimen, lo más probable es que la publicación lleve al régimen a tomar represalias violentas.

Si bien las bases de la política de Meta sugieren que se pueden tener en cuenta el “lenguaje” y el “contexto” a la hora de evaluar una “amenaza creíble”, las pautas internas que Meta da a sus moderadores no lo hacen posible en la práctica. A los moderadores se les pide identificar criterios específicos (una amenaza y un objetivo) y, si estos se cumplen, suprimir el contenido. El Consejo ya manifestó su preocupación por esta incongruencia en el caso Mensaje de protesta en Irán, en el que recomendaba a Meta proporcionar pautas que tengan en cuenta los matices a la hora de evaluar el contexto para que los moderadores no supriman de manera predeterminada el “lenguaje retórico” que expresa disenso. Sigue siendo preocupante que aún haya cabida para incoherencias en la aplicación de políticas contra lenguaje figurado en contextos como el de Irán. Asimismo, como la precisión de los procesos automatizados se ve afectada por la calidad de los datos de entrenamiento proporcionados por las personas, es probable que este error de suprimir lenguaje figurado se agrave.

Esta publicación también se evaluó conforme a la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias porque existe una regla que prohíbe el “[c]ontenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin llevarlo en contra de su voluntad o sin su consentimiento”. Esta regla de la política se ha editado y ahora está redactada del modo siguiente: “Contenido en el que se exponga la identidad de una persona y la ponga en peligro de sufrir daños”, seguida de una lista en la que se incluyen las “[m]ujeres sin velo”. El Consejo coincide con Meta en que el contenido no “expone” a la mujer del vídeo y en que el riesgo de daño había disminuido porque se trataba de una persona muy conocida que ya había sido detenida. De hecho, la publicación se compartió para que se supiese que la habían detenido y presionar así a las autoridades para que la liberasen.

Puesto que Irán está designado como país en riesgo en virtud de las políticas para situaciones de emergencia de Meta (que incluyen el Protocolo de políticas durante emergencias), la empresa puede aplicar cambios temporales a sus políticas (“modificadores”) para abordar una situación específica. Si bien el Consejo reconoce los esfuerzos de Meta en Irán, estos no han sido suficientes para garantizar que se respete el derecho a la libertad de expresión y de reunión de las personas en entornos de represión sistemática.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anula la decisión original de Meta de retirar la publicación.

El Consejo recomienda que Meta tome las siguientes medidas:

• Incorporar un modificador al Protocolo de políticas durante emergencias para que quede claro que las afirmaciones figuradas (es decir, no literales) cuya intención no sea incitar a la violencia, y sea improbable que lo hagan, no infringen la regla de la política sobre violencia e incitación que prohíbe las amenazas de violencia en los contextos pertinentes. Este debería incluir el desarrollo de criterios que los moderadores encargados de procedimientos a gran escala puedan seguir para identificar estas afirmaciones en el contexto pertinente.

* Los resúmenes de casos ofrecen información general sobre estos y no sientan precedente alguno.

Decisión completa del caso

1. Resumen de la decisión

El Consejo asesor de contenido revoca la decisión original de Meta de retirar un vídeo en el que se mostraba a un hombre reprendiendo a una mujer en las calles de Irán por no llevar puesto el hiyab. Meta suprimió la publicación de Instagram debido al texto de la descripción “falta poco para hacerte pedazos”, que la empresa interpretó como una amenaza contra el hombre del vídeo que reprende a la mujer. El Consejo considera que la publicación no infringe la política de violencia e incitación porque la afirmación en cuestión es figurada (no literal) y, dado el contexto, no constituye una amenaza de violencia creíble. Después de que el Consejo seleccionara el caso, Meta inicialmente ratificó su decisión de suprimir la publicación. Sin embargo, antes de presentar sus argumentos ante el Consejo, la empresa determinó que la decisión original de retirar el contenido había sido errónea y, en consecuencia, restauró la publicación en la plataforma. El Consejo concluye que las iniciativas de Meta para garantizar el respeto a la libertad de expresión y de reunión en el contexto de represión política sistemática de la libertad de expresión no han sido suficientes y recomienda un cambio en el Protocolo de políticas durante emergencias.

2. Descripción y contexto del caso

En julio de 2023, un usuario de Instagram publicó un vídeo en persa con subtítulos en inglés en el que aparecía un hombre reprendiendo a una mujer en público por no llevar puesto el hiyab, a lo que la mujer respondía que estaba defendiendo sus derechos. En el vídeo, no es posible identificar al hombre, mientras que la identidad de la mujer queda completamente expuesta. Al parecer, el vídeo era una grabación que había compartido inicialmente una persona afín o afiliada al régimen iraní y que se había republicado. El vídeo está acompañado de una descripción, también en persa, en la que se apoya a esa mujer en concreto y la demás mujeres iraníes que hacen frente al régimen y se critica al régimen y a sus seguidores. En la descripción se incluía una expresión que Meta tradujo como “falta poco para hacerte pedazos” y se indicaba que habían detenido a la mujer tras el incidente. La publicación se visualizó 47 000 veces, se compartió 50 veces y tuvo 2000 Me gusta y 100 comentarios.

Un clasificador automático (algoritmo que usa Meta para identificar posibles infracciones de sus políticas) marcó este contenido en un primer momento por infringir potencialmente las Normas comunitarias de Instagram, por lo que fue enviado al proceso de revisión manual. Varios revisores evaluaron el contenido, que no se suprimió en ese momento debido a un error técnico y a que los revisores no llegaron a la misma conclusión respecto a si la publicación infringía la política sobre violencia e incitación. Más adelante, un usuario denunció el contenido y, en respuesta a esta denuncia, un clasificador automático determinó nuevamente que el contenido infringía potencialmente las políticas de Meta y lo envío a una revisión adicional. El contenido solo fue denunciado por un usuario en una única ocasión. Tras esta revisión adicional por parte del equipo de Meta con conocimientos regionales y lingüísticos, Meta suprimió la publicación de Instagram conforme a su política de violencia e incitación. La decisión de Meta de suprimir la publicación se basó en la expresión incluida en la descripción “falta poco para hacerte pedazos”. La empresa la interpretó como una amenaza contra el hombre del vídeo que se encara con la mujer por no llevar el hiyab. El usuario que creó la publicación apeló la decisión de retirada de Meta. Un revisor ratificó la decisión de la empresa.

El usuario que publicó el contenido apeló la decisión de supresión al Consejo. Cuando el Consejo eligió el caso para someterlo a una revisión de control de legalidad, Meta ratificó su decisión de suprimir el contenido. En esta etapa del proceso de revisión, Meta tuvo en cuenta la política sobre organización de actos nocivos y fomento de actividades delictivas, que prohíbe exponer a una mujer sin velo si esto la pone en riesgo de sufrir daños. En el momento en que se publicó el contenido, el régimen ya había detenido a la mujer. Después de que el Consejo seleccionara el caso, la empresa cambió su decisión y restauró el contenido basándose en aportaciones adicionales del equipo regional y en la decisión del Consejo en el caso Llamamiento a manifestaciones lideradas por mujeres en Cuba.

Tal como ya expresó el Consejo en la decisión del caso Mensaje de protesta contra Irán, parte de la población iraní lleva manifestándose en contra del Gobierno y a favor de los derechos civiles y políticos y de la igualdad de género al menos desde la revolución de 1979. En 2023, Narges Mohammadi, una defensora de los derechos humanos encarcelada, fue galardonada con el Premio Nobel de la Paz por sus “más de 20 años de lucha por los derechos de la mujer, [que] la han convertido en un símbolo de libertad y en abanderada de la batalla contra la teocracia iraní” (en inglés, “[m]ore than 20 years of fighting for women’s rights [which has] made her a symbol of freedom and standard-bearer in the struggle against the Iranian theocracy”). El Código Penal de Irán penaliza a las mujeres que se muestran en público sin un hiyab adecuado con penas de cárcel, multas o azotes. En este país, las mujeres tienen prohibido dedicarse a determinados campos de estudio y su presencia está prohibida en muchos lugares públicos, así como tampoco está permitido bailar con miembros del sexo opuesto, entre otras reglas. Se considera que los hombres tienen la máxima autoridad en el hogar, y las mujeres necesitan el permiso de sus padres o maridos para trabajar, casarse o viajar. Se considera que el testimonio de una mujer en un tribunal tiene la mitad de valor que el de un hombre, lo que limita el acceso de las mujeres a la justicia.

Desde que las autoridades iraníes intensificaron y ampliaron las medidas de uso obligatorio del hiyab en 2022, las mujeres se encuentran bajo un intenso escrutinio, que suele conducir a acoso verbal y físico y detenciones. En septiembre de 2022, la joven Jina Mahsa Amini, de 22 años, murió bajo custodia policial tres días después de haber sido detenida, presuntamente, por no cumplir con las reglas del país sobre el uso de un hiyab adecuado. Su muerte desató olas de indignación y protesta en todo el país, y dio nacimiento a un movimiento antirrégimen que se conoce como “Zan, Zendegi, Azadi” (“Mujer, Vida, Libertad”). En respuesta a este movimiento, las autoridades comenzaron a tomar medidas violentas, que han provocado más de 500 muertes confirmadas (a fecha de finales de 2022) y han hecho que aproximadamente 14 000 personas sean detenidas (entre ellas, manifestantes, periodistas, abogados, activistas, artistas y deportistas que expresaron su apoyo al movimiento).

En septiembre de 2023, el régimen iraní aprobó un nuevo proyecto de ley sobre castidad y uso del hiyab conforme al cual las mujeres podrían ser condenadas a hasta diez años de cárcel si seguían desafiando las reglas obligatorias del país sobre el uso del hiyab. Las empresas que atendieran a mujeres que no llevasen el hiyab también podrían recibir sanciones y corrían el riesgo de ser clausuradas.

Los medios sociales son fundamentales para el movimiento de protesta de las mujeres en Irán y desempeñan un papel indispensable en la movilización de las manifestaciones y la transmisión de información vital (véanse los comentarios públicos PC-21007 y PC-21011), así como en la documentación y conservación pública de pruebas que demuestran la comisión de abusos y violaciones de los derechos humanos (PC-21008, archivo adjunto).

Sin embargo, las campañas online también exponen a las mujeres al riesgo de sufrir una mayor represión por parte del régimen, como amenazas, campañas difamatorias, detenciones y encarcelamiento. Los expertos consultados por el Consejo señalaron la existencia de una amplia red de entidades asociadas con el Cuerpo de la Guardia Revolucionaria Islámica y el Gobierno iraní que operan en Instagram y Telegram, siendo esta última la aplicación más utilizada para acusar y atacar directamente a manifestantes y disidentes.

Varios comentarios públicos enviados al Consejo también señalaron la táctica empleada por el régimen consistente en denunciar de forma masiva contenido sobre las manifestaciones en Instagram empleando el sistema de denuncia disponible para los usuarios a fin de “presionar a las empresas de medios sociales para que supriman contenido relacionado con disidentes o apliquen bloqueos encubiertos” (véanse los comentarios públicos PC-21011 y PC-21009). También existen noticias sobre funcionarios de la inteligencia iraní que habrían ofrecido dinero a moderadores de contenido para suprimir el contenido crítico con el régimen.

En febrero de 2023, el Relator Especial de la ONU sobre la situación de los derechos humanos en Irán manifestó preocupación por la represión y los ataques constantes contra activistas de la sociedad civil, defensores de los derechos humanos, activistas por los derechos de la mujer, abogados y periodistas, a medida que las autoridades restringen las vías para expresar disenso, por ejemplo, mediante el bloqueo masivo del acceso a internet y la censura de las plataformas de medios sociales.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene potestad para revisar la decisión de Meta tras la apelación de la persona cuyo contenido se haya suprimido (acta constitutiva, artículo 2, apartado 1; estatutos, artículo 3, apartado 1).

El Consejo puede sostener o revocar la decisión de Meta (artículo 3, apartado 5 del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debería evaluar la viabilidad de aplicar su decisión respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, apartado 4, y artículo 4 del acta constitutiva). En los casos en los que Meta se compromete a tomar medidas basadas en esas recomendaciones, el Consejo supervisa su implementación.

Cuando el Consejo selecciona casos como este, en los que Meta posteriormente reconoce que se equivocó, revisa la decisión original para entender mejor el proceso de moderación de contenido y para hacer recomendaciones que contribuyan a reducir los fallos y a hacer que el sistema sea más justo para los usuarios de Facebook e Instagram.

4. Precedentes y pautas

El análisis del Consejo en este caso se basó en las normas y precedentes siguientes:

I. Decisiones del Consejo asesor de contenido

A continuación se indican algunas de las decisiones anteriores del Consejo asesor de contenido que resultan pertinentes en este caso:

• Llamamiento a manifestaciones lideradas por mujeres en Cuba
• Declaración metafórica contra el presidente de Perú
• Mensaje de protesta en Irán
• Aislamiento de Öcalan
• Síntomas de cáncer de mama y desnudos

II. Políticas de contenido de Meta

El análisis del Consejo se basó en el compromiso de Meta con la libertad de expresión, que la empresa califica como “de suma importancia”, y con su valores de seguridad, privacidad y dignidad.

Normas comunitarias de Instagram

Las Normas comunitarias de Instagram indican que la empresa suprimirá “cualquier contenido que incluya amenazas creíbles” y enlazan a la política sobre violencia e incitación de las Normas comunitarias de Facebook. Las Normas comunitarias de Instagram no incluyen ningún enlace a la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias de Facebook. En el Informe de aplicación de las Normas comunitarias del primer trimestre de 2023 de Meta se indica que Facebook e Instagram comparten las políticas de contenido. Esto significa que, si un contenido se considerase infractor de las normas de Facebook, también lo sería de las normas Instagram.

El contenido se suprimió conforme a la política sobre violencia e incitación. Después de que el Consejo seleccionara el caso, Meta también analizó el contenido según la política sobre organización de actos nocivos y fomento de actividades delictivas.

Política sobre violencia e incitación de las Normas comunitarias

Según sus bases, la política sobre violencia e incitación de las Normas comunitarias de Meta busca “evitar que se produzcan daños en el mundo real que puedan estar relacionados con el contenido” que se muestra en las plataformas de Meta. A su vez, Meta es consciente de que las personas suelen expresar desprecio o desacuerdo mediante amenazas o llamamientos a la violencia no literales ni deliberados. Por lo tanto, Meta suprime el contenido si considera que incluye “[a]menazas de violencia que podrían ocasionar la muerte”, incluido el contenido con “declaraciones de intenciones” de cometer actos de “violencia de gravedad alta” contra otras personas. La empresa afirma que, para determinar si una amenaza es creíble, tiene en cuenta el contexto de la declaración, que puede ser cualquier información adicional de la que disponga, como la notoriedad y la vulnerabilidad de la persona a la que se dirige el ataque.

La sección de la política Contenido que suprimimos (“do not post”, en la versión más reciente en inglés) prohíbe específicamente las “[a]menazas de violencia que podrían ocasionar la muerte (u otras formas de violencia de gravedad alta)”. El término “amenaza” incluye “las declaraciones de intención” de cometer actos de violencia de gravedad alta.

Política sobre la organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias

Según sus bases, la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias pretende “impedir que se produzcan daños fuera de internet y conductas de imitación”, motivo por el cual no se permite que las personas “faciliten, organicen ni fomenten determinadas actividades delictivas o perjudiciales cuyo objetivo sean terceros, empresas, propiedades o animales, ni que emitan afirmaciones en las que confiesen haber llevado a cabo dichas actividades”. Esto incluye la “exposición”, que Meta define como el contenido que revela la identidad o las ubicaciones de personas que presuntamente “[p]ertenecen a un grupo que corre peligro si se ve expuesto”. Los moderadores aplican esta regla de la política a gran escala en relación con algunos grupos concretos. Durante el proceso de escalado, con contexto adicional, la política de Meta vigente en el momento en que se publicó el contenido indicaba que también se podía suprimir el “[c]ontenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin llevarlo en contra de su voluntad o sin su consentimiento”. Desde entonces, la redacción de esta parte se ha actualizado del siguiente modo: “Contenido en el que se exponga la identidad de una persona y la ponga en peligro de sufrir daños”, seguida de una lista en la que se incluyen las “[m]ujeres sin velo”.

III. Responsabilidades de Meta en materia de derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos (PREDH) de la ONU, respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de responsabilidades de las empresas privadas en relación con estos derechos. La Política corporativa de derechos humanos de Meta, anunciada el 16 de marzo de 2021, reafirmaba el compromiso de la empresa de respetar los derechos tal como se fijan en los PREDH.

Las siguientes normas internacionales son pertinentes para el análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en este caso:

• Derecho a la libertad de expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP); Observación general n.º 34 del Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y de expresión: A/HRC/38/35 (2018) y A/74/486 (2019); y Plan de Acción de Rabat, informe de la Alta Comisionada de las Naciones Unidas para los Derechos Humanos: A/HRC/22/17/Add.4 (2013).
• Derecho a la libertad de reunión pacífica: artículo 21 del PIDCP; Observación general n.º 37 del Comité de Derechos Humanos (2020).
• Derecho a la vida: artículo 6 del PIDCP.
• Derecho a la libertad y a la seguridad de las personas: artículo 9 del PIDCP.
• Derecho a la no discriminación: artículos 2(1), 3 y 26 del PIDCP). artículo 1 y 7 (no discriminación en la vida pública y política del país), Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer ( CETFDCM). Véase también la Declaración sobre los defensores de los derechos humanos, artículo 8, sobre el derecho a tener la oportunidad efectiva, sobre una base no discriminatoria, de participar en la gestión de los asuntos públicos.
• Derecho a la privacidad: artículo 17 del PIDCP.

5. Manifestaciones del usuario

El usuario que publicó el contenido apeló su supresión ante el Consejo. En su declaración, este explicó que la publicación mostraba a un representante del Gobierno iraní reprendiendo a una mujer por no usar el hiyab. El usuario afirmó que el vídeo refleja la valentía de la mujer iraní que está defendiendo sus derechos. También indicó que otras personas habían compartido vídeos similares en los medios sociales y que el contenido no era perjudicial ni peligroso, y no infringía ninguna política de Instagram.

6. Manifestaciones de Meta

Política sobre violencia e incitación de las Normas comunitarias

Meta indicó al Consejo que basó su decisión original de suprimir el contenido en este caso en la política sobre violencia e incitación. Explicó que su decisión se basó en la parte de la descripción de la publicación que la empresa tradujo como “falta poco para hacerte pedazos”. La empresa interpretó que estaba dirigida al hombre del vídeo que se encara con la mujer por no llevar el hiyab. El equipo regional determinó que la expresión “hacerte pedazos” constituía una amenaza de daño físico en el contexto de Irán. Dada esa interpretación, Meta inicialmente sostuvo su decisión de suprimir el contenido de conformidad con la política sobre violencia e incitación.

Si bien Meta sostuvo esta decisión cuando el Consejo detectó el caso en un primer momento para someterlo a una revisión de control de legalidad, la empresa cambió posteriormente su decisión, después de que el Consejo seleccionara el caso, y restauró el contenido en función de las aportaciones adicionales del equipo regional. A partir de estas aportaciones, Meta concluyó que la interpretación más probable del texto de la descripción era como referencia a la derrota del régimen iraní o de las personas que defienden el uso obligatorio del hiyab, y no como una amenaza literal contra el hombre que aparece en el vídeo.

En esta última revisión, Meta concluyó que la finalidad del contenido era sensibilizar y llamar la atención sobre los abusos contra las mujeres, como es el caso de la mujer del vídeo, que es reprendida por un hombre por no usar el hiyab. El usuario alude a la fortaleza de las mujeres iraníes y critica la “actitud canalla”(en inglés, “bastardness”) del hombre que graba el vídeo o del régimen en su totalidad, además de divulgar que la mujer del vídeo había sido detenida. Meta explicó que el lenguaje potencialmente amenazante debía leerse e interpretarse teniendo en cuenta este contexto general. En sus argumentos, Meta afirmó (y cita la decisión del Consejo en el caso “Mensaje de protesta en Irán”) que esta manera de generar conciencia es de particular importancia en Irán, país en el que existen escasas vías para ejercer la libertad de expresión.

Meta también informó al Consejo de que, tras llevar a cabo estudios adicionales, los equipos regionales sugirieron que la forma más razonable de interpretar la frase “falta poco para hacerte pedazos” no era como una amenaza real, sino como una crítica dirigida a todo el régimen o, de manera global, a las personas que defienden el uso obligatorio del hiyab. Si bien “hacerte pedazos” suele hacer referencia a asesinar a una persona cortándole el cuerpo en pedazos, aquí se podría entender como desmantelar el régimen (de manera similar al lenguaje metafórico analizado en el resumen de la decisión del caso Declaración metafórica contra el presidente de Perú).

Meta indicó al Consejo que otro factor por el cual la empresa decidió en última instancia restaurar el contenido fue la decisión reciente del Consejo en el caso Llamamiento a manifestaciones lideradas por mujeres en Cuba, en el cual el Consejo enfatizó que una interpretación contextual de la publicación debería tener en cuenta la ola de represión por parte del Estado y el gran interés público de las manifestaciones históricas a las cuales se refería la publicación. Asimismo, la empresa consideró el caso Mensaje de protesta en Irán, en el que el Consejo analizó el movimiento político en torno a los derechos de la mujer en este país. En ese caso, el Consejo destacaba la importancia de proteger la libertad de expresión en el contexto del movimiento de protesta, en particular, en vista de la represión sistemática de este derecho que ejerce el Gobierno iraní y de la importancia que tienen los espacios digitales como foro para expresar disenso. La empresa también indicó que había tenido en cuenta la decisión resumida del Consejo en el caso “Declaración metafórica contra el presidente de Perú”, que hacía hincapié en la “importancia de diseñar sistemas de moderación que tengan en cuenta el contexto y sean capaces de discernir la ironía, la sátira o el discurso retórico, sobre todo para proteger el discurso político”.

Política sobre la organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias

Asimismo, Meta informó al Consejo de que también había considerado suprimir el contenido en virtud de la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias porque exponía involuntariamente a la mujer del vídeo sin el velo. Meta aplica esta regla de la política solo en el proceso de escalado en caso de que se le proporcione contexto adicional. La aplicación de esta regla, que requiere de aportaciones de las partes interesadas correspondientes, no analiza los términos específicos usados o el tono del contenido o la descripción, sino que se centra en determinar si el contenido muestra a una mujer sin velo, de modo que se exponga su identidad sin su permiso y sea probable que la ponga en peligro. Meta señala que una persona no se puede “exponer” a sí misma, sino que, para infringir la política, esta exposición debe ser involuntaria.

En este caso, Meta determinó que el contenido no debería suprimirse por exponer de forma involuntaria la identidad de la mujer porque se trata de una persona muy conocida con presencia online y que ya había sido detenida cuando se publicó el contenido. Estas circunstancias reducían de forma significativa el riesgo de daños asociados con mantener publicado el contenido en la plataforma.

El Consejo planteó a Meta 11 preguntas y 2 preguntas de seguimiento por escrito. Las preguntas estaban relacionadas con los procedimientos de aplicación de políticas y los recursos disponibles en Irán, la evaluación de riesgos de Meta para Irán en términos generales y para la mujer del vídeo en particular, los procesos de revisión automática y manual, la aplicación de políticas al contenido que muestra a mujeres sin velo y la exposición de un grupo de riesgo, a gran escala y en el proceso de escalado. Meta ha respondido a todas las preguntas.

7. Comentarios públicos

El Consejo asesor de contenido ha recibido 12 comentarios públicos pertinentes para este caso: siete comentarios se enviaron desde los Estados Unidos y Canadá, dos eran de Asia central y meridional, dos procedían de Europa y uno era de Oriente Medio y África septentrional.

Los comentarios estaban relacionados con los siguientes temas: el rol de los medios sociales en las manifestaciones de Irán, incluido el movimiento “Mujer, Vida, Libertad”, y el papel que juegan las imágenes de mujeres sin velo en las campañas digitales; los riesgos de difundir en medios sociales imágenes que muestran a mujeres sin velo en Irán; el uso que hacen las autoridades iraníes de los medios sociales; la aplicación de las políticas de moderación de contenido de Meta para discurso en persa relacionado con la situación política de Irán; libertad de expresión, derechos humanos, derechos de la mujer, represión del Gobierno y bloqueo del acceso a medios sociales en Irán.

Los comentarios públicos recibidos en relación con este caso se pueden consultar aquí.

8. Análisis del Consejo asesor de contenido

El Consejo evaluó la decisión original de Meta de suprimir el contenido en vista de las políticas de contenido. las responsabilidades en materia de derechos humanos y los valores de la empresa.

El Consejo seleccionó este caso porque ofrecía la oportunidad de analizar las políticas sobre violencia e incitación y sobre organización de actos nocivos y fomento de actividades delictivas, así como los procesos de aplicación relacionados con ellas en el contexto de las manifestaciones masivas en defensa de los derechos de la mujer y de la participación de las mujeres en la vida pública de Irán que se llevan produciendo desde septiembre de 2022. En particular, aborda la importancia de las plataformas de medios sociales para las personas que se manifiestan en contra de las reglas sobre el uso obligatorio del hiyab.

Asimismo, el caso da al Consejo la oportunidad de analizar los procedimientos internos de Meta que determinan cuándo y por qué el lenguaje figurado, si se interpreta de forma literal, podría considerarse una amenaza, pero que, dado el contexto, no debería interpretarse como una amenaza creíble. Principalmente, este caso entra dentro de la prioridad “Elecciones y espacio cívico” del Consejo, pero también tiene una cierta relación con las prioridades “Género”, “Uso de las plataformas de Meta por parte de Gobiernos” y “Situaciones de conflicto y crisis”.

8.1 Cumplimiento de las políticas de contenido de Meta

Política sobre violencia e incitación de las Normas comunitarias

El Consejo considera que el contenido en este caso no infringe la política sobre violencia e incitación de las Normas comunitarias, ya que incluye lenguaje figurado que expresa ira hacia la represión del Gobierno, no una amenaza literal (y, por ende, creíble) de violencia.

Meta explicó que, en este caso, suprimió el contenido en un primer momento porque incluía una “declaración de intención de cometer violencia de gravedad alta”. Meta define “violencia de gravedad alta” como una amenaza que pueda ocasionar la muerte o sea probable que llegue a ser letal.

A partir de la evaluación llevada a cabo por el equipo regional, Meta interpretó la expresión “falta poco para hacerte pedazos” de la descripción de la publicación como una amenaza de daño físico en el contexto iraní, lo que infringiría la política sobre violencia e incitación.

Los expertos en lingüística consultados por el Consejo explicaron que la parte pertinente de la descripción se puede traducir como “¡te haremos pedazos dentro de poco!” o “dentro de poco te haremos trizas” (en inglés, respectivamente, “we will tear you to pieces sometime soon!” o “it is not far away, we will rip you into shreds). Los expertos indicaron que la expresión en el contexto de Irán expresa ira, decepción y resentimiento contra los opresores, y sugiere la idea de que la situación podría cambiar eventualmente, ya que el poder de dichos opresores no será eterno. Esta frase no debe interpretarse de manera literal como una intención de causar daño físico; más bien se trata de una “afirmación retórica” que busca captar la atención y emplea un lenguaje con carga emocional mediante el uso de verbos contundentes como “hacer pedazos” o “hacer trizas”. Estos expertos señalaron que dicho lenguaje figurado refleja la profunda ira que sienten tanto quien hizo la publicación como su audiencia. Por tanto, no implica una amenaza real de violencia física.

Si bien Meta explicó al Consejo que también tiene en cuenta el contexto de la declaración cuando evalúa si una amenaza es creíble, las normas que proporciona a los moderadores no indican que estos puedan tener en cuenta el contexto al analizar si hay una declaración de intención de cometer actos violentos de gravedad alta. Siempre que se cumplan los requisitos de la regla, en especial cuando el contenido incluye una amenaza y una persona a la que va dirigida, la publicación se considera infractora, como ocurrió en este caso. En esta ocasión, Meta interpretó la declaración como una amenaza contra el hombre que sigue a la mujer. La regla no exige que la persona atacada sea visible o identificable. En las reglas aparece solo un ejemplo de lenguaje amenazante que está exento o no se considera una amenaza creíble: las amenazas dirigidas a determinados actores violentos, como los grupos terroristas.

La expresión “hacerte pedazos” no constituye aquí una amenaza creíble. Dado el contexto, es decir, un periodo de disturbios, creciente represión y violencia contra las personas que se manifiestan contra el régimen en Irán, y teniendo en cuenta la descripción y el vídeo en su totalidad, el Consejo considera que la frase es figurada (no literal), que expresa ira y consternación hacia el régimen y que no constituye una declaración de intención de cometer actos violentos de gravedad alta. Esta interpretación es coherente con el compromiso de Meta con la libertad de expresión y la importancia de proteger los discursos de descontento político.

Política sobre la organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias

El Consejo considera que el contenido de este caso no infringe la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias.

Meta consideró suprimir la publicación de acuerdo con la regla de la política que prohíbe el “[c]ontenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin llevarlo en contra de su voluntad o sin su consentimiento”. Desde entonces, la redacción de esta regla se ha actualizado del siguiente modo: “Contenido en el que se exponga la identidad de una persona y la ponga en peligro de sufrir daños”, seguida de una lista en la que se incluyen las “[m]ujeres sin velo”. La empresa entiende “exposición” como el contenido que muestra la imagen de una mujer sin velo, que revela su identidad sin su consentimiento y la pone en riesgo de sufrir daños. Esta regla de la política solo se aplica en el proceso de escalado y únicamente si se cuenta con las aportaciones necesarias de diversas partes interesadas (véase el apartado 4 anterior).

En este caso, el Consejo coincide con Meta en que el contenido no constituye una “exposición” de la mujer del vídeo, ya que se trata de una persona muy conocida, y en que el riesgo de daño había disminuido porque ya había sido detenida en el momento de la publicación del contenido. Por lo tanto, el hecho de que el vídeo permanezca en la plataforma no aumentaría significativamente el nivel de riesgo de la mujer sino que, de hecho, podría protegerla porque da a conocer su caso. La decisión de si una publicación constituye una “exposición” de una mujer y la pone en riesgo depende enormemente del contexto. En este sentido, aplicar la política solo en el proceso de escalado puede garantizar que el equipo que la aplique cuente con el tiempo y los recursos necesarios para identificar y analizar el contexto pertinente.

8.2. Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo determina que la supresión del contenido de la plataforma no es coherente en esta ocasión con las responsabilidades de Meta en materia de derechos humanos.

Libertad de expresión (artículo 19 del PIDCP)

El artículo 19 del PIDCP proporciona una protección amplia de la libertad de expresión, incluida “la libertad de buscar, recibir e impartir información e ideas de todo tipo, independientemente de las fronteras, ya sea de manera oral, escrita o impresa, en forma de expresión artística, o por otros medios”. Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3 del PIDCP). El Consejo usa este marco para interpretar los compromisos voluntarios de Meta en materia de derechos humanos, tanto respecto de la decisión sobre el contenido concreto sometido a revisión como de lo que esto pone de manifiesto acerca del enfoque global de la empresa en relación con la gobernanza en estrategia de contenidos. Tal como afirma el Relator Especial de la ONU sobre la promoción y protección del derecho a la libertad de opinión y de expresión: “las empresas no tienen las obligaciones de los Gobiernos, pero su repercusión es de un tipo que las obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión” (A/74/486, párrafo 41).

El acceso a los medios sociales es fundamental en una sociedad cerrada como Irán. Como “guardianes digitales”, las plataformas de medios sociales tienen un “profundo impacto” en el acceso del público a la información ( A/HRC/50/29, párrafo 90). La publicación en este caso es parte de un movimiento de protesta más amplio, cuya supervivencia depende de los espacios cívicos digitales. Las leyes que determinan cómo debe vestirse una mujer coartan su libertad y su dignidad ( A/68/290, párrafo 38), tanto si la finalidad es prohibirle llevar velo como mostrarse en público sin él (véase, por ejemplo,Yaker v. Francia, CCPR/C/123/D/2747/2016). En este sentido, “Internet se ha convertido en el nuevo campo de batalla en la lucha por los derechos de las mujeres, ya que amplía las oportunidades que estas tienen para expresarse” (A/76/258, párrafo 4). Empoderar a las mujeres para que ejerzan su libertad de expresión fomenta su participación en asuntos políticos y la materialización de sus derechos humanos ( A/HRC/Res/23/2, párrafos 1-2; A/76/258, párrafo 5).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que todas las restricciones a la libertad de expresión se apliquen conforme a una regla establecida que sea clara y de acceso público. La regla debe “estar formulada con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ella, y hacerse accesible al público” ( Observación general n.º 34, párrafo 25). Asimismo, las reglas que restrinjan la expresión “no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión” y “deben proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no”. (Observación general n.º 34, párrafo 25; A/HRC/38/35 [undocs.org], párrafo 46). La falta de claridad o precisión puede dar lugar a que la aplicación de las reglas sea incoherente y arbitraria. Aplicado a Meta, los usuarios deben poder predecir las consecuencias de publicar contenido en Facebook e Instagram, y los revisores de contenido deben contar con normas claras para aplicar las políticas.

Política sobre violencia e incitación de las Normas comunitarias

El Consejo considera que, si bien las bases de la política sobre violencia e incitación (que expresan los objetivos que persigue dicha política, pero no forman parte de la política en sí) sugieren que el contexto es importante y que se puede tener en cuenta al evaluar una amenaza creíble, las normas internas y el enfoque de moderación de Meta no lo hacen posible en la práctica. Tal como expuso el Consejo en el caso “Mensaje de protesta en Irán”, las instrucciones que reciben los moderadores de contenido a gran escala es que busquen criterios o elementos específicos en la publicación y, si los encuentran, que la supriman. En otras palabras, si la publicación incluye una amenaza (por ejemplo, “voy a matarte” o “te haré pedazos”) contra alguien, el resultado será su supresión. Los moderadores de contenido no cuentan con las herramientas para llevar a cabo una evaluación que les permita determinar si una amenaza es creíble. Como Meta también explicó en ese caso, se aplica un enfoque mecánico o formulista porque “evaluar si [una expresión] constituye un recurso retórico en lugar de una amenaza creíble es difícil, especialmente a gran escala”. Es decir, se tiene en cuenta si las amenazas son creíbles para crear la regla, pero no para aplicarla. Como ya mencionara el Consejo en el caso “Mensaje de protesta en Irán”, si bien “las bases de la política parecen incluir el discurso retórico del tipo que podría esperarse en contextos de manifestaciones, las reglas por escrito y las pautas pertinentes que se proporcionan a los revisores no lo hacen. De hecho, en la práctica, en especial a gran escala, la aplicación de políticas se basa más en una fórmula de lo que las reglas suponen, y esto podría generar percepciones erróneas entre los usuarios respecto a cómo es probable que se apliquen las reglas. Las pautas que se proporcionan a los revisores, según su formato actual, excluyen la posibilidad de un análisis contextual, incluso cuando existan indicios claros en el contenido mismo de que el lenguaje intimidatorio sea retórico”. Sigue existiendo una incoherencia entre las bases de la política que fija la empresa y la manera en que se aplican realmente, lo cual no cumple adecuadamente el principio de legalidad.

El Consejo reitera sus conclusiones del caso “Mensaje de protesta en Irán”, en las que indicaba que Meta debería proporcionar a los moderadores normas matizadas sobre cómo tener en cuenta el contexto e indicarles que no supriman de manera predeterminada el lenguaje “retórico” o no literal que exprese disenso, en particular en entornos políticos delicados, como es el caso de Irán.

Política sobre la organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias

El Consejo considera que la regla de Meta que prohíbe el “[c]ontenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin llevarlo en contra de su voluntad o sin su consentimiento” es lo suficientemente clara, tal como se aplica a este caso. Deja claro que se prohíbe el contenido que exponga a mujeres sin velo y que podría ponerlas en riesgo de daño en las plataformas de Meta. Sin embargo, el Consejo señala con preocupación que las Normas comunitarias de Instagram no incluyen ningún enlace a la política sobre organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias de Facebook. Esto dificulta el acceso de los usuarios de Instagram a las reglas. En casos anteriores ( “Síntomas de cáncer de mama y desnudos”, “Aislamiento de Öcalan”), el Consejo recomendó a Meta aclarar a los usuarios públicamente cómo se aplican las Normas comunitarias de Facebook a Instagram. En respuesta, Meta inició un proceso para unificar estas Normas comunitarias con las de Instagram e indicar qué políticas no son exactamente iguales en ambas plataformas. En cuanto a la presentación de informes de transparencia trimestrales, Meta aseguró al Consejo que esta iniciativa sigue siendo una prioridad y señaló que el estudio de los aspectos legales y reglamentarios afectó a sus plazos. El Consejo reitera la importancia de completar este proceso con celeridad y garantizar la claridad de las reglas aplicables.

II. Fin legítimo

Conforme al artículo 19, párrafo 3, del PIDCP, existe una lista limitada y definida de motivos por los que se puede restringir la expresión, entre ellos, para proteger los derechos de otras personas. En este caso, el Consejo considera que la política sobre violencia e incitación de las Normas comunitarias procura evitar que se produzcan daños fuera de internet” suprimiendo el contenido que pueda suponer “un riesgo real para la integridad física de las personas o amenazas directas a la seguridad pública”. Por lo tanto, esta política ampara el fin legítimo de proteger el derecho a la vida (artículo 6 del PIDCP) y a la seguridad de la persona (artículo 9 de PIDCP; Observación general n. 35, párrafo 9).

La política sobre organización de actos nocivos y fomento de actividades delictivas tiene el fin legítimo de proteger los derechos de las mujeres en Irán a la no discriminación (artículos 2, 3 y 26 del PIDCP; artículos 1 y 7 de la CETFDCM), lo que incluye el disfrute de sus derechos a la libertad de expresión y reunión (artículos 19 y 21 del PIDCP), a participar en la vida pública (artículos 1 y 7 de la CETFDCM), a la privacidad (artículo 17 del PIDCP) y a la vida (artículo 6 del PIDCP) y la libertad y la seguridad de la persona (artículo 9 del PIDCP).

III. Necesidad y proporcionalidad

Todas las restricciones que se apliquen a la libertad de expresión “deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse” (Observación general n.º 34, párrafo 34). Las empresas de medios sociales deben evaluar diversas respuestas posibles ante contenido problemático, no solo su eliminación, para garantizar que las restricciones se apliquen de la manera más individualizada posible (A/74/486, párrafo 51).

Política sobre violencia e incitación de las Normas comunitarias

El Consejo considera que la decisión inicial de Meta de suprimir el contenido en este caso no era necesaria para proteger la seguridad de la persona que grababa el vídeo ni la de otros, ya que la amenaza que figura en la descripción no es literal. Al Consejo le preocupa que, incluso tras sus recomendaciones en el caso “Mensaje de protesta en Irán”, las Normas comunitarias de la empresa y las pautas proporcionadas a los moderadores sigan dando lugar a incoherencias en la aplicación de las políticas cuando hay amenazas figuradas (no literales), pese a la situación en Irán, donde ya hace más de un año que hay manifestaciones. En ese caso, como en este, hubo una expresión que Meta no supo identificar como una declaración de amenaza no literal. La permanente falta de pautas adecuadas es aún más patente debido a que el contenido en este caso fue revisado por varios moderadores de contenido a gran escala y equipos de Meta y se calificó como infractor en reiteradas ocasiones.

Como parte de su análisis, el Consejo recurrió a los seis factores del Plan de Acción de Rabat para evaluar la capacidad del contenido de este caso de presentar un riesgo grave de incitar a la discriminación, la violencia u otras acciones ilícitas. El Consejo señala que, si bien los factores del Plan de Acción de Rabat fueron desarrollados para casos de defensa del odio nacional, racial o religioso que constituye incitación, y no para abordar la incitación en términos generales, la prueba de seis factores también es útil para este propósito y, de hecho, el Consejo ya la ha utilizado con este fin anteriormente (véanse, por ejemplo, los casos “Mensaje de protesta en Irán” y “Llamamiento a manifestaciones lideradas por mujeres”).

• Contexto: El contenido se publicó en julio de 2023, durante un periodo de disturbios, creciente represión y violencia contra las personas que se manifestaban contra el régimen. Las vías de protesta dentro del país son escasas debido a las interrupciones masivas de internet y al bloqueo de las principales plataformas de medios sociales, como Facebook, Telegram y X. Puesto que Instagram es una de las pocas plataformas no bloqueadas, el rol que desempeña en el movimiento “Mujer, Vida, Libertad” es incalculable. Los expertos consultados por el Consejo señalaron que el objetivo del movimiento es normalizar la protesta y la resistencia a cuatro décadas de leyes discriminatorias contra las mujeres. Estos indicaron, sin embargo, que desde que comenzó el movimiento, la principal tendencia es infundir miedo y silenciar a las mujeres para que no se expresen en internet. Las nuevas leyes y la detención de figuras de gran repercusión pretenden frenar las manifestaciones de protesta y detener la tendencia que pretende normalizar la oposición a las leyes relacionadas con el uso de hiyab.
• Identidad del orador: Meta indicó al Consejo que la empresa no consideró que el usuario que publicó el contenido fuese un personaje público. Según la descripción del vídeo, el usuario parecer ser seguidor o miembro del movimiento “Mujer, Vida, Libertad”. Por lo tanto, el orador aquí no ostenta una posición de autoridad y, además, pone también en posible riesgo su propia seguridad al expresar abiertamente su apoyo y publicar este contenido.
• Intención: Si bien evaluar la intención al moderar contenido a gran escala supone un enorme desafío, una lectura objetiva y corriente de toda la publicación basta para entender que es en apoyo de la mujer que aparece en el vídeo y que pretende dar a conocer su detención. Según los expertos consultados por el Consejo, es normal que, en Irán, los manifestantes divulguen la imagen de una mujer sin velo y su nombre tras su detención para presionar a las autoridades a que no le hagan daño. Los manifestantes saben que si publican la identidad de estas personas, pueden evitar que se siga acosando a las víctimas.
• Contenido y forma de expresión: Según los expertos en lingüística consultados por el Consejo, las personas que hablan persa interpretarían la frase “hacerte pedazos” en este contexto como la expresión de una emoción intensa, como ira o decepción, no como una amenaza de violencia literal. El movimiento generalmente recurre a un lenguaje contundente y en apariencia amenazador para expresarse en contra del régimen. En el caso Mensaje de protesta en Irán, el Consejo determinó que el eslogan “Muerte a Khamenei” constituía una “amenaza retórica” y señaló que Meta había concedido una excepción basada en el “espíritu de la política” para la frase “mataré a quienquiera que mate a mi hermana/hermano” por motivos similares. La frase en este caso parece estar en medio de una descripción que alaba la valentía de una mujer por defender sus derechos. Si se analiza la descripción de manera global, se ve que esta expresa apoyo a las mujeres iraníes que protestan contra las leyes y prácticas discriminatorias del régimen.
• Extensión y alcance: La publicación se visualizó 47 000 veces, se compartió 50 veces y tuvo 2000 Me gusta y 100 comentarios. Dado que este discurso no parece constituir incitación si se tienen en cuenta los demás factores del análisis del Plan de Rabat, el amplio alcance del contenido no es en sí mismo un factor que indique que la supresión fuese necesaria.
• Probabilidad e inminencia: Este factor evalúa si existen posibilidades de que el discurso provoque daños inminentes y probables contra su blanco potencial, en este caso, el régimen. El movimiento de protesta y sus seguidores hacen frente a un régimen que se vale constantemente de la represión y de represalias violentas contra todos aquellos que se le oponen. Lo más probable en este caso es que el régimen tome represalias violentas contra el usuario que hizo la publicación o la mujer que aparece en el vídeo, y no que se cometan actos violentos contra el régimen o sus seguidores. Los expertos hicieron hincapié en el peligro que corren las personas que participan en estas manifestaciones y en cómo el movimiento persiste pese a la inminente amenaza de violencia. También indicaron que la finalidad de divulgar la imagen de mujeres sin velo detenidas es dar a conocer su detención y presionar a las autoridades para que no les hagan daño.

Partiendo del análisis de los factores detallado anteriormente, el Consejo considera que el contenido no constituía una amenaza creíble ni podía incitar a provocar daños fuera de internet. Si se usa lenguaje figurado en el contexto de manifestaciones masivas que tienen como castigo una represión violenta, Meta debería permitir que los revisores evalúen tanto el lenguaje como el contexto local, de modo que las pautas que siguen los moderadores concuerden con las bases de la política. Para mejorar el proceso de moderación durante situaciones de emergencia en términos generales, es fundamental garantizar que se haga una evaluación precisa para determinar si una publicación contiene “lenguaje figurado” o es probable que incite a la violencia. La calidad de los datos de entrenamiento que proporcionen los moderadores repercutirá en la precisión de los procesos automatizados. Si los moderadores suprimen las afirmaciones “figuradas” debido a la aplicación rígida de una regla, es probable que el error se reproduzca y amplifique mediante los procesos automatizados.

El Consejo señala que Meta cuenta con determinados mecanismos disponibles para ajustar las políticas y su aplicación durante situaciones de emergencia, como el sistema de niveles aplicado a países “en riesgo”, y su Protocolo de políticas durante emergencias. El sistema de niveles aplicado a países “en riesgo” se utiliza para detectar países en riesgo de “daños y violencia fuera de internet” a fin de determinar cómo la empresa debe priorizar el desarrollo de sus productos o cómo debe invertir sus recursos. La evaluación también se puede aplicar a otros procesos (por ejemplo, si se debe establecer un equipo de operaciones especiales o activar el uso del Protocolo de políticas durante emergencias). Meta informó al Consejo de que, durante la segunda mitad de 2023, Irán fue designado como “país en riesgo”. Desde el 21 de septiembre de 2022, también es un país designado en virtud del Protocolo de políticas durante emergencias. Este protocolo permite a Meta aplicar determinados cambios temporales en sus políticas, conocidos como “modificadores de políticas” para abordar una situación específica. Meta proporcionó algunos ejemplos de los modificadores que se emplean en Irán, entre ellos, una “exención para permitir el contenido que incluya el eslogan ‘mataré a quienquiera que mate a mi hermana/hermano’, o sus derivados, siempre que no se infrinjan otras reglas de nuestras políticas”. (Pueden consultarse más ejemplos de modificadores en las Actas del foro de políticas del 25 de enero de 2022 sobre el Protocolo de políticas durante emergencias).

Si bien el Consejo reconoce el compromiso de la empresa con la seguridad y su esfuerzo por mitigar posibles riesgos de moderación de contenido, para lo cual activó el Protocolo de políticas durante emergencias en Irán, este esfuerzo no es suficiente para garantizar que se respete la libertad de expresión y de reunión de las personas en un entorno de tensión social en el que se toman represalias sistemáticamente contra el disenso. El estudio encargado por el Consejo indica que una abrumadora mayoría del contenido en las plataformas de Meta que muestra a mujeres sin velo en el contexto del debate sobre el uso del hiyab en Irán se comparte a modo de apoyo al movimiento de protesta. Aquí, el proceso de aplicación de políticas de Meta fue incapaz en reiteradas ocasiones de distinguir las afirmaciones figuradas, o no literales, incluidas en un contexto más amplio de las amenazas reales y la incitación a la violencia, que pueden ocasionar daños fuera de internet.

El Consejo recomienda que Meta incorpore un modificador al Protocolo de políticas durante emergencias y proporcione a los moderadores encargados del contenido a gran escala los criterios internos correspondientes sobre cómo detectar, dentro del contexto en cuestión, las afirmaciones que emplean lenguaje amenazante de manera figurada (no literal) y no clasificarlas como infractoras de la regla de la política sobre violencia e incitación que prohíbe las amenazas de violencia. Para desarrollar los criterios específicos para emergencias sobre cómo determinar si una amenaza es figurada y no literal, Meta podría usar como referencia los factores del Plan de Rabat (entre otros, el contexto de protestas generalizadas contra la represión estatal; si el autor tiene la capacidad de incitar a las personas a provocar daños, o presenta el riesgo de hacerlo; el contexto lingüístico y social pertinente que indica el uso común de un lenguaje emocional o insultos con efecto retórico; y la probabilidad de daño en función según los conocimientos que se tienen del lugar). La empresa también podría recurrir a la ayuda de sus socios de confianza para elaborar o evaluar los criterios de moderación. La propia empresa ha manifestado la importancia práctica del Plan de Acción de Rabat para la moderación de contenido tras haber ayudado a las Naciones Unidas a traducirlo a 32 idiomas. Este modificador debe permitir el “lenguaje figurado” en el contexto de manifestaciones contra un régimen, siempre que no tenga la intención de incitar a la violencia ni sea probable que lo haga.

Política sobre la organización de actos nocivos y fomento de actividades delictivas de las Normas comunitarias

En este caso, el Consejo considera que no era necesario suprimir la publicación en virtud de la política sobre organización de actos nocivos y fomento de actividades delictivas, ya que la mujer del vídeo era muy conocida y el contenido se publicó claramente para dar a conocer su detención con la esperanza de que, de esta manera, fuese puesta en libertad. Asimismo, varios comentarios púbicos señalaron que las mujeres que se quitan el hiyab en público lo hacen expresamente en señal de protesta y conocen las posibles consecuencias de este acto, pero eligen hacerlo como oposición estratégica contra la autoridad (véase el comentario público de Tech Global Institute, PC-21009). El régimen ya había identificado y detenido a la mujer del vídeo. Esta publicación se compartió para llamar la atención al respecto. Los manifestantes y disidentes detenidos por el régimen han sufrido torturas y violencia de género o han sido objeto de desaparición forzada. Los expertos consultados por el Consejo y varios comentarios públicos señalaron específicamente que dar a conocer las detenciones y exigir la liberación de una persona detenida es una práctica habitual del movimiento y de los defensores de los derechos humanos en Irán y puede contribuir a proteger a las personas a las que el régimen tiene presas.

Encontrar un equilibrio entre proteger la identidad de los usuarios vulnerables y evitar la censura de aquellos que desean la exposición es una cuestión delicada que exige un análisis contextual, una revisión diligente y medidas rápidas.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anula la decisión original de Meta de retirar el contenido.

10. Recomendaciones

1. Aplicación

Para garantizar que se respete la libertad de expresión y reunión en un entorno de represión sistemática por parte del Estado, Meta debería incorporar un modificador al Protocolo de políticas durante emergencias que indique que las afirmaciones figuradas (o no literales) cuya intención no sea incitar a la violencia, y que no sea probable que lo hagan, no infringen la regla de la política sobre violencia e incitación que prohíbe las amenazas de violencia en los contextos pertinentes. Este debería incluir el desarrollo de criterios que los moderadores encargados de procedimientos a gran escala puedan seguir para identificar estas afirmaciones en el contexto pertinente.

El Consejo considerará implementada esta recomendación cuando Meta comparta con el Consejo tanto los métodos de implementación del modificador de la política como los criterios resultantes para la moderación de contenido en Irán.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En lo que respecta específicamente a la decisión de este caso, se ha llevado a cabo una investigación independiente por encargo del Consejo. El Consejo recibió asistencia de un centro de investigación independiente en la Universidad de Gotemburgo que recurrió a un equipo de más de 50 sociólogos en seis continentes y más de 3200 especialistas de países de todo el mundo. Asimismo, ha recibido asesoramiento de Duco Advisors, una consultora especializada en geopolítica, confianza, seguridad y tecnología. Asimismo, se estudiaron análisis de Memetica, una organización dedicada a la elaboración de estudios de código abierto sobre tendencias en los medios sociales. La empresa Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5000 ciudades diferentes, ha aportado las competencias en materia lingüística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas