Violencia en una comunidad del estado de Odisha de la India

Para leer esta decisión en oriya, haz clic aquí.

ଏହି ନିଷ୍ପତ୍ତିକୁ ଓଡ଼ିଆରେ ପଢ଼ିବା ପାଇଁ ଏଠାରେ କ୍ଲିକ୍ କରନ୍ତୁ।

Resumen del caso

El Consejo asesor de contenido ratificó la decisión de Meta de eliminar una publicación de Facebook que incluía un video sobre violencia en una comunidad del estado de Odisha de la India. El Consejo determinó que la publicación infringía las reglas de Meta sobre violencia e incitación. La mayoría del Consejo también concluyó que la decisión de Meta de eliminar todos los videos idénticos de sus plataformas en el contexto específico del aumento de las tensiones y la violencia continua en el estado de Odisha tenía justificativos. A pesar de que el contenido de este caso no estaba amparado por ninguna de las excepciones a las políticas, el Consejo instó a Meta a garantizar que su norma comunitaria sobre violencia e incitación permita contenido que "condene amenazas violentas o concientice acerca de estas".

Información sobre el caso

En abril de 2023, un usuario de Facebook publicó un video de un suceso del día anterior en el que se mostraba una procesión religiosa en Sambalpur, en el estado indio de Odisha, relacionada con la festividad hindú del Hanuman Jayanti. La descripción del video decía "Sambalpur", que es un pueblo de Odisha en el que se desató un conflicto violento en la comunidad entre los hindúes y los musulmanes durante la festividad.

En el video, aparecía una multitud en procesión que llevaba banderas de color azafrán, asociadas al nacionalismo hindú, y entonaba "Jai Shri Ram", que puede traducirse literalmente como "Salve Señor Ram" (un dios hindú). Además de los contextos religiosos en los que la frase se usa para manifestar devoción por Ram, la expresión se usó en ciertas circunstancias para fomentar la hostilidad contra grupos minoritarios, en especial, los musulmanes. Luego, en el video, se hizo un acercamiento a una persona que estaba de pie en el balcón de un edificio ubicado en la ruta de la procesión, a quien se vio arrojando una piedra hacia ella. A continuación, la multitud comenzó a lanzar piedras hacia el edificio, mientras cantaba "Jai Shri Ram", "bhago" (que puede traducirse como "correr") y "maro maro" (que puede traducirse como "golpear" o "pegar"). El contenido se vio unas 2.000 veces y recibió menos de 100 comentarios y reacciones.

Tras el episodio violento ocurrido durante la procesión religiosa que se mostró en el video, el Gobierno del estado de Odisha suspendió los servicios de internet, bloqueó las plataformas de medios sociales e impuso un toque de queda en varias zonas de Sambalpur. En el contexto del conflicto violento que se desató durante la procesión, se informó que hubo un saldo de tiendas incendiadas y una persona asesinada.

Poco después de los hechos que se mostraron en el video, Meta recibió una solicitud de las autoridades de Odisha de eliminar otro video idéntico, publicado por otro usuario con otra descripción. Meta determinó que la publicación infringía el espíritu de su norma comunitaria sobre violencia e incitación, y agregó el video al banco de Media Matching Service. Este localiza y marca contenido sobre el que posiblemente se deban tomar medidas que es idéntico o casi idéntico a fotos, videos o textos marcados anteriormente.

Meta le informó al Consejo que el banco de Media Matching Service se estableció para eliminar en todo el mundo todas las instancias del video, sin importar la descripción, dados los riesgos para la seguridad que suponía este contenido. Esta eliminación general se aplicó a todos los videos idénticos, incluso si estaban amparados por las excepciones de Meta relacionadas con la concientización, la condena y los informes periodísticos. El Consejo destacó que, dada la configuración del banco de Media Matching Service, varios contenidos idénticos a este video se eliminaron durante los meses siguientes al acontecimiento de Sambalpur, Odisha.

A través del banco de Media Matching Service, Meta identificó el contenido en cuestión en este caso y lo eliminó. Para ello, citó sus reglas que prohíben la "incitación a actos de violencia de gravedad alta, incluso […] donde no existe un receptor específico, sino un símbolo que lo representa, o que incluye una imagen de un arma o un método para hacer alusión a la violencia".

Conclusiones principales

El Consejo determinó que la publicación infringía la norma comunitaria sobre violencia e incitación, que prohíbe el "contenido que constituya una amenaza creíble a la seguridad pública o privada". Para la mayoría del Consejo, dada la violencia continua presente en Odisha en ese momento, así como el hecho de que no tenía validez ninguna excepción a políticas, el contenido suponía un riesgo grave y probable de incrementar la violencia. Para una minoría del Consejo, la publicación podría haberse eliminado correctamente conforme a la norma comunitaria sobre violencia e incitación de Meta, pero por otro motivo. Como en el video se veía una situación pasada de incitación sin pistas contextuales que indicaran que debía aplicarse una excepción a la política, además de que contenido similar se compartía con el objetivo de incitar a la violencia, Meta tenía justificativos para eliminar el contenido.

La mayoría del Consejo concluyó que la decisión de Meta de eliminar todos los videos idénticos de sus plataformas, sin importar la descripción que los acompañara, en el contexto específico de la violencia continua de ese momento, tenía justificativos. No obstante, la mayoría también determinó que las medidas de aplicación de políticas tan amplias deben ser temporales. Luego de que la situación de Odisha cambie y el riesgo de actos violentos asociados al contenido disminuya, Meta debería revaluar sus medidas de aplicación de políticas relacionadas con las publicaciones que incluyen el video y aplicar las excepciones a sus políticas como de costumbre. En el futuro, al Consejo le gustaría que hubiera enfoques que limiten las medidas de aplicación de políticas tan radicales a un período dado y a las zonas geográficas que enfrentan mayor riesgo. Tales medidas harían frente de mejor forma al riesgo de daños, sin afectar de forma desproporcionada la libertad de expresión.

Según una minoría del Consejo, la eliminación general de Meta de todas las publicaciones que incluían el mismo video que representaba una situación de incitación, sin importar si las publicaciones estaban amparadas por las excepciones relacionadas con la concientización o la condena, no fue una respuesta proporcionada y constituyó una restricción excesiva sobre la expresión.

A pesar de que el contenido de este caso no estaba amparado por ninguna de las excepciones a las políticas, el Consejo destacó que la excepción relacionada con la "concientización" correspondiente a la norma comunitaria sobre violencia e incitación aún no está disponible en el texto público de la política. Por lo tanto, los usuarios aún desconocen que contenido que en otras circunstancias se consideraría infractor se permite si se comparte para condenar o generar conciencia. En consecuencia, es posible que algunos usuarios se abstengan de participar en debates de interés público en las plataformas de Meta.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó la decisión de Meta de eliminar el contenido.

El Consejo reiteró las recomendaciones de casos previos de que Meta:

• Asegure que su norma comunitaria sobre violencia e incitación permita contenido que incluya declaraciones con "referencias neutrales a un resultado potencial de una acción o una advertencia" y contenido que "condene las amenazas violentas o concientice sobre estas".
• Brinde mayor claridad a los usuarios y explique en la página de destino de las Normas comunitarias (del mismo modo en que la empresa lo hace con la concesión de interés periodístico) que se pueden aplicar concesiones a las Normas comunitarias si sus bases, y los valores de Meta, exigen un resultado diferente de la estricta lectura de las reglas. El Consejo también reiteró su anterior recomendación a Meta de incluir un enlace a la página del Centro de transparencia que proporciona información sobre la concesión basada en el "espíritu de la política".

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido ratificó la decisión de Meta de eliminar una publicación con un video de Facebook en el que se veía una escena de violencia comunitaria en el estado de Odisha de la India durante el festival religioso del Hanuman Jayanti. En el video, aparecía una multitud en procesión que llevaba banderas de color azafrán, asociadas al nacionalismo hindú, y entonaba "Jai Shri Ram", que puede traducirse literalmente como "Salve Señor Ram" (un dios hindú) y que se usó en ciertas circunstancias para promover la hostilidad contra grupos minoritarios, en especial, los musulmanes. Luego, en el video, se hizo un acercamiento a una persona que estaba de pie en el balcón de un edificio ubicado en la ruta de la procesión, a quien se vio arrojando una piedra hacia ella. A continuación, la multitud comenzó a lanzar piedras hacia el edificio, mientras cantaba "Jai Shri Ram", "bhago" (que puede traducirse como "correr") y "maro maro" (que puede traducirse como "golpear" o "pegar"). Meta refirió este caso al Consejo porque ilustra las tensiones entre los valores de Meta de "expresión" y "seguridad", además de exigir un análisis completo de los factores contextuales y una evaluación de los riesgos de daño en la vida real que supone el video.

El Consejo determinó que la publicación infringía la norma comunitaria sobre violencia e incitación. Debido al contexto volátil y la violencia continua presentes en Odisha en el momento en que se publicó el contenido, la naturaleza de la procesión religiosa y la incitación a la violencia de gravedad alta del video, y la viralidad y la naturaleza generalizada del contenido similar que se publicaba en la plataforma, la mayoría del Consejo determinó que el contenido constituía una incitación creíble a la violencia.

Para una minoría del Consejo, la publicación podría haberse eliminado correctamente conforme a la norma comunitaria sobre violencia e incitación de Meta, pero por otro motivo. No interpretaron la publicación como una "incitación creíble a la violencia" sin ninguna otra pista contextual respecto de la finalidad de la publicación. En cambio, vieron la publicación como una forma de posible "representación de incitación" (es decir, contenido que muestra una escena de incitación pasada). La minoría concluyó que la publicación podía eliminarse conforme a la norma comunitaria sobre violencia e incitación porque satisfacía dos condiciones que esta minoría considera que deben cumplirse para justificarse tal eliminación: 1) había evidencia contextual de que publicaciones con contenido similar se compartían con el propósito de incitar a la violencia, y 2) la publicación no incluía pistas contextuales que indicaran que podía aplicarse una excepción a las políticas, como concientización o información periodística.

La mayoría del Consejo concluyó que, si se tienen en cuenta los desafíos de moderar contenido a gran escala, la decisión de Meta de eliminar todos los videos idénticos de sus plataformas, independientemente de la descripción que los acompañara sin aplicar faltas, tenía justificativos en el contexto específico del aumento de las tensiones y la violencia continua en el estado de Odisha en el que se tomó. No obstante, la mayoría también determinó que las medidas de aplicación de políticas tan amplias deben ser temporales. Luego de que cambie la situación local actual y disminuya el riesgo de daño asociado con el contenido que analiza el Consejo, Meta debería reevaluar sus medidas de aplicación de políticas y permitir la aplicación de excepciones a la política a escala.

Según una minoría del Consejo, la eliminación general de Meta de todas las publicaciones que incluían el mismo video que mostraba una situación de incitación, sin importar si las publicaciones estaban amparadas por las excepciones relacionadas con la concientización o la condena, no fue una respuesta proporcionada y constituyó una restricción excesiva sobre la expresión. Además pudo poner en riesgo a personas vulnerables en medio de un contexto volátil. La minoría cree que el contenido en cuestión es una representación de incitación en lugar de una incitación en sí. Para la minoría, una publicación que representa una incitación no debería eliminarse si las pistas contextuales señalan la aplicabilidad de una excepción a la política sobre violencia e incitación. Tales excepciones incluyen el contenido que se comparte con fines de concientizar o de informar desde un punto de vista periodístico. La minoría cree que cuando hay indicios de que la intención de una publicación con contenido que representa una incitación no es incitar, sino generar conciencia, condenar o informar, los compromisos de Meta con los derechos humanos exigen que tal contenido permanezca en la plataforma. Por lo tanto, la minoría cree que la eliminación masiva de las publicaciones que incluyen el video en cuestión es una vulneración no permitida de la libertad de expresión de los usuarios.

2. Descripción y contexto del caso

El 13 de abril de 2023, un usuario de Facebook publicó un video de un suceso del día anterior (12 de abril) en el que se mostraba una procesión religiosa en Sambalpur, en el estado indio de Odisha, en el contexto de la festividad hindú del Hanuman Jayanti. La descripción del video decía "Sambalpur", que es un pueblo de Odisha en el que se desató un conflicto violento en la comunidad entre los hindúes y los musulmanes durante la festividad. En el video, aparecía una multitud en procesión que llevaba banderas de color azafrán, asociadas al nacionalismo hindú, y entonaba "Jai Shri Ram", que puede traducirse literalmente como "Salve Señor Ram" (un dios hindú). Además de los contextos religiosos en los que la frase se usa para manifestar devoción por Ram, la expresión se usó en ciertas circunstancias para fomentar la hostilidad contra grupos minoritarios, en especial, los musulmanes. Los expertos a quienes consultó el Consejo informaron que el cántico se convirtió en "un grito de ataque para intimidar y amenazar a quienes profesan un culto diferente". Luego, en el video, se hizo un acercamiento a una persona que estaba de pie en el balcón de un edificio ubicado en la ruta de la procesión, a quien se vio arrojando una piedra hacia ella. A continuación, la multitud comenzó a lanzar piedras hacia el edificio, mientras cantaba "Jai Shri Ram", "bhago" (que puede traducirse como "correr") y "maro maro" (que puede traducirse como "golpear" o "pegar"). El contenido se visualizó aproximadamente 2.000 veces, recibió menos de 100 reacciones y comentarios, y nadie lo compartió ni reportó.

Según se informó, la violencia comunitaria, una forma de violencia colectiva que involucra enfrentamientos entre grupos comunitarios o étnicos que se definen por sus diferencias de religión, etnia, idioma o raza, es generalizada en la India. En este contexto, la violencia se dirige de forma desproporcionada a minorías religiosas, en especial, a los musulmanes, y al parecer la impunidad es la respuesta ante esta. Los comentarios del público que recibió el Consejo destacan la naturaleza generalizada de la violencia comunitaria en toda la India. En 2022, en el país, se registraron más de 2.900 casos de violencia comunitaria (consulta también PC-14046). Los expertos a quienes consultó el Consejo explicaron que las festividades y procesiones religiosas, al parecer, se usaron para intimidar a miembros de tradiciones religiosas minoritarias y para incitar a la violencia contra ellos.

A raíz de la violencia suscitada durante la procesión religiosa y sus consecuencias, cuando se incendiaron tiendas y una persona fue asesinada, el Gobierno del estado de Odisha suspendió los servicios de internet, bloqueó las plataformas de medios sociales e impuso un toque de queda en varias zonas de Sambalpur. Al parecer, la policía realizó 85 arrestos relacionados con los acontecimientos violentos en cuestión.

El 16 de abril, Meta recibió una solicitud de las autoridades de Odisha de eliminar un video idéntico publicado por otro usuario con una descripción diferente. Meta determinó que la publicación infringía el espíritu de la norma comunitaria sobre violencia e incitación y decidió eliminarla. A partir de ese momento, el 17 de abril, Meta agregó el video de la publicación a un banco de Media Matching Service (MMS), que localiza y marca para que posiblemente se tomen otras medidas contenido que es idéntico o casi idéntico a fotos, videos o texto que ya se marcaron anteriormente. No obstante, el usuario que publicó ese contenido lo eliminó ese mismo día antes de que Meta pudiera tomar medidas sobre él. A través del banco de MMS, Meta luego identificó el contenido en cuestión en este caso y lo eliminó, también el 17 de abril. Para ello, citó su prohibición a la "incitación a actos de violencia de gravedad alta, incluso […] donde no existe un receptor específico, sino un símbolo que lo representa, o que incluye una imagen de un arma o un método para hacer alusión a la violencia".

El 23 de abril, el Gobierno estatal de Odisha levantó el toque de queda y restauró el acceso a los servicios de internet. En julio de 2023, el Gobierno estatal anunció una prohibición sobre las procesiones religiosas en Sambalpur por un año.

De acuerdo con informes, el líder del estado perteneciente al Bharatiya Janata Party (BJP) criticó al Gobierno estatal de Odisha liderado por el partido Biju Janata Dal (BJD) por su incapacidad para mantener el orden y la ley, y culpó a los miembros de grupos minoritarios, en particular, a los musulmanes, de atacar procesiones religiosas pacíficas. El BJD, a su vez, acusó al BJP de intentar exacerbar las tensiones religiosas.

Meta explicó que el contenido no estaba amparado por ninguna excepción a las políticas, ya que "no se compartió en repudio o para generar conciencia al respecto" porque el contexto no era académico ni informativo, ni tampoco se publicó en el marco de un debate de la experiencia del autor como víctima de la violencia. Asimismo, Meta manifestó que la descripción no repudia ni expresa "ningún tipo de perspectiva negativa sobre los hechos que se muestran en el video". Sin embargo, la empresa destacó que, aunque el contenido hubiera incluido una descripción condenatoria o que buscara generar conciencia, Meta lo hubiese eliminado de todos modos "dadas las intensas preocupaciones relacionadas con la seguridad y el riesgo persistente de violencia comunitaria entre hindúes y musulmanes".

Meta también le informó al Consejo que configuró el banco de MMS para eliminar todas las instancias del video sin importar la descripción que lo acompañara, incluso si tal descripción dejara claro que las excepciones relacionadas con la información periodística o la concientización estaban implicadas. Meta también explicó que la empresa no aplicó faltas a los usuarios cuyo contenido se eliminó a través del banco de MMS "para dar cuenta de los comentarios no infractores y para encontrar el justo equilibrio entre la expresión y la seguridad".

Según informes, las plataformas de medios sociales se usaron para alentar ataques mortales contra grupos minoritarios en medio del aumento de las tensiones comunitarias en toda la India. Expertos destacaron que hubo campañas coordinadas en los medios sociales de la India en las que se difundieron mensajes, lenguaje que incita al odio o información errónea contra los musulmanes. También observaron que videos relacionados con violencia comunitaria se difundieron en patrones que denotaban coordinación. Luego de que ocurrieran los actos violentos en Sambalpur, un video de Argus News, un medio de comunicación local de Odisha, se publicó en Facebook al menos 34 veces en el transcurso de 72 horas, a menudo en páginas y grupos con diferencia de minutos entre unos y otros. En ellos, se afirmaba que los musulmanes eran responsables de los ataques acaecidos en la celebración del Hanuman Jayanti en Sambalpur. Asimismo, el Consejo destacó que, dada la configuración del banco de MMS, varios contenidos idénticos a este video se eliminaron durante los meses siguientes a los hechos de Sambalpur, Odisha.

Meta remitió este caso al Consejo por tratarse de un caso difícil debido al conflicto entre los valores de Meta de "expresión" y "seguridad", y debido a que el contexto exigía que se evaluara y valorara completamente el riesgo de daño que suponía el video.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene autoridad para revisar las decisiones que Meta envía a revisión (artículo 2, sección 1, del acta constitutiva; artículo 2, sección 2.1.1, de los estatutos).

El Consejo puede mantener o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

4. Fuentes de autoridad y pautas

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido

Entre las decisiones previas del Consejo asesor de contenido a las que se hace referencia en esta decisión, se encuentran las siguientes:

• Casos "Publicaciones sobre el aborto en los Estados Unidos" (2023-011-IG-UA, 2023-012-FB-UA, 2023-013-FB-UA)
• Caso "Productos farmacéuticos en Sri Lanka" (2022-014-FB-MR)
• Caso "Poema ruso" (2022-008-FB-UA)
• Caso "Dibujo animado de Knin" (2022-001-FB-UA)
• Caso "Representación de Zwarte Piet" (2021-002-FB-UA)
• Caso "Protesta en la India en contra de Francia" (2020-007-FB-FBR)
• Caso "Afirmación sobre la existencia de una cura para el COVID-19" (2020-006-FB-FBR)

II. Políticas de contenido de Meta

Norma comunitaria sobre violencia e incitación

En las bases de la política de la norma comunitaria sobre violencia e incitación, se explica que "nos esforzamos por prevenir daños en la vida real que puedan estar relacionados con contenido" en las plataformas de Meta y que "si bien [en Meta] entendemos que las personas suelen expresar desprecio o desacuerdo mediante amenazas o apelaciones a la violencia sin intenciones serias, eliminamos el lenguaje que incita o da lugar a actos graves de violencia". La política prohíbe "[a]menazas que podrían llevar a la muerte (y otras formas de violencia de gravedad alta) […] dirigidas a personas o lugares donde las amenazas se definen" como "[i]ncitación a actos de violencia de gravedad alta, incluso mediante contenido donde no existe un receptor específico, sino un símbolo que lo representa, o que incluye una imagen de un arma o un método para hacer alusión a la violencia". Conforme a esta norma comunitaria, desde Meta, "se elimina contenido, se inhabilitan cuentas y se colabora con las autoridades cuando se cree que hay riesgo genuino de daño físico o amenazas directas a la seguridad pública". Meta también tiene en cuenta el contexto "para distinguir afirmaciones casuales de contenido que constituya una amenaza creíble a la seguridad pública o privada". Para evaluar si una amenaza es creíble, Meta tiene en cuenta otros datos, como la "visibilidad pública y el riesgo para la seguridad física de una persona".

Concesión basada en el espíritu de la política

Como el Consejo comentó en el caso "Productos farmacéuticos en Sri Lanka", Meta puede aplicar una concesión basada en el "espíritu de la política" al contenido si las bases de la política (el texto que introduce cada norma comunitaria) y los valores de Meta exigen un resultado diferente en lugar de una lectura estricta de las reglas (es decir, las reglas estipuladas en la sección "No publicar" y en la lista de contenido prohibido).

El análisis del Consejo sobre las políticas de contenido se basó en el valor de Meta de "expresión", que la empresa describe como "fundamental", así como en el valor de "seguridad".

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso se basó en las siguientes normas internacionales:

• Derecho a la libertad de opinión y expresión: artículos 19 y 20 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), observación general n.º 34, Comité de Derechos Humanos (2011); Plan de Acción de Rabat, informe de la Alta Comisionada de la ONU para los Derechos Humanos: A/HRC/22/17/Add.4 (2013), informes de la Relatora Especial de la ONU (UNSR) sobre la libertad de opinión y expresión: A/HRC/38/35 (2018); A/74/486 (2019).
• Derecho a la vida: artículo 6 del ICCPR.
• Libertad de religión o de creencias: artículo 18 del ICCPR; informes del Relator Especial sobre la libertad de religión y de creencias de la ONU: A/HRC/40/58 (2019); A/75/385 (2020).

5. Respuestas del usuario

Al autor de la publicación se le notificó acerca de la revisión del Consejo y se le brindó la oportunidad de presentar una declaración ante el Consejo. El usuario no presentó ninguna declaración.

6. Respuestas de Meta

Cuando Meta remitió este caso al Consejo, señaló que se trataba de un caso difícil debido al conflicto entre los valores de Meta de "expresión" y "seguridad", y debido a que el contexto exigía que se evaluara y valorara completamente el riesgo de daño que suponía el video. Meta indicó que este caso es significativo debido a los enfrentamientos entre las comunidades hindúes y musulmanas durante la festividad religiosa del Hanuman Jayanti en Odisha.

Meta explicó que el contenido que originalmente se escaló (una publicación con un video idéntico al que el Consejo analiza, pero con una descripción diferente) infringió el "espíritu" de la política sobre violencia e incitación, a pesar del hecho de que incluía una descripción para generar conciencia, porque: (1) "planteó importantes inquietudes relacionadas con la seguridad que señalaron las autoridades" y que Meta confirmó mediante un análisis independiente; (2) se estaba haciendo viral; y (3) desencadenó una cantidad significativa de comentarios infractores. Luego, Meta configuró un banco de MMS para eliminar en todo el mundo todas las instancias del video, sin importar la descripción, incluido el video que finalmente se remitió al Consejo, dados los riesgos para la seguridad que suponía este contenido. Para llegar a esta decisión, Meta pudo corroborar de forma independiente las preocupaciones planteadas por las autoridades sobre la base de opiniones de los equipos de seguridad y de políticas públicas locales de Meta, así como de la cobertura periodística local y opiniones de otros equipos internos. Para tomar la decisión, la empresa consideró: (1) la naturaleza de la amenaza; (2) el historial de violencia entre las comunidades hindúes y musulmanas en la India; y (3) el riesgo de la violencia continua en Odisha los días previos a la festividad religiosa del Hanuman Jayanti. Asimismo, Meta señaló que la cobertura periodística y los informes policiales locales reforzaron la conclusión de que este video podía contribuir a un riesgo de violencia comunitaria y represalias.

Meta también explicó que el contenido de este video infringía la política sobre violencia e incitación, ya que incluía incitación a violencia de gravedad alta, dado que, en el video, se veía que se arrojaban piedras o ladrillos hacia una multitud y que la multitud incitaba a las personas a "golpear" o "pegar" a alguien como respuesta. Asimismo, si bien Meta reconoce que el objetivo no está identificado de forma explícita, los espectadores pueden observar con claridad las piedras que se arrojaban hacia el edificio y la persona que estaba en el balcón, lo que Meta consideró una representación visual de un método de violencia dirigido a un objetivo.

En respuesta a las preguntas del Consejo, Meta explicó que, conforme a la letra de la política sobre violencia e incitación, contenido que de otro modo sería infractor puede permitirse en la plataforma si se comparte en un contexto de condena o concientización. Sin embargo, como uno de los principales propósitos de la política sobre violencia e incitación es prevenir el daño potencial en la vida real, en este caso, Meta determinó que la preocupación relacionada con la seguridad en cuanto a que el contenido originalmente escalado podía contribuir al riesgo de un aumento de la violencia comunitaria entre hindúes y musulmanes ameritaba que se citara el espíritu de la política para eliminarlo (así como a todas las otras instancias del video en sus plataformas), independientemente de la descripción del contenido.

Meta también determinó que el contenido no calificaba para una concesión de interés periodístico, ya que el riesgo de daño era mayor que su valor de interés público. Según Meta, el riesgo de daño era alto por varios motivos. En primer lugar, el contenido ponía de manifiesto tensiones religiosas y políticas continuas entre hindúes y musulmanes que frecuentemente dan lugar a violencia en toda la India. Asimismo, incidentes localizados de este tipo de violencia comunitaria y religiosa tienen la capacidad potencial de desencadenar enfrentamientos en otras partes, más allá de la ubicación inicial. Los equipos de seguridad y políticas públicas locales de Meta también estaban preocupados por el riesgo de que se repitieran actos violentos en Odisha una vez que el toque de queda y la suspensión de internet se levantaran y más personas pudieran ver el video. Por último, la identificación de las autoridades locales del contenido como propenso a contribuir al aumento de violencia inminente corroboró las preocupaciones de Meta.

Meta reconoció que los intentos de notificar a los demás acerca de la inminencia de actos violentos y acontecimientos actuales pueden ser valiosos. Sin embargo, en este caso, Meta determinó que el riesgo de daño era mayor que el interés público. Meta destacó que, en el momento en que se eliminó el contenido, la publicación tenía más de cuatro días y su valor como advertencia en tiempo real había mermado. Meta remarcó que la publicación tenía una descripción neutra, que no tenía un valor informativo más alto. También mencionó que la descripción no atenuaba el riesgo de que el contenido incitara a la violencia. De acuerdo con Meta, hubo una amplia cobertura periodística local y nacional de los hechos subyacentes en este caso, lo que disminuyó el valor informativo de esta publicación en particular. Meta también le informó al Consejo que "ninguna medida más leve que la eliminación del contenido podía hacer frente de forma adecuada a los riesgos potenciales asociados a que este contenido se compartiera".

En respuesta a las preguntas del Consejo, Meta destacó que, "en general, se aplican faltas a gran escala por todas las infracciones cometidas contra la política sobre violencia e incitación". Sin embargo, en la etapa de escalamiento, Meta puede decidir no aplicar faltas sobre la base de circunstancias excepcionales, por ejemplo, cuando el contenido se publica en un contexto relacionado con la concientización o si el contenido procura condenar un asunto de importancia pública.

Meta explicó que la empresa no aplicó faltas al contenido eliminado a través del banco de MMS mencionado anteriormente para "conseguir de forma efectiva un equilibrio entre la expresión y la seguridad, y para reconocer el hecho de que cierto contenido que el banco eliminó no hubiera infringido la letra de la política". Como se explicó anteriormente en esta sección, la decisión de Meta de eliminar el contenido originalmente reportado se basó en el "espíritu de la política sobre violencia e incitación". Meta agregó que, como estuvieron implicados bancos de MMS, no fue posible revisar cada contenido individualmente como se hubiera hecho a gran escala. Por lo tanto, Meta no aplicó faltas para no penalizar aún más a los usuarios que publicaron contenido que no infringía la letra de la política.

En respuesta a las preguntas del Consejo sobre las solicitudes gubernamentales, Meta mencionó información proporcionada en su Centro de transparencia. Meta explico que, cuando un informe formal basado en la infracción de una ley local se recibe de parte de un gobierno o una autoridad local, primero se revisa a la luz de las Normas comunitarias de Meta, incluso si incluye solicitudes de eliminar o restringir el contenido por infringir leyes locales. Si Meta determina que el contenido infringe sus políticas, se elimina. Sin embargo, si no lo hace, luego Meta lleva a cabo una revisión legal para confirmar si el informe es válido y realiza una evaluación de diligencia debida en materia de derechos humanos en consonancia con la política corporativa de derechos humanos de Meta.

El Consejo le hizo 16 preguntas a Meta por escrito. Las preguntas se relacionaban con los procesos que Meta usa para las solicitudes gubernamentales en cuanto a la revisión de contenido, el uso de bancos de MMS por parte de Meta para la aplicación de políticas a gran escala y las prácticas de aplicación de políticas en el nivel de la cuenta. Meta respondió 15 preguntas y se negó a proporcionar una copia de la solicitud de revisión de contenido que recibió de las autoridades estatales de Odisha en este caso.

7. Comentarios del público

El Consejo asesor de contenido recibió 88 comentarios del público relacionados con este caso. Treinta y uno de ellos procedían de Asia-Pacífico y Oceanía; cuarenta y dos, de Asia central y meridional; ocho, de Europa; uno, de Latinoamérica y el Caribe; uno, de Oriente Medio y África del Norte, y cinco, de los Estados Unidos y Canadá. Este total incluye 32 comentarios del público que estuvieron duplicados, se enviaron sin consentimiento para publicarse o se enviaron con consentimiento para publicarse, pero no cumplían con las condiciones del Consejo para su publicación. Los comentarios del público pueden enviarse al Consejo con o sin consentimiento de publicación, y con o sin consentimiento de atribución.

Los comentarios enviados se refirieron a los siguientes temas: contexto social y político de la India, especialmente, en lo que respecta a los diferentes grupos étnicos y religiosos; políticas gubernamentales pertinentes y tratamiento de los diferentes grupos étnicos y religiosos; papel de las plataformas de medios sociales, en particular, las plataformas de Meta, en la India; probabilidad de que los contenidos que muestran la violencia comunitaria que ocurre en Odisha inciten a la violencia en la vida real; forma en que las empresas de medios sociales deben tratar las solicitudes gubernamentales de revisión o eliminación de contenido; importancia de informar con transparencia, especialmente, en relación con las solicitudes gubernamentales; papel de los medios de comunicación en el aumento de la violencia y la discriminación en la India; importancia de analizar las pistas contextuales y las señales en la vida real a la hora de evaluar la probabilidad de que un contenido incite a la violencia en la vida real; preocupación por las campañas coordinadas de información errónea en internet destinadas a difundir el odio contra determinados grupos étnicos y religiosos.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

El Consejo también envió solicitudes de derecho a la información a varias autoridades estatales y centrales de la India. Las respuestas que recibió se limitaron a información sobre el contexto local en el momento en que el contenido en revisión en este caso se publicó y las medidas de prohibición en Sambalpur, Odisha.

8. Análisis del Consejo asesor de contenido

El Consejo analizó las políticas de contenido, las responsabilidades con los derechos humanos y los valores de Meta para determinar si este contenido debía eliminarse. El Consejo también evaluó las implicaciones de este caso en cuanto al enfoque más amplio de Meta hacia la gobernanza de contenido, en particular, en contextos que involucran violencia comunitaria continua.

El Consejo seleccionó este caso como una oportunidad para evaluar las políticas y prácticas de Meta en relación con la moderación de contenido que muestra instancias de violencia comunitaria. Asimismo, le proporciona al Consejo la posibilidad de analizar la naturaleza de la incitación en internet y proporcionar pautas a Meta sobre cómo hacerle frente. Por último, el caso le permitió al Consejo examinar el cumplimiento de Meta con sus responsabilidades en materia de derechos humanos en situaciones de crisis y conflictos de forma más general.

8.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

Violencia e incitación

El Consejo determinó que la publicación infringía la norma comunitaria sobre violencia e incitación, en virtud de la cual Meta elimina el "contenido que constituya una amenaza creíble a la seguridad pública o privada". En particular, la política prohíbe las "[a]menazas que podrían llevar a la muerte (y otras formas de violencia de gravedad alta) […] dirigidas a personas o lugares donde las amenazas se definen" como "[i]ncitación a actos de violencia de gravedad alta". Conforme a esta política, el contenido que incluye incitación a la violencia se considera infractor cuando incluye una amenaza creíble. A la hora de evaluar la credibilidad de una amenaza, Meta tiene en cuenta el lenguaje y el contexto para distinguir las amenazas de las afirmaciones casuales. La mayoría del Consejo determinó que los siguientes factores fueron relevantes: el contexto volátil y la violencia continua presentes en Odisha en el momento en que se publicó el contenido; la naturaleza de la procesión religiosa; la incitación a la violencia de gravedad alta del video; y la viralidad y la naturaleza generalizada del contenido similar que se publicaba en la plataforma (como se explicó en la sección 2 anterior). Sobre la base de estos factores, la mayoría del Consejo determinó que el contenido constituía una incitación creíble a la violencia.

El contenido de este caso muestra una escena de violencia en la que una multitud en una procesión religiosa incita a personas a arrojar piedras o ladrillos ("violencia de alta gravedad") contra una persona no identificada que se encuentra en el balcón de un edificio que se ve en el fondo ("objetivo"). Meta incluye en la definición de "objetivo" proporcionada a los revisores de contenido a cualquier persona, incluidas personas anónimas, definidas como "persona real que no está identificada por el nombre ni por imágenes". Meta define "violencia de gravedad alta" como "toda violencia que podría ser letal". Meta pide a los revisores de contenido que consideren una amenaza como de alta gravedad si no están seguros de si la gravedad de la amenaza es alta o moderada. Dado que se cumplen todos los requisitos, la mayoría del Consejo determinó que el contenido infringe la parte de la política relevante de la norma comunitaria sobre violencia e incitación.

Los factores contextuales son significativos en este caso. Los incidentes relacionados con el lanzamiento de piedras fueron generalizados y organizados durante las procesiones y se observó que desencadenaron violencia entre hindúes y musulmanes (p. ej., consulta PC-14070), en especial, cuando coinciden festividades religiosas hindúes y musulmanas. Como se explicó en la sección 2 anterior, en estas procesiones, al parecer, se mostraron símbolos asociados al nacionalismo hindú, por ejemplo, las banderas de color azafrán, y hubo incitaciones a la violencia codificadas (el cántico de "Jai Shri Ram") contra grupos minoritarios, en particular, los musulmanes. Además, el Consejo es consciente de que las plataformas de medios sociales (y, específicamente, el compartir videos que muestran actos de incitación) se usan, en este contexto, para movilizar e incitar más violencia generalizada, especialmente, a través de "videos en vivo" y publicaciones de videos (ibidem) parecidos al que está en cuestión en este caso. El riesgo de violencia de gravedad alta se vio aumentado en este caso, ya que la multitud y la violencia instigada dieron lugar a fatalidades, lesiones y daños a la propiedad, como se remarcó en la sección 2 anterior. Por lo tanto, el contenido era propenso a aumentar la violencia de gravedad alta.

A pesar de que el Gobierno impuso una suspensión de internet en Odisha, el Consejo remarcó el hecho de que muchas publicaciones del mismo video se eliminaron de las plataformas de Meta dada la configuración del banco de MMS. Cabe destacar que Meta informó al Consejo que el video que originalmente se escaló y las autoridades de Odisha marcaron "se estaba haciendo viral" cuando se revisó e incluía "una cantidad significativa de comentarios infractores". Como se mencionó en la sección 2 anterior, se reportaron campañas coordinadas cuya finalidad era difundir información errónea y lenguaje que incita al odio relacionados contra los musulmanes.

En las pautas de implementación que se otorgan a los revisores de contenido, Meta permite conservar "contenido infractor si se comparte en un contexto de condena o concientización". Meta define el contexto relacionado con la concientización como "contenido que tiene la finalidad evidente de informar e instruir a otras personas acerca de un tema o asunto específico, o para el contenido que habla sobre la experiencia personal de haber sido blanco de amenazas o violencia. Esto podría incluir informes académicos y periodísticos". Meta le dijo al Consejo que estas concesiones están diseñadas para limitar la difusión de contenido que incita a la violencia y podría tener consecuencias en la vida real, sin dejar de permitir el contradiscurso que no brinda apoyo, sino que tiene la finalidad de educar o advertir a las personas sobre amenazas hechas por terceros.

El Consejo destacó que, si bien el usuario compartió el contenido poco después de que se desatara la violencia en Sambalpur, Odisha, este estaba acompañado de una descripción neutral (Sambalpur, el nombre de la ciudad en la que se llevaron a cabo los hechos violentos). Debido a la descripción neutral y la falta de pistas contextuales que señalaran otra dirección, el Consejo concluyó que el contenido no "procuraba con claridad informar ni educar a otras personas sobre un tema o asunto específico" ni "hablaba desde la experiencia personal de ser objeto de una amenaza o violencia". El Consejo determinó que el contenido tal como se publicó no estaba amparado por la excepción relacionada con la concientización correspondiente a la norma comunitaria sobre violencia e incitación. Dado el riesgo de daño, como se analiza en la sección 8.2 a continuación, el Consejo consideró que el riesgo de daño fue mayor que el valor de interés público de la publicación. Por lo tanto, no debía aplicarse la concesión de interés periodístico en este caso.

En consecuencia, la mayoría del Consejo concluyó que, dado el contexto en internet y en la vida real en torno a la publicación del contenido, el aumento de las tensiones y la violencia que aún estaban en curso en Sambalpur, Odisha, en el momento de la publicación y la falta de cualquier indicio de aplicabilidad de alguna excepción a las políticas, el contenido suponía una amenaza creíble o una incitación a la violencia contra comunidades religiosas que estaban involucradas en confrontaciones en Sambalpur. Por lo tanto, su eliminación es coherente con la política sobre violencia e incitación de Meta.

En contraste con la mayoría, una minoría no pudo identificar ningún indicio contextual que respaldara la creencia de que volver a publicar el video que mostraba una escena de una procesión en motocicleta en Odisha durante la festividad religiosa del Hanuman Jayanti "constituyera una incitación creíble a la violencia". Esta minoría señaló que no existe evidencia para sustentar la afirmación de que el usuario estaba realizando o respaldando tales incitaciones, tal como se expresaron en el video. Interpretar una publicación de esta naturaleza, sin otros datos, como una "incitación creíble a la violencia" es un estándar que podría aplicarse para prohibir volver a compartir casi cualquier escena que represente incitación, sin importar el objetivo o el propósito de tal publicación.

Sin embargo, la minoría creyó que la publicación de este caso podría eliminarse correctamente en virtud de la norma comunitaria sobre violencia e incitación de Meta por un motivo diferente. Dicha minoría señaló que la norma comunitaria sobre violencia e incitación no dice nada sobre si está prohibida la "representación de incitación". Desde el punto de vista de la minoría, la "representación de incitación", que constituye la repetición, reproducción, relato u otra representación de expresiones pasadas (p. ej., la publicación de un video, una noticia, un clip de audio u otro contenido), no puede considerarse propiamente una forma de incitación en sí misma. La "representación de incitación" es diferente en cuanto a la materia de la incitación original, es decir, la expresión transmitida con la intención y la consecuencia de incitar daños (p. ej., un video en el que se extorsiona a los oyentes para que cometan actos vandálicos o una publicación por escrito que anime a cometer ataques por revancha). Las publicaciones que involucran una representación de incitación pueden compartirse para concientizar, analizar hechos recientes, condenar o analizar, y no deben interpretarse como incitación a menos que se cumplan determinadas condiciones.

Si bien en la norma comunitaria sobre violencia de incitación se prohíben explícitamente las representaciones de actos pasados de secuestro, no se abordan allí las representaciones de actos pasados de incitación. Se podría interpretar que la norma no cubre las representaciones pasadas de incitación. Sin embargo, la minoría concluyó que la política sobre violencia e incitación puede correctamente aplicarse a "representaciones de incitación" cuando al menos una de las siguientes condiciones se cumpla: 1) la publicación de la representación de incitación evidencia una intención clara de incitar; o 2) la publicación a) no incluye indicios contextuales que indiquen la aplicabilidad de una excepción a la política, como la concientización o la información periodística; y b) hay pruebas de que publicaciones de contenido similar se comparten con el objetivo de incitar a la violencia o generar violencia. Las condiciones enunciadas en el punto (2) se cumplieron en este caso, por lo que la eliminación del contenido se consideró admisible.

Para la minoría del Consejo, sería importante que la norma comunitaria sobre violencia e incitación se aclarara para establecer que la política se aplica no solo al contenido publicado para incitar a la violencia, sino también a "representaciones de incitación", es decir, las publicaciones que simplemente comparten contenido que muestra incitación pasada en las condiciones mencionadas anteriormente.

II. Aplicación de políticas

Meta emplea bancos de MMS para localizar contenidos idénticos o casi idénticos a fotos, videos o textos marcados anteriormente. Estos bancos pueden encontrar coincidencias entre publicaciones de usuarios y contenido que los equipos internos de Meta previamente marcaron como infractor.

Meta explicó que es posible configurar los bancos de MMS para que realicen diferentes acciones una vez que identifican contenido incluido en ellos. En este caso, Meta le informó al Consejo que el banco de MMS se estableció para eliminar en todo el mundo todas las instancias del video, sin importar la descripción, dados los riesgos para la seguridad que suponía este contenido. En otras palabras, la eliminación general se aplicó a todos los videos idénticos, incluso si estaban amparados por las excepciones de Meta relacionadas con la concientización, la condena y los informes periodísticos. Meta también mencionó que este banco de MMS en particular estaba "configurado para realizar acciones sin aplicar faltas".

El Consejo destacó el impacto significativo que las medidas de aplicación de políticas de Meta tienen sobre los usuarios que publican contenido idéntico para generar conciencia o condenar el contenido. Meta le informó al Consejo que la decisión de la empresa de eliminar todas las instancias del video no tuvo un límite de tiempo (ni estuvo limitada a ciertas zonas geográficas) y que no existen planes actuales de retrotraer esta medida. El Consejo aborda la medida de aplicación de políticas de Meta con más detalle a continuación, en la sección 8.2, en el contexto del análisis de "necesidad y proporcionalidad".

8.2 Cumplimiento de las responsabilidades de Meta con los derechos humanos

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19, párrafo 2, del ICCPR otorga amplia protección a "la expresión y recepción de comunicaciones sobre toda clase de ideas y opiniones que puedan transmitirse a otros", por ejemplo, sobre "pensamiento político", "pensamiento religioso" y "periodismo", así como a expresiones que puedan considerarse "profundamente ofensivas" (observación general n.º 34 [2011], párrafo 11). El derecho a la libertad de expresión incluye el derecho al acceso a la información (observación general n.º 34 [2011], párrafos 18-19).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". Esta prueba de tres partes fue propuesta por el informe del Relator Especial sobre la libertad de expresión de la ONU como un marco para guiar las prácticas de moderación de contenido en las plataformas (A/HRC/38/35). El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó la Relatora Especial de la ONU sobre la libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41). En este caso, el Consejo aplicó la prueba de tres partes no solo a la decisión de Meta de eliminar el contenido en cuestión, sino también a la decisión de la empresa de eliminar de forma automática los videos idénticos al que el Consejo analiza en este caso, sin importar la descripción que lo acompañara.

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad conforme al derecho internacional de derechos humanos requiere que cualquier regla que limite la expresión sea clara y de acceso público (observación general n.º 34, párrafo 25). Las reglas que restringen la expresión "no pueden conferir una discrecionalidad absoluta para restringir la libertad de expresión a los encargados de su implementación" y "proporcionan suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no (ibidem). En referencia a las reglas que regulan el discurso online, la Relatora Especial de la ONU sobre la libertad de expresión dijo que deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo determinó que, según se aplican a los hechos de este caso, la prohibición de Meta del contenido que incita a violencia de gravedad alta contra objetivos no especificados, así como las condiciones en las que la prohibición se desencadena, son suficientemente claras.

El Consejo también destacó que la excepción relacionada con la "concientización" correspondiente a la norma comunitaria sobre violencia e incitación aún no está disponible en el texto público de la política. En otras palabras, los usuarios aún no saben que contenido que de otra forma sería infractor se permite si se comparte en un contexto de condena o concientización; esto podría evitar que los usuarios iniciaran debates de interés público o se involucraran en ellos en las plataformas de Meta. Por lo tanto, el Consejo reiteró la recomendación n.º 1 que realizó en el caso "Poema ruso", en la que instó a Meta a agregar al texto público de su norma comunitaria sobre violencia e incitación que, según la interpretación de la empresa, la política permite contenido que incluya declaraciones con "referencias neutrales a un resultado potencial de una acción o una advertencia", y contenido que "condene las amenazas violentas o concientice sobre estas".

Por último, el Consejo destacó que la decisión de Meta de eliminar todos los videos idénticos sin importar la descripción que los acompañara se basó en la concesión basada en el "espíritu de la política", que no está indicada con claridad y a la que los usuarios no pueden acceder, por lo que surgen preocupaciones graves a partir de la prueba de legalidad. En este aspecto, la minoría del Consejo además determinó que la propia referencia de Meta a las eliminaciones masivas justificadas por el "espíritu" de la política sobre violencia e incitación constituye una admisión tácita de que la política en sí misma, según está redactada, no da lugar a tales eliminaciones generalizadas. La decisión de la empresa de no aplicar faltas a los usuarios sobre la base del contenido eliminado también demuestra el reconocimiento por parte de Meta de que la publicación de dicho contenido no puede considerarse de forma justa como una infracción contra la política. Estos factores refuerzan la conclusión de la minoría de que la empresa, prácticamente según sus propias declaraciones, no superó la prueba de legalidad en relación con su medida de aplicación de políticas más amplia en este caso.

El Consejo reiteró la recomendación n.º 1 que hizo en el caso "Productos farmacéuticos de Sri Lanka", en la que instó a Meta a brindar mayor claridad a los usuarios y explicar en la página de destino de las Normas comunitarias (del mismo modo en que la empresa lo hace con la concesión de interés periodístico) que se pueden aplicar concesiones a las Normas comunitarias si sus bases, y los valores de Meta, exigen un resultado diferente de la estricta lectura de las reglas. El Consejo también recomendó a Meta incluir un enlace a la página del Centro de transparencia que proporciona información sobre la concesión basada en el "espíritu de la política". El Consejo cree que la implementación de esta recomendación abordará los asuntos de preocupación en relación con la claridad y la accesibilidad del enfoque de aplicación de políticas más amplio de Meta en este caso.

Si bien la política sobre violencia e incitación no especifica si la "representación de incitación" está prohibida, la minoría del Consejo cree que tal prohibición (en condiciones limitadas) puede inferirse a partir de la política actual, pero que debería hacerse explícita. La minoría destacó que la política sobre violencia e incitación debe establecer con claridad las circunstancias en las cuales es válida para el contenido que meramente representa incitación ("representación de incitación"). La minoría consideró que la política y sus propósitos, según se aplican en este caso, son suficientemente claros para satisfacer el requisito de legalidad.

II. Fin legítimo

Cualquier restricción que se aplique a la libertad de expresión debe tener un "fin legítimo". Por medio de la política sobre violencia e incitación, se procura "prevenir daños en la vida real" y eliminar el contenido que representa un "riesgo real de daños físicos o amenazas directas a la seguridad pública". Prohibir las incitaciones a la violencia en la plataforma para garantizar la seguridad de las personas constituye un fin legítimo en virtud del artículo 19, párrafo 3, ya que protege "los derechos de los demás" a la vida (artículo 6 del ICCPR) y a la libertad de religión o creencias (artículo 18 del ICCPR).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

Al evaluar los riesgos que presenta el contenido violento, el Consejo se guía por la prueba de seis factores descrita en el Plan de Acción de Rabat, que trata la apología del odio nacional, racial o religioso que constituye una incitación a la hostilidad, la discriminación o la violencia. Sobre la base de una evaluación de los factores relevantes, en especial, el contexto, el contenido y la forma, así como la probabilidad y la inminencia de daño, que se describe con más detalle a continuación, el Consejo determinó que la eliminación de la publicación en cuestión es coherente con las responsabilidades de Meta en materia de derechos humanos, ya que supone un daño inminente y probable.

En el video, se observa una escena de violencia durante una procesión religiosa entre una persona que se encuentra de pie en un edificio cercano y las personas de la multitud que cantaban "Jai Shri Ram". El Consejo consideró los informes de los expertos, analizados en la sección 2 anterior, que indican que Jai Shri Ram, que literalmente puede traducirse como "Salve Señor Ram" (un dios hindú), se utilizó en procesiones religiosas como la que se muestra en el video como una expresión codificada para promover la hostilidad contra grupos minoritarios, en especial, los musulmanes. El usuario publicó el contenido un día después de que los actos violentos ocurrieran en Sambalpur, en un momento en el que la situación aún era volátil. El Consejo también hizo hincapié, como se señaló en la sección 2 anterior, en que esta multitud religiosa de Sambalpur, Odisha, generó actos violentos y una fatalidad, y a estos acontecimientos los siguieron detenciones y suspensiones de internet. El Consejo reconoció la relación entre las procesiones religiosas y la violencia comunitaria, y destacó que el lanzamiento de piedras durante las procesiones, al parecer, tiene una naturaleza extendida y organizada que se observó que desencadena violencia entre hindúes y musulmanes (p. ej., consulta PC-14070).

Dado el contexto en internet y en la vida real en torno a la publicación del contenido, el aumento de las tensiones y la violencia que aún estaba en curso en Odisha en el momento en que se publicó el video, además de la falta de indicios de aplicabilidad de alguna excepción a las políticas, el Consejo determinó que la eliminación de la publicación conforme a la norma comunitaria sobre violencia e incitación fue necesaria y proporcionada. Si se considera el contexto volátil de Odisha en el momento en que se creó la publicación, el video suponía un riesgo grave y probable de aumentar la violencia.

Por lo tanto, el Consejo estuvo de acuerdo con que Meta eliminara el video en este caso, dados los factores contextuales y la falta de un propósito claro de concientización (como se analizó en la sección 8.1 anterior). El Consejo también destacó que la empresa agregó el video del contenido que se escaló originalmente a un banco de MMS configurado para eliminar todas las publicaciones similares que incluyeran el mismo video sin importar la descripción que acompañara a dichas publicaciones. Eso incluye a las publicaciones cuya finalidad es generar conciencia, condenar o informar, que constituyen excepciones a la norma comunitaria sobre violencia e incitación.

La mayoría del Consejo cree que los desafíos de moderar contenido a gran escala son muy relevantes para evaluar esta decisión de aplicación de política más amplia. Meta tomó esta decisión de eliminar el contenido que suponía un riesgo grave y probable de aumentar la violencia en un momento de gran tensión y violencia. En tales circunstancias, la puntualidad de las medidas de aplicación de políticas de Meta es esencial. Como el Consejo destacó anteriormente, los errores son inevitables entre los miles de millones de publicaciones que Meta modera cada mes. Si bien las eliminaciones por error de contenido no infractor (falsos positivos) perjudican la expresión, dejar por error amenazas e incitación violentas (falsos negativos) presenta riesgos graves para la seguridad y puede suprimir la participación de quienes son objeto de estos (consulta los casos "Publicaciones sobre el aborto en los Estados Unidos"). Dada la magnitud de los riesgos para la seguridad en torno a la publicación de este video, en un período de grandes tensiones y violencia continua en Odisha, la decisión de Meta de eliminar los videos idénticos sin importar la descripción que los acompañara y sin aplicar faltas para penalizar a los usuarios fue necesaria y proporcionada para hacer frente a los riesgos potenciales de que este contenido se compartiera de forma extendida.

Además de los factores contextuales destacados en las secciones 2 y 8.1 anteriores, la mayoría del Consejo destacó que muchos videos idénticos se eliminaron de las plataformas de Meta debido a la configuración del banco de MMS, a pesar de la suspensión de internet impuesta por el Gobierno en Sambalpur. En particular, de acuerdo con los fundamentos de la decisión de Meta, el video que se escaló originalmente "se estaba haciendo viral" e incluía "una cantidad significativa de comentarios infractores". En la sección 2 anterior, el Consejo mencionó informes que destacaban que existen campañas coordinadas en la India que difunden lenguaje que incita al odio e información errónea contra los musulmanes. En la misma sección, el Consejo también consideró informes que indicaban que los videos sobre violencia comunitaria se difundieron en patrones que denotaban coordinación. En este aspecto, la mayoría del Consejo destacó que, como indicó el Relator Especial sobre la libertad de religión o de creencias, "los agentes civiles, políticos y religiosos recurren cada vez más a las plataformas de los medios sociales para incitar al odio y la violencia". En la misma línea, "en la India existe preocupación por el odio, real o fabricado, que se está propagando contra las minorías religiosas" (A/75/385, párrafo 35). La mayoría reconoció el historial de violencia frecuente y generalizada contra los musulmanes, que al parecer se lleva a cabo con impunidad.

Esta mayoría reconoció los desafíos que Meta enfrenta a la hora de eliminar amenazas de actos violentos a gran escala (consulta el caso "Protesta en la India en contra de Francia"). Al analizar las dificultades de aplicar las políticas de Meta a gran escala, el Consejo previamente había hecho hincapié en que el discurso deshumanizante que consiste en actos o discursos discriminatorios implícitos o explícitos puede contribuir a actos atroces. Para prevenir tales consecuencias, Meta puede eliminar de sus plataformas legítimamente las publicaciones que promueven la violencia (consulta el caso "Dibujo animado de Knin"). Al interpretar la norma comunitaria sobre el lenguaje que incita al odio, el Consejo también consideró que, en ciertas circunstancias, moderar contenido con el objetivo de hacer frente a daños acumulativos causados por el lenguaje que incita al odio a gran escala puede ser coherente con las responsabilidades de Meta en materia de derechos humanos. Esta postura se sostiene incluso cuando contenidos específicos, que aparecen aislados, no parecieran incitar a la violencia o la discriminación de forma directa (consulta el caso "Representación de Zwarte Piet"). Para la mayoría del Consejo, lo mismo puede decirse, dado el contexto específico de este caso, en relación con la política sobre violencia e incitación.

No obstante, la mayoría del Consejo señaló que las medidas de aplicación de políticas amplias, como el enfoque de los bancos de MMS de Meta, deberían ser temporales. Luego de que la situación en Odisha cambie y el riesgo de violencia asociado con este contenido disminuya, Meta debería revaluar las medidas de aplicación de políticas adoptadas para moderar las publicaciones que incluyen el video que se agregó al banco de MMS para garantizar que las excepciones a las políticas se apliquen como de costumbre. En el futuro, el Consejo recibiría de buena manera enfoques que limiten las medidas de aplicación de políticas tan amplias a un momento específico y a las zonas geográficas de mayor riesgo, de modo tal que dichas medidas se adapten de mejor forma para hacer frente al riesgo de daño sin afectar de manera desproporcionada la libertad de expresión.

No obstante, la minoría del Consejo no cree que la eliminación generalizada masiva por parte de Meta en todo el mundo de todos los videos idénticos que muestran un incidente pasado de incitación sin importar si los videos se compartieron con el propósito de generar conciencia (p. ej., a través de un medio de comunicación) o de condenar fue una respuesta proporcionada. El hecho de que una ciudad o población esté experimentando violencia comunitaria no puede en sí mismo ser un motivo para imponer restricciones tan amplias sobre la libertad de expresión en pos de evitar el aumento de esa violencia. Esto es particularmente cierto cuando no hay pruebas o incluso motivos para creer que tales restricciones realmente disminuirán la violencia.

En situaciones de conflictos violentos, es primordial que se respete el imperativo de generar conciencia, compartir información y preparar a las comunidades para reaccionar ante hechos importantes que las afectan. La aplicación de políticas excesivamente agresiva supone el riesgo de dejar a las comunidades vulnerables en la oscuridad respecto de los acontecimientos pertinentes y posibilita la circulación de rumores e información errónea. De hecho, es peligroso asumir que la expresión y la seguridad son objetivos que necesariamente están confrontados y que uno debe sacrificarse por el otro. En cambio, con frecuencia, están profundamente entrelazadas: mientras que la difusión de contenido cuya finalidad es incitar puede generar un aumento de los riesgos de violencia en la vida real, suprimir información puede socavar la seguridad, a menudo, aquella de las poblaciones vulnerables. Tales eliminaciones generalizadas masivas también implican el riesgo de afectar de forma desproporcionada el discurso de partes particulares en un conflicto, de formas que pueden aumentar las tensiones y potenciar el ímpetu de la violencia. Eliminaciones generales semejantes pueden colocar a los individuos en una situación de silenciamiento por la fuerza en un momento en el que con mayor urgencia necesitan pedir ayuda o al menos dar un testimonio. En situaciones de conflictos violentos, hay una necesidad imperiosa de poder acceder fácilmente a información y al diálogo, para lo cual las plataformas de Meta ofrecen un lugar por excelencia. La conclusión de que las situaciones de conflictos violentos pueden en sí mismas justificar las restricciones más amplias sobre la libertad de expresión serían noticias buenas para los gobiernos autoritarios y los poderosos actores no estatales que están involucrados en tal violencia y que tienen un incentivo para impedir que el mundo se entere o para retrasar el conocimiento hasta que las potencias hayan logrado sus objetivos.

La minoría además cree que una política amplia de eliminar todo el contenido que representa incitación interferiría con el papel vital de las organizaciones periodísticas de cubrir los acontecimientos mundiales y limitaría la distribución de su contenido periodístico en las plataformas de Meta cuando los hechos allí representados incluyeran incitaciones pasadas a la violencia. La capacidad potencial de concientización de la difusión oportuna de tal información puede desempeñar un papel esencial a la hora de mitigar la violencia o movilizar la oposición contra esta. A la minoría también le preocupa que la eliminación generalizada de las publicaciones que representan incitación pueda obstaculizar las iniciativas para identificar y responsabilizar a quienes incitan a la violencia en el mundo real fuera de la plataforma. Dado que la viralidad y el alcance de una publicación de Meta tienen lugar mayormente durante las horas y días posteriores al momento en que esta se comparte, la minoría no cree que, incluso sobre una base temporal, la prohibición generalizada de "representación de incitación" en la plataforma sea compatible con los valores de Meta y sus compromisos con los derechos humanos. La vigilancia agresiva del contenido, sin tener en cuenta los motivos y el contexto en que se publicó, constituye una abdicación por parte de Meta de su responsabilidad de mantener el compromiso principal de la empresa con la expresión y su compromiso con los derechos humanos internacionales de proteger la libertad de expresión. A la minoría le preocupa el hecho de que el razonamiento de la mayoría pueda ser adoptado por gobiernos represivos para legitimar órdenes interesadas de suspensiones de internet y otras formas de supresión de información en nombre de prevenir lo que podría denominarse representaciones de incitación, pero que equivale a información oportuna y que podría salvar vidas acerca de la violencia hacia civiles o grupos minoritarios.

Para la minoría, el Consejo no debería aceptar fácilmente las meras afirmaciones de Meta sobre el desafío de operar "a gran escala" como justificativo de prohibiciones tan amplias sobre la libertad de expresión, en especial, en un contexto en el que el Gobierno estatal de Odisha había suspendido internet, se había puesto en contacto directamente con Meta sobre su moderación de contenido y había impuesto prohibiciones sobre la libertad de reunión por un año.

La minoría cree que una empresa de medios sociales que opera a una determinada escala debe asegurar la aplicación de sus políticas en la misma escala. Asimismo, el Relator Especial señaló que las empresas de medios sociales tienen una "gama de opciones, salvo la eliminación, de que pueden disponer […] en determinadas situaciones" (A/74 /486, párrafo 51) (y nombra opciones, como restricciones geolocalizadas, minimización de la amplificación, etiquetas de advertencia, promoción de la contrapropaganda, etc.). El Relator Especial también indicó que "así como los Estados deben evaluar si una limitación de la libertad de expresión es el enfoque menos restrictivo, también las empresas deben hacer ese tipo de evaluación. En la evaluación, las empresas deben asumir la carga de demostrar públicamente la necesidad y proporcionalidad" (ibidem, se hace hincapié en esto). El Consejo previamente le pidió a Meta que explicara todas las opciones que tiene a disposición para conseguir los fines legítimos y para articular los motivos por los que la medida seleccionada es la menos intrusiva (consulta el caso "Afirmación sobre la existencia de una cura para el COVID-19"). Para la minoría, la información que se alinea con lo propuesto por el Relator Especial sería útil para evaluar si es necesario y proporcionado instituir la eliminación general masiva de contenido clave durante una crisis. Asimismo, al involucrarse en tal diálogo público, la empresa podría explicar en mayor detalle al Consejo y al público, en especial, dados sus logros anunciados con respecto a la inteligencia artificial, las iniciativas de la empresa para mejorar sus tecnologías automatizadas para detectar publicaciones que podrían estar amparadas por las excepciones a sus propias políticas.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó la decisión de Meta de eliminar el contenido.

10. Recomendaciones

El Consejo asesor de contenido decidió no emitir nuevas recomendaciones en esta decisión, dada la relevancia de recomendaciones anteriores emitidas en otros casos. Por lo tanto, el Consejo decidió reiterar las siguientes recomendaciones para que Meta siga estrictamente:

• Asegurar que su norma comunitaria sobre violencia e incitación permita contenido que incluya declaraciones con "referencias neutrales a un resultado potencial de una acción o una advertencia" y contenido que "condene las amenazas violentas o concientice sobre estas" (recomendación n.º 1 del caso "Poema ruso"). El Consejo espera que estos cambios en la política se reflejen posteriormente en la aplicación de políticas a gran escala de Meta, incluida la detección de contenido para la aplicación, su clasificador o sistema automatizado de aplicación de políticas y las pautas de revisión que usan sus revisores de contenido.
• Brindar mayor claridad a los usuarios y explicar en la página de destino de las Normas comunitarias (del mismo modo en que la empresa lo hace con la concesión de interés periodístico) que se pueden aplicar concesiones a las Normas comunitarias si sus bases, y los valores de Meta, exigen un resultado diferente de la estricta lectura de las reglas. El Consejo también le recomendó a Meta incluir un enlace a la página del Centro de transparencia que proporciona información sobre la concesión basada en el "espíritu de la política" (recomendación n.º 1 del caso "Productos farmacéuticos en Sri Lanka").

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Al Consejo lo asistió un instituto de investigación independiente con sede en la Universidad de Gotemburgo, que se apoya en un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.