El Consejo asesor de contenido ratificó la decisión de Meta en el caso de violencia en una comunidad del estado de Odisha de la India
28 de noviembre de 2023
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar una publicación de Facebook que incluía un video sobre violencia en una comunidad del estado de Odisha de la India. El Consejo determinó que la publicación infringía las reglas de Meta sobre violencia e incitación. La mayoría del Consejo también concluyó que la decisión de Meta de eliminar todos los videos idénticos de sus plataformas en el contexto específico del aumento de las tensiones y la violencia continua en el estado de Odisha tenía justificativos. A pesar de que el contenido de este caso no estaba amparado por ninguna de las excepciones a las políticas, el Consejo instó a Meta a garantizar que su norma comunitaria sobre violencia e incitación permita contenido que "condene amenazas violentas o concientice sobre estas".
Información sobre el caso
En abril de 2023, un usuario de Facebook publicó un video de un suceso del día anterior en el que se mostraba una procesión religiosa en Sambalpur, en el estado indio de Odisha, relacionada con la festividad hindú del Hanuman Jayanti. La descripción del video decía "Sambalpur", que es un pueblo de Odisha en el que se desató un conflicto violento en la comunidad entre los hindúes y los musulmanes durante la festividad.
En el video, aparecía una multitud en procesión que llevaba banderas de color azafrán, asociadas al nacionalismo hindú, y entonaba "Jai Shri Ram", que puede traducirse literalmente como "Salve Señor Ram" (un dios hindú). Además de los contextos religiosos en los que la frase se usa para manifestar devoción por Ram, la expresión se usó en ciertas circunstancias para fomentar la hostilidad contra grupos minoritarios, en especial, los musulmanes. Luego, en el video se hacía un acercamiento a una persona que estaba de pie en el balcón de un edificio ubicado en la ruta de la procesión, a quien se veía arrojando una piedra hacia esta. A continuación, la multitud lanzaba piedras hacia el edificio, mientras cantaba "Jai Shri Ram", "bhago" (que puede traducirse como "correr") y "maro maro" (que puede traducirse como "golpear" o "pegar"). El contenido se vio unas 2.000 veces y recibió menos de 100 comentarios y reacciones.
Tras el episodio violento ocurrido durante la procesión religiosa que se mostraba en el video, el Gobierno del estado de Odisha suspendió los servicios de internet, bloqueó las plataformas de medios sociales e impuso un toque de queda en varias zonas de Sambalpur. En el contexto del conflicto violento que se desató durante la procesión, se informó que hubo un saldo de tiendas incendiadas y una persona asesinada.
Poco después de los hechos que se mostraron en el video, Meta recibió una solicitud de las autoridades de Odisha para eliminar otro video idéntico, publicado por otro usuario con otra descripción. Meta determinó que la publicación infringía el espíritu de su norma comunitaria sobre violencia e incitación, y agregó el video al banco de Media Matching Service. Este localiza y marca contenido sobre el que posiblemente se deban tomar medidas que es idéntico o casi idéntico a fotos, videos o texto marcados anteriormente.
Meta le informó al Consejo que el banco de Media Matching Service se estableció para eliminar en todo el mundo todas las instancias del video, sin importar la descripción, dados los riesgos para la seguridad que suponía este contenido. Esta eliminación general se aplicó a todos los videos idénticos, incluso si estaban amparados por las excepciones de Meta relacionadas con la concientización, la condena y los informes de noticias. El Consejo destacó que, dada la configuración del banco de Media Matching Service, varios contenidos idénticos a este video se eliminaron durante los meses siguientes al acontecimiento de Sambalpur, Odisha.
A través del banco de Media Matching Service, Meta identificó el contenido en cuestión en este caso y lo eliminó. Para ello, citó sus reglas que prohíben la "incitación a actos de violencia de gravedad alta, incluso […] donde no existe un receptor específico, sino un símbolo que lo representa, o que incluye una imagen de un arma o un método para hacer alusión a la violencia".
Conclusiones principales
El Consejo determinó que la publicación infringía la norma comunitaria sobre violencia e incitación, que prohíbe el "contenido que constituya una amenaza creíble a la seguridad pública o privada". Para la mayoría del Consejo, dada la violencia continua presente en Odisha en ese momento, así como el hecho de que no tenía validez ninguna excepción a políticas, el contenido suponía un riesgo grave y probable de incrementar la violencia. Para una minoría del Consejo, la publicación podría haberse eliminado correctamente conforme a la norma comunitaria sobre violencia e incitación de Meta, pero por otro motivo. Como en el video se veía una situación pasada de incitación sin pistas contextuales que indicaran que debía aplicarse una excepción a la política, además de que contenido similar se compartía con el objetivo de incitar a la violencia, Meta tenía justificativos para eliminar el contenido.
La mayoría del Consejo concluyó que la decisión de Meta de eliminar todos los videos idénticos de sus plataformas, sin importar la descripción que los acompañara, en el contexto específico de la violencia continua de ese momento tenía justificativos. No obstante, la mayoría también determinó que las medidas de aplicación de políticas tan amplias deben ser temporales. Luego de que la situación de Odisha cambie y el riesgo de actos violentos asociados al contenido disminuya, Meta debería revaluar sus medidas de aplicación de políticas relacionadas con las publicaciones que incluyen el video y aplicar las excepciones a sus políticas como de costumbre. En el futuro, al Consejo le gustaría que hubiera enfoques que limiten las medidas de aplicación de políticas tan radicales a un período dado y a las zonas geográficas que enfrentan mayor riesgo. Tales medidas harían frente de mejor forma al riesgo de daños, sin afectar de manera desproporcionada la libertad de expresión.
Según una minoría del Consejo, la eliminación general de Meta de todas las publicaciones que incluían el mismo video que mostraba una situación de incitación, sin importar si las publicaciones estaban amparadas por las excepciones relacionadas con la concientización o la condena, no fue una respuesta proporcionada y constituyó una restricción excesiva sobre la expresión.
A pesar de que el contenido de este caso no estaba amparado por ninguna de las excepciones a las políticas, el Consejo destacó que la excepción relacionada con la "concientización" correspondiente a la norma comunitaria sobre violencia e incitación aún no está disponible en el texto público de la política. Por lo tanto, los usuarios aún desconocen que contenido que en otras circunstancias se consideraría infractor se permite si se comparte para condenar o generar conciencia. En consecuencia, es posible que algunos usuarios se abstengan de participar en debates de interés público en las plataformas de Meta.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar el contenido.
El Consejo reiteró las recomendaciones de casos previos de que Meta:
- Asegure que su norma comunitaria sobre violencia e incitación permita contenido que incluya declaraciones con "referencias neutrales a un resultado potencial de una acción o una advertencia" y contenido que "condene las amenazas violentas o concientice sobre estas".
- Brinde mayor claridad a los usuarios y explique en la página de destino de las Normas comunitarias (del mismo modo en que la empresa lo hace con la concesión de interés periodístico) que se pueden aplicar concesiones a las Normas comunitarias si sus bases, y los valores de Meta, exigen un resultado diferente de la estricta lectura de las reglas. El Consejo también reiteró su anterior recomendación a Meta de incluir un enlace a la página del Centro de transparencia que proporciona información sobre la concesión basada en el "espíritu de la política".
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic aquí.
