Vídeo gráfico de Sudán

Resumen del caso

El Consejo asesor de contenido ha ratificado la decisión de Meta de restaurar una publicación de Facebook en la que se muestra el resultado de un acto violento contra una persona civil en Sudán. Este contenido ha ayudado a concienciar sobre los abusos de los derechos humanos y ha tenido un importante valor en lo que respecta al interés público. El Consejo ha recomendado a Meta añadir una excepción específica sobre la concienciación o la documentación de abusos de los derechos humanos en la política sobre contenido gráfico y violento de las Normas comunitarias.

Información sobre el caso

El 21 de diciembre de 2021 Meta remitió un caso al Consejo sobre un vídeo gráfico en el que aparecía una víctima civil de un acto violento en Sudán. El contenido se publicó en la página del perfil de Facebook de un usuario después del golpe militar en el país el 25 de octubre de 2021.

En el vídeo se muestra a una persona que yace junto a un automóvil con una importante herida en la cabeza y un ojo visiblemente desprendido. Se oyen voces de fondo en árabe diciendo que alguien ha sido golpeado y abandonado en la calle. Un texto, también en árabe, alienta a las personas a permanecer unidas y a no confiar en el ejército, e incluye hashtags que animan a documentar los abusos militares y la desobediencia civil.

Los sistemas automatizados de Meta detectaron la publicación y un moderador humano la revisó. El resultado fue que la publicación se eliminó por infringir la política sobre contenido gráfico y violento de las Normas comunitarias de Facebook. Sin embargo, el usuario apeló esta decisión y el 29 de octubre de 2021 Meta emitió una exención por interés periodístico, en la que se eximía la publicación de su eliminación. Debido a un problema de comunicación interno, Meta no restauró el contenido hasta casi cinco semanas después. Cuando Meta restauró la publicación, incluyó una pantalla de advertencia en el vídeo.

Conclusiones principales

El Consejo está de acuerdo con la decisión de Meta de restaurar este contenido en Facebook con una pantalla de advertencia. Sin embargo, la política sobre contenido gráfico y violento de Meta no es clara en cuanto a la forma en que los usuarios pueden compartir contenido gráfico para concienciar sobre abusos o documentarlos.

Las bases de la norma comunitaria correspondiente, que establecen los objetivos de la política, no se ajustan a las reglas de la política. Mientras que las bases de la política establecen que Meta permite a los usuarios publicar contenido gráfico “para poder concienciar a las personas” sobre los abusos de derechos humanos, la política en sí prohíbe todos los vídeos (independientemente de que se compartan con el objetivo de concienciar) “de personas o cadáveres en entornos no médicos que muestren desmembramientos”.

El Consejo también concluye que, a pesar de haberse usado en este caso, la exención por interés periodístico no es un medio eficaz para permitir este tipo de contenido en Facebook a gran escala. Meta comunicó al Consejo lo siguiente: “Hemos documentado 17 exenciones por interés periodístico en relación con la política sobre contenido gráfico y violento en los últimos 12 meses (los 12 meses anteriores al 8 de marzo de 2022). El contenido de este caso es una de esas 17 exenciones”. En cambio, Meta eliminó 90,7 millones de elementos de contenido en virtud de esa misma política de las Normas comunitarias en los tres primeros trimestres de 2021.

Al Consejo le parece poco probable que, a lo largo de todo un año, tan solo haya habido 17 casos de contenido relacionado con esta política en los que haya sido recomendable mantenerlo en la plataforma por su interés periodístico y público. Para garantizar que ese tipo de contenido se permita en Facebook, el Consejo recomienda a Meta modificar la política sobre contenido gráfico y violento de las Normas comunitarias para permitir vídeos de personas o cadáveres en los casos en que se compartan para concienciar sobre abusos o documentarlos.

Meta también debe estar preparada para responder de forma rápida y sistemática a los conflictos y las crisis que se den en todo el mundo. En la decisión del caso sobre la suspensión de la cuenta del expresidente de EE. UU. Donald Trump, el Consejo recomendó a Meta “desarrollar y publicar una política que rija la respuesta de Facebook ante situaciones de crisis”. Si bien el Consejo acepta de buen grado el desarrollo de este protocolo (el cual Meta afirma haber adoptado), la empresa debe implementarlo con mayor rapidez y proporcionar la información más detallada posible sobre cómo funcionará.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratifica la decisión de Meta de restaurar la publicación con una pantalla de advertencia que evita que los menores vean el contenido.

A modo de opinión consultiva sobre políticas, el Consejo recomienda a Meta hacer lo siguiente:

• Modificar la política sobre contenido gráfico y violento de las Normas comunitarias para permitir vídeos de personas o cadáveres en el caso de que se compartan para concienciar sobre los abusos de los derechos humanos o para documentarlos. Este contenido se debe permitir con una pantalla de advertencia para que la gente sepa que puede ser desagradable.
• Implementar un proceso de desarrollo de políticas que perfeccione los criterios para detectar los vídeos de personas o cadáveres cuando se compartan para concienciar sobre los abusos de los derechos humanos o para documentarlos.
• Indicar de forma explícita en la descripción de la exención por interés periodístico todas las medidas que es posible que se tomen (por ejemplo, la restauración del contenido con una pantalla de advertencia) según esta política.
• Notificar a los usuarios cuando se tome una medida que involucre a su contenido como consecuencia de una exención por interés periodístico, incluida la restauración del contenido o la inclusión de una pantalla de advertencia. En la notificación se debe incluir un enlace que dirija a la explicación del Centro de transparencia sobre la exención por interés periodístico.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión completa del caso

1. Resumen de la decisión

El Consejo asesor de contenido ratifica la decisión de Meta de restaurar en Facebook una publicación con un vídeo que incluye texto y muestra el resultado de un acto violento contra una persona civil en Sudán. La publicación se restauró en virtud de una exención por interés periodístico con una pantalla de advertencia que indica que el contenido es delicado. De esta forma, por lo general, los menores no pueden acceder a él y todos los demás usuarios deben hacer clic para ver el contenido. Al Consejo le parece que este contenido, que tiene como objetivo concienciar sobre los abusos de los derechos humanos o documentarlos, tiene un importante valor de interés público. Aunque la eliminación inicial del contenido fue coherente con las reglas de la política sobre contenido gráfico y violento de las Normas comunitarias, la decisión de Meta de restaurarlo con una pantalla para indicar que se trata de contenido delicado respeta sus políticas, valores y responsabilidades en cuanto a los derechos humanos.

Sin embargo, el Consejo remarca que el uso de Meta de la exención por interés periodístico no es un medio eficaz para mantener o restaurar contenido de este tipo a gran escala. Por lo tanto, el Consejo recomienda a Meta añadir una excepción específica sobre concienciación o documentación de abusos a la política sobre contenido gráfico y violento en sus Normas comunitarias. Además, el Consejo insta a Meta a priorizar la implementación de su recomendación anterior de desarrollar una política para recoger, preservar y compartir contenido que pueda poner de manifiesto posibles infracciones del derecho internacional.

2. Descripción y antecedentes del caso

El 21 de diciembre de 2021 Meta remitió un caso al Consejo sobre un vídeo gráfico en el que aparecía una víctima civil de un acto violento en Sudán. El contenido se publicó en la página del perfil de Facebook de un usuario el 26 de octubre de 2021, después de un golpe militar que se llevó a cabo en el país el 25 de octubre y del inicio de las manifestaciones contra la toma de posesión del gobierno por parte de los militares.

En el vídeo se muestra a una persona con una importante herida en la cabeza y un ojo visiblemente desprendido. Se oyen voces de fondo en árabe diciendo que alguien ha sido golpeado y abandonado en la calle. La publicación incluye texto, también en árabe, que alienta a las personas a permanecer unidas y a no confiar en el ejército, así como hashtags que animan a documentar los abusos militares y la desobediencia civil.

Meta explicó que su tecnología detectó este contenido como potencialmente infractor de la política sobre contenido gráfico y violento de sus Normas comunitarias el mismo día que se publicó, el 26 de octubre de 2021. Tras una revisión manual, Meta determinó que la publicación infringía la política sobre contenido gráfico y violento de Facebook y la eliminó. Posteriormente, el creador del contenido indicó que no estaba de acuerdo con esta decisión. El 28 de octubre de 2021 el contenido se remitió a expertos en la materia en cuestión y especialistas en políticas para que llevaran a cabo otra revisión. Después de esta, Meta emitió una exención por interés periodístico el 29 de octubre de 2021 que eximía a la publicación de su eliminación en virtud de la política de contenido gráfico y violento. Sin embargo, debido a un problema de comunicación interno, Meta no restauró realmente el contenido hasta casi cinco semanas después, el 2 de diciembre de 2021. Cuando finalmente lo restauró, también incluyó una pantalla de advertencia en el vídeo para marcarlo como contenido delicado y hacer que los usuarios tengan que hacer clic para verlo. La pantalla de advertencia prohíbe ver el vídeo a usuarios menores de 18 años.

La publicación tuvo menos de 1000 visualizaciones y ningún usuario denunció el contenido.

El siguiente contexto fáctico es pertinente para la decisión del Consejo. Según la alta comisionada de las Naciones Unidas para los derechos humanos, después del golpe militar del gobierno civil en Sudán en octubre de 2021 y del inicio de las manifestaciones civiles, las fuerzas de seguridad del país dispararon munición real, usaron gas lacrimógeno y arrestaron y detuvieron arbitrariamente a manifestantes. Las fuerzas de seguridad también persiguieron a periodistas y activistas, quienes sufrieron allanamientos en sus hogares y oficinas. Atacaron, arrestaron y detuvieron a periodistas.

Según los especialistas a quienes el Consejo pidió asesoramiento, después de que el ejército tomara el poder de los medios estatales y lanzara una campaña ofensiva contra los periódicos y medios de comunicación de Sudán, los medios sociales se convirtieron en una fuente esencial de información y en un espacio para documentar los actos violentos de los militares. El ejército cortó internet y, al mismo tiempo, arrestó a líderes civiles el 25 de octubre de 2021. Desde entonces, el acceso constante a internet se ha visto interrumpido con regularidad en todo el país.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene competencia para revisar las decisiones que Meta envía a revisión (artículo 2 del acta constitutiva, apartado 1; artículo 2 de los estatutos, apartado 2.1.1). El Consejo puede mantener o anular la decisión de Meta (artículo 3 del acta constitutiva, apartado 5), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir dictámenes consultivos sobre políticas con recomendaciones no vinculantes a las que Meta debe responder (artículo 3, apartado 4; y artículo 4 del acta constitutiva).

4. Precedentes

El Consejo asesor de contenido tuvo en cuenta los siguientes precedentes:

I.Decisiones del Consejo asesor de contenido:

En decisiones previas, el Consejo consideró y proporcionó recomendaciones sobre las políticas y los procesos de Meta. Las más pertinentes para este caso en particular incluyen las siguientes:

• Decisión del caso 2021-010-FB-UA (“Manifestaciones en Colombia”): en este caso, el Consejo remarcó que Meta no cuenta con un criterio para remitir el contenido a revisión para la exención por interés periodístico (que es la única forma de aplicar la norma) que esté disponible públicamente, y declaró que “en un entorno en el que se restringía la libre expresión política de los medios de comunicación, los medios sociales constituyeron una plataforma que permitió a todo el mundo, incluidos periodistas, compartir información sobre las manifestaciones”. El Consejo recomendó a Meta lo siguiente: “Publicar y divulgar criterios claros que permitan a los revisores de contenido derivar el material de interés público para una segunda revisión [...]. Estos criterios deberían abarcar el contenido que muestre manifestaciones masivas sobre asuntos políticos, en particular, en contextos en los que se acuse a los Estados de vulnerar los derechos humanos y donde el registro público de los eventos resulte de vital importancia”.
• Decisión del caso 2021-001-FB-FBR (“Suspensión de la cuenta del expresidente de EE. UU. Donald Trump”): en este caso, el Consejo recomendó a Meta lo siguiente: “Desarrollar y publicar una política que rija la respuesta de Facebook ante situaciones nuevas o de crisis en las que los procesos habituales no prevendrían ni evitarían daños inminentes”. En enero de 2022 Meta organizó un foro de políticas sobre el protocolo de la política ante crisis que se desarrolló en respuesta a la recomendación del Consejo. Sin embargo, en una de sus respuestas a las preguntas que planteó el Consejo Meta confirmó que este protocolo no estaba vigente en el momento del golpe en Sudán y durante las posteriores decisiones de eliminación y restauración del contenido en este caso.

II.Políticas de contenido de Meta

Normas comunitarias de Facebook:

En virtud de las bases de su política de contenido gráfico y violento, Meta afirma que elimina cualquier contenido que “enaltece la violencia o celebra el sufrimiento”, pero permite la publicación de contenido gráfico “para poder concienciar a las personas”. Las reglas de la política prohíben la publicación de “vídeos de personas o cadáveres en entornos no médicos que muestren desmembramientos”. Según su exención por interés periodístico, Meta permite la publicación de contenido infractor en sus plataformas si es de interés periodístico y “si el interés público justifica que lo mantengamos visible”.

III. Valores de Meta:

Los valores de Meta se detallan en la introducción a las Normas comunitarias de Facebook. Los valores pertinentes para este caso son “expresión”, “seguridad”, “privacidad” y “dignidad”. El valor de “expresión” se describe como “de suma importancia”:

Nuestras Normas comunitarias siempre han tenido la finalidad de crear un espacio donde todos podamos expresarnos y dar a conocer nuestra opinión. [Queremos] que todo el mundo pueda tratar abiertamente los temas que le interesan, incluso si los demás no están de acuerdo o los consideran inapropiados.

Meta limita la “expresión” en favor de otros tres valores, y dos de ellos son pertinentes en este caso:

“Seguridad”: el contenido que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitido en Facebook.

“Privacidad”: nos comprometemos a proteger la información y la privacidad de las personas. Gracias a la privacidad, las personas tienen la libertad de ser quienes son, de elegir cómo y cuándo compartir contenido en Facebook y de conectar entre sí más fácilmente.

“Dignidad”: creemos que todas las personas son igualmente dignas y tienen los mismos derechos. Esperamos que esas personas respeten la dignidad de los demás y no los acosen ni los degraden.

IV: Normas internacionales sobre derechos humanos:

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP, por sus siglas en inglés), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en este caso se basó en las siguientes normas de derechos humanos:

• El derecho de libertad de expresión, incluida la capacidad de buscar y recibir información: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR, por sus siglas en inglés); Observación general n.º 34, Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018) y A/73/348 (2018).
• Consideración del interés superior del niño: artículos 13 y 17 de la Convención sobre los Derechos del Niño (CRC, por sus silgas en inglés); Observación general n.º 25, Comité de los Derechos del Niño, sobre los derechos del niño en relación con el entorno digital (2021).
• Derecho a la privacidad: artículo 17 del ICCPR.
• Acceso a una reparación eficaz: artículo 2 del ICCPR; Observación general n.º 31 del Comité de Derechos Humanos (2004); principio 22, 29 y 31 de los UNGP.

5. Manifestaciones del usuario

Tras la remisión de Meta y la decisión del Consejo de aceptar el caso, se envió un mensaje al usuario para avisarle de la revisión del Consejo y para proporcionarle la oportunidad de presentar una declaración ante el Consejo. El usuario no presentó ninguna declaración.

6. Manifestaciones de Meta

En su remisión, Meta afirmó que la decisión sobre este contenido era difícil porque ponía de manifiesto la tensión entre el valor de interés público de la documentación de las infracciones de los derechos humanos y el riesgo de daño asociado a compartir este tipo de contenido gráfico. Meta también subrayó la importancia de permitir a los usuarios documentar las infracciones de los derechos humanos durante un golpe de estado y cuando se interrumpe el acceso a internet en el país.

Meta informó al Consejo de que, inmediatamente después de que tuviera lugar el golpe militar en Sudán, la empresa creó un equipo interfuncional de respuesta a situaciones de crisis para supervisar la situación y comunicar los riesgos y las tendencias emergentes. De acuerdo con Meta, este equipo observó “importantes repuntes en las denuncias de contenido que mostraba violencia gráfica y violencia e incitación en los momentos más activos de las manifestaciones. [El equipo] recibió instrucciones de remitir las solicitudes de permitir casos de violencia gráfica que, de algún modo, infringirían la política sobre contenido gráfico y violento, incluida la representación de abusos de los derechos humanos que el Estado respaldaba”.

Meta remarcó que este vídeo se grabó en el contexto de manifestaciones muy extendidas y verdaderas inquietudes por la libertad de prensa en Sudán. Meta también indicó que este tipo de contenido podría “advertir a los usuarios de la zona sobre la amenaza a su seguridad, lo que es especialmente importante durante los cortes de internet y cuando es posible que se limite el acceso de los periodistas al lugar de los hechos”.

Meta también afirmó que la decisión de restaurar el contenido era coherente con sus valores, sobre todo el valor de “expresión”, que es de suma importancia. Meta citó decisiones previas del Consejo que justificaban que el discurso político es clave para el valor de “expresión”. Decisiones de los casos 2021-010-FB-UA (“Manifestaciones en Colombia”); 2021-003-FB-UA (“Inquietud punyabí en torno a la RSS en la India”); 2021-007-FB-UA (“Bot de Myanmar/Birmania”), y 2021-009-FB-UA (“Publicación compartida de Al Jazeera”).

Meta comunicó al Consejo que había determinado que su decisión inicial de eliminar el contenido no era coherente con el artículo 19 del ICCPR y, más específicamente, con el principio de necesidad. Por lo tanto, restauró el contenido en virtud de la exención por interés periodístico. Para mitigar los posibles riesgos de daños relacionados con la exención para mantener el contenido gráfico en la plataforma cuando se restaurara, Meta restringió el acceso para que solo personas mayores de 18 años pudieran verlo e incluyó una pantalla de advertencia. Meta también remarcó en las bases de su caso que la decisión de restaurar el contenido era coherente con el informe del Relator Especial de la ONU sobre la promoción y protección del derecho de libertad de opinión y expresión, en especial, “el derecho a acceder a información sobre la vulneración de los derechos humanos”.

Meta también indicó que, como había incluido una pantalla de advertencia que no permite a usuarios menores de 18 años ver el contenido, había tenido en cuenta la repercusión de la decisión en los derechos del niño. Meta informó al Consejo de que, al tomar la decisión, había tenido en cuenta el artículo 13 de la Convención sobre los Derechos del Niño y la Observación general n.º 25 sobre los derechos del niño en relación con el entorno digital, que ampara la protección del derecho del niño a la libertad de expresión, incluida la “libertad de buscar, recibir y transmitir información e ideas de cualquier tipo, independientemente de las fronteras”. Meta explicó en las bases de este caso que su decisión de restringir la visibilidad del contenido para que solo lo pudieran ver adultos tenía el objetivo legítimo de proteger la seguridad de los menores y que era proporcional a este fin.

El Consejo planteó 21 preguntas a Meta. Meta respondió 17 en su totalidad y cuatro de forma parcial. Las respuestas parciales estaban relacionadas con preguntas sobre la medición de la repercusión del sistema automatizado de Meta en el contenido publicado en la plataforma y los motivos por los que la política sobre contenido gráfico y violento no incluye una excepción relacionada con la concienciación.

7. Comentarios públicos

El Consejo recibió cinco comentarios públicos en relación con este caso: dos comentarios de Europa, uno de África subsahariana y dos de EE. UU. y Canadá.

Los comentarios abarcaban los siguientes temas: la necesidad de adoptar un enfoque que tenga más en cuenta el contexto, de forma que se establezca un umbral más alto para la eliminación de contenido en regiones con conflictos armados y se elimine menos contenido; la necesidad de preservar materiales para posibles investigaciones futuras o para determinar la responsabilidad de las vulneraciones de los derechos humanos, y que la exención por interés periodístico puede aplicarse ad hoc y puede ser impugnable, y que esta práctica debe reconsiderarse.

En marzo de 2022, como parte de una interacción continua con las partes interesadas, el Consejo habló con aproximadamente 50 representantes de una organización de defensa y personas que trabajan en la preparación de informes y la documentación de abusos de los derechos humanos, ética de investigación académica, derechos humanos y documentación, así como con personas interesadas en colaborar con el Consejo en asuntos derivados de la política sobre contenido gráfico y violento de las Normas comunitarias y su cumplimiento en contextos de crisis o manifestaciones. Estas interacciones continuas se llevan a cabo de acuerdo con la Regla de Chatham House para garantizar debates honestos y proteger a los participantes. El debate abarcó varios temas, incluido el rol esencial de las redes sociales en la documentación de vulneraciones de los derechos humanos en países controlados por regímenes represivos, así como su rol en atraer la atención del público y de los medios internacionales hacia casos de violencia consentida por el Estado. También se trataron las inquietudes relacionadas con el hecho de que una norma universal sobre contenido gráfico y violento, en la práctica, es una norma centrada en EE. UU. Además se observó que el uso de las pantallas de advertencia es útil para abordar el verdadero problema del trauma, pero algunas organizaciones informaron que estas pantallas pueden limitar el alcance de su contenido.

Si quieres leer los comentarios públicos que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

El Consejo analizó la pregunta de si este contenido debería mantenerse en la plataforma tomando como base tres perspectivas: las políticas sobre contenido de Meta, los valores de la empresa y sus responsabilidades con los derechos humanos.

8.1 Cumplimiento de las políticas de contenido de Meta

I.Reglas de contenido

El Consejo está de acuerdo con la decisión de Meta de restaurar este contenido en la plataforma con una pantalla de advertencia y la restricción de edad, pero cree que las políticas de contenido de Meta no son totalmente claras ni son un medio eficaz para implementar esta respuesta en contenido similar a gran escala.

La decisión inicial de Meta de eliminar el contenido fue coherente con las reglas de la política sobre contenido gráfico y violento de sus Normas comunitarias, ya que el contenido infringía esta política al mostrar un desmembramiento humano en un entorno no médico (una persona con una importante herida en la cabeza y un ojo visiblemente desprendido). Sin embargo, las bases de la política sobre contenido gráfico y violento de las Normas comunitarias establecen que “[Meta] permite el contenido gráfico (con algunas restricciones) para poder concienciar a las personas sobre algunos temas. [Meta] sabe que las personas valoran la capacidad de debatir sobre problemas importantes como los abusos de derechos humanos o actos de terrorismo”. A pesar de esta referencia en las bases de la política, las reglas específicas de la norma comunitaria no incluyen una excepción para “concienciar”. Las normas internas de Meta para sus revisores tampoco incluyen una excepción para contenido cuyo fin es concienciar sobre los abusos de los derechos humanos o documentarlos.

Debido a la falta de una excepción específica en la norma comunitaria, el Consejo está de acuerdo con la decisión de Meta de restaurar el contenido en virtud de una exención por interés periodístico. Meta afirma que permite que el contenido que infringe las normas siga apareciendo en la plataforma en virtud de la exención por interés periodístico si la empresa aprueba dicho interés y “si el interés público justifica que lo mantengamos visible. [Y] lo hace después de sopesar el interés público frente al riesgo de daño”.

II.Aplicación

El Consejo remarca que, si bien Meta tomó la decisión de emitir una exención por interés periodístico y restaurar la publicación con una pantalla de advertencia el 29 de octubre de 2021, el contenido no se restauró en la plataforma hasta casi cinco semanas después (el 2 de diciembre de 2021). Meta indicó que el aviso de la decisión final sobre el contenido se realizó fuera de sus herramientas habituales de administración de remisiones, lo que “retrasó la toma de medidas necesarias sobre el contenido”. El Consejo considera que esta explicación y el retraso son extremadamente problemáticos y enfatiza la importancia de que Meta tome medidas de forma oportuna en relación con decisiones como esta, en el contexto de una crisis pública y si la libertad de prensa se restringe gravemente. Cuando Meta eliminó inicialmente este contenido, aplicó un límite de 30 días en el que el usuario no pudo crear contenido nuevo, durante un momento en el que los manifestantes que salían a las calles y los periodistas que informaban sobre el golpe y la campaña ofensiva del ejército eran víctimas de represión y actos graves de violencia.

8.2 Cumplimiento de los valores de Meta

El Consejo concluye que mantener este contenido en la plataforma con una pantalla de advertencia es coherente con los valores de “expresión” y “seguridad” de Meta.

El Consejo reconoce la importancia de los valores de “dignidad” y “privacidad” en el contexto de proteger a las víctimas de abusos de los derechos humanos. El contenido afecta a la dignidad y privacidad de la persona herida que aparece en el vídeo, así como a su familia. Se puede reconocer a esa persona y tal vez ella, o su familia o seres queridos no quieran que este tipo de imagen se muestre.

El Consejo también remarca la importancia del valor de “seguridad” en este contexto, ya que el objetivo es proteger a los usuarios del contenido que contribuye a un “riesgo de daño para la seguridad física de las personas”. Por un lado, el usuario quería concienciar sobre el golpe de estado en curso, lo que podría mejorar la seguridad de las personas en esa región. Por otro lado, el contenido también puede crear riesgos para la persona que se muestra en el vídeo o para su familia.

El Consejo concluye que, en un contexto donde el espacio cívico y la libertad de los medios es restringido por el Estado, el valor de “expresión” es aún más importante. En este caso, la “expresión” también fortalece el valor de “seguridad”, al garantizar que las personas tengan acceso a la información y que la violencia por parte del Estado se exponga.

8.3 Cumplimiento de las responsabilidades de Meta con los derechos humanos

El Consejo considera que mantener el contenido en la plataforma con una pantalla de advertencia es coherente con las responsabilidades con los derechos humanos de Meta. Sin embargo, el Consejo concluye que las políticas de Meta se deben modificar para respetar más el derecho de libertad de expresión de los usuarios que quieran concienciar sobre los abusos o documentarlos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR proporciona una amplia protección a la libertad de expresión, incluido el derecho a buscar y recibir información. No obstante, el derecho podría restringirse en ciertas situaciones específicas, lo que se conoce como la prueba de las tres partes: legalidad (claridad), legitimidad y necesidad/proporcionalidad. Si bien el ICCPR no genera las mismas obligaciones para Meta que para los Estados, la empresa se compromete a respetar los derechos humanos como se establece en los UNGP. Este compromiso abarca derechos humanos de reconocimiento internacional, según los define el ICCPR, entre otros organismos.

I. Legalidad (claridad y accesibilidad de las reglas)

Cada vez que se aplique una restricción a la libertad de expresión se debe ofrecer información de fácil acceso y suficientemente clara que sirva como guía sobre lo que se permite y lo que no. El Consejo concluye que la política sobre contenido gráfico y violento no explica cómo Meta permite a los usuarios compartir contenido gráfico para concienciar sobre los abusos o para documentarlos. Las bases de la norma comunitaria correspondiente, que establecen los objetivos de la política, no se ajustan a las reglas de la política. Las bases de la política establecen que Meta permite a los usuarios publicar contenido gráfico “para poder concienciar a las personas” sobre los abusos de los derechos humanos, pero la política en sí prohíbe todos los vídeos (independientemente de que se compartan con el objetivo de concienciar) “de personas o cadáveres en entornos no médicos que muestren desmembramientos”. Si bien Meta recurrió debidamente a la exención por interés periodístico para restaurar este contenido, la política sobre contenido gráfico y violento de las Normas comunitarias no aclara si este tipo de contenido se permitirá en la plataforma.

El Consejo también concluye que la exención por interés periodístico no deja claro si el contenido que documenta atrocidades o abusos de derechos humanos se beneficiará de esta exención. A pesar de que estamos de acuerdo con Meta en que la determinación del interés periodístico puede ser “muy subjetiva”, la norma en cuestión ni siquiera define el término. La política establece que la empresa asigna “valor especial al contenido que pone de manifiesto amenazas inminentes a la salud o la seguridad públicas, o que permite que se expresen perspectivas que actualmente se discuten como parte de un proceso político”. Se deberían usar ejemplos emblemáticos y principios claros para guiar la discreción al aplicar esta exención. En su ausencia, es probable que su uso sea incoherente y arbitrario. Además, la exención por interés periodístico no hace referencia al uso de pantallas de advertencia (o anuncios intersticiales) para el contenido que, de algún modo, infringe las políticas de Meta.

Por último, en un caso anterior (“Manifestaciones en Colombia”), el Consejo recomendó a Meta “publicar y divulgar criterios claros que permitan a los revisores de contenido derivar el material de interés público para una segunda revisión”. Meta respondió que ya había publicado los criterios para la remisión en un artículo sobre el interés periodístico en el Centro de transparencia. Sin embargo, este artículo se centra en los factores que Meta considera al aplicar la exención por interés periodístico y no en los criterios proporcionados a los moderadores para explicar cuándo remitir el contenido (es decir, enviarlo para una revisión adicional). Si el fin de la exención por interés periodístico es cooperar con el sistema de la empresa para moderar el contenido que se remite, los procesos para la remisión y el uso deberían facilitar ese fin. El Consejo remarca que la falta de claridad sobre cuándo y cómo se aplica la concesión de interés periodístico podría conducir a una aplicación arbitraria de esta política.

II. Fin legítimo

Las restricciones a la libertad de expresión deben tener un fin legítimo, lo que incluye la protección de los derechos de los demás, como el derecho a la privacidad de la persona que se muestra (Observación general n.° 34, párrafo 28) y el derecho a la integridad física. En las bases de la política Meta también menciona que el “contenido que enaltece la violencia o celebra el sufrimiento o la humillación de otros [...] puede crear un entorno que disuada la participación”. El Consejo admite que la política de contenido gráfico y violento tiene varios fines legítimos.

III. Necesidad y proporcionalidad

Toda restricción que se aplique a la expresión “debe ser adecuada a fin de cumplir su función de protección; debe ser el instrumento menos invasivo entre aquellos que le permitan cumplir dicha función, [y] debe ser proporcional al interés que se busca proteger” (Observación general n.º 34, párrafo 34).

En este caso, el Consejo concluye que colocar una etiqueta de advertencia en el contenido fue una restricción de necesidad y proporcionalidad a la libertad de expresión. La pantalla de advertencia no representa una carga indebida para quienes quieren ver el contenido y sirve para informar a otros sobre la naturaleza del contenido y les permite decidir verlo o no. La pantalla de advertencia también protege de forma adecuada la dignidad de la persona que se muestra y a su familia.

El Consejo también remarca que, como se analizó en el apartado 8.1, la restauración de la publicación por parte de Meta se retrasó casi cinco semanas. Este retraso tuvo un impacto desproporcionado en la libertad de expresión en el contexto de la violencia continua y el entorno de restricciones a los medios en Sudán. Un retraso de esta magnitud menoscaba la utilidad de este contenido, que es advertir y concienciar a las personas civiles.

El Consejo también concluye que, como la exención por interés periodístico se usa con poca frecuencia, no es un mecanismo eficaz para permitir el contenido que documenta abusos o que tiene como fin concienciar en la plataforma a gran escala. Meta comunicó al Consejo lo siguiente: “Hemos documentado 17 exenciones por interés periodístico en relación con la política sobre contenido gráfico y violento en los últimos 12 meses (los 12 meses anteriores al 8 de marzo de 2022). El contenido de este caso es una de esas 17 exenciones”. En cambio, Meta eliminó 90,7 millones de elementos de contenido en virtud de esa misma política de las Normas comunitarias en los tres primeros trimestres de 2021. Al Consejo le parece poco probable que, en todo el mundo, a lo largo de un año, tan solo haya habido 17 casos de contenido relacionado con esta política en los que haya sido recomendable mantenerlo en la plataforma por su interés periodístico y público. La exención por interés periodístico no es un mecanismo adecuado para mantener el contenido de esta naturaleza en la plataforma. Para evitar censurar expresiones protegidas, Meta debe modificar la política de contenido gráfico y violento en sí para permitir que este tipo de contenido siga apareciendo en la plataforma.

En contextos de guerra o descontento político, los usuarios mostrarán y compartirán más contenido gráfico y violento en la plataforma con el fin de concienciar sobre los abusos o para documentarlos. Este contenido es importante para fomentar la responsabilidad. En el caso sobre la suspensión de la cuenta del expresidente de EE. UU. Donald Trump, el Consejo mencionó que Meta tiene la responsabilidad de “recoger, preservar y, si corresponde, compartir información para colaborar en la investigación y el posible procesamiento judicial de infracciones graves de leyes penales, de derechos humanos y humanitarias internacionales por parte de autoridades competentes y mecanismos de rendición de cuentas”. El Consejo también recomendó a Meta aclarar y definir en sus protocolos de la Política corporativa de derechos humanos cómo proporcionar contenido público previo a los investigadores sin infringir las normas internacionales ni las leyes de protección de datos. Como respuesta, Meta se comprometió a presentar un resumen al Consejo sobre las iniciativas constantes para abordar este tema. Desde que el Consejo publicó esta recomendación el 5 de mayo de 2021, Meta no ha informado de ningún avance en este tema. El Consejo considera que un retraso de esta magnitud y la falta de avances son preocupantes debido al rol que tiene la plataforma en situaciones de conflicto violento (p. ej., la actual guerra en Ucrania, ya que los usuarios documentan abusos a través de las redes sociales) y el descontento político en todo el mundo.

Por último, el Consejo recuerda su recomendación sobre el caso de la suspensión de la cuenta del expresidente de EE. UU. Donald Trump, en la que sugirió a Meta “desarrollar y publicar una política que rija la respuesta de Facebook ante situaciones nuevas o de crisis en las que los procesos habituales no prevendrían ni evitarían el daño inminente”. En la Actualización del cuarto trimestre de 2021 al Consejo asesor de contenido, Meta informó que había preparado una propuesta para un nuevo Protocolo de crisis en respuesta a la recomendación del Consejo y que se había implementado. Meta también indicó que pronto proporcionará información sobre este protocolo en el Centro de transparencia. Meta informó al Consejo que este protocolo no estaba vigente en el momento del golpe de estado en Sudán y tampoco era aplicable durante la revisión de este caso. La empresa planifica lanzar el protocolo más adelante en 2022. Meta debería desarrollar e implementar las respuestas de necesidad y proporcionalidad en situaciones de crisis siguiendo un protocolo bien diseñado. Meta debería actuar con mayor rapidez para implementar este protocolo y proporcionar la información más detallada posible sobre cómo funcionará este protocolo y cómo se complementará con los procesos existentes de Meta. Las plataformas de Meta tienen un rol prominente en situaciones de conflictos y crisis en todo el mundo y la empresa debe estar preparada para responder de modo rápido y sistemático para prevenir errores.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratifica la decisión de Meta de mantener el contenido con una pantalla que limite el acceso a personas mayores de 18 años.

10. Dictamen consultivo sobre políticas

Política de contenido

1. Meta debería modificar la política sobre contenido gráfico y violento de las Normas comunitarias para permitir vídeos de personas o cadáveres en el caso de que se compartan para concienciar sobre los abusos de los derechos humanos o para documentarlos. Este contenido se debe permitir con una pantalla de advertencia para que la gente sepa que puede ser desagradable. El Consejo considerará que esta recomendación se habrá implementado cuando Meta actualice la norma comunitaria.

2. Meta debería implementar un proceso de desarrollo de políticas que perfeccione los criterios para detectar los vídeos de personas o cadáveres cuando se compartan para concienciar sobre los abusos de los derechos humanos o para documentarlos. El Consejo considerará que esta recomendación se habrá implementado cuando Meta publique las conclusiones del proceso de desarrollo de políticas, incluida la información sobre el proceso y los criterios para detectar este contenido a gran escala.

3. Meta debería indicar de forma explícita en la descripción de la exención por interés periodístico todas las medidas que es posible que se tomen según esta política (por ejemplo, la restauración del contenido con una pantalla de advertencia). El Consejo considerará que se habrá implementado esta recomendación cuando Meta actualice la política.

Aplicación

4. Para garantizar que los usuarios entiendan las normas, Meta debería notificar a los usuarios cuando se tome una medida que involucre a su contenido como consecuencia de una exención por interés periodístico, incluida la restauración del contenido o la inclusión de una pantalla de advertencia. En la notificación se debería incluir un enlace que dirija a la explicación del Centro de transparencia sobre la exención por interés periodístico. El Consejo considerará que esto se habrá implementado cuando Meta envíe esta notificación actualizada a los usuarios en todos los mercados y demuestre que los usuarios la reciben a través de datos de aplicación.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En lo que respecta específicamente a la decisión de este caso, se ha llevado a cabo una investigación independiente por encargo del Consejo. Se estableció un centro de investigación independiente en la Universidad de Gotemburgo y se recurrió a un equipo de más de 50 sociólogos en seis continentes y más de 3200 especialistas de países de todo el mundo. El Consejo también ha recibido asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología.

Volver a Decisiones de casos y opiniones consultivas sobre políticas