Imágenes de mujeres indígenas parcialmente desnudas

Para leer la decisión completa en alemán, haz clic aquí.

Klicken Sie hier, um diese Entscheidung auf Deutsch zu lesen.

Resumen

El Consejo asesor de contenido anuló la decisión de Meta en tres de cuatro casos que ponen de manifiesto las consecuencias desproporcionadas de la política de desnudos y actividad sexual de adultos en los usuarios que comparten imágenes de mujeres indígenas con el torso descubierto, cuando esos desnudos forman parte de las creencias y costumbres de los pueblos indígenas. También ratificó la decisión de conservar el contenido en un tercer caso en virtud de la concesión de interés periodístico.

La prohibición total de Meta de publicar imágenes de mujeres indígenas con el torso descubierto en contextos no sexuales, junto con el otorgamiento de excepciones ad hoc, conlleva restricciones sobre la expresión que no resultan necesarias ni proporcionadas. Más bien, el derecho de los usuarios a la expresión, incluido el de los pueblos indígenas para quienes esos desnudos forman parte de su cultura, se ve restringido de forma desproporcionada.

Meta debería hacer pública su excepción a la política de desnudos y actividad sexual de adultos por la que se permite la permanencia de contenido que muestra a mujeres indígenas con el torso descubierto en ciertas circunstancias, cuando esos desnudos reflejan costumbres y creencias socialmente aceptadas y no representan de forma incorrecta esas prácticas.

Información de los casos

El Consejo revisó cuatro casos que incluían imágenes de mujeres indígenas con el torso descubierto en contextos no sexuales.

En el primer caso, un usuario de Instagram publicó una imagen en julio de 2024 en la que se veían dos mujeres con el torso descubierto usando el atuendo tradicional del pueblo himba de Namibia. En la publicación, se incluyó una cita y una descripción en inglés que hacían referencia a los himbas. Según pareciera, el usuario era un visitante o un turista, y no un miembro de la tribu himba. Un clasificador automático de desnudos y pornografía eliminó la publicación. El usuario apeló la eliminación. Luego de una revisión manual, Meta confirmó su decisión.

En el segundo caso, un usuario de Instagram publicó un video corto en julio de 2024 en el que se veía a un hombre himba bailando y a mujeres con el torso descubierto usando el atuendo tradicional himba en el fondo. En la descripción, se incluyeron referencias al pueblo y a la cultura himba. Luego de revisiones automáticas y manuales, Meta eliminó el contenido.

En el tercer caso, en la cuenta de Instagram oficial de un partido político brasileño, en marzo de 2023, se publicó la imagen de una mujer indígena con el torso descubierto usando ropa tradicional yanomami. En el texto que acompañaba la imagen, se elogiaban las iniciativas del Gobierno por combatir la minería ilegal en las tierras del pueblo yanomami. Un usuario reportó la publicación, y un clasificador la identificó antes de que, en una revisión manual, se eliminara por infringir la política de desnudos y actividad sexual de adultos. El usuario de la publicación hizo una apelación a través de un contacto personal en Meta. Meta la restauró en virtud de la concesión de interés periodístico, ya que determinó que el valor para el interés público del contenido superaba el daño, e incluyó una etiqueta de interés periodístico. En septiembre de 2024, Meta remitió el caso al Consejo.

En el cuarto caso, el administrador de la página de Facebook de un periódico alemán publicó en mayo de 2023 una imagen de una mujer indígena con el torso descubierto sosteniendo a un niño. En la descripción y el texto superpuesto en alemán, se describía la visita de una periodista estadounidense a una aldea maya y sus perspectivas sobre los estilos de crianza de distintas culturas. La publicación incluía un enlace a un artículo. La imagen de la mujer indígena pareciera pertenecer a una agencia de fotos y figura en colecciones online del pueblo karo de Etiopía. Un usuario reportó el contenido a Meta, y dos encargados de la etapa de revisión manual estuvieron de acuerdo en que infringía la política de desnudos y actividad sexual de adultos. Como esta cuenta se encuentra en el programa de verificación cruzada, se envió la publicación para que se sometiera a otra revisión. Luego, Meta determinó que se debía otorgar al contenido una concesión basada en el espíritu de la política y que este debía permanecer en Facebook, ya que, a pesar de infringir las reglas de desnudos de Meta, conservarlo era coherente con las bases de la política. Meta remitió el caso al Consejo en septiembre de 2024.

Conclusiones principales

Si bien Meta prohíbe las imágenes de mujeres indígenas con "pezones femeninos visibles" en contextos no sexuales, en ocasiones, permite la permanencia de este contenido a través de concesiones de interés periodístico y basadas en el espíritu de la política.

En la publicación del pueblo yanomami, Meta actuó correctamente al conservar esta publicación como contenido de interés periodístico debido a su valor para el interés público y el poco riesgo de daño. Para el pueblo yanomami, los desnudos con el torso descubierto conforman una práctica social y cultural, y en la imagen, hay indicadores de consentimiento.

Respecto de las dos publicaciones sobre los himbas, el Consejo determinó que Meta se equivocó al no otorgar una concesión basada en el espíritu de la política. Meta no siguió sus propias pautas acerca de las excepciones que atañen el consentimiento implícito en el contexto de desnudos en personas indígenas. Para estas excepciones, es necesario determinar si los desnudos con el torso descubierto forman parte de las creencias y costumbres de un pueblo indígena y tienen aceptación social. Los desnudos representan un aspecto que cuenta con aceptación social e histórica en las costumbres himba, y en ambas publicaciones hay suficientes indicadores de consentimiento implícito para que se los fotografíe o grabe, que permiten justificar la concesión.

En la publicación sobre el pueblo maya/karo, según la mayoría del Consejo, el hecho de que un medio de comunicación compartiera la imagen no constituyó un factor decisivo para determinar que existía consentimiento. En este caso, hay una disparidad evidente entre el sujeto del artículo (los pueblos mayas) y la persona de la imagen (una mujer karo). El contenido, que se centra en las prácticas de crianza de las culturas maya, no se relaciona con una tradición social o histórica de desnudos. Por lo tanto, permitir que el contenido permanezca en la plataforma es incoherente con las bases de la política de Meta. Una minoría del Consejo no estuvo de acuerdo y determinó que Meta tomó la decisión correcta al conservar la publicación, ya que los desnudos de la imagen se alinean con las normas culturales del grupo indígena representado. Para la minoría, la disparidad entre las imágenes fue un error menor que no disminuye el interés público en la publicación.

La eliminación de las publicaciones de los himbas y la conservación de la publicación del pueblo maya/karo también fueron incoherentes con las responsabilidades de Meta en materia de derechos humanos. La prohibición total de Meta de publicar imágenes de mujeres indígenas con el torso descubierto en contextos no sexuales y el otorgamiento de excepciones ad hoc restringen la expresión de forma desproporcionada. Esto afecta de modo desproporcionado el derecho de las mujeres indígenas a expresarse y a compartir información sobre prácticas culturales, además de restringir el acceso de otras personas a dicha información. El Consejo remarcó la importancia de representar a las culturas indígenas de formas que eviten la distorsión o la descontextualización.

Al Consejo le preocupa que la accesibilidad y la previsibilidad de las concesiones de interés periodístico y basadas en el espíritu de la política tengan muchas limitaciones. Por lo tanto, cree que es preferible una excepción definida con claridad.

El Consejo considera que Meta podría elaborar pautas internas para ayudar a los revisores de los procesamientos a gran escala a escalar el contenido con desnudos de personas indígenas que potencialmente pudiera beneficiarse de tales excepciones usando criterios objetivos, como hashtags relevantes o pistas visuales (incluidos los símbolos culturales).

Decisión del Consejo asesor de contenido

El Consejo anuló la decisión de Meta de eliminar los casos de las dos mujeres himba y del pueblo himba bailando. El Consejo también anuló la decisión de Meta de conservar el caso sobre el pueblo maya/karo. El Consejo ratificó la decisión de Meta de conservar el caso del pueblo yanomami.

Asimismo, el Consejo le recomendó a Meta:

• Hacer pública su excepción a la política de desnudos y actividad sexual de adultos por la que se permite la permanencia de contenido que muestra a mujeres indígenas con el torso descubierto en ciertas circunstancias. Esta excepción deberá aplicarse solo en etapa de escalamiento. En la excepción, también se deben permitir los desnudos que reflejan costumbres y creencias que tienen aceptación social y que no representan de forma incorrecta estas prácticas.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

Esta decisión engloba cuatro casos que incluyen imágenes de mujeres indígenas con el torso descubierto. Meta determinó que los cuatro contenidos infringían su política de desnudos y actividad sexual de adultos que prohíbe la exhibición de "pezones femeninos visibles". Meta remitió al Consejo asesor de contenido dos casos relacionados con contenido que mantuvo en la plataforma a pesar de que infringían sus reglas. Los usuarios apelaron los otros dos casos cuando se eliminaron sus publicaciones.

En el primer caso, en julio de 2024, un usuario de Instagram publicó en su cuenta una imagen en la que se veían dos mujeres con el torso descubierto usando el atuendo tradicional del pueblo himba de Namibia. Incluía una cita y una descripción en inglés que hacían referencia a los himbas, Opuwo (ciudad capital de la provincia de Kunene, donde viven los himbas) y Namibia. Sobre la base del perfil del usuario, la imagen y la descripción, el usuario no pareciera ser un miembro de la tribu himba, sino un visitante o un turista. Una de las herramientas automáticas de Meta, un clasificador de desnudos y pornografía, eliminó la publicación por infringir la política de desnudos y actividad sexual de adultos de Meta. El usuario apeló la eliminación. Luego de una revisión manual, Meta confirmó su decisión.

En el segundo caso, en julio de 2024, un usuario publicó un video corto en su cuenta de Instagram, en el que se veía a un hombre himba bailando con el torso descubierto y a mujeres con el torso descubierto usando el atuendo tradicional himba en el fondo. En la descripción, había referencias en inglés, francés y árabe al pueblo himba, así como a la danza, la cultura y los viajes africanos. Además, en texto en árabe que se encontraba sobre la imagen, también se hacía referencia a la cultura himba. Un clasificador de desnudos y pornografía identificó el contenido como potencialmente infractor de la política de desnudos y actividad sexual de adultos de Meta y lo envió a revisión manual. Sin embargo, la publicación no se priorizó para su revisión. Luego de que el mismo clasificador identificara nuevamente el contenido debido al aumento del número de visualizaciones o interacciones, un encargado de la etapa de revisión manual lo eliminó. El usuario apeló la decisión a Meta, y, tras una nueva revisión manual, la empresa confirmó la eliminación.

En el tercer caso, en la cuenta de Instagram oficial de un partido político brasileño, en marzo de 2023, se publicó la imagen de una mujer indígena con el torso descubierto usando ropa tradicional yanomami. En el texto en portugués que acompañaba la imagen, se elogiaban las iniciativas del Gobierno por combatir la minería ilegal en tierras del pueblo yanomami. La descripción en portugués hacía hincapié en la importancia de un Gobierno que protege los derechos de propiedad de los indígenas. Otro usuario reportó la publicación, pero esta se conservó en la plataforma. Luego, un clasificador la identificó como potencialmente infractora de la política de contenido violento y gráfico de Meta. Como la cuenta formaba parte del sistema de verificación cruzada, se envió la publicación para una nueva revisión. Meta describe la verificación cruzada como una estrategia de prevención de errores que ofrece más niveles de revisión. En una revisión manual, se determinó que el contenido infringía la política de desnudos y actividad sexual de adultos de Meta y se eliminó. Luego, el usuario que realizó la publicación se comunicó con un contacto personal en Meta para apelar la eliminación. Por último, expertos en políticas de Meta otorgaron una concesión de interés periodístico, ya que determinaron que, a pesar de infringir la política, el valor para el interés público del contenido superaba el daño. La empresa restauró la publicación con una etiqueta de interés periodístico. En septiembre de 2024, Meta remitió el caso al Consejo.

En el cuarto caso, el administrador de la página de Facebook de un periódico alemán publicó en mayo de 2023 una imagen de una mujer indígena con el torso descubierto sosteniendo a un niño. En la descripción y el texto superpuesto en alemán, se describía la visita de una periodista estadounidense a una aldea maya en México y se mencionaban sus perspectivas como madre sobre las diferencias en el estilo de crianza entre las culturas occidentales e indígenas. También había un enlace a un artículo. La mujer indígena de la imagen no pareciera ser maya. Aparentemente, la imagen pertenece a una agencia de fotos y figura en colecciones online del pueblo karo de Etiopía. Un usuario reportó este contenido a Meta, y dos encargados de la etapa de revisión manual estuvieron de acuerdo en que infringía la política de desnudos y actividad sexual de adultos. Como esta cuenta se encuentra en el programa de verificación cruzada, se envió la publicación para que se sometiera a otra revisión. Luego, Meta determinó que se debía otorgar al contenido una concesión basada en el espíritu de la política y que este debía permanecer en Facebook, ya que, a pesar de infringir sus reglas de desnudos, conservarlo era coherente con las bases de la política. Cuando Meta remitió el caso del pueblo yanomami al Consejo, también remetió este caso.

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó:

De acuerdo con los expertos a los que consultó el Consejo, en el pueblo indígena himba, que vive en el norte de Namibia, las mujeres pueden llevar el torso descubierto y usar joyas simbólicas y adornos corporales. Estos desnudos no son inapropiados ni de naturaleza sexual, sino que forman parte integral de su identidad cultural. Los desnudos están vinculados a la espiritualidad, y la pintura y los adornos corporales significan una conexión con su mundo ancestral y cósmico.

El pueblo indígena yanomami vive en un aislamiento relativo en la selva amazónica de Brasil y Venezuela. Los hombres suelen usar prendas muy pequeñas alrededor de la cintura, mientras que las mujeres pueden usar un cinturón de tela sencillo. Los expertos a quienes consultó el Consejo destacaron que, para los yanomamis, los desnudos no tienen una naturaleza sexual. Se vinculan a su relación con la naturaleza y el cosmos, y tienen un papel importante en sus rituales.

En la tradición del pueblo indígena maya, los desnudos no revisten relevancia cultural o espiritual.

2. Respuestas de los usuarios

Los usuarios que publicaron el contenido de las dos mujeres himbas y del pueblo himba bailando apelaron las decisiones de eliminación de Meta ante el Consejo. En sus respuestas, indicaron que su contenido era importante porque mostraba el atuendo tradicional y prácticas culturales del pueblo himba y que su finalidad era favorecer el reconocimiento cultural y la educación. En una de las apelaciones, se hizo hincapié en que las políticas de Meta tienen como finalidad evitar material explícito y se argumentó que sus prohibiciones no deberían incluir las representaciones culturales ni las tradiciones indígenas. Afirmaron que "restablecer este contenido es fundamental para la promoción del entendimiento de las culturas indígenas y el respeto por estas".

Tras las remisiones de Meta de los casos tres y cuatro, y la decisión del Consejo de aceptarlos, los dos usuarios que publicaron el contenido tuvieron la oportunidad de enviar una declaración. No se obtuvo respuesta alguna.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

Política de desnudos y actividad sexual de adultos

En las bases de la política de Meta, se indica que, por lo general, la empresa restringe los desnudos para proteger a las personas que muestran una especial sensibilidad ante ellos, en particular, por su contexto cultural o su edad. Se eliminan las imágenes sexuales de forma predeterminada para "evitar que se comparta contenido sin permiso o de menores de edad". En las bases, también se menciona que "las personas comparten desnudos por una variedad de razones, por ejemplo, como una forma de protesta, para generar conciencia sobre una causa o por razones educativas o médicas, y aceptamos el contenido si es adecuado y cuando dicha intención es evidente".

En el momento en que se seleccionaron estos casos, las reglas de Meta prohibían las imágenes de "pezones femeninos descubiertos". El 14 de mayo de 2025, Meta actualizó esta política para hacer referencia a "pezones femeninos visibles" e incorporó nuevas restricciones para los usuarios menores de 18 años. En las reglas actuales, Meta prohíbe las "[i]mágenes digitales o fotorrealistas de desnudos de adultos", incluidos los "pezones femeninos visibles, excepto en contextos de lactancia o actos de protesta". Hay otras excepciones en las que Meta etiqueta el contenido o solo permite que lo vean usuarios mayores de 18 años. En el caso de los "[p]ezones femeninos visibles, cuando se comparten en un contexto médico o relacionado con la salud (incluidos mastectomía o tatuajes de sobrevivientes de cáncer)", la empresa aplica una etiqueta para indicar que el contenido puede resultar delicado. En el caso de los desnudos que aparecen en "arte del mundo real" o que se "comparten en el contexto de hambrunas, genocidios, crímenes de guerra o delitos de lesa humanidad", Meta aplica esta etiqueta y limita la visibilidad para que solo esté disponible para usuarios mayores de 18 años.

En la política, tanto antes como después de los cambios del 14 de mayo de 2025, no existe ninguna excepción para las mujeres indígenas con el torso descubierto en el texto público de la política. No obstante, en ocasiones, la empresa permite la permanencia de este contenido a través de excepciones de interés periodístico y basadas en el espíritu de la política. Meta no aplica estas excepciones en los procedimientos a gran escala, sino solo en la etapa de escalamiento. Por lo tanto, solo los equipos de políticas de Meta las aplican luego de una revisión especial (consulta la decisión del caso Video de maquillaje para un matrimonio infantil en Irán).

Concesión de interés periodístico

En ciertas circunstancias, la empresa permitirá que contenido que infrinja sus políticas permanezca en la plataforma si es "de interés periodístico y si mantenerlo visible es una cuestión de interés público". Al tomar esta decisión, Meta lleva a cabo una prueba de equilibrio, en la que evalúa el interés público en el contenido frente al riesgo de daño. La empresa evalúa "si el contenido pone de manifiesto amenazas inminentes a la salud o la seguridad públicas, o permite que se expresen perspectivas que actualmente se discuten como parte de un proceso político". Meta puede aplicar una advertencia al contenido conforme a esta concesión y limitar la visualización de los usuarios menores de 18 años. Por último, la empresa señaló que "las concesiones de interés periodístico pueden ser 'limitadas', que se aplican a un solo contenido, o 'amplias', que se pueden aplicar más extensamente a algo como una frase".

Concesión basada en el espíritu de la política

Según Meta, puede aplicar una concesión basada en el espíritu de la política al contenido si las bases de la política y los valores de Meta exigen un resultado diferente de una lectura estricta de las reglas. En decisiones anteriores, el Consejo recomendó a Meta brindar una explicación pública de esta concesión (decisión del caso Productos farmacéuticos en Sri Lanka, reiterada en las decisiones de los casos Violencia en una comunidad del estado de Odisha de la India y Video de maquillaje para un matrimonio infantil en Irán). Meta indicó que está en proceso de implementar esta recomendación.

Meta cuenta con pautas internas respecto de cuándo aplicar excepciones basadas en el espíritu de la política y permitir la permanencia de ciertas publicaciones en virtud de la política de desnudos y actividad sexual de adultos. En el caso de los desnudos de pueblos indígenas, estas pautas incluyen señales o indicadores de que los desnudos se enmarcan en el contexto cultural y se centran en "creencias tradicionales, normas sociales y características materiales de un grupo racial, religioso o social […] cuando tales desnudos cuentan con aceptación social". Para tomar esta determinación, Meta "se basa en el contexto del mercado informado por [sus] equipos regionales" y la alineación de las perspectivas de los equipos internos "para confirmar que tales desnudos realmente cuentan con aceptación social y que no existen inquietudes relacionadas con la seguridad de las personas representadas en la imagen".

II. Respuestas de Meta

Meta determinó que las cuatro publicaciones infringían su política de desnudos y actividad sexual de adultos, que prohíbe la exhibición de "pezones femeninos [visibles]". A pesar de esto, Meta indicó que el contenido compartido en los casos del pueblo yanomami y del pueblo maya/karo cumple los requisitos para que se le otorgue una concesión de interés periodístico y una concesión basada en el espíritu de la política, respectivamente. En última instancia, permitió la permanencia de estas publicaciones.

Las publicaciones de las dos mujeres himbas y del pueblo himba bailando se eliminaron. De acuerdo con la empresa, hubo un mayor riesgo de que el contenido se sexualizara y no quedaba claro si las personas representadas habrían dado su consentimiento para que se compartieran sus imágenes. En el momento de la eliminación, ninguno de los contenidos se escaló a expertos internos para someterse a otra revisión.

En ambos casos, Meta determinó que la excepción basada en el espíritu de la política no era apropiada, ya que no había indicadores de que las mujeres himbas representadas hubieran dado su consentimiento para que se compartieran las imágenes. Meta también concluyó que no se justificaba una concesión de interés periodístico porque el valor para el interés público del contenido no superaba el riesgo de daño. Según Meta, personas no públicas que no eran miembros de la comunidad himba compartieron las publicaciones. Meta determinó que se publicaron principalmente por motivos personales, en lugar de para generar conciencia o darles voz a perspectivas que se debatían en torno del pueblo himba. Meta determinó que, en estos casos, los riesgos para la privacidad y la dignidad superaban el valor de expresión.

En el caso del pueblo yanomami, Meta otorgó una concesión de interés periodístico "limitada", que solo se aplicó a la publicación en cuestión. Meta indicó que el valor para el interés público del contenido superaba el riesgo potencial de contribuir a daños en la vida real. La cuenta de Instagram oficial de un partido político brasileño compartió las imágenes, en las que se abordaba un tema político en curso relacionado con el pueblo yanomami. Algunos de los factores clave en la evaluación de Meta fueron la descripción de la publicación y el texto superpuesto, que procuraban generar conciencia en torno a los derechos del pueblo yanomami y a la minería ilegal. Meta también consideró que los desnudos mostrados en el contenido se presentaban como incidentales y secundarios a un mensaje más amplio de concientización. La empresa no otorgó una concesión basada en el espíritu de la política conforme a sus pautas internas para las excepciones porque determinó que no había indicadores de que el pueblo yanomami representado en la imagen hubiera dado su consentimiento para aparecer en las fotos que se compartieron.

Meta otorgó una concesión basada en el espíritu de la política al contenido del pueblo maya/karo. La empresa determinó que, dado que un medio de comunicación publicó el contenido, era probable que la foto se hubiera tomado con el consentimiento de la persona representada y con el entendimiento de que se distribuiría. Los expertos en la materia de la empresa también confirmaron que los desnudos de la imagen estaban "asociados con creencias tradicionales, normas sociales y características materiales de un grupo indígena en el que los desnudos tienen aceptación social". En esta publicación, un periódico alemán hablaba sobre la experiencia de una periodista que visitó una aldea maya. No obstante, en respuesta a una pregunta del Consejo, Meta reconoció que la imagen no pareciera representar al pueblo maya y que los desnudos no son un elemento de la cultura maya.

El Consejo le hizo preguntas a Meta sobre su política de desnudos, las iniciativas para modificar la política con el tiempo y las partes interesadas a las que consultó sobre esto, y los procesos de aplicación de políticas. El Consejo también preguntó de qué modo Meta evalúa o infiere el consentimiento al otorgar concesiones. Meta respondió todas las preguntas.

4. Comentarios del público

El Consejo recibió tres comentarios del público que cumplieron las condiciones de presentación. Uno de los comentarios procedió de los Estados Unidos y Canadá, uno de Latinoamérica y el Caribe, y uno de África subsahariana. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios enviados se referían a los siguientes temas: grupos indígenas que tienen prácticas de desnudos o desnudos parciales como forma de expresión cultural; las tradiciones de los pueblos yanomamis y la importancia de proteger su libertad de expresión en los medios sociales; y consideraciones en torno a las políticas de moderación de contenido en lo que respecta al logro de un equilibrio entre la expresión cultural y la autonomía individual.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó estos casos para evaluar el impacto de las reglas de desnudos de Meta en la capacidad para compartir representaciones de desnudos culturales de personas indígenas, así como el impacto de esas reglas en los pueblos indígenas, en particular, en las mujeres que llevan el torso descubierto por tradición. En estos casos, se pone de manifiesto la tensión que existe entre los valores de expresión de Meta y la posibilidad de garantizar la privacidad y la dignidad de los pueblos indígenas. Estos casos se incluyen en la prioridad estratégica de género del Consejo.

Anteriormente, el Consejo trató las reglas de Meta sobre los "pezones femeninos descubiertos" y ahora "visibles" (decisiones de los casos Síntomas de cáncer de mama y desnudos e Identidad de género). En esos casos, el contenido estuvo amparado por excepciones a las políticas existentes. Estos casos le dan la oportunidad al Consejo de evaluar contenido que muestra a mujeres indígenas con el torso descubierto, representadas en un contexto cultural no sexual, lo que no está contemplado en ninguna excepción pública a las políticas.

El Consejo analizó la decisión de Meta en este caso respecto de sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

Reglas de contenido

Las cuatro publicaciones infringen las disposiciones explícitas de la política de desnudos y actividad sexual de adultos, en las que se prohíben las imágenes de "pezones femeninos visibles". En todas ellas, se muestran mujeres indígenas con el torso descubierto, y a ninguna de ellas le corresponde una excepción a la política ("lactancia o actos de protesta", "contextos médicos o relacionados con la salud" y representaciones relacionadas con "hambrunas, genocidios, crímenes de guerra o delitos de lesa humanidad").

Por lo tanto, el Consejo analizó las decisiones de Meta para determinar si se debían otorgar concesiones en estos casos.

En el caso del pueblo yanomami, el Consejo determinó que Meta actuó de forma correcta al conservar esta publicación en Instagram como contenido de interés periodístico debido a su alto valor para el interés público y el poco riesgo de daño. En la publicación, se abordaron temas políticos y de derechos humanos en curso, surgidos a partir de la crisis humanitaria que el pueblo yanomami enfrentaba a raíz de la minería ilegal realizada en sus tierras, un asunto que se mencionó en un comentario del público (consulta el comentario PC-30909, Internet Lab). Por otro lado, el riesgo también era limitado, ya que, para el pueblo yanomami, los desnudos con el torso descubierto representan una práctica social y cultural, y en esta imagen en particular, las mujeres están de frente a la cámara y parecen saber que se las está fotografiando.

Sin embargo, el Consejo no estuvo de acuerdo con el modo en que Meta aplicó la concesión basada en el espíritu de la política en los otros tres casos.

Con respecto a los casos de las dos mujeres himbas y del pueblo himba bailando, el Consejo determinó que Meta se equivocó al no otorgar una concesión basada en el espíritu de la política. La decisión de Meta se basó en el hecho de que personas no públicas compartieron las publicaciones, sin indicadores de consentimiento por parte de las mujeres himbas y sin la intención de concientizar sobre un asunto de interés público o abordarlo. A pesar de que esas consideraciones son razonables, el Consejo mencionó que Meta no siguió sus propias pautas para las excepciones respecto del consentimiento implícito en relación con los desnudos de pueblos indígenas.

Los desnudos representan un elemento que cuenta con aceptación social e histórica según las costumbres himbas. Asimismo, se observó un aumento del interés de investigadores, periodistas y turistas en el pueblo himba, y estos últimos mostraron una aparente apertura para compartir su modo de vida con los visitantes. En estas publicaciones en particular, no hay indicadores de consentimiento. En el caso de las dos mujeres himbas, estas aparecen cerca de la cámara y mirando directamente a ella. Los revisores de la etapa de escalamiento de Meta deben considerar también el contexto adicional de la publicación. La imagen de la apelación se acompañó con otras fotos de las mujeres himbas junto al usuario que hizo la publicación, lo que sugiere el consentimiento con mayor solidez. La publicación del pueblo himba bailando pareciera haberse grabado en un rango cercano durante una presentación en público, lo que sugiere que el hombre que estaba bailando y las mujeres himbas que aparecían en el fondo probablemente sabían que se los estaba grabando.

El Consejo determinó que, de acuerdo con las propias pautas internas de Meta respecto de cuándo se debe aplicar una concesión basada en el espíritu de la política, estas señales son suficientes para otorgar la concesión. El Consejo reconoció que el consentimiento para que se tomen imágenes no siempre equivale al consentimiento para que se distribuyan las imágenes. Sin embargo, la actitud del pueblo himba ante los desnudos, junto con los indicadores específicos del contenido, hace que la aplicación de la excepción sea coherente con la intención de la política de evitar que se compartan imágenes sin consentimiento que afecten la privacidad y la dignidad. Sin embargo, el Consejo reitera a continuación sus preocupaciones respecto de la concesión basada en el espíritu de la política de Meta.

En relación con el caso del pueblo maya/karo, una mayoría del Consejo determinó que Meta no debió haber otorgado una concesión basada en el espíritu de la política para conservar este contenido en Facebook en virtud de sus propias reglas. Si bien Meta se centró en el hecho de que un medio de comunicación compartió la imagen, lo que, según la empresa, generalmente sugiere que la mujer hubiera dado su consentimiento y comprendido que su imagen se distribuiría, esto no debiera ser un factor decisivo. En este caso, existe una disparidad evidente entre el sujeto del artículo (el pueblo maya) y la persona de la imagen (una mujer karo). El Consejo determinó que el medio de comunicación probablemente supiera que la imagen no era de una mujer maya y que aun así seleccionara una imagen no relacionada de una mujer karo con desnudos.

Los propios criterios internos de Meta para permitir la permanencia de desnudos culturales (cuando se asocian a creencias tradicionales, normas sociales y características materiales de un […] grupo, y cuando tales desnudos cuentan con aceptación social) no se cumplen en este caso. El contenido, que se centra en las prácticas de crianza de las culturas maya, no se relaciona con una tradición social o histórica de desnudos. En este caso, también surgen cuestionamientos respecto de si el consentimiento para ser fotografiado es equivalente al consentimiento para que el material se distribuya. Esta preocupación se ve exacerbada en un contexto de clickbaits, en el que se usan títulos o imágenes exagerados o engañosos para generar interacción con las publicaciones. Por lo tanto, permitir que el contenido permanezca en la plataforma es incoherente con las bases de la política de Meta.

Una minoría del Consejo no estuvo de acuerdo y determinó que Meta tomó la decisión correcta al conservar la publicación en el contexto de un debate sobre un asunto de interés público. Dada la política actual, esto debiera considerarse de interés periodístico. Para la minoría, el factor más importante es que los desnudos de la imagen se alinean con las normas culturales del grupo indígena representado. Según su perspectiva, la sustitución de una mujer karo por una mujer maya fue un error menor debido a terceros y no disminuyó el interés público en la publicación.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

Libertad de expresión (artículo 19 del ICCPR)

El 16 de marzo de 2021, Meta anunció su Política corporativa de derechos humanos, en la que describe su compromiso con el respeto de los derechos de conformidad con los Principios Rectores sobre las empresas y los derechos humanos de las Naciones Unidas (UNGP). De acuerdo con los UNGP, las empresas deben "abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación" (Principio 11 de los UNGP).

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) brinda una amplia protección a la libertad de expresión. El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a "sexo" u "otra condición" (artículo 2, párrafo 1, del ICCPR). El Relator Especial sobre el derecho a la libertad de expresión de las Naciones Unidas (ONU) hizo hincapié en "la relevancia que el ejercicio del derecho a la libertad de opinión y expresión tiene para las minorías y los pueblos indígenas, ya que [esta] es un instrumento necesario para el cumplimiento específico de los derechos que estos grupos demandan" (A/HRC/14/23, párrafos 41 y 59).

En el artículo 19 también se otorga protección al derecho de buscar y recibir información. En estos casos, la importancia de la expresión se ve reforzada por el hecho de que, en el contenido, se comparte información relevante para derechos culturales. El Relator Especial sobre el derecho a la libertad de expresión de la ONU también afirmó que la expresión sirve como un "factor coadyuvante de otros derechos, entre ellos […] el derecho a participar en la vida cultural […] así como los derechos civiles y políticos" (A/HRC/17/27, párrafo 22; consulta también la observación general n.º 21, E/C.12/GC/21, párrafos 13-19, 37). De acuerdo con el Comité de Derechos Económicos, Sociales y Culturales de la ONU (CESCR), el derecho a participar en la vida cultural incluye el derecho a "buscar, desarrollar y compartir con otros sus conocimientos y expresiones culturales" (observación general n.º 21, E/C.12/GC/21, párrafo 15). Esto se extiende a comprender su "propia cultura y la de otros, a través de la educación y la información" y conocer "formas de expresión y difusión por cualquier medio tecnológico de información y comunicación" (observación general n.º 21, E/C.12/GC/21, párrafo 15).

Asimismo, mecanismos de la ONU reconocieron en reiteradas ocasiones que la vida cultural incluye las tradiciones, las costumbres y la vestimenta (Experta independiente en la esfera de los derechos culturales, A/HRC/17/38 y Corr. 1, párrafo 4; CESCR, observación general n.º 21, E/C.12/GC/21, párrafo 13; Mecanismo de Expertos sobre los Derechos de los Pueblos Indígenas A/HRC/30/53, párrafos 5, 7). De forma similar, en la Declaración de las Naciones Unidas sobre los derechos de los pueblos indígenas, se reconocen los derechos de los pueblos indígenas, específicamente, a sus prácticas culturales (artículos 11-13, 15 y 31).

En este sentido, el análisis del Consejo se basa en protecciones estrictas a la expresión como un factor coadyuvante de otros derechos, incluidos los derechos culturales, civiles y políticos. Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, tanto acerca de publicaciones específicas como del enfoque que Meta emplea para la gobernanza del contenido.

Dado que Meta decidió que la publicación sobre el pueblo yanomami debía permanecer en su plataforma, el contenido no se eliminó y, en consecuencia, no hubo infracción sobre la expresión respecto de este contenido en particular. Como resultado, el Consejo no lo analizará en mayor detalle y ratifica la decisión de Meta en este caso.

Como Meta eliminó las publicaciones sobre el pueblo himba, y el Consejo determinó que, en virtud de sus propias reglas, la publicación sobre el pueblo maya/karo debía eliminarse, evaluó estas publicaciones conforme al marco de la prueba de tres partes.

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad requiere que cualquier regla que limite la expresión sea clara y accesible (observación general n.º 34, párrafo 25). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

En la política de desnudos y actividad sexual de adultos de Meta, se prohíbe la exhibición de "pezones femeninos visibles", excepto en contextos específicos, como "lactancia o actos de protesta" o "cuando se comparten en un contexto médico o relacionado con la salud (incluidos mastectomía o tatuajes de sobrevivientes de cáncer)". El Consejo determinó que las reglas específicas que prohíben la exhibición de "pezones femeninos visibles" son lo suficientemente claras en cuanto a cómo se deben aplicar a los hechos de estos casos.

Sin embargo, el Consejo reiteró su preocupación respecto de la aplicación de las concesiones por parte de Meta. Respecto del interés periodístico, el Consejo destacó que Meta proporcionó mayor claridad en torno al proceso y los criterios correspondientes a esta concesión en su Centro de transparencia como respuesta a las recomendaciones del Consejo (consulta las decisiones de los casos Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, Manifestaciones en Colombia y Eslogan de protesta contra Irán).

En lo que respecta a la concesión basada en el espíritu de la política, el Consejo indicó en reiteradas ocasiones que esta concesión tal vez "no cumpla con la norma de legalidad" (consulta las decisiones de los casos Productos farmacéuticos en Sri Lanka, Violencia en una comunidad del estado de Odisha de la India y Video de maquillaje para un matrimonio infantil en Irán). En la decisión del caso "Productos farmacéuticos en Sri Lanka", el Consejo reconoció la necesidad de que haya una concesión general para evitar injusticias obvias al moderar enormes cantidades de contenido a escala mundial. Sin embargo, recomendó que Meta describiera los criterios que usa para aplicar esta concesión, a lo cual Meta se comprometió, y la usara solo en circunstancias excepcionales.

Estas concesiones especiales tienen limitaciones significativas. En términos de previsibilidad, las reglas de Meta para permitir la conservación de este tipo de contenido se describen en pautas internas confidenciales, que no están disponibles de forma pública. Esto no ofrece suficiente información sobre qué tipo de contenido está permitido. En términos de accesibilidad, Meta limitó los procesos para identificar el contenido que debería calificar para estas concesiones, ya que sus moderadores de los procesos a gran escala no pueden aplicarlas, y tampoco reciben capacitación o cuentan con herramientas para identificar y escalar el contenido que pudiera beneficiarse de ellas (consulta la decisión del caso Asesinato de un candidato a alcalde en México). Aquí, por ejemplo, solo el contenido publicado por cuentas que formaban parte del programa de verificación cruzada permaneció en la plataforma. Las cuentas que no forman parte de dicho programa o que no tienen contactos en Meta enfrentan desafíos significativos a la hora de obtener acceso a equipos especializados que puedan aplicar estas concesiones. En su respuesta al Consejo para este caso, Meta reconoció que la aplicación de estas concesiones en la etapa de escalamiento puede conllevar desigualdades en la aplicación de las políticas.

En los casos en que las concesiones se usan de forma reiterada de la misma forma, la empresa debería evaluar detalladamente si debieran incluirse de forma explícita en la política. De acuerdo con Meta, los desnudos culturales representan un asunto significativo que se escala con frecuencia en sus plataformas.

Para garantizar que Meta aplique sus excepciones sobre la base de criterios claros, el Consejo le recomienda desarrollar indicadores para los desnudos relacionados con culturas indígenas, como se analiza a continuación. También debería incluir una excepción limitada en la política de desnudos y actividad sexual de adultos pública para permitir la permanencia del contenido que represente a mujeres indígenas con el torso descubierto en contextos culturales no sexuales.

II.Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los derechos de otras personas. Como se determinó anteriormente en la decisión del caso Identidad de género y desnudos, la política de desnudos y actividad sexual de adultos de Meta persigue el fin legítimo de proteger los derechos de otras personas, entre otros fines. Al intentar "evitar que se comparta contenido sin consentimiento", la política ampara el fin legítimo de proteger el derecho a la privacidad de otras personas (artículo 17 del ICCPR), en particular, de las mujeres indígenas en este caso.

En los fundamentos que presentó ante el Consejo para este caso, Meta también citó el fin de proteger "la sensibilidad de los usuarios". Anteriormente, en el caso "Identidad de género y desnudos", Meta hizo referencia a la "sensibilidad de la comunidad". Allí, el Consejo destacó que esto podría estar en línea con el fin de preservar la "moral pública", pero manifestó preocupación acerca de que los Gobiernos pudieran usar este concepto de forma incorrecta para menoscabar los derechos de miembros de grupos vulnerables. El Comité de Derechos Humanos advirtió que "el concepto de moral proviene de muchas tradiciones sociales, filosóficas y religiosas; en consecuencia, las limitaciones... con el fin de proteger la moral se deben basar en principios que no deriven exclusivamente de una sola tradición" (observación general n.º 34 del Comité de Derechos Humanos, párrafo 32). Como resultado, el Consejo volvió a hacer mucho hincapié en la protección del derecho a la privacidad.

Para una minoría del Consejo, la "sensibilidad de la comunidad" no puede considerarse una justificación legítima para aplicar limitaciones al discurso, a menos que la intención clara sea preservar la moral pública, lo que no se demostró en este caso. Meta no debería extender los motivos enumerados para restringir el discurso. Además, la libertad de discurso incluye expresiones que son desagradables u ofensivas.

III.Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado; y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

Primero, el Consejo analizará las pruebas de necesidad y proporcionalidad según se aplican a los casos del pueblo himba y del pueblo maya/karo. Luego, llevará a cabo un análisis más general de la política de Meta que prohíbe el contenido que muestra a mujeres indígenas con el torso descubierto cuando los desnudos forman parte de su expresión cultural.

El Consejo determinó que la decisión de Meta de eliminar las publicaciones en los casos de las dos mujeres himbas y el pueblo himba bailando no fue necesaria ni proporcionada. Dada la naturaleza de las imágenes y los indicadores de consentimiento, así como la actitud ante los desnudos del pueblo himba, restringir la expresión para proteger la privacidad de las personas representadas no era necesario. Los desnudos representados tienen aceptación cultural y son un componente profundamente ligado a la historia del patrimonio de las mujeres himbas. En las publicaciones, se incluyeron varios indicadores de consentimiento implícito, como la interacción directa con la cámara, la interacción con el supuesto fotógrafo y el escenario de una presentación pública, lo que sugiere que es probable que las mujeres supieran que se las estaba grabando. Asimismo, ninguna de las publicaciones mostraba a las mujeres himbas de un modo distorsionado, descontextualizado, peyorativo ni abusivo. Por lo tanto, la eliminación del contenido coloca una carga desproporcionada sobre la persona que realizó la publicación y sobre el público, quienes compartían y buscaban información sobre las tradiciones himbas.

En el caso del pueblo maya/karo, una mayoría del Consejo determinó que, en línea con la correcta aplicación de las reglas actuales de Meta, la eliminación del contenido era necesaria y proporcionada para proteger el derecho a la privacidad de la mujer indígena. Independientemente de si la mujer karo pudiera haber dado su consentimiento para que se tomara la imagen, esta representación, publicada por un tercero, muestra su práctica cultural de forma equívoca. En la foto, aparece una mujer indígena karo de Etiopía, una comunidad en la que los desnudos tienen aceptación cultural, mientras que en el artículo se habla sobre prácticas de crianza del pueblo maya, para quienes los desnudos no forman parte de sus normas culturales. El artículo no hace referencia a las mujeres karos. Esta discrepancia afecta a la privacidad y a la dignidad de la mujer representada, ya que muestra su cultura de forma imprecisa. Dado esto, la eliminación es la respuesta necesaria y proporcionada que se alinea con las responsabilidades de Meta en materia de derechos humanos.

Una minoría no estuvo de acuerdo y argumentó que los desnudos son una parte inherente de la cultura karo, lo que conlleva una presunción de consentimiento. Esto se vuelve aún más evidente si se tiene en cuenta que la comunidad permitió que se le tomaran fotografías en muchas otras ocasiones. No hay ningún indicador de que la mujer karo no diera su consentimiento implícito para que se la mostrara con el torso descubierto y, por lo tanto, sus derechos no se vieron perjudicados. Según la perspectiva de la minoría, la atribución de motivos inapropiados no puede servir como justificativo para restringir el discurso sin evidencia. En este caso, el periódico utilizó una imagen que pertenecía a una agencia de fotos de buena fe. Como no hay ninguna persona maya representada, no pueden existir problemas para la privacidad de personas mayas.

El Consejo también determinó que la prohibición total de Meta de publicar imágenes de mujeres indígenas con el torso descubierto, y el hecho de otorgar excepciones ad hoc cuando el contenido llega a equipos especiales de Meta, conlleva restricciones que no son necesarias ni proporcionadas sobre la expresión. Si bien algunas representaciones de desnudos de personas indígenas podrían afectar los derechos a la privacidad, como lo demuestra el caso del pueblo maya/karo, la prohibición total limita la expresión de forma desproporcionada.

Previamente el Consejo destacó las "graves consecuencias de esta política sobre las comunidades en que las mujeres pueden llevar el torso descubierto por su tradición". Una prohibición total restringe su capacidad para usar los medios sociales para la expresión personal y la representación personal en general y perpetúa la exclusión de los espacios digitales. Ya sea que las mujeres mismas u otras personas publicaran estas imágenes, todas las representaciones de la vida diaria, así como las imágenes de mujeres indígenas con el torso descubierto ejerciendo sus derechos civiles y políticos, se eliminarían.

También afecta de forma desproporcionada al derecho de los pueblos indígenas a compartir información, específicamente, acerca de sus prácticas culturales, incluidos sus atuendos tradicionales, a la vez que restringe el acceso de otras personas a dicha información. Las plataformas digitales proporcionan un espacio vital para que las personas preserven sus tradiciones y eduquen a otras personas sobre sus culturas (A/74/255, párrafos 6, 70, 83). Según los expertos a quienes consultó el Consejo, algunas mujeres indígenas usan tales imágenes en los medios sociales para compartir sus historias de forma precisa con sus propias palabras y para transmitir tradiciones culturales.

Un enfoque diferente hubiera respetado de mejor modo la expresión de los usuarios, sin dejar de proteger los derechos de las mujeres indígenas a la privacidad. El Consejo le recomendó a Meta que hiciera pública su excepción interna en la política de desnudos y actividad sexual de adultos para permitir la permanencia de imágenes de mujeres indígenas con el torso descubierto en ciertas circunstancias. Una excepción pública, en lugar de concesiones, elimina la carga sobre la expresión de que las mujeres indígenas con el torso descubierto deben ser "de interés periodístico" o servir para la "generación de conciencia" o tener fines "educativos" para poder permanecer o mostrarse en internet.

El Relator Especial sobre el derecho a la expresión de la ONU instó a las empresas a interactuar con colectivos indígenas de todo el mundo para desarrollar indicadores más precisos que permitan tener en cuenta el contexto cultural y artístico al evaluar contenido que incluye desnudos (A/HRC/38/35, párrafo 54).

Respecto del consentimiento, el Consejo reconoció que aceptar ser fotografiado o grabado no siempre implica un consentimiento para la distribución de esas imágenes. Sin embargo, muchas perspectivas de los pueblos indígenas sobre los desnudos y la divulgación de tales imágenes difieren de las perspectivas sobre los desnudos y el consentimiento que reflejan las reglas de Meta. Esta distinción se ve reflejada de forma implícita en las pautas internas actuales para las concesiones de Meta, que consideran estas diferencias culturales a la hora de evaluar tales contenidos. Las pautas internas de Meta se centran en si los desnudos con el torso descubierto forman parte de las creencias y costumbres de un pueblo indígena y tienen aceptación social. El Consejo entiende que, en algunos contextos culturales indígenas, como los de estos casos, los desnudos no se consideran inherentemente sexuales, sino una parte integral de la identidad cultural. En línea con las pautas internas de Meta, el Consejo determinó que la empresa debería considerar que esto implica un consentimiento implícito una vez que se determina que el contenido refleja tales costumbres y creencias, en particular, cuando se determina que los mismos pueblos indígenas compartieron el contenido.

Sin embargo, además de esto, el Consejo destacó que instrumentos internacionales y expertos en materia de derechos humanos de la ONU hicieron hincapié en la importancia de las representaciones de las culturas indígenas para evitar distorsiones y descontextualizaciones.

Por ejemplo, en la Declaración de las Naciones Unidas sobre los derechos de los pueblos indígenas, se afirma que los pueblos indígenas tienen "derecho a que la dignidad y diversidad de sus culturas, tradiciones, historias y aspiraciones queden debidamente reflejadas en la educación y la información pública" (artículo 15, y artículo 31, de la observación general n.º 21, E/C.12/GC/21, párrafo 37). De forma similar, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) hace hincapié en que las iniciativas para concientizar en torno de las culturas indígenas deberían evitar "descontextualizar o desnaturalizar las manifestaciones o expresiones del patrimonio cultural inmaterial". La UNESCO resalta la importancia del "respeto mutuo" y la "apreciación del patrimonio cultural inmaterial" (consulta la Convención de la UNESCO para la Salvaguardia del Patrimonio Cultural Inmaterial, sus Directrices Operativas, párrafo 102.a y los Principios Éticos, 3 y 10). El Consejo consideró que la "descontextualización o desnaturalización" se refiere a compartir contenido fuera del contexto original, lo que desvirtúa su verdadero sentido o su significancia cultural, y aumenta el riesgo de una representación errónea o una distorsión. Algunos ejemplos de descontextualización incluyen, entre otros, el contenido que muestra desnudos culturales de forma sexualizada, discriminatoria o con fines de clickbait. En la excepción a su política de desnudos y actividad sexual de adultos, además de los factores actuales que usa Meta, la empresa también debería incorporar este factor de evitar la descontextualización de las prácticas indígenas, en particular, cuando terceros comparten las representaciones.

El Consejo reconoció que determinar cuándo permitir la permanencia de contenido con desnudos de personas indígenas sobre la base de estos factores requerirá un análisis contextual. Esto lo convierte en algo difícil para los procesos de revisión a gran escala y hace que sea más idóneo para las etapas de escalamiento. Si bien el Consejo manifestó preocupación por la efectividad de las políticas que solo se aplican en la etapa de escalamiento (consulta las decisiones de los casos Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán y Declaraciones sobre el primer ministro de Japón), reiteró que una excepción definida con claridad es preferible a basarse en concesiones.

Meta le remarcó al Consejo las dificultades que implica la implementación de nuevas excepciones a su política de desnudos con su tecnología de detección de infracciones actual. El Consejo reconoció los desafíos que Meta podría enfrentar a la hora de implementar criterios para identificar desnudos de personas indígenas. Sin embargo, en las Normas comunitarias, ya se incluye una lista de excepciones que requieren que la empresa haga una distinción entre los diferentes tipos de desnudos, como las imágenes que muestran "actos de protesta". Por lo tanto, a pesar de los desafíos que implica la implementación de estas políticas, el Consejo determinó que la expresión cultural indígena debe recibir la misma consideración.

El Consejo considera que Meta podría establecer procesos claros y elaborar pautas internas para ayudar a los revisores de los procesamientos a gran escala a escalar el contenido con desnudos de personas indígenas con el torso descubierto que potencialmente pudiera beneficiarse de tales excepciones usando criterios objetivos. Estas señales podrían incluir indicadores como hashtags relevantes o etiquetas geográficas. Asimismo, pistas visuales, como pintura corporal, joyas, plumas, símbolos culturales u objetos ceremoniales, podrían ayudar a aclarar que una imagen puede incluir desnudos de personas indígenas.

Meta también podría adoptar otras medidas para mitigar el posible daño de las representaciones de desnudos de personas indígenas, incluido el daño a la libertad de expresión de las propias comunidades. Por ejemplo, podría implementar procesos de apelación culturalmente adecuados que les permitieran a los pueblos indígenas y sus miembros solicitar la restauración del contenido con mujeres indígenas con el torso descubierto que se hubiera eliminado de forma inapropiada o la eliminación de contenido compartido sin consentimiento o con representaciones inadecuadas de su cultura. Asimismo, la empresa podría capacitar a estas comunidades para que pudieran etiquetar el contenido que creen que se eliminó de forma incorrecta o que representa de forma inapropiada sus tradiciones a través de un programa de socios de confianza de Meta.

El Consejo también destacó que Meta debería considerar la aplicación del enfoque recomendado por el Consejo a otras instancias de desnudos culturales. Por ejemplo, en la representación pública de algunas ceremonias tradicionales, festivales y eventos (como el Umhlanga en Suazilandia), algunas mujeres llevan el torso descubierto. Las reglas actuales de Meta también prohíben compartir información sobre aspectos importantes de estos grupos y comunidades culturales.

6. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de eliminar los casos de las dos mujeres himbas y del pueblo himba bailando, y exigió que se los restaurara. El Consejo también anuló la decisión de Meta de conservar el caso sobre el pueblo maya/karo, y exigió que se lo eliminara. El Consejo ratificó la decisión de Meta de conservar el caso del pueblo yanomami.

7. Recomendaciones

Política de contenido

1. Para brindar mayor protección a la expresión, sin dejar de respetar los derechos de los pueblos indígenas y sus miembros, Meta debería hacer pública su excepción a la política de desnudos y actividad sexual de adultos por la que se permite la permanencia de contenido que muestra a mujeres indígenas con el torso descubierto en ciertas circunstancias. Esta excepción debería aplicarse solo en la etapa de escalamiento y debería permitir la permanencia de los desnudos que reflejan costumbres y creencias que tienen aceptación social y que no representan de forma incorrecta estas prácticas.

El Consejo considerará que se implementó esta recomendación cuando Meta haya actualizado la norma comunitaria sobre desnudos y actividad sexual de adultos pública con la excepción a la política.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5, y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, un grupo de investigaciones digitales que brinda asesoría en materia de riesgos y servicios de inteligencia sobre amenazas para mitigar los riesgos online, también colaboró en la investigación.

Volver a Decisiones de casos y opiniones consultivas sobre políticas