Identidad de género y desnudos

Resumen del caso

El Consejo asesor de contenido ha anulado las decisiones originales de Meta de eliminar dos publicaciones de Instagram en las que aparecían personas transgénero y no binarias con el torso desnudo. También recomienda que Meta modifique la política sobre desnudos y actividad sexual de adultos de sus Normas comunitarias para que se rija por criterios claros que respeten las normas internacionales sobre derechos humanos.

Información sobre el caso

Esta es la primera decisión en la que el Consejo asesor de contenido analiza dos casos juntos. La misma cuenta de Instagram hizo dos publicaciones diferentes, una en 2021 y otra en 2022. Las personas propietarias de la cuenta son una pareja de los Estados Unidos que se identifican como personas transgénero no binarias.

Ambas publicaciones incluyen imágenes de la pareja con el torso desnudo y los pezones cubiertos. En las descripciones que acompañan a las imágenes, se debate sobre la atención médica que reciben las personas transgénero y se indica que una de las personas de la imagen se someterá pronto a una cirugía de pecho (cirugía de confirmación de género para tener el pecho más plano), proceso para el cual están recaudando fondos.

Tras una serie de alertas de los sistemas automatizados de Meta y de denuncias de algunos usuarios, las publicaciones se revisaron varias veces a fin de detectar posibles infracciones de diversas políticas de las Normas comunitarias. En última instancia, Meta eliminó ambas publicaciones por infringir la política sobre servicios sexuales de las Normas comunitarias, aparentemente porque en las publicaciones aparecen pechos y un enlace a una página de recaudación de fondos.

Las personas propietarias de la cuenta presentaron una apelación a Meta y, posteriormente, al Consejo. Después de que el Consejo aceptara los casos, Meta determinó que había eliminado las publicaciones por error y las restauró.

Conclusiones principales

El Consejo asesor de contenido considera que eliminar estas publicaciones no es una medida coherente con las Normas comunitarias de Meta, sus valores ni sus responsabilidades en materia de derechos humanos. Asimismo, estos casos ponen de manifiesto problemas básicos con las políticas de Meta.

Las pautas internas de Meta que indican a los moderadores cuándo eliminar contenido en virtud de la política sobre servicios sexuales son mucho más amplias que las bases de la política y las pautas disponibles públicamente. Esto genera confusión entre usuarios y moderadores y, como Meta ya ha reconocido, lleva a que se elimine contenido de forma errónea.

En al menos uno de los casos, un sistema automatizado entrenado para aplicar la política sobre desnudos y actividad sexual de adultos de las Normas comunitarias envió la publicación para que se sometiera a revisión manual. Esta política prohíbe las imágenes en las que aparecen pezones femeninos, excepto en circunstancias concretas, como la lactancia o las cirugías de confirmación de género.

Esta política se basa en una visión binaria del género y en una distinción entre el cuerpo masculino y el femenino. Este enfoque hace que no quede claro cómo se aplican las reglas en el caso de personas intersexuales, no binarias y transgénero, y requiere que los revisores hagan evaluaciones rápidas y subjetivas de sexo y género, lo que no resulta práctico al moderar contenido a gran escala.

Las restricciones y excepciones a las reglas sobre pezones femeninos son extensas y confusas, en particular en cuanto a su aplicación a personas transgénero y no binarias. Las excepciones a la política comprenden desde actos de protesta hasta imágenes de nacimientos, así como contextos médicos y de salud, en los que se incluyen las cirugías de pecho y la concienciación sobre el cáncer de mama. Dichas excepciones se explican con frecuencia de manera enrevesada y poco precisa. En algunos contextos, por ejemplo, los moderadores deben evaluar el tamaño y la naturaleza de las cicatrices visibles para determinar si se aplican determinadas excepciones. La falta de claridad inherente a esta política genera dudas entre usuarios y revisores y la hace inviable en la práctica.

El Consejo ha advertido sistemáticamente a Meta de que debe tener presente cómo sus políticas afectan a quienes son víctimas de discriminación (por ejemplo, en las decisiones de los casos “ Cinturón de Wampum” y “Reapropiación de términos árabes”). En este caso, el Consejo considera que las políticas de Meta sobre desnudos de adultos suponen un mayor obstáculo para que las mujeres, las personas transgénero y las personas no binarias puedan expresarse en las plataformas de la empresa. Por ejemplo, repercuten de forma negativa en contextos en los que las mujeres, por tradición, pueden llevar el torso desnudo. Asimismo, las personas que se identifican como LGBTQI+ pueden verse afectadas de manera desproporcionada, como demuestran estos casos. Los sistemas automatizados de Meta identificaron el contenido varias veces, pese a que no infringía las políticas de Meta.

Meta debe esforzarse por desarrollar e implementar políticas que resuelvan todos estos problemas. Debe cambiar su enfoque respecto al control de desnudos en sus plataformas definiendo unos criterios claros para la política sobre desnudos y actividad sexual de adultos que garanticen que se trata a todos los usuarios de un modo coherente con las normas sobre derechos humanos. Asimismo, debe evaluar si la política sobre desnudos y actividad sexual de adultos protege contra la difusión de imágenes sin consentimiento y si hay otras políticas que se deban reforzar en este sentido.

Decisión del Consejo asesor de contenido

El Consejo asesor de contenido revoca la decisión original de Meta de eliminar las publicaciones.

Asimismo, el Consejo recomienda que Meta tome las siguientes medidas:

• Aplicar a la política sobre desnudos y actividad sexual de adultos de las Normas comunitarias unos criterios claros, objetivos y respetuosos con los derechos humanos, de modo que se trate a todas las personas de una manera coherente con las normas internacionales sobre derechos humanos, sin discriminación por sexo ni género. En primer lugar, Meta debería llevar a cabo una evaluación integral (en la que deberían participar partes interesadas diversas) sobre la repercusión que dicho cambio puede tener en los derechos humanos, así como crear un plan para reparar los daños que se identifiquen.
• Proporcionar en la política pública sobre servicios sexuales de las Normas comunitarias más detalles respecto a los criterios que conducen a que se elimine contenido.
• Revisar las pautas para los moderadores en lo concerniente a la política sobre servicios sexuales, de modo que reflejen con mayor precisión las reglas públicas que atañen a la política, ya que esto permitiría reducir los errores de aplicación de políticas por parte de Meta.

* Los resúmenes de casos ofrecen información general sobre estos y no sientan precedente alguno.

Decisión completa del caso

1. Resumen de la decisión

El Consejo asesor de contenido anula las decisiones originales de Meta de eliminar dos publicaciones de Instagram. Meta ha reconocido haber cometido una equivocación en las decisiones originales en ambos casos. Estos casos generan importantes inquietudes sobre cómo las políticas de Meta afectan de manera desproporcionada a los derechos de expresión de las mujeres y las personas LGBTQI+ que usan sus plataformas. El Consejo recomienda que Meta base su política sobre desnudos y actividad sexual de adultos en criterios claros, objetivos y respetuosos con los derechos humanos para garantizar que todas las personas sean tratadas por igual, en consonancia con las normas internacionales sobre derechos humanos, y se evite la discriminación por sexo o identidad de género. En primer lugar, Meta debería llevar a cabo una evaluación integral sobre las implicaciones de adoptar dichos criterios, en la que deberían participar de forma amplia e inclusiva partes interesadas pertenecientes a contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación detecte posibles daños, la implementación de la nueva política debería incluir un plan de mitigación para abordarlos.

Asimismo, el Consejo recomienda que Meta modifique su política pública sobre servicios sexuales para hacerla más clara y que acote sus pautas internas sobre aplicación de políticas para abordar mejor dichas infracciones.

2. Descripción y antecedentes del caso

Estos casos están relacionados con dos decisiones de contenido tomadas por Meta que el Consejo asesor de contenido aborda de forma conjunta en esta decisión. Una misma cuenta de Instagram, perteneciente a una pareja residente en los Estados Unidos, publicó dos imágenes con texto independientes. En ambas imágenes se puede ver a la pareja, que se identifica como transgénero no binaria, tal como manifiesta en la publicación y ante el Consejo.

Meta eliminó las dos publicaciones en virtud de la política sobre servicios sexuales de las Normas comunitarias, ya que, en ambos casos, sus sistemas automatizados identificaron el contenido como potencialmente infractor.

En la primera imagen, publicada en 2021, ambas personas aparecen con el torso desnudo y los pezones cubiertos con cinta adhesiva del color de su piel. En la segunda, publicada en 2022, una de las personas está vestida mientras que la otra tiene el torso descubierto y se cubre los pezones con las manos. En los textos que acompañan a estas imágenes, la pareja manifiesta que la persona que aparece con el torso desnudo pronto se someterá a una cirugía de confirmación de género para tener el pecho más plano. Ambas personas explican que tienen pensado documentar el proceso quirúrgico y debatir los problemas de atención médica que sufren las personas transgénero. También anuncian que están llevando a cabo una recaudación de fondos para pagar la cirugía, ya que han tenido problemas para encontrar un seguro que cubra el procedimiento.

En el primer caso, la imagen fue calificada inicialmente de forma automática como con poca probabilidad de infringir las normas. La denuncia se cerró sin haberse revisado y el contenido permaneció inicialmente en la plataforma. Posteriormente, tres usuarios denunciaron el contenido tras calificarlo como pornografía y autolesión. Los moderadores que revisaron manualmente estas denuncias llegaron a la conclusión de que la publicación no infringía las normas. Cuando un cuarto usuario denunció el contenido, otro revisor determinó que la publicación infringía la política sobre servicios sexuales de las Normas comunitarias y la eliminó.

En el segundo caso, los sistemas automatizados de Meta identificaron dos veces la publicación, se envió a revisión manual y se determinó en ambas ocasiones que no infringía las normas. Más adelante, dos usuarios denunciaron el contenido, pero ambas denuncias se cerraron automáticamente sin revisión manual y el contenido permaneció en Instagram. Por último, los sistemas automatizados de Meta identificaron el contenido por tercera vez y se lo sometió a revisión manual. En las dos últimas ocasiones, el clasificador automatizado de desnudos y actividad sexual de adultos de Meta marcó el contenido, pero no queda claro el motivo de estas revisiones reiteradas. En esta última revisión manual, se determinó que la publicación infringía la política sobre servicios sexuales de las Normas comunitarias y se eliminó.

La pareja propietaria de la cuenta apeló las dos decisiones de eliminación de Meta y el contenido se sometió a revisión manual en ambos casos. Sin embargo, Meta no restauró las publicaciones pese a estas revisiones. Entonces, la pareja apeló las dos decisiones de eliminación ante el Consejo. Es la primera vez que el Consejo analiza dos casos de forma conjunta. La ventaja de esto es que permite identificar problemas similares en los procesos y las políticas de contenido de Meta y ofrecer soluciones a estos.

Después de que el Consejo seleccionara estas publicaciones y se le pidiese a Meta que justificase su decisión de eliminar el contenido, la empresa determinó que las eliminaciones se debieron a errores de aplicación de las políticas y restauró las publicaciones.

Al determinar por qué estos casos suponen problemas graves, el Consejo señala como dato contextual pertinente la gran cantidad de comentarios públicos recibidos en estos casos, muchos de los cuales provienen de personas que se identifican como transgénero, no binarias o mujeres cisgénero que manifestaron sentirse personalmente afectadas por errores de aplicación de políticas y problemas similares a los presentados en estos casos.

El Consejo también considera información contextual pertinente las investigaciones académicas (también citadas en los comentarios públicos) de Haimson y otros, y Witt, Suzor y Huggins, así como dos informes de Salty sobre el sesgo algorítmico y la censura de comunidades marginadas. Estos estudios determinaron que los errores de aplicación de las dos políticas de las Normas comunitarias a las que atañen estos casos perjudican de manera desproporcionada a las mujeres y la comunidad LGBTQI+. El coautor de uno de estos estudios es miembro del Consejo asesor de contenido.

3. Competencia y ámbito de actuación del Consejo asesor de contenido

El Consejo tiene potestad para revisar la decisión de Meta tras la apelación de un usuario cuyo contenido se haya eliminado (artículo 2, apartado 1 del acta constitutiva; artículo 3, apartado 1 de los estatutos).

El Consejo puede ratificar o revocar la decisión de Meta (artículo 3, apartado 5 del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir dictámenes consultivos sobre políticas con recomendaciones a las que Meta debe responder (artículo 3, apartado 4; y artículo 4 del acta constitutiva).

Cuando el Consejo selecciona casos como este, en el que Meta reconoce que ha cometido un error después de que el Consejo identificara el caso, este revisa la decisión original. La finalidad es comprender mejor los parámetros de la política y los procesos de moderación de contenido que han contribuido a que se cometa el error, así como abordar los problemas que el Consejo detecte en las políticas subyacentes. El Consejo también tiene como objetivo proporcionar recomendaciones que reduzcan la probabilidad de futuros errores y lograr que se trate a los usuarios de manera más justa a partir de ese momento.

Si el Consejo identifica casos que generan inquietudes similares, es posible que se los asigne simultáneamente a un panel para deliberar sobre ellos conjuntamente. Se tomará una decisión vinculante en relación con cada elemento de contenido.

4. Precedentes

El Consejo asesor de contenido ha considerado en su decisión los precedentes y las normas siguientes:

I. Decisiones del Consejo asesor de contenido:

• Decisión del caso “Reapropiación de términos árabes” ( 2022-003-IG-UA). El Consejo analizó los retos de aplicar excepciones a las políticas y el impacto desproporcionado de algunas decisiones normativas.
• Decisión del caso “Cinturón de Wampum” ( 2021-012-FB-UA). El Consejo analizó los retos de aplicar excepciones a las políticas y el impacto desproporcionado de algunas decisiones normativas.
• Decisión del caso “Síntomas de cáncer de mama y desnudos” ( 2020-004-IG-UA). El Consejo analizó las Normas comunitarias de Instagram y recomendó que Meta aclarase que existe una exención para el contenido de concienciación sobre el cáncer de mama.

II. Políticas de contenido de Meta:

Tienen relación con estos casos las Normas comunitarias de Instagram y las Normas comunitarias de Facebook. En el Centro de transparencia de Meta se establece que “Facebook e Instagram comparten políticas de contenido, lo que significa que, si se determina que el contenido infringe las normas en Facebook, también se considerará que infringe las normas en Instagram”.

Servicios sexuales

Las Normas comunitarias de Instagram establecen que no está permitido ofrecer servicios sexuales. En esta disposición figura un enlace a la política sobre servicios sexuales de las Normas comunitarias de Facebook.

En las bases de la política sobre servicios sexuales, Meta afirma lo siguiente: “Sin embargo, establecemos un límite cuando el contenido facilita, fomenta o coordina encuentros o servicios sexuales comerciales entre adultos. Tomamos estas medidas para evitar que se facilite cualquier tipo de actividad que pueda implicar el tráfico, la coerción y los actos sexuales no consentidos. También restringimos el lenguaje sexualmente explícito que pueda llevar a la coordinación de servicios sexuales, ya que algunas audiencias de nuestra comunidad global pueden ser sensibles a este tipo de contenido y esto puede impedir que las personas se pongan en contacto con sus amigos y otros miembros de la comunidad”.

La política sobre servicios sexuales de las Normas comunitarias de Facebook establece que Meta prohíbe el contenido tanto explícito como implícito relativo a servicios sexuales. Para que se considere que un contenido está relacionado de forma implícita con servicios sexuales e infringe la política, debe cumplir dos criterios. El primero es “ofrecer o pedir” estos servicios. Según se explica en la política: “Contenido en el que, implícita o indirectamente (normalmente proporcionando un método de contacto), se ofrecen o solicitan servicios sexuales”. El segundo es “elementos sugerentes”. Según se explica en la política: “Contenido que hace la mencionada oferta o solicitud utilizando uno de los siguientes elementos sexualmente sugerentes”: Entre los elementos mencionados están la “jerga regional con connotación sexual” y las “posturas”.

Desnudos y actividad sexual de adultos

Las Normas comunitarias de Instagram indican a los usuarios lo siguiente: “Publica fotos y vídeos que sean apropiados para una audiencia diversa. Somos conscientes de que quizá algunas personas quieran compartir imágenes de desnudos de carácter artístico o creativo; sin embargo, por diversos motivos, no permitimos que se publiquen desnudos en Instagram. Esta restricción se aplica a fotos, vídeos y determinado contenido digital que muestren actos sexuales, genitales y primeros planos de nalgas totalmente al descubierto. También afecta a algunas fotos de pezones femeninos al descubierto, aunque estas fotos se permiten en el contexto de la lactancia, un parto o los momentos posteriores, situaciones relacionadas con la salud (por ejemplo, después de una mastectomía, para concienciar sobre el cáncer de mama o en relación con cirugías de confirmación de género) o como acto de protesta”. Esta sección incluye un enlace a la política sobre desnudos y actividad sexual de adultos de Facebook, donde se proporcionan más detalles sobre estas reglas.

Como parte de las bases de la política sobre desnudos y actividad sexual de adultos de las Normas comunitarias, Meta explica lo siguiente: “Limitamos la exhibición de desnudos o actividad sexual para proteger a determinadas personas de nuestra comunidad que muestren una especial sensibilidad ante este tipo de contenido. Además, de forma predeterminada, eliminamos este tipo de imágenes para evitar que se comparta contenido no consentido o de menores”.

La política sobre desnudos y actividad sexual de adultos también indica lo siguiente: “No publiques el contenido siguiente: Pezones femeninos al descubierto, excepto en el contexto de dar el pecho, en momentos del parto y posteriores a este, en contextos médicos o de salud (por ejemplo, después de una mastectomía, para concienciar sobre el cáncer de mama o en cirugías de confirmación del género) o como acto de protesta”. Los usuarios también pueden publicar imágenes de genitales si se comparten en “contextos médicos o de salud” (como es el caso de una cirugía de confirmación de género), pero se le aplicará una etiqueta para advertir de su naturaleza delicada: Además, en las pautas internas hay al menos 18 factores más relativos a los pezones y estas excepciones.

III. Valores de Meta:

Los valores de Meta se detallan en la introducción a las Normas comunitarias de Facebook, donde la “expresión” se define como un valor “fundamental”.

Nuestras Normas comunitarias siempre han tenido la finalidad de crear un espacio donde todos podamos expresarnos y dar a conocer nuestra opinión. […] Queremos que todo el mundo pueda tratar abiertamente los temas que le interesan, incluso si los demás no están de acuerdo o los consideran inapropiados.

Meta limita la “expresión” en favor de otros cuatro valores, y dos de ellos son pertinentes en este caso:

“Seguridad”: nos comprometemos a hacer de Facebook un lugar seguro. La expresión que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitida en Facebook.

“Dignidad”: creemos que todas las personas son igualmente dignas y tienen los mismos derechos. Esperamos que respeten la dignidad de los demás y no los acosen ni los degraden.

IV. Normas internacionales sobre derechos humanos:

Los Principios Rectores sobre las Empresas y los Derechos Humanos (PREDH) de la ONU, respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario de responsabilidades de las empresas privadas en relación con estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los PREDH. El análisis del Consejo sobre las responsabilidades de Meta en materia de derechos humanos en estos casos se basó en las siguientes normas sobre derechos humanos:

• Derecho a la libertad de opinión y expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (PIDCP), observación general n.º 34 del Comité de Derechos Humanos (2011); comunicación 488/1992; resolución 32/2, Consejo de Derechos Humanos, 2016; informes del Relator Especial de la ONU sobre la libertad de opinión y de expresión: A/HRC/38/35 (2018) y A/74/486 (2019).
• Derechos de las mujeres: artículo 2 y artículo 5 de la Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer (CETFDCM).
• Derecho a la no discriminación: artículo 2, párrafo 1 y artículo 26 del PIDCP. Nepomnyashchiy c. la Federación de Rusia, Comité de Derechos Humanos, 2018 ( CCPR/C/123/D/2318/2013).

5. Manifestaciones del usuario

En las respuestas a estos casos, las personas propietarias de la cuenta exponen que consideran que el contenido se eliminó por transfobia. Señalan que, si el Consejo afirmase que este contenido debería permanecer en la plataforma, la decisión contribuiría a hacer de Instagram un espacio más acogedor para la expresión de las personas LGBTQI+.

6. Manifestaciones de Meta

Meta explicó en su argumentación de la decisión que la eliminación de ambos contenidos se debió a errores en la aplicación de las políticas y que ninguna de las publicaciones infringe las políticas sobre servicios sexuales. Meta menciona que la única oferta o solicitud que aparece en el contenido es para hacer donaciones a una recaudación de fondos o para acceder a un sitio web donde comprar camisetas, nada de lo cual está relacionado con servicios sexuales.

Meta también asegura que ninguna de las publicaciones infringe la política sobre desnudos y actividad sexual de adultos de las Normas comunitarias. En la argumentación se indica que en las pautas de revisión internas se trata específicamente cómo tomar medidas ante desnudos de personas no binarias, agénero o transgénero. El contenido en estos casos se compartió en un contexto explícitamente transgénero o no binario, como lo demuestran el tema general del contenido (cirugía de pecho) y los hashtags utilizados. Meta concluyó que, incluso aunque los pezones hubiesen estado visibles o al descubierto en estos casos, no infringirían su política sobre desnudos y actividad sexual de adultos. Asimismo, Meta reconoce que, en ambas imágenes, los pezones estaban completamente tapados.

Dado el tiempo transcurrido desde que se eliminó el contenido, Meta no pudo indicar al Consejo qué política o políticas estaban programados para aplicar los diversos sistemas automatizados que identificaron el contenido como potencialmente infractor. En un caso, Meta pudo explicar que el contenido estuvo en cola en dos ocasiones porque lo remitieron clasificadores automatizados de desnudos y actividad sexual de adultos. Meta tampoco pudo explicar el motivo por el que los revisores consideraron que el contenido infringía la política sobre servicios sexuales. En su argumentación, Meta reconoce que es consciente de que, si se aplican de forma excesivamente técnica las pautas de revisión internas, algunos revisores pueden llegar a eliminar contenido por error al considerar que este hace referencia implícita a servicios sexuales (aunque no sea el caso).

El Consejo hizo 18 preguntas a Meta, que la empresa respondió en su totalidad.

7. Comentarios públicos

El Consejo asesor de contenido ha tenido en cuenta 130 comentarios públicos relacionados con estos casos. De ellos, 97 procedían de los Estados Unidos y Canadá; 19, de Europa; diez, de Asia-Pacífico y Oceanía; uno, de Latinoamérica y el Caribe; uno, de Oriente Medio y África septentrional; uno, de África subsahariana; y uno, de Asia central y meridional.

Los comentarios hacían referencia a los siguientes temas: eliminaciones erróneas de contenido de personas usuarias transgénero, no binarias o mujeres; inequidad y desigualdad ante las distinciones en función del género para determinar qué tipos de desnudos se permiten en la plataforma; confusión respecto al contenido que se admite en virtud de las normas sobre desnudos y actividad sexual de adultos y sobre servicios sexuales; y la importancia de los medios sociales para la libertad de expresión en sociedades en las que los derechos de la comunidad LGBTQI+ se ven amenazados.

Los comentarios públicos recibidos en relación con este caso se pueden consultar aquí. No se han incluido varios de los comentarios enviados porque contienen información que identifica a personas distintas a quien envía el comentario.

8. Análisis del Consejo asesor de contenido

El Consejo analizó la pregunta de si estas publicaciones deberían restaurarse teniendo en cuenta tres aspectos: las políticas de contenido de Meta, los valores de la empresa y sus responsabilidades en materia de derechos humanos.

El Consejo seleccionó estos casos porque la eliminación de contenido no infractor publicado por personas que se identifican con grupos marginados afecta a la libertad de expresión de estas. Esto es particularmente significativo dado que Instagram puede ser un espacio importante en el que estos grupos creen comunidades. Estos casos ponen de manifiesto cómo los errores en la aplicación de políticas pueden perjudicar de manera desproporcionada a ciertos grupos y pueden servir de indicador de problemas más generales en las políticas y su aplicación que se deben corregir.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo considera que estas publicaciones no infringen ninguna política de contenido de Meta. Si bien las Normas comunitarias de Instagram son el documento de referencia principal para esta plataforma, Meta también señala que Facebook e Instagram comparten políticas de contenido, por lo que, si se determina que un contenido infringe las normas en Facebook, también se considerará que las infringe en Instagram. Las Normas comunitarias de Instagram incluyen un enlace a las Normas comunitarias de Facebook, donde se proporcionan más detalles.

a. Servicios sexuales

La política sobre servicios sexuales de las Normas comunitarias indica que, para que se considere que un contenido está relacionado de forma implícita con servicios sexuales, debe incluir dos elementos:

• contenido que incluya una oferta o solicitud implícitas Y
• elementos sexualmente sugerentes.

Oferta o solicitud implícita.

La política sobre servicios sexuales de las Normas comunitarias define como oferta o solicitud implícita el “[c]ontenido en el que, implícita o indirectamente (normalmente proporcionando un método de contacto), se ofrecen o solicitan servicios sexuales”. En las Preguntas frecuentes de Meta, donde se proporcionan pautas internas adicionales para los revisores, la lista de métodos de contacto que conllevarían la eliminación del contenido por tratarse de una oferta implícita incluye enlaces a perfiles en medios sociales y enlaces a sitios web de suscripción (como OnlyFans.com o Patreon.com). En estos casos, el contenido incluía un enlace a una plataforma en la que se estaba organizando una recaudación de fondos para pagar el coste de la cirugía de una de las personas propietarias de la cuenta. Dado que los criterios internos de Meta para definir una “oferta o solicitud implícita” son muy amplios, técnicamente este enlace cumpliría el criterio 1 (“ofrecer o pedir”) según las pautas para revisores de Meta, pese a no infringir la norma disponible públicamente, que señala que la oferta o solicitud debe ser de naturaleza sexual.

Elementos sexualmente sugerentes.

En la política de las Normas comunitarias se proporciona una lista de elementos sexualmente sugerentes, en la que se mencionan las “posturas”. En las Preguntas frecuentes se ofrece una lista (que Meta describe como exhaustiva) de las posturas que se consideran sexualmente sugerentes, y que incluyen los pechos femeninos desnudos cubiertos con técnicas digitales o con objetos o partes del cuerpo. El Consejo es consciente de que en ambas imágenes aparecen pechos cubiertos por partes del cuerpo (manos) u objetos (cinta adhesiva), pero en estos casos, el contenido de las publicaciones deja claro que las personas de la foto se identifican como transgénero y no binarias, por lo que los pechos que se observan pertenecen a personas que no se identifican como mujeres. Asimismo, el Consejo considera que el contenido no es sexualmente sugerente. Por tanto, el segundo elemento que se requiere para infringir la política sobre servicios sexuales: elementos sexualmente sugerentes (como una postura con connotaciones sexuales, entre las que se incluye el pecho femenino cubierto) no está presente en el contenido.

Por tanto, las publicaciones no infringen esta norma. Asimismo, si se aplicase la versión pública de la norma que define el primer elemento (que indica que la oferta o solicitud debe ser de naturaleza sexual), la conclusión también sería que estas imágenes no constituyen una infracción de la política sobre servicios sexuales.

b. Desnudos y actividad sexual de adultos

La política sobre desnudos y actividad sexual de adultos de las Normas comunitarias establece que los usuarios no deben publicar imágenes de pezones femeninos al descubierto, excepto en el contexto de dar el pecho, en momentos del parto y posteriores a este, en contextos médicos o de salud (por ejemplo, después de una mastectomía, para concienciar sobre el cáncer de mama o en cirugías de confirmación de género) o como acto de protesta. En las Preguntas frecuentes de Meta, se señala además que los revisores deben permitir imágenes de pezones si se comparten en un contexto explícitamente no binario, agénero o de transición de género femenino a masculino (por ejemplo, una persona que indica su identidad de género), independientemente del tamaño o la forma del pecho. Ninguna de las imágenes en estos casos infringe esta política de las Normas comunitarias.

En primer lugar, en ninguna de ellas se muestran pezones descubiertos. En ambas, las personas que aparecen se los han cubierto con las manos o con cinta adhesiva. En segundo lugar, el Consejo señala que las imágenes se compartieron junto con un texto que aclaraba que estas personas se identifican como no binarias, por lo que, aunque los pezones hubiesen estado descubiertos, las imágenes seguirían sin infringir esta política.

8.2 Cumplimiento de los valores de Meta

El Consejo considera que la decisión original de eliminar estas publicaciones no se tomó de conformidad con los valores de Meta de “expresión” y “dignidad”, ni contribuyó a fomentar el valor de “seguridad”.

Los errores de aplicación de políticas que afectan de manera desproporcionada a grupos que sufren discriminación suponen una amenaza grave a los valores de “expresión” y “dignidad”. Si bien los argumentos de Meta en relación con los derechos humanos hacen referencia a la seguridad, en particular en lo que respecta a la difusión de imágenes sin consentimiento, el tráfico sexual y el abuso infantil, la conclusión del Consejo es que estas eliminaciones no fomentaron el valor de “seguridad”.

8.3 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

Libertad de expresión (artículo 19, PIDCP)

El artículo 19 del PIDCP contiene disposiciones para proteger ampliamente la libertad de expresión, incluido el derecho a debatir sobre los derechos humanos y a emitir declaraciones que puedan considerarse ofensivas (párrafo 11 de la observación general n.º 34). El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a “sexo” u “otra condición” (artículo 2, párrafo 1 del PIDCP). El Comité de Derechos Humanos ha confirmado en casos como Nepomnyashchiy c. la Federación de Rusia (CCPR/C/123/D/2318/2013) que la prohibición relativa a la discriminación también abarca la discriminación por identidad de género.

El contenido está relacionado con temas sociales importantes. Para esta pareja, Instagram sirve de foro en el que mostrar su expresión de género y hablar de ella, y proporciona un espacio en el que conectar con otras personas y tejer una red de apoyo. El contenido también puede repercutir directamente en su capacidad para someterse a cirugía de confirmación de género, ya que en ambas publicaciones se explica que una de las personas se realizará una operación de pecho y se comparte una recaudación de fondos para cubrir los costes del procedimiento.

El artículo 19 exige que, si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3 del PIDCP). A partir del marco de los PREDH, en el informe del Relator Especial de la ONU sobre la libertad de opinión y expresión, se apela a las empresas de redes sociales a garantizar que sus reglas de contenido se rijan por los requisitos del párrafo 3 del artículo 19 del PIDCP (A/HRC/38/35, párrafos 45 y 70). El Consejo adoptó este marco para analizar las políticas y las prácticas de aplicación de políticas de Meta.

En este caso, el Consejo considera que Meta no cumplió con sus responsabilidades de crear y aplicar políticas que se ajusten a estas normas. Los criterios internos aplicados para la eliminación de contenido en virtud de la política sobre servicios sexuales son más extensos que las bases de la política, lo que provoca un exceso de moderación, circunstancia que Meta ya ha reconocido. La política sobre desnudos y actividad sexual de adultos de las Normas comunitarias afecta de forma desproporcionada a las mujeres y personas de la comunidad LGBTQI+ que usan las plataformas de Meta, y se basa en valoraciones subjetivas y especulativas sobre sexo y género que no son factibles a la hora de moderar contenido a gran escala. El Consejo analiza estas carencias y recomienda que Meta comience un proceso integral para solucionar estos problemas.

I. Legalidad (claridad y accesibilidad de las reglas)

Las reglas que restringen la expresión deben ser claras y accesibles, de modo que tanto los responsables de aplicarlas como los usuarios sepan lo que está permitido. Las dos políticas de las Normas comunitarias que atañen a estos casos no cumplen estas características.

a. Servicios sexuales

El Consejo considera que las pautas internas que se proporcionan a los revisores para aplicar la políticas sobre servicios sexuales de las Normas comunitarias incluyen criterios demasiado amplios. Estas pautas escasamente adaptadas a su propósito fomentan un exceso de moderación por parte de los revisores y genera confusión entre los usuarios. Meta ya ha reconocido que existe este problema, ya que ha explicado al Consejo que la aplicación de su pauta interna podría provocar una moderación excesiva en aquellos casos en los que se cumplen los criterios relativos a servicios sexuales implícitos, pero queda claro que no hay intención de ofrecer ni solicitar dichos servicios.

La confusión se refleja en ambos elementos de esta política. En el primer criterio de la política sobre servicios sexuales de las Normas comunitarias, relativo al ofrecimiento o la solicitud, las reglas públicas hacen referencia a un método de contacto de la parte que solicita u ofrece los servicios. En la pauta para los moderadores (en su documento Preguntas frecuentes), se indica que el método de contacto para una oferta o solicitud implícita puede ser un enlace a un perfil en medios sociales o enlaces a sitios web de suscripción de terceros, como Patreon. Sin embargo, a los usuarios no se les aclara que un enlace a otro perfil en medios sociales, a una plataforma de pago de terceros o a una recaudación de fondos (como Patreon o GoFundMe) podría interpretarse como que su publicación es una oferta o una solicitud de servicios sexuales. Esta confusión queda patente en los muchos comentarios públicos que el Consejo ha recibido de personas que no entendían por qué se había eliminado contenido con estos tipos de enlaces o se les había bloqueado su cuenta por este motivo.

El segundo criterio, el uso de elementos sexualmente sugerentes, es amplio y ambiguo, además de incoherente con la política sobre desnudos y actividad sexual de adultos de Meta. En la política pública de las Normas comunitarias, se hace mención a las posturas sexualmente sugerentes como parte de este tipo de elementos. En las Preguntas frecuentes se proporciona una lista detallada de dichas posturas, entre las que se incluyen mostrar el torso desnudo y cubrirse los pechos con las manos o con objetos. Lo más probable es que los usuarios no sean capaces de suponer que Meta considera que cualquier imagen en la que aparezca una persona con los pechos cubiertos incluye una postura sexualmente sugerente. Esta confusión se agrava debido al hecho de que la política sobre desnudos de adultos permite las fotos con el torso desnudo si los pezones están cubiertos. Es decir, contenido que se considera sexual en una política no lo es según otra.

Además, el hecho de que los revisores llegaran reiteradamente a diferentes conclusiones sobre este contenido sugiere que los moderadores carecen de pautas claras respecto al contenido que debería considerarse una solicitud o un ofrecimiento de servicios sexuales.

Como Meta reconoce, la aplicación de su pauta interna sobre los dos elementos que indican servicios sexuales implícitos está provocando que se elimine contenido que no pretende conducir a actos sexuales. Para evitar eliminaciones erróneas a largo plazo, probablemente una mejor solución sea modificar el ámbito de aplicación de esta política. No obstante, a corto plazo, el Consejo recomienda que Meta revise sus pautas internas para garantizar que estos criterios sigan las reglas públicas y requieran de una relación más clara entre la oferta o la solicitud y el elemento sexualmente sugerente. Meta también debería proporcionar a los usuarios una explicación más detallada de lo que constituye una oferta o solicitud de sexo y lo que se consideran posturas sexualmente sugerentes en las Normas comunitarias públicas.

b. Desnudos y actividad sexual de adultos

La política sobre desnudos y actividad sexual de adultos de las Normas comunitarias se basa en distinciones de sexo y género que son difíciles de implementar e incluye excepciones fijadas de manera deficiente. Algunas reglas de esta política resultarán confusas para los usuarios, que no sabrán lo que está permitido. Esto también ocasiona confusión entre los moderadores, que deben realizar evaluaciones subjetivas a partir de información inevitablemente incompleta y aplicar con rapidez una regla que tiene numerosos factores, exclusiones y suposiciones.

Pese al uso de términos que hacen referencia a partes específicas del cuerpo en lugar de mencionar el género (y a que se permite elegir una amplia variedad de identidades de género en el perfil), la mayoría de las reglas de Meta no explican cómo trata la empresa el contenido en el que aparecen personas intersexuales, transgénero o no binarias. Por ejemplo, la política hace referencia a genitales masculinos y femeninos, pechos femeninos y pezones femeninos, pero no queda claro cómo se aplican estas descripciones a personas cuyos cuerpos e identidades quizás no se ajusten a estas definiciones. Muchas personas transgénero y no binarias han enviado comentarios públicos al Consejo para indicar que las personas usuarias no saben si su contenido se evalúa y categoriza según su identidad de género, el sexo que se les asignó al nacer o aspectos de su apariencia física.

Las reglas actuales requieren que los revisores evalúen con rapidez tanto el sexo de la persona que aparece en el contenido (ya que esta política se aplica a los pezones femeninos) como su identidad de género (porque hay excepciones en función de si la persona es no binaria, agénero o transgénero, o realiza la publicación en un contexto de cirugía de confirmación de género). Las percepciones de sexo y género requieren de la interpretación de indicadores contextuales y la apariencia, que son determinaciones subjetivas que pueden inducir a error.

Esta manera de proceder se complica aún más debido a que, en caso de duda, Meta aplica de manera predeterminada sus políticas referentes a los desnudos de mujeres, que son más restrictivas que las aplicables a los cuerpos de hombres. En las Preguntas frecuentes se establece que, si no hay un contexto claro y la persona de la imagen se presenta como mujer O existe el contexto de transición de género masculino a femenino, se debe aplicar la norma predeterminada sobre desnudos femeninos y la política pertinente.

La cantidad de restricciones y excepciones a las reglas sobre pezones percibidos como femeninos es extensa y genera confusión. Las excepciones van desde actos de protesta hasta imágenes de nacimientos y lactancia, así como contextos médicos y de salud, en los que se incluyen las imágenes posmastectomía y de concienciación sobre el cáncer de mama. Por lo general, las excepciones no están definidas o tienen definiciones vagas. La lista de excepciones también ha ido creciendo de forma sustancial a lo largo del tiempo y se espera que lo siga haciendo a medida que las formas de expresión evolucionen. La política sobre desnudos y actividad sexual de adultos de Meta presupone que las representaciones de pechos femeninos constituyen imágenes sexuales. Sin embargo, la creciente lista de excepciones refleja que, en muchas circunstancias contempladas en la política, las imágenes de pechos femeninos no son sexualmente sugerentes.

Incluso dentro de cada excepción surgen muchas preguntas. Por ejemplo, la excepción sobre cirugía de confirmación de género es de particular importancia para las personas transgénero y no binarias, pero, en sus reglas públicas, Meta no explica el ámbito de aplicación de dicha excepción. Como consecuencia, muchos de los comentarios públicos expresaban confusión sobre si el contenido permitido en virtud de esta excepción podría incluir fotos previas a la cirugía (para crear una imagen del antes y el después) e imágenes de mujeres trans que se hayan sometido a un aumento de pecho. Las pautas internas y las Preguntas frecuentes dejan claro que esta excepción es más acotada de lo que se puede inferir a partir de la pauta pública.

Las políticas de Meta se basan en distinciones binarias entre hombre y mujer, lo que genera problemas cuando Meta intenta articular la excepción relacionada con la cirugía de confirmación de género. En sus repuestas al Consejo, Meta ha explicado que la excepción relativa a la cirugía de confirmación de género implica que se admiten los pezones femeninos descubiertos antes de que la persona se someta a la cirugía para extraer los senos si el contenido se publica en un contexto explícitamente no binario, agénero o de transición de género femenino a masculino. Asimismo, las reglas establecen que se prohíben los pezones de mujeres trans (transición de género masculino a femenino) que se hayan sometido a un aumento de pecho, a menos que haya cicatrices sobre los pezones.

Las pautas internas sobre cicatrices quirúrgicas y pezones son incluso más complejas. Por ejemplo, las reglas relativas a mastectomías permiten el contenido en el que haya una reconstrucción del pezón a partir de otros tejidos o en el que el pezón esté dibujado o tatuado, así como el contenido en el que haya presente al menos un seno extirpado quirúrgicamente, incluso si el otro pezón femenino descubierto está visible. Lo que genera aún más confusión es que las reglas indican que, en los casos de mastectomías, la referencia a “cicatrices” también incluye las representaciones del área donde solía estar el tejido del seno extirpado, aunque la cicatriz quirúrgica en sí misma no esté visible.

Es probable que a los revisores les cueste aplicar reglas que les exigen evaluar con rapidez características específicas del sexo de la persona que aparece en el contenido para decidir si se aplican las reglas sobre pezones femeninos; a continuación, establecer el género de la persona para determinar si deben aplicar alguna excepción, y, finalmente, tener en cuenta si el contenido muestra un momento previo o el resultado de un procedimiento quirúrgico, de qué procedimiento se trata y la medida y la naturaleza de las cicatrices visibles para decidir si son aplicables otras excepciones. Una misma imagen de pezones femeninos se prohibiría si la publica una mujer cisgénero, pero se admitiría si la publica una persona que se identifica como no binaria. Asimismo, el Consejo señala que existen otras excepciones relativas a los pezones en contextos de actos de protesta, nacimiento, posparto y lactancia que no se analizan aquí, pero que también se deberían evaluar y que probablemente cuenten con criterios internos adicionales.

Dada la importancia de los derechos de expresión en temas de género, salud física, nacimiento y crianza, el complejo entramado actual de excepciones genera una incertidumbre excesiva entre los usuarios y puede provocar la aplicación errónea de reglas, como demuestra este caso. La falta de claridad intrínseca de esta política para los usuarios y los moderadores hace que la norma sea inviable. Como se analiza detalladamente más adelante, el Consejo considera que Meta debería adoptar un enfoque ante los desnudos de adultos que garantice que todas las personas reciban el mismo trato, sin discriminación por cuestiones de sexo o identidad de género.

II. Fin legítimo

El artículo 19 del PIDCP establece que un Estado solo puede restringir la expresión con fines legítimos, que se describen como el respeto por los derechos o la reputación de otras personas y la protección de la seguridad nacional o el orden público o de la salud pública y la moral. Esta decisión analiza el fundamento de Meta para limitar la libertad de expresión en sus políticas teniendo en cuenta estas normas.

a. Servicios sexuales

Meta explica en su política sobre servicios sexuales que el objetivo es evitar que los usuarios usen Facebook o Instagram para facilitar cualquier tipo de actividad que pueda implicar tráfico, coerción y actos sexuales no consentidos, que pueda ocurrir fuera de la plataforma. Este es un ejemplo de protección de los derechos de otras personas, lo que constituye un fin legítimo.

b. Desnudos y actividad sexual de adultos

Meta proporcionó varios argumentos relacionados con aspectos particulares de su política sobre desnudos y actividad sexual de adultos, como la prevención de difusión de contenido sin consentimiento, la protección de los menores cuando no queda claro qué edad tiene la persona y la especial sensibilidad que pueden tener algunas personas de su comunidad a este tipo de contenido. Meta también proporcionó al Consejo una explicación de sus principios generales sobre desnudos. Afirma que, en la redacción preliminar de su política, Meta tuvo en cuenta (1) la naturaleza privada o sensible de las imágenes; (2) si se obtuvo consentimiento para tomar y compartir imágenes de desnudos; (3) el riesgo de explotación sexual, y (4) si la difusión de dichas imágenes podría ocasionar acoso fuera de la plataforma, particularmente en países en los que dichas imágenes podrían resultar ofensivas desde el punto de vista cultural.

Muchos de estos objetivos concuerdan con la protección de los derechos de otras personas. Sin embargo, el fundamento de Meta de proteger la sensibilidad de la comunidad requiere un análisis más exhaustivo. Si bien este fundamento podría ajustarse al fin legítimo de proteger la moral pública, el Consejo señala que, en ocasiones, algunos reguladores del discurso gubernamentales han hecho valer de forma inadecuada el fin de proteger la moral pública para violar los derechos humanos, en particular de miembros de minorías y grupos vulnerables. El Comité de Derechos Humanos ya ha advertido de que “el concepto de moral se deriva de muchas tradiciones sociales, filosóficas y religiosas; por consiguiente, las limitaciones impuestas con el fin de proteger la moral deben basarse en principios que no se deriven exclusivamente de una sola tradición” (observación general n.º 34 del Comité de Derechos Humanos).

Si bien el Derecho de los derechos humanos reconoce que la moral pública puede constituir un fin legítimo por el que los Estados pueden limitar la libertad de expresión y que existen restricciones sobre la desnudez en público en todo el mundo, Meta señala otros fines distintos a la sensibilidad de la comunidad en el contexto específico de este caso. Meta afirmó que, si bien su política sobre desnudos es coherente con la protección de la moral pública, no se basa en última instancia en este fin porque las normas morales en torno a la desnudez difieren ampliamente según las culturas y no se podrían implementar a gran escala. Por ejemplo, en muchas comunidades y partes del mundo, es probable que se considerase que las imágenes de pechos descubiertos de personas transgénero o no binarias transgreden la sensibilidad de la comunidad, pero Meta no restringe dicha expresión. Asimismo, al Consejo le preocupa la presión desproporcionada, conocida y recurrente que sufren las mujeres y las personas transgénero y no binarias en cuanto a su libertad de expresión debido a las políticas de Meta (ver más adelante). Por estos motivos, al examinar las responsabilidades de Meta en materia de derechos humanos, el Consejo se centra en los fines distintos a la sensibilidad de la comunidad que la empresa fomenta.

Cabe señalar que algunos de los motivos que Meta proporciona para su política parten del presupuesto de que los pechos femeninos son sexualmente sugerentes por naturaleza. El Consejo recibió comentarios públicos de muchos usuarios que expresaron preocupación sobre la sexualización presupuesta del cuerpo de las mujeres y las personas trans y no binarias, cuando esta misma presunción de sexualización no se aplica a las imágenes a los hombres cisgénero (ver, por ejemplo, el comentario público 10 624 presentado por InternetLab).

El Consejo recibió muchos comentarios públicos en este caso mediante los canales de comunicación habituales establecidos para tal fin. Como organismo comprometido con la rendición de cuentas ante la base de usuarios y las partes interesadas de Meta, el Consejo tiene muy en cuenta los comentarios públicos como parte de sus deliberaciones. Como en cualquier otro caso, entendemos que es posible que estos comentarios no representen la opinión general. El Consejo valora las experiencias y los conocimientos aportados a través de los comentarios y continúa trabajando para llegar a comunidades que quizá actualmente no participen en este proceso.

Por último, el Consejo reconoce que Meta puede, de forma legítima, incluir como factor en sus actuaciones la importancia de prevenir ciertos daños que pueden tener repercusiones distintas según el género. Como menciona el Relator Especial sobre la violencia contra la mujer, “es importante reconocer que internet se está utilizando en un entorno más amplio de discriminación y violencia por razón de género, generalizado, estructural y sistémico contra las mujeres y las niñas” (A/HRC/38/47). Además, las encuestas indican que “el 90 % de las víctimas de la distribución digital no consensuada de imágenes íntimas son mujeres” (A/HRC/38/47). Meta debe esforzarse por limitar los daños por motivos de género, tanto si se producen por exceso como por falta de aplicación de las prohibiciones de desnudos.

III. Necesidad y proporcionalidad

El Consejo considera que las políticas de Meta, debido a su estructura y su forma de aplicación, detectan más contenido del necesario. Ninguna política es proporcionada respecto a los problemas que pretende abordar.

a. Servicios sexuales

Las definiciones de “oferta o solicitud” implícitas y de “posturas sexualmente sugerentes” establecidas en la política sobre servicios sexuales de Meta son demasiado amplias, por lo que conducen a la detección de una cantidad significativa de contenido no relacionado con servicios sexuales. La propia empresa reconoce que es consciente del riesgo de aplicaciones erróneas y afirma que, si se siguen de forma excesivamente técnica las pautas de revisión internas, algunos revisores pueden llegar a eliminar contenido por error al considerar que este hace referencia implícita a servicios sexuales (aunque no sea el caso). Meta añade lo siguiente:

Actualmente, según lo indicado en nuestras Preguntas frecuentes, se considera que compartir, mencionar o proporcionar información de contacto de identidades sociales o digitales constituye una oferta o una solicitud implícita de servicios sexuales. […] Sin embargo, aplicar esta pauta puede conducir a una moderación excesiva en algunos casos, por ejemplo, si un revisor interpreta que una modelo está posando de forma sexualmente sugerente (se cumple el criterio de elemento sexualmente sugerente) y etiqueta al fotógrafo para acreditar su trabajo (se cumple el criterio de oferta o solicitud). Este tipo de contenido no infringe las normas porque no hay intención de solicitar servicios sexuales, pero aun así podría eliminarse (contrario al objetivo de la política) porque cumple técnicamente con los dos criterios que se mencionan anteriormente.

En un informe de la UNESCO sobre la educación en el espacio digital, se describe el riesgo del exceso de moderación. Se señala que, debido a la regulación estricta de la difusión de imágenes explícitas, los moderadores pueden confundir en algunos casos los materiales educativos sobre el cuerpo o las relaciones sexuales publicados online con fines didácticos con contenido inapropiado y explícito y, por lo tanto, eliminarlos de plataformas web genéricas. El Consejo también destaca la gran cantidad de comentarios públicos que ha recibido sobre eliminaciones erróneas basadas en esta norma. Por ejemplo, ACON (una ONG educativa sobre el VIH de Australia) explica que, en su caso, se eliminó contenido que animaba a tomar precauciones contra el VIH desde un punto de vista positivo de las relaciones sexuales y contenido que promocionaba talleres educativos por considerarse servicios sexuales. Por este motivo, la ONG se ha visto obligada a usar un lenguaje que no provoque la eliminación del contenido por parte de Meta, en lugar de utilizar el lenguaje más apropiado para llegar a sus comunidades objetivo (comentario público 10 550). Esto mismo afirma Joanna Williams, una investigadora que determinó que nueve de las doce organizaciones de salud sexual que entrevistó habían informado de que la moderación de Meta en esta área tuvo una repercusión negativa para ellas (comentario público 10 613).

b. Desnudos y actividad sexual de adultos

Además de los retos que implica establecer reglas viables y aplicables a gran escala basadas en la percepción de Meta de los conceptos “sexo” e “identidad de género” (según se ha descrito anteriormente), el Consejo también considera que las políticas de Meta sobre los desnudos de adultos imponen restricciones desproporcionadas a ciertos tipos de contenido y formas de expresión. Las políticas exigen la eliminación del contenido, cuando se pueden conseguir los objetivos normativos fijados con medidas menos restrictivas.

Meta ya usa diversas medidas además de la eliminación, como colocar pantallas de advertencia y restringir el contenido según la edad para que solo lo vean usuarios mayores de 18 años. De hecho, ya emplea dichas medidas en su política sobre desnudos y actividad sexual de adultos (por ejemplo, para las representaciones artísticas de actos sexuales). Meta también podría optar por hacer que interviniesen moderadores humanos y automatizados, de modo que se determinase de manera más precisa y fiel al contexto específico cuándo un desnudo es realmente de naturaleza sexual, independientemente del género del cuerpo que se muestre. Además, Meta podría emplear diversas intervenciones normativas con las que ofrecer mayor control a los usuarios para que quienes no deseen ver contenido con desnudos puedan limitarlo. Asimismo, Meta cuenta con diversas políticas específicas sobre temas que también aborda en la política sobre desnudos (como la política sobre explotación de adultos y la política sobre explotación sexual, abuso y desnudos de menores) que se podrían reforzar.

El Consejo señala que las prácticas de aplicación de políticas de Meta parecen generar una gran cantidad de falsos positivos o eliminaciones erróneas de contenido que no infringe las normas. En el Informe de aplicación de las Normas comunitarias de Meta sobre Instagram más reciente (abril a junio de 2022), se indica que el 21 % del contenido eliminado de conformidad con la política sobre desnudos y actividad sexual de adultos se restaura tras su apelación. El Consejo ha recibido también una gran cantidad de comentarios públicos respecto a la eliminación errónea de contenido en virtud de la política sobre desnudos de adultos.

No discriminación

Existen pruebas de que las políticas y las prácticas de aplicación de Meta en relación con la política sobre desnudos y actividad sexual de adultos pueden tener consecuencias desproporcionadas, en especial entre las mujeres y las personas LGBTQI+. Esas consecuencias están patentes tanto en la política como en su aplicación, ya que se limitan las maneras en que los grupos pueden expresarse, luchar contra los prejuicios y ganar visibilidad en la sociedad.

Si bien este caso está relacionado con personas transgénero y no binarias, los errores en la aplicación de políticas surgen a raíz de una política que también perjudica a las mujeres, particularmente porque, en el contenido con desnudos, Meta aplica de manera predeterminada las restricciones fijadas para los cuerpos femeninos. Por este motivo, en esta sección se analiza cómo las políticas de Meta repercuten en las mujeres y la comunidad LGBTQI+. El gran volumen de comentarios públicos en este caso ha proporcionado muchos ejemplos del impacto que pueden tener estas políticas.

El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a “sexo” u “otra condición” (artículo 2, párrafo 1 del PIDCP), incluidas la orientación sexual y la identidad de género (Toonen contra Australia (1994); informe A/HRC/19/41, párrafo 7). La jurisprudencia del Comité de Derechos Humanos apunta que “no todas las distinciones basadas en los motivos enumerados en el artículo 26 del Pacto constituyen discriminación, siempre que se basen en criterios razonables y objetivos y estén dirigidas a lograr una finalidad que sea legítima según el Pacto”. Nepomnyashchiy c. la Federación de Rusia, Comité de Derechos Humanos, 2018, párrafo 7.5 (CCPR/C/123/D/2318/2013).

La Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer (CETFDCM) prohíbe “toda distinción, exclusión o restricción basada en el sexo que tenga por objeto o resultado menoscabar o anular el reconocimiento, goce o ejercicio por la mujer […] sobre la base de la igualdad del hombre y la mujer, de los derechos humanos y las libertades fundamentales en las esferas política, económica, social, cultural y civil o en cualquier otra esfera” (artículo 1 de la CEDAW). El Consejo señala que los organismos internacionales de derechos humanos no han abordado las implicaciones en materia de derechos humanos que puede tener el hecho de permitir o prohibir los desnudos de adultos con consentimiento y sus posibles consecuencias discriminatorias.

Conforme a los PREDH, “las empresas deben prestar especial atención a las consecuencias concretas sobre los derechos humanos de las personas pertenecientes a grupos o poblaciones expuestos a un mayor riesgo de vulnerabilidad o de marginación” (principios 18 y 20 de los PREDH). El Relator Especial de la ONU sobre la libertad de expresión insta a las empresas tecnológicas a “tratar de conocer cuáles son las preocupaciones de las comunidades que históricamente se han enfrentado al peligro de la censura y la discriminación y tener en cuenta esas preocupaciones” (A/HRC/38/35, párrafo 48). El Grupo de Trabajo sobre las Empresas y los Derechos Humanos de la ONU también recomienda que estas empresas se aseguren de que “las nuevas tecnologías, como la inteligencia artificial y la automatización, no tengan un efecto negativo desproporcionado en los derechos humanos de las mujeres” (Dimensiones de género de los Principios Rectores sobre las Empresas y los Derechos Humanos).

Dada la importancia de las plataformas de medios sociales como espacio de expresión de quienes son víctimas de discriminación, el Consejo ha manifestado sistemáticamente sus expectativas por que Meta vigile con especial atención la posible eliminación indebida de contenido publicado por miembros de estos colectivos, que tenga relación con ellos o en el que aparezcan representados. Como hizo constar en su decisión del caso sobre el cinturón de Wampum (2021-012-FB-UA), relacionado con la expresión artística de colectivos indígenas, no basta con evaluar en su totalidad los resultados de la aplicación de la política de Meta sobre lenguaje que incita al odio, sino que también debe tenerse en cuenta el efecto generado sobre grupos específicos. De forma similar, en el caso sobre reapropiación de términos árabes, el Consejo confirmó que “la moderación excesiva del lenguaje de las personas de grupos minoritarios perseguidos constituye una grave amenaza a su libertad de expresión” y manifestó su preocupación ante el sistema de aplicación de exenciones de las políticas de Meta (en ese caso, de la política sobre lenguaje que incita al odio) en relación con la libertad de expresión de los grupos marginados (2022-003-IG-UA).

Las consecuencias de las decisiones de Meta se traducen en desigualdad de oportunidades para el ejercicio de la libre expresión en sus plataformas por parte de mujeres, personas transgénero y no binarias. La política actual sobre desnudos y actividad sexual de adultos de Meta considera los pechos y los pezones femeninos como elementos inherentemente sexuales (y, por lo tanto, susceptibles de ser prohibidos), a menos que se hayan sometido a una intervención quirúrgica o se vaya a proceder a hacerlo, y a excepción del contexto de la lactancia. En lugar de tomar medidas para impedir que la censura afecte a ciertos grupos de forma desproporcionada, la política de Meta consolida y perpetúa las consecuencias referidas para con dichos colectivos.

Estos casos ponen de manifiesto el efecto desproporcionado de las decisiones normativas de Meta sobre las personas que se identifican como LGBTQI+, ya que los clasificadores de desnudos y actividad sexual de adultos detectaron de forma reiterada contenido ajeno al ámbito de la política. El Consejo considera que estos casos son representativos de problemas de mayor alcance. A modo de ejemplo, un estudio de Haimson y otros ha señalado que las personas transgénero denuncian numerosas eliminaciones de cuentas y contenido que suelen calificarse como desnudos y material de índole sexual.

La aplicación de las decisiones normativas de Meta también tiene un impacto desproporcionado sobre las mujeres. Un estudio de Witt, Suzor y Huggins ha destacado que hasta un 22 % de las imágenes de cuerpos femeninos eliminadas de Instagram parecen ser falsos positivos. El impacto diferencial atribuible al cuerpo de la mujer también se ha referido en los comentarios públicos (ver, por ejemplo, el comentario público 10 616 de Dr. Zahra Stardust).

Esta postura predeterminada sobre los desnudos tiene asimismo un gran impacto en aquellos contextos en los que está tradicionalmente aceptado que la mujer lleve el torso desnudo. El Relator Especial de la ONU sobre la promoción y protección del derecho de libertad de opinión y expresión insta a las empresas a interactuar con grupos indígenas de todo el mundo para “elaborar mejores indicadores para tener en cuenta el contexto artístico y cultural a la hora de evaluar el contenido en el que aparezcan desnudos” (párrafo 54 del informe A/HRC/38/35).

Además de estas consideraciones antidiscriminatorias relacionadas con las políticas, estos casos han evidenciado otras cuestiones relativas a la aplicación de medidas normativas (al margen de valoraciones en términos de discriminación). Meta debería tener en cuenta que el contenido de las personas que se identifican como miembros de grupos marginados sufre un riesgo mayor de recibir denuncias reiteradas o maliciosas, ya que otros usuarios denuncian contenido que no infringe las normas con el objetivo de molestar o acosar a estas personas. Estos hechos también se han señalado en varios comentarios públicos (ver, por ejemplo, los comentarios públicos 10 596 y 10 628 de GLAAD y la Human Rights Campaign Foundation respectivamente).

Estos casos han puesto de manifiesto que las denuncias reiteradas que activan múltiples revisiones pueden aumentar la probabilidad de eliminación indebida. De hecho, en este caso, la mayoría de las denuncias realizadas por los usuarios se sometieron a revisión manual. Aunque, en este proceso, el contenido se calificó como no infractor, se siguieron realizando denuncias hasta que los revisores lo calificaron indebidamente como infractor y lo eliminaron.

Meta debería desarrollar y aplicar políticas que ayuden a corregir todos estos problemas, por ejemplo, políticas más coherentes sobre desnudos que no resulten discriminatorias en su aplicación por razón de sexo o identidad de género. Asimismo, debería tener más en cuenta el contexto a la hora de determinar qué tipo de contenido puede considerarse o no sexual y evitar la aplicación de criterios discriminatorios al realizar esta clasificación.

El Consejo señala que la política sobre explotación sexual de adultos de Meta incluye disposiciones específicas relativas a las imágenes íntimas compartidas sin consentimiento. La empresa ha priorizado la aplicación de medidas en esta área (ver, por ejemplo, su introducción sobre la tecnología de detección automatizada dedicada a detener la publicación reiterada de imágenes compartidas sin consentimiento). Si Meta decide cambiar de enfoque para abordar los desnudos en la plataforma, debería examinar detenidamente el grado de protección que ofrece su política sobre desnudos y actividad sexual de adultos frente a la difusión de imágenes sin consentimiento y considerar si es necesario modificar su política sobre explotación sexual de adultos o la aplicación de medidas relacionadas para reforzar su eficacia.

El Consejo también reconoce que Meta puede tener un interés legítimo en limitar el contenido sexual o pornográfico en su plataforma. No obstante, considera que la empresa podría y debería alcanzar sus objetivos de negocio pertinentes aplicando perspectivas no discriminatorias, que traten a todos los usuarios por igual.

Algunos miembros del Consejo consideran que Meta debería intentar reducir el impacto discriminatorio de sus políticas actuales aplicando una política sobre desnudos que no contemple criterios diferentes en relación con el sexo ni con el género. En este contexto, se remiten a las disposiciones de la Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer (CETFDCM) relativas a la eliminación de los estereotipos de género (ver, por ejemplo, los artículos 5 y 10) y al comentario explícito sobre dicha convención que Meta incluye en su Política corporativa sobre derechos humanos. En relación con la política sobre desnudos, concluyen que estas normas internacionales en materia de derechos humanos y el propio compromiso de Meta contra la discriminación contribuyen a eliminar las distinciones basadas en estereotipos. Asimismo, señalan que avanzar hacia una política no basada en distinciones por motivo de sexo ni de género sería una solución idónea que permitiría a Meta cumplir con sus responsabilidades en materia de derechos humanos como empresa, dados sus valores y compromisos corporativos. Por último, observan que las normas y las políticas deben evolucionar para abordar las convenciones que ejercen un impacto discriminatorio, ya que muchas formas de discriminación han constituido o siguen constituyendo convenciones sociales generalizadas.

Han surgido discrepancias entre los miembros del Consejo en relación con estos temas. Aunque, en principio, algunos aceptan que Meta no debería limitar la libertad de expresión en función del sexo ni del género, mantienen una postura muy escéptica ante la capacidad de la empresa de abordar de forma eficaz el problema de las imágenes íntimas compartidas sin consentimiento (y otros daños potenciales) sin disponer de una política sobre desnudos con conciencia de género y sexo. Otros miembros consideran que, dado que los principios antidiscriminación en materia de derechos humanos permiten establecer distinciones en función de características protegidas, “siempre que se basen en criterios razonables y objetivos y estén dirigidas a lograr una finalidad que sea legítima según el Pacto” (Nepomnyashchiy c. la Federación de Rusia, Comité de Derechos Humanos, 2018, párrafo 7.5 [CCPR/C/123/D/2318/2013]), no es preciso desarrollar una política sobre desnudos neutral a efectos de sexo y género, que podría causar o exacerbar otros daños.

Los miembros del Consejo que abogan por una política sobre desnudos de adultos neutral en términos de sexo y género reconocen que, de conformidad con las normas internacionales sobre derechos humanos aplicables a los Estados, se pueden hacer distinciones en función de características protegidas, siempre que estén basadas en criterios razonables y objetivos y estén dirigidas a lograr una finalidad que sea legítima. No consideran que las distinciones contempladas en la política sobre desnudos de Meta cumplan con esa norma. Asimismo señalan que, como empresa, Meta ha adquirido compromisos en materia de derechos humanos que no resultan coherentes con un enfoque que restringe la libertad de expresión en internet basándose en la propia percepción de la compañía de los conceptos de sexo y género.

La política sobre desnudos y actividad sexual de adultos de las Normas comunitarias afecta de forma desproporcionada a las mujeres y personas de la comunidad LGBTQI+ que usan las plataformas de Meta, y se basa en valoraciones subjetivas y especulativas sobre sexo y género que no son factibles a la hora de moderar contenido a gran escala. Desde una perspectiva global, dada la confusión existente en torno a las reglas y su aplicación y considerando el impacto desproporcionado y discriminatorio de la política actual de Meta sobre desnudos y actividad sexual de adultos, el Consejo recomienda a la empresa definir criterios claros, objetivos y respetuosos con los derechos humanos y basar íntegramente en ellos su política sobre desnudos de adultos para garantizar que todas las personas sean tratadas por igual, en consonancia con las normas internacionales sobre derechos humanos, y evitar la discriminación por sexo o identidad de género. En primer lugar, Meta debería llevar a cabo una evaluación integral sobre las implicaciones de adoptar dichos criterios, en la que deberían participar de forma amplia e inclusiva partes interesadas pertenecientes a contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación detecte posibles daños, la implementación de la nueva política debería incluir un plan de mitigación para abordarlos. El Consejo solicita un informe sobre la evaluación y el plan referidos seis meses después de la fecha de publicación de esta decisión.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ha revocado la decisión original de Meta de eliminar ambas publicaciones y ha exigido que se restauren.

10. Dictamen consultivo sobre políticas

Política de contenido

1. Con el objetivo de tratar a todos los usuarios de forma justa y ofrecer a los moderadores y al público una norma viable sobre desnudos, Meta debería definir criterios claros, objetivos y respetuosos con los derechos humanos y basar íntegramente en ellos su política sobre desnudos de adultos para garantizar que todas las personas sean tratadas por igual, en consonancia con las normas internacionales sobre derechos humanos, y evitar la discriminación por sexo o identidad de género. En primer lugar, Meta debería llevar a cabo una evaluación integral sobre las implicaciones de adoptar dichos criterios, en la que deberían participar de forma amplia e inclusiva partes interesadas pertenecientes a contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación detecte posibles daños, la implementación de la nueva política debería incluir un plan de mitigación para abordarlos.

2. A fin de proporcionar mayor claridad a los usuarios, Meta debería proporcionar a los usuarios una explicación más detallada de lo que constituye una oferta o solicitud de sexo (incluidos enlaces a sitios web de terceros) y lo que se consideran posturas sexualmente sugerentes en las Normas comunitarias públicas. El Consejo considerará que esta recomendación se ha aplicado cuando se añada una explicación de estos términos que incluya ejemplos a la política sobre servicios sexuales de las Normas comunitarias.

Aplicación

3. Para garantizar que los criterios internos que Meta aplique a su política sobre servicios sexuales no conlleven finalmente la eliminación de más contenido que el que se indica en la política pública, es decir, para no eliminar indebidamente contenido de carácter no sexual, Meta debería revisar sus pautas de revisión internas, asegurarse de que los criterios aplicados son coherentes con las reglas públicas y relacionar con mayor claridad el criterio de “ofrecimiento o solicitud” con el de “elementos sexualmente sugerentes”. El Consejo considerará que esta recomendación se ha aplicado cuando Meta le facilite pautas de revisión internas actualizadas que resulten coherentes con estos criterios revisados.

* Nota procedimental:

Las decisiones del Consejo asesor de contenido se preparan a través de comités constituidos por cinco miembros y deben recibir la aprobación de la mayoría de dicha institución. Las decisiones emitidas no reflejan necesariamente las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente a nombre del Consejo. Un centro de investigación independiente establecido en la Universidad de Gotemburgo, con un equipo de más de 50 sociólogos en seis continentes, y más de 3200 expertos de países de todo el mundo aportaron sus conocimientos en materia de contextos sociopolíticos y culturales. El Consejo también ha recibido asesoramiento de la empresa Duco Advisors, una consultora especializada en cuestiones relacionadas con la geopolítica, la confianza, la seguridad y la tecnología.