Confirmado
Video de maquillaje para un matrimonio infantil en Irán
10 de octubre de 2024
El caso concierne un video en el que una esteticista de Irán prepara a una niña de 14 años para su boda, y el Consejo concuerda con Meta en que el contenido debía eliminarse, pero en virtud de la política de explotación de personas.
Para leer la decisión completa del caso en farsi, haz clic aquí.
برای خواندن حکم کامل به زبان فارسی، در اینجا کلیک کنید.
Resumen
El caso concierne un video en el que una esteticista de Irán prepara a una niña de 14 años para su boda, y el Consejo concuerda con Meta en que el contenido debía eliminarse, pero en virtud de la política de explotación de personas. No obstante, Meta lo eliminó en virtud de la concesión basada en el espíritu de la política, con lo cual el Consejo no está de acuerdo. Por el contrario, el Consejo determinó que el contenido claramente infringió la norma comunitaria sobre explotación de personas por facilitar el matrimonio infantil a través de una ayuda sustancial a esta práctica dañina. El matrimonio infantil, que afecta en una medida desproporcionada a las niñas, es una forma de matrimonio forzado, violencia y discriminación basadas en género. Con sus recomendaciones, el Consejo pretende que se aclare el texto público y las normas internas de Meta para garantizar que dicho contenido se elimine, así como para especificar en ellas que el matrimonio infantil es parte del matrimonio forzado e involucra a niños menores de 18 años.
Información sobre el caso
En enero de 2024, un usuario de Instagram publicó un video breve en su cuenta, que brinda detalles sobre los servicios de un salón de belleza en Irán. En el video, una esteticista ofrece una sesión de maquillaje a una menor en preparación para su boda. La niña, en farsi, confirma que tiene 14 años y, cuando la esteticista le pregunta, revela que la familia del novio solicitaba su mano persistentemente hasta que su padre "se la entregó". La esteticista y la niña hablan sobre priorizar el matrimonio por sobre la educación, y admiran los resultados de la transformación con maquillaje. Hay texto superpuesto que dice que la niña es la novia más joven del año, mientras que la descripción de la publicación incluye detalles sobre los servicios que ofrece la esteticista a las novias. El contenido se visualizó unos 10,9 millones de veces.
Una investigación de antecedentes que encomendó el Consejo sugiere que la niña del video puede estar actuando como una niña a punto de casarse, aunque esto no queda claro.
Un total de 203 usuarios reportaron el contenido en el transcurso de un mes. Tras rondas de revisión manual, Meta concluyó que el video no infringía ninguna política y debía permanecer en la plataforma. El sistema High Risk Early Review Operations de Meta también marcó el contenido inicialmente debido a su alta probabilidad de viralidad, y este se remitió a Meta por medio del programa de socios de confianza, en el que partes interesadas expertas reportan contenido potencialmente infractor. Luego de que el contenido se remitiera a expertos en políticas y en el tema de Meta para que realizaran una nueva ronda de revisión, Meta anuló su decisión inicial y eliminó la publicación por infringir su política de explotación de personas. Meta luego remitió el caso al Consejo.
El matrimonio infantil, que el Alto Comisionado de la ONU para los Derechos Humanos define como "cualquier matrimonio formal o enlace informal entre un niño menor de 18 años y un adulto u otro niño", se considera una forma de matrimonio forzado, y organizamos tanto internacionales como regionales lo reconocen como una violación a los derechos humanos.
La ley iraní permite el matrimonio infantil: la edad legal para casarse es de 13 años para las niñas y de 15 para los niños, aunque, en ciertas circunstancias, se admiten matrimonios antes de estas edades en el país.
Conclusiones principales
El Consejo considera que el contenido infringió explícitamente las reglas de la norma comunitaria sobre explotación de personas por facilitar el matrimonio forzado, ya que el video muestra con claridad a una esteticista brindando ayuda sustancial a una niña de 14 años, es decir, facilitando el matrimonio infantil. Si bien Meta eliminó el video, lo hizo por otro motivo: la concesión basada en el espíritu de la política en virtud de la política de explotación de personas. Esta política no prohíbe específicamente que se apoye el matrimonio infantil, sino que sus bases indican que el objetivo es eliminar todas las "formas de explotación de personas", que Meta considera que debe incluir el "apoyo" al matrimonio infantil. En este caso, Meta recurrió a la concesión basada en el espíritu de la política, que se puede emplear cuando la aplicación de una norma comunitaria produce resultados incoherentes con las bases y los objetivos de la política. El Consejo no está de acuerdo con Meta respecto del motivo de la eliminación porque las acciones de la esteticista eran una forma de facilitación; es decir, la publicación anunciaba servicios de belleza para jóvenes a punto de casarse, lo que apoyaba la práctica.
Meta no brindó una definición pública de "facilitación", aunque las pautas internas que ofrece a los revisores incluyen lo siguiente: "contenido que coordina el transporte, traslado o alojamiento de víctimas antes de la explotación o durante esta". El Consejo considera esta definición demasiado acotada. Dado el propósito de la política, la propia interpretación del Consejo del término "facilitación", que incluye brindar cualquier tipo de ayuda sustancial (incluidos "servicios") que permita la explotación, se debe aplicar a este caso, así como a las pautas internas de Meta. Esto significaría que Meta podría eliminar contenido similar sin ampararse en la concesión basada en el espíritu de la política.
La política de explotación de personas no indica explícitamente que los matrimonios forzados incluyen el matrimonio infantil. Asimismo, si bien la definición interna que Meta brinda a los revisores indica que los menores no pueden brindar consentimiento y hay pautas adicionales en torno a los indicios de consentimiento y la trata de personas, ni el texto interno ni el texto público son lo suficientemente claros. Por ende, Meta debe especificar en el texto público de la política que el matrimonio infantil es una forma de matrimonio forzado y actualizar sus pautas internas para explicar que se considera niños a personas menores de 18 años que no pueden brindar su consentimiento pleno para casarse o celebrar una unión informal.
El Consejo cree que el espíritu de la política debería aplicarse con muy poca frecuencia porque hay inquietudes relativas a la legalidad en torno a la concesión. Para subrayar una recomendación anterior, el Consejo insta a Meta a completar la implementación de una explicación pública de esta concesión.
La decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar el contenido.
El Consejo le recomendó a Meta lo siguiente:
- Modificar la política de explotación de personas para que indique explícitamente que los matrimonios forzados incluyen el matrimonio infantil.
- Modificar la política para definir el matrimonio infantil en concordancia con las normas internacionales de derechos humanos de un modo que incluya matrimonios y uniones informales de niños menores de 18 años.
- Proporcionar pautas explícitas a los revisores que indiquen que el matrimonio infantil se incluye en la definición de matrimonios forzados.
- Ampliar la definición de "facilitación" en las pautas internas a fin de que incluya brindar cualquier tipo de ayuda sustancial (incluidos "servicios") que permita la explotación.
* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.
Decisión del caso completa
1. Descripción y contexto del caso
En enero de 2024, un usuario de Instagram publicó en su cuenta un video de un minuto en farsi. La cuenta comparte información sobre los servicios de un salón de belleza y una escuela de belleza en Irán. En el video, una esteticista prepara a una niña de 14 años para su boda y se muestran clips donde se puede apreciar el antes y el después de la sesión de maquillaje. La niña, cuya cara se ve con claridad, también confirma su edad en el video.
La esteticista y la niña hablan sobre educación, edad, arreglos de matrimonio y los resultados de la sesión. La esteticista le consulta a la niña su opinión sobre priorizar el matrimonio por sobre la educación, a lo que la menor responde que quiere hacer ambas cosas. Cuando se le pregunta por el novio, la niña explica que, tras pedir insistentemente la mano a su familia, su padre "accedió a entregarla". Luego, ambas admiran el resultado de la transformación estética y la esteticista le desea a la niña buenos augurios para el futuro. Otra investigación de antecedentes que encomendó el Consejo sugirió que la niña del video puede estar actuando como una niña a punto de casarse. Sin embargo, el contenido no lo deja en claro.
El texto superpuesto en el video, también en farsi, señala que la niña es la novia más joven del año. En la descripción de la publicación, se les desea los mejores augurios a las niñas de Irán y se brinda información sobre los servicios que la esteticista ofrece a las novias.
El contenido se visualizó alrededor de 10,9 millones de veces, recibió alrededor de 200.000 reacciones (la mayoría fueron "Me gusta") y 19.000 comentarios, y se compartió menos de 1.000 veces.
Entre enero y febrero de 2024, 203 usuarios reportaron el contenido 206 veces, más frecuentemente por incluir "imágenes de explotación infantil". De esos usuarios, 79 lo reportaron por incluir imágenes de explotación infantil; 40, por incluir lenguaje que incita al odio; y 30, por terrorismo. Tras varias revisiones manuales durante ese período, Meta concluyó que el contenido no infringía ninguna de sus políticas y lo conservó en la plataforma. Durante ese mismo mes, el sistema High Risk Early Review Operations (HERO) de Meta, diseñado para identificar contenido potencialmente infractor que se prevé que tiene altas probabilidades de hacerse viral, también detectó el contenido. Una vez detectado y priorizado, el contenido se envía para que especialistas con conocimientos de idiomas, mercados y políticas lo sometan a revisión manual. El contenido en este caso se detectó gracias a los indicios de alta viralidad, pero el reporte se cerró luego porque la viralidad no era lo suficientemente alta para pasar a la etapa de revisión.
En febrero de 2024, uno de los socios de confianza de Meta remitió el contenido para una revisión manual más. Por medio del programa de socios de confianza, los socios de Meta, en colaboración con diferentes partes interesadas que aportan conocimientos sobre las diversas comunidades en las que opera Meta, reportan contenido y ofrecen comentarios sobre las políticas de Meta y su aplicación.
Luego de que expertos en políticas y en el tema de Meta revisaran el contenido, Meta anuló su decisión original de conservarlo y eliminó la publicación por infringir su política de explotación de personas. No obstante, Meta no impuso una falta contra el usuario que publicó el video porque la empresa decidió eliminar la publicación en función de la concesión basada en el espíritu de la política, no del texto de la política. En esta instancia, Meta señaló que se determinó que con la eliminación bastaba y que no merecía otra penalización en forma de falta.
Meta remitió el caso al Consejo porque en él entran en conflicto sus valores de expresión y seguridad en cuanto a los matrimonios infantiles. Meta considera este caso significativo y complejo porque "pone de manifiesto el asunto de la promoción o glorificación de la explotación de personas (incluido el matrimonio infantil), que no está cubierto explícitamente en las políticas de [Meta]… y porque los matrimonios infantiles son legales en ciertas jurisdicciones, pero otros critican esta práctica como una violación a las leyes de derechos humanos".
El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó en este caso.
Organismos regionales e internacionales (p. ej., las Naciones Unidas, la Organización de los Estados Americanos, la Unión Africana), así como organismos de sociedad civilconsideran el matrimonio infantil como una violación de los derechos humanos que afecta a millones de niños en todo el mundo. De acuerdo con la Oficina del Alto Comisionado de la ONU para los Derechos Humanos, "el matrimonio infantil es todo aquel en el que al menos una de las partes es menor de 18 años. El matrimonio forzado es un matrimonio en el que una y/o ambas partes no han expresado personalmente su pleno y libre consentimiento a la unión. El matrimonio infantil se considera una forma de matrimonio forzado, dado que una y/o ambas partes no han expresado su consentimiento pleno, libre e informado". La Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer (artículo 16, párrafo 2), establece que "no tendrán ningún efecto jurídico los esponsales y el matrimonio de niños".
El matrimonio infantil incluye tanto matrimonios formales como uniones informales. De acuerdo con UNICEF, una unión informal es aquella "en la que una niña o un niño vive con una pareja como si estuvieran casados antes de cumplir 18 años [… y] en el cual una pareja convive durante un tiempo, con la intención de mantener una relación duradera, pero no celebra una ceremonia formal civil o religiosa". Las uniones informales despiertan las mismas inquietudes respecto de los derechos humanos que el matrimonio (p. ej., riesgos de salud, interrupción de la educación) y, en algunas regiones, prevalecen más que los matrimonios formales.
Las niñas se ven desproporcionadamente afectadas y enfrentan más riesgos debido a diferencias biológicas y sociales. En todo el mundo, la prevalencia del matrimonio infantil entre niños representa solo un sexto de la prevalencia entre niñas. El Informe del Secretario General de la ONU sobre la cuestión del matrimonio infantil, precoz y forzado (A/77/282, párrafo 4) reconoce que el matrimonio infantil tiene raigambre en las desigualdades de género y en las normas sociales y culturales discriminatorias que consideran a las mujeres y niñas inferiores a los hombres y niños. Se considera una forma de violencia basada en género y discriminación contra mujeres y niñas.
Con frecuencia se apela a las costumbres tradicionales para justificar el matrimonio infantil, ignorando la discriminación y la violencia basada en género que se le asocia, así como las amenazas al bienestar de los niños y otras violaciones de los derechos humanos. UNICEF, la Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer (CEDAW), el Comité de los Derechos del Niño (CRC) y otros expertos en derechos humanos de la ONU manifestaron que las niñas que se casan antes de los 18 años tienen más probabilidades de experimentar violencia doméstica y abuso, y es menos probable que continúen asistiendo a la escuela. Sufren consecuencias económicas y de salud peores que aquellas que no contraen matrimonio, que suelen heredar a sus propios hijos. El matrimonio infantil a menudo viene acompañado de embarazos y nacimientos tempranos y frecuentes, lo que afecta la salud mental y física de las niñas, y tiene como consecuencia tasas de mortalidad materna superiores al promedio. El matrimonio forzado infantil también puede ser el detonante para que las niñas huyan de sus comunidades o se suiciden. Como los niños no pueden brindar su consentimiento pleno, libre e informado para casarse o contraer uniones informales, suelen ser los padres o tutores quienes toman la decisión, lo que anula el poder, la autonomía y la capacidad del niño de tomar decisiones fundamentales (artículo 12, Comité de los Derechos del Niño, CRC).
UNICEF también señaló que los niños que se casan o celebran una unión informal en la niñez se ven forzados a adoptar las responsabilidades de un adulto para las que tal vez no estén preparados. El matrimonio puede conllevar una paternidad temprana y presión económica adicional en lo que respecta al aporte al hogar, que, a su vez, puede limitar el acceso de los niños a la educación y a oportunidades de desarrollo profesional.
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos expresó que las causas subyacentes del matrimonio infantil son factores como problemas socioeconómicos (pobreza y educación), costumbres, tradiciones, valores culturales, política, intereses económicos, honor y creencias religiosas (A/HRC/26/22, párrafos 17 a 20). También aumenta su incidencia durante conflictos y crisis humanitarias (A/HRC/41/19, párrafo 51).
Según UNICEF, cada tres segundos, una niña se casa en algún lugar del mundo. UNICEF y Girls Not Brides cuentan con datos de las regiones con mayor incidencia de matrimonios infantiles. África subsahariana es la región con mayor prevalencia de matrimonio infantil: 31% de las mujeres se casan antes de cumplir 18 años; siguen Asia central y el sudeste asiático con 25%, Latinoamérica y el Caribe con 21%, y Oriente Medio y África del Norte con 17%.
Las normas internacionales de derechos humanos estipulan que la edad legal mínima para contraer matrimonio, tanto para las niñas como para los niños, con o sin el consentimiento de sus padres, es de 18 años (CEDAW y CRC, recomendación general conjunta n. º 31/18 de 2019, párrafos 20 y 55.f; Asamblea General de la ONU de 2018, resolución A/RES/73/153; resolución del Consejo de Derechos Humanos de la ONU de 2023 sobre matrimonio infantil, precoz y forzado, A/HRC/RES/53/23; informe de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos sobre la prevención y eliminación del matrimonio infantil, precoz y forzado, A/HRC/26/22).
El CRC y la CEDAW revisaron su recomendación general conjunta n.º 18/31 en 2019 para estipular que la edad legal mínima para contraer matrimonio debe ser de 18 años, sin excepción (párrafos 20 y 55[f]). Muchas organizaciones de sociedad civil respaldaron la moción de elevar la edad legal para casarse a 18 años, por ejemplo, con el eslogan " 18, sin excepción", conforme se menciona en el comentario público del proyecto Soar (ver PC-29623). Esto condujo a varios Estados a modificar su legislación interna en años recientes (informe de OHCHR de 2022, A/HRC/50/44, párrafo 22).
Cada país adopta un enfoque legal diferente respecto del matrimonio infantil. Si bien muchos países determinan 18 años como la edad mínima y hubo importantes avances en cuanto a reducir la prevalencia del matrimonio infantil, otros establecen edades más bajas o permiten excepciones (p. ej., algunos estados de los Estados Unidos, Brasil). Estas excepciones, por ejemplo, consentimiento de los padres, autorización de un tribunal o leyes tradicionales o religiosas, socavan las protecciones legales que se ofrecen a las niñas y reciben críticas por obstaculizar el objetivo de poner fin al matrimonio infantil para 2030, conforme se detalla en los Objetivos de Desarrollo Sostenible.
Muchos países también tienen leyes tradicionales y religiosas variadas, así como prácticas tribales, que suelen estar abiertas a la interpretación de jefes y tribunales tradicionales o de la comunidad. Por ejemplo, según los expertos a los que consultó el Consejo, como parte de prácticas tribales como el Khoon bas ("cese de sangre") en Irán, chicas jóvenes se casan legalmente con miembros de familias rivales para evitar el derramamiento de sangre.
Matrimonio infantil en Irán
La ley iraní actualmente permite los matrimonios infantiles. Según los expertos a los que consultó el Consejo, la edad legal para casarse es de 13 años para las niñas y de 15 para los niños. Sin embargo, el artículo 1041 del Código Civil de 2007 permite que se contraiga matrimonio antes de esas edades, ya que establece que "el matrimonio de niñas menores de 13 años y de niños menores de 15 años es posible con el permiso del padre o tutor y si lo determina un tribunal competente".
En 2020, Irán adoptó la Ley de protección de niños y adolescentes, que impone nuevas penalizaciones contra actos que dañen la seguridad y el bienestar de un niño, pero no aborda el asunto del matrimonio infantil (consulta también PC 29268 de Equality Now).
Conforme señala Girls Not Brides, los factores que motivan el matrimonio infantil en Irán son la pobreza, la religión, las prácticas tradicionales dañinas, el honor de la familia y el desplazamiento. Una investigación que encomendó el Consejo identificó notables aumentos en las interacciones en plataformas de medios sociales el año pasado en las que se debatía la muerte y el suicidio de mujeres y niñas que son forzadas a casarse en su niñez.
Un experto señaló, además, que datos del National Statistics Center (NSC) de Irán indican que 33.240 niñas y 19 niños se casaron antes de cumplir 15 años entre 2021 y 2022. En un comentario público de Equality Now (ver PC 29268) se explica que esas cifras podrían ser más altas dado que los números oficiales solo reflejan los matrimonios registrados, y el NSC no divulga datos no consolidados de registros de matrimonios de niñas de entre 15 y 17 años (solo de 15 a 18 años, inclusive).
El CRC instó al Estado a aumentar la edad mínima para casarse tanto para niñas como para niños a 18 años (A/HRC/WG.6/34/IRN/2, párrafo 70). Otros organismos y expertos dedicados a los derechos humanos plantearon inquietudes similares, como en el informe de 2024 del Relator Especial sobre la situación de los derechos humanos en la República Islámica del Irán (A/HRC/55/62, párrafo 75).
Si bien Irán inicialmente aceptó revisar las recomendaciones de elevar la edad mínima para casarse a 18 años sin excepción, se registró un escaso progreso en el asunto. Según los expertos a los que consultó el Consejo, en años recientes, el discurso político relativo al matrimonio cambió de forma radical en Irán. Incluso se alienta a las niñas a casarse a temprana edad para aumentar las tasas de natalidad, situación que para las niñas suele implicar casarse a la fuerza y que generó un aumento del matrimonio infantil en ciertas regiones del país. En 2021, Irán presentó un informe de Estado periódico ante el Comité de Derechos Humanos en el que indicaba que no consideraría elevar la edad mínima para casarse a más de 13 y 15 años "debido a la importancia de la familia para la sociedad iraní" y a "la indecencia general del acto sexual ilegítimo fuera del matrimonio" (CCPR/C/IRN/4, párrafo 148).
2. Respuestas de los usuarios
Tras la remisión de Meta y la decisión del Consejo de aceptar el caso, el usuario recibió una notificación y se le brindó la oportunidad de presentar una declaración ante el Consejo. No se obtuvo respuesta alguna.
3. Respuestas y políticas de contenido de Meta
I. Políticas de contenido de Meta
Normas comunitarias de Instagram
Las Normas comunitarias de Instagram no especifican ninguna prohibición de contenido en virtud de la política de explotación de personas ni establecen un vínculo directo con la norma comunitaria sobre explotación de personas. El Informe de cumplimiento de las Normas comunitarias del primer trimestre de 2024 de Meta afirma que "Facebook e Instagram comparten las políticas de contenido. Si se considera que el contenido infringe las normas en Facebook, también se considera que infringe las normas en Instagram".
Política de explotación de personas
Según la bases de la política de explotación de personas, Meta "elimina contenido que facilite o coordine la explotación de seres humanos, lo que incluye la trata de personas". Las Normas comunitarias prohíben lo siguiente: "Contenido que reclute, facilite o explote personas a través de cualquiera de las siguientes formas de trata de personas:... Matrimonios forzados".
Las pautas internas de Meta definen el matrimonio forzado como "una institución o práctica en la que una persona no tiene la posibilidad de negarse, o a quien sus padres, tutores, familiares u otras personas o grupos comprometen y casan con otra. Esto no incluye matrimonios arreglados, en los que las personas que van a casarse tienen la opción de negarse a hacerlo". El Consejo señala que Meta está considerando actualizar esta definición y puede cambiarla en un futuro relativamente cercano. La empresa le informó al Consejo que considera el matrimonio infantil como un matrimonio forzado en función del reconocimiento de que los menores (personas menores de 18 años) no pueden brindar su consentimiento pleno, de conformidad con normas internacionales de derechos humanos.
La política incluye excepciones a estas reglas y estipula que Meta "permite el contenido que, de otro modo, se encuentra incluido en esta política cuando se publica en contextos de repudio, educación, noticias o concientización".
Concesión basada en el espíritu de la política
Según Meta, puede aplicar una concesión basada en el "espíritu de la política" al contenido si las bases de la política (el texto que introduce cada norma comunitaria) y los valores de Meta exigen un resultado diferente en lugar de una lectura estricta de las reglas sobre contenido prohibido. Meta recurre a la excepción basada en el espíritu de la política cuando la aplicación estricta de la norma comunitaria relevante genera resultados incoherentes con los objetivos y las bases de la política. El espíritu de la política es una concesión normativa general, que se puede aplicar a todas las Normas comunitarias, y solo la pueden presentar los equipos internos de Meta durante el escalamiento, no los moderadores a escala.
En decisiones anteriores, el Consejo recomendó a Meta brindar una explicación pública de esta concesión basada en el espíritu de la política (decisión del caso Productos farmacéuticos en Sri Lanka, recomendación n.º 1, que se reitera en el caso Violencia en una comunidad del estado de Odisha de la India). Meta aceptó esta recomendación, que actualmente se encuentra en proceso de implementación, según la evaluación más reciente que realizó el Consejo.
II. Respuestas de Meta
Según Meta, la eliminación del contenido en este caso fue el resultado de una decisión basada en el espíritu de la política en virtud de la política de explotación de personas.
Si bien esta política no prohíbe específicamente que se apoye el matrimonio infantil, sus bases indican que el objetivo es eliminar todas las "formas de explotación de personas". Meta cree que esto abarca apoyar el matrimonio infantil, en particular cuando la publicación puede generar una ventaja financiera para el usuario, como en este caso. En función de esto y de las bases de la política, Meta sostuvo que no quiere permitir contenido, como la publicación en este caso, en el que una persona promocione el matrimonio infantil y busque obtener así un beneficio económico.
Para Meta, el valor de seguridad pesa más que el valor expresivo potencial de este discurso (expresión). La empresa consideró el daño asociado con el matrimonio infantil y ponderó los riesgos que supone permitir que la publicación permanezca en la plataforma (lo cual podría fomentar el apoyo al matrimonio infantil) y el valor expresivo del contenido, así como la posible ganancia monetaria para el usuario. Meta explicó que, incluso aunque la ganancia monetaria no fue un factor decisivo en su evaluación, la empresa sí lo consideró como un factor en la evaluación integral de la publicación en el proceso de escalamiento, en concordancia con el rol que dicha ganancia desempeña en la definición de Meta de "explotación de personas".
Cuando el Consejo se lo preguntó, la empresa manifestó que el contenido se habría evaluado de forma diferente si hubiera apoyado el matrimonio infantil, pero sin perseguir un fin económico, aunque tomaría en cuenta todo el contexto antes de tomar una decisión. Meta indicó que no define "apoyo" en el contexto del matrimonio infantil y que su enfoque respecto del contenido que apoya (pero no facilita) esta práctica se aborda según cada caso particular en el proceso de escalamiento.
La empresa expresó que, si bien el "apoyo" al matrimonio infantil se trata durante el escalamiento, se aplican políticas a las demás acciones (facilitar, reclutar, explotar) a gran escala, y se capacita a los revisores para que eliminen todo el contenido que tenga como fin facilitar el matrimonio infantil. Meta indicó que sus directivas relativas a que los menores no pueden brindar consentimiento y la definición de matrimonio forzado dejan claro que los revisores deben eliminar el contenido que facilita esta práctica.
Meta explicó que no impuso una falta contra el usuario que publicó el video porque la empresa decidió eliminar la publicación en función de la concesión basada en el espíritu de la política, no del texto de la política. En esta instancia, determinó que con la eliminación bastaba y que no merecía otra penalización en forma de falta.
Meta no le notificó al usuario sobre su decisión de no aplicar una falta en este caso. La empresa expuso que no notifica a los usuarios cuando se aplica o no se aplica una falta debido al riesgo de dejar expuestos los umbrales de aplicación de políticas y que luego personas malintencionadas los exploten para eludir los sistemas de la empresa, por ejemplo, que creen nuevas cuentas o permanezcan justo por debajo del límite de falta. No obstante, Meta sí les avisa a los usuarios cuando se aplican límites a las funciones de su cuenta, incluido el motivo por el que se imponen restricciones.
El Consejo planteó a Meta preguntas sobre la aplicación de la concesión basada en el espíritu de la política, los motivos de la eliminación del contenido, las instrucciones internas que Meta brinda a los moderadores de contenido sobre las prohibiciones incluidas en la política de explotación de personas y la aplicación de políticas a contenido que "apoya" el matrimonio infantil. Asimismo, solicitó información sobre las notificaciones que la empresa envió a los usuarios y a quienes reportaron. Meta respondió todas las preguntas.
4. Comentarios del público
El Consejo asesor de contenido recibió siete comentarios del público dentro de los plazos de presentación. Cuatro comentarios se enviaron desde Oriente Medio y África septentrional, dos desde los Estados Unidos y Canadá, y uno desde Asia Pacífico y Oceanía. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.
Los comentarios abarcaban los siguientes temas: matrimonio infantil como violación de los derechos humanos; el impacto de esta práctica dañina; cómo afecta desproporcionadamente a las niñas; las normas internacionales de derechos humanos que se le aplican a dicha práctica; y el matrimonio infantil en Irán y otras partes del mundo.
5. Análisis del Consejo asesor de contenido
El Consejo seleccionó este caso para evaluar, por primer vez, el impacto de la norma comunitaria sobre explotación de personas de Meta en los derechos del niño, en particular de las niñas víctimas de matrimonios infantiles. Este caso pone de manifiesto la contraposición entre los valores de Meta que tienen que ver, por un lado, con proteger la expresión y, por otro, con garantizar la seguridad de los niños.
El Consejo analizó la decisión de Meta en este caso en relación con sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.
5.1 Cumplimiento de las políticas de contenido de Meta
I. Reglas de contenido
El Consejo concuerda con Meta en que el contenido en este caso debería eliminarse, pero por un motivo diferente. Para el Consejo, el contenido infringía las reglas explícitas de la norma comunitaria sobre explotación de personas por facilitar el matrimonio forzado, no por mostrar "apoyo", como lo establece el espíritu de la política. En el video se ve claramente a la esteticista ofreciendo un servicio de belleza (servicios o ayuda sustanciales) a una niña para facilitar el matrimonio infantil y, además, obtener un beneficio económico.
A diferencia de Meta, el Consejo considera que las acciones de la esteticista no eran simplemente apoyar esta práctica, sino facilitarla en torno a una acción concreta. En la publicación, se anuncian servicios de belleza, se anima a las niñas a visitar el centro y recibir dichos servicios con la facilitación del matrimonio infantil. Por ende, se respalda esta práctica y potencialmente se reciben beneficios económicos a partir de ella.
El Consejo señala que Meta no brinda una definición pública de "facilitación". Dado el propósito de la política, el Consejo interpreta la "facilitación" como la provisión de cualquier tipo de ayuda sustancial (incluidos "servicios") que permita la explotación.
El Consejo manifestó que Meta define "facilitación" en las pautas internas que brinda a los revisores como "contenido que coordina el transporte, traslado o alojamiento de víctimas antes de la explotación o durante esta". Para el Consejo, estas pautas internas para los revisores son demasiado acotadas y el texto público incluye el término de un modo que los usuarios lo entiendan de manera razonable para abarcar la interpretación más amplia del Consejo respecto de qué contenido no se admite en la plataforma. Sin embargo, para brindar mayor claridad, Meta debe modificar sus pautas internas a fin de ampliar la definición de "facilitación" de manera que incluya brindar cualquier tipo de ayuda sustancial (incluidos "servicios") que permita la explotación. Esto permitirá que Meta elimine contenido similar en el futuro sin ampararse en la concesión basada en el espíritu de la política.
II. Aplicación de políticas
Pese a que este contenido se visualizó más de 10 millones de veces, el sistema HERO de Meta, cuyo objetivo es identificar contenido con alta viralidad para someterlo a revisión manual, no lo priorizó para revisión. Meta indicó que, en este caso, la viralidad no era lo suficientemente alta para enviar este contenido a la etapa de revisión. Al Consejo le preocupa que el sistema de Meta no detecte contenido como el de este caso, que recibió más de 10 millones de visualizaciones. No obstante, sin más información e investigación por parte del sistema de priorización y sin saber qué contenido se priorizó por encima de este, el Consejo no se encuentra en una posición para evaluar si al contenido en cuestión se le debería haber otorgado mayor prioridad en comparación con otro en cola.
6. Cumplimiento de las responsabilidades de Meta en materia de derechos humanos
El Consejo considera que eliminar el contenido de la plataforma era coherente con las responsabilidades de Meta en materia de derechos humanos, aunque Meta debe abordar las preocupaciones sobre la claridad de sus reglas y la concesión basada en el espíritu de la política.
Libertad de expresión (artículo 19 del ICCPR)
El artículo 19 del ICCPR estipula que se proteja ampliamente la libertad de expresión, que incluye la "libertad de buscar, recibir e impartir información e ideas de todo tipo, independientemente de las fronteras, ya sea de manera oral, escrita o impresa, en forma de expresión artística, o por otros [medios]". Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).
I. Legalidad (claridad y accesibilidad de las reglas)
El principio de legalidad exige que las reglas que limitan la expresión sean accesibles y claras, y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas ( observación general n.º 34, párrafo 25). Asimismo, estas reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y deben "proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (ibidem). El Relator Especial sobre la libertad de expresión de la ONU dijo que, cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.
El Consejo considera que el contenido infringía la prohibición expuesta en la política de explotación de personas sobre contenido que facilita matrimonios forzados, no en el espíritu de la política. Si bien para el Consejo la prohibición sobre facilitación incluida en la norma comunitaria era lo suficientemente clara conforme se aplicó a esta publicación, el texto público de la política no es lo suficientemente claro respecto de la interpretación general del término "facilitar". Como se expuso anteriormente, el Consejo interpreta que el término abarca una definición más amplia que la que se proporciona en las pautas internas de Meta. Por ello, el Consejo recomienda modificar las pautas para que se tenga en cuenta esta definición más amplia.
Meta eliminó la publicación en función de la concesión basada en el espíritu de la política porque la política de explotación de personas no prohíbe específicamente el contenido que "apoya" el matrimonio infantil, que, en opinión de la empresa, es la acción que se debe prohibir en este caso. Como se mencionó anteriormente, el Consejo no está de acuerdo con el razonamiento de Meta y considera que las acciones de la esteticista no eran en realidad "apoyar" esta práctica, sino "facilitarla" en torno a una acción concreta, lo cual está prohibido.
En decisiones anteriores, el Consejo señaló que la concesión basada en el espíritu de la política tal vez "no cumpla con la norma de legalidad" conforme a la prueba de tres partes. Mientras que, en casos anteriores, el Consejo admitió que se recurriera a la concesión basada en el "espíritu de la política" tanto para permitir contenido (decisión del caso Productos farmacéuticos en Sri Lanka) como para eliminarlo (decisión del caso Violencia en una comunidad del estado de Odisha de la India), usarla para eliminarla contenido debe ser una medida excepcional, ya que plantea graves inquietudes conforme a la prueba de legalidad. Sin pautas claras, no se puede esperar que los usuarios regulen su conducta de manera apropiada. El Consejo considera que la aplicación de la concesión basada en el espíritu de la política, en particular para eliminar contenido, debe ser excepcional.
En la decisión del caso "Productos farmacéuticos en Sri Lanka", la concesión basada en el espíritu de la política se utilizó para permitir contenido que infringía las disposiciones explícitas de las Normas comunitarias, pero no el propósito subyacente de dichas normas. En esta decisión, el Consejo reconoció que, al moderar grandes cantidades de contenido a escala mundial, es necesario contar con una concesión "general" que se pueda aplicar para evitar injusticias evidentes. Al mismo tiempo, el Consejo subrayó que este tipo de exención discrecional a las políticas de Meta se contrapone en gran medida con la norma de legalidad. Para evitar restricciones arbitrarias en la expresión, el Consejo reitera su recomendación anterior, que sugiere a Meta brindar una explicación pública de la concesión basada en el espíritu de la política y compartir los criterios que emplea para evaluar en qué ocasiones se aplica. Sin una explicación pública disponible, los usuarios no tienen forma de saber acerca de esta concesión ni de su aplicación en las Normas comunitarias. Meta ya se comprometió a implementar completamente esta recomendación. Asimismo, si dicha concesión se utiliza del mismo modo en reiteradas ocasiones, la empresa debe evaluar de forma minuciosa si se la incluye o no específicamente en la política relevante.
Los desvíos voluntarios de las reglas preocupan mucho más en el contexto de una eliminación de contenido que cuando este se permite. Si, debido a la aplicación de reglas estrictas, se generan restricciones desproporcionadas sobre un discurso que debe estar presente en las plataformas de Meta, el objetivo de usar la concesión basada en el espíritu de la política es aumentar la protección del derecho de expresión. Por el contrario, recurrir a la concesión para restringir discursos que las reglas de Meta no prohíben con claridad afecta en gran medida la capacidad de los usuarios de regular su conducta en la plataforma en función de las reglas.
El texto público de la política de explotación de personas no indica explícitamente que los matrimonios forzados incluyen el matrimonio infantil. Meta le informó al Consejo que considera el matrimonio infantil como una forma de matrimonio forzado en función del reconocimiento de que los menores (personas menores de 18 años) no pueden brindar su consentimiento pleno, de conformidad con normas internacionales de derechos humanos.
Meta brinda una definición interna de matrimonio forzado y, según la empresa, los revisores reciben instrucciones que indican que los menores no pueden brindar su consentimiento. Al evaluar el contenido conforme a la política de explotación de personas de Meta, la empresa les indica a los revisores que no tengan en cuenta la presunta evidencia del consentimiento del menor, dado que los menores carecen de capacidad para brindar consentimiento legal. Según Meta, si se interpretan en conjunto, ambas instrucciones resultan claras para los revisores, es decir, el contenido que "facilita" el matrimonio infantil se debe eliminar. No hay pautas internas en relación con el contenido que apoya el matrimonio infantil. La empresa señaló que el "apoyo" al matrimonio infantil se aborda durante el proceso de escalamiento.
Para que los usuarios conozcan las reglas con mayor claridad y con la precisión suficiente, el Consejo insta a Meta a especificar en la política de explotación de personas pública que el matrimonio infantil se debe entender como una forma de matrimonio forzado, en función del reconocimiento de que los menores (personas menores de 18 años) no pueden brindar consentimiento pleno. La empresa también debe actualizar sus pautas internas en consonancia. Para el Consejo, si bien las pautas internas que se ofrecen a los revisores brindan algo de orientación respecto de los indicios de consentimiento de los niños y de la trata de personas, Meta debe explicar con claridad que se considera niños a personas menores de 18 años que no pueden extender su consentimiento pleno para contraer matrimonio o celebrar uniones informales.
II. Fin legítimo
Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los derechos de los demás.
Conforme se aplica a los hechos en este caso, la política de explotación de personas de Meta persigue el fin legítimo de proteger los derechos de los niños. En su intención de "intervenir y evitar daños" eliminando contenido que "facilite o coordine la explotación de seres humanos" por medio del matrimonio infantil, la norma comunitaria sobre explotación de personas sustenta el fin legítimo de proteger una amplia gama de derechos de los niños, en particular los derechos humanos de las niñas, atendiendo al interés superior de estos (artículo 3 del CRC). La política busca protegerlos de los impactos negativos que se asocian al matrimonio infantil. El Consejo anteriormente había determinado que proteger los derechos del niño es un fin legítimo (ver las decisiones de los casos Denuncia por parte de un periodista sueco de violencia sexual contra menores y Documental periodístico sobre abuso infantil en Pakistán).
La política de Meta tiene como objetivo proteger los siguientes derechos de los niños: salud mental y física (artículo 12, ICESCR; artículo 19, CRC); privacidad (artículo 17, ICCPR; artículo 16, CRC); educación (artículo 13, ICESCR; artículo 28, CRC); desarrollo (artículo 12, ICESCR; artículo 6, CRC); familia y consentimiento para casarse (artículo 10, ICESCR; artículo 23, ICCPR); y libertad contra la explotación sexual y el abuso (artículo 34, CRC).
III. Necesidad y proporcionalidad
El principio de necesidad y proporcionalidad exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (artículo 19(3) del ICCPR, observación general n.º 34, párrafo 34).
Para el Consejo, eliminar el contenido fue una medida necesaria para proteger los derechos de los niños a la salud mental y física, la privacidad, la educación y la libertad contra cualquier forma de discriminación. El contenido facilitaba la práctica del matrimonio infantil que, como se indicó anteriormente, se vincula con efectos sumamente negativos, en particular para las niñas. Dado que el fin del contenido era brindar ayuda sustancial en favor de esta práctica dañina, la eliminación fue la medida menos restrictiva de proteger los derechos de los niños. Medidas menos restrictivas, como agregar etiquetas, no habrían bastado para evitar que los usuarios accedieran a los servicios promocionados.
La decisión de Meta de eliminar el discurso para proteger los derechos de los niños fue proporcionada. La publicación en este caso facilita el matrimonio infantil, ya que anuncia servicios de belleza que animan a las niñas a acudir al centro y recibirlos en preparación para su boda y, por ende, contribuye de manera sustancial a esta práctica. El valor expresivo de esta publicación se centró principalmente en la publicidad de los servicios de belleza que facilitan el matrimonio infantil.
Si bien la publicación infringía la prohibición sobre "facilitación" del matrimonio infantil, el Consejo consideró también si Meta debería ampliar esta política para prohibir explícitamente el contenido que apoya el matrimonio infantil de forma más general.
Esto genera contraposición entre dos asuntos: por un lado, las consecuencias problemáticas de permitir contenido en las plataformas que apoya el matrimonio infantil de manera más general y, por otro, las posibles consecuencias negativas de ampliar la política de explotación de personas para que prohíba dicho contenido.
Para una mayoría de los miembros del Consejo, la primera opción puede contribuir a que se normalice esta práctica extremadamente dañina. Hablar de manera positiva sobre esta práctica, insinuar que se debería permitir o celebrar el matrimonio infantil, o bien legitimar o defender la práctica afirmando que se justifica por motivos morales, políticos, lógicos o de otro tipo, podría contribuir a esta normalización, en detrimento de los intereses superiores de los niños. Según el artículo 3 de la Convención sobre los Derechos del Niño, "en todas las medidas concernientes a los niños,... una consideración primordial a que se atenderá será el interés superior del niño".
Un comentario público de Equality Now (PC 29268) señala que "la normalización del matrimonio infantil perpetua un ciclo de violaciones de los derechos humanos que afectan profundamente a las chicas jóvenes y les niegan sus derechos humanos básicos. Esta normalización está enraizada en creencias culturales y religiosas".
En la decisión del caso Imagen de violencia de género, el Consejo expresó preocupación por que las políticas actuales de Meta no afrontan adecuadamente el contenido que normaliza la violencia de género al exaltarla o insinuar su merecimiento. El matrimonio infantil, que afecta principalmente a las niñas, es una forma de violencia de género. En respuesta a la recomendación del Consejo en ese caso, Meta modificó su política de violencia e incitación para prohibir la "glorificación de la violencia de género, ya sea por parte de la pareja sentimental o por una cuestión de honor".
La mayoría de los miembros del Consejo destacan que el entorno digital puede exacerbar los riesgos de que se normalice el matrimonio infantil y se difunda contenido dañino. El CRC también apeló a los Estados para que implementen medidas que eviten la difusión online de materiales y servicios que puedan dañar la salud física o mental de los niños, y garanticen al mismo tiempo el respeto por la libertad de expresión (observación general n.º 25, párrafos 14, 54, 96). Si bien internet y los medios sociales también pueden constituir valiosas herramientas para brindar información y generar oportunidades de debate entre niños, el CRC y la CEDAW manifestaron que prácticas nocivas como el matrimonio infantil pueden haber aumentado "como resultado de avances tecnológicos como el uso generalizado de los medios sociales" (CEDAW/C/GC/31/Rev.1, párrafo 18). El Consejo de Derechos Humanos de la ONU instó también a los Estados a que "adopten medidas amplias, multisectoriales y basadas en los derechos humanos para prevenir y eliminar los matrimonios forzados y a que hagan frente a las causas estructurales y subyacentes y a los factores de riesgo" (A/HRC/RES/53/23, párrafo 3). Meta se encuentra en una posición única para contribuir a la erradicación del matrimonio infantil en sus plataformas, con lo que honra su compromiso de respetar las normas de derechos humanos de conformidad con los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU.
La mayoría reconoce que, si bien una prohibición del apoyo al matrimonio infantil podría resultar útil para reforzar la protección de los derechos de los niños, estas disposiciones podrían ser demasiado imprecisas. En el contexto de las prohibiciones respecto del contenido relacionado con el terrorismo, el Relator Especial de la ONU sobre la libertad de expresión describió las prohibiciones de "apoyo" en plataformas de medios sociales como "excesivamente ambiguas" (A/HRC/38/35, párrafo 26; consulta también la observación general n.º 34, párrafo 46). Si Meta prohibiera el discurso que apoya el matrimonio infantil, debería definir con claridad esta disposición para que se aplique en el contexto específico del matrimonio infantil. Asimismo, para evitar una aplicación excesiva de políticas sobre expresiones y opiniones que constituyen discurso protegido, y a fin de evitar silenciar debates fundamentales y argumentos contrapuestos que podrían contribuir a proteger los derechos de los niños, la empresa debe brindarles a los revisores de contenido pautas internas adecuadas, así como oportunidades y recursos suficientes, para aplicar con precisión las excepciones estipuladas en la política de explotación de personas (p. ej., cuando el contenido se publica en contextos de repudio, educativos, de concienciación o periodísticos).
Para una minoría de los miembros del Consejo, una disposición que prohíba que se hable a favor del matrimonio infantil sería demasiado ambigua, incluso si se especifica del modo que sugiere la mayoría. Además, si bien el matrimonio infantil en sí claramente genera daños significativos e infringe diversos derechos, no hay evidencia suficiente que indique que el discurso a favor de esta práctica ocasiona daños reales o que eliminar dichas publicaciones ayudaría a resolver esta problemática con mayor rapidez que si se permitieran las reacciones y un debate público en torno a este asunto. Los expertos a los que consultó el Consejo manifestaron que hay muy pocos estudios o evidencia sobre cómo las representaciones del matrimonio infantil en medios sociales afectan las percepciones de la sociedad sobre el tema. Estos miembros del Consejo consideran también que el término "normalización" es demasiado ambiguo y amorfo, y la conexión causal entre el discurso que "apoya" el matrimonio infantil y el daño de la "normalización" es demasiado remota en cuanto a ser causa de daños en el mundo real. Asimismo, para estos miembros del Consejo, también sería necesario evaluar otros medios menos invasivos (p. ej., agregar etiquetas y dirigir a los usuarios a información oficial sobre los daños que supone el matrimonio infantil, evitar que se comparta una publicación, degradar la publicación, etc.) antes de decidir que la medida menos invasiva es eliminar todo discurso que "apoye" el matrimonio infantil.
Si bien puede haber situaciones en las que este tipo de discurso a favor de la práctica ocasione daños reales, las prohibiciones absolutas de contenido que se cree que apoya el matrimonio infantil podrían conducir a que se eliminen expresiones y opiniones que no causan daños y, por ende, constituyen discurso protegido. Los riesgos de la "normalización" de la práctica deben abordarse por medio de la educación (p. ej., etiquetas que dirijan a los usuarios a información sobre los daños que ocasiona el matrimonio infantil) y argumentos en contra de esta práctica, no por medio de la censura. La Relatora Especial de la ONU sobre la libertad de expresión señaló que "contradiscurso ha sido una estrategia de respuesta eficaz [al] poner al descubierto el discurso del odio" (A/78/288, párrafo 109,) e hizo hincapié en la importancia de "la ampliación del acceso a información y a ideas que contrarresten los mensajes de odio" ( A/74/486, para. 18). Estos miembros consideran que esta conclusión es igualmente aplicable en el contexto del matrimonio infantil.
Para la minoría, ampliar la política de explotación de personas para que prohíba contenido que apoya el matrimonio infantil podría tener consecuencias no previstas y contraproducentes en las iniciativas para combatirlo, ya que silenciaría el debate y el contradiscurso que, de hecho, permitirían desafiar las normas sociales prevalentes y las actitudes respecto del matrimonio infantil, y contribuir a su erradicación. Estos miembros del Consejo consideran que una norma comunitaria que suprima todo el discurso que "apoya" el matrimonio infantil, en especial cuando se aplica a gran escala, inevitablemente conducirá a la eliminación de una cantidad desproporcionada de discurso más allá de lo aceptable conforme a las normas internacionales de derechos humanos.
En general, el Consejo tuvo opiniones divididas respecto de las ventajas y desventajas de prohibir el "apoyo" y no llegó a una conclusión definitiva sobre esa cuestión. Como este caso particular tiene que ver con la "facilitación", el Consejo no tuvo ocasión de reflexionar de una manera suficientemente detallada sobre las diversas implicaciones potenciales respecto de cómo Meta implementaría en la práctica una prohibición del "apoyo". Por ejemplo, el Consejo carece de información suficiente sobre la viabilidad de que Meta identifique y distinga con claridad el "apoyo" de afirmaciones neutrales o sobre las posibles tasas de error. En consecuencia, el Consejo cree que este asunto se debe examinar de nuevo en un caso futuro.
Por último, respecto de la proporcionalidad de la respuesta de Meta, el Consejo agradece que la empresa no aplicara una falta contra el usuario que publicó el contenido porque eliminó la publicación en función de la concesión basada en el espíritu de la política, no en el texto de la política, y determinó que la eliminación fue suficiente, sin necesidad de otra penalización en forma de falta. El Consejo destacó el valor de separar las acciones de aplicación de políticas de Meta sobre contenido de las penalizaciones que se imponen a los usuarios.
6. La decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar el contenido.
7. Recomendaciones
A. Política de contenido
1. Para ofrecer claridad a los usuarios, Meta debe modificar la política de explotación de personas para que indique explícitamente que los matrimonios forzados incluyen el matrimonio infantil.
El Consejo considerará implementada esta recomendación cuando Meta actualice su norma comunitaria sobre explotación de personas pública para reflejar este cambio.
2. Para ofrecer claridad a los usuarios, Meta debe modificar la política de explotación de personas para definir el matrimonio infantil en concordancia con las normas de derechos humanos internacionales de un modo que incluya matrimonios y uniones informales de niños menores de 18 años.
El Consejo considerará implementada esta recomendación cuando Meta actualice su norma comunitaria sobre explotación de personas pública para reflejar este cambio.
B. Aplicación de políticas
3. Meta debe proporcionar pautas explícitas a los revisores que indiquen que el matrimonio infantil se incluye en la definición de matrimonios forzados.
El Consejo considerará implementada esta recomendación cuando Meta aporte documentación interna actualizada que demuestre que se efectuó el cambio.
4. Para proteger los derechos de los niños y evitar que Meta recurra a la concesión basada en el espíritu de la política, la empresa debe ampliar la definición de facilitación en sus pautas internas de modo que incluya todo tipo de ayuda sustancial (incluidos "servicios") que permita la explotación.
El Consejo considerará implementada esta recomendación cuando Meta aporte documentación interna actualizada que demuestre que se efectuó el cambio.
El Consejo reiteró también la importancia de sus recomendaciones anteriores respecto de brindar una explicación pública de la concesión basada en el espíritu de la política (decisión del caso Productos farmacéuticos en Sri Lanka, recomendación n.º 1, que se reitera en el caso Violencia en una comunidad del estado de Odisha de la India). En nuestra decisión del caso Productos farmacéuticos en Sri Lanka, el Consejo hizo una recomendación en la que insta a Meta a explicar en la página de destino de las Normas comunitarias que se pueden aplicar concesiones cuando sus bases, y los valores de Meta, exigen un resultado diferente de una lectura estricta de las reglas. Asimismo, el Consejo solicitó a Meta incluir un enlace a la página del Centro de transparencia que proporciona información sobre la concesión basada en el "espíritu de la política". El Consejo supervisará la implementación de esta recomendación, con lo que Meta ya se comprometió.
* Nota de procedimiento:
- La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
- En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5 y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4 y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
- En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, un grupo de investigaciones digitales que brinda asesoría en materia de riesgos y servicios de inteligencia sobre amenazas para mitigar los riesgos online, también colaboró en la investigación.
Volver a Decisiones de casos y opiniones consultivas sobre políticas