Videos de docentes golpeando a niños

Para leer la decisión completa en punyabí, haz clic aquí.

ਇਸ ਫ਼ੈਸਲੇ ਨੂੰ ਪੰਜਾਬੀ ਵਿੱਚ ਪੜ੍ਹਨ ਲਈ, ਇੱਥੇ ਕਲਿੱਕ ਕਰੋ।

Resumen

Al considerar dos videos que exponían casos de maltrato infantil en entornos educativos, el Consejo asesor de contenido recomendó incluir una excepción en la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores de Meta para permitir la permanencia de tal contenido cuando se lo comparte con el fin de condenarlo, brindar información o generar conciencia, y cuando no se puede identificar a los menores. La prohibición actual de Meta de publicar videos o fotos de casos de maltrato infantil, independientemente de la intención e incluso si se oculta la identidad de los menores, tiene como consecuencia restricciones desproporcionadas sobre la libertad de expresión. Al compartir tal contenido, podría contribuirse al debate público en torno a asuntos importantes relacionados con los derechos de los niños.

El Consejo ratificó la decisión de Meta de permitir la permanencia de este contenido en uno de los casos y anuló la decisión de Meta de eliminarlo en el otro. Ambas publicaciones deben conservarse en virtud de una concesión de interés periodístico, con pantallas de advertencia.

Información de los casos

En el primer caso, una organización de medios india publicó un video en su página de Facebook en el que una docente le gritaba a un alumno de primaria por no haber estudiado, le golpeaba la cabeza y la espalda una y otra vez, y parecía tirar del turbante del menor. Con una zona borrosa superpuesta, se cubrió el rostro del menor la mayor parte del video. Según la descripción, un funcionario estatal reclamó la rendición de cuentas.

En el segundo caso, se publicó un video en una página de Facebook que pareciera difundir noticias locales de una región de Francia. En el video, había un grupo de niños muy pequeños, y uno de ellos estaba llorando. Un docente golpeó al menor, quien cayó al piso mientras los demás miraban. Todos los rostros que aparecen en el video se ven borrosos. En la descripción, se hizo referencia a la escuela, la fecha y el barrio donde sucedió el incidente, y una investigación.

Luego de que se reportara y escalara, expertos en políticas de Meta determinaron que el contenido indio infringía la política de explotación sexual, maltrato y desnudos de menores y lo eliminaron. Dado que el contenido se publicó con fines de concientización, Meta no aplicó ninguna falta a la cuenta, según la empresa le afirmó al Consejo.

El contenido francés se eliminó sin pasar por una instancia de revisión manual por infringir la misma política. Luego de la apelación del creador del contenido, Meta confirmó que la eliminación había sido acertada, pero retiró las faltas que había aplicado debido al interés público y porque el contenido se compartió con fines de concientización.

Meta remitió ambos casos al Consejo. Al preparar sus comentarios para el Consejo, los expertos en políticas de Meta decidieron conservar el contenido francés otorgando una concesión de interés periodístico y colocando una pantalla de advertencia. Meta indicó que un abogado que representaba a los padres del menor compartió el video en un medio local para generar conciencia en torno al incidente. Para Meta, esto implicó que el valor de interés público superó el daño, ya que "el consentimiento de los padres mitigó las inquietudes relacionadas con la privacidad y la dignidad".

Conclusiones principales

Según el Consejo, la prohibición de Meta de publicar videos o fotos de casos de maltrato infantil, independientemente de la intención e incluso si se oculta la identidad de los menores, tiene como consecuencia restricciones desproporcionadas sobre la libertad de expresión. La política de explotación sexual, maltrato y desnudos de menores no diferencia entre los niños que se pueden identificar y los que no. Sin embargo, la posibilidad de identificación es decisiva. Si se mitiga este riesgo, se acotan las inquietudes relacionadas con la privacidad y la dignidad.

El Consejo determinó que ambas publicaciones infringen la política de explotación sexual, maltrato y desnudos de menores. No obstante, según la mayoría, deben conservarse en virtud de una concesión de interés periodístico, con pantallas de advertencia y la visibilidad restringida a los usuarios mayores de 18 años. Esto es coherente con las responsabilidades de Meta en materia de derechos humanos y cumple con la prueba de necesidad y proporcionalidad de mejor forma, al permitir una mayor libertad de expresión. El valor del interés público de ambas publicaciones es alto. En las dos, se fomenta la rendición de cuentas y se intenta evitar la identificación de los menores. En el caso francés, el consentimiento de los padres, si bien no es irrefutable, respalda la presunción de que la divulgación de los videos no perjudica el interés superior del menor. La comunicación de dicha información contribuye a importantes debates públicos sobre los derechos de los niños en el contexto de iniciativas internacionales cada vez más extendidas para prohibir el maltrato infantil en los entornos educativos.

Una minoría del Consejo no estuvo de acuerdo y determinó que el interés público no superaba el riesgo de daño a la privacidad y la dignidad de los menores representados. Según estos miembros, la eliminación favorecería al interés superior de los menores.

Decisión del Consejo asesor de contenido

El Consejo ratificó la decisión de Meta en el caso francés de conservar el contenido en la plataforma otorgando una concesión de interés periodístico y colocando una pantalla de advertencia. El Consejo anuló la decisión de Meta en el caso indio y exigió que se restaurara el contenido otorgando una concesión de interés periodístico y colocando una pantalla de advertencia.

El Consejo recomendó a Meta lo siguiente:

• Incluir una excepción en la política pública de explotación sexual, maltrato y desnudos de menores para permitir la permanencia de imágenes y videos de maltrato infantil perpetrado por adultos, cuando se compartan con la intención de condenarlo, informar y generar conciencia. Esto solo debe aplicarse cuando no se pueda identificar al menor directamente por su nombre o por la imagen, ni tampoco se lo pueda identificar de manera funcional (cuando haya pistas contextuales que probablemente permitan la identificación de la persona). Se debe permitir que el contenido permanezca con una pantalla de advertencia y la visibilidad restringida a los usuarios de más de 18 años. Esta excepción deberá aplicarse solo en etapa de escalamiento.
• No aplicar faltas a las cuentas de las que se elimine contenido de maltrato infantil en la etapa de escalamiento cuando haya indicios evidentes de la intención del usuario de condenar el contenido o informar o concientizar acerca de este.

Decisión del caso completa

1. Descripción y contexto del caso

Esta decisión abarca dos casos de videos publicados en Facebook que exponían casos de maltrato infantil en entornos educativos. Los videos se publicaron con el fin de generar conciencia. Meta determinó que ambos contenidos infringían su política de explotación sexual, maltrato y desnudos de menores que prohíbe la permanencia de "videos o fotos que muestren maltrato infantil […] independientemente de la intención con la que se compartan". Meta remitió ambos casos al Consejo para solicitar pautas acerca de cómo atender la seguridad y la dignidad de los menores, así como la necesidad de generar conciencia acerca de acontecimientos y asuntos de interés periodístico.

En el primer caso, una organización de medios de la India publicó un video en su página de Facebook en el que una docente le gritaba a un alumno de primaria por no haber estudiado. Le golpeó la cabeza y la espalda una y otra vez, y parecía tirar del turbante del menor. Sobre el rostro del menor se superpuso una zona borrosa. A pesar de que ocasionalmente esta no cubría el rostro en movimiento, en ningún momento pudo identificarse con claridad. Se podía ver a la docente y a los demás alumnos. En la descripción, se identificó el lugar en el que ocurrió el incidente y se indicó que un funcionario estatal había reclamado la rendición de cuentas.

La publicación obtuvo varios miles de reproducciones. Diez personas la reportaron. Dado que la cuenta goza de las protecciones que brinda la verificación cruzada, uno de los reportes se escaló a los expertos en políticas, quienes determinaron que el contenido infringía la política de explotación sexual, maltrato y desnudo de menores y lo eliminaron. Meta describe la verificación cruzada como una estrategia de prevención de errores que ofrece más niveles de revisión. Meta expuso al Consejo que no aplicó una falta a la cuenta del creador del contenido porque el contenido se había publicado para generar conciencia.

En el segundo caso, se publicó un video en una página de Facebook que pareciera difundir noticias locales de una región de Francia. En el video, había un grupo de niños muy pequeños en un entorno educativo, y uno de ellos estaba llorando. El docente golpeó al menor, quien cayó al piso mientras los demás miraban. También pareciera que el docente roció algo sobre el niño. Todos los rostros que aparecían en este video se veían borrosos. En la descripción, se citó el barrio específico, la fecha y la escuela donde aparentemente se filmó el incidente. Además, se hizo referencia a una investigación.

La publicación obtuvo varios miles de reproducciones. Un usuario reportó la publicación, y el sistema automatizado la identificó como potencialmente infractora de la política de explotación sexual, maltrato y desnudos de menores. Luego, el contenido se eliminó sin pasar por una instancia de revisión manual por infringir la política. Meta aplicó una falta estándar y una grave a la cuenta del creador de este caso. El administrador de la página escaló el contenido a través de un "canal de ayuda para creadores" para apelar la eliminación. Meta cuenta con recursos para los creadores de contenido que procuran ampliar su público y ganar dinero, y podría incluir canales de ayuda adicionales para los usuarios. Luego, los expertos en políticas confirmaron que la eliminación fue acertada, pero revirtieron la decisión previa de aplicar faltas a raíz "del interés público y el contexto de concientización".

Posteriormente, cuando Meta preparaba sus comentarios para el Consejo, los expertos en políticas decidieron permitir la permanencia del contenido en la plataforma otorgando una concesión de interés periodístico y colocando una pantalla de advertencia. De acuerdo con Meta, un abogado que representaba a los padres del menor compartió el video en un medio local para generar conciencia en torno al incidente. Para la empresa, esto implicó que el valor de interés público superó el daño, ya que "el consentimiento de los padres mitigó las inquietudes relacionadas con la privacidad y la dignidad".

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó:

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) informó que la violencia escolar es un fenómeno muy extendido y afecta tanto a los alumnos como al personal docente. Estima que mil millones de niños de entre dos y 17 años sufren cada año alguna forma de violencia. De acuerdo con la Organización Mundial de la Salud (OMS), "en algunos países, casi todos los alumnos declaran haber recibido castigos corporales por parte del personal docente", y las tasas más altas se observaron en África y Asia meridional. De acuerdo con un estudio de UNICEF (Fondo de las Naciones Unidas para la Infancia), en Asia meridional, los castigos corporales y el bullying en las escuelas siguen siendo frecuentes, a pesar de las prohibiciones legislativas.

Según la organización de sociedad civil End Corporal Punishment, los castigos corporales se prohibieron en las escuelas de la India. La ley solo es válida para los niños de entre seis y 14 años, y no incluye ciertos contextos, como las escuelas religiosas, las guarderías y los hogares. Por el contrario, Francia prohibió los castigos corporales en todos los contextos, incluidos los hogares, desde 2019.

2. Respuestas de los usuarios

Tras las remisiones de Meta de estos casos y la decisión del Consejo de aceptarlos, los dos usuarios que publicaron el contenido tuvieron la oportunidad de enviar una declaración. No se obtuvo respuesta alguna.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

Explotación sexual, maltrato y desnudos de menores

En las bases de la política de Meta, se indica que la empresa no admite "contenido ni actividades donde se explote sexualmente o donde se ponga en peligro a niños". En la norma comunitaria, se prohíben los "videos o fotos que muestren maltrato infantil real o no real, independientemente de la intención con la que se compartan, salvo que las imágenes sean de obras de arte del mundo real, caricaturas, películas o videojuegos". En la política, también se prohíbe el "contenido que exalte, apoye, promueva, defienda o fomente la participación en maltrato infantil, o que instruya sobre esto". Meta le indicó al Consejo que, en sus pautas internas, emplea una "lista completa de los actos específicos de maltrato corporal perpetrados por un adulto o un animal hacia cualquier persona de menos de 18 años" para definir "maltrato infantil".

En la política, hay una pequeña cantidad de disposiciones que dependen del contexto y que, de acuerdo con Meta, las aplican equipos especializados en la etapa de escalamiento. En la política actual, se permite la permanencia de "videos o fotos de maltrato infantil" en la plataforma en la etapa de escalamiento cuando lo solicitan las fuerzas del orden, organismos de protección de menores o socios de seguridad de confianza, específicamente, para colaborar con iniciativas que tienen como fin aumentar la seguridad de un menor. También se permite la permanencia de "videos o fotos que muestren oficiales de policía o personal militar cometiendo maltrato infantil". En ambos casos, Meta aplica una pantalla de advertencia de contenido perturbador y restringe la visibilidad a los usuarios de más de 18 años. En las Medidas adicionales de protección para menores, también se indica que Meta cumple con las "solicitudes gubernamentales para eliminar imágenes de maltrato infantil".

No existe ninguna excepción en el nivel de la política que aborde las representaciones de maltrato infantil cuando se comparten con el fin de informar, generar conciencia o condenar. Sin embargo, la empresa puede permitir la permanencia de este contenido a través de su concesión de interés periodístico general, luego de que equipos de políticas revisen el contenido en la etapa de escalamiento (consulta el caso Imágenes de mujeres indígenas parcialmente desnudas).

Concesión de interés periodístico

En ciertas circunstancias, la empresa permitirá que contenido que infrinja sus políticas permanezca en la plataforma si es "de interés periodístico y si mantenerlo visible es una cuestión de interés público". Meta señaló que, al tomar esta decisión, busca un equilibrio entre el interés público en el contenido y el riesgo de daño. La empresa evalúa "si el contenido pone de manifiesto amenazas inminentes a la salud o la seguridad públicas, o permite que se expresen perspectivas que actualmente se discuten como parte de un proceso político". La empresa observó que su análisis se basa en las circunstancias específicas del país, la naturaleza del discurso y la estructura política pertinente, así como el grado de libertad de prensa. En el caso del contenido que pudiera resultar sensible o perturbador, y que Meta conserva en la plataforma mediante esta concesión, la empresa incluye una pantalla de advertencia. También puede restringir el acceso a los usuarios mayores de 18 años. La concesión puede aplicarse en cualquier política de contenido, pero, dado que solo moderadores especializados pueden otorgarla, es muy poco frecuente que esto ocurra. En su Centro de transparencia, Meta indica que aplicó la concesión 32 veces entre junio de 2023 y junio de 2024.

II. Respuestas de Meta

Meta "adopta una postura firme en contra de compartir contenido que muestre maltrato infantil, independientemente de la intención, para priorizar la seguridad, la dignidad y la privacidad del menor" a raíz del "riesgo de daño significativo" que representa tal contenido. De acuerdo con Meta, numerosas y diversas partes interesadas destacaron que compartir este material puede volver a traumatizar al menor, exponerlo a hostigamiento y vergüenza continuos y dificultar su recuperación, en especial, dada la exposición prolongada del contenido en los medios sociales.

Meta hizo hincapié en que los abogados de los derechos de los niños defienden que se priorice la seguridad y la privacidad de las víctimas infantiles, sin dejar de reconocer que los medios sociales pueden adquirir un papel positivo en la concientización. Meta también destacó que "los riesgos relacionados con la privacidad disminuyen, pero no desaparecen, cuando el rostro de la víctima no se ve o se ve borroso". Para equilibrar estas inquietudes, en la política, se prohíbe la permanencia de videos y fotos de maltrato infantil, pero se permite que se usen descripciones textuales, que suelen usarse en los informes periodísticos.

Meta determinó que ambas publicaciones infringían su política que prohíbe mostrar "maltrato infantil real o no real, independientemente de la intención con la que se compartan". Sin embargo, en última instancia, Meta determinó que el contenido del caso francés cumplía los requisitos para recibir una concesión de interés periodístico y restauró la publicación con una pantalla de advertencia. Se otorgó la concesión en virtud del interés público de la publicación y los riesgos acotados. Los padres del menor consintieron la distribución del video, lo que mitigó las inquietudes relacionadas con la privacidad y la dignidad. Meta también indicó que el rostro del menor se veía borroso. Además, aclaró que, si alguno de estos factores hubiera sido diferente, el resultado podría haber sido otro. Meta también reconoció que el hecho de que el rostro del menor se vea borroso reduce el riesgo, pero no lo suprime, ya que otros indicios contextuales podrían permitir su identificación.

Por el contrario, la publicación del caso indio se eliminó y no recibió una concesión de interés periodístico. Meta determinó que, a pesar de que el contenido presentaba valor público para generar conciencia en torno al maltrato infantil en las escuelas, el riesgo de daño era significativo. En la publicación, se reveló la ubicación de la escuela y se veía el rostro del docente sin estar borroso, lo que acotó aún más el anonimato. Como resultado, las personas locales podrían llegar a identificar al menor. Meta también señaló que, a diferencia del caso francés, no había ningún indicio de que el menor o su familia hubieran consentido la divulgación de las imágenes. Por lo tanto, el interés público no superaba el riesgo de daño.

Meta le indicó al Consejo que, en última instancia, no aplicó faltas a ninguno de los creadores de contenido, ya que ambas publicaciones se compartieron con el fin de generar conciencia. Luego de la primera revisión, la publicación francesa recibió una falta estándar y una grave, pero esta decisión se revirtió a la brevedad durante la revisión en la etapa de escalamiento.

El Consejo le hizo preguntas a Meta acerca de su política de maltrato infantil, incluidas las bases que la sustentan, las partes interesadas a las que consultó y sus perspectivas, el otorgamiento de la concesión de interés periodístico y el proceso de aplicación de políticas. El Consejo también preguntó por la viabilidad de otorgar a los usuarios herramientas para lograr que los menores no sean identificables. Meta respondió todas las preguntas.

4. Comentarios del público

El Consejo recibió siete comentarios del público que cumplieron las condiciones de presentación. Seis de ellos procedían de los Estados Unidos y Canadá, y uno, de Europa. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios enviados se referían a los siguientes temas: posibles daños a los menores, sus familias y la sociedad surgidos a raíz de permitir la permanencia de imágenes de maltrato infantil en los medios sociales; responsabilidad de las plataformas de medios sociales; castigos corporales como una vulneración de los derechos humanos de los niños; y divulgación de información periodística sobre el maltrato infantil como un asunto de interés público, con fines de rendición de cuentas.

5. Análisis del Consejo asesor de contenido

El Consejo seleccionó estos casos dada la importancia de la libertad de expresión que promueve la rendición de cuentas en torno a asuntos de interés público y la necesidad de velar por el interés superior del menor. En estos casos, se pone de manifiesto la tensión que existe entre los valores de expresión de Meta y la posibilidad de garantizar la privacidad, la seguridad y la dignidad de los niños.

El Consejo analizó la decisión de Meta en este caso respecto de las políticas de contenido, los valores y las responsabilidades en materia de derechos humanos de la empresa. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

Reglas de contenido

El Consejo determinó que ambas publicaciones infringían la política de explotación sexual, maltrato y desnudos de menores de Meta, que prohíbe las representaciones de maltrato infantil. En ambos videos, aparecían adultos golpeando a menores.

Según una mayoría del Consejo, Meta tomó la decisión acertada al otorgar una concesión de interés periodístico en el caso francés y debió haber hecho lo mismo en el caso indio. Para la mayoría, conforme a las políticas de Meta, ambos contenidos debían permanecer en la plataforma con pantallas de advertencia y la visibilidad restringida a los usuarios mayores de 18 años.

De acuerdo con la prueba para la concesión periodística de Meta, el valor público de ambos contenidos era alto. En los videos, se observaban actos de violencia perpetrados por adultos, en posiciones de poder y responsabilidad educativa, contra menores de edad. Además, ambas publicaciones tenían descripciones que reflejaban un intento por conseguir una rendición de cuentas ante este maltrato. La mayoría hizo hincapié en la especial importancia que las representaciones visuales pueden tener en el periodismo, la defensa y la concientización pública.

Asimismo, ambos contenidos presentaban un riesgo acotado para los niños representados. La mayoría destacó los intentos por ocultar la identidad de los menores al colocar zonas borrosas en los rostros. A pesar de que la información sobre la ubicación en las descripciones y los indicios contextuales podrían facilitar la identificación de las escuelas, según la mayoría, seguiría siendo difícil identificar a los menores que se ven borrosos. Si bien Meta hizo hincapié en un riesgo de daño en el caso indio, la mayoría definió que este daño es poco claro dado que la identificación no es probable. Además, en el caso francés, el consentimiento de los padres del menor maltratado, si bien no es determinante, favorece la presunción de que la divulgación del video no es contraria al interés superior del menor.

Una minoría del Consejo no estuvo de acuerdo e indicó que no se debería otorgar una concesión de interés periodístico en ninguno de los casos. Según estos miembros del Consejo, existe un interés público en el contenido, pero este no supera el riesgo de daño a la privacidad y la dignidad de los menores representados. La minoría hizo hincapié en la permanencia del contenido luego de su divulgación online y la posibilidad de identificar a las víctimas infantiles, a pesar de que se vean borrosas, a través de indicios contextuales en ambas publicaciones. Para la minoría, el consentimiento de los padres no disminuye esos riesgos. Estos miembros del Consejo creen que, incluso si algunos padres consienten la divulgación de esos videos en los medios sociales, esto no necesariamente atiende de la mejor forma el interés superior del menor o los menores involucrados.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

Según una mayoría del Consejo, la conservación del contenido con una pantalla de advertencia y la visibilidad restringida a las personas mayores de 18 años en ambos casos es coherente con las responsabilidades de Meta en materia de derechos humanos. La eliminación de la publicación por parte de Meta en el caso indio no fue necesaria ni proporcionada. Una minoría del Consejo no estuvo de acuerdo e indicó que, conforme a las políticas actuales de Meta, la eliminación era necesaria para proteger los derechos de los menores representados en los videos.

Libertad de expresión (artículo 19 del ICCPR)

El 16 de marzo de 2021, Meta anunció su Política corporativa de derechos humanos, en la que describe su compromiso con el respeto de los derechos de conformidad con los Principios Rectores sobre las empresas y los derechos humanos de las Naciones Unidas (UNGP). De acuerdo con los UNGP, las empresas deben "abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación" (Principio 11 de los UNGP).

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) protege ampliamente la libertad de expresión, y el Comité de Derechos Humanos de las Naciones Unidas (ONU) señaló que protege los comentarios sobre los asuntos públicos, la discusión sobre derechos humanos y el periodismo (observación general n.º 34, párrafo 11). El Comité también indicó que la libertad de expresión es una condición necesaria para el logro de la rendición de cuentas, que es esencial para la promoción y la protección de los derechos humanos (observación general n.º 34, párrafo 2).

Toda restricción sobre la libertad de expresión debe cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, en línea con los UNGP, tanto acerca de publicaciones específicas como del enfoque que Meta emplea para la gobernanza del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, si bien las empresas no tienen las obligaciones de los Gobiernos, sus efectos son de un tipo que les obliga a evaluar las mismas cuestiones sobre el derecho de sus usuarios a la libertad de expresión (A/74/486, párrafo 41).

Según el artículo 3 de la Convención sobre los Derechos del Niño de la ONU (UNCRC), el interés superior del niño debe ser una consideración primordial en todas las medidas concernientes a los niños. El Comité de los Derechos del Niño (CDN) describe el interés superior del niño como un principio flexible que aplica a los niños de todas las edades y se adapta a sus circunstancias específicas y su desarrollo en evolución (observación general n.º 14, páginas 5 y 6 de la versión en inglés). En línea con esto, los principios y pautas de UNICEF para los medios de comunicación que brindan información periodística sobre los niños hacen hincapié en que los derechos y la dignidad de estos deben respetarse en todas las situaciones y en que su interés superior debe preceder a cualquier otra consideración, incluida la defensa y la promoción de los derechos de los niños.

El artículo 19 de la UNCRC exige que los estados protejan a los niños de toda forma de violencia "mientras el niño se encuentre bajo la custodia de los padres, de un representante legal o de cualquier otra persona que lo tenga a su cargo". El CDN indicó con claridad que toda forma de violencia contra los niños es inaceptable y agregó que "el castigo corporal es siempre degradante" y que "es incompatible con la Convención" (observación general n.º 8, párrafos 7, 11 y 12, y observación general n.º 13, párrafos 17 y 24). El castigo corporal vulnera la dignidad del niño y excede los límites aceptables de la disciplina escolar (artículo 28.2, UNCRC, observación general n.º 1, párrafo 8). Se debe proteger a los niños contra toda forma de violencia y daños en todos los entornos, incluido el entorno digital (observación general n.º 25, párrafo 82).

En el artículo 16 de la UNCRC, se garantiza el derecho de los niños a la privacidad. El CDN, además, destacó que la "privacidad es vital para la autonomía, la dignidad y la seguridad de los niños y para el ejercicio de sus derechos" y "las amenazas pueden provenir […] de una persona desconocida que difunde información sobre un niño" online (observación general n.º 25, párrafo 67).

Por lo tanto, el análisis del Consejo se basa en protecciones robustas de la libertad de expresión y los derechos de los niños, en particular, el derecho a la protección contra la violencia y el derecho a la privacidad.

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que toda restricción a la libertad de expresión respete una regla establecida, que sea clara y a la que los usuarios puedan acceder (observación general n.º 34, párrafo 25). En la política de explotación sexual, maltrato y desnudos de menores, se prohíbe la permanencia de "videos o fotos que muestren maltrato infantil real o no real, independientemente de la intención con la que se compartan". El Consejo determinó que la regla que prohíbe las representaciones de maltrato infantil resulta suficientemente clara conforme se aplica a estos casos.

Si bien el Consejo celebra que Meta haya brindado mayor claridad respecto del proceso y los criterios relacionados con la concesión de interés periodístico en su Centro de transparencia como respuesta a sus recomendaciones, el Consejo reitera su preocupación en torno al otorgamiento de esta. La previsibilidad y la accesibilidad de la concesión son limitadas debido a la falta de procesos claros para identificar el contenido que pudiera cumplir los requisitos (consulta, entre otros, los casos Asesinato de un candidato a alcalde en México e Imágenes de mujeres indígenas parcialmente desnudas).

II.Fin legítimo

Toda restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los derechos de los demás. Meta indicó que su regla que prohíbe las representaciones de maltrato infantil "contribuye al 'fin legítimo' de proteger los derechos de los demás, incluido el derecho a la privacidad y a proteger a los [niños] representados en los videos", en línea con el interés superior del niño. El Consejo, reiterando decisiones previas en las que evaluó esta norma, determinó que la política atiende el fin legítimo de proteger los derechos de los niños a la salud física y mental (artículo 19 de la UNCRC) y su derecho a la privacidad (artículo 17 del ICCPR; artículo 16 de la UNCRC), en consonancia con el respeto por el interés superior del niño (artículo 3 de la UNCRC) (consulta los casos Denuncia por parte de un periodista sueco de violencia sexual contra menores y Documental periodístico sobre abuso infantil en Pakistán).

III.Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado; y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

Una mayoría del Consejo no estuvo de acuerdo con las decisiones iniciales de Meta de eliminar las publicaciones francesa e india, ya que determinó que la limitación sobre la expresión no era necesaria ni proporcionada para proteger los derechos de los niños. La protección de la libertad de expresión en estos casos es coherente con la protección de los derechos de los niños en la medida en que favorece los fines de concientización pública y rendición de cuentas ante casos de violencia infantil ejercida en escuelas. Además, según la mayoría, la decisión revisada de Meta de permitir que la publicación francesa permaneciera en la plataforma es más coherente con sus responsabilidades de proteger la libertad de expresión. La conservación del contenido con una pantalla de advertencia y la visibilidad restringida solo a usuarios mayores de 18 años cumple mejor las pruebas de necesidad y proporcionalidad, y permite una mayor libertad de expresión. Por último, la mayoría señaló que la concesión de interés periodístico, con las restricciones más proporcionadas de una pantalla de advertencia y la limitación de la edad, también debió haberse otorgado a la publicación india.

Este tipo de expresión cuenta con una protección muy amplia en el marco de los derechos humanos. Ambos contenidos fueron compartidos por páginas que son organizaciones de medios o parecieran compartir noticias locales. El fin de las publicaciones era informar y concientizar acerca del castigo corporal ejercido por docentes en entornos educativos. Este es un asunto de gran interés y debate públicos, en particular, en la India y Asia meridional. Las publicaciones tenían descripciones que destacaban iniciativas oficiales relacionadas con la rendición de cuentas. Según la mayoría, la divulgación de esa información contribuye al debate público en torno a asuntos relacionados con los derechos de los niños y ayuda a exponer casos de maltrato que, de otro modo, podrían no salir a la luz.

La mayoría estuvo de acuerdo en que las representaciones de maltrato infantil podrían generar inquietudes relacionadas con la privacidad y la seguridad de los niños. En estos dos casos, los rostros de las víctimas infantiles se veían borrosos. No se los identificó por su nombre ni con imágenes, y las zonas borrosas limitaron la posibilidad de lo que Meta llama una identificación funcional a través de indicios contextuales. Actualmente, Meta define identificación funcional en esta política como la que ocurre "de otro modo que no sea por su nombre o imagen si dicho contenido incluye información que es probable que permita identificar a esas personas". Si bien en las publicaciones había información sobre la ubicación de las escuelas, la mayoría determinó que no es "probable que esta información permita la identificación" de las personas concretas. Asimismo, como en el caso francés, la mayoría destacó que el factor del consentimiento de los padres (junto con el intento de ocultar la identidad del menor) apoyó la conclusión de que permitir la permanencia del video en Facebook no perjudica el interés superior del menor. Los argumentos a favor de la eliminación sobre la base de que los niños pudieran sufrir un nuevo trauma a partir de videos como estos se debilitan considerablemente cuando se realizan acciones significativas para intentar ocultar su identidad. Esto es particularmente importante cuando el contenido procura generar conciencia pública y favorecer la rendición de cuentas ante casos de violencia escolar, lo cual, en última instancia, persigue el objetivo más amplio de proteger a los niños contra todo daño. Sin embargo, el análisis de necesidad y proporcionalidad hubiera sido un poco diferente si los niños se hubieran podido identificar con facilidad. La identificación es un factor clave aquí.

Una minoría del Consejo expresó su desacuerdo. Dado el posible daño a la privacidad, la dignidad y la seguridad de los niños representados, estos miembros señalaron que la eliminación hubiera sido la mejor forma de respetar el interés superior de los menores, tal como se describe en la UNCRC. Indicaron que la eliminación es tanto necesaria como proporcionada para tal fin conforme al artículo 19(3). La minoría, destacando la postura de UNICEF, destacó que las representaciones de maltrato infantil en los medios sociales pueden volver a causar traumas en las víctimas infantiles y aparejar humillación pública, estigmas, bullying y explotación (PC-31244). Según la minoría, estos riesgos se ven amplificados por la naturaleza duradera del contenido online, en particular, una vez que se hace viral, y la posibilidad de la identificación funcional, a pesar de las zonas borrosas. Para la minoría, el consentimiento de los padres no cambia esta evaluación, ya que el material online puede permanecer disponible por tiempo indefinido. Cuando estos niños tengan la capacidad de expresar su opinión, la mitigación del impacto ya no será posible.

La minoría también señaló que la restricción sobre la expresión se limita a las imágenes y que las iniciativas relacionadas con la rendición de cuentas y la reforma pueden llevarse a cabo a través de otras formas de expresión. Según resaltaron los expertos a los que consultó el Consejo, la información periodística, la defensa narrativa y las peticiones legales pueden impulsar cambios sin recurrir a imágenes. Esto refleja la perspectiva de UNICEF de que las iniciativas relacionadas con la rendición de cuentas no deben suponer un perjuicio para el derecho a la dignidad y la integridad del niño.

Tanto la mayoría como la minoría estuvieron de acuerdo en que Meta hizo lo correcto al no aplicar faltas en estos casos. En el Centro de transparencia de Meta, se indica que la empresa puede aplicar faltas o no hacerlo a las cuentas que publican contenido que esta elimina, en función de diversos factores, incluidos la gravedad y el contexto. El Consejo estuvo de acuerdo en que aplicar alguna penalidad que afecte la capacidad de los usuarios de compartir contenido adicional o usar la plataforma hubiera afectado desproporcionadamente su expresión.

Según el Consejo, en el nivel de la política, la prohibición de Meta de publicar videos o fotos de casos de maltrato infantil, independientemente de la intención e incluso si se oculta la identidad de los menores, tiene como consecuencia restricciones desproporcionadas sobre la libertad de expresión. El Consejo destacó que la política actual de Meta no diferencia entre los niños que pueden identificarse y los que no pueden identificarse, y que solo se centra en si el contenido representa maltrato infantil. Sin embargo, la posibilidad de identificación es un factor decisivo. Si se mitiga este riesgo, se acotan las inquietudes relacionadas con la privacidad y la dignidad.

En las normas internacionales sobre derechos humanos, se ofrece una amplia protección para la expresión en asuntos de interés público y cuando favorece el logro de otros derechos. Esto incluye las iniciativas para informar acerca de incidentes de maltrato infantil en entornos educativos, en particular, cuando la violencia escolar contra los niños sigue siendo común. Este asunto cobra especial importancia ante el aumento de las iniciativas mundiales para prohibir tales prácticas. Compartir este tipo de contenido puede develar casos de maltrato sistémico, promover el debate público y permitir la rendición de cuentas o la reforma institucional, en línea con el interés superior del niño.

Asimismo, las imágenes suelen evocar reacciones más contundentes que las descripciones narrativas, ya que ofrecen evidencia vívida y convincente, y promueven la rendición de cuentas. En algunas regiones, como en Asia meridional, la circulación de imágenes de maltrato infantil generó respuestas inmediatas, incluso intervenciones de rescate, arrestos o medidas disciplinarias.

El Consejo también destacó que, de acuerdo con el análisis de expertos que encargó, en la mayoría de los casos en los que se comparte contenido de casos de maltrato infantil en los medios sociales, la intención es generar conciencia, brindar información periodística sobre los incidentes, condenar el maltrato, apoyar al periodismo o exigir la rendición de cuentas. En un estudio interno del Consejo, se confirmó este patrón mediante la revisión de otras instancias en las que ambos videos se compartieron en diferentes plataformas de medios sociales y permanecen disponibles de forma pública.

Para proteger mejor la expresión, sin dejar de respetar el interés superior del niño, el Consejo le recomendó a Meta incluir una excepción en su política de explotación sexual, maltrato y desnudos de menores para permitir la permanencia de contenido que representa maltrato infantil teniendo en cuenta dos criterios. En primer lugar, solo debe aplicarse cuando el niño no puede identificarse de forma directa por su nombre o imagen, ni de forma funcional. En segundo lugar, Meta debería aplicar esta excepción cuando el contenido se publica con fines de brindar información periodística, condenar o generar conciencia.

Los usuarios deben manifestar su intención con claridad, y Meta podría eliminar el contenido si este fuera ambiguo o poco claro. Esto limitaría aún más el riesgo de daño para los niños. En otras normas comunitarias, también se exige a los usuarios indicar con claridad su intención al crear o compartir contenido que de otra forma estuviera prohibido, con los fines de condenar, brindar información o generar conciencia (por ejemplo, en virtud de las políticas de personas y organizaciones peligrosas, desnudos y actividad sexual de adultos, bullying y acoso, y conducta que incita al odio).

El Consejo destacó que la política de explotación sexual, maltrato y desnudos de menores de Meta actualmente incluye una excepción para las imágenes de maltrato infantil cuando lo cometen oficiales de policía o personal militar. Esa parte de la política no incluye ningún requisito respecto de limitar la posibilidad de identificación. El Consejo indicó que el maltrato infantil perpetrado por docentes involucra inquietudes similares relacionadas con la rendición de cuentas. No obstante, cree que las limitaciones sobre la posibilidad de identificación son necesarias para respetar la privacidad y la seguridad de los niños, en línea con su interés superior.

Meta no debería aplicar ninguna falta contra los usuarios que comparten imágenes de maltrato infantil con la intención de generar conciencia, condenarlo o brindar información periodística, aun cuando el menor se pueda identificar. La razón de esto es garantizar de mejor modo la proporcionalidad de sus medidas de aplicación de políticas que restringen la libertad de expresión. El Consejo entiende que la excepción a las políticas que recomendó, en particular, la necesidad de considerar la probabilidad de una identificación funcional, se aplicará en la etapa de escalamiento. Si bien seguiría siendo necesario eliminar el contenido con niños que pueden identificarse, Meta no debería aplicar ninguna penalidad a las cuentas de los usuarios cuando hubiera indicios claros de la intención de informar, generar conciencia o condenar.

El Consejo reconoció las perspectivas de los expertos y los comentarios del público de que aplicar zonas borrosas u ocultar los rostros puede ayudar a reducir los daños, pero no los suprime por completo. Las limitaciones técnicas, como aplicar zonas borrosas de distinta intensidad y la presencia de indicios contextuales (por ejemplo, uniformes escolares, lugares reconocibles, referencias a la edad u otros identificadores), podrían seguir permitiendo la identificación, lo que supone riesgos tanto para los niños como para sus familias. En las normas sobre derechos humanos, también se exige el anonimato de las víctimas infantiles (UNCRC, observación general n.º 25, párrafo 57).

Colocar zonas borrosas u ocultar el rostro del niño sigue siendo una medida útil de disminución de daño que reduce la probabilidad de identificación. En la decisión del caso Documental periodístico sobre abuso infantil en Pakistán, el Consejo alentó a Meta a reducir la carga del usuario y disminuir los riesgos para los niños proporcionándoles a los usuarios instrucciones más específicas y herramientas en los productos, como una función para desenfocar los rostros en los videos. A pesar de que técnicamente es viable, Meta actualmente no ofrece tales herramientas (consulta el caso Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán) y mencionó que el desarrollo requeriría recursos y consideraciones de factores legales y operativos. Dada la importancia de evitar la identificación de los niños, el Consejo vuelve a animar a Meta a desarrollar herramientas que les permitan a los usuarios colocar zonas borrosas de forma más efectiva en el contenido que quieran publicar, en especial, si estas zonas evitaran una infracción de las políticas (consulta la opinión de asesoramiento normativo acerca del uso compartido de información residencial privada, recomendación n.º 13).

Al contenido permitido en virtud de la excepción relativa a los oficiales de policía o el personal militar se le coloca una pantalla de advertencia que indica que se trata de contenido perturbador, y el acceso a este se restringe a personas mayores de 18 años. Estas medidas exigen que los usuarios hagan clic para ver el contenido y evitan que se recomiende a quienes no son seguidores, como se observó en decisiones previas (consulta los casos Hospital Al-Shifa, Rehenes secuestrados de Israel y Asesinato de un candidato a alcalde en México).

Las mismas medidas deberían tomarse para el contenido de esta nueva excepción. En línea con el fin legítimo de proteger la privacidad y la dignidad de los niños representados, las pantallas de advertencia y las restricciones de edad son más proporcionadas que la eliminación cuando no se puede identificar al niño. Si bien la mayoría concluyó que la eliminación no es proporcionada en estos casos dado que las zonas borrosas hacen que la identificación de los niños en particular sea poco probable, está de acuerdo con la minoría de que sigue habiendo algunos riesgos. Incluso si se colocaran zonas borrosas en el rostro de un niño o se tomaran medidas para ocultarlo, podría haber riesgos potenciales para su privacidad o dignidad. Dado que este riesgo es mínimo, se justifica una restricción menos intrusiva sobre la libertad de la expresión. UNICEF destacó la importancia de limitar la exposición no deseada a tal contenido, así como que los niños representados podrían sufrir bullying y estigmas (PC-31244). Las pantallas de advertencia y las restricciones de edad ayudan a abordar estas inquietudes al limitar la exposición y el acceso, en particular, entre los compañeros de un niño.

6. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó la decisión de Meta en el caso francés de conservar el contenido en la plataforma otorgando una concesión de interés periodístico y colocando una pantalla de advertencia para indicar que se trata de contenido perturbador. El Consejo anuló la decisión de Meta en el caso indio y exigió que se restaurara el contenido en la plataforma otorgando una concesión de interés periodístico y colocando la misma pantalla de advertencia.

7. Recomendaciones

A. Política de contenido

1. Para permitir que los usuarios puedan condenar el maltrato infantil e informar y concientizar sobre este, Meta debería incluir una excepción en su norma comunitaria pública sobre explotación sexual, maltrato y desnudos de menores para permitir la permanencia de imágenes y videos de maltrato infantil perpetrado por adultos, cuando se compartan con dicha intención. Se debe permitir que el contenido permanezca con una pantalla de advertencia que indique que se trata de contenido perturbador y con la visibilidad restringida a usuarios mayores de 18 años. En estos casos, los menores no deben poder identificarse directamente (por su nombre o por la imagen) ni tampoco de manera funcional (cuando haya pistas contextuales que probablemente permitan la identificación de la persona). Esta excepción deberá aplicarse solo en etapa de escalamiento.

El Consejo considerará implementada esta recomendación cuando Meta haya actualizado la norma comunitaria pública sobre explotación sexual, maltrato y desnudos de menores, según lo indicado anteriormente.

B. Aplicación de políticas

2. Para garantizar que la aplicación de políticas sea proporcionada y coherente, Meta no debería aplicar faltas a las cuentas de las que se elimine contenido de maltrato infantil en la etapa de escalamiento cuando haya indicios evidentes de la intención del usuario de condenar el contenido o informar o concientizar acerca de este.

El Consejo considerará que se implementó esta recomendación cuando Meta haya compartido sus normas de implementación interna en donde se hayan incorporado estas pautas para la revisión de contenido en la etapa de escalamiento.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5, y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4, y artículo 4). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología.

Volver a Decisiones de casos y opiniones consultivas sobre políticas