El Consejo asesor de contenido inicia el período de recepción de comentarios del público para la opinión consultiva sobre políticas relacionada con la verificación cruzada
2 de diciembre de 2021
En octubre, el Consejo aceptó una solicitud de Meta, en forma de opinión consultiva sobre políticas, para revisar el sistema de verificación cruzada de la empresa y hacer recomendaciones sobre cómo puede cambiarse. Poco después, Meta dio más detalles sobre esta solicitud, y hoy el Consejo inició el período de recepción de comentarios del público para esta opinión consultiva sobre políticas.
Además de revisar casos individuales sobre eliminación o restauración de contenido, el Consejo puede aceptar solicitudes de opiniones consultivas sobre políticas de Meta. Después de recibir aportaciones de asesores externos, el Consejo ofrece recomendaciones detalladas sobre los cambios que Meta debería hacer en sus políticas en relación con un tema determinado.
Meta debe hacer pasar las recomendaciones del Consejo por el proceso oficial de desarrollo de políticas y comunicar actualizaciones periódicas al respecto, incluso a través de su sala de prensa. Aunque la opinión consultiva sobre políticas del Consejo no es vinculante, Meta debe dar una respuesta pública y adoptar medidas de seguimiento después de la recepción de nuestras recomendaciones.
Opinión consultiva sobre políticas 2021-02
Enviar comentario del público aquí.
* En este resumen, "Facebook" hace referencia a la plataforma de medios sociales, mientras que "Meta" hace referencia a la empresa que es propietaria de Facebook y lo administra.
Esta solicitud de opinión consultiva sobre políticas atañe ala política sobre verificación cruzada de Meta, un sistema que, según la empresa, "garantiza que las decisiones en torno al cumplimiento de las Normas comunitarias [de Facebook] se tomen con precisión y con niveles adicionales de revisión manual".
Meta le indicó al Consejo que el sistema de verificación cruzada desempeña un papel importante en la protección de la "expresión" y los derechos humanos. La empresa agregó que el sistema también tiene un papel relevante en la administración de las relaciones con los socios comerciales. "La eliminación incorrecta de contenido publicado por páginas o perfiles con una gran cantidad de seguidores, por ejemplo, puede ocasionar experiencias negativas tanto para los socios comerciales de Facebook como para el número significativo de usuarios que los siguen".
Meta explicó que "los principales sistemas de revisión de Facebook usan tecnología que prioriza el contenido de mucha gravedad, como el contenido 'viral' que se difunde rápidamente". Cuando el sistema marca dicho contenido para su escalamiento, los revisores de Facebook deciden si el contenido debe permanecer en la plataforma. Meta también explicó que, si bien "procura tomar las decisiones correctas, reconoce que ocurren algunos falsos positivos [eliminación errónea de contenido no infractor]". La verificación cruzada es uno de los sistemas que Meta usa para evitar errores por falsos positivos en Facebook, pero no es el único.
Meta afirmó que, históricamente, la empresa recopilaba listas de usuarios o entidades con mayor riesgo asociado a que se tomaran medidas por falsos positivos contra ellos para determinar quiénes debían someterse a revisiones de verificación cruzada. "'Riesgo asociado a falsos positivos' hace referencia a la posibilidad de la aplicación incorrecta de políticas contra contenido o entidades que, en realidad, no infringen" las Normas comunitarias de Facebook. Meta aplicaba diferentes criterios, como el tipo de usuario o entidad (p. ej., funcionario electo, periodista, socio comercial significativo, organización de derechos humanos), la cantidad de seguidores y el tema principal de la entidad. Si usuarios o entidades que se encontraban en esas listas publicaban contenido o realizaban acciones que los sistemas de Facebook marcaban, se los agregaba a una lista de revisión de verificación cruzada.
A principios de 2020, Meta "implementó algunos cambios, y la mayoría del contenido de la lista comenzó a priorizarse mediante un marco de riesgo, que asignaba un nivel de riesgo por falsos positivos que pudiera ocurrir si Facebook eliminaba de forma incorrecta ese contenido. Por lo general, el marco de riesgo se basaba en tres factores: (1) sensibilidad de la entidad, (2) gravedad de la supuesta infracción y (3) gravedad de la posible medida de aplicación de políticas. En función de esos factores, el contenido se asignaba a una de las tres clasificaciones de prioridad de revisión: baja (revisión a cargo de revisores contratados), media (revisión a cargo de nuestro equipo del mercado que contaba con pericia regional especializada) y alta (revisión a cargo de nuestro equipo del mercado y del equipo de respuesta rápida que contaban con mayor pericia en políticas y la posibilidad de tener en cuenta contexto adicional). En el marco de dichas clasificaciones, el contenido de la lista se priorizaba según la gravedad de la posible infracción contra las políticas".
Luego, los revisores examinaban el contenido, constataban si infringía las políticas y, de ser así, aplicaban dichas políticas. Según la complejidad del caso, esta revisión podía escalarse hasta llegar al equipo de liderazgo de la empresa.
Meta incorporó otros cambios a su sistema de verificación cruzada en 2021, luego de realizar un análisis integral del sistema e identificar posibles mejoras. Meta implementó algunos cambios, entre ellos, la fragmentación de la verificación cruzada en dos componentes: "revisión secundaria general" y "revisión secundaria de respuesta rápida".
La revisión secundaria de respuesta rápida es el sistema de verificación cruzada tradicional, que se describió antes, y allí se mantendrá el uso de listas de entidades (como usuarios, páginas, grupos, etc.). Sin embargo, Meta cambió el proceso de recopilación y revisión de las listas de verificación cruzada. "Antes de septiembre de 2020, la mayoría de los empleados podían agregar a usuarios o entidades a la lista de verificación cruzada. Después de septiembre de 2020, si bien cualquier empleado puede solicitar la incorporación de un usuario o una entidad a las listas de verificación cruzada, solo un grupo designado de empleados tiene la facultad de llevar a cabo dicha incorporación". Hasta el 16 de octubre de 2021, en las listas correspondientes a la revisión secundaria de respuesta rápida había más de 660.000 entidades. Meta explicó que las listas no son estáticas y que cambian cuando se incorporan y eliminan entidades.
La revisión secundaria general representa la mayoría de los casos de verificación cruzada y seguirá creciendo. Para fines de 2021, Meta espera haber puesto el sistema a disposición de todos los usuarios y entidades de Facebook e Instagram. La revisión secundaria general funcionará mediante un sistema de priorización dinámico llamado "clasificador de verificación cruzada". El "clasificador de verificación cruzada jerarquiza el contenido según el riesgo asociado a falsos positivos mediante ciertos criterios, como la sensibilidad del tema (grado de tendencia o sensibilidad del tema), la gravedad de la aplicación de políticas (gravedad de la posible medida de aplicación de políticas), la probabilidad de falsos positivos, el alcance previsto y la sensibilidad de la entidad (según, en gran medida, las listas recopiladas que se describieron antes)". La revisión secundaria general representa la mayoría de los casos de verificación cruzada de contenido y entidades.
Al desarrollar el clasificador de verificación cruzada, Meta entrevistó a 14 asesores internos pertenecientes a los equipos de operaciones, políticas y productos para comprender mejor los riesgos de aplicar las políticas de modo desproporcionado. La empresa "optó por consultar a asesores internos debido a la complejidad de explicar cómo funciona la aplicación de políticas, pero considera la participación de asesores externos en el futuro".
Meta admite que, a pesar de invertir muchos recursos para mejorar el proceso de verificación cruzada, aún tiene dificultades para encontrar un equilibrio entre eliminar el contenido que infringe las políticas de Facebook "y, a la vez, garantizar la promoción de una comunicación abierta y la libertad de expresión". La empresa le realizó tres preguntas al Consejo, que este último incluyó en su solicitud de comentarios del público.
Preguntas que Meta planteó al Consejo:
- Dada la complejidad que supone la moderación de contenido a escala, ¿cómo debería Meta lograr un equilibrio entre la necesidad de aplicar las Normas comunitarias de Facebook de forma justa y objetiva, y la necesidad de permitir flexibilidad, matices y decisiones basadas en el contexto en el proceso de la verificación cruzada?
- ¿Qué mejoras debería implementar Meta en el modo en que rige la revisión secundaria de respuesta rápida perteneciente al sistema de verificación cruzada para hacer cumplir las Normas comunitarias de Facebook de forma justa y, a la vez, minimizar la posibilidad de una aplicación de políticas desproporcionada, conservar la flexibilidad de las empresas y promover la transparencia en el proceso de revisión?
- ¿Qué criterios debería usar Meta para determinar a quién incluir en la revisión secundaria de respuesta rápida y a quién debería priorizar el clasificador de verificación cruzada de la empresa conforme a uno de los muchos factores para garantizar la igualdad de acceso a este sistema y su implementación?
El consejo solicita comentarios del público en torno a los siguientes temas:
- Si se necesita un sistema de verificación cruzada, y si este incrementa o socava la protección de la libertad de expresión y otros derechos humanos.
- La verificación cruzada se diseñó como un mecanismo de prevención contra los "falsos positivos". ¿Qué controles y contrapesos debería contemplar este sistema para mitigar el riesgo asociado a "falsos positivos" (ausencia errónea de medidas ante contenido infractor)?
- Recomendaciones sobre lo que Meta debería hacer para garantizar que el sistema de verificación cruzada, incluido el proceso de escalamiento, sea neutral y no tenga sesgos políticos ni de otro tipo.
- ¿Qué factores debería incorporar Meta en el sistema del "clasificador de verificación cruzada" además de sensibilidad del tema, gravedad de la aplicación de políticas, probabilidad de falsos positivos, alcance previsto, y naturaleza e importancia de la entidad? ¿Cómo deberían definirse estos factores?
- Ventajas y limitaciones de las tecnologías automatizadas que se usan para priorizar la revisión del contenido de mucha gravedad.
- Información sobre cómo el sistema de verificación cruzada debe y puede mejorarse para los usuarios y entidades que no publican en inglés.
- Información sobre sistemas similares a la verificación cruzada que usan otras plataformas de medios sociales, así como conclusiones obtenidas que puedan ser válidas para Meta.
- Cómo Meta puede aumentar la transparencia del sistema de verificación cruzada.
- ¿Qué otras investigaciones y recursos Meta debería designar para la mejora del sistema de verificación cruzada?
Comentarios del público
Una parte importante del proceso del Consejo para el desarrollo de una opinión consultiva sobre políticas consiste en recopilar otras opiniones y conocimientos de personas y organizaciones. Estas aportaciones les permiten a los miembros del Consejo obtener más conocimientos y comprender cómo las políticas de Meta afectan a diferentes personas en distintas partes del mundo.
Si crees que tú o tu organización pueden hacer aportaciones valiosas para esta solicitud de opinión consultiva sobre políticas, puedes enviarlas aquí.
El período para recibir comentarios del público para la solicitud de opinión consultiva sobre políticas relacionada con la verificación cruzada estará vigente hasta las 15:00 GMT del viernes, 14 de enero de 2022.
Este plazo es más largo que el período que se establece para la recepción de comentarios del público de nuevos casos, ya que el proceso de opinión consultiva sobre políticas no tiene las mismas limitaciones de tiempo que las decisiones sobre casos. Además, los comentarios del público pueden tener una extensión máxima de seis páginas y deben presentarse en alguno de los idiomas disponibles en el sitio web del Consejo. Así, se permite una participación más amplia sobre los temas en cuestión. La lista completa de idiomas está disponible en el enlace anterior.
¿Cómo responde el Consejo a una solicitud de opinión consultiva sobre políticas?
1.El Consejo acepta la solicitud de Meta de una opinión consultiva sobre políticas
Cuando Meta envía una solicitud de opinión consultiva sobre políticas al Consejo, esta se asigna a uno de los cuatro copresidentes. El copresidente correspondiente redacta un memorando para todos los miembros del Consejo, en el que resume las principales cuestiones planteadas. Con base en esto, los miembros del Consejo votan para aceptar o rechazar la solicitud de Meta.
2.El comité desarrolla opciones de políticas
Si el Consejo acepta la solicitud, el copresidente asigna un comité de, al menos, cinco miembros del Consejo. Se invita a los miembros del Consejo a ofrecerse como voluntarios en función de su experiencia e interés. Las vacantes restantes se asignan aleatoriamente a los miembros del Consejo que no son copresidentes, lo que garantiza también la diversidad de género.
Se designa un redactor principal, y el comité acuerda la información adicional que solicitará a Meta, así como la investigación de la Administración del Consejo asesor de contenido. Además, planifica la participación de los asesores. Una vez que el comité recibe de Meta, de la Administración y de los asesores externos las respuestas a sus preguntas, redacta las opciones de políticas para que las considere el Consejo en pleno.
3. El Consejo delibera y hace recomendaciones
Todos los miembros del Consejo asisten a las deliberaciones para debatir estas opciones de políticas. Con base en las deliberaciones, el redactor principal prepara la opinión consultiva sobre políticas que incluye recomendaciones detalladas para Meta. Los miembros del Consejo hacen comentarios al respecto y proponen modificaciones.
4.Se aprueba y publica la opinión consultiva sobre políticas
La opinión consultiva sobre políticas se envía a todos los miembros del Consejo para que esta se apruebe o rechace (por mayoría). Si se aprueba, la opinión consultiva sobre políticas se publica en el sitio web del Consejo, y Meta debe responder a esta. Si se rechaza, los copresidentes debaten los motivos y determinan cómo proceder.
Próximos pasos
El Consejo aceptó esta solicitud de opinión consultiva sobre políticas y está recopilando la información necesaria mediante, entre otras acciones, la solicitud de comentarios del público que emitió hoy.
En junio, aceptamos otra solicitud de opinión consultiva sobre políticas relacionada con compartir información residencial privada. Publicaremos dicha opinión a principios del año próximo.
