Evaluación de los planes de Meta de expandir las notas de la comunidad

Resumen ejecutivo

El Consejo asesor de contenido determinó que las notas de la comunidad podrían reforzar la libertad de expresión de los usuarios y mejorar el discurso online en las plataformas de Meta si se implementaran con un alcance, una velocidad y medidas de protección contra manipulaciones suficientes. Sin embargo, en determinadas circunstancias, incluido en regímenes represores donde se vulneran los derechos humanos, en particular en contextos electorales y situaciones de crisis y conflicto en curso, extender las notas de la comunidad a otros países, además de los Estados Unidos, también podría suponer importantes riesgos para los derechos humanos y contribuir a daños tangibles que Meta tiene la responsabilidad de evitar o remediar.

Al Consejo también le preocupan las redes coordinadas de información errónea que podrían usar las notas de forma indebida, así como el riesgo de que dichas notas puedan, en ciertos contextos, privilegiar a grupos políticos, étnicos o lingüísticos dominantes, y marginar a grupos minoritarios.

La probabilidad y gravedad de estos posibles riesgos para los derechos humanos y su adecuada mitigación dependen en gran medida del diseño y la funcionalidad de las notas de la comunidad en cada contexto. La efectividad e idoneidad de las medidas de mitigación de Meta respecto de algunos de estos riesgos, por ejemplo, garantizar el anonimato de los colaboradores y brindar protección contra aquellos que intentan burlar el sistema, se deberán verificar mediante un proceso permanente de recopilación de datos y elaboración de informes sobre cómo funcionan las notas de la comunidad en la práctica.

Asimismo, en tanto que Meta conciba las notas de la comunidad como principal vía para abordar los casos de información errónea que no alcanzan el umbral de eliminación (es decir, cuando es nula la probabilidad de que contribuyan al riesgo de daño físico inminente o interfieran con el funcionamiento de procesos políticos), el Consejo considera que el diseño del programa podría limitar su capacidad para cumplir ese objetivo. Dadas las demoras en la publicación de las notas, la cantidad limitada de notas publicadas y su dependencia de la confiabilidad del entorno informativo más amplio, se plantean serias dudas sobre la medida en que las notas de la comunidad pueden abordar de forma significativa la información errónea vinculada a daños.

El Consejo recomienda criterios que Meta debe usar para evaluar cuándo estos riesgos para los derechos humanos podrían justificar no implementar las notas de la comunidad en un mercado particular. Las recomendaciones del Consejo son necesariamente condicionales porque las preguntas de Meta no se pueden abordar de forma decisiva sin suficientes pruebas y datos detallados sobre cómo funciona el algoritmo de las notas de la comunidad en situaciones del mundo real y en relación con otras herramientas de información errónea. Por ese motivo, el Consejo recomienda también recopilar datos de forma permanente, realizar evaluaciones y elaborar informes respecto de la funcionalidad de las notas de la comunidad en relación con esos criterios.

Información de referencia

El 19 de noviembre de 2025, el Consejo anunció que había aceptado una solicitud de orientación por parte de Meta respecto de los factores específicos que la empresa debería considerar al decidir si un país queda fuera de la prevista expansión de las notas de la comunidad fuera de los Estados Unidos, ya que el contexto local puede afectar a las operaciones del programa. Asimismo, Meta le preguntó al Consejo cómo ponderar dichos factores en relación con los demás, de un modo que permita aplicarlos a gran escala.

En su solicitud, Meta señaló que el programa de notas de la comunidad se encuentra en la "fase inicial de desarrollo" y la empresa posee "datos limitados de la implementación beta en los Estados Unidos". Meta describió esta implementación como un período de "pruebas y perfeccionamiento" que podría conducir a una evolución del formato de las notas de la comunidad. Dadas estas consideraciones, el interés principal de la empresa reside en establecer los "principios rectores fundamentales" para su implementación en todo el mundo. Cabe destacar que el Consejo no evaluó la efectividad general de las notas de la comunidad en los Estados Unidos.

El Consejo consultó con una amplia gama de partes interesadas, incluidos técnicos expertos en algoritmos de despolarización, organizaciones de la sociedad civil, periodistas y verificadores de datos, para obtener observaciones y datos sobre sistemas de moderación de notas de la comunidad de diferentes estilos (incluidas las de X) en diversos contextos.

El 7 de enero de 2025, Meta anunció la introducción de su programa de notas de la comunidad y el final de su programa de verificación de datos independiente en los Estados Unidos. La empresa indicó que perfeccionaría las notas de la comunidad antes de ponerlas a disposición de los usuarios fuera de los Estados Unidos.

Conclusiones y recomendaciones principales

Tras considerar ampliamente el posible impacto en los derechos humanos, el Consejo desarrolló los siguientes factores a nivel de cada país para guiar la implementación de las notas de la comunidad de Meta:

Medidas de protección en contextos en los que se reprimen los derechos humanos

Las notas de la comunidad dependen de una base de colaboradores activa y participativa. Dichos programas tienen el mayor éxito en una sociedad civil sólida. Idealmente, los colaboradores recurren a medios independientes para respaldar las notas propuestas y participar sin temor a sufrir acoso o represalias.

El Consejo subrayó que, hasta tanto Meta pueda demostrar que aplica medidas sólidas y efectivas para proteger la privacidad de los colaboradores, con evidencia de red-teaming en condiciones adversas, una política clara respecto de cómo se gestionan las solicitudes de datos de las notas de la comunidad que presentan los organismos de las fuerzas del orden y medidas de mitigación de riesgos, los países con antecedentes de represión de los derechos humanos y sociedades civiles débiles deberían quedar fuera de la implementación inicial.

Ejercer precaución durante las elecciones

Las notas de la comunidad pueden respaldar el acceso a la información y a la libertad de expresión durante elecciones en entornos informativos sólidos con medios de comunicación libres y sociedades civiles desinhibidas. Si estas condiciones no se cumplen, el programa corre el riesgo de publicar notas engañosas, y Meta debe ejercer precaución. Si la integridad de las instituciones políticas corre enormes riesgos y Meta determina, mediante pruebas del producto, evaluaciones de riesgos y debida diligencia sobre los derechos humanos, que sus medidas de protección no bastan para mitigarlos, no se deberían implementar las notas de la comunidad antes o en el transcurso de elecciones importantes.

Excluir países con antecedentes de redes coordinadas de información errónea

Las notas de la comunidad operan bajo la presunción de que un conjunto suficientemente diverso e independiente de colaboradores evaluarán el contenido de buena fe y de que las señales de consenso pueden aproximarse a la precisión de manera confiable. Sin embargo, esta presunción tal vez no tenga sustento en sitios donde agentes malintencionados demostraron en reiteradas ocasiones que son capaces de coordinar enormes cantidades de cuentas para promocionar información engañosa. En su lugar, las notas de la comunidad corren el riesgo de transformarse en vectores de manipulación, no en una medida de protección contra ella. El riesgo se acentúa más a medida que la inteligencia artificial facilita la creación y operación a gran escala de estas redes.

Hasta tanto los datos sobre la funcionalidad de las notas de la comunidad puedan verificar la adecuación de las medidas de mitigación de Meta contra dicha actividad coordinada, el Consejo recomienda que Meta excluya por el momento a países con un patrón histórico de redes de información errónea intencionales a gran escala. Meta también debe considerar en este sentido si los agentes demostraron la intención de manipular ecosistemas de información y poseen la sofisticación técnica para hacerlo a gran escala.

No introducir en condiciones de crisis o conflictos prolongados

La potencial vulnerabilidad de las notas de la comunidad a la manipulación coordinada por parte de grupos armados, agentes estatales o sus seguidores con la intención de legitimar la propaganda mediante tácticas para eludir el sistema de calificación de notas supone riesgos elevados en situaciones de crisis o conflicto permanente. Las condiciones que imposibilitan la contribución de los grupos, como un acceso a internet inestable o inseguridad que disuade la participación, pueden exacerbar la asimetría en la información. En dichas circunstancias, es fundamental actuar de forma oportuna. Las demoras en la publicación de las notas sugieren que las notas de la comunidad pueden constituir una medida de protección primaria inadecuada en crisis y conflictos, en particular porque los umbrales de incitación a la violencia pueden ser más bajos. Las notas contra grupos específicos pueden generar daños en la vida real más fácilmente.

Debido a la incertidumbre respecto del rendimiento de las notas de la comunidad en situaciones de conflicto y su potencial para elevar el riesgo de daños, el Consejo cree que no deberían introducirse en países que atraviesan crisis o conflictos prolongados.

Retrasar la introducción de las notas de la comunidad si hay complejidades lingüísticas a las que Meta no puede adaptarse desde el punto de vista técnico y operativo

Las notas de la comunidad requieren la representación suficiente de grupos de idiomas de un contexto. Si Meta no puede lograrlo, debe retrasar la introducción de las notas de la comunidad. De otro modo, se podrían crear o exacerbar disparidades en cuanto al idioma en las notas propuestas y publicadas, lo que socavaría el programa como fuente pluralista y diversa de información.

Asimismo, hay posibles variaciones lingüísticas y culturales en el uso y la interpretación de las notas de la comunidad, algunas de ellas imprevistas, que pueden influir a la hora de decidir qué notas se publican. Por ejemplo, el significado de calificar contenido como "útil" puede diferir en distintos lugares y cuando se traduce el término. No se deberían introducir aún las notas de la comunidad en países en los que Meta anticipa que sus funciones no se pueden adaptar a las complejidades lingüísticas.

Ejercer extrema precaución donde no es posible definir de forma simple la división social y el desacuerdo que conduce a violencia política

El diseño del algoritmo de las notas de la comunidad de X asume, de manera implícita, que el desacuerdo y la división en un contexto particular se pueden representar de forma sencilla y pueden proporcionar así una única medición de la polarización. Meta no brindó información que sugiera que su programa será diferente. No obstante, si la división y el desacuerdo no se pueden representar con facilidad a lo largo de un único eje, el conflicto puede interpretarse de un modo excesivamente simplista y se puede pasar por alto la convergencia de varios factores (en los ámbitos de política, etnia, religión, idioma y casta, por ejemplo). En la práctica, esto supone riesgos de marginar las opiniones de las minorías, ya que se podrían publicar notas engañosas o dañinas si la mayoría llega a un consenso. Si el algoritmo no identifica de forma precisa e intenta "despolarizar" (recompensar contenido que recibe comentarios positivos de públicos que suelen estar en desacuerdo) una división que genera conflicto y violencia, este riesgo de daño se agudiza particularmente. Por ende, el Consejo recomienda que Meta ejerza extrema precaución al considerar países que se caracterizan por estas dinámicas.

Si hay riesgos elevados de discrepancias entre las suposiciones de diseño de las notas de la comunidad sobre una sociedad y los factores que realmente impulsan una división social y política en ella, dichos países deben quedar categóricamente fuera de la implementación de las notas de la comunidad. En su lugar, la implementación debe realizarse en secuencia para que se puedan llevar a cabo pruebas de rendimiento en diferentes contextos y debe iniciarse con cautela en entornos políticos, lingüísticos e informativos similares a aquellos en los que Meta ya posee dichas medidas piloto, de mitigación de riesgos y relativas a los datos.

Excluir países que enfrentan constantes obstáculos en relación con el acceso a internet

El Consejo recomienda excluir países que enfrentan obstáculos constantes o sistemáticos con respecto al acceso a internet, ya que las notas de la comunidad dependen de la participación general, permanente y equitativa de los colaboradores para funcionar según lo previsto. Contar con un grupo acotado de colaboradores, a causa de brechas de infraestructura, costos altos, disparidades regionales y, en especial, interrupciones impuestas por el Gobierno, socava la premisa fundamental de la representatividad de las notas de la comunidad.

Ponderación

El Consejo recomienda que los factores que podrían conducir a que las notas de la comunidad generen o eleven el riesgo de daño se ponderen más que los factores relacionados con la inadecuación del programa como medida de mitigación de daños. Esto incluye umbrales que no permitan a Meta introducir notas de la comunidad hasta que demuestre que puede hacerlo y mitigar estos daños al mismo tiempo.

Meta debe brindarle al Consejo los criterios o la matriz de riesgo que desarrolle para guiar la expansión cada seis meses durante la fase inicial, con evidencia que demuestre cómo se aplican en decisiones sobre la expansión del programa a nivel de cada país.

Datos e informes

Los posibles riesgos para los derechos humanos que suponen las notas de la comunidad, así como la idoneidad de sus estrategias de mitigación dependen del diseño y la funcionalidad del producto en contexto. Meta le explicó al Consejo que tiene previsto probar el programa antes de lanzarlo en un mercado. El Consejo recomienda que estas pruebas se centren en detectar y mitigar riesgos relacionados con el anonimato de los colaboradores, las campañas coordinadas de información errónea y las tácticas para burlar al sistema, la representación de idiomas y la participación de los colaboradores. El Consejo insta a ejercer total transparencia, elaborar informes y brindar acceso a los investigadores a los datos sobre el rendimiento de las notas de la comunidad de Meta.

Opinión de asesoramiento normativo completa

1. Solicitud de Meta

El 7 de enero de 2025, Meta anunció la introducción de su programa de notas de la comunidad y el final de su sistema de verificación de datos independiente en los Estados Unidos. En ese momento, Meta indicó que perfeccionaría las notas de la comunidad antes de ponerlas a disposición de los usuarios fuera de los Estados Unidos. Meta describe las notas de la comunidad como un programa que permite a los usuarios agregar etiquetas con contexto adicional al contenido si creen que sería útil contar con más información. Las participantes del programa de notas de la comunidad, que se denominan "colaboradores", califican las notas propuestas como "útiles" o "no útiles", y seleccionan un motivo de una lista de opciones para justificar su respuesta. Un algoritmo calcula una puntuación que refleja si una cantidad suficiente de colaboradores que suelen no estar de acuerdo entre sí (según por calificaciones anteriores) calificaron una nota como útil. Si esta puntuación alcanza un determinado umbral y la nota no infringe las Normas comunitarias, la nota se publicará. Este sistema contrasta con el programa de verificación de datos independiente, que recurre a organizaciones para que revisen, investiguen y determinen la veracidad del contenido para concluir si se lo debe etiquetar como información falsa o engañosa.

Meta solicitó al Consejo asesoramiento respecto de los factores específicos que debería considerar al decidir si se excluye a un país de la prevista expansión de las notas de la comunidad fuera de los Estados Unidos, ya que el contexto local puede afectar a las operaciones del programa. Asimismo, Meta le preguntó al Consejo cómo ponderar dichos factores en relación con los demás, de un modo que permita aplicarlos a gran escala.

En su solicitud, Meta señaló que el programa de notas de la comunidad se encuentra en la "fase inicial de desarrollo" y la empresa posee "datos limitados de la implementación beta en los Estados Unidos". Meta describió esta implementación como un período de "pruebas y perfeccionamiento" que podría conducir a una evolución del formato de las notas de la comunidad. Dadas estas consideraciones, el interés principal de la empresa reside en establecer los "principios rectores fundamentales" para su implementación en todo el mundo. El Consejo, en consonancia, no realizó una evaluación general de la efectividad de las notas de la comunidad porque el programa opera en los Estados Unidos.

El Consejo identificó un conjunto de riesgos para los derechos humanos que más le preocupa mitigar antes de la implementación de las notas de la comunidad en todo el mundo. Para ello, el Consejo consultó con una amplia gama de partes interesadas, incluidos investigadores, técnicos expertos, organizaciones de la sociedad civil, periodistas y verificadores de datos, para obtener observaciones y datos sobre la operación de diferentes sistemas de moderación del estilo de las notas de la comunidad (incluidas las de X) en diversos contextos. La evaluación del Consejo se centra en el rendimiento anticipado del sistema de notas de la comunidad de Meta si se aplica en otros mercados más allá de los Estados Unidos teniendo en cuenta esa información.

La respuesta a la pregunta sobre qué harán las notas de la comunidad y el algoritmo subyacente en un contexto determinado depende en gran medida de datos empíricos. Meta indicó que el sistema se someterá a una prueba piloto fuera de los Estados Unidos, y los datos de rendimiento se compararán con los objetivos que Meta tiene para el programa. Meta señaló que tiene previsto publicar datos que se pueden descargar sobre las notas de la comunidad, con categorías de datos comparables a las que X comparte para su programa de notas de la comunidad. Esto incluiría el texto completo de las notas y sus regiones geográficas asociadas, calificaciones de cada nota, historial de estado, registro de los usuarios y las solicitudes de notas sobre el contenido. Sin embargo, ese nivel de datos aún no está disponible para que el Consejo lo use. En su lugar, se le ofreció al Consejo de modo confidencial un conjunto de métricas detalladas. Meta proporcionó al Consejo ciertos datos sobre las notas de la comunidad, incluidos, entre otros, la cantidad de colaboradores inscritos, la cantidad de notas escritas y publicadas, y el tiempo promedio que se tarda en llegar a un consenso en los Estados Unidos. Por ende, esta opinión no puede ofrecer un análisis empírico del éxito, el fracaso o el impacto del programa de notas de la comunidad de Meta. Sin embargo, sí incorpora estadísticas obtenidas de investigaciones realizadas sobre programas colectivos similares para determinar en qué áreas hay probabilidades de riesgo en los diferentes contextos, lo que se relaciona directamente con las preguntas que planteó Meta al Consejo.

Cabe destacar que Meta no le pidió al Consejo que evaluara la efectividad de su programa de verificación de datos independiente, así como tampoco los méritos relativos de las notas de la comunidad y la verificación de datos independiente. Esta opinión, por lo tanto, no incluye recomendaciones independientes sobre si debería cancelarse o mantenerse la verificación de datos independiente. No obstante, dado que las notas de la comunidad se incluyeron en el enfoque de Meta respecto de la información errónea, la opinión sí considera la ausencia o la presencia de la verificación de datos independiente como un factor relevante respecto de cómo Meta gestiona el contenido engañoso en un contexto determinado. El Consejo le preguntó a Meta si esta lista de países en los que Meta tiene acuerdos para brindar verificación de datos independiente seguirá teniendo validez durante la implementación de las notas de la comunidad más allá de los Estados Unidos y después de ella. En respuesta, Meta afirmó que está "sujeta a cambios periódicos". Informes recientes de los medios de comunicación determinaron que, si bien Meta no realizó una declaración pública sobre el futuro de la verificación de datos independiente fuera de los Estados Unidos, se renovaron contratos con agencias de verificación de datos en 2026, aunque con un menor nivel de financiación.

Las preguntas planteadas en la solicitud de Meta indican que Meta considera de forma activa ampliar las notas de la comunidad a países fuera de los Estados Unidos. La opinión del Consejo no respalda ni rechaza este enfoque. En lugar de ello, en su análisis, evalúa qué implicaciones habría si Meta pusiera las notas de la comunidad a disposición de otros países y aborda qué consideraciones deberían impedir o condicionar el lanzamiento del producto en un país particular.

El Consejo aceptó la solicitud de Meta el 19 de noviembre de 2025. La solicitud completa de Meta al Consejo se puede consultar aquí. Luego de hacerlo, le envió preguntas a Meta. El Consejo planteó preguntas respecto de lo siguiente: cómo visualiza Meta la relación entre las notas de la comunidad y otros enfoques respecto de la información engañosa; cómo la empresa define y mide el éxito de las notas de la comunidad; las medidas de mitigación de riesgos y la debida diligencia en materia de derechos humanos que Meta llevó a cabo antes del lanzamiento de las notas de la comunidad en los Estados Unidos, e iniciativas similares con lanzamiento internacional previsto; el rendimiento de las notas de la comunidad en los Estados Unidos; las diferencias técnicas entre las notas de la comunidad de Meta y las de X; y la relación de las notas de la comunidad con las medidas relacionadas con elecciones y con crisis y conflictos.

2. Colaboración de partes interesadas

En el transcurso del desarrollo de esta opinión de asesoramiento normativo, el Consejo mantuvo conversaciones con partes externas de las siguientes maneras:

Comentarios del público

El Consejo recibió 23 comentarios del público en diciembre de 2025 en relación con esta opinión de asesoramiento normativo que cumplen con las condiciones para la presentación. Ocho de ellos procedían de los Estados Unidos y Canadá; cinco, de Asia-Pacífico y Oceanía; cinco, de Europa; tres, de Latinoamérica y el Caribe; y dos, de Oriente Medio y África septentrional.

Los comentarios abarcaban los siguientes temas:

• Posibles beneficios de la moderación basada en la comunidad para abordar el contenido engañoso. El impacto positivo de las notas de la comunidad en la libertad de expresión, como la incorporación de contexto y el potencial del sistema para crear alfabetización en información, en especial en comparación con intervenciones que concluyen en la eliminación del contenido (consulta, por ejemplo, PC-315688, Full Fact). Estos comentarios argumentan que las notas de la comunidad y la verificación de datos independiente podrían trabajar como herramientas complementarias. Por ejemplo, incluir verificadores de datos independientes en el programa "podría constituir una manera de incrementar la precisión, la relevancia y la optimización de las notas colectivas . . . al tiempo que permitiría mayores interacciones con los usuarios online, lo que aumenta la confianza" (PC-31579, Agence France-Presse).
• Riesgo contextual y desigualdad en la aplicabilidad de las notas de la comunidad a nivel internacional. Varios comentarios hacían hincapié en que la represión política, el deterioro democrático, el conflicto y la manipulación coordinada influyen de manera sustancial en el funcionamiento seguro de la moderación basada en la comunidad (consulta, por ejemplo, PC-31580, Dr. Yohannes Eneyew Ayalew y Dra. Maria O’Sullivan). Las partes que enviaron los comentarios advirtieron que, en países con un espacio cívico restringido o sometidos a alta vigilancia, agentes afines al Estado o grupos maliciosos podrían captar las notas de la comunidad, lo que distorsionaría el consenso y reforzaría las narrativas oficiales, en lugar de proporcionar oportunidades para cuestionarlas (PC-31586, Foro Asiático para los Derechos Humanos y el Desarrollo). Varios comentarios instaron a Meta a evitar tratar la expansión mundial como una simple implementación y señalaron la necesidad de que se realicen estudios de viabilidad específicos de cada país, se emprendan evaluaciones del impacto en los derechos humanos y se establezcan umbrales de rendimiento del sistema antes de su implementación.
• Idioma y desigualdad lingüística. Muchos comentarios destacaron que las notas de la comunidad requieren de una densidad de colaboradores suficiente y una comprensión lingüística compartida para generar un consenso oportuno (consulta, por ejemplo, PC-31570, Dr. Sanjana Hattotuwa; PC-31589, Instituto de Democracia Digital de las Américas; PC-31581, Trusted Information Alliance). Varios comentarios presentaron evidencia respecto de las notas de la comunidad de X, lo que sugiere que las notas en idiomas distintos del inglés tienen muchas menos probabilidades de que se califiquen o publiquen, y esto desfavorecería a una gran población de usuarios. Los comentarios también señalaban que las publicaciones en varios idiomas, la alternancia lingüística (alternar entre idiomas) y la dependencia en la traducción automática conlleva riesgos de malentendidos y exclusiones, en particular en regiones multilingües.
• Limitaciones en cuanto a la efectividad y la velocidad. Estudios empíricos citados en varios comentarios sugieren que solo una pequeña fracción de las notas propuestas en los sistemas de notas de la comunidad se publican en última instancia, a menudo tras grandes demoras. Como consecuencia, las notas de la comunidad suelen aparecer en contenido "leve" o de bajo riesgo, mientras que se pasa por alto información errónea altamente polarizada o muy dinámica, en particular durante elecciones, crisis y conflictos (PC-31597, Institute for Strategic Dialogue). Para estas partes, se generan inquietudes de que el sistema pueda fallar sistemáticamente en lugares donde los daños son mayores.
• Relación entre las notas de la comunidad y la verificación de datos profesional. En los comentarios del público, había oposición respecto de reemplazar la verificación de datos independiente por las notas de la comunidad. Varios comentarios del público abogaban, en cambio, por un enfoque híbrido, en el que las notas de la comunidad se complementaran con las evaluaciones profesionales de veracidad y las iniciativas de alfabetización mediática. Algunos comentarios del público ofrecían propuestas respecto de cómo funcionaría esto en la práctica. Por ejemplo, una "vía rápida [en las notas de la comunidad] para verificadores de datos certificados podría adoptar diversas formas, como la aprobación automática de notas por parte de los verificadores de datos, una mayor ponderación de sus votos y una verificación cruzada de las notas entre verificadores" (PC-31587, European Fact-Checking Standards Network). Los verificadores de datos, en particular, advierten que retirar el apoyo institucional y ampliar la dependencia en colaboradores suponen riesgos de debilitar el ecosistema de información general.
• Trabajo, seguridad y responsabilidad. Los comentarios también planteaban inquietudes sobre acoso, represalias y riesgo personal para los colaboradores. Un comentario del público (PC-31578, Renée DiResta y Alexios Mantzarlis) alegaba que redactar y calificar notas debería entenderse como un "trabajo de datos" no remunerado que beneficia a las plataformas y corre el riesgo de que se le quite de forma desproporcionada a periodistas, expertos y comunidades marginadas.

En conjunto, estos temas sugieren un interés cauteloso en el modelo de participación de las notas de la comunidad, acompañado de inquietudes respecto de la dependencia exagerada en el modelo, sin transparencia y medidas de protección sólidas.

Mesas redondas entre partes interesadas

El Consejo participó en otras consultas con partes interesadas mediante dos mesas redondas sobre las oportunidades y los riesgos que implican las notas de la comunidad. Estas mesas redondas incluyeron aproximadamente 30 participantes de América, África, Asia y Europa. Entre ellos, había investigadores centrados en la difusión y el impacto de la información engañosa, verificadores de datos, expertos técnicos, agentes de la sociedad civil y defensores de los derechos humanos.

Los debates de la mesa redonda respaldaban el hecho de que el sistema de notas de la comunidad podría aportar contexto, en lugar de eliminar contenido. En ese sentido, puede fortalecer la libertad de expresión, ya que la moderación pasaría de la eliminación a la contextualización. En lugar de reprimir el discurso, el sistema podría agregar réplicas discursivas, lo que permitiría que la expresión siga siendo visible, al tiempo que mejora el entorno de la información que lo rodea.

Los participantes expresaron también escepticismo respecto de las notas de la comunidad como herramienta principal para abordar la información errónea, en particular fuera de los Estados Unidos y en contextos de alto riesgo. Estos informaron que los sistemas basados en consenso pueden fallar al abordar contenido relacionado con polarización, política o crisis, y pueden privilegiar el poder de la mayoría por sobre la precisión de los hechos.

La diversidad lingüística y el bajo nivel de alfabetización digital también se marcaron como barreras estructurales, con evidencia que sugiere que las notas en idiomas distintos del inglés y lenguas minoritarias tienen muchas menos probabilidades de aparecer, lo que desfavorece a enormes poblaciones. Las partes interesadas advirtieron que los contextos autoritarios y afectados por conflictos representan graves riesgos, incluidos captación por parte de agentes coordinados o del Estado, acoso a los colaboradores y violencia en la vida real, que las demoras en la publicación de las notas exacerban.

En los diversos debates, hubo un firme acuerdo en que las notas de la comunidad deberían complementar, no reemplazar, la verificación de datos profesional, que puede aportar los conocimientos y la evaluación de daños de los que a veces carecen las notas de la comunidad (consulta también PC-31568, Full Fact). Por último, los participantes señalaron la necesidad de que haya transparencia y se brinde a los investigadores acceso a los datos, e instaron a que se realice una investigación independiente piloto y se definan con mayor claridad las responsabilidades antes de la expansión internacional.

3. Programa de notas de la comunidad de Meta

Enfoques sobre la información errónea

Meta describe que su enfoque actual respecto de la información aparentemente falsa o engañosa consta de tres estrategias: eliminar ciertos tipos de información errónea dañina; reducir la distribución de contenido que los verificadores de datos independientes calificaron como falso, alterado o parcialmente falso; y aplicar información adicional al contenido que es potencialmente engañoso o confuso mediante diferentes etiquetas. Según Meta, las notas de la comunidad recaen en la tercera de estas categorías. Si bien esto sugiere que uno de los objetivos principales que persiguen las notas de la comunidad es rebatir la información errónea, las respuestas a las preguntas del Consejo indican que Meta también considera las notas de la comunidad como una herramienta para aportar contexto de forma más general. Este marco más amplio refleja una decisión de diseño que busca priorizar la contextualización por sobre la eliminación de contenido, lo que permite que el discurso permanezca visible y, al mismo tiempo, favorece la capacidad de los usuarios de evaluar e interpretar la información.

La política de información errónea de Meta especifica que la empresa elimina información falsa o engañosa "cuando tiene probabilidades de contribuir de manera directa al riesgo de un daño físico inminente" o "es probable que contribuya de manera directa a interferir en el funcionamiento de los procesos políticos", incluidos elecciones y censos. Para llegar a estas conclusiones respecto del daño, nos asociamos con "expertos independientes que poseen conocimientos y experiencia para evaluar la veracidad del contenido y si tiene probabilidades de contribuir de manera directa con el riesgo de un daño inminente". En su solicitud al Consejo, Meta indicó que, tras los comunicados que realizó el 7 de enero de 2025, siguió eliminando el contenido que infringe estas líneas normativas. Este tipo de contenido se suele identificar y evaluar en consulta con el canal de socios de confianza de Meta (consulta la decisión del caso Video de una estación de policía haitiana).

Los socios de verificación de datos externos de Meta, en aquellos países e idiomas en los que operan, priorizan evaluar la información potencialmente falsa que es "actual, muy difundida y de alto impacto". El contenido que los socios de verificación de datos califican como "falso", "alterado" o "parcialmente falso" puede degradarse, no recomendarse y rechazarse en relación con anuncios. La política de Meta proporciona avisos que se aplican a las publicaciones con estas calificaciones, y Meta envía notificaciones a los usuarios que las publicaron. El contenido que Meta exime de la verificación de datos abarca "contenido que no incluye ninguna afirmación verificable", "opiniones y discursos de políticos" y "contenido multimedia creado o editado digitalmente que incluye una de las marcas de agua o etiquetas de transparencia de la inteligencia artificial de Meta en función de su autenticidad", donde el usuario que hace la publicación divulga el aspecto engañoso. Hay un mecanismo de apelación para rebatir las conclusiones de los verificadores de datos.

En los Estados Unidos, los colaboradores de las notas de la comunidad pueden proponer notas que agregan más contexto a cualquier contenido público y orgánico (es decir, no pagado) en las plataformas de Meta. La exhibición pública de la nota propuesta depende de que dicha nota sobrepase el umbral de la calificación de "consenso útil" y no infrinja las Normas comunitarias. Esto incluye tipos de contenido no cubiertos anteriormente por la verificación de datos independiente, como opiniones y publicaciones de políticos. Meta afirma que los colaboradores de las notas de la comunidad en los Estados Unidos (donde se dejó de aplicar la verificación de datos independiente) son parte de su enfoque respecto de la información errónea: los colaboradores pueden "redactar y aplicar una nota a las publicaciones que consideran que son potencialmente engañosas o confusas". Como se explica en más detalle debajo, si colaboradores que anteriormente estuvieron en desacuerdo consideran que la nota es útil, esta se adjunta a la publicación de modo que se vea públicamente. La incorporación de una nota no conlleva consecuencias, como la degradación o eliminación de las recomendaciones, como sí ocurre con las etiquetas de verificación de datos de contenido "falso", "parcialmente falso" o "alterado". Tras incorporar una nota de la comunidad publicada en una publicación, Meta también envía notificaciones a las personas que antes la habían vuelto a compartir, dejaron un comentario, la calificaron o solicitaron una nota para esa publicación.

En respuesta a una pregunta que formuló el Consejo respecto de la relación entre las notas de la comunidad y la verificación de datos independiente, Meta aclaró que las percibe como dos enfoques "muy diferentes en muchos aspectos importantes". Para Meta, "la verificación de datos independiente se diseñó para abordar afirmaciones 'verificables' en sus plataformas y se centra estrictamente en los hechos, no en las opiniones". Esta distinción es fundamental para Meta y apunta al propósito más general de las notas de la comunidad: "Los colaboradores de notas de la comunidad pueden agregar contexto a un contenido si creen que sería útil contar con información adicional, incluido contenido que se catalogaría como opinión o, de otro modo, no reuniría los requisitos para someterse a revisión en virtud del programa de verificación de datos independiente".

Otra diferencia clave, según Meta, es que las notas de la comunidad no acarrean las "consecuencias punitivas asociadas con el programa de verificación de datos independiente". En concreto, "no hay faltas por publicar contenido que recibe una nota de la comunidad", como sí ocurriría si se publicara información errónea que "es probable que contribuya al riesgo de daño físico inminente", y la "distribución y monetización de dicho contenido no se ve afectada".

Cómo funcionan las notas de la comunidad

i. Aspectos técnicos: algoritmo y cola

En su solicitud, Meta divulgó que desarrolló su sistema de notas de la comunidad usando el algoritmo de open source del programa de notas de la comunidad de la plataforma de medios sociales X. Meta lo describió como un "algoritmo de consenso que usa mediciones independientes de 'utilidad' y 'consenso' para calcular una puntuación general de 'consenso útil'". Los algoritmos de consenso, también conocidos como algoritmos de despolarización, se diseñaron para promocionar contenido o interacciones que presuntamente fomentan el entendimiento y el acuerdo entre grupos divididos. En teoría, recompensan el contenido que "despolariza", es decir, aquel que apela a públicos que suelen estar en desacuerdo o recibe comentarios positivos de ellos. Debido al diseño basado en el consenso de las notas de la comunidad, difieren de la verificación de datos independiente desde el punto de vista funcional en cuanto a los objetivos que persiguen y su efectividad comparativa de diferentes tareas.

Meta explicó que el algoritmo calcula esta puntuación identificando el consenso de que una nota es "útil" entre un determinado número de colaboradores que suelen estar en desacuerdo en función de calificaciones anteriores. Según Meta, si la puntuación de "consenso útil" combinada en una nota supera "cierto umbral" y la nota no infringe las Normas comunitarias de Meta, la nota se publicará. En su solicitud, Meta indicó que, dado que su algoritmo es "más complejo" en la práctica, "no es posible brindar una cifra exacta de la cantidad de calificaciones como 'útil' que debe recibir una nota o de cuánto desacuerdo se necesita para que el algoritmo determine que los colaboradores tienen opiniones diferentes". El código público de las notas de la comunidad de X indica un umbral variable similar. Meta afirmó que este enfoque "ayuda a garantizar que las notas reflejen una variedad de puntos de vista y reduce el riesgo de sesgo". Si se publica, la nota aparece como un banner en la parte inferior de la publicación original, en el que los usuarios pueden hacer clic para leerla completa y ver el enlace que la acompaña.

En respuesta a las preguntas sobre cómo el algoritmo evalúa el desacuerdo anterior entre colaboradores, Meta aclaró que, siguiendo el algoritmo de open source de X, la empresa "evalúa diferencias en puntos de vista enteramente en función de cómo dichos colaboradores calificaron las notas en el pasado" y no tiene en cuenta otros comportamientos de interacción, como seguidores, Me gusta o reposts. El algoritmo "no hace suposiciones sobre la naturaleza del desacuerdo, como connotaciones políticas de sus puntos de acuerdo o desacuerdo (ya que carece de datos sobre las opiniones políticas o el asunto de cada nota)". Un experto técnico con el que consultó el Consejo sugirió el siguiente ejemplo para ilustrar este punto: es posible que un país tenga un eje político liberal-conservador prominente, pero los colaboradores de las notas de la comunidad de ese país califican las notas según si el contenido subyacente incluye memes, respalda la agenda de un partido político particular o apoya a una estrella del fútbol específica o no. En ese caso, el algoritmo de las notas de la comunidad conocerá un eje del conflicto cuya descripción óptima puede ser la de capturar esas divisiones, porque ese es el eje que mejor explica los datos.

Los usuarios y los colaboradores de las notas de la comunidad pueden identificar contenido que potencialmente se beneficiaría de una nota, y los colaboradores pueden redactar y proponer notas sobre ese contenido. Una vez que se propone una nota, esta aparece en una lista donde se votará según su utilidad.

Para facilitar la calificación de las notas propuestas, los colaboradores tienen acceso a una lista de notas que aún necesitan calificación para poder publicarse, la cual está disponible en la configuración de las apps de Facebook, Instagram y Threads. En respuesta a una pregunta sobre esta lista, Meta aclaró que las notas se priorizan "en función de qué tan recientes sean y del número de visualizaciones de la publicación para mejorar la rapidez y la visibilidad de las notas. Este tipo de contenido no se tiene en cuenta al calificar notas (es decir, si el contenido pertenece al ámbito cívico o político). Las notas con mayores puntuaciones de utilidad pueden aparecer más arriba en esta lista, mientras que aquellas con puntuaciones más bajas en este sentido pueden tener menos prominencia". Asimismo, Meta expresó que no agrega de forma independiente publicaciones a esta lista ni "emplea factores que indiquen que se trata de contenido de alta prioridad que necesita una nota".

ii. Aspectos operativos: colaboradores y políticas

En su solicitud, Meta describe cómo funciona el programa de notas de la comunidad desde el punto de vista operativo. A diferencia del programa de verificación de datos de Meta, en el que la empresa se asocia con organizaciones de verificación de datos profesionales para revisar y etiquetar contenido, en las notas de la comunidad, los usuarios de Meta se postulan para contribuir con el programa. Meta exige que los colaboradores sean mayores de 18 años, tengan una cuenta con más de seis meses de vigencia y no hayan infringido las políticas de Meta cuyo fin es "prevenir daños graves, como terrorismo, explotación sexual infantil, y fraude y estafas", y cuenten con un número de teléfono verificado o hayan configurado la autenticación en dos pasos. Si cumplen con estos criterios de elegibilidad, las personas van saliendo "de forma gradual y aleatoria" de la lista de espera para participar y pueden entonces redactar y calificar notas. En el presente, los colaboradores pueden redactar y enviar notas para "agregar más contexto" a contenido orgánico público en Facebook, Instagram y Threads que se origina en los Estados Unidos. Los colaboradores deben incluir un enlace que respalde el contexto compartido en la nota. Al calificar notas, los colaboradores tienen la opción de indicar si aquellas escritas por otros colaboradores son "útiles" o "no útiles", y fundamentar su respuesta seleccionando un motivo de una lista de opciones, por ejemplo, "si la nota es relevante para la publicación, es fácil de entender y usa lenguaje neutral o imparcial".

Las notas de la comunidad actualmente funcionan en seis idiomas: inglés, español, chino, vietnamita, francés y portugués. Meta aún no decidió "qué idiomas se admitirán en las notas de la comunidad para países multilingües", así como tampoco extendió "la infraestructura técnica de las notas de la comunidad para respaldar la redacción, calificación y publicación en idiomas más allá de los seis disponibles en el lanzamiento en los Estados Unidos". Meta señaló que espera iniciar esta labor a principios de 2026. En respuesta a una pregunta sobre las preparaciones anticipadas para la implementación internacional de las notas de la comunidad, Meta dijo que "tiene previsto realizar pruebas de este producto antes de su lanzamiento en un mercado". Estas pruebas evaluarán cómo funcionan los algoritmos de despolarización en el contexto local y permitirán identificar problemas potenciales relacionados con la representación de idiomas o la participación de los colaboradores".

Meta afirmó que las notas se encuentran sujetas a las mismas Normas comunitarias que el contenido orgánico, con algunas diferencias importantes en cuanto a su aplicación. La empresa emplea una "combinación de sistemas automatizados, equipos de revisión especializados y revisión manual a cargo de expertos para evaluar si las notas infringen nuestras Normas comunitarias". Asimismo, Meta informó que también se usa un clasificador de aprendizaje automático para "reducir la distribución de publicaciones sobre las que las personas solicitaron notas que nuestro sistema predice que es probable que infrinjan las Normas comunitarias (aunque no se haya comprobado que es así) de entre las publicaciones candidatas que se muestran en la interfaz del colaborador mientras el contenido aguarda la revisión manual". Meta afirmó que esto permite reducir la exposición a contenido probablemente infractor.

Según Meta, el anonimato de los colaboradores desempeña un rol en el funcionamiento de las notas de la comunidad. El nombre de los colaboradores no aparece en las notas que crearon o calificaron a fin de garantizar que dichas calificaciones se basen en "el contenido y la utilidad, no en la identidad de quien las escribió". Meta expresó que el anonimato entre los colaboradores "fomenta la participación porque mitiga la presión de los pares o el temor a sufrir acoso".

En su solicitud, Meta afirmó que actualmente está trabajando para encontrar formas de mantener el compromiso de los colaboradores, mejorar la calidad de las notas y prevenir el abuso y la manipulación coordinados de las notas de la comunidad. Los nuevos colaboradores reciben un tutorial en el producto sobre cómo escribir y calificar notas. Los colaboradores activos también se pueden sumar a un foro de la comunidad, organizado en Discord, para recibir actualizaciones sobre nuevas funciones y brindar comentarios que resulten útiles para el desarrollo de productos. Meta indicó que solicitar a los colaboradores que tengan un solo número de teléfono y una cuenta con una vigencia mínima permitirá impedir que se creen cuentas falsas. La incorporación gradual y aleatoria de usuarios de la lista de espera "será una medida de protección contra los esfuerzos coordinados para agregar notas a un contenido particular o calificar notas de determinada manera". Dado que una nota requiere de un enlace a información que respalde el contexto propuesto, Meta estableció medidas que bloquean "los enlaces URL que cometen infracciones muy graves" para evitar el abuso y motivar a los colaboradores a compartir información de más alta calidad.

4. Investigación y evaluaciones de sistemas de moderación de contenido del estilo de las notas de la comunidad

Como parte de esta investigación y de la colaboración de partes interesadas, el Consejo recibió una gama de información que evaluaba las oportunidades y los riesgos que entrañan los sistemas de moderación de contenido colectivo del estilo de las notas de la comunidad, así como los comentarios, las observaciones y los datos empíricos respecto del rendimiento de estos sistemas en otras plataformas de medios sociales, pero principalmente las notas de la comunidad de X. Ante la ausencia de datos sustanciales sobre el rendimiento del sistema de Meta, el Consejo extrapoló estos hallazgos de las notas de la comunidad de X para fundamentar sus recomendaciones en las últimas partes de la opinión. Es posible que la extrapolación presente deficiencias, ya que las plataformas de Meta difieren de las de X en varios aspectos, incluidos el tamaño, la distribución de la base de usuarios y las dinámicas de viralidad. A medida que haya más datos disponibles respecto del rendimiento de las notas de la comunidad, el análisis del Consejo basado en gran medida en las notas de la comunidad de X deberá actualizarse y someterse a más prueba.

Las notas de la comunidad y la tecnología de despolarización subyacente son prometedoras en algunos aspectos. Se sostuvo que, en teoría, es un "enfoque prometedor en cuanto a combatir la información errónea mediante la réplica discursiva", ya que "respeta la autonomía de los usuarios y fomenta una participación general e intercambios saludables". Otros comentarios que recibió el Consejo citaron estudios que sugieren que las notas compartidas por la comunidad sobre el contenido pueden aumentar la confianza de los usuarios en los resultados de la moderación. Casi de forma universal, las partes interesadas a las que consultó el Consejo expresaron estar a favor de enfoques respecto de la información engañosa que priorizan la libertad de expresión, por ejemplo, brindar contexto adicional mediante herramientas como las notas de la comunidad. Estas hicieron hincapié en que la verificación de datos y las notas de la comunidad no deberían percibirse como herramientas incompatibles entre sí. Muchas señalaron cómo podrían complementarse.

En función de ciertas investigaciones empíricas, las notas de la comunidad, si se implementan con el alcance, la velocidad, la transparencia y las medidas de protección contra la manipulación suficientes, pueden funcionar como importante herramienta para mejorar el discurso online. Estudios experimentales y observacionales, así como contribuciones de partes interesadas, señalan que las notas de la comunidad pueden tener un mejor rendimiento que las etiquetas de advertencia genéricas en cuanto a la legitimidad percibida y la comprensión de los usuarios, y que estas reintroducen una forma de participación ciudadana estructurada en la gobernanza de la plataforma, que no se basa en una regla de la mayoría, sino en una colaboración basada en explicaciones que integra múltiples perspectivas.

Hay también cierto grado de optimismo sobre la eficacia y el alcance potenciales de las notas colectivas, en particular si se adjuntan a información posiblemente engañosa. Algunas investigaciones demostraron que, en conjunto, los criterios de la gente común pueden aproximarse a los niveles de precisión de los verificadores de datos profesionales. Esta investigación manifiesta que usar las evaluaciones consolidadas del público general mediante programas como las notas de la comunidad puede "dar paso a que se tomen medidas escalables contra la información errónea". Según confirman algunos estudios, las notas de la comunidad pueden reducir la interacción y el alcance de contenido etiquetado como falso o engañoso, en ocasiones en gran medida, una vez que se adjunta una nota y los usuarios la ven. No obstante, hay algunas divergencias en estos hallazgos. En otra investigación, se analizaron las dimensiones temporales de la interacción con contenido engañoso y se determinó que las notas de la comunidad de X "podrían ser demasiado lentas en reducir de manera efectiva la interacción con información errónea en la etapa temprana (y más viral) de difusión". Otro estudio de investigación determinó que la influencia social percibida del autor de un tweet de origen afectó los niveles de consenso entre los usuarios; esto derivó en que los autores influyentes "consiguieran un menor nivel de consenso entre los usuarios" y en que las notas de verificación de datos en sus publicaciones "tuvieran más probabilidades de percibirse como incorrectas". Dichos desacuerdos probablemente provienen, en parte, del rendimiento variado de las notas de la comunidad en diferentes condiciones de implementación.

El Consejo también consideró las opiniones de partes interesadas que señalaron que el rendimiento de los programas de notas de la comunidad en condiciones reales puede ser impredecible. Los sistemas que dependen de votaciones de colaboradores basadas en un algoritmo para adjuntar notas al contenido enfrentan desafíos en términos de cobertura, participación, rapidez y confiabilidad; todos factores que cobran elevada importancia en situaciones de alto riesgo, como conflictos y crisis. Al mismo tiempo, la investigación sobre los sistemas de moderación humanos y participativos sugiere que hay un nivel de variabilidad inherente a dichos enfoques, incluida la verificación de datos a cargo de expertos, y que la transparencia relativa de las notas de la comunidad pone más de relieve esta variabilidad y, por ende, la vuelve más fácil de evaluar y mejorar de forma iterativa.

Algunas investigaciones determinaron que, dado que las notas de la comunidad dependen de que los colaboradores elijan qué publicaciones comentar, sus resultados reflejan patrones de autoselección. Los estudios demostraron que los colaboradores de X en los Estados Unidos tienden a escribir notas sobre publicaciones antipartidistas y califican aquellas afines al mismo partido como útiles, lo que potencialmente refuerza divisiones ideológicas. Estos hallazgos sugieren que solicitar consenso entre aquellos que generalmente están en desacuerdo puede resultar una solución incompleta para el problema de las notas con motivaciones ideológicas, en particular en entornos online polarizados. No obstante, otros estudios indican que este requisito de consenso entre personas con diversas perspectivas también funciona como un umbral de calidad que limita la visibilidad de notas con motivaciones ideológicas o de fuentes débiles, incluso si esta elección del diseño restringe la cobertura general. Otros informes e investigaciones documentaron que, entre las notas publicadas en las notas de la comunidad de X, los verificadores de datos profesionales están entre las fuentes más citadas para avalar el contexto, lo que indica que las notas de la comunidad dependen de la verificación de datos independiente, pese a que desempeñan funciones y persiguen fines distintos. Por ello, si merma el apoyo que brindan los verificadores de datos, es probable que esto afecte a las notas de la comunidad, ya que los colaboradores contarán con menos fuentes confiables para citar. Este impacto puede ser mayor donde hay limitadas fuentes de medios confiables. Esta interdependencia subraya la importancia de contar con enfoques de gobernanza estratificados, en lugar de recurrir a un único mecanismo, en particular en contextos de alto riesgo o donde el tiempo es un factor crítico.

Varias partes interesadas destacaron la cantidad relativamente pequeña de notas que alcanzan un consenso y se publican como un desafío central. Según un estudio, en un 74% de las publicaciones engañosas en X para las que se propusieron notas precisas, dichas notas nunca se mostraron a los usuarios. Investigaciones de los medios descubrieron que la mayoría de los usuarios nunca encuentran las notas publicadas. Cuando se publican notas, estas tienden a recibir menor exposición que la que recibió la publicación original antes de que se le adjuntara la nota, lo que sugiere que los usuarios que ven contenido que eventualmente recibe una nota suelen no ver la nota cuando se publica. Sin embargo, las bajas tasas de visibilidad y publicación también pueden reflejar los umbrales intencionales de fuentes y consensos intencionalmente altos del sistema, que se diseñaron para priorizar la calidad de las notas y la percepción de legitimidad por sobre el volumen. Las disparidades en la cantidad de notas propuestas y publicadas en diferentes grupos de idiomas también supusieron inquietudes sobre qué tan adecuada es la representación de diferentes grupos lingüísticos en el programa de notas de la comunidad. Dichas disparidades pueden verse influenciadas por la densidad de colaboradores, las fuentes específicas de cada idioma y la inversión de la plataforma en localización, no por la viabilidad subyacente del modelo en sí.

Algunas partes interesadas también expresaron inquietudes porque las acumulaciones de notas no publicadas en X (es decir, notas que los colaboradores propusieron, pero no alcanzaron el umbral de consenso necesario para su publicación) están afectando de manera negativa la rapidez de las notas de la comunidad. Un análisis temporal de patrones de publicación en X determinó que las "notas, en promedio, se publican 65,7 horas después de la publicación original, y las demoras más extensas reducen en gran medida la probabilidad de alcanzar el consenso". Otro estudio determinó que, entre enero de 2021 y enero de 2025, un 87,7% de las notas propuestas en X permanecieron en la categoría "Necesita más calificaciones". De todas las notas propuestas para la calificación de un colaborador, solo un 8,3% logró el estado "útil" y se publicó, con una demora promedio de 26 horas, "mucho después del punto de visibilidad máxima de la mayoría de las publicaciones engañosas". En una actualización de septiembre de 2025, Meta reportó cifras similares, con tan solo un 6% de las notas publicadas.

Los análisis de tendencias en X demostraron de qué manera las bajas tasas de publicación pueden afectar a la participación y retención de colaboradores. Un estudio reciente determinó que "la mayoría de las notas las produce una minoría de colaboradores" y "disminuye la fracción de autores que siguen en el programa año a año desde 2023". Asimismo, la "fracción de autores que permanecen activos es cada vez menor, lo que sugiere una reducción de la capacidad" para retener a los colaboradores. Según estos autores, la experiencia reiterada de que no se publique una nota disuade a los colaboradores de seguir participando. La tendencia "deja entrever los riesgos para la sostenibilidad del sistema de notas de la comunidad". Si, como indican sus políticas y declaraciones públicas, Meta considera que las notas de la comunidad forman parte de su "estrategia contra la información errónea", entonces estas tendencias sugieren que el sistema podría terminar generando muy pocas notas realmente útiles como para verificar de manera efectiva el contenido engañoso.

Las implicaciones de estos hallazgos en situaciones de crisis y conflictos se marcaron como un área de preocupación. Varias partes interesadas compartieron investigaciones sobre las notas de la comunidad de X que cuestionan su capacidad de abordar con eficacia la información errónea, en particular en momentos en que la integridad de la información es de suma importancia, como elecciones, crisis y conflictos. Por ejemplo, la investigación de publicaciones realizadas en X de cinco cuentas con alto perfil que difundieron información falsa durante los disturbios en Southport, Reino Unido, en 2024 determinó que esas cuentas obtuvieron más de 430 millones de visualizaciones. Según este análisis, de las 1.060 publicaciones compartidas por estas cuentas durante el punto más álgido de los disturbios, solo una recibió una nota de la comunidad. Estos datos plantean graves inquietudes sobre la capacidad de las notas de la comunidad de responder con rapidez a la información errónea en situaciones de crisis, en particular en las etapas virales preliminares de su difusión.

Algunas partes interesadas expresaron inquietudes sobre la reciente decisión de X de permitir que colaboradores con tecnología de IA "generen más notas" (consulta los comentarios del público, p. ej., PC-31568, Full Fact). El Consejo percibe riesgos en la implementación de este tipo de colaboradores para generar notas. La proliferación de herramientas con IA presenta nuevos vectores para la burla y la manipulación. Los agentes maliciosos podrían perfeccionar los modelos de modo que se favorezcan narrativas de forma sutil o explotar el mecanismo de calificación, todo bajo una apariencia de neutralidad. Dado que la mayoría de los sistemas de IA se entrenan con datos superpuestos y optimizados para objetivos similares, su participación podría homogeneizar los estilos de razonamiento y las interpretaciones en las notas, y dejar de lado perspectivas de minorías y no centristas. Meta informó al Consejo que "no tiene previsto permitir que escritores de notas con IA (como chatbots o agentes con tecnología de IA) envíen notas de la comunidad en las plataformas de Meta. Los colaboradores pueden usar la IA para escribir notas; sin embargo, una persona debe enviarla con su nombre y se la considerará como autor de la nota".

Varios expertos a los que consultó el Consejo, así como partes interesadas externas, plantearon inquietudes sobre la aplicabilidad global del algoritmo de las notas de la comunidad de X, que se diseñó para representar y "despolarizar" el desacuerdo político principalmente a lo largo de un único eje, en sociedades donde existen diversos ejes de división significativa. Implementar el algoritmo en estos entornos puede reforzar una interpretación simplista de los complejos conflictos políticos y las divisiones sociales. No obstante, algunos expertos señalaron que el algoritmo no se diseñó para captar todas las dimensiones del desacuerdo político, sino para identificar áreas limitadas de consenso entre personas con diversas perspectivas, que tal vez puedan seguir aportando información contextual significativa, incluso en sociedades que se caracterizan por tener varios ejes de división superpuestos. En la práctica, el hecho de que el algoritmo no capte las divisiones sociales podría conducir a que el sistema genere notas que tienden a abordar un subconjunto de expresiones, que pueden no corresponder con los temas más destacados y que más dividen la opinión en un país. Por ejemplo, algunas investigaciones que compartieron las partes interesadas demostraron que "aproximadamente la mitad" de las notas se aplicaron a lo que se conoce como "noticias de entretenimiento" (historias que abarcan cultura, estilo de vida o temas más ligeros que la política o los acontecimientos actuales). Por el contrario, "las notas extraídas de fuentes confiables en torno a acontecimientos con carga política con frecuencia no se publicaban" (PC-31597, Institute for Strategic Dialogue), presuntamente porque no habían alcanzado el umbral de consenso necesario. De otro modo, este patrón podría reflejar umbrales de publicación cuyo fin es priorizar la legitimidad y evitar la captación, en lugar de centrarse en la ausencia de precisión o de contribuciones de fuentes confiables, y dicha selectividad es una característica común de los sistemas de gobernanza participativos. Por último, el sistema podría fallar a la hora de mostrar perspectivas de minorías o no centristas, independientemente de su precisión, en particular si el algoritmo no puede captar divisiones políticas y socialmente significativas más allá del supuesto eje principal de polarización en un país. Debajo se analizan las implicaciones que estas dinámicas tienen para los derechos humanos.

En conjunto, la evidencia y los aportes de las partes interesadas que revisamos en esta sección indican que las notas de la comunidad presentan tanto importantes limitaciones como posibles fortalezas como mecanismo para abordar el contenido potencialmente engañoso. Los desafíos identificados, en relación con el alcance, la rapidez, el consenso, los umbrales, los incentivos, las disparidades lingüísticas y la representación del desacuerdo, señalan lo importante que es contar con un diseño y opciones de implementación cuidadosos. Al mismo tiempo, la investigación y las consultas sugieren que estas restricciones reflejan las compensaciones propias de los sistemas de moderación explicativos y participativos. Como tal, su rol debe evaluarse en vista de su capacidad para actuar como línea de intervención que prioriza la transparencia, la participación de los usuarios y la libertad de expresión.

5. Análisis en cuanto a los derechos humanos

En 2021, Meta anunció su Política corporativa de derechos humanos, en la que describe su compromiso con el respeto de los derechos de conformidad con los Principios Rectores sobre las empresas y los derechos humanos de las Naciones Unidas (UNGP). Estos principios, que el Consejo de Derechos Humanos de las Naciones Unidas respaldó en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas en cuanto a estos derechos. Estos derechos incluyen, "como mínimo, ... aquellos expresados en la Carta Internacional de Derechos Humanos" (Principio 12).

Como empresa internacional comprometida con los UNGP, Meta debe respetar las normas de derechos humanos en cada lugar donde lleve a cabo sus operaciones (Principio 11) y "tratar de prevenir o mitigar las consecuencias negativas sobre los derechos humanos directamente relacionadas con operaciones, productos o servicios prestados por sus relaciones comerciales, incluso cuando no hayan contribuido a generarlos" (Principio 13). En los UNGP, también se establece que las empresas deben llevar a cabo los procesos de debida diligencia respecto de los derechos humanos para evaluar las consecuencias reales y potenciales, y tomar medidas en función de los resultados (Principio 17). Para hacer esto con efectividad, las empresas deben controlar los indicadores cualitativos y cuantitativos, e incorporar las perspectivas de las partes afectadas (Principio 20).

A través de estos casos y de las opiniones de asesoramiento normativo, el Consejo evalúa las consecuencias de las decisiones relacionadas con las políticas y su aplicación en los derechos humanos. Cuando, en estos casos, queda de manifiesto que Meta está provocando consecuencias negativas o quizá no está tomando medidas para identificarlas, controlarlas y limitarlas de forma más general, el Consejo realiza recomendaciones apropiadas. En una opinión de asesoramiento normativo, el Consejo se centra directamente en las decisiones de Meta relacionadas con las políticas y su aplicación para evaluar si la empresa honra su compromiso con el respeto de los derechos conforme a los UNGP.

Aplicado a las notas de la comunidad, el Consejo exploró si el programa, en la práctica, sirve para abordar y mitigar las posibles consecuencias negativas para los derechos humanos conforme a las responsabilidades de Meta, en especial en mercados fuera de los Estados Unidos donde Meta podría lanzar las notas de la comunidad. En las siguientes secciones, el Consejo se centra, en primer lugar, en los contextos donde las notas de la comunidad podrían crear o elevar el riesgo de daño para los usuarios. Estos daños concretos se distinguen de la posible inadecuación de las notas de la comunidad como medida de mitigación de riesgos (en particular en relación con información engañosa que no alcanza el umbral de eliminación de Meta), que se aborda en la sección posterior.

Impacto directo que la implementación de las notas de la comunidad tiene en los derechos humanos

El Principio 13 de los UNGP exige que Meta "evite que sus propias actividades provoquen o contribuyan a provocar consecuencias negativas sobre los derechos humanos" y "haga frente a esas consecuencias cuando se produzcan". El programa de notas de la comunidad puede afectar a una amplia gama de derechos. Por ejemplo, la libertad de expresión, que incluye el derecho a buscar y recibir información (Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos [ICCPR]; observación general n.º 34, 2011, 2011, párrafo 11) puede mejorar hasta el punto en que las notas de la comunidad sirvan como vehículo para que los colaboradores cuenten con herramientas adicionales para su expresión, fomenten la réplica discursiva o generen o pongan a disposición de los usuarios información contextual que, de otro modo, podría no estar a su alcance. El debate, el intercambio de ideas y la toma de decisiones conjuntas son características centrales de la visión que sostiene Meta respecto del funcionamiento del sistema. El contenido que recibe una nota de la comunidad no se degrada, como puede pasar con aquel que recibe una etiqueta de verificación de datos. En este sentido, se podría percibir que las notas de la comunidad contribuyen mejor al derecho de expresión de algunos usuarios de la plataforma.

Por otro lado, el Consejo considera que introducirlas en países distintos de los Estados Unidos podría, en determinadas circunstancias, representar riesgos importantes para los derechos humanos y generar daños tangibles que Meta se comprometió a evitar o remediar, o contribuir a que se produzcan. Si bien las investigaciones y las observaciones de las partes interesadas respecto de las notas de la comunidad de X que se compartieron antes dan una idea de estos daños, la probabilidad de que ocurran y su gravedad dependen en gran medida del contexto de cada país, así como de los planes de expansión de Meta. Meta compartió información sobre este tema en su solicitud y respondió las preguntas que formuló el Consejo, incluido sobre sus planes de probar las notas de la comunidad antes de su lanzamiento en un mercado. Estas pruebas buscan "evaluar cómo funcionan los algoritmos de despolarización en el contexto local y permitirán identificar problemas potenciales relacionados con la representación de idiomas o la participación de los colaboradores". En vista de los recursos del Alto Comisionado de la ONU para los Derechos Humanos para la implementación de los UNGP en el espacio tecnológico, Meta debe centrar estas pruebas en "entender cómo las realidades socioeconómicas, políticas y de derechos humanos locales exacerban los daños a los derechos humanos o brindan protección contra ellos" a medida que se aproxima el lanzamiento de las notas de la comunidad. El Consejo insta a Meta a ofrecer informes públicos de los resultados de esas pruebas antes de la implementación.

Aunque Meta encuadra las notas de la comunidad como "contexto" adicional, podría desalentar el ejercicio de la libertad de expresión, en particular si los usuarios temen que el elevado escrutinio de su discurso al recibir una etiqueta pública genere represalias o posible acoso, o temen que sus notas se puedan rastrear. Esto puede disuadirlos de hacer publicaciones sobre temas controvertidos o delicados. El Consejo señala, no obstante, que este riesgo no solo es inherente a las notas de la comunidad, sino que es probable que esté presente en cualquier sistema diseñado para combatir la información errónea. En contextos políticos donde se restringe el espacio cívico y los derechos humanos corren riesgos, las notas de la comunidad pueden disuadir el disenso, el periodismo ciudadano y la verificación de datos dirigida por usuarios, o las opiniones de las minorías, en especial ante la ausencia de transparencia respecto del funcionamiento del sistema o de vías significativas de apelación. Meta indicó que está explorando agregar una función para solicitar calificaciones adicionales a los colaboradores como posible medida correctiva. Actualmente, los usuarios no pueden apelar una nota de la comunidad, como sí pueden hacerlo con el contenido que recibe una etiqueta de verificación de datos, si, por ejemplo, consideran que una nota alteró o distorsionó lo que querían decir o no es precisa. El desarrollo de esta función por parte de Meta podría servir para mitigar el riesgo de un efecto inhibitorio.

En contextos en los que los gobiernos reprimen el disenso, incluido mediante ataques a la libertad de expresión, el sistema podría poner a las personas en riesgo de represalias si se compromete su anonimato. Esto genera riesgos para los derechos a la privacidad (Artículo 17, ICCPR), a la seguridad individual (Artículo 9, ICCPR) e incluso a la vida (Artículo 6, ICCPR) de los colaboradores. Incluso cuando hay un acuerdo de anonimato formal, la participación en las notas de la comunidad podría exponer a los colaboradores a vigilancia o ataques si se infieren identidades o patrones de comportamiento. Los datos sobre quién contribuye o interactúa con las notas puede revelar opiniones o afiliaciones políticas y poner en peligro a los colaboradores en países en cuya historia se ha empleado la información para ejercer represión. Meta afirmó que su principal medida de mitigación en cuanto a divulgar la identidad de los colaboradores en las notas de la comunidad es el diseño del modelo de datos en sí mismo. La identidad de los colaboradores, que se usa para crear y calificar notas, se separa de los perfiles de usuario de Meta. Sin embargo, ante la ausencia de un relato más detallado sobre la arquitectura técnica que emplea Meta para implementar las cuentas de los colaboradores en el programa de notas de la comunidad, el Consejo no puede arribar a conclusiones firmes respecto de si los planes actuales de Meta mitigarían este riesgo de forma adecuada. Con antelación a la implementación en contextos donde el Gobierno reprende el disenso, Meta debe garantizar la eficacia de sus medidas de protección realizando tareas de red-teaming a la arquitectura técnica de las notas de la comunidad en condiciones adversas, por ejemplo, una evaluación de amenazas de agentes estatales.

Al Consejo también le preocupa el posible uso de las notas de la comunidad por parte de redes coordinadas de información errónea, en especial en entornos con evidencia actual o anterior de manipulación intencional a gran escala o ataques contra ecosistemas de información. Las plataformas de medios sociales, como Meta, están al tanto de este riesgo y dieron a conocer varias instancias en las que eliminaron cuentas tras detectar este comportamiento. En estas situaciones, agentes maliciosos podrían coordinarse para "burlar" o manipular los mecanismos de participación y calificación, lo que les permitiría, por ejemplo, desacreditar de forma sistemática opiniones contrarias o publicar notas que no reflejan el consenso real entre los colaboradores. Mediante dicho uso indebido de las notas de la comunidad, si encuentra asidero, se podría manipular el discurso público de maneras que distorsionan los entornos de información y repercuten de manera negativa en el derecho de las personas a intervenir en asuntos públicos (Artículo 25, ICCPR). Meta detalló varias de las medidas de protección que emplea para evitar que se manipulen las notas de la comunidad. Afirmó que "supervisa el potencial de manipulación del programa de notas de la comunidad analizando los patrones de comportamiento e interacción de los colaboradores". La empresa señaló que, hasta la fecha, no detectó comportamiento no auténtico coordinado o manipulación del programa.

Sin embargo, en una investigación reciente sobre las notas de la comunidad de X, se descubrió que "una pequeña minoría (del 5 al 20%) de calificadores mal intencionados pueden suprimir estratégicamente notas útiles específicas", lo que entraña inquietudes respecto de la adecuación de las medidas de protección y, a su vez, de la vulnerabilidad de los sistemas a la manipulación. El estado de publicación de las notas de Meta no se "bloquea" hasta dos semanas después de que se llega a un consenso y la nota aparece. Por ende, las notas de la comunidad podrían ser vulnerables a agentes malintencionados que podrían coordinarse para eliminar una nota calificándola reiteradamente como no favorable en el transcurso de las dos semanas desde que se publica y se bloquea. Asimismo, es probable que estas vulnerabilidades se intensifiquen con la proliferación de herramientas de IA, en particular la IA agéntica, que permite crear y gestionar cuentas a gran escala más fácilmente. Si bien las medidas de protección de Meta, en teoría, tienen como fin supervisar dicha actividad, la información proporcionada al Consejo no arroja claridad respecto de que estas aborden de manera adecuada el alcance potencial de la amenaza. Que se realicen más evaluaciones para determinar la gravedad de este riesgo y la adecuación de las medidas de protección de Meta dependerá de datos empíricos que Meta deberá recopilar y evaluar para analizar si las herramientas de IA empleadas en las notas de la comunidad crean o exacerban las vulnerabilidades, como operaciones de manipulación coordinada o de información errónea a gran escala.

Con las notas de la comunidad, también se corre el riesgo de privilegiar a grupos políticos, étnicos o lingüísticos dominantes y, potencialmente, de marginar a minorías desfavorecidas, en particular si varios grupos comparten prejuicios respecto de un grupo minoritario. El problema se agrava si dichos grupos tienen poca o nula representación como colaboradores, lo que podría provocar que el algoritmo de las notas de la comunidad represente desacuerdos que no ilustran las divisiones sociales críticas. Esto genera inquietudes sobre el impacto potencial en los derechos de los miembros de estos grupos, como el derecho a la igualdad y la no discriminación (Artículos 2 y 26 del ICCPR), y a la libertad de expresión (Artículo 19 del ICCPR), en especial si, por circunstancias objetivas, tienen menos probabilidades de participar en la creación y calificación de las notas de la comunidad. Hay varios factores que podrían dar pie a este daño o agravarlo. Como mencionaron los expertos y las partes interesadas antes mencionados, uno de los principales desafíos para el sistema de notas de la comunidad de X es aplicar un algoritmo que represente la polarización y la división social a lo largo de un solo eje en contextos en los que esto no ocurre. Las partes interesadas a las que consultó el Consejo expresaron que un enfoque tan contundente podría conducir al sistema a distorsionar los entornos de información en favor de perspectivas mayoritarias y publicar posiblemente notas dañinas que atentan contra minorías mutuamente desfavorecidas. Estas dinámicas podrían aumentar potencialmente la división.

En estos casos, el prejuicio compartido contra grupos minoritarios podría servir como "puente" entre otros grupos mayoritarios que, de otro modo, están en desacuerdo en otros ejes de polarización importantes. También hay más probabilidades de que ocurra este daño si las minorías desfavorecidas tienen acceso diferencial a internet y medios sociales y, por ende, cuentan con poca representación como colaboradores en las notas de la comunidad. Para que las notas de la comunidad favorezcan el acceso generalizado a fuentes de información pluralistas y diversas que Meta vislumbra, es fundamental que haya una sólida participación de todos los grupos, pero en particular de grupos lingüísticos relevantes y otros minoritarios (como religiosos, étnicos, de género, de edad, etc.). Por ejemplo, un consorcio de organizaciones no gubernamentales (ONG) presentó evidencia de daños procedentes de una dinámica mayoritaria en las notas de la comunidad de X en contextos de la India, donde las divisiones políticas reflejan afiliaciones complejas y superpuestas que surgen de la etnia, la religión, el idioma y la casta. Si bien es difícil determinar qué tan generalizado puede ser el problema en función de este ejemplo limitado, el riesgo es lo suficientemente viable para justificar que Meta realice una evaluación cuidadosa de la división social y la posición de minorías desfavorecidas en mercados donde se pueden introducir las notas de la comunidad.

Los expertos en algoritmos de polarización a los que consultó el Consejo señalaron que no hay motivos técnicos que impidan que el algoritmo de las notas de la comunidad se diseñe de un modo más sofisticado, de manera que tenga en cuenta varios ejes de desacuerdo al mismo tiempo. Como se mencionó anteriormente, debido a la ausencia de más información sobre el diseño, el Consejo está evaluando los riesgos en esta situación en función de cómo se demostró que funciona el algoritmo de X, que Meta tomó como punto de partida. Siempre que Meta diseñe su versión de las notas de la comunidad de modo que funcionen de manera más multidimensional, esta podría ser una vía para mitigar los riesgos que se identifican aquí.

La gravedad y probabilidad de los diferentes daños a los que se hizo mención antes pueden depender en gran medida de si las notas de la comunidad se complementan con otras medidas para abordar la información errónea, como la verificación de datos independiente, en especial porque estas dependen de la labor de los verificadores, como se señaló anteriormente. Por otra parte, existen otros factores externos, como la firme independencia de los medios de comunicación y la alfabetización digital generalizada, que podrían reducir la probabilidad y gravedad de estos daños.

Impacto indirecto que la implementación de las notas de la comunidad tiene en los derechos humanos

Las responsabilidades para con los derechos humanos de aplicación más directa en relación con las notas de la comunidad que Meta asumió en virtud de los UNGP son aquellas mencionadas anteriormente. Estas abordan las condiciones en las cuales las notas de la comunidad podrían, en sí mismas, acarrear consecuencias negativas para los derechos humanos en determinadas circunstancias locales, o contribuir a ellas. Además de esas responsabilidades directas, la implementación mundial y el uso de las notas de la comunidad de Meta también implican mayores inquietudes respecto de los derechos humanos cuya naturaleza es más indirecta, pero aun así significativa.

Meta afirmó que seguirá aplicando las líneas normativas contra daños e información errónea que prohíben la información errónea que es probable que contribuya de manera directa (i) a un riesgo de violencia inminente y (ii) a un riesgo de interferencia con la capacidad de las personas de participar en elecciones. Sin embargo, los usuarios también publican información falsa y engañosa que puede, en diversas circunstancias, poner en riesgo los derechos humanos, pero que no alcanza el umbral de eliminación. Por ejemplo, la Relatora Especial de la ONU sobre la libertad de expresión afirmó que la desinformación "es políticamente polarizante, impide que las personas ejerzan verdaderamente sus derechos humanos y destruye su confianza en los Gobiernos e instituciones" ( A/HRC/47/25, párrafo 2). Puede contribuir a un conjunto de daños más amplio "amedrentando el ejercicio de la libertad de expresión, reduciendo el grado de confianza en la esfera pública como espacio de deliberación democrática, amplificando las ideas antidemocráticas, impulsando la polarización y promoviendo planes autoritarios y populistas" ( A/HRC/47/25, párrafo 24). Un entorno de información degradado en el que existen estas condiciones puede poner a las personas en riesgo, porque se limita su acceso a la información y su derecho a participar en el proceso político.

Aunque estos daños pueden ser graves, habitualmente no alcanzan el umbral de eliminación que justificaría que el Estado aplique restricciones a la libertad de expresión en virtud del Artículo 19(3) del ICCPR. De hecho, la Relatora Especial de la ONU sobre la libertad de expresión planteó inquietudes (informe A/HRC/47/25, párrafos 57 y 58) sobre los riesgos para la libertad de expresión que entrañan las leyes demasiado generales sobre las "noticias falsas". En todo el mundo, estas leyes se usan como pretexto para censurar a ONG, periodistas y disidentes políticos. En vista de estas inquietudes, medidas menos estrictas que la eliminación pueden resultar más proporcionadas para los fines legítimos de los derechos humanos. Anteriormente, el Consejo había hecho hincapié en la importancia de abordar los daños asociados con la información engañosa mediante medidas menos invasivas que la eliminación, por ejemplo, proporcionar información que corrija los datos falsos o degradar el contenido engañoso (consulta las decisiones de los casos Publicaciones a favor de los disturbios en el Reino Unido y Imágenes de una protesta acompañadas por cánticos a favor de Duterte Tal como expresó el Consejo en reiteradas ocasiones, estas medidas difieren de las obligaciones del Estado en esta área, y los Estados que busquen aplicar restricciones similares infringirían derechos.

Hay cierta ambigüedad por parte de Meta respecto de si la empresa quiere que las notas de la comunidad constituyan una medida de mitigación contra este tipo de daños. Por un lado, en respuesta a la pregunta del Consejo sobre la relación entre las notas de la comunidad y la verificación de datos independiente, Meta indicó "diferencias fundamentales" entre ambos mecanismos y afirmó que las notas de la comunidad favorecen un objetivo más general: los colaboradores "aportan contexto al contenido si creen que podría ser útil contar con más información". Por otro lado, Meta introdujo las notas de la comunidad en la misma declaración en la que anunció que pondría fin al programa de verificación de datos independiente en los Estados Unidos. Meta describe las notas de la comunidad específicamente como una función que permite a las personas "agregar más contexto a las publicaciones que son potencialmente engañosas o confusas" (detalle en el que se pone énfasis). Meta también incluye las notas de la comunidad como parte de su enfoque respecto de la información errónea; de hecho, describe la verificación de datos independiente como mecanismo "informativo" fuera de los Estados Unidos y las notas de la comunidad como herramienta con el mismo fin, pero dentro de los Estados Unidos.

El Consejo considera que estas últimas declaraciones, y la política de información errónea de Meta de manera más amplia, demuestran que la empresa busca de forma proactiva abordar este tipo de información engañosa y concibe las notas de la comunidad como una herramienta con un rol en el desempeño de dicha responsabilidad.

En la medida en que las notas de la comunidad se diseñen como una herramienta que permita abordar las inquietudes respecto de los derechos humanos en relación con la información errónea que no alcanza el umbral de eliminación, el Consejo valora que estas no restrinjan la expresión del modo en que sí lo hacen otras medidas, como la eliminación de contenido y las faltas impuestas a las cuentas. No se reduce el alcance o la visibilidad del contenido que recibe una nota, como pasa con las publicaciones que reciben etiquetas tras una verificación de datos independiente. Para el Consejo, esta es una forma adecuada de modular la proporcionalidad de la intervención de Meta de modo que resulte más coherente con la protección de la libertad de expresión. En algunos contextos, el programa también puede generar una réplica discursiva que actúe como verificación efectiva de este tipo de información errónea y, por ende, ayude a Meta a cumplir con la responsabilidad asumida en esta área. Sin embargo, si Meta vislumbra las notas de la comunidad como principal o única manera de abordar todo tipo de información engañosa que no alcanza el umbral de eliminación, las decisiones de diseño inherentes a su funcionamiento pueden limitar su capacidad para ello. La repercusión de estas decisiones, como la imposición de un único eje de desacuerdo por parte del algoritmo respecto de divisiones sociales complejas, la cantidad relativamente pequeña de notas publicadas y, por sobre todo, la dependencia del sistema en la profundidad y confiabilidad del entorno de información más general (incluida la verificación de datos independiente si está disponible), plantean graves preocupaciones sobre qué tan adecuadas son las notas de la comunidad para abordar la información engañosa que se vincula a daños.

Hace poco, la Relatora Especial sobre la libertad de expresión señaló inquietudes respecto de las implicaciones que algunas de estas funciones tienen sobre los derechos humanos, así como los cambios generalizados en todo el sector, que pasó de la verificación de datos a mecanismos comunitarios, como las notas de la comunidad ( A/80/341, párrafos 67 a 72). Si bien la Relatora destaca que la moderación basada en la comunidad entraña posibles ventajas, incluidos alcance, costo y su naturaleza democrática, también señaló potenciales desventajas. Entre ellas, se encuentran la "sensibilidad a la captación" mediante la manipulación de calificaciones, "la aplicación incoherente de las normas" y "la falta de conocimientos especializados coherentes y los requisitos de consenso de la comunidad" ( A/80/341, párrafos 69 y 70). La Relatora Especial concluye que "los comentarios de la comunidad y la verificación de los hechos no deberían considerarse herramientas mutuamente excluyentes" (A/80/341, párrafo 72). Como se analizó antes, en contextos sumamente polarizados donde las divisiones sociales no se ajustan de manera precisa al modelo de polarización que asume el algoritmo de las notas de la comunidad, puede ser difícil llegar a calificaciones de consenso. En la práctica, a causa de esta limitación técnica, es posible que se muestren muy pocas notas como para que el sistema resulte un mecanismo útil que permita determinar si la información es engañosa. Asimismo, Meta usa su tecnología automatizada para reducir la distribución de publicaciones límite (contenido que sus sistemas prevén que probablemente infrinjan las Normas comunitarias, pero que no se confirmó que así sea) sobre las cuales las personas solicitaron notas en la interfaz del colaborador. Sin embargo, debido a esta práctica, es posible que dichas publicaciones, que son las que más necesitan intervenciones contextuales, tengan menos probabilidades de recibir notas. Más allá del funcionamiento del algoritmo, el Consejo señala que Meta reduce la distribución de las notas en la interfaz del colaborador, lo que explicaría por qué en ocasiones se muestran tan pocas notas como para que el sistema resulte útil para verificar la información engañosa. El Consejo reconoce también, sin embargo, que los riesgos de captación, incoherencia y niveles de conocimientos dispares no son exclusivos de los sistemas basados en la comunidad, sino que también pueden surgir en la moderación automatizada o a cargo de expertos.

Si bien se determinó mediante algunas investigaciones que las notas de la comunidad se perciben como más confiables que las marcas de información errónea de los verificadores de datos, otras investigaciones sobre su precisión indican que las evaluaciones colectivas no son tan exactas en comparación con los verificadores de datos profesionales. Además, cabe mencionar el rol de las fuentes que brindan los verificadores de datos profesionales en las notas de la comunidad que se califican como útiles. En un reciente estudio de investigación, se descubrió que "las notas de la comunidad citan fuentes de verificación de datos hasta cinco veces más que las registradas anteriormente", mientras que otro estudio determinó que "las organizaciones de verificación de datos son la tercera referencia más usada en todo el mundo". Estas comparaciones no implican que el programa de verificación de datos de Meta no tenga también limitaciones y puntos débiles importantes. Por ejemplo, el Consejo había descubierto que los verificadores de datos jamás revisan la gran mayoría del contenido en colas de verificación de datos, en parte debido a restricciones operativas y de recursos (consulta la opinión de asesoramiento normativo Eliminación de información errónea sobre el COVID-19). Por ende, incluso aunque las limitaciones de las notas de la comunidad generen inquietudes legítimas, el Consejo observa que las medidas basadas en réplicas discursivas contextuales pueden, en determinadas circunstancias, satisfacer mejor las consideraciones de proporcionalidad y libertad de expresión que las intervenciones más invasivas, en particular en situaciones en las que la información errónea no alcanza el umbral de eliminación.

Cabe destacar que, en la medida en que el sistema de notas de la comunidad tenga como fin ser una pieza de la respuesta integral de Meta a las inquietudes sobre derechos humanos que surgen de la información falsa y engañosa que no alcanza a generar daños probables o inminentes, su implementación no se puede evaluar de forma aislada. En algunos mercados, idiomas y áreas problemáticas, la verificación de datos profesional cuenta con capacidad limitada o nula, y las notas de la comunidad podrían ser un medio por el cual los usuarios reciben información contextual sobre posible contenido engañoso. En otros lugares, las notas de la comunidad podrían complementar operaciones de verificación de datos más sólidas (consulta PC-31587, European Fact-Checking Standards Network). Meta debe considerar el estado general de un ecosistema de información, incluidos la accesibilidad y confiabilidad de la información, al determinar dónde y cómo introducir las notas de la comunidad. Dado el rol que suelen desempeñar las agencias de verificación de datos en cuanto a forjar los entornos de información más generales mediante investigaciones, fuentes e informes, su presencia (o ausencia) debe ser un factor que Meta debe tener en cuenta al tomar estas determinaciones. Esta consideración es de particular importancia en contextos donde hay conflicto, durante elecciones y en entornos donde grupos históricamente marginados y minorías desfavorecidas carecen de acceso adecuado a la participación en el discurso público.

Procesos de debida diligencia respecto de los derechos humanos

Meta describió que su debida diligencia antes del lanzamiento de las notas de la comunidad en los Estados Unidos abarcó "la revisión de literatura y estudios académicos" centrados en la versión de las notas de la comunidad de X, así como algoritmos de despolarización en un nivel más general. Meta indicó que realizó esta revisión, focalizada únicamente en los Estados Unidos, para evaluar diversos factores que podrían considerarse indicadores de la efectividad del programa. La revisión incluyó analizar las investigaciones sobre si el público de los Estados Unidos percibe las notas de la comunidad como un mecanismo más legítimo que la verificación de datos tradicional, lo que podría sugerir una "mayor probabilidad de que las personas acepten la información que proporciona una nota de la comunidad por sobre la que brinda un verificador de datos independiente". Asimismo, en respuesta a estas preguntas del Consejo, Meta afirmó que "evalúa estudios que abordan la precisión de las notas de la comunidad y explora si estas pueden igualar o superar la verificación de datos independiente". Meta no indicó que alguna de estas investigaciones hiciera foco en el daño a los derechos humanos relacionado con las notas de la comunidad. Meta expresó que su equipo de políticas relacionadas con los derechos humanos ahora aconseja a equipos interfuncionales relevantes que identifiquen los posibles riesgos para los derechos humanos, así como las ventajas de las notas de la comunidad. Esta opinión de asesoramiento también debe considerarse parte de la debida diligencia en materia de derechos humanos en torno al lanzamiento mundial de las notas de la comunidad por parte de Meta.

Las recomendaciones del Consejo y los análisis asociados de los factores que Meta debe tener en cuenta al excluir países de la implementación de las notas de la comunidad se basan en una consideración general del posible impacto en los derechos humanos que tendría la implementación internacional antes mencionada. Sin embargo, el posible riesgo para los derechos humanos y las estrategias de mitigación adecuadas dependen de manera crítica del diseño y la funcionalidad de las notas de la comunidad en cada contexto. En los materiales proporcionados al Consejo, Meta afirma aplicar suficientes medidas de mitigación de riesgos para los derechos humanos (por ejemplo, anonimato de los colaboradores y protección contra la manipulación), pero la efectividad de dichas medidas no se puede verificar de forma adecuada, a menos y hasta que haya datos e informes sobre su funcionamiento en la práctica.

Por este motivo, las recomendaciones del Consejo son necesariamente condicionales, ya que las preguntas que plantea Meta no se pueden responder con un alto grado de confianza porque no hay datos detallados sobre cómo funciona el algoritmo de las notas de la comunidad de Meta en situaciones del mundo real, ni sobre su relación con otras herramientas de detección de información errónea. La empresa también debe supervisar y medir con atención el impacto real a medida que el producto se vuelve operativo en contextos nuevos y diferentes. Meta se comprometió a realizar pruebas a las notas de la comunidad antes de lanzarlas en un mercado. El Consejo señala que estas pruebas deben focalizarse en detectar y mitigar riesgos relacionados con el funcionamiento del algoritmo, la representación lingüística y la participación de los colaboradores. El Consejo remarca su reiterado llamado a ejercer total transparencia, elaborar informes y brindar acceso a los investigadores a los datos sobre el rendimiento de las notas de la comunidad. Esto debe incluir datos equivalentes a los que X ya comparte sobre su sistema de notas de la comunidad, incluidos, como mínimo, el texto completo de todas las notas y sus regiones geográficas asociadas, las calificaciones de cada nota, el historial de estado, la inscripción de los usuarios y las solicitudes de notas en el contenido.

6. Factores recomendados específicos de cada país

El Consejo recomienda los siguientes factores para guiar la implementación de las notas de la comunidad de Meta. Para evaluar estos factores y ponderarlos entre sí de un modo escalable, el Consejo también sugiere clasificaciones y evaluaciones relevantes que Meta debería revisar como parte de sus preparativos y su eventual supervisión de la expansión de las notas de la comunidad. Estas clasificaciones y evaluaciones no son fuentes confiables exhaustivas sobre las condiciones en el nivel de un país, pero proporcionan mediciones generales de algunos de los factores que figuran debajo. Meta debe revisar también sus propios datos sobre el rendimiento de las notas de la comunidad, así como consultar con expertos y partes interesadas afectadas de países en los que se podría implementar el programa.

Como se mencionó arriba, Meta puede realizar una implementación de las notas de la comunidad que cumpla con las normas de derechos humanos. Hay varios factores que pueden afectar el orden de implementación de Meta, y algunos requieren de debida diligencia adicional. Existen también otros factores que el Consejo percibe como consideraciones de umbrales en los que Meta debe garantizar medidas de mitigación particulares sólidas antes de avanzar.

Contextos en los que se reprimen los derechos humanos

Como ya mencionamos varias veces, el programa de notas de la comunidad depende de una base de colaboradores activos y comprometidos. Los sistemas del estilo de las notas de la comunidad, y las tecnologías de polarización de forma más general, alcanzaron su máximo éxito en contextos que se caracterizan por contar con una sólida sociedad civil. Idealmente, los colaboradores tienen acceso a medios independientes para respaldar las notas de la comunidad propuestas y participar sin temor a sufrir acoso o represalias por redactar y calificar notas. Estas condiciones pueden ser más difíciles de alcanzar en países con antecedentes de represión de los derechos humanos. En dichos entornos, la influencia del Estado, los agentes coordinados online y el temor a represalias pueden sesgar la participación de la comunidad y conducir a una representación excesiva de narrativas mayoritarias o alineadas con el Estado en el grupo de colaboradores. Esto puede generar efectos inhibitorios que, de manera anticipada, silencian las voces de la oposición dentro del sistema.

Por otro lado, el Consejo consideró también cómo los entornos donde no hay indicadores de una sociedad civil sólida, por ejemplo, hay bajos niveles de libertad de expresión y evidencia actual e histórica de abusos sistemáticos de los derechos humanos, podrían beneficiarse de la introducción de las notas de la comunidad (consulta PC-31548, Cubalex). En este punto, si se garantizan medidas de protección rigurosas para los colaboradores, las notas de la comunidad podrían ser una herramienta eficaz para que estos luchen contra la represión, ya que pueden usar el sistema para detectar perspectivas alternativas y publicar información a la que, de otro modo, no se podría acceder. Si se protege el anonimato, el sistema podría ser también una vía para cuestionar las narrativas oficiales del Estado.

Debido a los posibles riesgos para la seguridad y la protección de los colaboradores, el Consejo recomienda que, hasta tanto Meta pueda demostrar que las medidas para proteger la privacidad de los colaboradores son sólidas y efectivas, con evidencia de red-teaming en condiciones adversas, una política clara respecto de cómo se gestionan las solicitudes de datos de las notas de la comunidad que presentan los organismos de las fuerzas del orden y la presencia de medidas de mitigación de riesgos, los países con antecedentes de represión de los derechos humanos y sociedades civiles débiles deberían quedar fuera de la implementación internacional inicial de las notas de la comunidad. Para el Consejo, se trata de una condición necesaria antes de la expansión. Clasificaciones como Freedom in the World y Freedom on the Net de Freedom House, así como el proyecto Varieties of Democracy ( V-Dem), el Global Expression Report de Article 19 y el Índice de libertad de prensa de Reporters Without Borders emplean varios indicadores (más allá de las puntuaciones generales por país) que ofrecen mediciones integrales de los niveles de libertad de expresión, libertad de prensa y participación de la sociedad civil.

Elecciones de alto riesgo

El Consejo reconoce que algunos contextos electorales pueden resultar adecuados para las notas de la comunidad. Cuando hay entornos de información sólidos, la libertad de prensa permite a los periodistas dar a conocer diferentes perspectivas sobre acontecimientos relevantes y los agentes de la sociedad civil actúan sin temor a represalias, las notas de la comunidad pueden respaldar el acceso a la información y la libertad de expresión en contextos electorales. No obstante, si no están presentes dichas condiciones y el sistema corre el riesgo de publicar notas engañosas sobre hechos que son fundamentales para que las personas ejerzan el derecho a participar en asuntos públicos en momentos críticos de procesos electorales, Meta debe conducirse con precaución. Si se detectan estos riesgos para los derechos humanos y Meta determina, mediante pruebas del producto, evaluaciones de riesgos y debida diligencia sobre los derechos humanos, que sus medidas de protección no bastan para mitigarlos, no se deberían implementar las notas de la comunidad antes o en el transcurso de elecciones importantes. Para el Consejo, este es un umbral que Meta debe usar para determinar si, en un momento dado, las notas de la comunidad ya se pueden introducir en un país.

Como ya dijimos, algunas investigaciones sugieren que la velocidad de la información errónea puede superar ampliamente la capacidad de los sistemas de moderación basados en la comunidad. Durante elecciones, que son acontecimientos urgentes que se caracterizan por una intensa actividad política, la demora en la intervención puede tener un impacto inmediato en los derechos a la participación política. La exposición inicial a contenido engañoso puede condicionar las respuestas o socavar la confianza en las instituciones o los procesos políticos antes de que se publiquen notas que ofrecen interpretaciones alternativas del contenido o correcciones. La persistencia de narrativas engañosas puede afectar a las elecciones que se prolongan más allá del período electoral debido a resultados impugnados. En ambos casos, las notas de la comunidad no generan daños concretos (como sería el caso si se mostrara lenguaje que incita al odio, por ejemplo, o los colaboradores quedaran expuestos a represalias por parte de autoridades gubernamentales), pero, si se implementan automáticamente, pueden resultar una medida de mitigación inadecuada contra información engañosa que no alcanza a generar daños probables o inminentes. Por estos motivos, el Consejo recomienda que la introducción de las notas de la comunidad antes de las elecciones tenga en cuenta su integración con otras medidas relacionadas con las elecciones, como los centros de operaciones de productos relativos a la integridad y los centros de operaciones electorales.

En el desarrollo de posibles plazos de expansión, Meta debe consultar clasificaciones relevantes y datos relacionados con la integridad de las elecciones, así como calendarios que definen las próximas elecciones en el mundo, como la Guía electoral de International Foundation for Electoral Systems (IFES).

Situaciones de crisis y conflicto

En entornos de crisis y conflicto, pueden presentarse todos los riesgos antes mencionados. Las notas de la comunidad pueden ser vulnerables a la manipulación coordinada por parte de grupos armados, agentes estatales o sus seguidores con la intención de legitimar la propaganda mediante tácticas para burlar el sistema de calificación de notas. Las notas que se publican, pero reflejan un consenso creado de manera no auténtica corren el riesgo de contribuir a entornos de información sesgados que ponen en peligro a los usuarios. La asimetría en cuanto a la información en las notas de la comunidad puede agudizarse cuando grupos particulares no pueden participar como colaboradores debido a factores que predominan en entornos de conflicto, como la falta de acceso a internet estable y la seguridad necesaria para participar. Más allá de la manipulación intencional de la información, el contenido falso o engañoso relacionado con la violencia y la seguridad pública que tal vez no califique en virtud de las líneas normativas contra daños e información errónea de Meta se puede difundir con rapidez y puede acarrear consecuencias en la vida real antes de que se propongan, califiquen y publiquen las notas de la comunidad.

El sistema también corre el riesgo de publicar contenido violento si el algoritmo de las notas de la comunidad identifica una división que no se correlaciona con los factores que desencadenan la violencia en un conflicto particular. En este escenario, el sistema potencialmente podría "despolarizar" la división entre grupos dominantes que son hostiles hacia otro grupo implicado en el conflicto. Como resultado, las notas atacarían a este grupo mutuamente desfavorecido y podrían incitar a la violencia en su contra.

En situaciones de crisis y conflicto, las consecuencias y el impacto en los derechos humanos de estos posibles problemas se agravan debido a la velocidad de desarrollos críticos. Esto pone de relieve la importancia de la rapidez. El desfase temporal en la publicación de las notas, que varias partes interesadas señalaron como una inquietud principal, sugiere que las notas de la comunidad tal vez no sean una medida de protección adecuada en situaciones de crisis y conflicto. Asimismo, en contextos de esta naturaleza, hay una tendencia a la violencia, lo que significa que los umbrales de incitación serán más bajos. Como consecuencia, las notas en contra de grupos particulares pueden generar daño en la vida real con más facilidad. Aquí, el Consejo reitera la recomendación que hizo a Meta en la decisión del caso Publicaciones a favor de los disturbios en el Reino Unido de "realizar evaluaciones continuas sobre la efectividad de las notas de la comunidad, en comparación con la verificación de datos" y enfocarse en "la velocidad, la precisión y el volumen de las notas o las etiquetas que se aplican en situaciones en las que la rápida difusión de información falsa representa un riesgo para la seguridad pública".

Como ocurre en las elecciones, el Consejo presupone que se mantendrían vigentes otras medidas de integridad relacionadas con crisis y conflictos, como el protocolo de la política de crisis. Meta debe asegurarse de que cualquier implementación de las notas de la comunidad que implique dichas situaciones aborde la integración del producto con estos protocolos y herramientas relacionados con crisis. Al Consejo le preocupa que, como explicó Meta en su respuesta a una pregunta que le planteó, la empresa "no desarrolló disposiciones respecto del uso del producto en situaciones de crisis, incluido adaptar, modificar o suspender la función". Dadas las inquietudes sobre el rendimiento dispar de las notas de la comunidad y la ausencia de datos de pruebas piloto verificados a nivel interno sobre el funcionamiento del sistema durante crisis y conflictos, Meta debe consultar clasificaciones y datos relevantes, como Armed Conflict Location and Event Data Project (ACLED), para evitar depender demasiado de las notas de la comunidad durante estos acontecimientos.

Debido a la incertidumbre sobre el rendimiento de las notas de la comunidad en respuesta a dinámicas de conflicto complejas, así como a la posibilidad de que el sistema ocasione o exacerbe el riesgo de daño, el Consejo no cree que se deban introducir las notas de la comunidad en países que atraviesan crisis o conflictos prolongados. Para el Consejo, se trata de otra condición que Meta debe usar como umbral para guiar la introducción de las notas de la comunidad.

Complejidades lingüísticas a las que Meta no puede adaptarse desde el punto de vista técnico y operativo

Para que las notas de la comunidad funcionen según Meta tiene previsto, la base de colaboradores debe reflejar los diferentes idiomas usados en un contexto dado. En países en los que el programa no funciona en esos idiomas, o Meta no puede alcanzar los niveles de participación y representación lingüística necesarios para que el sistema funcione correctamente, Meta debe demorar la introducción de las notas de la comunidad. De lo contrario, se podrían generar o exacerbar disparidades lingüísticas en las notas propuestas y publicadas, lo que perjudicaría su función como fuente de información pluralista y diversa.

Asimismo, el Consejo en reiteradas ocasiones instó a Meta a garantizar la paridad lingüística, tanto desde el punto de vista técnico como operativo, en todos sus sistemas de moderación de contenido. Estos llamamientos se centran en funciones como desarrollar herramientas de aplicación de políticas automatizadas en sintonía con el contexto en diversos idiomas, garantizar que los clasificadores actúen con precisión en los distintos idiomas, trabajar con socios de confianza en diferentes idiomas y mantener relaciones con verificadores de datos independientes que puedan evaluar las afirmaciones en idiomas diferentes en un mercado determinado. Las notas de la comunidad por sí solas no pueden desempeñar todas las funciones de la moderación de contenido de Meta.

Por último, el Consejo expresó que hay variaciones lingüísticas y culturales potencialmente relevantes en cuanto al uso que los diferentes grupos hacen de las notas de la comunidad. Por ejemplo, el significado de hacer clic en un botón para calificar una nota como "útil" en diferentes países puede diferir de maneras inesperadas en función de normas sobre cómo se debe usar dicho botón. Lo mismo puede pasar con la connotación exacta con que se interpreta la palabra "útil" en la interfaz de usuario de las notas de la comunidad cuando se traducen a diferentes idiomas. Estas diferencias cambiarán la estructura de los conjuntos de datos que el sistema de notas de la comunidad acumula y el significado que se les debe atribuir, y, en última instancia, los tipos de notas que publica. En países en los que Meta anticipa que estas funciones de las notas de la comunidad no pueden adaptarse a la complejidad lingüística, debe demorar la introducción del programa hasta tanto las investigaciones y las pruebas demuestren que los usuarios en diversos contextos culturales y lingüísticos pueden entender el sistema e interactuar con él.

Lugares donde la división social y el desacuerdo que fomentan la violencia no se pueden asignar a un solo eje de polarización

En general, el diseño del algoritmo de las notas de la comunidad de X representa el desacuerdo y la división en un contexto particular a lo largo de un único eje de polarización. Este intentará "despolarizar" grupos que existen en cualquier extremo de este espectro. Meta no brindó información que sugiera que su programa será considerablemente diferente. No obstante, en contextos donde no se puede representar con facilidad la división y el desacuerdo a lo largo de un solo eje, tal vez esta presunción no sea adecuada. En estos contextos, las notas de la comunidad probablemente no abordarán cómo convergen varios factores (en los ámbitos de política, etnia, religión, idioma y casta, por ejemplo) para estimular el desacuerdo.

En la práctica, esto significa que, en algunos contextos, las notas de la comunidad pueden encontrar consenso a lo largo de un eje, con relevancia limitada respecto de las divisiones sociales más críticas. En algunos escenarios, es posible que se publiquen notas dañinas que alcanzan un consenso. Esto puede ocurrir, por ejemplo, cuando grupos dominantes comparten un prejuicio mutuo hacia un grupo minoritario, y ese prejuicio sirve como la "despolarización" entre esos grupos dominantes. En contextos en los que el algoritmo no identifica e intenta "despolarizar" una división que genera conflicto y violencia, el riesgo de daño se vuelve especialmente agudo. Por estos motivos, el Consejo recomienda que Meta ejerza extrema precaución al considerar países que se caracterizan por estas dinámicas.

El Consejo reconoce que todos los contextos sociopolíticos se caracterizan por varios ejes de división y desacuerdo en cierta medida. Sin embargo, hay contextos en los que se elevan los riesgos de discordancia entre la manera en que las notas de la comunidad representan el desacuerdo en una sociedad y los factores que avivan la división social y política en ella. Esto incluye países en los que la cultura política se caracteriza por la fraccionalización lingüística, étnica y religiosa. No es necesario que dichos países se excluyan categóricamente de los planes de Meta de ampliar las notas de la comunidad. En lugar de ello, las notas de la comunidad deberían introducirse a nivel internacional en secuencia de un modo que permita probar el rendimiento del sistema en diferentes contextos. Además, el programa debería iniciarse con prudencia en entornos más semejantes a espacios donde Meta ya posee datos, pruebas y medidas de mitigación de riesgos. El algoritmo de las notas de la comunidad también podría diseñarse para representar e integrar varios ejes de división al mismo tiempo. Aquí, la implementación de Meta (y la omisión temporal de algunos países que no alcanzan el umbral de introducción temprana) dependería de las opciones de diseño que podrían distinguir las notas de la comunidad de Meta de la versión de X y mejorarlas a partir de allí.

El proyecto Varieties of Democracy (V-Dem) produce clasificaciones anuales de diversos indicadores de democracia. Entre ellos, se incluyen datos sobre los niveles de polarización en diferentes países, aunque ofrecen menos información valiosa sobre la naturaleza de dicha polarización en ellos. Como parte de su debida diligencia en materia de derechos humanos relacionada con la implementación mundial de las notas de la comunidad, Meta debe consultar con expertos en países que se caracterizan por una alta polarización para evaluar si el algoritmo es capaz de capturar divisiones políticas y sociales notables.

Antecedentes de redes coordinadas de información errónea

Las notas de la comunidad operan bajo la presunción de que un conjunto suficientemente diverso e independiente de colaboradores evaluarán el contenido de buena fe y de que las señales de consenso pueden aproximarse a la precisión de manera confiable. En entornos en los que agentes del Estado, operaciones de influencia comercial y otros agentes malintencionados demostraron en reiteradas ocasiones que son capaces de coordinar enormes cantidades de cuentas para promocionar información engañosa, tal vez esta presunción no tenga sustento.

Meta le indicó al Consejo que cree que sus medidas de protección contra la manipulación y distorsión de las notas de la comunidad son suficientes. Si las notas de la comunidad se siguen sometiendo a pruebas en entornos reales para determinar qué tan vulnerables son, se generarán los datos necesarios para verificar si dichas medidas de protección son adecuadas. De lo contrario, las notas de la comunidad corren el riesgo de transformarse en vectores de manipulación, no en una medida de protección contra ella. El riesgo se acentuará aún más a medida que la inteligencia artificial facilite la creación y operación a gran escala de cuentas y redes.

El Consejo recomienda que Meta al principio excluya países en los que históricamente han operado redes de información errónea intencional a gran escala. Si lo hace, Meta debe centrarse en los mercados con una alta prevalencia comprobada de comportamiento no auténtico coordinado y operaciones de influencia contra públicos nacionales, conforme lo evidencian los propios informes de Meta sobre estos temas. La inclusión eventual en el programa de notas de la comunidad debe depender de que los resultados de las pruebas, incluida una evaluación de vulnerabilidades del programa mediante red-teaming, demuestren que las medidas de protección son adecuadas. Meta debe considerar no solo la presencia de agentes malintencionados, incluidos aquellos vinculados a regímenes autoritarios, sino también si dichos agentes demostraron tener intención de manipular los ecosistemas de información y poseen la sofisticación técnica para lograrlo a gran escala. Informes a nivel país de Freedom on the Net y Press Freedom Index documentan instancias de campañas de manipulación y difusión de información errónea avalada por el Estado, tal como lo hace también la empresa en sus declaraciones sobre el tema.

Obstáculos de acceso a internet

El Consejo recomienda excluir países que enfrentan obstáculos constantes o sistemáticos con respecto al acceso a internet, ya que las notas de la comunidad dependen de la participación general, permanente y equitativa de los colaboradores para funcionar según lo previsto. En lugares donde el acceso se ve restringido por brechas de infraestructura, costos altos, conectividad intermitente, disparidades regionales y, en especial, interrupciones impuestas por el Gobierno, el grupo de colaboradores que puede participar es necesariamente acotado. Esto socava la premisa principal de que el sistema de notas de la comunidad refleja un conjunto diverso y representativo de perspectivas capaz de decidir de forma colectiva qué contexto es importante y si es relevante para afirmaciones potencialmente engañosas. Asimismo, si se excluye a grupos particulares debido a problemas de acceso o se representan excesivamente otros grupos, el sistema podría correr el riesgo de amplificar el sesgo.

Como señala Meta en su solicitud, las restricciones que el Gobierno impone a internet son un subfactor de particular importancia porque "las limitaciones a la libertad de internet (debido a regulaciones o censura) podrían restringir el acceso de las personas a información precisa y oportuna para las notas y entorpecer la identificación de fuentes confiables para incluir dentro de las notas (p. ej., restricciones sobre el uso de motores de búsqueda particulares o el acceso a determinados sitios web de medios de comunicación)". Freedom on the Net ofrece un cálculo exhaustivo más general de los obstáculos en cuanto al acceso a internet. Este indicador abarca obstáculos de infraestructura, económicos, gubernamentales, regulatorios y legales.

Ponderación

A lo largo de la recomendación de factores, el Consejo señaló en qué espacios las notas de la comunidad podrían crear o exacerbar el riesgo de daño para los usuarios. Estos daños concretos se distinguen de los escenarios en los cuales la posibilidad de daño proviene de la inadecuación de las notas de la comunidad como medida de mitigación de riesgos (en particular en relación con información engañosa que no alcanza el umbral de eliminación de Meta). El Consejo recomienda que los factores en los que es más probable que se produzcan daños concretos se ponderen más. Asimismo, indicó que estos incluyen umbrales en los que Meta no debe introducir notas de la comunidad hasta tanto demuestre que puede hacerlo de un modo que garantice que se mitigaron los riesgos de estos daños. En otros espacios, el Consejo recomienda que Meta proceda con cautela y escalone o demore la implementación hasta que las pruebas demuestren que sus medidas de protección son adecuadas. Esto no implica que estos factores tengan menos importancia. El Consejo señala que estas pautas no pueden ser absolutas. En sus deliberaciones, el Consejo consideró varios escenarios en los que la presencia de un factor puede ser tan predominante que excluir un país es una medida apropiada, así como escenarios en los que ningún factor por sí solo es particularmente grave, pero varios factores se combinan de un modo que la exclusión termina siendo adecuada.

En última instancia, la debida diligencia en materia de derechos humanos y las iniciativas de mitigación de riesgos de Meta deben evaluar los factores que recomienda el Consejo, junto con datos de la plataforma internos y comentarios externos sobre el rendimiento de las notas de la comunidad. El Consejo expresó que Meta ya realiza un seguimiento de los factores mencionados, así como de las clasificaciones que se recomiendan como indicadores de esos factores, como parte de su índice de priorización de países según criterios de integridad. Se trata de un proceso semestral que Meta usa para revisar y priorizar países con el riesgo más alto de daño y violencia en la vida real. El Consejo espera que Meta ejerza el mismo nivel de rigor y criterio a la hora de determinar cómo se realizará la introducción de las notas de la comunidad en diferentes países.

En el análisis anterior, el Consejo proporcionó a Meta una serie de factores que debe tener en cuenta al determinar si excluir o no un país de una futura expansión de las notas de la comunidad más allá de los Estados Unidos, así como pautas respecto de dónde será fundamental recopilar y analizar datos adicionales sobre el funcionamiento del programa para evaluar la futura relevancia y el peso de dichos factores. Para demostrar que tuvo en cuenta los factores que recomendó el Consejo, Meta debe brindarle los criterios o la matriz de riesgo que desarrolle para guiar la expansión cada seis meses durante el período inicial, junto con evidencia que demuestre cómo se aplican en decisiones sobre la expansión de las notas de la comunidad por país.

El Consejo considerará implementada esta recomendación cuando Meta presente su primer informe que detalle cómo tuvo en cuenta, equilibró y ponderó los factores mencionados para cada mercado relevante, y cómo integrará los datos adicionales que recopile y analice sobre el funcionamiento del programa en la reevaluación periódica de la ponderación adecuada de dichos factores.

* Nota de procedimiento

La preparación de las opiniones de asesoramiento normativo del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de los miembros.

En cuanto a esta opinión de asesoramiento normativo, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología.

Volver a Decisiones de casos y opiniones consultivas sobre políticas