Gobernanza de chatbots para jóvenes de entre 13 y 17 años: Evaluación de su convergencia respecto de la libertad de expresión y otros derechos
5 de mayo de 2026
El Consejo asesor de contenido está llevando a cabo una investigación nueva para proporcionar orientación industrial con un enfoque holístico y basado en los derechos humanos sobre la gobernanza de los chatbots impulsados por IA para los jóvenes de 13 a 17 años. Está buscando aportaciones de grupos de interés para informar la documentación técnica resultante. Este año, el Consejo anunció su intención de expandir su trabajo hacia soluciones que abarquen a toda la industria para los desafíos más grandes que impactan a los usuarios en línea, incluidos los jóvenes. Este proyecto es parte de la prioridad estratégica del Consejo que trata los derechos y los intereses de los jóvenes.
Los chatbots de IA (p. ej.: ChatGPT, Gemini, Claude) son interfaces que los jóvenes de 13 a 17 años usan cada vez con más frecuencia y de forma principal para acceder a información, aprender, formular ideas, acceder a entretenimiento y expresar su creatividad. Esto tiene implicancias importantes en una amplia variedad de derechos plasmados en la Convención sobre los Derechos del Niño de las Naciones Unidas, que incluye los derechos de acceso a información, libertad de expresión, privacidad, salud, educación, juego, participación en la cultura y protección contra violencia y abuso. Aunque estos derechos son independientes y se consolidan mutuamente, también pueden ponerse en tensión.
Desde que los chatbots están disponibles ampliamente, la investigación sobre las oportunidades y los posibles daños de esta tecnología está aumentando. Las medidas tomadas por las empresas de IA como respuesta a las preocupaciones emergentes se están desarrollando rápidamente, pero, en muchos casos, no se tienen en cuenta los derechos de los usuarios jóvenes. Algunas empresas de IA solo limitaron el acceso para que puedan acceder adultos en lugar de invertir en cambios en el producto y las políticas para que se enfoquen en el respeto por los derechos de los usuarios jóvenes. Los asuntos que las empresas deberían estar tratando de entender son los siguientes: cómo respetar de forma adecuada los derechos de los niños a medida que se desarrollan, cuál debería ser la función de sus padres y otros cuidadores y cómo considerar la posición de los niños a nivel global.
El Consejo trae a este debate su experiencia global en lo que respecta al desarrollo de políticas basadas en derechos y escalables en el sector tecnológico que abarquen las tensiones y las sinergias entre la libertad de expresión y otros derechos humanos. La política orientativa para las empresas resultante ayudará a garantizar respeto por las necesidades de seguridad e información de los jóvenes usuarios.
El Consejo agradecería comentarios públicos que aborden lo siguiente:
- Cómo los riesgos y las oportunidades relacionados con los chatbots de IA impactan en los derechos de los jóvenes de 13 a 17 años en diferentes partes del mundo.
- El impacto y la eficiencia de las medidas de mitigación de daños, como los requisitos de edad mínimos, los controles parentales, el diálogo y las restricciones para los “prompts” basados en la edad y las configuraciones predeterminadas por cuenta.
- Investigación con respecto al desempeño de los modelos de lenguaje grandes (LLM) en idiomas de bajos recursos, particularmente al entender las interacciones de riesgos altos, abordar temas sensibles e implementar garantías de forma efectiva.
- Buenas prácticas y enfoques recomendados para el diseño y la implementación de chatbots para abordar los riesgos asociados con el uso por parte de adolescentes.
