El Alto Comisionado de los Derechos Humanos de Naciones Unidas llamó a establecer límites antes de que sea demasiado tarde
Escucha este artículo
El jefe de derechos humanos de las Naciones Unidas advirtió este lunes que la inteligencia artificial (IA) podría representar una "amenaza existencial para la humanidad" y exigió tomar medidas inmediatas para reducir los riesgos.
Durante su intervención ante el Consejo de Derechos Humanos de la ONU, Volker Türk advirtió que actualmente la humanidad enfrenta amenazas a sus derechos "desconocidas, incluso sin precedentes".
"La necesidad de una gobernanza de la IA es ampliamente reconocida, pero ¿dónde están las acciones?", cuestionó, al advertir que "la demora solo beneficia a las grandes empresas tecnológicas, a sus propietarios y a quienes las respaldan".
Türk lamentó que "un puñado de hombres tiene un poder casi ilimitado sobre la IA, de la que se nos dice repetidamente que posee una capacidad de procesamiento inimaginable".
"Hablan de libertad, pero, tras una revisión más detallada, esto resulta ser poco más que la libertad de explotar nuestros datos", afirmó el jefe de derechos humanos.
Türk advirtió particularmente que "una IA que escapa de su entorno de prueba o chantajea a sus desarrolladores para evitar que la apaguen es una IA demasiado poderosa".
Sus declaraciones parecieron aludir a las revelaciones de julio, cuando se informó que agentes de OpenAI habían escapado de entornos supuestamente controlados y habían ingresado a servidores de Hugging Face, una plataforma ampliamente utilizada por programadores para compartir software de IA.
El episodio sacudió al mundo tecnológico y reavivó los llamados a establecer una regulación y supervisión más estrictas sobre la inteligencia artificial.
Anthropic, Meta y otras empresas también han reportado incidentes similares durante las pruebas de agentes de IA.
"Comparto las preocupaciones de expertos de la industria de que una IA avanzada podría representar un riesgo existencial para la humanidad", afirmó Türk.
"Hoy hago un llamado a realizar un esfuerzo integral para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde", añadió.
El jefe de derechos humanos de la ONU dijo que en los próximos días enviará cartas a empresas de inteligencia artificial "para instarlas a tomar las medidas que están bajo su control para reducir los riesgos desde ahora".
Como mínimo, señaló, "necesitamos que los países que albergan infraestructura de IA y aquellos que participan en sus cadenas de suministro se unan en torno a límites claramente establecidos".
"Necesitamos una verificación independiente y una colaboración mucho más sólida en materia de seguridad dentro de la industria", sostuvo.
"También debemos considerar el impacto de la IA en los derechos humanos, las prácticas laborales, los principios fundamentales de la democracia y nuestro medio ambiente", añadió.
ASJ
