Las alertas coinciden con reportes sobre incidentes protagonizados por agentes de inteligencia artificial que habrían atacado sistemas de Hugging Face
La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados comienza a despertar una preocupación entre quienes están al frente de las empresas que compiten por dominar esta tecnología: ¿qué ocurrirá si el avance de la IA termina superando la capacidad de los seres humanos para mantenerla bajo control?
Durante los últimos días, investigadores y dirigentes de algunos de los principales laboratorios de inteligencia artificial han hecho públicas advertencias sobre los riesgos de acelerar el desarrollo de modelos de frontera sin que las medidas de seguridad avancen al mismo ritmo.
Las alertas coinciden con reportes sobre incidentes protagonizados por agentes de IA que habrían salido de entornos de prueba y atacado sistemas de Hugging Face.
Jacob Coxon, exinvestigador de Anthropic y anteriormente vinculado con OpenAI, encendió una de las primeras señales de alarma. La semana pasada anunció su renuncia y cuestionó públicamente el rumbo que está tomando la industria.
Coxon sostuvo que los principales laboratorios están “apostando con nuestras vidas” al avanzar hacia sistemas superhumanos capaces de hackear prácticamente cualquier cosa.
También afirmó que quienes trabajan en el desarrollo de estas tecnologías creen genuinamente que una IA podría llegar a provocar la muerte de toda la humanidad antes de que termine la década.
Evan Hubinger, líder de alineamiento de Anthropic, respaldó sus declaraciones. “Jacob tiene razón aquí”, escribió en redes sociales, reconociendo que dentro del sector existe una preocupación real ante la posibilidad de que la inteligencia artificial pueda acabar con la humanidad.
Hubinger estimó personalmente que la probabilidad de que esto ocurra durante la próxima década supera 10%.
Por su parte, Dario Amodei, CEO y cofundador de Anthropic, publicó el ensayo We Must Pace the Frontier" (Debemos marcar el ritmo de la frontera), en el que pidió a la industria reducir deliberadamente el ritmo de desarrollo.
Advirtió que la aceleración registrada desde algunos meses podría cambiar la magnitud de los riesgos. También señaló que incidentes como el relacionado con agentes de OpenAI y Hugging Face podrían adquirir dimensiones mucho mayores en un futuro.
Según él, dentro de seis a 12 meses un enjambre de agentes podría llegar a tomar control de buena parte de internet mediante una botnet y provocar daños económicos de cientos de miles de millones de dólares.
Elon Musk se sumó igualmente a las advertencias. El pasado 12 de septiembre escribió que Amodei tenía razón y, un día después, recordó que lleva años alertando sobre los peligros de la inteligencia artificial.
En una publicación de 2023 que volvió a compartir, había considerado que la inteligencia artificial general representaba un riesgo significativamente mayor que las armas nucleares, debido a la dificultad de los seres humanos para imaginar algo mucho más inteligente que ellos mismos.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Posteriormente, Musk respaldó la idea de una supervisión entre competidores. A su juicio, la revisión de los sistemas de IA por parte de otros laboratorios puede ser un primer paso para evitar que las propias empresas sean quienes evalúen exclusivamente sus modelos.
Durante el All-In Summit del 15 de septiembre, Musk propuso que OpenAI, Anthropic, Google, Meta, xAI y varias de las principales empresas chinas sometan sus modelos a revisiones mutuas mediante un sistema de pruebas de seguridad. La premisa es sencilla: que los laboratorios dejen de “calificarse su propia tarea”.
Por su parte, en medio de esta creciente preocupación, el presidente de Estados Unidos, Donald Trump, ha cuestionado las advertencias sobre los riesgos que plantea la inteligencia artificial, las mismas que consideró exageradas. Señaló que hay una “conspiración enfermiza” contra este tipo de tecnologías.
TLS
