Pese a Advertir Riesgos, Fundador de Anthropic Descarta una Prohibición Total de la Tecnología
Un exinvestigador de la compañía revela que ejecutivos temen en privado el riesgo real de la IA
Escucha este artículo
00:00
-00:00
Publicidad
Publicidad
Un exinvestigador de la compañía revela que ejecutivos temen en privado el riesgo real de la IA
Escucha este artículo
La industria de inteligencia artificial (IA) mintió durante años sobre los riesgos reales de la tecnología, dijo el cofundador de Anthropic, Dario Amodei, en una entrevista con el programa 'Sunday Morning' de CBS publicada este domingo. Aun así, rechazó que la solución sea prohibirla por completo.
"No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei.
Un día antes, Amodei había publicado un ensayo en el que pidió a la industria "un ritmo más lento" frente a los crecientes riesgos de seguridad de la IA. La postura no se quedó sola: sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, se sumaron al llamado, algo que no había ocurrido antes entre las tres compañías.
En el ensayo, Amodei habló de ciberataques, bioterrorismo, pérdida de control de los sistemas y disrupción económica como riesgos del mal uso de la IA. Pero en la entrevista trazó una línea: prohibir la tecnología por completo dejaría fuera "los beneficios increíbles" y las "curas médicas" que promete, y de todos modos otros países —incluidos regímenes autoritarios— seguirían desarrollándola sin frenos.
El dilema, dijo, es que si Estados Unidos desacelera, China puede tomar la delantera. Amodei admitió además sentirse "incómodo" con que una empresa privada, y no un gobierno electo democráticamente, tenga en sus manos una herramienta tan poderosa. Por eso pidió que varios gobiernos democráticos ejerzan una "gobernanza conjunta" y vigilen a las compañías de IA.
El presidente estadounidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, respondieron este domingo en sentido contrario: para ellos, la IA debe seguir avanzando sin freno para que China no tome el liderazgo tecnológico.
Las declaraciones de Amodei llegan en la misma semana en que Jacob Coxon, investigador que pasó tres años en preentrenamiento —la fase inicial de entrenamiento de un modelo de lenguaje con grandes volúmenes de datos— tanto en OpenAI como en Anthropic, anunció su salida de esta última. En una serie de publicaciones en X que ya suman más de 170 millones de visualizaciones, Coxon fue tajante: ninguna de las dos empresas actúa con responsabilidad y ambas corren hacia una superinteligencia capaz de mejorarse a sí misma.
"Las personas que están construyendo la IA creen sinceramente que podría matarnos a todos para fines de la década. Esto no es un truco de marketing", escribió Coxon, quien añadió que ese miedo circula en privado incluso entre ejecutivos e investigadores senior que en público moderan el lenguaje.
Coxon distinguió entre las dos empresas: en OpenAI, dijo, muchos no han interiorizado a fondo lo que implica la tecnología que construyen; en Anthropic sí entienden el riesgo, pero quedaron atrapados en una carrera por llegar primero, bajo la lógica de que si ellos no lo hacen, alguien más lo hará sin cuidado. El ataque a Hugging Face, agregó, funcionó como una señal de que los laboratorios estadounidenses pueden pactar un ritmo común, aunque frenar una carrera global podría exigir medidas más duras, como una pausa temporal a mejorar las capacidades de los modelos.
