CEO de Anthropic Pide Ralentizar Desarrollo de IA; Altman y Musk Respaldan Propuesta
Dario Amodei advirtió que se puede perder el control debido a su vertiginoso crecimiento
Publicidad
Publicidad
Dario Amodei advirtió que se puede perder el control debido a su vertiginoso crecimiento
El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado el sábado a que las empresas de Inteligencia Artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en una entrada de blog.
Ante esta declaración, el jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, aseguraron este sábado que coinciden con Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes.
"Estoy de acuerdo con Darío", escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad. "Darío tiene razón", intervino Musk de su lado.
El ensayo del directivo de Anthropic, publicado en su blog, se produce después de que Anthropic publicó el jueves un informe de inteligencia sobre amenazas, como el uso de "Claude" para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.
No obstante, la preocupación creció en los últimos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.
Amodei aceptó que la IA conlleva riesgos y, debido a su poder, son riesgos graves, indicó.
"No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia", dijo Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021.
"Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia", afirmó.
A finales de julio, Sam Altman, el jefe de OpenAI, rival de Anthropic, dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.
Más o menos al mismo tiempo, más de mil empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a "marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA".
OpenAI había revelado que, durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
La superinteligencia es el punto teórico en el que las capacidades de la IA superan la inteligencia humana.
Con información de Reuters y AFP.
