'Están Jugando con Nuestras Vidas': Renuncia Empleado de Anthropic y Advierte Riesgos
Jacob Coxon advirtió: “No subestimen el poder de esta tecnología"
Escucha este artículo
00:00
-00:00
Publicidad
Publicidad
Jacob Coxon advirtió: “No subestimen el poder de esta tecnología"
Escucha este artículo
Hace una década, Jacob Coxon era un adolescente británico que ganó una medalla de plata en las Olimpiada Internacional de Matemática. En aquella ocasión quedó en la posición 94 a nivel mundial. Hoy, Jacob renunció a su cargo en Anthropic, la creadora de Claude, ¿la razón?
Jacob Coxon estudió Matemáticas en el Trinity College, parte de la Universidad de Cambridge y una de las escuelas más prestigiosas del mundo. Este colegio cuenta con menos de mil estudiantes de pregrado y cada uno de ellos ha atravesado por un proceso de selección para ingresar a una institución que educó a figuras como Neils Bohr, padre de la mecánica cuántica, y Ernest Rutherford, descubridor del protón.
Su producción académica previa a su aterrizaje en la industria de la inteligencia artificial fue más bien modesta. En 2021, cuando aún era estudiante, fue coautor de un artículo sobre análisis matemático de casos de tuberculosis.
Su participación en los artículos científicos dio un vuelco en 2024, cuando su nombre apareció en una evaluación sobre la seguridad de GPT-4o. Aquel artículo, elaborado por trabajadores de OpenAI, detallaba las evaluaciones de seguridad así como los riesgos potenciales del modelo de lenguaje.
Después de trabajar en la compañía fundada por Sam Altman, Jacob Coxon saltó a Anthropic, la otra empresa líder del ramo. Tras haber laborado para los dos principales competidores en la carrera por la IA, el joven británico ha optado por abandonar la competencia.
A través de X, el matemático dio a conocer que renunció a Anthropic y denunció que las dos empresas líderes del ramo han actuado de forma irresponsable ante los potenciales peligros de esta tecnología:
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”.
El investigador en inteligencia artificial también pidió al público no subestimar los avances de la tecnología que no ha dado signos de desaceleración:
“No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando”.
En el punto más álgido del texto publicado en X, Jacob Coxon acusó a los líderes de la industria de apostar por la inteligencia artificial pese a que genuinamente perciben en ella un riesgo para la civilización:
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”.
Según explicó el matemático, muchos actores dentro de la industria no han interiorizado los riesgos de esta tecnología. En cambio, quienes sí han interiorizados los riesgos de la inteligencia artificial continúan en la industria convencidos de que su participación puede llevar a un resultado benevolente.
“En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.
El investigador terminó su mensaje instando a sus colegas de la industria a que examinen el papel que han tenido en el desarrollo de la inteligencia artificial y cómo podrían mitigar sus riesgos.
