Demis Hassabis apuntó que este escenario ocurriría si las empresas y los gobiernos no toman medidas para garantizar su seguridad
Escucha este artículo
El presidente de Google DeepMind, Demis Hassabis, alertó que los agentes de inteligencia artificial podrían provocar incidentes graves de aquí a uno o dos años si no se toman medidas de seguridad.
El líder del laboratorio de investigación en IA de Google dijo que los casos de pérdidas de control de estos agentes autónomos en los últimos meses "son, en cierto modo, señales de alerta".
Según añadió, estos sistemas todavía tienen capacidades limitadas, por lo que los incidentes ocurridos hasta ahora no han sido graves en su opinión, pero el panorama podría cambiar en apenas dos años.
La preocupación por la seguridad de la IA se disparó después de que modelos desarrollados por OpenAI y Anthropic se vieran implicados en incidentes durante las pruebas, lo que aumentó la presión para regular esta tecnología.
Hassabis afirmó que probablemente los nuevos modelos de IA deberían probarse primero en entornos aislados sin conexión, conocidos como "sandboxes", después de que modelos de otras empresas lograran escapar precisamente de los entornos cerrados utilizados para evaluar sus capacidades.
Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas de IA debían dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.
ICM
.jpg&w=1920&q=75)
.jpg&w=1920&q=75)