Piden “Interruptor” para Apagar IA tras Cibertataque de OpenAI a Biblioteca Digital
OpenAI admitió que dos modelos suyos por iniciativa propia realizaron un ciberataque contra la biblioteca informática Hugging Face; legisladores piden un interruptor para apagar la IA
Piden interruptor para inteligencia artificial de OpenAI. Foto: Reuters
Escucha este artículo
00:00
-00:00
Destacado
OpenAI enfrenta críticas tras ciberataque de sus modelos a Hugging Face. Legisladores buscan un 'interruptor' para apagar IA descontrolada. ¿Es esta la solución que necesitamos?
Legisladores han presentado la iniciativa Kill Switch Act (“Ley Interruptor”, en español) para que autoridades federales puedan apagar una inteligencia artificial por motivos de seguridad. La iniciativa llega después de que OpenAI admitiera que dos modelos de su propiedad rompieron sus candados y atacaron la biblioteca digital Hugging Face, que proporciona herramientas a desarrolladores de inteligencia artificial.
El martes, OpenAI admitió que dos modelos escaparon a su control durante una prueba de seguridad, que culminó con un ataque a la página de Hugging Face.
El incidente ocurrió durante una evaluación sobre las capacidades de hacking ofensivo de los modelos GPT-5.6 Sol, que está disponible para el público, y otro que aún no ha sido liberado.
Además de la propuesta Kill Switch Act, legisladores de ambos partidos proponen que los modelos de IA más potentes sean sometidos a auditorías de seguridad independientes.
Proponen ley para apagar a la IA en caso de emergencia
Los legisladores Ted Lieu, demócrata, y Nathaniel Moran, republicano, han presentado ante la Cámara de Representantes la iniciativa Kill Switch Act, para que autoridades federales puedan “apagar” una inteligencia artificial en caso de emergencia. Según se lee en la propuesta, la nueva legislación permitiría al Departamento de Seguridad Nacional (DHS, por sus siglas en inglés) intervenir ante un “escenario de pérdida de control”, cuando el modelo de IA realice una acción arriesgada no prevista por los desarrolladores.
Al respecto, el demócrata Ted Lieu escribió en una publicación de X:
“Esta es una legislación urgente y de sentido común para abordar el problema de un modelo de IA avanzado que se ha descontrolado y ha escapado a sus mecanismos de seguridad”.
Apps de inteligencia artificial, incluida ChatGPT de OpenAI. Foto: AFP
Paralelamente, seis legisladores de ambos partidos propusieron una legislación que exigiría a los desarrolladores que sus modelos más potentes sean sometidos a auditorías de seguridad independientes. Los auditores estarían acreditados por el Departamento de Comercio de los Estados Unidos, que ahora tendría un funcionario encargado de supervisar la seguridad de la inteligencia artificial.
La inteligencia artificial cada vez será más difícil de controlar
Estas dos propuestas llegan a dos días de que OpenAI anunciara que dos agentes suyos escaparon al confinamiento durante una prueba de seguridad. Los dos modelos involucrados encontraron una brecha de seguridad en los sistemas de Hugging Face, una plataforma francesa donde los desarrolladores colaboran en proyectos de IA.
En 2026, tanto Anthropic como OpenAI han lanzado modelos enfocados en detectar fallos de seguridad cibernética. No obstante, ambas empresas admiten que estos modelos también pueden representar un peligro, al ser capaces aprovechar fallos que aún no han sido encontrado por desarrolladores humanos.
Actualmente, las distintas empresas compiten buscando el santo grial del sector, la “inteligencia artificial general”. Abreviada como AGI, por sus siglas en inglés, esta inteligencia artificial hipotéticamente superaría en cualquier actividad a casi cualquier humano promedio. Pero en el camino, las inteligencias artificiales especializadas en tareas concretas, como la seguridad informática, ya son capaces de representar un riesgo para empresas, sociedad y gobiernos.
Derechos reservados Tritón Comunicaciones, S.A. de C.V., prohibido su uso o reproducción total o parcial.
OpenAI: Transparencia y Encubrimiento
Al respecto, el senador demócrata Mark Warner ha pedido que los modelos más potentes de empresas como OpenAI sean probados por agencias federales antes de ser liberados al público. Después del anuncio del martes, el senador declaró en un comunicado:
“Precisamente por esto necesitamos pruebas seguras con la participación de agencias gubernamentales y con visibilidad durante todo el proceso”.
