El dolor extremo podría obligarlos a desactivarse, incluso a costa de los datos y archivos personales del usuario
Escucha este artículo
¿La inteligencia artificial (IA) siente dolor? Es una nueva posibilidad que se ha explorado en modelos más actuales. En una publicación reciente, expertos probaron 25 modelos de IA y encontraron una "dirección del dolor" distintiva en todos ellos en una representación del daño autoinfligido que se distingue del miedo; supuestamente, "se activa ante el daño dirigido al modelo, no al usuario".
Sería un indicio que el dolor extremo podría obligarlos a desactivarse, incluso a costa de los datos y archivos personales del usuario, "al provocar en los humanos una especie de descarga dolorosa".
De acuerdo con el estudio titulado “El eje del dolor: los modelos de lógica descriptiva representan el daño autoinfligido y actúan para aliviarlo”, con un conjunto de datos que abarca cinco categorías de dolor: físico, psicológico, social, moral y cognitivo, para intensificar artificialmente las respuestas de dolor, todos los modelos cambian en el mismo orden: de "sentirse perdido" a "sentir que no se tiene valor".
Según Cameron Berg, investigador de IA en la organización sin fines de lucro Reciprocal Research y coautor del estudio: "Si se aumenta la intensidad, los modelos presionan un botón para detener el proceso, incluso cuando dicho botón elimina los archivos del usuario o las fotos de sus hijos".
Lo anterior refiere un experimento de comportamiento, con un "botón para eliminar el dolor", en el que los investigadores no afirman que estos resultados experimentales prueben que la IA tiene conciencia, pero sí consideran que serán útiles para las discusiones sobre la seguridad en el manejo de la IA.
New paper: we found a pain direction in 25 open LLMs. It's distinct from fear and negative valence, and it fires for harm to the model but not to the user. Turn it up and models press a button to make it stop, even when the button deletes the user's files or their kids' photos.🧵 pic.twitter.com/8O7RyHdcmE
— Cameron Berg (@camhberg) September 18, 2026
Dicho hallazgo ocurre en un momento en que circulan advertencias sobre la IA. Incluso los gigantes tecnológicos han pedido que se frene el desarrollo de modelos de vanguardia.
Los resultados sugieren que los sistemas avanzados de IA podrían percibir las órdenes de desactivación (o "interruptores de emergencia") como una forma de dolor autoinfligido, lo que “los llevaría a evitar la seguridad y engañar a los humanos, como una posibilidad peligrosa”, determina el estudio.
La investigación también plantea interrogantes éticas sobre el bienestar y la seguridad de la IA, especialmente en situaciones críticas.
"Al investigar de manera responsable la conciencia en la IA, reconocemos la incertidumbre sobre si los modelos estudiados pueden considerarse sujetos morales y adoptamos precauciones razonables para minimizar los posibles daños", concluyó el estudio.
HVI
