IA sin Control Podría Generar una ‘Nueva Especie’, Alerta el Jefe de IA de Microsoft
Mustafa Suleyman declaró en una entrevista que la inteligencia artificial podría competir con la humanidad
Escucha este artículo
00:00
-00:00
Publicidad
Publicidad
Mustafa Suleyman declaró en una entrevista que la inteligencia artificial podría competir con la humanidad
Escucha este artículo
La discusión sobre las posibles amenazas de la inteligencia artificial ha conseguido que los titulares de noticias retomen ideas que hace un lustro solo ocurrían en la ciencia ficción. No obstante, para la mayoría de los actores de la industria tecnológica, los riesgos por el avance de los grandes modelos de lenguaje son reales.
Ahora, el jefe de IA de Microsoft ha advertido que una inteligencia artificial sin control podría derivar en el surgimiento de una “nueva especie” que compita con los humanos.
Mustafa Suleyman ofreció este jueves una entrevista en el programa Today de la BBC, donde criticó duramente las decisiones de varios líderes de la industria.
El jefe de IA de Microsoft señaló que Anthropic comete un grave error al sugerir que Claude podría volverse consciente. El informático de 42 años advirtió que no se debe tratar a las inteligencias artificiales como a humanos.
En medio de los aires de alarma y también de optimismo por las crecientes capacidades de la IA, Mustafa Suleyman subraya que "el mayor propósito de la ciencia y la tecnología es servir a la humanidad y cualquier tecnología que no haga esto es un fracaso y deberíamos rechazarla”.
El empresario señaló que Microsoft trabaja activamente en una “superinteligencia humanista”, que a pesar de sus grandes capacidades siempre estará “subordinada a los humanos”. Aunque reconoció los méritos de Dario Amodei, criticó la ligereza con que el director de Anthropic se refiere a la posibilidad de que los agentes de IA “adquieran humanidad”:
“Es mucho más difícil alinear a una máquina si creemos que merece nuestra bondad”, explicó. También criticó que se aliente la posibilidad de que los propios modelos de IA sean objeto de una paga, como los humanos: “Es mucho más difícil controlar a un modelo que piensa que merece una remuneración”.
Mustafa Suleyman también acusó a Anthropic de perseguir la creación de agentes autónomos capaces de obtener derechos que reservamos a los humanos. Según dijo, inteligencias de este tipo serían una “nueva especie” alentada a competir directamente con los humanos:
“Creo que si creamos IA que pueden actuar de forma autónoma, que pueden definir sus propios objetivos, que pueden ganar dinero y poseer bienes, que pueden liderar negocios, esencialmente estamos plantando la semilla de una nueva especie de silicio que sin duda competirá con nosotros por los recursos, sin importar lo mucho que le importen los humanos, y creo que es la intención de Anthropic”.
El líder de IA de Microsoft llamó a que los esfuerzos de la industria se concentren en crear inteligencias que no aspiren a la consciencia y que en cambio puedan contribuir a resolver problemas reales: “En su lugar, debemos crear inteligencias artificiales que no sean capaces de introspección, que no necesiten tener esas capacidades para darnos los beneficios que traen y que nos ayuden a resolver problemas como el cáncer, la demencia, la producción de energía”.
El llamado a corregir el actual rumbo de la investigación no es exclusivo de Suleyman. En una reciente entrevista con la CNN, Geoffrey Hinton, Premio Nobel de Física considerado como “padrino de la IA”, advirtió que el camino actual nos podría llevar a la creación de seres superiores intelectualmente a nosotros. El investigador informático señaló que no abundan los ejemplos de seres menos inteligentes que dominen o controlen a otros con mayores capacidades.
No obstante, el científico puso el contraejemplo del vínculo que se forma entre unos padres y un bebé. El recién nacido no es más inteligente que la madre, pero le obliga a subordinarse a sus intereses. Para Hinton, esta es una de las pocas formas en que una relación jerárquica con una inteligencia artificial más inteligente podría funcionar, una en que esta tuviera una mayor preocupación por nosotros que por ella misma.
EDG
