00:00Bueno, uno de los grandes temas que se está debatiendo
00:03a nivel mundial en este momento
00:04es cómo va a afectar la inteligencia artificial,
00:07pues no solamente a los empleos,
00:09a la manera en que nos relacionamos,
00:11sino que últimamente está esta idea
00:14de que las máquinas podrían tener su vida propia,
00:20digamos, vamos a ponerlo así,
00:22y que podrían en algún momento decidir acabar con la especie humana.
00:27una cosa apocalíptica, Javier,
00:29como que suena, desde luego, a ciencia ficción,
00:34pero en varias mesas lo hemos estado discutiendo
00:36en estos días, es muy interesante.
00:38Creo que la premisa que no acabamos de entender de esto
00:43es que la inteligencia artificial
00:44va a ser más inteligente que el ser humano.
00:49Y eso sí tiene implicaciones importantes
00:51para el ser humano, ¿o no?
00:54Yo creo que hay varios riesgos.
00:56que es importante desagregar, que representa un primer riesgo,
01:01es, en efecto, que la inteligencia artificial tome control.
01:07Hoy por hoy, quien controla las cosas, vamos a decir,
01:09somos los humanos, ¿no?
01:10Pero si, en efecto, creas algo que es más capaz,
01:14más inteligente que un humano...
01:19El humano que la controla.
01:20...hay un riesgo de que tome el control la inteligencia.
01:24Digamos, ese es el mayor riesgo. Eso no ha pasado y el riesgo es a futuro podría pasar.
01:30Ya pasó en el caso de OpenAI con sus agentes que fueron a hackear un sitio de Internet.
01:38A lo que se refieren con que tomen el control,
01:41eso es algo que todavía no ocurre, que es que se pueda mejorar solita
01:48y ya, pierdas el control. Eso todavía no ocurre.
01:50que han actuado de manera independiente, pero eso es distinto.
01:55En contra de sus instrucciones.
01:57Ahorita entramos a eso.
01:59Pero el primer riesgo a futuro, y que es gigantesco,
02:05es perder el control.
02:06El segundo riesgo es que alguien, ya como existen,
02:12Puede ser un gobierno, puede ser un individuo,
02:15puede ser un grupo terrorista, puede ser una corporación.
02:18Que alguien las use para mal.
02:19El siguiente riesgo, y eso es un riesgo humano,
02:23no tecnológico, pero usando la teoría.
02:25El tercer riesgo es un accidente, que chín se me chispoteó,
02:31chín, no me di cuenta o no, que cuando uno tiene
02:34una herramienta tan compleja, pues de repente pasan
02:38cosas que uno no esperaba. Eso no te va a pasar
02:40con un martillo, pero con algo tan complejo
02:44sí te puede pasar un accidente.
02:47Y el último riesgo tiene que ver con que nadie sabe bien a bien dónde están las rayitas.
02:54Y que sin querer crucemos una frontera y que ya no haya manera...
03:00Que muchos piensan que ya las cruzamos.
03:03El consenso que yo siento entre expertos es que todavía no se cruza esa rayita,
03:07que es la rayita de pérdida de control.
03:11pero que ese es el otro, que no quedan del todo...
03:14Esto va avanzando tan rápido que no quedan claro
03:19dónde están esas rayitas y cuándo se cruzan esas rayitas.
03:25Y esto tiene un impacto, y con esto ya termino,
03:28en muchos ámbitos hay un impacto existencial,
03:32los escenarios apocalípticos y también utópicos.
03:36Los utópicos, claro.
03:37Los dos, destópicos y utópicos.
03:40Luego hay un impacto a nivel geopolítico gigantesco en esto.
03:44Luego hay un impacto ecoeconómico-social de todo esto.
03:48Y luego está toda la parte bélica de todo esto.
03:52Y como eje transversal en todo esto,
03:55las implicaciones políticas de su impacto existencial,
03:58de su impacto en la economía, de su impacto en lo social,
04:01de su impacto en temas bélicos.
04:03Entonces, sí es una cosa abrumadora.
04:05Yo creo que lo que hemos visto estos días es la preocupación,
04:09sobre todo, del número uno, el punto número uno.
04:12De pérdida de control.
04:13De pérdida de control.
04:14De evitar cruzar esa línea.
04:16A mí me parece que...
04:17A mí lo que más miedo me da de la inteligencia artificial
04:19es que el futuro tecnológico de la humanidad
04:23está en manos de siete grandes CEOs.
04:28Y de China una parte, pero estos van mucho más adelantados.
04:32Y luego, la segunda cosa que me da muchísimo miedo
04:35es que ese grupo de oligarcas
04:39prácticamente han endeudado
04:43a todos los fondos privados.
04:46Hay una cantidad de dinero invertido ahí.
04:50Porque le están metiendo billones de dólares.
04:54Entonces, por ahí hay algo donde todo el mundo
04:56le está metiendo muchísimo dinero sin saber cuál va a ser realmente
05:00el éxito en términos de utilidades y réditos.
05:05Y a ver qué pasa con eso.
05:06Segundo, este grupo de oligarcas no tiene límites hasta hoy.
05:11Entonces, el Congreso norteamericano no se los quiere poner,
05:15el presidente de Estados Unidos tampoco se los puede poner.
05:19Y ellos, interesantemente, salen a decir
05:22que es peligro, peligro.
05:25O sea, un poco quizá para eludir su responsabilidad,
05:29¿Por qué? Porque a mí me parece que cuando estás tú fabricando algo,
05:34tú eres responsable de los riesgos que esa cosa pueda generar a futuro.
05:39Uno se pone a dudar cuando un empresario pide regulación, ¿no?
05:42O sea, dices, caray, no está en la naturaleza el empresario
05:46que el Estado lo quiera regular.
05:48A menos de que quieras un oligopolio.
05:50Entonces, por un lado, tenemos unas empresas
05:52que necesitan tener una cantidad de utilidades brutales
05:56para poder responder a las deudas,
05:58Chachi Pity calcula que es un billón de dólares al año,
06:02lo que cuesta el desarrollo de IA,
06:05más la infraestructura que requiere IA.
06:08Porque, o sea, lo que nos vamos a gastar en agua,
06:11en centros de datos, en energía eléctrica, tal y tal.
06:15Entonces, frente a ese grupo de personas,
06:19ahí es donde tenemos que hacerlos rendir cuentas
06:24de alguna o de otra manera.
06:25No puede ser que siete personas decidan
06:27y el mundo se puede acabar en cualquier momento.
06:30Y son siete estadounidenses.
06:32¿Puedo una más? Una que creo que es importante la precisión.
06:35En efecto, salieron recientemente estas siete,
06:38vamos a llamarnos que son siete personas, a decir esto,
06:41pero este reclamo de la importancia de regulación, etcétera,
06:47ha sido un reclamo sistemático
06:49de una enorme cantidad de gente involucrada en la industria.
06:54Lo que pasa es que si sale un joven matemático de 26 años
06:58que se acaba de salir y dice algo, no lo pelan tanto.
07:01Si sale Mosk a decir o si sale...
07:05Mi pregunta es si lo quieren o no lo quieren.
07:06No, no. Lo que quiero decir es que no de repente de la nada
07:12Sí, ya es un debate.
07:14Sí, pero lo que quiero decir es si realmente quieren ese...
07:17Y a mí me parece que, aunque no lo pusiste tú,
07:19Pero a mí, el riesgo que más veo encima de la inteligencia artificial
07:28O sea, ¿en qué medida estos agentes
07:32van a empezar a desplazar gente que reclama...
07:35Como toda tecnología.
07:36Como toda tecnología.
07:38...que reclama un empleo formal?
07:40Y que los seres humanos vamos a estar compitiendo
07:42contra los agentes que a la empresa les salen baratísimos,
07:46¿Por qué no necesitan salario? ¿Por qué no necesitan seguro médico?
07:50¿Por qué no necesitan vacaciones? ¿Por qué no se necesitan...
07:53No, no, y lo peor del caso es porque trabajan mejor que el humano.
07:56Entonces, yo creo que si viene una crisis ruda, rápido,
08:01y yo ya lo estoy viendo en el ámbito legal,
08:04es en la cantidad de empleos...
08:07Pero el Economist de la semana pasada hizo la cuenta
08:11y dijo que se han ganado más empleos con la inteligencia artificial.
08:14El que más han ganado, ¿saben cuál es? Electricistas.
08:18Porque resulta que en todos estos centros de datos
08:21se necesitan un chorro de electricidad
08:24y se necesitan electricistas que sepan conectar las cosas.
08:27El motor de nuestras exportaciones en el año reciente
08:31es generando trabajo.
08:33Claro, generando los centros de datos, el hardware.
08:36Ahora, ¿qué le va a pasar a los médicos?
08:38¿Qué le va a pasar a los médicos? ¿Qué le va a pasar a los abogados?
08:42¿Qué le va a pasar a los financieros? ¿Qué le va a pasar a los...?
08:45Pues goodbye, como a los telegrafistas,
08:47cuando salió el teléfono, adiós.
08:49Y si va a haber demanda por los que se queden pidiendo trabajo.
08:53O sea, la verdad, creo que es demasiado optimista decir
08:57que no viene una crisis laboral brutal.
08:59No, claro que viene, pero cómo se...
09:01Pero van a salir, yo creo, otras profesiones, pero en fin.
09:04Y el cambio climático, me parece...
09:06Yo creo que la alarma que nos hace platicar justamente hoy
09:12y de estos asuntos tiene que ver con la renuncia
09:15de un técnico joven que dice yo me salgo de Antropic
09:20porque aquí puede estar, aquí no solamente en esta empresa,
09:24sino en esta industria,
09:25puede estar la extinción del género humano en una década.
09:31En 2030, creo que. En 36.
09:35Lo sorprendente a mí me parece,
09:38después de que esto se convierte en el gran tema de conversación,
09:43es que la industria no dice esto es una estupidez,
09:48esto está absolutamente fuera de proporción,
09:52no hay ningún elemento para creer en lo que está diciendo
09:56este tipo que se acaba de ir de nuestra industria,
09:59sino, en efecto, ese riesgo existe.
10:02El riesgo no es de un de un problema ambiental
10:08de pérdida de empleos.
10:09El riesgo es la extinción de la humanidad.
10:14Eso es lo que están diciendo.
10:18Los datos lo están diciendo.
10:21lo están diciendo quienes están al frente de estas industrias.
10:25Y por qué lo están diciendo?
10:27Porque están dándose cuenta
10:30que están generando una racionalidad
10:34que escapa a la razón humana.
10:37Que hay esta falta de control porque hay una lógica
10:41que escapa de nuestra comprensión.
10:44Y este es el fin de la modernidad
10:49en donde hay esta pretensión
10:51de que nuestra racionalidad descubre el mundo.
10:55Entiende, lo hace lógico.
10:56¿Por qué puede acabar el mundo?
10:58Te dan explicaciones muy concretas.
11:00Si quieres, ahorita entramos a eso.
11:01Por ejemplo, si los humanos son competencia para la electricidad,
11:05pues acaba con los humanos, porque eso nos va a dar...
11:07Pero yo creo que el argumento más profundo
11:10es por algo que no entendemos,
11:13por algo que no está dentro de la lógica del Homo sapiens,
11:18en donde hay un propósito en la acción de acuerdo a estos criterios.
11:23A mí me parece que la alarma tiene que ver
11:27con el alumbramiento de una racionalidad
11:29inescrutable. Por eso esta visión de Harari, que a los tecnólogos le parece absurdo, creo que tiene
11:40algo de razón. Hay la creación de deidades que son incomprensibles, que lo saben todo, que son
11:49infinitamente más racionales que los seres humanos y que frente a ellos somos lombrices, que no
11:58entendemos de álgebra, cómo le vas a explicar a una lombriz esas operaciones
12:06complejas. No lo entiendes. Yo creo que eso a mí me parece que lo más preocupante
12:13es la alarma que no se genera en quienes ignoramos el mundo de la inteligencia
12:19artificial, sino en quienes lo están desarrollando. Con esa gran contradicción
12:26de que se pide la regulación y al mismo tiempo se está en una carrera para perder el control de la
12:34tecnología. Déjame, hago una pausa si me permites porque se nos acabó el tiempo de este segmento y
12:40regresamos contigo Blanca para que le entres a este debate. Regresamos.
