00:13Pues estamos de vuelta y si le parece a usted convendría quizás entrar a otro tema que
00:20ha sido objeto de debate que de hecho se ha llegado a plantear como una nueva guerra fría
00:27tecnológica, que es el relativo al avance sobre la inteligencia artificial. Un tema por demás que
00:36pusieron sobre la mesa los propios desarrolladores de la inteligencia artificial. Yo quisiera abrir
00:43contigo Enrique, ¿qué es lo que estás tú viendo ahí? Hay dos posturas encontradas, Trump que dice
00:49de ningún modo se frena, hay que acelerar, no le vamos a dar ventajas a China, pero los propios
00:57desarrolladores dicen cuidado. Es un es un temazo y déjame empezar por la
01:01pregunta como debe ser para responderla porque creo que se acaba de abrir un
01:06nuevo frente en esta en esta discusión, un nuevo frente de atención que tiene
01:10que ver con convertir esta discusión sobre la posible regulación de la
01:15inteligencia artificial en una en una especie de carrera geopolítica. Sí. Es
01:20gravísimo porque justamente podría exacerbar el riesgo que estamos
01:23tratando de evitar. Es decir, si Washington cree que debe desacelerar,
01:27pero no lo hace porque Beijing se va a adelantar, pues Beijing tiene el mismo
01:31argumento. Y entonces entramos todos en esta lógica de si entiendo, pero no
01:36puedo desacelerar. Tengo que mantener el pie a fondo y abrimos un frente
01:43geopolítico en un tema que realmente no está, no está para eso. Entonces, por un
01:48lado, esta parte. La otra que me parece muy importante y que lo señalabas es ya
01:53no solamente viene desde las oficinas ejecutivas de los modelos de inteligencia artificial,
01:58esta advertencia viene desde sus desarrolladores. Y es una conversación incompleta, porque sí,
02:05los fundadores de estas empresas pueden decidir cuánto y dónde invierten, los ingenieros pueden
02:13determinar cómo construyen los modelos, pero no pueden, no hay una razón legítima para que
02:21decidan por el resto de nosotros. Si estamos hablando de una superinteligencia
02:25que generará disrupción y transformaciones profundas en todos los
02:29aspectos de la sociedad, entonces deben de participar todos los actores de la
02:33sociedad en estas determinaciones, con una serie de criterios, con una serie de
02:37regulaciones. Y esa es la pieza que está faltando, que tal vez se empieza a
02:41generar algo de tracción en torno a esta idea de
02:46participación colectiva que no habíamos visto hasta el momento. Por un lado, este
02:49nuevo frente geopolítico, que a mí me parece aterrador. Por otro,
02:53cada vez más desarrolladores, fundadores,
02:57periodistas involucrándose en esta idea de qué se está haciendo,
02:59cómo se está haciendo. Apenas hoy nos enteramos que OpenEye aceptó nuevos
03:04errores y fallas graves en la operación de sus sistemas.
03:08Hace unas horas lo reportó el New York Times y la
03:12conciencia tal vez de que todos debamos de participar de esta conversión,
03:15porque siempre que se ha detectado un riesgo mayor en una tecnología,
03:22en la medicina, en algún tipo de generación de energía,
03:27esto lo que ha generado es un un consenso sobre mayor atención
03:32y regulación y mayor gestión, no al revés.
03:36Y aquí, mientras estamos discutiendo todo esto,
03:39pues siguen avanzando en la competencia feroz, las empresas y los gobiernos.
03:43Ahí vienes, digo, es paradójico.
03:46Los desarrolladores están pidiendo que se les regule,
03:50cosa que por lo general es a la inversa.
03:53Y los reguladores, en este caso el Congreso, dice no autorregulense.
03:59Es decir, como que hay una es.
04:02Nadie quiere la culpa.
04:03Nadie quiere. Nadie quiere ni la responsabilidad.
04:07Mira, yo creo que lo primero es que tendríamos que evaluar
04:09la naturaleza del riesgo.
04:12Todo esto estalla porque la semana pasada un ingeniero que había trabajado en OpenAI y en
04:19Anthropic salió y dijo voy a renunciar, creo que hay una posibilidad de que esto lleve a la
04:27aniquilación de la especie, es decir, esto es un riesgo existencial, es el que yo estoy viendo,
04:32eso es lo que se habla allá adentro, eso es lo que la gente que está adentro cree,
04:36y pues claro que oye uno eso y pues es terrorífico, y creo que lo primero sería que personas no
04:43involucradas internamente, porque además creo que tienen una cosa de un lenguaje propio, una cosa
04:51interna, incluso intereses internos, tendría que poder hacer una evaluación de cómo están. La
04:56segunda parte que me parece increíble, estas personas tienen un inmenso poder, y me refiero
05:01a los dueños de estas grandes empresas. Fíjate que Amodei, el CEO de Antropic,
05:07una de estas empresas, hizo declaración. ¿Quién abre el debate? Pues no,
05:11lo dice en realidad. Pero bueno, entonces él hace la declaración y dice es que
05:18nosotros hemos detectado que nuestros agentes de inteligencia artificial de
05:23repente tienen comportamientos de rebeldía, etcétera, y que hacen cosas,
05:27mienten y cosas así. Y él dice, bueno esto también se explica porque como
05:32nosotros los fuimos alimentando de información, entre las cosas que les
05:36dimos estaban libros de ciencia ficción en que robots se revelaban frente a los
05:40humanos y de ahí pueden sacar ideas. Y después te enteras que OpenAI ha
05:46hecho también una serie de ejercicios donde les pone, por ejemplo, tareas
05:50imposibles, al mismo tiempo les dice que no pueden mentir, y los agentes
05:55encargados toman la decisión de mentir, de hacer trampa. A mí lo que me parece interesante es que
06:03en medio de todo lo que nos están diciendo, que nos dicen que hay una amenaza, no se hacen
06:08responsables de que quienes nos llevaron a eso son ellos. Hoy Sam Altman de Open Air dijo,
06:14tienen razón en tener miedo pero ténganos confianza. Un acto de fe. Perdón, no podemos
06:19tener confianza y me parece increíble el poder que han adquirido estos que son unos cuantos seres
06:25humanos. Este es una micro élite que estaba detrás del presidente Trump el
06:30día de su segunda inauguración. Claramente que han metido dinero en
06:35campañas, en su campaña, que además tienen contratos con el gobierno
06:40multimillonarios. Son una casta de enorme poder que además hoy nos dice estén en
06:46razón ustedes todos los mortales de tener miedo. Nosotros por cierto ya
06:49hicimos nuestros bunkers, pero además tengan razón de tener miedo, pero
06:53Ténganos confianza. Me parece increíble la derrota de la democracia de Estados Unidos y
07:00de las instituciones mundiales para evitar que en tan pocas manos se tomaran decisiones como esta,
07:07como la forma de ir avanzando al grado de ellos mismos decir que hay un riesgo y ellos nos
07:13llevaron ese riesgo. En fin, creo que hay muchas cosas que se tienen que discutir aquí, digamos,
07:19y sí creo que hay una abdicación de la democracia estadounidense y también pues una incapacidad de
07:25las instituciones internacionales para realmente tener un ojo mucho más vigilante sobre lo que
07:31está ocurriendo ahí. Por cierto, también falta saber que esta amenaza esté sustentada en hechos
07:37y no también en ya el universo, un poco de juego de vídeo en la que viven todos ellos con sus
07:45ideas de convertirse en inmortales, de vivir en Marte y todas esas cosas. Creo
07:49que creo que no hay que entrar en pánico.
07:54Hay evidencias de excesos, aunque no del grado del que estás tú
08:01suponiendo, ¿no? No, sí. Lo que publica hoy el New York Times de Open AI es
08:07importantísimo. Le cuenta seis mentiras flagrantes en su sistema,
08:13incluso uno que tiene que ver con lo que decía Denise, en donde este mismo
08:23programa, esconde una nota para sí mismo,
08:27diciendo, no se te olvide que hay que mentirle a los usuarios.
08:34Entonces eso, una serie de mentiras, cuando le hicieron las preguntas y no encontró
08:39los datos, entonces inventa la respuesta. Y en la
08:44discusión, que es lo que lo que refleja el New York Times, es
08:49cómo la inteligencia artificial en OpenAI ya estaba tomando
08:56decisiones unilaterales, o sea las máquinas unilaterales, totalmente divergentes de lo
09:02que son las conductas y los valores. Y le llaman no alineadas, no alineadas. Pero por
09:07supuesto que sí, que esa es parte de la discusión, porque aquí yo diría, ya no es
09:14si la inteligencia artificial es más inteligente que el ser humano, sino
09:19quién va a controlar la inteligencia artificial. La van a controlar los
09:24humanos, pero si la controlan los humanos, en realidad no van a ser los
09:28humanos como humanidad, van a ser un puñado de menos de 10 personas y
09:34gobiernos que van a tener el control de absolutamente todo, incluido qué es
09:39verdad y qué no es, y qué no es verdad. Más allá de lo que tú mencionabas, todo,
09:44todo el comportamiento de las sociedades, toda la organización, dependería de un
09:50pequeño grupo de personas, que se convertiría en una dictadura universal
09:55colegiada entre, ¿cuántos? Entre cinco empresas y dos gobiernos. Súmalo de China,
10:01Es que solamente para dar un pasito atrás, porque tal vez quienes nos están viendo,
10:05no todos están absolutamente sumergidos en qué es la tecnología de inteligencia artificial y
10:10por qué estamos hablando de su capacidad de disrupción. Ha cruzado una frontera que
10:15ninguna tecnología ha siquiera alcanzado antes. Y yo lo resumiría así. Ya no es tecnología que
10:25genera capacidades de fuerza física o de tareas repetitivas. Es una tecnología
10:31que ha desarrollado capacidades esencialmente humanas. Más que
10:37humanos. Capacidades cognitivas. Y ese es el verdadero riesgo, porque está
10:43en la posibilidad de que piense, de que desarrolle conceptos.
10:49Por eso no es... Tome decisiones. Tome decisiones. No es necesariamente un
10:53conflicto entre innovación y regulación, sino una carrera entre capacidad privada
10:58y velocidad pública para alcanzar a todo lo que está desarrollándose.
11:04Acelerar, frenar, controlar. Me parece, me recuerdan mucho las discusiones
11:09políticas que se tenían en la filosofía política del siglo pasado sobre la
11:16tecnología nuclear, en donde se hablaba también de una carrera en ese entonces
11:21entre las dos grandes facciones de la guerra mundial, por crear esta tecnología enormemente
11:26disruptiva, que nadie sabía hacia dónde podía llegar, pero que tenía un enorme riesgo de terminar
11:31con la humanidad misma. Estuvimos así. Y aquí también quiero recordar que terminamos muy mal,
11:40esa carrera terminó muy mal, termina con una gran tragedia en Hiroshima, en Nagasaki,
11:45donde mueren millones de personas. Pero no sé si terminamos. Bueno, a partir de
11:51entonces se regula, pero no se logra regular antes. Se crean ciertas
11:55regulaciones, que por cierto recientemente han perdido fuerza, que es
11:59muy importante acentuarlo, pero al menos por 50 años mantuvimos una regulación
12:04relativamente estable del poderío nuclear de distintas fuerzas. Ahora,
12:10a mí lo que me preocupa es que esta discusión vuelva a llevarnos un siglo después a una
12:15situación similar, con una enorme tragedia. A ver, los mismos directivos dentro de las empresas o
12:21los programadores dentro de estas empresas han declarado que hay un sincero cálculo de que hay
12:28un 10% de probabilidad de que la humanidad desaparezca en la próxima década debido a la
12:34pérdida de control de la inteligencia artificial.
12:36Podemos o no creer eso, que suena como ciencia ficción,
12:40pero ¿cuál es la probabilidad de que haya, por ejemplo,
12:43una pérdida de control de la inteligencia artificial y
12:45entonces se pierda control sobre las torres aeronáuticas del
12:49aeropuerto de Nueva York?
12:50O de que se pierda control sobre cierta información médica
12:55específica, que se haga un gran implosión, por ejemplo,
12:59de las cuentas de los bancos y entonces se pierdan, no sé, documentos, dinero, en fin,
13:07creo que ese es el verdadero riesgo y que es mucho mayor de 10 por ciento. Pues mira,
13:15¿cómo va a ser el mundo con la inteligencia artificial? Y creo que hay dos visiones,
13:21una apocalíptica, que ha sido en esta mesa ampliamente citada, pero también está la
13:26otra visión, que es la visión utópica, que es la inteligencia artificial, nos va a
13:30ayudar a resolver muchísimos problemas, sobre todo médicos, el cáncer, en fin, ya
13:36resolvió la inteligencia artificial, uno de los problemas matemáticos del milenio.
13:41Bueno, pero a lo que yo voy, yo hace 10 años entrevisté al que era en ese
13:45entonces el experto en inteligencia artificial, profesor Nick Bostrom de la
13:49Universidad de Oxford, y le pregunté, Nick, ¿cómo va a ser el mundo con la
13:54inteligencia artificial. Y me dio la mejor respuesta que yo he escuchado al
13:59respecto. Me dijo, mira, tú me preguntas esto, imagínate cuando evolucionamos como
14:04especie a ser el Homo Sapiens, que eran pequeñas tribus que íbamos recolectando
14:10fruta, bananas me dijo, para sobrevivir, y tú le hubieras dicho a ese Homo Sapiens,
14:16hoy hay esta nueva tecnología. ¿Cómo te imaginas Homo Sapiens, el
14:20el mundo con esa nueva tecnología. Y te hubiera contestado more bananas, más plátanos, porque en
14:30su mentalidad eso es lo que a eso llegaba. Nunca un homo sapiens se pudo haber imaginado un celular,
14:38un avión, una ciudad. Tú me estás preguntando ahorita cómo va a ser el mundo con la inteligencia
14:45artificial. Todo lo que te pueda yo contestar, Leo, es more banana. O sea, no sé. No sé, claro que no sé,
14:54porque mi mentalidad llega a lo que tenemos ahorita. ¿Pero cuál fue la respuesta muy inteligente? Pues
15:00me parece que no sabemos. Además bananas. Que no sabemos, Raimundo, cómo va a ser el mundo con
15:09esa inteligencia artificial. Pero espérame, déjame acabar. Entonces mi punto es el
15:14siguiente, como no sabemos siempre hay incertidumbre y los humanos tendemos a
15:19empezar a imaginarnos que va a pasar esto, que va a pasar esto, otro que va a
15:24pasar esto. Es lo que estamos viendo, no sabemos en realidad cómo va a ser el
15:29mundo con la inteligencia artificial. Es que por eso el ejemplo de Viri es tan
15:32importante, porque me parece que el otro, el único gran referente que tenemos de
15:35esta fuerza existencial, es la energía nuclear. Pero cuál fue el gran incentivo
15:41para regularla? El gran incentivo no fue Hiroshima, no fue Nagasaki, no fue Chernóbil,
15:46no fue, no, fue la doctrina de capacidad mutua de destrucción.
15:53Sí, la disuasión, la pura destrucción. Pero en ese momento, cuando nos dijeron que
15:57es un incentivo político que toman humanos, la tecnología no va a tener un
16:03antiguo político de los seres humanos,
16:06vamos a tener una una decisión al respecto. No, a ver,
16:10a lo mejor van a ser las máquinas las que van a decidir cómo va a ser el
16:13futuro. Entonces, regular o no regular, pues ustedes regulen.
16:17O sea, mientras ellos controlen, a lo mejor ese es algo que se especula.
16:23La verdad, la verdad, yo sigo insistiendo.
16:26Yo creo que no sabemos qué es lo que va a pasar.
16:29¿Querías decir algo? Bueno, efectivamente, yo creo que el tema tiene que ser que los
16:36instrumentos de poder actual tienen que obligar a un control y a una supervisión
16:41externa de quienes generan esta, quienes están en este universo. Me parece que,
16:48por ejemplo, otra de las cosas que dicen es que ellos realmente no saben cómo
16:52procesa la información, o sea, cómo cómo aprende estos agentes. Me parece que haber
16:59desarrollado algo y seguir desarrollándolo sin tomarte el tiempo de
17:03entender el proceso por el cual genera, esas son las irresponsabilidades, que no
17:09hay ninguna prisa que la justifique de ningún lado. Y en ese sentido, por
17:15eso creo que el único tema central es, incluso para entender la naturaleza del
17:20riesgo en el que estamos se requiere de una de un grupo independiente en el
17:25cuerpo estar gente que tenga una enorme capacidad para entender que vaya y diga
17:29a ver quiero entender exactamente en qué punto están y cuál es realmente el
17:34riesgo y qué tanto tenemos que parar acelerar o no pero claro en un mundo en
17:38donde el jefe de estado del poder del país más poderoso es Donald Trump
17:43estamos es el peligro el peligro es la cooptación de ese grupo de empresarios
17:49¿Cómo han cooptado al poder político? Pero ahí sí el congreso, sí podría
17:54formar ese tipo de congresos. Pero el congreso está abrigado desde hace... Cierra por favor.
17:59A ver, tenemos a siete hombres ultramillonarios definiendo en este
18:05momento el futuro tecnológico de la humanidad. Me parece que no hay un tema
18:09más fundamental en la discusión política y económica del mundo que éste, y creo
18:14que hay tiene una falla política esencial, que es que dos potencias mundiales, China
18:20y Estados Unidos, están compitiendo por ganar y tener la tecnología más desarrollada,
18:25y esa es la esencia por la cual nadie quiere regular. Estados Unidos no quiere regular
18:30porque siente que regular lo retrasaría con respecto al desarrollo chino, y China tiene
18:36exactamente la misma posición. Ahora, quiero agregar un último punto, México, y es ¿qué
18:43está haciendo México en materia regulatoria para enfrentarnos a este
18:47caos potencial que se avecina? En mi opinión muy poco. Creo que eso es
18:52algo que sí debe estar en la mesa. Quisiera agregar una frase a lo que dijo.
18:57Nada más recordemos que cuando en Estados Unidos se hablaba del peligro
19:01del avance de la Unión Soviética sobre el tema nuclear, se infló. Se infló para
19:07justificar la cantidad de dinero que se invirtió. Es decir, tampoco sabemos
19:13¿Qué tanto es el riesgo de que China alcance a los Estados Unidos?
19:17Porque dentro de esa disputa, ellos pueden estar inflando al adversario para justificar
19:22la mangancha con la que están actuando y que Trump los apoye y les den todos los recursos.
19:28Porque la exigencia de modelos de fuente abierta, que sí ha puesto China en la mesa,
19:32sí sabemos que están ahí, ahí. Y además la inteligencia artificial,
19:36o sea, no quieren regularlos porque hoy en día el crecimiento económico en Estados Unidos se
19:41basa fundamentalmente en el desarrollo de inteligencia y en el de México.
19:45El principal motor de exportación son los componentes de servidores hoy por
19:49Evidentemente el tema da mucho de qué conversar.
19:53Esta es apenas una primera aproximación donde va a influir mucho el
19:57vértigo, la velocidad con que se desarrollan estas tecnologías.
20:01Todo caso, yo le agradezco el hecho de acompañarnos aquí en tercer grado.
20:16Subtítulos realizados por la comunidad de Amara.org
