00:00Ahí venís, digo, es paradójico.
00:03Los desarrolladores están pidiendo que se les regule,
00:07cosa que por lo general es a la inversa.
00:09Y los reguladores, en este caso el Congreso, dice no, autoregúlense.
00:16Es decir, como que hay una es.
00:18Nadie quiere la culpa.
00:20Nadie quiere. Nadie quiere ni la responsabilidad.
00:23Mira, yo creo que lo primero es que tendríamos que evaluar
00:26la naturaleza del riesgo.
00:28Todo esto estalla porque la semana pasada un ingeniero que había trabajado en OpenAI y en
00:36Anthropic salió y dijo voy a renunciar, creo que hay una posibilidad de que esto lleve a la
00:43aniquilación de la especie, es decir, esto es un riesgo existencial, es el que yo estoy viendo,
00:49eso es lo que se habla allá adentro, eso es lo que la gente que está adentro cree,
00:53y pues claro que oye uno eso y pues es terrorífico. Y creo que lo primero sería que personas no
01:00involucradas internamente, porque además creo que tienen una cosa de un lenguaje propio,
01:07una cosa interna, incluso intereses internos, tendría que poder hacer una evaluación de cómo
01:12están. La segunda parte que me parece increíble, estas personas tienen un inmenso poder, y me
01:17refiero a los dueños de estas grandes empresas. Fíjate que Amodei, el CEO de
01:23Antropic, una de estas empresas, hizo declaración. ¿Quién abre el debate?
01:29Pero bueno, entonces él hace la declaración y dice es que
01:35nosotros hemos detectado que nuestros agentes de inteligencia artificial de
01:39repente tienen comportamientos de rebeldía, etcétera, y que hacen cosas,
01:44mienten y cosas así. Y él dice, bueno, esto también se explica porque como
01:49nosotros nos fuimos alimentando de información, entre las cosas que les
01:53dimos estaban libros de ciencia ficción en que robots se revelaban frente a los
01:57humanos y de ahí pueden sacar ideas. Y después te enteras que OpenAI ha
02:02hecho también una serie de ejercicios donde les pone, por ejemplo, tareas
02:07imposibles, al mismo tiempo les dice que no pueden mentir, y los agentes
02:12encargados toman la decisión de mentir, de hacer trampa. A mí lo que me parece interesante es que
02:20en medio de todo lo que nos están diciendo, que nos dicen que hay una amenaza, no se hacen
02:25responsables de que quienes nos llevaron a eso son ellos. Hoy Sam Altman de Open Eye dijo,
02:31tienen razón en tener miedo pero ténganos confianza. Un acto de fe. Perdón, no podemos
02:36tener confianza y me parece increíble el poder que han adquirido estos que son unos cuantos seres
02:42humanos. Este es una micro élite que estaba detrás del presidente Trump el
02:47día de su segunda inauguración. Claramente que han metido dinero en
02:52campañas, en su campaña, que además tienen contratos con el gobierno
02:56multimillonarios. Son una casta de enorme poder que además hoy nos dice estén en
03:02razón ustedes todos los mortales de tener miedo. Nosotros por cierto ya
03:06hicimos nuestros bunkers, pero además tengan razón de tener miedo, pero
03:10Ténganos confianza. Me parece increíble la derrota de la democracia de Estados Unidos y
03:16de las instituciones mundiales para evitar que en tan pocas manos se tomaran decisiones como esta,
03:24como la forma de ir avanzando al grado de ellos mismos decir que hay un riesgo y ellos nos llevaron
03:30ese riesgo. En fin, creo que hay muchas cosas que se tienen que discutir aquí, digamos, y sí creo
03:36que hay una abdicación de la democracia estadounidense y también pues una
03:41incapacidad de las instituciones internacionales para realmente tener un
03:45ojo mucho más vigilante sobre lo que está ocurriendo ahí. Por cierto, también
03:49falta saber que esta amenaza esté sustentada en hechos y no también en ya
03:55el universo, un poco de juego de vídeo en la que viven todos ellos con sus
04:01ideas de convertirse en inmortales, de vivir en Marte y todas esas cosas. Creo
04:06que creo que no hay que entrar en pánico, a lo frío, sí hay que entrar en pánico.
