Inteligencia Artificial, ¿Peligro para el Mundo?

Y tu trabajo describe un patrón, no solo un incidente aislado. Cuando varios colegas utilizan de forma independiente palabras como engañoso, incluso sociópata, ¿qué te dice eso sobre la cultura al interior de una empresa como OpenAI? Pues algo dice de Sam Altman como persona, que aun teniendo en cuenta que se prevé que los fundadores de las grandes tecnológicas manipulen un poco la verdad o les digan distintas cosas a distintos públicos. Aquí se trata de alguien que luego de reunirse con él, luego de años de trabajar estrechamente con él, todos coinciden en que esto es un problema. Unos dicen que es un problema en general que cualquier ejecutivo sea supuestamente tan engañoso. Otros dicen, con respecto a esta tecnología específica, que conlleva los peligros concretos que acabo de mencionar. Y déjame regresar al individuo por un momento, porque pasaste horas entrevistando a Sam Altman, conocido por ser persuasivo, incluso desarmante. ¿Qué aprendiste sobre Sam Altman, la persona, en esas conversaciones que no forma parte de su imagen pública? Pues mira, en el artículo se recogen opiniones muy diversas sobre él. El artículo es muy imparcial con él, es muy minucioso. Como con cualquier reportaje de investigación a gran escala como este, hay mucha información que no llega al artículo final y en muchos casos yo escuché lo que Sam tenía que decir y si yo consideraba que él planteaba un buen argumento de que algo, aunque cierto, pudiera ser sensacionalista, lo eliminaba. Es un artículo muy generoso con Dell en muchos sentidos. En Dell se analiza con honestidad la variedad de opiniones y eso incluye a quienes dicen que es maquiavélico y que este grado de engaño proviene de una especie de postura de mente maestra malvada. Y hay quien dice, mira, se trata de una superpotencia que a distinta gente le dice distintas cosas que a veces no son ciertas. También reportas que figuras de alto nivel dentro de la empresa se comunicaban de manera diseñada para evitar ser descubiertas. ¿Qué nos dice esto sobre la transparencia sobre la rendición de cuentas en una organización que está construyendo algo tan poderoso? Pues en el artículo hablamos de cómo, hace varios años, Sam Altman fue despedido por miembros del consejo y ejecutivos de OpenAI por acusaciones de que sencillamente mentía de más y analizamos exactamente cuáles son las acusaciones. Es todo tipo de cosas, desde pequeños ejemplos interpersonales. Manda llamar a algunos colegas a una sala y les dice creo que ustedes traman destituirme me lo dijo tal otro ejecutivo y luego mandan llamar a ese otro ejecutivo que dice yo jamás dije eso y entonces Sam ahí mismo en la sala según las versiones que tenemos dice pues yo nunca hice esa acusación para empezar y los demás dicen pero si lo acabas de decir hasta llegar a ejemplos más graves Enrique los incidentes que finalmente le valieron el despido fueron que los miembros del consejo creían que Sam Altman mintió sobre qué características de los modelos habían sido sometidas a pruebas de seguridad y mintió sobre si las pruebas de seguridad eran necesarias en un caso. Nosotros presentamos toda la documentación para que el lector decida por sí mismo. Pero esto es lo que estamos analizando aquí. Y creo, repito, que es importante señalar que esto es lo que nos importa, porque OpenAI se fundó como organización sin fines de lucro centrada en la seguridad. Todo su discurso era que esta tecnología es más peligrosa que las armas nucleares. También creían que tenía un mayor potencial para el bien, pero Sam Altman hacía justo esa comparación. Y ahora vemos que esta misma persona y este mismo grupo de empresas, porque creo que varias empresas y varios ejecutivos del sector de la inteligencia artificial son culpables de lo mismo, son vulnerables a algunas de las mismas críticas que aquí le hacemos a Sam. Decías que el consejo directivo removió a Sam Altman y luego lo recontrató por la presión de sus inversionistas. ¿Qué dice esto sobre la seguridad en la inteligencia artificial? ¿Responde solo al valor para los accionistas o a preocupaciones reales sobre la tecnología? Pues esta es la noticia más importante en Estados Unidos en este momento. El punto de reflexión de que Sam Altman revocara su despido, va más allá de Sam Altman. Fue un momento donde la intención original de crear la empresa, y lo vemos en Silicon Valley, donde aún Anthropic, la competencia fundada por gente que se fue de OpenAI por desconfiar de Sam Altman en esta misión de seguridad, y querer mayor seguridad, también ha diluido sus compromisos de seguridad últimamente. Además, están recaudando fondos de autócratas, como dijeron que no se haría.

Transcripción

Inteligencia Artificial, ¿Peligro para el Mundo?

Transcripción

Más Videos