00:00Tristan, nuevamente, muchas gracias por estar con nosotros.
00:03Primera pregunta, ¿qué es la verdad en la era digital y quién se define?
00:09Creo que en lugar de hablar de la verdad, una buena pregunta es
00:14¿qué significa hacer sentido de la realidad bien?
00:17¿Cómo integramos múltiples perspectivas?
00:20Porque parte de lo que está sucediendo con la AI y los medios sociales
00:25es que los antiguos valores de la revisión de los hechos
00:29no nos defienden contra las nuevas amenazas
00:34que poseen las redes sociales o la AI.
00:37Por ejemplo, yo podría decir,
00:39GPT-5, escríbeme un papel de investigación de 20 páginas
00:43sobre por qué las vacunas no son seguras
00:46citando reales hechos y reales estadísticas
00:49sobre las personas que murieron
00:50y citando reales hechos sobre los intereses
00:52intereses de las personas que decían que la vacuna era segura.
00:56Entonces, todos esos son pasos de un fact-checker, pero todo es propaganda.
01:01De un lado. Y, por cierto, también podría ser el otro lado. No estoy tratando de decir esto o eso sobre las vacunas.
01:06Entonces, el punto es que, en vez de preguntar si algo es verdadero,
01:10tenemos que preguntar si es verdadero, sincero, en términos de intención,
01:14y representativo de la verdad. ¿Es representativo?
01:17Sí, esas dos personas murieron de esta cosa, pero ¿fue eso representativo de todo el ejemplo colectivo?
01:23Entonces, parte de lo que estoy hablando es que necesitamos mejorar los valores que tenemos.
01:28No es sólo cierto o falso, sino más comprensivamente representativo de la verdad como lo vemos.
01:34Y eso significa también poder no solo mantener fuerte la perspectiva de alguien más,
01:39¿cuál es la versión más frágil de su argumento?
01:41Pero también mantener fuerte su argumento.
01:43¿Cuál es la versión más fuerte de su argumento?
01:45¿Hay valores compartidos entre lo que están tratando de apuntar y lo que estamos tratando de apuntar?
01:50Se trata de la confianza, como dijiste. Más que nada, ¿cómo construyes la confianza?
01:55¿Cómo creas un ambiente en el que la confianza es el denominador común?
02:03Sí, y este es un problema insolvido.
02:05Pero sabemos que el ordenamiento de nuestro ambiente de información,
02:10no por lo que es más confiable,
02:12sino por lo que es más engajante
02:16Si manejas toda la sociedad
02:18a través de esa lógica de lo que gana más clics,
02:21manejas la identidad de los niños a través de eso,
02:22manejas la información a través de eso,
02:24manejas la media a través de eso,
02:25manejas la política a través de eso,
02:27y acabas con una sociedad muy distorsionada
02:30que no es basada en confianza,
02:31sino en sensacionalismo.
02:33Y eso no es saludable para hacer que las democracias funcionen.
02:40Pero imaginemos que podríamos cambiar nuestro medio ambiente a ser basado en lo que confiamos,
02:46y no basado en lo sensacional. Vivimos en un mundo muy diferente.
02:50Y creo que lo difícil de la situación actual es que la gente está tan atrapada en ver el mundo
02:56desde dentro del mal paradigma que estamos en, que no imaginamos lo diferente que podría ser.
03:02¿Crees que la tecnología, hasta este punto, ha afectado o fortalecido nuestra percepción colectiva de la realidad?
03:09Definitivamente afectada.
03:11Los humanos siempre son biasados, siempre tenemos un bias de confirmación.
03:14Tendemos a prestar atención a la evidencia que confirma nuestra visión existente de la realidad.
03:19Y puedes decirlo tú mismo, pero yo lo hago también. Es parte de la naturaleza humana.
03:23Y si te lo dices a alguien, no cambia demasiado la manera en que lo hacemos.
03:28Porque cada uno tiene su punto de vista.
03:30Así que veo las maneras en las que la tecnología atrapa al mundo.
03:33Y veo mucha evidencia de la manera en la que la tecnología atrapa al mundo.
03:36Pensé que sería interesante hablar de una percepción colectiva de la realidad
03:40y de cómo la tecnología ha jugado un papel en aflojar eso.
03:43Sí. Una cosa muy simple y obvia es que
03:47nos enganchamos por un doble truco
03:49de sobrerepresentación de las vistas más extremas sobre cada tema.
03:55Hubo un estudio por un grupo llamado More in Common
03:57que descubrieron que las voces extremas en las redes sociales
04:00publican más frecuentemente que las voces moderadas.
04:03Si eres moderado, siéntate allí y mira lo que la gente dice.
04:07No estás publicando y gritando todos los días.
04:09Así que las voces extremas publican más frecuentemente
04:11y lo que publican también es más extremo,
04:15así que va más viral.
04:16Así que tienes más frecuente y más viral
04:18las vistas extremas que obtienen la mayor distribución.
04:22Y lo que este grupo descubrió más común es que
04:24más usas las redes sociales,
04:26peor eres en estimar
04:28lo que la gente del otro lado cree.
04:31Porque estás constantemente
04:32bombardeado con las cosas más sensacionales.
04:35Y hemos estado viviendo en esto
04:36por tanto tiempo que parece
04:38normal para nosotros.
04:40Es por eso que cuando vas al mundo y
04:42hablas con gente normal, la mayoría de las personas
04:44parecen ser mucho más racionales que lo que ves en línea.
04:47Por supuesto, si sigues
04:48dirigiendo a la sociedad a través de ese filtro
04:51extremo de la realidad,
04:52se empieza a afectar a la gente hacia ser más extrema,
04:55porque también ves una visión extrema que debes luchar contra,
04:58y tomas una visión aún más extrema de la otra.
05:01Y así, se ríen, como una carrera de armas,
05:03en una cultura más extrema.
05:06El papel que los periodistas, los tecnólogos, los científicos
05:11toman en intentar reconstruir esa confianza,
05:14tú estabas diciendo, no hemos conseguido una respuesta,
05:16Pero hablando de no solo el sector específico de la sociedad como periodistas, tecnólogos, filósofos,
05:25la sociedad en general, ¿cómo empezamos a reconstruir esa confianza,
05:31curando las fracturas que la media social ha causado en este momento?
05:38Es difícil, pero deberíamos intentar hacer todo lo que podamos, obviamente.
05:43Así que creo que lo primero es, ¿cómo podemos incluir las diferentes perspectivas sobre un tema,
05:50en lugar de decir solo una parte?
05:53Creo que la gente que ofrece información más confiable admitirá cuando se ha equivocado sobre algo en el pasado.
06:00Si ves a alguien publicamente reconocer un error que hacen,
06:04yo estaba equivocado sobre la AI, no usaba a tomarlo en serio.
06:07Llevó hasta 2023 y de repente lo tomé en serio.
06:09Alguien que está diciendo que tengo algo malo es más confiable que alguien que está constantemente
06:15mirando la siguiente declaración extrema.
06:17Les daré un ejemplo.
06:19Audrey Tang, que es la ministra digital de Taiwán,
06:22pioneó métodos de lo que llaman el rango del puente,
06:26que es básicamente, ¿cómo se ranga para lo que se llama el consenso improbable?
06:31Imaginen que estás escribiendo tu mensaje de noticias,
06:33y para cada tópico político,
06:35en vez de buscar lo que es más emocionante o sensacional,
06:38es que cuando se trata de un tema que es sensacional,
06:39se trata de lo que tiene el consenso más improbable.
06:41Entonces, toma un tema,
06:43y entonces, ¿dónde la gente de diferentes tribus,
06:47o sea, la gente que clica en diferentes contenidos,
06:48clica en diferentes universos de contenidos,
06:50pero dónde en realidad
06:52ambos les gustan los mismos contenidos,
06:53tienen una emoción positiva sobre los mismos contenidos?
06:56Eso se trata de un consenso improbable.
07:01cuando ves a la gente de diferentes partes
07:02que no normalmente se acuerdan,
07:04les daré un ejemplo.
07:04Ahora mismo en los Estados Unidos, como Steve Bannon en un lado, en el lado de Trump,
07:10y muchas personas en la seguridad de la AI, de hecho, se acuerdan de que la AI es muy peligrosa.
07:15Y eso es un acuerdo interesante, donde diferentes grupos de personas tienden a concordarse.
07:21Entonces, imagina que estás escribiendo en tu página de noticias,
07:23y en lugar de ver ejemplos infinitos de cosas divisivas, odiosas, enojadas,
07:29estás viendo cosas donde la gente se acuerda a través de muchas perspectivas diferentes.
07:33Eso aceleraría radicalmente las respuestas y soluciones a los problemas,
07:39porque estaríamos hablando de lo que queremos hacer,
07:42en lugar de gritarle a los demás sobre lo que nos disagreemos.
07:44Eso ha sido usado para acelerar la participación de los ciudadanos
07:47en resolver los problemas.
07:49Entonces, descubriendo que los ciudadanos se acordaron
07:51sobre cómo lidiar con Uber y taxis,
07:54y cómo queremos manejar esto de una manera justa.
07:58Y eso lleva a un ambiente en el que los ciudadanos
08:01se sienten como si su democracia y sus instituciones estuvieran funcionando para ellos,
08:03porque ves que el ambiente de información es como un espejismo
08:07que refleja el acuerdo, en lugar de reflejar el desacuerdo.
08:10Ahora, si miras el espejismo de información de las redes sociales,
08:14es un espejismo que te muestra lo que todos odian a los demás.
08:17Es un espejismo muy distorsionado, es como un espejismo de Funhaus,
08:20no sé cómo se dice en español.
08:22Pero si miras el espejismo y ves lo que todos,
08:26invisiblemente, se acuerdan, no las cosas obvias que se acuerdan,
08:28pero las áreas invisibles de acuerdo.
08:30Ese sería un punto de vista muy diferente
08:32para mirar a tu sociedad.
08:35Dijiste algo que creo que es
08:38increíblemente importante
08:38que son las personas que piensan
08:40que las democracias funcionan
08:43para ellos, porque creo que
08:44la democracia es tan mucho acerca de la legitimidad
08:46como es acerca de la performance y los resultados.
08:51eso es parte de lo que está siendo
08:52fracturado y distorcido.
08:54Porque cuando la gente está constantemente en desacuerdo
08:56o cualquier error que alguien haga, cualquier institución haga.
08:59Las instituciones han hecho errores a lo largo de la historia,
09:02pero también fueron muy escondidas, ¿verdad?
09:04Hoy, si hay algún error,
09:06se viraliza a todos,
09:08y la gente sigue pilando encima
09:10y creando más y más historias.
09:12Quiero decir, cualquiera, no recuerdo qué específicamente ahora,
09:15pero cualquiera que ha sido la víctima
09:16de algo que hizo mal,
09:20hay millones de personas
09:24pero no con accuracía, sino que están recorriendo a otras personas
09:27y es como el juego de teléfono, las vistas de la gente se vuelven más locas
09:32y más locas con el tiempo que pasa.
09:34Antes de comenzar a hablar, también estabas diciendo
09:38que estamos casi figurando en las redes sociales
09:42y aquí viene la inteligencia artificial, la AI.
09:47¿Puede la inteligencia artificial ser diseñada de una manera
09:50¿Es eso lo que ayuda? No la verdad, sino la confianza, o es una distorsión construida en su DNA?
10:01Bueno, hay muchas maneras de responder a esa pregunta.
10:04Hasta ahora, creo que lo que hemos visto es que la distorsión es parte de...
10:10La AI puede ser diseñada y desarrollada de muchas maneras diferentes,
10:14pero los incentivos actuales son para la carrera para obtener lo más de comunicación posible,
10:18Es por eso que acabamos de ver que las empresas de AI, Sora y Meta,
10:24lanzaron estas aplicaciones de AI Slop,
10:26donde literalmente no se apologizan.
10:28Todo es contenido de mentira.
10:30Y si te miras, todo es contenido generado por la AI.
10:33No tiene valor de información, no es verdadero, no es real.
10:37Es mentira que es para entretener a la gente,
10:40pero es muy efectivo en entretener a la gente.
10:42Y si te preguntas, ¿qué va a hacer la AI?
10:45Bueno, actualmente es simplemente
10:47que nos veamos más y más nonsenso
10:49en vez de ser aplicado para ayudarnos a ver más verdad y confianza.
10:53Y no es que no pudiéramos hacerlo de una manera diferente,
10:55pero necesitamos cambiar el incentivo para maximizar los ojos.
10:58Y podríamos hacerlo.
11:00pensamos sobre esto en nuestro trabajo
11:02en el Centro para la Tecnología Humana,
11:06imagínate si volvieras a 2010,
11:10justo mientras que los medios sociales
11:11estaban funcionando con teléfonos móviles.
11:13Y dijimos que nadie, ninguna aplicación puede maximizar la comunicación.
11:19Así que no lo hicimos con los niños, no lo hicimos con las noticias.
11:23Sé que es difícil para la gente imaginar,
11:25pero imagina reivindicar 15 años de historia
11:27en los que esa lógica no pervertía el espejo que hemos estado mirando.
11:31Te iba a preguntar si pudieras redesar el ecosistema de información desde cero.
11:36¿Qué principio pondrías en su corazón?
11:40Creo que, mucho como nuestra economía global es una tecnosphera de nuestra tecnología industrial y se sienta encima de una biosfera de nuestra realidad física y biológica,
11:52y la tecnosphera es como comer la biosfera. En el caso de los medios sociales, tenemos una tecnosphera que come la sfera social,
12:01Está comiendo lo que nos hace humanos, está comiendo el desarrollo de los niños, está comiendo nuestra atención.
12:07Para tomar a Marc Andreessen, el cofundador de Netscape, dijo en un esfuerzo en 2009
12:11que el software está comiendo el mundo, el software va a comer el mundo,
12:14porque el software hará todo lo que las empresas pueden hacer, pero lo hará más eficazmente.
12:18Pero si el software come el desarrollo de los niños, si come nuestro ambiente de información,
12:23si come el periodismo, y el software no está diseñado para proteger esas cosas,
12:27Creo que el principal principal que deberíamos ir por es que lo que comas tienes que gestionar y proteger con la sabiduría.
12:34Si el software come mi sangre, pero no se importa que mi sangre sea saludable,
12:39y que colapse mi sangre, no voy a respirar.
12:41La sociedad tiene un cuerpo.
12:43Y el desarrollo de los niños es como la sangre.
12:46Así que si comes el desarrollo de los niños, tienes que proteger el desarrollo de los niños.
12:49Ese es el principal principal.
12:51Si comes las elecciones, tienes que proteger las elecciones.
12:53Si comes el medio ambiente informativo y el periodismo,
12:56tienes que proteger el medio ambiente informativo y el periodismo.
12:59Así que es como cualquier software que virtualice,
13:01tiene que proteger la cosa que da risa a esa fecha de la sociedad.
13:07Última pregunta, te prometo, porque tienes que ir.
13:10A nivel humano, ¿qué te da la esperanza de que la verdad, la confianza, la democracia
13:17puedan sobrevivir en el siglo algorítmico?
13:22Creo que es menos que tengo esperanzas sobre eso y más que me enfoco en lo que podemos hacer para cambiarlo.
13:30Los incentivos de origen no ponen en una buena dirección, pero eso no significa que tenemos que aceptarlos.
13:37En nuestro trabajo, a menudo decimos que la claridad crea coraje y la claridad crea agencia.
13:42Si podemos ser claros de que los malos incentivos no nos dan los buenos resultados que queremos, podemos cambiar esos incentivos.
13:48Y podríamos pasar leyes que digan que las compañías de medios sociales no tienen que maximizar su participación.
13:54Y podríamos tener sistemas diferentes que organizan nuestro ambiente de información.
