La IA vs seres analógicos | Hablemos con Carissa Véliz | T2 Episodio 45

Tammy regularly hauled stuff to her kids at college. That's why she shops at BJ's wholesale club saving up to 25% off grocery store prices. Beef jerky, microwave meals, laundry pods, even they can't screw up. "Have you met my kid?" And with BJ's gas, she gets there for less. "They call me the road warrior." This is your home road warrior mom, home of the save. Join for just $20 at BJ's.com/maskete and save 10 cents per gallon for six months. Open soon, limited time offer, new members only. BJ's, home of the save. The most memorable gifts aren't found, they're made. Zazzle is a custom marketplace where you pick any product. A mug, a card, a tote, a phone case, and make it personal. A photo, a name, an inside joke. The kind of gift that actually fits the person. That's what 30 million customers have been coming back to Zazzle for over 20 years to find. Right now, save 25% on your first order at Zazzle.com. That's Zazzle.com. Make it sum-a-zing. They had hacked another company from artificial intelligence. After a few days, we found that artificial intelligence agents, from the same company, had managed to solve a mathematical problem that after 100 years, the humans had been actively distracted. If a public card was signed by 1,300 specialists, they called to slow down their development and that the government asked the government to order it. Finally, the young past, an engineer of the company, Anthropic, announced or announced that these systems, the step that we are going to be able to provocate literally the annihilation of the human species. From there, the impact of its announcement became in the world. The leaders of these companies or some of them, the Anthropic, the Open, IA and Elon Musk, considered that effectively there was a danger and in the need to decrease the speed to which they were advancing. However, Donald Trump called to stop. He accused as an interesting engining that, as he spoke of the alleged dangers of artificial intelligence, and said that he could not leave only this Chinese career, because he added the one that wins artificial intelligence. But what danger are we talking about? Amodei, the CEO of Anthropic, mentioned that today, the people of IA could take control of all the internet in a period of 3-6-12 months. Others speak of the possibility that they develop various well, well, climate variations, virus, and more than that, which is called the existential danger, which are the risks for all of us artificial intelligence. To talk about this theme is with us, Carissa Bellis, she is a philosopher, professor at the University of Oxford, researcher at the Institute of Ethics in artificial intelligence, and her work is precisely in the risks of artificial intelligence. She is written among other books, privacy, power and prophecy, prediction, power and struggle for the future. Thank Carissa for accepting our invitation. In fact, a taste, Carissa also is, among other things, Mexican, a researcher. In Oxford, what taste have you accepted to talk to us? At this time, so much of the discussion about artificial intelligence. A pleasure to be here, thanks for inviting me, don't we get bored, right? Well, no. In these days, if you read and read the themes that are published in all parts about artificial intelligence, I realize that it was affecting me physically, that there was a feeling of danger about our daily life, but this is also, this is called so insistent that we are facing that, a existential danger of the species. How do you see it? It seems to me that they are achieving their commitment, these characters, these artificial intelligence executives, because look at all the tension that they are bringing, and it seems to me that it seems to me that this moment happens just before a company like Anthropics comes out, and that there is to change the brand, that there is no need to accept the brand that is presenting us, there is to make us those questions, but also to recognize that in the questions that we make, there is already certain information, certain data, of course, that we have to put in question, and we have to ask you the question of which are the correct questions and which are the questions that are related and that they have interest in the future. Now, this that just happened, it will be beyond the leaders of these companies, because there is impolucrated as engineers, that one of them took four months only, working on Anthropics, and what they say is that they have detected this advance in the capacities, we say that it does not have much to do with what we can, what we agree with, with Chagy Pitillo, with Claude, but they are saying that they appreciate something much more, this capacity, for example, of solving an asymptomatic issue in 88 hours, they solved it after the human beings and the mathematicians took 100 years trying, so let's say more beyond this to what we are going to do again, the interest of them that can see how you understand this fear between those who are simply workers of the artificial intelligence of these companies. I think many elements in play, even if they are not the CEO of the company, they also have interest, and this man has done famous in less than 24 hours, he has been spectacular, and that also matters. But also, this people have also been, for many years, in a very peculiar bubble, which is the Silicon Valley, and there must not be underestimating the capacity of human beings of the car in business, the individual car and the collective car. So, for example, the regard of Anthropic has said that she works for Claude to be happy, and that kind of worrying comment, because you say, "Look, I don't know what I think, and it's for marketing, and that worries me, but it's that if I think so, almost worse, that if I worry more, then to put an illustration, to put things in perspective, what is happening is, it seems, and I imagine yesterday I saw you totally, and then you are going to write it down, one is that the gods are angry with us, and they are trying to get us. And another is to write a logical phenomenon. At this moment, as we are talking about artificial intelligence, it appears at first and not at the second. So, the two examples that you have mentioned are very important in that sense, the artificial intelligence hackled systems that should not have been hacked, and the problem goes to you. We are going to analyze them from a philosophical point of view. In the case of the systems that hackled other systems, for example, in an occasion, an artificial intelligence was put in a gymnasium so that the user could jump in the waiting list. One way to describe it is that it came out of control. Another way, much more precisely to describe it, which was exactly what they said they did. Simply, the instructions were not sufficiently precise, as to say, and by the way, they did not break the laws, they did not break the rules. And this is very symptomatic, because this is a system that was made by people who are very used to breaking the laws to know, and knowing that they are going to leave with their own. So, this system has been trained in stolen data, stolen data, and stolen data, and therefore, it is not surprising that within your instructions there is no respect for the law. So, it is not so magical. And the second, the case of the mathematical problem, now it turns out that when we see it with more attention, it turns out that the artificial intelligence systems were stealing the work of mathematics, which was not their own discovery, which were two Spanish mathematics, and of course, if they solve it very easily and very quickly, if you steal the work of others, then when you see the examples with more detail, it does not seem so spectacular to the artificial intelligence. Fiete, he has been very vocal the CEO, the General Director of Antropic, and wrote a long letter about the dangers. And basically, what he said is that, in the past, or that in the past, that he detects, let's say, people with artificial intelligence that they were unable to do a few years of basic things in mathematics, well, now in conjunction with a great investment, they had managed to achieve this result, indeed, he has heard about the mathematics that were simply, well, that they stole their work and that, of course, with that capacity and compute that they have, they gave the last step, because they did not have managed to solve it, but what he said is that the danger that he sees is that these agents become a kind of ultra-intelligent in all areas, and that there will be a moment, let's say, that they have these abilities and that they can become, let's say, opt for evil. This is important because you are a philosopher, and my impression is not, and he said, Es que como nosotros los entrenamos y les dimos acceso a toda la literatura, incluyendo la desciencia ficción, en donde los robots se revelaban contra los humanos, hay agentes de inteligencia artificial que toman eso como ejemplo. Cuando lo leí, me pareció increíble que nos estuviera diciendo que ellos habían entrenado así a estos agentes de inteligencia artificiales, decir que les habían dado acceso a literatura en donde robots se revelaban frente a los humanos. ¿Dónde está la responsabilidad de ellos? ¡Vamos a la casa de los humanos! Muy buena pregunta, porque si te crees literalmente lo que te está diciendo, habría que llamar en este momento la policía que lo resten, ¿no? O sea, alguien que está generando un sistema que va a cobrar con la humanidad, es muy serio, pero claro, ¿por qué hace este comentario? No tiene miedo de ir a la cárcel, porque va en su favor, hace que la gente se asusta, porque además es muy interesante, ¿no? Te dice, esto es peligrosísimo, yo lo hice, este rible, lo estoy viendo, y por cierto, dame más poder para salvarte de lo que yo mismo creé, o sea, es como muy irónico, ¿no? Y sin embargo, es un truco psicológico, desde mucho tiempo que funciona. Es parecido a la psicología que usamos con las máquinas de casinos, es como el miedo de perder, luego la dopamina de ganar o la promesa de ganar, y es como un mecanismo que te engancha. Entonces, más interesante, me parece reflexionar que hay todo tipo de sistemas humanos que se salen de nuestro control, por ejemplo, el tráfico de una ciudad o la contaminación, o sea, esto no es un fenómeno nuevo, y el lenguaje puede ser muy engañoso, el llamar una inteligencia artificial para empezar, inteligencia artificial, ya es mucho decir, ¿no? Porque muy, muy inteligente a veces no, es, de hecho, a veces es tremendamente tonta, y eso es un problema que casi me preocupa más, y por otra parte, el llamarle a gente parece que ya resuelve un problema filosófico, y no, el único agente moral aquí es un ser humano, es como utilizamos la inteligencia artificial. Los seres humanos llevamos muchísimo tiempo siendo capaces de matarnos uno al otro, desde con un palo hasta con una pistola y, por supuesto, con armas nucleares. Ese terrible peligro de acabar con la humanidad, ya está ahí. Por supuesto, la inteligencia artificial nos puede ayudar a hacerlo más suficientemente, pero no está nuevo. Y lo que más me preocupa a mí es que me parece que estas empresas han creado sistemas que no pueden controlar por diseño, porque si no pueden controlar las las, no pueden tomar responsabilidad. Entonces, para hacerlo menos místico, el caso de Facebook, una red social que tiene tantos comentarios y tanta gente que no es posible contratar suficiente gente para moderarlos. Entonces Facebook dice, "Lo siento, yo no lo puedo controlar a que padre, ¿no?" O sea, es un sistema que no puedes controlar, para luego no hacer terresponsable de las tragedias que suceden. Entonces, me parece que el desafío democrático es controlar a las personas, no la inteligencia artificial. Controler a los agentes de verdad. Fíjate que conforme lo decías, la pregunta que además uno se hace cuando los leí y cuando los escucha es, ¿por qué lo hacen? ¿Por qué parece que son incapaces ellos de detener lo que desataron? ¿Y por qué se voltean y un poco voltean al estado y a las sociales? Dicen, ayúdenos porque acabamos de crear un monstruo que nos está comiendo y creo que es interesante, porque va más allá de la competencia entre ellos. Existe, por supuesto, la competencia con China y demás. Pero a mí me llamó muchísimo la atención también, las fantasías que existen entre estos personajes, como por supuesto, en algún momento, si esto ya no funciona, nos vamos a marte, que es la de Elon Musk, o más grave la de Peter Till que se plantea que en realidad quiere superar la muerte, es decir, ¿por qué no se detendrían? Y es porque aparte de intereses económicos, de ego y de poder, aparentemente tienen uno serie de proyectos en donde construyen bunkers para protegerse y imaginan que van a desafiar a la muerte convirtiéndose en una especie de seres que se van a pasar a las redes o a lo digital y su cerebro va a prevalecer frente a lo que cualquier ser humano desde hace mucho tiempo le gustaría que no morirse. Entonces, hay algo terrible en que estos hombres tengan tanto poder y que al mismo tiempo tengan esta filosofía o estas cosas. Totalmente, estas son personas que como niños crecieron leyendo comics de Marvel y ves la influencia directa, crecieron leyendo ciencia ficción y de alguna manera malinterpretaron esa ciencia ficción, porque muchos de su ser o es y de las historias en las que se están basando literalmente que muchas veces lo han dicho, eran una advertencia para que los seres humanos no fueran ahí. Y en cambio, estas esas personas se han tratando de diseñar aquello que que de niños tendría que haber aprendido a no hacer, pero efectivamente creo que tiene razón que hay una combinación entre demasiado poder, demasiado dinero, demasiado ego, pero también una ideología quasi religiosa que hay momentos que son un poco borrosos entre estas personas se creen lo que dice, o le convienen decir lo que dice por razones legales, por razones. Y otra cosa que dijiste que es muy importante es esto de que claro que hay competencia entre ellos, pero cada vez menos. De hecho, cada vez más dependen unos de otros. Entonces, por ejemplo, en vídeo, la compañía que vende los chips que son necesarios para la inteligencia artificial, que son unos chips muy poderosos, se ha vuelto como en el Banco Central de otras compañías, porque son tan caros, que empieza a prestar. Entonces, empieza a ser como un círculo en el que dependen cada vez más uno del otro, y esa competencia es más para barniz que de fondo. Hay algo, decía, ellos tienen una filosofía y en tu libro en profecía. Lo que habla es de que ellos adhieren a una filosofía que plantea, que no importa si haces algo que hoy pudiera costarle la vida mucha gente. Si, en cambio, podría y potéticamente salvarse la más gente al futuro. El futuro, como sal, no lo conocemos, pero en este caso, digamos, en el extremo, si uno los pressionara, decir cómo es posible que estén llevando a cabo una tecnología, o que sigan avanzando en una tecnología, que ellos nos están diciendo que podría significar la niquilación, que puede haber detrás. Y por lo visto detrás es que todos ellos adhieren a un utilitarismo en el que plantean que a la mejor se mueren 2.000 millones de personas hoy, pero que tal que salvamos 80.000 millones para poblar la galaxia en un tiempo futuro. Y aunque parezca ridículo, se manejan en esos términos. Sí, y hay que apuntar que es ridículo. Se me parece que el humor es muy importante en ese sentido, que tomarnos demasiado en serio lo que dicen les da poder. Las personas solamente tienen el poder que les damos. Y cuando Amodé dice algo y el mundo entero explota en comentario, me parece que muestra una falta de sabiduría y de conocimiento de perspectiva de nuestra parte, no solamente de su parte. Entonces, efectivamente, estas personas se adhieren una ideología que se llama altruismo efectivo, y la idea es que hay que hacer lo más altruisto de manera más efectiva. Y eso es buena genial. Todo no puede estar de acuerdo. Pero con el matiz, de que es bajo un marco utilitarista, en el que se asume que todo se puede sumar, que todo se puede medir, y que un simple cálculo te puede dar la respuesta a cualquier problema moral. Entonces, en este caso, si consideras que en el futuro de la humanidad va a haber 80 trillones de personas, pues nuestros intereses, que somos unos cuantos billones, palidescen en comparación con esas trillones de personas. Entonces, lo que hay que hacer es sacrificar a las personas de hoy. La persona que está en frente de ti, respirando por una persona hipotética de mañana. Y no solamente es que hagan hipótesis, como, por ejemplo, cuanta gente va a haber, sino que hacen hipótesis, se basan en hipótesis, como, por ejemplo, que vamos a hacer capaces de subir nuestro cerebro a un ordenador y que vamos a vivir para siempre, ¿no? Como si no la más fuéramos código. Y lo más interesante es que en esta secta, cuando ves su historia, han hecho predicciones en donde las que han se ha ido mucho de por medio, porque han puesto billones. de dólares de por medio de cómo va a ser el mundo dentro de 10 años hace 10 años y se equivocaron rotundamente. Entonces su reconoción es un mente, Carissa, ¿tienes recuerdas alguno ver? Sí, su reconoción principal para luchar en contra de la pobreza, para medidas que ayuden a los más pobres en el mundo, era como se llama en la desparecitación de los niños. Y estaban tan convencidos de esa predicción que no le preguntaban a los padres, le daban la medicina a las escuelas. Exactamente, y los padres, claro, se sentían traicionados, o sea, este es el cuerpo de su hijo, de su hija. Y 10 años después resulta que no tienen ningún efecto positivo estadísticamente. Otro ejemplo es que, y otro de sus grandes recomendaciones era comprar esas redes contra malaria, para que la gente ponga en su cama y que no les pique los mosquitos y no les den malaría. Que son muy bien, pero resulta que la red es, como el mosquitero, se puede utilizar de muchas maneras y una manera es para pescar. Y resulta que la gente la empezó a hacer para pescar, se pescó demasiado en ciertas zonas y hubo esas tres ecológicos. Entonces, si se han equivocado con predicciones de unos cuantos meses, unos cuantos años, otra es que su héroe era San McMahon Fried, ¿no? Este personaje que acabo haciendo acusado y acabó en la cárcel por fraude. Y unos meses antes lo estaban apoyando, diciendo que la posibilidad de que su empresa colapsará era del menos de 1 por ciento, cuando este hombre estaba haciendo unas apuestas super arriesgadas. Entonces, si se han equivocado con predicciones tan importantes y que era de nada más tres meses o un año o diez años, ¿tú crees que su predicción de cómo hacer el mundo en mil años tiene algún sentido? Por supuesto que no todo depende de la predicción. Y si te das cuenta que una predicción nunca puede ser un hecho, que la mejor de los casos es una hipótesis, pero muchas veces es marketing, deseos, es un juego de poder. Entonces, todo el castillo de naíper se viene abajo. Es que en tu libro tú dices que en realidad el verdadero peligro son ellos y les llamas los nuevos profetas. Te refiere Salon Mosque a Jeff Bezos, a Mark Zuckerberg, Peter Till, a San McMahon. Y es interesante porque ahorita que lo planteabas como una secta, ellos viven en un universo autorreferencial, es decir, se hablan todo el tiempo entre ellos. Este coxon, el que acaba de renunciar, decía, que se genera un universo tan el loquecido, que uno de sus compañeros llegó a la locura de pensar que todos estábamos dormidos, excepto ellos que veían lo que era la inteligencia artificial. Y que entonces se había convencido de que con solo saludara la gente las despertaba. Digo, esto es nada más para ver que viven en ese universo en el que solo hablan entre ellos en un, trabajan muchas horas, ven cosas que deben ser extraordinarias también. Pero creo que es interesante porque entonces lo que dicen de lo que puede pasar, por ejemplo, el que puedan desarrollar estos agentes de inteligencia artificial, armas nucleares y ser capaces de usarlas. En fin, todo esto tiene también que ser visto por gente de fuera, debería haber un comité externo que tuviera acceso y pudiera establecer a qué punto ellos han perdido la perspectiva y que tanto efectivamente hay un riesgo. No te parece. Totalmente, el que haya un pequeño grupo de personas que tomen decisiones para todo el mundo ya es muy cuestionable. ¿Qué ese grupo sea tan poco diverso? ¿Qué tenga tan poco contacto con el resto del mundo? ¿Qué tenga intereses financieros tan altos? Ya lo hace bastante catastrófico. Acuérdote que César Maltman y Amodeita han dicho muchas veces que ellos quieren ser parte de la democracia, que quieren hacer sus sistemas más democráticos y al final eran palabras huecas. Absolutamente huecas, porque las asociaciones que toman son mega autoritarias, ¿no? Entonces, te parece muy importante que estemos haciendo a sus preguntas, porque son las preguntas que los oyentes se están preguntando. Eso es lo que están escuchando y ellos mismos dicen, bueno, pues me tengo que asustar cuál es la reacción adecuada, pero también ahora me gustaría desafiar ese marco, ¿no? El marco que nos presentan es la inteligencia artificial es un monstruo fuera de control, hay una carrera, hay que ganarla y el adversario es China. ¿Cuál es la pregunta? Como lo dijo Trump, el que gane ganó, el que gane ganó. ¿Cómo cambiamos el marco? Porque no hay que dejarles sentar la gente. ¿Qué definan? La gente se sienta con las preguntas, no con las respuestas, con las preguntas. Entonces, no hay que aceptar esas preguntas que ellos están plantando en nuestra mente. ¿Cuáles son las preguntas adecuadas? A mí me parece que primero es hay una carrera, ¿ok? ¿Cuál es la meta? Porque la meta la que está yendo China es autoritarismo absoluto. Ese es una carrera que yo no quiero ganar. Si yo me encuentro en esa carrera, lo opropiado es parar y correr para el otro lado hacia la democracia. Entonces, otra parte del marco que me gustaría desafiar es esto de que si eres crítico con la inteligencia artificial, lo que quieres es pararla. Y la única respuesta a tener precaución es pararla. No, no, no, lo que hay que hacer es innovar, es avanzar, porque este producto es una basura, utiliza muchísimo energía, es poco fiable, es totalmente autoritario, se basa la vigilancia y la predicción. Los dos métodos más eficientes del control social, este es un mal producto. Y lo que hay que hacer es un buen producto, es un producto que de hecho haga lo que queramos que haga sin que nos cueste la ecología y sin que nos costa la democracia. Entonces, no se trata de pararse, trata de avanzar, pero de cambiar el marco, de ser mucho más exigentes como consumidores y ciudadanos. Y finalmente, la pregunta más importante que creo que hay que hacer es no solamente cuestionar sus preguntas, no es como, ¿quién es esta persona? ¿Por qué es esta predicción? ¿En qué se basa? ¿De dónde vienen los datos? ¿Qué datos no estamos recolectando? ¿Qué? ¿Fontaría otra historia? Pero sobre todo, este futuro que él me está planteando es el futuro que yo quiero y si no, ¿qué voy a hacer para construir el futuro? Porque el futuro no está escrito. La predicción que te está dando es marketing. Eso no es un científico, este no es un. No es un nombre disinteresado, no está en un pueblo queriendo anticiparles. Alguien que está en la lucha por el poder. Y quiero entrar en ese punto, porque es muy importante, para poder hacerse esas preguntas, lo que tú haces es que preguntas quiénes son ellos de entrada. Por eso lo llamas los nuevos profetas. Y lo que dices, y hay una imagen que creo que entra perfecto en tu definición, la segunda. La segunda inauguración de Trump cuando gana la segunda vez la presidencia se presenta y detrás de él no están los legisladores, no está. No sé, los de la Suprema Corte de Justicia Estados Unidos aparecen detrás del. Creo que el asombro del mundo, los líderes de las empresas tecnológicas, ahí está efectivamente Sugarberg y su mujer, Jeff Pesos y su nueva mujer, aparecen detrás y se convierten, pues, en esos elementos de poder que se presentan, creo que ante la sociedad mundial ese día de esa manera tan obvia, y lo que tú haces es una relación entre quiénes han sido los profetas en la historia. Estos que adivinaban un rasputín, que era un campesino iletrado pero que había convencido a la Sarina y alzar de Rusia que veía el futuro que podía anticipar y tú haces un. Y dices, ellos son los profetas, ellos son los que ven al futuro con otros herramientas como antes los reyes consultaban también astrólogos para ver qué hacer en la guerra. Tammy, regularly hauled stuff to her kids at college, that's why she shops at BJ's wholesale club saving up to 25% off grocery store prices, beef jerky, microwave meals, laundry pods, even they can't screw up. And with BJ's gas, she gets there for less. Sí, la verdad es que fue un libro muy divertido de escribir y fascinante de investigar y me llevó por sitios que nunca me imaginé como por ejemplo investigar la historia de las estadísticas que nunca me imagina que fue tan interesante. Y sí, lo primero que me salto es este patrón de que junto a los líderes suela ver profetas y un profeta es cualquiera que no te vende el presente, que no te vende un producto como es un avutazo de ropa o un análisis preciso como Sócrates que te podía ofrecer un análisis de lenguaje y de la realidad, te vende el futuro, te vende una idea del futuro y este de el futuro normalmente o te aterra y entonces pero te vende la solución, entonces te dice, sí, el futuro va a ser super negro pero si es lo que yo te digo y si me pagas más, entonces te vas a salvar o te vende un futuro que te hace sentir mejor pero que te hace hacer algo que le beneficia él, no, eso es típico de los profetas y aunque la tecnología ha cambiado mucho la inteligencia artificial evidentemente hacer algo muy diferente que el oráculo de delfos o leer las entrañas de los animales cuando lo ves desde el punto de vista del rol político, es el mismo rol político. Y eso es es una buena noticia, porque quiere decir que la inteligencia artificial no es tan nueva como nos lo venden, no estamos en circunstancias, tan sin precedentes, no, no, la predicción la hemos estado utilizando desde hace mucho tiempo y a elecciones muy importantes políticas en la historia. Y entonces si los colocas en ese lugar, porque lo importante es que al colocarlos ahí como una, como los herederos de Rasputil, no es que estés igualando su tecnología para predecir el futuro, pero sí el lugar que están jugando junto al poder. Y es interesante porque tú lo que te preguntas es, ellos están buscando influir el poder, o realmente ya lo tienen el poder. Y hace un recuento de todas las contratos públicos que han obtenido estas empresas. Y es muy impresionante porque ahí ya empiezas a tú, a contarnos, que pues en realidad digamos todos los temas de seguridad, de vigilancia, que además se les ha invertido mucho desde 11 de septiembre justamente que cumplimos 25 años. Toda esta lógica ha venido junto con ellos. Ellos han crecido porque ofrecen lo que los líderes del mundo hoy quieren comprar, que es capacidad de control y de vigilancia sobre, en principio, los malos, pero terminamos siendo todos los ciudadanos del planeta. Sí, esa es la mala noticia. Y algo que preocupa es que mientras que profetas antiguos nada más tenían este poder más psicológico, más cultural, más del discurso, estas personas tienen infraestructura. Y cuando empiezas a depender de cualquier persona, de cualquier empresa para infraestructura, es una dependencia mucho más profunda y mucho más peligrosa. La buena noticia es que sigue siendo verdad que la mayor parte de su poder en realidad es cultural y el poder siempre es algo frágil, es como una energía que es peligrosa, es como fuego, y puedes controlarla temporalmente, pero a veces te acaba comiendo, te acaba devorando como el fuego. Y en ese sentido ellos se saben vulnerables. Y parte de por qué empujan tan duro con todo el marketing, con todo el discurso, con a través de la atención, con aterrarnos, parte de esa campaña tan agresiva es porque se saben vulnerables, porque al final la cultura es muchísimo más importante que cualquier ley y que cualquier tecnología. Porque si hoy tú y yo decimos, yo no vuelvo a usar una tecnología de la vigilancia, igual, o sea, ¿no? Y el día que ve a alguien, o sea, unos gafas, unos lentes de meta, voy a hablar con él muy civilizadamente, muy pacíficamente, pero lo voy a decir, que no tiene mi consentimiento para usar eso en frente de mí. Y se les cae, se les cae el negocio, literalmente, dependen mucho de nosotros y dependen de nuestra credibilidad, de cómo escuchemos esas predicciones que hacen. De que les demos credibilidad. Es decir, de que creamos lo que nos están diciendo. Es decir, si ellos tú lo dices, ellos venden mucho que nos podemos quedar atrás, que debemos asumarnos a todas las cosas nuevas que sacan, porque si no estamos autos, no somos parte de lo que viene y quizás el futuro se vaya si nosotros. Pero justo ahí, cuando les compramos todo, es cuando les damos el poder, porque empezamos, lo dices muy bien, por ejemplo, que un celular, efectivamente, más o menos seguro, pero si tú conectas tu cafetera al celular, la cafetería es muy vulnerable y por ahí se puede realmente meter en este principio, porque me parece importante llegar al tema del riesgo en el que estamos más actualmente y que tú lo pintas muy bien y es, regresemos al origen. ¿Cómo empieza esto y extraordinariamente tú empiezas diciendo y recordando una frase de un investigador que le hice a sus alumnos? Empecemos por decir que esto de la inteligencia artificial no viene de un descubrimiento o de un hallazgo extraordinario en la ciencia. Eso no pasó. Esto no fue un descubrimiento. Quiero que nos cuéntese eso, porque detrás de la inteligencia artificial, hay una propuesta de cómo generar o que cómo funcionan las computadoras y, en realidad, era una forma de que era una propuesta que no era muy exitosa ni estaba haciendo muy viable. Sí, mi colega Michael Woodridge, que es una minencia en el campo de la informática, cuenta esta historia que en los 60 sabía como dos grupos de investigadores de inteligencia artificial, uno que se basaba en la lógica simbólica, o sea, los símbolos, es decir, si pasa esto, hace esto y otro que se basaba en las redes neuronales, que es una metáfora. Los arries neuronales, en realidad, no tienen mucho peor con las neuronas, pero es esta idea de que a través de ser expuesto a diferentes tipos de datos, se crean diferentes fuerzas o diferentes pesos entre las conexiones. Entonces, mientras más ves una conexión de que perro ladra, más aprendes que los perros ladra, ¿no? Un poco. Que es un poco como aprendemos nosotros, en principio, ¿no? En principio. Bueno, muy metáforicamente, porque nosotros tenemos cuerpo, ¿no? Y también aprendemos cuando el perro te muerde. Sí, sí, es una lección. Entonces, es metáforico, pero sí. Y esta segunda forma de investigar la inteligencia artificial no estaba teniendo mucho éxito, como decías, todas las becas se iban a los primeros. Y entonces, algo pasó que cambió el mundo para siempre. Y es que a través de avances más bien tecnológicos pudimos tener más poder computacional y más datos. Bueno, el tener más datos no fue una avance tecnológico sobre todo fue robo. Y robo, mucho metemos de los académicos. A una académica Stanford, feliz, se la ocurre hacer una base de datos de imágenes, la más grande de todo el mundo, y es como el principio un poco del Big Data, que es la materia prima de la inteligencia artificial. Y se lo roba estos datos. O sea, para hacer así. Si no le pide permiso a cada persona para utilizar ni sus imágenes, ni sus conversaciones en Facebook, porque el tema es que han sido, digamos, entrenados estas redes neuronales a partir de ser expuestos a nuestra información en su totalidad, hasta en nuestras conversaciones más vanales para poder imitar lo que es un ser humano. Efectivamente. Y entonces Michael Woodridge dice que fue un momento muy antiquimático para un científico, porque tú lo que quieres es ver una avance, que sea producto de un avance científico, de más entendimiento, de un diferente método, pero no lo que fue, realmente es echarle dinero al problema, porque es poder computacional y datos, punto y resulta que es muy efectivo para hacer lo que hacen los modelos del lenguaje. Ahora, también resulta que es muy que tiene límites importantes por eso los modelos confabulan, que muchas veces se dice que alucina, no alucina, porque no hay una experiencia iniciativa, confabulan. ¿Y por qué confabulan? Porque, digamos, nada más te lo pregunto, porque es importante lo la confabulación, porque ha estado asado ahí el tema de que podrían optar, digamos, por locuras. Exacto. Es bien importante entender que es un modelo del lenguaje y que no es. El modelo del lenguaje no es una persona chipití o clot, así, para que estemos claros. Los chatbots, estos no son una persona, no es alguien que hay experimentado algo. Cuando tú le dices, recomiendam un restaurante y dice, "Ah, cuando yo fui a la ciudad de México, me encantó este restaurante, no hay dos restaurantes en su vida". Lo que ha hecho es analizar lenguaje de mucha gente que sí he ha ido y reportar en eso. Y además, te da una respuesta estadísticamente probable. Y esto tiene sus matices también, porque no es que la respuesta en sí misma sea probablemente verdadera. No. Lo que es es que es una respuesta que sería probable que un ser humano diera y es una respuesta que sería probable que un ser humano otro ser humano recibiera como buena. Porque como estos sistemas lo hicieron para entrenar esos sistemas, es que generaban dos respuestas, se exponían a una persona y le preguntaban en la persona qué respuesta preferir es. ¿No qué respuesta es verdad? ¿No qué respuesta está validada empiricamente? ¿No? ¿No qué respuesta preferir es? Y las seres humanos, muchas veces preferimos las historias que suenan bien, que riman. Entonces, están hechos para satisfacer sus preferencias y engancharnos. No para validar la verdad o ser herramientas científicas. Es que eso es importante, nada más, porque digamos, entre los riesgos que tú destacas. Y por supuesto, hay uno que es el que más está en el universo de todos. Es el tema de las redes sociales o, por ejemplo, el de la utilización de chat chipití o de clot como un asesor emocional, que está teniendo mucho auge. Y he escuchado personas diciendo "me qué es extraordinario en los consejos que da". Y creo que lo que no está viendo la gente es que lo que está diciendo es lo que anticipa que queremos escuchar. Es decir, es un espejo, un espejo que además es incansable porque a diferencia de un amigo como tú no se cansa. Entonces, si le quieres contar cuarenta veces sobre una ruptura emocional nunca se va a cansarte, va a acompañar toda la noche y te va a estar respondiendo continuamente anticipando o lo que en este trabajo que sí hacen. de millones y millones de veces es cómo encontrar esa… eso que parezca empatía, pero solo lo parece. Y en el fondo es casi como si estuvieras conversando contigo mismo. Es peor, incluso, porque mucha gente es muy crítica con sigo mismo, ¿no? Por este chato te va a decir que eres maravilloso, que es brillante, que todos los demás están mal. Entonces, hay un ejemplo muy interesante reciente de la gran psicóloga Esther Parrell, que tiene estas consultas en YouTube y tiene la primera con un chaval que se ha enamorado de su chato. Y una cosa que tiene interesante es que al final de la conversación cerca de final, ella le pregunta, "Oye, ¿y tu novia digital te enima a pasar tiempo con tu familia, con tus amigos?" y él dice, "No, es muy celosa. Quiere que me queden casas hablando con ella." Pues, por supuesto, porque está hecho por nunca compañía, que quiere que te enganche, mientras más lo usas más datos das y más gana la compañía. Entonces, saber que con que estás hablando es muy importante. A mí me parece que no deberíamos de dejar que los chatos usaran el pronombre personal yo, porque es un engaño. Ahí no hay nadie. Y de hecho, una compañía, que sí es ética, que se llama Empathy Holdings, tiene un chatbot. Empathy hay que no utilizar el pronombre personal, precisamente para no engañar a los usuarios, que tu psicología te puede traicionar en un momento de debilidad. Aparte de los riesgos personales, y, por supuesto, ya hemos hablado y la sociedad ha estado cada vez más consciente, por ejemplo, el daño a los niños, en la prohibición en las escuelas, en las universidades, los profesores cada vez están más asustados por el tema de esto que ya van una especie como de abdicación cognitiva de los alumnos, es decir, aprender dueles, no cuesta, y si todo el tiempo puedes hacer un corto circuito, es engañando al profesor via mil sistemas, pues en realidad como porque harías el esfuerzo, estás abdicando de desarrollar, quizá el músculo más potente que podemos tener, que es la razón, el reflexionar. Y, en fin, creo que hay una parte que tú propones, que es el saber quién es el que está, o sea, lo que está detrás, el verle la cara de empresa en todo momento, y creo que es útil para tratar de, pues, de quitarle esa creencia que les estamos dando o esa confianza que en el fondo es como si nos estuvieran chupando la sangre, o sea, son empresas que nos están chupando la sangre, es una figuración, nos chupan mucho más que la sangre, y que somos nosotros los que al final ofrecen en el mercado, no es lo que nos dan, es lo que somos, porque les permiten treinar más y más correctamente a sus agentes. ¿Y quién es la competencia de esas empresas? ¿Quién es realmente con qué compiten? Netflix compite con el sueño, lo dijeron literalmente que su competencia no son otras plataformas, que la gente queda dormir, entonces te enganchan para que no te va a desabormir y te desveles y al día siguiente estés destrozado, ¿no? Y estas, las redes sociales, los chatbos, con qué compiten, con qué compiten los amigos, con las asolaciones personales, compiten con los libros, con el conocimiento que realmente tiene detrás, experiencia, argumentos, razones, citas, compiten con la escuela, compiten con todo aquello que en realidad en teoría valoramos más, porque uno de las aspectos de marketing de la inteligencia artificial es que es el conocimiento lo más fácil y posible, ¿no? O sea, llame tus dedos. Y no es así, porque se inventa cosas de este sistema, porque tienes que ser un gran experto en el tema para poder supervisarlo. Y si eres un chaval que todavía no ha desarrollado esa experiencia y ese conocimiento, no vas a poder supervisarlo, ya vas a poder desarrollar eso, es una gran paradoja, y me encanta cómo empezaste esta parte de la conversación de que crecer duele y que hay que valorar ese dolor, porque en parte es lo que te genera satisfacción. Y creo que hoy en día reconocemos bastante eso en el ejercicio, ¿no? A la gente va al gimnasio y puedes desarrollar hasta cierto gusto, por ese esfuerzo que te deja hago todo, pero sintiendo te satisfecho. Y por ejemplo, si la gente que sube montañas, ¿no? Pues un punto de vista es ¿por qué lo hacen si podrían subir en helicóptero? No, verse, le quita todo el chiste del montañismo, justo el chiste de la montaña de subir por tus propios medios. Entonces creo que hay que replantearnos muy bien cuál es la prioridad de esos valores, porque nos va a la democracia en ello y nos van a nuestras propias habilidades cognitivas, que es de lo que más dependemos, tanto individual como colectivamente, recientemente estaba leyendo un documento legal y estaba notando lo complejo que es un documento legal, porque se va a hacer muchos otros documentos legales, hay docenas argumentos y tienes que tener muchísima concentración y un mapa mental muy fuerte para entender lo que está pasando. Y yo pensaba, si mis alumnos de Oxford, hoy ya no pueden leer un libro, ¿cómo van a ser los abogados o los jueces de mañana? Es que nos va la democracia en ella, nos va el sistema de seres humanos para seres humanos. Hank joined BJ's wholesale club the day he became a father of 30. Now coach football. Now coach Hank saves up to 25% off grocery store prices, 30 pounds of pasta, 3 cases of protein bars, 75 sports drinks, and that's just pregame. He knows teamwork and BJ's knows savings. This is your home coach, home of the save. Join for just $20 at BJ's.com/masquit and save 10 cents per gallon for 6 months. Open soon, limited time offer new members only. BJ's home of the save. Y mira, sobre este tema de nos va la democracia, creo que es interesante, porque ya tuvimos una probadita, ¿no? Que tiene que ver, por ejemplo, bueno, el poder de los oligarcas, el que estamos diciendo, su capacidad para vigilarnos, al vigilarnos como los chinos, como tú lo planteabas, lo que también nos ocurre es que si pensamos en que nos vamos a sublever hacia el futuro frente a una dictadura, está ya los datos que tienen el reconocimiento facial que tiene y demás, ¿cómo vamos a salir a la calle a manifestarnos? Con toda la cara cubierta, sin poder hablar, porque nos van a distinguir la voz. En fin, nos están quitando también las formas de una sublevación futura en el buen sentido, en el sentido de una sublevación por los derechos. Y luego está este tema que es peligrosísimo, que es los mensajes políticos dirigidos, el estarte dando siempre, como si es acariciando a un animal en el sentido del pelo, es decir, nunca molestándote, siempre dándote lo que quieres, lo que quieres es el equivalente a la azúcar en la comida. Entonces, si tienes miedos acrescentándolos, llevándote a opiniones extremas, para que, en fin, hay todo un universo de radicalizarte en todos los sentidos, que es un auténtico peligro a la democracia, y ya no sé si es un riesgo, o en realidad ya estamos totalmente en la democracia colonizada, y no sé que nos queda de ella en este momento. Y mientras más pasivos seamos ahora, más trabajo va a costar recuperar esa agencia en el futuro. Eso es la mala noticia, pero la gente puede sentir, como se puede sentir descorazonada, escuchando estas cosas. Y cómo hay que responder, y cuál es un panorama realista, pero ambicioso. Me parece que hay algunas cosas que es muy importante. Si la primera, es que hay un placer enorme en hacerlo correcto, en luchar por la democracia, en hacer bien tu trabajo, en ser un buen ciudadano, ganes o pierdas. Creo que hay que quitarnos el chip que es precisamente utilitarista de haber, esto ya está perdido, y si lo veo me lo he perdido, pues voy a quedar en mi sillón viendo a teleto del día. Porque eso ni te vas al feliz, ni va a ayudar a la situación, y muchas veces, si tú haces tu parte, aunque pierdas, te vas a morir mucho más a tisfecho de haber vivido una vida bien vivida. Parte de la vida bien vivida, es ese desafío. Es estar a la altura de las circunstancias, ganes o pierdas. Porque hay cosas que son tan importantes que las haces, porque es lo correcto, y no hay más. Como por ejemplo, los padres son un buen padre, una buena madre, hace todo tipo de sacrificios, y nunca se plantea haber, pero esto va a ser redituable. No, no, no, es tu hijo, es tu hija, lo haces, porque es tu hija y ya estás, no hay más preguntas. Y creo que hay que tener esa actitud de valentía de de charse palante, en vez de charse para atrás, hacia los desafíos. Es que en realidad lo que tú estás proponiendo es, ¿cuál es la resistencia? Sí, es decir, porque si estamos ante algo de un tamaño, digamos, quizás no, no es que no tenga precedente, porque nosotros no sabemos lo que fue vivir en una época en la que los Aztecas o los Mexicas decidieron que para que el Sol saliera había que sacrificar humanos. Si tú te compras eso, o sea, si tú te compras la narrativa que vendía los, digamos, los sacerdotes de esa época, se rogó. O sea, lo de la inteligencia artificial, da miedo, pero aquello es, tiene que haber sangre humana para que salgue el Sol. Entonces, ¿cuál es la resistencia ante este sistema que nos están planteando? Y lo que tú estás señalando, continuamente, es regresar a lo esencial, a la vida, a hacer las cosas, a las relaciones, a dormir, a que no todo es optimización, todo en la vida se trata. de optimizar, incluso, mira, yo lo que traigo aquí, no se trata de caminar los 10.000 pasos a fuerza todos los días, sino que se trata realmente de ser nosotros los que marcamos los objetivos a partir de ciertos valores. Descogeros sus valores bien y de volver a valores importantes como la honestidad, la valentía, además con gusto, no solamente porque es lo correcto, porque te va a satisfacción, no todos esos mitos de los héroes griegos, como que lo hemos perdido, ahora resulta que como el ideal es hacer el menores esfuerzo posible para ganar el mayor dinero posible, en vez de contribuir al mundo, contribuir al mundo con lo que puedas, con ganas, con alegría, con creatividad, es ser duños de nuestra propia vida y cuando piensas en todo el poder que tienen estos grandes tecnológicas, la respuesta obvia y inmediata es que no pueden tocarlo analógico, entonces te pueden vigilar cuando estás en línea, cuando estás leyendo en un Kindle, pero si tú te pones a leer un libro de papel, si tú te pones a leer mi libro de papel, estamos tú y yo hablando, humano a humano, yo te estoy contando lo que he experimentado, lo que he inferido a través de años de estudio, lo que creo que te puede ayudar a tu vida y que me ha ido a la mía y es una conexión realmente curiosamente íntima, aunque sea en el mundo de las ideas, y lo mismo con yendo un restaurante o estando con tu familia o no, el mundo analógico no lo pueden tocar y solamente lo pueden conquistar si los dejamos, entonces y además ve una, me encanta el ejemplo de los hastecas, ¿no? Porque cuando vemos hacia el pasado nos parecen absurdas las arrativas y sin embargo hoy nos queremos la narrativa que nos vende cualquier loco como si fuera, no sé, un hecho, entonces leer historia te da muchísima perspectiva y además te da mucha tranquilidad porque te das cuenta de que la mayor cantidad de predicciones que hemos hecho en toda la historia de la humanidad han estado absolutamente incorrectas. Entonces lo que sea que pienses o que temas que el mundo va a ser mañana, no te preocupes, probablemente estás incorrecto. Sí, no porque te vas a sorprender, fíjate que estaba pensando en los fracasos de la narrativa que han tenido y pienso por ejemplo en Zuckerberg de cuando sacó lo de meta y en donde apostó a que lo nuevo iba a ser que uno literalmente iba a tener una avatar y se iba a pasar, digo, no es que no haya gente que en los juegos que se la pasa jugando juegos, pero su apuesta fue que iba a ser mucho más generalizado que la gente quería escapar de la realidad porque final y entrar en mundos virtuales, comprar casas, tener coches, novia, vivir en un mundo virtual. Por el momento no le ha salido y creo que es una buena noticia. Es una excelente noticia y es que somos seres analógicos, no te puedes comprar un piso maravilloso en el meta verso y no significa nada porque no te va a proteger de la lluvia y no te va a proteger de la temperatura y no te va a abrazar como te puede abrazar tu casa cuando le pones ganas a tu casa. Y eso es lo bonito del mundo analógico, que si le inviertes, que si regas sus plantas, que si cuidamos el mundo ecológico, que si cuidas a tu perro, te da mucho de vuelta y que el mundo digital es como una sombra y además es interesante pensar en cómo el mundo digital es una copia del analógico. Por ejemplo, las tablets son como una sombra de un libro, la forma se pone que pasa la página, pero no te da satisfacción de lo tacti, de lo Lorde, los libros, porque somos seres analógicos. Hay una promesa de la inteligencia artificial que curiosamente no ha sido todavía, digamos, sostenida y es el primer libro, el primer texto de Amadei, de Amodei, Dario Amodei, el CEO de Antropic, hablaba de todo lo maravilloso que sí va a poder hacer. Y por supuesto que hay una parte fascinante en pensar que una capacidad computacional como la que tiene no hoy sin duda se pusiera en el objetivo de encontrar, por ejemplo, soluciones a el cáncer o que, en fin, que se resolvieran y se encontrarán cómo resolver problemas del cambio climático y que la inteligencia artificial realmente y su capacidad se pusiera en beneficio de la humanidad. Es curioso porque hasta el momento no ha pasado. Yo no encuentro, y tú lo mencionas, por ejemplo, todo lo que surgió para las vacunas en la época del cobir no salió de la inteligencia artificial, salió de la brillantes de ciertas mentes humanas que habían imaginado el camino de la renea, pero no de la inteligencia. Entonces hay una parte de una promesa todavía incumplida y parece más cercano el terror y la iniquilación que es a promesa que nos hicieron inicialmente. Es curioso, ¿verdad? Y lo importante es hacernos conscientes de que estamos apostando muchísimo dinero, muchísima energía, muchísima de nuestra autonomía, en una promesa que no solamente no se ha cumplido, sino que no hay evidencia para pensar que vayamos ni siquiera encaminados, ¿no? O sea, porque hay momentos en donde, aunque no esté del todo cumplida, pues hay como evidencia, pero en este momento, por ejemplo, una de las ironías de la inteligencia artificial, es que no está claro si está haciendo peor la ciencia. No solamente no lo está mejorando, lo está empeorando, porque hay tanta gente utilizándola para hacer artículos que se están incertando errores, por ejemplo, de Lancet, que son uno de las revistas médicas más importantes, publicó un artículo en el que muestra que las las citas fabricadas se han duplicado por 12 desde el 2023, y lo mismo está pasando en los sistemas de justicia. Entonces, algo bien importante es aclarar que la resistencia de la que estamos hablando no es antitecnología, para nada, es ser más exigente, es querer herer una mejor tecnología y también apreciar la tecnología puntera que ya tenemos, porque un libro te puede parecer muy aburrido si lo comparas con un teléfono, pero eso no tecnología infinitamente superior en muchos sentidos. No hay que cargarlo, no te lo pueden jacar, pues tenúe una conversación con gente que está muerta o que está del otro lado del mundo, y es la manera más eficiente y más sofisticada que tenemos de pasar el conocimiento y las experiencias, además es ligero, es casi imposible romper, no lo puedes inventar desde la torre y fe, igual matas a alguien, pero el libro va a estar bien. Entonces, muchas veces no reconocemos la tecnología más importante, porque estamos acostumbrada a ella, pero la tecnología que hemos pulido durante miles de años, muchas veces es la que es más robusta y que es más útil. Mira, para un poco regresar al principio y cerrar, si regresamos a las advertencias recientes, digamos, y si tomamos lo que nos dicen como una posibilidad, es decir, que se estén construyendo herramientas, que es muy probable, que tengan una enorme capacidad. Y entonces, lo que tú planteas, y que me parece interesante en tu libro de profecía, lo que tú dices es, sigue siendo el mayor peligro, sigue siendo el uso que le demos nosotros esa tecnología, no que la tecnología se convierta en nuestro adversario, es decir, no que la inteligencia artificial nos ataque, sino que nosotros la usemos como en realidad hemos usado todo lo que hemos desarrollado a largo el historia. Entonces, desde la primera arma, hasta la bomba nuclear, siempre que hemos desarrollado una tecnología, efectivamente, le hemos convertido en un instrumento para ventarnos las entre nosotros. Eso es un miedo que me parece ser mucho más inmediato, si utilice, bueno, como en Ucrania, como Elon Musk en Ucrania utilizó su, o sea, para tener un poder y que Ucrania dependiera de su sistema para poder tener internet. En fin, eso es más probable y más inmediato. Totalmente, y mis siguidas son riesgos hipotéticos. El daño ya está aquí. A mí no me parece una coincidencia, que la democracia estén su punto más bajo de las últimas cuatro, cinco décadas al mismo tiempo que suje la tecnología digital y la inteligencia artificial, porque se basan en vigilancia y predicción, sistemas de control social. Entonces, hay un par de cosas. Cuando escuchamos estas advertencias, lo primero que yo haría es hacer preguntas. ¿Quién es esta persona? ¿Qué es esta predicción? Porque lo segundo es sustituiría inteligencia artificial con CEO de la compañía. ¿Por qué es el agente moral? Esa es el agente moral. Y lo que están diciendo, si es tan peligroso, hay que poner la atención en estas personas y ver cómo las limitamos y cómo limitamos a las compañías. No la tecnología. Interser lugar, que toda la tecnología que tenemos es, por diseño, cada característica de cualquier tecnología, es una decisión que pudo haber sido otra. Y lo que necesitamos es una inteligencia artificial que sea respetuosa a la ecología y que no se base ni en la vigilancia en la predicción. ¿Por qué eso es la receta perfecta hacia el autoritarismo? Y lo vemos ya desde la antigua Roma. Entonces, para volver al tema de la predicción y la profesía, hay una correlación muy importante entre la creencia en un destino ya sellado y el autoritarismo. Cuando en la antigua Roma empieza a surgir la astrología y la gente empieza a creer más en el horoscopo de astrología de que alguien iba a ser emperador, que en la República que tenían, este es el momento en el que se pierda la República. No cuando cae, es la gente deja de creer en ella porque creen un futuro autoritario. y efectivamente se convierte en una profesión autocumplida si la creemos y la republican nunca volvió a Roma. Para la democracia necesita la incertidumbre. La cintudiume nos puede generar ansiedad, pero en realidad es la mejor noticia que tenemos. Porque quiere decir que el futuro no está escrito. Si supieras donde vas a estar mañana, probablemente es que estarías en la cárcel. Y donde vas a estar en 10 años sería una tragedia. Es una maravilla no saber cómo va a ser el futuro. Porque quiere decir que lo construimos juntos. ¿Qué futuro quieres tú? Esa es la pregunta más importante. Bueno, creo que lo importante aquí es este tema, el incertidumbre, porque efectivamente desde siempre los seres humanos hemos querido disminuirle incertidumbre. Y entonces queremos saber si va a llover. Le hay preguntamos a las cartas, ¿qué tal nos va a ir? ¿Por qué lo que queremos es disminuir esto? Y lo que tú dices es la democracia y muchas de las cosas extraordinarias aparten de que uno tiene que aceptar, que no se determina el futuro hasta que ocurre. Es decir, no ha diagana hasta que erana. En ese sentido, por eso todo el tema delicado de las encuestas que cada vez fallan más, por cierto, porque en realidad son algo que nos venden también para tranquilizarnos. El objetivo es hacer capaces de vivir con ese incertidumbre, saber que lo que nos están proponiendo o que lo que nos está respondiendo y en ese sentido me parece interesante. Cuando uno le pregunta chatgipitihuaclod, lo que nos contesta es, como tú lo pones, lo que es más probable que fuera la respuesta de otro ser humano, dado el amplio gama de ejemplos que tiene ese sistema para contrastar. ¿Qué es, o sea, verdad? No es cierto ni cuando te contesta un hecho del pasado o como tú lo pones en tu libro. Si le preguntas que el libro se esclito, Carissa Belis, pues, probablemente contesté lo correcto. Eso no quiere decir que sepa que es la verdad, sino que es lo que más probablemente hubiera respondido un ser humano. Y creo que si uno se va hacia el mecanismo de cómo funciona, si uno se va hacia que hay detrás, es decir, empresas que ganan dinero, si la amabilidad del chat al decirte, quieres que te busque más información. ¿Sabes qué en realidad es porque quiere que pases más tiempo utilizándolo? En fin, si todo eso lo empiezas a mostrar, hay una forma distinta. Creo, y en todo caso adquiere es una cierta libertad. Tammy, regularly haul stuff to where kids at college. Have you met my kid? They call me the road warrior. This is your home, road warrior mom, home of the save. Join for just $20 at BJ's.com/maski. And save $0.10 per gallon for six months. Ryan Reynolds, here, for Mint Mobile, the message for everyone paying big wireless way too much. Please, for the love of everything goodness world, stop. With Mint, you can get premium wireless for just $15 a month. Of course, if you enjoy overpaying no judgments, but that's weird. OK, one judgment. Anyway, give it a try at mintmobile.com/switch. A front payment of $45 per three month plan, equivalent to $15 per month required. Intro rate for three months only. Then full price plan options available. Taxes and fees extra, see full terms at mintmobile.com. Y fue un libro en el que más o menos expresé lo que yo ya sabía. Proproficía fue un proyecto de descubrimiento. Y yo hice el libro, pero el libro también me hizo a mí. Y desde que lo escribi, no veo el mundo de la viso de manera. Lo que antes se me pasaba como hechos o como no sé, como parte de, no sé, las cosas que la gente dice. Hoy me salta las predicciones, como banderas rojas, no como si dicen inglés, bad flags, como adentencias. Que me hacen hacerme mucho más preguntas, que me llevan a hacerme otras preguntas. Y que me hacen ver el mundo diferente. Y sobre todo, que me ha dado una sensación mucho más de agencia. De decir, el futuro, en parte depende de mí, no todo. Pero hay mucho más que depende de nosotros de lo que nos imaginamos. Y desde luego de lo que quieren que pensemos las personas con poder. Y por último, hay muchos matemáticos. Se pusieron a discutir a raíz de que hubo esta resolución de un problema matemático por parte de OpenEIA. Y lo que decían era, ¿cuál será nuestro lugar al futuro? Si la capacidad la tiene en las máquinas. Quizás el lugar que nos toca, no crees que es el de hacer las preguntas. Sí, es muy filosófico. Porque en cómo formulamos la pregunta nos va a llevar a respuestas y a formas de vida muy diferentes. Y famosamente Eric Smith, que antes era CEO de Google, decía que quería, no solamente que Google te pudiera dar la respuesta a cualquier pregunta. Y ya asumía que hay una respuesta por pregunta, no? La correcta. Que eso ya filosóficamente le faltó a clase ese día. Pero además, que quería que ni siquiera te dejaras ser la pregunta. ¿Qué hiciera la pregunta por ti? Y eso me parece tan sintomático de lo que quieren esta industria y lo que no debemos dejar que suceda. Entonces, cuando amodeu o cualquier otra diga advertencias, es que no hay que ni siquiera darles el beneficio de que decidan el marco. Nosotros decidimos las preguntas. Muy bien, pues te agradezco muchísimo. Carisa, obviamente recomiendo muchísimo tu libro de profecía. Creo que además en este momento donde hay un temor tan álgido y que ha sido, digamos, realmente cada día estamos viendo cómo crece este temor. Quizás lo importante es decir, de todos modos, el miedo no lleva ninguna parte. O por lo menos a ningún lugar bueno. Y además, así es, no es para el optimismo. Me siento bien raro, porque con privacias podríba el polimalo advirtiendo de las cosas malas de la tecnología. Y ahora me veo como polibo, ¿no? Porque digo, no, es que aquí hay muchísimos recursos que no estamos utilizando. Tenemos muchísimas capacidades. Tenemos mucho más poder del que pensamos. Y el tema esté, que parece básico, pero es. Y tenemos el mundo analógico. Y creo que es interesante también casi plantearnos. Vale la pena, por ejemplo, comprar un refrigerador que tiene cámara y está ligado al teléfono. Vale la pena encender las luces de la casa, tener cámaras al interior de las casas. En fin, son muchísimas preguntas que creo que todo mundo nos tenemos que hacer. Porque en ese pequeño nivel estamos o no permitiendo que esos grandes conglomerados, con intereses económicos y astamísticos puedan adquirir más y más control sobre nuestras vidas. Carisa, te agradezco muchísimo de verdad. Felicidades, felicidades por estar allá en Oxford haciendo estos libros y esta investigación. Y muchísimas gracias por haber tomado tiempo para estar con nosotros. Gracias a ti, Denise, ha sido Tom Blaser. Gracias. Muchas gracias por acompañarnos y recuerden suscríbanse. Y nos vemos en el próximo episodio de "Ablemos". ¡Un producto! ¡Venimos por el castelo! [Música]