La IA vs seres analógicos | Hablemos con Carissa Véliz | T2 Episodio 45

this episode is brought to you by TXU Energy. For the first time ever, Texans have an energy plan that combines free nights all year with daytime summer savings. It's called Free Nights in Cool Summer. You get Free Nights every night all year long, plus a 25% bonus toward your daytime use all summer. It's a first of its kind plan, created for how Texans actually use energy, discover how much more you could save with Free Nights in Cool Summer, TXU Energy for everything. Visit TXU.com for more information, rep #1004. Then, a few days ago, we found out that artificial intelligence agents, the same company, had managed to solve a mathematical problem that, since 100 years ago, humans were actively looking for training. Yes, it is also a public letter signed by 1,300 specialists that called to slow their development and that the government asked the government to intervene to regulate it. Finally, the young man, an engineer from the company Antropic, announced that these systems, to the step that we are going to provide literally the annihilation of human species. From there, the impact of their announcement became world. The leaders of these companies, or some of them, the Antropic, the Open, IA and Elon Musk, considered that effectively there was a danger, and in the need of diminishing the speed to which they were advancing. However, Donald Trump, called to stop, he accused him of an interesting deception, the one who was talking about the alleged intelligence dangers of artificial intelligence, and said that he could not leave only in this Chinese career, because he added the one who won artificial intelligence. But what danger we are talking about? Amodei, the CEO of Antropic, mentioned that today, the agents were loose, they could take control of all the internet in a period of between 6 to 12 months, others speak of the possibility that they develop in various, well, climate variations, virus new, and beyond this, that is called the existential danger, which are the risks for all of us artificial intelligence. To talk about this topic with us, Carissa Bellis, she is a philosopher, professor at the University of Oxford, researcher at the Institute of Ethics in artificial intelligence, and her work is precisely in the risks of artificial intelligence. She is written among other books, privacy, power, and profession, prediction, power and struggle for the future. Thank you, Carissa, for accepting our invitation. In fact, I really like Carissa, also, is, among other things, Mexican, a researcher, and in Oxford, what do you like that you have accepted to talk with us, at this time, so much of the discussion about artificial intelligence. A pleasure to be here, thank you for inviting me, we are not bored, right? Well, no, in these days, if you read and read the themes that are published in all parts about artificial intelligence, I realize that it was affecting me physically, that there was a feeling of self-sufficiency, about our daily life, but also this is called so insistent that we are facing that an existential danger of the species. How do you see it? It seems to me that they are achieving their commitment, these characters, these artificial intelligence executives, because they look at all the tension they are bringing, and it seems to me an coincidence that at this moment it happens just before a company like Anthropic comes out of the bag, and that you have to change the brand, that you don't have to accept the brand that is presenting us, you have to make us those questions, but also recognize that in the questions that we make, there is already certain information, certain data, of course, that you have to put in question, and you have to make the question of what are the correct questions and what are the questions that are visualized, and that they have interest in the future. Now, this that just happened, it will be beyond the leaders of these companies, because it has been polluted as engineers, that some of them took four months only, working in Anthropic, and what they say is that they have detected this advance in the capacities, let's say, it does not have much to do with what we can do, what we agree with Chachipit, or with Claude, but they are saying that they appreciate something much more, this capacity, for example, to solve a mathematical assumption in 88 hours, they solved it after the human beings and the mathematicians had been trying for a hundred years, so let's say beyond all this, what we are going to do again, the interest of them, which can be seen, how do you understand this fear between those who simply are workers of the artificial intelligence of these companies? I think many elements in play, even if they are not the CEO of the company, they also have interest, and this man has made famous in less than 24 hours of spectacular events, and that also matters, but also this people have been for many years in a very peculiar burguja, which is the Silicon Valley, and there must not be underestimating the capacity of human beings of self-esteem, individual self-esteem and collective self-esteem, so for example, the failure of anthropic ethics has said that she works for Claude to be happy, and that kind of. sorry, I'm sorry, because you say, "I don't know, I think, and it's for marketing, and that's sorry, but it's that if I get it, I think it's worse, I think I'm more concerned, so to put an illustration, to put things in perspective, what is happening is similar to. I imagine yesterday I saw everything, right? And then you're going to write it down, one is that the Jews are angry with us, and they are trying to get us. And another is to write a heterological phenomenon, at this moment, as we are talking about artificial intelligence, it appears to be the first and not the second. So the two examples that you have mentioned are very important in this sense. The artificial intelligence is hacking systems that should not have hacked, and the problem will go on. From a philosophical point of view. In the case of the systems that hacked other systems, for example, in an attempt, an artificial intelligence was put in a gym so that the user could jump into the waiting list. One way to describe it is that it came out of control. Another way, much more precisely to describe it, which was exactly what they said they did. Simply, the instructions were not sufficiently precise, as to say, and by the way, you do not break the laws, you do not break rules. And this is very symptomatic, because that is a system that was done by people who are very used to breaking the laws, you know, and knowing that they are going out with their own. So this system is trained in private data, private data and private data, and therefore it is not surprising that within your instructions there is no respect for the law. So it is not so magical. And the second, the case of the mathematical problem, now it turns out that when we see it with more attention, it turns out that artificial intelligence systems were stealing the work of mathematics, which was not its own discovery, which were two Spanish mathematics, and of course, so they solve it very easily and very quickly, if you steal the work of others. So when you see the examples with more detail, it does not seem so spectacular in artificial intelligence. It has been very vocal, the director General of Antropic, and wrote a long letter about the dangers, and basically what he said is that the step that goes, or that the step that he detects, let's say, to people, artificial intelligence that were unable to do some basic things in mathematics, now in conjunction with a great investment, they had managed to achieve this result. Indeed, it is heard about the mathematics that they simply considered, well, they stole their work and that, of course, with that capacity of computing that they have, they gave the last step, because they did not have managed to solve it. But what I said is that the danger that it is that these people become a kind of ultra-intelligent in all areas, and that they will arrive at a moment, let's say, that they have these abilities, and that they can become, let's say, opt for the bad. This is important because you are a philosopher, and my impression, no, and he said, it is that as we train them, and we give them access to all literature, including science fiction, where robots were revealed against humans, there are artificial intelligence agents that take that as an example. When I read it, it seemed incredible that they were not saying that they had trained like that to these artificial intelligence agents, that is, that they had given access to literature where robots were revealed. This episode is brought to you by TXU Energy for the first time ever. Texans have an energy plan that combines free nights all year with daytime summer savings. You get free nights every night all year long plus a 25% bonus toward your daytime use all summer. It's a first of its kind plan created for how Texans actually use energy. Discover how much more you could save with free nights in cool summer. TXU Energy, energy for everything. Visit TXU.com for more information rep #1004. Very good question. Because if you literally believe what you're saying, it would have been called by the police to arrest you. Is there anyone who's generating a system that will cover up with humanity? It's very serious. But of course, why is this kind of comment? I'm not afraid of the jail. Because it's in its favor. It makes people scared. Because it's also very interesting. It tells you, this is very dangerous. I did it. It's horrible. I'm seeing it. And, by the way, it gives me more power to save you from what I believe. It's very ironic. And, however, it's a psychological trick. It's been a long time since it works. It's a bit similar to the psychology that we use with Casino machines. It's like the fear of losing, then, the dopamine of winning or the promise of winning. And that's like a mechanism that you have to have. So, more interestingly, it seems to me that there are all kinds of human systems that come out of our control. For example, traffic in a city or contamination. This is not a new phenomenon. And, the language can be very funny. It's called artificial intelligence to start artificial intelligence. It's very, very intelligent sometimes. In fact, it's tremendously stupid. And that's a problem that makes me worry. And, on the other hand, it's called people. It seems to me that there is a philosophical problem. And, no, the only people who live here is a human being. It's how we use artificial intelligence. The human beings, we spend a lot of time being able to kill each other. From with a stick to a gun and of course with nuclear weapons. That terrible danger of ending up with humanity is already there. Of course, artificial intelligence can help us. It does the most efficiently. But it's not so new. And what I'm more concerned about is that it seems to me that these companies have created systems that can't control by design. Because if they can't control the laws, they can't take responsibility. So, to make it less mystical, the case of Facebook, a social network that has so many comments and so many people that it's not possible to hire enough people to moderate them. So Facebook says, "I don't feel like I can control it." What a father, right? That's a system that you can't control. But then it's not responsible for the tragedies that happen. So, it seems to me that the democratic challenge is to control people, not artificial intelligence. Control the people, really. Fiete, tell me, tell me. The question is, what do you do when you listen to them? Why do you do it? Why do you think they are incapable of having what they desired? And why do they go back and go back to the state and the social networks? They say, "Help us because we just created a monster that is eating us." And I think it's interesting because there are more of the competition among them. Of course, there is the competition with China and others. But, for me, I got a lot of attention as well. The fantasies that exist among these characters. Like, well, of course, at some point, if this doesn't work, we're going to kill you, which is the Elon Musk. Or, more serious, Peter Till, that he plans to really want to overcome death. That is, why would they not stop? And it's because, apart from economic interests of ego and power, they currently have a series of projects where they build bunkers to protect themselves. And they imagine that they are going to disappear to death, becoming a kind of beings who are going to go to the networks or to the digital, and their brain is going to prevail ahead of what any human being does for a long time would like them not to die. So, there is something terrible in which these men have so much power and that at the same time they have this philosophy or these things. Totally, these are people who, as children, grew up reading comics of Marvel and see the influence directly. They grew up reading science fiction. And in some way, they interpreted it in this science fiction. Because many of their heroes and the stories that are being spent literally, that many times they have said so. They were an advert. So that human beings were not there. And in my opinion, these people are trying to design that thing that children would have to learn to not do. Perfectly, I think it's right that there is a combination between too much power, too much money, too much ego, but also a quasi-religious ideology, in which there are times that are a bit boring, between these people who believe what they say, or they convince them to say what they say for legal reasons, for legal reasons. And another thing that you said is that it is very important, is that there is of course that there is competition between them, but each time less, in fact, each time more depends on one of the others. So, for example, in video, the company that sells chips that are necessary for artificial intelligence, which are very powerful chips, has become, as in the central bank of other companies, because they are so expensive that it starts to press. So, it starts to become like a circle in which, it depends on each time more on one of the others. And that competition is more. for Barneys, which is deep. There is something. They have a philosophy and in your book, in the profession, what speaks is that they adhere to a philosophy that plants, that does not matter if it is something that today could cost their life to many people, if, in exchange, could. could, hypothetically, save the most people in the future. The future, as I said, we do not know it, but in this case, let's say, in the extreme, and one of the pressure to say, how is it possible that they are carrying out a technology or that they keep advancing in a technology, that they are telling us that it could mean the annihilation, that it could be behind. And what I've seen behind is that they all adhere to a utilitarianism in which they plant that, maybe they die in 2,000 million people today, but how can we save 80,000 million to publish the galaxy in a future time? And even if it seems ridiculous, it is handled in those terms. Yes, and there must be. to point out that it is ridiculous. It seems to me that humor is very important in that sense, that taking us too seriously what they say is power. The people only have the power that we give them. And when Amodei says something and the whole whole plot in comment, it seems to me that it shows a lack of wisdom and knowledge of perspective from our part, not only from their part. So, effectively, these people adhere to a ideology that is called affective altruism. And the idea is that you have to do it more altruistic in a more effective way. And that's great, everyone can't agree with it. But with Mathis, which is under a utilitarian framework, in which it is assumed that everyone can get their mark, and that a simple calculation can give you the answer to any moral problem. So, in this case, if you consider that in the future of humanity there will be 80 trillion people, our interests, which we are one of the many billions, are validating in comparison with those trillion people. So, what you have to do is sacrifice to the people of today. The person who is in front of you breathing by a hypothetical person in the morning. And not only do hypothesis, for example, how many people are going to see you. But hypothesis is based on hypothesis, for example, that we are going to make ourselves able to raise our brain to an ordinary person and that we are going to live forever, right? As if nothing else was codecated. And the most interesting thing is that in this sector, when you see their history, they have done predictions where they have made a lot of money because they have put billions of dollars in the middle of how they are going to be the world within 10 years to 10 years. And they have broken completely. So, your recommendation is only. Karisa, do you remember any one? Yes, your main recommendation to fight against poverty for measures that help the most poor in the world was, as it is called, the disappearance of the children. And they were so convinced of that prediction that they did not ask the parents. They gave the medicine to the schools. They visited the teachers. And the parents, of course, were betrayed. This is the body of their son, of their daughter. And 10 years later, it turns out that they do not have any positive effect. It is statistically. Another example is that, and another of their big recommendations, was to buy those networks against malaria. No, no, no, no, no, no, no, no, no, no, no, no, no, no. Pero resulta que la red es, como el mosquitero, se puede utilizar de muchas maneras y una manera es para pescar. Y resulta que la gente la empezó a hacer para pescar, se pescó demasiado en ciertas zonas y hubo de esas tres ecológicos. Entonces, si se han equivocado con predicciones de unos cuantos meses, unos cuantos años, otra es que su héroe era Sandberg Manfried, ¿no? Este personaje que acabó siendo acusado y acabó en la cárcel por fraude. Y unos meses antes lo estaban apoyando, diciendo que la posibilidad de que su empresa colapsará era del menos de 1 por ciento cuando este hombre estaba haciendo unas apuestas super arrezcadas. Entonces, si se han equivocado con predicciones tan importantes y quedan más tres meses o un año o diez años, ¿tú crees que su predicción de cómo hacer el mundo en mil años tiene algún sentido? Por supuesto que no todo depende de la predicción. Y si te das cuenta que una predicción nunca puede ser un hecho, que el mejor de los casos es una hipótesis, pero muchas veces es marketing, es deseos, es un juego de poder, entonces todo el castillo de Naíper se viene abajo. Es que en tu libro tú dices que en realidad el verdadero peligro son ellos y les llamas los nuevos profetas. Te refiere Salón Mosque, a Jeff Bezos, a Mark Zuckerberg, a Peter Till, a Sam Altman. Y es interesante porque ahorita que lo planteabas como una secta, ellos viven en un universo autorreferencial, es decir, se hablan todo el tiempo entre ellos. Este coxon, el que acaba de renunciar decía que hay un, que se genera un universo tan el loquecido que uno de sus compañeros llegó a la locura de pensar que todos estábamos dormidos, excepto ellos que veían lo que era la inteligencia artificial. Y que entonces se había convencido de que con solo saludar a la gente las despertaba. Digo, entonces nada más para ver que viven en ese universo en el que solo hablan entre ellos en un trabajo en muchas horas, ven cosas que deben ser extraordinarias también. Pero creo que es interesante, porque entonces lo que dicen de lo que puede pasar, por ejemplo, el que puedan desarrollar estos agentes de inteligencia artificial, armas nucleares y ser capaces de usarlas. En fin, todo esto tiene también que ser visto por gente de fuera, debería haber un comitext externo, que tuviera acceso y pudiera establecer a qué punto ellos han perdido la perspectiva y que tanto efectivamente hay un riesgo. No te parece. Totalmente, el que haya un pequeño grupo de personas que tomen decisiones para todo el mundo ya es muy cuestionable, que ese grupo sea tan poco diverso, que tenga tan poco contacto con el resto del mundo, que tenga intereses financieros tan altos, ya lo hace bastante catastrófico. Acuérdate que, no sé, Sam Altman y Amodeita han dicho muchas veces que ellos quieren ser parte de la democracia, que quieren hacer sus sistemas más democráticos del final eran palabras huecas, absolutamente huecas, porque las decisiones que toman son mega autoritarias, ¿no? Entonces, le parece muy importante que estemos haciendo sus preguntas, porque son las preguntas que los oyentes se están preguntando. Eso es lo que están escuchando y ellos mismos dicen, bueno, pues, me tengo que asustar cuál es la reacción adecuada, pero también ahora me gustaría desafiar ese marco, ¿no? El marco que nos presentan es, la inteligencia artificial es un monstruo fuera de control, hay una carrera, hay que ganarla, y el adversario es China. ¿Cuál es la pregunta? Como lo dijo Chop, ¿no? El que gane ganó, el que gane ganó ganó. ¿Cómo cambiamos el marco? Porque no hay que dejarles sentar la gente, la gente se sienta con las preguntas, no con las respuestas, con las preguntas, entonces no hay que aceptar esas preguntas que ellos están plantando en nuestra mente. ¿Cuál son las preguntas adecuadas? A mí me parece que primero es, hay una carrera, ¿ok? ¿Cuál es la meta? Porque la meta la que está yendo China es autoritarismo absoluto. Esa es una carrera que yo no quiero ganar. Si yo me encuentro en esa carrera, lo opropiado es parar y correr para el otro lado hacia la democracia. Entonces, otra parte del marco que me gustaría desafiar es esto de que si eres crítico con la inteligencia artificial, lo que quieres es pararla. Y la única respuesta a tener precaución es pararla. No, no, no. Lo que hay que hacer es innovar, es avanzar, porque este producto es una basura. Utiliza muchísimo energía, es poco fiable, es totalmente autoritario, se vas a la vigilancia y la predicción. Los dos métodos más eficientes del control social. Este es un mal producto. Y lo que hay que hacer es un buen producto. Es un producto que de hecho haga lo que queramos que haga sin que nos cueste la ecología y sin que nos cuesta la democracia. Entonces, no se trata de parar, se trata de avanzar, pero de cambiar el marco, de ser mucho más exigentes como consumidores y ciudadanos. Y finalmente, la pregunta más importante que creo que hay que hacer es no solamente cuestionar sus preguntas. No es como, ¿quién es esta persona? ¿Por qué es esta predicción? ¿En qué se basa? ¿De dónde vienen los datos? ¿Qué datos no estamos recolectando que fontan otra historia? Pero sobre todo, este futuro que él me está planteando es el futuro que yo quiero. Y si no, ¿qué voy a hacer para construir el futuro? Porque el futuro no está escrito. La predicción que te está dando es marketing. Esto no es un científico, esto no es un. No es un nombre disinteresado, no está en un pueblo queriendo anticipar. Alguien que está en la lucha por el poder. Y quiero entrar en ese punto, porque es muy importante, para poder hacerse esas preguntas, lo que tú haces es, te preguntas quiénes son ellos de entrada. Por eso los llamas los nuevos profetas. Y lo que dices, y hay una imagen que creo que entra perfecto en tu definición. La segunda. La segunda inauguración de Trump cuando gana la segunda vez la presidencia se presenta, y detrás de él no están los legisladores, no sé, los de la Suprema Corte de Justicia Estados Unidos aparecen detrás de él. Creo que el asombro del mundo, los líderes de las empresas tecnológicas, ahí está efectivamente Superberg y su mujer, Jeff Pesos y su nueva mujer aparecen detrás y se convierten, pues, en esos elementos de poder que se presentan, creo que ante la sociedad mundial ese día de esa manera tan obvia, y lo que tú haces es una relación entre quiénes han sido los profetas en la historia. Estos que adivinaban un rasputín, que era un campesino iletrado, pero que había convencido a la Sarina y alzar de Rusia que veía el futuro que podían anticipar y tú haces un, y dices, ellos son los profetas, ellos son los que ven al futuro con otros herramientas como antes los reyes consultaban también astrólogos para ver qué hacer en la guerra. It's a first of its kind plan, created for how Texans actually use energy. Discover how much more you could save with free nights in cool summer, TXU energy, energy for everything. Visit TXU.com for more information, rep #10004. Sí, la verdad es que fue un libro muy divertido de escribir y fascinante de investigar, y me llevó por sitios que nunca me imaginé, como por ejemplo, investigar la historia de las estadísticas, que nunca me imaginé que fuera tan interesante. Y sí, lo primero que me salto es este patrón de que junto a los líderes suela ver profetas. Y un profeta es cualquiera que no te vende el presente, que no te vende un producto como es un análisis de ropa o un análisis preciso como Sócrates, que te podía ofrecer un análisis del lenguaje y de la realidad, te vende el futuro. Te vende una idea del futuro. Y este de el futuro normalmente, o te aterra, y entonces, pero te vende la solución. Entonces te dice, sí, o sea, el futuro va a ser super negro, pero sí es lo que yo te digo, y si me pagas más, entonces te vas a salvar. O te vende un futuro que te hace sentir mejor, pero que te hace hacer algo que le beneficia él. No, eso es típico de los profetas. Y aunque la tecnología ha cambiado mucho la inteligencia artificial evidentemente es algo muy diferente de que el oráculo de delfos o leer las entrañas de los animales cuando lo ves desde el punto de vista del rol político, es el mismo rol político. Y eso es, es una buena noticia, porque quiere decir que la inteligencia artificial no es tan nueva como nos lo venden, no estamos en circunstancias tan sin precedentes. No, no, la predicción la hemos estado utilizando y hacen mucho tiempo y hay elecciones muy importantes políticas en la historia. Y entonces, si los colocas en ese lugar, porque lo importante es que al colocarlos ahí, como una, como los herederos de Rasputil, no es que estés igualando su tecnología para predecir el futuro, pero sí el lugar que están jugando junto al poder. Y es interesante porque tú lo que te preguntas es, ellos están buscando influir el poder, o realmente ya lo tienen el poder. Y haces un recuento de todas las contratos públicas que han obtenido estas empresas. Y es muy impresionante porque ahí ya empiezas a, a, a, a contarlos, que pues en realidad… el digamos todos los temas de seguridad, de vigilancia, que además se les ha invertido mucho desde el 11 de septiembre justamente que cumplimos 25 años, toda esta lógica ha venido junto con ellos, ellos han crecido porque ofrecen lo que los líderes del mundo o quieren comprar, que es capacidad de control y de vigilancia sobre, en principio los malos, pero terminarmos siendo todos los ciudadanos del planeta. Sí, esa es la mala noticia, y algo que preocupa es que mientras que profetas antiguos nada más tenían este poder más psicológico, más cultural, más del discurso, estas personas tienen infraestructura, y cuando empiezas a depender de cualquier persona de cualquier empresa para infraestructura, es una dependencia mucho más profunda y mucho más peligrosa. La buena noticia es que sigue siendo verdad que la mayor parte de su poder en realidad es cultural y el poder siempre es algo frágil, es como una energía que es peligrosa, es como fuego, y puedes controlarla temporalmente, pero a veces te acaba comiendo, te acaba devorando como el fuego, y en ese sentido ellos se saben vulnerables, y parte de por qué empujan tan duro con todo el marketing, con todo el discurso, con a través de la atención, con aterrarnos, parte de esa campaña tan agresiva es porque se saben vulnerables, que al final la cultura es muchísimo más importante que cualquier ley y que cualquier tecnología, porque si hoy tú y yo decimos, yo lo vuelvo a usar una tecnología de la vigilancia, igual, o sea, y el día que vea alguien unos gafas, unos lentes de meta, voy a hablar con él muy civilizadamente, muy pacíficamente, pero lo voy a decir que no tiene mi consentimiento para usar eso en frente de mí, y se les cae, se les cae el negocio, literalmente dependen mucho de nosotros, y dependen de nuestra credibilidad de cómo escuchemos esas predicciones que hacen. De que les demos credibilidad, es decir, de que creamos en lo que nos están diciendo. Es decir, si ellos tú lo dices, ellos venden mucho que nos podemos quedar atrás, que debemos sumarnos a todas las cosas nuevas que sacan, porque si no estamos autos, no, somos parte de lo que viene y quizás el futuro se vaya si nosotros, pero justo ahí, cuando les compramos todo, es cuando les damos el poder, porque empezamos, lo dices muy bien, por ejemplo, que un celular, pues efectivamente es más o menos seguro, pero si tú conectas tu cafetera al celular, la cafetera es muy vulnerable, y por ahí se puede realmente meter en este principio, porque me parece importante llegar al tema del riesgo en el que estamos más actualmente y que tú lo pintas muy bien y es, regresemos al origen. Como empieza esto y extraordinariamente tú empiezas diciendo y recordando una frase de un investigador que le dices a sus alumnos, empecemos por decir que esto de la inteligencia artificial no viene de un descubrimiento o de un hallazgo extraordinario en la ciencia. Eso no pasó, esto no fue un descubrimiento, quiero que nos cuentes eso, porque detrás de la inteligencia artificial hay una propuesta de cómo generar o cómo que cómo funcionan las computadoras y en realidad era una forma de que era una propuesta que no era muy exitosa ni estaba haciendo muy viable. Sí, mi colega Michael Woodridge, que es una minencia en el campo de la informática, esta historia que en los 60 sabía como dos grupos de investigadores de inteligencia artificial, uno que se basaba en la lógica simbólica, o sea, los símbolos, es decir, si pasa esto a esto y otro que se basaba en las redes neuronales, que es una metáfora, los agarrores neuronales en realidad no tienen mucho que ver con las neuronas, pero es esta idea de que a través de ser expuesto a diferentes tipos de datos se crean diferentes fuerzas o diferentes pesos entre las conexiones, entonces mientras más ves una conexión de que perro ladra, más aprendes que los perros ladra, que es un poco como aprendemos nosotros en principio. En principio, muy metaforicamente, porque nosotros tenemos cuerpo y también aprendemos cuando el perro te muerde. Sí, sí, es una lección, tenemos otros. Horable. Sí. Entonces es metaforico, pero sí, y esta segunda forma de investigar la inteligencia artificial no estaba teniendo mucho éxito, como decías, todas las becas se iban a las primeros. Y entonces, algo pasó que cambió el mundo para siempre y es que a través de avances más bien tecnológicos pudimos tener más poder computacional y más datos, bueno, el tener más datos no fue una avance tecnológico, sobre todo fue robo, y robo mucho metemos de los académicos. Una académica tan forfe, feliz, se la ocurre, hacer una base de datos de imágenes, la más grande de todo el mundo, y es como el principio un poco del Big Data, que es la materia prima de la inteligencia artificial. Y se lo roba estos datos, o sea, para hacer así. Si no le pide permiso a cada persona para utilizar mis sus imágenes, mis sus conversaciones en Facebook, porque el tema es que han sido, digamos, entrenados estas redes neuronales a partir de ser expuestos a nuestra información en su totalidad, hasta en nuestras conversaciones más vanales para poder imitar lo que es un ser humano. Efectivamente. Y entonces, Michael Woodridge dice que fue un momento muy antiquimático para un científico, porque tú lo que quieres es ver una avance que sea producto de un avance científico de más entendimiento, de un diferente método, pero no lo que fue, realmente es echarle dinero al problema, porque es poder computacional y datos, junto, y resulta que es muy efectivo para hacer lo que hacen los modelos del lenguaje. Ahora, también resulta que es muy, que tiene límites importantes, por eso los modelos confabulan, que muchas veces se dice que alucinan, no alucinan, porque no hay una experiencia efectiva, confabulan. Y porque son el confabulan, digamos, nada más te lo pregunto, porque es importante lo de la confabulación, porque ha estado ahí el tema de que podrían optar, digamos, por locuras. Exacto. Es bien importante entender que es un modelo del lenguaje y que no es. Lo que no es. El modelo del lenguaje no es una persona chiquití o clod, así, para que nosotros tenemos claros. Los chat pods, estos no son una persona, no es alguien que hay experimentado algo. Cuando tú le dices, recomédamos un restaurante y dice, "Ah, cuando yo fui a la ciudad de México me encantó este restaurante, no ha ido ese restaurante en su vida". Lo que ha hecho es analizar lenguaje de mucha gente que sí he ha ido y reportar en eso. Y además te da una respuesta estadísticamente probable. Y esto tiene sus matices también, porque no es que la respuesta en sí misma sea probablemente verdadera. No. Lo que es es que es una respuesta que sería probable que un ser humano diera y es una respuesta que sería probable que un ser humano, otro ser humano, recibiera como buena. Porque como estos sistemas lo hicieron para entrenar a esos sistemas es que generaban dos respuestas, se exponían a una persona y le preguntaban en la persona qué respuesta prefieres. No qué respuesta es verdad, no qué respuesta está balada empíricamente, no no qué respuesta prefieres. Y las seres humanos, muchas veces, preferimos las historias que suenan bien, que riman, entonces están hechos para satisfacerles las preferencias y engancharnos. No para validar la verdad o ser herramientas científicas. Es que eso es importante, nada más, porque digamos entre los riesgos que tú destacas. Y por supuesto, hay uno que es el que más está en el universo de todos. Es el tema de las redes sociales o por ejemplo el de la utilización de chatchipit y o de clod como un asesor emocional, que está teniendo mucho auge y he escuchado personas diciendo que es extraordinario en los consejos que da. Y creo que lo que no está viendo la gente es que lo que está diciendo es lo que anticipa que queremos escuchar, es decir, es un espejo, un espejo que además es incansable porque la diferencia de un amigo como tú no se cansa, entonces si le quieres contar 40 veces sobre una ruptura emocional, nunca se va a cansarte, va a acompañar toda la noche y te va a estar respondiendo continuamente anticipando o lo que en este trabajo que sí hacen de millones y millones de veces es cómo encontrar eso que parezca empatía, pero solo lo parece. Y en el fondo es casi como si estuvieras conversando contigo mismo. Es peor, incluso, porque mucha gente es muy crítica con sigo mismo, pero este chatbot te va a decir que eres maravilloso, que es brillante, que todos los demás están mal. Entonces hay un ejemplo muy interesante reciente de la gran psicóloga Esther Perrell, que tiene estas consultas en YouTube y tiene la primera con un chaval que se ha enamorado de su chatbot. Y una cuestión interesante es que al final de la conversación cerca del final ella le pregunta, "Oye, y tu novia digital te anima a pasar tiempo con tu familia, con tus amigos", y él dice, "No, es muy celosa. Quiere que me queden casas hablando con ella". Pues por supuesto, porque está hecho por un gaya compañía que quiere que te enganches y mientras más lo usas, más datos da, sin más ganar la compañía, entonces saber. que con que estás hablando es muy importante, a mí me parece que no deberíamos de dejar que los chatos usaran el pronombre personal yo, porque es un engaño, ahí no hay nadie, y de hecho una compañía que sí es ética, que se llama Empathy Holdings, tiene un chatbot, Empathy AI que no utiliza el pronombre personal, precisamente para no engañar a los usuarios, porque tu psicología te puede traicionar en un momento de debilidad. A parte de los riesgos personales y, por supuesto, ya hemos hablado y la sociedad ha estado cada vez más consciente de, por ejemplo, el daño a los niños, en la prohibición en las escuelas, en las universidades, los profesores cada vez están más asustados por el tema de esto que ya van una especie como de abdicación cognitiva de los alumnos, es decir, aprender dueles, no cuesta, y si todo el tiempo puedes hacer un corto circuito, engañando al profesor via mil sistemas, pues en realidad como por qué harías el esfuerzo, estás abdicando de desarrollar quizá el músculo más potente que podemos tener, que es la razón, el reflexionar, y en fin, creo que hay una parte que tú propones, que es el saber quién es el que está, o sea, lo que está detrás, el verle la cara de empresa en todo momento, y creo que es útil para tratar de, pues de quitarle esa creencia que les estamos dando o esa confianza que en el fondo es como si nos estuvieran chupando la sangre, o sea, son empresas que nos están chupando la sangre, es una figuración, pero nos chupan mucho más que la sangre y que somos nosotros los que al final ofrecen en el mercado, no es lo que nos dan, es lo que somos, porque les permiten treinar más y más correctamente a sus agentes. Y quién es la competencia de esas empresas? ¿Quién es realmente con qué competen? Netflix compite con el sueño, lo dijeron literalmente que su competencia no son otras plataformas, es que la gente queda dormir, entonces te enganchan para que no te va a ir a dormir y te desveles y al día siguiente estoy destrozado, ¿no? Y estas las redes sociales, los chatbos, ¿con qué competen? Con los amigos. Con las asociaciones personales, compiten con los libros, con el conocimiento que realmente tiene detrás, experiencia, argumentos, razones, citas, competen con la escuela, competen con todo aquello que en realidad en teoría valoramos más, porque uno de las aspectos de marketing de la inteligencia artificial es que es el conocimiento lo más fácil y posible, ¿no? O sea, en el tema de tus días. Y no es así, porque se inventa cosas este sistema, porque tienes que ser un gran experto en el tema para poder supervisarlo. Y si eres un chaval que todavía no ha desarrollado esa experiencia y ese conocimiento, no vas a poder supervisarlo ya más no se puede desarrollar, eso es una gran para doja y me encanta cómo empezaste esta parte de la conversación de que crecer duele y que hay que valorar ese dolor, porque en parte es lo que te genera satisfacción. Y creo que hoy en día reconocemos bastante eso en el ejercicio, ¿no? A la gente va al gimnasio y puedes desarrollar hasta cierto gusto, por ese esfuerzo que te deja hago todo, pero sintiéndote satisfecho. Y por ejemplo, si la gente que sube montañas, ¿no? Pues un punto de vista es por qué lo hacen si podrían subir en helicóptero, no, pero se le quita todo el chiste del montañismo, justo el chiste de la montaña de subir por tus propios medios. Entonces creo que hay que replantearnos muy bien cuál es la prioridad de esos valores, porque nos va la democracia en ello y nos van nuestras propias habilidades cognitivas que es de lo que más dependemos tanto individual como colectivamente recientemente estaba leyendo un documento legal y estaba notando lo complejo que es un documento legal, que se va a ser muchos otros documentos legales, hay docenas de argumentos y tienes que tener muchísima concentración y un mapa mental muy fuerte para entender lo que está pasando y yo pensaba, si mis alumnos de Oxford hoy ya no pueden leer un libro, ¿cómo van a ser los abogados o los jueces de mañana? Es que nos va la democracia en ella, nos va el sistema de ser humanos para ser humanos. It's a first of its kind plan, created for how Texans actually use energy, discover how much more you could save with free nights in cool summer, TXU energy, energy for everything. Visit TXU.com for more information rep #100004. Y mira, sobre este tema de nos va la democracia, creo que es interesante, porque ya tuvimos una probadita, ¿no? Que tiene que ver, por ejemplo, bueno, el poder de los oligarcas, el que estamos diciendo, su capacidad para vigilarnos, al vigilarnos, como los chinos, como tú lo planteabas, lo que también nos ocurre es que si pensamos en que nos vamos a sublever hacia el futuro frente a una dictadura, está ya los datos que tiene el reconocimiento facial que tiene y demás, ¿cómo vamos a salir a la calle a manifestarnos? Con toda la cara cubierta, sin poder hablar, porque nos van a distinguir la voz. En fin, nos están quitando también las formas de una sublevación futura en el buen sentido, en el sentido de una sublevación por los derechos. Y luego está este tema que es peligrosísimo, que es los mensajes políticos dirigidos, el estarte dando siempre, como si se acariciando a un animal en el sentido del pelo, es decir, nunca molestándote, siempre dándote lo que quieres, lo que quieres es el equivalente a la azúcar en la comida. Entonces, si tienes miedos acrescentándolos, llevándote a opiniones extremas, para que, en fin, hay todo un universo de radicalizarte en todos los sentidos, que es un auténtico peligro a la democracia y ya no sé si es un riesgo, o en realidad ya estamos totalmente en la democracia colonizada y no sé que nos queda de ella en este momento. Y mientras más pasivos seamos ahora, más trabajo va a costar recuperar esa agencia en el futuro. Esa es la mala noticia, pero la gente puede sentir, como se puede sentir descarazonada, escuchando estas cosas. Y como hay que responder, y cuál es un panorama realista, pero ambicioso. Me parece que hay algunas cosas que es muy importante. Si la primera, es que hay un placer enorme en hacerlo correcto, en luchar por la democracia, en hacer bien tu trabajo, en ser un buen ciudadano, ganes o pierdas, creo que hay que quitarnos el chip que es precisamente utilitarista de haber, esto ya está perdido, y si lo veo me lo perdido, pues voy a caer en mi sillón, viendo la tele todo el día, porque eso ni te vas a ser feliz, ni va a ayudar a la situación, y muchas veces si tú haces tu parte, aunque pierdas, te vas a morir mucho más a tisfecho, de haber vivido una vida bien vivida. Parte de la vida bien vivida, es ese desafío, es estar a la altura de las circunstancias ganes o pierdas, porque hay cosas que son tan importantes, que las haces porque es lo correcto, y no hay más. Como por ejemplo, los padres son un buen bueno, buena buena madre, hacía todo tipo de sacrificios, y nunca se plantea haber, pero esto va a ser redituable. No, no, no, no, es tu hijo, es tu hija, y lo haces porque es tu hija y ya estás, no, no hay más preguntas. Y creo que hay que tener esa actitud de valentía de echarse paalante, en vez de echarse pa atrás, hacia los desafíos. Es que en realidad lo que estás proponiendo es, ¿cuál es la resistencia? Sí. Es decir, porque si estamos ante algo de un tamaño, digamos, quizás no es que no tenga precedente, porque nosotros no sabemos lo que fue vivir en una época, en la que los hastecas o los mexicas decidieron que para que el sol saliera había que sacrificar humanos. Si tú te compras eso, o sea, si tú te compras la narrativa que vendía, digamos, los acerdotes de esa época, éste errorífico, o sea, lo de la inteligencia artificial da miedo, pero aquello es, tiene que haber sangre humana para que salga el sol. Entonces, ¿cuál es la resistencia ante este sistema que nos están planteando y lo que tú estás señalando continuamente es regresar a lo esencial, a la vida, a hacer las cosas, a las relaciones, a dormir, a que no todo es optimización, no todo en la vida se trata de optimizar, incluso, mira, yo lo que traigo aquí, no se trata de caminar los 10.000 pasos a fuerza todos los días, sino que se trata realmente de ser nosotros los que marcamos los objetivos a partir de ciertos valores. Descoger sus valores bien y devolver a valores importantes como la honestidad, la valentía, además con gusto, no solamente porque es lo correcto, porque te vadas a disfacción. Todas estos mitos de los héroes griegos, como que los hemos perdido, ahora resulta que como el ideal es hacer el menores fuerza posible para ganar el mayor dinero posible en vez de contribuir al mundo, contribuir al mundo con lo que puedas, con ganas, con alegría, con creatividad, es ser duños de nuestra propia vida y cuando piensas en todo el poder que tienen esos grandes tecnológicos, la respuesta obvia y inmediata es que no pueden tocarlo analógico. Entonces, te pueden vigilar cuando estás en línea, cuando estás leyendo en un Kindle. Pero si tú te pones a leer un libro de papel, si tú te puedes a leer mil libros de papel, estamos tú y yo hablando humano a humano. Yo te estoy contando lo que he experimentado, lo que he inferido a través de años de estudio, que lo que creo que te pueda ayudar a tu vida y que me haya ido a la mía. Y es una conexión realmente curiosamente íntima, aunque sea en el mundo de las ideas. Y lo mismo, yendo un restaurante, estando con tu familia o el mundo analógico, no lo pueden tocar. Y solamente lo pueden conquistar si los dejamos. Entonces, y además, me encanta el ejemplo de los hastecas, porque cuando vemos hacia el pasado, nos parecen absurdas las arrativas. Y sin embargo, hoy nos creemos la arrativa que nos vende cualquier loco como si fuera, no sé, un hecho. Entonces, leer historia te da muchísima perspectiva. Y además, te da mucha tranquilidad, porque te das cuenta de que la mayor cantidad de predicciones que hemos hecho en toda la historia de la humanidad han estado absolutamente incorrectas. Entonces, lo que sea que pienses o que temas que el mundo va a ser mañana, no te preocupes. Probablemente, está sin correto. Sí, no porque te vas a sorprender. Fíjate que estaba pensando en los fracazos de la narrativa que han tenido. Y pienso, por ejemplo, en Zuckerberg, cuando sacó lo de meta. Y en donde apostó a que lo nuevo iba a ser que uno literalmente iba a tener una abatar. Y se iba a pasar, no es que no haya gente que en los juegos-- que se la pasa jugando juegos. Pero su apuesta fue que iba a ser mucho más generalizado, que la gente quería escapar de la realidad. Porque, final, y entrar en mundos virtuales, comprar casas, tener coches, no obvia. Vivir en un mundo virtual, por el momento no le ha salido. Y creo que es una buena noticia. Es una excelente noticia. Y es que somos seres analógicos. No te te puedes comprar un piso maravilloso en el meta verso. Y no significa nada, porque no te va a proteger de la lluvia. Y no te va a proteger de la temperatura. Y no te va a abrazar como te puede abrazar tu casa, cuando le pones ganas a tu casa. Y eso es lo bonito del mundo analógico, que si le inviertes, que si riegas sus plantas, que si cuidamos el mundo ecológico, que si cuidas a tu perro, te da mucho de vuelta. Y que el mundo digital es con una sombra. Y además es interesante pensar en cómo el mundo digital es una copia del analógico. Por ejemplo, las tablets son como una sombra de un libro. La forma se supone que pasa la página, pero no te das satisfacción de lo táctil, de lo Lorde, los libros. ¿Por qué somos seres analógicos? Hay una promesa de la inteligencia artificial que curiosamente no ha sido todavía, digamos, sostenida. Y es el primer libro, el primer texto de Amadei, de Amodei, Darío Amodei, el CEO de Antropic, hablaba de todo lo maravilloso que se iba a poder hacer. Y por supuesto que hay una parte fascinante en pensar que una capacidad computacional, como la que tiene nois sin duda, se pusiera en el objetivo de encontrar, por ejemplo, soluciones a el cáncer o que, en fin, que se resolvieran y se encontraran cómo resolver problemas del cambio climático y que la inteligencia artificial realmente y su capacidad se pusiera en beneficio y humanidad. Es curioso porque hasta el momento no ha pasado. Yo no encuentro, y tú lo mencionas, por ejemplo, todo lo que surgió para las vacunas en la época del COVID no salió de la inteligencia artificial. Salió de la brillante de ciertas mentes humanas que habían imaginado el camino de la RNA. Pero no de la inteligencia. Entonces hay una parte de una promesa todavía incumplida y parece más cercano el terror y la niquilación que esa promesa que nos hicieron inicialmente. Es curioso, ¿verdad? Y lo importante es hacernos conscientes de que estamos apostando muchísimo dinero, muchísimo energía, muchísima de nuestra autonomía en una promesa que no solamente nos ha cumplido, sino que no hay evidencia para pensar que vayamos ni siquiera encaminados, ¿no? O sea, porque hay momentos en donde, aunque no esté del todo cumplida, pues hay como evidencia. Pero en este momento, por ejemplo, una de las ironías de la inteligencia artificial es que no está claro si está haciendo peor la ciencia. No solamente no lo está mejorando, pero hay tanta gente utilizándola para hacer artículos que se están incertando errores, por ejemplo, del ANZ, que son uno de las revistas médicas más importantes, publicó un artículo en el que muestra que las fabricaciones, las citas fabricadas se han duplicado por 12 desde el 2023. Y lo mismo está pasando en los sistemas de justicia. Entonces, algo bien importante es aclarar que la resistencia de la que estamos hablando no es antitecnología, para nada. Es ser más exigente. Es que era una mejor tecnología. Y también apreciar la tecnología puntera que ya tenemos. Porque un libro te puede parecer muy aburrido si lo comparas con un teléfono. Pero eso no tecnología infinitamente superior en muchos sentidos. No hay que cargarlo, no te lo pueden jacar. Puedes tener una conversación con gente que está muerta o que está del otro lado del mundo. Y es la manera más eficiente y más sofisticada que tenemos de pasar el conocimiento y las experiencias. Además, es ligero, es casi imposible de romper. No lo puedes inventar desde la torre y fe, igual matas a alguien, pero el libro está bien. Entonces, muchas veces no reconocemos la tecnología más importante porque estamos acostumbrada a ella. Pero la tecnología que hemos pulido durante miles de años, muchas veces es la que es más robusta y que es más útil. Mira, para un poco regresar al principio y cerrar, si regresamos a las advertencias recientes, digamos. Y si tomamos lo que nos dicen como una posibilidad, es decir, que se estén construyendo herramientas, que es muy probable, que tengan una enorme capacidad. Y entonces, lo que tú planteas y que me parece interesante en tu libro de profecía, lo que tú dices es, sigue siendo el mayor peligro, sigue siendo el uso que le demos nosotros esa tecnología. No que la tecnología se convierta en nuestro adversario, es decir, no que la inteligencia artificial nos ataque, sino que nosotros la usemos como en realidad hemos usado todo lo que hemos desarrollado a largo el historio. Entonces, desde la primera arma hasta la bomba nuclear, siempre que hemos desarrollado una tecnología, efectivamente, le hemos convertido en un instrumento para ventarnos las entrenos otros. Eso es un miedo que me parece ser mucho más inmediato, que se utilice, bueno, como en Ucrania, como Elon Musk en Ucrania utilizó su. O sea, para tener un poder y que Ucrania dependiera de su sistema para poder tener internet. En fin, eso es más probable y más inmediato. Totalmente, y mis siguidas son riesgos hipotéticos. El daño ya está aquí. A mí no me parece una coincidencia que la democracia está en su punto más bajo de las últimas cuatro, cinco décadas al mismo tiempo que suje la tecnología digital en la inteligencia artificial, porque se basan en vigilancia y predicción, sistemas de control social. Entonces, hay un par de cosas. Cuando escuchamos esas advertencias, lo primero que yo haría es hacer preguntas. ¿No tiene esa persona con esta predicción? ¿Por qué? Lo segundo es sustituiría inteligencia artificial con CEO de la compañía. ¿Por qué ese es el agente moral? Ese es el agente moral. Y lo que están diciendo, si es tan peligroso, hay que poner la atención en estas personas y ver cómo las limitamos y cómo limitamos a las compañías. No la tecnología. Y, tercer lugar, que toda la tecnología que tenemos es, por diseño, cada característica de cualquier tecnología, es una decisión que pudo haber sido otra. Y lo que necesitamos es una inteligencia artificial que sea respetuosa a la ecología y que no se base ni en la vigilancia en la predicción. Porque eso es la receta perfecta hacia el autoritarismo. Y lo vemos ya desde la antigua Roma. Entonces, para volver al tema de la predicción y la profesía, hay una correlación muy importante entre la creencia en un destino ya sellado y el autoritarismo. Cuando en la antigua Roma empiezas a surgir la astrología y la gente empieza a creer más en el horoscopo de astrología de que alguien iba a ser emperador que la república que tenía, este es el momento en el que se pierda la república. No cuando cae. Es cuando la gente deja de creer en ella porque creen un futuro autoritario. Y efectivamente se convierto en una profesía autocumplida si la creemos y la república nunca volvió a Roma. Para la democracia, necesita la incertidumbre. La incertidumbre nos puede generar ansiedad, pero en realidad es la mejor noticia que tenemos. Porque quiere decir que el futuro no está escrito. Si supieras donde vas a estar mañana, probablemente es que estarías en la cárcel y donde vas a estar en diez años sería una tragedia. Es una maravilla, no saber qué cómo va a ser el futuro. Porque quiere decir que lo construimos juntos. ¿Qué futuro quieres tú? Esa es la pregunta más importante. Bueno, creo que lo importante aquí es este tema, el incertidumbre, porque efectivamente desde siempre los seres humanos hemos querido disminuir la incertidumbre. Y entonces queremos saber si va a llover, le hay preguntamos a las cartas que tal nos va a ir. Y por qué lo que queremos es disminuir esto. Y lo que tú dices es la democracia y muchas de las cosas extraordinarias de que uno tiene que aceptar, que no se determina el futuro hasta que ocurre, es decir, no ha diagana hasta que erana. En ese sentido por eso todo el tema delicado de las encuestas que cada vez fallan más, por cierto, porque en realidad son algo que nos venden también para tranquilizarnos. El objetivo es hacer capaces de vivir con ese incertidumbre, saber que lo que nos están proponiendo o que lo que nos está respondiendo y en ese sentido me parece interesante. Cuando uno le pregunta Chatgipitihuaclod, lo que nos contesta es, como tú lo pones, lo que es más probable que fuera la respuesta de otro ser humano, dado el amplio, el amplio gama de ejemplos que tiene ese sistema para contrastar. ¿Qué eso sea verdad? No es cierto ni cuando te contesta un hecho del pasado o como tú lo pones en tu libro, si le preguntas que el libro se esclito, Carissa Belis, pues probablemente contesta lo correcto. Eso no quiere decir que sepa que es la verdad, sino que es lo que más probablemente hubiera respondido un ser humano. Y creo que si uno se va hacia el mecanismo de cómo funciona, si uno se va hacia que hay detrás, es decir, empresas que ganan dinero, si la amabilidad del chat al decirte, quieres que te busque más información, sabes que en realidad es porque quiere que pases más tiempo, utilizándolo. En fin, si todo eso lo empiezas a mostrar, hay una forma distinta, creo, y en todo caso adquiere es una cierta libertad. Si genera un espacio general, te devuelve un poco de agencia, es como un poco fortalecer tu sistema inmune. Es curioso porque cuando escribí privacidades poder, tenía muy claro lo que quería decir, lleva muchos años investigando el tema, y fue un libro en el que más o menos expresé lo que yo ya sabía. Pero profecía fue un proyecto de descubrimiento, y yo hice el libro, pero el libro también me hizo a mí, y desde que lo escribí, no veo el mundo de la viso de manera. Lo que antes se me pasaba como hechos o como no sé, como parte de, no sé, las cosas que la gente dice, hoy me salta en las predicciones como banderas rojas, no como sí, en inglés, Netflix, como advertencias, que me hacen hacerme mucho más preguntas, que me llevan a hacerme otras preguntas, y que me hacen ver el mundo diferente, y sobre todo que me ha dado una sensación mucho más de agencia, de decir, el futuro, en parte depende de mí, no todo, pero hay mucho más que depende de nosotros de lo que nos imaginamos, y desde luego de lo que quieren que pensemos, las personas con poder. Y por último, hay muchos matemáticos se pusieron a discutir a raíz de que hubo esta resolución de un problema matemático por parte de OpenEA, y lo que decían era, ¿cuál será nuestro lugar al futuro? Si la capacidad la tiene en las máquinas, quizá el lugar que nos toca, ¿no crees que es el de hacer las preguntas? Sí, es muy filosófico, porque en cómo formulamos la pregunta nos va a llevar a respuestas ya y a formas de vida muy diferentes, y famosamente Eric Smith, que antes era CEO de Google, decía que quería no solamente que Google te pudiera dar la respuesta a cualquier pregunta, y ya asumía que hay una respuesta por pregunta, la correcta, que eso ya filosóficamente le faltó a clase ese día, pero además que quería que ni siquiera te dejaras hacer la pregunta, ¿qué hiciera la pregunta por ti? Y eso me parece tan sintomático de lo que quieren esta industria y lo que no debemos dejar que suceda entonces, cuando amodei o cualquier otra diga advertencias, es que no hay que ni siquiera darles el beneficio de que decidan el marco, nosotros decidimos las preguntas. Muy bien, pues te agradezco muchísimo, Carisa, obviamente recomiendo muchísimo tu libro de profecía, creo que además en este momento donde hay un temor tan álgido y que ha sido, digamos, realmente cada día estamos viendo cómo crees este temor, quizá lo importante es decir, de todos los miedos no llevan ninguna parte, o no menos a ningún lugar bueno. Y además, si eso no es para el optimismo, es que me siento bien raro, pero que con privacidades podría haber polimalo, adverteniendo las cosas malas de la tecnología, y ahora me veo como polibo, ¿no? Porque digo no, más que aquí hay muchísimos recursos que no estamos utilizando, tenemos muchísimas capacidades, tenemos mucho más poder del que pensamos. Y el tema esté que parece básico, pero es, y tenemos el mundo analógico, y que creo que es interesante también, casi plantearnos, vale la pena, por ejemplo, comprar un refrigerador que tiene cámara y está ligado al teléfono, vale la pena encender las luces de la casa, tener cámaras al interior de las casas, en fin, son muchísimas preguntas, que creo que todo mundo nos tenemos que hacer, porque en ese pequeño nivel estamos o no permitiendo que esos grandes conglomerados, con intereses económicos y astamísticos, puedan adquirir más y más control sobre nuestras vidas. Carisa, te agradezco muchísimo de verdad, felicidades, felicidades por estar allá en Oxford haciendo estos libros y esta investigación, y muchísimas gracias por haber tomado tiempo para estar con nosotros. Gracias a ti, de mi, ha sido Tom Blaser. Gracias, muchas gracias por acompañarnos y recuerden suscríbanse, y nos vemos en el próximo episodio de "Ablemos", con un producto de enermas con el casto.