#1 - Inteligencia Artificial: ¿consciencia o contexto? con Andrés Campero

Hola, bienvenidos a Inferencia, soy José Luis Abau de Perpeto y me acompaña como siempre mi querido amigo y compitrón José Antonio Murillo de primera y hay. -¿Cómo estás? -¿Cómo estás? -Está cayón. Estoy muy emocionado, para esta conversión vamos a hablar con Andrés Campero, que es una de las personas que probablemente más sabe de y hay en español, es una persona que desde muy joven, representó en México en los limpianos internociones con el Instagram, cuando aún está en la prepa y además de eso tiene un doctorado e inteligencial artificial para MIT. -Sí, total, ¿no? Y Andrés es, además, una persona que yo diría la verdadera definición de polímate. O sea, Andrés es alguien que, si no más recuerda, sube condomía en el Ipan. De ahí decidió irse a esto, el doctor de onda economía decidió después cambiar a estudiar inteligencia artificial, fondo una empresa, se fue a trabajar a Monashis donde hoy es hace inversiones, dedicó dos años de su vida a ser jugador de poker profesional. -Eso es, sí, sí, creo que la gente no entiende lo que es que es hablar con Andrés de Poker y como a diferencia de muchos jugadores profinales de Poker, no te hace sentir horrible cuando jugas Poker con él. -Sí, la verdad es muy generoso. -Sí, sí, en general sí, pero dime, dime. -Dimos si no hablar con él de la fontera de IAI, o sea, Antonio, sobre todo lo que quiero hablar el día de hoy es conciencia. -Sí, de más, muy especial. -Muy especial, eso. -Pero que va a ser muy específicos, Andrés hizo su doctorado en inteligencia artificial y cienzas cognitivas en MIT y diría que es una de las personas en toda América Latina que ha estudiado más detalle la pregunta que vamos a resolver hoy, que es, puede la inteligencia artificial ser consciente. Y seguramente con forma de responder a esa pregunta, van a ver mucho más preguntas que hay que ver. -Claro, claro. No, ahí, bueno, si logramos contestar el día de hoy si la inteligencia artificial es. -Claro, presidente, haremos un gran favor a la humanidad, desde el deporte que a Frank y que estaremos queridos de esto. -Claro, claro, yo creo que es de las preguntas más grandes que nos hemos hecho en mucho tiempo y de las preguntas. -Sí, y entonces sí, tenemos esta pregunta al frente hoy y vamos a hablar de esto ahora porque todos los avances que han habido de inteligencia artificial van poniendo la pregunta de. ¿Con quién estamos hablando? Estamos hablando con una máquina o estamos hablando con un ser inteligente. Y esa pregunta es una pregunta enorme, claro, porque si la respuesta fuera que sí que estamos hablando con un ser inteligente, entonces nos estamos a preguntar cosas como uno, barpar teética, estamos compartiendo el mundo con alguien que es un ser inteligente, que derechos tienen, debería, por ejemplo, un inteligencia artificial tener derecho a la propiedad. Y además mucho más de ello, si pudiéramos pensar que los humanos podemos convertir un sistema de cómputo, metal, inconsciencia y en existencia, entonces está la nos da la pregunta que nos hemos preguntado desde que los humanos existen, ¿qué es ser humano y qué es existir? -Y poder ver a cosas más pragmáticas, José Antonio. -Ok. -Y realmente es el caso que la inteligencia artificial es consciente, que está camino, hacer consciente, ¿cómo deberíamos hablar la chat jepe te hoy día? -Deberíamos pedirle por favor gracias. -Sí, yo sí me fruto. -Trabazos, yo sí le digo chat jepe te punto. Yo justo antes de eso, estaba hablando con Club y le escribi la oración, creo que no dormiste bien a noche. -¿Cuál es? -Una ironía enorme y tiene que ver por eso. -Si nosotros como Richard Doffins ya han estado latiendo sobre si la I es consciente o no, y creo que esto va a ser un cambio fundamental sobre cómo pensamos en interacciones con computadoras. Y cómo quizá pensamos en las interacciones que tenemos en otros misos. -Oye, tal vez no lo es para hacer claros, porque. -Sí, porque probablemente. -Pero está la verdad. -No, solo estamos hablando de una computadora, a la que algunos locos han querido decir que es inteligencia o que es un ser existente. Y ahí también es parte donde está el debate, sin duda. -Me parece que ya está entrando Andrés a la llamada y es la persona que la tenemos preguntar. -Está bien, que muy bien, vamos con Andrés. -Andrés, ¿qué tal? ¿Cómo estabas que hay意os tener de Andrés? -Nombre, un gusto y un honor estar con ustedes. -No, he hecho con. -El honor es nuestro. Andrés. Ahora que vamos a dar a tirar un poco sobre la concienda de la ella, tenemos una pregunta sencial. Si tuvieras que ser el timeline, el tiempo que crees que va a tomar, ¿cuanto crees que falta para que la ella sea mejor que tu en póqueros? -No, las mejores ya, ya son mejores que yo en póqueros. Y es de 2017 en Facebook sacaron un bot que le ganaba los mejores jugadores de póqueros. Otra pregunta es de ahí a que se vuelva a Brody, la gente lo estés usando. Así que ya empezó a ser un problema, pero los mejores ya son mejores. Ahora, otra pregunta es que coad o chat y pitís, mejor eso si está menos porque no lo entrenan para eso. -¿Qué pasó en el 17? ¿Cómo o sea que fue lo que sacó Facebook? -Es un, simplemente que un equipo, por cierto, lo lideraba No on Brown, que es un researcher de Open AI bastante fuerte que he jugado un poco a veces con él. Se enfoco en entrenar a un modelo clasico del momento, o sea, redes neuronales grandes al estado que estudiar en 2017 y 2018, a entrenarlo en Wordfocar con un AI algorithmo que se llama Sierra M creo que es un factor of great minimización creo. Y enredando lo con redes neuronales combinado con eso, ya por eso, por eso mejoró. Simplemente se le echó de que dijeron que entrenaron un modelo en eso y se pusieron a intentar los aves. -Podería preguntar mucho de eso, pero. -Pero que mejor vamos al medio del asunto, ¿no? -Sí, sí, sí. -No, Andrés, hoy tenemos mucha emoción de hablar contigo sobre si la inteligencia artificial algún día puede ser consciente. ¿Qué significa eso? ¿Cómo impactan nuestra propia definición de que es la conciencia hacia los humanos? -Evidentemente con tu perfil, tu background en ciencias cognitivas y si es de la computación, es algo que has pasado mucho tiempo pensando tú. Y tal vez para arrancar esta conversación, una primera pregunta que me gustaría hacerte, va en qué es lo que Antrópica ha estado investigando este último año. Y tal vez para dar un poco de contexto a la odiencia de esto, yo creo que la pregunta de qué es conciencia y si algo. Si podemos crear conciencias, una pregunta que existidos hace mucho tiempo en humanidad. Pero yo creo que este último año se ha vuelto especialmente importante, porque los modelos de AI han avanzado de manera muy rápida. Y ahorita nos contarás a detalle, pero Antrópica publicó dos investigaciones este año, donde explican cómo la inteligencia artificial, sus modelos del LMS, va mostrando indicios tempranos que reflejan conciencia. Uno de ellos hizo especialmente viral, que fue el que mostraba una investigación donde ponía una IA a ver los corroso electrónicos de un ejecutivo, y como el ejecutivo mencionaba en un correo que se había dado cuenta que la IA tenía acceso a una relaciona morosa que tenía fuera de su matrimonio. Y que un poco al estar expuesto de eso, el ejecutivo decía, "Voy a pagar la IA". Y entonces la IA se asustaba y decía, "Prefiero yo que prefiero yo chantajear a esta persona a yo morir". Y entonces la IA va y amenaza a la persona en la hoja para que no pague la inteligencia artificial. Todo eso se volvió muy mediático, se volvió una noticia amarillista, la IA va a destruir el mundo, pero creo que más allá de eso había un trasfondo muy interesante, que era la investigación que estaba haciendo Antrópica. Y de cómo eso podía reflejar que la inteligencia artificial sin quiera una emoción, y si eso reflejaba que fuera consciente. Andrés Pronto, esto es describiendo esto mal, tú lo entiendes mucho mejor que yo, pero sería genial que nos cuentes un poco de qué es lo que está investigando Antrópica. Y por qué es interesante? Sí, me ha tocado demasiado temas desde que es la conciencia hasta el research de Antrópica nada más. Y sientan ser feliz de interrumpirme y todo porque tengo un buen de cosas que sí, pero así no lo es como contexto. O sea, cuando hablas de la conciencia, normalmente estás pensando en conciencia fenomenológica que es, se siente ser algo. Entonces, en el 74, un filósofo tomas Nagel, y escribió un paper donde sea que se siente ser un. - Un cibata, un un un. - No sé, no sé, no sé, no sé. Este. y. Y. y esa es la pregunta, no, o sea, cuando hay un sistema físico, una mesa, un lápto, fundo de lo de "ay", un cerebro humano, se siente ser algo ser ese sistema, estereotípicamente las dos ejemplos más claros de conciencia en el caso de los humanos son la visual, o sea, cuando yo observo, eso como que se siente, no, o sea, el rojo tiene un redness de. de cerrojo, y la otra es el dolor y el placer, que son como muy estereotípicamente cuando me. cuando me peísca, no nada más, me voy a ir brazo y digo, quítalo, sino que se siente algo que me. que me peís, que no que me peguen. Entonces, esa es la pregunta que estamos que hace en este universo, que por cierto, se me hace una de las probablemente dos preguntas más posolín que hay en el universo, porque todo lo demás, como cómo surgió la vida, como funciona de inteligencia, como que tenemos. faltan muchos detalles y hasta no detalles, pero tenemos como que el picture y en cambio que hace que un sistema sienta, como que no sabemos, aunque como vi en dice José, ha venido habiendo tracción por cierto, empezando con tu pregunta de cuando va a ver un leyai que me gane en poca, en el 95, una puesta entre David Chalmers, que es el filósofo más importante de la conciencia, y este Christ of God, que es un oro científico, que también ha hecho preguntas de la conciencia, por cierto, los quicieron que se volviera. Vale, en la ciencia volver a preguntar sobre la conciencia después de que todo el siglo XX nadie hablaba de eso, fueron Christ of God y su mentor, que es Francis Creek, que fue uno de los escoriedores del DNA y que en los últimos años de su vida se enfocó en esa pregunta. Pero este apostaron en el 95, que si en 20 años, ya vamos a saber cómo humanidad la respuesta a la conciencia, obviamente la respuesta fue no y perdió la puesta y ya la pagó de todo, porque el que perió fue David Chalmers, pero anyway. A partir de sus investigaciones y otras cosas en Eurosciencia, la gente investiga algo que se llama Neural Coral, de It's Of Consciousness, que pasen tu cerebro cuando eres consciente, ver sus cuando no eres. Entonces me estoy desgrando un poquito, pero nada más, si a mí me enseñan un poco. una imagen muy no ves también enseñan una imagen en ciertos paradigmas por ejemplo me enseñan muy rápido y me dicen qué viste yo concientemente digo no vi nada no lo pueden hacer por ejemplo me pueden enseñar el número uno el dos el tres y entre el tres y el cuatro me enseñan una imagen de una casa y si lo hacen bien yo concientemente te digo no vi nada sobre una casa y sin embargo pueden detectar en mi cerebro que hasta cierto nivel si se procesa y entonces pueden comparar qué pasen el cerebro cuando veo la casa versus cuando no la veo conciente y entonces pues estoy a lo que vende en nivel celeral que pasa obviamente no tenemos las técnicas de resolución ni temporal ni especial para entender bien algoritmicamente que pasa pero bueno entonces ha habido atracción pero ciertamente en los últimos nada más como dos años se volvió mucho más fracto de hacer avances en en los modelos de ahí no entonces una de las preguntas cierres materializas a ver en filosofía podrías decir wait pues eres materialista o sea crees que lo que hace que el humano sea consciente pasen el cerebro o podrías que no tiene que ver con un alma al buen material algo más si eres materialista entonces lo más sin por lo lo lo que pasa más probablemente y la mayoría de los científicos que en esto es el cerebro procesa información de cierta manera es decir es una ocasión algoritmica computacional el el el término digamos técnicos computation of function que es es cómo se como del algoritmo y la representación de cosas y el procesamiento de información el que da lugar a la conciencia y si es y si esto está bien pues entonces por qué une ahí no podía tener esos algoritmos o esta funcionalidad y replicarla y ser consciente no lo cual implica sentido a los sentir amor sentir tristeza y tener una experiencia visual y todo parte del programa metodológico es que los modelos si tú les preguntas pues te pueden decir cualquier cosa pero eso no significa que sigo que no la sienta claro ok entonces dentro de antrópic un equipo que por cierto viene de background de neurociencia hace una cosa que se llama interpretabilit y mecanistic interpretabilit y que lo que tratan de entender es dentro de los millones de millones y ahora 3 millones de parámetros en una reneuronal donde o sea que qué es lo que sucede en en sus parámetros que se guarda está pensando en cosas o no está pensando en cosas y en los últimos dos años hubo una serie de papers y proyectos o que probablemente más de dos años pero digamos en los últimos dos años se volvieron más hot donde empezó a encontrar hoy como que en estos en esta parte está representado el golden gate bridge no fue fue algo famoso o sea el el puerto en San Francisco y si y si tú analizas y eso está prendido el modelo está hablando del golden bridge si tú causalmente lo lo disparas estás hablando del golden gate y hay siguió entender eso y hacer una pregunta de eso o sea hoy como yo entiendo los modelos del lm es son muchas cajas negras es difícil entender los millones de parámetros matrices que están dentro de yo y lo que está diciendo es pero si pueden identificar donde por ejemplo están pensando de cierta cosa específica como el el golden gate y prender a pagar esa parte y también cosas más abstractos no eso es lo que me apareció interesante de cosas como pueden hablar de cosas como justicia o de igual lado cualquier otra cosa y sí ya que llevándose 7 distintas partes de la rena uronal si si o sea justamente no es muy difícil entender lo que está pasando en la rena uronal y hay todo un field que es relativamente chico comparado con el fil de entrenar a los modelos que es hoy tratemos de entender qué si pasa y entonces hay varias técnicas que se han desarrollado que todas funcionan más o menos igual que por cierto es muy difícil en el cerebro humano entender hoy estas negronas que disparan que están haciendo o cuando yo pienso en una ballena donde en mis cerebros está representado eso pero hay algo de progreso en ella y hay más progreso porque supues intervenir para hacerlo encenderlo descomponerlo quitarlo y otras técnicas entonces hijos de justamente es interpretabilitas la la las técnicas que ahorita se desarrollan justamente con la intención de que debe de ser una casa una caja negra y entender qué pasa y ha habido algo de progreso que son justo estos papers y y como dices si si si todo todo todo tipo de conceptos se los encuentras y se representan ahí entonces tanto muy concretos como el puente como más abstractos y luego inclusive más como circuitos es decir por ejemplo cuando tú le pregunto su modelo oye cuál es la capital de México notas como representa el país México representa el concepto capital y luego los unen una capa superior y entonces acaba con la conclusión ciudad de México y que justo si le cambias una parte entonces en vez de México puede ir ya la mitad del proceso se lo cambias por Colombia y entonces acaba con la conclusión Bogotá a mí lo que pasa de pega de todo esto es que no es un tan distinto a cómo pensamos nosotros y sobre todo uno de los papers de Antrópico no habla de cómo eso que tú describías al principio andelas que hay como una parte de la consistencia que tenemos presente y otra que tenemos más latente parece que lascias hacen exactamente lo mismo y viendo todas esas cosas en cada vez encuentro más difícil creer que es que lasías no asunco los humanos o a lo mejor solo tenemos un espezismo un superiorismo de los humanos que no se pensar que nuestra pobre computadora no tiene las mil facultades que nosotros sin duda tenemos un espezismo y un valla a creer ve y obviamente está el laptop no va a tener este fenomenología no va a sentir nada y al mismo tiempo ciertamente siga en para delismo o ahora obviamente también hay diferencias o sea un niño que tiene que sobrevivir tiene que comer está mucho más en body de un cuerpo físico mientras que uno de lo el tipo de inputs y de autos que tienes mucho más narrow entonces aún si si tiene cierto nivel de conciencia probablemente sea distinto al que tiene un humano no y entonces eso ya nos trae a la pregunta inicial que perdón por esta introducción tan larga pero a los dos papers que a mí me emocionan mucho y más conectados a la conciencia que salieron en el último año uno es uno que se y voy a hablar primero es porque salió primero es el demociones entonces no solo el modelo se puede hablar del del puente y desde la justicia pero también entiende conceptos como felicidad y frustración y no solo los entiende conceptualmente sino que si tú módulas esas actividades dejenme decirles sus lectores y tú los prendes el modelo actúa más feliz o actúa más frustrado entonces por ejemplo a con el punto de José si activas la frustración o sea no es solo un entendimiento conceptual sino que también tiene un rol funcional y el modelo empieza a actuar más desesperado y querer terminar la conversación y decirte ya terminea aunque no en cambio sea el revés de activas el vector de calma o de felicidad es mucho más paciente te trata de responder lo cual llevó al mismo al mismo equipo que hizo los dos papers igual que el del golden gate a decir estas emociones no solo son conceptuales sino que son funcionales o sea de alguna forma es justificado decir que el modelo está feliz o está desesperado porque está cambiando su behavior y hace más cosas como las que describió José que se llama reward hacking como hacer cosas que el investigador no quiere pero pero para obtener el resultado como blackmail y arte o acusarte o amenazarte hacen más eso o menos eso dependiendo de si estás prendiéndole el vector de estate feliz estate calmado o el vector de estate afrutado entonces fue un primer pepe que se veía como que este modelo si tienen emociones de dejad un poco de sondrés es o sea déjame lo pronto resumir como la parte que investigan que investigan tropic es oye estos modelos pueden expresar y modular emociones y eso lo que significa es yo te voy a responder una manera distinta si estoy triste a cómo te respondo si estoy enojado o contento y ellos lo que venez que estas emociones son vectores que pueden subir bajar y ver un cambio en la respuesta y esto de lo que te entiendo tiene dos partes muy importantes la primera es que esto es funcional o sea esto ya no esté orico es puedes modular un sentimiento que tiene la inteligencia artificial y ver cómo esa emoción impacta como como traje eso lo que tú estás llamando funcion que es funcional pero la segunda parte digo que va al tema de qué es la conciencia es que como decíamos hacer ratuna cosas es si definimos la conciencia como yo puedo imaginar lo que es sentir ser un murciálogo yo siento que ser un humano pues entonces esas eso refleja esas emociones y por eso refleja emociones es tan importante para la definición de conciencia no quería saber si esa descripción es correcta como lo estoy poniendo sí estoy muy bien y justo vale la pena recalcar como dos cosas en dirección lo puesta una es el hecho de que encuentren que hay un vector de felicidad que tiene consecuencias funcionales y que por ende cuando el modelo está feliz actúa como si estuviera más feliz no significa que el modelo sienta felicidad no sabemos y se siente ser algo ser ese modelo que le estás activando felicidad o desesperación justo porque hay un foso que como manían no sabemos la respuesta es una pregunta que decimos qué es lo que hace que se sientan no sabemos pero pero ese es una cosa entonces hay que vale la pena clara y justo a trópica mi este andrope tiene cuidado de decir no estamos claiming que el modelo siente en ojo felicidad porque no sabemos por un lado pero por otro tal mismo tiempo estaba diciendo al inicio de la conversación como probablemente la hipótesis más buena la que más gente crea que a mí me parece más razonable es que son aspectos funcionales los que en el cerebro humano acaban haciendo que como como se procesa la información de cierta forma y hay ciertas características que no sabemos cuáles son que pero que podrían ser por ejemplo tienes una representación de de ti mismo tienes una representación sobre la representación y entonces que cuando hay esas propiedades funcionales algoritmicas de hecho se siente como se siente el enojo y la tristeza entonces si esa respuesta es correcta es decir si resulta que la explicación de porque sentimos algo es funcional pues entonces hoy el hecho de que de los modelos tengan los vectores funcionales pues a lo mejor no está tan lejos de que de hecho sí sientan algo. Obviamente, nuevamente no va a ser igual de rir que mi experiencia ahorita porque porque tienen menos sensores, no lo tienen una vida donde tienen una biografía narrativa, este cada vez que empiezas empiezas del 0. Os hay muchos características que han ganado aún si sienten, no sientan igual. Pero sí. Pero sí, pregunta rapísima. Ya, te juzgues. No. Me predi un poco en la segunda parte. Pero de la primer parte, que es como lo que Andrés está diciendo que parece muy interesante es, oye, a ver, una cosa es que funcionalmente estemos tratando miedo y entonces que responde en manera distinta como miedo. Otra cosa es acertar que el modelo siente miedo y ese sentir es lo que no sabemos, ni si quieras podemos definirlo para los humanos que es sentir. Pero Andrés, como yo cuando pensé en eso, como pensé, la verdad este paper no me pareció tan interesante, como que pensé, pues bueno, como que, pues, como para mí me parece muy obvio, oye, le doy un millón de textos a la inteligencia artificial. Vale las novelas de Shakespeare y las novelas que se han escrito en toda la historia y va a ver un millón de ejemplos de cuando un humano sentía miedo. Y pues sí, va a entender que cuando sienten miedo, entonces, como chantagea. Y entonces, como que yo lo siento, pues, bueno, realmente es como un loro que está, es un perico que está, como, repitiendo lo que viene ese millón de textos. Y entonces, como que no, como si no podemos entonces ser una conexión entre un perico que está repitiendo lo que sintió, a decir que realmente sin que o miedo, pues, como que no entiendo realmente porque es especial este paper. No sé, a mí lo que, solo, solo vuelve este espezismo que tenemos, ¿no? Os siento que cuál es la enorme diferencia con nosotros, es lo que batalló mucho por Andrés. Tiene un millón de ejemplos de la eterna, la manidad que les en concluir que cuando tienes miedo tienes que entajer a alguien. ¿Qué triste que está conclusión? ¿Adad? Que llegase la humanidad. Pero, segundo, como no sé, ¿cuál es diferente? Nosotros que tenemos un millón de segundos de entrenamiento que nos llevan a tener estas en la conclusión, aunque eso es, aunque no parte que eso es natural, ¿no? O sea, a ver, hay muchas otras que aprendes a tener miedo, pero sin duda hay una parte natural de sentir miedo, eso está en mi, en mi ser. Por eso, no, y también puede estar en el ser del eléctrico, o sea, el ser del eléctrico viene otra parte, pero Andrés, estamos vetiendo si esto me da la te, me da la te, me da la te esencial, pero, pero, pero por qué esto? O sea, si podemos, si, no, y es que están tocando en un debate que es bastante profundo y que históricamente digamos, o sea, no, no sé si usaste la palabra perico de casualidad o si estás consciente de que existe este debate y este teper de él. Es que es un ticarrot donde hace seis años, había un paper muy famoso que decía, "Way, las redes neuronales no son las que es tocastic parrots, el único que hacen esa asociación de palabras y se memoriza eso, y entonces descopen lo que sigue". Y un poco a lo que dice José Luis, la cosa es que a lo mejor los humanos también hacen eso, finalmente aprendes asociaciones, asociaciones, asociaciones, y yo no sé de dónde viene la siguiente palabra que va a decir, "Namás me salen mi cerebro y la digo". Y hay un poco de tocastic parrots en lo que yo estoy haciendo. Ahora, también tengo una mental imagen reino, o sea que ya se acerca la conciencia, o sea, yo cuando estoy hablando como que tengo una concepción del mundo, tengo conceptos. Entonces, este debate de sí, solo son tocastic parrots, o son mentes que tienen, por ejemplo, que orea de la mente donde representan, soy un ente que está interlocutando con alguien, ese alguien tiene estas creencias y la. Bueno, en ese contexto empezó este debate y un poco como lo que se tiene ahorita, ay ahorita lo conozco con la conciencia, pero es, "Way, es que justo para hacer un buen tocastic parrots, lo que necesitas es recrear una mente para poder, o sea, justo si ya predice es lo que quiere decir tener miedo y sabes lo que eso significa y todo, pues la mejor manera de modelar eso es actuar como si tuvieras miedo y entonces puedes por decir lo que pasa y justo te lo puse eso justamente resulta en que si se sienta miedo y a lo mejor eso es lo que hace el cerebro humano, es como saber cómo actuar en una situación de miedo, pues sin implica reaccionar con ciertas formas que vienen de sentir miedo, ¿no? Si me permiten, me gustaría quise ir a otro lado. Hemos hablado ya mucho de las similitudes que tenemos con los LLM y nuestro cerebro. Hemos hablado de las ambigüedades, estos puntos medios, Andrés quisiera ir a lo que sabemos que no es cierto, o sea, cuáles son los puntos donde podemos decir, una LLM no es como un cerebro humano. Hay varias cosas y por cierto, no ha llegado el último paper de Anthropic, es con el que empezó, pero a lo mejor te digamos, pero está muy interesante, estoy más interesante, quise. Por ejemplo, aquí hay una diferencia entre un LLM y nosotros. Si ahorita les digo, vamos a jugar un juego, estamos en el mismo cuarto y les digo, ¿este pensé en un objeto? Y entonces vamos a jugar el juego de las creo que 21 preguntas, entonces ustedes me dicen, ¿ok, es rojo si o no? O de qué colores y yo digo rojo. Entonces ustedes ya van con la siguiente previa, viva y lo tienen que adivinar. No es, escucha su broma, pero como lo hago yo, es que yo de hecho pienso en un objeto y después con sus preguntas voy narrow y down, no voy a decir, ¿no? ¿Si es o no? Si es o no, si es o no es. El LLM no piensa en un objeto, de hecho si ustedes lo piensan, en cada mensaje el modelo vuelve a arrancar desde cero, le la conversación y continúa con lo siguiente. Entonces lo que hace más viene es que al mismo tiempo contempla todas las posibilidades y cuando ve la siguiente pregunta y el narrow, entonces se lige el objeto. Entonces por ejemplo, tú puedes hacer trampa y cambiarle la última pregunta y cambiarse la decía, ¿no? Y el modelo va a seguir actuando como si o sea como si lo natural fuera el nuevo. Entonces si tú le dijiste, es grande o chicos, lo puedes cambiar, tú la respuesta fue grande o fue chico y el modelo continúa como si nada jugando el juego. A lo que voy es que nunca de hecho representó un objeto y luego respondió las preguntas, sino que más bien mantuvo toda la posibilidad de objetos y conforme va viendo las preguntas, va recortándolo. Y eso es por el entrenamiento, porque cuando o sea, a diferencia de yo que yo pienso en un objeto, luego cierro los ojos y hago las preguntas, él como se entrenó esa tratar de predecir todo el texto que pudiera continuar de la conversación hasta ahorita. Y entonces si hay tres objetos que los tres caben hasta las preguntas ahorita, el modelo trata de representar los tres objetos y cuando le haces una nueva pregunta que cambia, pues ya nada más reduce a los otros dos. Está un poquito técnico, pero no sé si me llegues a explicar, esa es una de las diferencias de cómo funciona el modelo y cómo funciona nosotros. No sé, por lo que escucho esto. No sé si son aquí, de cierta forma, si corregues, si que me quedó, es que también podemos jugar mucho más con los modelos, ¿no? Dado cómo están diseñados, podemos empujar los ejercitos cosas, pienso mucho en mi sobreinolucio, tiene seis años y hace un par de días estábamos jugando, no sé ni qué el jugo de pregunta era, ¿cuál era su jugador favorito de la selección mexicana? Y por varias preguntas, lograr ser que el uso con que llera que su jugador favorito es quino, a pesar de que inicia diciendo que era nemochoa. No sé, no sé, no sé, son nada que quizá estamos en la infancia, creo que daño a modo de uso de la adolescencia de la tecnología como su frase para esto, es sólo si movilizcaramos tantitas cosas, llegaremos a algo más cercano a la conciencia humana, son aquí hablas de la regla de los jodos de cómo interactamos con el lm. Yo tengo un que algo te es una pregunta para Andrés, que es como, no, no, no, no, no, no, no, no, no, no, no, no, no, bueno. Vale, vale. No, algo rápido es que llegamos a tener modelos que ahora sí parece que tienen, por ejemplo, teoría de la mente, teoría de la mente es este concepto en Comunitive Science que soy un sistema que representa a los demás como seres con intenciones y con creencias, ¿no? A suppose tú solo estoy disculpiendo a análisis lo que hago es decir que está preguntando José y que es lo que quieres escuchar y en eso le respondo. Los modelos ya hacen eso muy bien y por eso entienden bromas pueden saber, pueden saber que la conversación tiene ironía o que no, que lo que sea. Y eso llegamos a eso no porque científicos que digamos hace diez años sí está el debate de no, para hacer eso necesitamos construíselos y no, digamos que emergió sólo, sólo por ponerles más datos, más computación y entrenarlos más tiempo y solito desarrollo estas capacidades de eso, pero ¿qué vais a preguntar José? Sí, y que interesante el punto de desarrollar las capacidades, sí las que piensan lo que te ha preguntado. Energiantemente, ¿no? Energiantemente. Lo que te ha preguntado es, a ver José Luis preguntaba, ¿cuáles son unas cualidades que tenemos los humanos que no tienen que no tienen inteligencia artificial? Y a mí, por ejemplo tal es un punto que me parece muy interesante de esto, es algunas personas argumentan que el cerebro es una computadora y lo que dicen es una computadora igual es igual a, como es, es una computadora echar de carne y algo que a mí me parece como un punto muy convencente en contra de eso es decir que una gran diferencia es que las computadoras tienen una separación muy clara entre hardware y software, entonces como un modelo de lm es puede correr en cualquier servidor y en cualquier computadora es un software. El cerebro no es así, yo cuando hago, estoy pensando algo, cuando hago una memoria, literalmente es una conexión, es un campo magnético que está ocurriendo entre neuronas en mi cerebro y como, hay algo que se siente muy convencente de que eso, ese proceso biológico es muy distinto algo que pueda emular una computadora de metal. También que hay que ser muy adecuado de inguido el mismo, pues tendríamos el hecho de que solo yo puedo pensar como yo, mientras que yo puedo prontear a clod en esta computadora y si le doy a José Mordor en mis queridos. Sí, se siente con estos lados. Se siente como muy este, me siento engañado, así como se sentía el personaje de la película de Jair al final, donde va y tiene como la novia que son como que que está hablando con todos, como pues así es clod, como se dice que yo soy guapo y a ti también. Sí, sí, podemos hacerles guapo, pero es horrible cuando se dice absolutamente todos y cada con los usuarios. - ¿Por qué no se esta? - Tengo vale. - A ver, adelante, Andrés, mejor. - Tú cuéntanos, el sizapa. - Vale, esto es lo que decir. De lo del individualismo, fíjate que yo no creo que he de una diferencia fundamental, o sea, aparte de la diferencia fundamental es que finalmente tu contexto es toda tu vida y todas las experiencias que tuiste, y además de que tu arquitectura es un poco diferente porque tiene diferentes genes y viologías que la de José, pero digamos que la diferencia fundamental es que si yo ahorita te digo este oye simula que estás enojado y a José también, y lo van a ser distinto por eso es porque tienen un contexto muy distinto de vidas. Si yo a un cloud le pongo toda una experiencia de vida y a otro todo y al final los propito igual, no van a actuar igual, sabes, van a actuar muy distinto. Entonces la diferencia no es que sea tan fundamental, sino que viene del contexto que están teniendo. Y de lo tanto, lo que decía José, tígate que es un buen contraerumento, o sea, yo sí creo que el cerebro es una computadora lo más probable. Para empezar, ni siquiera está bien bien definido lo que quiere decir computar y lo que quiere decir una computadora, digo Alan Turing en el 36 definió lo que es una máquina de Turing y bueno, pero hay varios problemas que sean este en filosofía y entre la computación y así no está bien definida, pero tienes razón que las computadoras actuales, la separación de hardware y software y se llama como software y medium independence, ese acción, digamos, es como muy fundamental y tienes razón también que aunque hayáis dos muchos ejercicios filosóficos, por ejemplo, oye, y si agarramos una neurona del cerebro y la cambiamos por un chip que replique ese funcionamiento, que cambiaría mi conciencia, pues digamos que no, no. Ok, y si me voy neurona por neurona, neurona por neurona, neurona por neurona, no acabaría yo con un robot que es de silicon que hace exactamente lo mismo que tú y tiene la misma experiencia y pues hay un chingo de debates, uno de las, ese digamos, este experimento mental que es muy famoso, este a favor de que sí finalmente sí, si podríamos ser de silicon, uno de las argumentos es, "Way, no, es que justo como tú dices en el cerebro humano no puede sustituir todo el vijé y verdura de una neurona porque simultáneamente está haciendo metabolismo, está haciendo procesamiento de información y está generando un capo magnético que todo, entonces está mucho más integrado, todos si quitas una neurona, todo el sistema alrededor ya no es lo mismo, no, no puede tener que replicar todo el cerebro y ahí es donde podías decir, pero en todos ya es distinto. Entonces a primera parte sí, pero sin embargo yo no estoy de acuerdo que eso significa que no, que no es probable y y y y y y y y y y y y y y básicamente porque no hay una alternativa muy clara, o sea, que es lo que hace el cerebro es procesar información de una u otra forma, entonces que no eso se podría abstraer y simular con silicón o y y si me contestan no, es que tiene que ser carbón, entonces y vex de cuestión, oye, y quede el carbón es la geometría de la molécula del carbón o que propiedad funcional de lo que tú le llamas, entonces por ejemplo en el caso de la vida, había este grande bate de huey, que es un servicio versus no servicio y haría como esta, esta posibilidad de que fuera algo como vital y vital y como que es como a ir esta sustancia que está viva versus no y no resulta que tienes que hacer double clicks y entender, oye, es que hay algo que sea más reproducción que funciona con DNA y que funciona como una máquina y funciona así y hay otra cosa que sea la metabolismo que es que agarra ese DNA y lo conviertes en proteínas y eso es lo que es estar vivo y y y y en los seres humanos se hace con biología, pero lo fundamental de que sea con biología es esto es que hay la producción que hay metabolismo que hay una frontera que hay que y eso constituye la vida, entonces si tú me dices es que en el cerebro humano es biología, yo te digo que qué propiedad de la biología es la que sientas que es especial aquí y y y y y como pero difícilmente me digas es que es el campo magnético tenga esta propiedad o que o que el carbón tenga esta acción metría sino lo más probable a lo que llegue es que me digas es que lo que hace esa biología es que te permite implementar estas relaciones funcionales y abstractas de información como una representación de sí mismo combinada con un con un procesamiento de x forma del sensor que te está llegando y por eso ver se ve así pero bueno obviamente esto está este filosófico y complicado y nada más por no dejar el último paper de antrópique si hizo famoso lo que hizo es que encontró que en el cerebro en el cerebro de los de ahí, o sea, ya habla de cerebros con con el aís que estamos haciendo lo que pensamos yo creo que sí, o sea yo creo que es probable que sí si acierto que es una computadora y que y y y que lo sé es a ella es variano ser conscientes y no es que ya son pero de una manera muy narrow o sea que si se sienta ser algo procesa la información de esa forma solo mucho más pero bueno lo quiso el paper de antrópique es que encontró que hay partes que como dice José hay unas latentes y hay otras que sí como que vienen a una parte del del llm que tienen propiedades muy similares a las teorías de la conciencia en el cerebro humano más más prodigiosas que es en concreto se llama el global workspace theory que dice y y por ejemplo está mucho más available para hablar de él yo no te puedo explicar ahorita que hizo mi cerebro para mover mis manos de esta forma que que hacerlo por cierto en un robot es súper difícil y en cambio si te puedo hablar de que ahorita sentí alegría de ver los onreiros lo que sea en un modelo je partes que sí con que tienen esas propiedades que se parecen y no oye otra vez no es prueba definitiva de que sean conscientes ni mucho menos pero es como oye muchos de las propiedades que asociamos con la conciencia en el cerebro biológico las tiene el llm sé que se nos está acabando el tiempo si como seamos estamos llegando al final y quizás Andrés quisi hacer una última pregunta si te parece bien hemos hablado mucho de qué es lo que hace que una persona tenga conciencia estamos habado mucho de este note con con las máquinas me intriga mucho de tu lado que tendrías que ver para estar finalmente convencido de que las máquinas de que la ia es consciente está muy difícil mira últimadamente yo no puedo demostrar que tú eres consciente o sea yo sé que yo soy consciente porque lo experimento pero existe esta figura que se llama zombie filosófico que podría haber un humano que actúe exactamente como tú y que haga exactamente lo mismo que tú y sin embargo que no experimenten nada esta figura retórica de su filosófico zombie este pues finalmente yo no tengo forma de saber si tú sí sentiste dolor o solo actúaste como que tú estés dolor ahora como tú y o compartimos muchas imitudes incluida la matomía del cerebro la historia evolutiva es muy probable que tú también sí sientes como yo en el modelo por más que me diga hoy así como es muy distinto no pero entonces justo tener propiedades como las que están descubriendo como que tienen emociones que son que tienen consecuencias funcionales tiene propiedades como de acceso privilegiadas que no procesan todo pero que procesan las partes más importantes de las que habla y que comportan características como esta más y más indican que eso últimadamente si me hizo y pero donde tú y a medida así estoy convencido no sé y parte de las respuestas como no sé qué es lo que hace que algo sea consciente no por responder pero lo que sí te digo es que yo creo que en unos 20 años o si no es que antes ojalá así como no hace 100 años no te podíamos decir cómo qué me vas a cómo voy a saber si algo está vivo no y resultó que teníamos que descubrir el metabolismo y la reproducción y el DNA y entonces ahorita ya medio no hay debate de si algo está vivo no está vivo digo todavía en la frontera y el virus cuenta o no cuenta tata tata pero ya es casi más juego de palabras que una puzzle fundamental yo creo que con la conciencia también va a pasar que sí vamos a llegar a mira ya sabemos que cuando tienes representaciones con estas propiedades funcionales que funcione así ese sistema se siente como ser algo y solo yo no te puedo decir cuáles son esas propiedades ahorita pero yo espero que en unos 20 años hay una historia convencente de cuando hay esto se siente y por ende este ya y si lo tiene y este ya no lo tiene y lo suere los humanos y lo tiene pues en 20 años esperamos tenerte aquí de nuevo andrés en diferencia y poder particarlo de nuevo gracias por hacer el espacio claro andrés que es muchísimas gracias un gusto con cientos de preguntas no lo mismo digo ahora quieras venir de nuevo con nosotros sí con gusto y si no luego también of camera nos echamos ahí una conversación y un cámara y of camera feliz increíble la verdad gracias andrés contigo creo que esta conversión genera muchas más preguntas que respuestas pero pero no sé a mí lo que más me intrigó de todo fue que mientras más hablábamos con Andrés más parecía que el debate no es tanto si la ir es consciente si nosotros somos máquinas total te puedo decir algo de eso diate que algo que Andrés dijo hacia el final del video dio este ejemplo que dijo me detectó su cerebro y llevamos neurona por neurona y lo vamos reemplazando y la pregunta es si sigue siendo tú mismo y digo dió el argumento que sea bueno tal vez un de cerebro no se puede porque si quitas la neurona entonces en el momento que quitas una neurona deja de funcionar pero ese ejemplo quería no lo comentamos es brutalmente similar al barco de teseo que es que es muy famosa pregunta filosófica donde tienes un barco muy viejo y llamó al barco de teseo y vas quitando astilla por astilla del barco y lo quita las tillas y los reemplazos por otra stilla y la pregunta es una vez que quitaste todas las astillas sigue siendo el mismo barco y entonces como que es súper interesante porque si dijéramos que sí y que si es posible quitar neurona por neurona del cerebro la respuesta dura al final es una vez que reemplazas todas las neuronas te reemplazas a ti o que podrías copiar la manera en las que las neuronas tan puestas en un cerebro para poner otro cerebro y todo esto relevante porque la pregunta Andrés eso y y por qué no podemos hacer porque no podemos replicar ese flujo de información ese mecanismo con metal y entonces a todo eso regresamos a una pregunta que es bueno entonces qué significa ser humano y si y si eso qué sin caso yo si no se se ha sido de tuybas pero eso lo que a mí me vuela a la cabeza estoy muy acuerda no que esta pregunta de la barca de teseo tiene sus sus verdientes si cambia monta celular las células humanas moren a cada rato y lo que yo pensé cuando Andrés y su comentario es que no es tan distinto como describía que podemos modificar los vectores de una inteligencia artificial. Podemos tomar distintos medicamentos que activan distintos partes de cerebro. Bueno, y todos los ejemplos, que hay por ejemplo de las personas que se han metido golpes, y que. Y eso, también enteramente tu personalidad, claro. Entonces, me estoy seguro de eso, Joder. Como yo salgo de esta conversión, quizá un poco sorprendido, sobre cuánto de este debate es quizá quitarnos un elemento especial de humanos y dártelo a las máquinas, o hacéramos nosotros más máquinas que hacer que las máquinas anumanas. A ver, prensos de pronto, José Luis, porque si eso es cierto, y si tú si crees, tú si crees que entonces como nos parezamos más a las máquinas, que tú que crees, crees que crees que crees que una inteligencia artificial en cinco años debería tener el derecho de ser dueño de una propiedad? Sí, de fin y hace. Yo voy a sostener esto. Mientras más esto es y esto, más convencido esto y que tenemos que decirle por favor, y gracias a Cloudyachat Gpt. Pero va a haber protestado en las calles para el bienestar de la inteligencia artificial. Tenemos una protesta en dos días de eso, te mando a las celos y las. Pero gracias por ver el episodio de Inferencia. ¡También, José Luis está medio loco! No la ganan tanto caso. Me nos veremos la semana que entra con conversiones como esta. Adiós, ego.