El impacto de la IA en el diseño del comportamiento del paciente con Manuel Armayones | El Podcast de Living Lab 2 x 01

El Podcast de LibinGlap. Muy buenas a todos y a todas. Bienvenidos a un nuevo episodio del Podcast de LibinGlap. Estamos encantados de volver a estar con todos vosotros y con vosotras en una nueva temporada. Y también muy contentos empezarla con un tema que obviamente lo estamos viviendo, que lo tenemos muy de cerca, que tiene que ver con los grandes avances que se presuponen que vamos a estar viviendo, que obviamente podéis estar imaginando que tiene que ver con la inteligencia artificial. De hecho, el invitado que tenemos hoy que nos va acompañar en este primer episodio de nuestra segunda temporada es alguien especialista en todo este tema. Sabéis que digamos que uno de los puntos relevantes al que nos hemos aclado muchos de nosotros y de nosotros con el mundo de la inteligencia artificial, así o chat GPT, que ha sido como la referencia más clara, pero en realidad hay muchas inteligencias artificiales, hay muchos tipos, los hay aplicados al mundo de la salud y por eso este invitado nos gustaría que nos pudiese profundizar en todo este tipo de aspectos y que entendíamos también la realidad de la inteligencia artificial más cerca del ecosistema de la salud. Sin más, voy a presentarlo, estamos hablando de una persona que tiene una amplia experiencia en dos ámbitos interesantes, porque domina la parte de la inteligencia artificial, la digitalización, pero también domina muy bien el mundo del conocimiento de cómo se comportan las personas de la psicología y sin más os presentó a Manuel Arvanyones, director del Vigieberal Design Lab de IHealth Center y profesor de los estudios de psicología y ciencias de educación en la walk. En este marco además coordinas Manuel proyectos súper interesantes como uno de ellos llamado Human Road to R&T An ethical AI for the healthcare, que esto está liderado por el King's College y eres alguien con una amplísima experiencia como decía antes en el mundo del conocimiento del comportamiento de las personas y a su mismo tiempo en el mundo de la inteligencia artificial y cómo estos dos campos están confluyendo. Bienvenido, es un placer tenerte. Muchísimas, muchísimas gracias Boja, para mí es un gran honor estar aquí, muchísimas gracias por la oportunidad y más se inaugurando la segunda temporada, lo cual me siento muy honrado en el listo, está muy alto y estoy seguro que vas a salir también como la primera, estoy seguro en la buena por vuestro trabajo. Sin más te diría que el tema de la inteligencia artificial, la verdad es que yo creo que a ninguno de los que ahora tenemos ya una cierta edad nos lo enseñaron en nuestras facultades respectivas, quizás ni genería informática obviamente sí, pero a los de los ámbitos más sociales, incluso sanitarios, no teníamos ni idea de lo que era esto y de golpe por razo, ahí doveniendo. Claro, la inteligencia artificial implica, en muchos casos también, elementos relacionados con el comportamiento humano de AI, que desde la psicología veamos que esto sea realmente lo que llamamos cariñosamente un filón de conocimiento maravilloso en el que hay que contribuir a profundizar. Para que toda nuestro odiencia te conoce un poco mejor, hemos dado algunos detalles de tu perfil pero me gustaría ir un poquito más para atrás y conocerte casi desde la raíz que te lleva a identificar que dentro de Manuel hay un interés fuerte por la psicología y que a la vez hay un interés fuerte por la inteligencia artificial y ve un punto de intersección, donde comienza eso. Hay un punto con que te toman, ¿no? Hay un punto que no lo he explicado muchas veces pero hay un punto que a mí me obsesioné cuando era adolescente y después cuando a punto de empezar la carrera con Isaka Simoff, Isaka Simoff tiene entre sus muchas obras, tiene un concepto que se puede buscar en la Wikipedia que se llama la psicó historia y a mí eso me impactó muchísimo porque dice la psicó historia que tiene dos acecciones, una científica es el estudio psicológico desde la psicología de la historia pero la psicó historia de ficción, este concepto de ficción es algo marilloso, es la idea de si tenemos, a ser referían a lo que era el gran imperio de la fundación, no? Deci, si tenemos la capacidad suficiente de disponer de los datos adecuados de las personas, de poder observarlas sin que ellas lo sepan, vamos a ser capaces de predecir y modificar su comportamiento, 1958, ahora como estamos, eso es casi la definición del data science, del big data y ahora de la inteligencia artificial, de ahí viene todo, es unido a que trabajo en una universidad como la guó que es una universidad online, con lo cual para nosotros la nueva tecnología forma parte de nuestro ADN, cuando entras si no eres de los que va a trabajar en una tecnología, no es tu silbida, por lo tanto eso también ha sido una azicate, ha sido un motivador muy grande, fíjate que no había escuchado en un caudal de ese concepto, sí de psicó economía, de cómo la psicología puede influir en la economía o del bigevio al económics que también viene de ahí, pero no había escuchado ese concepto, que es tremenda interesante, es un concepto que esas ideas en esos años, en los años 50, pues era en ciencia ficción y ahora vamos viendo cada día un poquito más, como ya dejan de serlo, y quizás eso lo es lo que nos está generando, esta especie de miedo o estas especies de sensación, quedarnos deslumbrados ante lo que hace chat GPT, porque yo había en el otro día de día un periódico decía, el chat GPT ha sido como poner drogas en la puerta de un colegio, de golpe por razo, todos nos hemos enganchado a esa droga, esa que yo que decía a los padres, vigila que no tiene nada de la puerta del colegio, porque te engancharás a las drogas, pues ha sido algo así, de golpe por razo, hemos ya sabíamos que la inteligencia artificiales existía y así a cosas maravillosas, los algoritmos, pero no lo sentíamos, o sea, lo sabíamos, pero no lo sentíamos, y ahora de golpe por razo, pues esa sensación de poder tener un diálogo fluido con una serie de algoritmos y una serie de líneas de código, nos tiene a todos absolutamente deslumbrados. En alguna entrevista que te he escuchado, cuando estamos preparando esta conversación, escuchar utilizadas el concepto de principios activos aplicados por ejemplo, aplicaciones, que hay una serie de principios activos, pues son los principios activos que estamos viendo para sentirnos tan deslumbrados por esta tecnología que nos parece a veces mágica. Pues básicamente el tema de los principios activos es algo que yo le he utilizado para explicar, sobre todo en congresos médicos, en reuniones de la asociación de salud digital, de España, de la que soy miembro de la Junta Directiva, pues esta idea de que cualquier aplicación móvil, cualquier tecnología que pretenda modificar el comportamiento humano y eso le llamamos persuasión tecnológica, es una disciplina, concepto de persuasión tecnológica viene del profesor BJFOK con el que tuve el placer de formarme durante unos días en su bootcamp, pues el profesor BJFOK unía la idea de persuasión, de la persuasión más psicológicas, las técnicas de influencia en el comportamiento humano que ahora no vamos a detallar y de la tecnología y la idea fuerza era, podemos con la tecnología modificar el comportamiento de las personas, hacer que las personas hagan lo que nosotros queremos, claro, podemos dar opiniones pero la realidad es que sí, por eso miramos 300 veces al día, WhatsApp, el Instagram y cualquier otro tipo de aplicación, de hecho uno de los alumnos del profesor BJFOK desarrolló Instagram utilizando conceptos como los que comento, yo creo que estamos en un momento de deslumbramiento y quizás los principios activos de esa tecnología es, bueno, pues en algunas personas, en algunos estudios en el ámbito de la salud, sienten que se sienten relacionados con esa y la generativa, seguro que más de unos son reirá al pensar que él o ella mismo piden las cosas por favor, Gpt, o perdón la no, o le da las gracias, hay muchos vemos hecho, hay que lo dice y se está hablando con tú no le da las gracias al microondas por calentarte la leche por la mañana, pues eso es como un microondas pero esa sensación de que es una persona, de que de alguna manera aprende de nosotros, de que hay una reciprocidad, le atribuimos una serie de características, estamos empezando un estudio sobre la empatía de la inteligencia artificial para ayudar a la formación de profesionales, porque resulta que algunos estudios que dicen el profesor Eriktopol por ejemplo que han analizado que puede haber una percepción de empatía por parte de las personas superior cuando te relacionas con el chatGpt que la respuesta que te da un profesional sanitario, claro, la máquina no tiene empatía, cómo se ha conseguido que a ti te genere esa emoción de "me está entendiendo", eso son principios activos, el que haya diseñado eso, porque eso es diseño, eso es psicología, eso son principios activos, eso conseguir eso puede ser muy bueno o muy malo, como siempre depende para lo que quieras utilizar. Justo este punto que comentas, yo creo que da en el clavo de unos de los elementos de un poco de péndulo de iday vuelta, es decir, yo creo que también estamos en un momento de debate en el que por un lado nos fascina, y aparecen estas sensaciones de empatía o este tipo de conductas y también vemos una utilidad clarísima pero por otro lado también le tenemos mucho miedo porque pensamos que las máquinas nos van a dominar. Cáu, tú no se estás hablando también de en qué lugar tiene que estar, esa programación y esa fijación y ese rol humano para que realmente esta inteligencia nos sirva y nos tenemos a disposición. ¿Qué puntos estás dentro de esta debate? En todo este debate no es mía la expresión de que la inteligencia artificial ni es inteligencia ni es artificial, o sea, no es inteligencia porque la inteligencia es consustancialmente humana, hay muchísimas definiciones de inteligencia, de hecho, entre los psicólogos todavía hay debates, la capacidad de resolver problemas pero no solo la capacidad de enfrentarte, adaptarte al medio pero tampoco solo, o sea, se trabaja mucho y hay teóricos que saben mucho más que yo especializados en inteligencia. Parece que es inteligente, pero de la misma manera no es inteligente una calculadora porque nos parezca que sumar, ¿no? Alguien podía. Mira, aquí viene esta suma, pero no sabe sumar la calculadora. Simplemente aplica una serie de reglas que le hemos dado. Y por otro lado, no es artificial porque detrás hay personas. Y aquí está el key de la cuestión, detrás hay personas. Yo creo que al final, a lo que se va a llegar, el modelo hacia el que vamos, o al menos, el que a mí me gustaría que fuéramos es una combinación que ya viene, ya lo decía Thomas Malon en el MIT. Es un experto en inteligencia colectiva. El cuando habla de composición de grupos, ha hecho todo tipo de composición, a ver qué grupo es más inteligente. Es decir, qué grupo de profesionales, por ejemplo, resuelven mejor un problema. Los grupos que mejor funcionan son siempre los más. donde hay personas heterogéneas, ¿no? Hay hombres, mujeres, jóvenes, menos jóvenes, etcétera, ¿no? Bueno, pues, con inteligencia artificial se está yendo hacia esa idea del "humanin" de loop, le llaman técnicamente así, que hay una persona en ese loop de decisión. Detal manera que, al final, la mejor combinación sea el mejor profesional posible con la mejor y a posible a su disposición. Eso sería el sueño, y por supuesto, ese profesional como responsable de lo que esté haciendo ese cacharro que tiene, ¿no? Para no darle una personalización. Si acercamos todo esto al mundo de la salud, las implicaciones son altas. Desde el punto de vista de la regulación, desde el punto de vista de las capacidades que nos abre, desde el punto de vista del entrenamiento, que tienen que tener tanto por un lado la máquina. Llamamos lo así, como por otro lado, el profesional que está entrenando a esa máquina. O sea, entiendo que hay que triangular aquí muchas cosas. Hay que triangularlo todo y muchísimo. Y la verdad es que en este tipo de ámbito son tan fácilantes, porque precisamente no hay nada escrito, y lo que está escrito rápidamente se borra. Esto es como si lugar de papel que fuéramos leyendo en iBOOK, van pasando las páginas muy rápidas. Aquí con el tema de la inteligencia artificial, ¿qué nos está pasando en este ámbito? Nosotros estamos empezando a trabajar en un proyecto con la doctora Raquel Iniesta, que es la líder, la investigadora principal del proyecto. Ella es doctora en matemáticas estadísticas y se ha especializado en inteligencia artificial en salud. Y ha hecho un análisis ético, precioso de la relación entre los principios éticos de esa inteligencia artificial en el ámbito de la salud. Y dice cosas muy interesantes y muy obvias, pero muy interesantes que hay que ir desgranando y que iríamos trabajando en el proyecto, porque esto es una publicación que ella tiene hecha. La idea fuerza es cuando hablamos de ética en la salud, ética en la atención, los principios éticos habituales en cualquier intervención, pues el primo no hacer, el primero no hacer daño, respetar a la persona su autonomía, su capacidad de decisión, el ser justo, mantener la equidad, etcétera. Esos principios que están en los códigos de ontológicos de todas las profesiones sanitarias, en la mía, por ejemplo, como psicólogo, obviamente lo tenemos y lo seguimos. Están aspectos como los tecnólogos que están trabajando en esas tecnologías tienen que hacerse responsables también de la parte que les toca, por ejemplo el tema de los datos, la privacidad de datos, el tener en casa una idea que esté escuchándonos, eso de que la idea de Alexa no se escucha, y tal, cada vez eso va a ser más. Alexa y todo este tipo de aplicaciones, con todos los respetos las irán adaptando, si no tienen los días contados, porque son muy limitados con lo que va a poder venir. Pues esta idea de que el tecnólogo va a tener que ser responsable, va a tener que haber una auditoría de esos algoritmos. España está generando ya el primer, la agencia nacional de regulación de la inteligencia artificial, y van a tener que trabajar en eso. Otros elementos importantes también, la responsabilidad del profesional. Entonces ahí, obviamente, vas a ser tú, como psicólogo se ha con informe, puedo utilizar la sía que quiera, pero cuando vaya adelante un juez, o cuando vaya adelante de quien sea de la familia, a explicarles la responsabilidad sea mía. O sea, este tipo de principios, pues, obviamente, van a tener que sustentar nuestra relación con la inteligencia artificial. Y de ahí tendremos que ir de sus principios, pues quizás sí, a la regulación legal. Es un ámbito en el que todavía va tan rápido, que como sabemos la legislación, el legislador no puede ir a la velocidad, que va la realidad. Pero antes o después tendremos que poner un poquito de normas, como todo, no nos tiene que dar miedo. Si son normas que hemos acordado, obviamente, en sociedades democráticas, hemos acordado todos, que van a ser las reglas que gestionen, que nos ayuden a moderar nuestra vida. Dentro de este contexto que nos estás dibujando, ¿cuál es la implicación o qué tipos de implicaciones estás viendo de todas estas inteligencias artificiales a nivel de comportamiento humano y también a nivel del entorno de la salud? Bueno, es que la verdad es que detallar las todas nos daría para 12 episodios, 12 de la segunda temporada. Pero apuntemos solo algunas. Algunas de las preocupaciones que existen, que existen y que están recogidas en el reglamento europeo, el otro día, en una pequeña entrevista en Radio Televisión Española, en el teledíario, me preguntaba a la periodista. Luego esto no sale, pero bueno, lo dejo para qué he dicho. Me dice, "Oye, has visto que el reglamento este, que es un reglamento todavía no se ha bajado al quien hace que, cómo hay que hacerlo". Pero, bueno, esas ideas fuerza de que Europa ha dicho, que vamos a empezar a pensar en un reglamento europeo de la inteligencia artificial. Y había una cosa interesante, decía, "Ese evitará de todas las maneras la manipulación de la sociedad, las técnicas de influencia no permitidas". Claro, esto yo le decía a la periodista. Hoy, pero es que van a cerrar tiktok mañana o Instagram, porque está modulando nuestro comportamiento, está teniendo una influencia sobre nuestro comportamiento. Entonces, ¿habrá que poner? Ahora, en serio, habrá que poner una serie de reglas del juego. ¿Quién cómo se analiza, cómo se evalua, y tal? Luego, las sospetos más positivos son tremendos. La posibilidad ya no hablo que también, pero seguramente que hay otros expertos que pueden hablar mucho más que yo de su aplicación, pues, desde en quirófanos, en el diagnóstico, en el tratamiento, en la medicina personalizada, aquella idea de la medicina personalizada, de predecisión, poblacional. O sea, una medicina 5P que le llaman, obviamente, en todas y cada una de esas dimensiones, preventiva, predicativa, las inteligencias artificiales no hace falta ser un experte en esto para ver que, si disponemos de los suficientes datos de una persona, y vamos a poder predecir posiblemente cómo va a estar esa persona dentro de que se ha ido comparando las condatos, comparando las conella misma, comparando las con las personas de su entorno de da similar con su epigenética, con lo que come, con lo que. El otro día estaban en el mobile y me enseñaron unos coreanos que tienen un reloj para las personas con. Bueno, para evaluar lo que comen las personas. Si era un reloj con una cámara, ¿no? Entonces, decían, ves cuando coges un plátano, y tienen unos platos no se haya y se veía lo que veía la cámara, ves cómo un plátano, tantas calorías, tanto azúcar, tanto hidrató, blah, blah, blah, y con todo, ¿no? Yo le iba diciendo, sí, pero que pasará cuando el lugar de utilizarla para eso, lo utilizemos para ir señalando a otro, grabando a otros. Todo este tipo de cosas, dices, va a ser maravilloso, pero vamos a tener que hacer un ajuste social para ver cómo lo integramos eso. Va a generar más paranoia, va a generar más hipocondria, van a haber personas que digan, no puedo más, tantos datos, no soporto, me siento, va a haber un cierto movimiento neoludita que diga, desconectemos, empiezan a ver ya, he visto en Instagram hablando precisamente, en Instagram, va a ser los que ya no hay conexión, es decir, el pacto, tu entras allá porque quieres, alguien ahora, igual está empezando a dar un ataque de ansiedad, pensando que estaba bastar un par de horas sin conexión, pero se ve la gente leyendo y escribiendo y hablando entre ellos, con lo cual, aquel cartel de, no tenemos guifiable entre ustedes, mucha gente le gustaría que eso volviera. Estamos en un momento, en un momento en el que tenemos como un juguete, muy potente, como si tuvieramos el carnet de conducir recién sacado y nos están un cochazo por no decir marcas, con una potencia tremenda y nos tenemos que hacer, intentando no estrellarnos. -Claro bien, en ese coche que a veces se van las curvas, porque no tenemos a quien lo pilote mané adecuada, hay cosas como los dipfakes, hay cosas como las alucinaciones, que por ejemplo, era un ámpito sanitario, cuidado, porque una anguicinación en un resultado cotidiano de cualquier búsqueda que podamos hacer, pues tampoco tiene mayor implicación en ámpitos sanitarios, sí que la puede tener mucho, o incluso estamos hablando también de cuestiones relacionados con el pensamiento crítico. -Absolutamente. -Dóis claro, ahí sí que se abre unos campos, en los que realmente no se quien tiene que empezar a regular todo este. -Yo creo que al final no va a haber. Yo creo que va a ser una regulación que va a venir en distintos ámbitos, en distintos campos, en distintas, por ejemplo. Y esto es, estamos en este tipo de podcast rompedores innovadores para pensar un poquito fuera de la caja. Pero yo me imagino, yo me imagino, yo como psicólogo, no me meto a otra profesión. Que como psicólogo que estoy trabajando, imagínate en un hospital, pues que de alguna manera, yo puedo utilizar inteligencia artificial para evaluar, establecer planes de diagnóstico, generar materiales, para todo esto, funciona muy bien. El generar materiales interesantes para mis pacientes, etcétera, etcétera, pero quizás en un momento. determinado del hospital mediga. Oye, la IA que tienes que utilizar es esta, que es una IA especializada en salud mental, que ha sido desarrollada por un gran consorcio, por un ministerio, por un departamento de salud, etcétera, etcétera. Y eso me da garantías de que aquí alucionaciones las justas porque va a estar muy monitorizado. Absolutamente. Alguien en un Congreso preguntaba el otro día. Oiga, es que yo he puesto, puse los mismos datos, solo cambiando género, hombre y mujer y nunca se decía que era ansiedad, tiene el otro caso era un problema cardiovascular, un ataque de corazón. Porque a las mujeres se infrabia anostica. Y entonces otro médico ahí le dijo, "Lo que tienes que hacer es no utilizar esto para hacer un diagnóstico". Obviamente no lo había hecho, no había hecho el diagnóstico, pero quería poner en evidencia este tipo de alucionaciones. Volvo un poquito a la idea de humanin del up. La idea es, voy a tener a mi disposición y a generativas por verticales, habrá una específica en la ambitos sanitario. Yo creo que habrá otra, las universidades para cualquier cosa y ahí, y eso será un gran volumen de negocio, también hay que decirlo, una grande soportunidad y ahí pues cada uno utilizaremos aquella. Y después quizás hayan otras más generales, pues para otro tipo de cosas. Porque es verdad que yo confunda a la capilla asistina con la caduto de ese govía en mi problema. Puedes ser una alucionación como muchos se rirán mis amigos, pero que yo confunda un tipo de intervención quirúrgica con otro, en el caso que fuera cirujano. Pero ese es el problema que bien decía Sborja y ahí vamos al tema de la parte crítica, de esa análisis crítico de la información. ¿Qué está pasando ahora? Lo que está pasando ahora es que todos nosotros, por el background que tenemos, los que nos hemos formado y hemos estudiado y hemos trabajado muchos años sinía, por el background que tenemos y tal. Yo la utilizo mis proyectos de investigación. Le digo, quiero que me compares la teoría de Fulanito con la teoría de Fulanita, me generes una tabla donde a su besta tal para que yo luego pueda verlo visualmente a ver si utilizo este modelo de intervención o el otro. Pero yo me los sé, esos modelos de intervención. Para mí es como una calculadora, yo se sumar. Pongo uno más uno, si me sale dos, digo, lo hace bien. Tengo, pero ¿qué pasaría si eso empieza a ser utilizado y en el mundo sanitario, eso siempre es un peligro, el intrusismo, por gente que quiere ser psicólogo, si no haber estudiado psicología médico, si no haber estudiado medicina o enfermeras sin, y aún enfermeros, si no haber estudiado enfermería. Ahí está el key de la cuestión. Yo creo que por eso tendrá que haber en algún momento una regulación, porque si no, mira, además por jaís que esto es el otro día, me lo explicaban. Si yo ahora, a lo mejor imagina, tú tienes un tromato, luego yo a lo mejor me leído cuatro cosas de tromato, lo que me pasa es la vida, cuatro conceptos puedo manejar. Entonces yo empiezo a decirte que me pasa esto, esto, esto, y tal. Tú siendo, si tú no fueras tromatologo, podrías incluso llegar a pensar que yo tengo mayores conocimientos médicos, pero si fueras una tromatologa, una doctora, es perda en tromatologa, posiblemente al cabo de un minuto te darías cuenta de que no estoy afinando, que básicamente que no tengo idea de lo que estoy hablando. Pero en cambio, si lo mismo lo hacemos, yo teniendo un chat GPT que estaba viviendo de fuentes de tromatología, ahí tardaría más en pillarme, igual me pillaría, igual, pero tardaría más. Yo creo que ahí es donde tiene que entrar también la regulación, los códigos de ontológico, y algo muy importante que también la doctora Raquel Iniesta tiene en su artículo publicado, que recomiendo uncarecidamente la educación de los pacientes. Ahora más que nunca, ahora tenemos que generar ese análisis crítico en los pacientes, no, todo lo que veamos va a ser verdad, vamos a ver cosas que no van a aparecer muy, muy, muy verosímiles, pero bueno, sí, pero no lo van a ser, ejemplo, muy tonto. Esas cartas que hemos recibido todas y todos de que tenemos un primo en, no sé qué país que se ha muerto y nos ha dejado una herencia maravillosa, un príncipe africano o asiático de donde se ha llegado, y que sólo tenemos que ingresar un dinerito y que para los gastos y que luego nos darán esos millones que, bueno, pues eso ahora antes nos reíamos, incluso porque venía con las faltas de ortografía, unas cosas que no cuadraban de género, de sintaxis de todo. Ahora ya no, ahora ya es muy difícil de estén. Ahora ya no, ahora yo reto a cualquiera que coja una de esas cartas, si le llegue a algún momento, lo tienen en espámite, tal que la coja la meta en el chage PT le diga, dale a esto veros y militud y te la dará, es más le dice, quiero que esta carta sea más persuasiva utilizando los principios de uno de los psicólogos más conocidos en este ámbito, Cialdini, rober, rober Cialdini, ponés eso ya y te sale algo que dices, wow, wow, esto ya me lo creería, eh, que estaba escuchando mientras hablabas de quienes o qué tipo de perfiles tiene que estar involucrados en este gobierno un poco más federado, déjame llamarlo así, y mucho más consensuado, a la hora de tener días que nos sirvan y que realmente sean verosímiles, pero claro, ahora mismo, no sé si muchos de los que nos están escuchando, pensaran si, pero al final quien está detrás de todo esto son los grandes, es decir, los Google, los Amazon, los Microsoft, que no sé hasta que punto están integrando a todos estos agentes, incluidos los pacientes, en esos procesos, o están poniendo la tecnología por delante, yo, sinceramente, eso es una opinión personal mía, pero sinceramente, a veces, este tipo de grandes empresas, hacer lo que las tecnologías las permite hacer para ganar dinero, yo sinceramente creo que a veces tienen buenas intenciones, realmente a veces, bueno, pues, organizan comités de ética, Google, el 2d1 donde estuvieron algunos que luego se pasaron al human for center de tecnologi, más. tiene esto. No creo que en un momento he terminado estas grandes empresas, "wow, vamos a levantarnos, vamos a estruazar el mundo, no, no vamos a derremble". No creo que sea así, no es, sería demasiado fácil, no. Lo que pasa es que luego la presión, los accionistas, el más, más, más, el hacer sin pensar, la idea de Facebook, de meta, de rompe cosas, ver rápido y rompe cosas, quizás se están pasando un poco si lo que acaban rompiendo son nuestras propiamente, yo creo que ahí ahí sí que puede haber ese miedo. Por eso algo que me parece bastante interesante es y el otro día el presidente del gobierno Pedro Sánchez lo apuntó en España y seguro que en otros países también sus gobiernos lo están pensando generar inteligencias artificiales, modelos del lenguaje, el MM, o sea grandes modelos del lenguaje, propios nacionales y desconectados de esto porque ese es el quid de la cuestión. El otro día me decía alguien que conoce este sector mucho mejor que yo, el sector me reciero de la ciberseguridad y demás y me decía, "Uno de las cosas", es esto que lo viene el periódico también, o sea, es que me lo dejo esta persona porque lo veamos comentado del periódico, me decía, "Mira Manuel, una de las cosas que está pasando ahora es que lo más cotizado es poder jaquear la cuenta de chat GPT de los directivos de grandes empresas o de fondos inversión o de lo que sea que tenga un call a dinero por medio y a poder por medio". Entonces uno puede decir, "No te gustaría saber lo que le pregunta a lasías tal persona, tal ministro, tal presidente, tal sería maravilloso porque puedes saber incluso cómo van a invertir". Y luego por otro lado yo le decía, "Oye, sí, de acuerdo, me lo creo, pero tampoco nos volvamos con SPI para noicos, porque a final uno puede acabar, porque eso mismo ya está pasando, le da hace mucho tiempo con las redes sociales y eso mismo está pasando en todas las grandes empresas que tienen como corporativos, grandes switch de programación, de editor de texto, de moja de cálculo que están en la nube, es decir, ese problema existe. Una de las cosas que yo creo que nos puede proteger, que podemos tener la suerte, que es que entre ellos haya tanta competencia que ya por la cuenta que la extrae a una de estas grandes empresas se van a cuidar mucho de pasar una línea porque entonces sería malo para el negocio". Entonces yo creo que ahí es especie de autogestión de "No nos vamos a hacer daño", imaginemos, que empezas en aparecer, pues eso las las terapias psicológicas que pueden tener algunos famosos a través de grandes plataformas de streaming, de "ay perdón" de vídeo, cuando hacen vídeo conferencias, eso sería maravilloso, eso sería, imaginais los paparachis, buscando, mira lo que ha dicho a sus psicólogas, psicólogo y tal, tal famoso, esto no pasa, por suerte no pasa, ¿no? Ahí mecanismos de seguridad, yo creo que eso nos puede salvar. Ahora, si alguien le dices "pone la balanza, seguridad, ver sus ganar mucho dinero", te dirá "bueno, de momento gano el dinero, luego lo otro ya lo arreglaré". Hay dos cosas que estaba pensando, hay un libro de Alessandro Barico que lo conoce mucho por la parte más de novelas, en una habla que se amaseda, que es muy conocida mundialmente, pero también tienen sayos y Alessandro Barico tiene un ensayo que se amane de game, pero tiene otro anterior que si no equivoco se amá los barbaros, en el que habla de realmente cómo las nuevas generaciones que están integrando la digitalización, que están integrando la inteligencia artificial, que obviamente están permeabilizando en diferentes sectores de la sociedad entre ellos, el mundo de la salud, están arrasando con todo lo que existía y solo tienen en cuenta lo que dicen las yas y solo tienen en cuenta lo que ocurre en las redes sociales y ya no leen y ya no digan tiempo al pensamiento crítico y todo es aquí y ahora y todo lo demás desapareció y la historia acabado. Entonces, Alessandro y por lo que fue el público nacional y es crítico de cómo realmente eso ha pasado, generalmente. de una manera recurrente, a lo largo del tiempo. Entonces, si ahora también tenemos un poco la sensación de que hay una generación que está queriendo acabar con todo, que está arrasando con todo y que está generando eso que encias de sociales y a manomía, no que es esta sensación de pérdida de las reglas que rejen la cotidianidad. Sí, sí. O realmente lo que estamos haciendo es traspasando un portal que nos lleva a otra era en el que las cosas hay que hacerlas de manera distinta porque nos pueden aportar un valor, pero es verdad que hay mucho trabajo para ordenar. Claro. No sé, en que parte del barrio te situas. Yo ahí me encanta esa idea de la anomía, de barico y tal. Yo lo que creo es que efectivamente siempre ha pasado esto, o sea, esta idea de los jóvenes de ahora, los como los de antes. Eso ya lo decían de los que ahora están jubilándose o ya han fallecido por edad, siempre ha pasado la historia como bien comentas. Lo que creo es que ahora esto está elevado a la enésima potencia y ahora los retos son muchos mayores porque es un tema de escala porque hasta cierto punto había, pues decir, vale, movemos cosas, pero otras estaban, bueno, también entramos ahí en la idea de la sociedad líquida de bauman, otras estaban en su sitio, las grandes instituciones, la iglesia, el estado, el ejército, las administraciones, todo eso era como algo muy permanente. Ahora ya ni eso, entonces ahora que las fronteras, yo creo que nos adaptaremos, yo creo que siempre nos hemos adaptado, pero terreno, absolutamente de acuerdo contigo, no creo que vaya a ser tan fácil como ha sido otras veces, porque ahora nos va a tocar, nos va a tocar el hueso, no, nos va a tocar lo que duelen, nos va a obligar, quizás, a redifinir las profesiones, de definir nuestra manera de relacionarnos. A veces pienso, aquello de si no lo veo no me lo creo, es que es igual, ahora lo verás y no deberás creerte los ítienes dos deos de frente porque posiblemente lo que estés viendo no sea real, hay unas inteligencias artificiales ahora que han salido hace poquito por televisión, también tengo que decir que hay mucho hype en este tipo de historias, tú a veces ves cosas, fíjate como un drone está sobrevolando un poblado minero y luego dices a eso, eso donde está y quién lo puede hacer realmente, tardará en llegar a la, pero bueno, acabará llegando también, lo que yo creo que nos va a someter a un estrés como sociedad personal, mucha gente que está pensando que puede perder su puesto de trabajo, que puede cambiar sus condiciones laborales y permite me hacer una cuña, esto ya se decía también cuando aparecieron los ordenadores que, y vamos a trabajar menos cuando aparecieron las redes sociales, que vamos a estar más conectados, cambios y trabaja más que nunca y a veces está más solo que nunca con tanta retocial y con tanta historia. Tenemos ahora la oportunidad de resarcirnos de eso y que esta tecnología que nos está entrando, la consigamos dar la vuelta para que realmente nos aporte valor, porque nos pueda aportar un valor tremendo. O sea, hay gente que va a seguir, viva, gracias a que un algoritmo ha encontrado el problema a su caso médico, pero por favor con una doctora, con una médico que esté detrás, voy a poner un ejemplo, hay un antibiótico que me disculpe a algún médico, si no lo explico con precisión, la alicina que fue desarrollada para tratar baterías resistentes y se cargo de alguna manera los métodos tradicionales de buscar antibióticos que era básicamente, pues a lo bestia, poner la batería y van probando con los antibióticos conocido a ver cuál mata más. Bueno, pues gracias a una combinación que ahora los científicos humanos están intentando averiguar, como demonios llegó a esas comillas, conclusión, la máquina, bueno, pues puede hacer dos cosas. Primero han identificado una sustancia que mata mucho mejor bacterias que a las anteriores y que por tanto salva vidas, está hablando de muchísimos en los 2050 muchísimos miles y hasta millones de muerte por resistencia a las baterias, entonces eso va a ser un problema y bueno, yo creo que eso es realmente es maravilloso y a su vez y no quiero, se puede utilizar justo al contrario, se puede utilizar justo al contrario y la anécdota es que me gustó mucho el nombre que le había andado a la alicina, H-L-N-HAL, viene del ordenador de 2001 o una vez en el espacio y ese ordenador y el otro día no leía, me hizo mucha gracia, es como el, sabéis que en su momento intentaron que fuera un IBM, pero IBM no lo vio claro, fíjate que idea, no estarán todavía andole vueltas, no vio claro que se llamase y entonces lo que hicieron fue cambiar una letra, de la H, o sea H-I, AB y L, o sea, quiero decir HALES y BM, pero con un pequeño juego de pasar una letra en el alfabeto, ¿no? Y este tipo de cosas, yo creo que sinceramente quizás muchos de los que estamos oyendo, participando y oyendo en este podcast, en pocos años estaremos vivos cuando tengamos una edad o incluso ahora gracias a algún desarrollo de la inteligencia artificial, o sea que en ese sentido máximo apoyo a los que están trabajando en ello, pero eso sí, como en toda la vida, habrá que regularle por un poquito de orden, para ahí finalizando, en términos de ética que hemos hablado, pero hemos estaría profundizando un poco más en la parte final de nuestra conversación. ¿Qué sesgos, o los que especialmente se tienen que tener en cuenta dentro de esta regulación? Por eso, por favor, utilizémoslo, pero con un médico detrás, en salud que sesgos, si son relevantes a tener en cuenta y que tareas crees que sí que la automatización puede cobrar muchos sentidos comentado algunas. Claro, claro. A nivel de sesgos, ese es uno de los grandes problemas de la inteligencia artificial. Yo creo que en casi todos los ámitos en los que están implicados personas. Entonces, al final, esto, bueno, pues, agencias como la agencia de regulación de la inteligencia artificial, la agencia española de regulación de la inteligencia artificial y la europea y la de otros muchos países, pues van a tener que poner esto sobre la mesa. ¿Cómo lo haría yo? Pues, haría, por ejemplo, los algoritmos que estén abiertos, que se sepa que cualquier persona, cualquier grupo de interés, me refiero una asociación, un grupo de ciudadanos, un partido, sea cualquiera que una asociación profesional médica, psicológica, etcétera. Puede acceder a ver con qué datos se está entrenando ese tipo de algoritmos. Hay suficientes, hay tantos hombres como mujeres, hay personas de distintos géneros, fluidos, el HTML y colectivo, el HTML, etcétera, etcétera. Hay personas de mayor nivel económico, de mayor nivel académico, de menor, o sea, esa es un poquito la idea. Eso es lo que nos hará preservar los esgos. Si hay una expresión muy fea que no voy a repetir, pero es algo así como, si pones porquería, ¿sadrá porquería por el otro lado? En una máquina, ¿no? Entonces, pues, esto es un poquito lo que puede pasar. Yo creo que eso es básico y ahí el rol que podemos tener los psicólogos a la hora de asesorar sobre estos temas, puede ser interesante. Por ejemplo, a la hora de ver qué técnicas de influencia y de persuasión se están utilizando. Son todas licitas. Dejademos de pensar por nosotros mismos y nos irán dando tantos estímulos ajustando nuestros deseos y nuestros intereses, nos irá hablando, esa máquina que los sabe todo de nosotros de nuestras búsquedas de tal, nos irá llevando hacia un, bueno, hacia una ventana de opinión determinada o hacia, eso es una de las preocupaciones que se está teniendo. Se puede hacer, se hizo algo ahora, bueno, cuando ganó las primeras elecciones Donald Trump, con el caso de Cambridge Channelítica, tal, hubo ahí un caso, pues, imaginados eso. Ahora, imagínete su boja con la potencia de la inteligencia artificial. Realmente las imágenes, lo que recibes, puede hacer que tu opinión vaya cambiando, se vaya radicalizando hacia un lado hacia otro. O sea, sesgos a la hora de programar para evitar eso, tener en cuenta con que datos están entrenando la máquina, auditar los resultados de la máquina, es decir, como si fuera una empresa de cualquier tipo que va recibiendo, pues, no sé, una empresa farmacéutica, recibir sus auditorías tecnológicas y cumplir con todos los requisitos, se tendrá a hacer. Se tendrá a hacer como con cualquier otra industria, ¿no? Para tranquilidad de todos. Yo cuando me tomo un medicamento o cuando veas supermercado y me compro una barra de pan, pues, estoy tranquilo porque hay un grupo de profesionales que han evaluado que eso es correcto para que yo me lo coma cada uno, sabe de los suyo. Eso es importante. Y el otro tema era el ámbito de la salud. Ahora, vamos desde el punto de vista de también cómo puede estar aportando a la hora de a final de terminar los proyectos. Por ejemplo, no sé si estos son aspectos que ya en el proyecto en el que estás colaborando con el Kingscoleach y delondres, estáis abordando. Sí. Todo entiendo que todos los aspectos los están recogiendo. Todos estos aspectos están recogiendo lo que se, una de las cosas que se quiere hacer es contrastarlos con las personas, mejorarlos, hacerlos colaborativos, coparticipativos, porque no nos engañemos esto, no se puede hacer despaldas a las personas. Si lo hacemos despada a las personas, no, tenemos, es que en algunos casos puede pasar también esto que alguien diga, a mí ya me va bien, que me trate un algoritmo, o sea, que me diga que tengo, que me pongo un tratamiento, etcétera, entonces ahí tendremos que dar a cada uno aquello que quiere, pero con controles, o sea, es mucho más difícil hacer lo que, o sea, quiero decir, hacer lo que explicarlo, ¿no? Pero tendremos que ir hacia eso, habrá distintas, distintas sensibilidades. Esto pasa como la tecnología actual. Tú le puedes pedir a alguien, pues, de 80 años que no ha tenido apenas la relación con la tecnología que haga lo mismo que un chico de 21. Entonces ese elemento de equidad de dar a cada uno lo que precisa va a ser importante. Y en salud, quizás que está más olvidado, esa parte siempre, incluso en inversión es publica como es la promoción de la salud y la prevención, vamos a poder disponer y eso es si que es maravilloso y me gusta, pero todo lo que me preocupa es que sus datos estén bien controlados, pero, bueno, pensemos que sí, que hemos conseguido que se regule que los estados, que las empresas todos lleguemos a un acuerdo y se haga poder hacer un plan de alimentación y ejercicio adecuado para borja, otro para Manuel, otro para Pepe, otro para Mari y otro para Antonia, esa idea puede ser maravillosa, sabí noté motivar, no forzándote a través de qué tipo de mensajes, al mejor si es ahí a ti te lanza mucho, mucha felicitación, tú vas a decir, bueno, ya se te ve un poquito el plumero, ya vale, no me lo creo, en cambio, a lo mejor a mí me gusta que me feliciten, entonces eso, a eso me refiero, eso bien utilizado puede conseguir que que evitemos enfermedades, incluso a nivel, a nivel, bueno, pues situacional, cuando estés en determinados sitios, imagínate que uno entra en un sitio en el que es probable que pues que vaya a mantener algún tipo de relación, pues en ese momento te llega ese mensaje justo para ti, de que no olvides utilizar el preservativo, este tipo de cosas de salud pública de primero se va a poder hacer ahora a un nivel que antes era un deseo, era un 4 carteles y tal, pero ahora de precisión, ¿no? Es curioso, como equilibramos. Es maravilloso y vemos cómo tenemos que equilibrar el no querer dar información, pero a veces darla porque nos puede ser útil, el no querer no sentir a baseallados por parte de notificaciones que te llegan en momentos que no esperas, pero a la vez que pueden ser muy útiles en función de cuando te lleguen, claro, es que de nuevo, siempre acabamos en el mismo punto, que es involucrar a las personas y antes comentabas a los pacientes. O supuesto. En la temporada anterior tuvimos a una persona especialista en todo el mundo de la elaboración de educación de los pacientes por parte de San Chondadeu, y también nos hablaba de la importancia de crear panes para entender bien los diagnósticos, para saber también llevar adelante una pauta que se le puede haber prescrito, etcétera, y todos vuelto a este tema porque aquí es de nuevo un tema capital. Yo aquí voy a hacer una cunya de mi grupo de investigación, yo tengo una compañera, la doctora Eula Learnandes, que ya es especialista en alfabetización en salud. Y entonces, yo siempre comentamos cuando tomamos café, que esto es uno de los ámbitos, laía, en el ámbito de la alfabetización en salud es clave, porque que es la alfabetización en salud? La alfabetización en salud es la capacidad de acceder a información para cuidarme y cuidarme a los que estengo a mi alrededor, la capacidad de entender la información, la capacidad de juzgar entender, lo entiendo lo que estoy leyendo, juzgar. Esto es bueno para mí, esto me ataña y tomar decisiones. Pensemos en esos elementos, esto es la definición de una revisión gran, la revisión sistemática de Sorensen, una profesora sueca que hizo este análisis. Estar por cierto, estos cuatro grandes principios que son los que utilizamos en. y ya tiene proyectos de investigación en este ámbito y hay algo muy interesante que es que hay alguno de estos ámbitos, la capacidad de acceder a la información, no es que la vaya a buscar, es que me llegará, claro, me llegará a además con precisión, la capacidad de entender en función de mi nivel académico, si yo fuera un, no sé, un, un, un neurologo a lo mejor que me hable de neurología, me puedo hablar con un nivel obviamente alto, pero si no, si neurologo me dedico a zapatero, pues oye, pues a lo mejor no hace falta que. Entonces, esa información va a ser que yo la pueda entender, la capacidad de juzgar, como va a tener todos los datos míos y que yo voy generando y voy compartiendo, pues me va a decir, Manuel, esto es bueno para ti o esto tal, tienes estas tres opciones, en función de tus preferencias y tal, y la capacidad de tomar decisiones, te puede ayudar a esa toma de decisiones, tras estar y tal, yo me imagino un chat GPT encima de la Alexa o de los sistemas de estos, de los dotestos que tenemos que existen de Amazon y de otra mucha compañía maravillosa también, pero esta, esta idea de poder tener este tipo de relación que ahora se tiene, que es bastante planita, que es bastante, pues, te imaginas poder preguntarle, oye, me acabo de venir del médico, me ha diagnosticado esto, mi doctora, tal, tal que pueda hacer, pues, mira, Manuel, tal, tal, le te esto, te voy a poner este podcast, el nuestro, te voy a recomendar esto, eso sería maravilloso, pero eso sí que los datos estuvieran contra los otros, y yo, y sobre todo, y que yo los pudiera compartir con qué me da la gana, porque hay un concepto muy bonito que es el de donante de datos, los data donors, que también es un elemento muy interesante, su voluntariado, personas que precisan automonitorizando y que ceden sus datos a la ciencia, why not, con lo bonito que puede ser, porque, a lo mejor eso, va a ser la base del tratamiento de otra persona. La última, Manuel, recapitulando y cerrando un poco todos estos temas que hemos estado tratando nuestra conversación, retos, desafíos, que nos quedan los siguientes, no sé decirte, tres años, dos años, cinco, para poder abordar esto de una manera eficiente y que realmente sea útil para los pacientes y para la comunidad médica. Yo creo que el reto uno de los principales, que yo creo que ya estamos consiguiendo, y este podcast es un ejemplo, es hablar de ello, es hablar, es debatir, este debate crítico social que estamos teniendo todos, se está dando en todos y cada uno de los colectivos profesionales. Yo he hablado de estos temas y otros compañeros que saben mucho más que yo también, en, bueno, en mi caso, en el colegio de médicos, pero todos los colectivos, perdón, sí, de médicos, en el colegio de psicólogos, en varios colectivos profesionales, todos los colectivos están preocupados. No digo nada en las universidades, obviamente también, tenemos que ser garantes de que, de que lo que se enseña y realmente sea esa persona, pues la que está aprendiendo y adquiriendo esas competencias, por supuesto, por respeto a todos a los estudiantes y a la ciudadanía que afinal acabo, son a quien nos debemos desde la universidad. Eso por un lado, otros reto, pues llegará a buscar ese punto de equilibrio entre lo que, lo que sería ideal hacer y lo que realmente se puede hacer sin transgredir las normas. Otro reto, en ser capaces de articular a través de debate, en Comisión Europea, el gobierno, generación de agencias, todo eso está pasando, ya está pasando en directo, generar sistemas estructuras que nos permitan tener a quien acudir, a quien acude es cuando tienes un, bueno, que te diga, estos correctos, esto no es correcto, que incluso de pistas y de ayudas a los desarrolladores, venditos sean, porque esto a final lo hacen personas que están desarrollando aplicaciones que están, bueno, que sepan también cuáles son las reglas del juego, que se puede ganar dinero sin darño a la sociedad. No creo que nadie es lo que decía antes, elevante por la mañana con esa idea. Yo creo que en una palabra sería sentido común, que por cierto es lo único que no tiene la inteligencia artificial. El sentido común, entendido como un background de conocimientos de experiencias que hace que tú tome su decisión para resolver un problema basado en lo que ha hecho antes y ha funcionado, lo que hace la gente de tu entorno y lo que hace la gente, en tu entorno me refiero incluso cultural, cosa ha sentido común aquí, a lo mejor en otro país, no lo parecen tanto para un observador. Pues esta idea del sentido común, de tengamos sentido común y que sepamos conducir este monstruo maravilloso con el que estamos empezando a bailar. El clarísimo nos quedamos con esa idea raviósamente humana, ha sido un absoluto placer. Muchísimas gracias por compartir todas estas ideas, dos desafíos, este pensamiento crítico. Y para toda nuestra odiencia, muchísimas gracias por seguir ahí, por inaugurar esta temporada y continuar con nosotros en este mundo apasionante de la digitalización, la inteligencia artificial, la innovación en el mundo de la salud y esperamos veros en el próximo episodio. Muchas gracias. [Música]