108. Agentes

Bueno, creo que esta es la buena. Puede que haya dado con la fórmula de sacar tiempo para seguir siendo constante con el podcast y no morir en el intento. No lo sabemos, no prometo nada, pero allá voy, pero vamos a que si te gusta el podcast y quieres que continúe pues dale las cinco estrellitas en el Spotify, suscríbete en YouTube, que además por ahí también empieza a ver cositas. Sígueme en redest, que te la voy a dejar por la nota del programa o mejor aún apuntate a la comunidad ninja que son lo que de verdad apoya este proyecto. Vamos a ver, sino perdido la práctica. Un podcast ninja sobre Big Data episodio 108 agentes. Muy buenos días, si bienvenidos, bienvenidas a un nuevo episodio de un podcast ninja sobre Big Data. El podcast en el que hablamos de Machine Learning, de la lítica de datos de inteligencia artificial y de todo lo relacionado con el Big Data y el mundo de los datos. En este podcast hablamos de inteligencia artificial y de Big Data de manera normal, nos alejamos de las ideas distópicas del hype y tratamos todos estos temas con los pies en la tierra y siempre consentido del humor que es lo que le da aleogría la vida. Yo soy Marta Rollo y estoy aquí para contar los cositas sobre todo este mundillo de los datos al que me dedico. Así que eso es lo que voy a hacer hoy. Hoy vamos a hablar de agentes. ¿Qué son en qué se diferencian de los modelos del lenguaje como evolucionado el paradigma de la inteligencia artificial en los últimos 3-4 años? Espoiler mucho y también os voy a hablar de cómo pueden clasificarse los sistemas agénticos según el nivel de complejidad y algunas hipotechis de cómo van a evolucionar estos sistemas hasta convertirse en SkyNet y destruir la humanidad tal como la conocemos hoy en día. El broma, las hipotechis no son mías van a ser de Antonio Gulli, que es ingeniero de Google y extraidar de su libro de sistemas agénticos que es el libro que estamos leyendo en el club de lectura de la comunidad ahora mismo. Así que empezamos, empezamos por el principio, una gente que es lo que es. Una gente es la evolución de un modelo del lenguaje porque estas alturas si estás escuchando este podcast seguro que sabes lo que es un modelo del lenguaje y no te lo tengo que explicar. Por ejemplo, chájabete es un modelo del lenguaje o realmente chájabete es la interfaz para interactuar con uno si nos ponemos un poco tiquismiquis, pero bien, pillamos la idea. Pero si hay alguien por ahí despistado os dejo en las notas del programa en el enlace al episodio 28. Ostrastum anda que no haya oído, pero bueno, igual hay algún detalle que se ha quedado obsoleto de ese episodio, pero el meoyo de la explicación sobre el modelo del lenguaje sigue siendo válido. Y oye que igual escucháis el episodio y encontráis que alguna predicción que hice en su momento se ha cumplido y además me lo decís y yo ya me puedo ganar la vida como pitaniza. Así que os lo dejo en la notar del programa. Y ya si queréis saber más que el 99% de la población mundial sobre LLM y profundizar a nivel más técnico sobre cómo funcionan y todas sus intríngules internos os voy a dejar los enlaces a los episodios 22 23 24 y 26 del podcast Premium que es canelita en rama. Y bueno, voy a la granolla que me estoy dispersando. Una gente es un modelo del lenguaje vitaminado con habilidades para planificar, utilizar herramientas e interactuar con su entorno. Por qué modo lo del lenguaje de igual lo grate que sea lo potente que sea los miles de millones de parámetros que tenga, por sí mismo es solo un generador de texto. A mí me gusta verlo como decía en hace un par de ediciones de la newsletter como un cerebro en una caja. No sé si alguien se aguarda por ahí de las míticas cabezas en tarros que salían en futurama, pues ahí metidas en suote sabiendo de todo, pero sin mano ni piezo, sin poder hacer nada. Pues lo único que pueden hacer es decirte cómo hacer las cosas, pero son incapaces de hacerlas ni siquiera pueden buscar en internet ni las cabezas en los tarros de futurama ni los LLM. Una gente sin embargo es un modelo del lenguaje al que le das herramientas para poder hacer cosas. Tiene acceso a la terminal del ordenador, un navegador, una base de datos, una API, le dejas leer archivos, ejecutar código, tomar decisiones, ya no solo piensa, hace cosas. Y esa es la diferencia fundamental. Si le preguntas a un modelo de lenguaje a secas, organiza mi agenda para la semana que viene, pues te va a soltar un texto muy bonito con consejos genericos sobre gestión del tiempo. Pero una gente con acceso a tu calendario puede leer tus eventos, mover reuniones, bloquear huecos de trabajo, projundo y mandarte un resumen de todo lo que ha hecho. Básicamente una gente cuando funciona sigue un ciclo de cinco pasos, primero recibió una misión, tú le das un objetivo como organiza mi agenda, segundo analiza la situación, recopilando toda la información necesaria, pues leyendo los correos, revisando calendarios, mirando los contactos. En definitiva, entiende lo que está pasando. En el paso 3, piensa un plano, traza una estrategia, considera cuál es el mejor enfoque para cumplir el objetivo que le hemos dado. El cuarto paso, actúa, ejecuta el plan, envía las invitaciones, programan las reuniones actualizadas del calendario, lo que sea que le hayamos pedido. Y quinto, el quinto paso y último aprende y mejora. Observa que ha funcionado y se adapta si una reunión se cance la, pues aprende de eso para hacerlo mejor la próxima vez. Eso es una gente, un modelo de lenguaje con la capacidad de planificar, usar herramientas y interactuar con el entorno. O como decía antes, es como si cogéramos ese tarro con la cabeza de Nixon, de Futurama y le pusieramos el cuerpo de vender, que creo que hay un episodio al respecto, pues de repente puede andar, tocar cosas y meterse el lío. Y esto no ha pasado de la noche a la mañana. Al principio, cuando Chápete apareció ese momento mágico de la historia de la humanidad, lo que teníamos era básicamente un modelo de lenguaje muy potente con el que se podía chatear. Le escribiáis un prompt y os devolví a una respuesta. Y eso ya es una revolución en sí misma. Pues acordáis que tiempo es aquellos, la gente flipando porque le podíamos pedir que nos escribieron poema, que nos explicara la teoría de la real latividad como si tuvieramos cinco años, que nos ayudara a redactar un email para nuestro jefe. La era del prompt engenirin, cuanta gente nos íbamos a hacer ricos, sabiendo sobre el prompt engenirin. ¿Qué tiempo es aquellos? Pero en seguida nos dimos cuenta de las limitaciones de todo esto, porque el modelo se inventaba cosas, las llamadas alucinaciones, que famosas son. No respondía una seguridad alucinante, la redundancia, cosas que eran completamente falsas. Y claro, además, tenía el handicap que su conocimiento estaba limitado a los datos con los que había sido entrenado, no sabía nada de lo que había pasado después de su fecha de corte. Entonces, como primera mejora aparecieron las técnicas, Raj, que viene de Retribal Augmented Generation, o generación aumentada por cooperación. ¿Qué consiste en dar acceso a documentos relevantes al modelo antes de que responda? Le podemos dar acceso a una base de datos, a unos documentos PDF, a la documentación de nuestra empresa, lo que queramos. Entonces, una vez le hemos aplicado estas técnicas, el modelo ya no tiene que tirarse el faroll y responder de memoria o inventarse los datos sobre una empresa que no conoce, sino que lo que puede hacer es consultar fuentes reales antes de generar la respuesta. En todas gracias a estas técnicas, Raj se reducen mucho las alucinaciones, y bueno, ya si queréis, un día le dedicó un episodio a las técnicas de Raj, os explico cómo funcionas, todas las que hay, y soy si no estés perto en Raj después de escuchar el episodio. Entonces, bueno, esa fue la primera mejora, y después llegaron los modelos razonadores, seguramente os acordáis del modelo de OpenAI cuando lanzó el modelo 1, que fue el primer modelo que dedicaba más recursos computacionales a elaborar la respuesta antes de ofrecerse la alucuario. Entonces, lo que hacía era, en vez de soltar lo primero que se le ocurría, pues se tomaba su tiempo para descomponer el problema, considerar diferentes enfocas y revisar su propio razonamiento. Solo llamados "modelos thinkin" y fueron un salto significativo, porque hasta entonces los modelos del lenguaje tenían la tendencia a responder impulsivamente como ese típico compañero de trabajo que siempre contesta los similes, siler, los bien del todo, como yo podría ser esa persona. Y ahora, pleno, en el 2016, estamos en la era de los agentes, que es la combinación de todo lo anterior, modelos potentes, capacidad de razonamiento, acceso a información externa, y la pieza clave, que es la capacidad de usar herramientas de actuar en el mundo. Y ahora el modelo se podría hablar, luego ya podía consultar información antes de hablar, después aprendió a pensar mejor, y ahora puede hacer cosas, cada paso se apoya. en todo lo anterior. Entender esta progresión es fundamental para comprender lo que viene. Y lo que viene es bastante gordo, porque en la versión completa de este episodio, en el podcast Premium, que está disponible dentro de la comunidad ninja, dentro de las cosas que, de verdad, os van a cambiar la manera de trabajar con estas herramientas. Os cuento cómo se clasifican los sistemas agénticos en nivel de complejidad desde el LLM básico hasta los sistemas multiagentes y cómo cada nivel va incorporando patrones de diseño que hacen que la gente sea más capaz. También hablo de un concepto que se llama ingeniería de contexto, que es absolutamente clave para salirle partido a cualquier agente y ahorrar tokens. Uso cloud como ejemplo práctico de todo esto, y os explico también que son los mcps, aunque de esto hice un vídeo en el canal de YouTube, nos lo voy a dejar también enlazado en las notas del programa y voy a hacer unos sobre skills que, así que suscribiros por chíos y interesa todo esto, también hablo en el podcast Premium del debate entre mcpsi o no, o si es mejor usar mcps o CLA, este debate es actual y tiene dividida la comunidad de desarrolladores, y os cuento tres incidentes de seguridad reales con servidores mcps que os van a poner un poco en guardia, a la hora de instalar servidores mcps, vais a mirarlo un poquito más de donde viene y echarle un vistazo antes de poneros a trabajar con ella, especialmente el tercer incidente que os cuento, que es de los más creativos que he visto. Y para cerrar el episodio del podcast Premium, os voy a hablar sobre las cinco hipótesis, sobre el futuro de los agentes, a cada el libro que estamos leyendo en el club de lectura de la comunidad. Algunas suenan un poco a ciencia ficción, pero claro, siendo 2022, me hubiera dicho que íbamos a tener agentes escribiendo código y ejecutando comandos en nuestra terminal, pues igual tampoco me lo habría creído, yo que sé, así que todo esto en la versión completa del episodio Premium, dentro de la comunidad ninja, donde además de los episodios Premium, tenéis club de lecturas, llegando a ese directo, proyectos que hacemos poco a poco, contra todos, competiciones de Kaggle y una comunidad privada en Discord, a gente que estaba aprendido todo esto en serio y os dejo el enlace en las notas del programa para que os apunteis, así que nos vemos ahí. Así que eso es todo por hoy, espero que os haya gustado el episodio y que hayas aprendido algo de valor, si ha sido así no olvides dejar un me gusta en aivox, una valoración de cinco estrellas de algún comentario en Spotify, en Apple Podcast, o donde quiera que estéis escuchando esto, y también suscribiros al canal de YouTube y especialmente apuntaros a la comunidad ninja, que eso es lo que realmente apoya todo este chinguito. Sobre todo, muchas gracias por estar al otro lado y nos escuchamos en el próximo episodio de un podcast ninja sobrevictada, feliz semana y hasta el próximo episodio.