#74 - KI-Agenten erklärt, Teil 1: Von Hyperautomation zu KI-Agenten mit Michael Kirchner (IBM)

Hallo und herzlich willkommen zu Jetbox und KI. Mein Name ist Thomas Bahman und ich wünsche Ihnen viel Spaß bei der heutigen Folge. Also, ohne ein Sprachmodell kommt kein Agent aus. Er braucht außerdem ein Gedächtnis. Das heißt, er muss zumindest mal so ein bisschen diese Kontextinformationen des Gesprächs, indem er sich gerade befindet oder die Aufgabe, die er gerade bearbeitet speichern können. Es gibt aber Dings durchaus auch Agenten, die Langzeitgedächtnis haben, was dann eben den Agenten hilft, sich so ein Stück weit auf die Aufgabe haben, Stellung auch hinzuoptimieren. Und dann natürlich Werkzeuge, also die Tools, die der Agent benötigt, um mit seiner Umwelt zu interagieren. Das sind den Wesentlichen eigentlich so die Kernenelemente, die so eine agentische System ausmachen. Stellen Sie sich vor, Sie hätten einen neuen Kollegen im Team. Einen, der extrem schnell lesen und denken kann. Der weiß, welche Werkzeuge in Form von Datenbanken und Programmen, Diensten und IT-Systemen in Ihrem Unternehmen zu verfürgen stehen. Der drauf gedrillt ist, ihnen zuzuarbeiten und ihnen Aufgaben abzunehmen. Und der durchgängig rund um die Uhr arbeiten kann. Ein zentrales versprechende künstlichen Intelligenz war und ist, uns lästige Arbeiten abzunehmen oder zumindest deutlich zu erleichtern. Bei einigen Aufgaben klappt das mit einem gesundem Maß an menschlichen Vorplanen, Entscheidungen fällen und kontrollieren schon recht gut. Vor allem bei der Textarbeit können große Sprachmodelle wie Chat GbT, Gemini, Mistral oder IBM, Granite und viel Arbeit abnehmen. Und auch in der Prozessautomatisierung können Sie, nach rechtiger Elementierung und Kombination mit anderen ansetzen, wie zum Beispiel Retrieval-Augumente-Generation oder Business Automation, eine nützliche Rolle spielen. Aber wirklich autonome funktioniert das alles noch nicht. KI-Agenten sind derzeit ein heißes Thema und gelten als großer nächster Schritt in der KI-Welt. Sie stecken noch in den Kindern schon, sollen aber endlich das Versprechen eindösen, dass eine KI als Autonomegent Aufgaben ohne menschliches Planen, entscheiden und eingreifen, fall abschließend bearbeiten kann, indem sie durch Anwendung an verschiedene Werkzeuge, Informationen sammeln und Prozesse anschlossen. In dieser Folge werfen wir einen Blick auf den aktuellen Stand, die Potenziale und die Herausforderung agentischer KI, mit einem besonderen Fokus auf den Unternehmenskontext. Dazu habe ich einen Experten eingeladen, von dem wir erst vor wenigen Wochen einen spannenden Vortrag zu diesem Thema gehört habe. Michael Kirchner, Senior Business Automation Partner und Technical Specialist bei IBM. Hallo, Michael, schön, dass du da bist. Bruno Thomas, vielen Dank für die Einlagen. Vielleicht stellt du dir selber auch noch mal kurz vor. Ja, das mache ich gerne. Also, Michael Kirchner, ich bin bei IBM, derzeit im Ökosystem für unsere globalen Systemintegratoren und Konsultensies als technische Ansprechpartner, Tätig, gewissermaßen so eine Art Architektenrolle über das gesamte IBM-Portfolio. Ich habe aber im historisch betrachtet eine sehr, sehr starke Nähe zu dem Thema Business Automation, wo ja, was es gerade schon angetieset, eben auch Agenten oder Agentische KI im Augenblick, eine sehr, sehr große Rolle spielt. Ich bin 1999 zu feine gekommen und bin dann 2006 durch die Akrise von IBM in die IBM-Familie eingemeintet worden und habe trotzdem noch über viele Jahre hinweg das Thema Business Automation, Workflow, Case Management, Prozess Management. Eher hat der IBM auch begleitet. Die Automatisierung von Geschäftsprocessen, wie du gesagt hast, ist ja kein neues Thema. Bevor wir jetzt in diesem Bereich Agentische KI noch mal tiefer einsteigen, lassen zusammen nochmal zurückblicken, wie hat sich Business Automation, die Geschäftsprozessautomatisierung in den letzten Jahren entwickelt? Und wie sind wir von klassischen Automatisierungslösungen zu KI Agenten gekommen? Ja, das ist ein sehr valider Punkt. Also, wie du schon sagt, das Thema ist absolut nicht neu. Als ich 1999 zu feine gekommen bin, hatten die schon sieben Jahre vorher eine Workflowlösung auf dem Markt gebracht. Damals hochspezialisiert, speziell für Banken und Versicherungen in den Grunde genommen gebaut, auf eigene Hardware laufen. Das war damals noch alles eine sehr, sehr propräitere Angelegenheit, aber trotzdem hat man damals eben schon erkannt, dass es in vielen Bereichen von Geschäftsprozessen deutlich schneller vorangeht, wenn man eben mit den digitalen Abbilden und nicht mehr mit dem eigentlichen Papier arbeitet, was damals im Grunde genommen natürlich immer noch der Stand der Technik war. Die ganzen Produkte, die zu dem damaligen Zeitpunkt existierten und dann kam es danach, kam gewisse Dandertisierung, es gab dann Bibel als Prozessstandard, Bibel vor Pipel, kam dazu, später hat sich dann BPM enddurchgesetzt. Aber was man natürlich nach wie vor sagen muss, all diese Beschreibungssprachen und auch Ausführungssprachen für digitale Prozesse, können natürlich nur automatisieren, was zum Designzeitpunkt bereits berücksichtigt worden sind. Das heißt, es sind im Grunde genommen diskriptive Ansätze. Man überlegt sich, am Anfang sieht man Prozess aus. Wie sehen gegebenenfalls die Ausnahmen aus. Das kann ich dann hinterher eben automatisiert auch ablaufen lassen. Es gab dann Versuche, das Ganze noch zu erweitern, das Thema Case Management ist dann ganz gut. Das Stichwort Adaptive Case Management, da nämlich Case Management waren Themen, die damals vor bei 2015 war, das ungefähr entsprechend starke Resonanz gefunden haben, weil man damit so ein Stück weit weg kam von diesem streng vorgegebenen Workflow, der zu diskriptiv eben vorgegeben war und etwas mehr Möglichkeit der Steuerung an den Sachbararbeitenden übergeben hat oder an die Sachbararbeitenden übergeben hat, die dann zur Laufzeit entscheiden konnten, ob bestimmte Aufgaben durchgeführt werden sollten, noch mal einen zusätzlichen Schritt in eine freigabe Prozess integrieren konnten, etc. Aber trotzdem alle deben hat das natürlich immer noch so ganz klare Grenzen gehabt, die dann auch ein Stück weit mehr oder weniger ausgemacht haben, bis in welche Bereiche man automatisieren konnte und an welchen Stellen Prost Digitalisierung, Automatisierung einfach sich nicht gelohnt hat, weil entweder die Vorgänge zu komplex waren oder aber die Abläufe so einzigartig waren, dass es einfach keinen Sinn gemacht hätte, sich dann noch mal Gedanken grüber zu machen, wie viel man das in irgendeiner Abend reise in ein Tool ließen kann. Also ich versuche, dass man mal eine konkrete Beispiel zu machen, ein Unternehmen bekommt, eine Beschwerde rein auf irgendeinem Kanal, ein Brief, der es gerne wird oder eine E-Mail oder ein Kundenportal aus der Beschwerde selber wird, zum Beispiel einen Fallakteurzeug für diesem Beschwerdevorgang. Es werden Daten gezogen, wie automatisch gezogen, wie was hat er gebucht oder was hat er bestellt, welches Produkt hat er, es werden Informationen gezogen. Ich habe jetzt gerade ein sortistischem Hintergrund jetzt gerade im Kopf. Informationen aus dem Zielgebiet gab es da zum Beispiel irgendwelche Unwetter oder ähnliche Informationen vom Hotel, haben die da schon irgendwelche Informationen erfasst, dass alles wird gesammelt. Und dann wird es im Infekt dem Fallbearbeiter, dem E-Klamationsmanager vorgelegt, als fertig vorbereitetes Stück, der kann einen Scheidung treffen und danach läuft, laufen wieder Prozesse automatisiert durch, eine Erstaatung, eine Teile Erstaatung, eine Angebote für einen gutschein oder so was. Und wenn das Automat ist, zum Beispiel wieder auf Briefpapier getrückt und verschickt. So was? Im Grunde genommen in der Art und Weise, ja, wenn man sich anschaut, wie eine traditionelles Business Automation portfolio heutzutage aufgebaut ist, man hat man da natürlich eine Workflow Engine oder eine Geschäftsprozess Engine, man hat typischerweise eine Komponente für Regelmanagement, also Business Rules Management, denn es ist eher die zweitbeste Idee in den Prozessen, die Geschäftsregeln dann auch wieder fest einzukubieren. Dann kommt natürlich eine Komponente häufig dazu für das Thema unstrukturierte Inhalte, also Dokumentmanagement oder Enterprise Contentmanagement. Und natürlich, du hast es gerade schon angedeutet, Extraktion von strukturierten Informationen aus diesen Dokumenten, denn ich kann eigentlich nicht nur automatisieren, was ich verstanden habe, wo ich weiß, worum handelt es sich hier einfach? Weil, das heißt, das Striftstück muss erst mal klassiziert werden. Es müssen die Informationen, um welche Reise ging es jetzt beispielsweise oder um welche Person ging es oder bei Versicherungen eben, um welchen Schadensfall, um welche Versicherungsnummer geht es, etc. Das muss ich erst mal möglichst automatisiert aus dem Dokument entnehmen, um dann den entsprechenden Prozess automatisiert ablaufen zu lassen. Da kommen dann noch noch heutzutage häufig zusätzliche Funktionen dazu, Integration, beispielsweise über RPA, über andere Integrationsplattformen, weil der Prozess findet ja nicht auf der grünen Wiese statt, sondern der Prozess ist ja immer irgendwo auch integriert in Bestandsysteme, in einem Versicherungssystem, ein Kernbankensystem, in Enterprise Resource Planning, Custom Relationship Management, was auch immer. Also diese Plattform müssen ja auch irgendwie integriert werden, weil sonst landig wieder bei diesem berühmten Restuhl-Schnittstelle Mensch, der dann von einem System in ein anderes System etwas einklimpert. Prozess Meinung kommt häufig auch noch mit dazu, weil natürlich die Überlegung dann auch die ist, wie kann ich den Prozess dennoch weiter optimieren? Da kann ich mir natürlich den digitalen Fußabdruck des Prozesses in den Umsystemen ein Stück weit zur Nutze machen, um auch zu schauen, wie wird denn heute gearbeitet, um dann zu schauen, wo sind denn die Schwachstellen, wo sind Optimierungspotenzial und wie kann ich den Prozess weiter verbessern. In 2019 gab es von Gartenern ein sehr sehr interessantes Thema, den haben wir das damals Häuper Automation genannt, und das zu einem der Top Trends erkrühren. Und Häuper Automation nach der Definition von Gartenern sagt da eigentlich nichts anderes, als dass man bestehende Automatisierungstechniken, also das, was ich im Augenblick gerade genannt habe und neuer internegende Automatisierungstechniken in Zukunft eben intelligent miteinander verknüpfen wird. Und sie haben damals bei den neuen Technologien, explizit, Robotics Process Automation genannt, um dann die Digitalisierung am Office Arbeitsplatz deutlich weiter voran preiben zu können. Es hat dann dazu geführt, dass viele der RPA-Wendoren damals natürlich sich auf die Verangeschrieben haben. Wir sind diejenigen, die hyperautomation können. Und am Strich, wenn man sich einmal anschaut, die Digitalisierung hat in den Folgejahren stark zugenommen, aber da ging ein ganz, ganz großer Anteil eher dann durch Inrichtung Corona, weil Corona eben ein Digitalisierungsschub nach sich gezogen hat, aber es hat sich durchaus nicht gezeigt, dass jetzt beispielsweise RPA als Schlüsseltechnologie die Digitalisierung in ganz neues Fähren gebracht hätte. Aber ich könnte mir durchaus vorstellen, dass genau die agentische KI möglicherweise eine solche Schlüsseltechnologierolle einnehmen könnte, weil sie natürlich Dinge möglich macht. Und da werden wir ja gleich noch etwas tiefer darauf eingehen, die standfreute so mit den Klasse ansetzen, einfach nicht möglich waren. Was ja zwischen 2019 und heute passiert ist, es gab plötzlich große Sprachmodelle. Sprachmodelle, die scheinbar zumindest sehr gut Texte verstehen können, über das verstehen selber kann man natürlich streiten, aber zumindest sehr viel mit Texten machen können, daraus extrahieren können, umfumulieren können, auch dann Bilder erkennen können, wenn es in Multimodale Modelle sind. Was es jetzt möglich, was es vorher nicht gab, was vorher nicht ging. Da gibt es eine ganze Reihe von Dingen, die entweder jetzt neu möglich sind oder die auf eine andere Art und Weise möglich sind, als das früher der Fall war. Also natürlich das ganze Thema Interlegente zusammenfassungen, klassikizierung, validierung von Eingaben beispielsweise war früher typischer Weise rein regelbasiert oder mithilfe von regulären Ausdrücken oder ähnlichem, aber weitestgehend losgelöst, vom Verständnis dessen, was jetzt in ein bestimmtes Feld beispielsweise eingetragen werden muss. Und da können natürlich Sprachmodelle wahnsinnig viel an Kontexten zu sagen, auch mitbringen und die einen da haben noch mal besser validieren. Dann natürlich das ganze Zusammenfassen von Sachverhalten, Dokumenten, Extraktion von Inhalten. Also kärt es eben genannt, intelligentes Dokumentprozessing, also Extraktion von Inhalten von einem Dokument, um dann weiter zu machen, weil man weiß es handelt, sich um die Beschwerde von Thomas Warn und der hat die Folgenbekundenummer. Das muss ja irgendwie aus den Dokumenten eben herausgelesen werden und das wurde über Jahre hinweg mit speziellen Inputmanagementlösungen gemacht, die dann eben auf neuronalen Netzen oder aus verschiedenen anderen Technologien eben zusammengewürfelt waren, hochspezialisiert auf bestimmte Anwendungsfälle und man ist wirklich verwundert, wenn man einen aktuellen Sprachmodell, einen Dokument hochleht und dann eben sind die Chat with your Document, eben dann Fragen zu dem Dokument stellt, wie viele Informationen sehr, sehr, sehr treffsig aus diesen Dokumenten herausgelesen werden können, versus eben in manchen Fällen jahrelang es übertrieben, aber doch wochenlang es Training auf bestimmte Belegarten, um nahezu ähnlicher Ergebnisse zu erzählen. Ich bin mir sicher, es wird nach wie vor diese speziellen Inputmanagementlösungen geben, das macht überhaupt gar keinen Sinn, eine gut funktionierende Inputmanagementlösung durch einen Sprachmodell zu ersetzen, aber wenn man jetzt eben wieder so häufig vorkommt, neus beleg gut beispielsweise bekommt, was verarbeitet werden muss, dann kann unter Umständen eine auf so einem großen Sprachmodell basierende Inputmanagementlösung möglicherweise schneller zum Ziel kommen, als die traditionellen Ansätze, dass bisher in der Lage waren zu leisten. Dann natürlich das ganze Thema individuelle Kommunikation erzeugen, als Teil eines Prozesses, natürlich eine Domäne von Sprachmodellen und erstellen von Code. Es ist auch wichtig und da sind wir zum Beispiel jetzt wieder auch bei einer Schnittstelle in Richtung der Automatisierung. Es gibt durchaus interessante Ansätze, dahingehend, dass man beispielsweise BPMN-Modelle, wenn BPMNs im Grunde genommen auch wieder nichts anderes als Code, wenn man es Stück weit abstrahiert betrachtet, da sich also jetzt gewissermaßen eine Prozessbeschreibung als Text, dem entsprechenden System zu verfügen, Stelle und bekommt dann hinter einen ablauffähigen Prozess als Ergebnis heraus, einen ablauffähigen BPMN-Prozess. Wobei natürlich die Spezialisten in dem Umfeld wissen, das Prozessmodell ist ein Teil, aber natürlich weiß Gott nicht alles, sondern dann muss man natürlich eben genau dann auch noch ein Sinn bekommen, das müssen oberflächende gebaut werden oder zumindest bereitgestellt werden, weil jeder Prozess hat irgendwie mit Daten zu tun, das heißt, ich muss diese Daten natürlich auch als Teil des Prozesses transportieren und der Prozess findet, wie wir das eben schon gesagt haben, nicht auf der grünen Wiese statt, sondern er interagiert mit unsystem. Das heißt, ich muss eben auch dafür sorgen, dass wieder die Informationen in den Umsystem entsprechend abgefragt oder abgedeitet werden können und das muss natürlich müsste dann eben auch alles automatisiert werden und so weit sind wir noch nicht, aber möglicherweise ist das in ein paar Jahren auch möglich. Man kann jetzt müssen bestimmte Teilschritte eben halt dann darüber schon machen. Eine Sache, was mir eben so einen eingefallen war, spezialisierte Systeme, versus generelle Sprachmodelle, ist natürlich auch die Möglichkeit, du kannst mal ein spezialisierten Modell leichter in der Veränderung machen. Das heißt, wenn du merkst, es läuft etwas nicht so, wie du gerne hätte hast, dann kann ich das eher nochmal nachprinieren als beim großen Sprachmodell. Also früher dieses ein Zweck, ein Modell, heute ein Sprachmodell, viele verschiedene Einsatzmöglichkeiten, aber dieses Verändern von den Verhalten von Sprachmodellen, wenn ich jetzt über das umhande Prompt in Nawski, wird schon sehr sehr sehr aufwendig. Ja, also es ist ja durchaus ein großer Vorteil der Foundation-Modelle gewesen, dass man sagt, sie sind eben nicht, wie du das schon sagt, das nur für einen speziellen Zweck hinpriniert, können auch nur diese eine Aufgabe lösen, sondern sind wesentlich breiter einsetzbar. Auf der anderen Seite, das ist so ein Stück weit auch eine Philosophie, die wir bei IBM vertreten. Macht es durchaus Sinn, nicht für jeden Anwendungsfall immer ein großes Sprachmodell aus der Tasche zu ziehen, weil die großen Sprachmodelle, wie du das schon eben sagt, ist deutlich schwieriger auf spezielle Aufgabenstellung hin dann feingetübt werden können und zum anderen ganz einfaches Prinzip je größer das Modell, desto größer sind beim Ende des Tages typischerweise auch die Laufzeitkosten, also die in Feronskosten. Und auch das ist natürlich, wenn man sich anschaut, was OpenAI heute sozusagen jeden Tag am Strom produziert, nur damit wir da ein paar schöne Fragen stellen können, das ist super interessant, aber auf der anderen Seite zeigt es eben, wie Leistungsfunk die großen Sprachmodelle auch sind und an der Stelle macht es natürlich durchaus Sinn, auch mal zwei, drei Größenordnungen kleiner zu denken, wenn das Ergebnis genauso gut ist. Genau, dass man das eben halt sagt, Ritesizing, was schon man in vielen anderen Themen hatte, jetzt genau die richtige Größe von Sprachmodell zu haben und dann ein kleines große Sprachmodell oder kleines Sprachmodell, das kann man eben halt auch viel leichter anpassen an, zum Beispiel die eigene Sprachdomene. Genau. Nach den LLMs kam dann so verschiedene Sachen, wie man sie nutzen kann, wie zum Beispiel Chain of Sword oder Tree of Sword, also verschiedene Art und Weisen, wie ich jetzt zum Beispiel Anweisung an das Sprachmodell schicken kann, damit es erst mal nachdem, bevor es etwas Vorschlägtor er tut und erstaunt nicht erweiser, durch einfach diese Aufforderung waren ergebnisse besser. Jetzt im Gespräch sind KI-Agenten, vielleicht als nächste Evolutionsstufe, das heißt, ich habe ein großes Sprachmodell, ich habe Werkzeuge und ich gebe dem Sprachmodell, diese Werkzeuge fahr sie in die Hand und sagt mal, hier ist so eine Aufgabe, mach mal oder vielleicht wie möchtest du KI-Agenten jetzt erklären, wie was, was da drunter zu verstehen ist, würdest du das erzählen? Ja, das ist eine gute Frage und das interessante ist auch, dass wenn man mit verschiedenen Menschen bzw. mit verschiedenen Rollen spricht, dass man teilweise auch ganz unterschiedliche Einschätzungen oder Antworten darauf bekommt, was aus ihrem Perspektive betrachtet einen Agenten auszeichnet oder was ein Agent ist, also gerade wenn man mit Anwenderinnen und Anwender entspricht, die würden sehr häufig dazu tentieren zu sagen, dass es für mich ein Agent, wo du und ich sagen würden, ja, das ist eigentlich etwas, was wir schon auch letztes Jahr oder vor zwei Jahren mit einem intelligenten Assistenten bauen konnten, also beispielsweise fallabschließende Bearbeitung, also nicht mehr nur ein reines Q&A, indem Sinne, sondern eben auch wirklich im Auftrag der Anwender etwas zu tun. Ich würde sagen, eine vernünftige Definition, die sicherlich auf der einen Seite so getragen wird, auch von Beratungen und von Analysten, aber auch wahrscheinlich die meisten Entwickler, die sich in dem Umfeld so ein kleines bisschen schlau gemacht haben, auch entsprechend unterstützen würden, wäre, dass ein Agent ein intelligenter digitaler Helfer ist, der mittels KI, eigenständig Aufgaben übernimmt, Entscheidungen trifft und mit Menschen oder Systemen interagiert, ohne das eben, das hast du ja am Anfang schon gesagt, jeder einzelne Schritt irgendwie manuell vorgegeben oder gesteuert werden muss. Also diese Autonomie ist natürlich genau das große Novum, was wir bei den AI-agenten haben. Ein Agent verfolgt dabei selbstständig eben Ziele, versteht auch komplexe Aufgabenstellung und löst diese eben mit dem ihn zur Verfügung stehenden Werkzeugen. Und das tut er typischerweise, indem er erst mal plant, was er tun will, dann eben diesen Plan ausführt und je nach agentischer Implementierung zwischendurch auch immer wieder im Sinne von so einer Selbstreflexion darüber nachdenkt, ob er seinem Ziel eigentlich näher gekommen ist, ob der Ausführungsplan noch der richtige ist oder ob er den Ausführungsplan noch korrigieren muss. Wenn man das jetzt mal an einem konkreten Beispiel fest macht, beispielsweise eine Dienstreise zu buchen, dann hätte so ein reiner Q&A-Shetboard, den es vor fünf Jahren schon gegeben hat. Und du hättest jetzt gesagt, ich möchte eine Dienstreise buchen, da hätte ich typischerweise wahrscheinlich im Sinne von Q&A auf eine Internetseite mit Details zur Reiserichtlinien und dem Buchungsportal weitergeleitet. Er hätte nichts für dich gemacht, der hätte dir nur einfach die Antworten gegeben, wo du die entsprechenden Informationen findest, um weitermachen zu können. Ein klassischer Assistent für Dienstreisen, der hätte dann eine feste Dialogsequenz, das heißt, der würde sich dann fragen, wann soll's losgehen, wie lange möchtest du da und da bleiben, wo du soll's eigentlich hingehen, welches Verkehrsmittel möchtest du nutzen brauchst du noch ein Hotel und mittels Integration, könnte dann ein solcher Assistent hinterher auch die Reise komplett für dich buchen. Und das, wie gesagt, würde durchaus der eine oder andere schon als einen Agenten sehen, weil im Missjahr praktisch das komplette Reisebuchen abgenommen worden und er konnte sich irgendwie mit seinem Gegenüber in anfühungsstrichen intelligent unterhalten oder eben sagen, was notwendig ist. Trotzdem wäre es an eine feste Sequenz gewesen. Das heißt, also der Ablauf des Dialogs war eigentlich fest vorgegeben, die KI-gestützten Assistenten waren dann schon ein Stück weit intelligenter. Das heißt, dem hätte man sagen können, bitte buchen mir eine Reise vom 5. bis zum 7. Sitten nach Berlin mit dem Zug. Und dann hätte der jetzt nicht noch mal nachgefragt, wann soll's losgehen bis wann und mit welchem Verkehrsmittel, sondern der hätte, wenn in das Slot-Filling die entsprechenden Informationen automatisch zugeordnet und hätte gesagt, okay, was mir jetzt noch fehlt ist die Frage, ob eigentlich ein Hotelgebünscht ist und ob man ja so Tell nah an Veranstaltungsort haben möchte oder an der anderen Stelle. Also entsprechend mehr Verständnis und natürlich auch die Möglichkeit, dynamischer sozusagen mit dem Assistenten zu interagieren. Der Agent, dem könnte ich jetzt beispielsweise sagen, ich möchte das Assonokrieforen besuchen und dann würde der erst mal sein erstes Tool aus der Tasche ziehen und sagen, okay, ich muss erst mal mit einer Weprischerche herausfinden, wann findet denn das, also der würde er kennen, das Assonokrieforum, offensichtlich mein Reiseziel ist, aber er weiß natürlich erst mal nichts darüber, wo das stattfindet, wann das stattfindet. Das heißt, er würde sich erst mal der Weprischerche bedienen und würde rausfinden, okay, das ist am 8. 5. Netbatro in Hosen. Und dann würde er beispielsweise in deinem Kalender nachgucken, können wir uns so schauen, ob du am Tag vorher, so am 7. 5. noch einen anderen Termin hast, um den typischen Startort einer Reise zu bestimmen. Mit diesen Informationen dann im Prepproportal nachschauen, welche Reise Optionen existieren, Flugzeug, Bahn, Auto und könnte dir dann hinterher diese verschiedenen Optionen vorlegen, könnte sagen, ich möchte lieber das, lieber das, lieber das und du kannst dann wählen, welches Reisemittel für dich das Adequate ist, würde ich dann vielleicht nur fragen, ob du am Abend vorher schon anreisen möchtest, weil das vorum eben morgens relativ zeitig losgeht. Das heißt, auf der einen Seite sehr viel Verständnis der Situation und auf der anderen Seite eben auch das eigenständige Tool Calling, um eben sich die Informationen zu besorgen, die du eben vorher nicht mitgegeben hast, der Frage an den Agenten. Da ich knick jetzt hier schon mal deutlich intelligenter. Was sind da so die, in meinem Vorteil, ist ja fast klar, aber wo sind Grenzen? Wo stößt das momentan noch an Grenzen? Das denkst du. Gut, also die Vorteile wie du, ist natürlich autonomie ganz klar und die Flexibilität, die hier so ein Agent mit sich bringt. Was die Grenzen betrifft, ist natürlich irgendwo die Komplexität des Kontextes der Aufgabe- Abstellung, also das was ich gerade gesagt habe. Ich möchte den Aso-O-Noir-E-Compress besuchen. Das ist eine relativ geringe Komplexität. Wenn ich jetzt im geschäftlichen Umfeld, beispielsweise in einer kompletzen Scharnspararbeitung oder bei der Frage "Mergers and Acquisitions" oder was auch immer unterwegs bin, dann ist mein Kontext natürlich wesentlich komplizierter und wir wissen alle das beispielsweise den Kontext mitzugeben, bei einem Sprachmodell durchaus herausfordernd sein kann. Weil es da gewisse Grenzen gibt, was sozusagen an Kontext transportiert werden kann. Dann natürlich das ganze Thema, ja, sagen wir mal so, der subtilen Information, dass zwischen den Zeilen lesen, die emotionale Intelligenz, all das geht einem Agenten oder einem Sprachmodell heute noch ab. Das wird besser. Da gibt es entsprechende Verbesserungen und auch Initiativen, aber trotzdem alle Demen ist das natürlich durchaus noch eine Schwäche. Und dann, da werden wir sicherlich nachher noch mal etwas intensiver gross zu sprechen kommen, sind natürlich rechtliche Fragestellungen zum Beispielhaftungen bei Fehlentscheidungen. Und auch das werden wir gleich vielleicht noch vertiefen können, die Erklärbarkeit von Entscheidungen im Sinne des EUAEX für Beispiel. Vielleicht den noch mal wieder ein Schritt zurück von den Grenzen zu dem Einsatz in Nahrien. Für welche Art von Aufgaben oder Prozessen aus seiner Sicht eignet sich agentische KI besonders gut. Hast du so ein paar Anwendungsbeispiele? Ja, also im Grunde genommen Abläufe, die nicht von festen Regeln bestimmt sind und einigen wenigen Außen haben. Also, ein Klassiker, der Automatisierung, wie beispielsweise Rechnungsprüfung, ist sicherlich nicht unbedingt das, was man primär jetzt mit einem agentischen System machen könnte. Was nicht bedeutet, dass man es nicht auch mit einem agentischen System machen kann, aber es wird da seine, seine Stärken. Wir können uns aber beispielsweise so ein Meetingagenten vorstellen, der für eine vorgegebene Gruppe von Personen und ein vorgegebenes Thema in freien Termine in den Kalendern sucht. Nagenda Vorschlag erzeugt, basieren auf den Rollen der Teilnehmer und den Informationen, den ich zu dem Meeting als Beschreibung mitgegeben habe. Der dann die Einladung für das Meeting verschickt an die Teilnehmer, der hinterher, wenn es ein virtuelles Meeting ist automatisch selbst und es das Transcript noch mal zusammenfasst als Summary an die Teilnehmer verschickt und eine Liste von Action-Items, beispielsweise herauszieht und das eben dann auch noch nachverfolgt. Also diese Form von Agenten wäre sicherlich möglich oder natürlich ein anderes Beispiel im Hai-Er-Umfeld, Recouting-Agenten, die sich selbstständig in den Job-Börsen umschauen, nach Personen, die auf der Suche sind, nach einer oder eben auch in den Link-Innen und anderen sozialen Netzwerken oder buflichen Netzwerken. Nach passenden Kandidaten suchen, die dann hinterher gegebenenfalls Ende keinen passenden Kandidaten gefunden haben, in Rücksprache mit einer Person, mit einem Menschen, dann die Suchkriterien noch mal ein Stück weit adjustieren und dann hinterher eben, wenn passende Kandidaten gefunden wurden, diese Kandidaten eben entsprechend anschreiben, gegebenenfalls. Es ist mit Zentrum, wenn die heute noch durchgeführt werden, planen, Interviewtermin, Plamen und hinterher natürlich dann auch die Flussentlich den Vertragsvorschlag, Verschicken und den Rücklauf überwachen und dann den Kandidaten noch mal darauf hinweisen, wenn er nicht geantwortet hat, ob der Vertrag jetzt unterschrieben werden soll oder nicht. Solche Themen, so diese Prozesse, die jegliche Form von Untersuchungen oder Eignissen, wo es verschiedene Möglichkeiten gibt, zum Ziel zu kommen, auf der einen Seite und wo zum anderen eben im Laufe des Fortschritts neue Erkenntnisse kommen, die dann möglicherweise eben noch mal neue Arbeitsschritte benötigen oder neue Aktionen benötigen. Das sind Domain-Vorgenden natürlich ihre Flexibilität und ihre Autonomie ausspielen können. Gibt es denn auf der anderen Seite auch Prozesse oder Unternehmen, für die sich der Einsatz eher nicht lohnt oder wo man besonders vorsichtig sein sollte? Ja, also ich hatte ja eben schon gesagt, also so einen klassischen Rechnungsprüfungsprozess nachzubauen, macht wahrscheinlich relativ wenig Sinn mit einem oder auch mal generell einen bereits automatisierten Prozess jetzt mit Agenten nachzubauen, nur mit etwas mit Agenten zu machen. Das sollte man sich tief sparen. Wobei das ist, das wird wirklich interessant. Also das ist so ähnlich wie wir müssen mal was mit Genie einmachen. Kommt jetzt so die Frage, wir müssen eigentlich mal was mit Agenten machen und da muss man eben genau gucken, dass man nicht gerade die Dinge rausdruck, die für einen Agenten nicht besonders gut geeignet sind. Also von den Branchen hier, würde ich mal sagen, regulierte Industrie, also egal ob wir jetzt über Farmer und von Perfker reden, ob wir über die Finanzdienstleistungsponscher reden, Energie oder wenn man da in die Wertschöpfenden Prozesse rein geht, dann sollte man zumindest mal wissen, was man tut. Und das ist genau das Thema, was wir sicherlich auch noch gleich ein bisschen diskutieren werden, rechtliche Konsequenzen, respektive eben, wie sie es mit dem EUA eigauß. Und wenn ich in solchen Industrie in Unterwegs bin und dann wirklich an die Kernprozesse dran gehe, dann komme ich unter Umständen eben doch in den Bereich, wo ich sagen muss, unter Compliance und Governance-Gesichtspunkten ist das eher eine Hochrisikoanwendung. Und dann wird der Einsatz von Agenten natürlich durchaus schwierig. Ich möchte nicht sagen, dass es unmöglich ist, aber es wird zumindest mal schwierig, weil ich dann eben so etwas wie Transparenz und Explanability benötige. Und so lange der Agent selber in seinem Reasoning Entscheidungen hilft, dann sind die per se erst mal nicht im strengen Sinne erklärbar. Sondern das Sprachmodell hat eben aufgrund der Eingaben entschieden, dass es das und das machen möchte. Aber da gibt es dann auch entsprechende Biblierearchitekturvorschläge, wie man eben im Grunde genommen ein Regelmanagementsystem, wieder etwas, was ich ja eingangs genannt habe, dann eben mit dem Agenten verknüpfen kann, um zu so einer hybriden Lösung zu kommen, die dann am Ende des Tages die Entscheidung aufgrund des Regelwerks trifft und wo der Agent im Grunde genommen eher nur die Vorschläge macht. Und das dann wegen das Regelwerk abgeprüft wird, so dass ich hinterher sagen kann. Okay, ich kann nachweisen, warum hier eben entsprechend die und die Entscheidung geproffen wurde, weil das nach dem Regelwerk so und so eben vorgesehen war. Klingt spannend, aber bevor wir jetzt mit einer komplexen hybridenarchitekturvorschläge vielleicht erst nochmal die Frage, wie kann ich mir den Aufbau eines typischen KI-Getten technisch vorstellen? Wie ich Komponenten gehören da normalerweise zu, wie ich Infrastruktur brauche, ein Unternehmen um vom KI-Ansage-Kirche. zu profitieren? Ja, einerseits natürlich beim Sprachmodell, also ohne ein Sprachmodell kommt kein Agent aus, er braucht außerdem ein Gedächtnis, das heißt, er muss zumindest mal so ein bisschen diese Kontextinformationen des Gesprächs, indem er sich gerade befindet oder der Aufgabe, die er gerade bearbeitet speichern können. Es gibt aber allerdings durchaus auch Agenten, die Langzeitgedächtnis haben, was dann eben dem Agenten hilft, sich so ein Stück weit auf die Aufgabe haben, Stellung auch hinzu optimieren. Das heißt also zu lernen, wann er besonders gut war, entweder durch Feedback von den Anwendenden oder aber indem er eben selber schaut, dass er relativ wenige Züklung gebraucht hat und zum Ziel zu kommen und dann natürlich Werkzeuge, also die Tools, die der Agent benötigt, um mit seiner Umwelt zu interagieren. Das sind den wesentlichen eigentlich so die Kernelemente, die so eine agentische System ausmachen, was ich dafür dann an Infrastruktur vorhalten muss, das hängt natürlich ganz stark davon ab, auch wie ich als Unternehmen selbst aufgestellt, den Respektive, welche Strategie ich verfolge. Ich kann agentische Systeme aus der Cloud beziehen, als Software-System, dann brauche ich mir darüber eigentlich keine Gedanken zu machen, wenn ich das Ganze eben in meinen eigenen Rechenzentren laufen lassen möchte oder aber beim Hyper-Scala meiner Wahl als eine Samo-Maself-Manager-Klösung betreiben möchte und die Infrastruktur dafür selber provisionieren möchte oder provisionieren lassen möchte, dann brauche ich natürlich, dass es ganz klar GPUs, zwar nicht in riesiger Stückzeit, und wenn es dann nicht, wenn ich Modelle selber trainieren möchte, aber die Infarenz, der Modelle kostet natürlich ein Stück weit eben diese grafischen Prozessor einheiten und ansonsten der Rest läuft natürlich auf klassischer Hardware, also irgendwie XXX80 passiert oder Power-Pasiert oder was auch immer, da hat man jetzt sonst keine großartigen Anforderungen, die sich von dem unterscheiden würden, was Holzutage für die UnternehmensIT ohnehin gebraucht wird, aber klar ist auch, es macht keinen Sinn jetzt nur für eine agentische Anwendungsfall irgendwie eine komplett neue Architektur hochzuziehen, soll uns sinnvollerweise sollte eben das agentische System entweder wirklich aus der Cloud bezogen werden, wenn es denn dann der Unternehmensstrategie und auch dem Einsatz entsprechend genehm und passend wäre und ansonsten sollte man eben die Infrastruktur verwenden, die man möglicherweise oder hoffentlich in dem Unternehmen ohnehin schon etabiert hat, um eben AI-Juscases abdecken zu können. Um vom Denken entzannelt zu können, brauchen die Agenten ja auch noch Werkzeug und mit Werkzeug meineschen zum Beispiel Zugriff auf Datenbanken, auf Prozesse, auf andere IT-Systeme. Ich glaube, wenn ich jetzt eine Lösung hätte, die vielleicht aus dem Business Automation umfällt kommt, dass du gestecktst Automatisierung kommt, wo ich einfach diese Schnittstellen schon mal habe, wo ich denn die. ich sage mal, die Adapter habe, ob auf eine Appellösung zuzugreifen, auf ein Warnmensch mit zuzugreifen, auf Personalakte oder so was zuzugreifen, auf solche einfache Sachen, wie E-Mail verschicken können, zuzugreifen. Ich glaube, das ist ja natürlich auch sehr hilfreich, gegenüber jetzt eine Integration in die E-Mail-Systeme selber wieder zu bauen oder zu definieren einfach nur. Ja, ja, absolut, absolut. Und das ist auch, ich glaube, wenn man sich jetzt mal anschaut, wie der Markt aussieht für agentische Systeme, da gibt es ein ganz breites Spektrum von, sagen wir mal, Frameworks mit denen nicht anfangen kann, das ist sozusagen die kleinste Ausbaustufe oder der kleinste Baustein, die man sich anschaffen kann. Und wie gibt es dann wieder teilweise kommerziell, teilweise als Open Source-Lösung, dann gibt es eben Systeme mit denen ich agenten selber bauen kann, eben sind eine No-Code-Lösung oder Hybrid No-Code-Locode und aber auch Pro-Code. Und gerade die Frage, raue ich denn überhaupt so ein Framework oder beginn ich weil ich im Grunde genommen, wenn ich ein Large Language-Modell habe, ein großes Sprachmodell habe, was Function-Calling betreibt, dann habe ich natürlich im Grunde genommen alles zu hand, um auch komplett selber Agenten zu bauen. Nur, wie du schon richtig sagst, das Tool-Calling ist als Beispiel oder das Memory, wie realisierig das und das sind natürlich genau die Dinge, die in so einem Framework schon drin sind, speziell auch wenn ich darüber nachdenke, das Tools angesprochen, ein Tool kann eben ein ERP-System, ein CRM-System, irgendein API-Calling-Kunde genommen sein, den ich den nicht absetze oder eine JDBC-Abfrage gegen eine Datenbank oder was auch immer ein Tool kann aber auch ein anderer Agent sein, ein Assistent, den ich aufrufe oder ein Prozess sein, den ich aufrufe, auch das im Grunde genommen nichts anderes als ein API-Calling. Aber gerade diese multi-agenten Systeme, wo dann mehrere Agenten zusammenarbeiten, das ist ja auch das, wo QAI als ein Anbieter herkommt, also die sprechen ja von einer Crew, also von einem Team von Agenten, die gemeinsam eben Probleme lösen. Das ist auch ein ganz, ganz wesentlicher Bestandteil, wie behalt ich denn dann den Überblick über meine agentische Architektur und wie manche ich das das Gesamtsystem, diese multi-agenten Circus, den ich dann irgendwann in meiner Unternehmensarchitektur habe, wie kann ich auch sicherstellen, dass das dann einiger maßeneffizient auch alles arbeitet, das sind dann eben genau die Fragestellungen, die dann eben teilweise über die reinen Open Source Lösungen hinausgehen und wo man dann eben durchaus, wenn man wirklich in dieses Thema rein möchte, sich mal genauer den Markt anschauen sollte und schauen sollte, was da eben die verschiedenen Hersteller auch anbieten in dem Umfeld. Das war der erste Teil meines Interviews mit Michael Kirchner zum Thema QAI-Agenten. Im nächsten Teil sprechen Michael und ich über rechtliche und ethische Vorausforderungen beim Einsatz von QAI-Agenten, warum es Helsforz keine neuen Software-Entwicklern mehr einstellen will und welche Unternehmen große oder klein von QAI-Agenten profitieren können. Wenn Sie diese und viele weitere spannende Folgen nicht schöpassen wollen, abonnieren Sie JetPots und QAI auf der Podcast-Plattform Ihrer Wahl.