Wie AI-Agenten den Mittelstand transformieren – Insights von Reply
61m 4s
Der Podcast "Inside Talk" beschäftigt sich mit KI-Agenten. Zu Gast sind Johannes Mordseck und René Schulte von Reply, einem italienischen Beratungsunternehmen mit 17.000 Mitarbeitern und 2,5 Milliarden Euro Umsatz. Reply besteht aus vielen spezialisierten Tochtergesellschaften, darunter eine für Machine Learning, die den gesamten Daten- und KI-Lebenszyklus abdeckt. Die beiden Experten erklären das "Agentic Maturity Model", das fünf Stufen der Autonomie von KI-Agenten beschreibt: von einfachen Chatbots (Stufe 0) über datenbankgestützte Systeme und einfache Orchestrierung bis hin zu komplexen Multi-Agenten-Systemen (Stufe 4), die eigenständig komplexe Aufgaben planen und ausführen. Ein besonderer Fokus liegt auf Computer-Use-Agenten. Diese Systeme bedienen Computer wie ein Mensch, indem sie Bildschirminhalte analysieren und Mausbewegungen sowie Klicks ausführen. Anders als klassische UI-Automation lernen sie abstrakte Konzepte und sind daher adaptiv, etwa bei Software-Updates. Reply setzt solche Agenten beispielsweise zur Duplikatenbereinigung in CRM-Systemen ein, wo sie eine Genauigkeit von 93 Prozent erreichen. Die Nachfrage nach KI-Agenten variiert: Große Konzerne tendieren zu komplexen Orchestrierungen, während KMU oft mit einfacheren Wissensagenten beginnen. Reply bietet vorgefertigte Baukasten-Templates für häufige Anwendungsfälle an, um die Entwicklung zu beschleunigen und Kunden bei der Identifizierung geeigneter Geschäftsprozesse zu unterstützen.
dass sich halt einfach Leute mit einem gefegten Avatar zum Beispiel in den Bewerbungsgespräch melden oder im Schlimmstenfall im Personal für ich weiß nicht bei Banken im Online-Banking oder sowas telefonisch machen. Also da gibt es tatsächlich großen Bedarf da entsprechende Gegenmaßnahmen einzuleiten bzw. Modelle dafür zu entwickeln, die dann zum Beispiel Video-Streams oder Bilder analysieren um zu verstehen, ob das tatsächlich jetzt ein generiertes Bild ist oder ob sich dann ein echter Mensch hinterverblickt. Herzlich willkommen beim Inside Talk März. Das ist unser monatelicher Deep-Type aus digitale Vorreiter in deinem Podcast zur Digitalisierung und AI von Wohlerfond Business. Ich bin Christoph Boseg und in den letzten Monaten habe ich ein sehr spannendes Beratungsunternehmen kennengelernt, welches unter anderem AI-agenten, plant und baut und betreibt und die Reden ist davon reply, das ist ein italienisches Unternehmen und das hat inzwischen glaube ich über 14 oder über 15.000 Mitarbeiter und Milliarden Umsatz. Das können wir gleich meine Gäste noch mal genauer erzählen. Und zu Gast habe ich gleich bei mir den Johannes Mordseck, der ist Unit Manager bei Machine Learning reply und wir haben René Schulte dabei, der ist der Head of 3D and AI-Practices ebenfalls bei reply. Ich finde das Firmenkonstrukt von reply wahnsinnig interessant, das besteht aus dutzenden Spezialgmbhs und ich finde die Kombination aus Beratung und Umsetzung zu AI-Thames sehr interessant. Ich möchte von den beiden ihre Erfahrung mal mal abzapfen und mal gucken was alles so gebaut wurde, an Äktoten aus der Praxis, aus dem beiden herauskiezeln, was und wo wird mit AI-agenten vielleicht jetzt schon eine Mittelstand um die Wert generiert, was wird da gerade gebaut, wie führt man AI-agenten erfolgreich ein und an welchen AI-agenten Themen sitzen die beiden gerade so. Darf ich mir vorgenommen? Ich freue mich, dass du zuhören willst und jetzt begrüße ich meine beiden Gäste. Ich freue mich, dass sie da seid, herzlich willkommen Johannes. Hallo René. - Hi. Danke. - Hallo. - Wie richtig waren jetzt meine Zahlen, Italienisch 15.000 Mitarbeiter, Milliarden Umsatz? - Ja fast, fast schon ganz nah dran. Wir haben mittlerweile 17.000 Mitarbeiter und Stammsitz ist immer noch Turinen, aber es sind halt wirklich weltweit vertreten in mehr allen Kontinenten, wenn es so ist. Wir haben auch fast 1.000 Leute in USA. Wir haben in Deutschland auch 2 oder 3.000 oder sowas und natürlich die Teilen sehr viele. Wir haben jetzt aktuell die neuen Zahlen ausgegeben für 2025, den Jahresbericht und da wird 2,5 Milliarden Euro Umsatz berichtet, was ne kleine Steigerung zu dem vorher ist, wo es 2,3 war. Von daher läuft es gut und interessant ist halt wie du schon sagtest, dieses Konstrukt vielleicht, wie das aufgesetzt ist. Es ist halt so bei Replay, es gibt diese Holding, für die Arbeit, ich arbeite für unseren CTO-Faktisch in der Holding und die Holding hat mehrere Subfirmen, wenn du so willst, die aber 100% Eigentymerschaft da Holding sind und da gibt es spezialisierte Firmen, zum Beispiel für Machine Learning oder Johannes ist oder dann gibt es welche Cluster, das ist, ich mache sie halt nur Microsoft-Technogen oder die Sturm, die machen AWS, Amazon-Technologien und so weiter. Es gibt verschiedenste Bereiche, vertikal wie hohe zentral spezialisiert, aber haben halt zentrale Entitäten wie zum Beispiel das, was ich mache mit diesen Communities und diesen Practices da, Event-Effekt, da bestimmte Dinge vorantreiben mit innovativen Fingtanks sozusagen. Wir haben uns ja auf der Elevation Tour kennengelernt, das ist so eine Tour von Vodafone durch sechs deutsche Städte dieses Jahr, dieses Reality-Check, also guck wurde, was ist möglich zum Thema AI, was es möglich zu Cloud-Tem, bei Cloud Journey und da hatte ich die Freude eure Master-Klass anzukündigen und ein bisschen zu marieren und ich hatte, wenn ich mich richtig gemerkt hatte, wie die erste Session Ende letzten Jahres da, standen noch 14.000 Mitarbeitern oder 15.000 Mitarbeitern auf eurem Schaden, jetzt das 17.000, kommen da wirklich gerade pro Monat 4, 5, 600 Mitarbeitern dazu? Nein, wir hatten eigentlich schon Ende letzten Jahres oder Anfang dieses Jahres hatten wir dann schon die 17.000 da stehen, wir hatten vor Jahr 16.000, da hast du vielleicht irgendwas wissen durch einander oder es vor ein paar Jahren, aber das wegzeit konstant, ja aber das halt ist schön, wir stellen auch gerade in dem aktuellen Umfeld, wie man so hört, wir suchen halt immer auch Absolventen, in End- und Absolventen, das ist halt auch ein wichtiger Aspekt, dass man die nächste Generation an dieser Randführze zusammenhören. Du bist Head of 3D and AI-Practices und der Johannes ist als United Manager bei einer dieser Spezialfirmen zuständig. Johannes beschreibt mal irgendwie was macht die Machine Learning Replay und was macht du da als United Manager? Genau, also die Machine Learning Replay, wie dein Name das eigentlich schon unschwer kennen lässt, beschäftigt sich mit den Themen Machine Learning, AI, Data im weitesten Sinne, also was wir machen ist eigentlich den kompletten Data und AI-Lifenseikel abzudecken. Das heißt, in der Regel setzen wir Projekte Ende zu Ende um und begleiten das Ganze dann auch mit Strategie und Projektmanagement. Und in meiner Rolle als Business-Unit-Manager führe ich eine Geschäftseinheit innerhalb der Kampagne, habe da ungefähr 20 Spezialisten und Spezialistinnen bei mir drin. Genau und das ist im Prinzip von Junior Consultens bis hin zu Managern, die alle irgendwo entweder Generalisten sind oder eben auch tief spezialisiert in einer Technologie im Bereich AI dann Projekt umsetzen. Du selbst, glaube ich, bist Experte auch für OCR, das sind irgendwie Themen, die du jahrland gemacht hast, ist das jetzt durch AI überflüssig oder war das eine super Vorbereitung, weil das viel mit Machine Learning zu tun hat, wie viel OCR bestimmt noch dein Alltag? Also es ist tatsächlich weniger geworden, einfach was zu tun. Und das heißt OCR, Entschuldigung. Natürlich, ja, OCR ist ein Bereich in der Computer Vision würde ich sagen, es nennt sich Optical Character Recognition. Es ist nicht ausschließlich ein AI-Thema, sondern man kann das ganz auch regelbasiert anwenden, also zum Beispiel ganz zu Anfang, wenn man sich zum Beispiel so Taschenrechner oder Siebensegment anzeigen, nennt man das dann tatsächlich, die kann man regelbasiert auslesen. Das heißt, da braucht man gar kein KI-Modell für. Das haben wir ganz zu Anfang gemacht und dann so nach und nach mit dem, ich sag mal, mit der Entwicklung, der die Blörning-Modelle oder auch der Zugänglichkeit davon haben sich halt weitere Ansätze da eigentlich hinaus crystalisiert, die wir dort anwenden konnten. Man hat zeitweise geglaubt, dass mit so Frameworks wie Tesseract oder auch jetzt natürlich den Foundation-Models, dass das Thema OCR quasi gelöst ist. Allerdings gibt es immer Use-Cases, die quasi sehr senzitiv auf Ausreißer reagieren. Und insofern kommt man teilweise noch nicht drum rum, auch nochmal so Kastennmodelle zu entwickeln. Also es gibt mittlerweile Approaches, die wirklich gut, die 90%, die 95% abdecken. Allerdings in einigen Spezialfällen muss man da noch nochmal handanlegen. Was mir so Spaß gemacht hat bei euch beim Zuhören war, dass ihr toll erklären konnte, dass es ungefähr zwei unterschiedliche Arten von AI ergänden gibt. Und dann kann man auch noch innerhalb dieser AI-Ergenten ungefähr sagen, dass es irgendwie ein ganz einfacher oder das ist irgendwie ganz fortgeschrittener. Könnt ihr uns dazu mal so kurz abholen, wir können jetzt leider keine Sleiz sehen, aber welche zwei groben AI-Typen gibt es und welche Evolution-Stufen von AI-Ergenten kann man so einteilen. Johannes, du bist vielleicht zu erzählen. Johannes, du hast eine coole Nomenklatt-Fuhr mit den 5-Stufen, die 5-Levels, wie bei den 5-Stufen der Autonomie beim Autonom fahren. Genau, es gibt das sogenannte Agentic-Metuality-Model. Und das beschreibt quasi die Autonomie oder die Stufen der Autonomie von solchen Agenten-Systemen. Und da hat man in der Regel auf der Stufe 0 eben diese ganz simplen Chatbots, die in der Regel auf vorgefertigte Q&A-Pare reagieren können. Also wenn man sich vorstellt auf einer Unternehmenswebseite mal nach Öffnusszeiten oder einfachen Produktfragen nachzufragen, dann steckt allerdings noch keine wirkliche Intelligenz dahinter. Und der nächste Schritt ist dann quasi, dass eine KI oder ein solcher Agent auf bestimmte Datenquellen zugriff hat und diese dann in natürlicher Sprache abfragbar macht. Das heißt, ich kann Ihnen wie ein Menschen befragen und mit einer speziellen Technologie wird dann nach Ähnlichkeiten in dieser Datenbank gesucht. Und es werden die relevanten Textbausteine oder relevanten Einträge aus der Datenbank extrahiert. Und dann wieder mithilfe eines LLMs quasi in eine natürlichsprachige Antwort dann auch umgewandelt. Und das Ganze fühlt sich dann sehr viel natürlicher an. Danach geht es schon in die einfache Orkestrierung. Das heißt, man kann einem Agent eine kleine Aufgabe innerhalb eines Themengebietes, sage ich mal, geben. Und diese kann dann quasi selbstständig abarbeiten. Und was dann nach kommt, die nächsten Level sind dann eigentlich nur noch Schritte im Sinne von, wie viel weitere Bereiche kann der Agent abdecken. Und ab welchem Zeitpunkt lohnt es sich dann mehrere Agenten einzusetzen, die miteinander, ja, wie in einem Team aus echten Experten zusammenarbeiten, um eben autonom, komplexe.
ja, komplexe Aufgaben, abzuarbeiten. Das heißt, so ein bisschen Stufe 1 wäre. Ich habe im Firmennetzwerk einen Chatbot. Den kann ich fragen, haben wir Firmenreda angebote, für Mitarbeiter. Und dann sagt er mir, ja, nein, ja, hier sind die Infos. Das wäre sozusagen Stufe 1 und Stufe 2 werden vielleicht, dass ich sage, ich möchte einen beantragen, was brauchst du von mir? Und der nimmt dann die Daten an und schreibt die in eine Datenbank, sodass im Grunde der ganze Anmeldeprozess über den Chatbot funktioniert. Das wäre wahrscheinlich dann Stufe 2, ne? Ja, ja, ist eigentlich eine ziemlich gute, ziemlich gute Speischgel dafür. Wenn wir in dem Beispiel bleiben, was wäre Stufe 3, denn das sei selbstständig bestellt und koordiniert und so weiter, das Job hat immer noch mehr ankommt? Ja, genau. Also wichtig ist dann einfach in den nächsten Stufen, wie viele, ich sage mal Parteien an dem ganzen Workflow beteiligt sind und wie das Handover zwischen dem Prozess in Stadt findet. Und da geht es dann wirklich am Schluss auch in eine komplexe Orchestrierung hinein, wo quasi einen Agent, die gesamte Organisation übernimmt und einfach nur noch guckt, für welche Aufgabe, welche Schritte muss ich planen? Und wer ist dann der Expertenagent, dafür, um die jeweilige Teilaufgabe abzuarbeiten, mir das Ergebnis zu liefern und das Ganze dann entsprechend weiter zu erreichen? Die große Hauptkategorie davor, dass man diese zwei unterschiedliche, es gibt einmal das, wo von wir jetzt gerade wahrscheinlich eher reden, sind Computer-Use-Agent, das ist das richtig geworden? Genau, wobei es da noch mal eine Spezialität gibt. Also ich sage mal, das, was ich gerade beschrieben habe, würde im besten Fall natürlich über Back-End-Systeme und APIs laufen. Ah, ja, okay. Ich glaube, der Computer-Use-Agent an sich benutzt ja eine grafische Oberfläche, aber vielleicht hat der René da noch mal einen Beispiel für. Genau. Also, Johannes hat ja jetzt erst mal so ein bisschen die ganzen Umklartur erklärt von den fünf Stufen sozusagen. Und jetzt, wenn du Computer-Use-Agent sagst, ist im Endeffekt ein bestimmter Agenten-Typ, wenn du so willst und weniger hat das was mit den Stufen zu tun. Du kannst im Endeffekt natürlich, wenn man ab Stufe 2, ab Stufe 3 vielleicht dann so was einsetzen. Es können ja auch multi-agenten Computer-Use-Agent-System sein, wo dann bestimmte Spezialisierung entgebt. Aber was ist überhaupt ein Computer-Use-Agent? Ist vielleicht die Frage, dass das höheres und der höheren hier. Und zwar sind es Systeme, die einen Computer so bedienen können, wie sie ein Mensch bedienen würde. Und da gibt es auch schon Browser-Odomation sozusagen, also wo ein Browser dann so bedient wird, wie sie ein Mensch bedienen würde, das heißt, der Bildschirm wird ausgelesen, die Maums wird bewegt und dann werden Eingaben gemacht, entsprechend. Und oder natürlich halt noch weiter Foto-Geschritten auf dem kompletten Betriebssystem sozusagen. So, mal ich hab auf meinem Mac oder auf meinem Windows läuft dann so ein System. Und ich kann dann einfach sagen, weiß ich nicht, ich stelle mir mal Karten für das nächste Konzert von Hans Zimmer. Und dann sucht es mir irgendwelche Webseiten automatisiert raus. Aber es sucht das halt nicht nur raus, sondern öffnet dann richtig die Webseiten so wie ich das machen würde und klickt sich dann dort durch. Also wie ein Mensch sich durchklickt, wir haben dann Beispiel gezeigt, auch mit einem mit einem Duplettenbereinigungsystem, wo faktisch die Dupletten in einem CRM-System angezeigt werden und der Computer-Use-Action macht dann eine automatische Bereinigung dessen, was halt vorher ein Mensch gemacht hat im Endeffekt. Bedeutet jetzt nicht, dass wir den Mensch ersetzt, den brauchen wir natürlich immer noch, denn der Computer-Use-Action hat in dem Fall eine Accuracy von 93 Prozent. Und da muss natürlich auch noch die letzten 7 Prozent validiert werden und im Allgemeint muss natürlich auch jemand doch sein Kopf hinhalten, wenn das so ist. Wenn dann doch mal eine falsch duplette bereinigt ist, also das wird dann schon nochmal überprüft. Aber das spart enorm Zeit und da mit dabei, da kann jetzt natürlich sich mit ein paar interessanteren Dingen befassen. Also das ist so im CRM im ganzen so ein Computer-Use-Action im Endeffekt, ist es wie gesagt ein System, was ein Computer so bedienen kann wie ein Mensch bedienen. Und da ist natürlich enormes Potenzial, um faktisch jede ältere Applikation kann ich damit automatisieren. Ja, ich brauche faktisch nicht unbedingt eine Schnittstelle, sondern ich nutze ja die UI sowie ein Mensch als die Schnittstelle und der Unterschied ist, weil dann manche Fragen, wie ist das jetzt, wie es mit solchen UI-Automation-Systems? Ja, da gibt es ja auch so was, wo man dann faktisch fahrte festlegt, wo dann zum Beispiel eine Maus bewegt wird, zur Kultinate X-Ypso, dann sag ich mal 250 und 305 oder so und dort wird dann Klick ausgeführt. Hier ist es halt so bei einem Computer-Use-Action, der wird halt nicht die Kultinate festvertrautet, sondern der wird das abstrakte Konzept dahinter gelernt sozusagen. Also was ist jetzt der Backensabmit oder so weiter? Das wird dann verstanden und da ist es dann faktisch schon egal, ob der Backensabmit jetzt rechts links oder irgendwo ist. Und da sieht man halt auch die Power von so einem System, dass das wirklich adaptiv ist und sich dann entsprechend auch anpassen kann, wenn dann mal ein Update kommt von der Software oder so was. Das ist halt immer noch die UI versteht und das halt mehr des abstrakte Denken, wie es halt auch ein Mensch hat, wenn das so eine UI benutzt. Und du suchst ja dann auch nach den Informationen und gehst nicht Exp. nach Pixel-Crolinaten. Und das ist halt schon in große Benefit und natürlich muss man ganz klar sagen, enormes Potenzial auch was, was in den Transformationen hier angeht, im Wide-Color-Bereich, also im Büroarbeit im Endeffekt. Und in der du das jetzt beispielsweise Hans Zimmer-Karten im Internet finden, ihr Arbeit dir für Unternehmen, da gibt es wahrscheinlich irgendwie andere Use-Cases, aber das wahrscheinlich auch die Stärke, dass viele Unternehmen sagen, ich habe hier Software, die hat keine API, da habe ich vielleicht irgendwie einen Sitz. Und das muss irgendwie an diesem Computer bedient werden. Und trotzdem könnt ihr dann dafür sagen, ja, wir können jetzt ein Computer-Jusagent dafür bauen, der sich so verhält als würde davor sitzen. Das war ja auch dieses Beispiel mit den Dupletten. Das ging halt nicht einfach, indem man den System sagt, das ist all dupletten, sondern es war nur vorgesehen, dass das durch Benutzung von Maustastatur und Bildschirm funktioniert. Und dafür habe ich dir dann, glaube ich, den Agenda hier geschrieben. Wichtig, ganz genau so ist das. Und der Clure ist halt, wie gesagt, dabei, dass wir schon in eine gute Ecurusie haben von 93 Prozent und da wurden nur ein oder 200 Datensätze genommen, um das nochmal zu verbessern. Und wenn man sich mal anschaut, was dieses Jahr noch so passieren wird, wir sehen ja jetzt 2006 und 20 noch Q1, während der Aufnahme ist. Kann sein, wenn Sie das hören, ist das dann Q2 oder so. Aber im Endeffekt werden wir die restlichen Monat, das ja sehr, sehr viel Computer-Jusagent sehen. Indizien sind zum Beispiel die neuste Modelle von OpenAI, beispielsweise GPT-54. Es ist auch sehr gut in den Benchmarks. Da gibt es so Screenshot Pro und so ein paar andere Benchmarks, die direkt darauf ausgelegt sind. Kann das System, das kann faktisch von dem Screenshot, kann das System dann verstehen, was dahinter liegt, was die Funktionalität ist. Und die haben jetzt in Benchmark erreicht, mit GPT-54, der gibt's direkt, wenn man die API-Nutz von OpenAI, GPT-54, direkt diesen Computer-Jusagentenfall, faktisch recken der API schon mit drinne. Und die haben da aktuell den besten Benchmark und ja, ist vielleicht sogar besser als mancher Bench, wie man bestimmt das System bedient, gerade wenn man sich durch hässlichen alten Applikationen anschaut. Da ist natürlich auch schwierig, wie man die bedient. Und da kann dann vielleicht so ein System auch helfen. Wie groß ist der Spread von den Unternehmen, mit denen ihr arbeitet zwischen Unternehmen, die sagen, wir brauchen erst mal so einer, der unser Firmenwissen für unsere Mitarbeiterinnen, wie besser durchsuchbar oder nutzbar macht, versus Unternehmen, die sagen, wir wollen so eine multi-orchestrierende Agentenlösung haben. Was davon begegnet euch am häufigsten? Und habt ihr das Gefühl, dass es dann eine Evolution gibt, also das jedes Quartal, die Anfragen aufwendiger werden? Ich glaube, es korreliert ein bisschen mit der Unternehmensgröße. Tatsächlich auch. Also ich habe das Gefühl, dass das große Konzerne schon etwas weiter in der generellen AI-Adoption sind. Und entsprechend dann auch direkt zu komplexen Workflows oder komplexen Orkestrierungen greifen möchten. Der oder das Thema Wissensagent ist denn noch ein ziemlich großes gerade für die KMU, würde ich sagen. In vielen Fällen haben wir es allerdings auch so, dass wir Anfragen bekommen, wo es erst meist okay, wir wissen, dass wir was tun müssen. Und wir wollen gerne was mit KI oder Agents zu tun haben. Und wir wissen einfach, wie wichtig das Thema jetzt wird. Allerdings haben wir noch gar keine Ahnung, wo wir da ansetzen können. Und da geht es dann natürlich erst mal daran herauszufinden, wo wir jetzt tatsächlich Ansätze und Geschäftsprozesse, die vielleicht als ersten Schritt mal geeignet wären, zu automatisieren oder mal einen Agenten darauf loszulassen. Ich denke, das muss man tatsächlich erst mal von einer gewissen Entfernung betrachten und um halt zu gucken, was macht denn tatsächlich Sinn, denn einfach drauf loszuprogramieren, ist vielleicht intern in Ordnung, wenn man sich allerdings direkt die Berater ins Haus holt, dann eventuell ein bisschen zu kostspielig. Ihr habt, glaube ich, auch für Agentenanfragen, die immer wieder auf euch zukommen, so fast fertige Baukastensysteme. Also was sind so die häufigsten 5, 6, 7, Use-Cases, die Unternehmen mit hoher Wahrscheinlichkeit als erstes umsetzen? Genau, da gibt es zwar uns, was sind die Pre-Build AI Apps nennen. Das sind halt, ja, das ist ganz gut gesagt, so Baukasten oder Templates oder Muster von sich wiederholenden Agenten-Typen, wenn du so willst, die man halt häufig bei Kunden sehen. Und da haben wir halt Endeffekt, solche Templates gebaut, die diese dann, ja, dass man nicht immer das Rat neu auffinden muss, dass man dann die eigenen Daten des Unternehmens reinpackt und auch noch die Custom Instructions mit reinpackt. Aber wie gesagt, nicht immer halt von vone Anfang muss. Da haben wir in verschiedenen Kategorien zum Beispiel. im Procurementbereich gibt es dann den Contract Intelligence Agent oder den Perchacing Recurst Agent, da dann halt deine Einkauf, automatisiert im Endeffekt, basiert natürlich auf Existieren, Verträgen, dann hören wir noch HR und Skill Center und weiß, was ich ganz viele verschiedenste Systeme da, die wiederholende Muster halt abdecken sozusagen. Und gerade wenn man über diese, was ich gerade sagte, diese zum Beispiel sind Perchacing Recurst Agent, ja, da dann zum Beispiel kann der es auch sein, erredet dann mit einem anderen Agenten auf der Gegenseite in der Souls. Ja, das ist auch eine interessante, interessante Aspekt, die mir vielleicht immer mehr sehen werden, ist dann basierend auf natürlich festgelegten Einschränkungen und festgelegten Handbedingungen, dass dann Agenten miteinander verhandeln und dann auch einen Vertrag abschließen. Das wird, kommt, denke ich, ganz gut, weil gerade gerade Vertragswerk ist halt auch wirklich ja sehr dröge, sage ich mal, ne und wenn man das dann automatisieren kann, ist natürlich super. Und natürlich wird sich das dann im Endeffekt nur jemand angucken, bevor das dann vielleicht rechtkräftig wird, aber da geht schon, der geht schon echt viel, muss ich sagen, gerade in den Bereichen HR auch, da bestimmte Dinge zu analysieren, aber andere Bereiche, den wir noch gar nicht so angefasst haben, vielleicht können wir noch später darauf, aber es ist natürlich auch so diese Verkörperung von diesen Agenten, ne, man sagt im englischen Embodied Agents, dass man im Bereich von Physischöcke, ihr sprich Robotik und Entrohung und andere Systeme, da natürlich auch solche Agenten-Systeme sehen wird, das wird natürlich nur ein bisschen länger und dauern, aber kommt vielleicht ein bisschen vom Thema ab jetzt. Aber diese Embodied Agents sind zum Beispiel dieser Roboter, die ich dann sehe, die jetzt beeindruckend irgendwelche Kung Fu Dinge machen, überwiegend um ja aus China oder sowas, aber wo man natürlich auch sagen kann, die kann man auch wieder programmieren, kann den Aufgaben geben, die sie dann einigermaßen autonomen und wir arbeiten. Ich glaube, da möchte ich nämlich, habe ich auch einen Kollegen von euch kennengelernt, den Jordi Spranger und der kommt glaube ich in einigen Wochen oder Monat mal zu uns und erzählt dann aus dieser Roboter-Agenten-Weltmal. Ich würde gerne noch verstehen, also die Leute, die zuhören überlegen vielleicht auch selbst. Bin ich gut aufgestellt, schnapp ich hier irgendwie Ideen auf und Ding, die ich irgendwie machen muss, wo entsteht der größte Wert? Sind das, muss ich als Unternehmen mir selbst überlegen, das sind Dinge, zu denen ich Agenten bauen möchte und dann kann ich eure Expertise nutzen, das auch wirklich zu bauen und zu betreiben oder es sagst du eigentlich, es irgendwie auch ein großer Mehrwert, das ihr Unternehmen kommt, mal eine Woche zu gucken, wie diese arbeiten und dann sagt an diesen fünf Stellen könnten und können uns vorstellen, dass wir mit Agenten irgendwie euer Geschäft beschleunigen. Ja, so ist halt beides, ganz klar logischerweise, wenn die Kunden jetzt schon ganz konkret vorstellen haben, dann können das natürlich umsetzen und der Punkt dabei ist, das dann sicher und wartbar umzusetzen, da können wir vielleicht auch nochmal was das Weibkoding-Thema an mir nochmal auf einhergehen, warum das auch wichtig ist, aber es ist natürlich auch der Fall, dass wir als Beraten des Unternehmen dann reinkommen und entsprechende Vorschläge machen, dann aber natürlich ganz wichtiger Aspekt mit den Domäonexpertinnen und Experten zusammenarbeiten, aus dem Unternehmen und das dann zu verstehen, dass man nicht einfach top-down, das macht, sondern wirklich alle involviert von Anfang an und dann nicht einfach irgendeinen Agenten vor die Naunse selbst und dann sagt, hey, jetzt nutzt das mal, jetzt ist das fertig und dann gibt es dann natürlich auch die Befürchtungen von vielen, gerade in Deutschland immer viele bedenkenen Sträger, gibt es dann natürlich immer viele Sorgen, warte ich jetzt ersetzt damit und dann es gibt auch Fälle, wo also jetzt nicht bei uns von den ich berichte, aber man hat gelesen in den News, es sind natürlich die Nürnten News, ja, die Nummer ein News bringt das natürlich nicht, aber das dann zum Beispiel auch sabotagen passieren, ja, das hat manche Mitarbeiter in der Endeffekt dann dieses System sabotieren von der Seite, weil sie halt so gehabt, dass es damit ersetzt werden und sich denken dann auch ein bisschen Vorsprung zu verschaffen. Also gibt es halt alles, ich will sagen damit der Kulturelle, der die Technik ist alles machbar, ja, aber der Knackpunkt ist einfach die Kultur, die Unternehmenskultur, die Leute mitzunehmen auch auf dem Weg hin, auf dem wir uns bewegen und das ist dieses Jahr einscheiden, ja, wir kommen faktisch von Chatports, Chatports mit denen wir eine Konversation führen, hinzu agentensystem, den wir in der Aufgabe geben und die dann autonom diese Aufgabe lösen und da ist der Wandel faktisch für die Mitarbeiter denn von der KnowledgeWork, so JudgmentWork, also von der Wissensarbeit, zu der Entscheidungsarbeit, ja, und das ist halt wichtig, dass man, dass man diesen Punkt halt versteht, denn ich habe über viele Jahre, viele Jahrzehnten, an die Leute faktisch brichtige lesen, analysiert und dann neue Berichte geschrieben, beispielsweise und analysen erstellt und das kann man sich natürlich jetzt vereinfachen, indem man solche Sprachmodelle nutzt oder am besten in Agenten, der spezialisiert ist, auf deinen Anwendungsfall, der dann autonom solche Aufgaben über Minuten, Stunden, vielleichtiger Tage ausführt und dann richtig gutes Wissen zur Verfügung stellt, aber du musst es noch prüfen, ja, du entscheidest immer noch, ob das Gutes vielleicht musst du noch ein paar Eteration machen, aber jeder wird der kleine Agentenboss sozusagen und das ist der Wandel, den die Leute halt auch mitmachen müssen. Ich finde ich da noch mal einhaken darf, ich fand es ganz spannend, dass du gesagt hast, der wechselt von, oder von Knowledge Work zu JudgmentWork. Wir haben in sehr vielen Produz, also nicht nur aber vor allen Dingen auch in produzierenden Unternehmen, die Tatsache, dass wir unglaublich spezialisierte Mitarbeiter haben, die seit Jahren in dem Unternehmen sind und quasi, ja, die Wissenssträger für die gesamte Produktion sind. Und wir hatten es in vielen Fällen, in vielen Fällen z.B. im Bereich Computerwischen und ja, Produktionsüberwachung sage ich jetzt mal, dass es erst mal daran ging, mit den Leuten zu sprechen und zu verstehen und aus deren Erfahrung zu lernen, was sind denn jetzt tatsächlich die Geschäftsprozess und was ist tatsächlich wichtig dafür, dass die KI vernünftig arbeiten kann und dieser Wissenstransfer, der muss erst mal stattfinden und gerade, wenn man jetzt bedenkt, wir haben jetzt in den nächsten Jahren einfach sehr, sehr viele, die bald in Rente gehen werden, die allerdings super ausgebildet sind und entsprechend die gesamte Knowledge des Unternehmens quasi in sich tragen und das muss irgendwo hin weitergegeben werden. Und das ist eine, ich glaube, eine sehr starke Herausforderung für die Unternehmen. Zum einen natürlich, also Fachkräftemangel und so weiter, also das Anmeue mitarbeitet zu geben, aber auch, das irgendwie zu verpacken, in eine Art und Weise, so dass später in Zukunft eine KI auch etwas damit anfangen kann. Gibt es viele Unternehmen, die euch also ja, der, der, der, der, der, der, das z.B. das Chatty.pt5.4 Modell sehr gut für agentische Arbeit gebaut ist, ist jetzt aber die Herausforderung, dass eure Kunden sagen, schön und gut, aber eigentlich will ich, dass das alles nur auf einem lokalen Modell läuft, damit auf gar keinen Fall irgendwelche Daten an amerikanische Firmen abfließen, selbst wenn da irgendwie geschrieben steht, dass die sicher sind, ist das auch nochmal eine Komplexität, die dazukommt, dass ihr den diesen Frontiermodellen gar nicht überall arbeiten könnt, sondern eher Lösungen finden müsst, dass über selbstbetriebenes Server zusteuern. Ist, ist tatsächlich, also es ist komfort, gerade auch jetzt stichwort Industrie-Spionage, dass man wirklich sagt, okay wir dürfen tatsächlich nicht auf die regulären Cloud-Anbieter zurückgreifen oder auf, auf diese Frontiermodelle allerdings, sehen wir eigentlich das gerade in den letzten Monaten die opensource Modelle stark aufgeholt haben und tatsächlich auch im Bereich Agentus, also jetzt zum Beispiel Chemica 2 zum Beispiel ist ein supermodell, was wirklich top Ben-Schmarks hat und erreicht hat und entsprechend auch zum Beispiel jetzt mit OpenClor sehr gut benutzt werden kann und ja, also ich denke da hat opensource wirklich aufgeholt und es ist mittlerweile sehr gut auch möglich das ganze lokal laufen zu lassen. Ja also vielleicht noch mal dazu einhaken absolut, also gibt viele ja man sagt OpenModels oder Small Language Models, Chemie hat er genannt, dann noch Quen, Qwen, ist auch sehr gut, Google hat Gemma und Microsoft hat auch sehr gut das erste und neue Version veröffentlicht, heißt Fee, also wie das krisische Buchstab Fee sind wir interessant wenn wir den Amerikaner dann reden das dann sagen immer Fee, Fee, we got to use Microsoft Fee, und natürlich Fee, ja muss das mal richtig aussprechen, aber egal, aber die Modelle sind schon sehr sehr gut und der große Vorteil ist natürlich das für die lokal laufen lassen kann auch on premise sozusagen. Wieder Johannes schon gesagt, dass es ein regulierten Industrie natürlich sehr relevant, wenn die dann sagen okay wir wollen absolut keine Cloud irgendwie involviert haben obwohl es natürlich schon so der Fall ist, wenn ich jetzt auf eine so ein Microsoft Azure oder sowas sind Nutze, ja die die Mitarbeiter denn alleine in der sich rotiabteilung sind über 10.000 Leute, ja die sind damit befassen immer auch mal ein Server zu patchen und so weiter, wenn ich das selber mache in meinem kleinen on premise da bin ich immer ein bisschen hinterher, ja da hab ich nie die aktuelle Patches drin und so weiter, was super relevant ist denn natürlich nutzen auch die bad actors die die neue generative KI und das gibt natürlich auch Möglichkeiten, ein entsprechender Lücken zu finden, ja vielleicht auch in den News gelesen. Ich glaube mit Firefox war das, da haben sie mit dem Entrock.
mit dem Cloud mit dem Endeffekt, den ganzen Cloud Code von Firefox durch suchen lassen. Ich habe über 100 Bucks gefunden und ich glaube ein drittel davon sind sie kürziköse relevant gewesen. Das ist auch das. Ich kann natürlich auch die generative KI für solche Zwecke nutzen. Deswegen ist es auch wichtig, dass ich da entsprechend in die Sicherheit investiere. Das ist vielleicht auch mein Appell an der Sache, vielleicht nochmal zu sagen. Ich kann natürlich mit viel schon selber machen. Was auch gut ist, jedes sollte das machen. Das machen unbedingt Ausprobieren, Cloud Code, Codex, OpenAI, GitHub-Copilot und Slope-EI-Dope-Bi-EI-S. Das habe ich jetzt in Namen vergessen. Ich habe alle irgendwelche Code-Tools und die dann faktisch beim entwickeln über KI, dann Funktionen zum Fügungsstellen oder ich gebe einen Agentenaufgabe, der entwickelt mir das dann. Ich kann auch ein Detail nochmal alles besprechen. Der Punkt ist aber dabei ist mit dem Wipe-Coding, was es halt auch gibt, wo ich einfach nur einen Prompt gebe und dann kommt das Software raus. Und ich gucke mir den Code gar nicht an. Ich interessiere mich überhaupt nicht für den Code. Da kommt natürlich auch viel Mist bei raus. Häufig auch nicht besonders optimiert. Also da waren auch vier Ressourcen verschwendet. Und natürlich, ich habe heute früher aus den News gelesen, die haben festgestellt, dass in 73 Prozent der Code ist. Also das wird dann als PRs Pull-Request zu sagen in den Projekt submitt. Wenn dann so eine KI und so ein Code zu submitten möchte. 73 Prozent haben sie CoT-Problemme. So und das ist natürlich schon so eine Sache, wo ich sage, super cool Wipe-Coding und mit den Ausruppieren für Prototypen. Aber wenn ich was in Produktionen bringen möchte, dann vielleicht doch lieber mit Experten zusammenarbeiten, die dann entsprechend natürlich auch das nur haben, was die CoT hier angeht und auch was Wachtbarkeit angeht. Die Maintenance dessen. Und natürlich nutzen die Experten, die Experten auch Agentic-Coding entsprechend. Aber die benutzen das halt vielleicht ein bisschen anders und sind halt immer noch eben cool sozusagen und verstehen auch, was da passiert. Ich glaube, Entropic hat im Februar eine Studie veröffentlicht. Da haben sie mal eine Million Calls, Agentic-Codes an ihrer AP ausgewertet aus welchen Bereichen die kamen. Und da ist auch jeder zweite Call ist zum Thema Software Engineering, also zum Code schreiben, um die benutzt worden. Und die zweitgrößte Kategorie nach diesen 50% ist dann Backoffice Automation mit 10%, also wo es dann auch wiederum geht, belege zu sortieren oder Rechnungen zu erkennen und so weiter. Und dann geht es auch noch so ein sehr operativem 5% Copywriting oder 3% Cyber Security zu. Aber dann wird schon dann wird schon sehr klein. Das heißt momentan ist wahnsinnig viel von diesen agentischen AP calls geht darin Software zu schreiben. Und das ist ja auch wie das was irgendwie viel ausprobieren und wo viele die ersten Kontakte so richtig mit mit Agenten haben, wo man sagt bitte, baue mir das und dann läuft agentlos und baut das mit Hilfe von AI Modellen. Wenn ihr mal in eure Erfahrung guckt mit den Unternehmen, mit denen ihr arbeitet, was sind drei Tugenden, die euch verraten, dass ein Unternehmen es gut hinbekommen wird, AI-agenten einzubauen und auch zu benutzen? Und was sind so drei Tugenden, bei denen ihr sagt oder nicht tugenden, was es geht her vertugend? Na ihr wisst schon, also drei Angewohnheiten eines Unternehmens, bei denen man das Gefühl hat, oh da merke ich schon, die werden große Probleme haben von ihrer normalen Arbeit immer mehr mit AI-Tools zu arbeiten. Kann man das so sagen? Ja, also ich kann vielleicht mal anfangen, vielleicht sollte ich doch Johannes hat bestimmt noch mehr interessante Punkte. Aber was natürlich ganz klar ist, ja eine Tugende ist natürlich erstmal eine gute Datenhikier oder so zu sagen. Also der erste ist vielleicht erstmal die Daten zugreifbar haben in vernünftiger Art und Weise, was bedeutet, ich habe erst mal alles digitalisiert und zweitens, ich habe das in einem Data Lake oder irgendeinen Data Storage, mit dem man verhüftig arbeiten kann. Wie gesagt, in der Regel in der Cloud kann natürlich aber auch on-premise sein, das ist ganz wichtig, das sehr erste Punkt. Und nicht die Daten, Daten setzten sind vorhanden im Endeffekt. Zweite Punkt ist natürlich auch so ein bisschen, wie soll ich das sagen, nicht unbedingt getrieben denn, sondern die die selber initiativ ergreifen wollen. Dass man sagt, okay ich will jetzt was verändern, also einfach diese Innovationswille sozusagen, ja wir uns vielleicht so ausdrücken kann. Und es sei da, dass man das unbedingt machen möchte und drittens ist natürlich Budget. Und ich kann dir natürlich dazu die ganzen gegenteiligen Dinge merken, weil es gibt natürlich auch manchmal Leute. Es Gegenteil von Tugendes Laster ist mir wieder eingefangen. Ein Laster, genau. Ein Laster ist zum Beispiel, hey wir wollen jetzt A1 nutzen, aber hier, ich habe jetzt aktuell meine ganzen Kunden-Reports, die sehen halt so aus. Also alles Papier habe ich gerade hochgehalten. Das ist natürlich ganz schwierig, dann muss man erstmal digitalisieren. Und natürlich gibt es auch Kunden, die haben natürlich oder Leute, die zu uns kommen, vielleicht Kunde werden wollen, die natürlich dann enormes riesige komplette Transformation, ihre Firma machen wollen, mit Agenten und so weiter und so. Aber dann halt, weil ich kein Budget habe, oder so gibt es halt auch. Aber für die lässt sich auch was finden, immer so ist, kommt immer noch von, man kann das Skalieren von klein bis groß. Den Punkt, den ich noch machen will, ist halt einfach ohne untenliche Daten hier gehen, ohne untenliche Datenpflege, dann kann man das Ehe gar nicht angehen. Was ein Drei Laster, Johannes, kennst du da Dinge, wo du sagst, wenn du mit dem Kunden sammere, weil es weißt du gleich, das macht die Sache Eheer schwieriger als einfach? Ja, also ich denke, was es schwierig macht, ist, ist, ist, wenn man quasi in die AI-Adoption reingehen möchte, weil es alle anderen machen, man aber selber noch gar keine Ahnung hat, wo die Reise eigentlich hingehen soll. Also klar, wir haben dieses Formo 4 of Missing Out, wo es jetzt heißt, wir müssen jetzt unbedingt mal bei uns Co-Pilot oder ChatGPT im Unternehmen nutzen. Oder natürlich auch direkt Agenten, im besten Fall. Allerdings, das ganze kommt dann top-down und ja, eigentlich weiß niemand, was man damit jetzt genau erreichen will, wenn sich, wenn dahinter kein Business Case ist, und man dann im schlimmsten Fall wirklich hohe Beträge an Geld investiert. Und am Ende hat man eine tolle Automation, die allerdings gar nicht rechnet. Ja, dann gibt es am Ende lange Gesichter und niemand ist zufrieden, das sollte man sich vorher überlegen. Natürlich helfen wir auch gerade in solchen Punkten, dass das wir gemeinsam aus so eine Discovery, sag ich mal, machen, um halt Use-Cases zu identifizieren, wo es tatsächlich Sinn macht. Da hinzugehen, aber ich glaube, dass es ganz wichtig, dass man da halt nicht blind reingeht, sondern einen Plan vorher hat, bevor man quasi den Check schreibt. Vielleicht noch mal ganz kurz zu den Ersprachmodellen, zu den kleinen Sprachmodellen oder den spezialisierten Modellen, weil ich denke, da gibt es auch eine große Möglichkeit für deutschen Unternehmen auch. Und zwar haben wir hervor über die Open-Modelle geredet, die werden immer Open-Source-Modelle genannt, nur wirklich wenige davon sind wahre Open-Source-Modelle, wo dann halt auch der Trainingscode und der Code des Modells, das meiste nicht so riesig. Viel manchmal steckt da natürlich schon ein bisschen was drin. Wenn das veröffentlicht wird, denn die meisten sogenannten offenen Modelle, was die veröffentlichen ist, einfach nur die trainierten Gewichtes sozusagen, also das fertig trainierte Modell. Ein wirklich Open-Source-Modell würde ich sagen, ist das zum Beispiel von Paul Elgen Institute. Die veröffentlichen Trainingscode, Trainingsdaten, komplett von vorne bis hinten, also kannst du das komplett experiment selber und nochmal nachvollziehen. Das ist dann wahllig Open-Source. Aber die Modelle sind natürlich auch super gut. Es gibt eine ganze Reihe von, die man wirklich für viele agentische Use-Cases nutzen kann. Wenn man jetzt sagt, ich anstatt jetzt ein großes Frontiermodell eine GPT-5-4 oder eine Claude 4-6 Opus mit Finking zu nehmen, nehme ich halt lieber ein paar kleinere Modelle, zum Beispiel die offenen Modelle und verteilt die dann auf mehrere Schultern, auf verschiedene Agenten, die dann halt spezialisiertes Wissen haben und nutze diese dann. Kann ja auch wie eine App-Review implementieren oder Judging, dass ich verschiedene Agenten habe, die einen produzieren das Wissen, die anderen validieren das, bewerben das mit verschiedenen Personalitäten sozusagen und können dann entsprechend das Ergebnis auch verbessern und ich brauche vielleicht gar nicht das große Fett der Modelle, sondern kann mehrere kleinere Modelle nutzen. Muss man sich wie gesagt im Ankuchen ausprobieren, es ändert sich halt auch jeden Tag, kommt neue Modelle, neue Updates, dann muss man wirklich strandbleiben und immer ein paar Sachen ausprobieren. Den Punkt, den ich eigentlich noch machen wollte, ist Mistral beispielsweise. Mistral hat jetzt dieses Frontierprogramm veröffentlicht und wir bei Replace sind auch dabei. Das ist, wir haben sie gerade für eine neue Firma gegründet, logischerweise im Replay, nennt sich Sail Replay, also wie das Segel und da arbeiten wir aktuell an dem Projekt, das haben wir jetzt auch veröffentlicht und zwar, es ist noch nicht fertig, aber wir haben es veröffentlicht, dass wir da arbeiten. Am Zwarbänden wir da mit der österreichischen Akademie der Wissenschaften zusammen und die haben den größten Schatz an altkriegischen Dokumenten. Jetzt fragt man sich, wie, wieso haben die in Wien die meisten altkriegischen Dokumente fragt mich nicht warum, aber es hat sich eigentlich irgendwas mit Indiana Jones Leuten zu tun, keine Ahnung. Wir arbeiten da faktisch mit der Akademie Wissenschaften und Mistral zusammen und um den Wissenschaftler diesen Schatz, diesen altkriegischen Schatz nutzbar zu machen, denn mit den aktuellen Modellen, mit den Spachmodellen, die es aktuell gibt, die verstehen natürlich modernes krisisch, neu krischisch. Aber wenn ich den jetzt irgendwelche Dokumente gebe, Papyrus oder Stein-Inschriften, da fehlen ja häufig irgendwelche Teile davon. Dann versuchen, hallöpzenieren die immer neues krischisch dazu, ja, modernes krisch, weil die kein altkrisch wissen und es ist aber so nah an dem neuen krischisch, dass sie dann immer hellöpzenieren dazu. Deswegen bauen wir zusammen mit Mistralen komplett eigenes Modell, also es ist kein Rack, kein Feinchuning, sondern es wird von Grund auf dem Rack.
model trainiert, ein Spachmodell mit altkriegisch und der Kluss dann, die Wissenschaftler können dann 90 Prozent der Daten, die sie jetzt nicht nutzen können, nutzbar machen, plus, und das ist der eigentlich Kluder bei, es gibt noch ein zweites Modell, was wir mit Entwicklungs für OCR, für Optical Character Recognition wie wir gelernt haben, was am Ende fakt solche Papyrus oder solche Stein in Schriften, wo dann halt ein paar Stückchen immer mal fehlen, perfekt rekrustruieren kann und nicht halt irgendwie neues krisische hinzuhaligen, sondern auf dem Wissenschaftsfaktisch ansetzt. Und das ist jetzt mittlerweile bezahlbar, vor zwei, drei Jahren musste man schon viele Millionen Euro in der Tasche haben, um so ein Modell zu dienen. Jetzt, wenn ich das natürlich, werde ich jetzt kein fettes GPT-5-4 mehr selbst trainieren, sondern schon eine spezialisiertes Modell auf den ganz spezifischen Use-Case, da brauche ich auch nicht das Riese Modell, sondern kann mit dem kleineren arbeiten und da können wir in einem Bereich usext-stelligen Summ möglich machen, solche Modelle zu trainieren und ich dann im Endeffekt dann auch die eigene IP mit meinem eigenen Modell, mit dem eigenen Wissen in meinem Schatz habe sozusagen, und das dann vielleicht auch licensieren kann. Und gerade Deutschunternehmen im Mittelstand, weil man sich überlegt, da sind ja Jahre Jahrzehnte vielleicht sogar an wirklich wertvollen Daten, logistikunternehmen, verschiedenste Andeunternehmen, ja, Lebensmittelbranche, was wir sich, also das können wir mal an alles in solche Modelle diese Intelligenz da reingießen und diese Möglichkeiten bestehen und wie gesagt, wir haben damit mit einem bestrahlen, eine gute Partnerschaft und machen das aktiv mit einem der Top Frontier-Model-Labs in Nervild. Das wird spannend werden, weil ja glaube ich auch die Red Sea Scrolls, also die älteste Version der neuen Testaments, die ist ja auch in Eikelchisch, das können wir interessant haben, für die Hedgefühle, vielleicht steht in der Bibel ja was ganz anders als wir mal bisher erwartet haben. Du hattest auch erwähnt irgendwie das zum Beispiel das Paul N.-Sythud auf eine Modelle veröffentlicht, ich bin mir nicht ganz sicher, aber hat Nvidia diese Woche auch so ein Nemotron 3 Modell veröffentlicht, wo meiner Meinung nach irgendwas besonders war, ich glaube auch dass man da das gesamte Training um die einsehen kann. Also vielleicht bring es auch wieder durcheinander, aber ich hatte gerade diese Woche um die gelesen, dass irgendein effizientes 30b oder 4b-Model rauskam, wo man auch das ganze Training nachvollziehen kann, wenn man dann will. Aber es wahrscheinlich genauso wie Open Source, das toll, das Open Source ist, aber leider guckt natürlich auch nicht jeder rein und schaut sich ja dann was da drin irgendwie zu finden ist. Ja, und was ist denn in den trainierten Gewichten? Siehst du ein paar Madridzen, welche irgendwelche Zahlen? Ja, es gibt so einen KI-Forscher, der heißt Gary Markus und der hat gerade in Ursaag gesagt, er würde sich wünschen, dass es ein Gesetz gibt, dass AI-agenten sich nicht als Mensch ausgeben dürfen. Also dass sie nicht sagen, ich habe für dich nachgeschaut oder sowas und vor allem auch nicht irgendwie am Telefon sagen können. Hallo hier ist Peter, sondern dass man ganz strict juristisch sagt, AI-agenten dürfen immer nur als Roboter auftreten, aber niemals so wahrgenommen werden, als wären sie Menschen. Ist das ein Punkt, wo je durch eure Arbeit seht? Ja, irgendwie da ist schon, wahnsinnig viel möglich und eigentlich wäre das eine gute Idee, auch irgendwelche gesetzlichen Grundlang zu schaffen oder ist das eher so ein kulturelles Thema, dass jetzt noch nichts ist, was euch täglich in Arbeit über den Weg läuft? Also ich glaube, das beschränkt sich nicht nur auf AI-agents, sondern auf den gesamten Bereich generative KI, weil ich meine, dass das Thema Deepfakes oder dann auch Deepfake detection, das gibt es ja schon etwas länger und das ist gerade auch im Bereich Straftaten mittlerweile schon recht häufig verortet, dass sich halt einfach Leute mit einem gefähigten Avatar zum Beispiel in den Bewerbungsgespräch melden, dass das schon häufig oder im schlimmsten Fall so im personation für ich weiß nicht bei Banken im online banking oder sowas telefonisch machen, also da gibt es tatsächlich großes, großen Bedarf da entsprechende Gegenmaßnahmen einzuleiten, beziehungsweise Modelle dafür zu entwickeln, die dann zum Beispiel Videos, Streams oder Bilder analysieren, um zu verstehen, ob das tatsächlich jetzt ein generiertes Bild ist oder ob sich dann echter Mensch hinterverblickt, dasselbe gilt für Voice, also für Stimmen und klar, wenn es jetzt darum geht, dass das bestimmte Systeme miteinander interagieren, wird das Ganze auch auf AI-agents übertragbar gemacht werden können. Ja, das von erwähnt, wir sind jetzt gerade im ersten Verteil 2026 und es wird dieses Jahr so wahnsinnig wie passieren, ich habe auch das Gefühl, dass dieses Jahr genau das passiert, was du die letzten Jahre immer vorher gesagt wurde, was AI uns irgendwie bringen kann und jetzt geht es gerade so richtig los ganz brachial, was sind so Agenten, Typen oder Newscase, es an den ihr gerade arbeitet oder die dieses Jahr ausgerollt werden, dass man nochmal so ein Gefühl dafür kriegt, wie weiter vielleicht auch schon die Planung ist, an der wirklich geschraubt wird. Ich fange vielleicht mal kurz an, ich habe das tatsächlich auch nicht mehr gesagt, aber ein Punkt ist natürlich aktuell, ich habe mir wie schon gesagt, du bist Agent, du bist mit Jodie noch über die Humanoid, und die behauptet in Bodydagents-Rin, das sparmer uns vielleicht mal aus, jetzt aber ein wichtiger Aspekt ist natürlich auch, und der müssen wir auch unbedingt drüber hin, ist die ganze Open-Claw-Thema, eine Open-Claw vom, ja, das ist auch schon im Monat her oder zwei Monate veröffentlicht wurden und entsprechend jetzt auch weiter verbreitet, Endeffekt diese 2047 Agentik-Loop und ich weiß, Christoph, du hast auch aufgesetzt und hast es auch in der Tüchene sicheren Sandbox, wie wird es auch machen? Ich will noch einmal erwähnen, weil du hast die GTC erwähnt und das war jetzt die Nvidia GTC und da war auch der Peter Steinberger, der Erfinder sozusagen von Open-Claw mit da und die hat ein Video etwas vorgestellt, was sie Nemo-Claw nennen, was faktisch, und da rein haben wir halt auch gearbeitet und haben jetzt jetzt natürlich das Übernommen mit Nemo-Claw und gucken uns an, das faktisch dieses Open-Claw in der sicheren Umgebung bereitstellt, ja, in einem Enterprise Secure Environment sozusagen, und es auf englisch formulieren würde, und das ist ja öfter durchschauen, auch die Probleme mit Open-Claw, denn Open-Claw ist super, eine coole Sache, ja, kann faktisch automatisieren, 2047 läuft, das Ding, ich kann irgendwelche Aufgaben vergeben und das wird dann halt erledigt oder kann auch wiederkehrende Aufgaben durchführen lassen und richtig mächtig ist, ist das ja wirklich, wenn ich das mit meinen Accounts verknüpfe und dort zum Beispiel ein Kalender fliegen lasse oder bestimmte Kommunikationswege automatisiere oder Teil automatisieren, da wird es mächtig, da sind natürlich auch die Gefahr, dass der irgendwie ein Mist passiert oder dass es ein Einfallstuhl ist, gerade Prompt Injection ist immer so eine Sache, ja, gerade die Leute, die dieses, was jetzt Mehtage gekauft hat, hier dieses Moldbook, ja, die da ihre Open-Claw Agenten dort laufen lassen, das ist natürlich ein Einfallstuhl für Prompt Injection, ja, wenn da irgendjemand in coolen Prompt sich ausdenkt und dann macht dann eine Prompt Injection, zack ist er auf deine Maschine, ja, also das kann halt auch passieren, und deswegen muss man das in dem sicheren Kontext machen, die Nemo-Claw solltest zu Verfügung stellen, und da anarbeiten wir halt auch natürlich um diese 24/7 Hyper-Personalized Agents, always on Hyper-Personalized Agents, so nenne ich das um ein bisschen allgemeiner zu formulieren, dass man die in dem sicheren Enterprise-Context auch laufen lassen kann, um den Nutzen in einem ja sicheren und wappbaren Enterprise-Context zu Verfügung zu stellen. Dieses Prompt Injection ist ja wirklich eine wahre Hütre, ich dachte, man ist irgendwie einigermaßen sicher, wenn ich sozusagen den Incoming Stream an Prompts vielleicht irgendwie versucht zu scoren, ob da vielleicht ein Injection dabei ist, aber teilweise kann man mit dem Rack, also mit dem jetzt such mal Informationen für mich, da kann man auch wieder Prompts unterbringen, das man wie gesagt, oh, geht auch mal auf meine Homepage, ob du da was findest und dann kann man in diesem Dokument auf der Homepage Prompt Injection betreiben oder man kann sogar einfach Prompt Injection betreiben, indem man seine Dokumente einfach ins Internet schmeißt und sagt, in dem botwirtchen irgendwann auffressen und mit glückschaffig ist dadurch meine manipulierten Informationen in dieses Gesamtlearning mit irgendwie reinzuregen, also das ist wirklich unangenehm, gerade wenn ich sage, mit wichtigen Kunden, Daten, Firmen, Daten, Intellectual Properties möchte ich hier mit Agenten arbeiten. Und ich glaube, das geht sogar noch eine Stufe da drunter, vielleicht habe das mitbekommen, dass das KI-System von McKinsey geheckt wurde und das lief nicht über eine Promptinjection, sondern über eine ganz klassische SQL Injection, was halt noch viel, viel älter ist. Also selbst da ist. Kannst du das, ich habe immer nur die Überschriften gesehen, kannst du da halt das hier mal von euch irgendwie einmal durchgelesen, was heißt AI geheckt von McKinsey. Also die hatten letztendlich kompletten Zugriff auf das, das Internet wissen von dieser AI und das sind natürlich dann Jahrzehnte an Best Practices Kunden, Daten und so weiter. Also wirklich Firmen, Interna und das ist natürlich ja, Datenschutztechnisch in der Katastrophe. Und faszbar und das obwohl ich glaube, McKinsey hatte 2024 mehr Umsatz mit dem Thema AI-Bratung als 2024 OpenAI-Umsatz mit AI hatte. Also schon ja. Ja, ja. Was ich noch hinzufügen wollte zu dem zu den Nemo-Klormel, das fand ich, war auch eine sehr interessante Entwicklung und Einzitate ist mit der Hängen geblieben von Genzen-Horgen, der quasi gesagt hat, dass es in Zukunft oder ab jetzt nicht mehr heißt oder nicht mehr die Frage ist an Unternehmen, was ist eure KI oder was ist eure Datenstrategie, sondern was ist eure OpenClaw Strategie. Das ist quasi so prävalent, dass das jeder nutzen werden muss, einfach weil es so wichtig wird für Unternehmen eben diese, diese Agents, ja, Tony for 7 zu benutzen. Allerdings auf deine Frage nochmal.
Ich glaube, was wir dieses Jahr auch sehen werden, ist quasi der Schritt von ich benutze im Unternehmen bereits LLMs. Das heißt, ich habe quasi den ersten Schritt getan und ich habe verstanden, dass es etwas ist, was mir sehr viel weiter helfen kann. Aber wie kann ich nun den Schritt zu Agentenbasierten System herstellen? Das heißt, LLM basierte Prozesse in Agentbasierte Prozesse umwandeln, dass sich nicht mehr als Mensch quasi, so ein paarjenige Binnen, der die Proms schreibt, sondern das ganze Durchenergenden machen lässt. Und wie weit das? Zum Beispiel durch OpenClaw, aber du musst vielleicht besser, bis an die Muckel annehmen, um das ganz sicherer zu machen. Ich habe noch einen Schritt, der das nicht mehr so gut ist, aber ich habe auch einen anderen, der das für mich macht, fällt mir auch immer noch schwer. Und ich habe einen anderen Schritt, der das nicht mehr so gut ist, aber ich habe auch einen anderen, der auch so gut ist, dass ich nicht mehr so gut bin, dass ich nicht mehr so gut bin, dass ich nicht, so gut bin, wenn ich das nicht mehr so gut bin, dann kann ich nicht mehr so gut sein, dass ich nicht, dass ich nicht mehr so gut bin, dass ich nicht mehr so gut bin, dass ich nicht mehr so gut bin, dass das Computer Vision System mit dem klassischen neuronalen Netz im Vergleich mit einem neuromorphic Chip, und wie gesagt, das sind sehr frühe Versionen davon, wir kommen auf die gleiche Qualität mit 75% weniger Energieverbrauch, und da müssen wir investieren, also Europa, da müssen Subventionen rein in solche Firmen in sowas Potenzial, einfach die nächste Generation, weil mit GPUs, das ist im Endeffekt auch eine riesige Energieverschwendung, muss man ganz klar sagen. Das heißt, ich höre hohe Energiepreise als Innovationstreiber. Vielleicht sogar. Und mit dieser ganzen Tokens-Ekuls-Watt, heißt ja auch mit einem immer größeren, größeren, größeren, wenn ein Kontext-Fenster wird dann auch wieder irgendwie jeder Abfrage natürlich mehr möglich, aber man schickt immer wieder den Kontext mit und der wird wieder neu verarbeitet. So jetzt nochmal, was ist sozusagen NDA, habe ich jetzt unterschrieben, was denn jetzt gerade die verrücktesten Agenten an den E-Bide gerade arbeitet? Ja, also ich kann sagen vielleicht an den Enterprise Ready Open Closes-DM sozusagen ums mal gemeint zu fundieren. Das ist schon, das hört sich cool an. Johannes, bist du damit an Bord oder hast du eigene Projekt an den Urlaub raus? Das tatsächlich etwas Offentisch, bereite ich einen kleinen POC vor, ganz interessant. Das ist quasi agentische Rechtschreib-Korrektur. Das klingt jetzt vielleicht nicht so abgespäst. Grammily. Es ist allerdings tatsächlich steckt der Teufel da im Detail, weil man sehr häufig nämlich Text in Bildern embettet hat. Und das ist gar nicht so leicht zu lesen. Da kommen wir wieder auf OCR-Modelle und die natürlich mit dem LLM kombiniert werden müssen. Und das gibt eine tolle Schnittstelle zwischen meinen Lieblings-Themen. Toll. Das heißt Johannes löst Captures und der Rene installiert Open Closes. Vielen, vielen Dank, dass ihr uns ein Einblick gewährt habt in eure Arbeit mehr, viel Spaß gemacht. Ich finde es ein tolles Thema. Ich bin leidenschaftlicher Weibkoder, merke aber auch, dass ich da tonweise jeden Tag um irgendwelche Tools mehr ausdenke, die kein Mensch hier mal so wie Supporten, Maintain, Updates und Patchen kann. Also die müssen immer auch in einer sehr kurzen Zeit, irgendwie ein Value haben, damit es sich überhaupt Sinn macht, so ein Tool zu machen, weil im Jahr läuft es garantiert nicht mehr, wenn es einfach so weiter läuft auf meinem Server. Und ich sehe auch aus so vielen Unternehmen, die eigentlich total schlau und digital sind, dass viele maximal, wie ich sagen, im Support haben wir jetzt irgendwie ein Agent aufgebaut oder wir haben jetzt irgendwie Produktfotus machen wir jetzt irgendwie automatisch mit AI und haben da so eine Agent-Cat, der irgendwie definiert. Aber da ist auch noch viel zu leisten, also wir sind immer noch wahnsinnig früh und ich fand erst mal gut, dass man sagt, egal wo es hingeht, selbst in noch keine gute Idee habe, die Daten bereinigen, verfügbar haben, gut aufgeräumt zu sein, dass wenn es irgendwie losgeht und man weiß, dass es der Kästlich umsetzen möchte, dass ich diese ganze Grundlagen arbeiten, nicht mehr machen kann. Das nehme ich auch hier in Vernehmung mit von euch von heute. Vielen Dank, dass ihr wahnsinnig wart. Lieber euch auch nix Mautzack, lieber in den Schulter, mir hat Spaß gemacht, ich wünsche euch ganz viel Erfolg und wenn es spannende Neuigkeiten gibt und die Dinge live sind über die ihr jetzt noch nicht reden könnt.
dann müsst ihr unbedingt wieder kommen und davon erzählt, davon erzählt, danke euch. Sehr gerne, danke dir. Danke dir ja. Euch zu Hause, vielen Dank fürs Einschalten. Checkt unbedingt mal die linken Profiler beiden aus. Teilweise habe ich ihn auch schon mal erzählen lassen, dass so erste Agenten, die man auch wie fürs Unternehmen umsetzen kann, die sind gar nicht so unbezahlbar und dafür vielleicht doch ein bisschen besser wartbar als würde ich das Ganze mit Cloud Code irgendwie selber probieren. Insofern macht schon Sinn, mal zu gucken, wie Replay das alles so macht. Wir hören uns spätestens nächste Inside Talk wieder, aber natürlich gerne vorher. Wir kommen einmal die Woche am Montag raus mit der Folge Digitale Vorreiter innen und immer am letzten Freitag des Monats mit unserem Inside Talk, unserem Deep Dive sozusagen, so wie heute mit meinen beiden Gästen. Kommt hervor, durch die Woche, durch die Monat und bis zum nächsten Mal ganz liebe Digitale Grüße von Johannes, René und Christa. Tschüss. [Musik]
Podcast Summary
Key Points:
Reply ist ein italienisches Beratungsunternehmen mit rund 17.000 Mitarbeitern und einem Umsatz von 2,5 Milliarden Euro, das aus vielen spezialisierten Tochtergesellschaften besteht.
Es gibt fünf Stufen der Autonomie von KI-Agenten
Computer-Use-Agenten sind eine besondere Art von KI-Agenten, die Computer wie ein Mensch bedienen (z. B. Mausbewegungen und Klicks), ohne fest codierte Koordinaten zu verwenden, und so auch ältere Software ohne API automatisieren können.
Große Konzerne sind bei der KI-Adoption oft weiter und fragen komplexe Orchestrierung nach, während KMU häufig mit Wissensagenten beginnen und oft erst einmal Beratung benötigen, um geeignete Anwendungsfälle zu identifizieren.
Reply bietet vorgefertigte Baukasten-Templates für häufige Agenten-Anwendungsfälle an, um die Entwicklung zu beschleunigen.
Summary:
Der Podcast "Inside Talk" beschäftigt sich mit KI-Agenten. 000 Mitarbeitern und 2,5 Milliarden Euro Umsatz. Reply besteht aus vielen spezialisierten Tochtergesellschaften, darunter eine für Machine Learning, die den gesamten Daten- und KI-Lebenszyklus abdeckt.
Die beiden Experten erklären das "Agentic Maturity Model", das fünf Stufen der Autonomie von KI-Agenten beschreibt: von einfachen Chatbots (Stufe 0) über datenbankgestützte Systeme und einfache Orchestrierung bis hin zu komplexen Multi-Agenten-Systemen (Stufe 4), die eigenständig komplexe Aufgaben planen und ausführen. Ein besonderer Fokus liegt auf Computer-Use-Agenten. Diese Systeme bedienen Computer wie ein Mensch, indem sie Bildschirminhalte analysieren und Mausbewegungen sowie Klicks ausführen.
Anders als klassische UI-Automation lernen sie abstrakte Konzepte und sind daher adaptiv, etwa bei Software-Updates. Reply setzt solche Agenten beispielsweise zur Duplikatenbereinigung in CRM-Systemen ein, wo sie eine Genauigkeit von 93 Prozent erreichen. Die Nachfrage nach KI-Agenten variiert: Große Konzerne tendieren zu komplexen Orchestrierungen, während KMU oft mit einfacheren Wissensagenten beginnen.
Reply bietet vorgefertigte Baukasten-Templates für häufige Anwendungsfälle an, um die Entwicklung zu beschleunigen und Kunden bei der Identifizierung geeigneter Geschäftsprozesse zu unterstützen.
FAQs
Häufige Anwendungsfälle sind Wissensagenten für die Suche in Firmendaten, Computer-Use-Agenten zur Automatisierung alter Software ohne API und Multi-Agenten-Systeme für komplexe Workflows. Diese werden oft als Baukastensysteme von Beratungsfirmen wie Reply angeboten.
Ein Computer-Use-Agent bedient einen Computer wie ein Mensch, indem er Bildschirminhalte versteht und Mausbewegungen sowie Tastatureingaben ausführt. Anders als feste Koordinaten lernt er abstrakte Konzepte, was ihn adaptiv gegenüber Software-Updates macht.
Stufe 0 sind einfache Chatbots mit vorgefertigten Antworten. Stufe 1 greift auf Datenquellen zu und antwortet natürlich. Stufe 2 ermöglicht einfache Aufgabenausführung. Stufe 3 und 4 umfassen komplexe Orchestrierung mit mehreren Expertenagenten, die autonom zusammenarbeiten.
Die Genauigkeit liegt bei etwa 93 Prozent, sodass die restlichen 7 Prozent manuell validiert werden müssen. Ein Mensch bleibt erforderlich, um Fehler zu korrigieren und die Verantwortung zu übernehmen.
Große Konzerne greifen oft direkt zu komplexen Orchestrierungen, während kleine und mittlere Unternehmen (KMU) häufiger mit Wissensagenten beginnen. Viele Kunden wissen jedoch nicht, wo sie ansetzen sollen, und benötigen zunächst eine Beratung zur Identifikation geeigneter Prozesse.
Baukastensysteme wie die Pre-Build AI Apps von Reply bieten wiederverwendbare Templates für häufige Agententypen. Sie sparen Zeit, da Unternehmen nicht bei Null anfangen müssen, und können mit eigenen Daten angepasst werden.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.