Wie baut man eine KI, wenn man keine Milliarde hat?

# ARD Sounds # # ARD Sounds # Marie, hast du zufällig grade eine Milliarde Euro für mich? Nee, ich kann, weiß ich nicht. Eine Milliarde irgendwas aufzutreiben. Wir sind sehr schwierig, ich glaube, ich bin mir leid. Alles andere gerne. Das Problem ist, wir bräuchten eigentlich ungefähr eine Milliarde. Und ehrlich gesagt noch einiges mehr, denn wenn wir uns anschauen, wie viel das Training eines einzelnen großen KI-Modells kostet. Wir reden über die ganz großen, wir reden über die neuen Modelle von Clote, von GPT, Gemini und so weiter. Es ist fast unmöglich zu sagen, wie viel die tatsächlich kosten. Aber Schätzungen zufolge von Epoch AI, das ist ein kleines Research-Institut, die ich damit beschäftigen, könnte das ungefähr mittlerweile eine Milliarde US-Dollar betragen. Und da reden wir über das Training von einem einzigen Modell. Und die großen Labore, OpenAI, Enttropic, Google und so weiter, die geben mittlerweile 10 bis 20 Milliarden Dollar im Jahr. Einfach nur aus für Entwicklung, Forschung und natürlich die umfassbare Rechenpower für ihre Modell-Training. Ja, also. Mach du und ich, dass nicht so bald der KI-Podcast wird nicht sein eigenes Modell ausbringen. Ihr findet den Spendenlink in den schon aus. Ja. Aber es gibt natürlich auch Ansätze, dass man trotzdem bei KI weiterkommt, ohne jetzt diese Riesenbeträge und Geldbündel rumzuschieben. Und zwar gibt es die auch in Deutschland. Ja, und zwar allein letzte Woche. Haben wir da wieder einige spannende neue Entwicklungen gesehen in Deutschland, aber auch in China. Auf der ganzen Welt werden gerade neue Methoden erprobt, um große KI-Modelle herzustellen. Und weil wir in eigentlich. Seit langer nicht mehr so ausführlich darüber gesprochen haben, wie eigentlich so eine große KI entsteht. Wir reden die ganze Zeit darüber, was die machen, wie die sich verhalten, wie wir mit denen arbeiten. Aber wie man sie eigentlich baut, darüber weniger. Warum soll es heute gehen? Wir haben dafür auch mit einigen interessanten Experten aus Deutschland gesprochen. Wir reden heute drüber, welche Schritte braucht man, um eine KI zu trainieren. Wo kann man Klugerebgürzungen finden? Und wie sieht das konkret auch bei dem aktuellen deutschen Modell so viel aus? Und was leit mir daraus für die Zukunft ab? Für die Zukunft von Europa, von Deutschland und von der Frontier der KI? Ihr hat den KI-Podcast, ich bin Marie Kielk. Und ich bin der immer noch quasi nicht so reiche Krieg, oder Schmalschmalschmalschmied. So, Krieger, du hast dir ein Kochrezept angeschaut, beziehungsweise ich glaube, du hast sehr viele Kochbücher gewählt, um jetzt hier am Ende einen Rezept mitzubringen, mit ein paar Schritten. Wie kommt man von "Ich hab ein bisschen Geld" und ein paar Klugeläute zu? Ich hab 'ne richtig Klugel KI gebaut. Ja, ich glaube, damit wir verstehen, welche Tricks angewendet werden, wo gerade die Innovation passiert, müssen wir uns einmal anschauen, wie eigentlich der Basisweg aussieht, um so eine große KI zu trainieren. Also was ist sozusagen der klassische Lehrbuchweg eigentlich? Das ist natürlich eine technisch sehr anspruchsvolle Sache. Also, wir werden das jetzt ziemlich runterdampfen. Wir werden nicht über, beispielsweise, die Unterschiede sprechen zwischen "Mit Training" und "Continued Pre-Training" und über die verschiedenen Arten von "Fine Tuning", und so weiter. Also, das ist das nicht. Wir haben das Ganze ein bisschen runtergebrochen auf die wichtigsten Schritte, sag ich mal. Und der erste Schritt, da wird noch gar nichts groß getarnt trainiert. Da wird noch gar nicht wirklich mit Daten gearbeitet. Der erste Schritt ist es einfach ein bisschen zu entscheiden, was für ein Modell will ich eigentlich. Also welche Architektur will ich eigentlich für mein Sprachmodell? Da gibt es einerseits immer wieder spannende neue Ideen. Andererseits auch sehr viel, was einfach seit 2017, seit 2019, seit 2020, einfach sich bewährt hat und wo man vielleicht noch gucken, wo kann ich hier und da was optimieren, aber schon einiges so Standardarchitektur nimmt. Ich glaube, haben bestimmt schon mal über den Transformer gesprochen. Es ist das Tee in Chat GBT. Und das ist zum Beispiel, was. Wo man hier und da natürlich guckt, kann man es optimieren. Aber was einfach immer noch jahre nach der Erfindung gut funktioniert und wo viele, das dann auch einfach auswählen. Genau. Und dann ganz andere Aspekte, beispielsweise Mixed of Experts. Es ist so ein Begriff da. Da handelt es sich um KI-Modelle, die sozusagen nicht einfach die komplette Maschine anschmeißen, für jede Frage, sondern bestimmte Experten unter Modelle haben, die dann im bestimmten Bereich besonders gut sind. Also beispielsweise in Mathematik, dann hat man den Experten, Anführungszeichen, Formate und kann so ein bisschen effizienter werden. Also das ist die Architekturfrage. Dann sagen wir mal, wir haben unsere Architekturfrage gelöst, was allein schon. Wir haben das jetzt schnell abgefrüchtigt. Weil ein Dastauert wahrscheinlich eine ganze Meille. Dann geht es um die Daten. Also um die Beschaffung der Daten und das zu verwandeln in Trainingsmaterial, kennt man mittlerweile eine Bücher, das gesamte Internet, aber mittlerweile auch immer öfter lizenzielte Daten, die man extra da vereinkauft. So, das wäre Schritt 2. Und dann kommen wir erst zum Training. Also das Training der KI-S. Also das ist der Moment, in dem die KI eigentlich entsteht, könnte man sagen. Wir fangen eigentlich an mit einer Art leeren Hülle. Das wäre dann die Architektur. Und die befüllen wir jetzt mit diesen Daten. Und was dann passiert ist, dass per Deep Learning aus diesen Daten Ableitungen gezogen werden. Und das sind viele Schritte. Das ist ein ziemlich komplizierter Prozess, dieses Training, das Modell ist, aber es ist im Wesentlichen eben der dritte Schritt. Ich steige mir das eigentlich gerade so vor, wie auf einer Baustelle. Du hast den Baubland, die Architektur, dann beschaffst du dir dein ganzes Material. Und dann fängst du einfach mit dem Fundament an. Du gehst erst mal die erste Schicht Material unten rein, damit du was hast, du aufbauen kannst. Genau, so ist das. Und dann, wenn wir unser Modell trainiert haben, das ist auch der oft kostenaufwendigste Teil, weil man, je nachdem, wie groß das Modell werden soll, einfach sehr viele Daten braucht, sehr lange, sehr viele Rechnerrechnen müssen dafür, dann haben wir noch alles was, ich sag mal, Post Training ist, also alles was nach dem eigentlichen Training passiert. Weil wenn so ein Modell aus dem Training rauskommt, dann ist es noch kein Chatbot beispielsweise. Diese Modelle sind ja darauf erst mal aus, das nächste Wort vorher zu sagen, also Sätze zu vervollständigen. Das wäre aber am Alltag nicht so nöllig hilfreich, weil wenn ich dann beispielsweise Chat-Ship-D-Fragen würde, welcher Tag es heute, dann würde es wahrscheinlich gar nicht antworten, sondern das würde einfach eine andere Frage stellen, weil es denkt, okay, wir stellen gerade Fragen, ich steige jetzt auch eine Frage. Das heißt, dieses Post Training und viele andere Schritte, die da passieren, auch das Reinforcement Learning, sind dafür da, um eine, ich sag mal, Rohr, KI, etwas, was noch nicht wirklich in die richtige Form passt, in etwas zu verwandeln, was wir Menschen tatsächlich benutzen können und was für uns hilfreich ist. Genau, weil du gerade Reinforcement Learning sagst, man hat also Neuronanles Netzwerk gebaut und da kann man dann noch hier und da an diesem Netz so ein bisschen ziehen und sagen, wenn ich hier noch ein bisschen nach links schraube und dann noch ein bisschen nach rechts schraube, dann kann ich die Dinge verstärken. Also Reinforßen, die ich haben möchte. Zum Beispielen freundlich es verhalten. Zum Beispiel das Verhalten, dass ich eine Antwort gebe, wenn mir jemand eine Frage stellt, und ich einfach irgendwelche weiteren Wörter sage. Genau. Und dieses Phänomen, dass sich viele der KI-Modelle ein bisschen unterscheiden, auch in der Art und Weise, wie sie sich anfühlen, wie sie antworten, das kommt in der Regel aus diesem Schritt der KI-Entwicklung, weil die Datensätze unterscheiden sich mittlerweile gar nicht mehr so sehr und die Architekturen unterscheiden sich auch nicht mehr so wahnsinnig. Ganz viel von den Unterschieden und auch den Webwöbsvorteilen kommt mittlerweile aus dem letzten Schritt, also einfach aus dem, wenn ich jetzt diese Roh, dieses Rohmodell habe, diese Roh KI, wie soll die sich verhalten, was für Domänenwissen hat, die vielleicht auch. Also beispielsweise, wenn man sehr viele menschliche Experten in einem bestimmten Bereich mit dieser KI erst mal üben lässt und die geben dann der KI Feedback, dann wird sie auch noch mal besser. Also dieser Prozess ist der, wo gerade wahrscheinlich der größte Unterschied eigentlich aufgemacht wird zwischen den Modellen. Ja, also wir entscheiden uns für eine Architektur. Besammeln die Daten, wir machen so einen Grundtraining, bauen das Grundgerüst und dann kommen noch mal Schichten um Schichten, je nachdem wie viel Geld man hat, wie viel Zeit man hat, wie viele Ideen man hat, kommen dann noch mal Schichten drüber, bis wir am Ende den Chatbot bekommen, der somit uns redet, wie wir es gewöhnt sind. So und diese ganze Pipeline, also dieses komplette Kochrezept, das ist natürlich wirklich ziemlich teuer. Also wenn ich jetzt wirklich jeden einzelnen Schritt von null auf versuchen würde durchzuführen, das wäre wahrscheinlich noch um einiges teurer, als das, was die großen KI-Laborer dafür bezahlen, weil die profitieren jetzt zumindest davon, dass sie es schon ein paar mal gemacht haben. Die müssen jetzt nicht jedes Mal ihre Architektur neu erfinden und nutzen mittlerweile auch ihre stärksten KI-Modelle natürlich auch zur Unterstützung, um neue KI-Modelle zu trainieren. Das bedeutet, wenn man jetzt gerade, wie wir jetzt, ja, wir haben vielleicht jetzt keine Milliard, aber wir wollen jetzt mal überlegen, wir haben jetzt hier unser KI-Podcast-Labor aufgemacht, wie gehen wir jetzt schlau vor, wenn wir ein neues KI-Modell bauen wollen? Wir würden wahrscheinlich nicht einfach jeden einzelnen dieser Schritte durchgehen, Marie, sondern was würden wir wahrscheinlich machen? Du musst ja nicht immer das Rat neu erfinden. Es gibt viele Dinge, auf die man aufbauen kann, wo man quasi gucken kann. Wer hat die beste Architektur zurzeit, kann nicht die nehmen. Und damit anfangen. Oder gibt es schon jemand, der einen tollen Datensatz veröffentlicht hat. Und ich habe vielleicht eine Idee, aber ich fange nicht von null an, die ganzen Daten zusammen. Ich kann quasi auf jeden von diesen Schritten gucken. Und mir überlegen, kann ich hier was verbessern, kann ich da was klauen. Marie, wir haben verschiedene Wege gefunden, identifiziert dafür. Und der erste Weg, den wir hier gefunden haben, ist einer, der von allen hier würde ich sagen, das schlechteste Image hat. Kann man das sagen? - Ja. Das ist das, was man tatsächlich vor allem den chinesischen Labs viel vorwürft. Das aber hat natürlich total verkürzt in der Tabatte ist. Der Vorwurf ist einfach abschreiben und in der. der KI-Welt heißt das ein bisschen freundlicher, weniger schummelig destilieren. Destilieren ist eigentlich gar nicht so schlecht wie sein Ruf, sondern es ist einigen Klugeransatz, nämlich, dass ich sage, wenn wir ein gutes Modell haben, dann kann ich dieses große tolle Modell nutzen, um damit mein kleineres Modell zu trainieren. Also ich kann dieses Modell benutzen, um synthetische Daten zu bekommen. Ich kann die Fragen und Antworten von dem großen Modell, dass ja schon gute Fragen und von dem großen Modell, dass ja schon gute Antworten auf die Fragen gibt, einfach verwenden. Und das ist dann die Grundlage für mein eigenes Modell. So wie ich aus einem Wein halt den Krabbar machen kann. Ist das so? - Ja, oder? Mach man das so. Ich destiliere halt was. Ich glaube, Wein ist schon destiliert, weil es ja Alkohol ist, aber ich glaube, der Punkt ist, wir haben auf der einen Seite quasi vielleicht einen Lehrer oder jemanden, der einfach sehr viel Lebenserfahrung vielleicht hat. Und ich habe jetzt als junger Spund und Schützling den Vorteil, ich muss jetzt nicht selber gegen den Beeren kämpfen, um rauszufinden, wie ich den Besiegel, sondern ich kann mir erzählen lassen, wie das funktioniert, weil da ist jemand, der hat das alles schon erlebt, der kennt sich aus, der kann mir einfach die Informationen geben, ohne dass ich selber diesen komplexen, aufwendigen Trainingsprozess durchmachen muss. Wie mein Meister Harald beim Kung Fu, der hat schon mehr gekämpft, als ich nicht überlegen, linke Hand rechterhand, sondern der kann mir das vielleicht sagen, was er empfehlen würde. Also man muss sich das wirklich so vorstellen, da sitzt jemand, sondern das sind natürlich auch automatisierte Systeme und stellt einfach alle Fragen, die man so hat, alle Fragen, die man vielleicht gerne in seinem KI-Modell möglichst gut beantwortet haben möchte, an ein KI-Modell, was das ganz gut beantwortet und anstatt, dass man selber den komplizierten Weg geht, von ich trainiere quasi selber ein Modell, damit es von alleine so schlau wird, schreibe ich einfach ab, beim Klassenbesten und versuche, halt so ein Modell hinzubekommen. Man wird halt nie ein besseres Modell hinbekommen, auf die Art und Weise. Und auch ehrlich gesagt, nie ein Modell, was genauso gut ist, weil beim Abschreiben geht ja immer irgendwas verloren. Aber man kann, wenn man es schlau anstellt, schon auch ganz gute Ergebnisse damit erzeugen. Es gab auch so witzige Momente, wo es dann passiert ist, wenn man klut, zum Beispiel auf chinesisch gefragt hat, sich selber zu beschreiben, hat er manchmal gesagt, "Mein Name ist Deepseek", und genauso ist es bei Grog auch passiert, also bei dem amerikanischen Modell, das hat sich auch mal versehentlich als Gemini bezeichnet. Das sind keine Beweise, dafür, dass die Distillation passiert ist. Aber man fragt sich ja schon, wie dieses Selbstverständnis in die Training starten kommt. Das Grog dann heißt, das ist Gemini heißt. Ja, das könnte natürlich auch aus versehnen passieren, weil diese KI-S halt internet beispielsweise andere Chatverläufe gelesen haben, von anderen Chatbots und dann da durcheinander gekommen sind. Aber was das natürlich auch zeigt, ist, dass das nicht nur ein Vorwurf ist, der jetzt den chinesischen Laboren gemacht wird. Also auch die amerikanischen Laborer werden immer wieder beschuldig, dass sie distillieren. Die Laborer werfen sich das auch gerne gegenseitig vor. Und das ist auch eine der Gründe, weshalb beispielsweise klot so strenge Sicherheitsvorkehrungen hat mittlerweile. Es ist nicht nur, weil man Angst hat, dass da möglicherweise jemand besonders gutes Cyberwaffel damit herstellt oder was ein weißes Computer wieherin verschickt. Es hat schon auch damit zu tun, dass Enttropic nicht möchte, dass andere Unternehmen, ob jetzt in den USA oder in China oder sonst wo, dass eigene Modell runterdästillieren und daraus ihr eigenes Ding machen. Ja, es gilt eigentlich als Gang und Geber, dass alle im Kreis voneinander abschreiben. Und Neulich stand ja auch Sam Oldman und Elon Musk vorgerichtet. Elon Musk musste dann vorgericht auch zugeben, dass er distilliert hat oder das sei ein KI-Labor, distilliert hat. Und hat aber auch gesagt, das machen eigentlich alle. Und das sollte man ihm nicht vorwerfen. Ja, das heißt natürlich auch in dem Fall nicht, dass man sonst gar nichts mehr macht. Also die Modelle, wenn natürlich immer noch aufwendig trainiert und es gibt immer noch Daten, Pipelines und so weiter. Aber wenn das quasi ein kleiner Faktor ist, mit dem man sich einen kleinen Vorsprung verschaffen kann, gegenüber der Konkurrenz, dann da ist so viel Geld drin, da geht es um so viel, dann wird das natürlich auch gerne als Entschuldigung hergenommen. Es übrigens auch ein besonderes Thema bei Open Source Modellen, weil Cloth und TouchyPity und so weiter sind ja geschlossene Modelle. Das bedeutet, ich kann die quasi nur distillieren, indem ich über den offiziellen Weg sozusagen gehe. Das kann man dann auch versuchen zu unterbinden. Bei den Open Source Modellen, oder da kommen wir vielleicht dann dazu streng genommen, den Open Wades Modellen, also Modelle, die ich einfach runterladen kann und auf meinem eigenen Server betreiben, ohne dass ich den Anbieter dafür brauche. Da geht es natürlich noch viel besser, weil dem kann ich natürlich so viele Fragen stellen, wie ich will. Und auch das ist ganz interessant, weil die chinesischen Unternehmen, die KI herstellen, die haben das bisher größtenteils offens Verfügung gestellt. Also Alibaba zum Beispiel oder Deepseek, ja, das sind Modelle, die kann ich ziemlich frei nutzen. Auch das neue Kimi K3 kam jetzt letzte Woche raus. Es ist wohl sehr gut. Es ist ein offenes Modell. Das lässt sich natürlich dann besonders gut auch kopieren, wenn ich möchte. Allerdings ist ein bisschen die Frage, wie lang das noch so bleibt. Denn es gab auch vor zwei Wochen ein Bericht von Reuters. Das, icherweise die Regierung in China darüber nachdenkt, ob sie nicht auch ein bisschen den Fall abschreiben wollen bei der Politik der Trump-Regierung, die ja versucht, die besonders starken KI-Modelle eher in Amerika zu halten. Und dafür zu sorgen, dass sie weniger breit nach außen getragen werden. Und das könnte möglicherweise auch in China früher oder später passieren. Also zumindest denkt man da wohl über eine solche Strategie nach. Ja, also vielleicht ist auch China der Ware. Ich habe jetzt auch Leute gesehen, die gesagt haben, die chinesen Dostillieren jetzt langsam Modelle, die wir noch nicht mal erfunden haben. Ja, dann müssen wir jetzt aber ran. Wir müssen ein paar neue Modelle erfinden, weil diese Desteilierung ist sicherlich ein Faktor, aber es ist natürlich nicht der einzige Faktor. Ich würde jetzt auch die Psyg und so, selbst wenn da Desteilierungen passiert, unrecht, indem man sagen würde, die haben einfach nur abgeschrieben. Sondern da ist natürlich auch technische Innovation mit dabei. Deswegen gehen wir mal weg von der Desteilierung als großes Thema und zu zur weiten großen Möglichkeit, wie wir ein eigenes KI-Modell bauen, was trotzdem vielleicht hilfreich ist, ja, von dem wir was haben, aber was nicht ein unfassbar riesiges Stangegeld kostet, wo ich keine Dagobatt-Dack-Geld-Speicher für brauche. Wie sieht das aus? Ich muss überlegen, was ist ein stärkes Modell? Und vielleicht ist ein stärkes Modell ja gar nicht unbedingt das, was am größten ist, was die aller meiste Firepower hat. Sondern vielleicht ist es einfach nur eins, was genau den Job macht, den ich von ihm brauche, aber halt nicht mehr als das. Das wird auch gerade im Kontext von agentischer, werdenden Modellen viel diskutiert. Weil wenn ich mir vorstelle, ich habe einfach eine große, lange Pipeline, wo verschiedene KI-Verschiedene Dinge machen sollen, dann macht es vielleicht auch wirklich Sinn, dass ich jedes Mal ein riesen Modell anschmeiße, was total viel Energie braucht, weil ich auch gerade an der Stelle vielleicht genau weiß, "Ad dieses Modell soll ja nur eine E-Mail schreiben" oder "Dieses Modell soll nur eine Exzeltabelle auswerten". Wenn es eine Fußballmannschaft wäre, dann sage ich ja auch nicht, wir haben einfach einen Topspieler, und der muss nach vorne sprinten und Köpfen und nach hinten sprinten und den Ball im Tor halten. Und dann muss er wieder in die Mittelsprinden, sondern du überlegst ja auch, wir haben einen spezialisierten Torwart und ich überlege eher, wie ich meine Mannschaft klug zusammenstellen. Genau, also dann geht es um die Taktik ein bisschen. Es geht um die Okestrierung vielleicht auch, oder darum, wie spielen diese verschiedenen Spieler zusammen. Und auf diesen Ansatz setzen viele der etwas kleineren KI-Laborer. Die setzen da einmal natürlich drauf, weil sie vielleicht auch einmal nicht das Geld haben, was Google und OpenAI haben, um so Riesenteile zu trainieren. Die müssen irgendwie was anderes machen, was kreatives. Aber vielleicht haben sie ja recht. Also eines dieser Unternehmen, was beispielsweise auf einen anderen Ansatz setzt, ist Mistral. Das ist so das größte europäische KI-Labor, die wirklich eigene KI-Modelle herstellen. Die muss man sagen, haben sich eigentlich aus dem Rennen der ganz großen Frontiermodelle mittlerweile zurückgezogen. Die sind hinten dran. Die schaffen das auch ehrlich gesagt nicht. Die hätten gar nicht die Mittel dazu, um mitzuhalten mit einem GPT-5, mit einem Cloth-Fable und so weiter. Das geht nicht. Die sagen, stattdessen wir machen was anderes, wir versuchen nicht, das Beste KI-Modell zu bauen, sondern ein Modell, was vielleicht kleiner ist und an sich weniger smart. Aber was dafür besonders gut anpasbar ist. Also es gab ja in unserer Pipeline wir vorhin gesehen haben. Ja, vier Schritte, ja. Es gab ja Vorbereitung, Daten, Training und am Ende Post-Training. Also die Anpassung letztlich. Und gerade in diesem Anpassungsschritt kann man ja total viel machen, indem man zum Beispiel sagt, dass wir versuchen das Beste Modell für die gesamte Welt zu bauen, was jeder perfekt benutzen kann. Versuchen wir vielleicht eine bestimmte Industrie damit glücklich zu machen. Oder auch nur ein einziges Unternehmen. Und dieses eine Unternehmen hat an seiner eigene KI, die perfekt auf es zugeschnitten ist, die sich genau auskennt, im Jagann, die sich genau auskennt, in den Betriebsabläufen, die sich genau auskennt, in dem ganzen Wissen, was das Unternehmen über vielleicht Jahrzehnte angesammelt hat. Und dann vielleicht auch eine Performance-Lieferd, mit der das Großalgemeine Modell nicht mithalten könnte. Das ist im Liegelbereich, zum Beispiel, schon passiert. Da gibt's viele Modelle, die absichtlich mit Liegeldaten, mit Urteilen, mit Paragrafen trainiert wurden und besonders spezialisiert darauf sein sollen. Banken ist natürlich noch so ein typisches Ding. Da passiert gerade ganz viel, dass auch viele große Banken oder Investmentfirmen überlegen, "Okay, was machen eigentlich unsere Investment-Experten, wie kommen die zu Entscheidungen und können wir das nach KI beibringen, Beratungen, Kanzlein und so weiter?" Und Miram Murati, die man vielleicht noch kennen, aus dem ganzen OpenAI-Drama, die war früher mal die Techchefin von OpenAI und dann das Unternehmen verlassen es eigentlich, das ist eine superprominente Figur in der KI-Welt. Die hat mittlerweile auch ihr eigenes KI-Labor. Und die setzt auch darauf, eben diese Basis-Modelle zur Verfügung zu stellen. Also die sagen ganz offen auch in ihren Dokumenten, das gerade wieder was rausgekommen. Die sagen, wir sind nicht das Bastemodellen, wir sind nicht das günstigste, das Kleinste. Gewinn in keiner Kategorie, in Platz 1. Aber wir sind einfach super gut in der Mitte. Wir wollen die Basis schaffen, auf der alle anderen aufbauen können. Und zwar auch nicht nur mit dem Modell, sondern auch in dem sie die Tools drum rumbereitstellen, in dem sie in den Plattformen bereitstellen. Wenn du jetzt 'ne Kanzlei hättest und dein eigenes Modell mit deinem tollen Expertenwissen trainieren willst, wenn's 'ne sehr große Kanzlei wär mit sehr viel Expertenwissen, dann könntest du vielleicht darauf aufbauen. Und das wäre dann der Vorteil von Miramuratis unternehmen, wenn er liefert. Das ist natürlich 'ne Wette. Wir wissen nicht, ob das tatsächlich dann am Ende so ist. Bis lang muss man sagen, war es eher so, dass die großen Modelle, die kleineren Eher immer noch geschlagen haben. Das kann sich jeden Moment ändern. Theoretisch, ja, wir können nicht in die Zukunft sehen. In der Vergangenheit hat das erstaunlich gut funktioniert. Einfach über Masse, über einfach Größe. Und die meisten Daten, die meisten rechten Power und so weiter. Die Ergebnisse immer besser zu machen, sehen wir jetzt auch wieder beim Thema Reasoning, also die länger manne KI arbeiten lässt, desto besser wird das Ergebnis auch da gewinnt. Die Größe gerade gegen die Spezialisierung. Trotzdem gibt's einige Unternehmen, die darauf setzen, dass ich das noch ändert. Und gerade in Europa fenden wir das natürlich gar nicht schlecht. Denn gerade in Europa tun wir uns schwer dabei, mit zu halten, mit den ganz großen Modellen, weil uns die Mittelfählen, die Rechen-Power-Feel, das Geld, alles fehlt eigentlich. Wir haben eigentlich im Moment keinen realistischen Weg, selber so ein Frontiermodell auf die Beine zu stellen. Aber vielleicht schaffen wir es ja, in diesem Rennen der spezialisierten Modelle mitzuhalten. Und damit sind wir beim nächsten Punkt, über den wir sprechen wollten, nämlich das deutsche Modell Sophie. Sophie, ist SOO, OFI. Haben wir gelernt, wird ausgesprochen, ein bisschen wie der Name aber nicht genau. Wir haben in München trainiert, auf dem Telekom, KI-Klassag, quasi gekühlt mit Eisbachwasser. Deswegen finde ich, dass man eigentlich auch so ein bisschen Bayerischer Sophie dazu sagen. Oh, das finde ich schön, ja. Dann wer es jetzt Sophie. Das ist eine Nachricht, die mich total gut geläunt gemacht hat, mit vielleicht einem kleinen Sternchen, über das wir gleich noch sprechen. Aber in meiner Babel ist das total rumgegangen, als wow, endlich mal eine gute Nachricht aus Deutschland, aus München. Das mit relativ wenig Geld in relativ kurzer Zeit meine richtig gutes Modell trainiert wurden. Natürlich kein Weltklassemodell, aber was dafür und der Welchen Bedingungen des Entstanden ist, ein wirklich gutes Ergebnis ist. Genau, über die Bedingungen sprechen wir gleich. Es ist ein sehr interessantes Projekt. Und mit zwei der Leute hinter diesem Modell haben wir vor dieser Sendung gesprochen. Und zwar mit Mediali und mit Michael Form. Die sind beide Form Frauenhofer Institut vor Intelligent Analysis and Information Systems. EAS geht uns alle über die Lippen. Die waren mit verantwortlich für dieses Modell. Das war ein großes Konsortium. Da war auch das die FKI des Deutsche Forschungszentrum verkünstliche Intelligenz dabei. Es waren Unis dabei, es waren Startups dabei, es wurde finanziert vom Bundeswirtschaftsministerium. Also, es ist schon eine größere Geschichte, die da unterwegs war. Und wir wollten natürlich auch von Mediali und Michael Form wissen, warum bauen die das jetzt? Also, wenn sie mich mithalten können mit den ganz großen, was ist der Sinn hinter diesem Projekt? Und das hat Mediali uns erzählt. Und es bewusst, dass diese Modell jetzt nicht auf Augenhöse mit kluten OpenAI, muss man auch berücksichtigen, quasi alle haben einen kleinen angefangen. Und die Frage ist, wann wir genau das nachkochen. Was vorhanden ist? Das sehen wir nicht so, müssen wir mit den Möglichkeiten, die wir hier in Europa haben. Was können wir machen? Und großen Schatz, denn wir haben halt Daten, spezialiser Eterdaten, Industriedaten. So, das sind wir wieder bei den Daten, die wir gerade schon gesprochen haben. Und das finde ich jetzt so spannend. Also, wir haben ja unsere vier Schritte gehabt. Architektur, Daten, Training und am Schluss die genauer Anpassung so. Und eine der Methoden, die die jetzt eben benutzt haben, bei diesem Sophie-Modell, war es, sich schlau zu überlegen, an welchen Stellen wird es sich nicht lohnen, groß, Ressourcen einzustecken. Und die Architektur, also der erste Schritt, war zum Beispiel einer davon. Also, die Architektur ist praktisch komplett übernommen von einer offenen Architektur, die bei Nvidia entwickelt wurde. Das heißt nicht, dass man einfach die Modelle von Nvidia übernommen hat, aber man hat sozusagen den Bauplan übernommen. Und die dann aber gefüllt mit eigenen Daten. Also, die haben ganz viel Mühe sich gegeben, bei der Einarbeitung, spezieller Trainingstaten, gerade auch Deutschsprachertrainingsdaten, damit auch ein Modell, was nicht so wahnsinnig groß ist. Das ist halt ungefähr 30 Milliarden Parameter. Das ist jetzt im KI-Bereich nicht riesig, es ist auch nicht winzig, ja. Also, für so ein offenes öffentliches Modell ist es relativ groß, aber es ist jetzt nicht groß, groß. Haben die doch eine ganze Menge Daten da reinbekommen. Und das ist dann schon ziemlich interessant. Da haben sie auch das Training durchgeführt. Aber was sie beispielsweise auch nicht gemacht haben, war das ganze Posttraining. Also dieses Modell, wie es jetzt existiert, das wird als Chatbot nicht wirklich funktionieren, weil es nicht dafür gebaut ist bisher. Also man hat gesagt, Architektur sparen wir uns, Posttraining sparen wir uns. Wir setzen alle unsere Aufmerksamkeit auf die Daten auf das eigentliche Training selber. Ja, und es ist jetzt eine gute Grundlage auf die andere aufbauen können, auch weil dieses ganze Projekt wirklich Open Source ist. Wir sprechen im KI-Bereich oft von Open Source und meinen eigentlich nicht, dass alles wirklich offen ist, sondern nur, dass das Modell zum Beispiel heruntergeladen werden kann. Das ist dieser Open Wates-Begriff. Für dieses Projekt hat das Team wirklich alles offen gelegt. Also, du kannst genau nachgucken, wie die Architektur aussieht. Du kannst genau gucken, wo die Daten herkommen, du kannst genau sehen, wie die Daten gewichtet wurden. Und das ist halt auch was, wo die ganze Community total draußen lernen kann. Und das halt auch einfach mit, das du schon sagen, deutlich weniger Ressourcen als beispielsweise in den USA zur Verfügung stehen. Und Mediali hat uns auch erzählt, dass das entsprechend mit ziemlicher Herausforderung war für das Team. Die Kolleginnen und Kollegen, die daran beteiligt waren, die hatten teilweise kurze Nächte. Wenn man sich vorstellen kann, so ein Klaster ist sehr komplex, und ein Training über mehrere 100.000 GPUs bis 1000 GPUs ist. Auch im Komplexes unterfangen. Und da kann schnell was schiefgehen, eine GPU fällt aus. Oder das Training wird instabil. Deswegen muss ich sagen, was das Team da geleistet hat, war unglaublich. Und mit der Team größer. Also, man kann das ein bisschen vorstellen, wenn wir jetzt bisher mitten in der WM, wenn wir jetzt Fußball spielen, wir treten halt mit acht Mann an gegen 11 Mann. Ja, es ist schon ein bisschen der Anderdock-Situation. Gerade war man das vergleicht, mit dem, was die großen KI-Labs da zur Verfügung haben. Und dann sind irgendwann die Daten da. Das hat auch wohl relativ lang gedauert, weil wir reden über Peter-Balt-Daten. Und es gab gar nicht ewig Zeit, die jetzt alle an den richtigen Ort zu holen. Dann waren sie endlich da, dann ging's ans eigentliche Training. Also der teilt ja auch das meiste Geld kostet, wo natürlich jetzt nicht eine Milliarde, aber ein paar Millionen dürften es schon sein, auf einmal auf dem Spiel stehen. Und es geht ans Training. Man hat genau einen Versuch. Und der muss sitzen. Und deswegen kann man da halt jetzt nicht viel rum experimentieren und setzt dann auf bestehende und etablierter Rezepte. Klar, wenn jetzt zwischen euch etwas schief geht, passiert uns auch an irgendwelche Instabilität im Training auftreten. Dann kann man Teil des Trainings wiederholen. Die Spanne, in der man Sachen wiederholen kann, ist sehr, sehr minimal. Ja, also spannende Sache, richtig cool, was da auch mit einem Team von 20 Leuten auf die Beine gestellt wird. Wo wir genau wissen, dass in den USA hunderte 1.000 Leute in diesen Firmen arbeiten viel mehr Leute, da die Daten zusammen tragen. Und in diesem Fall hat Michael uns erzählt, nur drei Leute in Vollzeit, die die ganzen Daten zusammengebracht haben. Aber es gab auch einen kleinen Wermutstropfen, diese Woche. Ich hab gesagt, das war eigentlich eine gut gelaunte, schöne Geschichte. Es gab so ein paar Stunden, wo es ein bisschen Zweifel gab. Und zwar ist wohl ein Fehler passiert beim Sammeln der Daten, die dann in das Training gefloßen sind. Weil die Wagen ja schon ziemlich gut. Also, gibt mir immer diese Benchmark-Tests, in denen man quasi einer KI einen komplizierten Test gibt und schaut, wie schneidet die ab gegen andere Modelle. Und das wäre jetzt die Moment auch nicht fair, dass man das Modell vergleicht mit so etwas wie "Klod 5", weil "Klod 5" ist einfach ein riesiges Modell. Es ist in der völlig anderen Klasse, in anderen Gewichtsklasse quasi. Aber im Vergleich mit anderen Modellen der gleichen Größe und die auch komplett offen waren, hat das Modell tatsächlich sehr gut abgeschnitten, wenn ich gar am allerbesten in seiner Kategorie. Ja. Und was bei Sophie dann aber jetzt leider passiert ist, ist, dass jemand entdeckt hat. Moment mal, ihr hatte ja die Lösungen für einen von diesen Tests in den Trainingstatten. Ich vereinfacher das ein bisschen, weil natürlich hat man in Trainingstatten Lösungen drin. Aber man muss das normalerweise beim KI-Modell-Training sehr gut trennen. - Ja. Und die Tests, die man dann am Ende benutzt, um die Modelle zu vergleichen, die sollen ja unabhängig sein. Das wäre ja unfair, wenn man dann sagt, die einen hatten die Lösungen drin und dann. Es ist eigentlich, wie wenn ich die Schulaufgabe bekomme, bevor ich die Schulaufgabe beschreiben muss. Und mein großer Bruder hat mir da vom letzten Jahr das Test Ergebnis gegeben. Du musst eigentlich das sehr stark getrennt halten, was sind die Tests, auf denen dann auch wirklich bewertet wird und was ist das, was du im Training benutzen darf, um dem Modell beizubringen, auf diese und jene Art, wirst du später abgefragt werden. Ist natürlich jetzt auch für uns ein bisschen schwierig, dass jetzt entsprechend einzuschätzen, auch weil man dieses Modell noch nicht frei testen kann, ist ehrlich gesagt auch für die Privatgebrauch nicht wirklich testbar. Was es bedeutet ist, es ist schwer, einzuschätzen, wie gut es ist, dass es Modell eigentlich tatsächlich ist. Michael Fromm und Mediali sagen, es ist ein Fehler. Es tut ihn auch leid. Also haben sie auch uns gesagt im Gespräch. Natürlich waren wir nicht dabei. Wir können nicht sagen, was genau vorgefallen ist beim Training. Ich würde sagen, es ist einigermaßen plausibel, dass dieser Fehler passiert ist. Und er bedeutet jetzt nicht, dass dieses komplette Training nutztlos war. Er bedeutet nur, dass eben dieser konkrete Test, der angewendet wird, um die Leistung der KI zu bewerten, erhehrlicherweise nicht anwendbar ist. Also wir können etwas schwieriger sagen, wie stark ist dieses Modell jetzt eigentlich? Genau. Und faireweise muss man natürlich sagen, so ähnliche Fehler können auch bei vielen anderen Modellen passiert sein. Nur da wüsste ich, Wenn OpenAI diese Lösungen in den Trainingsdaten drin hat, wenn ein Jobback, wenn Google diese Lösungen in den Trainingsdaten drin haben, dann erfahren wir es wahrscheinlich nie, weil eben nicht alles so offen ist. Also, ich würde sagen, der positive Dreh wäre, andere können jetzt aus diesem Fehler lernen. Und wie kritisch der Fehler wirklich ist, wie sehr der die Qualität vom Modell beeinflusst, wahrscheinlich nicht weltbewegend, aber es schon schade, dass es passiert ist. Und auch konkret beim Team von DOS-OFI, auslernen, die trainieren gerade schon ihr zweites Modell. Das soll eine etwas größere Variante werden von diesem Modell. Also, es soll weitergehen. Und das ist auf jeden Fall eine sehr gute Sache. Also, es ist gut, dass es hier Trainings gibt, dass weiter auch in Deutschland an KI-Modellen gevorst wird, weil selbst wenn jetzt Sophie oder auch das Nachfolgemodell wahrscheinlich nicht starke Nuke ist, um jetzt wirklich in den meisten Unternehmen eingesetzt werden zu können, es ist halt ein Schritt in die Richtung einer digitalen KI-Unapphängigkeit, die wir in Europa sehr sehr dringend brauchen. Und diese Unabhängigkeit besteht natürlich auch darin, dass wir einfach wissen, wie man das macht. Also wir müssen einfach verstehen, wie solche Trainings ablaufen, wir brauchen die Expertise auch hier. Und natürlich baut man die nur auf, indem man es mal anpackt. Also, was werden die Empfehlung für andere deutsche Teams oder europäische Teams? Wie geht man damit um, wenn man irgendwo ein paar Millionen herrscht? Ja, ich glaube, also für die aller wenigsten lohnt es sich, überhaupt ein eigenes KI-Modell zu trainieren. Das ist ja auch so häufig. Also viel Unternehmen fragen sich, "Hey, brauchen wir nicht unsere eigene KI?" Wahrscheinlich nicht. Wahrscheinlich braucht ihr nicht eure eigene KI wahrscheinlich. Braucht ihr aber irgendwann eine angepasste Version einer größeren KI? Das könnte auf jeden Fall passieren. Ich glaube, wir müssen als Europa da auch einfach ein bisschen agnostisch bleiben. Also wir dürfen nicht einfach so tun als Wüsten, wir sicher, was jetzt passiert und was sich am Ende lohnt. Aber eine clevere KI-Strategie, auch bei uns in Europa in Deutschland, sieht natürlich so aus, dass man sehr genau im Auge behält. Was gibt es alles schon auf dem Markt? Und anstatt, dass man sagt, okay, wir finden jetzt das Rat neu. Wir fangen bei null an. Wir versuchen jetzt eine deutsche Version von ChatGit.Git zu bauen. Pellappar GPT. Nein, das machen wir nicht, sondern wir gucken uns an, was gibt es schon? Wie funktioniert diese Architekturen? Wir entwickeln die sich auch weiter. Wo wurde die Arbeit bereits gemacht? Und wo können wir uns schlau draufsetzen, um selber ein Vorteil daraus zu ziehen? Ja, und da finde ich es auch mal einfach gezielt, in die Lücken zu gehen. Gerade wenn man sagt, uns schmeißen jetzt nicht die US-Invistoren des Geldhinterhers, sondern wir müssen es klug überlegen, wo wir unsere Ressourcen einsetzen. Dann kann man halt auch gucken, okay, was machen die anderen? Was kann ich vielleicht machen, das Klug mit den anderen Systemen zusammenarbeitet? Ich habe eine AI GapMap gefunden, also eine Kartografierung davon, wo genau diese Lücken sind. Also, dass man quasi nachgucken kann, in welchen Bereichen gibt es schon große Modelle? Und wo gibt es vielleicht auch fünf Anbieter, die dieselbe Sache machen? Und wo sind andererseits noch so ein bisschen weiße Flecken auf der Karte, wo man vielleicht reinkämen könnte? Das finde ich ganz klug. Also, gerade als Europa so zu denken, wo wir offensichtlich nicht ganz vorne dabei sind und uns auch jetzt nicht einbilden müssen, dass wir OpenAI und Unropic in den nächsten zwei Jahren easy überholen. Das heißt aber natürlich nicht, dass man nicht selber KI entwickeln soll, dass es nicht auch Vorteile haben kann, in genau diese Mitte zu gehen, diese kleinen Basismodelle trotzdem zu investieren und auch viele andere Sachen noch nebenbei zu machen im KI-Bereich. Während wir noch dabei sind, Modell für Modell zu lernen, wie wir besser KI trainieren. Marie, wir trainieren nicht nur KI-Potcast, eigentlich gesagt, wir trainieren gar keine KI-Potcast. Wir machen Dinge mit KI, jede Woche am Ende unserer Folge. Marie, was hast du letzte Woche mit KI gemacht? Ich habe tatsächlich keinen KI trainiert, aber ich habe total spannendes Thema dabei. Das ist auch ein bisschen zu unserer Folge passt. Wenn wir unsere Rezept anschauen, dann haben wir ja geändert, damit das Modell fertig geformt ist. Aber es gibt eigentlich noch was, was zur Zeit sehr viel diskutiert wird, was man aus dem Rumbau, um die KI-Modelle. Da spricht man in der KI, weil oft von einem Harnis, also einem Zaumzeug. Das ist dann die App aus dem Rum. Das ist vielleicht eine bestimmte Klugeeide, um verschiedene Modelle zusammenzuschließen und zu gucken, dass die miteinander arbeiten. Haben wir auch in unserer "wie baue ich mein perfektes KI-System" vorgedrüber gesprochen? Ja, genau. Dann ging es letztlich auch um Harnis. Also, wenn ihr Harnis irgendwo seht, dann wisst ihr, dass es quasi ein Zaumzeug, und es kannst du dem Drachen anlegen oder dem Pferd anlegen. Und je nachdem wie gutes Zaumzeug ist, macht dein Drache dann andere Sachen. Ich habe gestern ein neues Paper gefunden, was mir wirklich mal wieder keine Ahnung, die Schädeldecke weggeblastet hatte, weil es so spannend ist. Das Zaumzeug, das dieses Team aus Vorstand von unter anderem Berkeley, Carnegie Mellon University, beschreibt, heißt Schema. Schema, weil sie es nach einem Konzept von immer null Kant benannt haben. Und dieses Schema-Zaumzeug, wenn man das einem starken Modell anlegt, wie zum Beispiel dem Frontiermodell von Antropic oder von OpenAI, dann bringt das die KI angeblich dazu, 99 Prozent im Arcage-Eit-Hest zu bekommen. Ich muss kurz sagen, was ein Arcage-Eit-Hest ist. Arcage-Eit-Hest 3 vor allem auch noch. Genau. Also Arcage-Ei ist so eine Challenge, die wird seit einigen Jahren entwickelt und das möchte der schwierigste Test der Welt für KI sein. Der Test wird absichtlich so gemacht, dass KI sie nicht erreichen können. Als die Version 3 anfangen, das ja rauskam, haben die guten KI-Modellekt ab 0,0 Prozent dabei erreicht. Es ist auch super interessant, wie die der Test funktioniert. Das sind kleine Videospiele, aber komplett ohne Regeln. Für uns Menschen ist es relativ offensichtlich, was wir tun sollen, weil wir erkennen, hier ist ein kleiner brauner Fleck, das ist wahrscheinlich ein Tisch. Ich muss wahrscheinlich das Ding von da nach da tragen, weil wir das kennen, weil wir es intuitiv verstehen. Die KI verstehen das überhaupt nicht. Die tun sich total schwer, damit diese Probleme zu lösen. Man kann sich das anhand angucken, wir verlinken es auch. In den Schonorts ist es total faszinierend. Das ausgerechnet, das ist woran sich KI-Stizender ausbeißen. Weil es fühlt sich für uns Menschen überhaupt nicht schwer an. Das ist der Sinn des Testes, dass Menschen relativ gute drin sind und KI ist super schlecht. Ich glaube, wir waren Anfang des Jahres bei den besten Modellen, bei 0,0 Prozent von diesen Test. Dann kamen die neuen Starkenmodelle von OpenAi und on Drop-Bick und so raus und die erreichen dann mehr. Aber nicht viel mehr. Das ist einställig, glaube ich, immer noch Prozentzahl. Wir können sie auch noch mal die Ergebnisse unten reinhängen. Aber jetzt sehe ich da gestern dieses Paper und dann geblich erreichen die 99 Prozent mit diesem Zaumzeug. Was ist die Idee? Die Idee finde ich einfach und so klug. Also, es ist ganz frisch deswegen. Ich hoffe, es kommt nicht raus, dass dann irgendwas nicht stimmt und man dann noch mal eine Löcher reinpiegsen kann. Es ist einfach gesagt, okay, wie geht ein Mensch an dieses Problem ran? Zum Beispiel ein Physiker, der einfach eine ganz neue, unbekannte Aufgabe kriegt. Der beobachtet erst mal das Problem, dann überlegt er verschiedene Lösungsansätze, die er haben kann, diskutiert ihn ein bisschen. Und dann soll er damit spielen. Und das ist ja eigentlich das, warum wir so gute Schachcomputer haben. Weil wir einfach sagen konnten, im Training spielt eine KI dann halt eine Million oder zehn Millionen Spiele gegen sich selbst. Und nichts anderes macht dieses Zaumzeug. Also, bietet einfach nur den Prozess für egal, welches Modell du reinsteckst, dass es halt versteht. Okay, ich analysiere erst mal das Problem. Ich finde irgendwelche Regeln raus. Ich teste diese Regeln im Spiel mit mir selbst in der Realität und dann verbessere ich meinen Ansatz. Also es passt ein bisschen zu dem, über das wir vorhin gesprochen haben. In dem Fall muss das beste KI-Mode ja gar nicht noch groß angepasst werden. Es geht einfach nur darum, wie man es einsetzt, wie man es in die Anwendung bringt. Und das macht den Unterschied. Wenn sich das bewahrheitet, dieses Forschungsprojekt, das muss natürlich auch erst mal unabhängig verifiziert werden. Ja, absolut. Was hast du denn mit KI gemacht? Krieg hast du was unabhängig verifiziert? Ich habe sehr unabhängig verifiziert. Ich habe einen neuen Test gefunden. Auch so eine Art neuen Benchmarktest. Ich hab zuerst auf Twitter, auf X, hab ich jemanden gesehen, der das gemacht hat. Und ich hab das dann adaptiert für die deutsche Sprache. Und zwar ein Test, der einerseits Kreativität testet. Und das Befolgen von Anweisungen, aber andererseits auch das lösen komplexer Probleme mit sehr großen Datenmengen. So, das ist was dieser Test macht. Der Test des Folgen da. Erklär das Konzept des Podcasts, der KI Podcast, ausschließlich in Wörtern, die auch in Götesfaust auftauchen. Das ist der Test. Den hab ich Klothabel gegeben. Und GPT 5.6, dem neuen, GPT 5.6 Pro. Also das beste, was GPT aktuell zur Verfügung hat. Und das ist natürlich eine schwere Aufgabe. Weil man muss erstens verstehen, was das mit dem KI Podcast auf sich hat. Dann muss man sich den kompletten Originaltext holen. Dann musste sie sich recherchieren. Und dann den Text zusammenfassen, dass er inhaltlich stimmt, dass er grammatikadisch korrekt ist. Und das auch jedes Wort verbrieft am Ende in Götesfaust drin. So, was meinst du? Hat's funktioniert oder nicht? Bestimmt irgendwie. Ich finde, Schmals AGI sollte in die Benchmarks aufgenommen werden. Und ab jetzt ein Standard testt, weil es weit sein, bei dem neues Modell rausbringen. Faust AGI, vielleicht. Aber ich will unbedingt den Text hören. Ich würde sagen, beide Modelle haben über 10 Minuten tatsächlich gebraucht. Die haben wirklich lange daran gebraucht. Ich dachte, das ist so schwer, es für die. Nee, die waren lang am Werkeln. Also GPT 5.6 war relativ kurz. Ja, GPT 5.6 hat folgensgeschrieben. Zwei Menschen sprechen immer wieder von einem Hören, das Trefflichtenken soll und von einem Werk, das künstlich ist. Sie fragen, was kann es? Was bringt es dem Menschen, was nimmt es ihm? Was tut es mit dem Leben der Mensch? Sie sagen, was geschieht, hören, was andere Menschen sagen und machen ist klar. Das ist wunderschön. Mir ist noch nie aufgefallen, wie gut faust eigentlich die ganzen Probleme beschreiben, die wir immer besprechen in diesem Podcast. Ja, es ist eigentlich volles KI-Buch. Es ist nicht schlecht, es ist auch. also hören ist wohl, es hilft, dass hören da drin ist in dem. in faun. - Und wunderschön. Jetzt machen wir "Cute Table". Drei Menschen ist schon mal besser, weil. wir sind ja eigentlich drei, auch wenn wir weißen, so zwei sind. Drei Menschen sprechen von einem neuen Geist. Jedes zwei zusammen, alle sieben Tage ein Gespräch. Der Geist wohnt in Maschinen die Worte machen. Man fragt und ergibt Antwort. Er schreibt, er macht Bilder, erscheint zu denken und lebt doch nicht, fühlt doch nichts, will doch nichts. Wie man so ein Ding nun nennen soll, Name ist Schall und Rauch. Es geht noch weiter, es ist. es ist ehrlich, ich find's noch mal ein ganz schönes Stück besser. Eine Frage führt durch jedes Gespräch, was kann dieses Wesen, was kann es nicht? Was gibt es uns, was nimmt es uns? Das hat mir bei GPT so ähnlich. Wie wandelt es unser Leben, unser Tun, unser Treiben, unsere Welt? Man hört ja manche Botschaft davon, hier fragt man, ob ihr zu glauben ist. Super, oh man, ich hab gedacht, du kannst niemals meine Schlussrupprieg toppen werden, die mal mit diesen krassen Arc-AGI-Bandschmarker. Ich finde es super, hat viel Spaß gemacht, damit rum zu experimentieren. In der Original-Variante, die ich auf Twitter gesehen habe, hat sie mal mit Frankenstein gemacht, tatsächlich, da war das ein Stück unheimlicher. Auf jeden Fall eine lustiger, schöner neue Test hier für die KI. Voll cool. Wir haben auch eine höhere Email-Wall wieder. Und zwar hat uns Daniel geschrieben. Und Daniel hat auch, was mit KI gemacht. Und zwar ein bisschen von der anderen Seite. Daniel schreibt nämlich, er hat mittlerweile wirklich das Problem, dass er unverhältnismäßig viel Zeit braucht, um sehr plausibel klingende Quellen zu suchen und nicht zu finden. Dafür hat jemand anderes viel Zeit gespart, indem die KI um wissenschaftliche Folgen gebeten wurde. Also er sagt, er hat mittlerweile wirklich sehr viel Zeit vernusst, dadurch, dass seine Studies im so viel KI generierten Quatsch vorsetzen, den er da relativ aufwendig die Banken muss. Es ist ziemlich interessant und ein interessantes neues Spannungsfeld eigentlich im Bereich der KI, weil er sagt, das führt gerade in seinem Bereich, den Geist und Sozialwissenschaften auch zu einer Auflösung von Expertise und Glaubwürdigkeit. Also es geht immer mehr darum, das Richtige vom plausible und vom erfundenen zu unterscheiden und die Arbeit macht ihm, sagt er auch deswegen immer weniger Spaß. Oh nein. Also wenn ich es richtig verstanden habe, ist er auch direkt betroffen. Und die Studierenden schicken ihm Textern fragen, hast du das wirklich geschrieben, weil die hat halluciniert, dass du hier was publiziert hast, dann so auch Mann. Ja, also es ist für ihn ziemlich nervig. Es ist auch mal wieder so ein Problem, wo es einfach so Unterschied macht, welche KI man benutzt. Wenn alle Leute die modernsten Besten-Kaisysteme benutzen würden, dann wird es das nicht passieren. Also auch Cloud-Fable, was Faust durchsuchen kann, würde so einen Fehler eigentlich machen. Aber das machen natürlich die meisten Leute nicht. Das einzige, was Daniel machen kann, ist wahrscheinlich selber versuchen die Besten KI-Modelle zu finden, um solche Fehler halt automatisiert, die Banken zu können. Aber das ist natürlich auch juristisch nicht immer ganz so einfach, wenn man da einfach irgendwelche Studierarbeiten reinschickt. Schön, wenn die Leute wenigstens aber noch direkt fragen. Vielleicht muss das einfach dazu fühlen, dass wir mehr miteinander sprechen wieder. Mehr miteinander sprechen können wir auf jeden Fall auch. Wenn wir den KI-Kott-Kast empfehlen, also wenn wir euren Freunden und Familie, was zum Thema KI empfehlen, wollt, dann freuen wir uns immer sehr, wenn ihr Ihnen von dem KI-Podcast erzählt, nach wie vor jeden Dienstag in der Al-D-Sounds App und überall sonst wo es Podcasts gibt. Und dort gibt es auch unseren Podcast-Tipp der Woche. Uns war fragtig fit. Die sind quasi das, was wir verkaisen, aber für Fitness und Gesundheit, es geht um alles, was uns gesund hält, Sport, aber auch Ernährung und auch psychische Fitness. Es hört da gerne rein und es gibt jeden zweiten Freitag in Al-D-Sounds und überall sonst neue Freunden.