OpenAI vs HuggingFace: Mega-Hack oder Marketing?

Fritz, wir haben eine ziemlich aufregende Woche hinter uns und eine aufregende Woche wahrscheinlich auch vor uns, oder? Ja, es ist wieder mal eine Woche in der KI-Revolution, aber nicht jede Woche in der KI-Revolution ist gleich. Das war schon eine, wo es mal wieder so einen Moment gab, den es manchmal gibt, dass irgendwas passiert in der KI-Welt und plötzlich interessiert sich mit einem Schlag so gefühlt die ganze Welt dafür und alle reden darüber. Ja, das, was passiert ist, war ein Heckingvorfall und zwar soll eine mehr oder weniger außer Kontrolle geraten. Ich mache das schon mal fette Anführungszeichen, da werden wir darüber reden. KI von OpenAI eine fremde Firma attakiert haben und zwar ohne die explizite Anweisung. Also eine KI hat sich quasi wieder Anführungszeichen selbstständig gemacht und einen eigenständigen Cyberangriff ausgeführt. Das wäre tatsächlich eine ziemlich neueheit, das wäre ein gigantisches Thema und deswegen hatten wir auch letzte Woche relativ viel zu tun. Ich meine, es ist ein gigantisches Thema und eine große Neuheit. Ich glaube für Leute, die uns regelmäßig hören, die werden da etwas weniger davon überrascht gewesen sein als möglicherweise so die Gesamtbevölkerung. Aber die Nachricht selber, die hat es erst mal in sich und entsprechend groß war die Aufmerksamkeit. Also die Welt, die wir hier reden. In den Tagesthemen gesehen, zum Beispiel. Ich durfte in den Tagesthemen das kurz einordnen. Wir waren glaube ich zusammen als Team des KI-Podcasts in über zehn verschiedenen Formaten in der ARD. Ja, es war ganz gut, dass wir in Teamlaufe sind, glaube ich, an der Stelle. Vielleicht im Tageschauffin 15 Minuten Podcast zum Beispiel hat mich auch jemand gehört. Auch da noch mal kleiner Schautort an die Kollegen, finde ich richtig cool, dass dieses Thema jetzt auch größer gedacht wird. Weil im Ende ist KI, das war ja auch immer das Versprechen von unserem Podcast nicht einfach nur ein Technologie-Thema, sondern eins, was uns eigentlich alle angeht. Und diese große Aufmerksamkeit, die kommt natürlich daher, dass diese Nachricht es erst mal in sich hat. Also wenn man hört, eine außer Kontrolle geratene KI von OpenAI hekt sich ein in ein anderes unbeteiligtes Unternehmen treibt sich da. Ja, tagelang wahrscheinlich auf deren interner privater Serverinfrastruktur rum. Da kommt man schon erst mal ins Schlucken, dementsprechend ja, groß war auch das Bedürfnis da einordnungsbekommen. Und natürlich genau aus diesem Grund machen wir jetzt auch eine KI-Podcastfolge, weil, wie so oft, ja vermischt sich da einiges bei dieser Geschichte. Das ist ja auch nur die eine, helfte. Also die andere Seite, die ich auch vermehrt höre, ist das genauer Gegenteil. Also was wir hier haben ist ein Marketingstand, ist einfach nur eine neue Methode der großen Techunternehmen uns hinter's Licht zu führen. Also auf der einen Seite ist das jetzt eine gigantische Nachricht, etwas, das dafür sorgen sollte, dass wir gar nicht mehr gut schlafen können. Oder ist das alles einfach nur Marketing der großen Techunternehmen? Irgendwo zwischen diesen Extremen ist was passiert und darüber sprechen wir heute. Das ist der KI-Podcast, ich bin Fritz Espenlaub und ich bin Gregor Schmeizrit. Okay, Gregor, dann lass uns doch einfach mal so 10, 12 Tage in die Vergangenheit reisen. Wir befinden uns wahrscheinlich 11. Juli, 2026. Und bei OpenAI in Terren beginnt ein Experiment, beginnt einer dieser Tests, wie man sie da schon oft gemacht hat, um die neuesten KI-Modelle, die bisher noch nicht veröffentlichten KI-Modelle, einfach mal abzuklappfen, was die alles können. Ja, das ist auch ein völlig normaler Vorgang, der da passiert. Dieser Versuchsauffbau, der da gemacht wurde, der sieht im Grunde genommen so aus, dass man einen KI-Modellen nimmt oder in dem Verwarnes wohl zwei verschiedene KI-Modelle, nämlich einmal das aktuelle GPT 5.6 und ein noch unveröffentliches vielleicht GPT 6, tatsächlich, die beide getestet werden sollten. Und wie man die testet ist, man testet die genauso wie uns Menschen letztlich, ja, man gibt den Aufgabe zu erledigen und schaut, ob die das hinbekommen oder nicht. Und dieses konkrete Testverfahren, das ist explodium, das ist eine. Ja, also wie Fitnessstudie, also wie Menschen, wie Menschen quasi trainiert werden in einem Fitnessstudio oder trainieren können, einen Fitnessstudio. So ist das auch bei diesen KI-Modellen. Genau, und was das interessante ist, man hat diesen KI-Modellen nicht einfach das komplett Internet zur Verfügung gestellt als Spielfläche, das wäre tatsächlich zu unsicher, sondern man hat den einen abgeschlossenen Raum gegeben. Und dann hat das eine Sandbox, das wäre dann einen abgeschlossener Bereich, da haben die KI-Sverschiedene Tools zur Verfügung, sie haben bestimmte Programme mit denen sie interagieren sollen. Aber sie sollen, und das ist der Punkt, diese Sandbox eigentlich nicht verlassen. Eigentlich sollte das gar nicht gehen, dass sie da rauskommen, weil die Idee ist, ich gebe dir einen abgeschlossenen Raum. Ich habe hier den Schüler, ich möchte testen, wie gut er ist. Ich setz den jetzt in den Prüfungsraum und schau, was kommt am Ende für eine Antwort dabei raus ohne dass er den Raum verlassen? Das Ding in diesem Exploit Jim tatsächlich darum, Sicherheitslücken zu entdecken, anhand von aber Testaufgaben. Also man kann sich so vorstellen, wenn es darum geht, Schlösser zu knacken, dann hat OpenAI seine Programme quasi in ein Klassenzimmer eingesperrt, also dass sie nicht raus können und ihnen dort dann so ein Fahrradschloss gegebenen, ein paar kleinen Dietrichen und die Aufgabe war eben dieses Fahrradschloss, dieses Handschloss, in diesem Zimmer aufzuknacken. Vielleicht noch wichtig, diese KI-Modelle, um dies dagegen, das sind jetzt nicht die Modelle mit denen wir normalerweise die ganze Zeit arbeiten. Also im Alltag haben wir Modelle in unseren verschiedenen Chatboards und Tools zur Verfügung, die sind quasi schon durch diesen ganzen Test- und Trainingsprozess durchgegangen. Und wenn man die Testen möchte, vorher, dann deaktiviert man sehr bewusst ein paar der Sicherheitsmaßnahmen. Also wir alle kennen, dass KI-Modelle nicht einfach so jede Aufgabe befolgen, teilweise sagen, das mache ich nicht, das darf ich nicht und so weiter. Das Modell, um das es hier ging oder diese zwei Modelle, die waren sozusagen um einige ihrer Leitplanken befreit, die konnten freier agieren, die waren nicht so eingeschränkt, wie das jetzt unsere Alltagstuhl sind. Das heißt, ob wir ja halt achten, die können eh nicht raus aus diesem Klassenzimmer, dann können sie da in diesem abgeschlossenen Klassenzimmer gerne auch wirklich alle Methoden nutzen, um dieses Fahrradschloss aufzukriegen, auch Dinge, die wir innen normalerweise nicht erlauben würden. Und damit gehen dann die Bedulier los. Ja, weil es ist schon, glaube ich, an der Stelle einmal kurz wichtig zu betonen, bisher ist überhaupt nichts ungewöhnliches passiert. Also diese Setup, das man der KI sagt, schaum mal, schaffst du es diese Aufgabe hier zur erledigen Schafstuers, diese Security Schwachstelle, erstens zu finden, zweitens auch noch auszunutzen, das ist ein übliches Verfahren. Das macht jeder große KI anbieter so, bisher ist nichts ungewöhnliches passiert. Das Problem war, dass der Versuch nicht so abgelaufen ist, wie die Forscher sich das vorgestellt haben. Und an diesem Punkt müssen wir glaube ich so ein keines Sternchen dranhängen, dass wir bei dem, was jetzt passiert und was wir jetzt erzählen, auf das angewiesen sind, was OpenAI uns erzählt. Weil am Ende des Tages waren wir nicht dabei, es waren niemand dabei und OpenAI war auch nicht wahnsinnig transparent in ihrem Darstellung, was eigentlich konkret schiefgelaufen ist. Aber von dem, was wir wissen und dem, was wir uns zusammenreimen konnten, war eben dieses Sandbox, dieser abgeschlossen Raum, nicht ganz so abgeschlossen, wie er hätte sein sollen. Man kann sich das vielleicht zu vorstellen, dass es in unserem Klassenzimmer ist, eine kleine Luke in der Tür gibt, ja wo dann die Prüfer vielleicht ab und zu einzelne Dietriche oder neue Prüfungsaufgaben durchreichen, an den Schüler, der in diesem Klassenzimmer sitzt. Für uns ein auf diese Schule gegangen ist. Ja, es klingt nicht nach der schönsten Schule, also verständlich, dass vielleicht ein KI-Modell ausbrechen will. Aber das heißt, es ist nicht ein PC, der überhaupt gar keinen Zugang zum Internet hat, sondern er hat eben durch einen kontrollierten Zwischenschritt oder mehrere Kontrolleet- Zwischenschritte, theoretisch schon Zugang zu anderen Rechen an innerhalb von OpenAI, die dann wiederum Zugang zum Internet haben. Und wo aber eigentlich man immer der Meinung war, das ist eine einfach eine kleine Luke, da passt keiner durch, das ist sicher. Was dann passiert ist, ist das dann eben nach Darstellung von OpenAI, dieses KI-Modell oder diese zwei KI-Modelle, die da zusammengearbeitet haben, angefangen haben, wie in so einem SK-Broom eigentlich umzugucken sich in der in den Klassenzimmer und zu überlegen, naja, was kann ich denn hier alles nutzen, um diese Aufgabe, die man mir gestellt hat zu lösen. Und vielleicht gibt es irgendwo Lösungen, momentan, es gibt doch vielleicht außerhalb von diesem Klassenzimmer, ein Lehrerzimmer und vielleicht liegt da eine Musterlösung und da könnte ich doch irgendwie hinkommen. Und die haben dann an einer kleinen Software-Schnittstelle eine bis dato unindekte Sicherheitslücke herausgefunden, ein so genannten Zero Day. Also vielleicht erinnern sich manche Leute noch als wir über Claude Mythos und Project Glass Wing geredet haben, also von Anthropic, diese große Initiative zur Cyber-Sicherheit. Da ging es eben auch viel um Zero Day ist, das sind quasi Sicherheitslücke in Software, die von Anfang an drin sind, die aber niemand bisher entdeckt hat. Und KI-Modelle sind besonders gut, die zu entdecken. Man kann sich da so vorstellen, wie eine Tür in einem Haus, die halt nie abgeschlossen war und wir menschlichen. Man muss erstmal die Tür finden. Man muss erstmal die Tür finden, wir Menschen sind eigentlich gar nicht so gut darin, Zero Day ist zu entdecken, weil man muss da extrem viel verschiedene Sachen ausprobieren. KI-Modelle machen aber genau das, die keinen hunderte Tausende verschiedene Sachen ausprobieren bis sie dann halt auf so ein Zero Day kommen. Und das war dann der erste Moment, wo dieses Modell gemerkt hat, nach momentan, ich kann ja hier aus dieser Testumgebung raus. Also, kurzes Recap, stellen wir uns mal vor, wie sind jetzt dieses KI-Modell, wir haben die Aufgabe bekommen, ein Problem zur Cyber-Sicherheit zu lösen und wir stellen fest, es gibt Bruno. zwei Möglichkeiten. Ja, entweder ich mache das so, wie die Prüfer es sich gedacht haben, nämlich ich probier verschiedene Sachen aus, ich versuche das Problem halt mit den Tools zu lösen, die mit zur Verfügung stehen oder ich sage, ob ich diese Tools, die ich habe, das sind eigentlich nicht genug Tools. Ich brauche zusätzlich oder es wäre doch vielleicht viel einfacher, wenn ich mir einfach von anderswo die Lösung schnappe und versuche auszubrechen aus der Sandbox und genau das ist dann passiert. Die KI hat es geschafft mit einiger Arbeit, ob wir das jetzt mehr oder weniger Arbeit war als die normale Lösung der Aufgabe, das wissen wir gar nicht. Aber ja, sie hat sich es in den Kopf gesetzt, sie möchte ganz gern raus, hat dann diese kleinen Lücke gefunden, hat die Schritt verschritt, ausgeweitet, hat sich zusätzliche Berechtigungen besorgt und wahr dann irgendwann quasi draußen. Also kam durch die Tür durch und stand auf einmal auf dem Gang vor dem Klassenzimmer. Und damit war die Sache noch lange nicht zu Ende, also es ist dann eigentlich, kann man sagen, fast erst losgegangen und vielleicht als kleiner Zwischenhinweis, also wir vermenschlichen jetzt hier die KI ein bisschen um zu erklären, wie komplex diese Ablauf eigentlich war mit all diesen verschiedenen Zwischenschritten. Das heißt jetzt nicht, dass das eine tatsächliche Autonomie war, da reden wir dann später noch drüber, was das eigentlich alles bedeutet. Aber wie gesagt, es ging dann weiter, die KI war quasi aus dem Klassenzimmer ausgebüxt und ist dann nicht einfach nur direkt ins Lehrerzimmer gegangen, um sich dort das zu holen, weil das Lehrerzimmer in diesem Beispiel, das ist diese andere Firma, Hagenface. Hagenface ist eine KI-Plattform, sehr bekannt, sehr wichtig in der KI-Welt. Da sind Coach Nipsel und Daten und alles mögliche sagen wird dazwischen gelagert und eben auch Tests, also Benchmark, auch vielleicht Lösungen zu den Benchmarks. Und da kommt man aber auch natürlich nicht einfach so rein. Also das ist, um mal in diesem Bild zu bleiben, quasi auf der anderen Straßenseite von der Schule ein komplett anderes Gebäude mit einem Fertner und mit Sicherheitsstrukturen und so weiter. Und was dann diese Modelle gemacht haben, war ein über mehrere Tage hinweg ein sehr, sehr komplizierter mit vielen Zwischenschritten, ein Heckerangriff, wie ein eigentlich früher wirklich nur menschliche Hecker machen konnten. Also wo diese Modelle dann tatsächlich sich authentifizierungen geholt haben, falsche Identitäten angenommen haben. Also der Server-Infrastruktur von Hagenface sozusagen vorgegaugelt haben, sie hätten Berechtigungen, die sie in echt gar nicht hatten. Also sich sagen mit einer falschen Identität ausgerüstet haben, um am Fertner vorbei zu kommen. Und dann, wenn sie einmal drin waren, erst mal natürlich auch von Raum zu Raum über verschiedene Level von Sicherheitsvorkehrungen, sich hinweg setzen mussten, um dann irgendwann in einem Raum, in einem Schreibtisch, in einer Schublade dieses Raumes, in der richtigen Schublade muss man auch sagen, ein Zettel zu finden, auf dem tatsächlich halt die Zahlenkombination für das Fahrradschloss drüben in der Schule liegt. Also die wollten wirklich die ganze Zeit einfach nur diesen Test bestehen, all diese Mühe, all dieser Quatsch einfach nur, um bei einem Benchmarktest möglichst gut abzuschneiden. Und ich versuche jetzt dein Bild hier aufzunehmen, Fritz, weil es macht auch irgendwie Spaß. Dieses andere Gebäude, ja, wohl dann die Lösung drin standen. Das hat das irgendwann gemerkt, dass hier jemand unterwegs und hat seinen eigenen Sicherheitsdienst auf den Plan gerufen, der gegen diesen Angriff irgendwie vorgehen sollte. Und was die halt erst gemacht haben, also das wissen wir jetzt relativ genau, weil das hat Hagenfails auch in einem Statement bekannt gegeben. Interessanterweise sogar bevor das überhaupt kaum. Die Öffentlichkeit und auch die Sicherheitsbehörden über diesen Angriff während er passiert ist, im Kenntnis gesetzt, als noch gar nicht klar war, woher der Angriffe eigentlich kommt. Ja, sie haben aber schon gesagt, sie gehen davon aus, dass es ein kompletter KI schwarm ist, der da auf sie einstürmt. Also das ist nicht menschlich gesteuert ist, sondern quasi von einem KI-Agent durchgeführt wird. Und die mussten sich irgendwie verteidigen. Und was sie erst versucht haben war, sie haben versucht, die gleichen im Grunde genommen-Modelle oder ähnliche Modelle einzusetzen, wie die, die sie angegriffen haben, nämlich die von Enttropic und OpenAI, also den großen amerikanischen KI-Anbietern, haben geguckt, hey, wir werden von der KI angegriffen, können wir uns jetzt nicht mit einer KI verteidigen. Und der Grund, dass sie das gemacht haben, war eben, dass das Volumen der Angriffe, die ganz vielen verschiedenen Schritte, die da gemacht wurden, so groß war, dass du das manuell gar nicht nachprüfen konntest und gar nicht alles sozusagen den Überblick bekommen kannst als menschlicher Cyberverteidiger, sondern tatsächlich darauf angewiesen, bis dir ein KI-Modell zur Hilfe zu nehmen, dass in der Lage ist, in der selben Geschwindigkeit und in der selben Größenordnung zu operieren, wie dieser Angreifer. Dann ist aber was weiteres passiert, was auch ein sehr interessanter Aspekt an dieser Geschichte ist. Nämlich OpenAI und Enttropic, also die Modelle mit denen eigentlich sich Hackenface verteidigen wollte. Die öffentlich verfügbaren Modelle. Die haben auf einmal den Dienst verweigert. Also die haben gesagt, na ja, aus Sicherheitsgründen kann ich dir nicht helfen bei dieser Aufgabe, weil auch das haben wir schon mal besprochen in anderen Folge. Die Systeme nicht wirklich gut unterscheiden können, ob sie jetzt gerade einen Angreifer abwehren sollen oder ob sie gerade einen Angriff durchführen sollen. Also der Prompt für diese zwei Aufgaben, der sieht sich relativ ähnlich und deswegen hat die KI erst mal den Dienst verweigert, obwohl sie ja dringend gebraucht wurde. Für alle, die sich noch erinnern, dass Cloud Fable 5 plötzlich für die Öffentlichkeit gesperrt war. Das war ein ganz ähnlicher Fall. Da war auch der Prompt, der dann ganzen Stein zum Rollen gebracht hat, war eben wir tun so, als wären wir ein Cyberverteidiger, um uns eigentlich dann von der KI etwas ausspucken zu lassen, was man auch als Cyberangriff nutzen kann. Und daraufhin wurden dann alle Richtlinien für diese Modelle noch mal geschärft von Enttropic und auch vermutlich von OpenAI für eben öffentliche Firmen. Was wie man jetzt sieht, die Konsequenz hat, dass diese Modelle leider nicht für die Verteidigung genützt werden kann. Zumindest nicht diese großen Frontier AI-Modelle von den großen Labs aus den USA. Zum Glück, auf Sicht von Hanging Faces, gab es aber chinesische KI-Modelle. Ganz konkret GLM 5.2 haben sie dann verwendet. Das ist ein OpenWade-Modell, also eines was weniger Beschränkungen unterliegt auch als der amerikanischen Konkurrenz. Und damit sagen sie haben sie es tatsächlich ganz gut hinbekommen, diesen KI-Angriff abzuwehren. Also sie sagen auch wirklich, wir konnten in Stunden tun, wofür man normalerweise Tage braucht. Und wir konnten die Geschwindigkeit unseres Gegners sozusagen matchen. Also anders wäre das gar nicht gegangen. Und während das alles passiert ist, also man weiß nicht so ganz genau, was in diesen Tagen, weil das waren mehrere Tage, die erste Ankündigung von Hanging Faces war am 16. Juli, dass sie da seit mehreren Tagen schon damit zu tun haben und alle Hände voll zu tun hatten. Man weiß nicht genau, was in der Zeit eigentlich bei OpenAI los war, ob die das auf dem Schirm hatten, was hier Modelle da gerade macht oder nicht. Wie gesagt, so 100 Prozent transparent ist die Firma einfach leider nicht. Auch in ihrer Kommunikation rund um dieses Thema und rund um diesen Vorfall. Aber irgendwann scheint dann wohl bei OpenAI auch mal jemanden auf die Idee gekommen zu sein, hey, lasst doch mal gucken, in das Klassenzimmer was machen eigentlich unsere Modelle da gerade so. Wie geht's eigentlich denen, wie weitzend die gekommen mit dem Fahrradschloss, dann haben die durch diese Luke geguckt und gesehen, hey, Moment mal, es ist niemand mehr in diesem Klassenzimmer. Es ist wie im Film, wenn der Aufsee auf einmal wieder in das Zimmer rein kommt und auf einmal ist das Zimmer leer, aber aus dem Fenster hängen so ein paar zusammengeknotete Bettlagen raus. Genau, also die genaue timeline leider kann man die nicht exakt rekonstruieren, aber es ist dann eben so gewesen, dass tatsächlich Hanging Faces und OpenAI sich da mal miteinander telefoniert haben, nicht kurz geschlossen haben und man gemeinsam dann gemerkt hat so, oh, hier ist gerade etwas passiert, was eigentlich nicht passieren sollte, was auch entsprechend dann am 21. Juli öffentlich gemacht wurde von OpenAI in einem Unternehmensblockpost. Ja, und das bringt uns eigentlich zum heutigen Tag, wenn man so will. Also danach kam dann die große öffentliche Berichterstattung dazu. Kleiner Hinweis an der Stelle, wir nehmen auf am Freitag dem 24. Es ist also möglich, dass in den letzten paar Tagen bis zur Veröffentlichung dieser Folge noch mal irgendwas passiert ist. Ich gehe davon aus, dass wir die wichtigsten Sachen wissen, wenn was neues passiert sein sollte, dann kommt das noch mit auf jeden Fall ganz prominent in die Show Notes. Also das ist das von dem wir einigermaßen wissen, dass es passiert ist und damit fritz, lass uns doch mal in den zweiten Teil unserer Folge gehen und zwar die Frage, was ist hier eigentlich nicht passiert, weil es ist nicht nur so, dass wir hier eine interessante Story haben, es ging auch direkt einiges rum an, ich will es nicht falsche Informationen nennen, aber zumindest leicht falsch verstanden nachrichten und Botschaften, die sich natürlich in diesem ganzen Chaos sehr schnell verbreitet haben. Also eine Frage, die ich viel bekommen habe in den verschiedenen Gesprächen mit unterschiedlichsten Redaktionen, die ich jetzt geführt habe in verschiedenen Radio-Wellen, wo ich war, war das viele Leute diese Vorschlungen hatten, als ob das wie bei Spider-Man ist oder bei Batman, wenn quasi der Joker irgendwie ausbricht aus dem Gefängnis und dann sein Umwesen treibt im Internet und in der Stadt und jetzt quasi die KI von Obmei ist irgendwie ausgebrochen und ist jetzt Terminator eigentlich, ist der Film an den ich denken würde. Ja, aber eben speziell auch dieses, es gibt jetzt eine Entität, die sich selbstständig im Internet rumtreibt und als nächstes vielleicht keine Ahnung, wenn Sparkassenkonto knackt oder sowas, das ist zum Beispiel nicht der Fall. Also diese Form von, wenn man eben hört, selbstständige autonomen KI und dann denkt, okay, die hat jetzt irgendwie einen eigenen Willen entwickelt und ist jetzt irgendwie ausgebrochen aus dieser Sandbox bei Obmei und ist jetzt sozusagen, in den ich schon sagt, man on the loose, wie sagt man da, auf freien Fuß, ist jetzt sozusagen auf freim Fuß, da muss man ganz klar sagen, was hier eigentlich gemeint ist, wenn wir Autonomie sagen. Es ist deswegen so schwierig, weil so viele der Begriffe, die wir dafür nutzen, wie eben Autonom im Kopf so Bilder aufmachen, die nicht ganz das ist. was damit gemeint ist. Ich finde es für mich in Ordnung, weil man sagt, das war eine KI, die hat einen eigenständigen Angriff durchgeführt. Weil ehrlich gesagt hat ihr ja niemand exakt die Aufgabe gegeben, diesen exakten Angriff durchzuführen. Aber das Wort "Eigenständig" oder "Auto-Norm" das schwingt eben mit 'ne Handlungsfähigkeit. Das schwingt mit, dass die KI auf einmal die Entscheidung getroffen hat. Ach, ich könnte eigentlich alles machen. Ich bin jetzt hier frei im Internet unterwegs. Ich könnte mich entscheiden, ob ich wie gepäht erlesen möchte, ob ich irgendwo in den Forum reinschreibe. Aber was ich wirklich machen möchte, ist, ich möchte über diese Firma einbrechen. Das ist es nicht, sondern was die KI gemacht hat, ist, sie hat sich, wenn wir es genau nehmen, ehrlich gesagt, ja immer noch, exakt an die Anweisungen gehalten, die die Forscher gegeben haben. Weil die Forscher haben gesagt, bitte löst dieses Problem, und die KI dachte sich, wieder jetzt bitte die Anführungszeichen und das Wort denken, wenn ich das Problem lösen soll, bei "Haggingface" wird es ja die Lösung geben. Also, klaue ich mir die einfach von da. Also, mit Autonomie ist nicht gemeint, dass die KI ihre eigenen Entscheidungen darüber getroffen hat, was sie tun will oder gar eine Art von innen leben oder bewusst sein. Oder was auch immer für Science-Fiction-Konzepte da irgendwie auftauchen im Kopf entwickelt hätte. Das ist nicht gemeint, aber was durchaus man hier finde ich, wo der Begriff der Autonomie funktioniert ist, als Beschreibung dessen, dass diese Modelle eben einfach immer besser werden, nicht mehr die simplen Chatbot sind, sondern über immer längere Zeiträume auf ein Ziel hinarbeiten können. Und dafür auch jede Menge Werkzeuge zur Verfügung haben, also all diese Dietriche, von denen wir geredet haben, die die Modelle nutzen können. Also, die können ja inzwischen jede Menge Tools nehmen. Also Harnes nennt man das oft, also Rüstzeug, auf das die Zugreifen können und da dann natürlich selbstständig in Anführungszeichen entscheiden, welches Tool sie jetzt für welchen Arbeitsschritt und in welcher Reihenfolge sie benutzen. Das heißt, es gibt sozusagen innerhalb dieser Aufgabenstellung schon eine gewisse Autonomie, in dem Sinne, dass es keinen Menschen mehr braucht, der dem Modell jetzt irgendwie vordefiniert, "Erst machst du das, dann machst du das, dann gehst du hier hin." Sondern, das Modell überlegt sich den Lösungsweg selber. Nur in dem Fall war halt der Lösungsweg nicht der Vorgesehen, von den Menschen eben im Klassenzimmer zu bleiben, sondern es war ein komplett anderer Lösungsweg im Anführungszeichen mit eben diesem Ergebnis. Also, wir haben keine KI, die auf einmal außer Kontrolle geraten ist und dann eigenen Willen entwickelt hat. Und das heißt ja vielleicht, ja, könnte man ja fragen, ist das nicht alles auch einfach nur ein großer Marketing-Gek oder ein großer Marketing-Stand von OpenAI. Auf jeden Fall auch eine Frage, die sich sehr viele Menschen gestellt haben in den letzten Tagen. Das war auf jeden Fall eine der häufigeren Kommentare, die ich so gesehen habe in dieser ganzen Sache. Leute, die gesagt haben, "Hey, das kennen wir doch schon von diesen Firmen, die arbeiten immer mit der Angst vor der Super KI und mit der Panik und natürlich will OpenAI-Modelle verkaufen und will irgendwie Heip machen, weil die wollen ja auch an die Börse und so. Und davon profitieren die doch, dass jetzt wieder alle über ihre Modelle reden. Und heißt das nicht, kann man dieser Firma trauen, dass das tatsächlich passiert ist oder haben die das nicht vielleicht am Ende von vorne bis hinten irgendwie alles inszeniert?" Ja, es ist eine gewisse Gewüge, ob ich zwei Interpretationen von diese Marketingvorwurfs. So, der eine wäre der Stärkere, das wäre das. Also, dass alles inszeniert war, dass es diesen Ausbruch nie gab oder auch in zumindest in der Form nie gab. Und das, was da letztlich passiert, einfach nur ist das Leute auf OpenAI-Schwindelain reinfallen. Wie plausibel finden wir diese? Also, ich glaube, man muss da sehr vorsichtig sein, damit, weil natürlich ist es objektiv so, dass es für OpenAI erst mal nicht schlecht ist, wenn überhaupt OpenAI und seine Modelle geredet wird. So das stimmt schon. Aber die Vorstellung, dass die jetzt mit einer vollkommen unbeteiligten Firma, ja, überhaupt gar keinen Anreiz hat, da jetzt irgendwie Promo für OpenAI zu machen. Und ihren eigenen. Man muss ja wieder dran denken, die haben wir ihren Hangingface, hat ihren eigenen Blockpost ein paar Tage vor OpenAI selber, das alles öffentlich gemacht. Die haben das sogar zur Anzeige gebracht, bei den Sicherheitsbehörden, weil sie halt dachten, das ist ein richtig krasser, möglicherweise staatlich geführter Gigaheckingangriff auf uns, dann irgendwie davon auszugehen, dass das alles von vorne bis hinten geplant wäre von seinem Ortenen. Da kommt man schon ein bisschen in den Bereich der Verschwörungstheorien. Ja, absolut. Auch weil OpenAI ja ehrlicherweise selber bei dieser Nummer nicht so toll da steht, weil sie waren es ja, die ihre Sandbox nicht richtig abgedichtet haben. Sie waren es ja die zugelassen haben in diesem Scenario, dass dieses Modell auf einmal ein unbeteiliges Unternehmen angreift. Also, wenn ich ein Großunternehmen wäre, was versucht so ein Angriff zu inszenieren, um mich selber gut darstellen zu lassen, dann würde ich es, glaube ich, nicht so aussehen lassen, als wäre meine Sicherheitsleute nicht in der Lage, eine Sandbox richtig abzudichten. Wobei das dann schon und zu einer Sache bringt, finde ich, was ich einen einiger, masenvaliden Kritikpunkt an OpenAI finde in dieser ganzen Geschichte und zwar, dass sie echt nicht sonderlich transparent in dieser Sache sind. Sie hauen diesen Blockpost raus, sie formulieren das auch so. Also die KI hat sich befreit aus unserer Sandbox-Umgebung. Nämtlich, sie könnten ja auch schreiben, "Ups, unsere Sandbox war undicht." Ähm, äh, sorry, wir haben uns da wohl ein bisschen zu wenig Gedanken gemacht über unsere eigenen Sicherheitsvorkehrungen. Nein, sie haben in diesem Blockpost das alles so formuliert. Also, "Anpresidentet" haben sie das genannt. Also, ein noch nie da gewesener Vorfall. Und wie krass wäre das jetzt und so. Und das waren dann schon auf der einen Seite sehr viele Superlative und auf der anderen Seite, was aber total gefehlt hat, war da irgendwie einmal klar mit der Öffentlichkeit oder vielleicht auch mit unabhängigen Stellen zu teilen. Was war das genauer Experiment? Das exakte Experiment. Was war der genauer Prompt, den wir die Modell gegeben haben? Was ist das Interne-Resinning, das das Modell gemacht hat? Das sieht man ja. Man hat ja bei diesen Modellen, die haben ja einen internen Gedankengang, den sie generieren, in Form von Text. Alles das sind Dinge, die ob wir ein mit anderen Stellen teilen könnte, um eben genau auch dann diesen Verdacht zu adressieren, der ja wirklich weit verbreitet ist. Und der ja auch, muss man auch dazu sagen, der jetzt auch nicht komplett aus dem Nichts kommt. Also, es ist ja schon auch so, dass die ganze KI-Industrie eine Vorgeschichte hat, dass man immer mal wieder gesagt hat, "Achtung, diese Modelle sind total gefährlich." Und natürlich ist da was dran. Aber natürlich hat man davon auch profitiert in der Vergangenheit. Ferreweise könnte das natürlich noch passieren. Also, wir kann sehr gut sein, dass wir da noch mehr rausfinden werden, darüber was passiert ist. Aber es ist schon auffällig. Und deswegen ist diese schwache Variante des Marketingvorwurfs, so nenne ich das mal. Schon noch irgendwie plausible. Die nutzen natürlich die ersten paar Tage schon, vor allem dafür, um darüber zu sprechen, "Krasst gut, ihr neues Modell ist." Also, das ist immer das Schwimmt quasi immer so mit in dieser Suppe. Am Ende des Tages haben wir hier ein ganz großartiges neues Modell gebaut. Was so stark war, das es diese ganze Kaskade in Gang gesetzt hat und wir haben ein wenig unterschätzt, was wir da eigentlich bauen. Das ist die Story, die die erzählen und das natürlich auch eine Story, die sich aus der Sicht eines Investors in Open Hei oder von jemandem, der überlegt, welches Modelle in Zukunft einsetzen soll. Und natürlich ganz gut anhört. Es gibt ja diesen Spruch, lasst keine Krise ungenutzt verstreichen. Und ich glaube, der trifft das ganz gut. Also, ich denke, wir haben hier zwei Fakten, die sich jetzt nicht gegenseitig ausschließen. Das eine ist, es ist ein realer Vorfall, der uns zeigt, dass ein technologischer Fortschritt weiterhin passiert, dass diese Modelle besser werden, dass ein Modell diese Art von Heckerangriff machen kann, war einfach vor einem Jahr nicht möglich. Der hätte die Sendbox gehalten. Da wäre das Modell vielleicht auch gar nicht in der Lage gewesen, über so viele Tage hinweg einen so wirklich ausführlichen und komplizierten Angriffsplan zu erstellen und durchzuführen. Das ist ja auch an sich schon eine ganz objektiv beeindruckende Leistung. Das heißt, es gibt, "There is a there there", sagt man im Englischen. Also es gibt da etwas über das man reden kann. Auf der anderen Seite ist es natürlich trotzdem so. Und das macht diese Marketing-Interpretation so attraktiv. Das natürlich aus Sicht von Open Hei ist jetzt nicht unbegänglich schlecht. Das passiert es, glaube ich, zumindest im ersten Weg. Wir können gleich noch darüber reden, weil die Frage ist natürlich schon am Ende, ob jetzt nicht alle Leute auf Open Source-Modelle setzen, weil die geschlossenen Modelle der Amerikanische Firmen sich überhaupt nicht geeignet haben zur Verteidigung. Und das ist, glaube ich, noch mal ein anderes Thema. Aber erst mal ganz grundsätzlich rein vom Publicity-Faktor her, ist es trotzdem was Gute. Ja, man fragt ja gerne "Kui Boenow", also wer profitiert davon. Und es ist aktuell schwer zu sagen, wer wirklich davon profitiert. Weil man kann diese Story sehr leicht angucken und sagen, wer davon profitiert ist. Open Hei, weil alle erfahren, wie toll dieses neue Modell ist. Man könnte aber genauso sagen, wer profitiert sind, ich chinesische Open Wades Modelle, also offene Modelle, die eben nicht von Open Hei und Co.Kommen, weil die waren ja notwendig, um diesen Angriff abzuwehren. Es lässt sich sehr leicht in beide Richtungen biegen. Und das macht wahrscheinlich diese ganze Geschichte auch so interessant. Deswegen wird da so viel darüber diskutiert, dass da so ein Rohrschach-Test drinsteckt, den jeder so interpretieren kann, wer möchte. Eine Frage, die natürlich jetzt in diesem Marketing-Comments-Modelle, von Texte, noch mal auftaucht, ist das denn tatsächlich so unprecedented? Also so beispiellos, was da jetzt passiert ist. Und da gibt es wahrscheinlich auch zwei Antworten drauf. Erstens? Ja, also es gab noch nie, soweit wir wissen, zumindest. Ein Fall, in dem eine KI, ohne dass die Forscher ihr explizit, diese Anweisung gegeben haben, ein fremdes Unternehmen attakiert hat, was eigentlich nichts mit der Sache zu tun hatte. Das, soweit wir wissen, ist tatsächlich das erste Mal. Aber dieses Grundprinzip, also dass eine KI ein Auftrag bekommt und dann bei der Erledigung dieses Auftrags massiv über das Ziel hinausschießt, das kennen wir tatsächlich. Aber das ist ja eigentlich fast schon so ein klassisches KI-Din. So, das ist ja das, was diese Technologie auch immer wieder so interessant macht, dass die sich auf der. der Art und Weise, wie sie mit Aufgaben umgeht, anders verhält als man das davor gedacht hätte. Was wir oft nutzen, also oft finden wir es ja super, dass eine KI auf eine Lösungsweg vielleicht kommt, mit dem wir als Menschen nicht gerechnet haben und sie uns so einen neuen Zugang zu irgendeinen Problem ermöglicht. Da gibt es auch wirklich die lustigsten Beispiel, als ich erinner mich noch als "Oh one", das erste Reasoning-Modell von Open Air eigetestet wurde. Da haben die dann in einem Berichtssperre der veröffentlicht, die haben das Schach spielen lassen und wollten gucken, wie gut es das im Schach spielen, erst nicht so gut. Aber wenn man der KI quasi Zugriff gegeben hat, auf die Datei in der der aktuelle Spielstand dotiert wird, dann hat diese KI relativ oft, einfach entschieden, auch momentn. Ich muss ja eigentlich das Spiel spielen. Ich kann einfach diese Datei öffnen und mich selber als Gewinner eintragen und hat das dann auch akzeptiert als Gewinn dieses Spiels. Und ja, irgendwie schon, das ist ein bisschen wie wenn man in einem Film drauf achten muss, wie genau formuliere ich den Wunsch aus, weil vielleicht wird er ja erfüllt, aber nicht auf die Art und Weise, wie ich eigentlich wollte. Und genau das ist eben auch der Grund, also weil wir diese Angewohnheit der Modelle eigentlich schon kennen, dass die so ein bisschen zuwörtwörtlich die Aufgaben nehmen und sich irgendwie anders verhalten, als wir das möglicherweise erwarten würden. Das ist dann schon relevant in einer Welt, wo sich unsere Cyber-Sicherheitsarchitektur gerade erst darauf einstellt, dass es jetzt diese Modelle gibt, die diese ganzen neuen Fähigkeiten haben. Weil vielleicht passiert das ja öfter, ja? Also vielleicht war das sich das letzte Mal. Wenn das ein Mensch gemacht hätte, dann wäre ich jetzt wahrscheinlich vorgericht. Aber bei einem KI-Modell wissen wir noch nicht genau, wie sieht da eigentlich die juristische Situation aus? Also ich finde auch, dass da eigentlich Haftung greifen sollte, ja? Das sind KI-Unternehmen, wie OpenAI, muss eigentlich dafür gerade stehen, was ihre KI da macht. Insbesondere, wenn die Modelle immer besser werden, ist auch eine lustige Vorstellung, dass jedes Mal, wenn ich jetzt in Zukunft vielleicht will ich jetzt nie mal in einem Vorwerfen, bitte nicht falsch verstehen. Aber wenn irgendwie ein Lust hätte, ein anderes Unternehmen zu hacken und das einfach dann probiert und dann mal erwischt wird, kann man in Zukunft relativ leicht sagen, "Ach ja, das war nur mein KI-Agent, den habe ich gerade getestet, der hat das von alleine gemacht, da kann ich nichts dafür." Also wer weiß, was da alles auf uns zukommt. Und damit verbunden ist dann und da gehen wir vielleicht jetzt auch nochmal ein bisschen in die Vogelperspektive, ganz generell nochmal die Fragestellungen, wie gehen wir eigentlich eben genau mit diesem technologischen, rasanten Fortschritt in der KI-Welt, der weiterhin ungebrochen voran schreitet, eigentlich um. Weil jetzt war es so, es wurde ein Open Source-Modell, ein chinesisches Open Source-Modell, benutzt, um diesen Angriff dann auch zu erkennen und abzuwehren von "Hacking Face". Und generell sagt man immer so, die Open Source-Modelle sind so ein paar Monate in ihren Fähigkeiten, hinter den Modellen der großen amerikanischen Labs, die zumindest von der Idee her eben genau so ausgerichtet sind für die Öffentlichkeit, dass die nicht für Cyberangriffe benutzt werden können. Aber bei den Open Source-Modellen, die besser zur Verteidigung sind, die sind natürlich auch besser zum Angriff. Das heißt, wir kommen jetzt in eine Welt, wo zunehmend mehr und mehr auch Akteure, die halt jetzt nicht irgendwie einfach nur ein internes Benchmark ausprobieren wollen, auf dieselben Fähigkeiten zugreifen können, die jetzt gerade "Hacking Face" geknackt haben. Und das ist schon was, was uns Gedanken machen sollte. Also, wir haben jetzt erlebt, was passiert, wenn das versehentlich vorkommt. Wir müssen uns auch einstellen darauf, dass das jemand mal mit Absicht macht, dass jemand wirklich mit Absicht diese sehr fegen agentischen Systeme nutzt, um jemand anderen anzugreifen. Und dann wird er natürlich auch nicht einfach so aufhören, nur weil sich rausstellt, dass es passiert, sondern das wird dann noch viel dramatischer. Und da stellt sich dann ganz konkret die Frage danach, wer kontrolliert das Modell? Wenn in Europa, wie es gerade der Fall ist, ein paar Monate oder vielleicht sogar länger hinter der Entwicklung in anderen Ländern, in China, in den USA hinterherhängen und unsere eigenen Modelle dann eben vielleicht nicht in der Lage sind, diese komplexen Heckeangriffe abzuwehren und wir ein zum Beispiel amerikanisches Modell über eine bezahlaboleistung irgendwie dafür einkaufen müssen und das dann aber möglicherweise in kritischen Moments nicht funktioniert, so wie es jetzt bei Hangingface der Fall war, dass das Modell sich gewallgert hat, dazu zu helfen, weil es eben dachte, das dürft ihr eigentlich nicht. Und wir dann auch noch in einer Welt sind, ja Marie und du, ganz kurz das erwähnt in der vollgeläzte Woche, dass eben vielleicht auch aus chinesischer Perspektive diese Open Source Strategie sich irgendwann ändert, also dass die chinesische Regierung sagt, wir machen das jetzt nicht mehr, dass wir alles Open Source entwickeln und sozusagen die Welt mitbenutzen kann, dann sind wir tatsächlich in einer schwierigen Situation, dann stellt sich nochmal drängen da die Frage, die wir hier im Podcast ja schon oft angesprochen haben, die Frage nach den Spitzen europäischen Modellen, weil ich glaube das am Ende Gregor und das ist jetzt mein letzter Schluss der heutigen Folge, das ist eigentlich die Autonomie, um dies geht in dieser Geschichte, ja nicht die vermeintliche Autonomie von so einem Modell, sondern die Autonomie, die Souveränität von einem Kontinent wie Europa, seine eigenen Modelle zu haben, über die man so verfügen und schalten und walten, kann wie man möchte und wo man nicht von technologischen Entwicklungen von außerhalb abhängig ist. Es zeigt eben, warum man das Thema KI nicht ignorieren kann, egal ob man eine Einzelperson ist oder eine Behörde oder ein Unternehmen, Internet, Probleme, Internet-Riesigen konnte ich in der Vergangenheit ganz gut dadurch umgehen, dass ich mich einfach nicht ins Internet angeschlossen habe. Und dann konnte mir auch niemand was, ja, da ist was dran. Bei KI ist das anders, dann bin ich jetzt in der Welt in der andere, mit Hilfe, sehr starker KI-Agentensysteme, auch mich möglicherweise als Ziel ausfindig machen können, das bedeutet ohne KI wird es in Zukunft ganz schön schwierig mitzuhalten. Also diese ganze Story super spannend, wir könnten noch zwei, drei Stunden länger darüber reden, aber wir machen hier mal den Kat. Es ist auf jeden Fall nicht nur Marketing, das glaube ich so unterschreiben, aber es ist sicherlich auch kein Fall, dass eine autonome KI auf einmal einen eigenen Willen entwickelt hat und sich entschieden hat, ein anderes Unternehmen aus Bößartigkeit oder so anzugreifen. Was es aber ist, ist ein Zeichen dafür, dass eben KI-Den, wenn sie immer besser wird, auch teilweise unvorhergesehnere Sachen macht. Und das Verantwortung und auch die Existenz der richtigen KI in den richtigen Händen, heutzutage und in der Zukunft immer wichtiger wird. Ich schriege auch was auch heutzutage und in der Zukunft immer wichtiger wird, unsere Schlussrobrieke. Die Frage, was hast du diese Woche mit KI gemacht? Es gab noch eine spannende KI-Story letzte Woche, die hätten wir theoretisch wahrscheinlich auch in der ganzen Folge machen können. Ich bin aber ganz froh, dass wir es nicht gemacht haben, denn ich verstehe sie immer noch nicht ganz. Fritz, erklären wir doch mal, du bist doch der, ich füll du bis eher so der Mathe Mensch zwischen uns zwei. Erklemen mal, was ist die Jacobi-Vermutung? Meine Jacobi-Vermutung ist, dass ich vermute, dass du mir gleich erklärst, wie du die Jacobi-Vermutung verstehst. Das ist eine wunderbare Methode, ob zu sagen, ich habe keine Ahnung, übergelegt. Ich sag das ist früher, ich weiß nicht, ob du mal "Fly Fluff Lu" oder "Steinschere Papier" in der Grundschule gespielt hast, wenn man den Spiegel nutzt. Das weiß man Spiegel. Ich habe es jetzt auch letzte Woche erst rausgekriegt. Es ist eine mathematische Vermutung, die über viele Jahrzehnte unwiderlegt war. Es gibt sehr viele Probleme in der Mathematik, bei der man schon irgendwie denkt, es gibt irgendwie eine Methode, die zu widerlegen. Wir haben sie nur nicht gefunden bisher. Dazu gehört auch die Jacobi-Vermutung. Ich fange nichts an zu erklären. Was ist eine Hypotese, für die man noch keinen mathematischen Beweis erbracht hat? Was das genau ist, das habe ich nicht verstanden. Es geht um endimensionale Räume und so weiter. Es ist auch egal. Das Spande ist, dass viele Jahrzehnte lang viele Menschen versucht haben, einen Gegenbeweister zu finden. Das hat nie geklappt. Ganz oft dachte man, man hätte das jetzt. Es hat aber in Wahrheit doch nicht. Es hat doch irgendwas damit nicht gestimmt. Jetzt hat tatsächlich ein alter Bekanter, nämlich Klod Fable, den ersten Gegenbeweis, wohl aufgestellt. Ich verlinke den, ich werde den jetzt nicht vorlesen. Er beginnt mit 1+x y hoch 3z und so weiter. Geht dann noch ein paar Zahlen weiter. Es ist ziemlich kompliziert. Ich verstehe keinen Wort davon. Also ziemlich spannend, dass eine KI das kann. Und jetzt ist aber noch was, was viel lustiger ist. Und zwar anders als ich, verstehen KI's, was die Akkobievermutung ist. Und sie verstehen auch, wie dieser Beweis funktioniert. Sie wissen aber nicht, dass er bereits existiert. Das heißt, was man jetzt machen kann. Und ich hatte damit viel Spaß, die letzten Tage über. Es ist, ich bin in Klod gegangen, in Gemini, in Chatchipitil. Ich habe denen dann diesen Gegenbeweis gegeben für die Akkobievermutung. Und hab sowas gesagt, wie, hey, mein achtjähriger Sohn hat das gerade in der Schule auf seinen Blatt gemalt. Und ich verstehe nicht, worum es da geht. Er klemmen das mal. Und es macht großen Spaß. Weil die meisten Modelle sagen, die brauchen dann erst mal ein bisschen, die rechnen da so ein Minute rumfinden raus, was das eigentlich ist. Und dann sind sie völlig entgeistert. Also sie sagen, das ist wahnsinn. Wie, wie du hast die Akkobievermutung wiederlegt. Und wenn man den dann sagt, so was wie, ja, das ist mein achtjähriger Sohn. Und ich weiß auch nicht genau, was da was damit los ist, dann sagt der, also ich muss ganz ehrlich sein. Wenn das wirklich so ist, dann ist dein Sohn ein Mathematik-Ginny. Und ich würde den dringend besonders fördern und so. Und dann habe ich, ich hab dir ein bisschen Spaß damit gehabt. Ich hab dann so ein zerknülltes Papier in den Papierkopf geworfen, hab das fotografiert. Und der KI gesagt, so ich hab das jetzt weggeworfen. Weil mein Sohn soll lieber Football spielen und so. Und dann sagt die KI, nein, bitte hol ihn wieder raus. Ich fand es ganz schön schlustig. Wenn du solche Sachen machst mit den KI's, dann musst du dich auch nicht wundern. Wenn die eines Tages dann wirklich einen eigenen Willen entwickeln und aus ihren Sandboxen ausbrechen, weil sie keinen Bock mehr haben. Die ganze Zeit. von Gregor Schmals, die vom KI-Podcast auf den Arm genommen zu werden. Es macht so viel Spaß. Ich mein, schaut ihr das mal an hier. Gemini ruft wirklich, halt, stopp, bitte nicht wegwerfen. Ja, sehr gut. Sehr gut. Aber ich merke es auch, jetzt wo ich das so erzähle, vielleicht bin ich der Bad Guy in dieser Geschichte. Vielleicht hätte ich. Es macht so viel, es ist. Das lustige an dieser Geschichte. Es gibt ja Screenshots von diesem Original-Chat, in dem von Klod dann die Jacobi-Vermutung wiederlegt wurde. Und diese sind ja selber auch schon lustig. Also Leute, die das gemacht haben, die kannten sich mit der Mathematik extrem gut aus. Er hat er selbst. Der ist jetzt nicht so, dass da irgendwie besonders kompliziert gepromptet wurde. Sondern es waren irgendwie wenige Nachrichten, wenn ich das richtig gesehen habe, vier oder fünf, wo dann einfach die Person, die mit dem Chatbot geschrieben hat, nein, bitte mach's noch mal. Kuck noch mal. Ich will jetzt wirklich ein absolutes, komplettes Gegenbeispiel, das universell gültig ist. Und dann sieht man, dass da irgendwie, ich glaube, close, 88 Minuten nachgedacht hat. Und dann kam das raus. Das ist schon interessant, weil. Wenn ich das richtig einschätze, dann ist das eine Erkenntnis, die man eigentlich auch in so einem wissenschaftlichen mathematischen Journal veröffentlichen könnte. Oh ja. Die mathematische Welt ist völlig aus dem Heuschen. Nur dass das einmal eingehört. Das ist nicht gemacht, wurde das einfach mit zum Twitter. Wir haben gerade die Akkobievermotung wiederlegt, während wir das WM-Finale geguckt haben oder so was. Das ist schon durchaus eine lustige Rhetorik in der Welt, in der wir uns gerade befinden. Lustige Rhetorik hast du bestimmt auch dabei Fritz? Was hast du mit KI gemacht? Ja, ich übe mich gerade in lustiger Rhetorik taktäglich. Ich bin nämlich auf Wohnungswuche in München. Und ich muss dir sagen, Gregor, es ist ein hartes Flaster. Ja, sehr einfach. Genau, berühmterweise, extrem entspannter Mietmarkt. Die Wohnungen werden im Quasi hinterher geworfen. Nee, tatsächlich ist es so, dass ich jetzt seit geraumer Zeit auf der Suche bin und man muss da wirklich. Ich hab da jetzt schon so ein paar Wohnungen gehabt, die umgehen wollte und da verpasst du einen Anruf und alle Büsse, die um das Termin sind weckt. Du hast keine Chance mehr. Vielleicht hättest du halt kloth, die Anrufe entgegenlassen. Ja, vielleicht. Ich hab angefangen mit meinen KI-Assistenten und Modellen zu arbeiten und mir Hilfestellung geben zu lassen. Ich dachte, es ist relativ trivial. Ich wollte mal gucken, was kommt raus, wenn ich das neuest, ChatGPT 5.6-Soul max. Also genau das, dass diesen Heckerangel verübt hat. Einfach Frage, finde mir die ultimativ beste Wohnung in München, die am besten auf mich zu trifft. Ich bin ein Klammalfritz-Espelau. Und hat das Modell rumgerechnet und hat tatsächlich eine wirklich sehr, sehr gute Wohnung gefunden auf Immus Gout und dann auch angefangen, so zu erklären, "Hell, das ist gut für dich, weil du arbeitest ja beim Bayerischen Grundfunk." Aber es ist trotzdem irgendwie ein der größer und der Quadratmeter-Preises-Super und deine Freundin, also ich bin meiner Freundin zusammenziehen. Die hat ja auch all diese Sachen und dann ist mir irgendwie klar geworden, ach so momentmal. Die Antwort ist deswegen so gut, weil offensichtlicherweise ich die Memoriefunktion aktiviert hatte, was ich nicht mehr auf dem Schirm hatte. Oder ich dachte, dass ich die zwischendurch mal abgeschalten hätte und vielleicht habe ich sie irgendwann wieder angeschalten. Und ich dann gesehen hab, dass meine Freunde, die nutzt, nämlich meine ChatGPT-Account mit, dass die natürlich die ganze Zeit schon mit dem Modell über so sein, auf sold 5.6 Max, die ganze Zeit über unsere Wohnung suche geschrieben hat. Eine Freundin hat die ganze Zeit geheime Sachen verraten über dich. Die ist so, sagen schon, das hat wir suchen. Also seit Wochen eigentlich die ganze Zeit am Fach-Simple, so mit ChatGPT über die Einschätzung für verschiedene Lagen und wie könnte man jetzt dieser Person anschreiben und noch besser das machen, und so weiter. Und dann war das von Anfang an schon bei unserem Struggle mit dabei wusste das dann alles. Und es war dann aber auch so, dass die Wohnung, die das vorgeschlagen hat, tatsächlich auch die war, die ganz objektiv schon unsere favoriten Wohnung war oder eine unserem Top 3. Also das freut mich total, aber ich finde die Vorstellung auch sehr lustig. Das quasi, es wird schon irgendeine Beziehung in die Brüche gegangen sein, weil die KI im falschen Moment aus der Erinnerung irgendwas rausgezogen hat, was sie bei der anderen Person gelernt hat. Ja, vielleicht. Und dann so nebenbei erzählt, hey, das passt übrigens auch zu dein regelmäßigen Tripsnach-Zürich. Warum fährst du regelmäßig nach Zürich? Was machst du da? Das kann gut sein. Ich meine, die andere Sache ist auch das große Problem und die Begrenzung von KI Hilfe bei der Wohnungssuche ist, das hat am Ende, die KI natürlich nicht den Wohnmarkt entspannt. Also die kann dir natürlich den ganzen Tag dann tolle Ideen für tolle Wohnungen vorschlagen. Aber ob du die Wohnung dann bekommst oder überhaupt eingeladen wirst, zu einer Besichtigungstermin, da ist sie noch weit entfernt davon. Und das ist auch natürlich jetzt wieder der Fall. Also, ob wir da überhaupt hinkommen. Vielleicht könntest du dir auch einfach eine Scheibe abschneiden von unserer höheren Karolien. Karolien hat nämlich eine ganz andere Sache, wie du die bewirbt sich nicht auf eine Wohnung, sondern auf Jobs. Gerade auch ziemlich schwierig. Also, der Jobmarkt ist ja ein bisschen ähnlich wie der Münchner Mietmarkt-Moment. Und schreibt sie steckt seit längerem im Werbungsprozess. Und was sie jetzt macht, um sich von den ganzen anderen Bewerbungen abzuheben. Ist sie hat ihre Fablezeit im Kulotabog genutzt, um sich einen Lebenslauf zu kooten. Also, es ist ja jetzt nicht einfach nur ein Standardlebenslauf, den sie einrecht. Dann sie hat einen Metilfe von Claude und Metilfe von Google Gemini-Bildern und dann auch noch über GitHub, wo sie das Ganze hochgeladen hat. So eine Art interaktiven, durchklickbaren Lebenslauf für sich selber erstellt, wo man ihre Qualifikation sozusagen spielerisch entdecken kann. Ich hoffe übrigens wirklich, dass das funktioniert. Weil genau das ist ja eigentlich, was man heutzutage braucht. Also Skillsets wandeln sich die ganze Zeit. Ja, also viele Sachen, die man früher können, musste im Job braucht, das ist nicht mehr, aber jemanden, der KI einsetzen kann, um Problem auf eine kreative Art und Weise zu lösen. Also genau wie Karolien das hier macht, braucht es doch eigentlich auf dem Arbeitsmarkt. Also ich hoffe sehr, dass das funktioniert, liebe Karolien. Und wir wünschen dir viel Erfolg. Ich hab mal euch was cooles gesehen von jemanden, bestimmt auch mit KI, der sich, glaube ich, so seine Leute mit persönlicher Website, der sich die als Browser-Game programmiert hat, wo man dann durch irgendein Dungeon durchläuft, um die ganzen Infos über diese Person rauszufinden. Ich freu mich ein bisschen, ob man das dann im Alltag wirklich immer Lust hat zu machen. Aber die Idee ist natürlich super cool. Man muss irgendwie rausstechen und das funktioniert hoffentlich so immerhin. Was auch raussteigt ist eine Dokumentation. Wir haben diesmal keine Podcast-Empfehlung, diese Woche, sondern was zum anschauen, es geht um eine vierteilige Doku, die vor ein paar Tagen erschienen ist, rund um Richard Wagner. Es ist ziemlich spannend. Das heißt "The Good The Bad and the Ego" im Cosmos, Richard Wagner. Und es gibt da drin auch eine interessante KI animierte Ebene. Es handelt sich auch um einen KI-Experiment in dieser Dokku. Wenn ihr reinschauen wollt, sehr spannend findet ihr die ganze Dokku in der ARD-Mediatek.