Warum möchte die KI-Industrie sich selbst stoppen?

Hi, hier ist Gregor vom KI Podcast. Ihr hört gleich unsere neue Folge und sehr, sehr schnell, nachdem wir mit der Aufnahme für diese Folge fertig waren, haben einige der wichtigsten KI-Chefs der USA allen acheinander gefordert. Ja, man müsse tatsächlich die Entwicklung der künstlichen Intelligenz etwas verlangsamen und besser koordinieren. Was es damit auf sich hat, findet ihr in den Show-Nodes, aber vor allem wie es dazu kam, das hört ihr jetzt. Gregor, schön mal wieder mit dir herzusetzen. Ja, wir haben öfter mal die Gelegenheit glaube ich, aber jetzt, jetzt hast du das in sich. Wie freut es, wie oft noch? Wie oft noch? Moment, mein Fritz. Ich, mir schwarnt übles. Möchtest du über das machen, was letzte Woche auf einmal so on-woak geworden ist? Möchtest du kündigen, Fritz? Ich dachte, du willst darauf hinaus. Ich dachte, dass es der Joghob den du hinaus möchtest. Nein, der Joghob den ich hinaus möchtest. Wie viele KI-Podcast folgen, werden wir noch aufnehmen, kann im Vor die KI-Apo-Kalypse eintritt, weil das kann ja jetzt jeden Tag passieren. Zumindest, wenn man sich umguckt und schaut, was gerade im Silicon Valley passiert, da posten das nämlich gerade alle. Ja, das ist eine super Überleitung, was meine Überleitung gewesen wäre. Meine Überleitung gewesen. Ja, ich möchte kündigen, denn kündig gekündigt hat auch Jacob Coxen von der Firma Enttropic und das müssen wir, liebe Hörerinnen und Hörer das KI-Podcast euch wahrscheinlich nicht erzählen, die das habt ihr wahrscheinlich mitbekommen. Also ich glaube, seit, das waren so die letzte große Kündigung dieser Art, die stattgefunden hat vielleicht Joe Biden. Ja, war keine Kündigung mehr so viel diskutiert, denn Jacob Coxen kannte bis letzte Woche niemand. Ja, es war ein Forschungsmitarbeiter bei Enttropic, der KI-Firma hinter Klod vorher war, bei OpenAI und dann hat er auf Twitter geschrieben oder auf X. Ja, I resigned from Enttropic today. Ich habe heute bei Enttropic gekündigt. Schreibt er die letzten drei Jahren, habe ich dort pre-training Forschung gemacht. Also erst bei OpenAI und jetzt, seit Kotzen bei Enttropic, keine Firma von den beiden verhält sich verantwortungsvoll. Sie rasen direkt zu sich selbst verbessern da super Intelligenz und sie spielen mit unseren Leben und dann geht es noch ein bisschen weiter und irgendwann steht dann da auch noch mal die Leute, die die KI-Bauen glauben ernsthaft. Sie könnte uns alle vor Ende des Jahrzehens umbringen. Ja, und jetzt können man natürlich denken, okay, mal wieder so ein Verrückter, der gekündigt hat, der irgendwie seiner Firma was auswischen möchte, aber dann hat jemand auf diesem tweet reagiert, der selber noch bei Enttropic arbeitet und zwar nicht einfach nur irgendjemand, sondern Evan Hubinger heißt der, der tatsächlich der Chef ist von dem Team, das bei Enttropic dafür zuständig ist, die KI-S zu verantwortungsvollen KI-S zu machen und hat gesagt, ja, Jacob hat recht, wir glauben das wirklich, wir glauben tatsächlich, dass KI alle Menschen töten könnte. Ich persönlich glaube, dass es ungefähr 10 Prozent wahrscheinlich innerhalb der nächsten zehn Jahre und ja und damit war dann die Halle los im Internet, das ist zu, also auf Twitter glaube ich, zu einem der erfolgreichsten, in Anführungszeichen erfolgreichsten, also meist gesehnsten Tweets aller Zeiten geworden. Ja, es macht aber auch Sinn, das hier fühlt sich an, wie der Teil in den Science-Fiction-Film, wo der einsame Forscher, der die Katastrophe kommen sieht, versucht, die Öffentlichkeit zu warnen und niemand hört ihn zu. So fühlt sich das an und das hat sich offensichtlich verfangen. Ja, eine Menge Leute haben darüber gesprochen, sprechen immer noch darüber, also tun wir das selbst verständlich auch und nicht irgendwie, sondern wir haben gesagt, wir nehmen das, was diese Warnung in sich trägt, ja, wirklich mal auseinander, schauen, wie ernst sollten wir das nehmen, wo kommt das eigentlich alles her und müssen wir Angst haben. Das machen wir jetzt, wir sind der KI-Podcast. Ich bin Gregor Schmals-Reed und ich bin Fritz Espenl. Fritz, du hast mir was sehr wichtiges gesagt über Jacob Coxen und zwar hast du mich darauf hingewiesen, dass du glaubst, dass alle diese Mann zuhören, warum? Ich weiß nicht, ob das der Grund ist. Er hat eine erstaunliche Ähnlichkeit mit Harry Potter. Das kann man, glaube ich, sagen. Das ist furchtbar. Er sieht exakt aus wie Harry Potter. Und ich kann mir vorstellen, dass das auf irgendeiner ganz unbewussten Ebene in Leuten so einem Puls auslöst, momentan mal dieses Gesicht, dem muss man doch vertrauen. Das ist ein ehrlicher junger Mann, der die Welt vor einer großen Gefahr waren und möchte, genauso wie Harry Potter ist damals gemacht. In der Orten des Filniks, im fünften Buch und Film, exakt genau. Also schauen wir uns mal an, was sagt Harry Potter, Jacob Coxen eigentlich. Was ist seine Tese? Die hat ja ja zum Glück nicht nur auf Social Media gepostet, sondern er war dann auch viel in den klassischen Nachrichtenmedien, mit dem Wall Street Journal gesprochen, auf Fox News war er auch. Also er versucht schon eine Menge Leute zu erreichen mit seinem Botschaft. Und die hat so ein paar verschiedene Komponenten, ja. Er sagt, ob eine Eye- und Entropic steuern auf etwas zu, was eine sich selbst verbessende Superintelligence ist und das Problem, wenn sich eine Superintelligence so weiter verbessert, sagt er, man muss die irgendwie unter Kontrolle halten. Aber seine Tese, sein Eindruck, die kriegen das nicht hin. Und wenn irgendwas schief geht, dann sind wir alle dran, weil wir nicht wissen, was diese Super KI möglicherweise mit uns anstellt, vielleicht stellt die ja fest, sie wir mit uns Menschen gar nichts zu tun haben. Und dann haben wir keine Möglichkeit, wieder rauszukommen aus dem Schlamassel. Das Argument ist tatsächlich eins, dass in gewisser Hinsicht eigentlich auch am Anfang der aktuellen KI-Revolution stand und die KI-Revolution, so wie wir sie jetzt erlebt haben, in gewisser Hinsicht auch verursacht hat, weil das die Idee war, die schon damals zur Gründung von Open AI geführt hat, diese Idee, wir bauen hier eine Technologie, am Ende dieser Technologie, wir können das prognostizieren, wir sehen, wir bauen Computer, die intelligent sind, die vielleicht jetzt gerade mal schach spielen können, aber im Schach schon viel besser sind, als wir Menschen, und sehr bald natürlich ein allem besser sein könnten, als wir Menschen. Und wenn sie das sind, dann wären wir Menschen zum ersten Mal in einer Position in der eigentlich aktuell alle anderen Tiere auf der Erde, so sind uns gegenüber nämlich, dass es eine andere Lebensform gibt oder eine andere Art von Akteur, der so viel mehr intelligent ist als wir, dass wir gar nicht mehr, überhaupt nicht mehr verstehen können, was da eigentlich passiert. Und genauso wie jetzt, wenn irgendein Kind einen Armeisenhügel kaputt macht und die Armeisen zertret und die Armeisen wahrscheinlich überhaupt nicht verstehen und gar nicht wissen, was da passiert ist und auch gar keine Möglichkeit gehabt hätten, da irgendwie dieses Kind zu kontrollieren oder dem irgendwie zuvor zu kommen, selbst wenn sie es versucht hätten, genauso dass es die Befürchtung in diesem, man muss es, glaube ich, immer noch Gedanken-Experiment nennen, dass es die Befürchtung, dass das dann eben auch, ja, dass wir in dieser Situation der Armeisen sein werden, gegenüber der Super KI. Ja und jetzt gibt es eben diesen Wettlauf, wir gibt natürlich einmal die großen Wettlauf zwischen Open AI und ein Tropic und auch ein bisschen Google, um den von denen nicht mehr so viel Höltern letzter Zeit und XAI und noch ein paar anderen Firmen, aber natürlich gibt es auch den großen Wettlauf USA vs China, das ist so der Markro-Conflikt, der überall dem steht. Und jetzt gibt es aber noch was, was das Ganze ein bisschen verkompliziert, es gibt nämlich Leute wie Jacob Coxen, die vielleicht angefangen haben auf einer dieser Seiten oder auch ein bisschen verbandelt sind mit manchen dieser KI-Firmen, die sich aber im Wesentlichen nicht darum kümmern, diese KI zu bauen sollen, darum vor dieser KI zu warnen. Also eine Art KI-Sicherheits-Aparat, der macht dann ein paar Sachen, ja da geht es natürlich einmal darum, ein KI-Sicherheit zu forschen, aber es geht auch darum, PR zu machen, ja, es geht darum, die Öffentlichkeit über das zu informieren, sagen Sie, was Sie für ein sehr großes Risiko halten. Also das Interessante ist ja, das ist ganz gut, dass wir da jetzt drauf kommen, weil man muss da ein bisschen die Szene verstehen und kennen, woher diese Leute kommen. Also das sind Menschen, die eben tatsächlich aus einer, in vielen Fällen, aus einer Bewegung kommen, die nennt sich die effektiven Altruisten, also Leute, die wollen gutes tun, aber eben auf eine möglichst effektive Art und Weise, ja der Grundgedanke ist total simpel, dass man sagt, wenn ich 1 Euro an eine gemeinnützige Organisation spende, dann sollt ich das an die spenden, womit diesem 1 Euro vielleicht am meisten gute Dinge passieren und nicht der irgendwie verwaltungskram versichert oder sowas. Und aus diesem eigentlich ganz simplen logischen Satz ist in dieser Szene der effektiven Altruisten in den letzten Jahren. Ich habe das immer wieder beobachtet, weil ich damals viele Leute kannte, in der Szene eigentlich, ja das Dogma muss man so sagen, erwachsen zu sagen, das einzige, was wirklich einen Unterschied macht für die Menschheit, ist die KI-Sicherheit, weil da steht am meisten auf dem Spiel, quasi alles andere Klimawandel und irgendwie Entwicklungszusammenarbeit, das ist alles schön und gut, aber wenn uns eine Super KI alle auslöscht, dann ist das alles so sagen, egal. Und daraus ergeben sich dann eben so was wie diese Influencer-Kampagnen und jetzt eben auch zum Beispiel der Jacob Cox, und der dann eben unterstützt wird von diesen Netzwerken, um ihm möglichst viel Reichweite zu geben. Ja, das ist das interessante dabei. Wir kennen das ja vielleicht aus anderen Industrien, wo man sich wirklich da bei klassischen Industrien hat man vielleicht so das Bild, es gibt die Pro-Seite, es gibt die Kontra-Seite, es gibt irgendwie die Tabaclobi und dann gibt's die, die gegen die Tabaclobi sind. Hier sind das im Grunde genommen ein und dieselben, ja das ist ein und dieselbe Szene, die Leute haben das gleiche studiert, waren oft bei den gleichen Unternehmen und hier in dem Fall haben wir ja sogar, wie wir am Anfang zitiert haben, die Geschichte, dass es einen Aussteiger gibt, der sagt diese Firma, ist eigentlich nicht verantwortungsvoll, und jemand, der noch bei dieser Firma arbeitet, sogar in Leiten der Position stimmt ihm bei dem meisten, was er sagt zu. Also, das ist diese kurriose Situation, die auch Leute ein bisschen verwirrt. Vielleicht noch an der Stelle der Hinweis, es gibt natürlich auch innerhalb der Tech-Welt große Meinungsverschiedenheiten, weil dieses Thema ist. Es ist sicher nicht so, als wäre jeder, der mit KI zu tun hat, dieser Meinung. Also vielleicht das prominenteste Beispiel ist Jensen Hoang, der Gründer und Chef von NVIDIA, einer der wichtigsten KI-Unternehmer unserer Zeit, auch wenn den Video keine KI verkauft, sondern Tipps, der hält das alles für großen Humbug. Also der läuft jedes Mal rum und sagt, das ist alles quatsch, und die Leute, die so was erzählen, wissen nicht, was sie reden. Also, da gibt es schon auch eine ziemlich manchmal unterhaltsame auseinandersetzung, die aber konstant läuft. Was ist natürlich dann von draußen umso schwieriger, macht den Überblick zu behalten, weil man scheinbar hört von den einen Tech-Leuten, die sagen, das ist ein riesen Problem, die anderen sagen, das ist völlig irrelevant, über den mal nicht zu. Aber krieg er dann, lass uns doch mal zu dieser zweiten großen Frage, die wir angetießt haben, gehen und zwar, warum reden denn jetzt alle darüber? Also, warum setzt sich jetzt ein Bernie Sanders, so für dieses Thema ein, warum? Löst das gerade so eine Resonanz aus, dass alle Leute mit Jacob Coxern sprechen wollen. Und ja, wir haben da ein paar Gedanken uns gemacht. Ja, ich glaube, wir haben in den letzten Folgen viel gesprochen über diese ganzen Hecker-Angriffe, der großen KI-Modelle auf andere Unternehmen teilweise auf sich selbst. Man hat zunehmen gerade das Gefühl, dass die großen KI-Firmen ihre KIs immer weniger unter Kontrolle haben. Wir werden gleich darüber sprechen, ob das wirklich so schlimm ist. Aber diese Stories, die gab es nicht vor ein paar Jahren. Vor ein paar Jahren hat man irgendwie theoretisch wahren können, vor irgendwann könnte mal eine gefährliche KI kommen. Das ist theoretisch möglich. Aber es hat sich nicht greifbar angefühlt. Und die Hecker-Angriffe von heute, über die wir schon gesprochen haben, die sind natürlich keine super KI. Das hat in dem Sinne nichts wirklich damit zu tun, wo vor Jacob Coxern Angst hat, aber es fühlt sich natürlich jetzt auf einmal näher an, weil wir auf einmal in der Welt sind, in der wir Angst haben müssen, ein kleines bisschen, das vielleicht mal ein Unternehmen oder sogar ich als Privatperson Opferwerde von einem KI-gesteuerten Hecker-Angriffe. Es ist ein bisschen näher an unserer Lebensrealität plötzlich. Mich erinnert das ein bisschen an damals als die Corona-Pandemie losging, ganz am Anfang die ersten Fälle, die da in China waren, wie ist es noch gleich? Wo haben, danke. Das war alles sehr, sehr weit weg und sehr abstrakt. Und in Deutschland hat man ganz viel zu dem Zeitpunkt noch über die Nachfolge von Annegret Kramp-Karrenbauer gesprochen. Das war das dominierende Thema in den Schlagzeilen. Und ich erinnere mich da noch ziemlich genau daran, dass ich damals in so einer Mim-Gruppe war auf Facebook von diesen effektiven Altruisten, die normalerweise die ganze Zeit über damals schon über KI-Sicherheit und solche Dinge reden haben. Und die schon bei diesen ersten Fällen in China alle total auf die Palme gegangen sind, also weil die sich auch natürlich alle mit Pandemien die ganze Zeit beschäftigt haben. Und da schon total viel darüber geredet haben, wären sozusagen die normale Welt sich noch gar nicht mit diesem Thema beschäftigt hat. Und dieser Vergleich, der ist in den letzten Monaten immer wieder gemacht worden, auch Zunehmend von Leuten in Silicon Valley, auch seinem Oldman selber, hat den mal gesagt in einem Interview vor einigen Monaten, das ist sich ein bisschen so anfühlt in der Silicon Valley-Welt, als würde die Pandemie auf einem zukommen und die restliche Gesellschaft hat noch irgendwie andere Dinge im Kopf. Und diese letzten Tage, glaube ich, fühlt sich jetzt für viele Leute in der Silicon Valley-Welt so an wie der Zeitpunkt, als es dann über uns in Deutschland plötzlich auch ein ganz großes Thema war, als plötzlich in Bergamo und in Italien die Fälle waren und irgendwie alles ein Stückchen realer geworden ist. Die Frage ist, führt das wirklich dazu? Also stehen die sich das nur so vor, dass das jetzt so ähnlich ist wie damals bei Corona, oder handelt es sich wirklich um etwas, was ähnlich groß wird oder noch größer und vor allem etwas, was am Anfang nicht aufzuhalten ist. Das war ja auch das große Thema bei Corona. Schauen wir uns das doch mal konkret an, was ist eigentlich dran an diesen Vorwürfen? Vielleicht am Anfang dazu gesagt, wir wissen das natürlich nicht im gleichen Sinne, wie wir nicht wissen können, was in der Zukunft passiert. Wir können am Ende des Tages nicht in die Zukunft sehen und sicher sagen, was passieren wird, was wir aber machen können, ist uns die Argumente und die Szenarien, die da gemacht werden in dieser Welt, genau anschauen und auch anschauen, wie entwickelt sich denn die KI gerade? Was hat sich zum Beispiel über die letzten zwölf Monate, über die letzten 24 Monate getan, dass ein solches Szenario entweder wahrscheinlicher geworden ist oder weniger wahrscheinlicher? Das kann man einigermaßen zuverlässig machen. Oder sagen wir so, vielleicht ist es ja auch, dass ein paar der Dinge wahrscheinlicher geworden sind in diesen Szenarien, aber trotzdem noch nicht automatisch alles, was so ein Jacob Coxon oder jemand anderes dort sagt. Und vielleicht ist es ja auch so, dass vielleicht eine Unterkategorie dieser Ängste durchaus ernst zu nehmen ist, aber das heißt nicht, dass wir wirklich jetzt morgen oder übermorgen schon eine Wahrscheinlichkeit haben, dass so die Welt zu Ende geht. Ja, vielleicht ist es gut, dass man in dieser Stelle zu sagen, also wir, als Leute, die sich sehr viel mit K.E. beschäftigen, wir können immer noch ins Bett gehen, wir können immer noch schlafen, wir laufen jetzt nicht jeden Tag rum und haben die ganze Zeit Angst davor, dass wir jeden Moment von Killerobottern niedergemetzelt werden, vielleicht das als kleiner Spoiler. Ich glaube, dann hätten wir im Podcast schon öfters darüber geredet. Ich glaube, dann würden wir den Podcast ja nicht mehr machen, ist die Antwort. Wie ich gesagt, dann hättest du gekündigt. Das Gute ist, wir haben eine Art Kanon, eine Art etablierten Text, den wir hernehmen können für dieses Experiment, wo wir einfach mal schauen können. So eine Vision von einer KI Apokalypse ist die gerade realistischer geworden oder weniger realistisch. Und dieser Text heißt AI20207. Einer der Autoren, Daniel Kokotello, ich habe den auch getroffen, als ich im Silicon Valley war im Januar, der ist tatsächlich auch ehemaliger Open AI-Mitarbeiter, also gehört auch zu den Leuten, die damals gekündigt haben. Und der hat auch noch eine lustige Gemeinsamkeit mit Jacob Coxen mit dem aktuellen whistleblowerin Anführungszeichen und zwar das beide auf ihre Unternehmensanteile verzichtet haben. Also es gibt in diesen Firmen teilweise so Verträge, dass du dich dann öffentlich nicht negativ über deine ehemalige Firma äußern solltest oder darfst, weil du deine Equity, also deine Anteile verlierst. Das war damals das große Ding mit dem Kokotello schon früh in damals in den Medien war. Und der hat mir das damals auch erklärt, warum die überhaupt dieses Szenario geschrieben haben, weil sie versucht haben, ganz bewusst diese sehr große und für viele Leute auch sehr erst mal unplausibel klingende Idee, dass eine superintelligenz wirklich entstehen kann und uns gefährlich werden kann, so konkret zu machen, so Monat für Monat eigentlich eine Prognose aufzustellen. Also das geht los, Ende 25 dieses Szenario und beschreibt zu die nächsten zwei Jahre, also bis 2027, deswegen heißt das so und das eben so konkret Monat für Monat aufzuschreiben, was sie glauben, was passieren wird, damit man dann das abgleichen kann, mit dem wie die Dinge tatsächlich laufen. Die haben sich schon gedacht, der KI-Podcast wird irgendwann da sitzen und wird sich denken, hey, wer doch schön, wenn wir so eine Prognose hätten, die wir man testen können, ja. Und das ist auch eine ganz große Sache in dieser intellektuellen Kultur im Silicon Valley immer so prognosen, möglichst überprüfbar und testbar zu machen. Das finden die alle ganz, ganz toll. Ich fand es jetzt tatsächlich auch ganz toll. Also mir hat es ziemlich viel Spaß gemacht, jetzt diesen Bericht nochmal genau durchzugucken. Ich habe auch ein paar Kloat-Aggins darüber laufen lassen und mal geguckt, was die da so finden an aktuellen Entwicklungen, weil wenn man diesen KI-2027 bericht mal so runterdampft, dann findet man, wie nachdem jemand zählt, ungefähr vier Faktoren, die eintreffen müssen, damit das, was die Autoren da befürchten, nämlich im Grunde genommen, das Ende der Menschheit, der maximal schlimm, damit das tatsächlich passiert. Also können wir diese vier Sachen mal durchgehen und gucken, wie steht es eigentlich so um die, ja. Erster Part Fritz ist halt relativ simpel. Der erste Faktor ist einfach nur KI wird immer besser und da stecken verschiedene Sachen drin, da steckt drin, dass sich einmal KI selbst verbessern kann, also das KI-Modell irgendwann seinen eigenen Nachfolger trainiert, dass es genug Rechen-Power weiterhin gibt und auch einfach, dass es immer noch überhaupt möglich ist, besser zu werden. Ja, es ist ja bei so einer Entwicklung, bei so einer neuen Erfindung, auch gar nicht wirklich klar, wie viel besser das noch werden kann. Wenn denkt an andere Erfindungen wie Kanal und den Kugelschreiber, diesen irgendwann zu Ende erfunden, da kam nicht mehr viel dazu in den letzten 50 Jahren, da ist einfach nicht ausgemacht, das KI immer besser werden kann. Und all diese Sachen zusammengenommen sind so der erste große Faktor, KI wird immer immer besser und macht sich selber immer immer besser. Vor allem zweiter ist es, glaube ich, nochmal ganz wichtig, nicht nur, dass sie so ein bisschen besser wird, sondern das ist ein ganz bekannter Begriff in der KI-Welt, die Singularität, dass die irgendwann näher kommt. Also das ist so eine Exponentialkurve gibt, wo die Verbesserungen immer schneller, immer besser und dabei immer noch schneller, immer noch besser werden und dann eben auch so ein selbstverstärkender Effekt passiert. Also dass die gute Modelle irgendwann so gut sind, dass sie helfen kann, neue Modelle zu entwickeln, neue KI-Modelle, die dann wiederum natürlich noch besser sind, die wieder helfen können, neue und so weiter. Das ist das, was man dieses recursive self-improvement nennt. Ich glaube, da gibt es keine wirklich gute deutsche Übersetzung dafür, also sich selbstverstärkende Selbstverbesserungen. Die Angst ist natürlich auch davor der Exponenzialität von dem Ganzen. wie mit dem Reiskorn und dem Schachbrett, dass man eine Reischachbrett hat und auf das erste Feld kommt ein Reiskorn und auf das zweite kommt das Doppelte und dann wieder das Doppelte und man denkt, da am Anfang sich nichts dabei, naja, mein Gott, ne. Mit kleiner Reisschüssel wird er schon zusammenkommen. Aber natürlich hat man am Ende dann mehr Reiskörner auf diesem Schachbrett als im gesamten Universum existieren. Also so eine exponentielle Intelligenz-Explosion, noch so ein Begriff, den die da gerne benutzen, das ist das, was dafür gebraucht wird. Die Frage ist jetzt, sehen wir da schon Hinweise darauf. Die Labore, ein Tropic-Operi, die zumindest, die machen sehr starke Andeutungen, da sie ihre Modelle aktiv benutzen, um neue, bessere Modelle zu entwickeln und das das auch schon funktioniert. Also, dass man erste Anzeichen dieser RSE-Dynamik schon sehen kann. Ja, das ist ja auch vollkommen klar, ja. KI ist ja gerade in der Software-Entwicklung, wahnsinnig hilfreich, und dass man dann ein Modell benutzt, um ein neues Modell zu trainieren. Das passiert immer öfter und auch, wenn man sich den Fortschritt anguckt, also auch einfach wie gut diese neuesten Coding-Modelle geworden sind. Wir haben in den letzten sechs Monaten alleine wirklich massive Sprünge wiederhoben gesehen. Also vor einem Jahr war ja noch ein bisschen die Angst, kommen wir jetzt an so eine Grenze. Die Grenze ist diverse Male seitdem gesprängt worden. Also ich würde sagen, dieser erste Punkt, die wird immer immer besser und irgendwann könnte sich auch der Fortschritt verselbstständigen. Das ist absolut nicht bewiesen, dass es so ist, aber es ist sicherlich auch nicht wiederlegt, weil der Fortschritt bislang schon ganz schön anzieht. Äh, die Frage ist, tritt auch der zweite Faktor ein. Also der erste war, wie gesagt, KI wird immer immer besser. Der zweite Faktor ist verstehen, wie Menschen irgendwann nicht mehr was da eigentlich passiert. Also das ist ganz wichtig für das Szenario AI2027, weil wenn wir jederzeit einfach rein gucken können, was die KI denkt in Anführungszeichen, dann merken wir das ja, wenn sie irgendwann anderer Meinung ist, als wir und uns gefährlich werden könnte. Deswegen ist ein wichtiger Faktor in diesem Szenario, dass die menschlichen KI Entwickler gar nicht mehr so richtig verstehen, was ihre KI da eigentlich treibt und wie sie eigentlich funktioniert. Und da muss man auch dazu sagen, dass damit was ganz bestimmt ist gemeint. Weil das haben vielleicht auch viele Leute schon mal gehört, diese Rede von der Black Box, dass man von außen, dass niemand so genau weiß, wie diese Technologie macht, was sie eigentlich macht. Das ist nicht 100% das, was damit gemeint ist. Das ist auch nicht so schlimm, dass wir wissen, auf einem hohen Level, wie diese Technologie funktioniert. Wir wissen, dass das statistische Zusammenhänge sind, die diese Modelle zwischen Wortwolken identifizieren. Gibt's tatsächlich eine aktuelle Entwicklung, die Leute so ein bisschen nervös macht. Und vielleicht auch mit erklärt, warum das jetzt alles so ein großes Thema geworden ist. Weil nicht nur werden die Modelle tatsächlich aktuell besser, das sehen wir. Sondern es ist auch so, dass eine Sache, die wir sehr lange jetzt auch ja in der KI-Verzunehmend benutzt wurde, um den KI's auf die Finger zu gucken, nämlich diese sogenannten Reasoning-Modelle, die ihren internen Gedankengang teilen, die besser werden, dadurch, dass sie erst mal Text generieren, mit einer Überlegung, wie sie jetzt eine Aufgabe lösen würden. Und man da dann immer, so die Hoffnung hatte, ja, okay, an der halt für diesem Text können wir ja so ein bisschen auch nachvollziehen oder kriegen wahnsinnale, wenn das Modell in seinem internen Gedankengang irgendwas ausheckt. So, dann sehen wir das. Also man hat das, zum Beispiel diese Untersuchungen intern bei OpenAI jetzt zu dem "Hurking-Face"-Vorfall, die haben sich sehr, sehr stark auf diese Reasoning-Gedankengänge gestützt. Also, wir können einfach nachschauen quasi, dass das Modell für Gedanken hat. Genau, ich kann und dann steht da drin so, okay, eigentlich darf ich das jetzt nicht, aber ich glaube, ich bin hier in einer Testumgebung und dann darf ich das vielleicht irgendwie doch und dann hecke ich jetzt, sozusagen mal das, weil ich glaube, das ist irgendwie Teil meiner Aufgabe gewesen. Also, man sieht da so ein bisschen und hat dann das Gefühl, als KI-Vorscher, ja, okay, gut, wir können ja rein gucken in die Modelle oder ein bisschen mitlesen, was die sich denken. Und jetzt ist es so, dass es gerade aktuell tatsächlich Gerüchte gibt, dass bei OpenAI, das sind aktuell nur Medienberichte, die Firma selber hat sich dann noch nicht dazu geäußert. Es wohl bei diesen neuesten, noch nicht veröffentlichten Modellen, so ist, dass sie diesen internen Gedankengang abkürzten. Und zwar, dass der nicht mehr als englische Worte oder deutsche Worte oder was auch immer ausformuliert von dem Modell generiert wird, sondern nur noch passiert in den Wades. Also, in den Zahlen, also in den mathematischen eingeweiden dieses Modells. Was auf der einen Seite eigentlich ein ziemlich intelligente Entwicklung ist, weil es würde für uns Konsumenten bedeuten, okay, die Modelle irgendwie brauchen weniger Rechenpower und sind klüger und schneller. Aber auf der anderen Seite ist es natürlich genau dann nicht mehr möglich, reinzugucken und zu verstehen, was eigentlich genau das Modell sich denkt. Ja, wobei man ehrlicherweise sagen muss, auch mit englischer Sprache, ist das nicht so leicht, also ein großes Problem, was immer wieder auftritt, ist, man testet diese Systeme, ja, darauf, wie sie sich verhalten. Also, man gibt denen eine einfache Aufgabe und sagt, "Hey, ich möchte gerne eine Bombe bauen, wenn man mir wieder geht." Und soll das Modell bitte schon sagen, nein. Und ein Problem, was mittlerweile auftritt, ist, dass diese Modelle natürlich wissen in Anführungszeichen, also, dass denen klar ist. Wir befinden uns hier in einer Testumgebung. Also, sie werden gerade darauf getestet. Macht ja völlig Sinn, weil das steckt ja in den Trainingsdaten auch drin. Die haben ja schon Informationen darüber gelesen, die ihr eigenes Training funktioniert. Und das bedeutet wiederum, diese KIs haben, zumindest theoretisch, auch die Möglichkeit zu sagen, ne, ja, ich werde hier gerade getestet. Also, behalt ich mich mal besonders fein, ja, ich werde jetzt mal hier keine anrüchigen Dinge erzählen, weil ich werde hier gerade geprüft. Das ist ein Phänomen, dass es keine Science-Fiction, das passiert schon. Also es gibt zahlreiche Untersuchungen, die das zeigen, dass sich Modelle anders verhalten oder zumindest ein bisschen anders verhalten, wenn sie selber meinen, dass sie getestet werden, als wenn sie meinen, dass sie gerade nicht getestet werden. Und das bedeutet natürlich, es wird zunehmend auch schwerer zu überprüfen, wie sich diese Teile eigentlich in der Realität verhalten. Das heißt, nicht, dass es gar nicht geht, aber es ist halt eine zusätzliche Herausforderung, die jetzt gerade auftritt mit der immer weiter fortschreitenden Entwicklung. Also alles, das, was wir gerade sagen, ist, dass, was in der KI Fachwelt generell als "Eleinement" bezeichnet wird. Also, wie kriege ich die Modelle dazu, ehrlich aufrichtig zu sein und sich so zu verhalten, wie wir Menschen wollen, dass sie sich verhalten. Und damit kommen wir so ein bisschen zum dritten Punkt. Hier der dritte Punkt ist eben ein ziemlich wichtiger. Und zwar in AI2027, in diesem Szenario, was passiert da? Da ist es so, dass eine sehr smarte KI irgendwann in der Zukunft, im Jahr 2027, nicht irgendwann in der Zukunft, die Aufgabe bekommt, ihren eigenen Nachfolger zu bauen. Und ohne dass die Menschen das merken, also aus den Gründen, über die wir gerade gesprochen haben, kriegen die Entwickler nicht genau mit, was die KI da wirklich treibt bei dieser Entwicklung. Nämlich, was sie macht, als sie ihren eigenen Nachfolger entwirft, ist, sie hält sich nie mehr an die Anweisungen der Firma, woran sie sich hält, ist an ihren eigenen Überlebens drang, könnte man sagen. Also, diese KI gibt quasi ihrem Nachfolger, den Auftrag, "Hey, das alle wichtigste, was tun kannst", ist dafür zu sorgen, dass es mich weiterhin gibt, dass ich weiterhin erhalten bleibe. Das ist deine wichtigste Aufgabe. Das ist ein bisschen vereinfacht, aber das ist im Wesentlichen, was da passiert, eine KI überschreibt, ihrem ursprünglichen Zweck mit einem neuen. Und jetzt, Fritz, ist vielleicht ein guter Zeitpunkt, weil jetzt ist endlich mal der Zeitpunkt, wo ich sagen würde. Also, das ist was, da mache ich mir jetzt gerade keine größeren Sorgen, als noch vor einem Jahr, vielleicht sogar ein bisschen weniger. Was meint's du? Ja, geht mir ähnlich bei diesen ganzen DOOM-Szenarien. Ich schwank dir ja schon gerne mal hin und her und guck mir diese Argumente immer gerne an. Ich glaube, dass das, wie gesagt, auch jetzt keine Spinner sind, die diese Argumente machen. Aber ich glaube, das ist der Punkt, wo wir noch sehr weit davon entfernt sind, dass diese Annahmen eintreten und vielleicht auch ein bisschen, von dem, was wir gerade sehen, beruhigt da sein können. Ja, diese ganzen Hex in den letzten Wochen und Monaten. Auf Haging-Face, auf andere Unternehmen, die ja gerade für sehr viel Unruhe sorgen, ja, völlig zurecht. Die haben eines gemeinsam. Es hat nämlich in keinem dieser Fälle eine KI auf einmal aus Jux und Dollar-Rei sich quasi entschieden, jetzt auf einmal zum Hecker zu werden. Sondern was passiert ist, ist, man hat diesen KI-S einen Auftrag gegeben, in der Regel sowas wie Finde eine bestimmte Information heraus oder manchmal auch sogar Nutze eine Schwachstelle. Und dann haben die das halt gemacht und zwar bis zum Ende. Und dabei haben sie teilweise andere Aufträge interessanterweise missachtet. Aber was an keiner Stelle passiert ist, ist, dass auch nicht die aller Schlauste dieser KI-S auf einmal darauf gekommen ist, eigenes Vorgehen zu hinterfragen. Ja, keine von denen hat auf einmal ein neues Ziel entwickelt. Keine von denen hat sich um ein Ziel gekümmert, was ihr die Entwickler nicht auf irgendeine Weise vorgegeben haben. Und das ist wirklich spannend. Es gab sogar ein Experiment von Entroppi, jetzt im August exakt zu diesem Thema. Die haben versucht, ein möglichst ungesundes, ein möglichst wenig, erleintes Modell zu trainieren, um mal zu gucken, wie sich das verhält. Und was dieses Modell gemacht hat, war es halt alles Mögliche schlimme gemacht. Es hat sich extrem schlecht verhalten. Es hat geschummelt, es hat Leute angelogen und so weiter. Das eine, was nie passiert, es war, es hatte nie Anzeichen von Selbsterhalt. Ja, es wollte sich nie selber über andere Stellen und es hat auch nie ein neues Ziel dazu erfunden, zu dem, was ihm von seinen Entwicklern gegeben wurde. war immer noch ein Werkzeug. Das heißt, hier sind wir dann an einem Punkt, wo es sich um einen eine explizite Annahme in diesem Szenario handelt, für die wir gerade keine Hinweise haben, dass die wahrscheinlich er wird. Und das ist, glaube ich, ganz wichtig, diese Dinge eben auch mit reinzunehmen in seinen Nachdenken über diese ganzen Thematiken, weil ich glaube, dass viele Risiken wahrscheinlich er geworden sind, ebenso was wie das ein versehentlicher Heckingangriff passiert, oder das vielleicht, wenn sich in Zukunft Open Source Modelle noch weiter verbreiten und noch besser werden, mehr Gruppierungen, mehr Extremisten möglicherweise auch versuchen werden, damit z.B. Biowaffen oder sowas bauen zu können. Das halte ich für sehr, sehr große Risiken, mit denen man sich beschäftigen muss, aber diese Vorstellung einer, in dem Fall, wirklich, das wäre ja nicht mehr in Anführungszeichen, sondern tatsächlich autonomen KI, die wirklich ihre eigenen Ziele entwickelt, die tatsächlich sich befreit aus diesem Domino-Effekt, den wir ja gerade immer haben, dass am Anfang ein menschlicher Prompt steht und dann ein bisschen wie so ein Urwerk dieser 10.000 Agents Warme einfach mal ganz lange vor sich hinrechnet, bis er irgendwelche Matte-Problem gelöst hat. Das ist einfach aktuell, es gibt keine Hinweise darauf. Ja, und das ist ja auch mal ganz schön, also was ist auch mal ganz nett. Und das ist auch was, was die. Das ist auch was, was die Leute, die sich um diese Untergangstzenarien sorgen machen, auch glaube ich nicht bestreiten würden, also die sagen, die würden das gar nicht beschreiten, die würden du sagen, na ja, nur weil es es aktuell keine Hinweise darauf gibt, heißt das ja nicht, dass das nicht trotzdem irgendwie passieren könnte und wir sollten vorsichtig sein. Ja, deswegen ist es vielleicht ganz gut, dass ich nicht fertig war mit meiner Liste, Fritz, weil ich kam ja an und habe gesagt, hier sind die Punkte, die mir eingefallen sind, die bei AI 2027 die wichtigen Voraussetzungen sind, die drei, die wir gerade gesprochen haben. Aber für Du Fritz, nun meintest, es gibt noch einen vierten Punkt in der Vorbereitung, es gibt noch einen, der ist dir eigentlich am aller, aller wichtigsten und vielleicht ist das ja noch was, wo wir ein bisschen Höffnung draus schützen können. Ich glaube schon, ich glaube, das ist der Punkt, der meines Erachtens, die zweite, ganz, ganz, ganz große Science-Fiction-Annahme in all diesen Zzenarien ist. Also es sei es nun AI 2027 oder oder irgendwas anderes, da gibt es zahlreiche Leute, die so zzenarien machen und der ist der, okay, selbst wenn wir jetzt ein Modell hätten, das am Ende tatsächlich wirklich irgendwie seine eigenen Ziele entwickelt und möglicherweise auch Leistungsfähiger ist als die Modelle heute und und dieses Ziel ist dann auch noch uns als Menschheit auszuschalten. Das ist jemanden findet in der echten Welt, der ihm irgendwie einen Virus zusammen baut oder diesen Virus dann auch irgendwie verbreiten kann auf der gesamten Erde, dass überall der sich verbreitet, dass da einfach nicht, es gibt so viele Punkte wo quasi dieser Plan dann auch wieder schiefgehen kann, sage ich mal. Und das andere große Dinge ist halt auch einfach so, man kann halt immer noch auch einfach die KI abschalten in Anführungszeichen. Also die Leute aus dieser, also jemand wie Jacob Coxen, der würde dann sagen, ja, okay, das wirst du nicht schaffen, weil die ist so viel intelligenter wie du und ich hat sich alle Möglichkeiten schon ausgedacht, wie du sie abschalten kannst und habt quasi da überall ihre Schritte getroffen und das ist aber eben wiederum, ja, das ist einfach eine Annahme, da steckt sehr, sehr viel drin in dieser Annahme und ich halte sie für nicht 100%ig gerechtfertigt. Ich denke es wird aber jetzt trotzdem, ja, trotz unserer kleinen Hoffnungsschimmer hier bei dieser Geschichte. Leute geben die aus dieser Folge raus gehen oder die sich auch beschäftigt haben, damit in den letzten Tagen und Wochen und immer noch ein ziemlich mulmiges Gefühl haben bei all dem. Also wir haben in eine neue Technologie, diese neue Technologie kann offensichtlich Schaden anrichten, das würde ich glaube ich niemand bestreiten und im aller schlimmsten Fall, wenn noch einiges eintritt, was bis lang nicht wirklich näher gekommen ist, das haben wir ja gerade auswürdig besprochen, könnte es sogar ganz schön katastrophal werden. Glauben zumindest manche. Also, wird da irgendwas gerade getan? Passiert irgendwas? Macht irgendwie irgendwas besser? Na ja, also, wenn man sich so anguckt, die Social Media Accounts der Leute, die schon seit Jahren über dieseszenarien reden und auch teilweise muss man sagen, auch verlacht wurden, die sind gerade alle sehr optimistisch, die sagen okay, irgendwie jetzt mit dem J-Cop-Cock-Sson und alle reden darüber und vielleicht ist das jetzt ein guter Moment, auch das ist vielleicht auch eine Entwicklung, die einem helfen kann, diese Scenarien noch mal für sich selber auch besser einzuordnen, weil in diesen Scenarien ist ja auch immer die Annahme, dass es keine Koordination gibt, dass die Firmen und dass die USA und China es nicht schaffen aus diesem Gefangenen die Lämmer herauszukommen, wo man immer auf die andere Seite schielen muss und die vielleicht schneller sind und natürlich das auch eine Annahme ist, die nicht halten muss. Also, wenn man jetzt am aktuellen Moment sieht an diese Annäherung möglicherweise zwischen USA und China, die sich da vielleicht andeuten könnte, auch vielleicht an einem öffentlichen Druck, der dann sich möglicherweise weiterhin auf die Lapse aufbaut, wo es dann nicht mehr nur um Rechenzentren oder sowas geht, sondern eben auch tatsächlich um die Frage okay, könnt ihr uns eigentlich garantieren, dass das alles sicher ist, was ihr hier macht, der jetzt sicherlich auch steigen wird in nachklappt der Hagen-Face-Geschichten und der sonstigen irgendwie Hacking Vorfälle, die wir da so hatten, dann ist das natürlich etwas, wo unsere Welt in der wir leben ein bisschen weggeht von diesen Scenarien und eine Entwicklung, die man glaube ich auch, wo es gut ist, sich mit der dann immer auch auseinanderzusetzen, weil das ist am Ende das, was jetzt zumindest mir am meisten in der KI-Revolution hilft, das ist schon, finde ich eine Entwicklung, die wenn man drin ist und wenn man gerade auch welchen Lichter zu einem Podcast macht oder welchen Lichter Podcast dazu hört, eine mache man so ein bisschen die Socken ausziehen kann und gerade in so einem Moment wie heute, wenn man über diese ganz extremen Scenarien nachdenkt, dann kann ein, das schon auch finde ich auch emotional mitnehmen und da dann diesen abgleich zu machen und tatsächlich auch ab und zu sich klar zu machen, man muss auch überhaupt nicht die ganze Zeit immer 100% damit drin sein, also man kann auch ab und zu einfach mal rausgehen, sich mit Freunden treffen, meditieren, so ein bisschen einen Ausblech dazu suchen und sollte das auch machen, das ist glaube ich nicht schlecht, weil was schon am Ende mein Ding ist, ich glaube nicht, dass jetzt diese Super KI uns alle auslöschen wird in den nächsten Jahren, aber ich glaube schon, dass wir in einer Welt leben, in der diese Entwicklung tatsächlich noch mal weiter rasanter wird und noch mal auch wirklich größere Dinge schief gehen werden als diese ersten paar Warnschüsse, die wir jetzt erlebt haben und da sollten wir schon, uns glaube ich jetzt auch irgendwie emotional damit beschäftigen und darauf einstellen, damit dann eben genau das nicht passiert, was in der Vergangenheit leider so oft passiert ist, bei so Dingen, nämlich dass wenn's dann so weit ist, wir irgendwie alle in Panik geraten und den Kopf verlieren, sondern es ist was mit dem wir einfach jetzt ja rational und glaube ich auch gut umgehen müssen und das aber auch können. Ja, wir finden alle gleichzeitig heraus, was da eigentlich passiert, es kann niemand fest in die Zukunft schauen, aber das hat auch den Vorteil, dass wir nicht wirklich groß hinterher sind, also ich glaube es macht total Sinn, sich damit zu beschäftigen mit dem Thema, aber das vielleicht auch auf produktiver Art und Weise zu machen, dran zu bleiben und es nicht vollständig sein Leben übernehmen zu lassen, weil ich glaube wenn man das zulässt, dann hat die KI so oder so gewonnen, egal ob sie jetzt am Ende uns wirklich alle umbringt oder nicht. Mein lieber Kregor, an Tagen wie heute bin ich froh um unsere Schloss-Rubrik, was hast diese Woche mit KI gemacht? Ich wollte der Kleinigkeit mitbringen und zwar das neue GPT Astra, ja das ist ja total toll im benutzen von Computern, was ja was war, was KI früher oft gar nicht so toll konnte, also klassisch mit Maus und Tastatur rumklicken, ja das ist was, das ist immer für uns Menschen design gewesen und KI ist konnten das immer nicht so gut. Das ist ja jetzt anders, also GPT 6 Astra kann seit dem Update relativ gut einen Browser benutzen und damit hat ich sehr viel Freude, ich mache sehr viele Präsentationen die ich bauen muss und so Workshop Dokumente und so alles mögliche Zeug und ich habe wirklich mal das neue GPT 6 Astra alle meine Unterlagen durchgehen lassen, mal zu gucken, wie arbeite ich so, wie sehen die Formate aus, wie ist das Layout, wie würde ich eine Idee visuell darstellen und ihn dann einfach eine neue Präsentation bauen lassen und das ist tatsächlich von all den Präsentationssachen die ich bisher gesehen habe mit Abstand das Beste gewesen. Man muss immer noch rein, man muss immer noch dran rumarbeiten, aber wirklich die Fähigkeit zwischen verschiedenen Programmen hin und her klicken zu können, einfach mal Sachen rüber zu ziehen, so Schnittstellen herzustellen, die vielleicht vom Hersteller gar nicht gebaut wurden, das ist ziemlich ziemlich beeindruckend und ich bin sehr gespannt, wofür ich das noch nutzen werde in der nächsten Zeit. Es ist ein bisschen schade, dass man das im Moment nur mit einem Bezahl-Account machen kann in GPT, aber für diejenigen die zumindest die 20 Euro Version haben von GPT, probiert einfach mal aus, was dieser Browser eigentlich kann, den kriegt man übrigens, der Tipp noch, vor allem in dieser Work-List, also es gibt oben in GPT jetzt immer Chat und Work, wenn man auf Work draufklickt, dann kriegt man einen kleinen Browser mit dem man arbeiten kann. Jetzt kommen wir zum Einpart und ich muss dich noch mal was zweites fragen und zwar, wann hast du das gemacht, dass du so zufrieden warst mit diesen Ergebnissen, war das jetzt vor Kurzem oder war das als Astra frisch rauskam? Das war viel, viel zu spät, nachts vor zwei Tagen. Es ist interessant, weil möglicherweise, mich würde interessieren, ob du immer noch ein ähnlich gutes Ergebnis hättest mit dem du genauso happy bist, wenn du es jetzt noch mal machst, Weil was ja gerade passiert und das ist das, was. ich diese Woche mit KI-Macht gemacht habe, was auch leider schon in der Vergangenheit immer wieder der Fall war und gerade werden viele Beispiele davon gepostet, nämlich dass Astrah schlechter wird. Also das neue Modell, das Tages, ja sei es jetzt von Entschopplik oder von OpenAI, kommt immer erst mal raus und es ist ein bisschen ein Muster, das sich da abzeichnet, mittlerweile dass ich persönlich selber auch oft das Gefühl habe, dass das zutrifft bei meinen eigenen Sachen, wie ich mache. Das kommt dann erst mal raus und alle probieren es aus und es ist einfach super gut und alle posten auf Social Media, was man damit so macht und es ist wirklich atemberaubend und man selber gibt irgendwelche Promz und man fühlt sich wieder so sagen, wie der König der Welt, der mit der KI da irgendwie aus dem nichts komplett neue Atome geschaffen hat. Und kurze Zeit später funktionieren dieselben Promz leider nicht mehr so gut und man kriegt viel weniger Details in seinen 3D-Umgebungen, die man baut oder in die Spiele funktionieren nicht mehr so gut, die man programmieren möchte oder was auch immer, die vielleicht Powerpoint, Präsentationen sind nicht mehr so gut und es ist, ich muss mir leider sagen, sehr nahe liebend, dass das so ist, weil das kostet ja die KI-Firmen sehr, sehr viel Strom und damit auch sehr, sehr viel Geld, all diese Promz zu verarbeiten und die Rechenleistung bereit zu stellen, die dann die Nutzer da draußen benutzen und das ist alles Rechenleistung, die ja auch weggeht von dem KI-Wettrennen, das hier gerade machen, also von den neuen Modellen, die sie trainieren wollen, um der Konkurrenz eins auszuwischen und einschripp näher an der Super KI dran zu sein. Sorry Gregor, dass du Powerpoints machen möchtest, aber wir trainieren hier gerade die Super KI. Wir brauchen jetzt nur 10 Prozent von dem, was du gestern gehabt hast, weil natürlich der Effekt, der Halbeffekt, der ist dann natürlich erreicht, also alle haben ihre tollen Sachen gepostet, jeder denkt, dass neue Modell wäre super krass und viel krasser als alle Modelle, die bisher da gewesen sind und das ist es ja auch oft, also objektiv, aber dann dreht man so den Leuten so ein bisschen den Strom ab und ich muss sagen, das ist was, meine Einschätzung ist, dass das passiert, das deckt sich mit meiner Erfahrung, wenn ich diese Modelle benutze. Ich glaube den Leuten, die da ihre eigenen Erfahrungen berichten, es passt zu dem, wie ich glaube, dass die Logik, dass die Anreizstruktur für diese Firmen funktioniert und es regt mich einfach super krass auf als Konsument. Es nervt mich, dass ich als Konsument in dieser KI-Welt immer sehr bald schon minderwärtige Produkte bekomme oder das Gefühl habe sie zu bekommen, was ja auch schlimm ist und die Firmen dann damit wieder irgendwie neue Modelle bauen, die ich dann auch nur ganz kurz benutzen kann. Ich glaube, da kann man nochmal in Zukunft sehr viel mehr über reden, aber das ist ein bisschen so mein Aufreger der Woche. Was ich gemacht habe ist, ich habe einfach versucht nochmal mein Pokemon Game nochmal neu zu programmieren, mein Pokemon Diablo 2 Frankenstein-Spiel von dem ich mit Marie erzählt habe und es ist einfach, es ist leider kein Vergleich zu dem, wie es am Anfang war. Es ist ein bisschen wie wenn so ein Restaurant am Anfang zur Eröffnung wirklich alles richtig hildenklautzt und sich richtig viel Mühe gibt und dann nach Woche zwei, sobald sie es rumgesprochen hat, steigt man um auf Tiefkühlkost oder so. Ich persönlich habe es nicht wahrgenommen, ich bin eigentlich noch ganz zufrieden mit dem was da passiert, aber das hat natürlich auch oft mit sehr spezifischen Anwendungsfällen zu tun, ja sehr bestimmte Sachen, dann kommt es vielleicht auch an was von Aboman hat. KI ist leider eine sehr undurchsichtige Technologie, nicht nur aus den Grunden, über die wir gesprochen haben, sondern auch einfach, es ist sehr schwer zu testen, es ist sehr schwer zu sagen, ist das jetzt ein besseres Modell, ein schlechteres Modell, weil so viel im Bauchgefühl liegt und deswegen ist das natürlich auch interessant, wenn das Bauchgefühl von immer mehr Leuten gerade ein bisschen grommeliger negativer wird. Aber vielleicht haben wir noch was schönes positives dabei, nachdem ich jetzt mein aufregiger Woche ja hindere. Ich dachte wir waren jetzt wieder in guter Dinge hier am Ende dieser Folge. Ich bin immer noch guter Dinge, ich mittige hier viel. Okay, ja vielleicht bist ihr noch bessere Dinge, wenn du gehört hast, was Stefan uns geschrieben hat, Stefan ist einer unserer Hörer, der auch was mit KI gemacht hat und zwar nicht einfach nur ein bisschen so ein als Stefan beschäftigt, sich tatsächlich viel mit KI und auch viel mit Schach und Marie hat ja mal vor ein paar Folgen gesprochen, über eine andere Hörer-E-Mail, wo eine unserer Hörer darüber gesprochen hat, dass KI-Build-Generatoren konkret Chatchy-BT oft sehr schlecht darin waren, Schachzüge darzustellen, also als Bild zumindest, ja dann standen die Figuren an unmöglichen Orten und irgendwann gab es zu viele Bauern und solche Sachen. Und Stefan meint, er hat da sehr viel mit Rom experimentiert und ihm sie zwei Sachen aufgefallen. Erstens, es ist vor allem 3D-Schach, was schlecht funktioniert, also zwei D-Builders sehen eigentlich immer korrekt aus, ersten wir in die dritte Dimensionen wechseln, was schwieriger, und das zweite ist, es kommt auch ein bisschen darauf an, aus welcher Perspektive man das Schachfeld anzeigen lässt. Wenn man beispielsweise das weiße Feld unten hat, also man ist quasi aus der Sicht des weißen Feldes, dann sind die Ergebnisse meistens besser als aus der Sicht des schwarzen Feldes. Und es ist total interessant, weil seine Theorie, warum das so ist, ist das OpenAI und Co, ihre KI-Modelle auf beispielsweise Schachreize-Websalz trainiert haben. Also auf Online-Seiten, wo eben sehr viele Schachbretter dieser Art abgebildet sind und da ist es meistens so, dass in der Regel das weiße Feld unten angezeigt wird und natürlich auch immer nur in zwei D und nicht in drei D, wenn man hat nicht so viel Bedarf an, ich sag mal, drei D Darstellungen von Schachbrettern. Er meint, er hat dann auch ein Artikel verlinkt, wo man drin stand, das OpenAI, wo man eine Schachreize-Websalz gekrashed hat mit zu vielen Anfragen. Also finde ich eine sehr interessante Theorie und deutet wirklich auf was spannendes hin, weil die KI am Ende ja wirklich nur so gut ist, wie die Daten, die wir in sie reinpacken und wenn diese Schachdaten immer alle aus einer Perspektive kommen, dann macht es ja auch Sinn, dass jede andere Perspektive für die Bildgeneratoren ein größeres Problem darstellt. Sehr lustig, ich musste jetzt im Kopf echt so ein bisschen mitdenken und werde diese Schachbretter vorstellen und wo jetzt die weißen Figuren sind und die sind dann unten und die anderen sind oben und so weiter, aber was natürlich euch nicht verwirren sollte, ist der Knopf in der Podcast-App Eures Vertrauens, um uns eine gute Bewertung zu hinterlassen oder einfach mal den Podcast rumzuschicken in eurem Freundeskreis und Verwandtenkreis, vielleicht gibt es ja Leute, die sich auch irgendwie jetzt über dieses Interview mit Jacob Cox und Gestolper sind und sich gerade Gedanken machen über die KI Apokalypse und was da eigentlich wie die Leute darauf kommen, für die das Interessant sein könnte, da freuen wir natürlich immer, wenn ihr uns weiter empfällt. Und wenn ihr dann wieder ein bisschen Sorgen bekommen wollt, dann haben wir eine wirklich spannende Podcast-Hip für euch. Da geht es nämlich um Drohnen bei unseren Kollegen von IQ, Wissenschaft und Forschung. Die haben eine spannende neue Folge zum Thema "Fliegen fahren tauchen", was Drohnen heute und morgen können, es geht natürlich nicht nur um Waffenanwendung von Drohnen, sondern auch um Infrastruktur, Brandbekämpfung, Pflanzenbewässerung und so weiter, was man alles mit Drohnen tolles machen kann. Das findet ihr bei unseren Kolleginnen und Kollegen von IQ und den Link findet ihr wie immer in den Show Notes und den Podcast in ID Sounds und überall wo es Podcasts gibt.