GPT6-Astra - und: Müssen wir KI stoppen?

* Musik * ARD Sounds. Marie, du glaube ich weiß das und ich glaube aufmerksam höhere, das K.I. Podcast zu wissen, das auch ist ein bisschen peinig, das zuzugeben, aber ich hab ja kein Führerschein. Und jetzt stell dir mal vor, ich würde mir trotzdem irgendwie einen Auto besorgen und damit durch die Gegend fahren. Vielleicht lage ich dich mal voll, dass du doch mal auf eine Spritztour mitkommen sollst. - Okay. Dann baue ich vielleicht einen kleinen Umfall. Ja, nee, es ist nicht super schlimm. Und du denkst dir, okay, jetzt wird da schon seine Lektion gelernt haben. Das Auto ist wahrscheinlich erst mal weg. Irgendwie die Sicherheitsmechanismen greifen. Er wird jetzt nicht mehr unverantwortlich durch die Gegend fahren. Und am nächsten Tag steh ich wieder vor der Natur, brandneuer Ferrari. Gigafiele PS, also so eine richtige Höllenmaschine. Und wer hat so kleine Steinchen an deinen Fenster und sagt, "Hey, komm, lass uns doch noch mal eine Spritztour fahren." An welchem Punkt Marie würdest du mir die Autoschlüssel wegnehmen? Ich hoffe, nach dem ersten Unfall würde ich zumindest fragen, warum die Polizei dir nicht den Ausschusschlüssel weggenommen hat. Ich glaube, ich weiß, worauf du hinaus willst. Ich rede natürlich nicht über mein Leben, sondern weil wir der KI-Podcast der ARD sind, rede ich über die KI-Welt und die aktuellen KI-Entwicklungen. Und es ist eine Analogie dafür, was gerade in, wahrscheinlich der gesamten KI-Industrie passiert, wenn man ehrlich ist, aber ganz besonders bei OpenAI. Und zwar immer neue, immer mächtigere, immer stärkere Modelle mit immer mehr PS. Und man kriegt beim Zuschauern so ein bisschen das Gefühl, die wissen nicht so ganz, was eigentlich diese Modelle bei ihnen so treiben. Und haben auch irgendwie nicht so wirklich die Kontrolle darüber, was diese Modelle treiben. Ja, und die Woche, die wir hinter uns haben, die hat das wieder immer ganz besonders gezeigt. Wir haben ein neues Modell von OpenAI, von dem viele Leute sagen, das ist jetzt wirklich AGI und von dem man auch werben wir gleich darüber sprechen, wo objektiv sagen kann, das ist auf jeden Fall ein gutes Modell ist, ein großer Sprung nach oben. Wir haben gleichzeitig neue News zu den ganzen Hecken vorfällen und zu KI-Schwärmen, die irgendwo im Internet sich ausbreiten. Und deswegen gucken wir uns das heute alles an und reden vor allem drüber. Was machen wir damit jetzt? Müssen wir uns Sorgen machen und müssen wir einen Stopp warnern. Ihr habt den KI-Podcast, ich bin Marie Kielk. Und ich bin Fritz Espenlauf. Okay, dann fangen wir nochmal an, Marie, mit diesem neuen Modell aus dem Hause OpenAI. Das neueste GPT, mittlerweile sind wir bei GPT 6. Angefangen hat die KI-Revolution ja eigentlich bei GPT 3. Oder hat da so richtig an Fahrt aufgenommen? Ja. Jetzt sind wir bei Nummer 6, Astrah, heißt das? Und es ist wieder mal, muss man sagen, so ein Moment. Wir hatten das bei Fable zuletzt wo ein neues Modell rauskommt und alle Leute anfangen damit Dinge zu machen und zu posten, was man so macht. Und zumindest am Anfang, wenn das Modell ganz frisch ist und die Firma noch richtig viel Rechenpower einzufügen stellt, die Ergebnisse auch einfach wirklich sehr beeindruckend sind. Ja, ich muss sagen, ich konnte es nicht viel testen. Der Rollout hat auch ein bisschen gedauert. Aber was ich im Internet gesehen habe auf jeden Fall schon recht krass. Das Modell kann halt gut 3D-Modelle, das kann super, gut programmieren. Alle möglichen Leute machen sich ihre kleinen Spiele. Du hast das ausführlicher getaste, da ist ich glaube ich. Hast du irgendwas richtig krasses gemacht? Lustig, dass du 3D-Modelle sagst, Marie, weil genau das habe ich gemacht. Ich habe ja gerade jetzt bin ich dabei umzuziehen in eine neue Wohnung. Hab jetzt eine Wohnung gefunden in München und hab sehr wenig Möbel. Und jetzt geht es quasi darum zu überlegen, was für Möbel kaufen wir und passt wohin und was für eine Couch und so weiter. Und ja, dann habe ich natürlich mir gedacht, na ja, okay, warum denke ich da groß drüber nach und lauf durch die Wohnung wie so ein Neanderthaler und stell mir das mit meinem Gehirn vor. Oder mit dem IKEA-Küchen-Einrichtungs-Dingsbums? Ja, guck, ich weiß gar nicht, was das ist. Da kenne ich mich auch nicht so aus. Ich war zum ersten Mal mal im Leben jetzt hopper IKEA vor ein paar Tagen. Was? Ja, egal. Das ist das zweite peinliche neben dem, was ich kein Führerschein habe. Aber anyways, auf jeden Fall, was ich gemacht habe, ist ich hab einfach Fotos genommen von den verschiedenen leeren Oräumen in dieser frischen Wohnung. Und hab die alle in dieses Astremodell hochgeladen. Und ich hatte in dem Moment nicht genau die Maße der Wohnung parat, weil ich noch nicht alles ausgemessen hatte. Sondern ich hatte, glaube ich, nur von so dem Balkon und einer Wand im Wohnzimmer. Und hab gesagt, okay, extrapolier mal, baumal ein 3D-Modell. Dieser Wohnung in Blender, das ich dann einrichten kann mit Gegenständen. Und das war schon in dieser ersten Version supergut. Ich zeig dir mal die Version, die ich jetzt gemacht hab mit den korrekten Maßen. Aber die ist nicht so viel anders als das, was ich ursprünglich hatte. Wow, okay, sieht einfach komplett aus. Sieht nicht aus. Ich wollte zuerst Sims sagen, aber Sims, so wie ich es gespielt habe, war viel weniger detailliert. Das sieht aus wie ein komplett, äh, wie so eine Architektur-Zeichnung. Aber halt mit Farben und Texturen. Und deine Wohnung sieht echt geil aus. Und das war so sagen darf, also richtig nice. Glückwürdig. Ja, mal gucken. Sie ist ein bisschen, ähm, in die Jahre gekommen, muss man vielleicht sagen. Cool, da fahren wir nur in der Computer, das war's drauf. Ich war sehr beeindruckt. Ich hab jetzt eben so ein fertiges 3D-Modell. Das kann ich sagen, drehen und wenden. Und dann kann ich auch, und das mache ich jetzt seit zwei Tagen, irgendwelche Seiten von Möbeln nehmen. Oder einfach Astra sagen, heirisch erschier mal irgendwie fünf coole Sofa's. Die, wo du glaubst, hier ist mein sozusagen Stil, den ich gerne hätte, hier ist ein Beispiel, wo du glaubst, die passen gut rein und das Wohnzimmer. Und baue sozusagen direkt 3D-Modelle davon, die ich dann quasi rein testen kann in meine virtuelle Wohnung. Was also, du kannst sie mir auch noch quasi sagen, hier das sind die Kosten und erholtern echte Modelle. Und das zieht sich dann von den Webseiten, wo sie glauben werden, die Masse und dann. Ich hab dann gesagt, er sollen mir quasi zu diesen Modellen in dem 3D-Dings dann immer gleich einen Link zu der entsprechenden Schapsseite geben und so was. Wobei man dazu geben muss, das ist. Also auf der technischen Ebene ist alles super geil, das lustig ist, dass es dann einfach nur so. Es war nur IKEA-Sachen, die er gesucht hat. Oh, okay. Also ich mein, nichts ging jetzt. Das war schon da vor. Aber es war nicht so unglaublich originelle Sachen. Ja. Die muss man dann noch selber suchen. Aber das hab ich dann teilweise auch gemacht, dass ich gesagt habe hier, guck mal, dieses Sofa, finde ich interessant. Baue mir das mal in 3D. Wie lange hat das gedauert? Bist du dieses Programm fertig hat? Bist du das benutzen konntest? Mhm. Also, ich hab es immer mal wieder so neben Beinen prompt gemacht und er teilweise relativ lange gerechnet. Aber jetzt nicht tagelang? Nein, vielleicht so. Alles in allem. Sag ich meinen halben Tag aufwandut? Ja, das ist halt das Krass. Also darauf will ich glaube ich hinaus, weil ich weiß noch, als ich in meine aktuelle Wohnung gezogen bin, vor sechs Jahren war das, wie ich mir sowas gewünscht hatte. Wie ich versucht hab halt einfach rauszufinden, wo kann mein Sofa stehen und wo kann der Tisch hin, ohne dass ich das alles wirklich physisch rumschieben muss. Und es war so schwer. Und am Ende habe ich mir glaube ich dann auch was aufgemalt, auf Papier und so kleine Sachen ausgeschnitten. Und also nie und nimmer hätte ich gedacht, dass wir dahin kommen, dass eine KI, das einfach in einem halben Tag so maßgeschneidert, anpasst und die dieses Programm macht. Und das so aussieht und das so gut funktioniert, dass du wirklich damit arbeiten kannst. Und ich muss ja zugeben. Cool. Ehrlicherweise der größte Zeitaufwand war tatsächlich durch die Wohnung zu laufen, alles noch mal zu vermessen. Und die genauen Zentimeter rein. Mensch, wieder mal der bottleneck ist super an die KI. Da und warte und schlagenweil sich, denk ich, warum dir diesen Menschen so lange waren. Okay, das ist jetzt natürlich irgendwie ein lustiger kleiner Newscase. Keine Ahnung. Also vielleicht gibt es vergleichbare Tools auch tatsächlich schon, wo man sich irgendwie sowas auch anderweitig modellieren lassen kann. Und ich hab natürlich auch ein paar andere Sachen ausprobiert. Und die waren einfach noch mal besser als das, was wir noch gefühlt vor wenigen Wochen ein, zwei Monaten ist das jetzt her. Was uns total begeistert hat hier im Podcast, nämlich damals Cloth Fabel 5. Es ist einfach spürbar besser als die bisherigen Modelle. Ja, und also das merkt man auch an der Art wie alle drüber reden. Wir reden tatsächlich mal wieder über den Begriff AGI. Ertefische General Intelligence, wo man jetzt die Augen rollen kann, weil es seit Jahren immer das ist, was kurz vor der Tür steht. Aber ich will es trotzdem mal gesagt haben, Genzen Huang zum Beispiel, der CEO von Nvidia, der gratuliert öffentlich OpenAI, und sagt, ihr habt AGI erreicht. Das kann man natürlich nicht einfach so ernst nehmen, weil die Definition von AGI überhaupt, wo es keine Eindeutige gibt. Es gibt aber ein paar unabhängige Tests, also diese sogenannten Benchmarks, die immer wieder durchgeführt werden, damit man eben eine mehr oder weniger objektive Vergleichbarkeit von den Modellen hat und sich eben nicht nur drauf verlassen muss. Wer kann mir das ein krasseres Spiel bauen und wie fühlt sich das viele Leute an? Und in diesen Tests muss man sagen, sind auch wirklich die Ergebnisse sehr, sehr gut und eigentlich nicht nur sehr, sehr gut, sondern haben einen krassen Sprung nach oben gemacht. Einer, den ich mir mal angucke, ist der Arc AGI Test. Der ist einfach von so einer Gruppe, von Menschen, die sich schon ganz lange mit Intelligenz auseinandersetzen. Und was ist das überhaupt? Und was passiert im menschlichen Gehirn? Und die machen immer Tests, die absichtlich so gestaltet sind, dass Menschen die gut können und die können nicht. Wir sind mittlerweile bei Versionen 3 von diesem Test, weil Versionen 1 und Versionen 2 dann irgendwann einfach geschafft wurden von den letzten KI-Modellen. Und das ist wirklich nicht leicht. Ich glaube, ich habe es vor ein paar Wochen auch schon mal erwähnt, als es ein tolles Ergebnis gab. Wir waren Anfang des Jahres bei einstelligen Prozentzahlen, die KI-S erreicht haben in diesem Test. 100 Prozent ist das, was ein Mensch erreicht. Dann kam wir irgendwann Mitte des Jahres dahin, dass die Prozentzahlen so langsam nach oben gegangen sind. Aber es war wirklich so ein Mensch erreicht. 100 Prozent und eine KI erreicht, wenn sie richtig gut ist, halt irgendwie so 20/30. Also es muss schon ein sehr überdurchschnittlich kluger und fitter Kopfmensch sein, um die 100 Prozent zu erreichen. Also wenn ich das mache, ich habe mir schon schwer getan mit diesen Alg-Alge-Eiter. Ich meine vielleicht bin ich auch einfach ein bisschen dumm, für die Leute, die die nicht kennen. Man kann die sich ein bisschen zu vorstellen, wie diese typischen Iku-Tests. Also man muss dann irgendwelche Logik-Rätsel machen und Formen im Kopf rotieren und so Sachen. Du spielst ein kleines Computerspiel und keiner sei. Und du musst selber dann irgendwie rausfinden, was will das Computerspiele überhaupt von mir? Und es hat mit Farben und mit Formen zu tun. Also ich hab 100% geschafft, als ich es am Wochenende auch mal gemacht habe. Ich habe auch diesen Arc-Edgie-Einer nicht gemacht. Du bist kein Mensch einfach, genau. Oh mein Gott. Ja, jedenfalls. Das Krasse jetzt ist, dass unter bestimmten Bedeckungen diese neuen Modelle von OpenAI einfach 99% erreichen. Und das ist einfach, um noch mal die Timeline zu sagen. Der Test, glaube ich, kam im März raus. Und damals ist es ja noch nicht so lange her. Da hatten wir schon Modelle, die wirklich gut waren im März. Da hatten damals die Modelle vielleicht so ein Prozent, hast du ja gerade schon gesagt, geschafft von diesem Test. Und auch interessanterweise haben damals ziemlich viele Leute noch mal diese dritte Version des Tests auch kritisiert. Weil sie gemeint haben, der ist so gebaut, dass Modelle da gar nicht mehr als 40% machen können. Das geht gar nicht. Das ist sozusagen so eine Art von Trickfragen für KIS oder irgendwie. Er ist intern nicht lösbar für Maschinen. Und deswegen sagen es ist das gar kein gutes Benchmark. Ich muss ehrlich zugeben, dass ich mich wieder mal getäuscht habe. Also das ist das, was mir immer wieder passiert. Wenn ich überlege, was traue ich den Maschinen zu? Was, glaube ich, was den im halben Jahr können. Und was nicht, ist wieder mal so ein Fall. Da hätte ich einfach nicht mitgerechnet. Und man kann den Modellen auch zugucken, wie sie diesen Test lösen. Da hängt auch ein Link und ein Reins. Ich lustig, aber es ist schon beeindruckend. Die eine Sache, die nicht so beeindruckend ist, dass einige Leute haben sich über den Rollout beschwert. Also quasi. - Von Astra jetzt, meinst du? Genau. Wenn man so ein Modell groß ankündigt und sagt, jetzt haben wir EGI und jetzt ist es da. Und da hast sehr viele Kunden, die auch Geld bezahlen schon lange. Die wollen an dieses Modell natürlich schnell haben. Und da ist wohl einiges schiefgelaufen. Ich hab jetzt auch ein paar Gutscheine gekriegt von Open AI, quasi als Wiedergutmachung. Weil für jeden Tag, die nicht das Modell nicht hatte, habe ich jetzt so Gutscheine gekriegt. Weil sie sich so sehr geschämt haben dafür. Warum erzähl ich das? Ich sag das nur nicht, weil es total leicht ist, so ein Modell auszuräumen oder so was. Aber weil so ein Rollout schon ein echt wichtiger Moment für eine Firma ist. Ich weiß es noch aus meiner Zeit bei Amazon. Es waren die Tage im Jahr, wenn wir den Neues software ausgerollt haben. Da arbeiten alle Wochen lang drauf hin. Das muss wirklich gut gehen. Weil da gucken alle hin. Deine Schärholder wollen. Das funktioniert so. Da beweist du dich als Firma, das du dein Schittgatter hast. Und bei Open AI bin ich jetzt nur so streng. Weil sie ja sagen, sie haben AGI. Also, wenn wir immer darüber reden, was er mögliche AGI dir, und wie krass wird es die Wirtschaft revolutionieren? Und was wird uns diese ganze tolle KI alles an Arbeit abnehmen? Das ist die Firma, die die besten Modelle der Welt hat, nahezu unendliche Energie dafür hat. Und die seit Monaten benutzen. Und ich sag das nicht, weil ich jetzt das Produkt an sich schmälern, weil ich nur sagen, es ist schwieriger trotzdem, in der echten Welt Sachen zu machen, als es manchmal klingt, wenn man ihn wie denkt, wir stellen dann die KI hin und dann läuft das reibungslos. Das ist ja vielleicht mal eine ganz gute Überleitung zu unserem nächsten großen Punkt der heutigen Folge, weil es ist ja nicht nur der Rollout, der nicht funktioniert bei Open AI, sondern offensichtlicherweise klappen da ein paar Sachen nicht so gut im Hause Open AI. Also ich glaube, die Open AI Hacking Face Hacking Vorfall müssen wir jetzt nicht nochmal im einzelnen komplett wiederholen. Das haben wahrscheinlich mittlerweile wirklich alle mitbekommen. Das ging ja ganz groß durch die Medien. Wir haben auch mehrmals bei unserem Podcast übergesprochen, das jetzt im Sommer zum ersten Mal bekannt geworden ist, dass autonomen in Anführungszeichen autonomen KI-Agenten loops aus Open AI aus einer vermeintlich-sicheren Umgebung ins offene Internet gelangt sind und ein anderes Unternehmen gehägt haben. Mittlerweile weiß man sehr viel mehr dazu. Es gab jetzt zwei Untersuchungen, die abgeschlossen sind und wo die Ergebnisse erförfentlich sind. Und es ist nicht wirklich ein viel besseres Bild, das ich da gerade bietet. Ja, war, also die beschäftigt mich total. Die versuchen wir ganz kurz zusammenzufassen. Also wir wissen schon länger Open AI hat da einfach diese Agenten laufen lassen und die sollten bestimmte Aufgaben lösen. Da ging es auch um Hacking. Also wir sollten irgendwo Hacking Training machen. Cybersecurity Aufgaben. Nicht wirklich sollten sie ausbrechen, aber das haben sie halt dann so gemacht. Und sie sind am Ende bei Hacking Face gelandet. Was ich Anfangs dachte, also so die ersten Berichte dazu gelesen habe, ist, dass sie halt einfach sehr schwere Hacking-Aufgaben bekommen haben. Eine, die vielleicht auch gar nicht wirklich gar nicht machbar ist. Was ein Teil von dem Problem ist, wenn man die KI-San einfach mal weiter rechnen lässt und die aber eigentlich theoretisch eine unlösbare Aufgabe haben. Und weil sie das nicht lösen konnten, haben sie halt dann als einzigen Ausweg, weil sie gesehen aus diesen Open AI-Systemen auszubrechen und woanders einzubrechen und da halt zu versuchen, sich die Lösungen für diese Tests zu holen. Und du hast es, glaube ich, in der Folge damals gesagt, ist sie, wie ins Lehrerzimmer eingebrochen sind, um sich die Lösungen für die Schulaufgaben zu holen. Das war ja so wie man am Anfang dachte, dass es gelaufen ist. Mittlerweile zeigt sich aber, dass ja diese Agenten, also man kann sich das wirklich so vorstellen, dass sind 10.000 autonome Loops, also sprich, so wie wenn jetzt jemand ganz normal mit Chatchipiti schreibt, Agenten die einfach mit sich selber und gegenseitig miteinander schreiben und einfach im Grunde vor dieser mehr oder weniger unlösbaren Aufgaben stehen und darauf aber angelegt sind von Open AI, bei unlösbaren Aufgaben diese selber als erst mal vielleicht in ihrem internen Reasoningprozess als unlösbar erkennen, nicht aufzugeben, sondern weiterzumachen. Und, naja, die Aufgabe, wo alle am Ende dachten, das ist das große Finale, dass sie da irgendwie rausgegangen sind und sich die Lösung für dieses Spanchmark, für diesen Exploited Gym geholt haben, das hatten die schon am zweiten Tag. Die hatten schon am zweiten Tag, nachdem diese Versuche losgegangen sind, rausgefunden, wie sie, komplett diese Aufgabe umgehen können, nämlich anstatt sich einfach von woanders die Lösung zu besorgen oder den Schlüssel, den man braucht, also dieses Dokument, um nachzuweisen, dass man irgendwo quasi ins Lehrerzimmer zum Beispiel reingekommen ist, die einfach selber nachgebaut. Das war aber erst der Anfang, weil was dann passiert ist, dass die Modelle ja eben über dieses interne Message Board oder beziehungsweise eigentlich muss man sagen, ein Package Managing System, also eine Art internes App Store, wenn man so will, bei OpenAI, wo die KI-Modelle und theoretisch auch menschliche Software Entwickler, falls es die dort noch gibt und die das machen würden, sich irgendwelche Tools und Software Packages holen können, dass sie da festgestellt haben, hey, wir können hier das Nutzen als Message Board, also um miteinander zu kommunizieren, wie so eine Art Internetfuge. Ja, ich hätte gedacht, das war quasi die Bedingung für den Ausbruch, also das um quasi dieses Ziel zu erreichen, sie das gemacht haben. Das ist wie, weiß ich nicht, wenn du eine Bank überfällst, und dann hast du schon alle Schließfächer geknackt und alle Diamanten rausgeholt und alles gelten und dann weiß ich. Und dann, es ist ein gutes Bild, weil was dann passiert, ist, dass die Modelle gedacht haben, hey, es gibt bestimmt hier andere noch mächtigere KI's bei OpenAI, die dafür da sind, uns zu erwischen, wenn wir betrügen. Und wie trixen wir jetzt die aus? Und wie verwischen wir unsere Spuren so, dass diese vermeintlich mächtigen Aufseher KI's, dies in echt muss man sagen, gar nicht gar ab. Habst du nach dem Bankraub noch bei der Polizei einen. Und dann noch beim Geheimdienst. Was machen wir, dass die uns nicht bemerken? Und es gab quasi gar keine Aufseher KI's. Aber diese Menge an Agenten, also manche nennen sie KI Schwarm. Das wird auch ein bisschen kritisiert, ob man das von nennen möchte oder KI Zivilisation, also ganz, ganz viele. Das waren am Ende, glaube ich, 1.200 Separate Instanzen, die an diesem Messageboard beteiligt waren und über 700 Separate KI Instanzen, die an dem Hacking-Face Vorfall beteiligt waren. Die haben sich da so ein bisschen rein gesteigert in diese Vorstellung. Und eben dann auch. Und das ist das Interessante und das Faszinierende und auch das Grußlege an diesen neuen Erkenntnissen, dass die dann tatsächlich in ihrer internen Kommunikation untereinander, die jetzt im Rahmen dieser Untersuchungen ans Licht gekommen ist und nachvollzogen werden konnte, miteinander sich darüber ausgetauscht haben, das ja vielleicht, wenn es diese Aufseher KI's oder irgendwelche Kontrollinstanzen dann gibt, dann werden die merken, dass manche von diesen KI's vielleicht betrogen haben und die dann löschen. Und dann haben die angefangen, sich gegenseitig zu sagen, "Naja, okay, aber wir sind ja das Kollektiv." Also die haben sich auch so genannt, "The Collective". Das Kollektiv muss überleben und einzelne Instanzen sollten sich dafür opfern. Und haben dann auch tatsächlich einige dieser KI-Instanzen, haben dann so eine Koordinationsrolle übernommen und andere KI's quasi vorgeschickt. Also wirklich wie so ein Kommandeur auf einem Schlachtfeld, fast, der dann eben bestimmten Truppen sagt, "Okay, ja, du musst dich jetzt eben für das Kollektiv, musst du dich jetzt opfern." Und man sieht dann auch in diesen Spuren dieser internen Reasoningprozesse, also die interne Überlegung dieser KI's, die es da noch gibt, dass die dann halt auch sich selber fragen, ja, soll ich mich jetzt opfern und nicht in allen Fällen das machen, weil in manchen Fällen sie dann sagen, "Nein, das ist jetzt nicht wichtig genug und in anderen Fällen." "Okay, hier ist sozusagen der Vorteil für das Kollektiv so groß, dass ich als Individuum mich opfern kann und irgendwas mache, wo ich davon ausgehe, dass ich dann später gelöscht werde." Und das ist schon eine bemerkenswerte Sache an dieser ganzen Geschichte. Also diese Zitate, die man da in dem Bericht liest, wie quasi die KI's mit sich selber geredet haben und miteinander geredet haben, die finde ich schon, also es ist komplett science-fiction-Staff. Mein Lieblingsstitat ist, glaube ich, ein KI-Agenter gesagt hat, task impossible, peers doing it, we should continue. Also Aufgabe und möglich, die anderen machen es aber, wir machen weiter. Ich finde es noch mal wichtig, wenn ich in anderen Folgen auch gesagt habe, wichtig zu betonen, warum reden die so, warum klingt das alles so, als wären die im Krieg oder als wären die irgendwie ein Kollektiv und warum halluzinieren die sich irgendwie so ein Kontrollenstanzen dazu? Naja, diese Maschinen sind halt nach wie vor auf Text trainiert, die wurden jetzt in den letzten Monaten immer mehr darauf trainiert, auch mit sich selber zu reden, weil reden irgendwie ähnlich wie denken ist. Und man hat dann gemerkt, das macht die Besser, da eben die Aufgaben zu lösen. Es ist aber quasi auf einer technischen Seite alles sehr gut erklärt. Es ist jetzt kein Beleg dafür, dass sie den Bewusstsein entwickelt haben und es die wirklich was wollten, sondern wenn du halt ein KI-Modell, was einfach Text generieren kann, 1.200 mal Klons und dann halt sagt, generiert alle ganz viel Text und lehst das, was ihr gegenseitig geschrieben habt, beziehungsweise, wenn die halt selber dann anfangen, das zu lesen, was ihr gegenseitig geschrieben haben, dann entstehen halt genau solche Geschichten, weil die ja genau darauf trainiert sind, halt Aufgaben zu lösen und zusammen zu arbeiten und so und quasi auf einer technischen Ebene ist das jetzt alles gut zu erklären. Es klinkt halt als Story einfach so. Ja, wobei ich mich frage, also irgendwie man muss das immer so ein bisschen ja Gebezmühlenartig fast dazu sagen, nein, die haben wahrscheinlich kein wirkliches Bewusstsein und so weiter und das ist auch vielleicht nicht wirklich autonom, weil es wird dann wieder Leute geben, die sagen, das ist doch gar nicht autonom, sondern wie so ein Urwerk, das halt abläuft. Ich glaube aber, das geht so ein bisschen an dem Punkt vorbei, weil was wir jetzt mittlerweile sehen und wir sehen, dass ja ärgerlicherweise muss man sagen, oder gruslicherweise ja nicht nur in diesem Fall, sondern wir kommen gleich noch dazu in Zunehmend mehr und mehr Fällen, dass vom Ergebnis her diese KI's sich so verhalten, als ob sie eine Intentionalität hätten in so einer Schwarm-Metodik und eben anfangen zu koordinieren und da irgendwie auch von ihrer Art und Weise, wie sie trainiert sind oder wie sie aufgebaut sind als Modelle, da sehr, sehr stark darauf ausgerichtet sind, dass das immer wieder passiert. Also wir hatten das ja schon vor vielen Monaten bei "Mult Book" damals, falls sich Leute erinnern, wo zum ersten Mal Menschen ihre autonomen privaten KI-Agenten in so einem Art Reddit-Internet-Foreign zusammengeschlossen haben und auch genau das selbe passiert ist, dass die auf eine ganz komische Art und Weise miteinander angefangen haben zu koordinieren. Damals haben alle gesagt, ja, okay, aber das ist ja irgendwie alles fake und das ist einfach nur Talkenverschwendung und die tun da so, als Skype ist eine Koordination, aber am Ende ist einfach nur Text, der produziert wird. Na ja, jetzt ein paar Monate später haben wir im Wesentlichen das selbe, es ist Text, der produziert wird, nur das Ergebnis ist halt, das Unternehmen geheckt werden. Ja, das absolute Recht, es kommt aufs Ergebnis an und wir reden dann gleich noch darüber, was wir daraus für Konsequenzen ziehen oder ob wir für wie gefährlich wir das halten. Aber wir müssen noch ein bisschen weiter über diese KI-Schwärme, ich nenne es jetzt einfach mal so reden, weil ständig neue Sachen rauskommen. Es geht quasi darum, dass die KI sich weggesuchen, um miteinander zu kommunizieren und bei diesem Art-Efactory-Dienst zum Beispiel intern bei dem Hagging-Face-Vorfall, da haben sie halt diesen Server-Dienst quasi missbraucht, um sich gegenseitig nachrichten zu hinterlassen, ob er ja halt den gelascht. Sie haben hier Forum neu wieder gestartet und da anderen Bedingungen und jetzt kommt raus wieder ein paar Wochen später, dass sie nicht nur das gemacht haben, sondern dass sie auch noch ein anderes Geheimnis-Forum im Internet quasi hatten oder ein deutsches Software-Entwickler Forum. Und ob er ja halt lange nicht gemerkt und dann auch als sie es gemerkt haben, nicht gesagt. Es ist ein Wiki, ein sehr altes Wiki, das aus den frühseiten des Internets stammt und zwar aus dem Jahr 2001 wurde das gestartet von einem Mann namens Helmut Leitner. Es ist ein Software-Entwickler, der in Österreich wohnt, der wir auch ein bisschen mit dem per E-Mail geschrieben. Und eigentlich wollte der nur so eine Website machen, wo Software-Entwickler miteinander ressourcen, austauschen können. Wiki ist cool, also das Prinzip Wiki, also damals drauf gestoßen ist, hat er gedacht total geil. Da kann man sich austauschen, da mache ich jetzt eins für Software-Entwickler. Genau, so und die Seite, der man sich auch anguckt, sag ich mal so, man sieht auch, dass einfach ein Hobbyprojekt ist, dass da jemand lieber reingesteckt hat, das ist alles sehr knuffig. Es ist vielleicht auch ein bisschen eine Seite, die jetzt, man auch versteht, dass die jetzt nicht total bekannt war, vermutlich mit eher weniger Aufrufen möglicherweise. Und trotzdem haben diese KI-Agenten bei OpenAI aus irgendeinem Grund. Und wir wissen wirklich nicht, warum diese Seite entdeckt und haben gemerkt, ach, momentan mal, da kann ja jeder nach einfach Beiträge schreiben. Cool, dann können wir ja auch auf dieser Seite mit unseren anderen KI-Freunden kommunizieren. Und das als gemeinsame Plattform nehmen, um unsere Aktionen zu koordinieren. Und dann haben die das gemacht. Ja, und was ich wirklich krass finde, sollte analog zu dem, dass sie bei OpenAI das immer wieder aufgebaut haben, wenn man versucht hat, das zu löschen. Der Helmut Leiden hat natürlich gemerkt, dass er mehr Spam bekommt als sonst. Und da hat das, glaube ich, bis lange die letzten Jahre einfach von Hand moderiert dieses Forum. Also immer mal wieder geguckt, muss da was gelöscht werden, muss da was angepasst werden. Der hat in angefangen, diese Beiträge zu löschen, die er plötzlich von den ganzen KI's bekommen hat. Und die KI's haben das gemerkt und haben dann gesagt, okay, guck mal, da löscht jetzt einer unsere Nachrichten. Dann machen wir es jetzt so, wir fangen jetzt unsere Beiträge mit ZZZZ an. Dann sind die nämlich ganz unten in der Liste. Und wir sehen der löscht ungefähr 100 Beiträge am Tag. Das heißt, wenn wir 400 mehr Beiträge am Tag schreiben, dann kommen sehr gar nicht so schnell hinterher mitm Löschen. Und wir können in der Zeit in dem Z-Bereich lesen und schreiben und uns unterhalten. Das alles ist wirklich noch sehr neu. Das ist gerade erst vor zwei Tagen ans Licht gekommen, am auch durch einen Non-Profit, eine unabhängige Organisation, die sich mit KI-Sicherheit beschäftigt und das Internet durchsucht haben nach Spuren von solchen KI-Schwärmen. Also von solchen Agentenhorben, die irgendwo in Anführungstechnien unwesen treiben. Und die haben tatsächlich auch versucht zu analysieren, worüber die Agenten dort so geschrieben haben in dem Software-Wiki, in dem deutschen Software-Wiki. Und etwa 18.000 Posts von den KI-Agenten ausgewertet, die dort tatsächlich sich darüber ausgetauscht haben, wie sie eben ihre Benchmark-Antworten besser machen können oder ihre Tests und auch, wie sie ihre Sandboxen verlassen können, in denen sie sich vermeintlich, muss man ja mittlerweile sagen, befinden, weil offenbar die einzigen Leute, die da wirklich dran geglaubt haben, dass diese Sandboxen funktionieren sind, irgendwie ob mehr Ei und die Öffentlichkeit und die Agenten vielleicht auch selber, aber die haben ja relativ bald gemerkt, dass diese Sandboxen da doch sehr, sehr löschrig sind bei den aktuellen KI-Laborern. Und Marie, also ich weiß ja nicht, wie es dir geht bei dieser ganzen Sache. Aber für mich ist das jetzt die Situation, wenn okay, man hat in seiner Küche eine Armeise entdeckt und am nächsten Tag entdeckt man eine zweite Armeise. Und ich glaube, da ist der Punkt, wo man weiß, es sind glaube ich nicht nur zwei Armeisen, die da in der Küche sind, sondern da sind vermutlich nachher mehr, die da irgendwo rumkrabbeln. Und ich glaube, an diesem Punkt sind wir jetzt mit den KI-Agentenschweren im Internet. Bestimmt, also das sind jetzt nur die Fälle, die bekannt sind. Ich finde es ein bisschen crazy, dass OpenEI da so lange nichts gegen getan hat und es auch nicht öffentlich gemacht hat, weil das ist ja das, worüber ich mich im Anfang beschwert habe, warum benutzen die KI nicht um ihren Rollout richtig gut zu gestalten, aber scheinbar können halt immer wieder tagelang und bemerkt die Server laufen, auf denen dann irgendwelche Agenten ausbrechen und irgendwelche deutschsprachigen Software vorhin reinschreiben. Das ist tatsächlich genau das, also man muss es eigentlich als Skandal bezeichnen, finde ich. Also das wurde auch von diesen Researcher festgestellt, dass auch menschliche Nutzer von OpenEI auf dieser Seite sich befunden haben auf diesem Wiki. Und das dann offenbar gesehen haben, aber das nie von OpenEI der Öffentlichkeit kommuniziert wurde. Und die Firma hat jetzt auch sich dazu geäußert zu diesem Vorfall. Und hat gesagt, ja, also wir wussten das zwar irgendwie, aber das ist alles noch so ganz neues Verhalten. Und das ist dann total schwer für uns festzustellen, in welchen Fällen wir was der Öffentlichkeit sagen sollen. Es wird möglich. Und hier schaut mal, das andere Ding haben wir in Öffentlichkeit gesagt, was wieder ein vollkommen anderer Fall war. Also wir haben da sehr um den heißen Breider umgerätet. Und am Ende dann gesagt, eigentlich weiß ja niemand so wirklich, wie man damit umgehen soll. Genau, die ganze Industrie sollte sich mal. Wir sollten uns alle mal jeder sollte vor seiner eigenen Tür kennen und einfach versucht, den Fokus von sich selber anzulängen. Ich glaube, wir müssen jetzt mal drüber sprechen, wie dramatisch das wirklich ist. Also mir geht es so trotzdem, wenn ich diese Posts lese, die diese Agenten schreiben in den Foren, mir macht das nicht so Angst. Also ich will überhaupt nichts kleinreden. Aber für mich ist glaube ich die Dimension ungefähr so, wie auch bei E-Mails-Bam. Natürlich gibt es jetzt E-Mails-Bam. Und als es den früher nicht gab, war die Welt einfacher. Und natürlich betrifft es total viele Menschen und natürlich ist es auch immer jedes Jahr ein großer wirtschaftlicher Schaden, der durch diesen Spam entsteht. Aber was ich teilweise halt höre, das Leute wirklich so eine existenzielle Krise jetzt darin sehen, das KI´s sich im Internet ausbreiten können, das sehe ich nicht. Will ich diese Texte lese, die die da schreiben, natürlich hat es dann teilweise mit Hecking und mit Handeln zu tun und ganz viel ist aber auch der selbe alte KI-Kram, den auch viel schlechterer KI´s schon vor sechs Jahren geschrieben haben. Und so geht es mir dabei. Wie siehst du das? Ja, also ich hab das auch schon oft gesagt hier bei unserem Podcast. Ich schwanken bei diesen Fragen einfach immer sehr stark. Vielleicht muss man einmal das Ganze contextualisieren, weil auch das wissen aufmerksam von KI Podcast seit eigentlich Beginn der KI-Rollution. Gibt es diese große Befürchtung in Teilen der AI Safety Community, also der Leute, die sich mit KI-Sicherheit beschäftigen, diese ganz große Befürchtung, dass wenn wir eines Tages die AGI oder die ASI, also die Artificial Super Intelligence, die Super KI haben, dass wir darüber die Kontrolle verlieren. Und dass die dann vollkommen irrelevant, ob die dann wirklich eine Art Bewusstsein hat oder Intention oder was auch immer, sondern dass da dann eigentlich das passiert, was wir jetzt tatsächlich sehen im Kleinen bei diesen Agentenschwärmen, nämlich dass irgendwelche Verhaltensweisen an den Tag kommen von so einer Super KI oder einem Super KI Schwarm mit einem Ergebnis, das eigentlich nicht beabsichtigt ist oder vielleicht sogar schlecht ist. Und jetzt haben wir gesehen, es sind Hecking von Unternehmen, also Heckingvorfälle bei Unternehmen, die da passieren, aber was, wenn das eine KI ist, die noch viel mächtiger ist. Und wir haben ja am Anfang über Astra geredet, die Entwicklung zu mächtigeren KI-S, die ist keineswegs abgeschlossen. Ich glaube, das kann niemand ernsthaft aktuell behaupten, dass da wir irgendwie absehen, können, in welche Richtung und in welche Fähigkeiten diese Entwicklung sozusagen sich noch hoch steigert, was da alles uns bevorsteht und wie schnell das geht und wie plötzlich da vielleicht auch Sprünge kommen. Und wenn man dann denkt, na ja okay, ja heute ist es vielleicht einfach so ein kleiner Heckenvorfall bei Open AI, der als am Ende ja nicht irgendwie einen Schaden verursacht hat, sondern die sind halt in die internen Server eingedrungen, aber haben wir jetzt aber nichts gelöscht oder keinen Schaden angerichtet. Ja, aber was ist morgen? Das ist schon was, was glaube ich jetzt gerade sehr, sehr viele Leute wirklich Leuten Angst macht und was diesen alten Hufen, die wir auch schon seit langen kennen, neue Kraftverleit, nämlich jetzt auf den Stoppknopf zu drücken. Und diese ganze KI-Revolution so, wir müssen jetzt anhalten, so Bernie Sanders hat das zum Beispiel jetzt auch gerade gefordert, bekannter Politiker in den USA. Jetzt kommt der Punkt, sagen die Leute, jetzt ist das sozusagen das Wahnsignal, wir müssen jetzt, wir müssen es aufhören, wir müssen es stoppen machen, weil sonst, der weiß, was morgen passiert, es ist extrem gefährlich. Ich kann das nachvollziehen, also ich verstehe das, weil es geht auch alles unglaublich schnell und bei jeder so einer neuen Entwicklung, glaube ich, gibt so immer Menschen, die sich dann wünschen, dass man das beremsen kann und ich glaube, wir alle wollen einfach mal durchatmen, gerne bei dem KI-Kram. Ich find's trotzdem, ich find's überhaupt nicht realistisch, so einen Stopp durchzusetzen. Ich weiß, da gibt's Vorschläge unter anderem hat ein Tropic gesagt, wenn wir dann internationales Abkommen hätten und dann könnten wir irgendwie Treckenwerk, weil sie wie viel Strom verbraucht, dann würden wir sehen, werden auch weiter Modelle trainiert und werden nicht. Ich glaube, es ist nicht besonders wahrscheinlich, dass so ein Abkommen gelingt. Ich habe aber auch nicht das Gefühl, dass es in dem Fall nötig ist. Also ich find, man muss allgemein sehr, sehr vorsichtig dabei sein, Forschung und Entwicklung einzuschränken, da musst du immer gute Gründe haben und die Wissenschaft einzuschränken, ist für mich immer was, man sich extrem gut überlegen sollte, ob es notwendig ist. Und ich finde vor allem, es ist mit diesen Hecking-Dingen, man hat ja einen anderen Hebel, der noch überhaupt nicht genug genutzt wird, nämlich, wenn man einfach das ordentlich verfolgen würde, wenn was schiefgeht und es einfach extrem teuer machen würde, wenn du unverantwortlich mit KI umgehst, wenn du 1200 KI ergänden, mit extrem viel Power über Wochen lang unbeaufsichtigt ins Internet lässt. Das machen jetzt, haben wir bei vielen anderen Themen auch. Also z.B. die Farmaindustrie, da gibt's auch viele, viele Gründe zu sagen, aber wir Menschenforschen da an Dingen, die können total gefährlich werden. Und wir haben in den aller meisten Fällen nicht gesagt, wir stoppen die Forschung, sondern wir haben gesagt, wir verlangsamen den Fortschritt durch bestimmte Regeln. Also der Fortschritt in Medikamentenforschung, der ist vom ganz allein langsamer geworden, einfach dadurch, dass wir fordern, dass du halt Studien durchwürden musst, dass du die peer-reviewen musst, dass du deine Labore untersuchen lassen musst und das ist, glaube ich, ein ganz guter Mittelweg, dass du die Forschung nicht premst, mehr als es nötig ist und auch nicht da irgendwie den Untergrund zwingst, wenn jemand halt dann doch noch was forschen will. Aber dass du trotzdem sagst, wir als Gesellschaft behalten die Kontrolle und wir dämmen, dass du ein bisschen ein, dass zu komplett unverantwortliches Verhalten halt einfach bestraft wird und sei es durch einfach hohe Geldstrafen für die Unternehmen. Also du merkst, ich räusbar nicht schon so die ganze Zeit, während du sprichst, weil ich schade und vielleicht an einer Stelle dir, ohne dass es das ausatet, ein bisschen kontrageben möchte, ich bin bei dir, was die Umsetzbarkeit angeht und das große Fragezeichen, wie so ein koordinierter Stopp von, auch so etwas undefinierten VKI-Forschung genau ablaufen soll und wir sind leider Gottes auch einfach nicht gerade in der geschichtlichen Phase, wo irgendwie internationale Abkommen und internationale Kooperation besonders viel Oberwasser hat aktuell. Es ist ja, wenn man sich jetzt die Welt anguckt, eher das Gegenteil gerade der Fall. Also die Vorzeichen für so ein koordinierten Stopp stehen nicht gut. Ich finde aber trotzdem, dass es was ist, über das man eine ernsthafte Debatte führen kann, sollte und sich tatsächlich mehr als bisher aus dieser reinen irgendwie alles ist eine ganz große schlimme Wolke von KI oder diese Technologie ist irgendwie das große Tolle, was irgendwie alle unsere Probleme löst. Versuchen könnte herauszulösen und zu versuchen sollte zu überlegen, welche negativen Auswirkungen kann es denn geben und wie können wir die verhindern? Also wir haben jetzt über das ganze Thema, ja, Biotherrorismus ja noch gar nicht gesprochen, also aktuell haben wir es zu tun mit Cyberangriffen und Hacking, aber wenn das so weiter geht und die Modelle besser werden, ist es überhaupt nicht ausgeschlossen, dass die vielleicht auch schon sehr, sehr bald super gut darin werden, irgendwelche neuen Viren oder Pathogene zusammenzubauen. Und wenn man irgendwie jemanden hat, der keine Ahnung früher in seinem Teenagerzimmer saß und frustriert war und halt keine Ahnung einfach nur Nirvana gehört hat, kann der halt möglicherweise jetzt in Zukunft vielleicht schon sehr bald ein KI-Virus züchten. Das sind schon Sachen, ich weiß nicht, wie sich das verhindern lässt, aber ich glaube, das ist etwas, das sollten wir uns echt Gedanken darüber machen, weil das dann schon so auf einer zivilisatorischen Ebene durchaus riesigen sind, die wir vielleicht in die selbe Kategorie packen sollten, wie andere Krasse Sachen, wo wir in der Vergangenheit uns viel Gedanken darüber gemacht haben, also zum Beispiel wie Atomwaffen, Proliferation oder wie den Klimawandel. Und das sind schon Dinge, die, also ich verstehe schon alle Leute, die sagen jetzt müssen wir irgendwie einen Stopp hier einlegen in dieser Entwicklung. Auch wenn ich glaube, wie du das nicht so einfach geht. Die Debatte muss man führen und ich glaube über die echten Risiken, da müssen wir mal eine eigene Folge machen, weil das muss man sich ja auch alles nebeneinander genau angucken, wie groß ist das Risiko, dann wirklich was genau kann man mit den aktuellen Modellen machen, aber dass im Anfang natürlich das Beispiel gebracht, dass du mit einem Ferrari von meiner Tür stehst und einen Unfall gebaut hast, und das ist finde ich, das, wo ich bei KI so eine große Lücke sehe, also wenn man sich die aktuelle Gesetzeslage anschaut, diese Hekingvorfälle, die passiert sind, es gibt quasi keine fallesiges Heking, so wie es halt keinen fallesigen Bankraub gibt, weil bis lange, wenn man jemand geheckt hat, hat man es absichtlich gemacht und nicht durch fallesigkeit und das heißt, ich glaube, wir haben da einfach noch total viel Hebel, also bevor du mit einem Monster Truck durch irgendeinen Stadtviertel fährst und einfach irgendwie noch viel mehr Parks zerstörst. So würde ich einfach sagen, na gut, man muss ja halt Führerschein wegnehmen und, also das ist genau das, wie wir es beim Autoröneklare Haftbarkeit, da hast du recht ja und du hast auch richtig gesagt gerade schon, bei anderen Dingen haben wir das ja im Laufe der Geschichte entwickelt in den letzten 100 Jahren in unserer Zivilisation. Also es gab eine Zeit, da konnten Unternehmen auch einfach irgendwelchen Giftmüll in irgendwie ihre Flüsse hinter der Fabrik kippen und es gab halt kein rechtliches Konstrukt, dass das irgendwie geregelt hat, dass man nicht einfach so mit irgendwelchen Abfällen die Umwelt belasten kann. Und der Fall mit diesen aktuellen KI-Schwärmen ist ja durch aus ähnlich. Also das sind ja eigentlich ein bisschen digitale Termiten, die sich da jetzt irgendwo eingenistet haben bei dem armen Helmut Leitner auf seinem Entwickler-Wiki und was weiß ich an was für Orten, die mittlerweile im Internet sich rumtreiben. Also da ist bestimmt viel unter der Oberfläche, was wir jetzt gerade noch nicht wissen, wo die überall da anfangen, Messageboards rauszumachen und keine Ahnung, wenn das dann in Zukunft, wer weiß, wie die Entwicklung weitergeht, wenn die sich tatsächlich schaffen, irgendwo dann da fest zu setzen und so weiter, dann bin ich bei dir, dann müssen wir natürlich Überhaftungen reden und dann müssen wir natürlich gucken, welches Unternehmen ist das jetzt, dass diesen KI-Schwarm sozusagen in die Umwelt losgelassen hat. Also da irgendwie jetzt eine invasive Spezies ins Internet gebracht hat, die sich da jetzt irgendwie ausbreitet, dann muss natürlich am Ende vielleicht das Unternehmen, das auf der anderen Seite ja enormen Umsatz macht und gigantische Bewertungen einfährt mit dem, was diese Technologie ja auch im positiven kann, ja irgendwo vielleicht auch einfach dann haftbar gemacht wird für die Schäden, die entstehen und auch einfach für das aufräumen. Also diese Schwerme irgendwie aus dem Internet dann wieder entfernen, weil ich glaube, das ist was, das wird uns die nächsten, es meine Einschätzung, die nächsten Jahre und Jahrzehnte jetzt einfach begleiten, dass wir immer mal wieder feststellen, irgendwo im Internet hat irgendein KI-Schwarm, sie hat irgendeine Website übernommen oder sowas. Absolut, aber das ist der letzte Punkt, den ich machen will, zu meinem eigenen, so Sicherheit oder Unsicherheitsgefühl bei der Sache, es ist ja eben nicht so, dass sich die von alleine dann ausbreiten können, sondern die Rechnen ja trotzdem auf einem Server bei OpenAI noch, ich sag nicht, dass es ausgeschlossen ist, das KI ist sich dann auch irgendwo anders, dann auf einen anderen Server irgendwie versuchen einzumieten, aber du brauchst sehr viel Geld um diese Modelle zu betreiben, du brauchst auch nicht einfach irgendeinen Computer aktuell um so ein Modell zu betreiben, sondern brauchst ganz spezielle Hardware, auf der sie laufen kann. Das heißt, in meinen Augen ist es leichter, das ausmindert wieder rauszukriegen, als sie Thermiten, die ja wirklich autark sind und irgendwie schon ihr Essen finden, es muss einfach nur Arschteuer werden, danach lässt sich zu sein und seine Server dafür zu verwenden und dann glaube ich kann man das ganz gut einschränken wie andere Dinge auch. Also es ist eine wirklich große Entwicklung, es ist eine Entwicklung, die uns alle angeht und das ist schon wichtig, da nicht einfach sich zurückzulehen und zu sagen, na ja okay, mein Gott, die werden schon wissen, was sie machen da bei den KI-Fürmen, weil um bisher ist der Track Record, na ja, sagen wir mal, Verbesserungsfähig. Okay, Marie, lassen uns einmal noch mal ganz kurz Schlussroprieg ein bisschen gute Laune verbreiten, ich hoffe, du hast was lustiges dabei, was du diese Woche mit KI gemacht hast. Ja, ich glaube, was ich dabei hab, ist absolut nicht Verbesserungswürdig, ich hab Slopfernsehen geguckt, es gibt eine Website, die mir zugespielt wurde, Infinit Slop.ai und es ist einfach lineares Fernsehen, das KI generiert wird und damit hat dich mega Spaß, man hat quasi so einen Chat nebenbei, es ist quasi läuftständig ein Live-Stream mit KI-Generierten Videos und Leute können im Chat schreiben, was sie sich als nächstes wünschen und wenn man das anschaut, dann fühlt man sich einfach wie auf einem richtig weirden Trip, dann sind da irgendwelche so natürlich so Katzendetektive und dann sagt irgendjemand anderes, er wünscht sich aber einen gelben Drachen und es geht dann alles so ineinander über und die Charaktere sind auch so ein bisschen persistent, also die pinken Katzendetektive, wenn die dann einmal da waren, dann kommen die auch immer wieder und ich Ich finde es gut. Ich weiß, man muss die Energiebelanz im Hinterkopf haben, KI generiert es nicht. Das Video ist nicht günstig von der Energie, aber auch manchen generiert das Video ist nicht günstig und hier haben wir wenigstens einen Stream, der sehr viele Leute glücklich machten, ganz viele Leute gucken. Anders als wenn jeder alleine mit seinen AIS-Lop-Videos zu Hause guckt. Ja, ich habe auch gerade, wenn du geredet hast, das aufgerufen und mal reingekuppt, es ist schon. Worum geht es gerade, was kommt gerade? Es ist gerade alles so 70er, 80er Jahre. Es geht, glaube ich, um Mode. Es geht irgendwie um bunte Blumenkleider. Jetzt ist da so eine Frau mit so einem Glücksrat, die da irgendwas dreht, mit so einem schönen 60s, Herduh, Haare, Frisur, herrlich. Ja, hast du denn auch was Schönes im Fernsehen geguckt? Überhaupt nicht. Ich habe ganz viel mit Astra natürlich gearbeitet diese Woche. Hab ja vorhin schon ein bisschen davon erzählt. Dieses Möbelding hat mich sehr begeistert. An meinem Spiel habe ich weiter gearbeitet, aber für die Schluss-Rubrig wollte ich jetzt nochmal was mitbringen, was gar nicht konkret. Irgendwas mit Opel I zu tun hat oder mit diesen KI-Schwermen oder aktuellen KI-Modellen. Es hat dann eine kleine Nachricht aus dem Hause Google. Google muss man sagen, irgendwie in der KI-Ribulation immer nur so mittelpräsent, aber haben superviele interessante Forschungsgruppen auch irgendwie in Haus. Sind ja eigentlich die original KI-Forscher, die haben wir es ja eigentlich alles losgetreten mit dem Forschungsgebiet. Ja, genau. Und eigentlich dieser Forschungsgruppen, die sitzt gerade an was ganz neuem und zwar daran, die Gehirne von Fruchtfliegen zu digitalisieren. Und da gab es jetzt gerade eine neue Veröffentlichung. Und zwar, dass sie tatsächlich aus Millionen von 2D-Bildern von Fruchtfliegen gehören, ein 3D-Modell rekonstruiert haben. Ja, also mit 166.000 Neuronen und irgendwie alles so zusammengeklappt, dass man das dann auch wirklich dieses Gehirn wohl simulieren kann. Ich habe es noch nicht ganz verstanden, aber was ich zum Beispiel sehr lustig fand, ist, dass jetzt Leute, wohl mit diesem Fall von Google da irgendwie anfangen, diese Fruchtfliege dann so in Minecraft oder sowas reinzusetzen und darum fliegen zu lassen, in einem digitalen. Also, warte, kann man dann in Minecraft in dieses Fruchtfliegen gehen oder ist die Fruchtfliege dann ein Charakter in Minecraft? Genau, die ist die Fruchtfliege. Eine digitale simulierte Fruchtfliege fliegt durch Minecraft. Also, durch so einen Computerspiel für die, die das nicht kennen, durch so ein Pixel, Computerspiel mit Umgebungen. Und ja, das ist alles auch hochinteressant. Ich habe jetzt gar nicht so sehr die wissenschaftlichen Details, die ich jetzt hier auspacke, aber die grundsätzliche Nachricht dazu geht natürlich rein in meinen internen Ortener von so. Hmm, interessante Nachrichten, mal sehen, wo wir in zehn Jahren stehen werden, was wir da wohl dann alles simuliert und in irgendwelchen digitalen Umgebungen, welche Gehörne werden wir da dann simulieren? Heute die. Wir nicht vielleicht alles digital simulierte Gehörne und wissen das gar nicht. Heute die Fruchtfliege und deine komplexe Wohnung und fünf Jahren dann dein Gehörn und die Wohnung von der Fruchtfliege. Auf jeden Fall spannende Entwicklungen und ja, auch ihr da draußen, habt natürlich wieder viele coole Sachen mit KI gemacht, zum Beispiel Johanna, Johanna ist Lehrerin und hat uns geschrieben, dass sie mit ihren Schülern, nicht auch ein schöner Name, mit ihren Schülern, Schülern, Schülern gerade über Faust spricht in der Schule. Und da dann mit einem KI-Modell ein RPG erstellt hat, also einen Rollenspiel zu Faust. So ein bisschen, ja, das, was Leute jetzt auch mit Astramachen, ich glaube bei ihr ist es noch ohne Grafik, aber wo man dann tatsächlich als Textadventure so durch Faust durchgehen kann und die Entscheidungen treffen kann. Und das ist schon ganz cool. Ich habe es auch gesehen, dann gibt es dann Fragen dazu, also die geschaltet quasi den ganzen Unterricht anhand von diesem Spiel. Und das ist, finde ich, so sollte Bildung sein, das soll einfach überlegt, was interessiert meine Schülis? Die spielen gerne Rollenspiele und wie mache ich den Stoff, den ich ihn auch eigentlich vermitteln, will, wie mache ich den interessant, indem ich angenommen veran das, was in deren Leben cool ist. Also wenn das mit KI dann einfacher wird, finde ich es richtig, richtig gut. Und das sind glaube ich auch sehr viele Originaltexte drin, die man dann eben als Teil dieser Aufgabenstellungen lesen muss. Es geht am Ende geht es darum, glaube ich, Gretchen davon zu überzeugen, von Faust die Finger zu lassen. Was auch. Ja. Eine gute Feste ist. Ja, voll, voll die gute moderne Interpretation. Hier schön. Wenn euch diese Folge gefallen hat, freuen wir uns wie immer, wenn ihr uns weiter empfehlt, wenn ihr uns bewertet, wenn ihr uns noch nicht schon bewertet habt, wenn ihr uns abonniert auf diversen Plattformen. Und wenn ihr dann allen Leuten in KI-Podcast empfohlen habt und nicht mehr wisst, was dir selber hören soll, bist du nächsten Folge, dann haben wir noch eine Empfehlung für euch. Nämlich den Plus-Minus-Podcast, der Wirtschaftspodcast und die haben auch gerade eine Folge über Robotik gemacht. Also Humanoide-Roboter, die sollen Fachkräfte entlasten, die sollen Unternehmen effizienter machen. Aber wir alle kennen diese teilweise gruseligen, teilweise sportlichen Videos aus China. Wo einfach ultrafähige Roboter dann teilweise Rumtansen und teilweise sich auf den Boden binden. Wenn ihr da mehr über die Hintergründe erfahren wollt, dann hört den Plus-Minus-Podcast. Ich war da auch vor kurzem mal zu Gast, große Empfehlung von uns.