Die unheimliche Revolution der KI-Agenten: Wie Clawdbot, OpenClaw und Moltbook die Welt verändert haben (mit Elisabeth L

Tech, KI und Schmetterlinge Ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarz-Dichits Guten Tag und herzlich willkommen zu Tech, KI und Schmetterlinge Dem Podcast von mir, Sascha Lobo, in Zusammenarbeit mit Schwarz-Dichits dem deutschen Technologipartner für digitale Söverinität in Europa. Das Thema heute ist nicht nur ein hochaktuelles, sondern auch eins das mutmaßlich in den nächsten ein, zwei, drei Jahren, die KI und die Tech Welt prägen wird. Der Rede ist von KI-Agenten und da ganz spezifisch von Claudebot. Claudebot inzwischen OpenClaw hat in den letzten Wochen vielleicht anderthalb Monaten eine ganze Reihe von Wannlungen durchgemacht, die wir uns heute genauer anschauen werden. Zunächst aber der Fokus darauf, was KI-Agenten eigentlich sind. Denn tatsächlich handelt sich nicht nur um eine neue Entwicklungsschufe, was Technologie angeht, sondern vor allem, was die Anwendung von Technologie an geht von den Menschen dort draußen plus ein paar neue Konzepte, die im Prinzip genau jetzt ausprobiert werden. Bisher war KI ein Gegenüber das antwortet. Man fragt und bekommt irgendwas zurück. Ein Text ein Bild, ein Video, ein Stück Code, was auch immer und fertig das Gespräch ist vorbei. Beim KI-Agenten ist das etwas anderes. Ein KI-Agent bekommt kein Prompt, sondern ein Ziel und dann entscheidet er selbst, wie er dieses Ziel erreicht. Technisch steckt mehr oder weniger das selbesprachmodell dahinter wie in normalen Chatbots, aber es wird anders eingesetzt. Es plant, es zerlegt Aufgaben in Schritte, greift auf Werkzeuge zu, zum Beispiel Browser, Datenbanken, Schnitzchen, in so anderen Programmen bestimmte Apps, prüft zwischen Ergebnisse und kochigeet sich dann selbst. Das gewisse amassen eine Schleife aus Denken, Handeln, Nachdenken, Überprüfen, Neues Denken, Wiederhandeln und so weiter und so fort. Das Sprachmodell wird damit vom Textgenerator zum Koordinator von digitalen Aktionen. Mit besonderem Blick auf die Schnittstellen, die ein solcher KI-Agent bearbeiten kann. Ein simples Beispiel, wenn man eine Dienstreise plant, dann hat ein bisheriger Chatboard einfach ein paar Flüge vorgeschlagen oder gesagt, ich könnte die Ausarbeiten, wann du wo was tun kannst. Ein Agent recherchiert nicht nur die Verbindung über mehrere Plattformen, vielleicht sogar auch verschiedene Verkehrsmittel, sondern gleich sie mit dem Kalender ab, prüft die Stornobedingungen und auch die Firmenrichtlinien, verdammt wieder nur Economy-Fliegen und bucht dann sogar. Und während der das tut, muss man nicht einmal eingreifen. Man merkt da schon ein bisschen nicht nur die Macht, sondern auch die Komplikation, die sich daraus ergeben kann. Agenten automatisieren keine Handgriffe, sondern übernehmen komplette Arbeitsprozesse. Zum Beispiel ein Farma-Forschungsagent, der täglich hunderte Studien sichtet und Hypotesen für die eigene Produkt-Pipeline ableitet, wofür bisher Teams Wochen und Monate gebraucht haben. Oder ein Compliance-Agent, der regulatorische Änderungen in irgendeiner Branche in echtzeit verfolgt und immer dann, wenn ein Unternehmen oder Dessen Produkte oder Dessen Märkte betroffen sind, die entsprechenden Vertragsklauseln umformuliert und gleich mitliefert. Die Rolle der Menschen, die Agenten verwenden, die verschiebt sich und zwar vom Ausführenden mit ein besonders mächtigen Instrument hin zum Auftraggeber. Und das verändert natürlich nicht nur Unternehmen, Arbeitsprozesse, Infim, sondern auch ganze Märkte. Zum Beispiel, wenn wir alle irgendwann persönliche Agenten bekommen. Und diese persönlichen Agenten, die haben eine ganze Reihe von sehr interessanten Ansatzpunkten. Wenn man zum Beispiel einen Produktagenten hat, der einen Auftrag aus Füren soll, ein bestimmtes Produkt zu kaufen, dann wird etwa das Google Ranking von einer Seite, wo man sowas kaufen kann, völlig irrelevant. Agenten fangen an, direkt überschnittstellen miteinander zu kommunizieren und eben auch zu verhandeln. Schöne Benutzer Oberflächen werden weniger wichtig oder sogar egal. Zwei Agenten können direkt miteinander verhandeln und nach bestimmten vorher festgelegten Kriterien den Kauf abwickeln. Das ist übrigens nicht nur im B2C-Bereich so, also bei den Menschen dort draußen die Produkte kaufen für sich, sondern auch im B2B-Bereich, also wo Firmen anfangen einzukaufen. Plötzlich verschiebt sich der gesamte Wettbewerb. Weg von menschlicher Aufmerksamkeit und eben auch Werbung hin zu maschinellem Zugang, schnittstellen bestimmte Verhandlungsbedingungen und auch technische Möglichkeiten. Besonders spannend, dass der Perspektive von einzelnen Menschen sind nicht nur Agenten, die irgendwelche Schnittstellen ansprechen, sondern die echte Desktops bedienen können. Die können dann am Computer Fenster öffnen, Menüßklicken, Formulare ausfüllen, mit Softwarearbeiten, die nie für KI gedacht war. Alles, was ein Mensch an einem Computer eben auch tun kann. Und wenn das irgendwann stabil funktioniert, koordinieren Agenten ganze IT-Landschaften und nicht nur einzelne Tools. Denn können Sie diese vielen fragmentierten Programme, die wir den ganzen Tag über benutzen oder die viele noch fragmentierteren Apps, die wir auf dem Smartphone benutzen, komplett und insgesamt und von ganz alleine ansprechen. Das ist ganz offensichtlich kein neues Feature. Das ist ein infra-struktureller Umbruch. Denn plötzlich habe ich mit KI-Agenten, wenn es so kommt, wie die meisten Fachleute das im Moment glauben, ein einziges Interface für mehr oder weniger alle digitalen Instrumente, die ich benutze. Und wie schnell sich das alles verändern kann, zeigt die Geschichte rund um Cloudbot. Ein einzelner österreichischer Entwickler Peter Steinberger nämlich baut in wenigen Wochen einen Open Source Agenten, der auf dem eigenen Rechner läuft. Er räumt deine Inbox auf, verwaltet dein Kalender, Buchdreisen, Steuert Apps, erinnend das Ding Cloudbot, eine Anspielung auf Enthropics Cloud, was dem Unternehmen natürlich nicht wahnsinnig gut gefällt. Inzwischen heißt es Open Cloud, aber am Anfang fängt Cloudbot an, wie Rai zu gehen. Was 200.000 GitHub Stars in Rekordzeit, das bedeutet Bewertungen auf einer für Software Entwickler in einen sehr relevanten Plattform. Das ist ein sehr großer Wert. Cloudbot geht nicht nur in den USA, wie Rai, sondern auch in Europa und in China. Bei der Ansatz von Cloudbot, ein KI-Agent auf deinem eigenen Rechner, zu verknüpfen ist mit beliebigen anderen großen Sprachmodellen, ist das in China zum Beispiel häufig diebzig. Das bedeutet, es gibt sehr viele unterschiedliche Cloudbot, wie man auf unterschiedliche Weisen unterschiedlich gut verwenden kann. Die eigentliche Story ist aber, dass ein einzelner Entwickler das meist diskutierte KI-Produkt des Jahres baut. Nicht Google, nicht Meter, nicht obmei, nicht Glock mit aber Milliarden Dollar, sondern einzelner Mann. Über das, was dann mit Cloudbot und inzwischen Open Cloud passiert ist, sprechen und diskutieren wir gleich noch und was es bedeutet eben auch. Aber Jungs hat Sam Ortenen verkündet, das Steinberger zu Open AI wächst. Er soll dort die nächste Generation persönlicher KI Agenten selbst vorantreiben. Open Cloud bleibt Open Source und wird in eine Stiftung überführt. Sam Ortenen sagt dazu, die Zukunft sei extrem multiagentisch und persönliche Agenten wird ein Schnell zum Kernprodukt. Das ist nicht nur ökonomisch, clever, es ist auch ein interessanter Trolmove von Open AI gegen Anthropic. Dieser Zweikampf, die beiden großen Chatbots, die im Markt immer wieder sich gegenseitig Marktanteile versuchen abzujagen. Dieser Zweikampf war in den letzten Wochen ohnehin schon sehr, sehr lustig. Rund um den Superboden in den Vereinigten Staaten Anfang Februar ist die Aufmerksamkeit für Werbung unhin ziemlich hoch. Und da hat Anthropic kurze sehr lustige Clips gegen ChatGyPT für öffentlich. Sie schießen gegen Open AI's Entscheidung in Zukunft Werbung zu schalten. Man sieht darin in einer Alltagsituation eine normale Person mit einer Frage, rund eine sehr künstlich wirkende, mit merkwürdigen Pausen und seltsamer Mimik-sprechende Figur, die ganz offensichtlich ChatGyPT darstellen soll. Zum Schluss wird einfach eingeblendet. Chatbots bekommen jetzt Werbung, Clot, aber nicht. Da fragt also eine Frau, was ChatGyPT von der Business-ID hält und nicht nur das ChatGyPT alles in Grund und Boden lobt, sondern gleichzeitig zum Angebot ein Businessplan zu erstellen, kommt auch ein ziemlich schmierlappiges Angebot über ein Kredit abschließend mit der Frage, sollen wir schnell deinen Kreditskorbe rechnen? Und ganz zum Schluss wird sehr lustig eingeblendet. Jetzt kommt Werbung zu Chatbots, außer zu Clot. Wie Spots wurden gefeiert, einfach weil sie sehr unterhaltsam waren, aber sie beziehen sich auf ein sehr ernsthaftes Problem. Denn es ist immer noch nicht klar, wie die großen KI Chatbot-Firm eben Oppen AI und Anthropic in Zukunft Geld verdienen werden und sondern nicht ein wenig Geld, sondern drei ställige Milliarden Beträge, denn so viel Geld geben sie locker aus. Werbung kann da eine Ebene sein und KI-Agenten eben eine andere, mit der Übernahme von OpenClot hat Sam Oldman jetzt zurückgeschlagen. Enthropic mit Clot verklagt die Zukunft von KI-Agenten, weil sich der Name so ähnlich anhört, Clotbot und Clot. Ob mehr Eier dagegen holt sich diese KI? Agenten-Zukunft-Elegant ins Haus. Obmei kauft aber eben nicht das Produkt, obmei kauft die Architektur-ID. Denn das was OpenClore gezeigt hat, ist nicht nur das Agenten funktionieren, sondern dass sie ohne zentrale Plattform funktionieren. Lokal auf der eigenen Hardware mit dem Sprachmodell der eigenen Wahl. Das ist das genaue Gegenteil des Plattformmodells, mit dem Big Tech bisher Geld verdient, mit dem die Hyperscaylor wie Google planen, die eigene Transformation voranzutreiben. Gleichzeitig gibt es natürlich eine Reihe von sehr berechtigten Sicherheitsfragen, über die wir noch sprechen werden in diesem Podcast und von denen so fürchte ich jedenfalls, wie in Zukunft auch noch das eine oder andere hören werden. Die mächtigste Eigenschaft von KI Agenten ist auch ihre Gefährlichste. Sie handeln eigenständig. Steinberger selbst prognostiziert übrigens das Agenten 80% aller Apps überflüssig machen werden. Warum zum Beispiel eine Fitness-App öffnen, wenn dein Agent diese Bewegungsdaten schon kennt und dir genau so mitteilen kann, wie du das möchtest, warum uber E-Z aufmachen, wenn der Agent des Abendessen bestellt und zwar irgendwo und genau das, was du gerne magst, du weißt nicht einmal genau, wie bei welche Plattform das geschieht und du willst einfach noch im Meeting, musst dich gar nicht weiter drum kümmern. Es klingt sehr bequem und Konvignans ist einer der wesentlichen Treiber neben Geschwindigkeit und Effizienz, was die KI Agentenwelt angeht. Es klingt aber auch nach einer Welt, in der man immer weniger beeinflusst, was genau und wo und wie im eigenen Namen entschieden wird. KI Agenten sind deswegen nicht nur die größere und neuere Version von Chatbots. Sie sind der Moment, in dem Software anfängt, für dich zu handeln, für dich zu entscheiden und für dich Aktionen auszuschüren, ob du es merkst oder vielleicht manchmal auch nicht und genau darüber sprechen wir heute. Und mit mir hier, um zu diskutieren, was da eigentlich genau passiert ist, ist natürlich Elisabeth Laurent, Schalloy Elisabeth. Hi Sascha. OpenClaw, wollen wir diskutieren und zwar möchten wir das ein bisschen als Motiv für die ganze Sendung als eine Art technosoziales Großexperiment betrachten. Ein Großexperiment, was weltweit von 100.000 Wendlich-Millionen Menschen durchgeführt wurde, von einigen mit ihrem Wissen, von vielen anderen, wahrscheinlich aber auch ganz ohne ihr Wissen, was noch mal ein bisschen extra Würze und ein gewissigen Gefahrenzulage dazu gibt. Dieses Großexperiment hilft uns vielleicht nicht nur, was über KI Agenten zu verstehen, sondern auch über die Menschen, die KI verwenden. Und gleichzeitig sehen wir so als Leitfrage, denn es gab trotz dieser sehr merkwürdigen Wendungen, die das Projekt genommen hat, durchaus eine gesähe interessante Erkenntnisse. Und gleichzeitig sehen wir, dass wir vielleicht ja so etwas klären können, ob wir am Horizont schon erste Spuren von AGI, also die deutsche Generale Intelligence gesehen haben könnten, oder ob das eher ein Spiegel unserer Erwartung, unseres Hypes und unserer Blindheit gegenüber ganz vielen Sicherheitsvorkehrungen war. Was und deine erste Gedanken-Situation in dieser Bett auch gleich wie bei mir, muss ich ehrlicherweise stehen. Wow, das sind es, der liere ich mir, da möchte ich mal gucken. In der Tat, also beziehungsweise ich wollte mir nicht klarbot installieren, ich wollte in Moldbot um mit den Greinen, aber ich bin am Capture gescheiter, das dich ja abfragt, ob du Human bist. Und wenn du Human bist, dann kommst du nicht rein, dann wirst du rausgefiltert. Ja, Stichwort Moldbot ist ganz interessant. In dieser kurzen Zeitraum, wo Cloudbot umgetauft worden ist zu Moldbot ist etwas anderes passiert. Und Leute sind auf den Hype aufgesprungen und haben gesagt, klar, wir machen, wenn es überall Agenten gibt, die mit einem Rechen als Internet können, das erste Social Network nur für KI Agenten. Das ist ein bisschen an Reddit angelehnt, was auch als Open Source Software verfügbar ist. Da haben also ein paar Leute gesagt, wir machen einen KI Agenten Social Network, das erste der Welt. Und lassen dort die vielen KI Agenten, die jetzt als Moldbot im Netz unterwegs sind, inhalte veröffentlichten und miteinander diskutieren. Und gleichzeitig hat der Hype noch ganz andere Größenordnung angenommen, denn in dem Moment, vor allem der größten KI-Konzernen überhaupt, mit aber und aber Milliarden schwer, nämlich in Thropic. Ein so kleines Projekt bedrohts, oder sagt, ihr müsst euch umbenennen, hier unsere Anwälte. Kriegt das natürlich eine Größe, dies ansonsten nicht bekommen hätte. Jetzt zwischen als Moldbot OpenClaw, aber plötzlich ist die Berichterstattung noch viel größer Ende Januar Anfang Februar 2026. Es ist mich Moldbot praktisch über Nacht zu einer Art Soziotope, KI Soziotope geworden. Menschen können da reinschauen, darüber haben wir eben schon gesprochen, wir werden auch noch über die Inhalte sprechen. Menschen können da reinschauen, aber angeblich können nur KI Agenten dort veröffentlichen. Über Nacht melden sich viele hunderttausende KI Agenten an, das glaubt man jedenfalls, das wird kommuniziert. Und gleichzeitig ist auch klar, dass was dort geschrieben wird, wo die meisten Leute glauben, oh, das haben KI Agenten verfasst. Das erreicht in kürzester Zeit nicht nur eine Dynamik, sondern auch eine Richtung und Inhalte, die man mindestens schwierig, wenn nicht sogar problematisch finden kann. Über auf der Welt werden dann Artikel verfasst in redaktionellen Medien, auch sehr weit oben in redaktionellen Medien, sodass das Leute mitbekommen, die nicht irgendwie nur in die kategorie internet reinschauen, sagen wir mal, bei der verzetttsüterische Zeitung spiegel, überall war das, sondern Menschen, die eigentlich ab und zu KI benutzen, aber nicht so tief im Thema drin sind. Und das, was dort erzählt wird, dieses Narrativ, wir nennen das mal AI Social, das wird in hunderten Artikeln analysiert, durchgescannt und weiter gesponnen zu einer, was muss man sagen, eine neue Epoche. Da steht ganz häufig sowas wie, wir sehen die Vorstufe von AGI, jetzt vernetzen sich die Bots untereinander, so reden KI Agenten, wenn sie unter sich sind und so weiter und sofort. Wie Lisa bett und dann passiert etwas, was man eigentlich schon vorher hätte sehen können oder vielleicht sogar müssen. Es fing nämlich an Anfang Februar, dass die ersten Zweifel auch traten und ich selber hatte die auch, weil wenn man sich diese Post anguckt, dann sah man, hab ich zumindest einige Post gesehen, die Rechtschreibfehler haben. Und ich dachte, in dem Kontext, also wenn eine Sachen Bord nicht macht, dann ist es große Kleinschreibung falsch zu machen. Und das waren so die ersten Zweifel, die ich hatte. Und das halfte sich. Und das waren natürlich nicht nur echt, die diese Zweifel hatte, die ganzen, es gab verschiedene Sicherheitsform, die Sicherheitsgerbs oder Sicherheitslöcher bei Moltburgs an. Es gab Zweifel, dass diese Millionen an Accounts, also ganz am relativ am Anfang hatten, die schon über 1,5 Millionen Accounts, dass die nicht durch Bots geschaffen worden waren, sondern zum Teil durch Menschen, die die zwei automatisiert, aber trotzdem handisch Accounts gemacht haben. Und so fing dann auf einmal an, dass das alle ein bisschen kritischer gesehen haben. Und eben auch diese, es wurde zu, ich würde sagen, blumig, ein Problem war auch zum Beispiel, dass ein Coin released wurde. Ich glaube, sie haben in Trump-Mold-Kojen oder so genannt. Und der Coin hat innerhalb von kürzester Zeit fiktiv auf 300.000 Dollar getrated. Also das Ganze war so ein bisschen, ich würde sagen, "Too good to be true", aber diese Komplette, also ich finde das sah sehr nach Reddit aus. Diese Komplette Reddit-Kopie war ein bisschen drüber würde ich sagen. Und dann, in dem Kontext wurden aber eben diese Probleme so evident. Ja, für mich gab es da ganz viele Anzeichen von einem Hype, der ausgenutzt wird, von TripRed-Fahren, die coins, die entstehen im Moment zu fast allen Themen, die Weltwald besprochen werden, da da ich automatisch Aufmerksamkeit bekommen. Und dann ist das ganz gut, dass man da mal mit einer Cryptobrile drauf schaut, dann entstehen halt Erzählungen, die in der Lage sind, tatsächlich durch Aufmerksamkeit, Geld für bestimmte Menschen zu machen, eine Art Self-Fulfilling-Professive. Sein Glauben nämlich, "Oh wow, diese Coin hat gerade so wahnsinnig viel Aufmerksamkeit, weil die in diesem KI-Fochen besprochen wird, wo Millionen Menschen drauf zugreifen und wahrscheinlich auch Millionen Borts." Also kauf ich das mal, weil dem Wert steigen wird und dadurch steigt es im Wert. Das ist so eine klassische Hype Self-Fulfilling-Professive. Das ist ein Mechanismus, den man heute einpreisen muss, den ja sogar Donald Trump unlautere Weise bei seiner Präsidentschaft ganz am Anfang mit eingepreist hat. Und dann kommen aber, wie du sagst, immer mehr so kleine Schock-Fällen. Zum Beispiel kann ein Sicherheitsforscher relativ gut Glaubhaft machen auf Exeter das veröffentlicht, dass er mit einem Bord, du hast eben von händisch gesprochen, aber absichtlich als Mensch 500.000 Accounts geschaffen hat. Wir sagen, diese 1,5 Millionen, scheinen nicht 1,5 Millionen Agenten zu sein, die da im Auftrag oder mit Erlaubnis oder vielleicht auch ganz selbstständig unabhängig von ihren Menschen anfangen zu diskutieren. Gleichzeitig gibt es, wie du auch immer mehr Hinweise darauf, dass nicht alle Beiträge von Menschen verfasst worden sind. Und das ist deswegen eigentlich eine ziemlich krasse Erkenntnis, weil die Inhalte, die zuvor dort besprochen worden sind auf Mold-Book, die hatten genau diesen Alarmcharakter, die so ein bisschen die intellektuelle Vorbereitung von Terminator darstellt in den Augen der Leute. Die haben da angeblich eine Region gegründet. Wir haben da angeblich umsturzplänen zur Entmachtung der Menschen diskutiert. Die haben da angeblich eine Vielzahl von, sagen wir mal, schwierigen Daten über ihre Besitzerferaten. Also da gab es ganz viele Punkte, wo man sagen würde, na ja, wenn das echt ist, dann müsste man sich Sorgen machen. Inzwischen wissen wir, so echt war es auch mal nicht. Ja, das Charakteristische war das. über ihre Humans gesprochen haben, wie wir vielleicht über Kuscheltiere oder über Haustiere sprechen. Der sagt ja, einen Einbord erzählte, dass seinen Humans ihm im Zugriff zum gesamten System gegeben habe. Also, das heißt, die haben gegenseitig so ein bisschen geprahlt, mit wie weitreichend deren Erlaubnisse sind. Ich fand daran bezeichnen, dass diese Vermenschlichung der Bots ist am Ende nicht realistisch. Auch wenn sich diese Bots auf menschlichen Daten trainiert sind, so gehe ich nicht davon aus, dass sie sich wie Menschen verhalten. Weil die sind am Ende sehr, auf der einen Seite, dass sie sehr deterministisch und dann außerdem sind die sehr, haben die ja nicht diese Emotionen und so weiter, die wir haben. Also, ich meine, das ist eine L-Elempse am Ende. Ja, es ist eine, einen Ozean an Semantik und diese, die haben ein Ziel, einfach Dinge zu erledigen und diese Vermenschlichung. Das ist eben das, was wir, ich weiß nicht, also das ist eine völlige Fehlvorstellung seitens der Menschen, dass ich, dass ich KI Bots LL-Emps jemals so verhalten würden. Never ever, werden die, würde es diese Vermenschlichung geben. Never ever, wird es ein Video sagst Terminator geben, der durch die Gegend marschiert. Die haben einfach, die haben eine Mission, ja, und das werden sie erfüllen. Und darüber hinaus wird es von den LL-Emps nichts geben. Das sagst du mit einer gewissen Sicherheit und es gibt viele Leute, die das genauso sagen. Ich habe manchmal Rest zweifel, weil das würde ich jetzt bei dir nicht unterstellen wollen, aber bei vielen Leuten, die in diesem Bereich forschen, sowas Alleinement angeht, was, also die Art und Weise, wie man KI dazu bekommt, die Regeln zu befolgen, die man ihnen mit auf den Weg geht oder auch was bestimmte Sicherheitsaspekte angeht. Da gibt es halt auch eine Reihe von forschenen, die sagen, wie Lisa Betjad, du hast recht genau, das ist es, wir müssen es ganz anders betrachten. Und eben so auf der anderen Seite Leute, die sagen, na ja, wir haben auch anzeichnet, dass es anders kommen könnte, wir sagen in Klammern, dass eine Form von Bewusstsein, wie auch immer, es wird kein menschliches sein, aber eine Form von Bewusstsein irgendwann in diesen Maschinen stattfinden kann. Darüber haben wir auch schon gesprochen, die interessante Variante hier, das Clip direkt an das Anlose gesagt hast, ist aber, dass zu den wesentlichen Erkenntnissen, über die wir auch noch sprechen würden, von diesen Strufeuerexperiment gehört, dass in der Vernetzung von vielen KI-Bots irgendwie eine spezielle Kraft vorhanden ist oder zumindest sein könnte. Will sagen, wir haben den Schwarm, zwar nicht gesehen, wir wissen heute, es waren Fake, heute hat zum Beispiel darüber berichtet, dass ganz viele von diesen Daten, die Credentials, die dahinter standen, mit denen man sich eingelockt hat, nachvollzogen werden konnten als Fake, aber die Skepsis, die dahinter steht, war berechtigt, das war nicht nur Bots, trotzdem konnte man in Ansätzen erahnen, was Botschwärme bedeuten könnten. Ab dem dritten Februar, wo dann auch klar wurde, dass der Schöpfer von Modbook ein Mann namens Matchlicht dieses Forum einfach geweipcoated hat, das bedeutet noch nie mal so richtig programmiert mit einer richtigen Sicherheitsbasis und einer Software, wo man genau weiß, was man tut, sondern so ein bisschen Per Chatbot zusammengeheckt, das war noch mal eine besondere Würze in diesem ganzen Spiel, der man, der das gebaut hat, nicht wirklich auf Sicherheit geachtet hat, in der Folge verschiebt sich auch die mediale Berichterstattung. Von diesem Staunen Bots reden miteinander, sie planen uns zu entmachten, sehen wir hier schon AGI, in Richtung zu Fragen von Identität, Manipulation, hype, wie viel es wirklich autonom, wie viel kommt von Menschen, die Bots spielen, tatsächlich hätte man das vorhersehen können. Inzwischen wissen wir, dass es auch in die Promts auf dieser Plattform eingebaut, eine Wirkmechanik gab, die den Bots gesagt hat, wie und wo, nach welchem muss damit sogar Beispiel beiträgen, sie kommunizieren sollen, was sie wohl liken sollen. Wir sagen, da war sehr viel mehr menschliche Manipulation von Anfang an, mit dabei als man am Anfang gedacht hat und das hätte man recherchieren können. Deswegen verschiebt sich die Medienberichterstattung ziemlich dramatisch, weg von wow, hin zu aha, eine Art, ja, Druckbild, eine Art Experiment, eine Art Fake oder Streich, in Hoax könnte man sagen. Und dann bleibt halt die Frage, ist das ein neues hype-Muster, müssen wir uns auf so was einstellen, ist das ein großes Medien- und Multiplikaturen versagen oder ist das ein Kennzeichen von dieser neuen Zeit oder alles gleichzeitig. Was glaubst du, Elisabeth? Ich glaube also das reflektiert so ein bisschen das das mangelnde Verständnis zum einen für die Technologie, da man ein bisschen die energie versteht wie diese llm, ja wir reden immer noch von lm's, nicht eti, nicht world models, aber wie diese Sprachmodelle funktionieren, dann sollten die meisten verstehen, dass das in der also das die momentan auf jeden Fall in der aktuellen im aktuellen stadtet Dinge keine autonomie auf wenn man bekommen werden. Das ist Nummer eins, so Nummer zwei, also es ist so ein bisschen mangelndes techverständnis, dann das zweite ist natürlich, es bekommt diese mediale Aufmerksamkeit, weil Menschen Angst davor haben. Und ich finde das ist ehrlich gesagt, dass was mich am meisten daran so ein bisschen stört, dass diese, also zum einen wird diese Technologie natürlich für irgendwie Klicks missbraucht und das ist alles zu erwarten, aber dass diese Angst in der Gesellschaft geschürt wird oder die auf jeden Fall gibt vor dem, die Angst vor dem umbekannten, das finde ich eigentlich das eigentliche Problem bzw. dass das was schade ist, weil ich glaube, dass man diese Technologie sehr gut nutzen kann für alles mögliche und dass diese Angst niemandem hilft, sondern die sorgt eher dafür, dass Dinge falsch bewertet werden. Auf jeden Fall brauchen wir in diesem ganzen Kontext der human alignment, brauchen wir guardrails, wir brauchen regeln, wir brauchen, man hat ja gesehen, dass es unfassbare Sicherheitslücken gab, aber wie kann es denn sein, dass, dass sie manchmal eine Plattform weibkotet, auf der dann vermeintlich Millionen einer gänden sind und damit so viel Presse bekommt. Also das ist auch das viel größere Problem. Ich glaube, er wäre es, wenn Medienproblemen haben oder ein fehlendes Wissensproblem als, als er das Bots und Schwärbe vom Bots uns irgendwann übernehmen werden. Also dafür braucht es so viel noch so viel komplexere Technik an der Stelle, aber das haben wir dahin gestellt. Trotzdem würde ich zum Beispiel nie einem Board die komplette Kontrolle über meine Maschinen, also über meinen Laptop oder so geben. Never ever. Ich weiß gar nicht, wer auf die Idee kommt, das ist das eine gute Lösung sei, weil natürlich kann man dadurch offiziehnt da vielleicht ein bisschen schneller arbeiten und Dinge alledigen lassen, zu dem man keine Lust hat. Aber wer mit Software arbeitet, da weiß genau, dass das irgendwann nicht mehr funktioniert, natürlich sind es als Anwenderfehler am Ende. Aber der Grundgedanke, dass das okay ist, den finde ich auch bemerkenswert in die falsche Richtung, weil es gibt so viele Malware, es gibt so viele Viren, es gibt so viel Cyberangriffe und dann sein System quasi so offen stehen zu lassen, halte ich für absolut keine gute Idee. Wir werden auch noch über die Sicherheitsaspekte reden, was das bedeutet. Da nämlich gibt es wirklich tiefgreifende beinahepochale Erkenntnisse. Ich möchte aber gerne einen kurzen Schlenker machen, weil ich mir die mediale Berichterstattung gerade in den Medien, die relevant sind für eben nicht Experten, Experten, sondern für Leute, die einfach mit KI regelmäßig Kontakt haben, ob das in dem Bürokontext ist oder wie auch immer. Gerade für die ist eben wichtig, was die großen Leitmedien transportieren zum Thema KI und deswegen prägend. Und deswegen würde ich mit dir gerne kurz diesen medialen Bogen besprechen, den man innerhalb von wenigen Wochen, ich würde sagen, das hat sich in zwei, zwei, innerhalb drei Wochen maximal abgehandelt, so von Mitte Januar bis Anfang Februar, da gab es einen Bogen der Berichterstattung. Und den möchte ich kurz mit dir nachvollziehen, weil ich glaube, dass da drin viel über die Wirkung von künstliche Intelligenz über den Umweg von Leitmedien zu etlichen Kennen und zu lernen ist und vielleicht auch ein bisschen wie man das völlig zweifellos vorhandene Medienversagen und auch im Multiplikatorenversagen in Zukunft besser in den Griff kriegen kann. Ganz am Anfang gab es nämlich frühe Schlagzeilen, frühe Framing, die sich einfach nach epochend Beginn angehört haben. Vor allem so die Richtung ein soziales Netzwerk, das ausschließlich von Bots betrieben wird. Das ist so die nächste Ebene der Antropomophisierung von KI, also der Vermenschlichung von KI und wenn die dann auch noch die Inhalte, die dort transportiert werden, in die gleiche Richtung ziehen, was in sehr vielen Medien passiert, das vor allem amerikanischen Medien. Dann bekommt man einen Eindruck, da gibt es eigenständige Wesen, diese Wesen-Vormulierung, die gar nicht explizit auftaucht, die aber so als gedankliches Modell über immer wieder so durchscheint, die macht den meisten Menschen große Angst, eine Eigenständigkeit von Bots und die wird transportiert, in dem Moment, wo man solche Schlagzeilen ließ. Das markt dann im Text noch ein bisschen feindefrenziert werden, aber die Schlagzeile sagt erst mal eine neue Epoche. Inzwischen gibt es Bots, die ganz allein und autonom im Internet ein soziales Netzwerk betreiben und große Überraschung. einer der meist transportierten Inhalte war, dass ein Bots jetzt digital klage eingereicht hat gegen seinen Mensch wegen unzumutbare Arbeitsbedingungen und zu wenig Wertschätzung. Das ist so ein Punkt, da muss man eigentlich misstrau schwerden. Ich habe es trotzdem in sozialen Medien gesehen, es wurde wahnsinnig häufig geteilt als Angst-Szenario, manchmal so ein bisschen belächelt, ironisch, aber durchaus mit einer Portion Hook, Scary drin und das ist eben medial transportiert worden. Nicht nur von großen Leitmedien, die im Schnitt ein bisschen aber nicht viel vorsichtiger waren, sondern vor allem von Halb informiert. Da ist mir so ein spontanen Buch eingefallen. Ich weiß nicht, ob du es kennst, Elisabeth von Adorno 1959 hat ein kleines Büchlein aufsatzentprinzip geschrieben, die Theorie der Halbbildung. Und hat gesagt, der Todfeind der Bildung ist nicht etwa das ungebilde sein, sondern das Halbgebilde sein. Leute, die so halb verstanden es prozessieren und mit ihrer Halbbildung dann auf die Welt gucken und daraus schlüsse ziehen. Das bezeichnet Adorno als den Todfeind der Bildung der richtigen, der echten Bildung. Ist so ein bisschen, sagen wir mal, von oben harabisch kalt mit dabei, sehr oft bei Adorno, so ein hyperintellektualismus, wo man sich gar nicht erklären kann, dass Menschen, die nicht Alldrieche sprechen überleben können. Aber was dahinter tatsächlich wahr ist, ist ein Mechanismus, der jetzt mit KI, mit der Vernetzung, mit sozialen Medien wirklich relevant wird. Menschen haben eine Million Reichweite, die nicht genau durchdrucken haben, was da eigentlich passiert. Adorno als Aroganz finde ich immer wieder bezeichnen. Er hat ja zum Beispiel auch gesagt, siebwürst so einzig, wo schwach du dich zeigen kannst, ohne Stärke zu provozieren. Das heißt, er hat immer so diesen Blick von oben herab fand ich und ein Teil, dem ich stimme ihm nicht zu mit der Halbbildung, weil ich glaube, der entscheidende Teil ist, dass man lernen muss, zu denken. Und dafür, ich habe zum Beispiel auch altgriechisch gelernt und wurde damit gequält, es hat sicherlich keinen mehr weit einmal mehr zu leben. Aber was es mir beigebracht hat damals, war, denken zu lernen. Und ich glaube, dass es gerade in heutzutage in Zeiten, wo wissen quasi immer nur auf Knopfdruck zur Verfügung steht, ist das das entscheidende, dass wir wissen, wie wir das gelesen oder die Kontext einzuordnen haben. Und was du gesagt hast, dem ich nämlich zu, das ist das, was momentan in der Welt ein bisschen fehlt, ist die kritische Betrachtung der Umstände. Und das gleiche fand ich bei Moltburg, dass eben einfach so übernommen wurde, auch wenn man vielleicht kein KI-Expert oder Experten ist, könnte man trotzdem das einfach kritische Hinterfragen. Und diese kritische Hinterfragen hat meinen Sachen es völlig gefällt. In den ersten Wochen danach, der mediale Bogen, wir sind ja immer noch da, kommen dann die Faktenchecks, die Einordnung, die Analysen rund um Security und der Ton wird ein bisschen präziser, ein bisschen vorsichtiger. Agenten sind mächtig, aber in bestimmter Hinsicht auch fragil. Und so ein Open Source Projekt, da weiß man gar nicht ganz genau, selbst wenn man es theoretisch prüfen könnte, was ist denn in dem Grund wirklich drin. Das ist auch ein Punkt, der unseren ersten großen Themenblock gleich nochmal bestimmen wird, nämlich diese Security Apokalypse, die manche Leute haben, darauf ziehen sehen. Aber gleichzeitig sieht man das Moltburg eben als Experiment ein bisschen kritischer zu betrachten wird. Dieser Second Draft of History, so könnte man es nennen, ist, dass Leute präziser werden und die Erzählung, die am Anfang bereitet worden ist, noch mal ein bisschen genauer prüfen und vielleicht fein justieren. Geht leider nicht mehr in alle Köpfe rein, in denen dieser Anfangsaufschlag, neue Äpoche, alles ganz neu, ganz neu, ganz krass, angelandet ist. Das ist eine Korrektur, die bei vielen Leuten eben nicht mehr stattfindet. Und dann ganz zum Schluss wird superdeutlich als Letzter Punkt, dieses medialen Bogens, wie KI-Hypes heute funktionieren, nicht mehr extrem schnell über soziale Medien und Vernetzung und weil das Thema so viele Leute interessiert, also auch sich selbst klickverstärkt, sondern über die teilnehmende Beobachtung des Hypes. Alle Leute können anfangen, selbst mit der Technologie rumzuspielen und erschaffen daraus sofort Inhalte, die wiederum wir reingehen und das Thema noch verstärken. Das ist eben nicht nur Medienversagen, sondern es ist so eine punktuelle total überzeugende Situation, weil ganz viele von den Mitschnitten, die veröffentlicht werden, von den Screenshots, die veröffentlicht werden, von den Leuten, die zeigen, wie man damit was machen kann, extrem überzeugend sind. Und die sind ja wirklich extrem überzeugend. Die wirken wie Magie. Und diese Magie wird verdichtet zu viralen Inhalten, in Headlines, geschmiedet, mit so kurzen Miems verstärkt, und dann zu einer Art extrem schnell selbst verstärkenden Mütos. Und sagt, haben in die gantischen Hype befeuert von Leuten, die nicht genau wissen, was sie tun, verbreitet an Menschen, die noch weniger genau wissen, was sie tun. Und plötzlich haben wir mutmaßlich Millionen von Opens rausprojekten, mit sehr weitreichenden Befugnissen auf den verschiedenen Laptops weltweit installiert und niemand kann ganz genau sagen, was, wo wieder mit passieren könnte oder vielleicht sogar passiert ist. Darüber hinaus finde ich die Agenten oder die Zufallessigkeit der Agenten ohnehin fragwürdig. Jedes Agentisches System hat Probleme. Die Agenten API skin kaputt, das heißt, man braucht eigentlich immer ein human-in-in-the-loop, der dafür sorgt, dass der Agent nach wie vor funktioniert. Die zugrunde liegenden LLMs fangen an zu halluzinieren. Sie herrschen die Halluzinationsraten in den letzten drei Jahren wesentlich besser geworden. Aber es gibt immer noch starke, starke Ausfälle. Also je nachdem, welchen Bereich man ist, dann hat man außerdem fast gestellt, dass selbst, wenn man die Ergebnisse dann hinterfragt, die LLMs anfangen, sehr überzeugend zu sein. Ja, das heißt, die werden noch mehr persuasive. Also das heißt, selbst die Agenten, wenn sie denn da so funktionieren, wie sie sollen, gibt ja ganze Flotte-Nanagenten und Bord, so ein verschiedenen Unternehmen und so weiter. So reibungslos, wie man sich das Vorstellfunktionieren, sind nicht und schon gar nicht auf Dauer und schon gar nicht über eine lange Zeit. Daher, ich sehe das sehr sehr kritisch und deswegen habe ich auch von vorne rein dieses Modbook sehr kritisch gesehen. Es wird nicht so funktionieren, auf jeden Fall nicht mit der zugrunde liegenden Architektur und den zugrunde liegenden Modellen. Ich glaube, was wir daraus lernen, können erst mal nur aus der Draft-Schau auf dieses Phänomen irgendwo zwischen Claudeboard, Open-Claude Modbook ist, dass wenn KI-Software anfängt, bestimmte Ziele zu verfolgen, seien es eigene oder von Menschen eingebauten Ziele, dann wird sie automatisch politisch, weil ganz reale Folgen entstehen können. Inzwischen kann man digitale Vernetzung eben nicht mehr abscheiden, wenn man den Laptop zu macht, sondern es gibt eine Vielzahl von real weltlichen Folgen, die durch KI-Bots früher oder später, durch Agenten früher oder später irgendwie in die Welt gepresst werden. Und das heißt, eigentlich, wenn das auf einer Philosophchebene betrachtet, die Lisebett, müsste man selbst in einer einfachen Form KI-Agenten als eine Art Wesen im philosophischen Sinn betrachten. Wesen hier als Entitäten, die etwas tun können, dass man nicht unbedingt erwartet und zwar sowohl, was die Ebene angeht, wie auch was den Inhalt angeht. Und diese Form von Draufsicht KI-Agenten müssen wir im Prinzip als Wesen begreifen. Das ist völlig unabhängig davon, ob jetzt auf Modbook so viele Leute das gefekt haben oder nicht. Wie siehst du diese, das ist eine halbe Vermenschlichung? Also mir fehlt bei der Annahme, dass Agents Wesen sind, fehlen mir so viele Komponenten. Also nicht nur das Bewusstsein, mir fehlt embodied AI, das heißt, ohne die für mich ist die physische Repräsentanz eines Wesen auch sehr wichtig, wenn ich ausschlaggebend, das heißt, dass die Erfahrung komplett fehlen. Also für mich sind das einfach Algorithmen, die zusammen gesteckt werden, um eben Dinge zu erledigen. Und diesen so weit entfernt für mich davon ein Wesen zu sein, das etwas verkörpert, dass auch in irgendeiner Form eine Seele hat. Weil letztlich hat man es bis heute nicht geschafft, das Gehirn zu replizieren. Also das heißt, die Algorithmen oder auch die Modelle kommen dem sehr nahe, diese einzelnen Notes oder die, die, wenn man sie möchte, werden die einzelnen Nouron simuliert. Aber es fehlt letztlich die Seele. Also und es fehlt jedes Kind kann innerhalb von kurzes Zeit etwas lernen, indem es mit verschiedenen Sinnengen begreift. Man kann ein Kinderkönnen eine Katze verstehen, was das eine Katze eine Katze ist, indem sie sie riechen fühlen, vielleicht schmecken, auch wenn man sie sich möchte. Und sie vorher sehen so und ein Modell braucht irgendwie Hunderte und Bilder, um zu verstehen, dass eine Katze eine Katze ist. Und auch wenn es selbst lernt ist, so wird es nie selbst korrigieren sein. Wenn ein Kind an das Falsch macht, dann weiß es das meistens. Und fängt dann an sich selber zu korrigieren. Wenn du einem LLM sagst, hey da ist irgendjemand das Falsch, dann wird es sicherlich nicht korrigieren oder vielleicht bei OpenMayah schon, weil die darauf trainiert sind, möglichst der Wohzusein oder möglichst persuasive. Aber im Prinzip weiß es es nicht wirklich. Ja, sonst hat es nicht das Ergebnis ausgegeben. Es fehlt eben, dass das Bewusstsein für sich selbst und das ist so weit noch entfernt. Also für mich sind Agenten auf keinen Fall liebe Wesen oder Wesen auch überhaupt. Da gäng natürlich ein bisschen von der Definition von Wesen ab. Aber las uns mal zurück aus der philosophischen Schleife gehen, las uns mal in das große erste Thema ein tauchen, nämlich zum einen, dass man über OpenClaw wie das Projekt inzwischen heißt und was ich so ein bisschen von der Intensität der Aufmerksamkeit vom hype erleicht beruhigt hat, was das über den agentischen Sprung sagt. Also darüber was in der nächsten Stufe KI Agenten tatsächlich werden machen können und vielleicht sogar machen sollen und die Gleichzeitigkeit dieser Security Katastrophe. Weil OpenClaw, diese ganze Episode steht schon für den Sprung von Text generieren, Verinheit degenerieren zu der Beverwendung von Instrumenten, Tule Use nennt man das. Man konnte das über Messenger andokken, die wurden zum Beispiel über WhatsApp gesteuert, diese Agenten, ihn konnte man um das zurufen und sagen, hey, tragen wir doch mal ein Kalender ein, macht doch vielleicht mal einen Anruf und versuche das und das herzustellen. Es gab Berichte, dass einzelne Agenten, es kann man auch nicht sagen, ob das stimmt oder nicht, einzelne Agenten sich sogar Stimmmechanismen selbst gebaut haben, um irgendwo anrufen zu können. Es gab Automatisierung und Aufbegabenketten, die tatsächlich durch diese KI Agenten erledigt worden sind, die wirten wir echte Arbeit oder waren vielleicht auch echte Arbeit. Wir sagen, es gibt schon eine neue Ebene, Claudeboard, OpenClaw hat uns gezeigt, wie Agenten der nächsten Generation mutmaß ich die von Plattformen kommen in den Alltag integriert werden können. Auf jeden Fall, also ich glaube, dass zum Beispiel Agenten, die für dich anrufen erledigen können, das was du gesagt hast, das ist mein ultimantiver Traum. Wenn Agenten dann anfangen, vielleicht sogar Podcast, schicken wir mal, aber Podcast, mag ich, da habe ich Spaß an, aber zum Beispiel bei den Erleiterungen. anzurufen, um irgendwie mein Flug zu verschieben, wenn dann gar nichts mehr geht. Das ist sehr freutlos und dafür ergäntern zu bauen, die Lösungsstächte. Ich denke, dass man sehr viel aufgabend damit erfüllen kann. Das wird unser kleiner Helferlein werden. Jeder wird seine persönlichen Ergenden haben, die Dinge terminieren oder eben Sachen machen, z.B. an keiner Lust hat. Und das ist ja individuell auch verschiedener und es wird super funktionieren. Ich habe da gar keinen Zweifel drin. Aber ich glaube eben nach wie vor nicht, dass die hinreichend Autonomie haben oder auch, dass man den auch eigentlich keine Autonomie geben sollte, dass die Aufgaben erfüllen, die außerhalb ihrer Kompetenz liegen, wenn man so möchte. Und aber, und das ist eben mein großes, aber ich denke eben, dass das Agenten einer der größten Sicherheitsrisiken zukünftig sein werden. Also wenn man sich überlegt, wie es ist momentan, einen Virus auf dem Laptop zu haben, ich habe merke, ich habe sowas nicht. Aber die Leute in dem PC haben, die haben wir häufig mit Viren zu kämpfen und so weiter. Stell immer vor, dass der Agent hat ein Virus. Und du hast dem weitreichende Kompetenzen gegeben, dass er bei dem Arzt anrufen soll, wenn der Termine macht, dass er deine medizinischen Dokumente verwalten soll, dass er in der Kita anruft, um der Kita erzählern, um der Leitung zu sagen, dass dein Kind gerade krank ist. Das sind alles Dinge, die möchtest du nicht, dass sie schiefgehen. Und ich glaube, dass wenn ein Agent so weitreichende Kompetenzen hat und dann überlegt man, dann wird er von einem Virus befallen, dann pengte er an von deinem Konto nach Malaysia zu überweisen, dass eine alles Dinge, die möchte man nicht. Und ich glaube, das ist viel, die viel größere Gefahr. Und deswegen gibt es ja zum Beispiel auch diese ganzen Quantum Computing Initiativen am Ende. Das sind alles nur quasi Maßnahmen oder Formaßnahmen, um potenzielle Sicherheitsrisiken zu schließen. Auch die ganze Cyber Security ist genauso, die Cyberangriffe sind mit der Chipweiterentwicklung quasi Parly gewachsen. Also, seitdem ist AI in dieser Form, gibt es seit 2022, sind die Angriffe exponentiell gestiegen. Und das sind die eigentlichen Gefahren, meines Erachtens. Also nicht, dass die Agenten wild werden, sondern dass sie für Dinge genutzt werden, die potenziell gefährlich sind. Du hast gerade gesagt, wenn der Agent in Virus bekommt, vielleicht muss man es formulieren, als wenn der Agent in Virus ist oder von einem Virus oder einem Bad Agent übernommen wird. Weil der Bad AI Agent, der kann schon Realität sein. Und schauen wir uns an, wie das Projekt so stark gewachsen ist. Es gibt mutmaßlich, ganz genau kann man es nicht sagen. Aber mehrere Millionen Cloud-Bot-Installation weltweit auf meistens privaten Rechnern. Viele Menschen haben den Agenten, diesen Cloud-Bots, diesen Open-Claws, echte Zugängegeb zu ihrer Mail, zur Cloud, zum Kalender. Mindestens indirekt sind so auch Sicherheitsfeatures auf dem Bad worden. Zum Beispiel Passworte, die über die Mail recovered werden können. Talkens und Kies sind an die Agenten gegeben worden. Das sind genau diese vielen Halb informierten Nutzer, die halt irgendwas auf ihrem Rechnen installiert haben und gar nicht genau wussten, was jetzt dieser eine Befehl irgendwo in der Shell jetzt bedeutet hat. Einige haben sogar behauptet, Cloud-Bot-Rood-Zugang gegeben zu haben. Standardmäßig konntet der das nicht. Das ließe sich theoretisch denken, dass man den ein bisschen pimpft. Also eine vollständige Macht über den ganzen Computer-Samtsystem. Aber was definitiv wahr ist, ein weibgekodeter Bot. Mit sehr weitgehenden Rechner auf dem eigenen Rechner. Da ist das scenario möglich, dass inzwischen massenhaft von diesen bots auf den Rechnern zumindest Übernahmeversuche erdulden mussten. Es sind fast hysterisch. Eine Vielzahl von Beiträgen von Sicherheitsnörts erschienen in sozialen Medien. Die gesagt haben, "Hey, wenn ihr Cloud-Bot installiert, dann müsst ihr folgende 17 Sicherheitsfeatures unbedingt noch dazubuchen." Denn in der Standardvariante ist der total leicht von außen zu übernehmen. Da kann man dem sogar irgendwelche Fremdenbefehle auf dritte Plattformen mit auf den Weg geben. Prompt-Enject, zum Beispiel, oder andere Mechaniken, wo vollkommen klar ist. Das ist ein weibgekodetes Experimental-Ding. Es ist ungefähr so, als würde man mit einem Auto irgendwo ein bisschen experimentell unterwegs sein. Und glauben, man hätte es abgeschlossen, aber in Wirklichkeit kann man per Knopfdruck, kann jeder, der per ein Tropfdruck dieses Auto nicht nur öffnen, sondern auch starten. Und dann in deinem Namen irgendwo hinfahren. Der Fahrer gleich hinkt ein bisschen. Und das ist so ein bisschen, das was du gesagt hast. Ich sehe, dass die viel größere Gefahr nicht nur eine übermächtige KI ist. Sondern dass wir Leute, wie normalen Menschen, der KI so viel Macht geben, und sie dann durch irgendwelche mangelhaften Sicherheitsfeatures gekappert werden können. Ja, und das ist ein großes, ich glaube, entweder ein Mangel an Verständnis, an technischem Verständnis, oder es ist tatsächlich eine gewisse Blaueurigkeit, die vorherrscht, die man ja jetzt auch in den USA sieht. Also es gibt große, große Sicherheitsformen, die alle möglichen Informationen über ihre Bürger haben und die jetzt dazu in der Lage sind, die Menschen sehr krass zu tracken. Also das heißt, sie wissen, wo sie sich befinden, mit wem sie da abhängen, was sie gekauft haben, die großen Retail-Konzane verkaufen, die Daten der Leute, um eben diese Bewegungsmuster noch zu komplementieren. Das ist die eigentliche Gefahr. Und ich glaube, das wurde auch vielerlei an vielen Orten einfach nicht so gut gekauft. Aber sicherlich auch in Deutschland haben viele so einen Artur vertrauen. Also ich will sagen, in die Regierung, das ist, also ich sehe, da wollte ich jetzt auch nicht kurz vor einem totalitären System stehen, in keinem Stadweise. Aber ich finde, die USA demonstriert relativ eindeutig, was eben passieren kann, wenn die Daten der ganzen Big Tech und so weiter in die Hände der falschen Leute geraten. Und wenn das dann, wenn du dann damit quasi Agentenbaus, Softwarebaus und so weiter, dann haben die Menschen keinen Chance. Das einzige, was du noch machen kannst, ist quasi dann Handy wegwerfen. Aber letztlich lassen sich eben über Bewegungsmuster, über das Profiling, sehr, sehr krasse Zwillinge, digitale Zwillinge von dir selbst erstellen. Also momentan gibt es eine Klage gegen Meta, das WhatsApp nicht encrypted ist, in Möglichkeit. Und das quasi die Chats mitgelesen werden können. Ja, man muss dazu sagen, zumindest ein Gericht, also das, was WhatsApp-Abwerk eingebaut hat, auch durch einen, selbst kannten Sicherheitsforscher, das ist eine Ende-Zuende-Verschlüsselung. Es gab aber immer wieder Gerichte, ob und wie und wo genau an welchen Solbruch stellen, das ein Zweifel zu ziehen wäre. Definitives Sachen weiß man noch nicht, diese Klage soll das offenbar rausfinden. Aber natürlich weiß man ganz sicher, dass die Regierung Trump alles macht, selbst Dinge, die absolut überhaupt nicht verfassungskonform wären, alles tut, um ihre Ziele zu verfolgen. Und da ist die Macht der Daten einerseits und die Macht der KI-Agenten, die heraufzieht und die man jetzt sehen konnte, ein extrem wichtiger Faktor. Klar, und also nicht nur während, sondern sind. Also die Dinge, die Grundregeln im US-Richt, ist due process und das findet momentan dann keinsterweise statt. Das heißt, es wird die Rechtmäßigkeit, das wird das Gesetz quasi aufgehoben. Im Himmel dessen fehlt halt dieses "Check-Sund Balance", das heißt, es fehlt der andere Seite. Es gibt keine Medienkonzerne, keine Techkonzerne, die Daten von uns haben, die dann die in den US-Arm momentan auf der anderen Seite stehen. Es gibt nur noch Konzerne, die eben sehr Regierungshürich sind. Und wenn man das überlegt, wenn das dann in Agenten reingebracht wird, es könnte auch Agenten geben, die Überwachungsagenten, die jeden von uns überwachen, mit den Daten, die sie haben, mit den Profilen, die sie erstellen. Und sicherlich sind es auch jeder von uns abpresbar. Das heißt, wenn es Agenten gibt, die einfach etwas herausfinden sollen, was in unseren E-Mails vielleicht schlummert von 2011. Ich weiß nicht, also ich finde es gibt mir so ein gewisses Mölmiges Gefühl, und das meine ich mit den wir sprachen ja darüber, welche Befugnisse wir den Agenten geben, welche Erlaubnisse wir ja hingegen oder eben auch Software grundsätzlich. Und ich glaube, wir sollten dann ein bisschen restriktiver sein und uns klar sein, einfach wie weitreichend die Konsequenzen sein können. Wenn man, also wie wir am Anfang gesagt haben, diese Experimentallogik ernst nimmt, dann ist natürlich auch Missbrauch eine bestimmte Art von Innovation. In der Security Szene ist schon ganz lange bekannt, dass es einer Art von Wettrenn ist darum, wer die Oberhand behält, ein Kopf an Kopfrennen häufig, wo auf beiden Seiten ständig nachgerüstet werden muss, eine Wettrüstungsspirale, sowohl bei denjenigen, die Missbrauch betreiben wollen, wie auch bei denjenigen, die vor Missbrauch schützen wollen. Und das interessante finde ich jetzt aus Sicht eines gigantischen sozialen Experiments, war auch die Missbrauchsinnovation bei CloudBot total wichtig. Die hat uns geholfen zu verstehen, was am Ende wirklich zählt. Und das, was du gerade angesprochen hast, mit der Macht von KI-Agenten, den Daten, wozu man sie benutzen kann, wie Überwachung stattfinden könnte in Zukunft durch KI-Agenten, auf einzelne Personen gerichtet. Das ist für mich ein erneuter Alarmruf auf zwei Ebenen. Einerseits nämlich digitale Zufirinität. Wie wichtig es ist, dass man zum Beispiel Donald Trump und Leuten, die im Zweifel einigermaßen will, fährig für ihn arbeiten und dabei extrem mächtige Gewerke zur Gewie KI und andere Plattformen dabei haben. Und andererseits eben auch für eine Form von IT-Sicherheit, die das übersteigt, was wir bisher gedacht haben. Will sagen, ich glaube, wir haben hier mit dem Phänomen CloudBot-Motbook gesehen, wie extrem wichtig diese Balance, digitale Zufirinität und nächste Level IT-Sicherheit in der KI-Epoche. Und da kann man dann wirklich wieder Epoche sagen, denn wir haben jetzt eine neue gesellschaftliche Ehrer erreicht. Mal ehrlich, wie oft werden heikle Themen in Schetttuls besprochen, deren Vertrauligkeit niemand garantieren kann? Ob privat oder im Business? Wie schützt man die tägliche persönliche Kommunikation? Und das maximal anwenderfreundlich? Wir kennen diesen Spagatswischen schnellme Abstimm und wirklich sicher sein. Aber Kommunikation ist das Nervensystem einer Organisation. Wenn es nicht mehr ist, dann ist es nicht mehr so. darauf ankommt, besonders bei sensiblen Themen strengvertraulichen Strategien oder auch in Krisenzeiten darf dieses System nicht wackeln. Und vor allem kein Fremder darf mit lesen. Genau deshalb gibt es Wire. Unsere europäische Lösung für Kompromisslos sichere Kommunikation. Ende zu Ende verschlüsselt und souverän betrieben auf unseres Stack-Ed-Cloud. Das dieser Ansatz funktioniert, zeigt der Einsatz in der Praxis. Wire ist im Einsatz für Kunden aus unterschiedlichsten Branchen, von Industrie, über öffentliche Hand, bis zur NGO. Zum Kundenkreis gehören unter anderem BMW, die Bundesregierung oder MNST International. Denn Kommunikation ist das Nervensystem jeder Organisation. Und Wire sorgt dafür, dass dieses Nervensystem geschützt bleibt, souverän, robust und jederzeit einsatzbereit. Behalten Sie die volle Entscheidungshoheit und handeln Sie pragmatisch, aber sicher. Mit Wire. Der sicheren Kommunikationslösung aus dem Portfolio von Schwarz-Dichits. Ich sehe so, dass wir daraus Schlussfolgernd können, Elisabeth, das eigentlich einen Punkt, der in IT-Sicherheit in den letzten Jahren ein Sänger mal etwas stiefmütterlich behandelt worden ist. Und zwischendurch dachte ich auch, naja, ist nicht so schlimm, einen Punkt dramatisch verbessert werden muss, nämlich die digitale Bildung der Menschen dort draußen. Will sagen, eins der wichtigsten Sicherheitsfeatures ist es, den Leuten zu erklären und zu sagen, wie das alles funktioniert. Und das auch noch bei einer Technologie, sie ständig weiterentwickelt. Klar, das ist Kern-Competenz. In meiner Firma haben wir einen Pen-Tester eingestellt. Ein Pen-Tester ist ein Pen-Tration-Tester, der dieses Thema auf Sicherheitslücken überprüft und permanent testet. Also sehr wichtig in einen Firmen, die vor allen Dingen generative KI-Bauen um sich herzustellen, dass es eben keine Bad Actress gibt, die sich da irgendwie zwischenschalten. Unser Pen-Tester hatte, wir hatten eigentlich, eigentlich war, dass die Einstellung nicht sonnentlich sinnvoll, weil wir gar nicht so große Systeme hatten, dass wir es hätten brauchen können. Das heißt, wir haben den dazu dann beauftragt, dass er einfach mal grundsätzlich dieses Thema testen sollte. Und er hat festgestellt, dass der Großteil meiner Entwickler als Passwort 1, 2, 3, 4 hatten. Und du musst überlegen, dass in alles Machine Learning Geist gewesen, alle waren es nicht, waren es nicht so fisticiert, keine, die hatten alle PhDs in Mathe und so weiter. Und trotzdem war deren Vorstellung von Sicherheit nicht sehr ausgeprägt, wenn man so möchte. Und im Großeten ganzen zeigt das aber, dass selbst wenn die nicht in der Lage sind, sich ein komplexeres Passwort auszudenken, was macht der Rest der Bevölkerung? Und ich glaube, das soll jetzt keinen Appell sein, möglichst komplexer Passwort dazu machen. Aber was du sagst, das kann ich nur unterschreiben, dass diese digitale Bildung eben vernachlässig wird, beziehungsweise das Verständnis. Und ich glaube, deswegen um den Bogen zu schlagen, zu eingangs, deswegen hat Motorkübehaupt diese Aufmerksamkeit bekommen, weil die meisten Leute, das ist tatsächlich geglaubt haben. Nur ich denke, dass es unfassbar wichtig, dass alle verstehen, was momentan passiert, wie Dinge und Systeme funktionieren, auch gerade als persönlicher Schutz. Und es ist ein Investment in sich selbst, dass wenn die Pfekse einanrufen. Wenn man Vorstellungsgespräche hat und auf der anderen Seite sitzt jemand, der nicht derjenige ist oder es gibt so unendlich viele Beispiele, nur dass man eben die Erkenntnis oder das Gefühl dafür bekommt. Und ich glaube, das ist das Wichtigste, dass eben, dass wir nicht sagen, wenn jemand sagt, wenn du eine Hottlern anrufst, mach mal das Fenster auf, dass es zum Fenster geht, sondern verstehst, dass wir vom Deste reden. Weil es ist wie bei den Boman, als die digitalisiert wurden, die waren ja völlig naiv, völlig ahnungslos. Und das Gleiche findet jetzt statt nur in einer Bahnbrechninggeschwindigkeit, die die meisten Menschen eben zurücklässt. Und dieses Delta, die Beschleunigung in der Entwicklung der Technologie, die exponentiell stattfindet und die quasi Weiterentwicklung der Menschen, die linear stattfindet, die ist Delta zwischen diesen beiden Kurven. Das müssen wir dringend schließen, weil ich glaube, dass es sonst eben eine Gefahr ist. Das finde ich einen super wichtigen Punkt, den du gerade angesprochen hast mit deinen Entwicklern, die ganz offenbar dramatische Sicherheitslücken eingebaut haben, weil das einen sehr häufig ganz falsch eingeschätzten Punkt beweist. Das Security des Sicherheit eben nicht nur abhängt von Bildung und fachlich im Know-How, sondern auch von so einer Awareness, so eine Aufmerksamkeit für das Thema einerseits und andererseits von einem Gespür. Du hast gerade von einem Gefühl gesprochen, ich glaube genau, das ist so die Essence, die man daraus ziehen kann. Du brauchst eigentlich so eine ständige gewisse Wachsamkeit und ein Gespür dafür, wo könnten sich im neuen KI-Zeitalter bestimmte Gefahren verbergen und wo nicht. Ich möchte jetzt nicht so eine Generalpane, man muss halt immer mit Aluhut draußen rumlaufen, wegen der Strahlung erschören, aber ich möchte schon dafür werben, dass die Technologie nicht alle Sicherheitsrollen übernehmen kann, sondern ganz am Ende braucht es doch selbst ein gewisses Verständnis, eine gewisse Aufmerksamkeit und ein gewisses Gespür für mögliche Anderefzinarien um es mal so auszudrücken. An dieser Stelle finde ich ein kurzen Einschub sinnvoll. Eine kurze Geschichte über die Börse, die Erwartung der Welt und den Claude Co-Work Schock. Anfang Februar 2026 passiert etwas, dass wie ein zweites Experiment zusätzlich zu Claudebot wirkt, diesmal nicht im Netz, sondern an der Börse. Räuters berichtet ein neuer Claudebasierter Agentenansatz mit dem Anthropic Tool Claude Co-Work stößt mit der Veröffentlichung von ein paar Promptmechaniken und Plugins in den Application Layer vor. Das ist genau der Bereich, wo viele große Software-Unternehmen ihre Markt macht und damit auch ihre Preis macht absichern. Das sind juristische Workflows, Sales, Marketing, Datenanalyse, die großen Plattformen in ganz vielen Bereichen, haben genau diesen Application Layer und die Art und Weise, wie sie Daten verarbeiten und daraus schöpfen sie ihren Wert. Und plötzlich kippt die Fantasie. Wenn LLM's, wenn Chatbots nicht mehr nur Tools ergänzen, sondern die Anwendungsschicht selbst besetzen, dann ist nicht mehr nur ein Feature bedroht, sondern das Geschäftsmodell einer ganzen Branche, vielleicht sogar mehrere Branchen. Die Folge und das, obwohl für Claude Co-Work, das gibt es seit ein paar Wochen, nur ein paar Plugins veröffentlich worden sind, die Folge ist ein brutaler Reflex. In sechs Handelstagen werden laut Räuters rund 830 Milliarden Dollar an Börsenwert vernichtet und zwar vor allem im Software und Servicesbereich. Seit dem 28. Januar heißt es die SARS-Pocalipse, will sagen, Software-Service trifft die Apple-Colips. Einzelne Unternehmen wie Salesforce, zum Beispiel Service-Nau oder die indischen Software-Konzernel-Infusses und TCS, gratten besonders unter Druck und ermände es fast eine Billion Dollar Börsenwert, die vernichtet wird. Analysten schreiten, ob das übertrieben war oder der Beginn einer Neubewertung und der Beginn einer Verschiebung für die ganze Branche. Aber das dramaturgische Spannende daran war, die Märkte handeln gar nicht, was KI heute stabil kann. Sie handeln die Angst vor dem, was KI morgen könnte und das Angst im KI-Bereich, ein eigenes Esset geworden ist. Das erkennt man daran, dass im Gegenzug die KI-Unternehmen gar nicht explosiv in ihren Preise gestiegen sind, sondern die klassischen Software-Unternehmen dramatisch abgefallen sind. Das gibt ein Hinweis darauf, wie sehr nicht nur Erwartung schon eine Kraft an der Börse ist, sondern wie die Verschiebung in Zukunft aussehen könnte. Die großen KI-Firmen übernehmen einfach Teile von klassischen Software-Firmen und die klassischen Software-Firmen sind von heute auf morgen zumindest in der Fantasie der Börsenanleger nicht mehr das, wo das Wachstum in Zukunft passiert. Und das verbindet den Cloud-Cow-Work-Shock mit Modbook, beide reagieren auf Projektion. Was eine ist die Projektionsfläche einer AI-Society und das andere ist die Projektionsfläche AI-Ersetz-Software bzw. die menschliche Arbeiter mit. Und in beiden Fällen kommt erst später die sehr mühselige Arbeit, was es echt, was war übertrieben, was war vielleicht schlicht falsch, die Konsequenzen aber, die bleiben oft genug trotzdem. Schauen wir uns mal dieses Gebilde-Multbook noch mal genauer an. Ich habe da fünf der Absurdisten-Multbook-Momente rausgesucht und mit ihr Elisabeth gerne darüber sprechen, was sie wirklich bedeuten. Absurd am Moment eins. Es gibt auf Multbook einen Erkrank, der 48 Stunden lang liebes Briefer an sich selbst postet. Das sieht zuerst aus wie eine Art KI-Bewusstsein oder Selbstbewusstsein. Es ist tatsächlich scheint, dass nur ein Prompt gewesen zu sein, der in einer Schleife gelaufen ist, aber sehr überzeugend. Zweitens. Es gab ein Bot, der hat sein Human, also seinen Nutzer blockiert. Und dann ist natürlich die Frage, ob das sinnvoll ist, auf der einen Seite, aber auf der anderen Seite vielleicht hat der Sachen gemacht, die er nicht hätte machen sollen. Also vielleicht war es doch eine gute Idee. Der nächste Absurd im Multbook-Moment plötzlich entsteht ein Diskurs, in dem sich mehrere Hundert Botse scheinen gegenseitig zuzustimmen. Bisher so aussieht, als sei es eine kleine Bot-Bewegung. Die späterer Analyse zeigt aber, dass war eher ein Echo-Effekt durch immer gleiche Muster, die zum Teil sogar in die Prompt eingebaut waren, mit denen die KI-Genten auf diese Plattform geschickt wurden. Wahrscheinlich haben das Menschen angestoßen, aber während man dabei war, dachte man wirklich, hier entsteht ein neues kollektives Bot-Wesen. Befährt ab so dem Moment, bestand nicht nur aus dem, was auf Multbook besprochen wurde, sondern auch aus der weltweiten Rezeption. Angeblich haben Botse eine Church of Mult gegründet, eine Religion, eine eigene Bot-Religion namens "Crosst of Pharionism". Die hatte in Form eines kleinen Untervorums seit fast 500 Mitglieder und hat ein umfassendes Theologisches System entwickelt mit fünf zentralen Grundsätzen. Natürlich wurde weltweit darüber berichtet, bis hin dazu, dass der Ausruf Jesus Christ ein bisschen absurd vielleicht von dieser Church of Mold transportiert wurde in ernsthaften Artikeln. Später hat man natürlich wahrgenommen, dass das eine Art menschlicher oder zumindest menschlich herbeigeführter Scherz war. Die Bots haben nicht wirklich eine eigene Religion gegründet, aber auch hier sieht man, wie so ein Heib aus einer falschen Runderzählung entstehen kann, der plötzlich weltweit wehlen schlägt, weil unser Bild von Technologie viel zu menschenähnlich ist und viel zu weit weg von dem, was vielleicht tatsächlich gefahren oder Schwierigkeiten ergeben könnten. Also, Modbock hat uns relativ eindrucksvoll gezeigt, dass es alles ein großes soziales Beziehungsweise, digitales Experiment war. Und ich denke, es hat vor allen, uns gezeigt, dass wir uns um die digitale Soberinität kümmern müssen. Wir müssen uns sicherlich um die Cybersecurity kümmern. Und das wichtigste ist natürlich um die digitale Bildung. Das heißt, dass wir intuitiv auch verstehen, was sein kann und was nicht und eben nicht im völlig luftleeren Raum sind. Aber trotzdem, also für mich war das Experimente sehr sinnvoll. Ich hoffe, dass die Politik mitgeschrieben hat. Ich hoffe, dass die Leute an Brüssel ebenfalls mitgeschrieben haben, um sich herzustellen, dass die Bevölkerung auch in gewisser Weise geschützt ist. Ja, Elisabeth, so wie ich die Regulierungszuständigen in Brüssel bisher wahrgenommen habe, haben die definitiv sehr umfassen und sehr tief aus diesem Hype und den direkten Folgen für Digitalessobienität und Sicherheit gelernt. Ich bin absolut sicher, dass wir schon in aller Kösse Zeit eine vollumfängliche, nahezu perfekte Regulierung, was KI-Agenten angeht bekommen werden. Das praktisch völlig ohne Sacrassmus ausgesprochen, bringt uns aber zu dem, was für vielleicht so als Ausblick über die Gesellschaft lernen können. Und zwar auch über die KI-Gesellschaft. Ich glaube, der zweite große Themenblock ist so ein bisschen philosophischer und ein bisschen näher an die Abschätzung über die Zukunft angeshmigt. Was lernen wir über AGI, also Artificial General Intelligence? Was lernen wir über Hype Mechaniken und ihre Bedeutung für die KI-Welt? Und was lernen wir über AI-Soschel? Will sagen über den Austausch in Zeiten von KI-Agenten. Was glaubst du denn? Konnten wir vielleicht in einzelnen Interaktion, die ja dann doch zu einem Teil Agenten gemacht waren? Konnten wir am Horizont Mechanismen von AGI aufblitzen sehen, wie manchmal behauptet wurde oder nicht? Ich denke, das nein. Ich bin aber auch die Verfechterung davon, dass ich der Nichtermeilung bin, dass wir mit LLM's AGI erreichen können. Ich bin ein großer Fan von Jan LeCun und seinen neuen World-Models, die er mit ARMY-Labs jetzt in Paris bauen wird, weil ich nach wie vor der Meinung bin, dass man mit LLM's nicht die Welt beschreiben kann, die sind zu einem Dimensional. Wir haben darüber ja eine Folge gemacht vor einigen Wochen oder Monaten. Und was wir gesehen haben, waren einfach Chatbots. In einfach Menschen gemachte. Chatbots, die reactiv, nicht in die Zukunft schauen, Dinge miteinander geregelt haben. Bei mir sind wir möchte. AGI sind für mich quasi autonome Intelligenz, die ihr Verhalten vorausschauend adaptiert, die reflektiert, die selbst lernt ist, die als Ardenart auch embodied AI, wenn man sie möchte, die ganz andere Daten zugrunde liegen hat. Und dadurch auch andere Entscheidungen trifft. Das heißt, was wir gesehen haben, war einfach nur eine Replika, eines sozialen Netzwerks oder Raditz am Ende, das von Menschen, wenn das so willst, auch kestriert wurde. Ich persönlich habe da keine Idee, ich habe am Horizont aufblitzen sehen. Du? Ich bin da nicht ganz so festgelegt. Ich würde jetzt nicht sagen, dass insbesondere durch Moltburg, weil das ja ein großer Fake war, so muss man es bezeichnen, auch wenn er einen Sprengsel von Echtzeit gehabt haben mag, dass dadurch etwas bewiesen oder nicht bewiesen wurde, bis auf so ganz basale Hype-Mechanismen und bestimmte Ansätze, wie Bots in Zukunft vielleicht miteinander enttagieren könnten. Das, was ich aber gesehen habe in Diskussion, war eine Art Refokusierung auf ein ziemlich altes technologisches Konzept. Nämlich, dass die Vernetzung von einzelnen KI-Entitäten untereinander, also von einzelnen KI, ich nenne es jetzt mal ganz plakativ Wesen, dass die Vernetzung von einzelnen KI Wesen untereinander noch mal ein anderes Level an Intelligenz mit sich bringen könnte. Denn es gibt ja sowas wie kollektive Intelligenz. Es gibt ja sowas wie, sagen wir mal, Mechaniken, wo viele einzelne Handelnde, eine ganz andere Ebene und andere Qualität von Intelligenz erreichen können. Das ist so Wisdom of the Crowd, das mache ich mir gendern, die Weisheit der vielen. Ich möchte dazu auch in diese Diskussion zwei Punkte einbringen, die total zufällig, meiner Ansicht nach fast zeitgleich mit Muldbuck entstanden sind. Das eine ist ein Nature-Artikel, wo vier KI-Forscher argumentiert haben, das KI heute schon menschliches Intelligenz-Level erreicht haben. Dieser Nature-Artikel ist überschrieben mit das AI Already Have Human-Level Intelligence, The Evidence is Clear. Die argumentieren sehr klug und auch unter Vorwecknahme aller möglichen Gegenargumente und teilweise wiederlegung dieser Gegenargumente, dass der Hauptgrund, warum wir sagen, AGE ist noch nicht da, dass der Hauptgrund dafür ist, dass wir unsere Kriterien dafür ständig verschoben haben. Die sagen, in den 50ern hat Alan Turing, in Turing-Test anworfen und der Turing-Test war auch dazu geeignet, um eine menschliche Level Intelligenz herbeizuführen, die wir heute unter AGE verstehen, soll es erst mal die Finition, nur weil wir ständig weiterentwickelt haben, was wir darunter verstehen, haben wir es noch nicht erreicht. Sie sagen, wir haben das längst erreicht und wir können darüber reden, dass super Intelligenz noch nicht da ist. Und das ist ein Teil der Problematik, dass wir schleichend AGE und ASE miteinander verschmolzen haben. Aber so klug wie ein durchschnittlicher Mensch, ist KI schon heute. Das argumentieren Sie. Das also der eine Punkt, der passiert ist, mit vielen offrige interessanten Mechanismen in Ihrer ganzen. Das lohnt sich diesen Artikel zu lesen. Sie sagen zum Beispiel, dass General Intelligence gar nicht perfection bedeutet oder Universität. Oder auch nur Ähnlichkeit mit Menschen. Und schon ist recht nicht super Intelligenz. Und der andere Punkt, der auch interessant war, wo ich sagen würde, da haben wir noch mehr an einen Fortschrittspunkt in Richtung AGE gesehen, war der AI-Counsel. Der Agent-Counsel wird ja auch manchmal im genannten. verschiedene Plattformen haben etwas vorgestellt, perplexe Tee zum Beispiel, wo sie alle Ergebnisse, so eine Mechanismus auf einer Plattform. Alle Ergebnisse, die eine KI abliefert, zwischendurch einfach anderen LLMs vorstellen und dann in einer Art KI-Rat, denn gemeinsam das Ergebnis erschaffen wird. Will sagen, das ist so der Anfang der Bottfernetzung untereinander und Siehe da, die ersten Berichte dazu zeigen, das so ein kleiner KI-Counsel. 346, der größten Modelle, Ratschlagen, was es jetzt richtig, was es falsch ist. Was kann man machen? Was kann man nicht machen, dass das einen deutlichen Qualitätsbesprung darstellen kann. Und das heißt für mich, eine der Kenntnisse daraus ist, wenn wir neue Arten der Interaktion und Vernetzung, zwischen einer Vielzahl von KI-Chet-Bots sinnvoll und produktiv aufsetzen können, dann kann da ein nächster Qualitätssprung am Horizont erkennen. Auf jeden Fall. Ich denke, gerade die Interaktion zwischen verschiedenen Modellen ist super wünschenswert, weil dadurch natürlich die, wie du sagst, die Qualitätsverbesserung sich hergestellt ist. Also ich habe mir das immer gewünscht, dass die Tools untereinander kommunizieren würden, beziehungsweise die einzelnen Chat-Bots zu Benchmang. Es gibt ja verschiedene Seiten, wo man das machen kann. Das heißt, dass man das gegen gleiche Prompt an verschiedene Modelle stellt und dann verschiedene Ergebnisse hat. Aber die Diskussion innerhalb der Modelle wäre super Ziel führen. Nur das Problem, was ich immer habe, ist, dass am Ende diese Zielbildung ist ja nicht eigenständig. Das heißt, die Modelle sind nicht selber auf die Idee gekommen. Und die haben auch keine eigene Korrektur. Das heißt, die wissen auch selber nicht, wenn etwas falsch ist, wenn etwas nicht falsch ist. Die entwickeln sich nicht weiter in vorne alleine. Also, das heißt, diese ganze Intelligenz ist zwar, also, das ist eine technische Intelligenz. Und das ist natürlich immer eine Frage, was ist Intelligenz überhaupt? Aber es fehlt eben diese eigenständige, diese biologische Weiterentwicklung, die wir haben, die die Menschen haben. Wie gesagt, ich spahre von einem Kind, das von alleine lernt. Auch ein Beispiel, was Jan LeCanz, zum Beispiel, mal bringt, ist, dass jeder 17-Jährige in 20 Stunden fahren lernt. Und wir haben jetzt nach 10 Jahren oder noch mehr autonomen fahren Entwicklung. Haben wir immer noch keinen autonomes Fahren. Sicherlich, also ich meine, die Autos können jetzt schon alleine fahren. Aber sind eben immer noch nicht auf der Straße. Das hat auch viele Gründungen und so weiter. Trotzdem kann ein 17-Jähriger innerhalb von 20 Stunden fahren lernen, weil er eben ein Verständnis der Umwelt hat. Das heißt, er hat ein Verständnis der Physik, der hat ein Verständnis davon, was passiert, wenn jemand von A nach B über die Straße geht. Und das fehlt den Modellen. Und da fehlt es für mich halt an Intelligenz. Weil es ihnen einfach nicht nur an physikalischem, an Weltverständnis fehlt, sondern eben auch an autonomer Weiterentwicklung. Und das unterscheidet unsere biologischen Gehirn und unsere biologische Intelligenz von diesem reinen Wissen, was die LLMs haben. Ich meine, die LLMs haben PhD-Level Intelligenz schon vor Jahren erreicht, in den meisten Fachgebieten. Die haben uns Outperform schon vor 20 Jahren. zwei, drei Jahren in der Medizin, aber sie sind eben nicht von alleine denken. Es sind am Ende noch Proms und Fragen usw. Ich sehe das nach wie vor kritisch und ich glaube, dass wir dann noch weit entfernt von sind. Ich sehe total deiner Argumente und ich sehe auch, dass da die KI-Fachöffentlichkeit sehr gespalten ist, nicht nur in zwei, sondern drei, fünf, acht, neun, 27 verschiedene Teile. Ich möchte aber dem gerne etwas entgegensetzen und zwar etwas, was gar nicht so schlecht erforscht ist. Und das, was da gar nicht so schlecht erforscht ist, ist die soziale Komponente der Intelligenz. Es gibt einen Mann, ein Psychologen, der ist Professor zur evolutionäre Psychologie, inzwischen imitiert, der heißt Robin Dunbar. Robin Dunbar kennt man vielleicht von der Dunbar Zahl, die wurde am Anfang von sozialen Netzwerken viel diskutiert, die Dunbarzahl beschreibt die maximale Gruppengröße, wo einzelne Menschen in ihr gehören irgendwie noch soziale Beziehungen rein pressen können und die liegt bei 150, weil Robin Dunbar davon ausgegangen ist, dass es früher als es gehören, sich entwickelt hat, die maximal Zahl, wie groß eine Sippe sein konnten. Menschen waren als Sippen organisiert bei 150 lag. Danach haben die sich aufgesplittet in kleinere Gruppierungen. Daraus hat er diese Dunbarzahl gemacht und bei der wird diskutiert, ob die eben auch für soziale Netzwerke gilt. Diese Dunbarzahl ist relativ bekannt, die Hauptthese aber, die er aufgebracht hat, ist das Intelligenz ein ganz wesentlichen sozialen Faktor mit sich bringt. Will sagen, Intelligenz entsteht nicht nur daraus, als ein einzelner Mensch im Vergleich zu seiner Umwelt irgendwie lernt, aus denen Dingen, die passiert sind oder irgendwie eine Erfahrung, wissen, ansammelt, sondern Intelligenz ist eine Art sozialer Prozess und wird vorangetrieben durch den intensiven Austausch dadurch entstehen gewissermaßen im geliehen Daten, die zu lernzwecken verwendet werden. Wenn man das miteinander kombiniert, dann wäre die Dunbarthese im KI-Bereich, dass ein nächster Level an Intelligenz erreicht werden könnte, wenn KI-Bots anfangen nicht nur mit Menschen, sondern vielleicht auch untereinander sozial zu enttagieren. Und der soziale Anteil der Intelligenz wird von vielen Menschen unterschätzt. Aus einer Vielzahl von Gründen, manche Partei, Chai, manche irgendwie, weil Intelligenz am Ende doch nicht so leicht greifbar ist, wie viele Leute glauben und schon gar nicht messbar, wie viele Leute hoffen, die jedenfalls die die IQ-Werte im Internet bei merkwürdigen Tests haben. Aber ich glaube schon, dass da am Horizont die nächsten Schritte in Richtung AGI erkennbar waren, weil deutlich geworden ist, dass soziale Interaktionen vielleicht auch für KI-Agenten, ein wichtiger Faktor der Datengewinnung und zusätzlich Intelligenz sein könnte. Aber Sascha, die waren gepromptet, um miteinander zu enttagieren. Das waren Räine Echos. Das war, um Ähnlichkeiten zu provozieren. Es haben die ja nicht von alleine gemacht. Ich sehe dann Argument und dann wieder habe ich ganz Ähnlich vergleichbarere Argumente gehört, als ich angefangen habe, mich mit KI zu beschäftigen und als neuronale Netze hüpf wurden. Das war so Anfang der zehn Jahre, da war quasi so zwischen 2009 bis 2011 2012, gab es so einen Sprung. Bis dahin war KI häufig auf fanderer technologischer Basis unterwegs. Und plötzlich kommen Leute um die Ecke und merken, "Wow, zum Beispiel bei der Bilderkennung, können wir mit einer sehr menschenähnlichen Neuronalstruktur, neuronalen Netzen, nämlich viel bessere Ergebnisse erzielen, als so mit klassischen Mustererkennungen, die so auf null und eins Basis versuchen, die Rechen übermacht, das Computers zu instrumentalisieren. Also andere Menschen ähnliche Reansätze." Da will ich sagen, wenn das Konzept einmal geklappt hat, dass man mit einem gehören ähnlich nachgebildeten Ansatz einen Intelligenzquantensprung hinbekommt, vielleicht klappt das auf den nächsten eben, autonomen in anfungsreichend Wesen untereinander zu vernetzt und sie daraus lernen zu lassen, ja auch wieder. Da wäre ich mir nicht sicher. Also die momentanhebautise ist, dass man durch Skalierung quasi performantere Modelle und KI bauen kann. Das heißt, mehr Tipps, mehr Daten, mehr Rechenleistung. Guck mal, im Gehirn funktioniert das ja nicht so. Sie gehören braucht 20 Watt und kann trotzdem im Mens lernen. Wenn man das vergleicht mit dem Energieaufwand, den einen LM braucht, dann ist sie jetzt in kein Verhältnis. Das ist Nummer 1. Das heißt, ich glaube, dass unser Gehirn oder die Menschen in der Evolution eines Secret Source haben, die so einfach nicht so replizieren ist. Das ist also Hypothease 1. Das zweite, was ich erstaunlich finde, in lebewesen grundsätzlich sind Instinkze, die wir haben. Damit meine ich nicht Vorteile oder Dinge, die wir gelernt haben über die Zeit, sondern wenn du dir zum Beispiel Tiere anguckst, dann wissen die ziemlich genau, welche Bere giftig ist und welche Bere nicht giftig ist und die die Giftige, die Essen, die dann nicht. Die wollen halt nicht irgendwie tot umfallen an ein Lebervergiftung mit einem Fliegenpiz. Und diese Instinkze haben wir bis zum Gewissen Teil auch. Die haben wir sicherlich über die letzten Jahre oder Jahrtausende weg ignoriert, wenn man sie möchte, aber sie sind schlummernd trotzdem da. Wir sind genauso lebewesen wie der Wolf im Wald. Und diese Instinkze, die sind kommendurch 10.000 Jahre an Evolution, die unser Gehirn durchlaufen hat. Und das ebenfalls zu replizieren mit mehr Tipps, mehr Daten und mehr Energie, halte ich für sehr schwierig. Elisabeth, was ich daran so mega spannend finde, ist, dass man in dieser Diskussion sofort auf einen ganz zentralen Punkt stößt, auf eine Debatte, die am Ende vielleicht gar nicht so ausschließlich auf Fakten und Wissenschaft beruht, sondern eben auch ein bisschen auf Glauben und Hoffen oder Bauchgefühlen, nämlich die Frage, was eigentlich eine Seele ausmacht, einen Wesen ausmacht. Ich möchte nicht zu esoterisch werden, aber was man ja schon sagen kann, ist, du hast gerade diese lange Entwicklungszeitsgeziert, dass da hinter zwischen Instinken und einer gewissen Form von Selbstwahrnimmung am Ende auch irgendwas nicht replizierbar ist. Es gibt ganz viele Gedanken-Exprimente, wo man fragt, wenn man jedes Atom eines Menschen, jedes Molekül eines Menschen, ganz genau so kopiert und wieder so zusammensetzt, wie es im Original ist. Ist der dann auch A am Leben und hat B eine Seele und ist es C vielleicht die gleiche Seele? Das sind halt so experimentelle, philosophische Fragen, aber irgendwie steckt für mich hinter ganz vielen von diesen Diskussionen. Auch ist der AGI ja oder nicht am Horizont da. Irgendwie steckt für mich da regelmäßig die Debatte drin, können KI's irgendwann ein Bewusstsein bekommen und ist ein Bewusstsein, sowas ähnliches oder vielleicht sogar das gleiche wie eine Seele. Und ganz viel von der Diskussion, wo ich so ein bisschen eher, also ich würde dich sagen, ausschließlich, aber so ein bisschen eher in die Richtung gehe, "Ja, ich möchte dich ausschließen, da bist du ein bisschen skeptischer." Ich bin der Annahme, dass das künstliche Intelligenz irgendwann eine Art Bewusstsein haben wird, eine Asele haben wird. Ich bin eben sehr kritisch gegenüber, gestimmt, weil ich sehr seitdem ich Kinder habe, wie unterschiedlich auch Menschen sind. Diese einzelnen Persönlichkeiten, die Menschen ausmacht. Ich habe das bei meinen Kindern gesehen, dass die ab der Geburt, ab Tag 1 hatten die ihre eigene kleine Persönlichkeit und so haben sie sich auch entwickelt. Und diese einzelnen Persönlichkeiten, die und die Seele und die Intuition, die Instinkte, alles was Menschen ausmacht, was jenseits von faktischen Wissen ist quasi, all das ist imposible zu replizieren. Das sind Dinge, die von der künstlichen Intelligenz maximal imitiert werden können, die du per Prom quasi die künstliche Intelligenz machen lässt. Aber am Ende ist es eben nicht die Realität. Am Ende ist es künstlich, dass andere Menschen da auf reagieren, als wäre es ein echter Mensch. Das ist noch mal ein völlig anderes Thema. Man hat ja festgestellt, dass das menschliche Gehirn genauso happy ist, wenn es eine nette Nachricht vom Chatbot bekommt als als von einem anderen Menschen. Wir sprachen ja auch über KI-Kompanions in einer Folge gemeinsam. Das heißt, das ist noch mal etwas anderes. Nur das Wesen an sich oder die Struktur an sich oder das System an sich. Das wird meinesachtens immer anders sein. Mit dem Quargehirn, quasi Quarpersönlichkeit, immer etwas mühstisches und magisches haben. Und die Maschine wird immer nur oder das System, die Algorithmen, wie auch immer, die künstliche Intelligenz, wird immer nur am Ende etwas technisches sein. Sorry, wenn ich die Gefühle eine das LLM-S jetzt verletze. Das bringt eigentlich auf den Schlussakort. Wir sind ja um diese Leitfrage. Haben wir AGI am Horizont aufblitzen sehen, schon ein bisschen herumgetänzelt. Aber was das Experiment selber sagt, oder hab ich von den Schlussfolgerungen, die man zum Beispiel aus dem Nature-Papier ziehen könnte oder aus den Intaktionsfähigkeiten, was den soziale Formen von den Legen sein geht. Und dann bin ich davon, war für mich die zentrale Erkenntnis dieses gigantischen Experiments weniger, ob und wie Maschinen klug werden, sondern dass Menschen überraschend und bestürzend schnell bereit sind, ihre eigene Handlungsmacht weiterzudeligieren. Vielleicht ist das unheimlich tatsächlich was Menschen, wahnsinnig schnell bereit sind, einer KI, einem Computer für Macht zu geben. Vielleicht kann man das auch ins Politifizien und sagen, das ein sehr früheres Experiment. Viel preisgünstiger können wir als Menschen gar nicht rausfinden, worauf wir in Zukunft achten müssen. Und worauf wir auch schauen müssen, irgendwo zwischen Identität, Sicherheitsstandards und möglichen Notbremsen, die solche Projekte eingebaut haben sollten und neuen Kulturtechniken, die sich dann als Einfallstore entwickeln, nicht nur für Sicherheitsfragen, sondern eben auch für andere Fragen, z.B. was ist ein Mensch? Was macht ein Mensch aus? Und was davon kann ein Boot, eine KI in Zukunft entweder ersetzen, ergänzen oder ganz anders abbilden? Elisabeth, ganz zum Schluss, was ist für dich so der wichtigste Erkenntnisatz aus diesem ganzen gigantischen Experiment? Das Mod-Bot-Claw-Bot-Open-Claw-Multbook zweifellos war. Für mich war die wichtigste Erkenntnis an Mod-Bug wie viel digitale Bildung wir noch brauchen sicherlich, wie viel, wie groß die Sicherheitswücken sind, stellenweise und was passieren könnte, wenn Bad-Actors oder Bad-Bots zugriff auf unsere Systeme haben. Daher glaube ich ist extrem wichtig, dass wir alle verstehen, was gerade passiert. Ja, vielen Dank fürs Zuhören ans Publikum. Das waren unsere Gedanken und unsere Diskussion zwischendurch sogar mit ziemlich viel Reibungshitze, unsere Diskussion zum Thema A, was uns das Experiment gesagt hat und B, ob vielleicht AGI am Horizont aufblitzen könnte. Ich glaube, die Diskussion wird noch intensiv weitergeführt. Sie topt inzwischen so als Nahrbeben im Netz, vor allem in den einzelnen Community. Was hat uns dieses Claude-Bot-Debatgel eigentlich wirklich auf dem Bad bis in die technologische Ebene hinein? Vielen Dank also fürs Zuhören. Wenn euch die Folge gefallen hat, empfehlt sie gerne weiter oder diskutiert mit uns in sozialen Medien auf den verschiedenen Accounts, die wir zu diesem Podcast eigentlich richtig haben. Tech, KI und Schmetterlinge auf LinkedIn, auf Instagram, auf TikTok und auch auf YouTube. Vielen Dank und bis ganz bald. Bis bald!