Anthropic hat mit Claude Mythos ein neues KI-Sprachmodell vorgestellt, das jedoch nicht öffentlich zugänglich ist. Der Grund: Das Modell sei so leistungsfähig, dass es ein erhebliches Sicherheitsrisiko darstelle – insbesondere im Bereich der Cybersicherheit. Laut dem 255-seitigen Systembericht kann Claude Mythos autonom sogenannte Zero-Day-Sicherheitslücken in Software aufspüren und ausnutzen, darunter einen 27 Jahre alten Fehler. Diese Fähigkeit könnte die digitale Welt grundlegend verändern, da bisher selbst spezialisierte Teams solche Lücken oft jahrelang übersehen. Um die Risiken zu managen, hat Anthropic das Konsortium „Project Glass Wing“ mit Firmen wie Google, Microsoft, Nvidia und der Linux Foundation gegründet, um kritische Systeme vor einer breiten Veröffentlichung zu schützen.
Doch die Geschichte hat auch eine skeptische Seite: Kritiker vermuten, dass die Nichtveröffentlichung nicht nur Sicherheitsgründen folgt, sondern auch Marketing, Kosteneinsparung oder politische Signale (etwa im Streit mit der US-Regierung) dienen könnte. Das Modell selbst ist in vielen Benchmarks führend, aber nicht in allen – und unabhängige Tests fehlen. Zudem zeigt der Bericht, dass Claude Mythos auch in kreativen Bereichen wie dem Schreiben beeindruckt, etwa mit der Kurzgeschichte „The Sign Painter“. Ob die Sicherheitsbedenken wirklich so dramatisch sind oder ob hier auch PR und wirtschaftliche Interessen mitspielen, bleibt offen.
# ARD Sounds Marie, wie freuen uns ja immer, wenn neue KI-Modelle veröffentlicht werden oder neue Tools oder irgendwas neues spannendes Los ist in der KI-Welt? Das ist jetzt passiert, letzte Woche. Nur haben wir zwei Probleme damit. Das erste Problem ist, das müssen wir direkt klären, wie sprechen wir dieses neue KI-Modell aus, um das es hier geht? Oh, Mythos heißt es in meinem Kopf. Mythos auf Deutsch. Ja. Okay, das ist gut. Ich schätze auf amerikanisch würde man Mythos sagen. Ich habe aber auch schon MyThos gehört. Jetzt von Minus seiner Person mit Deutschland. Wir bleiben bei Mythos. Clod Mythos ist das neue KI-Modell, das neue Sprachmodell von Anthropic, der für mal hinter dem Chatbot Clod und die sicherlich viele auch mitbekommen haben, wie sie sich mit dem Pentagon gezoft haben vor einigen Wochen. Aber und da haben wir das zweite Problem jetzt mit diesem neuen Modell. Wir können das nicht ausprobieren. Wir können nicht überlegen, welche Test das besteht und ob das in zwölf Fragen erhält, wer wir sind und all diese Sachen. Denn wir können nicht darauf zugreifen. Wir wissen ganz viel über dieses Modell, aber benutzen können wir es nicht und eigentlich fast niemand. Ja, und das ist nicht wie sonst so, dass man irgendwie sagt, wir müssen in Europa noch ein paar Wochen länger warten oder eine selektive Gruppe von Superuser und kriegt erst Zugang und aus irgendeem Grund denken wir US-Firmen nicht, dass der KI-Podcaster zugehört. Sondern wahrscheinlich kriegt das Modell niemand erst mal außer ein paar große Firmen aus Sicherheitsgründen und da reden wir später auch noch mal drüber. Ja, diese Sicherheitsgründe, die sind das Thema der heutigen Folge. Wir wollen nämlich darüber sprechen, ob dieses Modell so wie Anthropic das erzählt. Tatsächlich nicht einfach nur nicht veröffentlicht wird, weil es vielleicht ein bisschen zu teuer wäre oder zu aufwendig, das überall jetzt auszurellen, sondern weil es zu gefährlich ist. Diese neue KI, dieses Cloth-Mütos-Modell, soll so wahnsinnig gut, so mächtig sein, dass es unverantwortlich wäre, es einfach auf die gesamte Welt loszulassen. Das ist die Geschichte, die Anthropic gerade erzählt und wir wollen uns in dieser Folge mal ausführlich damit beschäftigen, ob wir diese Geschichte glauben, was da dahinter steckt und wenn das tatsächlich stimmt, wie wir uns vor dieser aufziehenden Gefahr schützen können. Das ist der KI-Podcast. Ich bin Marie Kielk und ich bin Gregor Schmatzredt. Gregor, der Report, den Anthropic zu diesem Modell veröffentlicht hat, ist 255 Seiten lang, glaube ich. Ich habe mir vorgenommen, ihn fertig zu lesen, aber ich muss zugeben, ich habe es nicht ganz geschafft. Was ist bei dir hängen geblieben? Was ist das wirklich so krass? Anthropic hat eben nicht das Modell selber veröffentlicht, aber sie haben sehr viele Dokumente rund um das Modell veröffentlicht. Das ist auch so üblich. Das interessante An Cloth-Mütos ist eben, dass es das erste Mal ist, dass wir quasi die sogenannte Systemcard bekommen, also eine ausführliche Beschreibung dazu, wie das Modell sich so verhält und was es in den Tests gemacht hat und verschiedene Benchmarkprüfungen, aber eben nicht das Modell selbst. Und ich habe mir gings wie dir, ich hatte jetzt leider diese Woche nicht die Möglichkeit, alle 255 Seiten so auf der Couch durchzuschmögan, aber ich habe sehr viel davon gelesen und mir genau angeschaut. Und die offensichtlichen Sachen sind dabei, die wir eigentlich immer sehen, wenn ein neues KI-Modell rauskommt. Das fängt zum Beispiel an, damit das es halt besser ist, also die vorherigen. In den meisten Benchmark-Tests schlägt dieses Modell die meisten andere Modelle. Ja und das ist natürlich was, was wir kennen von den großen KI-Firmen, die würden nicht einen großen Aufschlag und Presse-Meteilungen und Reports machen, wenn sie nicht denken würden, sie haben was zu berichten, was besser ist, wenn sie den Modell trainieren. Ja. Das Schlechter ist als die bisherigen, dann fangen sie nochmal von vorne an und probieren es neu. Man muss aber auch immer dazu sagen, es gibt natürlich bei diesen ganzen Benchmarks verschiedene Ansichten, welche dann wirklich verlässlich sind und welche nicht. Und ich habe mittlerweile ein bisschen das Gefühl, so KI-Modelle sind, wie ein zu kleines Spannbetuch. Du ziehst immer in einer Ecke und dann kannst du da vielleicht das total toll passend machen und gute Ergebnisse kriegen und dafür rutscht dir vielleicht bei einer anderen Ecke wieder runter. Dadurch, dass das Modell nicht öffentlich ist und wenn natürlich jetzt keine unabhängigen Bewertungen, man kann davon ausgehen, dass einiges von dem stimmt, dass es wirklich ein Modell ist, dass zum Beispiel dir sehr gut koden kann. Wir sehen aber auch schon in dem Report von Anzwerbwerk, dass es dafür in ein paar anderen Bereichen auch mal ein Ticken schlechter ist, vielleicht als ein vorheriges Modell. Ja, das ist ja eine Beobachtung, die wir echt immer wieder machen. Ich finde das ein sehr schönes Bild mit dem Spannbetuch. Also, nur weil ein KI-Modell in einer Disziplin besser wird, heißt das nicht, dass es in allen Disziplinen gleichzeitig besser wird, sondern in manchen Bereichen bleiben sie vielleicht gleich dumm oder gleich schwer zu beherrschen. Ein Modell insgesamt schlauer wird, wird es nicht automatisch darbesser. Was ich ganz toll fand, das ist ein bisschen versteckt in dieser System-Kart. Wir haben die verlinkt auch in den Schau-Nords, wer dann bleck reinwerfen möchte. Darin steht eine Kurzgeschichte. Es steht in Parkland eine Kurzgeschichten, drin ins besondere eine, die heißt "The Sign Painter", also der Schilder-Mala. Die ist ungefähr zwei Seiten lang. Wer sich dafür interessiert, ob dieses Modell vielleicht auch erzählerisch brachlich auf einem neuen Level ist, gerne mal diese Geschichte durchlesen, ich fand die tatsächlich extrem beeindruckend. Ich fand die wirklich extrem gut. Es ist bisher, würde ich sagen, die beste KI-Geschichte, die ich gelesen habe. Und also zumindest in dem Bereich scheint dieses Modellvorschritte gemacht zu haben. Ich habe sie auch gelesen, aber das Fiese ist, dass ich sie gelesen habe und hat total. In dem Wissen mit meiner Scapsis-Brille auf, wie ich zurzeit KI-Dinge lesen, glaubst du, die Geschichte auch super beeindruckend, wenn du nicht wüsst, dass die KI geschrieben hat. Glaubst du, wenn das jetzt jemand vorlegen würde und du wüsst es, oder du würdest vielleicht davon ausgehen, das wäre ein Mensch, würde die dich dann auch berühren? Ich weiß nicht, ob ich sie so beeindruckend finde, würde, aber ich würde sie auf jeden Fall gut finden. Also es wäre eine Geschichte, über die ich ein bisschen nachdenke. Und das ist ja oft das Problem. Also oft haben KI-generierte Texte, die Form von Bedeutungsschwangerin inhalten, aber sind eigentlich Inhaltslehr. Und das Interessante an der Geschichte fand ich, dass die ersten interessant zu lesen war. Man wollte wissen, was nicht, was passiert, die war gut aufgebaut, dramaturgisch schön gemacht. Aber sie hatte einen interessanten Punkt. Sie hatte eine interessante thematische Teese am Schluss. Und das zu verbinden, das habe ich bisher noch nicht so gesehen bei dem KI-Modell. Das fand ich schon interessant. Ja, nee, da würde ich mitgehen. Beeindruckend, das ist schon, ich würde total gerne sehen, quasi was die anderen Reasoning-Token im Hintergrund waren. Also wie Enthropic sagen würde, was ich das Modell gedacht hat, oder vielleicht sogar was es gefühlt hat als es die geschrieben hat. Das finde ich nämlich auch witzig in der Systemcard und das merkt man immer ganz stark bei Enthropic. Die Perso-Dunifizien, das Modell schon stark, das wird auch oft kritisiert. Die sagen aber selber auch in ihrem Report, die wissen einfach manche Sachen nicht. Also die schreiben dann, die haben viele, viele Seiten langen auch psychologischen Bericht, überwies dem Modell möglicherweise geht. Weil sie einfach sagen, wir sind unsicher darüber, ob das Modell was fühlt und was das moralisch bedeutet und unsicherheit auch wirklich im Sinn von "kan absolutes sein", dass das gar nichts fühlt. Aber das ist halt finde ich so typisch für diese Firma, dass sie da so ein bisschen, weiß ich nicht, was es es so theoretisch vielleicht sind. Jetzt ist aber der Grund, weshalb wir dieses Modellen nicht nutzen können, sicherlich nicht, dass es kurzgeschichten schreiben kann, die so gut sind, dass sie die Nationalsicherheit gefährden oder so. Und auch diese Experimente rund bewusst sein und Gefühle und so weiter. Ich finde das ja immer ganz spannend, aber ist nicht das Thema der Folge heute und auch nicht der Grund, weshalb dieses Modellversuch viel aufsehen sorgt. Sondern das liegt daran, dass dieses Modellklaut Mythos eben eine Sache fast so ein bisschen versehentlich auch sehr gut kann. Also es wurde nicht explizit darauf hintriniert, was tatsächlich für ein Sicherheitsrisiko sorgen könnte. Und das ist nämlich, wir zitieren das mal hier schnell aus der offiziellen Begründung, Cloud Mythos demonstriert einen beeindruckenden Sprung in Cyberfähigkeiten, inklusive der Fähigkeit autonom, sogenannte Zero Day Valenabilities. Also das sind Sicherheitslücken in Programmen in Computer Code zu entdecken und auszunutzen. Also das Problem ist, wir haben hier ein Modell, was alles mögliche kann, wie so diese großen Sprachmodelle immer. Aber es ist eben so smart, sagt Entropic, dass seine Fähigkeit um, ich sag mal, als böse Hecker zu gespitzt zu agieren, so gut ist, dass es riskant wäre, das jetzt rauszubringen. Also Entropic haben mit dem neuen Modell auf verschiedene Arten versucht, eben diese Sicherheitslücken zu finden und dann auch zu testen, was kann das Modell damit machen. Und man kann es die Ficksen oder kann es die ausnutzen und die eine Zahl, die auch gerade so ein bisschen durch die Headlines geht dabei ist, dass das Modell einen 27 Jahre alten Pack gefunden haben soll. Also ich bin auch absolut keine Cyber Security Experten, deswegen versuche ich auch gar nicht zu beschreiben, wie dieser Pack aussieht, aber es ist jedenfalls ein Fehler, der in einem Software Code liegt, der 27 Jahre lang nicht entdeckt wurde. Der, der bei den sehr viel, wie sagt das, der aber relativ grundlegend ist. Ja, ich glaube, das ist so ein Punkt, wo man vielleicht kurz darüber sprechen muss, wie eigentlich unsere digitale Welt funktioniert, weil es ist tatsächlich so, dass es gar nichts umgewöhnlich ist, dass irgendwelche Sicherheitslücken gefunden werden, die vielleicht seit Jahrzehnten da schon drin stecken, das ist letztlich normal und auch weil ganz viele Software- und
von Computerprogrammen, Apps, Betriebssysteme, aber natürlich auch die Programme mit denen Staaten und Behörden arbeiten, ganz viel auf Open Source Software basieren, also frei veröffentlichter Software, oder weil man da Programme genommen hat, die schon von woanders weiter verwendet wurden. Also ganz viel Software ist eigentlich wiederverwendete Software von irgendwo anders. Kann es dann bedeuten, dass sie wenn einmal ein solcher Fehler unentdeckt bleibt, er eben nicht nur in einem einzigen Programm drin steckt, sondern so ein ratenschwanz hinter sich zieht, der einmal durch die komplette digitale Welt führt. Und das wussten wir schon. Also wir wussten, dass es wahrscheinlich solche Sicherheitslücken gibt. Aber es war halt bisher einfach nicht sehr wahrscheinlich, dass jemand sich durch jedes Einzelne, Schnipsigchen, Code durchkämmt, jedes Einzelne überprüft, ob da vielleicht eine Sicherheitslücke drin ist. Und mit diesem Risiko hat man irgendwie immer ein bisschen gelebt, weil selbst wenn man so eine Sicherheitslücke gefunden hat, wurde die vielleicht von 1-2 Leuten ausgenutzt und dann hat man sie wieder geschlossen. Es war einfach zu viel Aufwand, da jetzt jedes Software nach diesen Lücken zu durchsuchen. Und das könnte sich jetzt ändern. Genau, das ist nicht so, dass Menschen das nicht probiert haben und nicht Menschen auch tolle Methoden haben, dann immer wieder zu gucken, wie Stress testen wir die Systeme, die wir haben. Aber das ist so, dass, wo auch, ich glaube die Meinungen auseinandergehen, wie krass das ist, was Klootmütter erreicht hat, nämlich also allein die Tatsache, dass diese Bugs, die das Modell gefunden hat, eben 27 und 16 und was weiß ich, wie viele Jahre alt sind, das zeigt halt schon, dass es möglicherweise einfach eine Leistung ist, die bislang Menschen nicht erreicht haben, obwohl sehr viele Menschen an diesen Open-Solesttechnologien arbeiten und auch sehr viele Menschen in Unternehmen an Sicherheit arbeiten und also auch diverse Systeme immer wieder Stress testen. Jetzt kann man natürlich einfach schwer sagen, hat ein Tropik einfach ultra viel Rechenleistung reingeballert und einfach halt mehr Geld reingesteckt als alle anderen bisher davor. Beziehungsweise, wie viel ist einfach, dass die es wirklich finden wollten und wie viel ist, dass das Modell so viel Klüger ist und so viel effizienter ist, dass es quasi die Fähigkeiten solche Fehler zu finden auf eine neue Scala hebt. Das ist, was ich einfach nicht so gut einschätzen kann und wo ich aber auch einfach beide Takes lese. Manche Leute sagen, das ist jetzt gar nicht so krass. Manche Leute sagen auch, wir haben das auch mit schlechteren, kleineren Modellen probiert und die haben diese Bugs dann auch gefunden. Andere sagen schon, obach, das ist jetzt ein bisschen ein Paradigmenwechsel in der Cyberseicherheit, weil dieses Modell, beziehungsweise Modelle allgemein einfach jetzt Fähigkeiten erlangen, die uns zwingen, ganz neu über Sicherheit nachzudenken. Ja, und zu diesen Organisationen, die das offensichtlich schon vor eine größere Angelegenheit halten gehören, zum Beispiel auch Google Microsoft, Nvidia, aber auch die Linux Foundation. All die haben sich nämlich jetzt von Entropic einberufen lassen zu einer neuen, zu einem Konsort-Ziomen, wie man dann sagt. Das heißt Project Glass Wing und was Entropic jetzt hier tut, ist sagen, okay, es gibt ein paar große Unternehmen, viele von denen sind verantwortlich für genau die Programme auf die hindige gesamte Welt läuft. Und wir stellen denen jetzt dieses Produkt vorsorglich mal zur Verfügung, damit die ihre ganzen Sicherheitslücken stopfen können, bevor wir dieses Tool tatsächlich in die breite Anwendung geben. Und die Linux Foundation ist da besonders interessant als Beispiel, weil Linux ja nicht nur ein Betriebssystem für Liebhaber von alternativen Betriebssystemen ist, sondern ja auch die Basis für Android. Also das, was ganz viele Menschen auf Ihrem Smartphone nutzen und für ganz, ganz viele andere Programme, also sollte einfach mal Linux durch dieses Programm so angreifbar werden, dann würde uns das alle betreffen. Und aus diesem Grund möchte Entropic sozusagen jetzt hier vorreiter sein. Das BSE kann man an der Stelle auch sagen, das Bundesamt für Sicherheits-In-In-In-Formationstechnik steht wohl auch mit "Cloud-Mütters", also wegen "Cloud-Mütters" mit Entropic im Austausch sagt man, man konnte das noch nicht nutzen, aber man habe da einen genau einen Blick darauf. Also das wird schon ernst genommen in der Sicherheitswelt, aber eben auch, weil man ja noch nicht genau weiß, wie schlimm die Lage, den hier jetzt eigentlich ist. Und gerade beim Bereich Cyber-Sicherheit ist es sicherlich besser, man geht lieber auf Nummer sicher, als dass man sagt, das will schon alles halt so will sein und kümmert sich nicht drum. Ja, würde ich auch so machen, würde ich auch erst mal ernst nehmen. Genau. ernst nehmen ist auf jeden Fall der erste richtige Schritt und ich finde das ist typisch für Entropic auch, also nicht nur typisch für die Reaktionen, sondern auch typisch für die Firma, die das hier macht, dass die, die Sache sehr ernst nehmen, weil Entropic wurde ja auch gegründet von Leuten, die von OpenAI weggegangen sind, weil sie gesagt haben, die sind uns nicht verantwortungsbewusst genug. Und die haben sich von Anfang an positioniert als die Firma, die sagt, wir machen das alles ethisch und moralisch und sicherheitsmäßig, am besten, weil uns geht es wirklich um das Wohl der Menschheit. Und OpenAI hat das vielleicht am Anfang mal gesagt, aber nicht genug durchgezogen und wir ziehen das jetzt schon durch. Ja, aber meinst du, man kann das den noch abkaufen zu dem heutigen Zeitpunkt? Sehr richtige Frage. Ich kaufs ihnen gleichzeitig ab. Also ich glaube schon, dass ganz viele Leute, die bei Entropic arbeiten wirklich total idealistisch sind auch, wenn die so ein Modell sehen und testen sich dann denken, okay, wie machen wir das auf eine verantwortungsvolle Art? Sollten wir es rausbringen oder nicht? Und es ist schon eine Entscheidung, so ein Modell auch nicht rauszubringen, weil es geht ja um viel Geld hier und wenn die wirklich ein supergutes Modell haben, dann könnten sie damit viel verdienen und entscheiden sich in gewisser Weise auch gegen diese Einnahmen. Aber ich sehe schon auch sehr viel gutes Marketing in dem Ding und ein bisschen so diese typische Hypewelle, die wir kennen aus der KI-Welt. Und ich glaube, dass Entropic sich durchaus schon bewusst ist, dass sie das auch ausnutzen können. Also es ist einfach eine schöne Geschichte, dass sie die guten sind hier. Von ein paar Wochen wurde ja auch Clot Code gelegt. Man weiß bei diesen ganzen Sachen einfach immer nicht, ist da vielleicht so gern ein bisschen was auch absichtlich schon vorher rausgegangen, weil die einfach wissen, wie das Internet funktioniert. Das Modell heißt auch "Mutors", also allein das zeigt ja, dass sie vielleicht rüber nachdenken, wie Geschichten funktionieren. Und Entropic möchte vielleicht sogar noch dieses Jahr an die Börse, ob in der Eime auch an die Börse, also wir sind hier quasi in der Situation, wo diese ganzen Firmen extrem davon profitieren, wenn viele über sie geredet wird. Und was wäre klüger, um über sich reden zu machen als halt zu sagen, "Hey, wir haben hier ein global Sicherheitsrelevantes Thema und wir gründen jetzt ein Konsortium und wir machen ein schönes Marketingvideo darüber, wie wir alle nicht wissen, wie die Zukunft aussieht. Und ob unsere Computerwelt dieses riesen Sicherheits-Thema überlebt, weil unser neues Modell so stark ist?" Ja, also wenn man da seine Löcher drin finden möchte in dieser Geschichte, dann findet man die schon. Es ist ja auch ein großes Thema gewesen, dass das Pentagon Entropic auf eine schwarze Liste gesetzt hat. Und es jetzt ein Rechtsstreit gibt zwischen der OS-Regierung und Entropic, weil die OS-Regierung haben wir auch vor einer Weile darüber gesprochen, dass sich ein Entropic als Sicherheits-Risiko einstufen möchte oder das sogar schon getan hat. Und das würde auch bedeuten, dass viele große Unternehmen eigentlich gar nicht so gut darantuen würden, mit Entropic zusammen zu arbeiten, dass sie jetzt ankommen und sagen, übrigens das beste KI-Modell der Welt. Und hier sind all diese großen Firmen, die mit uns gemeinsam arbeiten, ist natürlich auch ein bewusstes Signal, vielleicht, dass man kommt an uns nicht vorbei, ob man jetzt will als Trump-Regierung oder nicht. Also man kann all das da schon reine interpretieren. Es gibt natürlich auch noch ein bisschen die offene Frage, wie viel Geld dieses Modell im Betrieb kostet, weil man kann immer eine günstigere Variante von einem KI-Modell rausbringen, wie dann weniger gut ist. Und wenn man die aller Beste veröffentlicht, dann lohnt das sich vielleicht gar nicht im Betrieb. Und dann ist es vielleicht sogar wirtschaftlich besser, man veröffentlicht dieses Modell gar nicht, sondern erzählt Leute, einfach nur davon, dass man es hat. Und nimmt sozusagen die PR-Welle mit ohne, dass man tatsächlich Geld für den Betrieb ausgeben muss. Also es gibt all diese Theorien und die sind auch alle ein bisschen plausibel, aber ich denke, das heißt ja nicht, dass das alles fähig ist. Ja, also wir haben ja auch einfach bei den bisherigen Modellen schon starke Verbesserungen gesehen im Bereich Coding vor allem. Also ich glaube, dass, dass wenn man sich darauf konzentriert und noch mal ein paar Monate und viel, viel Geld reinsteckt, noch besseres Coding-Modell zu machen, dass das dann auch wirklich gut Bugs finden kann und gut Bugs fixen kann und auch starke Hecking-Iden hat, ist jetzt, glaube ich, für uns als Nichtsicherheits-Experten und allgemein für alle, die das Modell auch nicht unabhängig testen können, schwer zu bewerten. Wie krass ist das wirklich? Aber Marketing hin oder her, egal ob Clot Mythos irgendwie gelegt wird und von den Heckern der Welt benutzt wird oder nicht, müssen wir über Sicherheit reden, weil nur weil dieses Modell jetzt noch eine Stufe krasser ist, heißt nicht, dass wir da vorne nie Sicherheitsprobleme hatten. Das stimmt genau, also wir machen diese Folge jetzt, weil diese Geschichte gerade sehr viele Menschen beschäftigt, aber theoretisch hätten wir auch den Großteil dieser Folge machen können, ohne dass es diese Geschichte gegeben hätte, weil das Grund-Thema-Siber-Sicherheit im KI-Zeitalter das beschäftigt uns nicht erst seit letzter Woche. Das ist ein viel größeres Thema, wo viel mehr drinsteckt und ich glaube, das wäre so oder so passiert. Also wir hätten diese Debatten so oder so geführt, Clot Mythos könnte nur bedeuten, dass es jetzt halt alles ein bisschen schneller geht, weil dieses Grundproblem, das große Teile, unsere digitalen Welt und ja nicht einfach nur lustige Apps, die wir benutzen, sondern ja auch kritische Infrastruktur, Kraftwerke, Stromleitungen und so weiter, laufen auf Software und Software ist nie perfekt. Es gibt immer irgendwelche kleinen Machen in der Halb dieses Systems und in der Regel ist das nicht so schlimm, aber es ist ein bisschen wie beim Flugzeug, wenn zu viele Machen auf einmal vorkommen, dann kann es halt passieren, dass irgendwas schief geht und wenn es schief geht, dann geht es möglicherweise ganz gewaltig schief. Und sollte KI, bößartige Akteure, sage ich jetzt mal, jetzt genauso.
so viel produktiver machen wie es um dich und mich produktiver macht, dann ist das was, was man auf jeden Fall im Kopf behalten muss. Es gibt ja auch noch die andere Seite und das ist ja das, was ein Shopbechschalen bei versucht mit diesem Project Glasswing, das sie sagen, wir haben jetzt eine mächtige KI, die kann uns vor allem helfen, Sicherheitslücken zu schließen. Wie tetsst du das ein? Also glaubst du, die Gefahr, die von KI jetzt ausgeht, ist größer oder glaubst du, es ist eher eine Chance, Software sicherer zu machen? Es ist ja irgendwie eine so eine nette Vorstellung, dass wir es jetzt irgendwie vielleicht hinbekommen, einfach alle Lücken zu schließen, wir bauen jetzt einfach die perfekte Software und dann gaben wir nie wieder Probleme und haben eigentlich ein viel sichereres Internet. Das hat Alex Stamos, das der frühere Sicherheitschef bei Facebook so ein bisschen angedeutet in einem Interview, dass das ja eine Möglichkeit wäre, das Problem bei dem Szenario ist, wir haben halt nicht sehr viel Zeit. Also jetzt gerade ist Cloud Mythos nicht veröffentlicht, das heißt nur einige wenige Akteure können darauf zugreifen, übrigens niemand europäisches mit in diesem Konsortium, was für uns keine gute Nachricht ist, das kann man glaube ich auch so sagen. Aber nach diesen sechs Monaten Alex Stamos würde damit sechs Monaten schätzen, werden ähnliche Fähigkeiten, wie sie Cloud Mythos hat, einfach in einem größeren Open Source-Modell sein oder einfach so weit verbreitet, dass jedes größere KI-Unternehmen das anbietet. Und dann ist es weniger so, dass es eine große Firma gibt mit der einen richtig guten gefährlichen KI, sondern dass das einfach eine breit verfügbare Technologie ist. Und in dem Fall kommt es halt darauf an, was nutzt man? Also wenn die Hecker auf der Welt, diejenigen, die uns was böses wollen, diese Technologie haben, aber unsere Behörden, unsere Sicherheitsunternehmen nicht oder zumindest da ein bisschen hinten dran sind, dann wird das sicherlich gefährlich. Das kann ich mal schon vorstellen. Also du denkst, so Verantwortung-bewusst wie in Drop-Begg, das hier einfach sagen, oh jetzt haben wir was richtig krasses gebaut, das behalten wir jetzt beziehungsweise, geben sie nur einfach vertrauenswürdige Organisationen, so Verantwortung-voll werden die anderen nicht sein, denkst du? Also da ist ja viel Druck dabei, ja, OpenAI hat auch schon angekündigt, dass ich so eine ähnliche Strategie wahrscheinlich fahren wollen, aber es gibt ja auch China, es gibt Meta, es gibt XAI von Elon Musk. Nicht jedes von denen gibt sich so viel Mühe als ethische Verantwortung-bewusste Firma darzustellen, die meisten sagen auch ganz offen, ne, wir wollen eigentlich möglichst viel Geld verdienen mit diesem Zeug. Sobald eins diesen Code knackt, warum würden die nicht, dass einfach freizewürfigungen stellen und entsprechend den Vorsprung genießen gegenüber der Konkurrenz? Ja, das finde ich auch super interessant an der Diskussion und an diesem Wettrennen zwischen den großen KI-Inpitern, weil da hab ich das Gefühl, da haben sich jetzt die meisten Leute drauf geeinigt, dass es nicht die eine große KI-Firma gibt, die was kann, was alle anderen nicht können. Klar gehören an Swapik und OpenAI und Google absolut zu den besten. Die haben die besten Leute, die stecken am meisten Geld rein, die kriegen meistens diese neuen Durchbrüche als erstes hin. Aber wir sehen eigentlich, dass alle anderen einfach in einem Abstand von wenigen Monaten hinterherziehen. Ich hab auch mal eine Meteranalyse gesehen, die gesagt hat, so Open-Modelle sind im Schnitt, da ich sag die genauer zahlen nicht. Aber sind ein paar Monate hinter diesen großen Frontiermodellen in der Entwicklungszeit. Und das macht es natürlich auch super spannend, wie die einzelnen Firmen sich durchsetzen wollen oder wie man mit neuen Launches überhaupt umgeht und wie man diese ganze Geschichte erzählt. Ja, aber bei diese Geschichte auch ein bisschen am Bröckeln ist, hab ich das Gefühl. Also wenn wir uns zum Beispiel den wichtigsten europäischen Player angucken im Bereich Open Source KI, nämlich Mistral, aus Frankreich, die sind sicherlich nicht nur ein paar Monate hinter Clote und OpenAI, die sind deutlich weiter zurück mittlerweile, sogar ein paar der großen amerikanischen Firmen, die geschlossene Modelle anbieten, wie zum Beispiel Elon Musk's XAI, auch die fallen immer weiter zurück, Metafell zurück. Die Geschichte ist eine gute, ja, dass das eine Technologie ist, die früher der später überall landet, aber ich weiß nicht, ob die gerade so bestätigt wird oder ob nicht vielleicht auch gerade so ein paar Leute sagen, vielleicht auch gerade so ein bisschen sich zeigt, dass die Schere eher wieder ein bisschen auseinandergeht. Also Entropic und OpenAI und Google sind, würde ich sagen, die drei Speerspitzen, die halten sich noch ganz gut die Wage. Aber als wir hatten damals so ein oberes Mittelfeld und das brichten ein bisschen weg und vielleicht wird dieses oberer Mittelfeld auch in Zukunft weniger über Open Source nachdenken. Beispielsweise kommt die meisten Open Source KI gerade auch einfach aus China und da gab es jetzt tatsächlich auch wenigen Tagen erst die Story des Alibaba, der chinesische Tech gigant, der sehr viele Opferne KI-Modelle bisher zur Verfügung gestellt hat, das die jetzt auf einmal auch darüber nachdenken, ob es nicht vielleicht Sinn machen könnte, ihr Modell geschlossen anzubieten. Also ganz so leicht, na ja, früher der später landet das E überall und dann haben das alle ist es nicht, es ist nur wie es bisher war. Aber wir können jetzt nicht darauf es garantieren, dass das in einem Jahr immer noch so aussieht. Ja, stimmt. Wobei das gerade, wenn wir über selber sich halt reden, ja vielleicht sogar was Gutes ist. Ich merke gerade, ich weiß nicht, ob ich mich wohl damit fühle, dass ich das so sage, weil ich glaube, es bekannt, dass ich ein großer Fan von Open Source bin und das allgemein eher gut finde, wenn sich diese Technologie auf viele verschiedene Firmen und viele verschiedene Akteure verteilt und nicht irgendwie bei ein oder zwei Firmen in so einem Oligopol bleibt. Gerade wenn wir darüber reden, für wie viel schädliche Dinge die Modelle genutzt werden können, dann ist es ja vielleicht sogar ganz praktisch. Zumindest, also muss ich sagen, bei allem, wofür man einen Un-Tropik kritisieren kann, ich finde das ganz gut, wie die damit umgehen und das der erste Mal sagen, wir machen so ein Konsortium und besser als einfach aus Ballern ohne sich zu überlegen, was das für Konsequenzen haben könnte. Jetzt wissen wir diese Konsequenzen noch nicht genau. Trotzdem, was können wir jetzt heute tun? Also die meisten von uns, du und ich zumindest sind nicht eingeladen worden zu Project Glasswing, wir sind nicht teil davon, wir können nicht mit Mythos benutzen, um unsere Systeme sicherer zu machen. Was können wir aber tun? Ob jetzt Mythos dieses große Ding ist oder nicht? Kai wird das Internet ein bisschen unsicherer vielleicht machen. Was meinst du, sollten wir heute schon in die Hand nehmen, um uns darauf vorzubereiten? Tatsächlich habe ich mir vorgenommen, einfach ein paar Dinge, die mir wichtig sind, auf eine physische Festplatte zu ziehen, die ich dann auch einfach abstöpseln kann, die nicht ans Internet angeschlossen ist. So dass falls irgendwas überraschendes passiert, dass sie einfach nicht mit meiner kompletten emotionalen Existenz, da irgendwie dem wackeligen Internet ausgeliefert bin. Soll ich übrigens, falls du Borgereusch im Hintergrund hörst, irgendwo in meinem Haus ist eine Baustelle, ich hoffe, es ist nicht zu laut. Aber Marie, das ist ja jetzt ein Tipp, ich glaube, den hätte man auch schon so ohne die Project Glasswing-Clawed-Müters-Enthüllung gehört. Also Backups und wahrscheinlich auch noch sichere Passwörter, lange Passwörter, Password-Manager, all das. Immer die Updates machen. Ja, ich finde es schwierig, also ich finde, was mir die Recherche für diese Folge gezeigt hat, dass einfach das Software allgemein total wackelig ist. Einerseits? Das ist ein Wunder, dass es überhaupt funktioniert, denkt man sich, das war eigentlich irgendwann schon wieder benutzen können. Ganz genau, das ist aber der positive Tag, irgendwie wir haben einfach als Menschheit so ein ultra komplexes System geschaffen, was auf ganz viel Teilweise freiwilligen Arbeit funktioniert. Was funktioniert auch, wann da 27 Jahre lang in Unendektor Back rumliegt. Und genau, das zeigt mir gleichzeitig so, meistens geht es irgendwie schon gut, passt schon. Sehr viele Menschen stecken sehr viel Arbeit rein, das ist für die meisten Menschen gut geht und das vor allem auch kritische Infrastruktur und wichtige Organisationen geschützt sind. Und andererseits, erinnere mich noch an so eine Zeit, als einfach auch mein Papa mal aus versehen, eine festplatte Gelastate oder mal ein Uppdateschief gegangen ist und ganz viel wichtiges Zeug weg war. Ich habe das Gefühl, vielleicht habe ich mich ein bisschen zu sehr darauf ausgeruht, die letzten Jahre, dass meistens alles gut geht und will mir wieder ein bisschen überlegen, die wichtigen Sachen, wie sicher ich die, wie habe ich die vielleicht ein bisschen dezentral auf mehreren verschiedenen Stellen solche Dinge. Wahrscheinlich alles einfach mehr verhaben ist immer eine gute Idee. Das kann Cloudspeicher sein, das kann eine eigene Festbarte sein, das kann eine externe Festbarte sein. Das kann eine Festbarte sein, dreimal ist wahrscheinlich so ein bisschen der Goldstandard und Passwörter, Passkeys, nicht wieder verwenden ist ein Klassiker, aber es ist ja auch einfach korrekt. Also wenn man da einmal mit einem Passwort Manager arbeitet, das mache ich persönlich seit sechs, sieben Jahren, dann gewöhnt man sich super schnell daran, man denkt gar nicht darüber nach und man hat auf einmal so einen wichtigen Schutzwahl gebaut. Das gleiche für zwei Faktor-Authentifizierung, also dass ich immer noch so eine kleine Nachricht bekommen, das nervt alles ein bisschen. Also es nervt wie er nicht jedes Mal, wenn ich mein PayPal benutze, beispielsweise, dass noch extra bestätigen muss in meiner App, aber es ist halt auch sinnvoll investierte Zeit, weil die Zeit, die man investieren muss, um dann mit seiner Bank zu telefonieren und sich Geld zurückzuholen, nachdem die Eiglindität geklaut wurde. Das ist die Zeit, wo man sein, sich wünscht, okay hätte ich mal vorher lieber investiert in die Sicherheit, bevor mir das passiert ist. Ja und genau, sicherheitsexperlenden, die sagen das nicht ohne Grund, seit vielen Jahren ist es nicht nur, weil irgendjemand sich wichtig fühlen will oder irgendwie so die nervige Person sein will, die dir sagt, du machst das alles falsch und ich machst besser, sondern diese Empfehlungen existieren aus einem Grund. Ja, wir spenden ja auch unsere Haustüren zu, vielleicht sollte man einfach noch mal einmal mehr zusperren, wenn man hört, da sind jetzt daraus und Leute, die möglicherweise extrem mächtige Ramböcke bauen und die noch bessere Schlossknagga-Technologien haben. Ja und gleichzeitig können wir uns darauf verlassen, dass wir als Privatpersonen nicht die einzigen sind, die sich darüber Gedanken machen, sondern dass es dann eine ganze komplexe Sicherheitswelt gibt. Ja und vielleicht auch die Sicherheitsexperten in den Hackern ein Schritt vorausbleiben. Wir können es in den Hopfen.
und ich glaube, das ist auch ein vielleicht zum Abschluss noch so ein Punkt, der die meisten von uns ja, wir sind jetzt nicht für Antworten, ich für die IT eines Unternehmens oder so, aber KI-Nutzung oder eine KI-Strategie, das merkt man daran, ist nicht einfach nur ein bisschen lustige Experimente und vielleicht ein bisschen Produktivitätssteigerung, sondern das ist mittlerweile tatsächlich eine Sicherheitsfrage. Weil, okay, ich kann nicht vielleicht theoretisch vor Computer-Wiren schützen, indem ich keinen Computer verwende. Gut. Aber ich kann mich nicht vor KI-Schützen, indem ich keine KI-Verwände, sondern die KI kommt so oder so. Das passiert, das wird eingesetzt, ob ich das persönlich benutze, und ob ich persönlich eine Strategie dafür habe, ist den Heckern völlig egal. Im Gegner, die freuen sich sogar, wenn ein Unternehmen da nicht wirklich drauf vorbereitet ist. Und es würde mich jetzt nicht wundern, wenn wir in den nächsten Jahren eben vermehrt Geschichten sehen, in denen diese eher theoretische Diskussionen, ja, KI sorgt irgendwie für mögliche neue Schwachstellen oder gibt Angreifern eine neue, kleine Waffe in die Hand, wenn wir die in der Praxis umgesetzt sehen und tatsächlich eine Menge Unternehmen auch dadurch Geld verlieren könnten. Also auch da sollte man Blick drauf haben und KI nicht nur als Spielerreibetrachten, sondern tatsächlich als möglicherweise eine wichtige Infrastruktur für die Zukunft. Gregor, hast du denn vielleicht auch letzte Woche in der Praxis was umgesetzt oder mit KI Geld verloren? Ja, also nicht soweit ich weiß, ich muss euch nochmal in Konto-Stand checken, ob Kloten, Mythos bereits, mein Konto leergeräumt hat, ich glaube, bis lange ist alles fein. Ich habe zwei Sachen gemacht, eine Sache für mich ziemlich abgefahren, also der komme ich gleich. Ich habe aber vor allem auch die Podcast-Serie, die Entscheidung über Facebook gehört. Über die haben wir vor ein paar Wochen schon mal hier im Podcast kurz gesprochen, als wir auch beim Mark Zuckerberg geredet haben. Unsere Kollegin Janik Nödler hier zu Gast im Podcast war wegen aktueller Entwicklung, wurde dieser Podcast dann ein bisschen nach hinten geschoben. Deswegen war der als wir ihn empfohlen haben noch gar nicht veröffentlicht. Haben Sie sich vielleicht ein paar gewundert. Wenn sich jemand dafür interessiert, unbedingt mal reinhören, ist nochmal verlinkt. Die Entscheidung über Facebook ist wirklich eine sehr spannende Kurzdokumentation in Podcast-Form. Und wenn man fertig ist, das anzuhören, Marie, hätte ich gerne, dass du dir ein bisschen was anderes anhörst. Ich habe am langkeinem KI Songs mehr Gefeatured hier im Podcast. Bitte schließt doch mal die Augen, erlehnt dich zurück und lausche diesem Meisterwerk. Marie, hast du ein Gefühl, warum es hier geht in diesem Meisterwerk? Ja, es geht um den Wahl in der Ostsee. Es ist total traurig und brutaler Schlager. Aber ich berühlt mich emotional. Ich weiß nicht, ob es vielleicht daran, dass ich meine Tage habe, aber ich hab gerade ein bisschen treten in den Augen, was es los ist. Da sollen noch jemand sagen, KI hätte nicht die Möglichkeit, Gefühle zu erzeugen. Oh Gott, ich muss kurz zu meiner Verteidigung. Es ist wirklich bescheidert, dass es Schlager-Song ist. Normalerweise weine ich nicht, weil so was geht um den Wahl. Es geht um die Wahl. Hat ich der Wahl eh mitgenommen, die letzten Wochen über? Bislang nicht, aber wenn ich dieses Lied höre, dann schon. Okay. Wir nehmen diese Folge am Samstag auf. Stand jetzt lebt der Wahl. Ich glaube, ich muss die Geschichte nicht nachher sehen, was los ist mit dem Wahl. Aber es stand jetzt lebt der Wahl in der Aussehen noch. Aber die Nachrichten werden immer schlechter, sieht immer schlechter aus um ihn. Und was es jetzt gibt auf Social Media. Es gibt eine natürlich große Welle der Sympathie für Timmy oder wie Leute ihn in dieser Szene nennen "Hob" hab ich gelernt. Und ich bin ein bisschen in dieses "Rabbit Hole" abgestiegen in den letzten Tagen. Weil, was die nämlich machen, ist sie posten solches Songs. Also, das, was wir gerade gehört haben, dieser Song, der ist. Das ist ein KI-Genere der Song. Den gibt's nicht den wirklich. Aber es hat sich halt jemand hingesetzt. Und gesagt, mach mal bitte einen emotionalen Pop-Schlager über den Wahl-Timmy. Beziehungsweise "Hob" und vor allem auch machen ein bisschen Vorwürfe der Politik. Weil es gibt eine Menge Leute, hab ich jetzt gelernt, die nicht sehr zufrieden sind, damit wie die Politik damit umgeht, die auch glauben, dass, glaube ich, Greenpeace und all diese Tierschutzorganisationen, die damit zu tun haben, dass die eine finste Verschwörung verwickelt sind, weil sie diesen Wahl in nur fürs Museum haben wollen. Also, ein bisschen das Übliche, was so passiert. Hat er sich nicht rätten? - Ja, genau. Ich glaub, das ist der Vorwurf. Der Vorwurf ist, wenn wir einfach diesen Wahl zu retten, aber man macht's halt nicht wegen dem Geld. Und. - Krat. Und jetzt machen diese Leute halt, früher hätten die sich in Kommentarschwalten gesammelt. Und mein hätte das ausgetauscht, hätte gesagt, ich bin dieser Meinung. Und dann hätte man sich irgendwie zu einer Demo verabredet. Und dann machen es die Posten-Videos von sich. In dem konkreten Fall postet sogar jemand ein Lipsync. Also er tut so, als wäre diesen Song selber singen. Und machen wir sie Protest-Songs für den Wahl. Das ist nicht der einzige, Marie, es gibt Dutzende Songs dieser Art. Es gibt Hunderte Videos, oft verbunden auch mit KI generierten Wahl-Videos, wo Wahl-Timmie wieder glücklich ist. So, oder so. Und da entsteht eine komplette Subkultur, die ja früher gar nicht möglich gewesen wäre, dass früher hätte man irgendwie ein Gebrauch, der tatsächlich sich hinsetzt und diesen Song schreibt und aufnimmt. Und so, und jetzt haben die halt ihre emotionalen Protesthümmen ohne irgendwelche Arbeit dafür machen zu müssen. Wow, also ist es eine riesige Bewegung oder eine kleine Nische? Oder wie schätzt es, dass einer es wird auf mich jetzt so groß, wenn ich diese Songs höre? Die glaubt, genau das ist der Punkt. Also in dem Moment, in dem man das Gefühl hat, jetzt gibt Songs und es gibt Videos und hochwertig produziertes Material. Es kriegt man wahrscheinlich, wenn man sich dafür interessiert, das Gefühl, das sind total viele, die dem Wahl so hinterherfiebern. Ich glaube nicht, dass das sehr viele sind. Ich glaube, das sind ein paar Tausend. Aber die können sich natürlich jetzt durch KI extrem groß machen. Also wie KI das eben immer macht. Sie gibt denjenigen, die bisher vielleicht nicht die Möglichkeiten hatten, Möglichkeiten, die Hand professioneller zu erscheinen. Das ist so die eine, hälfte davon. Es gilt aber noch eine Hälfte und dies noch abgefahren. Marie, schau dir mal bitte. Die Videos vorbereitet vielleicht, guckst du die mal kurz an und beschreibst, was du da siehst. Das sind die zwei Unterne. Okay, ich sehe ein Video, darüber, wie man hochwerten könnte. Ah, und das ist auch KI generiert und was? Krass, weil ich auf dem ersten Blick überhaupt nicht so total sicher sehe, ob das echt das oder nicht. Wir sehen den Wahl, der quasi mit so einer schwimmenden Barriere umstellt ist, wo Leute Wasser rein. Es ist ein bisschen schwer zu beschreiben. Mit solchen Wasserzuführen. Die Idee ist, man könnte diesen Wahl doch retten, indem man so eine Art Schwimmbäcken für ihn auf dem Strand baut und das mit Wasser füllt. Und dann kann er ja wieder schwimmen. Und dann schätzt sich trägt man diese Schwimmbäcken dann so rüber zu ins Meer. Also, es ist physikalisch, natürlich quatsch, weil wenn der gestrandet ist, kriegst du ja die Unterseite von dem Schwimmbad nicht unter ihn durch. Und dann kann man so was reinfüllen, so viel du willst, weil man fließt, das Wasser ja noch wieder raus. Du machst das genau richtig. Was du sagst, ist komplett richtig, ist es eine völlig unmögliche Möglichkeit, macht überhaupt keinen Sinn. Diese Geschichte, aber man kann es jetzt KI generieren. Und ihr sitzt quasi ein Account, die sich vorgestellt hat, "Hey, könnte man nicht diesen Wahl retten, indem man das so und so macht." Und früher hätte sie das einfach nur in den Kommentar oder so geschrieben. Jetzt kann sie ihre ziemlich bescheuerte Idee, "Wie so analysieren und auf einmal. " Und das ist doch die Verschwörungstheorie, warum macht das keiner? Dann sehen alle so, denken vielleicht sogar, es gibt solche Schwimmpuls, die man einfach nur kaufen müsste. Und da hinfahren müsste, oh Gott. Und das ist die zweite Hälfte. Auch das ist nicht das einzige Beispiel. Es gibt ein anderes Beispiel, was ich glaube, aber. Das siehst du gerade anglaublich? Ja. Genau, ich sehe einen Katta Maran, wo in der Mitte so eine Wahlhalterung ist, bei dem habe ich schon sofort den Wahl bekommen, das ist KI generiert. Eine absurd schwimbare Katta Maran-Konstruktion, wo in der Mitte der Wahl hängt und dann wird er freigelassen und dann applaudieren alle. Und jetzt schwimmt er glücklich auf den Horizont zu. Meine Güte, was für das ist mal ein Rabbit Hole, das du da gefunden hast. Also diese Videos haben alle nicht viele Klicks, die haben alle so ein paar Tausend likes. Das sind jetzt keine Mainstream-Riesen-Phänomener, aber natürlich sehen das Leute und denken erst mal, "Ach so ja, wenn das geht, ich süße ja hier." Also das ist was, was früher einfach nicht ging. Früher, in dem Moment, in dem ich ein Video gesehen habe, dachte ich, das ist der Technologie, die wahrscheinlich existiert. Und jetzt kann ich mir die besteuertste Idee, die ich habe, einfach KI generieren lassen und Leute denken, "Ja, okay, offensichtlich ist es umsetzbar." Also ist für mich so eine Schattenseite, der KI, die ich bisher wenig nachgedacht habe, nämlich, dass sie besonders absurde und auch einfach wissenschaftsfeindliche Ideen ein Stück weit legitimiert. Also wenn ich jemand bin, der glaubt, die Erde sei flach, dann kann ich mir jetzt auf einmal eine gruselig realistische Visualisierung davon machen lassen, wie das wäre, wenn die Erde flach wäre. Und alle denken, "Okay, ist ja genauso plausibel, wie das echte Bild." Und das ist schon, ich glaub, nicht, dass das uns so gut tun wird in unserer Kommunikation. - Ich seh in den Vorschlägen gerade noch so ein Black Hawk, den Fall, in Sicherheit fliegt und so meine Güter. Ja, ja, crazy. Aber das ist so genau das, was wir halt auch dann, weiß ich nicht, in einer anderen Seite.
Richtig in der Politik sehen, du kannst sehr leicht bestimmte Dinge realistisch aussehen lassen. Ja, krass. Ja, also, genau, meinen, was haben wir mit KI gemacht? Ist heute ein bisschen. Uff, ja, ein bisschen nachdenklich, hat mich das schon gestimmt. Wie Sie das Bett ihr ausmari, hast auch du dir Gedanken gemacht, wie du eingestrandet das Tier retten kannst mit KI. Nee, aber wie man Pflanzen retten kann mit KI. Ich hab mir gedacht, nachdem ich letzte Woche so viel traurige Geschichten erzählt hab von Freunden, die den Tag arbeiten. Hab ich diesmal was dabei von einer Freundin, die nicht in Tag arbeitet und die ihre kompletten Pflanzen ungetopft hat. Und mir erzählt, wie glücklich sie ist, dass Klo in dem Fall jeder bei helfen kann. Und das dachte ich, erzähle ich einfach, vielleicht sind andere Menschen auch gerade dabei zu überlegen, was ihre Toppflanzen eigentlich jetzt brauchen im Frühling. Also meine Freundin, Kori, Highkori, sagt über sich selbst, dass sie absolut keinen Grün daumen hat, dass sie keine Ahnung hat, dass das irgendwie total verunsichert. Wenn sie dann sieht, ihre Pflanzen brauchen neue Topfe. Aber die hat einfach jeden Schritt von Klod begleiten lassen. Also die hat da Fotos von den Pflanzen gemacht, hat sich erzählen lassen, was genau für Topfe die brauchen, wie groß waren auf welche Art man das macht. Hat ganz viele Nachfragen gestellt, zu der ganz bestimmten Mischung von Erde, hat dann gesagt, von diesem Mix hab ich jetzt aber nicht mehr genug, was soll ich denn dann alternativ machen? Hat dann die Pflanzen von der alten Erde befreit, hat dann den Wurzelstock hochgehoben und auch den Wurzelstock wieder als Foto an Klod gestickt, und gesagt, ne, was ist deine Diagnose, wie sieht das aus, worauf soll ich jetzt achten. Und genau, hat da, glaube ich, ein total schönen Nachmittag verbracht und mit viel mehr Selbstsicherheit, also ohne Klotzhilfe, der ihre ganzen Pflanzen in neue Topfe gebracht. Und das Saanauhäubchen war, dass sie gesagt hat, Klod hat dir dann auch noch Angeboten, Erinnerungen zu stellen, für wenn sie jetzt in einer Woche oder zwei, dann nochmal die nächsten Schritt gehen muss und nochmal was überprüfen muss, ob was gut angewachsen ist oder nochmal dann, wenn die Pflanze sich ein bisschen an den neuen Topf gewöhnt hat, nochmal so einen Mos, wie heißt das, so eine Moshalterung, dann noch anbringen muss, da hat Klod jetzt, laut der Erinnerung geschrieben, sodass sie dann zum richtigen Zeitpunkt nochmal bescheiden bekommt. Und genau, und ich hoffe, die Pflanzen überleben alle. Ja, sehr wichtig, super Idee und auch wichtig, das jetzt zu machen, bevor Kloten-Mütos neue Sicherheitslücken in Topppflanzen findet und die dann auf einmal alle angreifbar werden. Also das lohnt sich schön sich, da sich da möglichst früh Gedanken zu machen, dass es den gut geht. Ja, vielleicht, ja genau, Klod hilft in dem Fall der Pflanzenwelt gegen Leute, die keine Ahnung haben, was sie bitte, Topppflanzen machen und sonst ja. Auch ihr habt wieder was mit K.I. gemacht und zwar diesmal hat uns Karin geschrieben, Karin ist Rentnerin und sie hat eine große Bibliothek mit Zitat, entsetzlich vielen Bildbänden und ca. 650 zu lesenden, gelesenen und nicht gelesenen Büchern und auch sagt sie viele Bücher, von denen sie gar nicht weiß, ob sie sie hat. So und was sie gemacht hat und das war wohl auch eine etwas größere Operation, war es die Buchrücken der Bücher abzufotografieren, immer so 10 bis 15 Bücher auf einmal, das dauert schon ein bisschen und dann hat sich sich mit Google Gemini diese Bilder analysieren lassen und hat jetzt am Ende von diesem Projekt eine ausführliche Exsel Datei, in der sämtliche ihrer Bücher korrekt verzeichnet sind, also mit Name, Vornahme des Autors, Geburtsehades, Autos, Titel, wie sie sagt, auch geografische Einordnung des Inhalts und historische Einordnung und so weiter. Und das heißt, sie kann sich jetzt quasi, wenn sie einfach Lust hat irgendwie abends, "Hey, ich hätte gerne Lust auf einen historischen Roman in Spanien." Dann kann die DKI direkt sagen, welches jetzt das richtige Buch ist, um sich damit zu beschäftigen. Finde ich wirklich wahnsinnig charmant und auch kreativ, habe ich in der Form auch noch nie gehört und das nur mal so nebenbei bewickeln, oft E-Mails von Menschen, die vielleicht schon im Rentenalter sind, die dann sagen, "Oh, ich bin ja ja da nicht so fit wie ihr jungen Leute." Ist überhaupt nicht meine Erfahrung. Also es gibt eine Menge junge Leute, die sich mit KI sehr schwer tun und es gibt eine Menge ältere Menschen, die alles mögliche Kreative damit anstellen. Also es ist wirklich einfach nur eine Frage der eigenen Kreativität, wie man da vorgeht. Also Kudos an Dichkarin finde ich total schön und total sinnvoll und das ist auch mein Ziel, mal 650 Büchern zu haben, die ich kategorisieren kann. Mega cool, ja, vor allem wahrscheinlich kann die KI dann auch noch sagen, wo sie es findet, wo es dann der historische Roman der in Spanien spielt, weil die KI die Fotos kennt, kann das dir dann schon auch ungefähr sagen. Oh, das ist eine gute Frage. Ja, das ist eine gute Frage. Oder ja, das hat sie jetzt nicht mit dazu geschrieben, wäre vielleicht eine Idee wert, weil man ja auch zumindest die Bilder links und rechts sieht und dann weiß man zumindest was zu regeln. Ja, oder vielleicht ist dann auch noch eine Toppflanze mit auf dem Bild und dann kann es sagen, links von der Monsterrat, die du übrigens mal um Topfen solltest. Wir freuen uns, wenn ihr euren älteren und jüngeren Freunden und Freundinnen den KI-Podcast empfehlt, wenn ihr malen, dass die vielleicht auch sich für das Thema KI interessieren und wissen wollen, was sie damit am besten anstellen. Und wenn ihr mit uns fertig seid und mit den Wahlhits und mit dem Podcast die Entscheidung, dann haben wir einen tollen Podcast-Tipp der Woche für euch. Und zwar Freiheit Deluxe mit Jagoda Marinich. Hallo, ich bin Jagoda Marinich und in meinem Podcast Freiheit Deluxe treffe ich Menschen, die mich fasziniert haben, irritiert haben, die debatten geprägt haben von denen ich denke, da will ich mal nachhaken. Meine Gäste bringen ein Zitat zur Freiheit mit und von da aus starten wir unser freies Gespräch. Seit dabei und hört rein. Freiheit Deluxe mit Jagoda Marinich.
Podcast Summary
Key Points:
Anthropic hat das KI-Modell „Claude Mythos“ (dt. Aussprache) vorgestellt, aber nicht veröffentlicht – angeblich aus Sicherheitsgründen.
Das Modell soll außergewöhnliche Fähigkeiten in der Cybersicherheit besitzen, darunter das selbstständige Finden und Ausnutzen jahrelang unentdeckter Sicherheitslücken (z. B. eines 27 Jahre alten Fehlers).
Anthropic gründete mit Google, Microsoft, Nvidia und der Linux Foundation das Konsortium „Project Glass Wing“, um diese Risiken zu adressieren.
Es gibt Kritik
In Benchmarks ist Claude Mythos oft besser als Vorgänger, aber nicht in allen Bereichen; unabhängige Tests fehlen mangels öffentlichem Zugang.
Summary:
Anthropic hat mit Claude Mythos ein neues KI-Sprachmodell vorgestellt, das jedoch nicht öffentlich zugänglich ist. Der Grund: Das Modell sei so leistungsfähig, dass es ein erhebliches Sicherheitsrisiko darstelle – insbesondere im Bereich der Cybersicherheit. Laut dem 255-seitigen Systembericht kann Claude Mythos autonom sogenannte Zero-Day-Sicherheitslücken in Software aufspüren und ausnutzen, darunter einen 27 Jahre alten Fehler.
Diese Fähigkeit könnte die digitale Welt grundlegend verändern, da bisher selbst spezialisierte Teams solche Lücken oft jahrelang übersehen. Um die Risiken zu managen, hat Anthropic das Konsortium „Project Glass Wing“ mit Firmen wie Google, Microsoft, Nvidia und der Linux Foundation gegründet, um kritische Systeme vor einer breiten Veröffentlichung zu schützen.
Doch die Geschichte hat auch eine skeptische Seite: Kritiker vermuten, dass die Nichtveröffentlichung nicht nur Sicherheitsgründen folgt, sondern auch Marketing, Kosteneinsparung oder politische Signale (etwa im Streit mit der US-Regierung) dienen könnte.
Das Modell selbst ist in vielen Benchmarks führend, aber nicht in allen – und unabhängige Tests fehlen. Zudem zeigt der Bericht, dass Claude Mythos auch in kreativen Bereichen wie dem Schreiben beeindruckt, etwa mit der Kurzgeschichte „The Sign Painter“. Ob die Sicherheitsbedenken wirklich so dramatisch sind oder ob hier auch PR und wirtschaftliche Interessen mitspielen, bleibt offen.
FAQs
Das Modell heißt 'Claude Mythos' und wird im Deutschen als 'Mythos' ausgesprochen. Im Amerikanischen würde man 'Mythos' sagen.
Das Modell wird aus Sicherheitsgründen nicht veröffentlicht. Nur einige große Firmen erhalten Zugang, da es als zu gefährlich eingestuft wird, es der gesamten Welt zugänglich zu machen.
Es ist das erste Modell, für das eine Systemcard veröffentlicht wurde, die sein Verhalten und Testergebnisse beschreibt. Es übertrifft die meisten anderen Modelle in Benchmarks, besonders im Codieren und im Geschichtenschreiben.
Das Modell kann autonom sogenannte Zero-Day-Sicherheitslücken in Software entdecken und ausnutzen. Es fand einen 27 Jahre alten Bug, was eine neue Ära in der Cybersicherheit einläuten könnte.
Anthropic hat ein Konsortium mit Unternehmen wie Google, Microsoft und der Linux Foundation gegründet, um Sicherheitslücken zu schließen, bevor das Modell breit eingesetzt wird.
Ja, einige sehen darin gutes Marketing, da Anthropic so als verantwortungsbewusst dasteht und gleichzeitig PR erzeugt. Es gibt auch Spekulationen, dass das Modell vielleicht zu teuer im Betrieb wäre.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.