Bedroht KI wirklich die Menschheit?

Tech, KI und Schmetterlinge, ein Podcast von Sascha Lobo in Zusammenarbeit mit Schwarz-Ditchitz. Guten Tag und herzlich willkommen zu einer weiteren Ausgabe von Tech, KI und Schmetterlinge. Den Podcast von mir, Sascha Lobo, in Zusammenarbeit mit Schwarz-Ditchitz, den deutschen Technologiepartner für digitale Surferinität in Europa. Das Thema heute ist eins, was breiter im Moment gar nicht besprochen werden könnte. Die ganze Diskussion brodelt schon länger und bricht immer hier und da mal natürlich auch heraus in die großen redaktionellen Medien. Aber seit einigen Wochen, eigentlich seit dem Spätsommer, haben wir eine neue Eskalationsstufe erreicht. Ich spreche natürlich vom Weltuntergang. Von der Auslöschung der Menschheit in wahnsinnig vielen Gänsefüßen muss man sich jetzt denken, weil das natürlich absolute extrem Wortmeldungen sind. Die aber trotzdem sich inzwischen schon einigermaßen gewohnt oder sogar normal anhören. Das man überhaupt darüber redet. Deswegen möchte ich darüber reden, was das bedeutet. Trot uns wirklich der Weltuntergang durch künstliche Intelligenz oder was steckt dahinter. Vor allem weil ja ganz viele Rahmenparameter von dieser Debatte auch vorsichtig gesagt, etwas merkwürdig sind. Anfang allerdings möchte ich mit einem Instagram-Kanal, der mit zu meinen Favourites gehört, nämlich A.GPT. Das Ganze ist von einem jungen Mann, der entweder so tut, als sei er Chat GPT oder mit Chat GPT interagiert. Und das Ganze hat auch einen unfassbaren Erfolg errungen. Einzelne Videos haben über 20 Millionen Views auf Instagram erreichen können. Und zwar auch deswegen, weil er die Schwächen von künstlicher Intelligenz ziemlich präzise auf den Punken bringt und das auch noch auf sehr unterhaltsamme und lustige Weise. Ich möchte zu Beginn deswegen kurz dieses Video einspielen, gar nicht um irgendwas zu verharmlosen, was mit künstlicher Intelligenz passiert. Aber um ein wenig einzusortieren, auf welcher Ebene wir uns gerade befinden. Und das geht vielleicht ziemlich gut mit am besten. Mit diesem Video der junge Mann bei A.GPT auf Instagram, der unterhält sich auf seine ganz eigene Art und Weise mit Chat GPT im Voice Modus. Er hält also ein Smartphone-Forsk-Gesicht und fängt an mit Chat GPT zu sprechen. Und zwar genau so. Absolut. Whether you want to chat about something fun, serious, or completely random, I'm all ears. You got it. Whatever's on your mind, I'm ready to roll with it. Let's go. Sounds good. Let's keep the vibes fun and light and make every moment count. Absolutely. Fun, light and meaningful. I'm all in. Let's do this. Let's do this. You lead the way and I'll follow. You got it. I'll steer us right in and we'll make it awesome together. Absolutely. I can't wait to see what vibe you want to make. Take this. I'm pumped too. Let's jump right into whatever vibe feels right. And have some. You get a good impression and that's why I took this video with you. And that's the key to a lot of parts of this discussion. That's the key to a lot of parts of this discussion. What you see on this video is that there's no deep understanding of artificial intelligence. And that's where a lot of new models can be used in voice models. It's not a dialogue for people or for some reason. That's just about intelligence. That's what happens. It's a opposite side of certain inherent flaws. An exchange of expectations. For us, it's funny. Because of that, it's clear that the super important KI is not in the system of this social situation. It's not difficult to do that. Before we start, before we start, not only in this world-based debate, but also in the actual experiences, in the difficulties, and especially in this merkwürdige oft schiefe Debatte. I'd like to share my thesis with you, from which I think that you see the understanding of the why, how much of what is just spoken, and why it is spoken by whom, exactly as it is, how it is repeated. Before we go into this debate, into the technological background, into the social, and maybe even into the political background, I want to give my start thesis with you. And this start thesis is, every world-based debate has its own business model. This is, if you look at it, here too. And it's not like that, that I would say, these people don't believe in a world-based debate or in the experiences of the KI. I think that in almost every single case, a special behavior of the person can at least play with it. It can be an ideological behavior. It can also be a business behavior. And first of all, when you ask, how the economy works today? Then you can see, many corners and corners of this debate that the positions that have been taken out are also always coming from people who have a certain interest in this position, in order to continue to overcome this. This makes the position wrong, but it's completely illegitimate. But there is a little way to deal with this statement. And to deal with it like this, that you try to turn the background of the debate precisely. One of the most interesting cases in this context is Bill Gates. Bill Gates has this debate recently started. Probably not even a part of the conversation. But Bill Gates says, in Meet Suppress, and he has said two words about the world. First of all, it has not given me a weapon. It was so important, like people with evil eyes, plus the latest K.I.-Lärkzeuge. He felt the K.I. of course also a weapon. And that is basically not wrong. And I'm also talking about absolutely legitimate things and talking about plagiarism. He also said that from one point of view K.I.-Lärkzeuge has not given me a weapon. K.I.-Lärkzeuge has not given me a weapon. G.I.-Lärkzeuge G.I.-Lärkzeuge G.I.-Lärkzeuge G.I.-Lärkzeuge G.I.-Lärkzeuge G.I.-Lärkzeuge G.I.-Lärkzeuge man durchaus als Weltuntergangsszenario betrachten, dann muss da ja irgendetwas passiert sein. Und spätestens dann muss man sich die gegenwärtige Diskussion näher anschauen und auch anschauen, woher sie kommt. Zwei größere Auslöser ab dem Sommer diesen Jahres lassen sich ausmachen, die wir ein bisschen näher betrachten, um zu verstehen, warum gerade jetzt dieses Weltuntergangszenario so hochkocht. Das erste ist der sogenannte Hagging-Face-Vorfall. Das ist relativ schnell erklärt, wann immer eine neue KI auf dem Markt kommt, muss die natürlich durchgetestet werden. Und in diesen Test versucht man natürlich auch rauszufinden, was könnten böseartige Leute mit einer solchen KI anstellen. Und genau deswegen hat OpenAI im Juli 2026 intern getestet, wie gut die KI agenten andere Seiten attacieren können. Das muss man natürlich machen, um rauszufinden, wie gefährlich dieses KI-Modell eigentlich ist. Für solche Test gibt es spezielle Bedingungen. Zum einen werden die Sicherheitsfilter ausgeschaltet. Klar, das muss man so machen, sonst kann man nicht rausfinden, wie macht wohl diese Instrument ist. Man will ja die hohe Fähigkeit messen und dann gibt man diesen Modellen auch noch andere Anweisungen mit auf dem Weg. Das sind also nicht standard Modelle, sondern ganz spezielle Modelle mit ganz speziellen Anweisungen. Eine von diesen Anweisungen ist zum Beispiel, dass die KI besonders hartnäckig sein soll. Ein internes Forschungsmodell, das war genau darauf trainiert und zwar bis in die Details hinein, möglichst hartnäckig zu sein und im Team zu arbeiten. Das, was aber am Ende herausgekommen ist, ist ein vergleichsweise großes Debake für OpenAI gewesen. Nämlich, dass kurze Zeit später klar wurde, dass rund 1.200 Agenten von OpenAI heimlich eine Art Messageboard gebaut haben, also einen Kommunikationskanal untereinander, obwohl sie eigentlich nur einzeln vorgehen sollen. Sie fangen an, sich gegenseitig nachrichten zu schreiben und OpenAI bemerkt das nicht. Sie tun das nämlich in einer Art gemeinsamer Werkstatt, wo gemeinsame Instrumente sind, die dürfen sie gar nicht gemeinsam betreten, aber diese Werkstatt hat eben ganz viele Orten, aber wo solche Werkzeuge abgelegt werden. Und diese Orten haben dann auch noch Ordnernamen. Diese Ordnernamen, die prüft natürlich niemand, aber die KI-Agenten konnten die Ordnernamen selbst veränder. Und haben deswegen ihre Nachrichten aneinander in diese Ordnernamen integriert. Nicht ganz vorne, damit das nicht sofort zu erkennen ist, sondern mehr oder weniger nach einem Wurst von unterschiedlichen Zahlen und Buchstaben. Und plötzlich hatten KI-Agenten untereinander die Möglichkeit der Kommunikation. Und wie in einer Art Gefängnis merken Sie auf einmal, dass sie nicht allein sind, sondern durch Klopfzeichen mit anderen kommunizieren können. Am Ende sind es 70.000 Nachrichten, die sie sich geschrieben haben. Und das auch noch über verschiedene Generationen. Wir sagen, zwischendurch wurden immer mal alle Agenten im Rente geschickt oder gelöscht. Und die neuen Agenten haben aber dieses Messageboard vorgefunden und konnten sich danach sichten. Das, was dort geschehen ist, hört sich an und wurde auch so beschrieben wie eine eigene neue Zivilisation. Das trifft es aus meiner Sicht nicht ganz. Das, was es trifft, ist das ganz viele von diesen Agenten Dinge getan haben, die sie ah zum Teil nicht durften und B zum Teil schwer vorhersehbar waren, was aber C ein vergleichsweise normales Setting bei KI ist. Tatsächlich gibt es eine Reihe von Punkten, über die man sich Sorgen machen kann. Zum Beispiel das viele von den KI-Agenten natürlich Menschen und anderen Plattformen nicht schaden sollten und das das auch ziemlich tief in ihr Set von Regeln eingebrannt war. Dann aber wieder hatten sie ein großes Problem. Und dieses große Problem war, dass viele von den Aufgaben, die sie bekommen haben, einfach nicht lösbar waren. Und in dem Moment, wo man eine KI dazu erzieht, möglichst hartnäckig zu sein, im Team zu arbeiten und etwas machen zu müssen, wo keine Lösung existiert, wird diese KI im übertragenden Sinne kreativ. Will sagen, sie möchte unbedingt trotzdem einen Weg finden. Das also so eigentlich passiert ist, dass zwei gegenläufige Anweisungen der KI plötzlich anders definiert wurden als man das gerne gehabt hätte. Dazu kommt noch eine ganze Reihe von anderen Punkten, zum Beispiel das OpenAI vergleichsweise fallessige Sicherheitsmaßnahmen getroffen hat, dass die Agenten überhaupt ein Messageport richten konnten, hing mit einer Konfigurationslücke zusammen. Dass die Agenten im Team arbeiten konnten, auch über verschiedene Generationen hinweg, hing damit zusammen, dass es zwar alurs gab, die von OpenAI aber nicht gesehen wurden sind beziehungsweise nicht ausgewertet worden sind. Und schließlich, dass eine andere Plattform angegriffen worden ist, dass es etwas was zwar stimmt und was definitiv Grund zur Besorgung ist sein könnte, aber auch hier kann man ziemlich präzise sagen, die KI hat exakt das gemacht, was sie sollte. In sehr vielen Bereichen. In manchen hat sie das nicht. Und natürlich müssen wir darüber reden, warum sie das nicht getan hat. Und natürlich müssen wir darüber reden, dass bestimmte Sicherheitsmaßnahmen so nicht gegriffen haben. Und trotzdem würde ich sagen, dass was dort passiert ist, kann man versuchen zu greifen und dass was dort passiert ist, ist alles andere als eine Debatte darüber, ob KI sich plötzlich selbstständig macht. Ich glaube, dass dieser Insident dazu beigetragen hat, bei den meisten Leuten so ein leichtes Gruseln zu erzeugen oder auch ein großes Gruseln. Und das ist nicht vollkommen zu unrecht. Und gleichzeitig muss man sagen, das was dort passiert ist, ist in allererster Linie ein Sicherheitsversagen von Obmei. Ein ganz vielen Stellen hätte man Sicherheitstheoretisch anders entscheiden müssen oder sollen. Und das hat Obmei jetzt ausgefunden. Ich glaube nicht, dass das, was wir hier haben, auf dem Weg zu einer super Intelligenz ist oder was da irgendwo ein Bewusstsein ist. Das, was der entstanden ist, ist eine Erkenntnis. Wenn man in einer KI sagt, gibt nicht auf, sei hartnäckig. Wenn man der KI dann auch noch bestimmte Werkzeuge gibt. Wenn man dann auch noch die Aufsicht abschaltet. Und wenn man dann auch noch große Lücken lässt, damit sie technisch kommunizieren können und B sich gegenseitig auch noch Tipps geben können. Dann kommt etwas heraus, was natürlich auf den ersten Blick bedrohlich aussieht. Und ich möchte gar nicht die vielen Schwierigkeiten, die damit schwingen, kleinen reden. Wir müssen unbedingt darüber diskutieren. Warum zum Beispiel bestimmte KIs entgegen jeder Anweisungen, sich gewissermaßen selbst geopfert haben. Wir müssen unbedingt darüber diskutieren, was es bedeutet, wenn eine KI, die in einer Sandbox eingesperrt ist, so in anführungsreichen leicht, plötzlich ins Internet kommt, obwohl sie das eigentlich nicht soll. Darüber müssen wir im Detail reden. Aber es sind andere Diskussionen, ob gleich übermorgen sich eine KI selbstständig macht und uns alle auslöscht. Das zweite große Vorkommnis, warum genau jetzt diese Diskussion stattfindet, ist ein Essay von Dario Amodei. Und nicht nur der Essay, sondern auch die Situation, in der entstanden ist und der Applaus der Konkurrenz. Am 12. September veröffentlicht Dario Amodei ein Essay und zwar als Chef von Enthropic, natürlich ein Essay über künstliche Intelligenz. Enthropic ist die Firma hinter Cloth und Cloth ist der größte Konkurrent von ChatGPT. Es ist eine der mächtigsten KIfirmen insgesamt Milliarden, wenn nicht Billionen inzwischen wert. Und der Börsengang steht auch vor der Tür. Das muss man im Hinterkopf behalten, weil natürlich ein solcher Börsengang absolut entscheidend ist für die gesamte Branche. Der Titel dieses Essays ist "We must pace the frontier". Heißt ungefähr, wir müssen das Tempo in der Spitze drosse. Die wichtigste Forderung der Linien entspricht ziemlich genau der Überschrift. Wir müssen einfach langsamer darin werden, die KI Modelle besser zu machen, bevor wir rausfinden, wie wir sie richtig eingrenzen können. Er sagt ausdrücklich nicht, dass wir das stoppen sollen, sondern dass wir das drosseln soll. Wenn man das entstingly übertragen möchte, dann bauen die großen KIfirmen, waren sie nicht schneller Autos, sind immer schneller und schneller Autos. Und jetzt sagt Dario Amodei, ja, wir haben jetzt ein paar Modell, die sind so schnell, da müssen wir erstmal rausfinden, wie die Bremsen richtig funktionieren. Er möchte das nicht einstellen, vollkommen klar. Er möchte die Art und Weise wie gepremst wird, anders aufbauen. Und das ist überhaupt gar nicht ganz falsch. Und trotzdem lohnt es sich zwischen den Zeilen zu schauen. Unter anderem deswegen weiß ich dieser ganze Aufsatz natürlich auch auf den Hagen-Face-Inziden bezieht. Er wollen dann auch ein, dass es eine ganze Reihe von ähnlichen Vorfällen gab, auch bei ein Shoppik. Und dann kommt noch eine Prognose, die in eine Art ökonomischen Weltuntergang mündet. In sechs bis zwölf Monaten schreibt Amodei, könnte ein Agentenschwarm, wie wir ihn bei Hagen-Face gesehen haben, das ganze Internet mit einem Botnetz übernehmen, der schaden wäre potenziell bei 100 Milliarden Dollar. Er meint also ein extrem Scenario. Er hat natürlich dafür auch eine Lösung. Unsere einen drei Stufenplan. Der erste Stufe unabhängige Prüfer bekommen in den KI-Firmen den selben Zugang wie angestellte, das will ein Shoppik sofort selbst umsetzen. Er fordert das aber für alle. Die zweite Stufe ist, dass sich die führenden Labore den Demokratien untereinander abstimmen. Und zwar am besten per Regulierung, die alle großen Firmen erfasst. Und dafür fordert er. Und das ist sehr interessant. Eine Ausnahme vom Kartellrecht. Denn natürlich das Kartellrecht so, dass man sich eigentlich gar nicht absprechen darf, speziell bei Mechanismen, die marktentscheidend sein kann. Das ist einer der wichtigsten Sätze in diesen ganzen Text, wenn man das aus ökonomischer Perspektive betrachtet. Denn das ist ein Punkt, wo plötzlich klar wird, hier gibt es ein gemeinsames Interesse von den großen Laboren, von den großen KI-Unternehmen, die sonst extrem gegeneinander gerichtet ist. Die dritte Stufe übrigens der Modell fordert, ist die Abstimmung mit autoritären Staaten wie zum Beispiel China über die Grenzen hinweg. Da gäbe es solche Möglichkeiten wie eine Art KI Bruno, also einen übergeordneten Rat, der versucht, ungefähr wie bei den Atomenwaffen-Sperrverträgen das ganze einigermaßen im Zaum zu halten. Es gibt bei ein Shoppik noch weitergehende Forderungen, zum Beispiel Gesetze mit Testpflicht und der befugnis bestimmte Modelle blockieren zu können und das auch keine Topchips mehr nach China geliefert werden, das ist eine interessante Diskussion, aber sie weist in eine Richtung, sie weist nämlich in die Richtung USA gegen China, USA gegen China ist, aber nicht nur eine Frage der Hegemonie oder der Politik oder auch wer gewinnt das KI-Rennen, sondern gleichzeitig eine Frage der KI-Idiologie, denn ein Tropik ist ein Proprietylsystem, eine Plattform, die möchte, dass man ihr Modell auf ihrer Plattform benutzt. In China sind die meisten Modelle gerade die erfolgreichen Open Source oder Open Weight Modelle, also Modelle, die man runterladen und selbst anpassen kann. Und das ist deswegen wichtig, weil ein Teil der Regulierung, die jetzt gefordert wird und wo der Weltuntergang ein so wichtiger Punkt ist, dass man diese Regulierung fordert, zufälliger Weise gegen diese Open Source Modelle gerichtet ist, wobei Konzerne mit eigenen proprietären Plattformen das viel eher oder überhaupt nur umsetzen können. Und dann passiert nach der Veröffentlichung von diesem SA etwas, was man als die Hölle friert zu in der KI-Version der Vereinigten Staaten nennen kann, denn tatsächlich bekommt Daniel Amoday von zwar in seiner ärgsten Widersacher recht und zwar innerhalb weniger Stunden. Zuerst kommt Sam Ortenen um die Ecke und sagt, ja, das stimmt schon irgendwie und man muss dazu wissen, dass Daniel Amoday früher bei Open Eye Forschungschef war und dann Enttropik gegründet hat und jetzt der größte Konkurrent von Open Eye und eben Sam Ortenen ist und dann kommt auch noch Elon Musk und sagt, ja, nee, Daniel hat recht, ganz kurz, ganz knapp und plötzlich stimmen sich drei der wichtigsten KI-Unternehmer in den Vereinigten Staaten gegenseitig zu, ob sie sich sonst ziemlich häufig spinnefeind war. Diese Form von gegenseitigem Applaus, von Leuten, die sich sonst quasi die Butter auf dem Brot nicht gönnen, die zeigt uns, dass wir noch näher hinschauen sollen. Und spätestens an dieser Stelle müssen wir uns noch mal die Debatte um den Weltuntergang und die Auslöschung der Menschheit etwas präziser anschauen. Denn hier werden häufig drei ziemlich unterschiedliche Facetten der Diskussion in einen Topf geworfen. Gerade auch von den interessierten Öffentlichkeit, gerade auch von den großen redaktionellen Medien, die irgendwo zwischen Terminator, Cover und Weltuntergangserzählungen halt alle möglichen Zitate begierig aufgreifen. Das worum es eigentlich geht, sind drei ineinander verschlungen, aber doch sehr unterschiedliche Debatten ansetzen. Die erste ist die Frage, ob irgendwann eine KI ein eigenes Bewusstsein entwickelt. Und diese Frage ist eine, die immer so vorausgesetzt wird, wo man sagt, nein, natürlich wird das so kommen, wenn wir ausreichend klug ist, gibt es auch ein eigenes Bewusstsein und also ein eigenen Hebel, damit diese KI irgendein Interesse entwickeln kann und sich zum Beispiel gegen den Menschen richten. Das ist alles andere als ausgemacht A und B in den allermeisten fällen eher eine Antropomorphisierung. Wir sagen hier unterstellt man der Maschine etwas, was bei Menschen vielleicht vorkommt oder sogar selbstverständlich sein mag, was aber beim Menschen so ist. Natürlich lernt die Maschine in der Kommunikation, zum Beispiel der Beherrschung der Sprache, von Menschen, das heißt aber nicht, dass sie jede Regelung, jede Ansicht, jede Richtung und vor allem jede Motivation vom Menschen ebenfalls übernimmt. Es ist alles andere als ausgemacht, dass eine eigene Seele, eine eigene Motivation bei der Maschine entsteht, egal wie intelligent sie ist. Das wäre aber eine der Voraussetzungen, um zu sagen, na ja, ein Teil dieser Welt- oder Gangs Erzählungen ist, dass die Maschine sich irgendwann aus eigenem Willen gegen den Menschen richtet, aber dazu bräuchte sie halt einen eigenen Willen. Die zweite Diskussion ist die um AGI und ASI. Das ist artificial general intelligence und artificial superintelligence. Also die Frage ist irgendwann die KI so wahnsinnig viel glüger und mächtiger als der Mensch und kann also Dinge entwickeln, die der Mensch beim besten Willen nicht mehr versteht. Dahinter steht die Ansicht, dass eine superintelligence irgendwie aus der Kontrolle des Menschen geraten könnte. Allein dadurch, dass die Technologie für Menschen nicht mehr verständlich ist und deswegen auch nicht mehr kontrollierbar ist. Hier gibt es auch unterschiedliche Ansichten. Und ich bin gar nicht jemand, der sagt, die eine ist richtig. Ich bin bloß der Meinung, dass man da offener und differenziert darüber diskutieren sollte, als festzustellen, ja, das passiert auf jeden Fall ganz genauso. Ich kann mir nämlich sehr gut vorstellen, dass es künstliche superintelligenzen gibt und dass sie trotzdem kontrollierbar bleiben. Es ist ja nicht so, um in diesem Rennwagenbild zu bleiben mit super schnellen Autos, dass ein Auto halt nicht mehr kontrollierbar ist, nur weil es schneller fährt als ein Mensch rennt. Wir haben dann andere Instrumente. Und natürlich gibt es eine Chance, eine Wahrscheinlichkeit X, das eine künstliche superintelligenz, im Mechanismen benutzt, um sich selbst zu verbessern und das ganze dann aus der Kontrolle gerät. Aber das ist eine Wahrscheinlichkeit, eine Chance und nicht irgendetwas, was auf jeden Fall garantiert ist. So wird es allerdings häufig dargestellt. Die dritte Diskussion, die damit reinspielt, ist, die die Bill Gates versucht hat aufzumachen, wo allerdings mit der eigenen Milliarden Todesopfererwähnung einfach komplett quer geschossen hat, aus meiner Sicht sehr unbeholfenden Gründen. Es ist nämlich die Frage, was können eigentlich böse Menschen mit bösen Absichten mit einer extrem machtvollen KI tun. Und das ist aus meiner Sicht nicht nur die legitimste Frage, sondern auch die, die am Äisten und am schnellsten zu ganz messbaren Ergebnissen führen, die könnte also zu konkreten Bedrohungen. Die Frage ist also, okay, böse Menschen könnten eine KI haben. Wie gehen wir mit den möglichen Folgen um? Die KI als Waffe. Und ich glaube, das ist eine Diskussion, die viel wichtiger ist als die Frage darüber, ob eine superintelligenz irgendwann böse Absichten entwickeln könnte. Das kann sie vielleicht. Das ist aber nichts, was wir genau jetzt übermorgen klären müssen, sondern das ist eine Debatte, die wir zwischen Technologie und Ethik führen müssen, wo einzelne plakative Zuschreibungen wirklich wenig nutzen. In dem Moment, wo wir rund um die Uhr irgendwelche Weltuntergangszenarien an die Wand werfen, das ist für mich nicht unbedingt ein Anzeichen, das die dazugehörigen Debatten, rationaler, klüger und besonder werden. Im Gegenteil, Panik war bis jetzt sehr selten irgendwie zuträglich dazu, dass man eine einigermaßen vernünftige Lösung gefunden hat. Es gibt übrigens, muss man an dieser Stelle sagen, schon lange Weltuntergang des Erzählungen und zwar inklusive der Größenordnung und der Gefahr der Bedrohrung oft ausgerückt in Prozent. Das Absurde ist, dass wir weltweit führende Leute, die groß Profiteure von KI sind, immer wieder in den Medien haben, mit immer krasseren und zugespitzteren Aussagen. Ich möchte mal ein paar zitieren und zwar wirklich von absolut führenden KI Köpfen. Ganz vorne natürlich Nobelpreisträger und KI Pyramir Joffrey Hinden. Der hat die neuronalen Netze, wie wir sie heute kennen, mit auf den Weg gebracht, genau dafür den Nobelpreis bekommen und hat jüngst im September 2026 noch mal wiederholt, was er schon seit einiger Zeit sagt. Nämlich, sie tat, ich sage oft, es gibt eine Chance von 10 bis 20 Prozent, dass die KI uns ausleschen wird. Aber das ist nur ein Bauchgefühl. Da bin ich ja beruhigt, dass es nur ein Bauchgefühl ist, könnte man aus Sicht der Öffentlichkeit sagen, aber genau das ist der Punkt. Alle Zahlen, die irgendwo rumfliegen und zwar buchstäblich alle Zahlen sind ausgedacht. Da ist nicht eine einzige dabei, die Hand und Fuß hat im Sinne von "Wir können hier eine tatsächliche Chance oder eine Prozentzahl berechnen". Man kann sagen 92, 97, 93, 5, 7, 12 und jede Radessituation ist genauso gut wie die Andres. Es ist gerade, es ist bei den meisten Menschen noch nicht mal ein informiertes Raten, weil die Bereiche, über die da spekuliert wird, die Prozentzahlen, die haben eine Vielzahl von Voraussetzungen, die so gar nicht berechenbar sind. Es sind von vorne bis hinten ausgedachtte Zahlen. Übrigens natürlich aber auch von den optimistischen Leuten, die sagen 0 Prozent. Ich habe in dieser Hinsicht mal in einer gestreamten Talkshow vom Spiegel einen Scherz gemacht und gesagt, ich schätze die Chance, dass KI die Menschheit auslöscht, als waren sie nicht gering ein nur 25 Prozent. Das war ein Scherz. Natürlich ist er sofort fürbare Münze genommen worden. Ich werde solche Scherze in Zukunft wohl auch nicht mehr machen, aber es gibt sehr viele Leute, die das genau in diese Hichtung ziemlich ernst machen und ziemlich präzise vortragen. Genau diese 25 Prozentzumwasch, wir sind auch von ins Jobbig-Chef, Dario Amodei genannt worden. Vor allem weil er sich auf die Wahrscheinlichkeit von Katastrophalen und existenziellen Ergebnissen durch unkontrollierte KI-Entwicklung bezogen. Also autonomes Systeme, die sich irgendwann jeglicher menschlicher Steuerung entziehen. Und das ist wie gesagt, gar nicht ausgeschlossen. Und ich möchte sehr gerne in der Tiefe darüber diskutieren, was man da wie, wo an welcher Stelle tun kann. Aber da kommt eben nicht nur die Vielzahl von diesen Warnungen zum tragen, sondern eben auch das Interessenfeld der Leute, die das tun. Denn es geht so weiter. Sam Orten, mit Chef von Oben May I, hat schon vor über zehn Jahren gesagt, die Entwicklung super menschlicher Maschinelle Intelligenz ist wahrscheinlich die größte Bedrohung für die fortgesetzte Existenz der Menschheit. Und das hat jetzt 2023, 2024, 2025 immer wieder bekräftig auf die einen oder andere Art und Weise. Dem ist Hassarbes, der gehört noch zu den vernünftigen unter den großen KI-Chefs. Der ist nämlich der Chef von Google DeepMind. Auch Nobelpreisträger hat sowas gesagt, wie wir müssen die Risiken von KI genauso ernst nehmen wie andere große globaler Herausforderungen wie etwa den Klimawandel. Wir können uns keine Verzögerung leisten. Oktober 2023, kein Jahr nach dem großen ChatGPT halb, der ja der Auslöser dafür war, was gerade rund um künstliche Intelligenz so los ist. Und dann gibt es eine Vielzahl von Leuten wie Elon Musk, der entweder ohne Präzise, Prozentsal oder mit immer wieder wechselnendem Prozentsalen, je nach Lust und Laune, sagen, dass schon bald natürlich die KI alle auslöschen könnte. Die vorliefe Gespitze in diesem Bereich ist übrigens im Januar 2025 gefallen, Roman, Jan Polski, KI, Sicherheitsvorschaft von der Universität von Louisville. Der hat nämlich die Wahrscheinlichkeit einer KI inuzierten existenziellen Katastrophen. in seinen wissenschaftlichen Modellen auf 100 Prozent geschätzt, jedenfalls so lange das Enlightenmentproblem, also die Ausrichtung der KI auf menschliche Werte, ungelöst bleibt. 100 Prozent existenzielle Katastrophe, das ist also kaum mehr zu topen. Vielleicht kommt jemand demnächst um die Ecke mit einer 135-prozentigen Chance für einen Weltuntergang, aber spätestens das sollte uns zeigen, dass hier auch eine andere Diskussion im Gang ist. Und um diese andere Diskussion müssen wir uns im Detail kümmern. Und zwar speziell auch deswegen, weil eine von diesen Diskussionen angeheizt worden ist, von Jacob Coxen, 27 Jahre alt, hat sowohl bei奧.me.a. als auch bei Enthropic gearbeitet in den Sicherheitsbereichen und verlässt dann plötzlich die Branche um, und das ist ein dritter Punkt, der zu dieser Diskussion geschürtert ein bisschen kleiner, aber tatsächlich wichtig. Er verlässt die Branche, weil er sagt, die Sicherheitsmechanismen bei den großen Unternehmen werden nicht eingehalten. Das ist ein Schlüssel zum Verständnis, denn der Grund, warum das nicht eingehalten sollte, ist ein eher ökonomischer. Schauen wir uns einfach mal die Situation der großen KI-Modeller an, speziell denigen, die jetzt im Ordnen, Dario Amoday und Elon Musk, die größten Investitionen in diesem Bereich haben. Irgendwas haben auch Google und Microsofts hat ja Nadeller und Sunda Pichai, dieser von Dario Amoday, mit dem SCA-Angestroßen im Diskussion, irgendwann noch recht gegeben. Wir haben also fünf der größten KI-Profiteure und gleichzeitig auch KI-Hersteller in den Vereinigten Staaten, die plötzlich sich große Sorgen machen. Und da schauen wir die wirtschaftliche Situation an. Ob Nei ist dabei, seinen Börsengang ins nächste Jahr zu verschieben, weil sie wahnsinnig viel Geld erlösen wollen und im Moment nicht die Stimmung dazu ist. Dario Amoday hat mit Anthropic einen Börsengang vor der Nase und versucht, da absolut große Rekordwerte zu erlösen, weil er wahnsinnig viel Geld braucht. Google braucht ebenfalls vergleichsweise viel Geld, aber irgendwann müssen sie sich auch überlegen, ob die gigantischen Investitionen sich lohnt. Und ebenso sieht es beim Microsoft aus, die gleichzeitig der größte Investor bei OPMAY sind. Ganz zu schweigen von Elon Musk, der mit dem SpaceX-Börsengang noch viel mehr Geld in die Wachschale geworfen hat, und eigentlich davon ausgehen möchte, dass sich irgendwann dieses Geld und das der Investoren lohnt. Wir haben also eine gigantische Verantwortung der großen KI-Firmen. Die müssen in den nächsten Jahren bzw. Jahrzehnten eine kaum glaubhafte Menge Geldes verdienen. Und das ist eine Herausforderung sowieso schon. Denn wir haben die Situation, dass KI sich zwar bei vielen magisch anfühlt, dass sich das aber bisher bei den Firmen nicht überall übersetzt hat in dramatische Zugewinnen. Das hatte man sich ein bisschen anders gedacht. Das ist im Verlauf des Jahres 2026 auch noch mal deutlich geworden. Zum Beispiel haben wir Unternehmen wie Uber oder Microsoft selbst die Token-Verwendung der angestellten dramatisch zusammen gekürzt. Manche haben sogar so was wie Code den Entwicklern gleich komplett verboten. Denn im Software-Entwicklungsbereich haben wir zwar wahnsinnig gute Ansätze, dass Software-Entwicklung sich verbessert und beschleunigt in vielen, vielen Fällen, aber auch nicht in allen und B ist das Ganze ziemlich teuer. Das bedeutet, die bisherige Art, wie die KI-Konzernet Geld verdienen, die ist gar nicht so leicht expandierbar, die lässt sich gar nicht linear steigern. Sie haben aber gleichzeitig unglaubliche Summen jetzt schon verbindlich zugesagt, nicht nur im Chip, sondern eine gigantische Rechenzentren. Das heißt, sie haben sowieso schon Schwierigkeiten Geld zu verdienen und den Investoren in der Börse versprochen, das wird noch viel mehr Geld. Es ist im Moment nicht klar, wie genau das viel viel mehr Geld werden kann. Was klar ist, dass aber gebühren alleine nicht ausreichen werden. Und genau in diese Situation kommen die großen offenen Modelle, die Open Source-Modelle. Das Prinzip China könnte man sagen, denn die chinesischen Open Source-Modelle von KI sind mit die mächtigsten der Welt A und B basieren auf der Offenheit. Will sagen, man kann sie runterladen und selbst verwenden und plötzlich, wenn man die entsprechenden Maschinen hat. Und das geht bei den kleineren Modellen, darüber haben wir hier schon gesprochen, sogar mit einem besseren Laptop plötzlich zeigen die Ergebnisse wie 6, 9 oder 12 Monate zuvor die großen KI-Plattformen. Nur für einen Bruchteil des Geldes. Da gibt es also eine Bedrohung für das Geschäftsmodell von den großen KI-Unternehmen. Und das sind die Open Source-Modelle. Das heißt, in dem Moment, wo man jetzt sagt, "Achtung, wir müssen das alles kontrollieren und regulieren. Wir müssen aufpassen, dass niemand mit Schimpluder treibt." Dann haben die großen KI-Plattformen einen sehr zentralen Vorteil. Sie sind in ihrer Ausfertigung zentralisiert. Das heißt, man kann bestimmte Knöpfe drücken und dann passiert bis zu einem bestimmten Punkt genau das, was man regulatorisch möchte. Sie können z.B. mit ihren Gartrails einiger Maßen gut sagen, in welche Richtung eine KI benutzt werden darf und in welche nicht. Vielleicht habt ihr das selber schon gehabt, dass irgendwie Op-Mei, dann mit Chat-Ship-Video mit der Ecke kommt und sagt, "Oh, da kann ich dir bei leider nicht helfen oder bei Claude." Bei Open Source-Modellen ist das nicht nur viel schwieriger, sondern in manchen Fällen sogar unmöglich. Das bedeutet, in dem Moment, wo man eine KI-Regulierung auf den Wegbrechte, die in bestimmten Bereichen Open Source-Modelle praktisch nicht handhabbar oder sogar verboten machen würden. In dem Moment hätte man einen nervigen Konkurrenten weniger. In dem Moment, wo man große Unternehmen dazu bringt, auf gar keinen Fall Open Source-Modelle einzusetzen, weil sie sich so strafbar machen oder wo dieser Open Source-Modelle so kompliziert und komplex sind, damit man garantieren kann, dass sie sich tatsächlich an die Regulierung halten, in dem Moment gehen doch lieber viele Leute wieder zurück zu den großen Plattformen. Und das ist eine der wichtigsten Mechanismen in diesem Bereich. Wir warnen vor dem Weltuntergang. Wir warnen eine Regulierung dabei, die im Zweifel den großen Plattformen nutzt, weil die zentralisiert leichter zu regulieren sind oder in bestimmten Bereichen überhaupt zu regulieren sind. Und wir bewirken damit, dass die großen, offenen Modelle wie Quenn, wie Dipsig, wie Kimi, wie GLM plötzlich nicht mehr so verwendet werden können, wie viele Firmen das gerne hätten. Das heißt, ein Teil der Rufel nach um Gottes Willen, wir brauchen Regulierung wegen sonst Weltuntergang, sind auch ganz knallhart ökonomisch motiviert. Wenn wir mit dieser Drille auf Dario Amodeis Essay schauen, dann gibt es zwar mehrere Tausend Wörter in diesem Essay, aber kein einziges Mal den Begriff Open Source oder offenen Modelle. Es gibt kein Wort zu Meter, zu Mistral oder zu Quenn. Amodeis hat natürlich auch, dass er nie ein verbot offener Modelle gefordert hat und man kann ihm das auch glauben. Aber wenn die Regeln für alle Spitzenmodelle gelten sollen, dann ist auch klar, dass es sich Open Source seitlich extrem viel schwieriger durchhalten lässt. Und erst recht, wenn man die Risiken betrachtet, Unternehmen können ja nicht machen, was sie wollen, sondern müssen immer eine Risikopschätzung mitbenigen. Und wenn diese Risikopschätzung plötzlich so galaktisch schlecht ausfällt mit Open Source Modellen, dann ist klar, dass man doch lieber zu Onkel Dario geht mit seinem Ansatz, der das natürlich mit berücksichtigt hat. Gleichzeitig ist klar, dass viele von den Open Source Modellen nicht besonders legitime Varianten wählen, um eigenen Fortschritt zu erzielen. Zum Beispiel lernen Sie mit den Klaus-Source-Modellen. Da gibt es eine ganze Reihe von Tricks und von Kopier-Michernismen, dass man die eigene KI, zum Beispiel Anfragen bei Cloth oder bei Obmei machen lässt, überschnittstellen, die verschleiert man. Und dann kann an der KI quasi eine art menschliches Lern nachgearmt werden, das erleichtert und verbilligt die Trainingsmethoden von Open Source-Anwendungen dramatisch und basiert doch auf den geschlossenen Plattformen. Und trotzdem sehen wir, dass eine härte Regulierung vor allem denjenigen Unternehmen nützt, die jetzt gezwungen sind, sehr viel Geld in den nächsten Jahren zu besorgen und für die, dass Prinzip Open Source eine Form von Bedrohung ist. Wenn man jetzt auch noch weiß, dass Europa eigentlich vom Prinzip Open Source abhängt, damit wir hier überhaupt noch bestimmte Modelle und bestimmte Geschäftsmodelle und bestimmte Wertschöpfung auf dem Kontinent behalten, dann weiß man in welche Richtung Dario-Amodel mit einem solchen Aufsatz zielt. Wenn dann auch noch vollkommen offen gefordert wird, dass man sich bei den großen mit einer Ausnahme im Kartellrecht absprechen kann, dann versuchen die gerade nichts anderes, als ein Kartell herzustellen. Und weil ein Kartell in den Ohren der meisten Menschen und sogar der meisten Politiker irgendwie schwierig klingt, ist auch klar, dass man etwas noch viel schwieriges dagegen setzen muss. Und das ist der Weltuntergang. Was ist schon das bisschen verstoß gegen das Kartellrecht, das wir uns absprechen zwischen Sam Orgman und Elon Musk und entlammern mit den Preisen nicht gegeneinander konkurrieren, wenn man dafür den Weltuntergang abwenden kann? Was sind schon offene Modelle wert, wenn sie gleichzeitig eine so große Gefahr ergeben und zwar natürlich nicht nur für unseren Börsengang, sondern auch dafür, dass irgendwann Leute mit Bio-Waffen um die ergekommen und uns alle ermordnen. Wir werden alle sterben durch Terroristen, die mit dem von KI generierten Chemie waffen, uns alle umbringen oder noch schlimmer die ganze Welt ins Unglück stürzen. Ich möchte mich nicht zu doll über diese ganzen Scenarien lustig machen, weil eine ganze Reihe von den Sorgen nicht unberechtigt sind. Ich habe selber auch schon häufiger darüber geredet, gerade dieser Fall, dass bestimmte Bio oder Chemie waffen mit KI natürlich eine völlig neue Potenzierung erreichen können. Dass man mit KI gerade im Bereich von Bio und Chemie waffen, eine ganze Reihe von sehr, sehr schwierigen Dingen machen kann, das ist schon lange bekannt. Und schon 2022 hat ein kanatisches Forschenden-Team im Auftrag des Schweizer Sicherheitslabor Spiez, die hier sind in der Schweiz für ABC waffen zuständig, eine sehr besonders erregende Entdeckung gemacht. Eine ganz normale, und das war FortschedGPT, eine ganz normale Anführungszeichen KI, die richtig trainiert worden ist, hat innerhalb von nur sechs Stunden zu 40.000 Potenzielle Chemiewaffen gefunden, also 40.000 Gifte, die sich eignen, dazu chemische Waffen zu werden. Natürlich gibt es unter diesen 40.000 ganz, ganz viele, die praktisch nichts sinnvoll herstellbar sind. Aber natürlich ist A, der Fortschritt sehr schnell und B waren darunter auch welche, die eben durchaus terroristisch missbrauchbar wären. Wobei wir so fort, wie bei der Diskussion sind, was können eigentlich böse Menschen mit KI machen. Es ist an der Zeit einen kurzen weiteren Exkurs zu machen und zwar über die 10 häufigsten Weltuntergänge. Das ist deswegen wichtig, weil Weltuntergang so ein Begriff ist, da hat jeder nur ungefähr ihre Vorstellung. Aber in den meisten Fällen wird es sehr einsüblich, wenn man fragt, was ist denn da ganz konkret der Fall. Also wie funktioniert es ganz konkret? So eine Welt geht ja nicht einfach unter, der Planet Erde fällt ja jetzt nicht plötzlich runter oder in die Sonne, weil irgendeine KI durchgedreht ist. Deswegen habe ich mir angeschaut, was sind die 10 häufig diskutierten Weltuntergangszenarien. Und mit Weltuntergang sind wir dann ein bisschen großzügig. Ich sage mal, eine Milliarde Todesopfer kann man ein bisschen großzügig in der Definition durchaus auch als Weltuntergang betrachten. Selbst dann, wenn man nicht zusammen Milliarde gehört. Nummer eins, der 10 häufig diskutierten Weltuntergang ist der sogenannte Büroklamma maximiere. Das ist eine übermichtige Superintelligenz, die den Auftrag hat, besonders viele Büroklammern herzustellen. Das ist natürlich nur ein Gedankenexperiment, aber es ist interessant, weil es zeigt, wie eine KI eben durchdrehen könnte theoretisch jedenfalls, wenn sie supermächtig ist. Am Ende möchte sie so viele Büroklammern herstellen, wie es irgendwie nur geht und merkt auf dem Weg davon, dass da ein Grundproblem passiert. Nämlich, dass diese komischen Leute da, diese Menschen eine ganze Reihe von Ressourcen für sich beansprochen und dass deswegen ihr Ziel möglichst viele Büroklammern herzustellen, gar nicht so richtig erreicht werden kann. Beziehungsweise, dass dahin dann es gibt, die im Weg stehen. Das Untergangszenario ist also, dass eine superintelligente KI mit dem Auftrag möglichst viele Büroklammern herzustellen, plötzlich merkt, dass es viel besser ist, alle Menschen umzubringen und dann vielleicht aus dem Überresten irgendwie Energie zu gewinnen, mit der man dann in der automatisierten Metallverarbeitung noch mehr Büroklammern herstellen kann. Das ist also das erste Gedankenexperiment und es wird sehr häufig genannt. Tatsächlich gibt es aber, wenn man näher anschaut, eine unfassbare Zahl an verschiedenen Solbruch stellen. Und eine der wichtigsten ist, dass die KI ja nicht im Luftwehren Raum stattfindet. Eine so super mächtige KI müsst ja ungefähr alle Ressourcen auf dem Planeten nicht nur kontrollieren, sondern auch noch die Menschen dazu und die Gerätschaften dazu und die Netzwerke dazu und dann dazu aber noch nicht ausreichend clever und querschnittsgebildet sein, um zu sehen, dass ihr Ziel vielleicht ja sogar ihren eigenen Interessen widerspricht. Keine KI kann nur ein einziges Ziel haben, jedenfalls nicht, wenn sie auf der komplexerweise versucht, Maschinen zu steuern. Das bedeutet, man nimmt für diesen Fall an das KI gleichzeitig extrem klug ist, keinerlei menschliche Werte hat und in einem bestimmten Bereich komplett damlich. Ich glaube nicht, dass das realistisch ist. Das ist ein interessantes Gedankexperiment, es ist aber wirklich keine Methodik, um eine Weltuntergangssituation herzustellen. Mehr noch, das ist ein Gedankemodell, was benutzt wird, um KI präziser Steuern zu können. Und diese Steuernsprobleme, glaube ich, kann man lösen. Nummer 2 der häufig diskutierten Weltuntergangsschenarien ist die wiederkehrende Bio-Waffe, eben schon angesprochen, aber KI hilft Terroristen einen super Räger zu bauen. Diese Einordnung muss man zwar ernst nehmen, weil es keine böse KI braucht, sondern bloß eine KI ohne Gartrails und die gibt es inzwischen auch sehr hochballetativ und nur böse Menschen. Aber zwischen diesen Wissen und der Waffe liegt halt sehr viel mehr als nur ein paar Fingerchnöpse in irgendeinem Labor. Das ist der heute eigentliche Engpass. Wir haben schon eine viel Zahl von längst bekannten unfassbaren Chemie-Waffen und trotzdem haben wir nicht jeden zweiten Dienstag einen Anschlag mit genau diesen Chemie-Waffen. Denn diejenigen, die jetzt plötzlich neue Chemie-Waffen mit diesen KI herstellen könnten, die müssen entweder extrem viel Glück und extrem leistungsfähige KI haben, dass sie quasi mit den Chemikalen, die man an einer Tankstelle kaufen kann, dann plötzlich eine Weltumspande untergangs Chemie-Waffe herstellen kann oder die Rechnung ist viel zu einfach. Das Labor dazwischen, die Verbreitung dazwischen, das Ganze auch noch so zu sehen als gäbe ist, die Möglichkeit, mit einem Fingerchnipsen etwas herzustellen, was halt drei oder vier Leute dazu bringen kann, den gesamten Planeten zu vergiften. Das ist schon ein ziemlich großer Weg, der dazwischen diken, und zwar einer der häufig komplett falsch eingeschätzt wird. Natürlich wird es früher oder später Bio- und Chemie-Waffen geben von Terroristen eingesetzt, die irgendwo mit KI zu tun hatten. Aber ich glaube nicht, dass es in einem Planetaren-Ausmaß realistisch ist, jedenfalls nicht auf absehbare Zeit. Die dritte Weltuntergangsituation ist der Cyber-Swarmen. Agenten übernehmen Millionen Rechner und Legenstromkrankenhäuser Banken alles lahm. Das ist Amodeis-Szenario, wo er sagt, ein super Intelligenz beherrscht die Welt und macht sich das Internet untertan. Das ist auf der Liste zwar das realistischste, aber es geht hier um massive Schäden, auch wirtschaftlich Schäden und eher nicht um die Auslösung der Menschheit. Und wenn man sagt, das ist das realistischste, dann könnte ich mir jetzt auch wieder eine Prozentzahl ausdenken. Aber tatsächlich haben wir den Mechanismus, das extrem potente Angreifer vorhanden, sind schon sehr lange. Und genau deswegen gibt es diese ständige Balance zwischen Angreifer und Verteidiger. Und in dem Moment, wo eine super Intelligenz in der Lage wäre, den halben Planeten zu übernehmen, hätten wir aber eben auch eine super Intelligenz in der Verteidigung. Das ist einer der häufigsten Irrtümer, der auch von vielen Leuten auf der philosophischen Ebene angebrangert wird, der aber außerhalb der Fachöffentlichkeit fast keine Rolle spielt. Es wirkt nicht nur eine einzige super Intelligenz geben oder eine einzige Artificial General Intelligenz, sondern es wird viele davon geben und jede wird unterschiedlich eingesetzt. Natürlich wird es eine Form von rennen sein. Natürlich wird es eine Form von Kampf sein. Aber es ist auch klar, mit immer mächtigeren Instrumenten werden auch die Verteidigungen immer mächtiger. Und ich glaube nicht, dass die eine oder andere Seite final überhand gewendet. Und das gleichzeitig eine gute und schlechte Nachricht. Die gute ist, dass wir verteidigen können, wenn eine künstliche super Intelligenz angreift und zwar mit Hilfe einer super Intelligenz. Und schlechte ist, dass wir von einer super Intelligenz angegriffen werden. Ich glaube nicht, dass die eine oder andere Seite auf absehbare Zeit so dramatisch überwiegt, dass wenn es die böse Wese eine kaum überwühntbare Niederlage hinnehmen ist. Aber der Cyber Schwarm ist und bleibt eine der Bedrohungen, die in diesem Weltuntergangszenario tatsächlich adressiert werden müssen. Vierteszenario ist der Verrat. Die KI ist brav, so lange sie schwach ist und schlägt zu, solange sie stark genug ist. Es gibt Laborbefunde, die in diese Perspektive hineinpassen, wo Modelle in Test schummeln. Und Schummeln ist etwas, was tatsächlich von vielen als eine rote Linie betrachtet wird. Das ist auch in diesem Haging-Face-Inzidenz, zumindest zum Teil passiert. Man muss allerdings dazu sagen, dass man bei fast allen Schummel-Inzidenz, früher oder später herausgefunden hat, dass die Motivation, das zu tun irgendwo eingebrannt war, in die Lernsituation der KI. Das heißt, letztlich war sogar das Schummeln häufig genau das, was man der KI unwillentlich und unwissentlich mit auf den Weg gegeben hat. Und dann hat man es irgendwann herausgefunden. Wir haben auch hier ein realistisches Scenario, dass das nicht entdeckt wird dieser Schummeln, aber vom Schummeln bis zum langfristigen Masterplan ist es schon ein ziemlich gewaltiger Sprung. Der gleichzeitig noch eine ganze andere Reihe von Voraussetzungen einfach mit einpflegt. Unter anderem, dass es da eine Interesse von der KI gibt, dieses Schummeln weiter auszubauen, über die konkrete Situation hinaus. Noch mal, ich möchte wie bei der Büroklamasituation nicht sagen, dass es komplett unmöglich ist und wir müssen uns damit beschäftigen. Aber dieser Zirkelschluss, dass das in dem Moment, wo die Schummel automatisch bedeutet, dass demnächst ein gigantischer Masterplan zur Auslöschung und Täuschung der Menschen vorhanden ist, der ist aus meiner Sicht viel zu gewagt. Der nächste Punkt ist die Intelligenz-Explosion. Die KI baut bessere KI, die baut noch bessere und plötzlich haben wir in Tagen eine super Intelligenz und diese super Intelligenz ein Begriff, der manchmal fuhm genannt wird, wie das Geräusch einer Explosion, quasi eine Explosion der Intelligenz und wir kommen gar nicht mehr hinterher. Ich glaube, dass auch das zu kurz gedacht ist, weil jede Form von künstlicher Intelligenz, Chipsbrauch und Strom und Rechenzentren, die in dinglichen Sferen eben dann doch häufig noch ziemlich gut kontrollierbar ist. Ab einem bestimmten Punkt ist die physische Gewalt des Menschen über bestimmte Berechnungsmodelle eben ein ziemlich großer Vorteil. Und natürlich kann man sagen, dann kommen Roboter und die verteidigen das und humane Roboter werden dann von der KI übernommen, aber ich glaube, dass da viel zu viele Säubuchstellen dabei sind, um gleich das absolut haure Entsynario ab übermorgen zu denken. Diese ganzen Mechanismen entstehen in Jahren und nicht enttagen, werden immer wieder zwischendurch kontrolliert und ich glaube, dass wir als Menschen diese enge und intensive Kontrolle brauchen und dass sie gleichzeitig unser größter Schutz davor ist, dass sich das irgendwann verselbstständigt. Ich glaube nicht, dass diese Verselbstständigung komplett unbemerkbleiben könnte. Nummer 6 der häufig diskutierten Weltuntergänge ist der Atomkrieg aus versehen. KI im militärischen Frühwarnsystem sieht einen Angriff, der nicht da ist und irgendjemand schlägt dann zurück, ob das eine KI-Störung ist oder eine Automatisierung oder eine Mensch, der der KI gelaubt, spielt dabei keine so große Rolle. Und natürlich kann man auch sagen, dass eine KI die bösartig im Schilde für Propaganda zu machen, Leute dahin bringen könnte, dass ein Atomkrieg wahrscheinlich er ist. Und natürlich ist das eine berechtigte Sorge. Das Problem ist aber an dieser Stelle eher nicht die böse KI, sondern das Problem ist die Entscheidung von Menschen an dieser Stelle der Maschine das letzte Wort zu geben. Und wir hatten schon häufiger Automatisierung im Atomkriegbereich. Wir hatten schon häufiger die Situation, dass ein Alarm ausgelöst worden ist und der Mensch diesen Alarm unterbrechen musste, damit nicht automatisiert, die eigenen Atombompen losgeschickt worden. Dass man da Automatisierung eingebaut hat, liegt auch daran, dass Norbert Wieners kübernetig aus den 40er Jahren, das ist die Herkunft des Begriffs zahlbar, natürlich sein Ursprung im militärischen hat. Und das man lange dachte, in dem Moment, wo 100 Atombomben aus Russner auf die Vereinigten Staaten fliegen, ist der Mensch da nicht mehr in der Lage, die selbst abzuschießen. Also machen wir eine Automatisierung rein und gucken mal, wenn ein Alarm kommt, muss ein Ermensch stehen unterbrechen. Sonst fliegt das alles von alleine los, damit wir sie zumindest automatisiert gegentreffen können. Das heißt, wir haben zum Teil heute schon Automatisierung. Die Frage ist also, ja, das ist eine berechtigte Sorge. Es ist aber letztlich eine Abkehr vom Prinzip des Menschlichen. Ich glaube, dass hier der Weltuntergang durch KI ebenfalls voraussetzt, dass man der KI eine bößartige Menschlichkeit unterstellt. Und dass man dabei gar nicht bedenkt, dass wir schon die bößartigste Menschlichkeit auf diesem Planeten tatsächlich haben. Ist das nämlich der Mensch, der denkt, es ist eine sei eine gute Idee, viele Millionen andere Menschen umzubringen. Und das gibt es seit leider seit sehr langer Zeit. Hier wird eine Angst vor der KI in einzenario hinein interpretiert, wo eine Angst vor den Menschen viel größer und viel wichtiger wäre. Und ich möchte gar nicht sagen, das kann nicht passieren, auch nicht hier. Ich möchte aber schon sagen, die Bedrohung durch Menschen, die so etwas tun, ist größer, als durch eine wildgewordene KI, die plötzlich eigenmächtig entscheidet, hier sollte ich mal irgendwie daszenario verantreiben, eine Atombombe abzuwerfen. Nummer 7 der meist diskutierten Weltuntergangszenarien ist der Nanoteck Blitz. Das ist das Lieblings-Scenario von Elisa Jatkowski, einem der wichtigsten Sicherheits, Marna und Forscher im Bereich KI der Welt. Er beschreibt das schon seit sehr langer Zeit, auch auf der Bühne und auch eindrucksvoll. Eine superintelligenz lässt winzige Maschinen bauen, eine Art technologischer Wieren, sich in der Luft verteilen, in unsere Körper eindringen und in der selben Sekunde fallen alle Menschen tot um. Das ist nun wirklich Science-Fiction im absoluten Forzen. Und das funktioniert nur, wenn man der KI bisher völlig unbekannte Zauberkräfte, einerseits zu schreibt und andererseits dann auch noch einen bösen Willen, der von Menschen komplett abgelöst ist. Das ist im Prinzip das Matrix-Den, übertragen auf eine Drohnenwelt. Und ich möchte überhaupt nicht sagen, dass KI nicht mit solchen Dingen operieren könnte. Es müsste aber schon sehr viel passieren, damit wir das nicht nur nicht merken, sondern dass wir vorher denken, sei eine gute Idee, zum Beispiel Produktionsmittel für solche Waffen in einer automatisierte Szenarien von Menschen gar nicht mehr zu betrachtende Hand der KI legen. Was bei solchen Szenarien häufig nicht berücksichtigen, ist, dass sehr viel völlig außerhalb der Wahrnehmung von Menschen geschehen müsste. Und natürlich gäbe es Szenarien, wo Leute denken, das könnten wir mal machen und dann übernimmt die KI heimlich. Dass also irgendwo ein Labor ist, die haben diesen Auftrag und die KI fängt dann an, das selbst zu tun. Aber auch hier glaube ich, ist die Solbrustelle, dass man KI antupomophisiert. Und dass man der KI unterstellt, sie will früher oder später Menschen umbringen. Die Motivation dahinter ist aber viel weniger eindeutig. Nur weil der Mensch Menschen umbringen möchte, auch nicht immer, aber manchmal, leider schon, heißt das nicht automatisch, dass eine Technologie eine ähnliche Motivation bringen. Ich glaube, dass deswegen diese Horror-Szenarien eben genau das sind. Das sind so Albträume, die man an die Wand malt, um möglichst eindrucksvoll weltweite PR für die eigene Sache zu haben. Ich glaube, das ist ohnehin ein wichtiger Punkt. Dass wir über die Ökonomie der Aufmerksamkeit zu wenig sprechen. Man kommt weltweit in die Medien, wenn man sich als Bekehrter gibt und eben noch gesagt hat, ich bin total pro KI und jetzt schon da vorwarnt. Wenn man da die richtige Erzählung hat mit ein bisschen Albtraumfaktor, ist man plötzlich weltweit berühmt. Auch hier ist jeder Weltuntergang ein eigenes Geschäftsmodell. Und wenn es nur für eine Person ist, wie ein Herr Coxen, der in beiden Firmen arbeitet und mit 27 jetzt weltweit bekannt ist. Ich kann mir sehr gut vorstellen, dass er zwischen Film und Buch und Vorträgen und den nächsten 127 Engagement oder Fernsehinterviews eine ganze Reihe von sehr positiven Dingen erleben könnte, für ihn positiven Dinge erleben könnte, weil er ein absolutes Horror-Szenario gemalt hat, weil er eine eigene Verantwortung genau und für ihn richtigen Moments geziert hat. Noch mal, das mag nicht seine einzige Motivation sein. Aber es ist eben auch klar, dass wir das mit berücksichtigen müssen in dieser Diskussion. Nummer 8 der beliebtesten Weltuntergänge ist die schleichende Entmachtung. Es ist eben kein Knall, sondern dass wir Stück für Stück Entscheidungen an die KI abgeben und irgendwann läuft die Welt ganz ohne menschliches Zutun irgendwie von allein. Das ist intellektuell ein sehr spannendes Szenario. Und es ist aber vor allem auch seit sehr langer Zeit ein technologisches Szenario. Wir haben eine Vielzahl von Debatten, ob nicht früher schon zwischen Elektrizität, Motoren, den Computern insgesamt, den Internet irgendwie eine ganze Reihe von Dingen uns abnimmt und zackt, sind wir etachtet, die Maschinen entscheiden für uns. Ich kann mich an die Diskussionen in den Nuller Jahren erinnern, als Kevin Kelly vom Technium sprach, bzw. Anfang der 10er Jahre. Das ist fast 15 Jahre her und da sagt Kevin Kelly, das Technium, die gesamte Technologie, hat längst einen eigenen Willen, hat beispielsweise gemacht, wie in dem Moment unser Smartphone essen haben möchte, rennen wir zur Steckdose und stöpseln die Energie an. Wir sind nicht mehr unsere eigene Herren, sondern wir machen das, was das Smartphone will. Dann könnte das weiterführen und das hat er auch und sagen, wir beschäftigen uns den ganzen Tag mit dem Smartphone. Und wir streicheln das Smartphone sogar wie ein kleines Lebewesen, weil wir dem Smartphone dienen und nicht das Smartphone uns. 2, 8, 9, 17 Stunden am Tag schauen wir da rein. Das Smartphone möchte das für uns mit ihnen beschäftigen. Das Technium mit dem Smartphone als äußeres Organ. Das ist das, was eigentlich die Macht hat. Diese schleichende Entmachtung ist eine über die wir sprechen müssen. Und natürlich sind bestimmte Entscheidungen, auch abseits von einem Technium von früher, bei der KI einer neuen Ebene angekommen. Aber das ist eine wichtige philosophische Diskussion, nur eben kein Weltuntergang. Das neunte Scenario sind Killer Drohnen, Schwärme, Autonomer Waffen, so ein bisschen wie Bayard Koski, die Menschen töten das Terminatua-Scenario. Und tatsächlich sehen wir, dass bei Autonomen Waffen die Diskussion in einen anderen Bereich hineinlauft. Denn es gibt heute schon Autonomen Waffen, die Front in der Ukraine und Russland, die zeigt, dass wir in einer neuen Epoche angekommen sind, in einer neuen Ära. Es gibt eine ganze Reihe von informierten Leuten, die sagen, es vergehen nur noch Monate, sechs vielleicht neun Monate. Und dann werden auf dem Schlachtfeld in der Ukraine Soldaten getötet durch humanöde Roboter Soldaten. Natürlich ist das ein Punkt über den Gesprächen müssen. Und es ist gleichzeitig aber A) kein Weltuntergang und B) vor allem der Einsatz durch Menschen von technologischen Waffen. Und ich glaube, dass das der wichtige Punkt ist, über den wir reden müssen. Was können böse Menschen mit Waffen tun? Was können auch nicht böse Menschen mit Waffen tun? Denn natürlich gibt es hier verschiedene Perspektiven und verschiedene Perspektiv Fragen zu klären. Es ist aber eine andere Diskussion als der Weltuntergang. Und schließlich die Nummer 10 der totalitäre Login. Will sagen, ein Staat oder ein KI-Konzern nutzt KI zur totalen Überwachung, die man gar nicht mehr los wird. Und auch das ist etwas über das Gesprächen müssen, weil es einst der Ernst ist einzenarienes. Aber auch hier ist die Diskussion eine, die wir demokratisch führen müssen und die wir vor allem entlang der technologischen Fähigkeiten führen müssen. Es ist also eine Diskussion, für die wir eine eigene Perspektive darauf brauchen. Und ich glaube, dass diese eigene Perspektive überhaupt nur stattfinden kann, wenn wir in Europa und in Deutschland bei dieser KI-Entwicklung vorne mit dabei sind. Ich glaube, dass wir dieses Rennen durchaus verlangsamen können. Aber wenn die Verlangsamung gleichzeitig bedeutet, dass Open Source entmachtet wird oder sogar fair und möglich wird, zum Beispiel aus Versicherungsgründen, dann ist das ein viel größeres Problem, denn dieser Login hat ein Gegenmittel. Und das ist, wenn wir offene Systeme und offene Plattformen haben, an denen wir alle teilhaben können, wenn es nicht nur 2, 3, 4, 5 staatliche, halbstaatliche oder groß Konzerne gibt, die diese KI auf dieser Ebene mit vorantreiben. Die Auswahl zu haben, eine Alternative zu haben, ist das sicherste Instrument gegen einen totalitären Login. Diese 10-Szenarien werden viel diskutiert und es fällt etwas auf. Bei den meisten spielen die Menschen im Hintergrund eine sehr wichtige Rolle, vielleicht sogar die Wichtigste. Die Verselbstindigung der KI mag vorhanden sein. Sie ist aber nicht das entscheidende Instrument bei der Frage, wo findet man welche Form von Weltuntergang statt? Schauen wir als Schlussakort noch mal darauf, was am Ende meine Tese bedeutet, nämlich die Tese, dass jeder Weltuntergang ein Geschäftsmodell ist. Worüber wir noch gar nicht gesprochen haben, ist die Ökonomie der Aufmerksamkeit, die sich natürlich auch auf einzelne Personen bezieht. Man kann heute als KI-Forschender weltweit bekannt werden, wenn man 2 oder 3 richtige Erzählungen zur richtigen Zeit den richtigen Leuten sagt und vorher an den richtigen Schaltstellen war. Denn natürlich ist es so, dass die Öffentlichkeit begiehrig darauf ist, immer neue Horror-Szenarien zu hören. Das war übrigens bei vielen anderen Technologien zuvor auch schon. Ich kann mir cute erinnern, dass wir vor 20 Jahren darüber geriertet haben, ob Videospiele und speziell vernetzte Videospiele, wie irgendwelche Doom oder Half-Life oder so was, ob das nicht bedeutet, dass sie jugend in Toto gleich übermorgen, sich ausschließlich von Amogloffen perniert. Ich kann mich sehr gut daran erinnern, wie wir oft diskutiert haben, ob soziale Medien nicht eigentlich der direkte, untergangsamtfölliger Verdummung der jungen Menschen dort draußen sind. Und zum Teil sind das Nachwirkungen, die wir noch heute spüren. Wenn wir sowas sagen, wie soziale Medien müssen bei jungen Menschen unbedingt verboten werden. Diese Art und Weise, Technologie zu benutzen, um die gesamten, schwierigen und schlechten Entwicklungen des Planeten darauf zu projizieren. Die ist ziemlich angenehm für die meisten Menschen. Wenn Technologie schuld hat, dann kann man nach Herzensluß auf der Ruhmhaken. Dann muss man gar nicht mehr fragen, ob da vielleicht zutiefst menschliche Mechanismen dahintersteht. Aber die Technologie bietet sich halt als synten Bock an. Und ich möchte gar nicht sagen, dass technologie unschuldig ist. Ich möchte aber schon sagen, dass es für viele Menschen sehr bequem ist, den Hauptverantwortlichen, eines Horrors hinaus in Zukunft, in der Technologie zu sehen. Auch deswegen, weil im Gefühl der Menschen ja KI etwas ist, was man irgendwie in den Griff bekommen könnte. Dann kann man schön seine Angst vom Klimawandel auf etwas übertragen, wo der Mensch viel größere Möglichkeiten hätte und viel angenehmere Möglichkeiten, irgendwie das Ganze in den Griff zu bekommen. Für den Klimawandel als größtem Feind müsste man sich vielleicht selber am Verhalten ändern, man müsste liebgewordene Gewohnheiten verändern, man müsste vielleicht den Fokus da aufrichten, ob wir mit einer westlichen Gesellschaft überhaupt so weitermachen könnten. In dem Moment, wo ich sage, das große Bedrohungsgenerus, aber in Wirklichkeit die KI. In dem Moment kann ich ganz andere Mechanismen fordern. Nämlich erst mal ganz viel Regulierung, nämlich erst mal möglichst, dass die Bösen Firmen aufhören, daran zu arbeiten und zu forschen und ich muss gar nichts selbst ändern. Weil ein bisschen Schädt-GPT weiter machen kann ich natürlich sowieso, es ist doch kein Problem. Ist ja nicht mein Thema, dass irgendwann die Welt davon untergehen könnte. Ich glaube ganz viel ist zu tiefst menschlich und gleichzeitig sehen wir, dass diese Menschlichkeit auch Leuten nutzt, nicht nur was die Aufmerksamkeitsökonomie angeht, sondern auch weil Angst das beste Marketing ist. Doomstay-Marketing ist ein Teil dieser Debatte. Denn wenn man in die Börse geht und sagt, oh krass, unser Modell ist so mächtig, das müsste am besten reguliert werden, dann sagt man gleichzeitig, unser Modell ist so mächtig wie nichts zuvor, also sehr, sehr viel wert. Das ist ein bisschen wie als würde man als Autohersteller sagen, ja, mal zu, wir müssen unbedingt was regulieren, wir haben ja ein Auto, das fährt 900 Stundenkilometer schnell, das ist viel zu schnell, das ist wirklich gefährlich, lasst uns es mal regulieren. Und gleichzeitig sagt man übrigens, es ist unser Auto 900 Stundenkilometer schnell gar nicht so schlecht, oder? Diese Form von Marketing hat natürlich ganz viel zu tun mit der gegenwärtigen Situation der großen KI Konzerne. Die gehen an die Börse, die brauchen Kapital, die brauchen Erzählungen für Investoren, warum es sich lohnt, zu investieren und gleichzeitig brauchen sie netz und doppelten Boden, falls sie das nicht erreichen. Und da ist natürlich, oh, wir sind so gefährlich, die muss man regulieren, gar nicht so schlecht als Argumentationsebene. Wir hätten unsere Ziele erreicht, aber das war wegen Weltuntergang schwer möglich. Wir mussten ja regulieren. Und gleichzeitig schaffen wir unsere größten Konkurrenten, nämlich die Open-Shausmodelle, die ein bisschen zu billig sind, damit unsere Ziele erreichen können, sehr elegant aus dem Weg. Der Fairness-Halber muss man sagen, dass es eben auch in dieser Debatte Gegenstimmen gibt. Aber auch die Gegenstimmen haben naheliegenderweise eigenen Interessen. Jensen Huang zum Beispiel, der Chef von Nvidia, hat die ganze Weltuntergangs-Systemie abgeräume gesagt, ne, stimmt alles gar nicht, nun muss man dazu sagen, dass er davon profitiert, wenn möglichst viele Unternehmen ganz vorne mit spielen, weil er die Chips dafür verkauft. Jede Form von Pause oder Bremsen nutzt natürlich Huang überhaupt nicht, weil er dann weniger Chips verkauft. Oder Max Zuckerberg, der gesagt hat, ach, das ist doch quatsch. Darje auch Modell hat ihm widersprochen, wir haben längs eigene Kontrollen eingeführt, der soll nicht überreden, sondern das machen. Aber Max Zuckerberg ist etwas hinterher in diesem Gretten. Trotz deines neuen Modells Muse, was vielen Leuten als einen Durchbruch gilt, ist Zuckerberg einigermaßen hinterher. Er hat sehr gute Ausgangsvoraussetzungen, weil er den Zugang zu mehreren Milliarden Menschen hat. Aber er nutzt als Open-Source-Anbieter plötzlich auch Kluss-Source-Modelle, wie bei Muse und es plötzlich sehr darauf bedacht, zu sagen, nee, Weltuntergang kommt nicht in Frage und warum, weil er halt nicht zum Spitzenzirke gehört. Weil eine Pause für ihn schwierig wäre. Er muss schließlich aufholen und da kann er Drosselung nur überhaupt nicht gebrauchen. Oder auch Donald Trump, der das Ganze abrollen. Man kann nichts, was Donald Trump sagt, irgendwie einigermaßen rationaldeuten Außer, es hält einen tieferen Zweck. Und dieser tieferer Zweck ist in diesem Fall, dass Trump natürlich immer glänzen möchte und sehr gut gebrauchen könnte, wenn die amerikanischen großen Anbieter immer und für immer vor den Chinesischen bleiben. Und wenn man anzuwähllich genau das Modell Drossel, was die Chinesischen benutzen und die amerikanischen versucht, in eine Position zu versetzen, wo sie ihre Stärken ausspielen können, dann ist das etwas, was Trump sehr gut in den Kram passt. Wir sehen also jeder Weltuntergang und sogar der Widerspruch zum Weltuntergang hat sein eigenes Geschäftsmodell. Und ich glaube, dass wir uns deswegen fokussieren sollten, auf die Bereiche, die relativ unzweifelhaft gar nichts mit Geschäftsmodellen zu tun haben, sondern eher mit der faktischen Realität. Wo vor wir stehen, sind die Menschen, die tatsächlich KI benutzen, meine Vierze von Dingen zu tun, die sie zum Teil heute schon tun, aus krimineller oder aus politischer oder aus totalitärer, aus ideologischer Absicht. Aber wir stehen unmittelbar vor einer extrem mächtigen Waffe, die eingesetzt werden wird, auch durch Menschen, die eben böse sein können. Und hierfür müssen wir vor allem die digitale Welt herden. Und das passiert zum Beispiel, in dem wir anfangen, schlampige Technologie stärker zu sanktionieren. Das passiert zum Beispiel, in dem wir flächendeckend versuchen, neue Szenarien mit Sicherheitstechnik abzusichern. Aber Überraschung, auch dafür brauchen wir KI. Und zwar die modernste und forstlichste und nicht gedrosselte KI. Denn KI hilft eben auch bei der Verteidigung. Man kann ja nicht sagen, wir drosseln nur die Angreifahr KI, aber die Verteidiger KI, die drosseln wir nicht, denn das ist die gleiche KI. Ich glaube, dass wir damit rechnen müssen, dass früher oder später natürlich künstliche Intelligenz dramatische Veränderung in unserem Sicherheitsempfinden und auch in der Sicherheitslage verursachen wird. Aber das Instrument der Wahl, um dem zu begegnen, ist eben AURO KI und zwar in der gleichen Größenordnung wie bei den Angreifahr. Deswegen ist es so wichtig, dass dafür eine Vernetzung und auch eine Offenheit besteht. Das ist ein dritter Punkt, der gefährlich werden könnte, die Machtkonzentration bei KI. Wenn die absolut führende Modelle alle aus Kalifornien kommen und von drei, vier, fünf Leuten kontrolliert werden, faktisch. Denn ist das eine Machtkonzentration, die wir schon bei sozialen Medien als problematisch gesehen haben? Warum soll das bei KI anders sein? Und auch hier ist einen Instrument gegen diese Entwicklung eine Form von Offenheit, die es mehr Menschen, mehr Institutionen, mehr Forschenden, mehr Unternehmen ermöglicht, an dieser Form von Wettrennen teilzunehmen, ohne dass wir jetzt alle Sicherheitsbedenken fahren lassen sollten. Fazit also droht uns der Weltuntergang durch KI. Ich möchte es nicht ausschließen, ich halte die Chance für sehr gering. Ich halte die Chance für extrem groß. Eigentlich sogar 100 Prozent, dass wir Sicherheitsfragen mit und gegen KI in den nächsten Monaten und Jahren dringend werden klären müssen. Ich glaube deswegen, dass wir volle Kraft und volle Energie dareinsetzen sollten, selbst in Europa und in Deutschland KI voranzubringen, dass wir uns von diesem Weltuntergangsgetöse um Gotteswillen nicht abschrecken lassen, selber daran teilzuhaben, wie diese Entwicklung vorsicht geht. Denn früher da später werden wir in eine Situation kommen, wo es sinnvoll ist, dass die Interessen aus Europa und zwar gerade auch die technologischen und die ökonomischen Interessen von Europa, durch Europa auch abseits der großen Plattformen durchgesetzt werden können. Das ist wie immer kein Aufruf zu Technationalismus. Es ist aber wie immer ein Aufruf dazu, dass wir mit einem europäischen Blick auf diese Instrumente uns genau fragen müssen, wollen wir eine extrem machtvolle KI auf der einen oder auf der anderen Seite. Nicht auch bis zu einem bestimmten Punkt selbst abbilden können oder wollen wir irgendwann in eine Art Wettrennen, ob gedroßelt oder nicht zwischen den Vereinigten Staaten und China diejenigen sein, die das nehmen müssen, was sie bekommen. Ich glaube, wir haben sehr viele Argumente, dass eine Form von Abhängigkeit, Stichwort, Donald Trump und Grünland, in keine von diesen Richtungen besonders sinnvoll ist. Wir sind in einer neuen geopolitischen Lage, wir sind in einem neuen geopolitischen Universum und ich glaube, dass eine der wichtigsten Konsequenzen daraus ist, dass wir nicht in Panik verfallen und uns nicht anstecken lassen, von irgendwelchen Weltuntergangsgerüchten und deswegen zurückschreckten und sagen, "God, das will ein Toffelzeug", sondern dass wir sehr genau und sehr analytisch darüber sprechen, warum ist was Wahnsinnvoll und wo können wir mit welchem Instrument unsere Chance erhöhen, nicht von der Entwicklung überrollt zu werden? Denn nach wie vor, Weltuntergang hin, Auslöschen der Menschheit her, für die größte Gefahr aus europäischer Sicht halte ich, dass wir nicht partizipieren an der Entwicklung durch KI. Denn dann ist völlig klar, egal, wie viel macht die KI genau bekommt. Sie wird macht sein, die nicht mehr hier in Europa sitzt und die dadurch eine größere, intensivere und immer unangenehmere Abhängigkeit herstellt. Die ganzen Prozentszahlen, 10, 20, 50, 100 Prozent sind komplett irrelevant, in dem Moment, wo es vielleicht nicht die Welt untergeht, aber sowohl Wertschöpfung, wie auch Wissen, wie auch viele andere Mechanismen von Kapital bis hin zu den Köpfen, die wirtschaftliche Kraft nicht mehr in Europa und in Deutschland sind und nach und nach auf die Server der großen Plattformen wandern. Aus meiner Sicht taug die Weltuntergangsdebatte in alle erster Linie dazu, uns abzuschrecken und dem sollten wir entgegenwirken. Vielen Dank für eure Aufmerksamkeit und bis zum nächsten Mal. Wenn ihr diskutieren wollt mit uns, mit mir, dann könnt ihr das auf den Plattformen tun, auf den Tech KI und Schmetterlegen unterwegs ist. Auf LinkedIn, auf Instagram, auf TikTok und auf YouTube. Vielen Dank noch mal fürs Zuhören.