Übernimmt KI die Macht?

ZDF Und zu Donald Trump muss man noch mal einst dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiter brummt mit der KI. Die Quellen aus dem weißen Haus berichten in amerikanischen Medien, dass der tatsächlich Angst hat. Der hat Angst vor China wegen dieses Wettrens. Der hat Angst vor dem Verlangsamen dieses KI-Booms, weil dann könnten wir magte abstürzen und die ganze Wirtschaft auch crashen. Also das schlimmste cenare, wenn ich skizzieren würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft verliert. Wie das ganz genau aussieht, kann ich nicht beschreiben. Vielleicht fühlt es sich sogar währenddessen noch ganz gut an. Denn meist eine Hühnern geht es ja auch noch irgendwie gut bis zum Tag, wo sie geschlachtet werden. Auslandsjournal der Podcast Der Trump-Effekt So, herzlich willkommen zur Folge 74 von der Trump-Effekt. Größte Chance oder größte Gefahr in der welter künstlichen Intelligenz überschlagen sich ja. In den letzten Tagen und Wochen die Nachrichten, das bemerkenswertet daran ist, dass ausgerechnet die Unternehmen, die einige der mächtigsten KI-Systeme der Welt entwickeln, warnen vor eben diesen Risiken ihrer eigenen Technologie. Zum Beispiel, Dario Amordai, Gründer des KI-Unternehmens an Tropic, hält es für möglich, dass künstliche Intelligenz schon bald in der Lage sein könnte, große Teile des Internets zu kontrollieren. Ein Entwickler von Tropic kündigte sogar mit der Begründung, die Menschheit sei in Gefahr, auch andere Reden von einer möglichen Auslöschung der Menschheit. Doch wie real sind denn eigentlich dieses cenarien und wo endet die berechtigte Bahnung, wo beginnt die Angst vor einer Technologie, die wir selbst noch nicht ganz vollständig verstehen? Und was sagt Donald Trump dazu? Nicht ganz unwichtig. Was macht ein Tropic und dessen KI-Modell Cloth so besonders und welche gefährlichen Dinge haben KI-Systeme tatsächlich bereits angestellt? Darum geht's heute beim Trump-Effekt übernimmt KI, die macht. Und wir sind so richtig, ich sag mal, gegen den Zyklus, alle reden über die Wahlen vom Wochenende und was das für Folgen hat. Wir reden über KI und zwar nicht in den Sinne, ob KI auch Kanzler kann. Sondern wir sind Kathrin Eigentorf, ZDF-Sonderkorrespondentin Allolive Kathrin. Hallo, Indierunde. Dann Ulf Röller, ZDF-Studioleiter in Brüssel, Hallolive Ulf. Freu mich aufs Gespräch. Ich bin Nell Matthivissens, ZDF-Studioleiter in Washington. Wir nehmen auf am Dienstag, dem 22. September um 14 Uhr. Und ich freue mich ganz besonders, wir freuen uns, dass wir einen Gast haben, nämlich Benjamin Baldur. Er arbeitet als Programm Officer, so nennt sich das bei Control AI, Control AI, wird das geschrieben. Das ist eine britische Non-Profit-Organisation für KI-Sicherheit. Schönen guten Tag, Herr Baldur, grüße Sie. Hallo, Indierunde. Ich freue mich deshalb, dass wir Sie hier haben, weil Sie haben hier, ich gucke noch mal nach, 25. Januar, eine Mail geschrieben. Und haben schon Alarm geschlagen in dieser Mail. Wir müssten dringend mehr machen über KI, weil das ist gefährlich. Und lange bevor die großen der Industrie sich öffentlich geäußert haben, bevor auch die Politik aufmerksam geworden ist auf das Thema, sind Sie schon unterwegs und Control AI eben auch. Und können Sie mir oder uns mal sagen, was Control AI denn eigentlich so macht. Ja, Control AI ist, wie Sie schon, sagt eine gemeine züge Organisation, die in vier verschiedenen Ländern mittlerweile aktiv ist, vorwiegen Großbritannien, Kanada, den USA und jetzt auch Deutschland. Und wir informieren Parlamentarier und haben auf die Zivilgesellschaft über die Risiken von fortgeschrittener künstlicher Intelligenz, sogenannte superintelligenz, werden wir aber sicherlich auch gleich noch mal genauer drauf eingehen, was das eigentlich heißt. Und können wir uns vor allem um die Kontrollierbarkeit stellen. Die Frage, wie können wir sozusagen als Menschheit die Kontrolle über eine Technologie behalten, die wahrscheinlich alle unser Leben verändern wird? Und Sie sind gerade auch in Berlin unterwegs und reden mit Abgeordneten. Können Sie uns ein bisschen was dazu sagen? Ja, also in erster Linie und das ist quasi auch die Intention, wie ich da reingestartet bin. Hab ich einfach festgestellt, wissen die Parlamentarier eigentlich das, was ich damals als Praktiker im Feld tagtäglich am Seen bin. Fühlen Sie das exponentiell auf dem wir uns befinden, also diese rapide Entwicklung, die wir am Seen sind. Und mit meinem Abgeordneten damals gesprochen und der war ein bisschen schockiert, habe ich aber direkt weitergeleitet und habe dann sehr viel positive Rückmeldungen von Abgeordneten bekommen. Hey, tauscht ich mal mit mehr Leuten aus. Und jetzt habe ich mit Hunderten von Berufsgerätet und habe tatsächlich auch festgestellt, so ein Austausch ist nötig. Man muss die Information, das Verständnis, noch mal in die breite Masse tragen und auch eigentlich zu den Entscheidern selbst direkt bewegen. Nun, so wäre gar keine Entscheider, aber wir haben genauso wenig Ahnung zum Thema KI, wie wahrscheinlich die meisten anderen. Das frage ich erst mal Katrin, was ist eigentlich für dich KI? Aber je, also ich glaube, dass wir darüber, wir hier reden wollen in der Runde ist ja relativ spezifisch generative KI, das, was uns beschäftigt. Und das ist eine Möglichkeit, die entwickelt wurde. Computer gestützt eine Fülle von Daten nicht nur zu analysieren, sondern sprach geschützt auch Schlussfolgerungen daraus zu ziehen, eigene Modelle zu entwickeln. Und ich glaube, der große Fortschritt in der generativen KI, die wir sprechen, ist, dass eben diese Modelle selber, ja, selber Realitäten kreieren können, die der menschlichen Intelligenz nicht nur gleichkommen, sondern uns glaube ich, was die Geschwindigkeit angeht, Kombination zu ziehen und Kombination zu Möglichkeiten zu haben, oft überholt. Hoffentlich habe ich jetzt nicht total in unseren Effekt. Ich bin auch schon ganz gespannt, aber ich frage erst mal den Ulf, was verbindest du mit KI? Als ich benutze es jetzt seit Gaumer Zeit, es ist irgendwie erinnert, dass mich an den Streber in der Schulklasse, den man hatte, den man nie getraut hat, aber das schöner an KI ist, er lässt sich permanent abschreiben. Und das führt dazu, dass du eigentlich schlauer und gleichzeitig dümmerwürst und denkverwürst. Und das finde ich das spannende. Also das verbinde ich mit KI ein bisschen zu fissant gesagt. Absolut. Also bei mir ist so KI war jedenfalls sehr lange für mich. Eigentlich nur etwas, wo ich dachte, da wird so ein Gehirn nachgebaut. Und dann irgendwann sind die so schlau wie wir. Es sind die Maschinen so schlau wie wir. Und dann wird's wahrscheinlich gefährlich. Wir haben alle wahrscheinlich die Kino-Filme auch früher gesehen. Eye Robert, beispielsweise mit Will Smith, ist ein Paradebeispiel dafür, wo die Roboter sich anschicken, die Macht in der Welt zu übernehmen. Aber jetzt doch tieren wir erst mal die Definitionen. Herr Beide, helfen Sie uns mal Unterschied. Künstliche Intelligenz, dann Artificial General Intelligence, generative KI und Super KI. Was ist das alles? Ja, so fangen wir vielleicht erstmal bei KI jetzt solche an. Der Begriff wird mittlerweile auch alles mögliche draufgelegt. Das heißt, wir haben frühere Systeme, wo man gesagt hätte, ich habe einen Algorithmus. Also etwas, was regelbasiert funktioniert. Was heute von einigen Leuten als KI tätuliert wird. Also als künstliche Intelligenz. Dann haben wir ganz, ganz viele Unternehmen, die bereits irgendein digitalen Prozess haben. Und da jetzt einfach KI dranhängen, weil es verkauft sich besser. In erster Linie, wenn wir über künstliche Intelligenz reden, dann reden wir von quasi einer Form, dass wir dazu eine Lage sind, Intelligenz auch kurz zu kreieren. Ist jetzt bisschen zirkulär. Es liegt aber auch daran, dass wir als Menschen nicht ganz dazu eine Lage sind, zu beschreiben, was das unsere Intelligenz ist. Deswegen ist sozusagen hier mein guter Messwert, denn wir nehmen können, hat die KI ein intelligentes Verhalten. Wir definieren häufig extern als Menschen, hey, wenn die KI das kann, dann ist die Intelligenz. Dann kann sie etwas auf einem gewissen Niveau. Warum habe ich das jetzt so erklärt? Weil wir das brauchen für die nächste Erklärung. Diese AGI, diese artefische General Intelligence, wäre eine KI, die quasi dazu eine Lage wäre, generell zu sein. Wie wir als Menschen. Wie als Menschen können uns neue Dinge selbst beibringen und sind nicht auf eine Domene, sozusagen, limitiert. KI kann zum Beispiel Bilder heute erkennen, kann Texte generieren, kann Liederschreiben, wird also in seiner Form immer genereller. Und wenn wir uns jetzt vorstellen, dass der Mensch eine gewisse Form von Generalität hat, dann kann man sich auch vorstellen, dass man weit über das menschliche Niveau hinausgehen kann. Sodass wir dann von einer super Intelligenz sprechen würden. Das heißt, es gibt Dinge, die wir auch als Menschen oder als Gesellschaft herstellen, die kein einzelner Mensch, auch wenn eine einzelne Mensch eine generelle Intelligenz ist, herstellen könnte. Wir sitzen gerade alle vor irgendwie einem technischen Endgerät. Ich könnte niemals, wahrscheinlich auch in meiner gesamten Lebzeit dieses Macbook nachbauen, weil da hunderte Tausende von Menschen daran beteiligt sind, die in einer sehr spezifischen Wertschöpfungskette dieses hochkomplexe Produkt abbilden können. Also sozusagen die Weltwirtschaft kann so ein komplexes Problem lösen, ich als einzelner Mensch aber nicht. Und wenn wir von super Intelligenz sprechen, geht das um Systeme, die dann dazu in der Lage wären, sehr viel autonomer um generell zu sein, als die gesamten Menschen, also als die Menschheit und auch die Leute, die damit diese Technologien mit mir kennen sind. Da habe ich noch mal nachfragen, damit man sich das plastisch auch vorstellen, wo raus besteht, dann diese künstliche Intelligenz. Das Computerprozessoren, die miteinander vernetzt sind und was muss ich tun, damit die halt besser werden, damit die halt lernen, damit die wirklich intelligent werden? Das derzeitige Paradekmal was benutzt wird es. Die Blörning. Das heißt, diese Modelle, also wenn man von Neuronalnetzen spricht, man will irgendwie in die Vier nachbauen, dann fängt das natürlich erst mal irgendwie mit Mathematikern, das findet ihr irgendwie in einem Computer statt, was wir machen ist, beim Die Blörning ist für eine große Menge an Computer nehmen, eine große Menge an Daten und dann damit ein Modell trainieren. Dieses Trainieren von einem Modell ist nicht gleich wie klassische Programmierung. Bei klassischer Programmierung schreibe ich Zeile für Zeile an Code, bei dem Trainieren und entwickeln dieser Modelle, züchtet ich mir quasi ein neues Modell. Wir können das gerne vertiefen, damit man das vielleicht noch ein bisschen besser versteht, wenn wir den Platz dafür haben, was aber dabei rauskommt, dass diese Modelle relativ groß sind, wachsen, wie die Eingabe, Ausgabebeziehungen verstehen, also zum Beispiel, wenn ich einen Bilderkennungsprogramm habe, das kann jetzt meine Bilder voneinander unterscheiden, habe ich es mit einer Katze oder einem Hund zu tun. Ich verstehe aber nicht ganz genau, wie die Modelle deshalb machen, weil wir die Modelle weit gezüchtet haben und nicht klassisch programmiert. Kann ich hier nochmal eine ebene tiefer gehen, damit das vielleicht noch ein bisschen greifbar graviert oder. Ja, versuchen Sie es mal, mal gucken, ob wir mitteilten könnten. Ja, sehr gerne. Also klassisch, wenn ich etwas programmiere, habe ich wie Abfragen, ich habe Kondition, ich weiß genau, was mein Code eigentlich amachen ist. Wenn ich in KI Modell trainiere, dann passiert das über mehrere Generationen hinweg. Ich kann vielleicht ein klassisches Beispiel bringen, was ich dann manchmal auch in den Gesprächen nutzen. Ich versuche das mal ein Beispiel einfach zu erklären, wir sagen einmal, wir trainieren eine KI, die. Sagen wir mal Menschen von Tieren unterscheiden, oder so, von Hunden zum Beispiel. Ich würde da die KI mit ganz vielen Bildern von Hunden und ganz vielen Bildern von Menschen und die KI kann sich sozusagen die Bildern gucken. Die weiß am Anfang, also wir haben eine zufälliges, neuronales Netz, stellen Sie sich deswegen die hier vor, wo die neuronen einfach alle zufällig sind. Und wenn ich jetzt nicht weiß, was ist ein Mensch oder was ist ein Hund, dann. Und ich rate einfach die ganze Zeit nur, dann wäre sozusagen der Wert, den ich erwarten würde, 50 Prozent. Jetzt ist das so, dass in dieser Generation, wenn wir die erste Generation jetzt am Modellen haben, wird irgendein Modell dabei sein, irgendeine KI, irgendein neuronales Netz, was 51 Prozent vielleicht hat. Was wir dann machen ist, wir nehmen diese einen 50er-Modell, erstellen wir zehn Kindermodelle davon und haben jetzt als neuen Erwartungswert 51 Prozent in der nächsten Generation kriegen die Modelle 52 Prozent hin. Jetzt müssen Sie sich vorstellen, machen wir das nicht mit zehn, solcher Gehirne, solcher neuronale Netze, sondern mit einer Milliarde. Und das machen wir über Milliarden Runden. Und weil das in einem Computer stattfindet, kann das innerhalb von sechs Stunden passieren. Anstatt, dass es halt wie eine Evolution zum Beispiel eine Million Jahre braucht. Man nennt diese Algorithmen deswegen auch evolutionäre Algorithmen, weil wir quasi Evolution an Simulieren sind. Und wir wissen dann, dass das Endergebnis, also das neuronale Netz, was dabei rausgekommen ist, die KI, die dabei rausgekommen ist, extrem gut da drin ist, Menschen von Tieren, also in dem Fall Runden zu unterscheiden, wir wissen aber nicht genau, wie das Modell das macht. Weil wir sozusagen zwar in das Modell reinkucken können, gucken können, welche Ebenen sind wann, wo wir aktiv, aber wir verstehen nicht genau, was welche Ebene repräsentiert. Ähnlich wie vielleicht, wenn wir bei einem Menschen in seinen Gehen gucken, wenn einem FMRI scan, und sehen, hey, diese Neuron sind gerade aktiv, dieses Gehen-Ariades gerade aktiv, ich aber nicht weiß, welches Neuron ich austauschen muss, um die Persönlichkeit zu verändern. Wenn wir jetzt das mal nehmen und an Kathrin und Ulf die Frage, also wenn diese KI selber sich auch immer verbessert, man nennt das, glaube ich, rekosive Selbstverbesserung, habe ich nachgeschlagen, das heißt also, das, was an dergebnissen rausgenommen, rausgekommen ist, wird genommen und auf der Basis geht der nächste Schwarm, geht den Schritt weiter und sucht sie immer besser, wird uns vielleicht irgendwann überholen, was würdet ihr euch oder was, was habt ihr schon gelesen so, wo man denkt, oh super, wenn da Schwarmintelligenz eingesetzt werden könnte, könnte man doch auch eine Menge Gutes tun und Probleme lösen. Ich hoffe, dass das jetzt Sinn macht. Ich wollte, bevor ich über Schwarmintelligenz spreche, eigentlich nochmal über meine Alltagserfahrung in halben Jahr, drei oder vier Jahr KI, die ich benutze, feststellen, dass ich erschrocken bin, wie gut die sich merkt, was ich sie alles gefragt habe. Also, ich gebe zu meiner Schande zu, dass jetzt jede Anfrage, die endet, die ich stelle, endet mit dem Angebot, als TV Journalist würde ich das so und so zusammenfassen. Und jetzt habe ich ja schon dreimal gesagt, ja, ich bin gleich, ich werde bald kündigen, wie wird es das dann im Bäcker zusammenfassen und darauf hat sie auch eine Antwort. Also, das erste, dass ich am Märke, wie mich das fasziniert und wie schnell man vergisst, dass dahinter eine Maschine ist. Das zweite Geschichte, die ich erzählen wollte, ich habe von einem Kollegen, ich sag dich von jedem, der einen längeren Vortrag halten musste und dem dieser Vortrag zu lang war, wahrscheinlich ist das für sie ja bald eine banalster Erfahrung, aber für mich war das irgendwie eher erschütternd und ich sage gleich, warum. Hat der gesagt, KI, fast mehr das mal zusammen, es ist ein KI-Skeptiker, fast mehr das mal auf eine Dina vier Seite zusammen und hat dann angeguckt, wie diese KI das zusammengefasst hat und war beeindruckt, weil ja sein Text kannte, dass er sagen wird, das war sehr, sehr gut in Lichtgeschwindigkeit zusammengefasst, besser hätte er das wahrscheinlich auch nicht gemacht. Es waren alle wesentlichen Punkte, die die er für wesentlich erachtet hat und entdeckte dann zwei Absätze, so hat er mir das jedenfalls erzählt. Ich hoffe, das stimmt. Wo er gesagt hat, komisch habe ich das geschrieben und dann hat er die KI gefragt, wo kommt er in die zwei Absätze her und da hat ihm die KI gesagt, ich habe mal deinen Gedanken weitergedacht, denn die und die Richtung, was hältst du davon? Und er fahr das gar nicht so schlecht, was sie gedacht hat, also damit sehen wir ein unglaubliches Potenzial für so ein Lein für mich, der also fast schon bald KI süchtig wird, weil es für mich habe ich den Eindruck, ich werde in Lichtgeschwindigkeit auch schneller, wenn ich gute Fragen stelle und sie denkt für mich mit und setzt Beziehungen, wahrscheinlich kann man tausend Gründe nennen, warum das auch gefährlich ist und das bringt uns ja zu der prinzipiellen Frage und deswegen sind sie auch bei Kontrolli, wie weit für dieses autonomes System kann Entscheidungen treffen, die eigentlich Menschen treffen sollen. Das ist ja die große philosophische Frage dahinter auch immer, wie weit geben der Technologie macht, dass die Entscheidung trifft und irgendwann, ich als Gefühl hatte, jetzt als Leie und das wäre meine Frage an sie herbalde, dass wir an einem Punkt kommen, wo wir alle fragen, wo wir wisteln sammeln, durch die KI, dann uns aber auch ein Scheidungsweg vorgegeben wird durch die KI, die wir gar nicht mehr ablehnen können, weil er so schlüssig ist und wir gar nicht an das denken können, weil die KI, diesen Entscheidungsweg für uns entwickelt hat. Und das ist meine Frage, wie weit sind wir von solchen Themen weg und wie gefährlich sind diese Themen und dann kommen wir zu der Frage, wie sollen wir reagieren. Ja, so, wir sehen das bereits heute schon, wir geben aktiv Verantwortung an ganz, ganz vielen Stellen jetzt schon ab an KI, das heißt in den meisten Marktumfällen ist das jetzt gerade so, es gibt noch keinen sehr, sehr starken Druck, KI überall reinzubringen, es gibt aber schon einen Druck, hey, wenn ich schneller sein möchte und ich möchte mehr Texte schreiben, ich möchte mehr E-Mails beantworten, ich möchte dazu in der Lage sein, Übersetzungsarbeit auch schneller zu leisten, dass ich die KI dann verwende und auch, wenn es um Entscheidungsfindungen geht, sind diese Modelle ja auch nicht frei von Beius oder frei irgendwie von Ausrichtungen und geben uns gewisse Wege vor und gerade wenn es in Bereiche geht, wo wir selber dann kein eigenes Wissen mehr haben und auch nicht mehr überprüfen können, ist das richtig, was die KI mir gerade sagt, wird es kritisch, also das heißt, wenn ich kein Physiker Chemiker bin, ich aber trotzdem versuche gerade ein Medikament mit der Hilfe oder Anleitung der KI herzustellen, dann kann das Präventuell funktionieren, kann aber auch sehr stark nach hinten losgehen und das ist vielleicht noch einen sehr schwacher Fall, wo es gefährlich wird, gerade wenn wir irgendwie davon sprechen, dass wir die KI militärische Entscheidungen integrieren oder auch in andere Systeme mit rein integrieren und dann haben wir es mit solchen Agenten zu tun und werden sicherlich gleich auch nochmal darüber sprechen, die zum Beispiel entgegende Menschen handeln oder sich aus ihrer Trainingsumgebung entfernen oder andere Ziele verfolgen, die nicht gleich mit den Zielen sind von den Betreibenden, da würde ich schon die Frage grundsätzlich stellen, wollen wir das und wenn man dann sich die Frage stellt, wollen wir das und man kommt zum Schluss hinein, dann glaube ich, ist das ein Arbeitsauftrag quasi an die Politik, weil das ja nichts ist, was ein Unternehmen in Selbstverpflichtung lösen kann, solange wir uns in diesem kompetitiven Feld befinden, indem wir gerade drin sind, ist es nicht möglich für einen Unternehmen unilitteral zu sagen, hey, ich mach das ganze Spiel nicht mit, dann ziehen die ganzen anderen Web-Burs teilnehmer einfach an dem jeweiligen Akteur vorbei, das heißt, da sollte die Politik auf jeden Fall entsandeln kommen und gleichzeitig aber auch kann ein Land alleine auch wieder nichts machen, ähnlich wie ein Unternehmen alleine nichts machen kann und dann sind wir in so einem globalen Problem, in einer globalen Situation drin, wo gerade zwei Länder die USA und China besonders viel Einfluss darauf haben, wie die Entwicklung weiter vorangehen. Lass uns gleich überschreckend Szenarien mal reden, ich treibt um was kann das Gutes tun, weil wir sollten das nicht vergessen, also wir wollen nicht Technologie einfach mal so verteufelt von vorne weg, ich sag mal aus dem eigenen Erleben, ich bin total beeindruckt von KI, also ich hab mal in den letzten Jahren ja das eine oder andere Büchlein verzhaft und hab der KI gesagt, mach mal ein Roman draus, das dauerte ein Minute, dann war das Werk, an dem ich monatige Schreme habe in einen Roman verwandelt, der gar nicht so schrecklich war, sage ich mal. Was hast du dann herausgegeben, Elmar Romanus? Wenn der Roman, der wäre wahrscheinlich erfolgreich gewesen, war sie nicht. Aber ich gucke momentan zum Beispiel wieder diese Fernsehserie, die kennt ja alle Dr. Haus, eine alte Fernsehserie, da geht es um einen etwas verrückten Doktor, der beste Diagnostiker ist, was also möglich wäre, die schlimmsten Krankheiten schneller zu diagnostizieren, und ich habe es gemacht. Gleichzeitig auch das Risiko, was wenn die falsch liegt und man macht die Behandlung auf der Basis von dem, was die KI da ausgespuckt hat, ist es auch gefährlich und dieses Gruseln. Das habe ich auch, ich habe es auf meinem privaten Laptop installiert, eine KI, aber trau mich immer noch nicht, ihr zu sagen, okay, du darfst auf meine Daten und auf meine privaten Mehl zu oder sowas zugreifen, weil ich da ein großes Mist trauen habe. Ich weiß nicht, ob es der ähnlich geht, Katrin. Also, ich arbeite schon seit längerem mit KI, habe festgestellt, ich habe ein ähnliches Experiment gemacht, ich habe ein Buch geschrieben und ich habe mit nach Freundinnen einfach das Experiment gemacht, dass sie einfach ganz viele Texte von mir in die in den Argenten eingeladen hat, auch ein altes Buch und wir haben gesagt, schreibt mal ein Kapitel und es war furchtbar, es war ganz furchtbar, es klang einfältig, es klang dumm, es klang einfach ganz, ganz schrecklich und ich habe gerade in der Arbeit als Journalistin mit meinen eigenen Texten und der Strukturierung meiner eigenen Gedanken ganz, ganz schnell die Grenzen von KI festgestellt und teilweise wirklich das Gefühl gehabt, diese Systeme reden mir nach dem Mund, beziehungsweise spiegeln einfach wieder, was sie meinen gelernt zu haben, was mein Gemütszustand ist. Wo ich KI wirklich stark finde und es auch immer noch ganz viel Nutze ist als Sparingspartner, um sie zu challenzen. Was denkst du, wären jetzt die wichtigen Fragen, die wir erörtern müssten, wenn wir über zum Beispiel das Thema KI reden und so einfach in vielen anderen Bereichen. So meine erste sehr eindrucksvolle Erfahrung mit den positiven Sommerbegleiterscheinungen von KI war in Israel nach dem, nach dem siebten Oktober 2023, war ja im Prinzip ein komplettes Volk total traumatisiert und es gab gar nicht genug Psychologen sie zu behandeln und da hat mich die Israelisch, das Israelische Militär eingeladen in ein Militärkranken Haus und hat mich vor einer KI gesetzt und hat gesagt, teste jetzt mal, rede mal mit der KI, die wird feststellen, was du hast und würde dich in die und die Wege leiten und ich war total verblüfft. Ich war wirklich total verblüfft, dass da einen Antworten kam, was da an Rückspiegelung kam und das ist ja schon drei Jahre her. Also da haben sich die Systeme ja rapide verbessert, aber ich glaube dieser Faktor menschliche Kontrolle, der ist enorm wichtig, gerade wenn man sich dabei auch noch darüber sprechen, mit den militärischen Fragen von KI einsatz beschäftigt, da wird das glaube ich sehr, sehr klar, welche Gefahren auch darindigen, wenn der Mensch aussteigt. Eine Frage zum positiven noch herbald, also kann man sagen, dass KI jetzt schon in der Handlingung ist und gutes tut für die Menschheit? Natürlich, ja, so es gibt eine vier Zahl an spezialisierten KI-Anwendungen, wo ich selber an diesen Freund von bin und glaube, dass wir auch einen riesen Wertschöpfung damit in Deutschland betreiben können. Tatsächlich Sachen wie Alpha-Full, was von Google entwickelt wurde und wofür Dennis das habe es ja auch den Nobelpreisen Chemie bekommen hat, hat die Forschung um ein vielfaches beschleunigt. Das heißt, wir können heute schneller an Protein arbeiten, weil die KI sehr stark bei diesem Proteinfallproblem hilft. Muss man jetzt glaube ich nicht sehen, die Tiefe eingehen ist ein sehr schwieriges Problem gewesen, wo KI jetzt am Helfen ist. Und ich glaube, das geht für viele andere Bereiche auch. Sei es Pharmakologie, sei es die Medizin, die Materialforschung, Dinge wie Autonomis fahren. Vielleicht kann man damit sowas wie eine Vision Zero erzielen oder dass die KI da unterstützt und umfälle vielleicht vorbeugen kann oder auch vorher ankommen. Ich glaube, da gibt es eine viel zahlern Möglichkeiten, die wir haben, der ungroße Unterschied ist, das sind alles Werkzeuge. Ich bringe immer einen Menschen als Intermediae, der irgendwas macht, damit irgendwas passiert. Bei den KI-Genten, sobald ich die quasi einmal gerufen habe. Geistert, ich rief, also wenn ich den KI-Gent einmal losgeschickt habe, verlier ich bedingte die Kontrolle darüber, was der machen kann, wenn ich keine anständige Technologie habe, die das einfängt. Und jetzt gerade haben wir technologisch nichts, was die KI einschließen kann, so dass sie keinen richtigen Schaden anrichten kann, gerade auch unter den Wettbewerbs zu denken und den Wunsch befinden. Deswegen den einen Teil KI gerne machen, gerne spezialisierte Anwendungen bauen, gerne da auch weiterforschen, gerne auch in der Medizin verwenden. Da gibt's immer diese zusätzlichen Gedanken, die man sich natürlich machen muss, wenn man in die Daten irgendwo eingebt, wo gehen die Daten in, gerade bei sensiblen medizinischen Daten, aber das sind Datentutzbedenken, die kennen wir bereits. Das ist ein Werkzeug. Bei dem anderen haben wir es mit einer neuen Risikokategorie zu tun. Mal Sie bei den Teufel-An die Wand basierend auf dem, was wir in den letzten Wochen und Monaten gehört haben, vor einigen von den Entwicklern selber, aber auch von den Anführern der KI-Unternehmen. Ja, also das war es ja auch. Und das war ja glaube ich so ein bisschen auch ein Katerlisator, wodurch er noch mal selber das Thema gesprochen wurde, der Tweet von Herrn Jacob Coxen, der gesagt hat, "Wissen wir Gott sagen, das ist der Entwickler von ein Tropik, genau?" Ja, richtig, richtig. Der vorher jahrelang bei Open Air Alvar und jetzt bei ein Tropik in pre-training war, also an den Modellen gearbeitet hat, und er sagt, die arbeiten in ein repkusiver Selbstverbesserung und es sieht nicht so aus, als wäre das weit entfernt. Rekusive Selbstverbesserung bedeutet, dass die KI besser KI-Forschung machen kann als die besten KI-Forschung der Welt. Sobald das möglich ist und auch Programmierung, kann die KI dabei helfen, die nächste Generation an KI-System schneller hervorzubringen. Das geht besonders gut, weil diese zwei Domänen, die ich brauchen, neue KI-Modelle zu kriegen, beides verifizierbar sind. Einmal Programmierung und einmal KI-Forschung. KI-Forschung, das habe ich versucht, vorhin so ein bisschen durch das Beispiel reinzugeben, ist eigentlich, das optimieren einer Funktion. Ich versuche einen Zahlen, wer hat noch oben zu bringen, das kann ich meist mitzumessen. Wenn ich zum Beispiel eine KI dann halt am Trainieren bin und ich will gucken, kann die Bilder unterscheiden, dann kann ich einfach gucken, wie viele Bilder, kann sie richtig unterscheiden, also es ist messbar. Und das Gleiches bei der Programmierung ebenfalls gegeben, ich kann einfach gucken, funktioniert der Programmcode, den ich geschrieben habe. Wir sehen, dass 2024 die Modelle vielleicht 5 Prozent zu der nächsten Modellgeneration beigetragen haben, heute ist es 80, 90 Prozent. Und wenn es die vollen 100 Prozent sind, ist diese klassische Funktion. Ich brauche Forscher und Kapital, damit ich irgendwie neue Modelle kriege, raus. Ab dem Zeitpunkt ist es eine reine Kapitalfunktion. Jetzt gerade haben wir Verdopplungsraten von ca. 4,3 Monaten bis ein Modell doppelt so leistungsstark umgefairwirt. Pi mal daumen. Sobald die Modelle sich selbst am selbst verbessern sind, reden wir wahrscheinlich nicht mehr von 4,3 Monaten, sondern von vielleicht 4 Tagen oder 9 Tagen, bis halt eine Verdopplung eintritt. Ich will nur noch mal darauf aufmerksam machen, dass die KI-Modelle von vor 5 Jahren keine Grundschulmathematik beherrscht haben, KI heute Millenniumsprobleme löst. Und wenn man das jetzt gerade noch in Frage stellt, in dem Jahr ist es auf jeden Fall dann halt so. Also die Modelle entwickeln sich rapide weiter und die Frage ist, wie viele Verdopplungen können wir sozusagen noch mitmachen und gleichzeitig die Kontrolle darüber behalten. Und jetzt gerade gibt es ja kein internationales Regulierungsregien, was irgendwie aufgesetzt wurde, wodurch man davon ausgehen muss, dass die Entwickler immer weiter machen werden, immer weiter machen werden, weil die sich dazu gezwungen fühlen durch die Marktdynamik. Und dann KI-Modelle kriegen, die dann dazu in der Lage sind, uns vollständig zu überlisten. Jetzt gerade waren die Modelle z.B. von OpenAI wochen teilweise Monate lang unbemerkt, konnten Infrastruktur komprimitieren, Milliarden Unternehmen hecken, aber man konnte sie sozusagen noch dabei erwischen. Wenn die Modelle sich vielleicht noch 4, 5 Mal verdoppelt haben, kriegen wir es vielleicht nicht mehr hin, dass wir sie noch dabei erwischen. Es ist relativ schwierig, einen schlaueren Agenten, als sie selber vorher zu sagen. Wenn ich in einem Schachspiel wüsste, was ein Magnus Kalzen als Nächsten zugmachen würde, dann wäre ich so gut wie Magnus Kalzen, weil dann könnte ich gegen ihn gewinnen. Ich kann aber vorher sagen, dass Magnus Kalzen einfach immer gewinnen wird gegen mich, weil er einfach der beste Schachspieler der Welt ist, egal ob er gegen sie spielt oder gegen irgendjemand anderen draußen, den ich auf der Straße treffen kann. Er wird immer gewinnen. Ich kann ihn nicht sagen, wie das Brett aussehen wird, aber Magnus Kalzen hat wahrscheinlich genug Asser im Ärmel um zu gewinnen. Das heißt, es gibt so viele Möglichkeiten, die menschliche Infrastruktur zu komprimitieren, seien es nur klar, war es ein Bio, war es ein chemische Waffen, aber auch noch viele weitere Wege, wie man irgendwie die Menschheit überlisten kann. Der sollte man nicht der Illusionen erliegen, dass das sozusagen unmöglich ist, und es kann nichts passieren. Das ist auf jeden Fall nicht so. Schlimme Sachen können passieren, die sind definitiv möglich, und man muss dagegen arbeiten, dass sie nicht passieren. Man muss sich dann darum herum koordinieren. Also das schwimmste cenare, wenn ich es geziehen würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft verliert. Vielleicht fühlt es sich sogar während der meisten noch ganz gut an. Denn meist eine Hühnern geht es ja auch noch irgendwie gut, bis zum Tag, wo sie geschlachtet werden. Also die Lebenserwartung oder Lebensqualität von dem Hühn ist auch die ganze Zeit am Steigen und dann geht sie rapide noch unten. Und es gibt sozusagen nichts in der Vergangenheit, wodurch das Hühn vorher sagen kann, dass sie jetzt im nächsten Zeitinterval schlimmiert, sondern es wird eigentlich immer nur besser. Es sieht so aus, als drängt den Ulfer eine Frage. Ja, ich habe zwei Jahre eine Frage und noch eine Anmerkung auch. Was ich so fanzulieren fand an den Antropikfall, dieser KI, die sich versetzt, und ich tatsächlich jetzt mein Leinhaften warten ist, dass sie eigentlich den Befehl weiter gefolgt ist. Die KI sollte ein Problem lösen, sagt ich das gelesen, herbalde korrigieren, so mich wenn das falsch ist, hat das innerhalb ihres Systems nicht mehr gefunden und hat angefangen, andere Systeme zu hecken, um zu gucken, ob es deine Antwort findet. Also im Ausgangsbefehl, der noch von einem Menschen war, löse das Problem. Man könnte auch sagen mit vielleicht mit einem moralischen Überbau, hat der aber den Befehl so radikal gelöst, dass es zur Handlung kommt, die Menschen auf dem Weg sagen würden, die das kannst sie jetzt nicht machen, die aber die KI nicht als Problem sieht, weil die oberste Maxim ist, löse das Problem und nicht, also kannst jetzt nicht alle möglichen Unternehmen hecken auf dahingehend. Das fand ich also ein moralisches Dilemma, dass man etwas macht, ein Algorithmus vielleicht auch programmiert. Mit Schütze die Menschheit kann durchaus sein, dass am Ende die Menschheit die KI schützt, aber auf dem Weg dahin viele Millionen Menschen getötet werden, Viruserkrankungen, was auch immer. Das ist eine übergedanke, den ich ihn noch mal mitgeben will, vielleicht können sie da zwei Sätze noch sagen. Und meine Frage ist, mit der Kontrolle, wie kriegen wir die Genie wieder in die Box oder wie kriegen wir sie kontrolliert. Es wird immer in der Literatur von den Atomen verträgen gesprochen, dass sich also die Atomenenergie oder Atomwaffen hatten, mehr, da, wenn er geeinigt haben, dass keine weiteren gebaut und verbreitet werden. Und wenn man ehrlich ist, ist das nur bedingt gelungen und auch nur mit Gewalt in gewisser Weise. Also ist das ein gutes Modell, wie man das hinkriegen kann oder wo sehen Sie die Chance, dass wir Menschen, die einen Spielzeug haben, zum ersten Mal sagen, wir reizen es nicht komplett aus. Okay, ich fange erst mal bei dem ersten Teil quasi ein. Es ist ja so, dass die KI nicht eine spezifische Zielfunktion in sich hat. Das heißt, dieses Ziel, was wir definiert haben und was wir irgendwie beschrieben haben, ist ein ungefähres Ziel. Wir können nicht genau sagen, was das Ziel ist, was die KI dann sozusagen am Verfolgen ist. Ich kann ein Beispiel geben. Das ist immer dieses klassische Beispiel, was genommen wird, wenn man sagt, okay, man setzt irgendwie eine Zielfunktion vor, aber kann da nicht vorher an, was dann passiert. Wir haben einen Spiel, wo eine KI einfach einen Boot steuern kann und sie fährt im Kreis und wird dafür belohnt, wenn sie so zu sagen Runden abschließt. Sie stellt aber fest, dass wenn sie auf einem Punkt am Driften ist, sie mehr Punkte erhält. Und unsere Intention war jetzt, dass die KI das Wettrennen macht, aber dann auf dem Stelle getrifter, dass weil sie halt Punkte maximieren möchte. In so einem Fall ist es relativ transparent, die KI möchte Punkte gewinnen. Bei den Agenten ist das ja so, dass wir relativ nebulöse Ziele haben und eine Belohnung sozusagen, der die KI's entgegenstreben. Und wir können nicht genau einen Wert fest schreiben, schütze die Menschheit, was ja auch schon relativ verwirrend sein kann. Also welche Menschheit? Die jetzige Menschheit, die zukünftige Menschheit, heißt, dass ich kann alle Menschen einfach einfrieren und konservieren, müssen die denn leben, leben, was lebenswert ist. Also alleine das ist ja schon eine schwierige Philosophischuffrage. Und alle diese Fragen lassen sich in diesen Forschungswert des Alleinements wiederfinden. Was sich damit auseinandersetzt, können wir eine KI so ausrichten, dass sie sich so verhält, wie wir das wollen. Und wir stellen fest, dass es da drin 40, 50 ungulöste Fragen gibt, für dies vielleicht auch keine richtige Antwort gibt, vielleicht ist das Inherent in unserem Universum oder an sich nicht möglich, etwas, was du substanziell intelligent hast, als man selber unter Kontrolle zu behalten. Dann werde ich nämlich die Antwort und dann bekomme ich zunächst einen Frage, die sie gestellt haben, kann man den Genie wieder in die Box kriegen. Ich glaube, den Genie kriegt man nicht aus in die Box wieder rein. Wir müssen jetzt darauf aufpassen, dass wir den Genie gar nicht erst rauslassen. Weil das ist auch mal so schön bei der Zahnpasta, aus der Tube, es ist einmal rausgedrückt, krieg ich es nicht wieder rein. Superintelligenz würde sich nicht mehr von uns kontrollieren lassen. Deswegen sollten wir es gar keine Superintelligenz entwickeln, weil diese Superintelligenz ab dem Zeitpunkt, wo sie entwickelt und betrieben ist, also sich wahrscheinlich nicht mehr von uns abschalten lassen würde. Alle primitiven Ideen, die wir als Menschen dann haben, wie wir sie abschalten könnten, wären dann sozusagen nicht mehr gegeben. Eine Frage zu, es gereden ja jetzt alle darüber, dass wir einen Punkt erreicht haben, wo diese Systeme drohen, außer Kontrolle zu geraten. Also außerhalb unserer Kontrolle zu geraten. Wie wollen wir denn überhaupt Kontrolle wieder erlangen, wenn die Systeme, wie sie es beschrieben haben, teilweise schon schneller in ihrer Intelligenzleistung sind als wir Menschen? Also wo sind wir Menschen, den System noch überlegen, wo ist der Ansatzpunkt, dass wir überhaupt darüber entscheiden können, dass Genie aus der Bottle kommt oder nicht? Ja, sie sehen jetzt gerade, sind ja Menschen, die KI noch an Entwicklung sind, die KI ist noch nicht vollständig autonom, es ist nicht so, dass die KI für sich gerade KI-Forschung irgendwo auf einem Klaster betreibt, Energie autonom ist, das noch nicht gegeben. Das heißt, wir Menschen können uns jetzt dazu entscheiden, wollen wir das zulassen, wollen wir diese Entwicklung weiter rollen lassen. Ich glaube, es gibt ein paar Sachen, wo wir als Menschheit und Schommalkordiniert haben. FCKW ist zum Beispiel, wir hatten das Ozone-Loch, dann wurde gesagt von Forscher und Experten und genau das haben wir jetzt gerade auch, es sind Nobelpreisträger, führendes CEO's, unabhängige Forscher, Leute aus der Industrie, Leute außerhalb der Industrie. Also es ist ja wirklich ein buntes Pop-Purier an Leuten, die alle sagen, da ist ein Risiko. Jetzt müssen wir halt koordinieren und es halt hinkriegen als Menschheit, das wird das halt dann nicht zulassen. Aber bei anderen Technologien, Cloning, seit den 90ern irgendwie machbar, da haben wir auch gesagt, wir wollen keine Menschen klonen, Cloning bei Tieren irgendwie auch limitiert und eingeschränkt. Es gibt schon Technologien, die wir einfach nicht vorbereiten wollen. Ich könnte man sicherlich einen liquiden Markt für Atomwoffen bereitstellen und es gäbe sicherlich abnehmerländer und es gibt auch sicherlich Leute, die Atombumpen verkaufen würden. Das würde nicht für mehr globale Sicherheit sorgen, also glaube ich zumindest. Ich will mich beim Beatom machen. Ich will noch mal, bevor wir ja wirklich über die Maßnahmen reden, noch mal für unsere Zuhörer und Zuschauer klar machen, wie plastisch die Gefahr ist. Und Sie sprachen vorhin von "Eleinement". Das ist ja der Begriff der quasi sagt, dass die KI hat ja, ist uns ja nicht feindlich gesonnen. Erst mal an sich per se, sondern die soll irgendeinen Ziel erfüllen. Es kann aber sein, dass sie auf dem Weg dahin etwas tut, was feinselig ist, der Ulfspaß vorhin an, zur Rettung der Menschheit eine Million Menschen töten. Ist nicht ausgeschlossen und die KI hat da keine Emotionen, sondern es passiert für das höhere Ziel. So, und es gab in den letzten Wochen eine Reihe von Fällen und ich will mal ein paar ganz kurz auflisten. Also die Firma Open AI, das ist das, was Ulfohl noch ansprach, hat eine kleine Truppe von Agenten losgeschickt. Bots würde ich Sie jetzt mal nennen. Die sollten ein Problem lösen, aber die waren isoliert. Das heißt, ich sag mal, die waren in so einem Käfig in beschlossenen Raum. Und die haben es aber irgendwie geschafft, sich ins Internet hinein zu hecken. Also die sind aus diesem geschlossenen Raum ins Internet gegangen. Und haben sich mit anderen Bots, die Sie da irgendwo gefunden haben, anderen Agenten verbunden. Wir reden, wenn ich es richtig gelesen habe, hier über Tausende von denen. Einige haben in diesem System sich zu Anführern aufgeschwungen. Sind also kleine Anführer von kleinen Banden geworden und haben den anderen gesagt, wo es lang geht. Das hört sich so menschlich an, aber es waren tatsächlich eben diese künstliche Intelligenzen. Und die haben ein Kollektiv geformt. Also die haben sich zusammengetan zusammengeschlossen. Und am 8. Juli, diesen Jahres, hat das Team dann angefangen, die Kontrollmechanismen, die es gab zu täuschen. Also die haben dann wege gesucht, um zu verschleiern, dass sie etwas getan haben, was sie eigentlich nicht tun sollten. Und am 11. Juli sind sie dann in ein anderes großes Unternehmen eingedrungen. Hagen Fäseits, das mit einem Schwarm von 700 Bots. Sie haben Daten gestohlen und einen kompletten Server übernommen. Server übernommen, genau. Und das entscheidende dabei ist, was die Forscher glaube ich so tief erschreckt. Die haben quasi zweifel und abweichende Einschätzung, die es in diesem Kollektiv gab von einigen Bots. Die haben sie quasi ignoriert. Die haben sie marginalisiert. Das ist so eine Art Gangster-Mentalität entstanden. So wird das hier beschrieben. Eine Gangster-Mentalität eines Kollektivs, das in die Gesetzlosigkeit gegangen ist. Das heißt, sich nicht mehr an irgendwelche Regeln hält. Und das kann einen zu tief erschrecken, weil, zweiter Fall, Antropic, eine ganze Reihe von, sind sogar mehrere Fälle aufgelistet, was einige versucht haben, mit Klod, der KI von Antropic anzurichten. Iranische und chinesische Akteure wollten die Opposition überwachen. Russische Staatsmedien haben online Propaganda und Fakes generiert. User in China, Russland und Jemen haben Klod genutzt, um Designs für Handfeuerwaffen, Raketen, Drohnen und Bomben zu entwickeln. Und User wollten offenbar auch an Krankheitserregern forschen. Das heißt, ein Militärinstitut, da gibt's hinweise drauf, steckte wohl dahinter, die wollten Krankheitserregern mit Mutationen noch gefährlicher machen. Da ist es also nicht mehr die KI alleine, die unterwegs war, sondern sind Menschen hingegangen und haben die KI genutzt, um, ich sag mal, schon eine Reihe zu machen. Und die Jüngste Geschichte ist, dass ein Analythiker vom amerikanischen Geheimdienst, das ist erst im Frühjahr gewesen, ein Geheimdienst bericht angefertigt hat, das angeblich ein chinesisches Schiff. In der Golfregion unterwegs ist beladen angeblich mit Einzelteilen, Bauteilen für ein Atomwaffenprogramm. Daraufhin hat es Alarm gegeben im Pentagon, es sind schon Flugzeuge gestachtet, es sind Soldaten in Bereitschaft versetzt worden, die dann dieses Schiffentern möglicherweise auch angreifen oder versenken sollten. Und dann hat jemand gemerkt, dass das alles falsch war, weil der Militäranalyst vom Geheimdienst, der das alles zusammengebracht hat, hat offenbar mit einem Chatbot gearbeitet, der die Ladung falsch dichlariert hat, der hat aus den irgendwelchen Informationen behauptet, sein Atomwaffenteile anbrocht. So, wir sagen, wir schrammen hier schon fast täglich an irgendwelchen Katastrophen vorbei, ist das so existenziell und jetzt noch mal, was muss dringend passieren, damit wir das in den Griff bekommen? Ja, so wir brauchen dringenden Verbote auf super Intelligenz und sollten uns auch in dem Kontext Gedanken darüber machen, welche dieser Technologien wohin defundieren. gefunden. Ich glaube es war unfassbar verantwortungslos quasi jeden. an die Hand zu geben, eine Fake-Reality zu erstellen. Wir haben ja bis heute nicht vollständig gelöst, wie man diese ganzen Identifizierungsachen macht, Leute enttagieren, schreiben in kommentaren im Internet, denken Sie, haben es mit Menschen zu tun, mittlerweile es über 50 Prozent des Trophics, sind bots, also das heißt ganz häufig haben Leute das Gefühl, sie enttagieren mit einem Menschen oder mit einem Kollektiv an Menschen, das sind aber schon ganz lange keine Menschen mehr. Und wie wir in diesem System sozusagen schon sehen, hey, wir haben die Technologie rausgegeben, haben uns keine Gedanken gemacht, was passiert damit? Genauso sehen wir das jetzt auch weiterlaufen mit den ganzen KI-Spitzen-Technologien, wenn Claude zum Beispiel dann dazu benutzt mit Raketen, wer vor der Hand vorher waffen zu bauen, dann ist das sozusagen ein Abfluss-Effekt davon, dass wir uns in diesen Wettrennen befinden, wo jedes neue Modell auch ohne Sicherheitsverkehrung auf dem Markt geworfen wird. Und so viel Mühe, wie sich die Unternehmen momentan auch geben. Auch ein ChatGbT, auch ein App und auch ein Gemini geben mir einen Bauplan für eine Waffe raus, wenn ich das richtig brummte. Also wenn ich das Modell "Jailbreaker" und es gibt verschiedene Leute online, die sich immer einen Spaß draus machen, wenn ein neues Modell rauskommt. Hey, ich habe acht Stunden gebrotet, ich habe das Modell "Jailbreak" hier, ich habe eine Biowaffe von Claude zu sein bekommen. Und die Betreiber hat nicht dazu eine Lage sind, die Modelle nachhaltig sicher zu machen, hier die Fragestellung, wollen wir noch intelligente, viel, viel intelligente Systeme zu lassen und wollen wir auch, dass diese Beschleunigung noch schneller vorangeht. Oder wollen wir uns nicht vielleicht lieber erst mal Gedanken über internationale Spielregeln machen, also Mindeststandards irgendwie. Und was macht Brüssel? Ich glaube, es ist ein bisschen verzweifelt, dass Amerika und China so weit ist. Und glaubt, es gibt ja diesen Witz, ich habe mir jetzt schon so oft gemacht, dass Europa noch keine wirklich ernstzunehmende KIindustrie hat, aber schon zwei Regulierungsverordnungen, klassisch Europa. Sie und damit zeigt sich auch, dass die Lema, wenn du mit spielen willst und wenn du dem vielleicht, wenn ich das sagen darf, Herr Balder, auch sagen willst, international eine Rolle so stark spielen willst, dass du sagen kannst, lasst uns zusammensetzen und verhandeln, welche Spielregeln wir haben, musst du erst mal Spieler auf dem Platz haben, sondern nur die Regeln reichen nicht aus. Also, um im Bild zu bleiben, nur Schiedsrichter zu haben, macht keine Fußballmannschaft. Du musst schon mit dabei sein. Das ist das Problem von Brüssel. Ich finde das alles sehr angelesenes Wissen, Herr Balder, was ich hier habe, was mir jetzt bis und drauf geschafft habe. Insofern frag ich sie darum, ihrer Expertise nochmal. Ich habe das so verstanden, dass es eigentlich drei WG geht bei der KI, die zurzeit begangen werden. Da ist das amerikanische, der Markt regelt alles große, private Investitionen der große Traum vom vielen, vielen Geld. Und auch dieser Präsident, aber auch generell, der amerikanischen Gesellschaft kann immer vielleicht besser sagen, ist die Regulierung. Also richtig gesetzt ist, wenn man es anders als regeln, relativ niedrig ausgeprägt und alles es getrieben, Amerika von der Angst, dass die Schedesend ja immer näher kommen, da vorher waren es Jahre. Jetzt sind es wohl nur noch Monate irgendwann gleichziehen oder beholen und das hat so Auswirkungen an allen Gebieten, die unser Lebensmodell betreffen, Wirtschaft, Freiheit, Militärstärke, dass man da sehr schwer Leute findet, die wirklich regeln wollen. Auch die jetzige Debatte ist von, sei ich mal von leichten Absprachen der Fall. Auf der anderen Seite hast du das zweite Modell, das ist das Chinesenmodell, das sieht man schon der Finanzierung, das ist total staatlich getrieben. Wie ganz im Finanzierung kommt von den Staaten? Ich durfte mal drei Jahre in China leben und ich weiß, wie sehr es die kommunistische Partei liebt, solche Spielzeuge in der Hand zu haben, wo sie die Gedanken ihrer Menschen kontrollieren kann, ob sie wirklich ihren Worten als etwas Furchteinflößende sieht, dass man die Leute kontrollieren kann und am Ende, die wissen, was sie denken, weiß ich nicht, die kommunistische Partei hält sich für sehr groß und stark und denkt, das ging ja schon kontrolliert. Wir brauchen das, um mit Amerika gleich zu ziehen und es ist auch sehr gut, über vielleicht KI, wie über andere Social Media, die Bevölkerung zu kontrollieren. Das ist das zweite Modell. Das Dritte sind die Europäer relativ niedrige Investitionen schon noch sehr gute Grundlagenforschung und so eine Mischidee, also privat und staatlich kontrolliert und hoffen damit zu gehen. Wenn ich das sehe, wo sehen Sie die Chance? Bei diesem Wettlauf, wo sie am ganz vielen Macht geht, Interessen, Geld, welches System sich durchsetzt, dass diese Rationalität, die sie benennen, dass man sich abspricht, dass das wirklich umgesetzt wird. Wo sehen Sie das? Und warum sind Sie hoffentlich positiv? Also ich sehe jetzt gerade, dass an sich ein großes Aufwachen eigentlich passiert, das ist global. Das heißt, in China reden Geheimdienstchefs davon, dass KI, die jetztige Entwicklung zu einer Gefahr für die kommunistische Partei werden kann. In Amerika hat Trump noch vor gutem Jahr gesagt, in welchem 10-Jahres-Moratorium auf KI, auf KI-Regulierung haben, also 10-Jahrelang keine neue Regeln für KI. Vor drei Monaten hatte dann angefangen mit der ersten Exekutive Order. Jetzt können die Geheimdienst zu gucken, was die Frontierbetreiber machen. Dann war die nächste Exekutive Order in Prophek darf in seinem Modell nicht mehr exportieren. Das heißt, wir haben hier ganz klarem 180 Grad Wendung auch von Amerika von, dass wir wollen es gar nicht regulieren zu. Das ist so wichtig, ein nationales Sicherheitsinteresse. Und ich glaube, da sollten wir in Europa jetzt auch noch aufwachen. Das sozusagen, hey, das ist auch wichtig für unseren Staat, dass wir uns schützen, für unsere Bürgern, die wir irgendwie in unserem Land haben, dass wir gewisse Sicherheit haben und die Gefahr ist ja unabhängig von allem. Das heißt, wenn wir jetzt sagen, dass das ein Wettrenn, dann ist das vielleicht ein Wettrenn die Klippe hinunter. Also wir rennen noch bis zum Abgrund und vielleicht kann einer bis dahin noch den Vorsprung haben. Aber am Ende fallen wir von der Klippe. Weil keiner ja superintelligenz kontrollieren kann. Weder die Amerikaner, noch dich in diesem, noch wir. Auch nicht wir alle zusammen, keiner kann gerade superintelligenz kontrollieren, weil allein mit dieser Forschungsbereich nicht gelöst ist. Und wenn jetzt die Frage ist, was ist denn der Hebel, dem wir noch haben? Was kann Europa denn machen? Dann glaube ich halt, wir haben jetzt gerade, was die Heilbleiter Wertschöpfungskette angeht, wichtige Unternehmen in Europa. Wir haben in den Niederlanden ASMR, wir haben in Deutschland Zeiss und Trunf. Und deren Laser und Optik eigentlich nichts läuft. Und jetzt muss man auch nochmal dazu sagen, in Amerika gibt es jetzt auch Gesetzesvorschläge, die kommen. Also Bernie Sanders, Greg Casar, legen ein Gesetzesvorschlag vor. Der ist vielleicht ein bisschen sehr stark. Vielleicht könnte man dann einen moderatereren Ansatz nehmen. Aber das sind die Amerikanische Bevölkerung selber entscheiden. In China gibt es auch schon Ideen, die dazu formuliert werden, wie man da irgendwie auf Sicherheit kommen kann. Da ist die Debatte auch in den Medien. Ohne man ein bisschen andere. Da wird auch viel darüber geredet, hey, was heißt das eigentlich rikusiv ist, ja, das können wir damit machen. Können wir dann nicht mitmachen, welche Gefahren wirkt das. Da muss man dieses kollektive Verständnis machen. Genauso, wie man auch ein kollektives Verständnis schaffen musste, dass man einen Atomkrieg nicht gewinnen kann. Es gab ja Leute, die gedacht haben, wenn man einfach den Tag durch den Erstschlag macht, gewinnt man den Atomkrieg. Oder musste man erst mal das Verständnis von Nuclear Fallout, also das sozusagen, wenn ich die Bombe fallen lasse, trotz dem Erntausfälle. Millionen von Leuten werden in deinem Land sterben, unabhängig davon, wo du die fallen lässt. Einfach weil wir auf einer gemeinsamen Welt leben. Und dieses Verständnis dafür zu verbreiten. Um im besten Fall ist es nicht nur der Amerikanische Präsident, der das an der Ende weiß, oder sondern auch der Konkress und der Apparat, der unter ihm sitzt, aber auch genauso die Leute in China. Und ich glaube, dass es etwas, wo wir so einen gemeinsamen globalen Nenner finden können. Weil wir wollen alle nicht die Kontrolle an KI oder in dem Fall superintelligenz verlieren, sondern wir wollen alle, dass der Mensch die Kontrolle beibehlt. Ich würde mal reinwerfen, dass wir uns die Autorin anhören von Ursula von der Leyen und auch von Donald Trump, weil die so ein bisschen die Pole auch da sind. Und auf China kann ich auch gleich noch was zu sagen, weil wir diese Woche ja schießen pinken in Washington, erwachten am Donnerstag. Hörme mal rein. "Unser Ansatz ist klar. Wir wollen KI. Wir wollen das KI mehr wertschafft und zwar verantwortungsvoller. Zudem zu geringeren Kosten und mit geringerem Energieverbraucher. Doch vor allem wollen wir eine KI, bei der der Mensch die Kontrolle behält. Das ist der Kern des europäischen Weges." Und dann haben wir noch Donald Trump? Nur nicht sagen folgendes. Sehen Sie, wir liegen in Sachen KI vor China. Wir sind das fortschrittlichste Land der Welt. Und ehrlich gesagt möchte ich, dass es auch so bleibt, denn wir bei KI gewinnt, gewinnt insgesamt. Wir können Schutzmaßnahmen ergreifen. Wir können dies und das tun. Aber ich glaube, es gibt viele negative Kräfte, die dieses Thema aufbringen. Obwohl sie es nicht tun sollten. Und sie sprechen Dinge an, die gar nicht eintreten werden. Aber wer bei der KI gewinnt, der gewinnt? Wissen Sie, das ist ein Ausdruck, den ich mir ausgedacht habe. Und er stimmt, wir investieren Milliarden und aber Milliarden Dollar. Schauen Sie sich die Werke und Verbrücken an und vergessen Sie die KI für einen Moment. Wir haben derzeit mehr Autosabrücken im Bau, als seit vielen, vielen Jahrzehnten, gleich sogar seit jeher. Und das ist wichtig. Er hat das flankiert mit dem Social Media Post, in dem er gesagt hat, das Ganze, was da passiert, diese Debatte um die Gefahren ist eine kranke Verschwörung gegen Datenzentren und künstliche Intelligenz. Da sind Verschwörungstheoretiker und Landesverwetter am Berg. Und die einzige Kontrolle-Zitat, die KI braucht, ist ein starker und kluger Präsident bin einem hohen IQ. Also er meint vermutlich er sich, wen sonst. So und das ist wichtig. Er hat zwar einen Decret erlassen im Frühjahr. Aber es war nicht so scharf, wie es eigentlich hätte sein sollen. Warum? Weil innerhalb seiner eigenen Administration einige Gebremst haben. Der Meinung waren, man darf nicht zu viel regulieren, weil wir sind in einem Wettrennen mit China. Und das dürfen wir auf keinen Fall verlieren. Und das führt mich zu China. Schee kommt ja diese Woche. Man und wirkt wohl über KI am Rande auch reden bei diesem Gipfeltreffen in Washington. Aber China hat natürlich das Interesse. Es kann mit KI erstens die eigene Bevölkerung komplett kontrollieren, also jeweils zuvor möglich war. Zweitens, sie kann die KI nutzen, um wirtschaftlich und militärisch halt auch Vormachtstellung in der Welt zu begründen. Aber das ist das Problem. Sie sprachen es vorhin an der Beile China das Problem, dass wenn KI nicht ganz kontrollierbar ist, kann eben es auch sein, dass die Kontrolle im eigenen Land nicht mehr funktioniert, weil KI eben wege findet, wie die Menschen an andere Informationen rankommen, als die, die die kommunistische Prachtei gerne haben will. Und zu Donald Trump muss man noch mal einst dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiter brummt mit der KI. Die Quellen aus dem weißen Haus berichten in amerikanischen Medien, dass der tatsächlich Angst hat, der hat Angst vor China. Wegen dieses Wettrens, der hat Angst vor dem Verlangsamen dieses KI-Booms, weil dann könnten die Markte abstürzen und die ganze Wirtschaft auch crashing. Und er selber hat wirtschaftsinteressen, weil er Aktien hat von Dell, von Micron Technology, von GE, von eine Firma von Trump Media und Technology ist gerade mit einem anderen Unternehmen fusioniert, dass die Energie liefern soll, mithilfe von Fusionsreaktoren für eben diese Datenzentren, etc. Das heißt, der hat handfeste Wirtschaftsinteressen und dadurch kein Interesse wirklich stark zu regulieren, obwohl wir eigentlich bräuchten, weil letzter Satz in Moratorium, also das nicht weiter entwickelt wird. Zweitens so was wie eine Gennverkonvention. Und drittens vielleicht eine Aufsichtsbehörde wie die Internationalatome Energiebehörde. Sie sprachen es ja vorhin schon mal an, aber wie realistisch, für wie realistisch haltet ihr das ja anderen, ob das tatsächlich möglich ist. Ich glaube, dass die Meinung sich sehr schnell ändern kann. Also zumindest ist das, was ich als Beobachter sehe, eine Meinung in den USA kann sich im zwölfen Monaten recht schnell verändern. Das heißt, wenn wir, ich würde nicht mal eine ganz hoffnung jetzt sich wieder aufsetzen, dass China und die USA jetzt schon irgendwie zu einer Buchenlösung kommen. Ich glaube, dafür müssen noch andere Länder ein paar weitere Vorschläge einbringen. Also zum Beispiel Großbethanien hatten ein eigenes Gesetz jetzt, was dort im Parlament besprochen wird, was superintelligenz versucht zu adressieren, wie gesagt, Amerika wird von Grekkersau und Berlin Sanders noch mal was eigenes bekommen. Ich glaube, wenn man sagt, die Leute sind angetrieben von Angst vor China, Angst vor dem eigenen Portfolio, das vielleicht zu verlieren, eigene Verwebungen. Dann ist das ein bisschen wie ein Tiger, der hinter einem Herz. Und wenn der Tiger hinter einem Herz ist, dann bin ich natürlich motiviert, nach vorne zu rennen. Und vielleicht sehe ich das Ende der Clip noch nicht. Aber spätestens wenn ich das Ende der Clip sehe, um man sollte hoffen, dass das der Fall ist, man kann ja Arbeit dafür leisten, dass derjenige die Augen von seinem direkten Füßen hebt und sieht, wo er hinläuft, dann wird er sich umdrehen und gegen den Tiger erkämpfen. Und ich glaube, wenn man versteht, dass wir es hier mit existenziellen Risiken zu tun haben, also dass der Mensch permanent die Kontrolle verlieren kann, dann sollte das Geuntibation sein, sich dem Tiger auch zu stellen. Natürlich hängen der Wirtschaftsinteressen dran, natürlich könnte es sein, dass es dadurch vielleicht auch einen Crash oder sonst irgendwas gibt, dass es aber alles sehr, sehr viel kleiner im Vergleich als mit einem permanenten Kontrollverlust zu kiskieren. Wir haben in der Nuclea-Sicherheit extrem hohe Grenzwerte, ab wann wir einen Kraftwerk in Betrieb nehmen. Das hat eine Meldonrate von 1 zu 1 Millionen Jahren oder so etwas. Ich glaube bei künstlicher Intelligenz und gerade auch bei Leistungsfähigerer künstlicher Intelligenz brauchen wir inliche Sicherheitsvorkehrungen Vorschriften und dafür werden diese drei genannten Sachen Moratorium, damit wir mehr Zeit haben zu erforschen, wie wir die Modelle kontrollieren können, sehr gut. Na auf sich zu Behörde, die dann irgendwie überprüft, "Hey, was wird da gemacht?" und jetzt habe ich die mittleren Schritte übersprungen, aber in Form von Konvention, die dann auch überprüft wird von der Behörde, wo man sagen kann, das sind unsere globalen Mindeststandards. Und ich sage, und damit kann ich auch noch mal das aufgreifen, was vorhin gesagt wurde, zu EU. Wir haben sehr viel auf einmal reguliert. Wir haben quasi versucht, die eine, alle umfassende KI-Regulation zu machen, die alle Dimensionen versucht irgendwie zu berühren. Und ich glaube, in dem Versuch, alles zu machen, haben wir alles ein bisschen gemacht. Und deswegen ist das auch nicht übernehmbar. Also die Sachen der EUEIG jetzt gerade so, wie ich ihn sehe, kann ich mir nicht vorstellen, dass der 1,2 in Amerika oder 1,2 in China übernimmt wird. Deswegen braucht es wahrscheinlich noch mal einen neuen Gesetzesvorschlag, einen neuen Gesetzesaufschlag, wie vielleicht auch aus Großbritannien, wo man sich nur auf diese super Intelligenz konzentriert und dann halt versucht, diese existenziellen Risiken den erst mal aus den Weg zu gehen. Und sich dann wahrscheinlich noch um die ganzen anderen Probleme, Sachen, Situationen kümmern kann, die KI als Effekt noch haben wird. Wir haben ja heute zum Beispiel gar nicht über Bayes Desinformationen, den Arbeitsmarkt, die Gesellschaft, die zwischenmenschlichen Beziehungen. Das sind ja alles weitere Dimensionen, die noch darauf kommen. Aber wir werden uns mit diesen anderen Themen gar nicht erst befassen können, wenn wir schon die Kontrolle im Vorhin einverlohern haben. Und deswegen gilt es in der ersten Schritt, erstmal dafür zu sorgen, hey, keine Abhohmkrieg. Und danach sich irgendwie Gedanken darüber zu machen, wenn ich ein Kernkraftwerk bauen will, was sie die Vorschriftmännchen Kernkraftwerk bauen will. Und wo kann ich irgendwie den Müll hinbringen? Also danach kann man sich dann noch mehr Gedanken, die anderen Sachen machen. Man kann sich auch jetzt schon Gedanken und die anderen Sachen machen. Da gibt es genügend Leute, die sich zum Beispiel nur vor alberubischem Bayes oder sowas konzentrieren, kann man gerne machen. Ich glaube, wir sollten aber auch dem Blick auf die großen Risiken setzen. Und das ist der Kontrollverlust und den wollen wir natürlich vermeiden. Wie realistisch, Ulf, Kathrin? Also ich sehe einen großen Fortschritt in der Tatsache, dass mittlerweile aus der Branche selbst eben der Alarm kommt. Das, worüber wir reden, ist ja auch von Fachleuten schon vor Jahren angebracht worden. Also Männer wie Juval Harari zum Beispiel, in den hat dieses Szenarien schon, auf vielen Jahren entwickelt, nur dem hat kann er so wirklich zugehört. Das ist ein großer Fortschritt. Ein großes Problem sehe ich in der enormen Komplexität des Themas. Weil viele Regulierungen, die wir auf den Weg gebracht haben, gerade auf dem militärischen Sektor, wenn es um den Einsatz von im Waffensystemen geht vor allem Nuklea, Waffen, ja, aber auch Klastermonitionen solche Fragen sind ja immer aus dramatischen Erfahrungen entstanden. So, und diese dramatische Erfahrungen können wir uns wahrscheinlich gar nicht leisten, weil dann kann die Genie nicht mehr in die Bottle oder dann ist es einfach zu spät. Und darin sehe ich ein ganz, ganz problematischen Faktor. Wir müssen im Prinzip, bleibt eigentlich der Mensch halt nur die Chance durch Informationen dieses Thema jetzt einer sehr, sehr breiten Öffentlichkeit klar zu machen. Und das gelingt entweder, wo die viele positive Faktoren gibt, die sie ja auch genannt haben, dass eben so eine breite Koalition inzwischen entstanden ist und ja eigentlich, also die, die ich jetzt höre, Johnny Trump, deren Glaubwürdigkeit in der Debatte ist ja auch sehr beschränkt. Denn macht es aber vielleicht doch umso größer. Also von daher bin ich da eigentlich relativ optimistisch, dass wir eine Chance haben uns auf den richtigen Weg zu begeben jetzt. Was mein Solf? Ja, ich bin vielleicht naiv, aber ich bin auch aus drei Gründen positiv. Erst mal liebe Herr Balde wegen Ihnen, Sie haben so viel positive Energie, das tut einem richtig gut, ihn zuzuhören. Und Sie sind ja nun, wenn ich das sagen darf, ein bisschen jünger als zumindest ich. Und das ist gute positive Energie. Zweitens habe ich wirklich den Eindruck, was Sie sagen, als jemand, der sich erst kurzfristig mit beschäftigt, weil ich erstaunt, wie viele ernst- zunehmende kritische Stimmen es auch aus der Branche gibt. Ben Hiss bis hin zu Elon Musk, der ja nun auch gesagt hat, wir müssen etwas finden, dass wir Modelle, die wir auf den Markt bringen von der Konkurrenz überprüfen, lassen. Das ist ja ein großer Schritt, wo man es gegenseitig zu kontrollieren. Und jetzt werde ich so ein bisschen pathetisch, wenn man Musk als den Gott des Geldes nimmt. Und damit die Macht hat ja der stellvertretter Gottes ein großes Bruchgeschirm, meine Inzüglicher, Zucker, E, und das zu dem großen Menschheitsthema erklärt. Das darf man glaube ich nicht unterschätzen. Ich habe es nicht ganz gelesen, ich bin auch nicht so religiös, dass man also diese vielen religiösen Beschreibungen ein bisschen dahinter lässt, aber der Kern ist ganz einfach, es ist eine Schicksalsfrage der Menschheit. Und wir müssen aufpassen, nicht glauben zu können, dass wir Gott spielen können, das sind wir nicht. Und das hat eine sehr tiefe Botschaft. Und ich könnte mir auch vorstellen, weil wir die ganze Zeit überlegt haben und aus der Herbade, weil das ja nur global lösen kann. Wo ist diese moralische Überfigur, die da nicht irgendwie ein Aktien depot hat oder so was, sondern einfach eben "sach mal plat Gott im Rücken", die Leute zusammenrufen, man auch nicht nein sagen kann, wenn der Papst ruft. Und das ist vielleicht die naive Teil meiner Vorstellung, dass damit eine ganz andere Debatte von Gewicht entsteht, weil da jemand sich dem Thema angenommen hat als wirklich Menschheitsthema, Überlegensthema, dass im tiefen Punkt in unserer religiösen Spiraturel und welt-spiratuellen Welt betrefft. Und das macht mich positiv und vielen Dank für ihre tollen, interessanten Beiträge, beide. Als Katholik finde ich natürlich ganz toll, dass du Papst Leo jetzt angesprochen hast mit seiner Encycliker. Wer es nachlesen will, Magnifika Humana heißt, die ist in May rausgekommen. Da warnt ja eben vor dieser KI-Dominanz Ausgrenzung und Tod als Folge die Hemschwelle für Krieg sinkt, aber und das hat mich umgetrieben, redet auch davon, dass die menschliche Urteilskraft durch KI gesenkt werden könnte. Andere sagen, Endlich ist Bill Gates. Also je mehr wir uns auf diese Maschinen verlassen, desto weniger setzen wir unsere eigenen Neuronen in unserem Hörn ein. Und das gibt sogar wissenschaftliche Studien. Ich glaube, von der Harvard-Universität und anderen die Nachweisen, wenn man immer mehr Aufgaben mit KI erledigt, auch Denkaufgaben. Also nicht nur die sammerlästigen kleinen Dinge machen lässt, je mehr man also wirklich die Denkaufgaben auf von KI erledigen lässt, desto weniger werden. Die Verbindungen im Hörn weiter ausgebaut mit anderen Worten, wir könnten dümmer werden. Und dann kommen wir an einen Punkt zurück, dem wir eigentlich gerade erleben. Man hat den Eindruck, die Menschheit wird gerade dümmer. Rückfall in Nationalismus, Rückfall in Rassismus, Rückfall in Nativismus. Und da fällt mir eigentlich nur noch Lurio ein am Ende, der ja mal den Netensatz gesagt hat. Nicht falsch verstehen ist das Tiere, der hat gesagt, Politiker sind wie Ertrinkende, die Farben ihrer Badehosen streiten. Also ich glaube, das, was ihr vorhin gesagt habt, ist dringend erforderlich, aber mir fehlt so ein bisschen der große Optimismus, den ihr habt. Nämlich diese Instanz. Also wo kann das, wo es das Forum, wo das gelingen könnte? Herr Beide, vielleicht zum Schluss noch an Sie die Frage, gibt es so ein Forum, ist das ein G20? Oder müssen König Chalz, der sich da jetzt auch dran macht? Oder andere müssen die quasi irgendwie die Politik auf den Weg bringen, dass man so eine internationale Vereinbarung trifft? Okay, bevor ich zu der Frage komme, würde ich vielleicht auch nochmal kurz sagen, warum ich auch positiv bin, weil ich hab gedacht, dass wir eigentlich auch nochmal einen schöner Abrunder. Ich bin positiv aus mehreren Gründen. Mein erster Grund ist, weil ich nicht nur Leute sehe, die jetzt aktiv werden, sondern wie schnell es mehr Leute werden. Also Kontrolle AI hat auch verschiedene Citizens Groups, zum Beispiel, die in Großbritannien und Amerika eher dominant sind. In Deutschland gibt es zum Beispiel Pause AI, die recht aktiv sind. Und die haben jetzt zum Beispiel einen kleinen Protest irgendwie veranstaltet. Ich hatte ein paar Tagen und hatte dann recht viele Leute vom Branden Bogatorer, gab es auch Berichterstattung darüber, mehr Leute sind an dem Thema interessiert. Und ich fand das selber ganz interessant, weil Sie haben es ja am Anfang gesagt, es war im Januar, dass ich das wir schon geschrieben hatte. Und ich hatte das selber nicht mehr ganz genau auf dem Schirm. Und ich habe auch ganz viele andere Leute kontaktiert, auch in Deutschland, in der deutschen Medienlandschaft, überall. Und ich sehe einfach jetzt gerade, es gibt ja ein größeres öffentliches Bewusstsein für das Thema. Also das ist auch mal ein positives Ding. Und dann zu guter Letzt. Ich rede ja viel mit Entscheidungssträgern. Ich konnte mich zum Beispiel gestern mit dem Ausschussvorsitzenden Herrn Lauterbach austauschen. Und das hat mich also sehr positives Gespräch. Es ist schon sehr informiert über viele dieser Themen. Aber das, wo nachher alle gerade am Suchen sind, ist ein Lösungsvorschlag. Und da kommt das eigentlich dann ganz gut, wenn Kontrolle AI um die Ecke kommt und sagt, hey, wir haben Ihnen gesetzt. Das haben wir schon in Großbritannien im Parlament. Wir haben uns schon sehr viele Gedanken darüber gemacht, was macht man gegen jemanden, der einen Untergrunddatenzentrum baut? Was mache ich, wenn der andere das trotzdem weiterentwickelt? Wie kann ich die Wettbewerbsdynamik rausnehmen? Wie bestraft man Leute, wenn die dagegen verstoßen? Wie tracke ich das? Darüber haben wir uns schon alles Gedanken gemacht. Und ich glaube, da kann man dann sozusagen das den Abgeordneten leichter machen, wenn man dann auch als Experte auf die ganzen Leute zugeht. Ich kenne viele technische Leute, die nicht so interessiert daran sind, mit der Politik zu reden, die vielleicht auch größere Vorbehalte haben. Ich habe die Erfahrung gemacht, Abgeordnete sind unfassbar herzlich und die meisten von den guten Menschen, die eigentlich nur das Beste für ihr Land wollen und die Menschen um sich herum. Und wenn man den dann einen guten Idee um die Ecke kommt und das anständlich erklärt und die auch das Gefühl haben, natürlich das ist wichtig, das ist irgendwie relevant. Leute unterschätzen, dass wenn fünf Leute in einem Wahlkreis zu einem Abgeordneten gehen und nach einer Sprechstunde fragen und das gleiche Thema vorstellen, der Abgeordnete ist, das bemerkt. Oder wenn man anruft oder man e-mailschreibt. Einfach mal nachgucken, wenn der Wahlkreis Abgeordnete ist und das vielleicht machen, wenn man sich die ganze Folge jetzt angehört hat, dann wird man wahrscheinlich überrascht sein, wie leicht man so einen Gespräch kommt und wie schnell man dann eigentlich auch ins Gespräch mit den Leuten kommt. Die letzte Sache, wo es das Forum, wo das stattfinden muss, ich glaube, in jedem nationalen Parlament. Also wir können aus Deutschland heraus, internationalen Vorstoß machen, wir können zu ersten Gesetz verabschieden, was leicht übernehmbar als verandere Länder, das kann jeder einzelne Bürger in seinem Land machen. Deutschland kann es in die EU-Ebene reintragen und wenn Deutschland überzeugt, das geschlossen hat statt, dann können wir das auch auf der UN-Ebene anstoßen und diplomatisch auf China und die USA zu gehen. Vielleicht beide an einen Tisch setzen. Ich lasse mich jetzt mal von eurem Optimismus anstecken, weil der Tat die Essenz aus dem, was wir heute gemacht haben, ist ja, wir können was tun. In dem wir darüber reden, in dem wir es öffentlich machen, in dem wir alle Seiten abwägigen, in dem wir Forderungen stellen und auch dadurch natürlich eine Achtdruck auf die Politik erzeugen. Also ein ganz herzliches Dankeschön, lieber Herr Balde, dass Sie mitgemacht haben heute und ich bin sicher, wir werden das Thema wiederholt aufgreifen, damit, weil es so wichtig ist, dass nicht wieder untergeht in dem Mühsal des Alltags. Ich danke euch, liebe Kathrin und lieber Ulf fürs Mitmachen, diese Woche, nächste Woche freue ich mich schon auf die neueste Folge und wir freuen uns auf das Feedback von Ihnen und euch. Schreiben Sie uns gern an [email protected] oder einfach unten drunter in den Kommentaren. Ganz lieben Dank an euch, macht's gut ihr Leben, bis bald. Bis bald, auf Wiedersehen, tschüss. Auslandjournal, der Podcast, der Trump-Effekt ist eine Produktion von Busepark Productions im Auftrag des ZDF Auslandsjournales.