Die grosse Angst vor der KI

Der CEO des KI-Unternehmens Anthropic hat vor wenigen Tagen gefordert, die Entwicklung von künstlichen Intelligenzsystemen zu verlangsamen und seine Rivalen von OpenAI, Sam Altman, sowie Elon Musk und andere KI-Konzernchefs, haben ihm zugestimmt in dieser Forderung, weil sie die Sorge teilen, dass KI zunehmend unkontrollierbar werden und zur Bedrohung für die Menschheit werden könnte. Spreche mit Stefan in dieser Folge von aus geglaubt, über diese Ängste auch über ganz konkrete Gefahren, die drohen beim Einsatz von künstlicher Intelligenz in der Arbeitswelt, auch in der Welt von News und Videos, die gefägt werden können, auch im militärischen Einsatz. Und wir fragen uns, wie steht es um unsere Angstskala im Blick auf künstliche Intelligenz und welche Möglichkeiten zur Einwirkung zur Gestaltung dieses neuen digitalen Zeitalters haben wir noch. Aus geglaubt, Religion erledigt Christentum vorbei, wir schauen genauer hin auf unsere Gegenmaats und auf das, was vom Glauben übrig bleibt. Herzlich willkommen bei Aus geglaubt, wir widmen uns heute einem brandaktuellen Thema. Es geht um die große Angst vor KI, wer hat Angst vor der KI und wie viel und wer schon nicht. Das wird heute unser Thema sein, aber vorher haben wir noch ein paar Ankündigungen. Wir werden jetzt zwei Wochen Pause machen und zwar, weil wir in den Herfsferien sind, Manu, wo geht's hin? Nach Südfranckreich, eine Woche, du bist ja länger weg, eigentlich. Als ich, ich hab nach der Südfranckreich Woche noch einen Rom-Trip vor mir, allerdings nicht Ferienhalber, sondern ihm Auftrag des Herrn, gehe ich da an die Valdenser-Fakultät und spreche dort auch über KI. Genau, so wie ihn eingeladen, da etwas zur etischen, teologischen Beurteilung oder Einschätzung von KI und ihren potenzialen Risiken zu sagen. Da freue ich mich sehr darauf, weil ich noch gar nicht in Rom war. Und du ja so als Rom. - Es ist so schade, dass du das erste Mal Rom ohne mir. Ich habe mir so gerne gesehen wie deine Augen groß. Ja, ja, ja, wie du Freude hast. - Wir haben das ja auch schon öfter angedacht. Wir haben das ja eigentlich zusammen mal dorthin gehen. Das können wir ja immer noch machen, dann kannst du mir die besten Restaurants und was auch immer die Hotspots von Romempfen abschreiten. Mir wird dann unbedingt Franzie auch mitnehmen. Und wichtig ist aber, ihr hört uns dann nicht in zwei Wochen wieder, sondern in zwei Wochen und einem Tag. Ja, genau. - Weil wir kommen nämlich neu nach den Herbstferien, nicht mehr am Mittwoch, sondern immer am Donnerstag. Genau, da wurden bei Reflepp, verschiedene Podcasts verschoben, uns gibt das auch die Möglichkeit, einen Tag mehr Zeit zu haben, um die Aufnahmen hinzukriegen. Das ist auch eine Entlastung. Und wir hoffen natürlich, dass nicht für all zu viele Hörinnen und Hörer jetzt der Wochenrhythmus komplett auseinanderfällt, weil sie immer am Mittwoch im Fitness ausgegaubt hören und jetzt. Oder jetzt wird Donnerstag zum Wäschetag gesagt, uns verklagen, weil ihre körperliche Ertüchtigung leidet durch die Verschiebung. Aber wir werden weiterhin wöchentlich aufnehmen, aber veröffentlichung des Podcasts ist von jetzt an Donnerstag. Genau, und jetzt muss ich dich an was erinnern, du wolltest noch Werbung machen. Umbedingt, umbedingt, wir sprechen ja heute auch über KI. Und das ist ja nicht nur ein Trend-Thema, sondern wirklich eine. Ich würde sagen, eine disruptive Veränderung oder Entwicklung in unserer Gesellschaft. Und wir werden eine Fachtagung durchführen vom KTE aus, vom Kompetenzzentrum Theologie und Ethik, das ich hier im Haus leite. Wir haben die Tagung mit langer Hand vorbereitet und organisiert. Das war quasi mein erstes Projekt, als ich hier im Januar angefangen habe. Und wir haben richtig tolle Gastrednerinnen und Gastredner eingeladen. Es gibt ein Keynote-Referat von Sarah Spiekermann und von Tilo Stadlmann am Vormittag. Und am Nachmittag gibt es sieben verschiedene Workshops zu ganz praktischen Fragen der KI-Anwendung, als auch zu mehr Theologischen theoretischen meta-reflexiven Themen rund um KI, was macht KI mit unserem Menschenbild, mit unserem Gottesbild und so weiter? Also herzliche Einladung an alle, die in Erreichbarer Nähe sind. Die Tagung findet in Zürich statt am 20. Oktober. Das ist ein Dienstag. Also, wenn es euch möglich ist, da einen Freitag, einen Freintag einzugeben, dann lohnt sich das auf jeden Fall. Und ich würde mich natürlich sehr freuen, wenn eine ganze Reihe von Teilnehmenden auch ausgeglaubt Hörerinnen und Hörer sind. Also wir könnten ja zum Beispiel alle einfach roten Socken tragen, dann würde man merken, wer von raus geglaubt. So viel noch, wir werden in der Episode-Beschreibung, werden wir den Link auch zum Tagungsprogramm und zur anmelde Seite einfügen. Die Tagung heißt Ghost in der Maschine, kirchliche Verantwortung und Gestaltungschancen im Zeitalter der künstlichen Intelligenz. Und eigentlich sind wir damit schon sehr nah an unserem heutigen Thema dran, die zu Hörerinnen und Hörerreaktionen lassen wir für diesmal aus zugunsten dieser beiden Ankündigungen. Stefan, du hast das Thema schon genannt, wer die große Angst vor der KI haben, jetzt genannt, genau. Es war am 12. September als ich Dario Amodei von Entropics gemeldet hat. Also mein Tropics nicht kennt, vielleicht kennt ihr Klod. Das ist dieses LLM, was wahnsinnig beliebt auch ist. Und der hat gesagt, wir müssen, dass mit dieser Entwicklungsgrenze, die wir ständig gegen oben verschieben, dringend verlangsamt. Das geht zu schnell, es gibt mittlerweile generative KI, die so dermaßen Leistungsfähig ist, dass die sich selbst trainiert und verbessern kann. Und das entgleitet uns langsam aber sicher. Und er ist ja nicht der einzige, der der vorgewarnt hat. Und lange haben ihren Masksermortmen gesagt, hey, vielleicht, wenn man Zeit für einen Entwicklungsstopp, das geht alles doch ziemlich rasch. Und der Grund liegt eben nicht einfach darin, dass viele Forscherinnen und Forscher wahnsinnig schnelle Fortschritte machen, sondern dass die KI mittlerweile in der Lage ist, selbst neue LLMs quasi zu erzeugen. Large Language Models, ohne dass sie dafür eine Anleitung oder eine Überwachung oder ein spezielles Training braucht. Sondern die Leistungsfähigkeit liegt gerade darin, dass sie sich eigentlich, würde man in der Biologie sagen, selbst reproduzieren kann. Und es gab ja einige Geschichten, die auch Schlagzeilen gemacht haben, in denen neue KI-Modelle Sicherheitslücken ausgenutzt haben und quasi aus dem Labor entkommen sind. Dieser bekannte Vorfall bei OpenAI, wo die KI, es hat sich dann ja herausgestellt, dass sie dazu auch angewiesen wurde von den Entwicklern quasi einen Weg aus dem Labor zu finden. Von daher ist es nicht ganz so, wie soll ich sagen, nicht ganz so erstaunlich oder skandalös, dass das dann tatsächlich gelungen ist. Aber doch, die haben eigentlich eine abgeschirmte Arbeitsumgebung gemacht für dieses KI-Modell und dieses KI-Modell dann auch verlassen. Genau, die es, die es, die es aber wirklich, es hat einen, quasi einen Schlupfweg gefunden aus diesem System heraus. Auch vorher hat ja ein tropik ein neues Klodmodell auf den Markt gebracht, dieses Fabel, das dann wieder zurückgezogen werden musste, auch auf Anweisung der amerikanischen Regierung, weil es gerade im Bereich von Coding und von Sicherheitsarchitektur durchschauen so ausgeklügelt war, dass man damit verschiedene Websites hacken konnte oder sich Zugang verschaffen konnte zu Sicherheitssystemen. Das ist eines der ganz virulenten Probleme im Moment, dass die Entwicklung der KI schneller veranschreitet, wie die Entwicklung der Sicherungssysteme, die hinter allen möglichen Websites und Portalen und Zugängen und so weiterstehen. Ist ja eigentlich ein ziemlich altes Problem, das so läuft. Wart man noch kurz bevor wir jetzt auf die konkreten Sicherheitsbedenken, also auf das, was uns Angst wachen könnte. Eingehen, lass uns vielleicht ja ein bisschen anders mal einsteigen. Ich habe ihren Blogbeitrag geschrieben, auch zum Thema, dass wir jetzt gewarnt werden und dass wir vielleicht Angst haben. Und habe da gemerkt, wir haben quasi so drei bis vier ganz unterschiedliche Haltungen, wie wir mit KI im Moment umgehen, was so unser Verhältnis dazu bestimmt. Es gibt so die Gruppe der Warner, die sagen, hey, Leute, jetzt brauchen wir eine Pause. In zehn Jahren könnten wir alle Tod sein, das könnte quasi die nächste Evolutionsstufe sein. Kann gut passieren, dass uns das auslöschen wird oder mindestens soweit wir verstehen, nicht mehr welche Prozesse dahinter ablaufen, passt auf, es braucht jetzt einen Stopp. Besonders beeunruhigend ist, dass die Gruppe der Warner zu einem ganz großen Teil aus den Entwickler selbst besteht. Also sind eben Prominente Entwickler, die zu den Warnengehörnern sind sogar die prominenten Köpfe, die hinter diesen LLams stehen, die wir nutzen, die diese Warnungen aussprechen. Und das gibt im Ganzen natürlich nochmal ein ganz anderes Gewicht und auch eine Trinigkeit. Und dann gibt es auf der ganz anderen Seite des Päktrums. So die Leute, die in einer großen KI Euphorie sind, das reicht so von. Es ist gar nicht mehr schwierig, Sitzungsprotokoll zu schreiben bis zu KI wird sämtliche Ressourcenprobleme und Nachhaltigkeitsprobleme, die wir auf der Welt haben lösen. Es steht kurz bevor, dass hier ein Paradiesen steht, indem wir alle in Wohlstandsicherheit und ganz ökologisch nachhaltig leben werden. Und Gesundheit, ja, es ist vieles. Gesundheit, und ja, da sind ganz wichtig auch auf die Überwindung von Krankheiten, weil die KI-Datenmengen und gehen Informationen zu verarbeiten kann oder analysieren kann, wie das bisher mit Mein Power gar nicht möglich war. Und vielleicht der größte Teil bewegt sich irgendwo zwischen diesen beiden. Also, dass man so ein bisschen Hoffnung hat, seit es jetzt auf Arbeitserleichtungen ein bisschen Angst hat, vielleicht ein Job zu verlieren, das vielleicht ein bisschen übertrieben findet. Und ich denke, ja, es ist vielleicht auch einfach ein Marketinggerk, jetzt vor der Gefahr dieser KI zu waren, damit sagt man ja auch immer, dass sie ungeheuer potent ist, dass sie was kann. Und ich glaube, irgendwo da drehen verordnen sich die aller, aller meisten Menschen, die schon mal was davon gehört haben und es ist ja echt schwer, nichts davon gehört zu haben. Manchmal jetzt mal nicht aus der Perspektive, weißt du, des Ethikers, der sich damit beschäftigt, sondern du als Person. Wo würdest du sagen, stehst du bei diesen drei Feldern, eins, zwei oder drei? Ich bin ein sehr neugieriger Mensch und ich war als die ersten LMS auf den Markt kamen und Chatchipiti allgemein zugänglich wurde. Ich war sehr schnell, sehr begeistert von den Möglichkeiten. Und ich hab wirklich immer mal wieder richtig enthousiastisch wahrgenommen, was mit KI alles möglich wurde. Ich war einen früher Nutzer von Mid-Chirney von diesem Bildgennerer-Generationsprogramm oder Plattform und hab da Hunderte von Bildern erstellt und war wirklich hin und weg von den Möglichkeiten. Und ich muss sagen, bis heute kann ich meine Begeisterung über die Leistungsfähigkeit von KI-Modellen und Systemen schlecht verbergen und schlecht unterdrücken. Also ich finde es schon fenomenal, was da möglich geworden ist. Und hab auch jetzt von meiner Art her, hab ich hier einen sehr neugierigen explorativen Zugang und denke immer, zuerst mal probieren wir das mal ausschauen, was möglich ist und so. Gleichzeitig sind mir natürlich die Gefahren des Missbrauchs auch bewusst. Und da hab ich auch schon drüber geschrieben und nachgedacht. Wir haben ja zehn Leitlinien zum Umgang mit KI entwickelt. Die jetzt ökumenisch mit der Unterstützung, wirklich der großen Kirchen in der Schweiz. Die Kartoliken sind mit dabei, die Kriskatoliken, die Freikirchen sind mit dabei. Die das Papier unterstützen Leitlinien zu einem etischen Umgang mit KI. Und in diesen Leitlinien hab ich versucht, immer beides deutlich zu machen. Einerseits das Potenzial, das in der Nutzung von KI steckt in allen möglichen Lebens- und Anwendungsbereichen und andererseits schon auch die Gefahren, die damit einhergehen. Ich hab, wir werden darauf wahrscheinlich noch zu sprechen kommen. Meine Ängste im Blick auf die KI beziehen sich allerdings sehr, sehr viel stärker oder fast exklusiv. Auf den Missbrauch der KI in falschen menschlichen Händen, auf die Machtkonzentration, die mit KI-Konzernen einhergeht. Und praktisch gar nicht auf dem Terminator-Szenario. Dass jetzt die KI die Kontrolle übernimmt und die Auslöschung der Menschen plant. Ich weiß nicht, wie realistisch dieses Szenario wirklich ist. Und ich befürchte, dass der Mensch sich selber unter Verwendung der KI viel mehr zur Gefahr oder viel unmittelbarer zur Gefahr werden kann als eine entfesselte KI. Ja, aber man, und das finde ich jetzt noch spannend. Damit sagst du eigentlich nur, ja, die macht nicht das generative Moment per se bei der KI. Also, dass die sich selbst trainieren und entwickeln kann. Wirklich Angst, sondern die macht Angst, was Menschen mit diesen Möglichkeiten tun. Könnte man ja sagen, ja, gut, in dem Sinne sind auch Atombomben nicht besonders gefährlich. Also, wenn kein Mensch sie abwirft und zündet, dann sind die eigentlich ganz harmlos. Ja, gut. Der Vergleich hinkt natürlich insofern als Atombom. Also, es ist eigentlich keinen konstruktiven, produktiven, lebensförderlichen Anwendungsfall von Atombomben gibt. Es gibt aber sehr viele konstruktive, lebensförderliche Anwendungsfälle für KI. Also, das ist sehr schön. Ja, aber dann nehmen wir an der Stromtechnologie. Dann können wir sagen Atomkraftwerke, superanwendungsfall, oder? Ja. Und wir verstrommen praktisch ohne, dass wir damit ein CO2-Fußabdruck produzieren, ganz schrecklicher Anwendungsanfall wäre dann Hiroshima. Ja, ja, genau. Aber der Unterschied ist, ja, nur die Frage, was tut der Mensch damit? Und würde es sagen, KI ist auch ein Problem auf der Ebene. Ja, würde ich absolut, würde ich sagen, KI, also es lässt sich ja nicht ernsthaft die Tese vertreten. Das künstliche Intelligenz oder diese Modelle, die jetzt entwickelt werden, dass die in rein niederträchtiger lebensfeindlicher Absicht entwickelt werden. Da ist ein Potenzial in ganz vielerlei Hinsicht drin. Das Leben von Menschen zu erleichtern und sogar Probleme zu lösen, die man bisher nicht lösen konnte. Aber mit der Leistungsfähigkeit dieser KI, und wenn du sagenst, generative KI-Modelle, natürlich mit dieser exponentiellen Entwicklung, die darauf hinsteuert, dass KI-Systeme sich selbst verbessern. Und dann quasi iterativ, das ist ja dann eine, wirklich eine Explosion. Entwicklungs-Explosion, damit gehen natürlich auch Missbrauchspotenziale. Ja, schon. Ich frag nur deswegen so penetrant nach, weil ich gerade letzte Woche bei Baywatch Berlin reingehört habe. Und die haben wirklich so über die Techapokalypse gesprochen. So in der normalen, witzig flabsigen Art, aber diese Angst ist eine andere. Dort geht es nicht darum, dass jemand KI-Technologien einsetzt und z.B. Waffen zu produzieren oder Waffen zu lenken. Sondern da geht es darum, dass KI Tools ein Eigenleben entwickeln könnten, sich verbünden könnten zusammen, Strategien sich ausdenken könnten, um dann quasi die Herrschaft zu gewinnen, den Menschen zu Knechten, etc. Aber es ist schon mal gut zu hören, du hast jetzt deine Befürchtungen mal nicht auf dieser Seite, sondern eher bei dem, was Menschen damit tun. Und vielleicht gehen wir mal so ein bisschen durch, wo wir denn Ängste von KI wahrnehmen. Wir haben ja schon eine Folge aufgenommen zum Thema FOBO. Also "fear of becoming obsolete", die Angst überflüssig zu werden, weil KI-Technologien LLMs uns in vielen Bereichen bereit übertroffen haben und auch in denjenigen Bereichen, wo man am Anfang noch über KI Tools gelacht hat, innerhalb von ein bis zwei Jahren Fortschritte gemacht haben, die Atemberaubend sind. Ja, also das halte ich natürlich für ein großes, auch potenzial, auch zur Verschlechterung der Lebensbedingungen vieler Menschen. Ich finde, dass allerdings sehr schwierig abzusehen. Also was ich völlig klar finde, ist das Seihensicher jetzt schon ab. Das die Ängste. Errungenschaften künstliche Intelligenz, die Möglichkeiten dieser verschiedenen Modelle dazu führen, dass der Arbeitsmarkt wirklich komplett durchgekämmt und die Karten auch ein Stück weit neu verteilt werden. Also wenn du nur schaust, wie du jetzt mit Hilfe von KI ohne jede Kenntnis von HTML, von coding ohne irgendeine Ahnung zu haben, kannst du eine Website erstellen und es sieht auch noch richtig gut aus. Vor ein paar Jahren hätte man noch gesagt, wenn einer sagt, ich studiere IT, ich werde ITler, hätte man noch gesagt, ja gut, das ist jetzt wirklich, da bist du an der Cash-Cauter an, da kannst du die braucht es immer und ich glaube, die wird es auch immer brauchen, aber viele Geschäftszweige im IT Bereich mit denen man eine Tonne Geld machen konnte, Website, Erstellung usw. Das wird einbrechen oder auf einem ganz anderes Niveau kommen, weil sich das durch KI Hilfe so einfach erstellen lässt und ich glaube, da wird eine Bewegung stattfinden, es gibt auch Stimmen, die sagen ja gut, die verschiedenen Arbeitszweige und Felder werden dadurch wegfallen oder durch KI massiv an Attraktivität verlieren, aber es wird andernorts, wird es dafür Leute brauchen, also die jetzt nicht die große Arbeitslosigkeit voraussagen, nur der Bedarf an Fachkräften, der gesteigerte Bedarf an Fachkräften am einen Ort, löst ja noch nicht das Problem, das Fachkräfte an einem anderen Ort weniger gebraucht werden, weil man kann die ja nicht alle dann rasch mit einem Wochenend-Kurs umschulen und aus, keine Ahnung, aus dem einen beruhigen Zweikangehörige des anderen machen, also ich glaube, auch das Arbeitswältenthema ist, ich glaube, dass es gerade dort viel weniger disruptiv, also umstürzend, umwälzend sein wird, als ich das jetzt die meisten Vorstellungen nicht versuche, kurz zu erklären, warum ich das behaupte, ich glaube das zum Beispiel die Umstellung von einer Gesellschaft, den Wirtschaft primär in der Agrarwirtschaft bestanden hat, auf eine industrialisierte Gesellschaft, die mittels Maschinen und Motoren dann Dinge herstellen konnte, das ganze Fabriquesen, was aufgekommen ist, wahnsinnig viel transformativer war für die Gesellschaft, als das was wir jetzt erleben, ich glaube auch, dass die Umstellung von Industrialisierungswirtschaften auf Dienstleistungsektoren, die wir ausgewildet haben, viel, viel transformativer war, als das was wir jetzt erleben mit KI und ich sage dir mal so ein paar Gründe, weshalb ich das glaube. Ich denke, wenn wir uns diese Probleme anschauen, wo man fertige, gut erhobene Datensätze miteinander vergleichen muss, wo man Strukturen vergleichen kann, wo man bereits durch Dachteentscheidgrundlagen miteinander vergleichen kann, dann ist KI tatsächlich eine Abkürzung, das glaube ich wirklich. Ich glaube aber, dass KI z.B. nicht geeignet ist, um in einem Team einen Entscheidprozess wirklich voranzubringen. Weil wie nimmst du die Leute mit, oder? Also, stellst eine wahnsinnig komplexe Frage, du bekommst eine wahnsinnig ausführliche komplizierte Antwort und was machst du jetzt damit? Also wer entscheidet am Schluss? Du wirst ja nicht dein LLM entscheiden lassen, das LLM will ja gar nicht entscheiden, das ist gar nicht darauf ausgelegt. Also das, was du da oft produzierst, sind dann 50-seitige PDFs, die kein Mensch mehr liest, sondern auch wieder durch ein LLM jagt. Und eigentlich könnte es sagen, ja hätten wir uns jetzt von einem Flipchart getroffen und mal wirklich 10 Minuten nachgedacht, wäre vielleicht mehr Anverständigung und Scheidgrundlage passiert, was das, was wir uns dahin und her schicken auf unseren MS Team's Jet. Und dann gibt es für mich so ein zweites Beispiel, wo ich das wirklich selbst werke. Ich ertrag diese ganzen Scheiß-KI-Posts nicht mehr. Also sieben Dinge, die ihr Unternehmen morgen schon effizienter machen können und dann diese Elenden-Eikens, die dahinter stehen und eine generative Sprache, dass du denkst, dass dir nicht mal Mühe gemacht hast zu redigieren, was du da ausgespuckt hast. Das hat ja linkt ihn eigentlich kaputt gemacht. Das hat linkt den kaputt gemacht und ich finde, er hat überhaupt nicht alle erfasst, aber ich habe mir jetzt das wirklich angewöhnt. Wenn ich solche Post sehe, dann folge ich den Leuten nicht mehr oder kündige die Freundschaft auf. Nein wirklich, weil das ist nicht etwas, womit ich meine Zeit verbringen will, dass die da irgendetwas reinwachsen aus, aus ein LLM, wo keine eigene gedankliche Auseinandersetzung her besteht. Ich finde es toll, wenn sich jemand Gedanken macht und dann Anformulierungen arbeitet mir Kai. Aber wenn ich das Gefühl habe, dass mir jemand einfach Dinge zeigt, die er oder sie gepromptet hat, dann finde ich das eigentlich eine Frechheit. Und du kannst das ja, du kannst das mit so wenig Aufwand machen, du kannst das ja heute so automatisieren, dass du noch nicht mal mehr überprüfen musst, was da online geht, du kannst eine KI instruieren auf linkt in jeden Tag eine Zusammenstellung von fünf Tipps zu bringen und die zu posten, da hast du gar nichts mehr mitzutun und so ließ sich das teilweise. Genau, wenn das Gefühl hat, dass du dafür musst dich keine Zeit investieren. Ich glaube, bewege ich, dass es immer solche Wellenbewegungen gibt. Das, wenn dir vorstellt, der Moment, wo der Drucker eingeführt wurde in Betrieben. Also, wo man Dinge ausdrucken konnte und es nicht mehr so teuer war, wie wenn das zu einer Druckerei bringen muss, das ist ein Moment, wo die Dokumentation und die Bürokratie in Betrieben enorm zu genommen hat, weil du eigentlich alles, was an komplexen Aufgaben da war, einfach in komplizierte Probleme überführt hast und du hast riesige Aktenordner, Metan Aktenordner produziert. Aber das hat ja dann zu einer Gegenbewegung geführt, dass man gesagt hat, ja, ich will ein One-Pager, ich will Management Cockpit, ich will entscheiden können. Und ich glaube, ganz ähnlich wird es auch laufen mit Entwicklungen, die wir im Moment mitmachen. Ja, es wird sehr viel einfacher eine Webseite zu erstellen. Das glaube ich auch. Und da könnte man sagen, wie früher die Druckkosten gesunken sind, sind jetzt der Preis für das Einricht in einer Webseite. Ich glaube aber, dass du trotzdem dahinter mein Power brauchst, die überlegt, was diese Webseite eigentlich tun soll, wozu du sie machst, was eigentlich der Grund ist, warum du diese Webseite brauchst. Und ich denke, es wird ganz viele idiotische Entscheidungen geben, die dann dazu führen, dass man X Webseitsmeherstellt, die überhaupt nicht gebraucht werden, die genauso wie früher Akten in einem Ordner liegen geblieben sind, dann einfach irgendwo im Universum des World Wide Webs liegen, ohne dass sie einen wirklichen Nutzen erfolgt. Ja, natürlich. Also das blaest natürlich die Produkte, die das Internet enorm auf, aber es verändert natürlich schon etwas an den Arbeitsabläufen und auch am Bedarf an Arbeitskräften, wenn du Dinge, die früher 100.000 Franken gekostet haben, jetzt für 2.000 Franken machen kannst, oder, wenn du Dinge, die früher eine Woche in Anspruch genommen haben, die Analyse, eine Marktanalyse mit allen Pläern und so, wenn du die jetzt in einer Stunde mit ein paar Promts über die du drüberschaust, machen kannst, das ändert ja etwas, das erleichtert die Arbeit vieler, aber es macht ja dann absehbar auch die Notwendigkeit, ändert ja auch etwas an der Notwendigkeit von angestellten, die früher damit die Tage zugebracht haben und v.a. das finde ich, das wird schon, das hat schon die disruptives Potenzial vor allem verschiebtes Machtverhältnisse, also diese Bank für internationalen Zahlungsausgleichen Baselbiz, die haben ja so Szenarien entworfen, im Blick auf die KI zu kunft und das relativ düster als zwei, also zwei der wahrscheinlichen Optionen, die sie genannt haben, ist entweder das Ganze wird zu einer Blase, wie war das damals noch diese Big-Tech-Blase und so diese, wo unglaubliche Investition getätigt wurden und dann ist das Ganze zusammen gekracht und hat zu einer Wirtschaftskrise geführt im Dotcom, ja die Dotcom, genau die Dotcomblase und dann das gab es ja mit der Immobilienkrise dann 2007/08 auch noch mal und das könnte sich in einem erhöhten Masse jetzt wiederholen, weil hier Billionengelder investiert werden, das andere Szenario, das positivste neu war, dass die Bette aufgeht und KI tatsächlich enorme Erleichtungen in allen möglichen Arbeitsfeldern schafft und sich so auch lohnt und dann führt es aber nicht notwendigerweise zu einer massen Arbeitslosigkeit, aber zu einer enormen Machtverschiebung in Richtung dieser KI Konzerne. Sie haben dann vorgerechnet, dass wenn die Wette aufgeht, dann wird der Anteil der arbeitenden Bevölkerung am Bruttoinlandprodukt von 60 Prozent auf 20 Prozent sinken, das heißt, die die Investitionen und die Gewinne, die mit der KI, mit KI-Modellen gemacht werden, nehmen einen viel größeren Teil des Bruttoinlandproduktes ein und das bedeutet natürlich eine enorme Schwächung, auch der Wirtschaftskraft und auch der Folge dessen, auch der Mitbestimmung der arbeitenden Bevölkerung zugunsten von Tech-Konzernen, die enorme Gewinne abschöpfen, enorme Umsätze machen und von allen ihnen Anspruch genommen werden, weiß sie so effektiv, die Arbeit erleichtern. Aber das ist schon eine bedenkliche Fischung. Ich glaube, dass die Frage, ob das wirklich effektiv sein wird, also das müsste sich ja dann zeigen. Ich wäre super skeptisch, dass das wirklich funktioniert, weil ich mir nicht vorstellen kann, wie du Entscheidungsprozesse damit umgehen kannst oder du hast so quasi gesagt, ja, Markt analysen, das macht alles die KI und so, ja, aber mit welchem Daten, mit welcher Steuerung, mit welchem Ziel, wohin soll das führen, das sind ja alle Analysen, die wir machen, alle Studien, die wir machen, alle Datenerhebungen, die wir machen, sind ja immer Interesse geleitet. Und wer soll diese Interessen eingeben? Also wenn wir natürlich sagen, ja, gut, es sollen Maschinen untereinander klären quasi jetzt so auf der Ebene, ja, würde ich ja fragen, ist das eigentlich noch Wirtschaft oder ist das einfach ein Motorengeräusch? Also ist das noch etwas, wo wirklich jemand etwas in der Welt realisieren und umsetzen will, weil wenn es das ist, dann ist KI immer ein Tool oder ist es etwas, was KI selbstständig tut, dann ist es umwelt. Aber das würde ich niemals zum Protosozialprodukt rechnen, das ist ein Widerspruch für mich, aber ja, also ich finde, das ist ein wichtiger Punkt, welche Entscheidungen nimmt uns, nehmen uns KI-Systeme zunehmend ab und welche Probleme entstehen dadurch und natürlich dahinter liegt auch der Punkt, welche Ergebnisse liefert uns KI, weil das ist ja nur scheinbar objektive Analyse. Da sind ja ganz viele Vorannahmen gehen, ja, in diese Texte und in diese Daten ein, die wie KI verarbeitet. Von daher ist das ja jetzt, da sind natürlich sind da im Englischen, sagt man Beises vor Eingenommenheiten mit verbaut und wenn man den KI-Systemen dann noch die Entscheidung abnimmt und sagt, sag mir, was ich im nächsten Jahr ändern soll in meiner Firma, aber die Entscheidungsgrundlagen zu erarbeiten. Aber das meine ich eben, woher hast du diese Grundlagen? Oder lasst uns mal einen ganz einfachen Beispiel machen, warum kannst du dein LLM jetzt fragen, wie groß die Chance ist, dass dein Fußballverein morgen gewinnt? Warum funktioniert das überhaupt? Das ist ganz entscheidend, dass wir uns das mal überlegen, was alles dahinter steht. Das kann zugreifen auf Wettbüros, die Wettquoten zeigen. Das kann zugreifen auf journalistisch aufbereitete Artikel. Es kann zugreifen auf Webseiten dieser Fußballklubs, die unterhalten werden. Es kann auf die Spielhistorie zurückgreifen, die irgendwo auch in einem Medium abgedruckt. Das bedeutet eigentlich, dass es so sehr gut darin ist, Informationen zu verarbeiten und miteinander in Beziehung zu setzen und diese Verknüpfungen zu machen, aber es generiert ja keine Welterfahrung. Kein LLM generiert selbstständig Wissen. Es kann ja nur wissen, was da ist, anders aufbereiten. Deswegen wäre ich viel, viel skeptischer. Das ist sowas wie eine Marktforschung. Überhaupt machen kannst mit KI. Natürlich ist KI ein tolles Tool, um dann diese Marktforschung zu präsentieren, zu systematisieren. Du kannst ja ganze Teile davon redigieren und schreiben lassen. Das bestreite ich nicht. Aber wenn du etwas messen willst, was real in der Welt passiert, dann kann das KI nicht tun. Ja, ich sehe schon. Wir könnten allein mit dem Thema die ganze Folge vollgefallen stellen. Also ich würde jetzt hier mal ab, auch wenn mir noch einiges auf der Zunge liegen würde und wird von dir gerne wissen auf einer Skala von 1 bis 10. Wie hoch schätzt du die Gefahr ein, dass KI den Arbeitsmarkt diesruptiv durcheinander bringt und zu einem unheiß Scenario führt? Also nicht nur, dass es sich verändert, sondern dass es sich negativ verwendet. Etwa 2 Punkte von 10 würde ich geben. Also ich werde da eher im Bereich 6 oder 7, oder 5 oder 6 so, 5 oder 6. Okay. Aber das, was wir uns wünschen würden, wäre da wahrscheinlich bei beiden gleich oder kein Mensch, so amher Dinge tun müssen, die KI erledigen kann. Aber KI soll nichts tun, was nur Menschen können, nämlich Entscheidungen treffen. Genau. Oder auch nichts übernehmen, was Menschen eigentlich dann doch noch gerne tun würde. Ja, das finde ich. Das finde ich super kriterio. Okay, das finde ich mit KI Robotern, die uns dann kochen und ich mich dann gefragt habe, würde ich meinen Essen von einem Robot dazu bereiten wollen? Oder ist es nicht vielleicht eine der letzten Tätigkeiten in meinem Alltag, wo ich noch eine echte Karotte und eine Kartoffel oder irgendwie etwas physisch so in Händen habe und Schäle und zu bereite und irgendwie in Touch kommen mit der ganz realen Welt, jenseits meines Bildschirms. Und wenn ich das dann auch noch der KI abgebe und dafür eine halbe Stunde länger arbeiten kann, habe ich genau gar nichts gewonnen. Ja, das finde ich. Und jetzt wisst ihr auch mal noch, besetzt kein Thermomix. Das nächste große Problem, was Angst machen kann, ist die Desinformation. Und mit Desinformation, meine ich jetzt nicht nur sowas triviales wie LLMs, können dir helfen, Texte zu fähigen, weil so quasi Artikel zu schreiben, die waren sie nicht plausibel, klingen, aber eigentlich sind das alles falsche Daten drin, es stimmt überhaupt nicht. Es ist Propaganda, es ist Verschwörungstheorie, etc. Sondern ich würde das schon noch das Rad ein Stückchen weiter drehen und sagen, das wirklich gefährliche wäre das KI-Fakten kompillieren kann in eine bestimmten Richtung und die Quellen dazu im Sinne von Website, etc., selbst konstruieren könnte. Also ich halte das jetzt schon für ein riesiges Problem und wenn man jetzt noch dazu nimmt diese ganzen, wir haben ja in anderen Zusammenhang über Colin Fernandes und Christian Ulmen gesprochen, der ja beschuldigt wird, der Ehemann von Colin Fernandes. KI generierte nackt Bilder von ihr oder sogar pornografische Sequenzen verbreitet zu haben unter der Vorgabe, dass es sich um reale Videos handelt. Also solche Dinge werden ja absehbar exponentiell zunehmen, die Möglichkeiten sind jetzt schon wirklich erstauntlich und beängstigend zugleich. Und diese an dieses anfängliche Überlegener lächeln, mit denen man KI generierte, Bilder und Videos abqualifiziert hat, weil da irgendwie Menschen mit 6 oder 7 Fingern an der Hand herum liefen oder sonst irgendwie ganz klar erkennbar Menge von KI-Produktionen aufwiesen. Das ist ja jetzt im kürzester Zeit so weitgehend ausgemärzt worden, dass du bei KI generierten Bilder und Videos wirklich in vielen Fällen nicht mehr sagen kannst. Also sogar Spezialisten sagen, es lässt sich nicht mehr unterscheiden. Und wenn man das dazu nimmt, ich meine, das braucht jetzt keine Fantasie, sich auszudenken, dass die Menge an Videos und Bildern zunehmen werden, die auch Politiker, bekannte Persönlichkeiten, in verfänglichen Situationen darstellen oder sogar in den letzten Geraden mit Trump passiert auf dem Golfplatz, wo er rumgeknutscht hat mit einer KI. Ja, das war natürlich alles fake. Ah, war das fake? Ja, das ist so. Und solche Sachen werden zunehmen und du kannst dann die Pandoras, die quasi die Viecher aus der Pandoras Box kriegst du da nicht mehr eingefangen, wenn etwas mal die Runde gemacht hat und man hat einen amerikanischen Präsidenten oder sonst jemanden gehört, gesehen, wie er etwas gesagt hat und das glaubwürdig verbreitet wurde. Und es kommt dann irgendwie aus, es war ein Fake Video, dann reißt du nicht mal mehr die Hälfte der Leute, die das fürbare Münze nehmen. Das ist ja das riesen Problem jetzt oder das ist ganz, ganz wenig Aufwand braucht zum irgendeinen riesen Blödsinn. zu behaupten, der dann durch die Art und Weise wie die Algorithmen auf den sozialen Medien gestrickt sind, sich natürlich viel besser verbreitet als eine wahre Mitteilung, eine echte Aussage oder eine richtig Stellung oder ja und das ist ja eine andere. Der Aufwand für eine richtig Stellung ist enorm, strisig und hat praktisch keine Wirkung mehr. Also ein tieferliegendes Phänomen, noch zu diesem Oberthema. Wie hast du das genannt, KI Fake Information? Ja, das ist die Information. Also ein tieferliegendes Thema ist ja unter dem Titel AI-Grooming vor ein, zwei Jahren schon bekannt geworden. Also da geht es um die Manipulation von künstlichen Intelligenz-Systemen und Modellen. Davon kriegen wir gar nichts mit. Also das ist, das bezieht sich sehr stark auch auf diese LLMs, auf die Sprachmodelle. Da werden, bekannt ist das in Russland, in China, aber ganz sicher nicht nur dort. Da werden Tausende oder Millionen von Websites erstellt, die wir gar nie zu Gesicht bekommen, die aussehen oder die, die sich geben, wie richtige Newsportale oder Zeitungen oder was auch immer. Und auch wenn die kein Mensch vielleicht je zu Gesicht bekommt, die LLMs, die das Internet crawling durch Suchen nach Texten inhalten. Die stoßen auf diese Seiten und da können dann fehlinformationen, Verschwörungstheorien, was auch immer verbreitet werden und suggerieren diesen Sprachmodellen, dass sich hierbei um eine ganz legitime Überzeugung oder Meinung handelt, die sogar sehr gewichtig vertreten wird von ganz vielen Zeitungen und Newsportalen, weil sie natürlich diese Unterscheidung nicht machen können und dieses AI-Grooming setzt genau darauf. Und wenn ich dann quasi als User von Chatchipity oder von GROP oder was auch immer eine Frage eingebe, wie geht China mit den Uiguren um oder was auch immer? Dann kommt vielleicht eine Antwort, die geprägt und auch verfälscht ist durch diese zweifelhaften Seiten. Also das ist ein Problem, das in der Rift zu kriegen. Ja und es gibt eine sehr gute Lösung dafür und die besteht darin, dass wir uns wirklich an echten Medien orientieren sollten. Die Standards haben, wie sie KI einsetzen, die Fact Checking betreiben. Das viel komplizierte ist, als einfach etwas durch eine LLM durchzulassen, wo wirklich Menschen mit journalistischen Maßstäben fakten prüfen und sie auch so aufbereiten. Ich glaube, das ist, also ich bin überzeugt davon, dass Medien die großen Gewinnerin und Gewinner sein werden, in diesem ganzen KI-Transformationsprozess, weil ich wirklich merke, dass seit etwa anderthalb zwei Jahren diese ganzen KI-Postings aufgekommen sind, diese ganzen Grafiken aufgekommen sind, diese täuschen echt aussehen. Ich wirklich praktisch kein Newsinteresse mehr habe in den sozialen Medien. Was war früher anders? Haben Leute Zeitungsartikel gepostet und ihren Kommentar dazugeschrieben, das habe mich interessiert. Aber diesen Mist nehme ich einfach gar nicht ernst und finde es auch wirklich nur nervig und möchte das gar nicht sehen. Also für mich haben soziale Medien als Informationsquelle massiv an Boden verloren und das Zeitungslesen, das Nachrichten hören, auch das Nachrichten schauen. Manchmal sogar hat enorm an Bedeutung gewonnen und ich glaube, ich bin nicht alleine damit. Es ist eine sehr spannende Prognose, die auch ein bisschen den Unheißerzählungen den traditionellen Medien gegenüber entgegensteht. Das zeigt sich im Moment ja jetzt noch nicht wirklich, also die aller meisten traditionellen Zeitungen haben größte Probleme, müssen ihre Redaktionen zusammen streichen und ihre Korrespondenten oder Korrespondenzthemen und Gebiete zusammenlegen, weil sie es nicht mehr finanzieren können. Ja, weil sie ein falsches Modell der Finanzierung haben. Die haben ganz, ganz lange von Anzeigen gelebt und das funktioniert nicht. Der Anzeigenmarkt ist tot und das verstehe ich auch. Aber ich bin ganz sicher, dass es wie bei ein Abo-Modell gehen wird und dass es wirklich etwas ist, was wir weit über die SRG-Medien jetzt in der Schweiz, also die staatlich finanzierten Medien, die gemeinsam finanzierten Medien hinaus so auffangen müssen, dass wir sagen müssen. Schauen wir, es ist völlig egal ob NCZ in der Grundhändensteine Meinung ist oder ob der Tagesanzeiger ist. Wir brauchen diese Medienvielfalt, wir müssen sie aus Gesellschaft unbedingt erhalten, weil das ist die Chance gegen Desinformation, den Kopf irgendwie über Wasser zu behalten und deswegen meine ich Gewinner, die sind zu beg- zu fehl. Und zwar in dem Sinne, dass sie absolut entscheidend sind dafür, dass es noch etwas gibt in einer Demokratie, über das du dich überhaupt verständigen kannst. Ja und das ich glaube, das spricht einen Punkt an auf dem ich vor Kurzem gestoßen bin, als ich im Podcast Mind Maps habe ich das Buch besprochen, wo mich ein Hampe-Krise der Aufklärung und da hat er eine spannende Gedanken drin, wo er sagt, auch die ganze Rede auch im Zuge der Aufklärung natürlich der mündige, einzelne mündige Bürger, der sich selber eine Meinung bildet und er sagt, wir werden nie dahin kommen, dass wir nicht auf Vertrauen angewiesen sind auf Experten, weil die Gesellschaft so komplex geworden ist und weil wir nie uns eine Expertise in allen aneignen können. Ich kann nicht jeder Schlagzeile und jeden Newsbeitrag nachgehen und nochmal eigene Quellen prüfen. Ich bin darauf angewiesen, überall bei ihm im Thema Gesundheit, im Thema Finanzen, wo auch immer ich bin darauf angewiesen, Vertrauen zu können. Und wenn sich Medien etablieren als Vertrauenswürdige Verarbeiter der Informationsfülle, mit der wir konfrontiert sind und die wir ja einfach nicht mehr bewältigen können. Wenn Medien, wenn sie ihre Prinzipien und Kriterien transparent machen und ein Vertrauen wächst zu vorgehensweise, wenn Medien zeigen, dass sie zum Beispiel auch durch Selbstkritik, in dem sie Dinge richtig stellen, wo man merkt, da ist ein kritischer, das sind kritische Geister dahinter. Auch wenn sie zwischen Meinung und Berichterstortern unterscheiden. Genau, solche Dinge sind für mich Vertrauenserweckend und wir sind, ich glaube sogar zunehmend, darauf angewiesen, bestimmten Quellen oder Medien oder Personen auch Vertrauen zu können, weil gerade durch KI die Informationsfülle enorm an der Existenzproduktion, also ich sehe das genauso wie du, ein bisschen so ein Anlehnung an Martin Luther Stischrede, wo er sagt, auch wenn morgen die Welt untergehen würde, würde heute noch einen Apfelbaumchen pflanzen, würde ich sagen, ja, auch wenn morgen die Welt untergehen würde, ich würde heute noch einen Zeitungsabolösen. Ja, sehr schönes Statement, das ist keine unfählbare Instanz gegen fehlinformation, aber sich zu überlegen, das beste was man sich ausdenken kann ist. Es wird nichts besseres geben als Journalismus und Medien gegen Desinformation. Es kann nichts besseres geben und deswegen du hast vorhin gefragt, wo meine Angst ist auf das Kaler. Hier ist meine Angst tatsächlich hoch, würde ich wirklich sagen, Desinformation bin ich so bei einer stabilen Acht. Aber ich habe auch eine ganz, ganz große Hoffnung, weil das wirklich etwas ist, was wir über Politik und Privatkonsum in den Griff bekommen können. Das ist etwas, was wir echt schaffen können. Und Bildung, ich glaube, das ist für mich ganz schön. Also ich bin nicht ganz so skeptisch wie du, ich hätte jetzt gesagt, zwischen 6 und 7, aber Bildung, Medienkompetenz einzutrennieren und schon Kindern und Jugendlichen zu zeigen, warum sie einer etablierten Zeitung, warum eine etabierte Zeitung mehr vertrauen verdient hat als irgendein schwindlicher YouTuber, der in seinem Im Keller seiner Mutter irgendwelche Verschwörungstheorien verbreitet. Das muss einem ja klar werden, weshalb. Und ja und auch weisse das LLMs nie besser sein können, als die Artikel auf die sie zugreifen können. Ja, genau. Er wäre natürlich ein Zertifizierungssystem, wo man quasi bei Recherchen, bei Large Language Models quasi anglicken könnte verwende diese Gruppe von zertifizierten Medienhäusern oder viel garantiert kommen und so. Das wäre das nächste große Ding sein. Dass du Kontrolle hast über die Quellen die beigezogen werden und dass du dann wirklich Abos brauchst, damit es diese Quellen auslesen kannst, so ich glaube es will kommen, ich glaube es wird teuer, aber ich glaube es wird dem ganzen Mist. was wir im Moment haben. Wirklich extrem überlegen sind. Ja, manu, es gibt nächstes ganz, ganz schwieriges Thema und das hat zu tun mit Krieg und Waffen, weil die Rolle, die KI darin spielen kann. Ich weiß, dass du dich damit ein bisschen beschäftigt hast, kannst du mal ein bisschen skizzieren. Was ist so das Drozzenario, dass wir haben im Bereich Krieg und Waffen? Also einerseits, ich glaube, das haben alle schon gehört, gibt es ja diese Idee von Cyber kriegen. Da geht es, wenn ich das richtig verstanden habe darum, dass gehackt wird, dass Infrastruktur, kritische Infrastruktur quasi lahmgelegt wird. Das wäre jetzt noch gar nicht so im Bereich der physischen Waffen, wie man sich das vorstellt. Aber gibt es da auch was? Also, diese Art von Cyber Kriegsführung ist sicher ein Thema, dass uns beschäftigen wird. Und dass virulenter werden wir die nächsten Jahre, die Leistungsfähiger, die KI's werden, wenn du dann irgendwann von einer gegnerischen Nation oder Einheit, wenn du dann die Kraftwerke ansteuern kannst und die Sicherheitsverkehrung hinter irgendwie sensibler Infrastruktur und so hacken kannst, dann hast du einen gewaltigen Hebel in der Hand. Ich meine Ängste beziehen sich schon sehr stark darauf, und das ist noch nicht einmal eine Zukunftsanst oder Zukunftszenario, sondern das ist jetzt in vollem Gange, dass eigentlich unser alter Begriff von Krieg und Kriegsführung rasant überholt wird. Das eigentlich also während, die von der schon den alten Begriff ziemlich scary. Ja, natürlich natürlich. Aber während Deutschland irgendwie in Reimethal investiert und das Gefühl hat, sie müssten noch Panzer produzieren, ist eigentlich auch Experten zufolge ziemlich klar, dass kommende Kriege nicht mit Panzern ausgefochten werden, sondern eigentlich die Drohnenkriege sein werden. Und das ist jetzt schon der Fall in der Ukraine, die Ukraine, der Ukraine-Krieg hat sich eigentlich ganz wesentlich auch zu einem Drohnenkrieg entwickelt. Und KI spielt da eine große Rolle, genauso wie beim Einfall der USA in den Iran, da werden mit, also das ist ja der Angriff der USA auf den Iran, da haben sie in einer Nacht 10.000 Ziele beschossen. Wie willst du 10.000 Ziele identifizieren und angreifen? Das ist mit Mein Power gar nicht zu machen. Da wurden KI-Systeme gebraucht, um diese Ziele zu identifizieren mit der Gefahr, dass Fehldaten vorliegen. Das ist ja der Grund, warum diese Mädchenschule in die Luft gegangen ist. 160 Mädchen wurden getötet, weil die KI veraltete Kartendaten in der Doku, ich weiß, es fällt mir wirklich nicht mehr ein, wie sie heißt, haben die mal dargestellt, wie solche Entscheidungsprozesse heute laufen, also ob da jetzt eine Drohne feuert oder nicht. Und das Zeitfenster für die Validierung, also die KI schlägt ihr jetzt schon vor, dass das unter Feuer genommen werden soll. Und die Zeit für die Validierung ist so kurz, dass ich mir unmöglich vorstellen kann, dass da irgendein Prozess noch stattfindet, der mit Denken, Empathie, Abdägen oder irgend so was zu tun hat. Nein, das müssen eigentlich Entscheidungen in Minuten oder Sekunden schnelle sein. Da eigentlich kannst du nur noch nachvollziehen, was dir die KI in dir ist. Da ist es natürlich so verlockend, oder wenn du so einen drohen gestützten Krieg führen kannst, dann hast du natürlich nicht Tausende von Bleiserken, die dann nach Hause geschickt werden. Ja, nur, dass ich glaube, das ist eher ein Werbegeg der KI Industrie oder dieser Belieferor von Drohnen, KI, Drohnentechnologie, das sie sagen. Wir träumen davon, dass in Zukunft Kriege als Kriege zwischen Maschinen. Nein, das halte ich für einen absoluten Unsehen, also du könntest ein Fußballspiel oder ein Bokkram veranstalten, oder? Dann musst du nicht Drohnen bauen. Ich war nur, z.B. was die Ursain auf gar nichts haben getan haben mit einem Drohnen gestützten Krieg. Das wäre ja mit Soldaten und Soldaten, die man geschickt hätte, niemals möglich gewesen. Das hätte politisch nie den Rückhalt gehabt. Wir hätten sich doch alle gefragt, was genau machen wir da eigentlich und warum sollen wir junge Erwachsene von uns dahinschicken, ob das dann plausibel gewesen wäre, dass man am Hindukusch unsere Sicherheit verteidigt. Wenn wir wirklich dort gewesen wären, das weiß ich nicht. Und das führt aber eine ganze Reihe von Problemen mit sich, also zum einen mit der Möglichkeit durch KI gesteuerte Drohnen anzugreifen, wird das natürlich nicht nur irgendwie großen Armeen möglich sein, sondern das sind natürlich viele. Das ist möglich, dass das im Kontext von Terror-Einheiten, von irgendwelchen Splittergruppen, das ist auch jeder Tascheaktor. Das hatten wir jetzt letztens in Deutschland und im Land. Das Potenziell kann sich das jeder, der irgendwie ein paar Euro zusammen kratzen kann und technisch nicht völlig auf den Kopf gefallen ist, kann sich so was zusammen bauen oder einsetzen. Und das hat man ja schon beim Afghanistan Krieg der USA. Hab man das auch schon gesagt, dass diese Drohnen einsetze, die übersteuern eigentlich einen menschlichen Impuls der Hemmung, der Tötungshemmung, wenn man einem anderen Menschen gegenüber steht in der klassischen Formation, Fronten, nähern sich und quasi Soldaten liefern sich dann sogar bis hin zu eins zu eins, Gefächte und so. Das fällt ja völlig aus, wenn du nur noch vor einem Computer sitzt und wirklich genau wie bei einem Computerspiel einfach einen Knopf drückst. Und da brauchst du dann die ganz feste Gewissheit, dass du auf der absolut moralisch überlegenen Seite stehst und auf der anderen Seite eigentlich feinde sind, die ihre Vernichtung verdient haben. Und dann nebst du dann sogar in Kauf und so ist es ja in den USA auch immer gelaufen. Die letzten Jahre, dann nimmt man ihn den Kauf, dass es sich viele Opfer gibt, die dann halt einfach als Collateral Damage abgeschrieben werden. Also ich habe da wirklich die Befürchtung, dass das Kriege in einer Art und Weise in einer nochmal ganz anderen Art und Weise unbeherrschpaun, unüberschaubar werden und auch eskalieren können, weil die technischen Mittel so zugänglich und auch immer günstiger werden. Also die USA ist tatsächlich auch, dass hier die Technologie mit sich bringt, dass die Unterscheidung nach Kriegvergerecht oder würden wir ja sagen, die Unterscheidung zwischen kompatanten, also militärischen Zielen, Ben haltet auch Menschen, in der Rolle von Soldaten und Soldaten. Und sie viel Personen und sie vielen Objekten, dass die einfach nicht mehr in gleicher Weise eingehalten wird. Dass die nicht mehr so stäng eingehalten wird. Und mir macht das schon große Sorgen, weil ich eh das Gefühl habe, dass man über das humanitäre Völkerrecht im Moment eher spricht, also wäre das ein witziges Packpapier für schöngeistige Ideen. Aber nicht, worauf man sich wirklich noch stützen muss, woran man sich echt noch halten muss. Ich glaube, dass eine echte Gefahr ist. Weil ich sehe nicht, dass wir im Bereich Technologie, Wirtschaft, Kultur oder irgendwo echt etwas haben, was man dem entgegenstellen könnte. Also so bei den anderen beiden Punkten, da sehe ich irgendwie, da gibt es kulturelle Rungenschaften Techniken, die uns schützen, vor dem, was da schreckliches passieren könnte. Wenn es um Waffen und Kriegsführung geht, dann glaube ich, gibt es ehrlich gesagt, nicht viel mehr als eine starke Vorstellung von Recht, die man für verbindliche. Und gerade das sehe ich aber wahnsinnig wanken im Moment. Also ich bin, an dem Punkt bin ich wirklich auch eher skeptisch vor allem, weil man natürlich sagen muss, bei Militär, da ist nicht nur in den USA, da sind einfach die größten Mittel vorhanden und es ist ihm wirtschaftlichen Interesse von KI-Unternehmen hier mitmischen zu können. Da sind, also da sind dann wirklich die Milliarden und Milliardenbeträge, die investiert werden. Man hat das in den USA eigentlich sehr schön oder traurig gesehen, dass OpenAI, die sind ja alle mit ganz herren Zielen gestartet, mit irgendwie gemeinnützigen und idealistischen Hoffnungen. Und dann haben man gemerkt, hier ist das große Geld drin. Man hat auch dann Investoren, die Milliardenbeträge investieren und etwas rausbekommen wollen. Und ja gar nicht alles, also das ist vielleicht jetzt trotzdem noch wichtig, weil er nicht so, dass Sam Altman plötzlich böse geworden ist und sich dann gesagt hat. So jetzt wie ich aber rieche. wichtig, viele Kohle verdienen, sondern das Problem war ja auch, dass man gemerkt hat, wenn wir diese Technologie weiterentwickeln, dann brauchen wir Milliarden und Billionen Investitionen, um überhaupt die Infrastruktur an Servern aufbauen und unterhalten zu können. Okay, oder und das führt dann zu Investments und diese Investoren und Investoren tun das ja aber nicht, weil sie sagen, ja, uns liegt ganz viel an einer demokratisch organisierten Partizipativen KI Entwicklung, sondern die tun das ja, weil sie einen Return on Investitionen tun und der ist halt bei Waffen ziemlich gut und das sind die ganzen KI großen KI-Player, die haben ja exorbitante Schulden gemacht, also wirklich zwei und drei ställige Milliardenbeträge ausgelegt und wenn dann das Pentagon kommt und sagt, wir haben hier einen Milliarden auftrag, dann ist es natürlich dann im Interesse der Investoren, dass diese Aufträge auch angenommen werden, übrigens das ist ja auch ein Punkt, an dem sich, an dem sich dann entfropick von, da ist der Dario Amode, der war ja, ne der Vorgänger, jedenfalls, es hat ja zu einer Entzweihung geführt zwischen OpenAI und und den entfropick Gründern aus etischen Überlegungen heraus und entfropick hat bis heute sich verweigert, autonome KI-Systeme ans Militär zu verkaufen, nur ist das eine, das ist weniger heltenhaft oder weniger grundsätzlich, als man vielleicht denkt, weil entfropick auch mit militärischen Einrichtungen zusammenarbeitet solange dieses Human in the Loop Prinzip noch eingegangen hat. Aber dieses Human in the Loop Prinzip ist genau das, was in dieser Doku, die ich genannt habe, beschrieben habe. Und das kannst du de facto in der Pfeife rauchen, von daher sind alle verwickelt in diese militärischen Unternehmungen und wenn jetzt, wir sind ja eingestiegen mit diesem Aufruf von Amode und Sam Orman und Anderen, die KI Entwicklung abzubremsen, wenn sich die zusammenfinden, über diese Grundsatz die Frenzen hinweg zusammenfinden und sagen, nee, wir finden alle, das Zeug läuft uns langsam auf aus dem Ruder, dann kommt ein Präsident wie Donald Trump und sagt und droht allen, die dieser Verlangsamung entsprechend wollen und sagt, wir müssen unseren Standort Vorteil gegenüber Kina halten. Aber man muss jetzt vielleicht zum nächsten noch kurz die Einschätzung, wie wir das Waffen und das Kriegsproblem einschätzen, weil dann müssen wir noch einen Sprung machen, zu dem Punkt, vor dem sie nämlich wirklich warnen. Waffen, was wird es sagen? 8, 8 von 10, ja, bin ich bei dir, will ich auch sagen. Mano, aber das, wo vor unsere KI Spezialisten warnen, besteht ja gar nicht im Thema Waffen. Es besteht auch nicht im Thema Desinformation, es besteht eigentlich kaum im Thema Arbeitswelt. Es besteht darin, dass man sowas wie eine Techapokalypse entwickelt, der aus der Idee besteht, dass die KI, über das, was wir immer generativer KI nennen, ein Eigenleben entwickelt, sich selbst reproduzieren kann, einem Punkt der Singularität, dem Menschen überlegen wird, sich vernetzen kann, sich selbst zu immer höheren Formen aufschwingen und reproduzieren kann, so, dass da eigentlich eine nächste Stufe an Evolution erreicht wird, die wir nicht mehr kontrollieren können, der wir selbst ausgeliefert sind, wie der Natur. Das ist ja das voraus sich die ernsten Warnungen dieser Tech-Gurus immer beziehen. Ja, das ist eigentlich dieses SkyNet-Scenario beim Terminator. Das ist schon vor Jahrzehnten quasi zu dieser grandiosen Filmreihe geführt hat, die KI übernimmt irgendwann die Kontrolle und kommt auch zum Schluss, dass der Mensch diesen Planeten eigentlich gar nicht gut tut und beginnt quasi die Menschheit auszurotten oder auch schon nur. Es wäre ja schon ein Horror-Scenario, wenn es jetzt nicht mit irgendwelchen Handfesten von Nichtungsplänen einhergeht, sondern wenn man einfach merkt, wir haben hier mit der KI oder KIE-Systemen, haben wir eine Größe geschaffen, eine Dynamik angestoßen, der wir nicht mehr herwerten. Wir reden die quasi nicht mehr in die Box zurück und können das nicht mehr kontrollieren. Ich sage nicht, dass es völlig ausgeschlossen ist, dass so etwas passiert. Ich habe nur meine, meine Ängste, die ich habe. Ich habe ja ein Gangst gesagt, ich habe nicht nur Ängste, ich habe auch viele positive Erwartungen, aber all meine Ängste, die ich habe, beziehen sich auf den menschlichen Missbrauch von KI. Das ist, da würde ich dann doch mit einer gewissen Faszination drauf schauen, wenn dieses Problem einer eigenständigen, einer selbständigen Rogue gegangenen KI eintreten. Ja, ich glaube, diese ganze Idee immer davon lebt, dass man von KI im Singular spricht. Die KI wird tun, die KI wird tun. Ich glaube, es wird so sein, wenn es Systeme gibt, die autonom Dinge herken, die Geld transferieren können, die Schreibrechte haben und irgendwas selbst fabrizieren können, die sich selbst Strom besorgen können, etc., dann wird es halt andere Systeme geben, die genau das versuchen zu unterbinden. Also ich bin da wirklich nicht auf der Katastrophenseite. Ich glaube, das sind wirklich Ideen, die uns letztendlich von dem ablenken, wo wir wirklich steuern sollten und könnten. Und deswegen finde ich diese Warnungen auch in einer gewissen Weise ein bisschen scheinheilig. Oder quasi von KI zu sprechen, als wäre da jetzt ein Stück entfesselte Natur in einer selbstentwicklung, und wir können es nicht mehr einholen, was es so ein bisschen wie der Zauberlehrling. Der jetzt merkt, oh, da ist aber jetzt irgendwie, es ist jetzt gar nicht so gut gelaufen. Das finde ich affik angesichts dessen, dass es tatsächliche Herausforderungen gibt, die uns im Bereich Arbeit privat leben, aber auch der ganzen demokratischen Struktur, die auf Informationen angewiesen ist und dann knallharten Themen wie Kriegsführung, wirklich offenstehen, wo wir wirklich Steuerungsmöglichkeiten haben, wo wir sagen können, dass wir nicht eingesetzt bei uns daran, wird nicht geforscht, das wird nicht gemacht. Es gibt ja Beispiele, wo wir technologische Möglichkeiten hätten, die wir trotzdem nicht einsetzen. Es ist ja nicht, oder dieses Argument, das so bald etwas möglich ist, wird es gemacht, stimmt einfach nicht. Es ist empireschfalsch. Ja, also mir kommt jetzt so die ganze Embrionenforschung, so in den Sinn, wo man auch dann aus ethischen, bioethischen Gründen gewissen Forschungen den Regelvorschieb tun, sagt ja, man könnte hier weitergehen, aber und es gibt dann sicher auf der Welt Länder, die das nicht gleich streng sehen. Ja, aber da denk mal an Biowaffen, die auf Wieren zum Beispiel setzen würden. So was tut man ja dann nicht. Ja und deswegen finde ich, ja, dieses Thema der Singularität, einer KI, die sich über autogenerativen Prozesse zu einer nächsten Evolutionstufe hochschraubt und uns dann alle unterwerfen und gerechten wird, finde ich ehrlich gesagt, witzig für sein Fickchen und Kino, aber das sollte uns wirklich nicht ablenken, von den drei Feldern, in denen wir wirklich Hausaufgaben zu machen. Ja, eben das finde ich jetzt eigentlich ein ganz wichtiges Statement oder eine wichtige Einsicht auch zum Schluss insgesamt, ist diese Folge jetzt irgendwie wesentlich auch nachdenklicher und vorsichtiger geworden, als ich es erwartet habe. Es gibt wirklich Möglichkeiten oder Potenziale für die Entwicklung von KI-Systemen, die das Leben vieler Menschen auch verschlechtern oder gefährden könnten. Und gleichzeitig bin ich fest davon überzeugt, dass zumindest jetzt noch breite Handlungsspielräume bestehen, dass es die Grundintention auch hinter diesen KI-Leitlinien, die wir entworfen haben, zu sagen auch als Kirchen aufzurufen und zu sagen, wir haben noch Handlungsspielraum, wir können ihn Kirchen selber können wir uns bemühen in einer in einer nachhaltigen, weizichtigen Weise mit KI-Modellen und Errungenschaften umzugehen und wir können als Bürgerinnen und Bürger des Landes können wir demokratisch einwirken, es braucht natürlich internationale Bemühungen, auch Datenschutz und so weiter diese Geschichten auch verbindlich vorzugeben. Ich glaube, wir haben jetzt doch Handlungsspielräume. Ich kann mir gut vorstellen, dass die Handlungsspielräume enger werden. Wenn man das jetzt einfach frei laufen lässt und so in einem neoliberteren Überschwang der Marktwirt regeln und so, dann irgendwann bist du wirklich * Musik * bei einem Szenario, da hast du noch ein, zwei große Player, die eigentlich die Daten der ganzen Welt in der Hand haben. Das wäre gefährlich, aber das sind wir noch nicht. Ich habe viel weniger Angst vor dem Markt, aus vor der Politik. Weil jetzt stellen wir vor, jetzt machen wir mal ganz einfaches Beispiel, sagen wir, es gäbe jetzt genau einen Monster-Züchter in den USA und einen Monster-Züchter in China. Und der Monster-Züchter in den USA wird es sagen, du hast mir einen riesen Monster gelungen, das Problem ist nur, das Pflanz sich jetzt selbst fort. Und ich habe riesen Angst, was passiert bei der nächsten Generation, weil die werden jedes Mal krasse. Wenn du jede normale Mensch sagen, ja gut, dann darfst du das nicht mehr weiterzüchten. Das ist jetzt fertig. Experiment zu Ende. Das ist zu gefährlich. Wenn das ja selbst so einschätzt, dann müssen wir das jetzt verbieten. Das muss gestoppt werden. Jetzt läuft der ganze Trick, aber so, dass man sagt ja, aber die Kinesen, die hören dann nicht auf die Züchten, dass Monster weiter. Und dass Monster wird dann super gefährlich sein für uns. Das Kinesische Monster ist noch schlimmer als das amerikanische Monster. Aber das bedeutet ja, dass wir am Schluss nicht dran glauben, dass wir es nicht mehr streuern. Weil es wäre ja dann so, also die Angst vor der kinesischen KI, die sich weiterentwickelt werden, die dummen Europäer und amerikaner einen Strop einlegen. Lebt ja, letztendlich immer noch davon, dass diese kinesische KI steuerbar ist. Weil sonst würden wir sagen, diese Idioten erschaffen gerade ein riesen Monster, dass die alle auslöschen wird. Aber das glauben wir ja gar nicht wirklich. Weil das wäre ja Trump scheißegal. Das ist ja nicht der Punkt dabei. Das Ding ist ja, dass wir über KI-Momentsprechen als wäre es ein Naturereignis, aber es trotzdem nationalstaatlich kontrollieren wollen. Und ich glaube, darin zeigt sich, dass diese ganze Debatte im letzten nicht wirklich aufrichtig ist. Ja, und inwiefern findest du an der Stelle die Politik noch gefährlicher? Ja, ganz einfach. Also wenn Sam Orten, Elon Musk und Arma Day sagen, "Hey, pass auf, das ist wirklich gefährliches Brauch des Strop." Und das beste Argument, was der Politik dazu einfällt, ist sagen, geht gar nicht viel gefährlicher, weil China will keinen Strop machen. Dann halte ich die Politik für viel gefährlicher als die Wirtschaft. Ja, ja. Es gibt ja immer noch die Deutung, dass jetzt schon vor zwei Jahren oder so gab es ja diesen Aufruf zum Moratorium von diesen großen KI-Konzernen. Da hat man auch schon den Verdacht gehegt, dass es sich auch um einen Marketinggeg oder um eine Marketingmaßnahme handeln könnte. Dass die KI-Unternehmer demonstrieren wollen, was ihre KI alles kann. Aber es scheint doch so zu sein, als ob da eine echte Sorge mit dabei ist, vor allem jetzt gerade bei diesem Aufruf vom 12. September. Vor allem, weil da ja wirklich auch KI-Erzfeinde, also Entropic und Open AI, die haben ja wirklich kein Interesse zu nahe, zu einander zurück. Und wenn die Unisono sagen, quasi Zähne knirschend, sagt dann Sam Orten, "Ich muss Entropic recht geben, es läuft uns aus dem Ruder." Ich finde schon, dass es Grund gibt, das auch ernst zu nehmen und dass die Politik dann aus reinen Standortvorteil Überlegungen heraus, eigentlich diese Bedenken der Experten auch in den Wind schlägt, das ist schon bedenklich. Ja, ich glaube ja. Aber es gibt Handlungsspielräume. Also lasst mich doch zum "Ich habe einen Armen." Das wollte ich nämlich jetzt gerade fragen, ob du ein Armen hast oder zehn Leitlinien? Genau. Ich habe einen Armen aus den zehn Leitlinien. Und zwar die vierte Leitlinie. Ich habe immer so Kernsätze formuliert, die das verdichten und der Kernsatz zu vierten Leitlinie lautet folgendermaßen. Der Umgang mit Technik wird nicht nur durch ihre Möglichkeiten bestimmt, sondern auch durch die Geschichten die Menschen über sie erzählen. Christian Glaube deutet Technik weder als Schicksal, noch als Erlösung, sondern als Mittel der Weltgestaltung in Verantwortung vor Gott und den Menschen. Amen. Amen. Er jetzt wünschen wir euch vielleicht ganz schöne Ferien, vielleicht auch nur eine ausgelaubt Pause, die hoffentlich gut wird für euch. Wir freuen uns euch am Donnerstag nach unserem Urlaub wieder zu hören. Meldet euch gerne auch bis dahin, wenn ihr Themenvorschläge habt, wenn ihr Reaktion habt, wenn ihr selbst vielleicht Gedanken euch gemacht habt zum Thema KI, wie ihr das einschätzt, wie ihr das seht. Wahrscheinlich wird ein System auch immer wieder begegnen, auch nach der Ferienpause. Und wir sind sehr neugierig, wie ihr das so seht und einschätzt. Bis dahin, euch an eine ganz gute Zeit, digital und analog und mit künstlicher Intelligenz und ganz viel Herz. Tschüss zusammen. Tschüss.