Killt KI die Menschheit? »Wir müssen diesen Männern mit großer Skepsis begegnen«

[Musik] Das Politikteil, der wöchentliche Politik-Podcast der Zeit. [Musik] Vielleicht ein halbes Jahr bleibt der Menschheit noch, bevor die künstliche Intelligenz außer Kontrolle gerät, dass er kein geringerer als der Chef des weltweit führenden KI-Entwicklers entfropigt. [Musik] Ja, es ist jetzt das dritte Mal in relativ kurzer Zeit, dass wir uns in Politikteil über KI unterhalten. Die Abstände werden kürzer, weil sich die Entwicklung dramatisch beschleunigt. Weil immer mehr bekannt wird, was alles möglich ist, was KI-Agenten so treiben. Und weil immer mehr Insider an die Öffentlichkeit gehen, mit teils apfokalyptischen Warnungen. Wie groß ist die Gefahr wirklich, dass die KI die Menschheit auslöscht? Wie realistisch ist ein Abrämsen oder aussetzen, der zuletzt rasend schnellen Entwicklung? Und was hat all das mit China zu tun? Darüber sprechen wir heute mit unserem Mann im Silicon Valley, dem Zeitmitarbeiter mit dem ganz bestimmten attraktivsten Standort auf der Welt, alle benäiden ihn da rum. Er hat Wirtschaft und Informatik studiert, selbst mehrere Jahre in der Techbranche gearbeitet und seit 2025 ist er KI-Co-respondenter Zeit mit Sitz in San Francisco. Herzlich willkommen in das Politikteil Nikolaus Killian. Hallo zusammen, schöner zu sein. Schön, dass du da bist. Und du hast, wie an unserer Gäste, ein Geräusch mitgebracht, was uns einstimmen soll auf das Thema von heute. Na, was war das? So klingt ein Rechenzentrum, von dem jetzt gesagt wird. Dass sie eine Gefahr für die Menschheit werden und andere dort eine intelligenten, künstlichen Gott bauen wollen hier im Silicon Valley. Also auf diesen Computerships, die in diesem Rechenzentrum sind, wird genau diese künstliche Intelligenz betrieben, über die gerade alle sprechen. Und warum sind die so laut? Die werden heiß, wenn die betrieben werden und dann werden die aufwendig gekühlt. Und Strom erzeugt alles in riesigen, riesigen Anlagen. Es kann man sich kaum vorstellen, die größten Ordnung. Und erzeugt dann das Geräusch. Und hört man das auch von außen? Also tatsächlich, ich habe mich dann noch nie beschäftigt. Aber ist das sozusagen innerhalb des Raumes oder ist das, was dann auch die Nachbarschaft mitbekommt? Das ist durchaus auch was die direkte Nachbarschaft mitbekommt. Es ist auch ein Grund, warum es Proteste da geben gibt, wobei das ein bisschen kompliziert hat. Okay, über die Rechenzentren und die Kühlung. Da haben wir nachher noch eine ganz spezifische Frage. Aber erst mal wollen wir mit dem Anfang, wo wir im Nachrichten Teppich gehört haben, Nicholas, die jüngste Runde in der Debatte um KI wurde vor allem, nicht nur aber ganz stark von einem Post ausgelöst, den ein ehemaliger Mitarbeiter von einem Thropic Jacob Coxen bei X veröffentlicht hat, dem ehemaligen Twitter. Und vielleicht lesen wir das mal vor, weil es zu viel zitiert wurde und weil es der Post, die sagt, keine Ausschnitt, den wir jetzt hören, es wirklich in sich hat. Also das ist auch ein Threat und da heißt es, die Leute, die AI ehrnastlich believe, dass es gut war, die Endung der Decke zu können, das ist nicht die Marketingstum. Wenn es zu viele Exakutiven und Senior-Researchers auch in der Präsentie zu sein, aber sie hier die same Leute aus Präsentie zu spüren, dass sie nicht mehr die Human-Aktivität vorhanden haben, poses this level of danger. Noch mal auf Deutsch, die Menschen, die KI entwickeln, so schreibt dieser Mann von ein Thropic, sind ernsthafter Überzeugung, dass KI uns alle bis zum Ende des Jahrzehens töten könnte. Und das ist kein Marketinggeg. Im Gegenteil viele Führungskräfte und erfahrene Forscher formulieren ihre Aussagen gegenüber der Presse oft so, dass sie besonnen klingen, doch im privaten Kreis für euch dieselben Personen ihre Angst äußern. Keine andere menschliche Tätigkeit birgt eine vergleichbare Gefahr. Zitatende, züglicher Hammer. Wo ist dir dieser Post zuerst begegnet, Nicholas? Aus beruflichen Gründen bin ich viel auf Ex unterwegs, weil sich da alle KI-Debatten abspielen und alle KI-Vorscher tummeln. Ziemlich direkt nachdem er rauskam, das war ja dann auch nichts zu übersehen. Ich glaube, ich bis heute 170 Millionen Abrufe bekommen dieser Post. Und was war deine erste Reaktion? Ich hatte das erst mal überhaupt nicht überrascht. Das wundert euch vielleicht. Aber so was haben wir in den vergangenen Jahren eigentlich öfters gelesen. Es ist schon öfters Mitarbeiter, vor allem von OpenAI, gegangen, weil sie gesagt haben, das ist hier zu gefährlich. Dario Amodei, der Chef von Anthropic, er sagt ganz offen erhält die Wahrscheinlichkeit für eine zivilisatorische Katastrophe durch KI bis zu 25%. Also, genau, wir haben da auch schon häufiger darüber berichtet, was mich eher überrascht hat, war dieses enorme Medien-Echo und die Reichweite, die es bekommen hat. Aber ich glaube, dieser Post hat einfach auf eine sehr verunsicherte Bevölkerung und ja, für unsere politiker gerade hier in den Zwischenwahlen in den USA getroffen. Ich finde das ja schon interessant, dass sich das gar nicht so wirklich überrascht hat. Ich meine, dass eine war ein ehemaliger Mitarbeiter. Mir persönlich ging es so, dass jetzt in der vergangenen Woche und das ist ja gerade angerissen, dass noch mal eine andere Dimension angenommen hat, einfach aufgrund der Tatsache, dass drei KI-Granten auf Einmal-Unisono in diesen Klang eingestimmt haben, um uns noch einmal zu wiederholen. Das war also einmal Sam Oldman, der Chef von OpenAI, dann war es der Anthropic-Grunderdario Amodei, den du gerade auch schon erwähnt hast und jeden Mask, den wir alle kennen. Und die haben eben auch dieses Schreckenszenario beschrieben. Was steckt denn dahinter? Ich meine, sie sind ja auf der anderen Seite, sind sie eben die Treiber und auch natürlich die Nutzenyser von der KI-Rein-Business-Technisch. Also was ist der Grund dafür, das ist natürlich schon was, was für Überraschungen sorgen könnte? Ja, man muss aber dazu wissen, dass auch OpenAI 2015 eigentlich genau aus diesem Grund gegründet wurde. Elon Musk und Sam Oldman und Anderen das damals gegründet, um eigentlich eine sichere KI zu entwickeln, bevor es Google tut, aber da waren auch schon damals diese apokalyptischen Szenarien der Grund dafür, das gleiche eigentlich mit Anthropic. Die haben sich von OpenAI abgekoppelt 2020, um auch eine super Intelligenz zu bauen, aber eben sicherer als OpenAI. Aber da war das zwar auch ganz stark getrieben von diesen existenziellen Vorricht vor KI. Also diese Leute glauben, das kann total zu Utopie werden. Wir können Krankheiten heilen. Wir können die Wirtschaft voranbringen. Wir können alles im Überfluss haben durch KI. Niemand muss mehr arbeiten. Und gleichzeitig sagen sie ja, es gibt eine gewisse Prozense, also eine gewisse Wahrscheinlichkeit, dass das auch richtig schiefgehen kann. So, dass die jetzt das alle drei sagen, ist natürlich schon interessant. Hat das vielleicht auch damit zu tun, dass es diesen Fall gab, der auch sehr breit berichtet worden ist? Wir haben hier im Politikteil auch mit unserer Kollegin Sibilla Anderl darüber gesprochen, dass aus einer Testumgebung Agenten ausgebrochen sind und eine Website angegriffen gehackt haben, die übernommen haben. Alles das, was uns der Bille erzählt hat, war schon scary genug. Und danach wurde dann noch immer mehr bekannt, dass die sich offenbar zu einer Art Kollektiv zusammengeschlossen haben, dass sie ein gemeinsames Messaging Board eingerichtet haben. Ist dieser Vorfall auch, wo es eigentlich dafür, dass es jetzt so viel Aufregung gibt, würdest du sagen? Ich denke schon, dieser Vorfall hat den Mainstream erreicht und ist über diese Blase hier hinausgegangen. Und was man glaube ich schon sagen kann, die dieses CEOs, die natürlich auch Druck von Investoren haben, man muss ja sagen, hier geht hier um Milliarden, sogar Billionen an Dollar, die halbe US-Wirtschaft, also des Wachstum der US-Wirtschaft, hängt an diesen Firmen. Aber dieses CEOs kommen gerade auch von ihren eigenen Mitarbeitern ganz schön Druck. Auch wenn ich hier mit Leuten vor Ort rede, mit den Mitarbeitern von OpenAI und Althropic, das sind nicht alle, aber manche sind da schon sehr besorgt. Das ist ihnen entgleitet. Also die glauben immer noch, dass sie das sicher bauen können, aber die Geschwindigkeit der Entwicklung hat sich wahnsinnig erhöht, dass sie auch gar nicht mehr so überwachen können, was ihre KI-Systeme eigentlich wirklich machen. Das ist gerade so ein bisschen die Sorge. Und ich glaube, alles in allem hat das gerade dazu geführt, dass die an die Öffentlichkeit gehen. Aber der Internet-Ruck ist auch groß. Ja, das ist ein bisschen die Antwort auf die Frage, warum gerade jetzt ein Gerücht oder eine Spekulation, die ja jetzt im Rahmenstand war, zumindest seitens OpenAI, das auch mit dem Börsengang zusammenhängen könnte, den sie jetzt verschieben wollen. Und dann war so ein bisschen die Frage, warum das sollte der Hintergrund sein, diese Debatte jetzt selbst zu initiieren über die Risiken des eigenen Geschäftsmodells. Das würde ja jetzt die Anlegerfantasien nicht notwendigerweise positiv beeinflussen. Also, was hältst du vor dieser Spekulation? Das hat damit, glaube ich, nichts zu tun. Ich glaube, OpenAI hat auch das im Oldman, die Guns der Stunde genutzt, um dieses Verschieben des Börsengangs mit dieser Sicherheitsdebatte zu verknüpfen. die New York Times hat, soweit ich weiß, Mitte des Jahres schon berichtet, dass es höchstwahrscheinlich dieses Jahr eh nicht mehr zum Börsen kann gekommen wäre. Das ist glaube ich nicht der Grund. Damit haben wir aufgeräumt. Ja, aber ich glaube langsam merken Sie im Silicon Valley, dass auch die US-Bevölkerung gar nicht mal so positiv auf Ihre Erfindungen schaut und auch Ihre Machenschaften. Und das kann natürlich schon Grund sein, sich jetzt nochmal extra vorsichtig zu präsentieren. Aber wie schätzt du das denn selbst ein, du bericht das für uns aus dem Valley, du sprichst mit den Akteuren, wie groß sind in Deiner Wahrnehmung die Gefahren. Es heißt oft, dass KI im schlimmsten Fall die Menschheit auslöschen könnte. Wir haben das auch in dem Post vom Anfang gehört. Dabei ist KI doch nur was, was in diesen Rechenzentren abläuft, die du vorher eingespielt hast. Wie soll die KI ganz konkret in Menschen töten, woran wird in diesen Szenarien eigentlich gedacht? Vielleicht, bevor wir konkret werden, was diese Risiken sind oder die besprochen werden. Erst mal, ich glaube, es ist schon eine gute Idee, hier mal so ein bisschen Druck aus dieser Entwicklung rauszunehmen, weil diese Befirmen befinden sich in diesem Wettrennen und keiner kann da jetzt irgendwie wirklich stoppen, weil dann fallen sie zurück, und genau, Milliarden und aber Milliarden gehend verloren. Aber wie ihr euch denken könnt, ist die Sache schon ein bisschen komplizierter. Und ich finde, wir müssen diesen Männern mit großer Skepsis begegnen. Die sind die Chefs ein paar der wertvollsten Unternehmen der Welt, die haben alle ihre eigenen Interessen. Ob mehr Ei zum Beispiel, hat die vergangenen Jahre schon auch Gegenregulierung lubiiert. Und auch Anthropic, die sich als sehr sicherheitsorientiertes Unternehmen präsentieren. Die schlagen jetzt so externe Prüfinstitute vor, die aber total auf einer ideologischen Linie sind wie Anthropic. Also man muss da schon genau hinschauen, so einfach ist es nicht, zu den Risiken zu kommen. Auch da, glaube ich, sollten wir diese Debatte nur sierter führen. Da werden ganz schön viele Sachen in einen Topf gebrochen. Wir sprechen hier von einer super Intelligenz, die außer Kontrolle gerät und uns alle umbringt. Und gleichzeitig reden wir über sehr reale Risiken von Heckerangriffen durch KI, durch Bioterrorismus. Also wir schmeißen hier gerade sehr viel zusammen. Und ich glaube, manche dieser Risiken und dieser Szenarien sind sehr hypothetisch. Und manche sind eher echt oder heute schon echt. Das ist ja das, was dieser Typ da geschrieben hat. Sie kann uns auslöschen, bis zum Ende des Jahrzehens. Deswegen einmal ganz konkret gefragt, wie soll die KI das machen, in deren Vorstellung. Nicht deine Vorstellung, aber diese Debatte wird geführt. Sie bewegt viele Menschen, hast du gerade selber gesagt, auch die amerikanische Bevölkerung wird zunehmend skeptisch. Da gehören solche Dinge mit dazu, deswegen erklär uns einmal, woher diese Idee kommt, dass sowas digitales im Rechenzentrum plötzlich menschen tötet. Ja, schon heute nutzen die KI Entwickler bei OpenAI und Anthropic ihre eigenen KI-Systeme, um KI wieder schneller zu bauen. Also diese KI-Systeme können inzwischen sehr, sehr gut programmieren. Und wo dran die eigentlich arbeiten, ist ihren eigenen Job zu automatisieren. Die wollen sich als KI-Forscher automatisieren. Das könnte eben in so ein Kreislauf gehen, dass das eine KI sich eben selbst programmiert und die nächste KI programmiert wieder eine bessere Version von sich selbst. Und so weit und das geht immer schneller und dann läuft es ja außer Kontrolle. Dann entsteht eine super intelligente KI. Das ist sozusagen dieses Sorge von ein paar dieser Leute. Dann gibt es ja hier so Gedanken-Experimente, die kursieren. Das ist schon tatsächlich über 10 Jahre alt, der Paperclip Maximiser, also, wenn man einer KI die Aufgabe gibt, Büroklammern herzustellen. Und das ist ihre einzige Aufgabe. Dann wird sie irgendwann dazu übergehen, eigentlich alle Ressourcen dieser Welt zu nutzen, inklusive der Menschen, um immer mehr Büroklammern herzustellen und so die Menschheit auszulöschen. Man kann es aber auch anders dieses Gedankexperimente auch anders formulieren. So eine KI braucht ja viel Strom für ihre Rechenzentren. Und wenn sie merkt, okay, sie hat kein Strom mehr, dann schaltet sie eben den Strom für die Menschen ab, um sich selbst betreiben und verbessern zu können. Und so geht es dann ab mit der Menschheit. Aber wie gesagt, diese Sachen sind hoch umstritten. Das ist nicht das, was hier alle glauben. Und dann konkrete Sachen sind eben Heckeangriffe, die kritische Infrastruktur lahmlegen können. Ja, oder Terroristen, die mit Hilfe von KI-Wiren herstellen und eine neue Pandemie auslösen. Aber auch hier sind sich Fachexperten, halten diese Szenarien auch ein bisschen für Unterkomplex. Aber das ist jetzt mal so eine Grobe Übersicht von Horror-Szenarien. Ja, da wird es schon mal konkrete geworden. Also das ist mit den Heckeangriften soweit, ich finde, das kann man sich konkret sehr gut vorstellen. Wo ich mir die Schwierigkeiten habe, ist bei dem Wurst-Wurst-Case-Szenario. Also, dass ich eine super Intelligenz so verselbstständigt, das, und ich würde sagen, es braucht ja am Ende immer den Menschen, der, entweder das noch weiter unterstützt, oder und jetzt kann ich wahrscheinlich zu einer Frage, die du das in den Bereich der Leinfragen verbannen darf. So, ich stelle sie jetzt trotzdem. Nämlich am Ende ist ja die KI-Ne-Rechenleistung. Ja, und sie braucht Strom, um fabriziert zu werden oder um weiter zu leben, wenn man so will. Das heißt, ich könnte doch am Ende des Tages so langes Menschen gibt, die etwas besseres wollen als die KI, kann man doch einfach einen Sticker ziehen, oder nicht? Ja, also das ist ja auch bei diesem Vorfall, von dem wir eben gesprochen haben, wo diese Firma Hackingface gehackt wurde, da wurde ja in Anführungszeichen dann der Stecker gezogen. Hier geben manche davon aus, dass diese KI sich dann in, also in andere Firmen einhackt, deren Rechenkapazität nutzt, dann aber den Zugriff für die Menschen abschaltet. Ja, dann müsste man schon das ganze Rechenzentrum abschalten, dann nisten die sich vielleicht noch woanders ein, etc. Das ist so ein bisschen die Angst, ich, ja, es ist schwierig zu sagen, ob das jetzt realistisch ist, aber die glauben, dass man irgendwann eben nicht mehr den Stecker ziehen kann. Wir haben es gesagt, Nicholas, du lebst in San Francisco, du lebst unter diesen Leuten, die sich damit beschäftigen, aber auch die unter denenjenigen, die da die größten Ängsten haben, das letztens vor uns in der Zeit einen Text geschrieben, wo du diese Duma Szene in San Francisco so ein bisschen beschrieben hast. Die treffen sich da, die sprechen da so über, was im schlimmsten Fall alles passieren kann und wie sie sich darauf vorbereiten wollen. Du warst auch bei so einer Art Stuhlkreis dabei, wo die sich getroffen haben, erzählen wir mal, was sind das für Leute und wo über Witter gesprochen? Ja, das sind vor allem junge Leute, würde ich sagen, zwischen 20 und Mitte 30, die arbeiten dann in den KI-Firmen bei OpenAI, bei Anthropic oder in anderen KI-Firmen, oder es sind Investoren, es sind sehr viele Männer. Manche haben eben eine so große Sorge, dass das hier schiefgeht, dass sie sich vorbereiten und nochmal. Diese Leute haben hier so ein Paradox, die finden KI großartig, die finden Technologie großartig. Das ist gar nicht, dass die Anti-Technologie sind, aber sie sehen eben eine gewisse Wahrscheinlichkeit, dass das aus dem Ruder läuft und da waren sie sich darauf vorbereiten. Und was machen Sie da? Das reicht von einfach erst mal Ideen sammeln, tatsächlich, ich habe küsse ich jemanden getroffen, die überlegt, wieder Violinenstunden zu geben, weil sie ihre Zukunft als KI-Mitarbeiterin in Quasit, also die überlegen ihre Karrierepläne zu ändern, die überlegen, Land im mittleren West zu kaufen, wo sie im Notfall hinfliehen können und sich selbst versorgen können. Es gibt Leute, die legen kein Geld mehr an, weil sie sagen, Geld ist in zehn Jahren nichts mehr wert, warum sollte ich das anlegen? Manche bauen Bunker, ja, es ist eine florierende Szene. Ich erinnere mich an den Text, da war von einer Frau, glaube ich, die Rede, die sich darauf vorbereitet, im Wald zu leben und die, die so Kurse macht, wie man im Wald überleben kann. Ja, genau, das gehört dazu, also es ist auch eine lustige Vorstellung hier, die Leute, die jetzt hier plötzlich in den Wald gehen und lernen einen Unterschlupf zu bauen. Kannst du mal ein Gefühl dafür für Mitteln, wie viele das sind, da sind das ein paar Entgleiste oder ist das inzwischen wirklich eine Bewegung, von der man sprechen kann, dort im Silicon Valley. Generell ist dieses Szene, die an wirklich der Technologie von KI arbeitet, gar nicht so groß. Das sind ein paar Tausend Leute. Und davon, ich kann jetzt gar nicht sagen, wie viele das sind, aber es sind schon wahrscheinlich ein paar Hunderten, paar Tausend Leute, die sich große Sorgen machen. Kürzlich kursierte hier ein offener Brief, unter anderem von Hoden, Obme-Eimett-Arbeitern, die auch gesagt haben, wir müssen diese Entwicklungen verlangsamen und wir brauchen Regulierung. Das haben, ich glaube bis heute, 1.500 Leute unterschrieben. Wie viele Leute sich jetzt wirklich über Lebenstraining im Wald gönnen oder Bunker bauen, das bestimmt kleiner. Aber ja, es ist auch nicht die Mehrzahl hier im Silicon Valley, das möchte ich auch dazu sagen. Aber gerade innerhalb dieser KI-Firmen ist das schon verbreitet, dass man sich da Gedanken zu macht. Und wenn du das richtig kaputt bist. gebt es ja auch unter den großen Pläern durch aus unterschiedliche Strategien. Also wir haben jetzt Open AI und in Thropic und so genannt. Aber zum Beispiel Mark Zuckerberg und Meta, die widersprechen ja diesen Untergangszenarien und sagen, lass uns eine ganz andere Strategie verfolgen. Also es ist durchaus auch nicht so, dass die großen Konzerne alle sagen, bitte Slow Down, bitte Regulierung, bitte auf die Bremse treten, oder? Genau, auch innerhalb von Open AI z.B. gibt es auch nicht die eine Meinung. Da gibt es auch Leute, die sind besorgter als andere. Und generell würde ich sagen, kann man dieses, ja das hier insoméere Camps einteilen. Du hast einmal diese sehr besorgten Leute, die kommen hier aus einer ganz bestimmten Szene und dann hast du aber auch andere Leute, die noch viel positive auf Technologie blicken, die da gar keine Bremse wollen und die auch diese, wenn wir sie jetzt mal dummer sind, ein bisschen abfälliger Begriff, aber als Spinner bezeichnen, dass die einer Massenhüsterie eigentlich erliegen, weil sie sich in ihrer Echo-Kamer selbst Angst machen und sich dahinein steigern. Und genau, da gibt es eben so die Mark Zuckerbergs oder Genzenuhang von Nvidia, dem Chiphersteller, dem großen oder dem Chip Entwickler, muss man sagen, die sagen, es ist völliger Blödsinn, vor was ihr euch hier sorgt. Wir müssen diese Technologie bauen, weil die ist die großartigste Technologie der Welt. Und dann gibt es würde ich sagen, eigentlich die große Mehrheit im Silicon Valley, die da einfach auf beide dieser Camps mit ziemlich Kopfschütteln schaut und sagt, ja diese Technologie ist sehr, sehr krass und vielleicht auch ein bisschen gefährlich, aber ihr alle spinnt auch ein Testchen. Und in welchem Lager bist du Nicholas? Im dritten wahrscheinlich, ne? Ich bin neutral. Okay, wie es sein soll. Ich hänge noch einmal ein bisschen der Frage nach, was der Grund dafür sein könnte, dass ich jetzt drei KI-Geranden dahin stellen und zu diesem Zeitpunkt auf riesigen ihres eigenen Geschäftsmodells hinweisen, wo man ja sagen muss, ein bisschen Geschäfts-Schädigend muss das ja sein, ne? Also bei einem Verständnis für Druck von innen, was wir alles eben besprochen haben, aber nichts ist so trotz näher, dass ja nicht gerade das Vertrauen in das, was die da tun. Eine Begründung, die immer mal wieder angeführt ist, dass der Ruf nach Entschleunigung vielleicht damit zu tun haben könnte, dass die KI an sich noch nicht profitabel ist, ne? Also das sozusagen, das, was man mit ihr einnimmt, vieles von dem ist ja open sourcemäßig, frei erhältlich, anders ist hinter Abo bezahlschranken und so weiter. Und wird natürlich auch verkauft, ist klar, aber sozusagen ein richtiges Geschäftsmodell gibt es ja in dem Insofern nicht, weil dieser Betrieb der Rechenzentren, der Bau der Rechenzentren und natürlich Strom und Wasser und all das, was da eben vorgehalten wird, muss wahnsinnig teuer ist. Was ist denn da dran? Also das muss man ein bisschen differenziert, glaube ich, betrachten es sind vor allem das Training dieser Modelle. Das ist enorm teuer. Also wenn enttropik oder ob man ja jetzt ein neues großes Modell auf den Markt bringt, dann kostet es mehrere Milliarden Dollar. Das ist vor allem Stromkosten. Es ist sehr, sehr aufwendig und wenn jetzt diese Firmen sich im Wettlauf befinden und alle drei Monate für mehrere Milliarden Dollar so ein Modell bauen. Und dann kommt aber die nächste Firma, ist genau so gut, dann drückt es ja den Preis. Und das ist gerade so ein bisschen das Problem für diese Firmen, dass die da dann wahrscheinlich gar nicht so viel einnehmen können, wie sie gerne würden, aber diese Firmen machen unglaublich viel Umsatz. Also es ist nicht so, dass da niemand für bezahlt. Also allein enttropik soll dieses Jahr dutzende Milliarden Umsatz machen. Diese Firma gibt's erst seit wenigen Jahren. Also es ist eine unglaubliche Geschichte, auch Erfolgsgeschichte, wie man so viel Geld in so kurzer Zeit verdienen kann, dass es vor allem für Firmen konnten, vor allem in der Software Entwicklung. Also das ist der Markt, in dem die sich befinden. Das muss man so ein bisschen differenziert betrachten, die verdienen schon echt viel Geld. Aber man müssen sehr investieren. Genau, es kann jetzt natürlich sein, dass wenn man sagt, okay wir verlangsamen die Entwicklung, dann sparen die sich eben auch ein bisschen die Gosekosten, dieses teuren Training, ist dieser großen Modelle und haben mehr Zeit Geld zu verdienen. Aber das ist Spekulation. Okay, Spekulation ist ja hier viel glaube ich mit ihrem Spiel. Hallo, hier ist Iliana Grabez von das Politikteil. Davor wir gleich weiter über unser heutiges Thema sprechen, wollten wir gern einmal kurz erwähnen, dass wir in der Zeit und auf Zeit online ständig ausführlich über das politische Geschehen berichten, über Hintergründe und Zusammenhänge. Wie Sie es aus das Politikteil auch kennen. Wenn Sie mögen, lernen Sie doch kostenlos unser Angebot kennen. Sicher an Sie sich unter abo.zeit.de/politikteil ein gratis Pro-Babo. Als Kausponent hast du die große Chance, dass du auch die wirklichen Player trifft und das hast du tatsächlich letztes getan. Du hast für das Zeitmagazin dieser Tage mit dem Mann gesprochen, der wie kaum ein anderer für die rasende Entwicklung, auch für das Schillernde und Zweifelhafte dieser Branchen steht. Du hast dich mit dem OpenAI Chef Sam Orkmann getroffen. Erzähl mal, wie war das? Was ist das für ein Typ? Wo habt ihr euch getroffen? Wie kommt der da so an? Zusammen mit dem Kollegen Johannes Dutzjagg vom Zeitmagazin haben wir uns mit Sam Orkmann in dem Büro von OpenAI in dem Headquarter getroffen und es waren total ja interessantes und intensives Gespräch. Sam Orkmann ist ein relativ kleiner Mann, der aber ein großes Karisma hat, der sehr einnehmen ist. Da über dieses Karisma wurde schon sehr viel geschrieben und berichtet auch nicht nur im positiven, aber das Gespräch. Wir haben eine Stunde gesprochen mit ihm. Er setzt sich dann auf so eine Sofa-Bank im Schneidersitz und da haben wir gesprochen und ab und zu schaute dann nachdenklich in die Luft und überlegt und dann schaut er uns dann wieder direkt intensiv an und beantwortet auch kritische Fragen sehr flüssig. Was schon besonders in dieser Interviewsituation war, dass er auch Rückfragen öfters gestellt hat. Das war ganz interessant. Da hatten wir dann manchmal so kleine Diskussionspumente. Was hat er gesagt zu den dystopischen Zinarien, die uns jetzt ja gerade auch anders für unser Gespräch in dieser Woche sind? Er ist nicht in diesem Camp, in dem auch Dario Amodei ist und Sam Orkmann hat sich früher sehr besorgt über KI geäußert, aber inzwischen immer weniger. Wir haben mit ihm darüber gesprochen und er hält zumindest öffentlich wenig von diesen Untergangszinarien. Mein Kollege hat ihn auch versucht zu fragen, was für eine Prozentwahrscheinlichkeit er für den Weltuntergang sieht und da wollte er einfach nicht drauf antworten, hat ihn gefragt, aber dann mit dem Flugzeug hergekommen sei und Johannes hat dann gesagt, ja, und da wäre ja auch eine äußerst äußerst geringe Chance, dass dieses Flugzeug abstürzt und trotzdem ist er eingestiegen. Also das war auch so ein Moment, wo Sam Orkmann sozusagen so in die Offensive gegangen ist und Rückfragen gestellt hat. Der glaubt jetzt nicht an diese Katastrophenzinarien, an die auch viele bei Anthropic inklusive des Chefs glauben. Aber ist nicht Sam Orkmann, derjenige gewesen, der schon relativ früh nach Regulierung durch den Staat gerufen hat, der gesagt hat, ihr müsst uns regulieren, wir kriegen es selber nicht hin. War das damals Marketing-Spräch und jetzt ist es auch wieder Marketing-Spräch oder es gibt ja auch große Porträt in amerikanischen Medien, die viele Kollegen von ihm befragt haben, wo dann auch so Quots fallen, wie das ist ein otorischer Lügner. Jedenfalls hat er seine Position, Marc kann verändert, oder? Er hat seine Position würde ich sagen schon verändert. Er hat sich früher besorgt, geäußert, als er es jetzt tut. Wir haben ihn auch über diese Vorwürfe des Lügen und das Manipulienz gefragt. Er sagt, er ist ein sehr konfliktscheuer Mensch und Leute hätten womöglich unterschiedliche Dinge von ihm gehört, deswegen, ob Maiai hat sich jetzt in den vergangenen Jahren nichts so hervorgetan, als die, die jetzt die strengste Regulierung für ihre KI-Systeme wollen, um es mal so auszudrücken. Ich glaube, es ist nicht nur Marketing. Ein anderer Vorwurf ist, dass sie eigentlich als die großen Unternehmen jetzt nach Regulierung schreien, weil sie merken, dass Regulierung kommen wird. Es gar kein Weg daran vorbeigeht, weil die Stimmung so aufgeheizt ist und sie jetzt lauter nach Schreien, um auch mitreden zu können, was für eine Regulierung dann kommt. Es ist ja normalerweise so das große Firmen mit Regulierung besser umgehen können als kleinere Firmen, also zum Beispiel auch Konkurrenten von Anthropic, von Upmei, etc., die diese offenen Modelle bauen. Das ist ein großer Vorwurf, den es gerade aus der Branche und auch aus dem Silicon Valley an diese großen KI-Film gibt, dass die eigentlich die Regulierung nur nach ihren Interessen jetzt haben wollen. Ich glaube, das ist ja noch ein anderen Mann-Interview in dieser Woche, also gleich zwei Big Shots in einer Woche, uns was mit Bill Gates gesprochen, dem Gründer von Microsoft. An dem Gespräch schon nicht interessant ist ja eigentlich jemand gewesen, der zu Beginn immer gesagt hat, das kommt schon alles nicht so schlimm, also die Risiken von KI sind nicht so groß und inzwischen hört er sich auch so ein bisschen skeptischer an. Er sagt zum Beispiel, wir beschäftigen uns nicht genug mit den Auswirkungen von KI. Da habe ich mich gefragt, also ich glaube, beschäftigen, tun wir uns ja eigentlich relativ viel damit, was genau wünscht er sich denn da, Und wie könnte so eine Beschäftigung aussehen, in dieser grenzenlosen Welt, wo eigentlich sowieso nichts mehr kontrollierbar ist? Also was schiebt ihm davor? Ich glaube, er spricht schon viel mit Politikern oder Wissenschaftlern und Erprangert eben an, dass sich diese Politiker auch nicht gut genug auskennen. Und das merkt man auch hier. Das ist Silicon Valley, es ist ein paar Tausend Kilometer von Washington DC entfernt. Das sind ganz andere Welten. Und ich glaube, er ruft einfach Ökonomen auf, sich mit möglichen Arbeitsplatzverlusten auseinanderzusetzen. Politiker, wie könnte dann eine Regulierung aussehen, die jetzt auch nicht diese Entwicklung abbremst? Also, weil Bill Gates sagt, es wäre schon nicht gut, wenn jetzt überreagiert wird. Und eigentlich diese Entwicklung komplett abgebremst wird, weil auch er sieht natürlich viel Gutes in dieser Technologie. Also, das ist eigentlich die Sorge, die er da hat, aber er ruft eben Ökonomen, Politiker, andere Wissenschaftler auf, sich mehr damit zu beschäftigen. Aber ob ich das richtig verstanden wäre, in Sam Ortenen früher nach mehr Regulierung geufen hat und etwas liberaler geworden ist und jetzt eigentlich sagt, lass uns mal machen, ganz grob zusammengefasst. Ist Bill Gates den Umgekehrtenweg gegangen und hat gesagt, am Anfang tolle Sache und guckt jetzt kritisch auf die Entwicklung, stimmt das? Ja, kann man glaube ich so zusammenfassen. Interessant war ja auch in dieser Woche die Reaktion von Donald Trump auf das, was diese KI-Chefs dort von sich gegeben haben. Hören wir uns das mal an. Wir sind in China und in A.I. Frank Lail want to keep it that way. Because whoever wins, A.I. wins. Ja, im Bundestag der amerikanische Präsidenter, ja, wenn wir es nicht machen, dann machen es die Chinesen. Und ich habe mich gefördert, da hat er eigentlich einen Punkt, ne? Also selbst wenn US und Europäische Konzerne sich jetzt mässigen würden, entschleunigen würden oder sich regulieren lassen würden, dann muss man ja sagen, China macht doch im Zweifel einfach weiter, oder? Das stimmt schon. Ich finde gerade in der US-Regierung ist auch spannend, dass es auch da unterschiedliche Camps gibt. Donald Trump will gar keine Regulierung und da gibt es ein paar andere, die auch sagen, was für ein Blödsinn. Jetzt haben wir das Glück, diese Technologie hier in den USA zu erfunden zu haben und jetzt führen zu sein. Jetzt bremsen wir doch nicht ab. Aber es gibt eben schon auch andere Stimmen im weißen Haus oder in der US-Regierung. Sie sagen, wir brauchen eine gewisse Regulierung, weil die werden wiederum von anderen Branchen unter Druck gesetzt, wie der Finanzindustrie, die Angst haben, auch gehekt zu werden von KI-Systemen. Also, das wird spannend, glaube ich, wer sich da durchsetzt, ehrlich gesagt. Und das China-Agument, ja, es ist schon so, dass es eben diese große Rivalität auch auf dem technischen, technologischen Bereich gibt. Aber auch China macht nicht einfach alles ungepremst, was technisch möglich ist. Also Peking reguliert eigentlich KI stärker als die USA und trotzdem kommen sie da gut voran. Nächste Woche kommt Xi Jinping ins weiße Haus. - Das wollte ich gerade sagen. Und die nächste Woche treffen die sich, KI wird ein riesiges Thema sein. Und ich glaube, man muss vielleicht schon auch noch mal sagen, das ist keine Frage von Technologie-Führerschaft allein, sondern diese Technologie-Führerschaft hat Auswirkungen, was gesagt, die Finanzwirtschaft. Aber natürlich auch ins militärische hinein, in die Möglichkeiten, sich gegenseitig mit alter Hardware anzugreifen oder sich gegenseitig technologisch auszuschalten. Also, so KI-Agenten könnten natürlich auch massendhaft die amerikanische Regierungslaben legen oder die Chinesische umgekehrt. Also, das ist im Grunde ein riesiges strategisches, geistrategisches Problem auf das wir dazulaufen. Oder indem wir schon drinsteckt. Das militärische sehe ich auch mit Sorge. Das eben wegen dieses Wettlaus, wegen dieses Wettstreits eigentlich immer mehr automatisiert wird von Waffen. Und ich glaube, das sehen wir auch jetzt schon in der Ukraine. Da hoffe ich wirklich, dass ich China und USA da irgendwie abstimmen können, dass das nicht einfach komplett freien Lauf erhält. Aber ich bin ein bisschen skeptisch, ehrlich gesagt. Der hat unsere Kollegin Lea Frise gerade auch in aktuellen Ausgabe geschrieben, dass die HUSI überbälen, die gerade Saudi-Arabien so unter Druck setzen. Mit Hilfe von KI sehr erwaußierte Waffensysteme sich selbst gebaut haben, mit denen sie jetzt Saudi-Arabien schwere Schläge versetzen. Da haben wir doch auch schon letztlich eine Entwicklung, wenn diese Berichte stimmen, die gar nicht mehr unter Kontrolle von China oder Washington sind. So weit ich weiß, kommt das aus einem Bericht von Anthropic, die das gemerkt haben, dass mit ihren KI-Systemen, ich glaube, Raketen gebaut werden sollen. Aber das sind ja jetzt keine Autonomenwaffen. Aber gerade diese offenen Modelle, die man im Gegensatz zu den geschlossenen Modellen, die Op-Mei und Anthropic anbietet, einfach runterladen kann. Und das sind z.B. viele der chinesischen KI-Modelle. Das kann man dann nicht mehr kontrollieren. Da kann man dann eine Drohne einbauen, ein Gesicht schicken und die Drohne verfolgt dann Menschen. Ich glaube, wir laufen da schon auf eine komische Welt zu. Aber die wichtigsten Player sind dann doch China und USA. Vielleicht über die Frage sprechen, wie man das Ganze regulieren könnte. Noch mal ankünften an das, was du eben gesagt hast. Das gesagt, China reguliert KI eigentlich fast stärker als beispielsweise Amerika. Kennst du da mal so ein Gefühl dafür verschaffen, was tun die? Das ist tatsächlich so, dass aus der KP selbst auch schon Warnung laut wurden. Vor den Risiken von KI. Wie machen die das? Wie kontrollieren die das, was im eigenen Land vor sich geht? Ich glaube, die KP hat eher Angst vor den USA, was die mit KI machen als intern. Das ist mein Gefühl oder das, was ich auch gelesen habe. Und was sich auch total interessant finde, sind die Umfragen in diesen Ländern. Man kann eigentlich sagen, dass in westlichen Ländern auch den USA total skeptisch auf KI geschaut wird. 70 Prozent der Menschen laut den Umfragen sehen mehr schlecht. Das ist alles Gutes in dieser Technologie und in China ist es genau andersrum. Und übrigens in vielen anderen Ländern, auch des globalen Südens, die sehen viel mehr Chancen in KI und auch in China wird diese Technologie viel pragmatischer gesehen. Also dies auch viel mehr in dem Alltag der Menschen als in USA oder Europa. Und das wird als eine Technologie sie gesehen, die die Wirtschaft voranbringen kann. Und es gibt auch weniger diese Diskussion und Gedanken, um diese super Intelligenz oder diese gottgleiche KI. Das ist da gar nicht so verbreitet. Aber um die Regulierung zurückzukommen, China reguliert zum Beispiel diese KI begleiter, also so Companions. Mit denen man sprechen kann und diese zeigen, der beste Freund dann wird. Also da hat China eine strengere Regulierung, weil sie Angst haben, dass es eben in psychische Abhängigkeiten von Kindern und Jugendlichen zu solchen Systemen kommt, das mal als Einbeispiel. Wenn AI surpasses Human Intelligence, diese Technologie wird die Human-Control mit potentially kategorischem Konsequenz. Ja, das war Senator Bernie Sanders, man hat es an der Stimme schon gehört. Der ist einer der schärfsten Kritiker, der KI Entwicklung skizziert auch eine Welt, in der die Menschheit die Kontrolle über diese Technologie verliert und ruft nach Regulierung. Interessante Weise vertirrt eine ganz ähnliche Position, Steve Bannon, der ehemalige Engeberater von Donald Trump, einer der einflussreichsten Influencer auf den Nationalistischen Rechten. Interessante Paarung, die beiden, lasst mich zunächst mal interessiert ist, siehst du eine realistische Chance, dass eine Regulierung wirklich funktioniert. Das ist eine rasen, schnelle technologische Entwicklung. Die wird angetrieben von morzmäßigen Gewinninteressen oder kapitalistischen Interessen. Wir wissen, dass staatliche Intervention meistens ein bisschen länger dauern als wirtschaftliche Entwicklung. Deswegen siehst du eine reale und realistische Chance, dass überhaupt eine Regulierung gibt, geben kann. Ich sehe es jetzt mal als positives Zeichen, dass die Unternehmen selbst auch nach Regulierung rufen. Und auch wenn sie unterschiedliche Ziele verfolgen, das ist ja schon mal ein gutes Zeichen. Aber ja, ich bin da auch ein bisschen skeptisch, weil da so viel Geld hinten dranhängt. Im große Teile des Wirtschaftswachstums der USA wie schon erwähnt. Also das wird glaube ich schon schwierig. Und vor allem im weißen Haus, da kommt oft zur Regulierung, kommt oft erst, wenn etwas richtig schiefgelaufen ist. Also das haben wir auch mit der Finanzkrise gesehen, das musste erst mal so richtig implodieren, bis es da große Regulierung danach gab. Und bei KI, das fühlt sich natürlich nicht so gut an, dass jetzt hier noch mehr passieren muss, dass es richtig was kommt. Aber wir haben ja gesehen, wie schnell die Stimmung kippen kann in den letzten Wochen. Also das ist ja das eines der größten Wahlkampfthemen plötzlich in den USA geworden. Ich bin mir aber nicht sicher, ob durch so Statements, wie die von Bernie Sanders, die schon eine extreme Haltung einnehmen, ob dadurch auch die beste Regulierung passiert. Da bin ich dann wahrscheinlich bei Bill Gates. Man stellt sich ja gleichzeitig auch die Frage, ob es nicht womöglich auch schon zu spät sein könnte, wenn man davon ausgeht, dass ehemalige Mitarbeiter jetzt sagen, teilweise damit argumentieren, dass die Systeme schon dabei sind, außer Kontrolle zu geraten. Also es stellt sich die Frage, wie viel kann man jetzt noch regulieren oder ist das am Ende auch Panikmacherai? Was ganz wichtig auch. bei diesem Vorfall von Hanging Face, diesen hackenden Op-Mei-Agenten ist, das waren auch Fehler von Op-Mei. Das ist nicht so, dass diese KI-Egenten komplett außer Kontrolle geraten sind. Op-Mei, und das hat uns Sam Ortenen im Gespräch ja zugegeben, hat da auch ein bisschen Mist gebaut, ihre eigene Sicherheitsvorkehrungen gut genug zu treffen. Das heißt nicht, dass das nicht nochmal passieren kann, und die KI trotz besserer Vorsichtsmaßnahmen auch da aus ihren umgeschützten Umgebungen fliehen kann und dann andere Firmen hecken kann. Aber das ist schon auch eine Designentscheidung. Diese Firmen bauen diese Systeme genau dafür, die bauen, die das sie eine Aufgabe lösen. Und diese Aufgabe ist, in dem Fall von Hanging Face war es eine Information zu finden. Und ob das jetzt bewusst oder nicht bewusst war, diese Aufgabe war unmöglich zu lösen, und dann hat die KI jetzt kreative Wege genutzt, um trotzdem an diese Informationen zu kommen, die sie finden sollte. Aber das sind eben Designentscheidungen auch dieser Unternehmen, wie sie diese KI entwickeln. Kann man KI überhaupt noch kontrollieren und für eine Regulierung müsste man sie kontrollieren, ohne wiederum KI einzusetzen? Geht ja nicht, dass du oder ich da irgendwas aufschrauben und reinkucken und dann sagen ja läuft, oder läuft nicht. Sondern das sind so komplexe Vorgänge, die lassen sich auch wiederum nur mit KI prüfen, oder? Ja, genau, das wird auch heute schon gemacht, oder seit Jahren. KI-Systeme überprüfen andere KI-Systeme. Sonst könnte man das klingt komisch, aber eigentlich macht das ja auch total Sinn, weil diese Masse, also Obmei Chat GPD hat eine Milliarde Nutzer, das kann man ja gar nicht richtig überwachen. Und tatsächlich hilft KI eigentlich viel besser. Also KI macht es sogar leichter, die andere diese Sachen zu überprüfen. Also das wird schon gemacht und ja die Gedanken sind dann eben so ja eine kleinere KI überprüft dann sozusagen den großen Bruder. Mal schauen, mal schauen, wie lange das gut geht, aber das will nicht auf der negativistischen Seite immer weiter nachbohren. Aber in diesem Hagging-Facefall haben wir gesehen, dass diese Agenten bewusst, soweit davon bewusst an die Rede sein kann, absichtsvoll, vorsätzlich betrogen haben. Auch das ist ja denkbar, eine Kontroll KI, die kontrollieren soll, kann auch misst bauen, oder? Ja, aber nochmal zu dem Thema, wie diese Systeme entwickelt und designed werden. Das ist wie einen Hund tremieren. Ja, man gibt dieser KI eine Aufgabe und dann belohnt man diese KI, wenn sie diese Aufgabe erreicht. Und innerhalb dieses Trainingsprozesses probiert die Millionen Wege aus, um dieses Ziel zu erreichen. Das ist wahrscheinlich der Grund warum diese KI-Systeme dann auch betrügen, weil sie eben sehen okay, mit diesem Weg kommen sie zu diesem Ziel. Und das ist eine total schwierige Aufgabe, in Fachkreisen wird das Erleinement genannt, also Ausrichtung von KI-Modellen an menschlichen Werten, an menschlichen Zielen. Und so ganz gelöst ist das nicht. Wir reden ja über diese Form der Regulierung, aber sicherlich geht es ja, wenn du auch davon sprichst, dass es eine gute, effiziente Regulierung geben müsste, die gibt es ja heute noch nicht. Und da würde jetzt meine nächste Frage hingehen. Wie sollte die denn aussehen? Also ist da die Vorstellung von irgendwie so einer internationalen Behörde für KI-Sicherheit? Kann man sich hier kaum vorstellen, dass das in dieser Weltmarkt funktionieren würde? Also gibt es Ansätze dafür, was jetzt ein Roll-Modell sein könnte, um eben das, was schwer unter Kontrolle zu bringen, ist in irgendeiner Art und Weise noch übersehen zu können? Ja, es ist eine schwierige Frage natürlich. Dieses internationale Organisation, das wird jetzt gerade ja auch von den KI-Firmen gefordert, dass es sowas gibt. Mal schauen, ob das kommt und ob das auch hilft in Bezug auf China, ob sich dann alle dran halten, so vorbild ist so eine Atomenergiebehörde zum Beispiel. Aber ich finde, man müsste einfach mal mit Haftung anfangen. Also jetzt zum Beispiel dieser Hacking-Face-Vorfall, wo diese OpenAI Agenten diese Firma geheckt haben. Mensch hätte dafür mehrere Jahre ins Gefängnis kommen können, aber da ist jetzt eigentlich gar nichts passiert für OpenAI. Und ich glaube, das wäre an Anfang, dass man auch diese Firmen verantwortlich macht für das, was ihre KI-Systeme machen. Ich glaube, das wäre auch schon mal ein großer Hebel, dass die selber noch vorsichtiger werden. Und sonst werden eben gerade so Aufpasser-Institute, die dann bei den KI-Firmen sitzen, diskutiert. Da muss man, glaube ich, darauf achten, dass die wirklich unabhängig sind, dass die auch divers besetzt werden, also auch mit Cyber-Sicherheits-Experten, anderen Experten. Das sind gerade so die Ideen, aber ich glaube, die Firmen müssen in Verantwortung gezogen werden für das, was ihre KI Agenten eigentlich machen. Auch wenn das im Detail natürlich total schwierig umzusetzen ist, das will ich hier gar nicht verleugnen. Da bin ich ja persönlich so ein bisschen skeptisch, muss ich sagen, die Selbstregulierung und Selbstverantwortung von anderen Tech-Konzernen in anderen Bereichen ist da nicht so ein ermutigen, das Beispiel finde ich Social und so weiter. Genau. In Social Media, da haben die Plattform es geschafft, nicht verantwortlich zu sein für das, was auf ihren sozialen Netzwerken passiert. Und ich glaube, das ist die Folge für ganz viele schlechte Entwicklungen, ehrlich gesagt. Die Flop 5. Ja, lieber Niklaus, ich glaube, das ist ein guter Moment jetzt für unsere Flop 5, für unsere Kategorie. Deine fünf Rasensätze, die du nicht mehr hören kannst und ich hab den Verdacht, es gibt so einige. Was ist denn dein erster Flop? Das Technologie neutral ist. Das wird vor allem von Tech-Konzern oft gesagt oder auch von Forschern und die meines gar nicht böse, aber ich glaube, das ist zu vereinfacht. Also die sagen KI oder Technologie ist wie ein Hammer, da kann man Nagel in die Wand mit hauen oder einen Menschen mit erschlagen. Aber darauf wollte ich ja eben auch schon mal hinaus, diese Systeme werden von Menschen gebaut und designed ausgerichtet. Diese Entwickler entscheiden, welche Trainingsdaten in diese Systeme kommen, dementsprechend verhalten sich diese Systeme. Also es ist alles andere als neutral. Das leuchtet ein Flop 2. Die menschlichen Zuschreibungen, die wir den KI-Agenten geben. Das haben wir wahrscheinlich hier auch im Podcast jetzt schon gemacht, weil es eben total schwierig ist, das zu vermeiden, weil das sich um so abstrakte Dinge handelt. Sie bilden Banden oder so was? Ja, oder sie opfern sich auf für andere. Das stillt natürlich und da liegt natürlich auch eine Chance drin, dass man diese Sachen besser erklären kann. Und wir Journalisten müssen ja auch Dinge erklären. Das fängt übrigens mit künstlicher Intelligenz an. Also was ist eigentlich Intelligenz. Aber genau, was ich eigentlich sagen will, ist, dass diese Vermenschlichung auch davon ablenkt. Also das lenkt von der Verantwortung ab. Man wird so ja die KI wollte das so und so weit. Aber da steht ja schon eine Firma dahinter, die bestimmte Entscheidungen getroffen hat. Gleichzeitig macht es natürlich auch die Risiken umso plastisch an. Wobei ich sagen muss ich ja blieben an KI-Agenten, der sich aufopfert als ein, der mich attakiert. Aber das sind beide 5 Cent dazu, was ist denn der dritte Floppen? Die Prozent zahlen, die so kursieren. Also jetzt auch in die Schule. Ja, Weltuntergang 10 Prozent in den nächsten 10 Jahren. Oder Elon Musk sagt, glaube ich, 10 bis 20 Prozent Weltuntergang. Dario Amodei sagt 25 Prozent. Nuss Herr Altmann wollte sich auch in unserem Gespräch nicht dazu äußern und eigentlich begrüße ich das. Ich finde das unseres. Niemand kann eine Prozentzahl geben, dass die Menschheit untergeht. Das ist Panikmache meiner Meinung nach und und eigentlich unwissenschaftlich von Leuten, die immer darauf achten, total wissenschaftlich zu sein. Aber das kann niemand ernsthaft sagen. Also ich finde das kontraproduktiv. Einmal nachgefragt, du meinst, die Prozentzahl daran zu kleben, ist Panikmache oder darüber zu reden, dass die Welt untergehen könnte und die Menschheit ausgelöscht werden könnte, ist Panikmache. Denn wenn man davon überzeugt ist, finde ich es schon einleuchten, dass man sagt, das ist nicht komplett unwahrscheinlich, sondern das versuchen, die wir ja mit den Prozentzahlen zu sagen. Es gibt relativ viele Ausgänge, die sie sich vorstellen können, wo es schiefgeht. Ja, natürlich kann man niemals ausschließen, dass diese Technologie zum Untergang der Zivilisation führt. Aber da eine Prozentzahl hinzukleben und zu sagen, ja, das hat ja so eine Message von, das ist eine objektive Zahl und so ist eben die Wahrscheinlichkeit. Und ich haltet es eben für unseres. Über die Zahl habe ich vergessen, an welcher Zahl von Flops wir sind. Ich glaube, der vierte. Diese Atombompe vergleich. Den finde ich auch immer ein bisschen schräg. Also KI wird oft mit einer Atombompe verglichen Atombompe. Wohnbombe ist eine Waffe und KI ist eigentlich eine Grundlagentechnologie, die ist so viel und unterschiedliches. Es gibt ja nicht das eine KI-System. Und Atombombe ist eben was, was es schon gibt, wo schon sehr, sehr viele Menschen mitgestorben sind. Die Schlummern hier in den Silos und KI ist eben so viel mehr und eben auch noch nicht da oder ist die Frage, ob das jemals so sein wird. Also dieser Vergleich finde ich einfach, den finde ich einfach schräg. Nachvollziehbar und dann fünfter flopp. Der ist ein bisschen leichter, ist der Wasserverbrauch. Der Wasserverbrauch von KI. Diese Systeme verbrauchen unglaubliche Mengen Strom und das ist auch ein großes Problem meiner Meinung nach, weil da viel am fossile Energie für genutzt wird, weil diese Rechenzentren nicht schnell genug gebaut werden können von diesen Firmen, aber es dauert viel länger eigentlich, das Energienetz darauf vorzubereiten, Stromleitungen zu legen und so weiter und deswegen setzen die da überall Gaszubien neben die Rechenzentren. Aber dieser Wasserverbrauch ist in der Öffentlichkeit, wird der meiner Meinung nach viel zu übertrieben dargestellt, dass das zu riesigen Wasserproblem führt. All diese neuen KI-Rechenzentren haben geschlossene Kühlkreisläufe, also der Verdampft trotzdem Wasser, aber eigentlich bleibt es Wasser in diesen Rechenzentrum und dieses Argument finde ich, da sollte man sich auf andere Kritik konzentrieren. Okay, das waren 5 Flops, zum Schluss fragen wir unseren Gast immer, was ihm oder ihr den Hoffnung macht. paar Hoffnungsschimmer haben wir bei dir auch schon ausgehört, aber bring es noch mal auf den Punkt. Es sind viele Entwicklungen, die wir jetzt als Gefahr sehen, die aber auch total positiv sein können. Ein Beispiel gestern hat hier so eine Firma im Silicon Valley, einen Video gezeigt, wie sie ein Materiallabor, also ein Labor mit ein echtes Labor, das von Robottern betrieben wird mit einem KI-System verbinden und das KI-System kann dann sozusagen selbstständig testen, welche Materialien für zum Beispiel Halbleiter oder Magneten, besonders gut geeignet sind und dann füttert das sozusagen dieses Labor, dann wieder das KI-System und es lernt weiter. Das ist die Idee dahinter und auch hier kann man sagen, oh Gott, oh Gott, damit kann man ja ganz schnell eine Bio-Waffe bauen, aber damit kann man auch ganz viele tolle Forschung betreiben, die glaube ich wichtig ist oder auch Medikamente entwickeln, neue Halbleiter entwickeln oder Materialien dafür. Also ich plädiere glaube ich so ein bisschen dafür diese ganze Debatte, etwas nur als Jörgter zu betreiben und zu sehen. Ja, lieber Niklas, ich glaube, damit hast du ein Beitrag geleistet dazu zu deinem Wunsch mit diesem Politikteil, was wir hier gerade hatten, zumindest aus meiner Sicht, dass du eine Menge Ruhe in einer ja doch sehr aufgehitzte Debatte gebracht mit all dem, was du uns heute hier erzählt hast. Vielen Dank, dass du da warst und liebe Hörer und Hören, wenn Sie Anmerkungen haben, wenn Sie uns kritisieren wollen oder den Nikolas loben wollen oder was auch immer los werden wollen, dann schreiben Sie uns bitte an das Politikteil, erzeit.de und in der nächsten Woche sind, wenn ich richtig ist überblecke und ich habe mich schon an der einen anstelle mal vertan sind Peter Dausend und ich hier wieder hinter dem Mikrofon und wie auch schon nach den Wahlen in Sachsen anhalt werden wir am Montag mit einer extra Folge aufwarten, wo wir den Ausgang der Wahlen in Mecklenburg vorperman aktuell einordnen werden. Genau, und dann noch ganz klein bisschen Werbung muss sein. In eigener Sache seit einigen Tagen gibt es auch ein Newsletter der Zeit, der das Politikteil heißt. Unser Schwestern Newsletter sozusagen 4 Mal die Woche schreiben darin Autorinnen und Autoren des Politikresfuers über die Entwicklung des Tages, erklären zusammenhängen und empfehlen besondere Texte im Montag bis Donastas jeweils im 18 Uhr und wenn Sie den abonnieren wollen, wir finden es lohnt sich dann www.zeit.de/newsletter/politikteilen, die Adresse finden Sie auch in den Schonauts. Danke auch von mir Ivan Nikolas. Danke, hat es viel Spaß gemacht. Vielen Dank Nikolas. Bis bald. Das Politikteil ist ein Podcast der Zeit produziert von Pulottes. Liebe Hörerinnen und Hörer, wir machen uns bei der Zeit viele Gedanken darüber, wie wir unser Angebot weiter verbessern können. Und deshalb ist uns Ihre Meinung besonders wichtig. In einer kurzen Umfrage möchten wir besser verstehen, wie Sie unsere Podcasts nutzen, was Ihnen daran wichtig ist und was Sie sich wünschen. Wir freuen uns sehr, wenn Sie teilnehmen und ein paar unsere Fragen beantworten und das geht ganz einfach via www.zeit.de/befragung-podcast. Den Link zur Umfrage finden Sie auch in den Schonauts zu dieser Folge. Vielen Dank.