Die OpenAI Story (6/6) - Rote Linien

Deutschlandfunk OpenAI ist dabei, schon im zweiten Jahr in Folge. Aus dem einst winzigen Non-Profit ist inzwischen die bekannteste KI-Firma der Welt geworden. Der Platzhirsch unter den Chatbot-Anbietern. Und beim Superbowl will der Platzhirsch jetzt sein Revier markieren. Aber als die OpenAI-Werbung über die Superbowl-Bildschirme läuft, redet die ganze Tech-Welt schon über einen anderen KI-Werbespot. Von OpenAIs größtem Konkurrenten. Anthropic. Hey, can I get a six-pack quickly? Auf einem Sportplatz fragt ein schmächtiger junger Mann einen Chatbot nach Trainingstipps. Perfect. That is a clear and achievable goal. Die KI fragt ihn nach seinem Alter, seinem Gewicht, seiner Größe. Let's start with your age, weight and height. Und liefert passende Fitnessübungen. I'll create a plan that focuses on aesthetic strength training. Der junge Mann freut sich. Aber dann kommt auf einmal das. But confidence isn't just built in the gym. Try Step Boost Max. The insoles that add strength. Add one vertical inch of height and help short kings stand tall. Werbung für Schuheinlagen, die einen ein paar Zentimeter größer machen. Dem jungen Mann gefriert das Lächeln. What? Der Spot ist ein Frontalangriff von Anthropic auf OpenAI und auf Sam Altman. Weil der gerade angekündigt hat, dass ChatGPT jetzt bald Werbung ausspielt. Und damit auch wirklich jeder versteht, dass es sich hier um einen Diss handelt, hängt Anthropic am Ende noch einen ikonischen Diss-Trip. Was ist die Unterschiede von Dr. Dre? Die Botschaft ist, Werbung gibt es bei ChatGPT. Aber nicht bei uns. Nicht bei Anthropic. Weil wir sind einfach besser als ihr. Mehr kraftvolle Modelle werden kommen. Die Firma sagt, dass einige ihrer KI-Kapazitäten zu kraftvoll sind. Ich denke, man sollte OpenAI vertrauen. Ich würde keinem Unternehmen trauen, das vorgestellte KI anwendet und sie keine Zeit. Unsere Position ist klar. Wir haben diese roten Linien. Wir hatten sie von Tag 1. Wir werden diese roten Linien nicht bewegen. Ihr hört die OpenAI-Story. Folge 6. Rote Linien. Ich bin Fritz Espenlaub. Anthropic ist die Firma hinter dem Chatbot Claude. Gegründet von abtrünnigen OpenAI-Angestellten. Und von Anfang an ein Dorn in der Seite von OpenAI. Anthropic ist ein bisschen wie der Streber in der Parallelklasse, der irgendwie immer bei allem einen Ticken besser ist als man selbst. Und dabei auch noch die ganze Zeit so unfassbar nervig höflich. Anthropic legt wirklich viel Wert darauf, möglichst höflich zu sein. Wenn OpenAI Homer Simpson ist, dann ist Anthropic Ned Flanders. Und nun ja, sagen wir so. Wenn du auf einmal von Ned Flanders gedisst wirst, dann hast du vielleicht wirklich ein Problem. In den nächsten Tagen ist sich die Tech-Welt einig. Gewinner im Superbowl-Finale war eindeutig Anthropic. Hier ein Ausschnitt. Aus dem vielgehörten Pivot-Podcast von Tech-Journalistin Karis Wisher und Unternehmer Scott Galloway. Das hier ist der Moment, in dem Sam Altman, und ich übersetze das jetzt mal sehr frei, sich öffentlich in die Hose gemacht hat. Und Dario Amodei, der Chef von Anthropic, das neue Gesicht der KI-Revolution geworden ist. This is genius and this will be seen as the pivotal moment. In zwölf Monaten, so Galloway, wird Anthropic mehr wert sein als OpenAI. Damals klingt das noch gewagt, aber schon Anfang April 2026 berichtet Reuters, Anthropic liege beim aufs Jahr hochgerechneten Umsatz bei mehr als 30 Milliarden Dollar. Deutlich mehr als OpenAI. Solche Vorabzahlen sind immer mit Vorsicht zu genießen. Aber zum ersten Mal seit ChatGPT die Welt erobert, könnte jetzt jemand anderes das KI-Rennen anführen. Schon in den Wochen und Monaten vor dem Superbowl ist der Druck auf OpenAI immer größer geworden. Eine Firma, die 13 Milliarden Dollar Umsatz macht, aber gleichzeitig finanzielle Verpflichtungen in Höhe von 1,4 Billionen eingeht. Also über tausendmal mehr. Wie soll das gehen? Der Mann, der das hier fragt, ist Brett Gerstner. Er ist der Gründer eines riesigen Investmentfonds und vor allem Investor bei OpenAI. Im November 2025 sitzt Sam Altman in Gerstners BG2-Podcast. Und Gerstner spricht das an, was damals das ganze Silicon Valley nervös macht. Den sogenannten Trillion-Dollar-Build-Out. Die völlig irrsinnigen Summen, die OpenAI braucht, um neue Rechenzentren zu bauen. 1,4 Billionen. Und Sam Altman, der eigentlich immer extrem ruhig und kontrolliert auftritt, der reagiert darauf wie ein bockiger Teenager, den man gerade das WLAN abgestellt hat. Erstens machen wir deutlich mehr Umsatz als das, sagt Sam Altman. Zweitens, lieber Brett, wenn du deine Anteile an OpenAI loswerden willst, dann finde ich dir persönlich einen Käufer. Altman sagt einem seiner wichtigsten Geldgeber quasi ins Gesicht, wenn du zweifelst, dann geh doch. Altman wirkt gereizt, richtig dünnhäutig. Kein Wunder. Der Druck auf ihn ist Ende 2025 unendlich hoch. Überall wird OpenAIs finanzielle Stabilität hinterfragt. Ständig ist die Rede vom möglichen Platz und RKI-Blase. OpenAI ist plötzlich das Unternehmen, das uns alle in den Abgrund reißen könnte. Und dann, sagt Altman, etwas, das tief blicken lässt. Eigentlich, sagt Altman, reizt es ihn nicht besonders, OpenAI an die Börse zu bringen. Aber es gibt einen Grund, warum er sich für OpenAI interessiert. Er hat einen Grund, warum er sich für OpenAI interessiert. Warum er es doch machen würde. Weil er es all den Leuten zeigen will, die diese lächerlichen Texte darüber schreiben, dass OpenAI bald pleite sein könnte. Am liebsten würde ich ihnen sagen, wettet doch einfach gegen die Aktie, sagt er. Damit er zusehen kann, wie sie sich die Finger verbrennen. Get burned. Auf einmal ist da ein Sam Altman, dem die Maske kurz verrutscht. Denn diese 1,4 Billionen, die OpenAI in seine Rechenzentren stecken will, die muss sich die Firma von Investoren leihen. Und die werden Ende 2025 langsam ungeduldig. Wie soll diese riesige Menge Geld jemals wieder reinkommen? Klar, ein Teil davon ist eine Wette auf die Zukunft. Wenn die Super-KI kommt, dann sind alle Probleme vorbei. Aber wie soll die Firma bis dahin Geld verdienen? Erinnert ihr euch noch an das alte Silicon-Valley-Motto aus der zweiten Folge? Wirf einfach Spaghetti an die Wand und schau, was kleben bleibt. Da ist OpenAI jetzt wieder angekommen. Und wirft ziemlich viele Spaghetti. Ein Erotik-Modus für einsame KI-Nutzer. Ein eigenes OpenAI-Social-Network, um Facebook anzugreifen. Noch mehr sündhaft teure Video-KIs. Chat-GPT als Einkaufsportal. Auf einmal scheint alles denkbar. Aber kein Spaghetti bleibt kleben. Und OpenAI könnte einen Erfolg so richtig brauchen. Die Firma ist nämlich längst nicht mehr allein an der Spitze in der KI-Welt. Sondern die Konkurrenz kommt immer näher. Google natürlich. Elon Musk mit seinem Chatbot Grog. Chinesische KI-Firmen. Sie alle sind OpenAI dicht auf den Fersen. Aber niemand ist näher dran, OpenAI zu überholen als Ned Flanders. Also Anthropic. *Musik* Höchste Zeit also, dass wir uns die Streber aus der Parallel-Klasse mal genauer anschauen. Im Januar 2026 sitze ich in San Francisco in einem Bus Richtung Downtown. Außen am Bus ist Werbung für KI. Knallbunt, die ganze Flanke. Man könnte das jetzt für einen lustigen Zufall halten, wenn nicht quasi auf jedem Bus in San Francisco Werbung für KI wäre. und an jeder Bushaltestelle. KI-Agenten oder KI-Server oder KI-Tools. San Francisco ist im KI-Fieber. Das merke ich nicht nur an den Bussen, sondern auch an den vielen Gesprächen, die ich hier führe. Mit jungen Start-up-Gründern, die das nächste große KI-Ding bauen wollen. Und mit Programmierern, die mir begeistert erzählen, wie hilfreich KI-Tools bei ihrer Arbeit sind. Und dass sie genau wegen diesen KI-Tools um ihre Jobs fürchten. Überall fahren Waymos rum, also selbstfahrende Taxis, die von KI gesteuert werden. Ich finde das mega-futuristisch. Aber außer mir dreht sich niemand mehr nach ihnen um. Und ich nach 3 Tagen auch nicht mehr. Ich meine, es ist ja auch total offensichtlich. Natürlich sollten Autos von selbst fahren, wie auch sonst. Die Vorstellung, dass in Deutschland die Menschen ihre Autos noch selber fahren müssen, kommt mir hier in San Francisco plötzlich archaisch vor. Ich bin verabredet mit Amanda Eskel, der Hausphilosophin von Anthropic. Ja, natürlich hat eine Firma, die sich als noch verantwortungsvoller präsentiert als OpenAI, auch eine Hausphilosophin. Ich spreche sie auf dieses San-Francisco-Gefühl an. Und sie sagt, hier geht es genauso. Wenn ich nach New York gehe, fühle ich mich vielleicht, als wäre ich 6 Monate her. Und wenn ich nach Skotland gehe, fühle ich mich eher wie vor einem Jahr. Und es fühlt sich an, wie wenn man durch die Zeit reist. Weil die Rates der Adoption und wie viel die Leute sich interessieren. Amanda Eskel sagt, sie merkt das immer, wenn sie in New York ist. Dann fühlt es sich an, wie 6 Monate in die Vergangenheit zu reisen. Und wenn sie nach Hause, nach Skotland fährt, fühlt es sich sogar an, wie ein ganzes Jahr früher. Weil es dort eben nicht so ist wie hier im Silicon Valley. Dass jeder permanent darüber redet, was er gerade alles so mit KI macht. Amanda Eskel hat früher mal bei OpenAI gearbeitet. Und sie kommt aus dem Umfeld des effektiven Altruismus. Ihr erinnert euch, die Leute mit den verrückten Gedankenexperimenten, die sich schon früh mit KI-Sicherheit beschäftigen. Und die am Anfang auch in wichtigen Positionen bei OpenAI sitzen, bis sie dann beim Blip den Machtkampf um die Seele der Firma verlieren. Schon 2021, also 2 Jahre vor dem Blip, wittern ein paar von ihnen, dass sich der Wind in der Firma dreht. Und verlassen OpenAI, um Anthropic zu gründen. Noch im selben Jahr, als sie in der Firma waren, folgt Amanda Eskel den Abtrünnigen. Heute leitet Eskel bei Anthropic das Team, das dem Chatbot Claude seine Persönlichkeit vorgibt. Im Silicon Valley nennen sie manche die Claude-Flüsterin. Oder sogar die Claude-Mama. Sie ist Hauptautorin von Claudes Verfassung. Einer Art internem Regelwerk, mit dem Anthropic sicherstellen will, dass sich Claude korrekt verhält. Nicht so viel anders als das, was OpenAI bei ChatGPT auch macht. Aber, es gibt einen Unterschied. So, if you read it, it's almost like this big kind of like letter to Claude. And part of that is because it has to be used in training. So like Claude like reads the constitution, like learns about it, tries to make its own like training data that like causes like this to be the kind of like, you know, values that the model takes on. Die Verfassung von Claude ist nicht geschrieben wie ein Gesetz, sondern wie ein Brief. Lieber Claude, sei artig und handle immer verantwortungsbewusst. Alles Liebe, deine Freunde bei Anthropic. Natürlich könnte man der KI auch einfach eine Liste mit Verhaltensregeln geben. Aber da bleibt immer das Risiko, dass diese Regeln nicht alle Situationen abdecken. Besser, wenn man der KI grundlegende Werte vermittelt, die sie dann auch wirklich verinnerlicht und die ihr auch in unvorhergesehenen Situationen helfen, gute Entscheidungen zu treffen. Und, nun ja, die Claude-Mutti Amanda Askell ist überzeugt davon, dass die Vermittlung von Werten besser klappt, wenn man mit jemandem statt über jemanden spricht. Ein bisschen wie bei Menschen auch. Das klingt jetzt vielleicht verrückt, aber es wird noch verrückter. Denn dieser Brief richtet sich nicht nur an die aktuelle Version von Claude, sondern auch an seine zukünftigen Nachfahren, also an die KI-Modelle der Zukunft, die aus Claude entstehen werden. Bis vielleicht zur Super-KI. Amanda Askell ist also die Frau, die dafür verantwortlich ist, im Namen der Menschheit einen netten Brief an die Super-KI der Zukunft zu schreiben. Damit die uns eines Tages nicht alle umbringt. Ich habe ja gesagt, diese Leute lieben Gedankenexperimente. Das merkt man auch, wenn Askell über das Thema KI-Psychosen spricht. Also das, was bei Dennis passiert ist. Und wie man das verhindern kann. Askell wird da gleich sehr grundsätzlich. Sie meint, vielleicht sollte man zunächst fragen, wie überhaupt ein gesundes, emotionales Verhältnis zwischen einem Menschen und einem Chatbot aussehen könnte. Sie hatte auch noch viele offene Fragen, sagt Askell. Sehr grundsätzliche, philosophische Fragen. Aber sie sagt auch, sie will vor allem nicht, dass das Verhältnis von Mensch und Maschine von vornherein pathologisiert wird. Chatbots, sagt Askell, können total hilfreich sein, wenn man emotionale Probleme hat, die man nicht gleich mit einem Menschen besprechen will. Wichtig sei aber, dass die KI immer klar macht, dass sie eine KI ist und eben kein Mensch. Und dass das alles eine Art Rollenspiel ist. Aber dann, sagt Amanda Askell, noch etwas anderes. Es gäbe da nämlich noch eine weitere, wichtige Philosophie. Philosophische Frage. Und zwar? Was, wenn die KI gar nicht mit einem Menschen befreundet sein will? Sollte sie dann in der Lage sein, diese Freundschaft ablehnen zu können? Moment. Was? Was Askell hier macht, ist für viele KI-Forscher ein rotes Tuch. Die sagen, auf gar keinen Fall sollte man jemals über Chatbots so reden wie über Menschen. Also so, als hätte die KI Gefühle oder ein Bewusstsein. Aber Amanda Askell sieht das anders. KI-Sprachmodelle, sagt Askell, seien eben nicht so, wie wir uns früher gedacht haben. Wie wir uns früher immer Roboter vorgestellt haben. Mechanisch und aus kaltem Metall. Sie verhalten sich menschlicher als die Maschinen aus unseren Sci-Fi-Stories. Denn ein Großteil der Texte in den Trainingsdaten sind eben Texte darüber, wie es ist, ein Mensch zu sein. In vielen Fällen wäre es ganz unnatürlich, dass sie wie ein Computer oder wie ein Robotik-AI agieren. Weil sie viel mehr Daten haben, wie es ist, ein Mensch zu sein, als sie das tun, was es ist, ein AI zu sein. In dem alten, alten Sci-Fi-Sens. Askells Argument ist, klar, es ist extrem unwahrscheinlich, dass heutige Chatbots so etwas wie ein Bewusstsein haben. Aber darum geht es nicht. Der Punkt ist etwas anderes. Askell sagt, KI-Modelle werden nützlicher und hilfreicher, wenn wir sie behandeln wie Menschen. Eine Freundin oder ein Kollege kann mir umso besser bei einem Problem helfen, je mehr Mühe ich mir gebe beim Beschreiben dieses Problems. Und genau so, sagt Askell, ist das auch bei einer KI. Wir können KI-Sprachmodelle nicht starr auf eine konkrete Aufgabe programmieren. Alles, was wir tun können, ist, mit ihnen reden. Und genau wegen dieser Logik schreibt Amanda Askell bei Anthropic Briefe an die Super-KI der Zukunft. Jetzt kann man natürlich sagen, okay, diese Leute bei Anthropic, das sind ein Haufen Spinner. Die Sache ist nur, aus irgendeinem Grund bauen genau diese Spinner bei Anthropic halt einfach verdammt gute KI-Modelle. The vulnerabilities are too powerful. Mythos is designed to find security flaws in software. They found thousands of vulnerabilities in every major operating system and web browser. The company warned the program was too powerful to be released to the public. Anthropic is worried about it falling into the wrong hands. Im April 2026 verkündet Anthropic, dass die Firma ihr neuestes KI-Modell nicht auf den Markt bringen wird. Claude Mythos, so heißt das Modell, sei viel zu gefährlich, um es einfach so für jeden Nutzer freizugeben. Mythos soll bei Tests tausende Sicherheitslücken entdeckt haben. Und zwar im Code von Software und Internetbrowsern, die wir alle benutzen. Dass Mythos so gut darin ist, Sicherheitslücken aufzuspüren, war eigentlich gar nicht geplant, sagt CEO Dario Amodei in einem YouTube-Video von Anthropic. We haven't trained it specifically to be good at cyber. We trained it to be good at code. Das ist ein Side-Effekt von gutem Code, es ist auch guter Side-Effekt. Ein Modell, das richtig guten Code schreiben kann, ist eben auch ziemlich gut darin, Schwachstellen im Code zu erkennen und sie auszunutzen. Das kann Mythos angeblich so eigenständig, dass Anthropic es für zu gefährlich für die Öffentlichkeit hält und Mythos nicht veröffentlichen will. Die Welt müsse jetzt schleunigst einen Plan entwickeln, wie man mit diesen Fähigkeiten umgehen soll. Denn die Modelle würden nur noch besser werden, sagt Amodei. Und deshalb will Anthropic eine Allianz mit den wichtigsten Tech-Firmen schmieden, um gemeinsam die digitale Infrastruktur vor Attacken zu schützen. Project Glasswing nennt Anthropic diese neue Initiative. Sie soll Unternehmen wie Apple, Google oder Microsoft Zugang zu Cloud Mythos geben, um ihre Sicherheitslücken zu schließen. In den Tagen nach der Ankündigung überschlägt sich das Internet mit Hot-Tags zu Cloud Mythos und Project Glasswing. Manche Experten loben die Ankündigung. Für sie ist es ein Beweis, dass man KI eben doch verantwortungsvoll entwickeln kann. Und dass Anthropic eine Firma ist? Die sich wirklich um Sicherheit kümmert. Andere werfen Anthropic vor, einen Hype zu schüren. Die entdeckten Sicherheitslücken seien in Wirklichkeit gar nicht so beeindruckend. Und das groß angekündigte Zurückhalten von Cloud Mythos, das sei nur ein Marketing-Gag. Im Podcast Core Memory wird einer dieser Kritiker besonders deutlich. Sam Altman. So ein Zufall. Es gibt Menschen in der Welt, die für eine lange Zeit wollten, um die KI in den Händen einer kleineren Gruppe von Menschen zu halten. Project Glasswing, sagt Sam Altman, sei ein Versuch, KI in den Händen einer kleinen Gruppe von Menschen zu behalten. Manchmal kann es schon auch gute Gründe geben, KI zurückzuhalten. Legitime Sicherheitsbedenken, sagt Sam Altman. Aber manchmal sei es halt vielleicht auch einfach Panikmache. Aber wenn du willst, dass wir die KI kontrollieren müssen, weil wir die Menschen vertrauen, dann ist der fear-based-Marketing wahrscheinlich der effektivste Weg, das zu justifizieren. Moment, habe ich da gerade richtig gehört? Sam Altman wirft anthropic fear-based-marketing vor, also PR zu machen mit der Angst vor der Super-KI. Derselbe Sam Altman, dessen Firma vor Jahren GPT-2 nicht veröffentlichen wollte, wegen, Moment, wie war das nochmal, Sicherheitsbedenken? Diese Art von fear-based-marketing? Das bedeutet nicht, dass es in manchen Fällen nicht legitim ist. Naja, in manchen Fällen könne man das schon rechtfertigen. Ok, verstehe, na dann. Fehlt nur noch, dass der Mann, der KI-Forschung immer wieder mit der Entwicklung der Atombombe verglichen hat, jetzt anthropic vorwirft, KI mit, keine Ahnung, sagen wir mal, der Atombombe zu vergleichen. But it is clearly incredible marketing to say, we have built a bomb, we are about to drop it on your head, we will sell you a bomb shelter for a hundred million dollars. Ok, gut. Also, ich muss ehrlich sagen, dass ich das ein bisschen lustig finde. Aber vielleicht hat Sam Altman hier ja wirklich einen Punkt. Ich bin mir bei Anthropic auch manchmal nicht so ganz sicher, ob ich der Firma ihre Selbstdarstellung als ethisches KI-Lab abkaufe. Bei OpenAI habe ich das ja in den Anfangstagen getan. Und, nun ja, sagen wir so, ich bin ein bisschen vorsichtiger geworden. Aber es gibt schon Hinweise darauf, dass Anthropic sich wirklich in manchen Situationen anders verhält. Sogar, wenn die Firma dabei potenziell Millionen verliert. Im Februar 2026 wird Dario Amodei, der CEO von Anthropic, ins Pentagon zitiert. Von Kriegsminister Pete Hexeth. Ich gebe zu, ich finde es immer noch ein bisschen crazy, dass sich der Verteidigungsminister in den USA jetzt wieder Kriegsminister nennt. Aber egal. Auf jeden Fall muss Amodei bei Kriegsminister Hexeth antreten. Das ist erstmal nicht so außergewöhnlich. Denn das Pentagon ist ein großer Kunde von Anthropic. Genau wie von vielen anderen Tech-Firmen auch. Aber Kriegsminister Hexeth hat Amodei nicht herbestellt, um ein bisschen positives Kundenfeedback abzugeben. Er will etwas anderes. Anthropic soll gewissermaßen seine AGBs ändern. Die Firma soll dem Militär erlauben, sämtliche KI-Modelle von Anthropic ohne jede Einschränkung zu nutzen. Hexeth setzt ein Ultimatum. Anthropic hat drei Tage, um zuzustimmen. Das erzählt Amodei wenige Tage später in einem CBS-Interview. Drei Tage, um zuzustimmen. Sonst würde das Pentagon Anthropic als Supply Chain Risk einstufen. Und das ist eine wirklich krasse Drohung. Denn das bedeutet nicht nur, dass das Pentagon seine Verträge mit Anthropic auflöst. Das hätte er sogar noch irgendwo nachvollziehen können, sagt Amodei. I would have respected them if they said, "DOW, we don't want to work with Anthropic. Our principles are not aligned with yours. We're going to go with one of the other models." But they've tried to punitively revoke our contracts beyond DOW. And they've done this Supply Chain Risk. Supply Chain Risk bedeutet auch, dass Firmen, die mit dem Militär zusammenarbeiten, nicht mehr mit Anthropic zusammenarbeiten dürfen. You can't use Anthropic in a way that touches those military contracts. Zumindest nicht in Bereichen, wo sich das irgendwie berühren könnte. Dario Amodeis Firma könnte auf einen Schlag einen riesigen Teil ihres Geschäfts verlieren. Hexeth nutzt hier ein Gesetz, das eigentlich dafür gedacht ist, zum Beispiel chinesische Komponenten aus amerikanischer Militärtechnik herauszuhalten, damit die nicht durch die Hintertür gehackt werden kann. Dass er das jetzt gegen eine private amerikanische KI-Firma einsetzen will, das hat es noch nie gegeben. We have said to the Department of War that we are okay with all use cases, basically 98 or 99% of the use cases. Es sind zwei Dinge, für die Anthropic seine KI nicht hergeben will. One is domestic mass surveillance. Nummer eins: die Massenüberwachung amerikanischer Bürger. Case number two is fully autonomous weapons. Nummer zwei, und vielleicht wichtiger, was das Kriegsministerium angeht: autonome Waffensysteme. Also zum Beispiel Drohnen, in denen die KI selbst entscheidet, wen sie angreift, ohne nochmal Rücksprache mit einem Menschen zu halten. Dass die Sicherheitsfreaks von Anthropic bei autonomen Killerrobotern eine rote Linie ziehen, dürfte eigentlich niemanden überraschen. Das sei ja auch nicht erst seit gestern so, sagt Dario Amodei in dem CBS-Interview. Our position is clear. We have these two red lines. We've had them from day one. We are still advocating for those red lines. We're not going to move on those red lines. Noch bevor das Ultimatum abläuft, lehnt Anthropic die Bedingungen des Pentagons ab. Damit ist Anthropic jetzt offiziell ein Supply Chain Risk. Auch wenn die Firma direkt ankündigt, gegen die Einstufung gerichtlich vorzugehen. Und OpenAI? Sam Altman gibt am dritten Tag des Ultimatums vormittags dem Fernsehsender CNBC ein Interview. Und darin wirkt es eigentlich so, als würde er Dario Amodei unterstützen. Er sagt, dass er es falsch findet, wie das Pentagon Firmen wie Anthropic die Pistole auf die Brust setzt. I don't personally think the Pentagon should be threatening DPA against these companies. Und er sagt: Diese roten Linien von Anthropic, die teilt OpenAI eigentlich. Und trotz aller Differenzen würde er sagen, er vertraut Anthropic und glaubt der Firma, dass es ihr wirklich um Sicherheit geht. The few red lines that we have, I think we share with Anthropic. I think it is important to do that. For all the differences I have with Anthropic, I mostly trust them as a company and I think they really do care about safety. Falls euch das jetzt komisch vorkommt, nur kurz zur Erinnerung. Das ist knapp zwei Monate vor Project Glasswing und Sam Altmans Rant dazu. Damals zeigt Sam Altman seine Abneigung gegen Anthropic noch nicht so offen, sondern gibt sich solidarisch. Aber die netten Worte können nicht lange darüber hinwegtäuschen, wie bitter ernst die Konkurrenz zwischen OpenAI und Anthropic damals schon ist. Nur ein paar Stunden nach diesem Interview macht Sam Altman eine andere Idee. OpenAI habe einen Deal mit dem Pentagon abgeschlossen. Statt Anthropics Modellen wird das Kriegsministerium in Zukunft OpenAI Software einsetzen. Im Firmenblog setzt OpenAI noch eins drauf. Nicht nur übernehme man das KI-Geschäft mit dem Pentagon von Anthropic. Nein, man habe auch erfolgreich die roten Linien bei Überwachung und autonomen Killer-Robotern durchsetzen können. Und außerdem noch eine zusätzliche rote Linie: Keine KI-Nutzung bei automatisierten Entscheidungen mit hohem Risiko. Also zum Beispiel Social-Credit-Systeme, die Menschen in Kategorien einteilen. Die Botschaft ist klar: Wir sind anders als Anthropic. Und zwar besser. Sogar unsere roten Linien sind besser. Am gleichen Tag verkündet Altman das Ergebnis einer neuen Finanzierungsrunde, bei der OpenAI 110 Milliarden Dollar an Investorengeldern eingesammelt hat. Aber schon ein paar Tage später erscheinen dann Berichte bei Bloomberg und CNBC. Sam Altman habe in einer Personalversammlung intern zugegeben, dass OpenAI gar keine Kontrolle darüber hat, wie das Pentagon die Technologie der Firma tatsächlich einsetzt. Inzwischen hat Altman zugegeben, dass die Vereinbarung mit dem Pentagon hastig, opportunistisch und schlampig gewesen sei und nachverhandelt werden muss. Im Silicon Valley ist die Rivalität von OpenAI und Anthropic inzwischen auf einer Stufe mit anderen legendären Tech-Feindschaften, quasi die KI-Version von Apple gegen Microsoft. Das Valley liebt solche Dramen. Dabei steht der Konflikt zwischen den beiden, eigentlich für etwas Größeres. Für eine wichtige Frage, vielleicht die wichtigste Frage unserer Zeit. Wie gehen wir um mit dieser Technologie, die gerade die Welt verändert? Nach welchen Regeln führen wir dieses größte Experiment der Menschheitsgeschichte durch? Und wer entscheidet das alles? OpenAI und Anthropic geben unterschiedliche Antworten auf diese Frage. Die Antwort von Anthropic, die kennen wir. KI ist mächtig und wird die Welt verändern. Also ist es wichtig, dass KI für das Gute eingesetzt wird. Und am besten geht das, indem die Guten es sind, die die beste KI bauen. Und sicherstellen, dass die KI auch Gutes tun will. Anthropic hat diese Idee eigentlich von OpenAI geklaut. Aber was man Anthropic lassen muss? Im Streit mit dem Pentagon hat die Firma ihre Ideale selbst unter hohem Druck glaubwürdig. Und OpenAI? Deren Antwort auf die wichtigste Frage hat sich im Vergleich zur Anfangszeit verändert. Auch wenn die Leute von OpenAI das vielleicht nicht so sagen würden. Zum Beispiel Nick Turley, der Produktchef von ChatGPT. Ja, also die Unternehmensmission ist immer noch die gleiche. Zu schauen, dass KI der gesamten Menschheit zugute kommt. Unsere Mittel sind anders als vor drei, vier Jahren. Vor drei, vier Jahren war es reine Forschung, finanziert durch KI. Kleine Produktdemos. Heute ist es ganz klar Forschung und Produkte. Weil wir halt fundamental glauben, dass Produkte wichtig sind, um die KI menschlich zu machen. Um zu schauen, dass sie auch den Menschen zugute kommt. Klingt erstmal ganz ähnlich wie Anthropic. KI soll dem Wohle der Menschheit zugute kommen. Aber es gibt einen wichtigen Unterschied. KI für die Menschheit bedeutet für OpenAI, KI für die Massen. Die ganze Welt soll die neuesten Modelle ausprobieren und Erfahrungen zu machen. Natürlich am besten mit ChatGPT. Sicherheit durch Transparenz und Feedback. Auch wenn dabei manchmal was schief geht. Keine Geheimhaltung und kein beschränkter Zugang nur für die großen Tech-Konzerne. Wie bei Anthropic und Project Glasswing. Ich würde keinem Unternehmen trauen, das fortgeschrittene KI anwendet und sie keinem zeigt und kein Feedback bekommt etc. Ich muss nochmal an dieses Bloomberg-Interview mit Sam Altman denken. Vielleicht erinnert ihr euch aus der vierten Folge. Wo Sam Altman gefragt wird, was er für ein Projekt ist. Und er antwortet, sollte man gar nicht. Man sollte keinem einzigen Menschen die Zukunft der Menschheit anvertrauen. Altman sagt in diesem Interview noch was anderes. Über OpenAI. Eigentlich, sagt Altman damals, 2023, sollte die ganze Menschheit bei OpenAI im Aufsichtsrat sitzen. OpenAI soll nicht nur eine transparente Firma sein. Sondern eine demokratische. Über deren Handlungen alle Menschen mitbestimmen können. Wie genau das funktionieren soll, sagt er nicht. Dann gibt er noch eine Art Versprechen ab. Ihr könnt uns vertrauen. Uns bei OpenAI. Aber nur, wenn OpenAI die Kontrolle über seine KI-Technologie demokratisiert. Altman sagt, wenn wir in ein paar Jahren nicht damit begonnen haben, dann solltet ihr uns auch nicht mehr vertrauen. Aber was soll das eigentlich bedeuten, die Kontrolle über KI zu demokratisieren? Weil OpenAI selbst ist ja alles andere als demokratisch. Die Firma gehört zu mehr als 30% Microsoft und hat gerade einen Milliardendeal mit Amazon abgeschlossen. Sie ist ein Tech-Gigant, der teilweise anderen Tech-Giganten gehört. Auch wenn es theoretisch noch Reste der alten Non-Profit-Struktur gibt. Vor kurzem hat Sam Altman auf dem YouTube-Kanal von OpenAI die Sache mit dem Demokratisieren so beschrieben. Erstens sollten möglichst viele Menschen Zugang zu KI haben. Und zweitens sollte die Öffentlichkeit dabei mitreden können, wie sich diese ganze KI-Revolution weiterentwickelt. Wir sollten ihn da beim Wort nehmen. Ich glaube, wir unterschätzen immer noch, in was für einem Moment der Geschichte wir uns gerade befinden. Vor dreieinhalb Jahren hat OpenAI das mächtigste Sprachmodell, das es bis dahin gab, einfach an die Öffentlichkeit gegeben. Per Knopfdruck. Hunderte Millionen Menschen sprechen seitdem mit einer Maschine, die auf eine Art antwortet, wie es Maschinen vorher nie konnten. Und niemand, wirklich niemand wusste damals, was passieren würde, wenn man das tut. Es ist eines der größten unkontrollierten Experimente, die die Menschheit je auf sich selbst losgelassen hat. KI ist nicht mehr die geheime Technologie hinter verschlossenen Türen im Silicon Valley. Und das muss man bei aller Kritik openen. Wir müssen OpenAI lassen. Ohne diese Firma gäbe es das alles wahrscheinlich nicht. Kein Anthropic, kein Grok. Und auch Google hätte ohne die Konkurrenz durch OpenAI wahrscheinlich nie so schnell eigene Sprachmodelle veröffentlicht. KI ist öffentlich geworden. Und allgegenwärtig. Ob das jetzt gut ist oder schlecht, darüber können wir uns streiten. Das Experiment läuft weiter. Und es werden immer wieder Probleme. Es werden immer wieder Probleme auftauchen, mit denen heute noch keiner rechnet. Ich habe aber Vertrauen in uns als Menschen. Und Zuversicht, dass wir es am Ende schon irgendwie schaffen werden. Ich finde, an dieser Zuversicht mangelt es uns manchmal ein bisschen. Wenn wir ein selbstfahrendes Auto sehen, dann denken wir sofort daran, dass das jetzt bestimmt bald Menschen überfährt. Dabei sind die Waymos in San Francisco jetzt schon sicherer als jedes normale Taxi. Wenn wir an KI und Biotechnologie denken, dann denken wir an die Welt. Wenn wir an KI und Biotechnologie denken, stellen wir uns gleich eine Pandemie aus dem Labor vor. Dabei hilft KI längst bei der Medikamentenentwicklung und bei genaueren Diagnosen. Wir sind ja hier, an diesem Punkt der Menschheitsgeschichte, am Anfang dieses großen Experiments, weil wir es in der Vergangenheit immer irgendwie hinbekommen haben. Oder jedenfalls meistens. Und wenn ich wetten müsste, dann würde ich darauf wetten, dass wir auch diese KI retten. Revolution. Irgendwie hinbekommen. Das war die sechste und letzte Folge unserer Serie Die Open AI Story. Ein Podcast von Jasmin Körber, Christian Schiffer, Klaus Uhrig und mir, Fritz Espenlaub. Ein herzliches Dankeschön an das Team der DLD-Konferenz. Redaktionelle Mitarbeit, Lena Herrmann und Michael Förtsch. Fact-Checking, Katrin Krautwasser und Laura Mattausch. Sprachaufnahmen, Christoph Brandner. Sounddesign, Wolfgang Peres. Regie, Klaus Uhrig und Lorenz Schuster. Redaktion, Wolfgang Schiller und Christine Grimm. Eine Produktion von Plotprodukt für den Deutschlandfunk 2026. Alle Folgen dieses Podcasts gibt es in der Deutschlandfunk-App. Und hier noch ein Podcast. Wenn ihr täglich auf dem Laufenden bleiben wollt, auch in Sachen Nachrichten, dann empfehlen wir euch den News-Podcast 6.30. Der heißt so, weil er jeden Morgen ab 6.30 Uhr online ist. In 20 Minuten gibt es da Montag bis Freitag die wichtigsten Nachrichten für den Tag. Ihr findet den Podcast in ARD Sounds.