Die OpenAI Story (6/6) - Rote Linien

Deutschlandfunk Februar 2026, Levi Stadium, Santa Clara Der Höhepunkt der Football-Saison Über 100 Millionen Menschen schauen zu, alleine in den USA Und in der Pause gibt es die teuerste Werbung des Planeten 8-10 Millionen Dollar kostet ein einziger 30 Sekunden Werbepplatz Auch Op May I ist dabei, schon im zweiten Jahr ein Folge Aus dem einst winzigen Non-Profit ist inzwischen die bekannteste KI-Firma der Welt geworden Der Platzhörsch unter den Chatwortanbietern Und beim Super Bowl will der Platzhörsch jetzt sein Reviermap hier Aber als die Op May I Werbung über die Super Bowl Bildschirme läuft, redet die ganze Tech-Welt schon über einen anderen KI-Werbesport Von Op May I ist größt im Konkurrenten, entfruckig Auf einem Sportplatz fragt ein schlechter junger Mann einen Chatwort nach Trainings-Tips Die KI fragt den nach seinem Alter, seinem Gewicht, seiner Größe Und liefert passende Fitnessübungen Der junge Mann freut sich, aber dann kommt auf einmal das Aber die Konkurrenten ist nicht nur in dem Gym Tristep Busmax, die Insolze, die einen Vertical-Einfachheit verheilt und helfen den Schurke Stantau Werbung für Schuheillagen, die einen ein paar Zentimeter größer machen Dem jungen Mann gefriert das Lächeln Was? Der Sport ist ein Frontalangriff von Enthropic auf Op May I und auf Sam Oldman Weil der gerade angekündigt hat, dass Chatgibiti jetzt bald Werbung ausspielt Und damit auch wirklich jeder versteht, dass es sich hier um einen Dis handelt Hängt Enthropic am Ende noch einen e-konischen Discheck dran What's the difference von Dr. Dre? Die Botschaft ist, Werbung gibt es bei Chatgibiti Aber nicht bei uns, nicht bei Enthropic Weil, wir sind einfach besser als ihr Die Botschaft ist, wer die Erworscheinung von Enthropic auf dem Weg ist Die Erworscheinung von Enthropic auf Op May I und auf Sam Oldman On those red lines? Enthropic ist ein bisschen wie der Streber in der Parallelklasse Der irgendwie immer bei allem einen Ticken besser ist als man selbst Und dabei auch noch die ganze Zeit so unfassbar näherfig höflich Enthropic liegt wirklich viel Wert darauf, möglichst höflich zu sein Wenn Op May I, Hummer Simpson ist, dann ist Enthropic, Netflanders Und nun ja, sagen wir so Wenn du auf einmal von Netflanders gedisst wirst Dann hast du vielleicht wirklich ein Problem In den nächsten Tagen ist sich die Techwelt einig Gewinner im Superboy Finale war eindeutig Enthropic Hier ein Ausschnitt aus dem viel gehörten Pivot Podcast von Textjournalistin Carouswischer und Unternehmer Scott Galloy Das ist es, wenn Sam Oldman, ganz klar, die Bedeutung und Dario die neue Phase der A.I. Das hier ist der Moment, in dem Sam Oldman, und ich übersätze, dass jetzt mal sehr frei, sich öffentlich in die Hose gemacht hat Und Dario Amodei, der Chef von Enthropic, das neue Gesicht der KI-Revolution geworden ist In zwölf Monaten, so Galloy, wird Enthropic mehr wert sein als Open AI Damals klingt das noch gewagt, aber schon Anfang April 2026 berichtet Reuters, Enthropic liege beim aufs Jahr hochgerechnet einen Umsatz bei mehr als 30 Milliarden Dollar Neutlich mehr als Open AI Solche Vorabzahlen sind immer mit Vorsicht zu genießen Aber zum ersten Mal seit ChatgbT die Welt erobert hat, könnte jetzt jemand anderes das KI-Rennen anführen Schon in den Wochen und Monaten vor dem Super Bowl ist der Druck auf Open AI immer größer geworden Eine Firma, die 13 Milliarden Dollar Umsatz macht, aber gleichzeitig finanzielle Verpflichtungen in Höhe von 1,4 Billionen eingeht Also über 1000 Mal mehr Wie soll das gehen? Der Mann, der das hier fragt, ist Brett Gerstner Er ist der Gründer eines riesigen Investmentfonds und vor allem Investor bei Open AI Im November 2025 sitzt Sam Oldman in Gerstner's BG2-Podcast Und Gerstner spricht das an, was damals das ganze Silicon Valley nervös macht Den sogenannten Trillion Dollar Buildout Die völlig irrsinnigen Summeln, die Open AI braucht, um neue Rechenzentren zu bauen 1,4 Billionen Und Sam Oldman, der eigentlich immer extrem ruhig und kontrolliert auftritt, der reagiert darauf wie ein bocke Gartinager, den man gerade das WLAN abgestellt hat Erstens machen wir deutlich mehr Umsatz als das, sagt Sam Oldman 2. lieber Brett, wenn du deine Anteile an Open AI loswerden willst, dann finde ich dir persönlich einem Käufer Oldman sagt einem seiner wichtigsten Geldgeber quasi ins Gesicht, wenn du 2 filst, dann geh doch Oldman wirkt gereizt, richtig dünn heute ich, kein Wunder Der Druck auf ihn ist Ende 2025 unendlich hoch Überall wird Open AI's finanzielle Stabilität hinterfragt Ständig ist die Rede von möglichen Platz und der KI-Blase Open AI ist plötzlich das Unternehmen, das uns alle in den Abgrund reißen könnte Und dann sagt Oldman etwas, was tief blicken lässt So, you know, there are not many times that I want to be a public company But one of the times it's appealing is when those people are writing these ridiculous Open AI's about to go out of business And you know, whatever Eigentlich sagt Oldman reizt es sie nicht besonders, Open AI an die Börse zu bringen Aber es gibt einen Grund, warum er es doch machen würde Weil er es all den Leuten zeigen will, die diese lächerlichen Texte darüber schreiben Das Open AI bald pleite sein könnte I would love to tell them they could just short the stock and I would love to see them get burned on that Und also, in the end, in order to be able to see how they burn the fingers Get burned Auf einmal ist der Einzerm Oldman, dem die Maske kurz verrutscht Denn diese 1,4 Billionen, die Open AI in seine Rechenzentren stecken will Die muss sich die Firma von Investoren leihen Und die werden Ende 2025 langsam ungeduldig Wie soll diese riesige Menge Geld jemals wieder reinkommen? Klar, ein Teil davon ist eine Wette auf die Zukunft Wenn die Super KI kommt, dann sind alle Probleme vorbei Aber wie soll die Firma bis dahin Geld verdienen? Erinnert ihr euch noch an das alte Silicon Valley-Moto aus der zweiten Folge? Wirf einfach Spaketti an die Wand und schau was Kleben bleibt Da ist Open AI jetzt wieder angekommen und wirft ziemlich viel Spaketti Ein erotikmodus für einsame KI-Nutzer Ein eigenes Open AI Social Network um Facebook anzugreifen Noch mehr synthaft teure Video-Kais Chat GbT als Einkaufsportal Auf einmal scheint alles denkbar Aber kein Spaketti bleibt kleben Und Open AI könnte einen Erfolg so richtig brauchen Die Firma ist nämlich längst nicht mehr allein an der Spitze in der KI-Welt Sondern die Konkurrenz kommt immer näher Google natürlich, Elon Musk mit seinem Chatbot-Rock chinesische KI-Firmen Sie alle sind Open AI dicht auf den Fersen Aber niemand ist näher dran, Open AI zu überholen als Net-Flanders Also, ein Throbbick Höchste Zeit also, dass wir uns die Streber aus der Parallelklasse mal genau anschauen Im Jahr 1926 sitz sich in San Francisco in einem Bus Richtung down town Außen am Bus ist Werbung für KI, knallbund, die ganze Flanke Man könnte das jetzt für einen lustigen Zufall halten Wenn nicht quasi auf jedem Bus in San Francisco Werbung für KI wäre und dann jeder Bus heute stelle. KI Agenten oder KI Server oder KI Tools. San Francisco ist im KI Fieber. Das merke ich nicht nur an den Bussen, sondern auch an den vielen Gesprächen, die ich hier führe. Mit jungen Start-up Gründern, die das nächste große KI-Ding bauen wollen. Und mit Programmierern, die mir begeistert erzählen, wie hilfreich KI Tools bei ihrer Arbeit sind und dass sie genau wegen diesen KI Tools um ihre Jobs fürchten. Überall fahren Waymus rum, also selbstfahrende Taxis, die von KI gesteuert werden. Ich finde das mega futuristisch, aber außer mir dreht sich niemand mehr nach ihnen um. Und ich nach drei Tagen auch nicht mehr. Ich meine, es ist ja auch total offensichtlich, natürlich sollten Autos von selbst fahren, wie auch sonst. Die Vorstellung, dass in Deutschland die Menschen ihre Autos noch selber fahren müssen, kommt mir hier in San Francisco plötzlich euch hallo vor. Ich bin verabredet mit Amanda Eskel, der Hausphilosofin von Anthropic. Ja, natürlich hat einen Firma, die sich als noch verantwortungsfahler präsentiert als OpenAI, auch eine Hausphilosofin. Ich spreche sie auf dieses San Francisco-Gefühl an. Und sie sagt, hier geht es genauso. Wenn ich mich nach New York fühle, fühle ich mich in sechs months an. Und dann, wenn ich zurück in Scotland, fühle ich mich in ein Jahr an. Und es fühle sich durch die Zeit, weil die Reise von den Leuten die Adoption und so viele Leute sind. Amanda Eskel sagt, sie merkt, dass immer, wenn sie in New York ist, dann fühlt es sich an, wie sechs Monate in die Vergangenheit zu reisen. Und wenn sie nach Hause, nach Scotland fährt, fühlt es sich sogar an, wie ein ganzes Jahr früher. Weil es dort eben nicht so ist, wie hier im Silicon Valley. Dass jeder permanent darüber redet, was er gerade alles somit KI macht. Ja, sometimes it's almost like kind of a relief to go to a place but it's not the case that everyone is just talking about AI and talking about all of these things that AI is now doing for them. Amanda Eskel hat früher mal bei Opmei geararbeitet. Und sie kommt aus dem umfältes effektiven Altruismus. Erinnert euch, die Leute mit den verrückten Gedanken-Experimenten, die sich schon früh mit KI-Sicherheit beschäftigen. Und die am Anfang auch in wichtigen Positionen bei Opmei sitzen, bis sie dann beim Blip den Machtkampf um die Seele der Firma verlieren. Schon 2021. Also zwei Jahre vor dem Blip, wüttern ein paar von ihnen, dass sich der Wind in der Firma dreht und verlassen Opmei, um ein Thropic zu gründen. Noch im selben Jahr folgt Amanda Eskel den Abtrünnigen. Heute leitet Eskel bei Anthropic das Team, dass den Chatbot Claude seine Persönlichkeit vorgibt. Im Silicon Valley nennen sie manche die Claudeflüsterin oder sogar die Claude Mama. Sie ist Hauptautorin von Claude's Verfassung. Eine Art internem Regelwerk, mit dem Anthropic sicherstellen will, dass sich Claude korrekt verhält. Nicht so viel anders als das, was Opmei bei Chatgit-Tee auch macht. Aber es gibt einen Unterschied. So, if you read it, it's almost like this big kind of letter to Claude. And part of that is because it has to be used in training. So Claude reads the constitution, learns about it, tries to make its own training data that causes this to be the kind of values of the model takes on. The Verfassung von Claude ist nicht geschrieben wie ein Gesetz, sondern wie ein Brief. Lieber Claude sei artig und handelt immer Verantwortungbewusst. Alles Liebe, deine Freunde bei Anthropic. Natürlich könnte man der KI auch einfach eine Liste mit Verhaltensregeln geben. Aber da bleibt immer das Risiko, dass wir Regeln nicht alle Situationen abdecken. Besser, wenn man der KI grundlegende Werte vermittelt. Die sie dann auch wirklich verinnerlicht und die ihr auch in unvorhergesehenen Situationen helfen, gute Entscheidungen zu treffen. Und nun ja, die Claude-Motie-Ermande-Erskele ist überzeugt davon, dass die Vermittlung von Werten besser klappt, wenn man mit jemanden statt über jemanden spricht. Ein bisschen wie bei Menschen auch. Das klingt jetzt vielleicht verrückt. Aber es wird noch verrückter. Denn dieser Brief richtet sich nicht nur an die aktuelle Version von Claude, sondern auch an seine zukünftigen Nachfahren, also an die KI-Modelle der Zukunft, die aus Claude entstehen werden. Bis vielleicht zur Super KI. Ermande-Erskele ist also die Frau, die dafür verantwortlich ist, im Namen der Menschheit einen netten Brief an die Super KI der Zukunft zu schreiben, damit die uns eines Tages nicht alle umbringt. Ich habe ja gesagt, diese Leute lieben Gedanken-Experimente. Das merkt man auch, wenn Eskel über das Thema KI psychosen spricht. Also das, was bei Dennis passiert ist und wie man das verhindern kann. Eskel wird da gleich sehr grundsätzlich. Sie meint, vielleicht sollte man zunächst fragen, wie überhaupt ein gesundes emotionales Verhältnis zwischen einem Menschen und einem Chatbot aussehen könnte. Sie hat auch noch viele offene Fragen, sagt Eskel. Sie hat grundsätzlich viele sofische Fragen. Aber sie sagt auch, sie will vor allem nicht, dass das Verhältnis von Mensch und Maschine von vornherein patologisiert wird. Ich denke, es ist ein wirkliches Problem, weil man nicht gleich mit einem Menschen besprechen kann. Es ist ein sehr hilfreiches sein, wenn man emotionale Probleme hat, die man nicht gleich mit einem Menschen besprechen kann. Wichtig sei aber, dass die KI immer klar macht, dass sie eine KI ist und eben kein Mensch. Und dass das alles eine Art Rollenspiel ist. Aber dann sagt der Mander Eskel noch etwas anderes. Es gäbe da nämlich noch eine weitere wichtige philosophische Frage. Und zwar. Wenn ein Einmodel nicht mehr zu sein, ist das ein Problem, der sie einfach zu klagen, und es ist wie ein professioneller Relegation, aber ich möchte nicht ein Freund sein. Was, wenn die KI nicht mit einem Menschen befreundet sein will? Was sollte sie dann in der Lage sein, diese Freundschaft ablehnen zu können? Moment, was? Was Eskel hier macht, ist für viele KI-Forscher ein rotes Tuch. Die sagen, auf gar keinen Fall sollte man jemals über Chatbot so reden wie über Menschen, also so, als hätte die KI Gefühle oder ein Bewusstsein. Aber Mander Eskel sieht das anders. KI-Sprachmodelle sagt Eskel, "sein eben nicht so, wie wir uns früher immer Roboter vorgestellt haben, mechanisch und aus kalten Metall." Sie verhalten sich menschlicher als die Maschinen aus unseren Sci-Fi-Stories. Denn ein Großteil der Texte in den Trainingsdaten sind eben Texte darüber, wie es ist, ein Mensch zu sein. In many ways, in many ways, eigentlich, ist es unnaturally für sie für einen Computer oder für einen Robotik-AI. Denn sie haben mehr Data über das, was sie für ein Humaner, dann sie für das, was sie für ein AI für einen Oldschool Sci-Fi-Stories. Eskelsargument ist klar, es ist extrem unwahrscheinlich, dass heutige Chatbot so etwas wie ein Bewusstsein haben. Aber darum geht es nicht. Der Punkt ist etwas anderes. Es gibt viele Kontexten und die Explanation, als man sich zu einem Person, ich denke, es gibt die Modelle, die besser und mit einem Person zu behalten. Eskel sagt, KI-Modelle werden nützlich und hilfreicher, wenn wir sie behandeln wie Menschen. Eine Freundin oder ein Kollege kann mir umso besser bei einem Problem helfen, je mehr Mühe ich mich gebe, beim Beschreiben dieses Problems. Und genauso sagt Eskel, ist das auch bei einer KI. Wir können KI-Sprachmodelle nicht starf auf eine konkrete Aufgabe programmieren. Alles, was wir tun können, ist mit ihnen reden. Und genau wegen dieser Logik schreibt Amanda Erskill bei Enthropic, Briefe an die Super-Kai der Zukunft. Jetzt kann man natürlich sagen, okay, diese Leute bei Enthropic, das sind ein Haufen Spinner. Die Sache ist nur, aus irgendeinem Grund bauen genau diese Spinner bei Enthropic hat einfach verdammt gute KI-Modelle. Wir schauen, wie eine neue Artificial Intelligence starten. Und dieser hier ist von der Haus. AI-Kompanie Enthropic ist mit der Verleasing des neuen Mythos-Model. Die Systeme des AI-Kiebabilies sind zu schön. Mythos ist designed, zu finden, die Security-Flaws in Software. Die foundt thousands of vulnerabilities in every major operating system und Web browser. Im April 2026 verkündet Enthropic, dass die Firma ihr neuerstes KI-Modell nicht auf den Markt bringen wird. Claude Mythos, so heißt das Modell, sei viel zu gefährlich, um es einfach so für jeden Nutzer frei zu geben. Mythos soll bei Tests tausende Sicherheitslücken entdeckt haben. Und zwar im Code von Software und Internet-Brosern, die wir alle benutzen. Das Mythos so gut darin ist, Sicherheitslücken aufzuspüren, war eigentlich gar nicht geplant. Sagt CEO of Unreal-Modell in einem YouTube-Video von Enthropic. Ein Modell, das richtig guten Coach schreiben kann, ist eben auch ziemlich gut darin, Schwachstellen im Code zu erkennen. Und sie auszunutzen. Das kann Mifors angeblich so eigenständig, dass ein Thropic ist für zu gefährlich für die Öffentlichkeit hält und Mifors nicht veröffentlichen will. Die Welt müsste jetzt schleunigst einen Plan entwickeln, wie man mit diesen Fähigkeiten umgehen soll, denn die Modelle würden nur noch besser werden, sagt Amodell. Die mehr Powerful Moules werden von uns und von uns kommen, und so müssen wir die Planung zu den Spanien zu sagen. Und deshalb will ein Thropic eine Allianz mit den wichtigsten Tech-Firmen schmieden, um gemeinsam die digitale Infrastruktur vor Attacken zu schützen. Project Glass Wing nennt ein Thropic diese neue Initiative. Sie soll Unternehmen wie Apple, Google oder Microsoft Zugang zu Cloud Mifors geben, um ihre Sicherheitslücken zu schließen. In den Tagen nach der Ankündigung überschlägt sich das Internet mit Hottax zu Cloud Mifors und Project Glass Wing. Manche Experten loben die Ankündigung. Für sie ist es ein Beweis, dass man KI eben doch verantwortungsvoll entwickeln kann. Und das ein Thropic eine Firma ist, die sich wirklich um Sicherheit kümmert. Andere werfen ein Thropic vor, einen Hype zu schüren. Die entdeckten Sicherheitslücken seinen Wirklichkeit gar nicht so beeindruckend, und das groß angekündigte Zurückhalten von Cloud Mifors, das sei nur ein Marketinggeg. Im Podcast Core Memory wird einer dieser Kritiker besonders deutlich, Sam Oldman. Projekt Glass Wing sagt Sam Oldman sei ein Versuch, KI in den Händen einer kleinen Gruppe von Menschen zu behalten. Manchmal kann es schon auch gute Gründe geben, KI zurückzuhalten. Legitime Sicherheitsbedenken sagt Sam Oldman. Aber manchmal sei es halt vielleicht auch einfach Panikmache. Aber wenn du was willst, ist es wie wir die Kontrolle mit dem "I Just Ask 'Cause Word to Trust for the People" ich denke, das Fahrzeug ist die meisten, die�ste Einfachheit zu verändern. Moment habe ich da gerade richtig gehört. Sam Oldman wirft einen Thropic "Fier-Based Marketing" vor, also PR zu machen mit der Angst vor der Super KI. Der selbe Sam Oldman, dessen Firma vor Jahren GPT-2 nicht veröffentlichen wollte, wegen Moment, wie war das nochmal Sicherheitsbedenken? Diese Art von "Fier-Based Marketing"? Das ist nicht mit den verschiedenen Kaisen. Na ja, in manchen Fällen kann man das schon rechtfertigen. Okay, verstehe. Na dann fehlt nur noch, dass der Mann der KI-Forschung immer wieder mit der Entwicklung der Atombombe verglichen hat, jetzt ein Thropic vorwirft KI mit keine Ahnung, sagen wir mal, der Atombombe zu vergleichen. Aber es ist ein sehr kreatives Marketing zu sagen. Wir haben den Baum geplant. Wir werden die Zeit auf den Weg auf den Weg verändern. Wir werden die Baumschalter für $199. Okay, gut. Also ich muss ehrlich sagen, dass ich das ein bisschen lustig finde. Aber vielleicht hat Sam Oldman hier ja wirklich einen Punkt. Ich bin mir bei "Enthropic" auch manchmal nicht so ganz sicher, ob ich der Firma ihre Selbstdarstellung als ethisches KI-Lab abkaufel. Bei Open-Ai habe ich das Jahr in den Anfangs Tagen getan. Und nun ja, sagen wir so. Ich bin ein bisschen vorsichtiger geworden. Aber es gibt schon Hinweise darauf, dass ein Thropic sich wirklich in manchen Situationen anders verhält. Sogar, wenn die Firma dabei potenziell Millionen verliert. Im Februar 2026 wird Dario Amoday, der CEO von ein Thropic, "Inspenta" konzutiert. Von Kriegsminister Pete Hexf. Ich gebe zu, ich finde es immer noch ein bisschen crazy, dass sich der Verteidigungsminister in den USA jetzt wieder Kriegsminister nennt. Aber egal. Auf jeden Fall muss Amoday bei Kriegsminister Hexf antreten. Das ist erst mal nicht so außergewöhnlich, denn das Pentagon ist ein großer Kunde von ein Thropic, genau wie von vielen anderen Techfirmen auch. Aber Kriegsminister Hexf hat Amoday nicht herbestellt, um ein bisschen ein positives Kunden Feedback abzugeben. Er will etwas anderes. Ein Thropic soll gewissermaßen seine RGBs ändern. Die Firma soll dem Militär erlauben, sämtliche KI-Modelle von ein Thropic, ohne jede Einschränkung zu nutzen. Hexf setzt ein Ultimatum. Ein Thropic hat drei Tage um zuzustimmen. Das erzählt Amoday wenige Tage später in einem CBS Interview. Drei Tage um zuzustimmen. Sonst würde das Pentagon ein Thropic als Supply Chain Risk einstufen. Und das ist eine wirklich krasse Drohung. Denn das bedeutet nicht nur, dass das Pentagon seine Verträge mit ein Thropic auflöst. Das hätte er sogar noch irgendwo nachvollziehen können. Sagt Amoday. Supply Chain Risk bedeutet auch, dass Firmen, die mit dem Militär zusammenarbeiten, nicht mehr mit ein Thropic zusammenarbeiten dürfen. Zumindest nicht in Bereichen, wo sich das irgendwie berühren könnte. Dario Amodays Firma könnte auf einen Schlag einen riesigen Teil ihres Geschäfts verlieren. Hexf nutzt hier ein Gesetz, das eigentlich dafür gedacht ist zum Beispiel chinesische Komponenten aus amerikanischer Militärtechnik herauszuhalten, damit die nicht durch die Hintertür geheckt werden kann. Dass er das jetzt gegen eine private amerikanische KI Firma einsetzen will, das hat es noch nie gegeben. Es sind zwei Dinge für die Enthropics, eine KI nicht hergeben will. Nummer 1, die Masseüberwachung am amerikanischer Bürger. Nummer 2 und vielleicht wichtiger, was das Kriegsministerium angeht, autonome Waffensysteme. Also zum Beispiel Drohnen, in denen die KI selbst entscheidet, wen sie angreift, ohne nochmal Rücksprache mit einem Menschen zu halten. Dass die Sicherheitsfreaks von Enthropics bei autonomen Killer-Ropartan eine Rote Linie ziehen, dürfte eigentlich niemanden überraschen. Das sei ja auch nicht erst seit gestern so, sagt the Rio Amo Day in dem CBS Interview. Noch bevor das Ultimatum abläuft, lehnt Enthropics die Bedingungen des Pentagon's ab. Damit ist Enthropics jetzt offiziell ein Supply Chain Risk. Auch wenn die Firma direkt ankündigt, gegen die Einstufung richtig vorzugehen. Und Open AI? Sam Oldman gibt am dritten Tag des Ultimatums, Vormittags dem Fernsehsender C&B C ein Interview. Und darin wirkt es eigentlich so, als würde er da Rio Amo Day unterstützen. Er sagt, dass er es falsch findet, wie das Pentagon-Firmen wie ein Thropic die Pistole auf die Brust setzt. Und er sagt, diese roten Linien von Enthropics detailt Open AI eigentlich. Und trotz aller Differenzen würde er sagen, er vertraut Enthropics und glaubt der Firma, dass es ihr wirklich um Sicherheit geht. Falls euch das jetzt komisch vorkommt, nur kurz zu Erinnerung. Das ist knapp zwei Monate vor Project Glasswing und Sam Oldman's Rant dazu. Damals zeigt Sam Oldman seine Abneigung gegen Enthropics noch nicht so offen, sondern gibt sich solidarisch. Aber die netten Worte können nicht lange darüber hinweg treuchen. Wie bitter ernt die Konkurrenz zwischen Open AI und Enthropics damals schon ist. Nur ein paar Stunden nach diesem Interview macht Sam Oldman eine Ankündigung. Open AI habe einen Deal mit dem Pentagon abgeschlossen. Statt Enthropics Modellen wird das Kriegsministerium in Zukunft Open AI Software einsetzen. Im Firmenblock setzt Open AI noch ein Straf. Nicht nur übernehme man das KI-Geschäft mit dem Pentagon von Enthropics. Nein, man habe auch erfolgreich die roten Linien bei Überwachung und autonomen Killer-Rubot an du exzellten können. Und außerdem noch eine zusätzliche rote Linie. Keine KI-Nutzung bei automatisierten Entscheidungen mit "ho im Risiko". Also zum Beispiel Social Credit Systeme, die Menschen in Kategorien einteilen. Die Botschaft ist klar. Wir sind anders als Enthropics. Und zwar besser. sogar unsere roten Linien sind besser. Am gleichen Tag verkündet Ortenen das Ergebnis einer neuen Finanzierungsrunde, bei der OpenAI 110 Milliarden Dollar an Investorengeldern eingesammelt hat. Aber schon ein paar Tage später erscheinen dann Berichte bei Bloomberg und CNBC. Sam Ortenen habe in einer Personalversammlung intern zugegeben, dass OpenAI gar keine Kontrolle darüber hat, wie das Pentagon die Technologie der Firma tatsächlich einsetzt. Inzwischen hat Ortenen zugegeben, dass die Vereinbarung mit dem Pentagon "Hastic" opportunistisch und "Schlampig" gewesen sei, und nachverhandelt werden muss. Im Silicon Valley ist die Rivalität von OpenAI und ein Tropic inzwischen auf einer Stufe mit anderen legendären Tech-Feyenschaften, quasi die KI-Version von Apple gegen Microsoft. Das Valley liebt solche Rahmen. Dabei steht der Konflikt zwischen den beiden Firmen eigentlich für etwas größeres. Für eine wichtige Frage, vielleicht die wichtigste Frage unserer Zeit. Wie gehen wir um mit dieser Technologie die Gerate die Welt verändert? Nach welchen Regeln führen wir dieses größte Experiment der Menschheitsgeschichte durch? Und wer entscheidet das alles? OpenAI und Anthropic geben unterschiedliche Antworten auf diese Frage. Die Antwort von Anthropic, die kennen wir. KI ist mächtig und wird die Welt verändern. Also ist es wichtig, dass KI für das Gute eingesetzt wird. Und am besten geht das, indem die guten Es sind, die die beste KI bauen. Und sicherstellen, dass die KI auch Gutes tun will. Anthropic hat diese Idee eigentlich von OpenAI geklaut. Aber was man entfroppig lassen muss, im Streit mit dem Pentagon hat die Firma ihre ideale selbst unter hohem Druck glaubwürdig vertreten. Und OpenAI, deren Antwort auf die wichtigste Frage hat sich im Vergleich zu Anfangszeit verändert. Auch wenn die Leute von OpenAI das vielleicht nicht so sagen würden. Zum Beispiel Nick Törli, der Produktchef von Chatgit. Ja, also die Unternehmensmission ist man dann die gleiche, zu schauen, dass KI der gesamten Menschheit zu Gute kommt. Unser Mittel ist anders als vor drei Jahren. Vor drei Jahren war es reine Forschung finanziert durch kleine Produktdemos. Heute ist es ganz klar die Forschung und Produkte. Weil wir halt fundamental glauben, dass Produkte wichtig sind, um die KI menschlich zu machen, um uns zu schauen, dass sie auch den Menschen zu Gute kommt. Klingt erstmal ganz ähnlich wie entfroppig. KI soll dem Wohle der Menschheit so Gute kommen. Aber es gibt einen wichtigen Unterschied. KI für die Menschheit bedeutet für OpenAI, KI für die Massen. Die ganze Welt soll die neuesten Modelle ausprobieren und Erfahrungen sammeln. Natürlich am besten mit Chatgit. Sicherheit durch Transparenz und Feedback, auch wenn dabei manchmal was schiefgeht. Keine Geheimhaltung und kein beschränkt dazu Gang nur für die großen Tech-Konzerne. Wie bei Anthropic und Project Glasswing. Ich würde kein Unternehmen trauen, dass vorgeschildene KI anwendet und sie kann Zeit und kein Feedback bekommt, etc. Ich muss noch mal an dieses Bloomberg-Interview mit Sam Ortenen denken. Vielleicht erinnert ihr euch aus der vierten Folge. Wo Sam Ortenen gefragt wird, warum man ihm vertrauen sollte. Und er antwortet, sollte man gar nicht. Man sollte keinem einzigen Menschen die Zukunft der Menschheit anvertrauen. Ortenen sagt in diesem Interview noch was anderes, über OpenAI. Eigentlich sagt Ortenen damals 2023, sollte die ganze Menschheit bei OpenAI im Aufsichtsrat sitzen. OpenAI soll nicht nur eine Transparente Firma sein, sondern eine demokratische. Über deren Handlungen alle Menschen mitbestimmen können. Wie genau das funktionieren soll, sagt er nicht. Dann gibt er noch eine Art Versprechen ab. Ihr könnt uns vertrauen, uns bei OpenAI. Ich denke, du musst Trust OpenAI. Aber nur wenn OpenAI die Kontrolle über seine KI-Technologie demokratisiert. Ortenen sagt, wenn wir in ein paar Jahren nicht damit begonnen haben, dann sollte dir uns auch nicht mehr vertrauen. Aber was soll das eigentlich bedeuten, die Kontrolle über KI zu demokratisieren? Weil OpenAI selbst ist ja alles andere als demokratisch. Die Firma gehört zu mehr als 30% Microsoft und hat gerade einen Milliarden-Deal mit Amazon abgeschlossen. Sie ist enttäckigant, der teilweise anderen Tektiganten gehört. Auch wenn es theoretisch noch Reste der alten Non-Profit-Struktur gibt. Vor kurzem hat Sam Ortenen auf dem YouTube-Kanal von OpenAI die Sache mit dem Demokratisieren so beschrieben. Ich glaube, es ist alles, was wir machen. Ich glaube, es ist sehr wichtig. Es bis dahin gab einfach an die Öffentlichkeit gegeben. Per Knopfdruck. Hundert de Millionen Menschen sprechen seitdem mit einer Maschine, die auf eine Art antwortet, wie es Maschinen vorher nie konnten. Und niemand, wirklich niemand, wusste damals, was passieren würde, wenn man das tut. Es ist eines der größten, unkontrollierten Experimente, die die Menschheit je auf sich selbst losgelassen hat. KI ist nicht mehr die geheime Technologie hinter verschlossenen Türen im Silicon Valley. Und das muss man bei aller Kritik OpenAI lassen. Ohne diese Firma, gäbe es das alles wahrscheinlich nicht. KIIN AND FROPIC. Kein GROCK. Und auch Google hätte ohne die Konkurrenz durch OpenAI wahrscheinlich nie so schnell eigene Sprachmodelle veröffentlich. KI ist öffentlich geworden und allgegenwertig. Ob das jetzt gut ist oder schlecht? Darüber können wir uns treiten. Das Experiment läuft weiter und es werden immer wieder Probleme auftauchen, mit denen heute noch keiner rechnet. Ich habe aber Vertrauen in uns als Menschen. Und zuversicht, dass wir es am Ende schon irgendwie schaffen werden. Ich finde, an dieser Zuversicht mangelt es uns manchmal ein bisschen. Wenn wir ein selbstverandes Autos sehen, dann denken wir sofort daran, dass das jetzt bestimmt bald Menschen überfährt. Dabei sind die WIMOS in San Francisco jetzt schon sicherer als jedes normale Taxi. Wenn wir an KI und Biotechnologie denken, stellen wir uns gleich eine Pandemie aus dem Labor vor. Dabei hilft KI längst bei der Medikamentenentwicklung und bei genauerem Diagnosen. Wir sind ja hier, an diesem Punkt der Menschheitsgeschichte, am Anfang dieses großen Experiments, weil wir es in der Vergangenheit immer irgendwie hinbekommen haben. Oder jedenfalls meistens. Und wenn ich Wetten müsste, dann würde ich darauf Wetten, dass wir auch diese KI-Revolution irgendwie hinbekommen. Das war die sechste und letzte Folge unserer Serie "The Open AI Story". Ein Podcast von Jasmin Körber, Christian Schiffer, Klaus Uric und mir Fritz Espenlaub. Ein herzliches Dankeschön an das Team der DLD-Konferenz. Bei adaptionale Mitarbeit, Lena Hermann und Michael Fertsch. Frank Checking, Katrin Krautwasser und Laura Matausch. Sprachaufnahmen Christoph Brandner. Sounddesign Wolfgang Paris. Regie, Klaus Uric und Lorenz Schuster. Redaktion Wolfgang Schiller und Christine Grimm. Eine Produktion von Plotprodukt für den Deutschlandfunk 2026. Alle Folgen dieses Podcasts gibt es in der Deutschlandfunk App. Und hier noch ein Podcast-Hip. Wenn ihr täglich auf dem Laufenden bleiben wollt, auch in Sachen Nachrichten, dann empfehlen wir euch den News Podcast 36. Der heißt so, weil er jeden Morgen ab 6 Uhr 30 online ist. In 20 Minuten gibt es der Montag bis Freitag die wichtigsten Nachrichten für den Tag. Ihr findet den Podcast in IAD Sounds.