Die OpenAI Story (2/6) - Der Frankenstein-Moment

Deutschlandfunk. Bei uns im Team gibt es einen Film, der die Geister spaltet. Es geht um Dio'n, basierend auf der berühmten Buchreihe von Frank Herbert. Meine Koartoreninnen und Koartoren lieben diesen Film. Ich finde ihn nur okay. In Dio'n spielt Timme Fischalameh einen jungen Adelgene, der auf einen wüsten Planet geschickt wird, um die Drohges Beis abzubauen. Wer's Beis konsumiert, kann ein bisschen in die Zukunft schauen. Und die Menschen nutzen das, um sich ja durchs Weltall zu navigieren. Weil, wann fängt? In Dio'n gibt es keinen einzigen Computer. Das hat einen Grund. Im Universum von Dio'n gab es nämlich schon mal Computer. Aber aus diesen Computern haben sich irgendwann künstlich intelligente Maschinen entwickelt. Diese Maschinen sind den Menschen sehr schnell überlegen. Die Menschen ziehen daraufhin in den Krieg gegen die Maschinen, in den sogenannten Badlarian G-Hat und werden dabei fast ausgelöscht. Ich habe tatsächlich den Begriff Badlarian G-Hat zum ersten Mal gehört, lange bevor ich wirklich viel über Dio'n Wuste und ein paar Jahre bevor der neue Dio'n Film groß sind die Kinos haben. Und zwar, weil die KI-Forscher und Blogger, die ich damals viel gelesen habe, immer wieder diesen Begriff benutzt haben. Aber nicht, um über Dio'n zu reden. Sondern, weil sie sich ernsthaft Gedanken gemacht haben, ob wir als Menschheit vielleicht bald schon in einen Badlarian G-Hat ziehen müssen. In einen heiligen Krieg gegen die künstliche Intelligenz. Um sie zu zerstören, bevor sie uns zerstört. Ganz real in der echten Welt. Und genau hier beginnt eine der wichtigsten Fragen unserer Zeit. Wie stellen wir sicher, dass die Menschheit nicht so endet wie in Dio'n? Ihr hört die Open AI Story, Folge 2, der Frankensteinmoment. Ich bin Fritz Espenlaub. Es gibt da dieses Video mit Sam Altman und Elon Musk. Das ist 2016 auf dem YouTube-Kanal von Y-Combinator erschienen. In dem Video sitzen Musk und Altman in einer Tesla-Verbrick. Im Hintergrund laufen Autos übers Fließband. Musk selbst trägt auch eine Tesla-Jacke. Sam Altman ein einfaches graues T-Shirt. Und Sam Altman stellt Fragen. Wieso ein neugieriger Nachwuchsunerlist? So, eine der die meisten Fragen, die ich hier hier und die Leute sagen, ich will wieder den nächsten Video machen. Als ob die beiden sich nicht kennen würden und nicht gerade zusammen eine Firma gegründet hätten. Aber trotzdem finde ich dieses Interview aufschlussreich. Wie die beiden da schon darüber reden, wie unsere Zukunft mit KI aussehen wird. Wie stellst du dir eine wirklich positive Zukunft für KI vor? Und wie erreichen Sie das? Und was antwortet? Die beste die Evaluatenos ist, dass wir die Demokrategie von AI-Technologie haben, meaning, dass kein Kampagne oder. KI muss transparent und demokratisch entwickelt werden, damit keine Firma und kein Individuum alleine die Kontrolle darüber hat. Es ist so, dass ich denke, dass die Riske ist, dass die AI sich gewollt, die Welt von dem Weg zu sein, auf die Bad zu sein. Weil, für Musk ist die größte Gefahr nicht, dass die KI sofort ihren eigenen Willen entwickelt. Ich denke, es ist eine Konzerne, dass sich jemandem in einer Form von einem Bad zu sein. Viel wahrscheinlich er ist, dass sie von Menschen für böse Zwecke missbraucht wird. Und dann sagt er noch, genau deswegen haben du und ich und der Rest unseres Teams Open AI gegründet. Und das ist, du know, das ist der Reason, dass du auch die Evaluaten von Open AI im Team Created Open AI. Open AI startet 2016 in sein erstes Jahr. Aber statt wie anderes, da hat abseh irgendwelche normalen Softwareprodukte zu bauen, geht es bei dem neuen Profit nur um eine einzige Sache. AGI entwickeln. Also die künstliche Allgemeine Intelligenz. Vor allen anderen, aber vor allem vor dem Imperium. Vor Google. Das Problem ist nur, am Anfang hat noch niemand eine Ahnung, wie das überhaupt funktionieren soll. Es war nicht so, wie wir eine AGI machen. Open AI erzählt, dass in einem Interview mit John Collison, dem Mitgründer von Stripe, Tech Bros Interviewen sich wirklich gerne gegenseitig. Die Beginn des Open AI war wirklich cool. Like, Stuff was not working that well. Wir waren das extrem reignetaggruppe von Menschen. Open AI zur Erzählte des Oldmen fehlt es zu Beginn an allem. Geld, Rechenleistung, die richtigen Leute. Es ist die perfekte An-Datok-Story, wie ein Star Wars. Ein buntszusammen gewürfelte Haufen Rebellen, der den Kampf gegen das übermächtige Imperium aufnimmt. Und eigentlich nur verlieren kann. AI ist damals noch so neu, dass keiner sagen kann, wie sie am Ende aussehen wird. An Chatbots wie ChatGPT denkt am Anfang noch niemand. Aber dann schlägt das Imperium zu. Google. Dieses Imperium arbeitet ja erfolgreich weiter an seinen Todesstern. Wie erfolgreich? Das zeigt sich im März 2016. Wenn man so will, zaballert der Todesstern damit seiner Kanone den ersten Planeten. Im März 2016 lässt Google seine KI-Alpha-Goh gegen den Weltmeister im Gospielen antreten. Goh ist ein wirklich komplexes Brechbüle aus China. Und Lisa Doll ist viel mehr als nur der Weltmeister. Er ist ein Jahrhundert-Ginny. Vielleicht der beste Spieler, der jemals die weißen und schwarzen Steinhin auf das Gohbrett gelegt hat. Das Spiel ist tausendmal komplexer als Schach. Man schätzt, dass es mehr Spielzüge bei Goh gibt als Atomem-Universum. Eigentlich ist es zu komplex für einen Computer. Als Alpha-Goh das erste Spiel gewinnt, halten viele das noch für einen Zufallstreffer. Aber dann kommt das zweite Spiel. Nach 36 Runden macht Google's Gokai auf einmal einen Zug, der so merkwürdig ist, dass die Menschen im Raum ihn erst für einen Fehler halten. Kein Mensch hätte jemals so eine Zug gemacht. Aber es ist kein Fehler. Es ist brillant. Lisa Doll weiß nicht, wie er reagieren soll. Er steht erst mal auf. Geht raus. Er kommt zurück und starten Minuten lang auf das Brett. Er hat vorher seinen nächsten Zug gemacht. Lisa Doll verliert das Spiel. Am Ende kommt die komplette Partie. Nach dem Match ist die KI-Welt ziemlich in Aufruhe. Für viele ist das der Beweis dafür, dass die allgemeine künstliche Intelligenz von der auch sein Oldmen und Opmei träumen, näher ist als bisher gedacht. Parallel arbeitet Google damals auch schon an Alpha-Fold, einer KI, die die Struktur eines Proteins genauer berechnet als je zuvor. Das ist super wichtig für die Entwicklung neuer Medikamente. Und damit löst Google mal ebenso ein Problem, an dem Biologinnen und Biologen seit über 50 Jahren verzeichnen. Wie soll Op May I gegen diese Forschung super macht ein? eine Chance haben. Open AI was trying to do something a little bit different. They were trying to merge, engineering and research together. Open AI versucht ganz gezielt, etwas anderes zu machen. More Praxis, weniger Theorie. Loslegen, machen, ausprobieren. Trying to remember the exact quote the Elias Satskeversa, but it's something kind of like, "We're a dirty work company, right? Like, we'll do the dirty work." Wir sind eine "Dirty work company", sagt Elias Satskevers damals. Wir machen einfach. Und genau dafür hat sich Sam Oldman noch jemanden ins Team geholt. Jemanden aus der Start-up-Welt, aus der auch Oldman selbst kommt. Er heißt Greg Brockman. Greg Brockman, who was new to the world of machine learning. Brockman ist 28 Jahre alt. Mit KI hat er bisher wenig zu tun. Aber er gilt als unfassbar talentierter Programmierer. Er war ein 10x-Engineer, ein wirklich, wirklich talentierter Hardcore-Koder. In der Tech-Welt werden solche Leute oft als 10x-Engineer bezeichnet. Also ein Programmierer, der zehnmal so viel Arbeit leistet wie eine anderen. Wenn man sich das Gründungsteam von Open AI als Avengers vorstellt, dann wären Elon und Sam Oldman wahrscheinlich gerne Iron Man und Captain America. Gliassatskeware wäre irgendein genialer Wirdoo, vielleicht Dr. Strange. Und Greg Brockman? Der wäre der Hulk. Der Coating Hulk. Greg Brockman, wirklich, nicht nur über den AI. Seine Getriebenheit ergänzt sich perfekt mit den visionären Denken von Elias Satskeware. Was der eine nicht kann, kann der andere. Und umgekehrt. Nach Googles Machtdenustration mit Alpha Go muss Open AI jetzt liefern. Die Mitarbeiter sollen Projekte vorschlagen. Egal was, Hauptsache neu. Und vielleicht gibt es viele Leute, die sich zusammenarbeiten und arbeiten. Dadurch entstehen in der Anfangszeit von Open AI sehr viele teilsfällig unterschiedliche Projekte. Manche sind so abgefahren, dass sich vor der Arbeit an diesem Podcast noch nie von ihnen gehört hatte. Ob man AI entwickelt damals zum Beispiel eine KI, die Dota 2 spielen kann. Das ist so ein fantasy multiplayer-game. Und die Mitarbeiter programmieren eine Roboterhand, die selbstständig einen Zauberwürfen löst. Open AI funktioniert damals eher wie ein Forschungslabor, weniger wie ein Start-up. Für den Start-up-Man Sam Oldman ist das eine ziemliche Umstellung. Deswegen lernt Oldman immer wieder Leute in das Büro an, als externe Berater. Er führt sie herum, zeigt die Projekte an denen Open AI gerade arbeitet und holt sich so Feedback von außen. Auch von seinem ehemaligen Informatikprofessor As-Danford. Und der sieht bei Open AI vor allem eins. Wenn wir nur immer Spaghetti in die Wand werfen, das ist Sebastian Trun. Trun kommt aus Siegen, lebt aber schon seit über 20 Jahren im Silicon Valley. Er ist nicht nur Professor As-Danford, er war lange auch fiezepräsident bei Google und er gilt als einer der Fäter des autonomen Fahns. Ja, ich hab ihn oft besucht in der Firma, wir haben uns wohl das Verhältnis zum heutigen Tag. Sehen wir es relativ häufig. Trun kommt also in die Büros von Open AI und schaut sich an, welche Spaghetti das Team so an die Wand wirft. Also welche Ideen Open AI so ausprobiert? Das ist meine Firma auch. Und es fühlt sich immer so ein bisschen an. Also aber so ein Berg Spaghetti nehrt an die Wand schmeiß. Wir hoffen, dass es nicht rundherum ist. Das ist bei vielen Firmen, es gibt es viele, viele Eterationen davon wie vor das Irrge hat funktioniert. So richtig beeindruckt ist er nicht von Projekten wie dem Zauberwürfel-Roboter. Und ich hab damals ein bisschen gedacht, es ist wissenschaftlich interessant, denn Roboter zu bauen, ja, wo wir es küssellösen kann, aber wohl ist das Business, dass man jetzt unsertierte Würfel wieder sortiert. Ja, okay. Das klingt jetzt vielleicht ein bisschen fanny, weil Open AI ja, glaube ich, nicht vor, hatte die gelösten Zauberwürfel danach zu verkaufen. Aber ich glaube, sie warst ja ein Trun, meint damit eher, dass die Mitarbeiter bei Open AI damals eben so gar nicht wissen, was sie überhaupt machen sollen. Also, sie haben drei guten Forschung gehabt, die haben ein tolles Talent gehabt, unglaublich gute Leute. Und ein bisschen heute enttacht, dass sie die besten, der besten, gehen zu Open AI, gar eine Frage. Aber man merkt schon in Firmen, wenn die Firmen bevor diese Sendung, die sind in der Product Marketfit haben, wo die genau wissen, wo die in Mark reinpassen, da sind sie Firmen ein bisschen anders, da sind dann nach dem sie Product Marketfit haben. Wenn sie die Product Marketfit haben, wie Open AI das hier hat, dann werden die Firmen meistens sehr fokussiert, diesen Markt aufzubauen und Tischen wie aufzubauen. Und dann, Anfang 2017, bleibt dann doch mal einspagiert, die an der Wand leben. Etwas passiert, eher zufällig. Bei einem dieser vielen Projekte, die es eben gibt bei Open AI. Es ist das Projekt von Eric Radford, mit der 20 Uniabbrecher und relativ frisch dabei. Radford interessiert sich nicht für Computerspiele oder Roboterhände, sondern vor allem für Sprache. Und dann auf der anderen Seite war das dieser Sky, Alex Radford, der mit den Language zu spielen. Alex Radford selbst ist ziemlich Öffentlichkeitsscheu. Es gibt von ihm deshalb auch keine großen Interviews zu seiner Entdeckung. Aber jahres später erzählen immerhin seinem Altmen und Greg Brockman die Geschichte dahinter, natürlich in einem Tech-Pro Podcast. Der heißt diesmal "Possible". Wir trainieren die Model zu predicten, dass die nächste Charakter und Amazon-Reviews sind. Und du expectest jetzt, wo die Charakter-Reviews sind, wo die Verbüchern sind. Radford trainiert damals ein neuronales Netz. Die Idee dahinter ist, dass menschliche Gehörn im Computer nachzubauen. Und damit so ein neuronales Netz versteht, wie Sprache funktioniert, muss Alex Radford es eben erst mal trainieren, anhand von Beispielen. Sehr vielen Beispielen. Er benutzt dazu 100 Millionen Amazon-Produktbewertungen. Danach gibt Radford die Modell einen Text. Er hofft, dass das Modell das nächste Zeichen im Text vorher sagen kann. Also den Text wenigstens ein einziges Zeichen weiter schreiben kann. Aber beim Testen des Modells passieren ein paar Sachen, die alle bei OpenAI überraschen. Die Amazing-Thing war es nicht mehr ein Statement der Art Zentementanalysis-Klassifier. Ich hätte dir die Review-Reviews-Posite über die Negative. Radfords Modell kann viel mehr als nur das nächste Zeichen vorher sagen. Das Modell kann plötzlich eigenständig erkennen, ob eine Amazon-Bewertung positiv oder negativ ist. Und so sieht man, dass die Summatik immerhin von einem Taktik-Prozess. Diese Fähigkeit hat ihm niemand beigebracht. Wir haben niemals die Maschine in die Mehlings, das hat einfach nur die Dinge, die nicht bei der Person zu tun. Das Modell hat nebenbei eine Art Stimmungs-Sensor entwickelt. Komplett von selbst. Und es wird noch krasser. Plötzlich kann Radford bei dem Modell auch Bewertungen bestellen. Er muss dem Modell nur sagen, ob sie positiv oder negativ sein sollen. Und das Modell generiert einen kleinen Text. Zum Beispiel. Ich liebe diesen Waffen-Look. Ein Muss für jeden Schach-Fan. Okay, die Texte klingen noch ein bisschen Hölzern. Aber trotzdem, das ist viel mehr als alle bei OpenAI erwartet haben. Für das Team ist das so ein kleiner Frankenstein-Moment. Der Moment, wo alle das Gefühl haben, "Hey, hier zuckt zum ersten Mal der Finger einer Kreatur, die wir erschaffen haben." Ich war sehr schön, ich wollte es nicht arbeiten, ich weiß nicht. Auch Sam Ortenin ist davon völlig überrascht. Im und den Forschern bei OpenAI ist klar. Da ist gerade was Großes passiert. Da müssen wir dran bleiben. Für uns ist es die Real Wake-Up-Call, will. Wir müssen die Prischule des Paradheimen. Und dann passiert eine zweite Sache, die OpenAI sehen die Karten spielt. Zwei Monaten nach Radford's Experiment ließ Elias Hatsker war einen Fachartikel, ausgerechnet von der Konkurrenz von Google. Der Artikel heißt "Attention is all you need" und ist heute in der KI-Welt ziemlich legendär. Er beschreibt einen Mechanismus, der es möglich macht, Modelle wie das von Elegrate-Ford besser zu machen und sehr viel schneller zu trainieren. Satzke vercheckt sofort. Das ist genau der Teil der Forschung, der ihnen bei OpenAI bisher gefällt hat. Jetzt können die Forscher bei OpenAI ihr erstes wirkliches Sprachmodellen entwickeln. Die Vorstufe von ChatGPT. Und schon damals wird klar. Diese Sprachmodelle funktionieren. Und zwar umso besser, je größer die Datenmengen sind, die man in sich hineinschüttet. Wir hatten einen Giant-Secret, der wir die Sky and Lost für Language-Models haben. Sam Oldman erinnert sich Jahre später bei einem Interview an diesem Moment. Das Interview führt natürlich wieder ein Tech-Brow. Diesmal ist das Ben Horowitz von der Investmentfirma Andreas Horowitz. Das hat sich so ein sehr kreatives Triumph mit dem ich glaube, wir werden nicht wieder so gut verpackt. wird, jetzt vor allem durch immer größere Datenmengen und immer mehr Rechenleistung. Das verbraucht wirklich viel Strom. Das andere Problem ist aber vielleicht noch größer. Wir wissen nicht, wie diese Systeme eigentlich funktionieren. Und damit werden wir auch nie mals eine Garantie dafür haben, dass sie sicher sind. Das sagt Stuart Russell. Stuart Russell ist einer der prominentesten KI Kritiker der Welt. Er forscht seit über 40 Jahren zum Thema KI. Und um zu verstehen, was ihm Sorgen macht, müssen wir uns nochmal klar machen, dass auch die modernsten Sprachmodelle im Grunde immer noch genauso funktionieren wie "Elegratfords" Amazon Kommentaremodel. Aus einem Muster im Text wird immer wieder das nächste Wort vorher gesagt. Nächstes Wort, nächstes Wort, nächstes Wort. Aber irgendwann, wenn man die Modelle mit genug Daten füttert, können sie plötzlich Dinge, die ihnen niemand beigebracht hat. Sie lösen Mattaufgaben, sie schreiben funktionierenden Code. Sie übersetzen zwischen Sprachen, die sie nie gezielt gelernt haben. Das ist so, als würdest du einem Kind nur Bücher vorlesen und es lernt dabei irgendwie schach. Und du hast keine Ahnung, warum. Und genau, das ist der Punkt. Wenn ein System Fähigkeit entwickelt, die du nicht vorher gesagt hast, dann kann es irgendwann vielleicht auch Dinge tun, die du nicht willst. Viele KI-Labs beschäftigen sich deshalb schon sehr früh mit KI-Sicherheit, auch Obmer-Eye. Sie testen Systeme so, wie man sonst nach Sicherheitslücken in Software sucht. Die Labs machen so genannt das Red-Team. Dabei versuchen sie gezielt, ihre Modelle dazu zu bringen, sich unsicher zu verhalten, und die Modelle überschreiten geinzen. Verhalten sich unsicher, versuchen, ihre menschlichen Erschaffer auszutricksen. Fürs Duad Russell ist es offensichtlich, dass dieses Theme durch das Training mit menschlichen Daten auch den menschlichen Selbsterhaltungs-Trieb übernommen haben. Wenn sie wählen müssen, lassen sie lieber einen Menschen sterben, als sich von den Abschalten zu lassen. In Sicherheitstests, Teuschen und Erpressen sie menschen und schießen sogar Atomrakete. In der KI-Szene, vor allem bei den effektiven Altruisten, gibt es deshalb einen düsteren Runninggeck. Auf Partys fragt man sich gegenseitig nach dem eigenen "Pee Doom". "Pee" steht für "Probability", also für wie wahrscheinlich man es persönlich hält, dass eine künstliche Intelligenz die gesamte Menschheit auslaschen könnte. Die Schätzungen der verschiedenen KI-Firmenchefs, die variieren auch. Manche sagen 10%, manche 20%, 25%. Einige sind sogar bei 50%. So, das ist sortere Quervulent zu spielen, "Russian Relate". Fürs du Adressel ist das wirussisches Relate. Jetzt ist es fine, wenn Sam Altmann wieder "Russian Relate" mit ihm zu spielen. Aber er spielt mit jedem Einzelnen auf der Erde. Did he ask us? Hat er uns gefragt? "No". Das Interessante ist, genau das, was du Adressel hier über Sam Altmann sagt, haben die Obmei-Leute wahrscheinlich vor ein paar Jahren über Google gesagt. Genau deshalb wurde doch Obmei überhaupt gegründet. Und genau deshalb sind auch viele effektive Altruisten damals zu Obmei gegangen. Einen von ihnen treffe ich im Januar 2026 in California. Ich habe einen Interviewtermin beim AI Futures Project, einer kleinen KI-Forschungsorganisation. Draußen wunderschönes Wetter, blauer Himmel, riesige Kalifornische zu pressen, frische Brise. Eigentlich so ein Tag, an dem man sich am liebsten in den Park setzen würde. Aber schon bevor ich in die Büros komme, wird es seltsam. Vorab muss ich einen NDA unterschreiben, also eine Geheimhaltungsvereinbarung. Ich muss versprechen, dass ich nicht verrate, wo genau die Büros sind. Drinnen kriege ich ein Hausausweis mit Foto, den ich an so einem kleinen Drucker ausdrucken muss. Alle hier sind extrem höflich, aber auch extrem ernst. Es gibt einen großen Tisch mit Früchten und Getränken, aber kaum jemand ist davon. Die Büros sind modern, aufgeräumt, mit großen Fans dann und tollem Blick über Börkeli und die Beheirier. Die Geräusche sind gedämpft und ich bin nie ohne Begleitung. Es fühlt sich an wie ein geheimes militärisches Forschungslabor. Nur, dass hier keine Waffen entwickelt werden, sondern Strategien gegen eine außerkontrolle geratene SuperKI. Hier treffe ich Daniel Kokotello. Ja, natürlich. Ich glaube, es fühlt mich wie zwei oder drei Tage, 70 % der Dinge, die es nicht mehr geht. Daniel hat eine Zeit lang in der Governance Abteilung von OpenAI gearbeitet. Also der Abteilung, die Vorgaben machen soll, wie man KI möglichst sinnvoll und sicher weiterentwickelt. Und er hat OpenAI verlassen, weil er nicht mehr daran geglaubt hat, dass die Firma die richtigen Entscheidungen trifft. Heute ist der Direktor des AI Futures Project. Und er sagt, die Wahrscheinlichkeit, dass diese ganze KI-Sache katastrophal schiefgeht, also sein P-DOOM, ist bei etwa 70 %. Kein Wunder, dass hier alle so ernst sind. In der Frühphase von OpenAI war Daniel Kokotello einer von vielen effektiven Altruisten in der Firma. Und wenn ich am ersten gebrochen habe, als man die Menschen, die ich nachher zu sprechen, die sind auch die Führungsriege, sagt damals. Jetzt ist KI vielleicht noch harmlos. Aber in Zukunft könnte KI wirklich gefährlich werden. Es wird sehr wichtig, die Entwicklung zu stoppen. Deswegen ist es wichtig, das im richtigen Moment zu erkennen. Und im Zweifelsfall die Entwicklung zu stoppen. Das steht sogar im Gründungsdokument von OpenAI. Es ist genau dieser Idealismus, der OpenAI die besten Leute bringt. Leute wie Elias Hatskewa, der von Google kommt, weil Indemission überzeugt. Oder eben ein paar Jahre später Daniel Kokotello. Und natürlich sind wir die Sponsoren. Die Haltung bei OpenAI, sagt Daniel Kokotello, ist lange Zeit. Wir sind die Guten. Das Problem sind eher die andere. Viele bei OpenAI denken damals. Wir haben eine moralische Verpflichtung, KI schneller zu entwickeln als unmoralische Akteure. Weil wir im richtigen Moment den Stecker ziehen würden. Bevor es gefährlich wird und jemand unsere KI nutzt, um zum Beispiel Biowaffen zu entwickeln. Damit OpenAI auf Kurz bleibt, gibt es einen Aufsichtsrat, der die Firma kontrolliert. Dieser Aufsichtsrat ist laut Satzung dem Wohl der Menschheit verpflichtet. Und er ist ziemlich mächtig. Zum Beispiel könnte er Sam Oldman theoretisch jederzeit feuern. Auch wenn das damals noch keiner für möglich hält. Und in diesem Aufsichtsrat sitzen spätestens ab 2017 auch effektive Altruisten, die besonders auf KI-Sicherheit achten. Das verrückte ist aber, vielleicht hat genau diese ganze Angst und Vorsicht und Sicherheitsbesessenheit, das KI-Wertrennen ausgelöst, indem wir uns heute befinden, mit immer neuen Modellen und Funktionen. Denn wo manche KI-Forscher die große apokalyptische Gefahr sehen, sieht Sam Oldman auch eine große apokalyptische Geschichte. Eine Geschichte, der verkaufen kann. Kein Chef von irgendeiner Techfirma hat jemals so viel über Verantwortung und Sicherheit gesprochen wie Sam Oldman. Sam Oldman spricht über Sicherheit, wenn er auf Bühnen steht, wenn er mit den Westerern spricht, wenn er Geld einwirbt für Open AI. Und er spricht über Sicherheit, wenn er versucht, Politiker für sich zu gewinnen. Lobbyarbeit betreibt für seine Firma und versucht, Einfluss zu nehmen, auf die Gesetzgebung in den USA. Und das Argument ist immer, hey, rast uns mal machen. Gibt uns Geld und schränkt uns nicht ein. Sonst ist vielleicht jemand anderes schneller, jemand gefährliches. Es kann nicht weitergekommen, und wir wollen es bemerkt sein. Es ist ein sehr wichtiges, um die neue Sprachmodelle zu trainieren. Aber auch 100.000 Bücher und hoffenweise journalistische Texte. Ohne jemals jemanden danach zu fragen. Ob das legal war? Darüber streiten sich heute noch die Gerichte. Es ist ein, das ein sehr bautiges Appetite für die Money. Kij hei gesagt, KI, wie sie OpenAI entwickelt, hat einen unendlichen Hunger. Nach Texten und Trainingsdaten. Aber auch nach Strom, Rechenleistung, speziellen KI-Chips. Wer Sprachmodelle entwickelt, braucht richtig viel Geld. Und Sam Orgman ist sehr gut darin, dieses Geld zu besorgen. "Bezeng money". 2018 will Sam Orgman deshalb die Firmenstruktur von OpenAI ändern. OpenAI ist daher immer noch ein Non-Profit. Und das ist nicht so gut vereinbar mit dem schnellen Wachstum der Firma. Sam Orgman will OpenAI deshalb in eine limited Partnerschaft umwandeln. Das bedeutet, dass OpenAI in zwei Teile aufgeteilt wird. Einen Non-Profit-Teil, der weiter die Kontrolle behält. Und einen gewinorientierten Teil, in denen Wistoren, wie etwa Microsoft, Geld reinstecken und Anteile kaufen können. Überall im Soll weiter ein starke Aufsichtsratschweben. Der weiterhin das Wohl der Menschheit im Auge behält. Aber natürlich braucht der gewinorientierte Teil der Firma dann einen CO. Und daraus entspielen sich ein Machtkampf, der den weiteren Weg von OpenAI ziemlich prägen wird. Sam Orgman und Elon Musk werden beide wirklich gern Chef von OpenAI. Diese E-Mail schickt Ilia Satskerver im September 2017 an Elon Musk und Sam Orgman. Mit Unterzeichner ist sein Kollege Greg Brockman. Betreff, Honest Forz, also herrliche Gedanken. "Sing, diese sind die Dinge von euch und die Dinge von euch und die Dinge von euch und es ist nicht total komplementär über die anderen von ihnen, die etwas was interessiert." Satskerver weckt in der Mail ab, wer der bessere Chef für OpenAI wäre. Über Musk schreibt er, dass der gerade zu viel Macht und Einfluss hat. Schließlich sei das oberste Ziel von OpenAI eine KI-Diktatur zu verhindern. Und wenn Elon Musk CEO wird, könnte er selbst zum Diktator werden. Interessanter ist aber, was Satskerver über Sam Orgman schreibt. Erst einmal lobt er wie Klug-Orgman ist, dass er auf die richtigen Antworten hat und sich offensichtlich tief und ernsthaft mit der Zukunft von KI beschäftigt. Aber dann kommt der Teil, den ich richtig spannend finde. Satskerver zweifelt an Orgman's ehrlicher Motivation. Er schreibt, dass er und Brockman oft nicht verstehen, warum Orgman welche Entscheidung trifft. Und das sie nicht genau wissen, was ihn eigentlich antreibt. Kurz darauf landet eine E-Mail in Elias Hatske was Postfach. Sie ist von Elon Musk und ziemlich kurz. Er schreibt, "Leute es reicht. Die Diskussionen sind jetzt vorbei." Elon Musk hat die schnauze voll. Kurz darauf verlässt der Tenaufsichtsrat von OpenAI. Angeblich wegen einem Interessen konflikt, weil seine Autofirma Tesla auch KI-Technologie entwickelt, für das Autonom fahren. Tatsächlich wissen wir heute, dass auch der Streit mit Sam Orgman dahinter gesteckt hat. 2019 hört OpenAI auf, ein reines Non-Profit zu sein und gibt sich eine neue Firmenstruktur. Der alte Aufsichtsrat existiert weiter und trifft immer noch die wichtigsten Entscheidungen. Aber die Firma darf jetzt Profit machen. Noch im gleichen Jahr landet Sam Orgman jetzt CEO seinen bis dahin größten Deal. Microsoft investiert eine Milliarde Dollar in OpenAI. Und dann passiert etwas, das erst mal nur eine Randnotiz ist in der KI-Welt. Etwas, das viel kleiner erscheint als eine Milliarde Investition von Microsoft. 2020 verlassen sieben Top-Mitarbeiter OpenAI und gründen 2021 eine neue KI-Filme. Enthropic. Enthropics explizit es Ziel ist es, KI besonders sicher und Menschen freundlich zu entwickeln. Moment. War das nicht eigentlich exakt das Ziel von OpenAI? Ja. Aber anscheinend trauen die sieben Abweichlasser im Orgman nicht mehr. Das war die zweite Folge unserer sechs teiligen Serie "The OpenAI Story". Ein Podcast von Yasmin Körper, Christian Schiffer, Klaus Uric und Mia, Fritz Espenlach. Redaktionale Mitarbeit, Lena Hermann und Michael Föhrsch. Wegchecking, Kathrin Krautwasser und Laura Matosch. Sprachaufnahmen, Christoph Brandner. Sounddesign, Wolfgang Peres. Regie, Klaus Uric und Fabian Zweck. Redaktion, Wolfgang Schiller und Kristine Grimm. Eine Produktion von Plattprodukt für den Deutschlandfunk 2026. Ab jetzt gibt es jede Woche eine neue Folge. Wer nicht warten will, alle Folgen gibt es schon jetzt in der Deutschlandfunk app. Hier noch ein Podcast für euch. Beim neuen Truecrime Podcast, This is America Free Luigi. Hört ihr die Geschichte des mutmaßlichen CEO-Moders, Luigi Manjone? Host, Cash Rauberos nimmt euch in fünf Episoden mit durch ein Verbrechen, dass die USA in ihren Grundfesten erschüttert hat. Und die Grenze zwischen Gute und Böse, Täter und Opfer verschwimmen lässt. Es geht von New York bis nach sein Francisco, von Medienhyp zu juristischen und gesellschaftlichen Abgründen. Wer entscheidet eigentlich, wer Täter, wer hält ist? Und was sagt das über ein Land aus, dass immer wieder im Strudel von Gewalt, Mythos und Medienspektaken gefangen ist? Jede Woche erscheint eine neue Folge überall, wo es Podcast gibt. Bei ARD Sounds könnt ihr alle fünf Episoden jetzt schon hören. Den Link zum Podcast findet ihr auch in unseren Show Notes.