Wie baut man ganze Engineering-Teams mit KI, Arndt Voges? (#60)

* Musik * So was bei uns haben wir im Internet des Coating Tool gebaut und dann haben wir realisiert, das könnte man ja auch verkaufen. Wir haben zehn dove Produkte gebaut. Mit unserem Tool, bis wir gemerkt haben, dass das eigentliche Produkt das tut. Gibt es so ein Moment, wo du das Gefühl hattest, das funktioniert doch nicht. Es war eigentlich eine falsche Idee. Ja, jeden Morgen. Aber ich glaube, das ist noch ganz normal, wenn man es da da hat. Herzlich willkommen zum OMR Silicon Valley Update, der Podcast mit Christian Bützer, der euch von deutschen Erfolgsgeschichten aus San Francisco und dem Welle berichtet. Heute ein ganz besonderer Tag. Folge Nummer 60 vom OMR Silicon Valley Update Podcast mit niemandem anderen als meinem Co-Founder. Ahn Fogus CTO von Puppel AI. Ich bin stolz, ihn hier vor die Kamera zu locken. Ein paar Geheimnisse ausplaudern zu lassen, was wir machen. Heute ist ein ganz besonderer Tag. Heute launching, ich hatte das letzte Woche im Podcast schon kurz angesprochen. Wir haben ein Tag, wo wir ein bisschen Hilfe benötigen. Deswegen haben wir uns gedacht, warum nicht die Geschichte erzählen. Oder bei uns die in der WhatsApp-Community gab es schon die Frage danach, das Thema Puppel AI noch mal aufzuräumen, zu erzählen, was wir eigentlich machen. Wir haben uns gedacht, an einer Kurzfolge heute, der Reihe geht's mit Ahn und mir hier im Podcast im OMR Silicon Valley Update, aber genug der Vorworte aufgeht's mit Ahn Fogus CTO von Puppel AI. Auf geht's, Mon Ahn. Mon, grüß dich. Danke, dass ich mich auf der anderen Seite der Töse zentach. Ja, genau. Ja, Ahn Fogu, vorne hab ich gerade schon im Vorsprann erwähnt. Wann hast du das letzte Mal eine Zelle gut geschrieben? Die ehrliche Antwort ist gestern morgen, weil unsere E-Einfrastruktur bei Anthropic eine Down-Time hatte, aber eigentlich vor sechs bis sieben Monaten vielleicht. Okay, okay. Bevor wir einschauen, was der kleine Sonderfolge ein bisschen Rapidfire, Claude oder Open AI. Heute Claude morgen kann die Antwort ganz anders aussehen. Okay, wer gewinnt das KI-Rin? Ganz klar Google. Okay, was wendest du jeden Morgen? Herkernies. Mhm. Ist SARS tot? Nein, noch nicht. Was ist dein Traumauto? 1976 Porsche 911 R. Okay, okay. Aber das mal kurz vor einer Anfang, wie bist du mein Ko-Fonder geworden? Ja, ich hoffe, dass Max diesen Podcast hört, denn Max ist ein gemeinsamer Freund von uns. Wir waren zusammen mit San Francisco. Wir sind hier angekommen, kannten uns noch nicht. Ich hab mit Max im Kindergarten und im San-Kasten gespielt, denn du hast mit ihm etwas später im Studium Zeit verbracht. Wir haben uns kennengelernt, er hat gesagt, ihr müsst euch kennengelernt, ihr habt das gleiche Interesse für ein besonderes Auto. So sind wir zusammengekommen und sind lange Freunde gewesen, bevor wir 2021 zum ersten Mal begonnen haben. Ja, die Autos sind hier im Hintergrund, häufig zu sehen, dass bei YouTube weiß, welche Fahrzeuge, die ich hier drehe. Du kommst ja auch aus einem kleinen Dorf, wie so viele meiner Gäste, vielleicht sagst du noch zwei oder drei Sachen, selbst über dein Lebenslauf. Ja, das ist richtig. Ich bin aufgewachsen in Alten bei Hannover. Ganz, ganz kleines Dorf, damals vielleicht 2.000 Leute. Aber damals schon immer ein Technik interessiert gewesen. Wollte immer aus dem Dorf raus. Das war vielleicht auch die große Motivation. Mein Opa hatte immer viel mit Computern zu tun, hatte nämlich mit drei oder vier Mal vor ein Computergesetz, dann war es passiert. Und seitdem hab ich viele Sachen gemacht. Ein Studium in Maschinenbaus, Fehlgeschlagen, nach zwei Semestern, dann bin ich Informatiker geworden und später dann viel mit Business und zweiter gemacht. Hier im Silicon Valley zufällig gelandet und bin seit 2008 im Silicon Valley in Produktrollen, technischen Rollen und seit vier Jahren mit dir. Ja, genau, mein CTO und Partner meiner Seite, jeder redet ja gerade über E-I-Coding. Wenn man so ein bisschen bei X und so rumscrew hat man das Gefühl, wie die ganze Welt ist, sei jetzt komplett autonom. Cursor, Co-Pilot, Love-Bewald, die Welt auf X-Sienfalls denkt, das Thema Coding ist gelöst. Ist das wahr? Ja, das ist schon verrückt. Ich würde sagen, Coding selber ist gelöst. Die Modelle, die man heute benutzen kann, Cloud Code, zum Beispiel sind so stark, dass die qualitativ hochwertigen Code produzieren. Aber das große Problem ist ja immer gewesen, welche Art von Code erzeugt man und wie ist die Architektur und wie baut man das Produkt? Wie kommt man dann die Leute, wie baut man eigentlich sein Start-up oder sein großes Unternehmen auf? Und das ist ein ungelöses Problem, dass sich jetzt auch nicht das ersetzt wird. Aber ja, das Schreiben von Code selber, da um einen Stunden Tag lang verbringt, um irgendwas zu bauen, dass es gelöst. Was passiert wirklich, wenn Entwickler heute sich überlegt, ich will jetzt halt mit Eiffersuchen ein komplettes Feature zu bauen? Ja, da würde der Entwickler wahrscheinlich Cloud Code runterladen oder Cursor, das sind Tools, die sehr bekannt sind und setzt sich ran und hat eine Unterhaltung mit der KI. Das heißt ja, man sagt, ich möchte zum Beispiel irgendwie ein Login flow bauen. Dann arbeiten wir mit der KI und dann eine Message an die KI, dann kommt was zurück, ist quasi eine Unterhaltung. Wir nennen das Babysitting, also man muss da wirklich der KI quasi in jede Schritt die Hand geben und die Hand halten. Und am Ende kommt dann dabei eben ein Feature raus. In der Regel ist das beschränkt auf nicht ganz so komplexe Features. Also diese Art von Arbeit funktioniert sehr gut, wenn man kleinere Sachen baut, wenn man was ganz großes bauen will, da ist man auch immer aufgeschmissen. Bis heute, aber da reden wir gleich darüber an. Warum ist das so? Also warum kann man nur so kleine Sachen bauen? Und so richtig große Produkte noch nicht. Also was sind da die Probleme in der KI heute? Ja, können wir gerne nördi werden. Die Probleme in der KI sind heute die technischen Bausteine sind alle da. Aber so werden die eben zusammengebaut werden, weil die Leute die einsetzen, nutzt es eben nicht das Potenzial aus. Zum Beispiel hat KI, wie der Mensch auch ein gewisses Aufwassungsvermögen. Das nennt man Kontextwinder und wenn das eben voll ist, dann kann die KI keinen sinnvollen Code mehr produzieren, weil die dann verwirrt wird. Und heutzutage ist so, dass man wenn man KI anschmeißt, ist ja ein Kontextfenster vollmacht und dann ist damit gelaufen. Und dann kann man nichts komplettes bauen, oder komplexes bauen. Wie kommt man eben zu einem Flow, der das voll ausnutzt und nicht in dieser Grenzen läuft? Das ist eben das große Geheimnis, an dem viele gerade arbeiten. Nur damit, was man verstehen, dieses Kontextwinder, von dem man bei allen geredet, wie groß ist das? Dann wird dann seit 1 Million Token oder so, kann man das anders ausdrücken, dass man sich das vorstellen kann. Das ist irgendwie ein Buch, 10 Bücher, 100 Bücher, wie viel Text, wie viel Code ist das, was man nachher empacken kann. Ja, also sagen wir mal so eine Million Token, was ist das vielleicht die Bibel? Oder so schon sehr umfangreich, oder mehrere Harry Potter Bücher. Also eigentlich schon genug, wenn man im Sinne von Code denkt, um das reinzufüttern. Und eine Million ist auch ein sehr großes Fenster, also der Standard ist eher 200.000 momentan. Das Problem ist nur, dass auch, wenn man das Fenster füllen kann, ist da trotzdem noch sehr viel los. Stell dir vor, du liest die gesamte Bibel und ich frag dich jemanden zu einer ganz bestimmten Passage was. Genau das gleiche Problematik, auch. Und deshalb ist es besser, das Fenster sinnvoll zu nutzen und nicht einfach nur zu überfüllen. Okay, wir arbeiten ja genau an seiner Lösung, das wollen wir heute her sprechen. Die neue Firma heißt "Purple", das Produkt heißt P0. Was ist P0 und was machen wir Fundamentals anders? Ja, P0 ist ein Software, die lokal auf dem Mac und zum Fisch auf Windows oder Linux, der User läuft. Und die eben genau dieses Versprechen erfüllt. Das ist Autonom riesige Features oder ganze Produkte, end-to-end zu bauen. Das heißt, also anstelle in Unterhaltung mit der KI zu haben, mich Schritt für Schritt an dieses Problem ranzutasten, sitze ich da nicht und mache das, sondern ich bauer im Prinzip einen Spezifikation. Ich sage hier ist genau das, was ich haben will, in so viel detail ich möchte, dann drücke ich den Knopf und dann arbeitet die tatsächlich Stunden lang. Wir beide gehen Kaffee trinken oder Mittagessen oder bauen das nächste Feature im Parallel. Und am Ende kommt es voll getestet, Production-ready-Deploy-Belcode raus, den man einfach nur an den Kunden schäppen kann. Wir reden ja da auch von einem Orchestration-Layer. Das gibt es ja auch sehr viele Open-Source-Frameworks und so dazu. Kannst du da in Beispiel geben oder erklären, was das bedeutet, so ein Orchestration-Layer anzubinden? Genau, Orchestration-Layer. Manche Leute sagen, Harnis, das hör ich sehr häufig jetzt. Also quasi so ein Zügel auf Deutsch. Genau, also wir haben ja gesagt, eigentlich die KI-Bausteine sind alle da. Aber wie baut man diese Bausteine zusammen, das ist im Prinzip ein Puzzle, das man lösen muss. Zum Beispiel, wenn man sich überlegt, wie arbeitet eigentlich ein menschliches Team, sagen wir, zählen Entwickler zusammen, welche Rollen haben wir uns so weiter? Das kann man abbilden in KI und dann eben ein KI-First-Team-Bown, um Rollen abzubilden, den Tools zu geben. Und so weiter, das ist eben dieser Harnis, ist eben wie man das Zusammenbau, wie diese Puzzle Stücke zusammenkommen. Und das ist absolut nicht trivial. Was benutzt viele Erfahrungen, Kalibrierungen, die da eingehen? Und genau das ist eben, was wir am Ende auch gebaut haben. Es gibt ja immer wieder Leute, die sagen, ja, wir benutzen aber schon Cloud Code oder Curse. Warum braucht das jetzt noch? Das ist doch ausreichend. Gibt es auch ganz andere, die auch schon Harnis ist gebaut haben. Der Bekannter ist der Ralf-Loop, also von den Zemsten. Da gibt es ja diesen einen Charakter, der quasi immer nur versucht, bis er irgendwann was hinbekommt. Das gibt es alles. Der Unterschied ist für mich ganz einfach, das Cloud Code ist super, um einfache Sachen zu bauen. Vielleicht sogar medium komplexe Sachen. Da gibt es ja auch den Plan-Mode, der ist auch super gut. Wir benutzen ja auch manchmal, wenn wir kleinere Sachen bauen wollen. Aber wenn es darum geht, gesamte Produkte zu bauen, end-to-end, in einer existierenden Code-Basis mit komplexen Problemen, komplexen Anforderungen, auch vielleicht gleiche Nier, die irgendwo vergraben sind in der Technologie, man umgehen muss, dann gibt es für mich keine Alternative. Ich benutze unser Produkt jeden Tag und kann mir auch gar nicht vorstellen, was anderes zu benutzen. Für wen ist ein PC-Rogue gedacht? Das ist für die Produktleute oder für die Engineers, das CTO? Wer sollte sich das bei dir oder bei uns melden? Ja, also wir sagen immer, es gibt den Product-Engineer, das ist also eine neue Form von Entwickler im Prinzip. Dies mehr und mehr geben wird. Das ist eben der Entwickler, der sich auch in das Produkt denken, ein Denken kann oder andersrum ein Produktmanager, der gerne entwickelt. Und wer soll sich konkret bei uns melden? Sind Leute, die KI interessiert sind? Vielleicht sogar KI-Begeistert, die schon Cloud Code benutzen. Und einfach den Druckspüren mehr zu machen und schneller zu bauen. Als konkretes Beispiel, wir haben einen unserer Kunden, das ist ein mega Fan der Solo Entrepreneur. Die hat mehrere Firmen, die alleine bei sich im Schlafzimmer mit unserem Produkt aufgebaut hat und verwaltet. Also Mindblown, ja, als Einzelner sitzt der da und baut das. Und es gibt auch Firmen, die einfach KI-First werden wollen und dann eben mit uns zusammenarbeiten, mit PC-Rogue und unserem Service, den wir anbieten dahin zu kommen. Lasst noch mal kurz erklären, wie wir eigentlich hierher gekommen sind. Wie sind wir auf die Idee gekommen? Wir haben ja nicht uns hingesetzt gesagt, okay, wir wollen jetzt das Produkt bauen. Und da sind ja so ein paar Zufälle entstanden. Vielleicht zistet die Geschichte mal kurz. Genau, ich sage ja, mal Faulheit ist eine super Power. Und für uns ist als kleines Data, was immer wichtig, so schnell wir möglich zu arbeiten. In allen Varianten, in denen wir hiermals gearbeitet haben, war das immer das Wichtigste. Denn wenn man nicht schnell ist, wird man von der Konkurrenz aufgegessen. Und die Entwicklungszeit ist eigentlich da, wo man am meisten Zeit investiert. Dann haben wir vor, weiß ich nicht, sechs bis neun Monaten schon, die ersten Tools ausprobiert und haben dann eben relativ schnell rausgefunden, wie man eben diese Tools benutzen kann, die werden immer besser und genauso das Evolution eben entstanden. Und irgendwann war das Produkt so beeindruckend, dass wir uns nicht mehr vorstellen konnten, woran das mitzuarbeiten und haben uns andere danach gefragt. Können wir das auch benutzen und dann war quasi. Ja, aber was man sagen kann, wir haben ja ein Pivot gemacht und an neuen Ideen gearbeitet und haben mit unserem Tooling gearbeitet. Und am Leute mal gesagt, das ist ja schön, dass du hier irgendwie so ein Tool für Firebase oder irgendwas gebaut hast. Wir haben das in ein, zwei Tagen geschafft. Und wir haben die Leute sozusagen dann begeistert. Ich finde es schon ein besonderer Moment für mich ein bisschen wie dieses Slackgeschichte. Diese Slack Leute, die da irgendwie gearbeitet haben, haben einfach so ein internes Kommunikationszubrüben und dann ist das irgendwie das Produkt geworden. So was bei uns, wir haben internes Coating Tool gebaut und dann haben wir realisiert, das könnte man ja auch verkaufen. Und da werden wir nie drauf kommen, wir haben mich vorher so eine Matrix gemacht, dann haben wir überlegt, welchen Bereich wollen wir und das war einfach gar nicht da drauf. Weil wir das einfach so als normal angenommen haben, das jeder so baut. Aber wir haben mal gesehen, da gibt es so ein bisschen an Opportunity. Das ist eigentlich witzig. Mit unserem Tool, bis wir gemerkt haben, dass das eigentliche Produkt das Tools ist. Ja, wirklich dove Produkte teilweise. Aber wir haben vier Gelenar dabei. Wie lange hat das das gedauert? So gut ist halbes Jahr ungefähr. Haben wir jetzt an dem Produkt gebaut jetzt? Ja, mit Sicherheit. Halbes Jahr, man muss natürlich auch sagen, wir sind ja in dem Thema KI schon seit "Before-Chatch-GPT" drin. Das heißt, es war immer präsent, aber erst in den letzten sechs Monaten ist die Technologie so gut geworden, dass man das in diesem Umfang einsetzen kann. Gibt es oder gab es so ein Moment, wo du das gefühltest, das funktioniert doch nicht. Das war eigentlich eine falsche Idee. Ja, jeden Morgen. Es gibt dieses Buch von Andy Grove, das heißt "Only the Paranoid Survive". Und wenn man sich durchließt, verkannte ich uns jeden Morgen, was es für neue Ideen und Produkte gibt, dann fast man sich an den Kopf und denkt, wow, wir leben in einer unglaublich krassen Welt. Und genau, das geht mir immer wieder durch den Kopf, aber am Ende macht das das Produkt hier nur besser. Du sprichst gerade Hecker News an. Wir machen diese Vorgeheute aus einem anderen Grund. In mich heute "Launchen", wir sozusagen so ein bisschen offiziell, ich hatte schon mal mal Link in den Start-Unsangepass vom paar Wochen und das hier im Podcast getrobt. Aber bei Hecker News haben wir was vor. Wie können da unsere Hörerinnen und Hörer uns vielleicht ein bisschen unterschützen heute? Heute sind eine Tat der große Tag. In dem wir an die Welt treten und unser Produkt zeigen. Genau, für die, die es nicht kennen, Hecker News ist von dem berühmten Y-Kombinator, der im Accelerator die News seite. Und dort tummeln sich im Prinzip "The Who's Who" auf "Engineering" und "Touching.id" aus in dem Forum. Und dort werden wir heute unseren Link posten. Und hoffen, dass es dort eine Regeldiskussion gibt, damit das auf die Frontpage kommt und Leute das dann auch runterladen. Und ja, wir uns dabei helfen will. Wenn wir uns sehr freuen, der sollte sich in Hecker News einloggen. Entweder Google Hecker News oder News.Y-Kombinator.com. Und dann eben so lange Scrollen, bis ihr uns findet, hoffentlich dann schon sehr hoch. Und dann bitte abwuten und einen smarten Kommentar schreiben. Ja, es gibt ja mehr aus euch Plattformen. Man muss ein bisschen aufpassen wie das macht. Deswegen können wir nicht direkt den Post verlinken, sondern man den kleinen Aufwand betreiben da hinzugehen, runterzuscholen. Und hoffentlich findet ihr uns dann relativ schnell. Also vielen Dank schon mal vorab für die Leute, die sich da die extra ein paar Minuten. Ja, extra Zeit nehmen. Können die Leute direkt loslegen? Und das ist eigentlich das Produkt dann benutzen ab heute? Und dann bitte findet ihr uns eben über Hecker News oder über unsere Internetseite B-Purple.ai, B-E-P-U-R-P-L-E.ai. Und könnt das dort runterladen und wir freuen uns über Feedback. Okay, okay, was ist das Traum Feedback, was du dir wünschst? Also was erwartet es zu ihr diese Woche? Ja, wenn ich morgen aufwache, dann wünsche ich mir das Leute mir das Green Shouts zeigen von den coolen Produkten, die die gebaut haben. Und in ein paar Wochen vielleicht sind neue Firmen entstanden, Fandigen. Also ich glaube, damit kann man sehr, sehr viel erreichen. Okay, okay, ich stelle ja immer eine Frage zum Schluss an meine Gäste und gestern, deswegen freiche ich das auch. Was ist eine Sache, die es über dich zu wissen gibt, die nicht auf deinem Link dem Profil zu finden ist? Ich schwimme manchmal im kalten Wasser der San Francisco Bay und wurde dort mehrmals von einer Robbe angestoßen. Was ein sehr, sehr doves Gefühl ist, aber ich machs trotzdem weiter. Das war echt megaback, muss noch sagen. Die Dolphin, ich bin selber nicht mit viel über Andesmitglied. Da morgens das Wasser so gehen danach in die Sauna, ist um möglich legendär. Aber diese Riesenraum, wenn ihr da vor der Auftauchen und den es gesichgt, gucken ist schon ein bisschen gruselig, wo sie sagen. Ja, das immer, immer so eine Sache, aber gut, man teilt sich eben den Raum. Cool, vielen Dank, dass du hier das geteilt hast und vielen Dank an alle, die uns hier vielleicht ein bisschen zu porten. Und genaste Woche geht es wieder regulär mit dem OEM erstes, den wir hier am Tätsel weiter bis dahin. Ich freue mich. Tschüchü, und auch von mir, vielen Dank.