Souveräne KI: So machst du dein Unternehmen unabhängiger

Alle reden von der besten KI, aber fast keiner fragt, wie im Gehörz sie eigentlich und wer kann sie mehr wegnehmen. Und genau diese Frage entscheidet gerade, ob dein Betrieb in ein oder zwei Jahren noch Handlungsfähig ist oder nicht. Denn stell dir einmal vor, du kommst Montag für rein und das beste KI Tool, die besten Integration, die besten Workflows, die alle LLM getrickert sind, die fest mit einem Unternehmen und deinem Team verankert sind, die zeigen dir noch, ups, dieses LLM messen deinem Land nicht mehr verfügbar. Und auf einmal stehst du als Unternehmerinnen und Unternehmer mit einem Unternehmen in der U da. Das ist kein Ausfall, das ist kein Heck, das ist einfach eine Behörde, die in einem Land entschieden hat, den Schalter umgelegt, dass dieses Modell nicht mehr verfügbar ist. Und genau das ist vor vier Wochen ungefähr passiert, hast du wahrscheinlich mitbekommen mit Claude Fable 5 und auch GPT 5.6 und die Frage, die ist nicht ab, sondern was du machst, wenn es dich betrifft. Ja und damit herzlich willkommen zu einer neuen Folge zu 10en Folge vom OFA Podcast, mein Name ist Tobias Schitz, gleich bin dein host und heute nehme ich diese Folge in der Nähe direkt von einem zauberhaften, wen näh dich aus, ich bin nämlich im Urlaub mit meiner Family, aber habe mein Podcast Mikro dabei und für dich die spannendsten News im Bereich KI, so eine Tätten und kurz zusammengestellt. Und für heute natürlich auch mit dir eine richtig krassen Deep-Dive gehen, in meiner achens-Deb-Dive, der längst überfällig ist, denn wir gehen in den Bereich Sovereine KI, wie du unabhängiger wirst, was vielleicht Self-Hosing was sich bedeutet und wie du das Ganze angehst. Ja, bevor wir in diesen Deep-Dive reingehen und ich glaube, der wird super spannend werden, wenn du eine Unternehmen in der EU hast, wenn du Kunden hast, in der EU sind und ja, du dich nicht aufstellen willst, dass du nicht so abhängig bist, dann ist das mega. Wir gehen jetzt immer noch mal kurz in die News rein, denn heute zum 8. Juli, wo ich diese Podcast-Völker auf Spenden abend und 22.36 aufnehme, ist es so, dass kurz fritzig Fable 5 verlängert wurde. Den Ursprung ich war Fable 5 bis zum 7.7 verfügbar. Falls du nicht weißt, was Fable 5 ist, Fable 5 ist eines mit der stärksten KI-Modelle auf Markt, die für die Allgemeinheit zugängliches ist, von der Firma Anthropic, die aus den USA kommt. Als sie das vor circa vier Wochen gelaunst haben, ist es bei den 22 Stunden per Exportbeschränkung von der S-Regierung limitiert worden, dass es vom Markt genommen werden musste. Es war dann so gut, ich glaube, ca. 14 Tage, knapp drei Wochen. Unter Verschluss kam dann wieder und dann hat Anthropic natürlich immer angekündigt, "Hey, ihr könnt es mal testen, aber irgendwann hört es auf und dieser Test sollte zum 7.7 enden. Jetzt haben sie es bis zum 12.7 gemacht. Also wenn es noch testen willst, go for it, lasst wirklich die Token bremmen." Und danach wird es nämlich usage credit-Kosten. Das ist das beste öffentliche Modell und wandert jetzt binnen von Wochen, von in E-S in deinem Abo darin zu als jetzt ein Premium-Preis-Ponuzung und der Preis verdoppelt sich fast zu dem bisher teuersten Modell. Und das ist wirklich, wirklich spannend. Kurz einmal zur Einordnung, was bedeutet das eigentlich? Es wird ja immer zwischen Input und Output-Token unterschieden. Die Input-Token sind meist immer günstiger als die Output-Token. Das ist auch relativ klar, weil Output-Token natürlich mehr Computing-Time, also mehr Rechenzeit erfordern. Und wenn man sich jetzt so bei ich bin O-Pros 4.8 nimmt, dann ist Fable 5 ungefähr doppelt zu teuer, ca. 10 Dollar für eine Million Input-Token und ca. 50 Dollar für eine Million Output-Token. Man mag jetzt so denken, "Ah, eine Million Token, das ist doch gar nicht so wenig, das ist doch gar nicht so wenig." Aber hey, das ist so schnell erreicht, dieses Limit. Wenn du ein paar Läufe am Tag hast, was ich nicht 20 Läufe oder so was, bis zum mal schnell irgendwie 1100 Dollar im Monat los oder mehr, das kann wirklich richtig durch die Decke knallen. Na ja, so läuft das bei den Front-Heyer-Treibern, also bei den Front-Heyer-Modellen entwickeln. Thema Kosten, Alternativen, das ist natürlich ein riesen Thema. Wie gesagt, werden wir uns gleich natürlich auch mit beschäftigen. Was es noch passiert, auch aus der Anthropic-Welt, ist es angekündigt worden. Gestern am 7. Juli, Anthropic hatte ja CloudCow, CloudCubic im Januar rausgebracht für die Knowledge-Worker, aber die Wissensarbeiter und hat damit eine Tool, eine App zur Verfügung gestellt, wo du direkt auf deinem Computer mitarbeiten kannst. Aber jetzt speziell für Leute, die nicht Entwickler nicht code und nicht so technisch unterwegs sind. Das hat den ganzen Markt komplett umgekämpelt, bei dir wahrscheinlich auch nicht vorbei gegangen sein, vielleicht der Arbeit ist so aktiv damit. Und jetzt musst du dich nämlich freuen, denn für alle, die das immer nutzen haben, war es immer so, okay, ich kann es ja nur jetzt an den Computer machen und jetzt so das ganze in eine obend mobile App überführt. Das heißt, du kannst eine Aufgabe am Rechner starten, unterfichs vom Handy überwachen, dem Agent sagen, was das so tun hat und er arbeitet sozusagen weiter. Das heißt, die Coating Agent Wars, die schwarpen jetzt sozusagen ins Büro rein und Coorg ist kein einfacher Chatbot mehr, sondern der erledigen mehr stürfige Büroarbeit komplett selbstständig im Hintergrund. Und na ja, ich denke, das ist eine super spannende Sache, weil letzten Endes fragt der dich, als Menschen noch um Freigabe, um Bestätigung und Umprüfung, also den Klassischen, also bisschen den Human in the Loop. Das heißt, also der Sprung, dem jetzt die ganze Zeit schon sehen, von KI, die ich bediene zu KI, die selbstständig eine Aufgabe zu Ende bringt, der wird immer intensiver, jetzt hast du es auch in der Rosentasche, nämlich immer mit dabei und jetzt kannst du das wirklich aus dem Bad Trigger oder sonst was, ich weiß viele Leute werden, dass jetzt sensationell geil finden. Ich habe mir mal gedacht, okay, ich weiß nicht, ich arbeite jetzt nicht mit Cloud Coorg, sondern ich habe mit Wiescode, also im IDE, in Entwicklungsumgebung auf dem Rechner gearbeitet. Aber hab da auch häufig gedacht, so, ah, lass dir noch cool, wenn das vom Handy machen könnte es aus, ja, digitalisierungshygiene, aber ich bin auch halt gedacht, okay, vielleicht ist es besser, wenn das nicht ganz, weil das für die ganze Zeit noch am Handy hängen. Genau, also der Rohlord ist gestern gewesen, es betrifft aktuell nur die Maxabus, es ist ein Beta, das er folgt schrittweise, es kann sein, dass es vielleicht schon hast, vielleicht auch noch nicht. Das muss dann einfach püfen, aber es wird wahrscheinlich in den kommenden Tagen kommen. Wichtig ist, es gibt eine Einschränkung, der Web hat, also die App hat natürlich keine Kenzugruf auf lokalender Teilen, also auch nicht vom Smartphone aus erst mal, und natürlich auch nicht auf deinen Computer, das heißt dafür bleibt der Desktop einfach bestehen. Ja, und der dritte Newspart ist so ein bisschen eine Koalition aus verschiedenen Dingen und auch so ein bisschen die Überleitung zu unserem Thema. Ich hab mich manchmal gefragt, in der Zeit, wo wir heute leben, werden KI-Modelle eigentlich so ein bisschen zu so, ja, Rüstungsgütern wird Europa so ein bisschen in die Zange irgendwie genommen. Warum? Weil mittlerweile ist es so, da hatte die Code Anfang Juli erst mal nicht zu begeschrieben und jetzt heute auch noch mal aktualisiert, dass China auch eine Exportbremse für seine besten KI-Modelle erweckt. Und naja, Zeitgleich hat Trump die Restikation für GPD 5.6, also ein ähnlich starkes Modell wie Fabel 5, wieder aufgehoben. Und ja, beide supermächte behandeln KI wie Top-Pudule-Jews-Güter, also es ist wirklich krass, man merkt, dass sie sich ganz aktiv Gedanken machen. Wer hat eigentlich Zugriff auf diese krassste Technologie und wer nicht? Und das ist natürlich für uns in Europa ein riesen Thema. Wenn du mal, wenn du das Ganze einmal interessiert, wo wir in Europa eigentlich mit den Modellen, mit den Frontline-Models auch stehen, dann hier nochmal ein Querverweis, mich hatte eine andere Folge gehabt und das ist die Folge 7. In der Folge 7, da ging es um Fabel 5 und die Abschaltung, da habe ich einmal gegenübergestellt, die Top 25 Modelle auf Platz 10 war Mistrill ein Modell aus der EU, aus Frankreich. Alle anderen, also die 1 bis 9 war nur USA und China. Und von 11 bis 25, glaube ich, gab es ein kanadisches, ein Russisches und sonst auch meine ich nur noch China und USA. Also man sieht ganz klar, wer hier den Markt eigentlich anführt. Ja, und worauf wir uns wahrscheinlich in der Zukunft auch einstellen müssen, denn ich bin davon überzeugt, dass die krassesten Monteller vielleicht nicht unbedingt für uns zugänglich sein werden. Aber das ist Zukunftszache. Ich denke, darüber müssen wir unternehmern und unternehmern aber uns auf jeden Fall Gedanken machen. Weil es natürlich auch ein sehr, sehr großes Thema in der Weltbewebserigkeit ist. Okay, das heißt also der Zugang zu den besten Modellen, der wird, man merkt das jetzt schon so ein bisschen politiche National, ne? In den USA ist es so, dass die USA direkt ein wenig in diese Konzerne rücken will. Denn Trump und Oppen EI sind ja auch diverse Male in Gesprächen schon gewesen, dass die Vereinigten Schaaren von Amerika sich Anteil an diesem Unternehmen sichern. Und genau es gab einen Bericht, der gesagt hatte, dass Oppen EI 5% angeboten hatte, das 5% der Schers von den Vereinigten Staaten ja übernommen werden können. Und wenn es so furchtlich sein könnte, dann muss man sich überlegen. Es ist gerade im Fernelschadium, es ist noch kein Deal, aber wir reden hier über zwei, ich hab knappe 42,6 Milliarden US Dollar dann kontrolliert ja ein Start ein Frontier Model Lab, das ist schon krass, ne? Also So sieht es auf jeden Fall im Markt aktuell aus, das heißt wir merken, dass diese ganze National Security Export Welle, die damals vom weißen Haus vor damals vor vier Wochen mit dem Fable 5 m2-Bahn war im Uni GPT 5.6 Riff die interne Cyber Angus Risiko-Schrelle noch mal hoch, China dreht das US Instrument jetzt um und irgendwie zeigt es in alle Richtungen und wir sitzen wieder züchend, denken wir so okay, wir wollen aber auch sorry den Gein-Shit irgendwie haben, was können wir jetzt eigentlich machen und darum soll es natürlich in dieser Folge heute einmal gehen, weil ich wollte mich heute einfach mal mit jeder Rubber unterhalten und beschäftigen einfach mal die Perspektiven zu sagen und in der Belegung bin ich mit der KI nicht, damit eigentlich so zu sagen, erpressbar weil letzten Endes ist ja so, wir müssen überlegen die wichtigsten Daten, die wir haben gehören aktuell mehr oder weniger noch uns und an wachsener Teil von Burgfluss hängen natürlich aber auch an der KI, weil das evaluiert natürlich KI injected wird, agents arbeiten, Burgfluss arbeiten, aber das gehört ja natürlich nicht uns, das gehört nicht der EU, das gehört also die besten gehören halt US ganz sehr in China und die können uns natürlich dann das Ganze auch abdrehen und es ist immer so, wenn du WAPA hörst oder wenn du mir auf Linken folst, falls du das noch nicht machst, mir auf Linken folgen, ich habe das unten einen Showdowns verlinkt, folgt mir auf jeden Fall, weil da Christo auch unter der Woche noch mal ziemlich geile News, ich habe auch echt geintensche drauf ist, deswegen meine Empfehlung folgt mir einfach und wenn du fragen hast, erschreib mir gerne DM. Genau, also man muss so ein bisschen an dieser Stelle einfach schauen, dass man natürlich eine Abhängigkeit ist, weil man baut natürlich auch Burgfluss, man schaut die gute performen, wenn man jetzt bestimmte Modelle nimmt, die jetzt nicht so leistungsfähig sind wie zum Beispiel High-Co-Modelle oder so was, dann muss man das auch richtig richtig gut prompten, das muss auch angepasst werden, das kann man nicht mal eben so wechseln, ja man kann es machen, aber halt nicht mal eben, so kannst du einfach sagen, ich tauche eins gegen anderes, das funktioniert nicht, das muss dann eventuell nur angepasst werden und wenn du so ein Tötü, so leistungsfähigen oder wie Opus hast, dann zahlt es dich natürlich richtig durch und wer mich dabei weil die sind halt echt schwere teuer, das muss man halt dazu sagen, so was wir jetzt überlegen, dass eigentlich fast alle irgendwie die US-Modelle nutzen, also oder von US-Anbietern, das ist so, jetzt muss man halt überlegen, okay, wenn man natürlich jetzt mehrere Perspektiven, die hier zusammenkommen, wenn man auf der einen Seite natürlich die Abhängigkeit zu KI-Modellen, also was passiert für uns immer wieder Exportbeschränkungen kommen oder sonst die Gesachen, wird uns sehr saft abgedreht, man hat ja gemerkt, die können sich gar nicht dagegen werden, die müssen das natürlich auch teilweise machen, das ist das eine, auf der anderen Seite geht es darum, dass du natürlich schauen musst, dass du dann ständig deine Daten ins Ausland schickst, das heißt, du unterstützt natürlich auch die Wirtschaft darin, ich gebe dir mal ein krasses Beispiel, jetzt mal ganz weit gedacht, was passiert denn wenn jetzt in zwei, drei, vier Jahren sehr viele Jobs sich verändern, wegfallen und alles was früher von einem realen Menschen gemacht haben, gemacht wurden, ist der komplette Sozialversichtungspflichtig in Deutschland ist, der in die Kassen 1 halte, Steuern, Zahl und so weiter, das wird jetzt von einem Agent erledigt, wer zahlt denn dann auch in die Kassen ein, wie funktioniert das denn dann mit eventuellen irgendwie Lohnsteuern oder Einkommesteuern aus und so und so, irgendwas, ne? Also das ist eine super spannende Frage und dieses ganze Geld schieben wir halt in die jetzt aktuell wahrscheinlich nach USA und geben denen jetzt natürlich noch mehr Kapital, um noch mehr Geld dereinzustecken, um noch krasser und shit zu bauen und darüber sollten wir uns alle mal wirklich Gedanken machen, ob das eigentlich so der richtige Weg für Europa eigentlich ist und das dann auch so sinnig ist. Na ja, gut, wir sind mit Software-Apps-Service und natürlich ein Abhängigstichwort Google, nur Workspace, Microsoft 365 oder sowas, aber ich denke, es macht wahrscheinlich sind es für alle mal überlegen sollten, muss das eigentlich so sein oder ja, gibt es die Möglichkeit, dass Europa jetzt endlich mal sagt, hey, wir nehmen mal richtig Schattein die Hand und versuchen diese Technologie selber zu bauen, zu verbessern zu onen. Ich weiß, es gibt viele Unternehmen, die das machen oder die sich an diese Dinge dran wagen, meines Zerachtens korrigiert mich, kann auch sein, dass ich dann die vielleicht einige noch nicht kenne, kenne ich keinem, was ansatzweise an die großen Front-Hire-Modelle irgendwie dran kommt. So, oder sie sind echt gut, aber nur schlechte Marketing, das würde ich jetzt nicht abwägen. Okay, das, also das andere, das heißt, wir reden über Karifeljivo-Sorinität, wir reden über Risiko, die Bo-Dinger abgeschaltet werden können, aber wir sprechen auch bei etwas anderes, denn wir sprechen über den US-Cloud Act und der US-Cloud Act ist ein Riesen-Thema, ich weiß nicht, ob du, ob du ja, damit überhaupt was sagen, weil man sagt immer ja, die Söverschne in Frankfurt, dann ist es super rein, sage ich gleich nochmal was zu zu dem Modellen, das man die DSGVOKern vorm nutzen kann, aber der Cloud Act ist anderes, der betrifft doch etwas anderes, denn Cloud Act, den gibt es seit 2018, der verpflichtet jeden US-Anbieter, zu Daten herausgabe an US-Behörden, egal wo der Sövers steht, das können sie natürlich nicht einfach so machen, da müssen natürlich auch gewisse Hörden gewisse richteliche Beschlüsse und so was drin sein, aber das könnte mir ans Versein und es gab vor einigen Zeit, ich glaube, es gab 2025, es ist ein bisschen losgetreten, gab es eine Anhörung in Frankreich vor dem Chef von Microsoft Frankreich genau und der musste spezifizieren, wie weit auf diese Daten zugegriffen werden können, weil da Themen im Raumstande des Datenan-US-Behörden weitergegeben wurde, weil natürlich Frankreich auch komplett die ganzen Behörden irgendwie in irgendwelchen Microsoft Cloud hat und er hatte sowas gesagt, ich kann jetzt das ganze genauer, es ist nicht mehr, ich hätte es in einer vergangenen Wayverfolge mal erwähnt, aber ich sage, okay, ich kann nicht dafür garantieren, dass das nicht passiert, so ist auch unmöglich und das muss man sich heute immer so ein bisschen machen, okay, warum geht ich das jetzt als Unternehmer an, fast jede Mittelcheinternus irgendwie Microsoft 65, AWS, Google Workspace, das sind supersensibel Daten, Personalverträge, F&E, Kundendaten, man ist natürlich alles theoretisch, US-Behördenzug auf ausgesetzt, so ohne dass sie ein deutsches Gericht drauf schauen könnte, so und das ist natürlich ein Thema und es gab jetzt vor einiger Zeit eine, man kann jetzt nicht sagen, eine Gesetzesänderung, aber es gab vor einiger Zeit ein Word-Teil, also was der Supreme Court sozusagen dazu gesagt hat, also der, wie er die oberste Instanz sozusagen, und die hatten eine Behörde genannt, die sogenannte FTC, und die hatten gesagt, dass es nicht sah, also dass die FTC nicht unabhängig von der Direktion des US-Präsidenten sozusagen agieren kann, und das Schwächte diese Unabhängigkeit der FTC und die FTC ist eine Behörde, die unmittelbar mit diesem Cloud Act sozusagen zusammenhängig, und dann ist es einfach, weil das richtig jetzt nochmal spezifiziert und hier ist es so, dass es jetzt keine beschlossene Rechtsfolge, aber ein Risiko-Cinario, was sich daraus ergibt, das theoretisch einfacher auf oder schneller auf Daten zugriffen werden können, rückt wohl immer etwas näher. Ist aber glaube ich noch nicht, wie gesagt, beschlossene Sache, aber da passiert gerade irgendwas, also es ist total spannend, dass man dieses Thema Cloud Act und dann wäre es nachwesen will, ich glaube das ist Trump versus Florida, heißt das glaube ich, dass man sich dann einfach nochmal rein liest und nochmal schaut, was passiert er jetzt sozusagen langfristig mit. Okay, das heißt also nur weil Server jetzt den Frankfurtszu bei ich bestehende oder sowas, heißt das nicht, dass wir so verrennt sind, also es gibt da Dinge. Genau, also das heißt es ist ein Risiko sozusagen da, aber man muss halt einfach schauen, was das sozusagen jetzt bedeutet. Hat jetzt auch nichts mit dem Thema zu tun, das viele Leute sagen ja, wenn ich jetzt direkt so, sag ich mir ein Tropik oder ob ich auch mehr ein API in die API gehe, dann stehen diese Server nicht in der EU, sagen die stehen irgendwo in der USA. Und damit habe ich ja schon irgendwie ein Problem, dass die Daten eigentlich Deutschland verlassen. Und jetzt müssen wir gucken, dass ich dann entsprechende Vorkäerung, Maßnahmen, Treffe mit den zusammen, jetzt sind wir mal ganz ehrlich, ob jetzt wenn jetzt mittelschönlich oder ein kleines Unternehmen da ankommt und den versucht irgendwie was mit den Vertregen zu kommen, ich meine die haben ihr Standardvertragswerke da lachen die natürlich darüber. So kannst du also nicht machen. Ich weiß in den Subsubtions wie zum Beispiel in Teamplänen haben die standmesslichen auftaxt da verarbeitetungsartiger, also die PA in dater Processing Agreement. Aber für die anderen Dinge gibt es das in der Form nicht wie das brauchen. Deswegen macht es natürlich Sinn, dass du halt Modellen im Stine-Ugehause sind. Das gibt es natürlich auch von allen großen Anbietern, das gibt es von Google. Also das gibt die Gemini-Modelle, es gibt die Klott-Modelle. und es gibt die GPT-Modelle von OpenAI. Und da kannst du zum Beispiel zu der AWS gehen. Also Amazon Web Service, der sogenannte Service-Nensich "Bad Rock" und "Bad Rock" ist in der EU-Gehose, das ist in Frankfurt. Und da kannst du diese Modelle ganz normal benutzen. Du könntest aber auch zu Google gehen. Das ist eine sogenannte "Wurtex AI", so nennt sich das, also sind die Services von denen. Und da kannst du das auch machen. Und Microsoft hat das mit Azure mittlerweile auch eingeführt. Und dann sind die Server in Deutschland. Und dann kannst du diese Modelle DSG-VO-Conform nutzen. Und dann läuft das halt ja über diese Daten-Localität, also die Residenz. Hier Deutschland, wie gesagt, gibt immer noch das Thema Cloud AI-Ekt, was immer noch so ein bisschen als Thema, bei dem hinter Kopf sein sollte, was ein Problem ist. Genau. Okay, was können wir jetzt machen? Wie können wir jetzt eigentlich weiter vorgehen, um uns auch so ein bisschen unabhängiger von diesen ganzen Dingen zu machen? Ich denke, der parkenartige Mittelweg ist immer so, wo er eine Date geht nach Datenklasse und nicht nach Ideologie. Also es ist eher eine Architekturfrage. Und ich denke, in Fehler ist es in alles oder nichts zu sehen, entweder alles US, so zu sagen oder alles, ja, wie selber Hosten, beziehungsweise alles über US-Modelle nehmen und dann über EU-Housing oder halt nicht. Ich glaube, es wäre eher so, dass man Daten klassifizieren würde und dann pro Klasse entscheiden sollte. Warum liegt das jetzt als Unternehmen angeht? Du musst halt nicht blind bei den Riesen bleiben und irgendwie muss auch kein Millionen Rechenzentrum bauen. Der realistische Einstieg, der kostet sich im Übrochen und nicht Jahre. Und es ist irgendwie im Tausendab ist 5.000-Bereichprojahr drin und nicht 7-stellig so. Was heißt das jetzt? Man könnte zum Beispiel sagen, okay, man hat und krediche Workloads die einfach bestimmte Modelle brauchen. Man kann dann die Frontiermodelle nehmen, also zum Beispiel für einen Thropic oder von Gemini oder von OpenAI und kann die dann neben den EU-Houses sind. Damit hat man die Möglichkeit, ich sag jetzt mal, 70-80% vielleicht darüber abzudecken. Man hat nicht die Geschäftskritics-Themen drin. Man hat die einfachen Dinge drin, die auch normale Modelle machen könnten. Das wäre eine Möglichkeit. Du könntest aber auch hingehen und sagen, "Hey, ich möchte das Ganze zum Beispiel Self Host" "N Self Hosting wird mittlerweile immer wieder erwähnt und ist ein super, super spannendes Thema." Das spannende dabei ist, dass man sich irgendwie nicht eigene Rechenzentren oder so was mitten kann. Ich kann Unternehmen, die haben das mittlerweile bei sich wieder so den guten alten Fetten-Servor im Keller irgendwie stehen. Nur das da halt anschaut jetzt irgendwie ohne Ende Festplatten und RAM halt der richtige GPU-Karten sind, die irgendwie 20-30.000 Euro kosten. Also Karten, die das Ganze rechnen können, um den ganzen Token verbraucht auch mitzunehmen. Und das wären halt Möglichkeiten, die man machen könnte. Man kann aber auch mittlerweile, weil sich gibt es in Deutschland IT-Servor, was sie sich darauf spezialisiert haben, Modelle zu hosten. Und damit kann man sozusagen weiter reingehen. Es gibt aber auch noch eine andere Möglichkeit, nämlich die EU-Modellandschaft abzukrassen. Es gibt da halt mehr als nur ein Mist-Trill. Und Mist-Trill ist natürlich Frankreich, wie er man schon gesagt hat, würde ich sagen, in EU halt der klarer Champion, diesen da angeführt. Und die haben verschiedene Modelle für verschiedene Aufgaben. Mist-Trill ist zum Beispiel unglaublich stark in der RZR-Erkennung. Also wenn du zum Beispiel Rechnungen hast, du Buchhaltungsprozesse und du willst dann Daten davon einlesen, sind die unglaublich, haben die unglaublich stark als Modelle. Also wir haben eine sehr, sehr gute Erfahrung gemacht, das zum Beispiel super spannend, aber auch verandere Dinge. Genau. Ja, dann gibt es noch etwas. Das heißt, LF-Alpha, die kommen, glaube ich, aus Heidelberg oder Kamos Heidelberg. Ich meine jetzt, dass sie mittlerweile leider kanadisch geworden sind, so wie ich es gehört habe. Genau. Und die haben verschiedene Kunden gehabt, auch deutsche. ja, Bund, Kulten oder Linderkulten oder so was. Behörden Enterprise-Gabernens. Und als ich gelesen habe, ich konnte das nicht 100% bestätigen, deswegen ist es jetzt diese Aussage. Ich kann es nicht 100% nicht sagen, aber ich habe gehört, dass es jetzt kanadisch ist. Aber ich bin nur gedacht, okay, Deutschland ist größte KI-Hoffnungssetz-Hallein des kanadischen Konzerns. Ist ja wieder super gelaufen. Ja, genau. Dann gibt es natürlich Black Forest Labs Flux. Kennen super viele so aus dem letzten Jahr. Es glaube ich immer noch Weltspitze in der Videogenerierung. Weißen nicht, ob die komplett noch in Deutschland beheimatet sind. Aber es ist auf jeden Fall richtig cool für Bildproduktion. Und dann gibt es noch etwas vom Frauenhofer-Institut. Das heißt, Tolkens Heaven B. Und ja, das ist noch ein bisschen, finde ich noch ein ja Zukunftsbaustein irgendwie. Und dann gibt es noch Open-Euro-LLM. Das ist ein EU-Konservation, wo ich glaube, ungefähr 20 Institutionen mit drauf gehen. Die haben so knapp 40 Millionen Budget. Und genau, die haben so 24 EU-Sprache, wo sie was machen will, machen wollen. Und das ist aber aktuell auch noch ein Forschungspoerkt. Also, das heißt, der Hebel liegt wie eben schon gesagt in der Infrastruktur, nicht im Modell. Das heißt, hier muss man sich wirklich Gedanken machen, wie kann man das Ganze sozusagen angehen. Das heißt, wenn du jetzt konkret dir überlegst, okay, das ist alles schön und gut, was kann ich jetzt irgendwie machen, wie kann ich das jetzt benutzen, was kann ich jetzt hier für mich mitnehmen? Ich würde sagen, mach erst mal 5 Steps. In 5 Schritten kann ich dir sagen, was ich an deiner Stelle tun würde. Erst mal schon eins klarten Daten-Klassifikationen. Also, ist für mich auf jeden Fall ein Chefsachathema, denn das ist eine Frage, die natürlich Geschäftsführung beantworten muss, bevor die IT jetzt sagt, okay, und die Frage ist, die welche unserer Daten dürfen eigentlich unter welchem Bedingungen des Haus verlassen. So, wenn ohne diese Klassifikationen baut man nachher irgendwie am falschen Ende. So grobe Klassen kann zu sagen, zum Beispiel, unkritisch, marketingen für öffentliche Dokumentation, sensible Daten, Kundendaten, Personal, etc., hochsensibel, Verträge, M und A, F und I und so. Genau. Also, wenn du das hast, Schritt 2 würde ich folgendes machen, ich würde dann eine Klasse zuordnen. Ich würde sagen, okay, beteilen in drei Bereiche ein unkritisch, sensible und hochsensibel. Und für unkritische Dinge, was wahrscheinlich 78% sind, können wir einfach klassische Front-Eye-Modell nutzen, für T. Cloud Gemini, EU gehostete Region, wie gesagt, Bedrock, Vertex AI oder Azure. Haben eine super Qualität, günstige Token. Und ja, das sind so als weg Dinge. Und wenn das nachher nicht funktioniert, dann kann man hier auch, denke ich, auch zügig wechseln. Ich kann mir vorstellen, dass jetzt kein Land irgendwie komplett in H&M zudrinnen würde, sondern nur für die krassen Modelle. Das heißt, da wird wahrscheinlich sein, dass man auch noch Zugufstoff hat, weil jetzt in diesem ganzen Thema war es ja so, dass wir High-Cose, Net, Opus und so, also die drei anderen Modelle von einen Topic nach wie vorher auch Zugufstoff hatten. Okay, dann hatten wir einen zweiten Punkt, sensible Daten. Das könnten 15, 25% vielleicht bei der Ausmache machen. Da würde ich gucken, dass du wahrscheinlich irgendwie EU anbietern nimmst, also Mistrel oder so was. Dass wir eine Möglichkeit und du hättest dann noch vor Hochsensibel Daten, könntest du zum Beispiel ein selbst gehustes Open Wide Modellen nehmen. Open Wide Modell heißt ein Modell, was jetzt nicht so viele Trainingsdaten setzer hat. Deswegen leichter sozusagen ist, aber für klassiche Aufgaben auch super gut, meine Sachen geeignet ist. Wenn wir dann zum Schritt drei gehen, zur Multi-Modellfähigkeit als Biars in Bissenfersicherung, dann würde ich sagen, können wir jetzt von einer strategischen Vorinvestition im Jahr 2026 sprechen. Man könnte eine eigene Plattform Architektur bauen, die mehrere Modelle und mehrere Hostingorte gleichzeitig bedienen kann. Das kennst du von früher, wenn du Server hattest, dann hast du immer gesagt, okay, ich habe innerhalb eines Server sehr immer unterschiedliche Festplatten, die sich Spiegeln für Backups und die Leute, die cleverer IT-Berater hatten, ja, wir müssen aber auch nochmal das Ganze in der Firma haben und kann auch an der Chef hat zu Hause noch ein Server stehen oder so, wo alles gespiegelt wird, dass es ein bisschen etwas ähnlich ist. Das heißt, du bist deine Person am Heck gegangen oder du machst einfach so, dass du sagst, du nötzen, ein anderes gutes Modell, findest in der EU, was funktioniert, dann bist du dann nicht auf einen an Bitterfest genagelt. Und wenn der nächste Fable 5 Modellen kommt, bis hat nicht in der Falle, sondern guckst in dieser halte, relativ entspannt rein. Genau. Schritt Nummer vier wäre immer konkret ausprobieren und klein starten, so pövigiges Thema. Also, das heißt, ich würde erst mal gucken und zum Beispiel Mistrel, nur zu diesem API, ist eine coole EU-Erenative. Check's einmal, lass mal Agenten mitlaufen, mach mal deine Erfahrungswerte, informiert dich, welche Unternehmen könnt ihr dabei helfen, eigene LMS zu hohsten. Wie sehen auch Kosten und Investitionen dafür aus, wie schnell kann sowas starten? Ich finde es immer spannend, wenn man so ein Server nicht in der Haus hat, sondern wirklich in einem Rechenzentrum, was in Deutschland oder sowas, irgendwie steht, weil die machen nichts anderes als Server betreiben und sicherstellen, dass die auch funktionieren in einem gewissen Modell. das ist ein Aspekt sozusagen. Deswegen ist es meist wahrscheinlich günstiger. Genau. Und Schritt Nummer fünf wäre dann Souveränität, einfach auch als Instrument für dich benutzen, denn wenn du jetzt irgendwie ein B2B mittelschendler hast bist und du kannst der SGFO konform sein, da hat ein Bleib in EU, das kann zu klar für dich benutzen. Wenn du ein Einsetz um eigene Geschäftsmodelle zu jetzt nicht bevor in so eine neue Geschäftsmodelle zu erschließen, dann finde ich, ist dieser Compliance zwar einfach unglaublich wichtig und das ist nachher auch eine Differenzierung und wer damit früh ansetzt, der hat dann überhaupt in meinen Augen eigentlich gar keine Probleme mehr. Okay, komme mal zu einem neuen Punkt. Ich weiß, dass es jetzt alles ein bisschen trocken, aber ich glaube, das ist wirklich wichtig, weil man muss sich über diese Dinge wirklich ja einfach Gedanken machen und auch überlegen. Lasst uns mal noch mal als Punkt überlegen, was bedeutet eigentlich Self Hosting? Also was kann ich mir Self Hosting eigentlich ganz konkret machen? Und was ist das eigentlich? Weil man hört überall gerade eine Einigkeit im Haus, der ist GFO-Konform, Self Hosting, aber die ehrliche Frage dahinter ist jetzt, muss ich mir jetzt wieder den Zürich schrankt, doch für den Ketter stellen, damit man da nicht irgendwie auswandeln. Also ich hatte ja eben schon angedeutet fast immer nein, meine Sachen, aber lass uns das jetzt noch mal auf trennen und nochmal irgendwie in Klartex packen. Also Self Hosting, was ist das überhaupt so? Du mietest die KI jetzt nicht mehr stundenweise beim großen Resseranbieter, also zahlst für diese Computer-Time mit dem Token, sondern du stellst die KI-Fähigkeit einfach fest ins Haus. Das ist, kannst du vorstellen, als wenn du dir heute wieder einen hoch spezialisierten Sachbararbeiter stundenweise beim Dienstleister boost und jedes Dokument, das du bearbeiten soll schickst im Papast rüber. Das ist so, was du eigentlich mehr oben eher ein Topplik und so was machst, ein MS-Rechenzentrum oder ein EU-Rechenzentrum. Das ist super bequem, aber die unterladen verlassenes Haus und du zahlst halt Poseidem und Self Hosting heißt eigentlich, du stellst die Sachbarbeiter selber an, also das Gehörn. Und bei KI heißt das einfach das Modell und das ist eine große Dateide, die du herunterletzt, je nachdem mehr Regie ginge, oder immer mehr Regie bei der Kos und die kannst du auf dein eigener Rechener spielen, auf dein eigener Entzuer spielen und diese Modellen nennt man in der Regel oben white Modelle, weil das sind frei verfügbare Modelle, Ljerma von Meta, Mistrug gibt es dann auch, wenn es ist ein chinesisches Modell oder mit deutscher Option wie zum Beispiel Token von Frauenhofer und Alfa, da müsst du aber nochmal genau schauen, wie man diese ganzen Modelle nutzen kann, denn es gibt eine Lizenz-Falle, da komm ich gleich nochmal aufzu, dass wir so viele Leute nicht deswegen kann ich gleich dazu nochmal wissen, was was mitgeben, genau. Okay, also das heißt wir haben das Modell, wir brauchen einen Server, wir brauchen eine GPU, also klassisch früher eine Grafikarte, die dann diese ganzen Rechenleistungen braucht und diese Grafikarten sind halt richtig hochgezeichnet und verdammt teuer. Deswegen macht es meistens Sinn, dieses Server zu mieten, weil man muss jetzt immer schauen, das ist wie damals bei den klassischen Website, man kann natürlich für sich selber einen kompletten Server mieten, dass halt viel teurer ist, man kann aber auch sich leistungen teilen, das heißt jetzt nicht, dass irgendwie Daten verschwinden, das heißt einfach nur, dass man ja GPU-Zeit sich aufteilt, was kosteneficienter ist und dadurch wird sonst hellfussing auch dann deutlich günstiger sozusagen, als wenn man sich selbst jetzt einfach auch kaufen würde. Okay, lass uns mal über diese Dezenz fallen sprechen, wie ich das eben gesagt habe. Also man muss immer schauen, in der Lizenz Datei, über was oder wofür ist diese Oben-Source-Dezenz eigentlich gedacht. Bei Ljama ist es so, es ist keine meines Erachtens, keine echte Oben-Source-Dezenz, denn es gibt einen Namensnummer im Zlicht, plus eine Klausel, die sagt, die ab 700 Millionen monatlichen Nutzen eine extra Genehmigung verlangt. Okay, wer 700 Millionen Nutzen monatlich hat, hat noch ganz andere Boleme, aber ich würde einfach zeigen, es ist kein Freifahrtschein. So, bei Deepseek zum Beispiel, es kannst du auch nutzen, da kommt es ganz teils komplett ohne Start-Dezenz immer aus. Also ich konnte keiner recherchieren, konnte keine finden, das ist ein bisschen weird. Es heißt, in familie ich wirklich, wenn es Self-Hose ist darüber, was es in diesen Oben-Source-Dezenz mit drin und was ganz zu machen. Okay, nehm ich mal an, du hast diese Hürde genommen, du hast einen Dienstleister gefunden, der das vielleicht für dich macht, der ich unterstützt. Und jetzt geht's halt darum zu überlegen, okay, jetzt wird immer so, hör ich immer wieder ein Wort, ja, wir trainieren unser ein eigenes KI. Das habe ich schon 2023 die ganze Zeit immer gehört. Das ist totaler Bullshit, im Dut-Trennier in der Regel keine eigene KI-Binder-Eigente, kann ich trainieren, würdest. Dann würden wir über ein Investment wahrscheinlich von, ich glaube, die Deepseek hat angeblich nur 7 Millionen gekostet. Ich meine, dass Oben-AI-GPD4 hat 70 Milliarden Dollar gekostet oder so. Also es ist unglaublich teuer, diese Modelle zu trainieren, was du wahrscheinlich dann meintest, entweder so in Rack zur Verfügung stellt, es ist Feintused, aber in der Regel nicht trainieren. Okay, was bedeutet das jetzt eigentlich? Lass uns mal hier mit diesen Denkfehler aufräumen, ich reiche hier ja das Modell mit unserem Firm bisschen an. Genau, also es ist etwas anderes wie die meisten denken und ich erkläre einmal, wie das funktioniert. Meistens ist es ein Rack-System, also ein Regrival, der wie folk funktioniert. Ich gebe dir mal ein Beispiel, stell dir vor, du hast einen Mitarbeiter, du hast einen Akkenschang, schätz in den Nebenraum. So, komm eine Frage, holte sich die passende Akte, liest die nach und beantwortet dir mit Quellenangabe. Das Gehirn selber, also das wird nicht verändert, es ändert sich ein Preis oder eine Richtlinie oder du tauscht einfach nach Akte aus, aber du tonnierst halt nicht neu, das heißt, der Mitarbeiter hat ja sein Gehirn nach wie vor. So, das ist der übliche und günstige, meist oft richtige Weg für mich firm wissen. Es hat auch Probleme, weil Rack funktioniert so, dass es semantisch ähnliche Dinge ausließt, das heißt, wenn du zum Beispiel sagst, Preis-Kalculation, dann wird oft bei so Rack-Systemen nach dem Keyword Preis-Kalculationen geguckt, aber auch zum Beispiel könnte das Wort Investition fallen oder Preise oder Kosten, also semantisch verwandt. Und dadurch ist manchmal Rack, ist nicht in allen Fällen die beste Entscheidung und man funktioniert trotzdem recht gut und dann gibt es sogar unter Konfidentiskurs, also Wahrscheinlichkeiten, wie sicher die KI ist, dass es Ergebnis das Richtige ist und dadurch kriegt man halt eine sehr gute Qualität hin. Und letzten Endes ist so, du kannst mit Rack-Systemen in wenigen Wochen starten mit einem Open-Social-Lam, das sind niedige, fünf-IV-Gekosten meines Erachtens und das geht sehr schnell. So, wenn man jetzt von einem Feintjuen reden würde, dann wäre es eher so, dass du sagen würdest, du gibst es mit LoRa oder Q LoRa, sind die Fachwerte dafür, gibst du etwas ein und du gibst die Modell nochmal eine Rahmen mit und dieser Rahmen ist so, dass es sozusagen die Form für die Form ist, wie dieses Modell anfohren soll, was es macht. Und dadurch hast du die Möglichkeit, das zum Beispiel sagen kann, du kannst genau erklären, wie dieses Modell anwauten soll und tust Standard Dinge festhalten, das kann sein Modell aber auch einschränken in gewissen Dingen, kann aber auch hilfreich sein, das muss man halt je nach Case sehen. Deswegen habe ich hier gesagt, ein klassischer Rack ist eigentlich immer besser oder aber und das ist der Weg, der aber immer sehr viel Computing-Time kostet, dass du dem natürlich die ganze, also dem System die ganzen Dokumente in echt Zeit zur Verfügung stellt, also das ist wie wenn du im Clutch Head öffnest und du letztendem irgendwie in der Microsoft Wirtatei oder so was rein, dann gibst du den Modell super viel Informationen, das muss erst mal alles tokenisiert werden und das ist halt das Problem, bei Rack passiert das nicht, weil Rack wird es einmal nicht tokenisiert. Es gibt einen Zahlenabfolge, es werden nur noch Zahlen gesucht, dadurch ist es unglaublich schnell, unglaublich effizient und verbraucht wenig token. Wenn du das über erkommliche Weg gemacht, ist es natürlich nicht so einfach möglich, genau. Also es heißt, Long-Sew schaul dich jetzt gar nicht so tief drauf eingehen, aber es gibt verschiedene Möglichkeiten, das zu machen und ich glaube, Robenzorce ist ein super spannendes Thema, weil mittlerweile diese Robenzorce-Modelle auch immer besser geworden sind. Natürlich kommen die nicht an diese Front-Heyer-Models ran wie auch, ich meine damit wird ja bei den ganzen großen Firmen auch Geld verdient und wenn die diese aufgebluserten Bewertungen, teilweise weiß ich nicht in 900 Milliarden Dollar bei ein Shopping oder wahrscheinlich mittlerweile noch mehr anschaut, dann muss natürlich irgendwann auch die Zähne zahlen, aber das ist mal eine andere Folge. Das heißt, hier muss man wirklich schauen, wie gut sind die wirklich. Ich glaube für wahrscheinlich 70-80 Prozent der Aufgaben in der fällen tägliche Boarbeit, ihm jetzt formulieren, dokumenten zusammenfassen, ansachen, dass sie wirklich weiterleiten, internen Dokumenten suchen. Da brauchst du nicht den Formel 1-Wagen Self-Hosing, wird damit Sicherheit ausreichend. So, du könntest was Kasses hast, wo du sagst, okay, das ist ein langer Denkprozess, da müssen viele Schritte mit rein gebracht werden. Das ist ein Agent Demost 20, aber tschüttest selbst, den ich machen, Fehler, Feier, Abarbeiten und so weiter und so fort. Dann würde ich sagen, ist wahrscheinlich, ob es was nicht so cool geeignet. Dazu kann man sich natürlich auch um ein Benchmark rein schauen, aber das ist auch immer so ein bisschen mit Vorsicht zu genießen, wenn man sich das Ganze sozusagen anschaut. Okay, das heißt also, du hast Feierch jetzt kennengelernt, du hast verschiedene Möglichkeiten, Self-Hosing zu betreiben, das verschiedene Möglichkeiten, Souveräner auf KI sozusagen drauf einzugehen. Man muss sich nicht komplett abhängig machen von den ganzen Weißern bieten. Ich denke, die Vorteile, die sind einfach, man hat Daten oder die Daten bleiben nach weißbar irgendwie im Haus oder in der EU, wenn man bestimmte Grenzen einhält, man hat nicht dieses Kills, welcher Risiko keiner spätt, dich einfach so aus, als fremder Regierung. Du hast eine hohe Kostenkontrolle, bei gewissen Volumen, du kannst komplett der SGFO konform sein, du kannst in der EU sein, du kannst auch im eigenen Haus gehose sein, das ist für nicht super spannendes Thema. Und du kannst natürlich auch Austausbarkeit machen, ob Self-Hosing jetzt viel Geld spart. Ich würde sagen nicht unbedingt, weil ich glaube, wenn man Self-Hose, das ist der Grund der Datenhoheit, die versteckten Kosten im Self-Hosing sind Renonanz, Back-up, Personal, also Leute, die dann dafür sorgen, dass das Ganze auch wartbar bleibt. Das heißt, hier muss man eingehen. Ja, zum Ende würde ich gerne dir noch mal kurz vorgen Gedanken mitgeben. KI-Sufforient-Head ist für mich keine Ideologie. Sie ist ein klassisches Risikum-Meldenschmeld, jeder Unternehmerin und Unternehmer geht wetten in seinem Unternehmen ein, versucht mit Sportanalyse und was Risiko zu minimieren. Deswegen würde ich einfach sagen, behandle deine KI wie ein die Verhanden, nie nur eine Quelle. Denn der älliche Grund für Self-Hosing, wie gesagt, das Datenhoheit ist nicht kostenerspannend, ob wir alle von großen Modellen abgegrenzt werden in der Zukunft. Wir wissen wir nicht, aber wie immer gilt, wer vorbereitet ist, hat es später einfacher. In dem Sinne ich hoffe, die Folge war nicht zu verwurzelt, nicht zu technisch, aber mir war wichtig, dass wir das ein bisschen erörtern. Ich glaube, du hast noch mal eine neue Perspektive darauf bekommen, auch was es für Möglichkeiten gibt. Deswegen, gering, macht ihr Gedanken, Wir haben uns in der nächsten Folge. Bis dahin. Ciao.