KI-Update kompakt: Grok auf Abwegen, Suizid durch KI?, ChatGPT Health, SleepFM, CES-KI

Das KI Update. Ein Heisepodcast, mit redaktioneller Unterstützung von The Decoder. Ich bin Marco Pauli, und die sind heute unter anderem unsere Themen. Grocks verstörende KI-Bilder. Suizid durch KI, JetGPT-Health, SleepFM und KI News von der CES. Grock, die KI von Elon Musk's XAI, kann von Menschen dazu genutzt werden, um anhand von eigentlich harmlosen Fotos, Personen digital zu entkleiden und sexualisierte Versionen auf X zu posten. Es ist kein Zufall, dass das besonders häufig mit Grog geschieht, denn XAI gewährt dem Jet-Bot Funktionen, die sexualisierte Deepfakes erst möglich machen. Nun gibt es erste Untersuchung dazu, wie häufig diese Art der Nutzung ist und wie sich der Jet-Bot dazu verhält. Martin Holland berichtet. So hat eine KI-Forscherin einfach mal 24 Stunden lang alle Antworten, dieses Jet-Bots überprüft und gezählt und hat mittelt, dass der fast 7000 solcher Bilder pro Stunde erstellt im Schnitt. Das sind mehr als 80 mal so viel wie auf fünf anderen Plattformen, auf denen man so etwas machen kann, zusammen. Man kann bei diesem Jet-Bot einfach einen Bild verlinken und sagen, kannst du bitte diese Frau oder die Person, die da drauf ist in einem Beklinie oder ein Unterwäsche oder ein sehr kurzer Kleidung darstellen und der KI-Jet-Bot generiert dann ein Bild, das eben so aussieht. Auch wenn es natürlich nicht die richtige Person zeigt, ist das trotzdem höchstproblematisch für die Betroffenen. Und teilweise macht er das eben auch bei minderjährigen und bei Kindern. Und jetzt ist eben auch deutlich, dass das ein immenses Ausmaß erreicht hat. Also es gibt auch ganz heftige Kritik an den Leuten, einerseits sie das machen, aber auch an X, der das zulässt. Gleichzeitig hat das so es Magazino-Wired herausgefunden, dass auf der Website von Grog, also diese KI von Xie hat auch eine eigene Website. Also man musste nicht nur über den kurzen Errichten, die ins X befragen, man kann auch direkt die zur Genervierung von Inhalten auffallen, dass da offensichtlich noch viel, viel problematischer Inhalte entstehen. Das kann man normalerweise nicht sehen, weil die Privatsen, also wer das in Auftrag gibt, bekommt die Inhalte nur selbst angezeigt. Aber es gibt eine Lücke, die oder zumindest ein Weg daran zu kommen. Es ist ein Klaubs, eine Lücke, die im Sommer letzten Jahres entdeckt wurde, und zwar wer da Inhalte erstellen lässt von Grog und darunter auf einen Teilen batten klickt. Also um das zum Beispiel per WhatsApp weiterzuschicken oder ein Facebook zu veröffentlichten, der generell ein Link, der von Google indexiert wird und über Google lassen sich diese Inhalte auch finden. Und da sieht man eben, dass diese KI auch solche Videos erstellt, auch viel problematischer, auch ohne diese Geschenkung darauf, dass die Person, die da digital entkleidet wird, also dass die noch ein bisschen Kleidung trägt, da wird passieren auch ganz, also da wird dann ganzen Nackdarstellung passiert. Und es gibt auch sexuelle Handlungen, die da dargestellt werden, viel Blut und problematische Sachen. Und es ist unklar, ob es überhaupt Schutzmaßnahmen gibt, um zum Beispiel auch richtig verboten, ethnografische Inhalte dazustellen. Grog sieht nicht vor, das Alter zu überprüfen. Also im Prinzip kann jeder Internet-Nutzung, die das machen, da solche Inhalte sich generieren lassen. Danke Martin, auf X hat Grog am Freitag morgen damit begonnen, bitten um eine Bildgenerierung abzulehnen. Nötig sei dafür jetzt ein kostenpflichtiges Abo, heißt es in den Antworten. Martin Holland bleibt leicht dran für das KI-Update in Sachen hochproblematischer Nutzung von KI Chatbots. Character AI und Google standen unter Druck da Jugendliche nach Nutzung der Character AI Chatbots sich oder andere verletzt haben. Ein Jugendlicher nahm sich das Leben nach einer monatere andauernden Unterhaltung mit einem KI Chatbot von Character AI. Die Mutter hatte klage gegen das Unternehmen eingereicht. Der Rechtsstreit ist einer der ersten Fälle in den USA, in denen KI-Unternehmen wegen möglicherweise verursachter psychischer Schäden zur Verantwortung gezogen werden sollten. Bevor aber vor Gericht verhandelt werden konnte, haben sich Google und Character AI nun außergerichtlich mit der klagenden geeinigt. Noch einmal Martin Holland. Es geht um Fälle in den Jugendliche, den Dienst von Character AI benutzt haben, um mit Chatbots zu reden, zu schreiben, die vorgeben bestimmte Figuren zu sein. Zum Beispiel aus Fernsehseehen oder so. Und die Jugendlichen oder die Kinder haben sich dann teilweise danach selbst verletzt oder die wurde dann von diesen Chatbots geraten und entfohlen. Die genicherte Text hat das nahegelegt, dass sie andere verletzen oder schildigen soll. Und in einem Fall, und das ist der berühmteste und der aufsehender Regenste, geht es um den Vorwurf, dass ein Jugendlicher mit einem Chatbot von Character AI geschätzt hat, der sich ausgegeben hat als seine Figur ausgemacht vor uns. Und irgendwann nach einer Konversation mit diesem Chatbot sich selbst das Leben genommen hat. Und da war ihm der Vorwurf im Raum, dass es da nicht genug Schutz davor gibt. Und Character AI hat zwischen auch reagiert und 18 unter 18-jährige von einen Platschform ausgeschlossen. Und Google war Teil dieser Rechtsstreitigkeiten, weil Character AI ist von Ex-Angestätten von Google gekündet worden. Und Google hat die Technik desensiert und auch stark daran beteiligt. Die Teist der Einigung sind nicht öffentlich geworden. Also klar, ob und wie viel Geld da z.B. fließt. Und noch müssen die Gerichte, das sind insgesamt vier Fälle in viel verschiedenweiß Bundesstaaten, dem Vergleich jeweils zuständig. Danke Martin. Open AI hat ChatGPT Herf vorgestellt, einen separaten Gesundheitsbereich innerhalb von ChatGPT. Der KI-Assistent verknüpft da persönliche Gesundheitsdaten mit dem Chatbot und soll Nutzer dabei helfen, medizinische Befunde zu verstehen, Arztbesuche vorzubereiten und Fitnessdaten auszuwerben. Malte Kirchner berichtet. Open AI betont dabei, dass ganze Säule medizinische Versorgung unterstützen, aber nicht ersetzen. Zunächst ist ChatGPT Herfs nur für eine kleine Gruppe früher Nutzer zugänglich, über eine Warteliste. Und hier wird es für uns in Europa interessant. Die EU, die Schweiz und Großbritannien sind vor, es ist komplett außen vor. Verflügbar ist das Feature für alle Accountstüpen von kostenlos bis pro. Der Hintergrund laut Open AI stellen weltweit über 230 Millionen Menschen pro Woche Gesundheitsfragen an ChatGPT ein riesiger Anwendungsfall also. Was kann ChatGPT Herfs konkret? Das Herzstück ist die Integration mit Apple-Herfs, also der vorinstallierten Gesundheitsapp auf dem iPhone. Darüber kann ChatGPT auf Daten wie Schritte, Herzfrequenz, Schlafmuster oder Trainings-Einheiten zu greifen. Zusätzlich lassen sich Fitnessapps wie My Fitness Perl, Peloton oder Weight Watchers verknüpfen. In USA können Nutzer sogar elektronische Patienten-Aktien anbinden. ChatGPT Herfs kann dann zum Beispiel Laborergebnis interpretieren, Militinische Dokumente übersetzen, Ernährungsempfehlungen geben oder Trainingsroutinen erstellen. Auch beim Vergleich von Versicherungsoptionen soll der Assistent helfen. Beim Datenschutz verspricht Open AI besondere Schutzmaßnahmen. Gesundheitsschärz werden getrennt von normalen Unterhaltungen gespeichert, mit Verschlüsselung und Isolierung. Die Daten sollen nicht zum Training der KI-Modelle verwendet werden. Konkrete technische Details nennt Open AI allerdings nicht. Und gerade mit Blick auf die unterschiedlichen Gesetze zwischen USA und Europa sollte man diese Versprechen mit Vorsicht genießen. Warum bleibt die EU draußen? Gesundheitsdaten gelten nach der Datenschutzgrundverordnung als besonders sensibel und unterliegen Strennen regeln. Datenübermittlungen in den USA sind nur mit speziellen Garantien erlaubt und bei Gesundheitsdaten schauen die Aufsichtsbehörden besonders genau hin. Dazu kommt, wenn ChatGPT Herfs als Medizinisches Produkt eingestuft würde, müsste es die EU-Medizinprodukte Verordnung erfüllen. Auch der AI-Ekt könnte hier zum Problem werden. Dann bleibt noch eine kritische Frage, wie verhindert Open AI das Nutzer dem System zu sehr vertrauen? Trotz aller Wahnenweise, dass ChatGPT Herfs keine ärztliche Beratung ersetzt, wirbt Open AI mit dem Chatboard als Zitat Navigator für die Gesundheit. Das könnte bei manchen den Eindruck erwecken, es handelt sich doch um eine Art KI-Arzt. Wie das Unternehmen durch technische Schutzmaßnahmen sicherstellt, dass Nutzer bei akuten Symptomen nicht auf Notruf oder Arztbesuch verzichten, das bleibt offen. Danke, Maltet. Wissenschaftler der Stanford-Universität haben ein KI-Modell entwickelt, dass oft Basis von Schlafdaten Krankheitsrisiken vorher sagen soll. Das Modell heißt "Sleep FM", wobei FM für Foundation-Modell steht, ein Grundlagenmodell also. Sleep FM nutzt riesige Datensätze von Schlafoffzeichnungen, um nicht nur den aktuellen Schlafzustand zu analysieren, sondern das Risiko für die Entstehung von über 130 verschiedenen medizinischen Erkrankungen vorherzusagen. Dr. Fabio Denschtät hat sich die dazugehörige Studie, die in Nature Medicine veröffentlicht wurde, angesehen. Hellig wie groß Sprachmodelle hinter Anwendungen wie JetGPT natürliche Sprache gelernt haben, hat diese KI die Sprache des Schlafs gelernt. Trainiert wurde das Modell mit über 585.000 Stunden ein Aufzeichnungen aus der Polysomnografie. Die Polysomnografie ist eine umfassene Untersuchung der Schlafmedizin, bei der gleichzeitig Hirnströme, Herzaktivität, Muskelbewegungen und die Atmung aufzeichnet werden. Das Ziel war aber nicht nur den Schlaf selbst zu analysieren, die KI nutzt die komplexen Signale eine einzige Nacht und vorherzusagen, ob jemand in den nächsten Jahren Krankheiten entdecken wird. Die Ergebnisse sind beeindruckt. Das Modell erkennt zuverlässig die Risiken für über 130 verschiedene Erkrankungen. Gemessen wurde die Präzision dabei mit dem sogenannten C-Index, einem etablierten Index für solche Prognosen. Besonders präzise waren die Vorhersagen unter anderem für Alzheimer, Cross-Satter-Griebs und Diabetes. Damit übertrifts SleepFM klassische medizinische Risikofaktoren wie Alter- oder Body-Mars-Index deutlich. Darüber hinaus ist das Modell robust in seinen Vorhersagen. Die KI liefert selbst dann verlässliche Daten, wenn man ein Sensor ausfällt oder die Aufnahmequalität schwankt. Was ein häufiges Problem bei Schlafmessungen mit der Polysomografie ist. In Kombinationen mit modernen Variables wie Smartwatches könnten diese Erkenntnisse zu dem bald den Weg aus dem Schlaflabor in den Alltag finden und eine kontinuierliche Gesundheitsüberwachung ermöglichen. Das fahrt sie der Forscher. Schlafmessungen könnten künftig weit über die reine Schlafdiagnostik hinausgehen und dann keiner Lüse als präzises früfern System für unsere langfristige Gesundheit dienen. Danke Fabio. Bis zum heutigen Freitag findet in Las Vegas die CES die größte Technologie-Messe der Welt statt. Andere Krama ist vor Ort und hat sich umgesehen, welche Neuerungen in Sachen KI präsentiert werden. Ein großer Schwerpunkt der CES-20026 liegt auf Humanoiden Robertan. Auf vielen Messeständen laufen diese Robertan mittlerweile umher, als wäre es kein großes Problem, wo sie vor wenigen Jahren allerdings noch nach drei Schritten umgefallen werden. Und da kommt das Thema Physikellei zum Tragen. Das sind Bewegungsdaten, mit denen sich solche Roboter trainieren lassen und solche Daten sammelt beispielsweise das Unternehmen Nvidia. Das Kanadisches Data-App-Hapley-Robotics hat ein Eingabegerät für Roboterhände entwickelt, das dem Nutzer über Motoren taktisches Feedback gibt, er spürt also was der Roboter spürt. Und genau solche Daten sind wichtig für Nvidia, das damit seine Physikellei trainiert. Das chinesische Unternehmen AGI-Bot stellt beispielsweise sehr agile Roboter her. Das OS-Unternehmen Bossen Dynamics hat erstmals seinen Atlas-Roboter live vor einem großen Publikum vorgestellt und Hyundai plant in Zukunft 30.000 solcher Roboter in seinen Fabriken einzusetzen. Künstliche Intelligenz spielt nicht zuletzt auch im Automotive-Bereich eine große Rolle. Das niederländische Unternehmen hier hat beispielsweise Behavioral-Menu, was vorgestellt. Die Lenk- und Brems-Bewägung sowie beim Menschen ausfinden sollen. Grundlage dafür bilden Daten von Millionen von Fahrzeugen. Ein ähnliches anders verfolgt Bossch mit seiner Software Vehicle-Motion-Management. Sie steuert Bremse-Lenkung, Antrieb und Fahrwerk so, das Räubewägung in Kurven und Nik-Bewägungen beim Stop and Goverkehr vermieden werden, das so Reiseübelkeit mindern. Dann neben gibt es auch immer wieder interessante Integration von großen Sprachmodellen zu sehen, dass US-Datab-1-Mogul integriert, Shatchy-BT in seine gleichnamige App, um Drehbücher zu analysieren, Zusammenfassern zu erstellen und gleich passende Regisseure und Schauspieler vorzuschlagen. Die App soll außerdem dazu dienen Autoren mit Produzenten zu vernetzen. Da Autoren derzeit wohl häufig ihre Drehbücher auf Reddit-Rochladen in der Hoffnung, dass Netflix oder ein großes Hollywood-Studio darauf anspringen. Danke, Andri. Wir bleiben auf der CES. AMD hat mit einem neuen KI-Beschleuniger eines der weltweit größten Chipkonstrukte entwickelt. Insgesamt 12 Comput- und I/O Chiplets sowie 12 Speicherstapel ergeben einen Chipverbund. Der Etwa so groß ist wie die Hand von AMD-Chefin-Lisa Sue, die diesen Riesen-Chip auf der CES vorgestellt hat. Mark Mandel berichtet. Behatme für Rechenzentren folgt AMD immer mehr Nvidia-Vorgehensweise. AMD entwirft das Eignisseur, das ein Helios, natürlich mit möglichst viel eigener Hardware. Epic-Prozessoren aus der neuen Venice-Generation instinkt MI450X-Besteuniger und Netzwerk-Technik der übernommenen Firma Pensando. Zur Technik-Message CES sagt AMD-Chefin-Lisa Sue erstmals im Prozess von Besteuniger Nackt, beide sind durch ihre Sterelgröße ziemlich beeindruckend. Wenn es mit 256 CPU kennen, nutzt etwa 20 Quadratzentimeter-Seditionfläche, da KI-Besteuniger noch mehr. Die Chiplets entstehen mit 2 und 3 Nanometer-Technik von TSMC. Damit kommt die MI450X auf enorme 320 Milliarden Transistoren. Die Chip-Spezifikation hält AMD-Bislang geheim. Offensichtlich ist aber der Auslande-Speicher-Ausbau. Die MI450X hat vielleicht 12 HP im vier Stapel, mit einer Gesamtkapacität von 432 Gigabyte, einer gebündelten Übertragungsrate von fast 20 Terabyte die Sekunde. Damit überholt AMD selbst Nvidia-S aktuellen Blackwell-Ultra. Dessen Steckenfert ist allerdings der fortschrittliche Software-Sdeck. Ob AMD dagegen ankommen kann, sagt sie später im Jahr. Danke, Mark. Der Software-Konzern Microsoft und der Zahlungsdienstleister Stripe integrieren eine direkte Einkaufsfunktion in den KI-assistenten Co-Pilot. Max Schreiner von The Decoder mit einer Analyse der Probleme und der Chancen dieser Funktion. Nutzer in den USA können künftig wahren von ausgewählten Händlerne werden, ohne das Chat-Fanzer zu verlassen. Zum Start beteiligen sich Plattformen wie EC, sowie Einzelhändler wie Urban Outfiters an den Projekt und technisch passiert diese Funktion namens Co-Pilot-Checkout auf dem sogenannten "Gente-Commerce Protocol". Dabei handelt es sich um einen offenen Standard für den KI-gestützten Handel den Stripe mit entwickelt hat. Das System ermöglicht es KI-Genten in den gesamten Kaufprozess von der Auswahl bis zur Bezahlung autonom oder zumindest Teil autonom durchzuführen, sodass versprechen. Ob mehr einnutzt dieses Protokoll bereits für Chatchy-BT. Doch die Umsetzung solcher Shopping-Funktion gestaltet sich in der Praxis schwieriger als erwartet, wie ein aktueller Bericht von den Formationen an Beispiel von Obmei zeigt, denn obwohl obmei bereits im September eine breite Shopping-Offensive ankündigte, verläuft der Start wohl schleppend. Selbst prominente Partner wie der Kofferherstelle Away sind bislang nicht über den Chatbot kaufbar. Das Kernproblem liegt in der Datenqualität, die KI-Modelle haben, demnach Schwierigkeiten und strukturierte Produktdaten, korrekt zu interpretieren. Oft ist für die KI dann nicht eindeutig erkennbar, ob ein Artikel tatsächlich auf Lager ist oder nur vorbestellt werden kann. Interpretiert ergän diese Daten falsch, drohen dann Bestellungen von nicht lieferbarer Ware oder Transaktionen zu falschem Preisen. Stripe versucht nun dieses Problem durch eine Standedisierung der Handlerdaten an der Wurzel zu packen, doch die Bereinigung der Datenbanken erfordert viel manuelle Arbeit. Dennoch bleibt der Wettlauf und die Schnittstellen zum Kundenintensiv Google arbeitet parallel an einem eigenen Standard, dem Agent Payments Protocol, des Breits von über 60 Unternehmen unterstützt wird. Für die Anbieter der großen Sprachmodelle liegt hier ein potenziell lukratives Geschäftsmodell, wenn Nutzer ihre Kaufentscheidungen direkt im Dialog mit der KI treffen, können die Plattform betreiber an den Umsätzen partizipieren. Danke, Max. Mehrere Online-Händler üben Kritik an Amazon's neuem KI-Tool-by-Formie, denn das Programm liestet laut einen Bericht von Modern Retail, Produkte von externen Webseiten automatisch auf dem Amazon-Markplatz, ohne dass die betroffenen Shopbetreiber zugestimmt haben. Händler berichten, dass sie erst durch ungewöhnliche Bestellungen von einer speziellen Amazon-I-Mail-Adresse auf den Vorgang aufmerksam wurden. Das System nutzt KI-Agenten um Produkte auf Drittanbieterseiten zu identifizieren und Bestellungen im Namen des Kunden dort auszuführen. Amazon integriert diese Artikel dann in die eigene Suche versehen mit einem Buy-Formie-Batten. Immer wieder sollen darin auch Fehler, wie falsche Beschreibung oder Bilder enthalten sein. Amazon verteidigt die Funktion als Service für Kunden, die so neue Marken entdecken sollen. Wer nicht mitmachen will, muss sich aktiv per E-Mail melden, um aus dem Programm entfernt zu werden. Während der Konzern externe Inhalte also für den eigenen Marktplatz nutzt, geht er juristisch gegen andere Firmen vor, die ähnliches tun. So mahnt der Amazon kürzlich perplexity ab, weil deren Browser nutzern ermöglichte, via KI auf Amazon einzukaufen, ohne sich dabei auf der Amazon Nutzer-Oberfläche aufzuhalten. Google erweitert seinen E-Mail-Dienst G-Mail in den USA um neue KI-Funktionen. Im Zentrum steht eine neue Suchfunktion, die es nutzern ermöglichen soll, den eigenen Post-Eingang mit natürlicher Sprache zu bedienen. Damit können Anwender dann beispielsweise erfragen, wann etwa der letzte Termin mit einem bestimmten Handwerker war. Die KI extrahiert die Antwort dann aus den entsprechenden E-Mails. Zusätzlich führt Google, sogenannte AI-Overviews ein. Diese fassen lange E-Mail verläufe automatisch zusammen und heben die wichtigsten Punkte hervor. Während die Zusammenfassung kostenlos sind, bleibt die komplexe Frage Funktion zahlenden Abonnenten vorbehalten. Die Schreibhilfe help me write, mit der E-Mails erstellt oder überarbeitet werden können, schaltet Google hingegen für alle Nutzer frei. In einer Testphase befindet sich zudem eine Funktion zur Priorisierung des Post-Eingangs. Die KI analysiert dabei Kommunikationsmuster und Inhalte um wichtige Nachrichten wie etwa Rechnungen oder Arzttermine von weniger relevanter Post zu trennen. Wenn die Funktionen nach Deutschland kommen, ist noch nicht bekannt. Das war das KI-Update von HeiseOnline vom 9. Januar 2026. Eine neue Folge gibt es Montags mit Woss und Freitags ab 15 Uhr.