In dieser Podcast-Folge beschäftigen sich Fritz Espenlaub und Gregor Schmeitz mit der Frage, ob man KI-generierte Texte und Reden erkennen kann. Sie berichten vom Fall des kanadischen Politikers Bill Oliver, der versehentlich seinen KI-Prompt vorlas und damit eine breite Diskussion auslöste. Auch andere Politiker und Autoren wurden in letzter Zeit mit KI-Texten ertappt. Die beiden diskutieren typische Merkmale von KI-Texten: die häufige Verwendung von Gedankenstrichen, Dreierlisten, übertriebene Bedeutungsschwere, unspezifische Aussagen und Analogien, die bei näherem Hinsehen keinen Sinn ergeben. Ein Beispiel ist Fritz‘ selbstgeschriebene Kurzgeschichte über einen Ninja, die voller schiefer Sinnbilder steckt und von einem KI-Detektor als zu 100 Prozent KI-generiert eingestuft wurde – obwohl sie von einem Menschen stammt. Sie betonen, dass solche Merkmale keine absoluten Beweise sind, sondern erst im Gesamtpaket auffallen. Technisch hat sich der Detektor „Pangram“ verbessert, da er mit alten menschlichen Texten und KI-Umschreibungen trainiert wurde. Trotzdem bleibt die Erkennung unzuverlässig, besonders bei kurzen Texten. Die EU plant zudem gesetzliche Regelungen zur Kennzeichnung von KI-Inhalten. Insgesamt zeigt die Folge, dass es keine perfekte Methode gibt, KI-Text sicher zu identifizieren, und dass sowohl menschliche als auch maschinelle Erkennung an Grenzen stößt.
Fritz, könntest du einen KI-generierten Text oder jemanden, der eine KI-generierte Rede hält automatisch sofort erkennen? Automatisch sofort, also das ist ein hoher Anspruch. Es kommt vielleicht auf die Rede an, oder? Ich hab schon das Gefühl, dass ich mittlerweile in diesen siebten Sinn hab, dass man bei manchen Texten sofort misstrauisch wird und irgendwie spür zum Moment mal das klingt ein bisschen KI-mäßig. Ich habe eine solche Rede dabei, uns wahr, von einem kanadischen Politiker Bill Oliver heißt, der hört auch einfach mal kurz rein, hat diese Rede gehalten vor zwei Wochen, ob dir daran irgendwas auffällt. Ich dachte, erst ist gegen los und ich dachte, das, was Gregor Mehl zeigen will, ist es einfach eine ganz normale, generische Politiker Rede, die man eben nicht erkennen kann und dann ließ er plötzlich vor, hier ist ein natürlich klingenderer Flow für diese Rede, die mir gerade gegeben hast. Also ein Teil des typischen Proms, den man so oft bekommt, wenn man sich was raus lässt, von Chatchipiti oder Klo, oder irgendwas, wo du dann sagst, nein, lass es noch mal natürlicher klingen und die KI natürlich sagt, ja, selbstverständlich, hier ist die natürliche klingender Reversion. Er hat den Prompt einfach mit vorgelesen, finde ich auch ein bisschen unheimlich, dass ihm das nicht aufgefallen ist, in dem Moment, sondern er zieht einfach durch. Deswegen ist dieser Moment auch im Internet jetzt viel diskutiert worden in den letzten zwei Wochen, aber das Problem ist, die meisten Menschen machen es uns nicht so leicht wie Bill Oliver. Die meisten Menschen lesen nicht einfach ihre Prompts mit vor oder sagen einfach miter zu übrigens, das ist KI generiert. Hier bitte schön, hier ist eine Rede, die ich gerne für dich geschrieben habe, sondern da muss man ein bisschen genauer hinschauen. Aber genau das würde ja auch gemacht, ja, allein in den letzten Wochen und Monaten gab es vermehrt, kleine und große Skandale, Stefan Andreas Kastorv, beispielsweise, der für den Tagespiegel geschrieben hat, wurde KI Texten überführt, könnte man sagen, Mario Fogt, Ministerpräsident in Thüringen oder auch Kasten Wildberger, unser Digitalminister, alle haben KI-Generative Texte veröffentlicht oder reden, mit Hilfe von KI schreiben lassen. Und das wurde dann ziemlich viel diskutiert. Also, das ist schon alles sehr sehr interessant und für uns im KI Podcast war das natürlich eine Debatte, die wir sehr genau verfolgt haben und wo wir selbstverständlich ist auch eine Folge dazu machen werden. Und wir wollen noch einen Schritt weitergehen, denn wir wollen uns die Frage stellen, wenn ein Politiker oder ein Autor oder wer auch immer eben nicht uns den gefallen tut und sein prompt mit vorliehst, mit reinschreibt, wie kommt man eigentlich darauf, dass es sich hier um KI Text handelt? Kann man das erkennen, kann man das raushören, kann man dann in Spür sind für entwickeln oder muss man eben am Ende auf technische Tools zurückgreifen und wie funktionieren die eigentlich die KI Text erkennen sollen? Also heute in der Folge fragen wir uns, kann man KI vor allem auch KI Texte eigentlich noch erkennen? Was schreibt die Europäische Union hier seit dieser Woche gesetzlich vor? Ja, wir haben wir es geschafft einen KI Detector ausgetricksen. Das ist der KI Podcast und ich bin Fritz Espenlaub. Hier ist eine natürliche Anmoderation für den KI Podcast. Ich bin Gregor Schmeitz. Sehr gut. Fritz, bevor wir zu der technischen Lösung kommen, also den technischen KI Detektoren, lass uns doch mal schauen, ob wir Menschen nicht auch als KI Detektoren taugen, weil du hast ganz am Anfang gesagt, du hast auch einen Spür sind dafür, wenn irgendein Text KI generiert ist. Das heißt jetzt ist natürlich spannend rauszufinden, was macht denn so einen Text aus? Wie kann man den, wenn der einem in Alltag irgendwo begegnet, wie schnüffelt man das? Also der Klassiker ist ja KI schreibt gerne, es ist nicht das, sondern es ist das. Also diese Gegenüberstellung von zwei verschiedenen Sachen, also das hier ist, es war keine Brache, es war eine Feststellung oder was auch immer und das kommt in Business Texten, das kommt in Fiction, die geschrieben wird, Fantasy, Kurzgeschichten, in Link to Posts, in Facebook Posts. Also das sieht man schon fast überall mittlerweile. Das ist nicht das einzige, was KI Text natürlich ausmacht, sondern es gibt viele Formulierungen dieser Art. Wir haben umfassend, finde ich ganz interessant, so alles was positive, aber dann auch nicht als so spezifische Adjektive angeben, nutzt KI gerne, wir haben so ganzheitlich, nachhaltig, sagt KI gerne. Und was mir auch aufgefallen ist, das ist, glaube ich, relativ frisch, das machen vor allem die aktuellen Modelle sehr gerne, die versuchen immer alles übergebühren mit Bedeutung aufzuladen. Also da alles fungiert für irgendwas, alles steht sinnbildlich für irgendwas, alles ist eine Illustration von etwas, Dinge weisen auf, Dinge demonstrieren, das zeigt eindrücklich. Also sowas, ich passiert ständig in modernem KI-Genere Text. Ich war neulich mal wieder auf Facebook. Frag mich nicht, warum, gelegentlich bin ich noch auf Facebook und hab dadurch Zufall den Post angezeigt, bekam von dem alten Bekannten von mir. Also ich hab den seit Jahren nicht gesehen, Amerikaner, der wohnt in Kalifornien und der hat einen Post darüber gemacht, dass er gerade auf so einem, die haben da irgendein Festival in deiner Stadt, Freemont heißt diese Stadt und immer zusammen Sonnenwände. Also beim längsten Tag des Jahres machen die da irgendwie so eine Fahrradparade und tun sich alle irgendwie Bodypainten und er hat einfach ein Post gemacht, ja ich war bei dieser Fahrradparade, Bilder hochgeladen, wie er und seine Freundin irgendwie in so einem Leoparden Bodypaint dann auf einem Tandem da gefahren sind und ich fand es voll interessant und hab diesen Post gelesen und dann ist mir irgendwie so klar geworden, so "hmm, da steht ein so drin." Ja, immer schon war die Sommer-Sonnenwände was wichtiges für alle Kulturen und sie steht für irgendwie all diese Dinge und dann wurde es so aufgelistet und dann kam irgendwie der Satz und am Ende dieser Parade als dann die Trommeln so langsam leiser geworden sind, dann trage ich mehr mit mir als seinen Sonnenbrand und Glitter, ich trage Dankbarkeit, Dankbarkeit für die Künstler, für die Organisatoren, für die Community, für das Zentrum des Universums und so weiter, also irgendwie so ein Text wo dann ich mir gedacht hab so "hmm, was passiert, wenn man eigentlich diesen Text in einen KI-Detekt oder einen Gebt und er war natürlich 100% KI generiert?" Ja, ob wir dem jetzt glauben können dazu müssen wir gleich noch kommen, aber da war jetzt natürlich auch einiges drin, auch diese Struktur, ich empfühle Dankbarkeit Punkt, ich stell mir schon den Absatz vor, der dann gemacht wurde und dann quasi der nächste Satz, das ist schon ganz interessant, das sind ja auch alles, das ist relativ wichtig, keine absolut hinreichenden Indizien, ich hab ja gerade eben auch mit einem Augenzwinkern, hab ich auch gesagt, etwas ist nicht das, es ist das und wir werden vielleicht auch mal Begriffe wie ein Tauchen heute benutzen und das bedeutet, dass wir das hier von der KI uns haben schreiben lassen, es ist vor allem das Gesamtpaket, ja, es sind diese vielen kleinen Worte, die die KI gerne benutzt, es ist diese Struktur, dann auch so Sachen wie der lange Gedankenstrich, der ja auch schon sehr viel diskutiert wurde, dass die KI das sehr gerne macht, dass die KI gerne. Was ich ja übrigens unglaublich aufreg, dass die KI das die ganze Zeit macht, weil ich eigentlich sehr gerne selber diesen Gedankenstrich immer benutzt habe in meinem Schreiben und die immer noch gerne benutzt und ich finde, er hat auch seine Berechtigung, dass man darf den Gedankenstrich machen, ich finde es gibt Texte, die werden durch den Besser natürlich wie bei allen Stilmitteln, man sollte ihn nicht überbenutzen, aber erst mal ganz grundsätzlich so dieser Gedankenestrich ist ein Kollateralschaden der KI Revolution und das ist eigentlich schade um ihn. Ja, es gibt mir ganz ähnlich, ich hab jetzt angefangen, ein bisschen das semi-Kolon zu machen, weil ich hab das Gefühl, dass die Kolon, das ist meistens noch relativ unter benutzt, ich hab glaube ich noch einen Chatbot gesehen, der der semi-Kolon benutzt hat. Aber komm, ich hab ja noch ein paar Sachen aufgeschrieben, der drei Klang, immer so drei Spiegelstriche, unter denen jeweils dann ein Punkt steht oder mit emojis, mach die KI auch gerne, dann am Schluss kommt immer ein Fazit, also am Schluss immer noch unsus, also zusammengefasst bedeutet das so und so, das macht die KI gerne. Aber all das ist für mich, glaube ich, weniger wichtig als so der zentrale Punkt, also ist die KI ständig darüber spricht, was etwas bedeutet und das hat man auch ein bisschen gehört bei dem Post von Deinem bekannenden und zwar, dass die KI einen Drang dazu hat, alles aufzuladen, egal ob es wirklich wichtig ist oder nicht. Also jede einzelne Satz muss der wichtigste Satz sein. Alles ist voll mit absoluter Wichtigkeit, Bedeutung. Bedeutung, sie kennt keinen Leerlauf. Aber auf der anderen Seite ist sie sehr unspezifisch. Auch das war ja bei Deinem Post, hat man das ganz gut gehört, da ging es nicht um das, was ich persönlich erlebt habe auf diesem Event, das ging nicht um die Leute, mit denen ich gesprochen habe, es ging um generische allgemeine Sachen und deswegen ist mir auch schon aufgefallen, wenn man zum Beispiel eine K.I. eine Kurzgeschichte schreiben lässt, dann schreibt sie selten beispielsweise die Namen von konkreten Städten hinein oder von Marken oder von real existierenden Personen, weil das wäre zu konkret, zu spezifisch, damit möchte die KI nicht so richtig umgehen, sie macht das lieber allgemeiner. Das ist mir tatsächlich auch schon oft aufgefallen, dieses Bedeutungsschwangerer, aber irgendwie
Unkrankrete und ich glaube eine Sache, die da noch dazu kommt, das ist zuerst unserem Redakteur Christian aufgefallen. KI macht sehr oft Analogien, die eigentlich beim drüber nachdenken, keinen Sinn machen. Also ich erinnere mich noch ziemlich gut. Ich habe in der siebten Klasse angefangen, ab und zu kurzgeschichten zu schreiben. So fanden sie kurzgeschichten. Und ich habe dann oft zu Sätze geschrieben, wie so er bewegte sich, wie ein Laubrascheln in der Nacht klingt oder so was. Weil ich irgendwie das cool fand und. Ich hätte das mir nöss. Ich hätte das in dem Alter, glaube ich, auch sehr cool gefunden. So genau. Aber eigentlich an drüber nachdenken, macht es keinen Sinn, weil eine Bewegung kann eigentlich nicht wie ein Geräusch sein. Und KI macht ständig solche Sätze. Und was ich dann mal versucht habe, Gregor, ich wollte jetzt sehen für diese Folge, kann ich selber einen Text schreiben, komplett menschlich, 100 Prozent menschlicher Text, den ich dann in einen KI-Generator gebe, mit dem Ziel, dass er als KI generiert, erkannt wird. Wenn es weil du quasi in deiner Jugend da schon die ersten Erfahrung damit gesammelt hast. Kann ich schreiben, wie eine KI. Und was ich dann geschrieben habe, war eben genau dieser Satz. Er bewegte sich wie ein Laubrascheln in der Nacht klingt. Ich les es dir einfach mal vor, über. Seine Schritte waren bedacht und voller Kalkulation. Genau wie der Mond, der durch die Wolken schimmert. Lautlos. Am Eingang des Tempels hielt er kurz inne. War da ein Geräusch? Er lauschte, so wie ein Mathematiker an seinen Formen arbeitet. Prezise. Methodisch durchdacht. Als er sich vergewissert hatte, dass er allein war, schob er die schweren Türen des Tempels auf. Die Türen waren aus altem Eichenholz, über die Jahre gewachsen wie eine Melodie. Aber es war eine schwere Melodie, voller Trauer, wie ein Blatt Papier auf dem noch nichts geschrieben ist. Das ist meine Kurzgeschichte. Es ist sehr schön. Es ist sehr schön, weil jedes davon, jedes dieser einzelnen Sinnbilder scheint auf den ehesten Blick greifbar zu sein. Und dann, wenn man versucht, es zu greifen, löste sich komplett in Rauch auf. Also erst, wenn man wirklich auf Herz und Nieren überprüft fällt das auf. Schöner Text auch. Ich bin, ich möchte ja wissen, was mit diesem Ninja passiert. Was glaubst du, wie viel Prozent dachten der KI-Techektor, ist KI geschrieben? Dazu kommen wir gleich bestimmt im Punkt zwei. Oh, okay. Oh, Tisa. Es gibt da jemanden, der hat sich da sehr konkrete Gedanken darüber gemacht, wie kann man KI-Text erkennen, was sind typische Marka für KI-generierte Inhalte? Weil das nämlich jemand ist, der sehr viel Schwierigkeiten hat mit Massenhaft KI-Text, nämlich die Wikipedia. Die Wikipedia ist natürlich auch überrand worden von KI-Text in den letzten paar Jahren. Es gibt eine Wikipedia-Liste Science of AI-Righting, die lohnt sich wirklich mal durchzuschmöckern, weil das sehen. Da stehen sehr spannende Sachen drin. Und ich möchte nur schon eine Sache rausgreifen, weil die sprechen auch darüber, dass die KI Dinge vorallgemeinert und gleichzeitig aber überverkauft. Also das Beispiel ist, anstatt zu sagen, er war der Erfinder der ersten Zugkupplung, sagt die KI, er war ein revolutionärer Titan der Industrie. Also einerseits größer und auch irgendwie pralender und aufmerksamkeitsheischender und reißerischer, aber andererseits mit viel weniger Substanz als Erfinder der ersten Zugkupplung, weil das ist ja was er eigentlich gemacht hat. Was brauchen wir also? Damit kommen wir zu Punkt 2 unserer großen KI-Erkennungsfolge. Brauchen wir eine technische Lösung. Brauchen wir einfach eine Gegen KI, die uns erzählt, was KI-generiert ist und was nicht. Ja und es gibt vor allem einen KI-Detektor, der gerade ja doch relativ viel genutzt wird und auch staunlich zuverlässig ist, muss man sagen. Und das ist vor allem deswegen bemerkenswert, weil das so lange nicht der Fall war. Also sehr lange war es so, am Anfang, sag ich mal, am Anfang der KI-Rovolution als diese LLMS noch einigermaßen neu waren, das ist sehr früh schon irgendwelche KI-Erkennungs-Tools gab. Die T-Zero und wie die alle hießen, die allerdings einfach nicht sonderlich zuverlässig waren. Die oft KI-Technik erkannt haben oder oft menschlichen Text als KI-generiert bezeichnet. Die waren auch sehr leicht auszutricksen, weil alles was man machen musste, war beispielsweise ein bisschen Zeichensetzung falsch setzen oder einmal ein Rechtschreppfehlereien packen oder sich ein bisschen verkünsteln. Auf einmal geht das Ganze schon als menschlich durch. Also das war ganz lange der Status quo. Haben wir auch glaube ich mal so erwähnt im Podcast. Aber die Dinge ändern sich, auch in der KI-Welt ändern sich die Dinge, weil wir haben jetzt ein relativ neues Tool oder zumindest ein Tool, was so gut erst seit kurzem ist und das heißt Pangram. Pangram ist interessanterweise so ein bisschen eine Erfolgsgeschichte wie Chatchipity. Und zwar, weil man eben nicht lang überlegt hat, naja, was sind denn jetzt die richtigen Merkmale für KI-generierte Texte. Was sind die Regeln, die wir diesem System einprogrammieren müssen und so weiter, sondern genau wie damals bei Chatchipity auch, kam der Durchbruch eigentlich einfach nur dadurch, dass man dem Ding sehr, sehr viele Daten gegeben hat und gesagt, okay, finde du einfach selber raus, was du jetzt daraus machen möchtest. Und in dem konkreten Fall ist es ganz spannend. Die haben sich vor allem sehr viele alte menschliche Texte gesucht. Alte menschliche Texte, wenn man weiß, dass vor 2022 alles noch nicht mit KI-Generatoren generiert werden konnte, sondern noch von Menschen händisch quasi geschrieben. Und dann haben sie KI-Modelle genommen und für jeden dieser Texte, das waren dann Nachrichten Texte oder auch Fiktionale, praktisch KI-Entsprechungen bauen lassen. Als sie haben da KI eine kurze Geschichte gegeben und gesagt, hey, erzählen wir mal den Inhalt dieser kurze Geschichte neu, aber in deinen Worten. Das heißt, der Stil blieb ein bisschen gleich, die Stimmung blieb gleich, der Inhalt blieb gleich, aber was auch immer die KI daran geändert hat, was eben den typischen KI-Stil ausmacht. Und das geht über diese billigen Merkmalen hinaus, die wir vorhin besprochen haben. Das wurde dann sozusagen in dem großen Pangrammodell aufgefangen, wurde erkannt, wurde destiliert, wie wir letzte Woche gelernt haben. Und jetzt haben wir einen relativ, muss man sagen, er reden wir gleich noch drüber, verlässlichen KI-Detektor. Das ist tatsächlich wirklich beeindruckend, wie aktuell, kann sich immer ändern. Aber wie gut dann doch Pangram geworden ist. Also, was ich zum Beispiel sehr, sehr spannend finde, ist, dass es tatsächlich auch anschlägt, wenn man KI-generierte zufällige Wortlisten reingibt. Zumindest habe ich ein paar Leute gesehen, die das gemacht haben. Ich habe das dann selber probiert. Meinst zufällige KI-generierte Wortliste hat Pangram tatsächlich nicht erkannt. Aber trotzdem klappt das durchaus häufiger. Das ist eben also nicht mal irgendein spezieller Text mit einem für Menschen erkennbaren, irgendwie Flow oder Sinnen sein muss, sondern einfach wirklich nur einen Sprachmodell reit seine Tokens auf eine bestimmte Art und Weise aneinander, die dann von Pangram recht zufällig erkannt wird. Und wo es eine sehr hohe Trefferquote hat, einfach so in, würde ich sagen, wir haben ja sehr viel damit jetzt experimentiert für unsere Folge, ist KI-generierte Texte aller Art. Also alles, was Kurzgeschichten zum Beispiel angeht, ist Pangram sehr, sehr gut. Auch Marketing-Texte und so weiter. Marketing-Text-Link im Haus. Aber Fritz, wir haben ja jetzt einen Test, auf denen bin ich immer noch sehr gespannt, weil die Frage ist ja, okay, jetzt kann das Ding also offensichtlich KI-generierte Kurzgeschichten erkennen. Aber kann es eine KI-generierte Geschichte erkennen, die gar nicht KI-generiert ist, sondern es bläub generiert. Also was ist passiert, als du deine Kurzgeschichte eingegeben hast, die diese vielen Schiefen Sinnbilder drin hat? Der Ninja, in dem Tempel mit den Türen, die gewachsen sind wie eine Melodie über die Jahre hinweg. Ich war tatsächlich überrascht, weil es war. Mein erster Versuch, diese Geschichte zu schreiben. Ich habe die einfach so ein bisschen so aus dem Flow einfach hingeschieben, reingegeben. Und Pangram hat tatsächlich gesagt, wir glauben, dass 100 Prozent dieses Textes KI generiert ist. Der esbenlaubche KI-Generator hat auf jeden Fall in diesem Fall es geschafft den KI-Steel erfolgreich zu kopieren. Mir vielleicht gibt es einfach auch nur Dinge, über dich Fritz, die ich aber noch nicht weiß. Also ich habe dich auch noch nie Bluten sehen, jetzt wo ich darüber nachdenke. Vielleicht kommt da auch Öl raus, weil man vielleicht eigentlich so ein paar Chips in deinem Kopf, ich habe noch nie reingeguckt. Das ist ganz. Du musst jetzt mal machen, was ich schon so. Das ist ein heimliche, unheimliche Belikation. Aber ich glaube, was das eher zeigt, ist, dass Pangram ja schon ein gutes Tool ist für vieles, aber es ist eben immer noch nicht perfekt. Also es gibt immer noch keine perfekte Methode, KI-Text zu erkennen oder eben menschlichen Text zu erkennen. Das hat auch viel damit zu tun, dass beispielsweise bei dir das war ja eine sehr kurze Geschichte. Also bei kurzen Texten ist es auch noch mal weniger verlässlich als bei längeren. Und wo ich mir schon persönlich auch mal was wünschen würde, dass die das mal anders anzeigend dieses 100 Prozent, weil das klingt finde ich komplett verkehrt. Also offensichtlich gibt es eine gewisse Unsicherheit und es wäre in meinen Augen irgendwie okayer, wenn Pangram dann sagen würde, ja ich bin mir relativ sicher, dass es KI genügt, aber sicher weiß ich es jetzt auch nicht, 80 Prozent, 90 Prozent, was auch immer. Das da wirklich immer. Aber das steht halt an, wie viel, wie konfident, wie hohe, hohe ist mein Vertrauen in meine Einschätzung. Genau, aber das da immer steht direkt, fett 100 Prozent, was sich ja eigentlich auf die Menge des Textes beziehen soll. Also es soll sich nicht darauf beziehen, wie sicher sich Pangram ist, sondern einfach nur darauf, wie viel des Textes KI genügt ist und das dann gar nicht verlässlich ist.
Dann frage ich mich schon, warum die das so designed haben. Es funktioniert beispielsweise auch, dass man einen menschlichen Text nimmt. Und dann ein paar KI-Sätze einfach nur in die Mitte einfügt, dann wird der Text oft ganz schnell als 100% KI generiert ausgegeben. Also, er hat einen Sinn, könnte man sagen, diese KI, die von Parangramm für die typischen KI-Merkmale. Aber es ist eben keine verlässliche 100-prozentige Sicherheit, die wir da bekommen. Ich muss mal dazu sagen, es ist von den KI-Erkennungstuls, die wir bisher hatten, wahrscheinlich eines der besten oder das beste. Aber es ist immer noch viel anfällig. Und wenn man mit dem Tool viel arbeitet und anfängt, darum zu experimentieren, dann findet man genau das. Ich wollte noch ein Schritt weiter gehen bei meinem Experiment, weil ich hab gehört, du schreibst kurzgeschicht, und du gibst dir richtig viel Mühe. Ich dachte mir, ich gebe mir gar keine Mühe. Ich out-sorse einfach mein KI-Experiment an die KI. Und was ich gemacht habe war, ich habe "Code Code". Also das agentische Tool von "Code" angeschlossen an die AP-Schnittstelle von Parangramm. Das kann man relativ einfach machen. Und dann hab ich gesagt, okay, jetzt generiere mir bitte eine sehr gute Kurzgeschichte in einem Absatz. Das war auch tatsächlich nicht ziemlich gut, als ich fand, relativ emotional. Es geht um jemanden, dessen Vater 40 Jahre aufzügig gewartet hat oder am Schluss ist so die Implikation, dass er jetzt im Pflegeheim ist und gar nicht mehr genau weiß, wo er ist. Post die Geschichte, mir schauen, ich fand die wirklich nicht schlecht versuche einen Absatz. Und dann hab ich "Code Code" gesagt, okay, du hast jetzt 20 Versuche, du darfst jetzt 20 mal an Fragen stellen an die AP-Schnittstelle von Parangramm. Versuche doch mal, diesen Text Schritt verschritt umzuschreiben, bis er als menschlich durchgeht. Also ein Stadt, dass ich mich selber jetzt hinsitze und versuche, das irgendwie händisch zu machen, nee, ich lasse das KI machen. Und das war sehr faszinierend zuzusehen, weil man kann dann natürlich auch die KI dabei beobachten, wie sie erst mal kleine Sachen ändert, wie sie vielleicht ein bisschen die Zeichensetzung ändert. Und jedes Mal kam dabei raus, nur immer noch 100% KI, immer noch 100% KI, immer noch 100% KI. Es war erstaunlich schwierig für "Code Code", die KI zu überlisten von Parangramm, aber am Schluss hat es tatsächlich funktioniert. Und wie ist der Text am Ende geworden? Ja, der ist furchtbar. Also das Problem war, dass alles, was die KI rausnehmen musste, damit der Text nicht mehr als KI-Generät erkannt wird, waren so in meinen Augen die besten Sachen an diesem Text. Es ist ein bisschen schwer zu erklären, ohne die ganz kurzschichte vorzulesen, aber es gibt eben am Schluss einen Satz, der das Ganze noch mal so zusammenfügt. Das bedeutet, wenn man all das weggelassen hat, und wenn man den Text stark verflacht hat, wenn man den ersetzt hat durch Erinnerungslücken, durch Sachen, die älcherweise gar keinen Sinn gemacht haben, dann ging der Text am Ende durch. Ich werde schauen, dass ich sowohl die menschliche Variante in Anführungszeichen als auch die KI-Generette Variante in die Show-Nutz-Paket. Das ist nicht lang, ich glaube, ich post einfach den Text rein. Und ich glaube, niemand würde sagen, die menschliche Variante ist besser. Trotzdem hat sie es irgendwie durch diesen KI-Detektor geschafft, eben weil "Code Code" schrittweise alles aus diesem Text rausgenommen hat, was diesem Text irgendwie, das sind wir wieder bei vorhin, Bedeutung gegeben hat. Und interessanterweise ist dann oft eine Möglichkeit, den KI-Generierten Text durch so ein Tool durchzuschummeln, einfach einen schlechten Text zu schreiben, so wie in deiner Geschichte, oder bei mir, ich habe einen Experiment gemacht, habe ich mir einfach von KI eine so eine fiktive Bedienungsanleitung für einen Toaster schreiben lassen. So wurden einfach Sachen drin, so Warnung, Brandgefahr, Brotkanbrennen. Das Gerät sollte nicht unter Brennbahnmaterialien, zum Beispiel Vorhänge und so weiter aufgestellt werden. Während des Betriebs bitte nicht unbeaufsichtigt lassen, und so weiter. Und der ging auch als komplett menschlich durch. Nur ich meine, das ist dann halt irrelevant, weil so warum würde ich mir von, also es gibt schon genug Bedienungsanleitungen von irgendwelchen Toast an. Und da ist wirklich dann auch, wurscht, ob die Nekkei schreibt oder nicht. Hauptsache, es sind keine Fehler und keine falschen Anweisungen in dieser Bedienungsanleitung drin. Aber bei anderen Texten ist es vielleicht doch durchaus relevant. Ja, und da sind wir ja bei einer eigentlich ganz spannenden Diskussion. Vielleicht sogar im Herzen dieser Diskussion, weil, wenn mein Toaster Text, meine Toaster-Bedienungsanleitung, KI-Genered ist, dann interessiert mich, dass hier am Ende auch gar nicht. Also zumindest mir wäre das, glaube ich, relativ egal, weil es geht mir vor allem darum, ob der Text jetzt einfach stimmt. So ob den jetzt am Ende, ob es hier am Ende einem Person wirklich hinsetzt hat und den Stil nochmal verfeinert, das ist mir jetzt irgendwie egal. Und manche von den Diskussionen, die es gab, rund um die KI-Genereden Texte und Reden, die haben sich auch um klare Fehler gedreht. Also beispielsweise gab es veröffentlichte Texte, Kolumbnen, in denen Menschen zitiert wurden, die diese Zitat aber nie so gesagt haben. Also wo einfach Halluzinationen in diesen Reden drin gelandet ist. Und das wäre ja quasi wie wenn mehr eine KI-Generede Toaster-Anleitung auf einmal erzählt, der Toaster verträgt. Ich krieg da drei Toastschirpen rein, da wir passen in Wahrheit nur zwei rein. So, dann ist tatsächlich einfach ein Problem. Aber. Aber das kann ja nicht alles sein. Weil wir alle wissen, wer wir den KI-Podcast regelmäßig hören, dass man, wenn man richtig mit diesen Tools umgeht, dass man dann eigentlich noch nicht unbedingt mehr Fehler machen muss, damit. Also dass Halluzinationen kein so großes Thema mehr sein müssen. Das ist absolut möglich ist, Texte mit KI zu generieren, die inhaltlich eigentlich korrekt sind. Trotzdem wird darüber diskutiert. Trotzdem gibt es Leute, die sagen, ich finde das nicht gut. Wenn ein digitalminister seine Rede mit KI schreibt, wenn ein Kolomist seinen Text mit KI schreibt, mich einfach nur weil's Fehler drin sind, sondern weil. Ja, warum Fritz, warum haben wir so ein Problem damit? Also, ich kann nur sagen, was ich bei mir selber beobachte. Und zwar, wenn ich einen Text und das mag, jetzt auch einfach ein Link in Post sein, oder eben ein Essay auf Substag oder was interessantes, wo ich erst mal denke, so cool. Oder ein Zeitungsartikel, auch immer, wo ich mir denke, so interessant, das ist ein Thema, das mich interessiert. Ich leh's das mal und ich merke dann, dass das ein KI-generierer Text ist. Weil ich irgendwie diese Aura, diesen Weib spüre. Dann spüre ich richtig, wie mein Interesse an diesem Text abnehmen. Und das hat damit zu tun, dass ich mir dann sehr schnell denke, intuitiv, da will sich jemand keine Mühe geben. Da hat jemand jetzt einfach schnell irgendwas generiert, irgendwie um das auf Link in zu posten. Oder gedacht, geil, jetzt wo es KI-Modelle gibt, kann ich doch auch meinen, irgendwie Newsletter machen. Und ich kann nicht sagen, per See erst mal, dass Vertrauen haben, dass das, was ich da lese, wirklich gut ist. Weil, klar, kann KI auch interessante Sachen schreiben. Aber die kann ich mir dann auch selber prompten. Also, wenn ich jetzt zum Beispiel eine columnne, gerade eine columnne von den Menschen lese, dann will ich erwissen, was dieser Mensch dazu denkt. Es ist ja aber auch ein bisschen unfair, könnte man sagen, weil jetzt stellt jemand vor, jemand hat sich sehr viele Gedanken gemacht, über diesen Text hat sehr viele Notizen gesammelt, hat Recherche gemacht und so weiter, hat seinen ersten Entwurf auch händisch aufgeschrieben. Aber ist vielleicht nicht ganz zufrieden mit dem eigenen Stil. Deswegen sagt man, am Schluss der KI noch mal, "Hey, kannst du da mal drübergehen, kannst du das inhaltlich noch mal ein bisschen putzen, kannst du es ein bisschen hübscher ausformulieren." Und der Text, der dabei rauskommt, ist vom Inhalt her eigentlich komplett dem Kopf dieser Person entsprungen, aber er liest sich halt als wäre es ein KI-Text. Es würde mich auch gar nicht wundern, wenn beispielsweise manche dieser reden und Kolumbnen auf diese Weise entstanden sind. Ja, absolut. Also ich finde es auch gar nicht verwerflich per See, jetzt erst mal grundsätzlich irgendwie KI in einem kreativen Schaffensprozess einzusetzen. Das finde ich, es gibt ja auch Leute, die das ganz anders sehen. Aber da würde ich sagen, das kann man schon differenziert beurteilen. Und das Problem ist natürlich auch gerade, dass es auch Texte gibt, die ich gerne lesen von Leuten, die ich sehr schätze, wo ich weiß, dass die mit KI auch arbeiten. Und wo die Texte für mich dann tatsächlich am Ende gewinnen bringen sind. Aber das hängt dann auch daran, dass ich diese Absende-Personen kenne, dass ich irgendwie dieses Vertrauen mitbringe in den Absender und in den Text. Und wenn das halt ein komplett zufälliger Text ist, den mir der Link in Algorithmus anzeigt, dann mag das sein, dass sich da jemals super viel Gedanken gemacht. Aber ich würde es Leuten empfehlen, da sich auch dann darüber Gedanken zu machen, wie man diesen typischen KI-Steel vermeidet. Ich glaube, das Wort vertrauen ist sehr hilfreich in dem Moment. Also, ich könnte mir vorstellen, man könnte diesen KI-Steel, diesen typischen, man könnte den Vergleich vergleichen mit einem Buchverlag. Und das ist ein Buchverlag, der ist bekannt dafür, dass er normalerweise, pardon, mein French, Schrott rausbringt. Ja, also da kommt eigentlich meistens. Das ist normal, da hat man das früher genannt. Es gibt ja auch Leute, die sagen, das hat seinen Zwieg. Ich sag mal wirklich so, keine Ahnung. Hier die besten Kochrezepte mit Fußgeschmack. Also irgendwas, wo normalerweise wirklich nur quatsch dabei drinste. Das klickt jetzt cool. Ich glaube, man muss ja anders beispiellen. Jeder, ich glaube, für die meisten unserer Hörer sehen, dass anders, die würden das, glaub ich, nicht im Regal stehen haben. Aber bei dir vielleicht schon. Und dann bin ich es einfach gewöhnt, dass wenn dieser Verlag, seinen hässliches Rotus-Logo vorne aufs Buch draufdruck, dann weiß ich schon normalerweise, ist da quatsch drin. Und das bedeutet, wenn jetzt ein neues Buch ankommt, und ich kenne diesen Auto noch nicht. Alles, was ich über den weiß, ist er hat in diesem Verlag sein Buch veröffentlicht, dann gehe ich erst mal davon aus, na ja, das ist wahrscheinlich nichts wert. Das ist wahrscheinlich wieder ein Fußkochbuch. Der Unterschied und der passt es zu dem Bild, nämlich, dass, was du gerade gesagt hast, wäre sozusagen, wenn da jetzt ein Auto ankommt, den ich einfach kenne, Vielleicht seit Jahren.
schon verfolge, den ich vielleicht auch persönlich schätze, den ich in Podcast gehört habe, was auch immer, dann ist das was anderes, dann sagt man, okay, es ist zwar in dem Verlag, aber ich kenne ja die Person, deswegen vertraue ich auch dem Output. Und deswegen muss man sich quasi überlegen, wenn ich offensichtlich in Kaitext veröffentliche, bin ich bereit zu akzeptieren, dass das in den Augen von manchen Leuten erst mal mit einem bisschen Stiegmar versehen ist, dass das ein Geschmäcker hat, dass man erst mal denkt, "Hm, nein, aber so toll kann das gar nicht sein, weil es ist ja KI generiert." Man hat eigentlich, obwohl die KI einem Arbeit abnehmen soll, mehr Arbeit damit Leute davon zu überzeugen, dass es sich lohnt, diesen Text zu lesen, weil das erste was viele mittlerweile, die meiste nicht immer noch, aber ich glaube es werden immer mehr, was viele Menschen mittlerweile sehen ist halt, na ja, ist ja KI. Und dann kommen natürlich noch zu einem ganz großen Thema, eine ganz wichtige Frage, die sich bei dieser ganzen thematik auch stellt, die vielleicht aber auch gar nicht so neu ist und zwar das Thema Authentizität und Transparenz und natürlich auch sind das wirklich meine eigenen Gedanken oder habe ich die von jemandem geklaut. Also das kann der ja durchaus, wenn du sag ich mal, dir nicht viel Mühe gibst und einfach eine faule herangehensweise hast, passieren, dass du dem Modell sagst, schreib mir irgendwas cooles, irgendwie das schickt an seinen Agenten los, das liest irgendwo im Internet irgendwelche Texte, die jemand anderes geschrieben hat, der sich vielleicht tatsächlich Mühe gegeben hat und sich mit irgendeinem Thema beschäftigt hat, schreibt dir in Text, du veröffentlicht das, machst das nicht transparent, gibst das als deine Gedanken aus und hast am Ende im Grunde genommen ja so eine Art Plagiat gemacht und das ist natürlich wirklich nicht in Ordnung. Ich bin da sehr gespannt auch, wo wir in fünf Jahren stehen werden bei dieser Debatte, weil meine Vermutung ist, dass wir den Statusquonig halten können. Also gerade ist es vielleicht so, dass man viele KI-Techte einigermaßen verlässlich, ja, wenn ich schon gemerkt heute, es ist nicht perfekt, aber einigermaßen verlässlich kann man es meistens erkennen, ob das so bleiben wird, sehr fraglich, also sobald einmal jemand auf die Idee kommt, eine KI vielleicht spezialisiert darauf zu trainieren, menschliche Texte zu generieren wird, es wahrscheinlich wieder möglich sein KI-generierte Texte zu erzeugen, die nicht mehr von den Erkennern erkannt werden und dann sind wir wieder am Anfang, also es kann gut sein, dass das so eine Art Katz und Mausspiel wird und ich glaube deswegen, dass es wahrscheinlich eine technische Lösung alleine am Ende nicht sein kann, sondern am Ende muss es eine Lösung sein, die den Menschen in den Mittelpunkt stellt und uns einfach erlaubt auch unseren Mitmenschen eben dieses Vertrauen entgegenzubringen, was wir von ihnen eigentlich einfordern sollten. Woran ich da denken muss, ich gebe einmal im Semester einen Kurs einer Hochschule und was ich mein Studies letztes Semester gesagt habe, war, also benutzt gerne KI, ich will auch das der KI benutzt, weil ihr sollt, verstehen wir das funktioniert, aber wenn ich das Gefühl habe und das das wichtige, wenn ich das Gefühl habe, der Text kommt nur aus der KI, dann ist es ein schlechter Text. Also ich habe sehr bewusst gesagt, es geht nicht darum, dass die KI den nicht hat schreiben dürfen, aber wenn ich mit euch über diesen Text spreche und ihr könnt nicht wiedergeben, was da drin vorkommt, oder der Text sind nur Platitüden oder der Text ist ein bisschen Thema verfehlt, dann ist es egal ob die KI das Thema verfehlt hat oder ob die KI nur Platitüden aus formuliert hat, der Text ist nicht gut und mittelfristig müssen wir uns wahrscheinlich wieder darauf besinnen, wir müssen Möglichkeiten finden den Text, den Inhalt zu bewerten und nicht unbedingt die Herstellungsweise. Zumindest kann ich mir vorstellen, dass es darauf hinaus läuft. Ich glaube, das ist ein ganz wichtiger Punkt, weil ich merke bei mir selber, dass ich das eigentlich auch gar nicht möchte, wenn ich, also diese Reaktion, die ich vorhin beschrieben habe, mit diesem KI Label-Anführungszeichen, also ich sehe irgendwo einen Text und dann postet jemand anderes drunter "a" okay, dieser Text, das wohl KI generiert und ich merke dann bei mir selber so "hm, ich krieg viel weniger Lust auf diesen Text, weil ich glaube, dass wir dadurch tatsächlich dann auch gute Texte entgehen, so es kann auch passieren, dass dann eben Sachen tatsächlich gut sind und für mich persönlich ist der springende Punkt am Ende hat dieser Text mich weitergebracht, ist sehr interessant und ist er ehrlich, also ich will schon, dass mir da niemand irgendwie die gedankliche Leistung von anderen Leuten als seine eigene ausgibt, aber wenn das der Fall ist, dann ist es am Ende für mich gar nicht so relevant in welcher Form diese Person irgendwie KI in ihrem Schaffenswerk benutzt hat, ich will halt, dass es originell ist und dass es interessant ist und dass es mich zum nachdenken anregt und das gilt ja überhaupt auch gar nicht für alle Texte dieser Anspruch, der gilt für Texte, die das wollen, es gibt ja auch Texte, die wollen das gar nicht, also Stichwort, die Toasterbedienungsanleitung und sicherlich auch andere Texte, wo ich mir denke, na ja, ganz ehrlich, wenn da dann einfach die moderne Technologie benutzt wird, um das zu machen, wofür diese Technologie da ist, dann ist das in Ordnung so, eine Toasterbedienungsanleitung, da wird kein intellektuelles geistiges Eigentum verletzt, wenn man die mit KI schreiben lässt und weißt du, die andere Sache ist auch, also es gibt halt auch sicherlich politiker reden, die vielleicht einfach auch besser werden würden, wenn man sie mit ein bisschen KI-Unterschützung noch mal überarbeitet, also das kann ja auch wirklich Texte und eben auch Heden besser machen, nur wichtig ist halt, dass ich dieses Vertrauen haben kann, dass die Person, die diese Rede hält, vor allem wenn es dann auch vielleicht eine Rede zu einem wirklich wichtigen Anlass ist, ja, zu einem Holocaust-Gedenktag, beispielsweise, dass diese Person, die Würde und die Wichtigkeit dieses Anlasses versteht und nicht einfach zwischen Tür und Annel sich irgendwas generisches aus einer KI rauslässt, dass mal eben runterrat hat und einfach nicht wirklich darüber nachdenkt, was gerade passiert. Fritz, es ist wirklich ganz lustig, dass wir uns jetzt diese Folge über so ausführlich dieses Thema um die Ohren gehauen haben und geschaut haben, wie finden wir zu einem Fazit, wie finden wir zu einer Lösung, weil vielleicht hat die Lösung tatsächlich jemand anderes für uns gefunden, vielleicht können wir das Fazit ein bisschen outsourcen, mich an die KI, sondern an die Europäische Union. Oh ja, ja, wir haben nämlich letzte Woche eine interessante Neuheit, seit Kurzem gilt nämlich Artikel 50 des AI Act, der wir werden jetzt nicht komplett auseinandernehmen, bestellt noch ein paar andere Sachen drin, aber es steht eben auch ganz konkret drin, dass KI Texte ab sofort gekennzeichnet werden müssen und jetzt könnte man kurz denken ach so, wir haben das Problem also gelöst, in Zukunft muss es einfach jeder dazustreiben. Nein, wir haben es nicht, erstens weil es natürlich "Wertäuschen" will, kann immer noch "Täuschen", das Plagiat war ja vorher auch verboten, das ist das eine, das andere ist aber es ist ganz interessant, wie diese Kennzeichnungspflicht für Texte eigentlich ausgestaltet ist, denn der AI Act sagt, eine Kennzeichnungspflicht für Texte gilt nur wenn drei Dinge zusammenkommen. Erstens, der Text diente Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse, dann er wurde ganz oder überwiegend von KI erzeugt und letzter Punkt, es hat keine echte menschliche redaktionelle Kontrolle gegeben. All diese drei Dinge müssen wahr sein, das heißt, es muss ein Text mit öffentlichem Interesse sein, da gilt, würde ich sagen, meine Zeitungskolombne mit dazu, er muss ganz oder überwiegend von KI erzeugt werden, aber der Mensch darf es sich nicht mal wirklich angeguckt haben. Erst dann muss es gekennzeichnet sein als KI Text und genau hier erleben wir vielleicht doch in der Zukunft dann die neue Form von Unterscheidung, ist ein Mensch im Loop gewesen, ist ein Mensch wirklich verantwortlich für diesen Text oder nicht? Ich finde das eigentlich ein schlüssigen Dreiklang, weil das genau das adressiert, was meiner Meinung nach das Problem mit so einer grundsätzlichen Kennzeichnungspflicht gewesen wäre, eben, dass es in vielen Fällen vielleicht gar nicht überhaupt klar ist, was eigentlich als KI generierter Text am Ende durchgeht, also ab wann ist ein Text KI generiert, was bedeutet überwiegend, also ist es wenn ich einen ersten Aufbau von meinem Text mir vorschlagen lasse von einer KI und das dann selber ausformuliere, oder ist es wenn ich mir bei einzelnen Formulierungen Vorschläge machen lasse von der KI, oder ist es wenn ich einen voll KI generierten Text habe, die nicht dann selber nochmal total überarbeitet und eben diese, also hier steht, echte menschliche redaktionelle Kontrolle ausübe und wenn ich eine Politiker rede habe und die dann aber wirklich nochmal überarbeitet und genau mich damit befasse, es ist ja bereits immer schon so gewesen, dass Politiker ihre Reden geschrieben haben bekommen in vielen Fällen von einfach ihrem Büro, also es ist ja nicht so, dass jeder Politiker immer seine Rede selber schreibt und ganz ehrlich, dafür bezahle ich auch Politiker, also quasi als Steuerzahler will ich ja, dass mein Politiker das macht, was nur er kann und Reden schreiben kann er sich halt auch von anderen Leuten lassen und ob das dann ein Mensch ist oder eine KI ist vielleicht gar nicht mehr so relevant unter eben dieser Voraussetzung, dass es eine menschliche redaktionelle Kontrolle gibt von dem was dann am Ende erzählt wird und hat nicht so was passiert wie bei unserem Kanadie. Fritz bei uns wird natürlich transparents und Kennzeichnungspflicht groß geschrieben, wir kennen Zeichen immer was wir mit KI gemacht haben, wir haben sogar eine komplette rubrik darüber was wir mit KI gemacht haben und zwar was Fritz was haben wir letzte Woche mit KI gemacht. Ja ich habe sehr sehr viel gemacht, okay vielen Dank für deinen Beitrag also was ich mit KI gemacht habe. Sehr viel, sehr viel und es war auch alles sehr besonders, es war wie eine Melodie die natürlich wächst und es war ein titan der Industrie den ich da erschaffen habe so und du kriegur was hast du gemacht. Nein ich habe mich tatsächlich noch ein bisschen beschäftigt mit den aktuellen Entwicklungen rund um unser
Hekingvorfall über den Dreadliste Woche gesprochen haben. Da hat mittlerweile Hangingface auch ein Follow-Up veröffentlicht. Also die ersten Ergebnisse ihrer internen Evaluierung und es ist schon wirklich interessant, wenn man sich das so durchließt. Das ist sehr technisch. Da sind noch mal einige mehr Details dabei, als wir hatten, so dass dieser Angreifer Hekingagent über 17.000 Einzelaktionen durchgeführt hat. Man weiß jetzt den Zeitraum zweieinhalb Tage lang. Dort war und auch noch mal mehr Details dazu, dass das geschlossene Modell, also die bezahlmodelle, die Sie da hatten von Entropic und von OpenAI, eben am Ende nicht genutzt werden konnten zur Verteidigung und man auf dieses Open Source Modell gehen musste. Und das finde ich besonders deswegen noch mal einen Punkt, den ich ja vorhaben will, weil es ja auch einen offenen Brief gegeben hat in den vergangenen Tagen, den sehr viele, sehr große Techunternehmen auch unterschrieben haben, also zum Beispiel Nvidia. Und dafür einsetzt ja für Open Source eigentlich. Also das Ganze ist im Kontext von einer Überlegung der US-Regierung chinesische Open Weight Modelle, also genau die wie GLM 5.2. Das benutzt wurde von Hackingface um sich dagegen diesen Heckenangriff zu verteidigen, die zu verbieten. Und dagegen spricht sich dieser Brief aus. Und interessanterweise haben ein paar sehr wichtige Firmen, diesen Brief da nicht unterzeichnet oder anderen Entropic. Ich habe die Liste gerade hier. OpenAI ist mittlerweile drauf, die waren aber so nachzüglich. Also es scheint, als hätten die vielleicht erst mal abgewartet, wie die Situation sich entwickelt und haben dann doch mitgezogen. Wer nicht mit drauf ist, sind einmal Amazon, interessanterweise und aber vor allem Entropic. Also die Firma hinter Cloth, die ja eh was offene KI-Modelle angeht, immer recht kritisch unterwegs waren die ganze Zeit. Und da zeichner sind eben für mit wie Meter Microsoft. In video haben wir schon genannt, IBM, Dell, Palantir und Mistral, auch unsere Operarischen Kollegen. Auch Hackingface. Und die Debatte rund um diesen offenen Brief ist, was ist am Ende die sicherere Welt? Wie kann man mit KI-Risiken besser umgehen? Ja, die Position von diesem offenen Brief ist, dass eigentlich wir Open Weight Modelle brauchen, gerade weil es am Ende besser ist, diese Fähigkeiten, die mit KI kommen, möglichst zu dezentralisieren, um dann eben auch die besten KI-Modelle halt den Verteidigern gegen Cyberangriffe beispielsweise in die Hand zu geben. Während die Position von "Na Firma wie Entropic" und auch lange war das die Position von Open Weight. Das hat sich so ein bisschen geändert. Die ist ja immer gewesen. Nein, nein, diese Technologie ist so krass und so gefährlich, die sollte auf gar keinen Fall einfach an die Öffentlichkeit, wo dann jeder irgendwas damit machen kann, sondern es ist extrem wichtig, dass wir die unglaublich verantwortungsvollenwickeln und die verantwortungsvollen, die sind halt wir bei Entropic zum Beispiel. Es war wahrscheinlich auch keine Woche, die Open AI sehr gut getan hat. Es ist interessant, wenn wir jetzt noch darüber gesprochen haben, ist das alles ein Marketingstand von Open AI und so weiter. Es scheint mir immer weniger danach rauszusehen. Open AI sieht nicht sehr gut aus, bei den Informationen, die Schritt für Schritt rauskommen, über diese Aktion, die haben auch sehr lange gebraucht, um Haging Face überhaupt erst zu informieren. Das haben wir auch jetzt erst gelernt. Und jetzt hat sich quasi, wir haben mit einer Ausnahme, die komplette Techindustrie quasi versammelt, um die Bedeutung und die Wichtigkeit von offenen Modellen und damit sogar Open AI ein bisschen gezwungen gegen sein eigenes Geschäftsmodell, einen offenen Brief zu unterschreiben. Wenn das ein Marketingstand war, dann ist er spätestens an diesem Punkt wahrscheinlich nach hinten losgegangen, könnte man sagen. Es bleibt auf jeden Fall mega spannend. Dieses ganze Thema Open Source, Open Weight ist, glaube ich, eins, mit dem wir uns durchaus auch hier im Podcast noch ein bisschen mehr beschäftigen werden in der Zukunft. Ja. Aber vor wie in die Zukunft gucken, gucken wir noch mal in die Vergangenheit und zwar in die letzte Woche. Und Gregor, du musst ja noch sagen, was du mit KI gemacht hast. Also ich möchte eine Chat GBT-Sache teilen. Und zwar ist Chat GBT ja wirklich mittlerweile ziemlich toll im Bauern von Powerpoints. Und vor allem auch im Bauern von Powerpoints, wenn man viele verschiedene Aufgaben miteinander verbindet. Also da bin ich letzte Woche wirklich noch mal sehr kreativ geworden oder habe versucht kreativ zu sein. Da gehört dann dazu, mach bitte erste Recherche. Dann generiere ein Bild und dann generiere mit dem Powerpoint, wo du das ganze einbaust. Und zwar im Stil von dieser anderen Powerpoint, die ich dir gerade eingefügt habe. Das sind wirklich ziemlich komplexe Aufgaben, die noch vor sechs Monaten nicht funktioniert haben. Ich weiß noch, da hat Chat GBT wirklich sehr einfach so schwarzen Text auf weißem Hintergrund generiert. Mittlerweile ist das ziemlich beeindruckend, was dabei rauskommt. Also bitte nicht die Powerpoint-Fähigkeiten von Chat GBT unterschätzen. Ist mein Ersterpunkt. Aber tatsächlich habe ich mittlerweile einen ganz anderen Workflow gefunden. Und zwar vielleicht hat jemandem Vortrag von mir gesehen, auch in den letzten paar Wochen. Die erste Folie, die man dabei mir sieht. Das ist mittlerweile gar keine richtige Powerpoint-Folie mehr. Sondern was ich da jetzt mache, ist ich lasse mir das als Grafik generieren. Also ich habe so eine Art Mutboard erstellt. Ich zeig dir das mal. Also das sind dann so, wir sind dann Schriftarten dabei und Farben. Und dann grundsätzlich so ein bisschen visueller Stil. Ja, das arbeitet mit so Druckerstätik. Und jetzt kann ich quasi automatisiert Folie generieren lassen, die diesen Look haben. Und das ist nicht wirklich präzise genug, für Folien auf die einen viel Text drauf sein muss. Aber gerade für so eine Anfangsfolie, die ja auch ein Hinkucker sein soll. Oder ein bisschen interessantes Gefühl vermitteln soll darüber. Womit haben wir es eigentlich zu tun, funktioniert das sehr gut. Also Chatchipit für so kreative Grafikaufgaben, ob in Powerpoint, ob in einem Flyer, was auch immer. Wenn man es richtig promptet, wenn man da viel von dem eigenen Geschmack rein macht und wenn man dem auch sehr viel ausredet, also man muss dem sehr viel sagen, bitte keine Images und bitte keine Listen. Und all das über das wir schon geredet haben, dann kommen da mittlerweile echt tolle Sachen raus. Also es klingt griego als ob ich mal ein paar Folien bei dir und einer, einen Karimodellenauftrag geben muss. Die kennt den prompt. Aber wir haben ja wie immer natürlich auch nicht nur selber, was mit KI gemacht, sondern die ganze Welt macht Dinge mit KI und natürlich besonders viel und besonders tolle Dinge mit KI machen, unsere besonderen, tollen Hörerinnen und Hörer. Da haben wir, glaube ich, wieder ein dabei. Unter uns, das wird auch immer schwereger, weil viele Hörerinnen und Hörer schicken uns immer komplizierte Sachen, die sie machen mit KI. Die kriegen wir gar nicht hier in so einer Minute kurz. Ich erkläre jetzt kurz, was Sebastian uns eingeschickt hat. Sebastian hat sich ein, festhalten. Yamaha PSRE363 Keyboard gekauft, also ein Musikinstrument. Und das kam deffekt an. Also ich schätze es waren gebraucht, das ist ständig ausgegangen, das Display blieb nur an, wenn er den Power-Knopf gedrückt gehalten hat und so weiter und der Verkäufer hat nicht reagiert. Was hat er gemacht? Er hat gemeinsam mit Google Gemini, Fotos gemacht. Er hat Bauteile genau abgecheckt und tatsächlich es geschafft innerhalb von einiger Zeit. Aber dieses Ding komplett selber zu reparieren und auch das eigentliche Problem zu finden, nämlich ein unsichtbarer Haares, den es da gegeben hatte. Das Ergebnis sagt, der KI-Bord läuft etwa 120 Euro gespart und er lernt jetzt seine ersten Akkorde auf dem selbst reparierten Instrument. Sehr schöne Geschichte. Allerdings hoffel ich auch, dass Google Gemini immer sehr verantwortungsbewusst war, was die Stromschlag gefahren geht, weil da kann natürlich auch viel schiefgehen. Ein Stromschlag hoffe ich, dass wir allem ihr nicht bekommt, wenn ihr jetzt auf euer Smartphone klickt und uns eine gute Bewertung gebt und vielleicht auch den Podcast heilt in irgendeiner WhatsApp-Chad-Gruppe eurer Wahl, da freuen wir uns natürlich extremst drüber, wie immer. Und wenn ihr bis nächste Woche zwischendrin mal irgendwas anderes hören wollt, während ihr auf uns wartet, dann haben wir natürlich auch wieder ein Podcast-Tip für euch. Und zwar Wild Wild Web, das ein Podcast, dem ich persönlich wirklich sehr sehr gerne mag. Das sind immer verrückte Geschichten aus dem Internet und generell aus der Tech-Welt auch, also gar nicht so unähnlich zu uns. Und die ja eben über Palantir machen da eine ganz große Geschichte, über Palantir die Tech-Firma, die Überwachungsdatenkraten, Sicherheitsfirma, bei der ja Petersil auch schon sehr früh mit eingestiegen ist, eine der Gründer war. Und die auch immer wieder in aller Munde ist. Lohn sich bestimmt da rein zu hören, findet ihr auch, wie uns und auch alle anderen guten Podcasts in ARD Sounds.
Podcast Summary
Key Points:
Fritz und Gregor diskutieren, ob man KI-generierte Texte oder Reden sofort erkennen kann – oft sind es Stilmittel wie „es ist nicht X, es ist Y“, überladene Bedeutungen und unspezifische Aussagen.
Ein kanadischer Politiker namens Bill Oliver las versehentlich seinen KI-Prompt vor, was viral ging und die Debatte über KI-Texte in der Öffentlichkeit verstärkte.
Weitere Beispiele
Typische KI-Merkmale
Die Wikipedia-Liste „Science of AI Writing“ nennt Merkmale wie Verallgemeinerung und Übertreibung, z. B. „revolutionärer Titan der Industrie“ statt konkreter Fakten.
Technische Lösungen wie der KI-Detektor „Pangram“ sind deutlich zuverlässiger geworden, basieren auf Training mit menschlichen Texten und KI-Umschreibungen, sind aber nicht perfekt.
Fritz testete eine selbstgeschriebene Kurzgeschichte mit absichtlich schiefen Analogien – Pangram bewertete sie zu 100 % als KI-generiert, was die Grenzen der Erkennung zeigt.
Summary:
In dieser Podcast-Folge beschäftigen sich Fritz Espenlaub und Gregor Schmeitz mit der Frage, ob man KI-generierte Texte und Reden erkennen kann. Sie berichten vom Fall des kanadischen Politikers Bill Oliver, der versehentlich seinen KI-Prompt vorlas und damit eine breite Diskussion auslöste. Auch andere Politiker und Autoren wurden in letzter Zeit mit KI-Texten ertappt.
Die beiden diskutieren typische Merkmale von KI-Texten: die häufige Verwendung von Gedankenstrichen, Dreierlisten, übertriebene Bedeutungsschwere, unspezifische Aussagen und Analogien, die bei näherem Hinsehen keinen Sinn ergeben. Ein Beispiel ist Fritz‘ selbstgeschriebene Kurzgeschichte über einen Ninja, die voller schiefer Sinnbilder steckt und von einem KI-Detektor als zu 100 Prozent KI-generiert eingestuft wurde – obwohl sie von einem Menschen stammt. Sie betonen, dass solche Merkmale keine absoluten Beweise sind, sondern erst im Gesamtpaket auffallen.
Technisch hat sich der Detektor „Pangram“ verbessert, da er mit alten menschlichen Texten und KI-Umschreibungen trainiert wurde. Trotzdem bleibt die Erkennung unzuverlässig, besonders bei kurzen Texten. Die EU plant zudem gesetzliche Regelungen zur Kennzeichnung von KI-Inhalten.
Insgesamt zeigt die Folge, dass es keine perfekte Methode gibt, KI-Text sicher zu identifizieren, und dass sowohl menschliche als auch maschinelle Erkennung an Grenzen stößt.
FAQs
Typische Anzeichen sind Gegenüberstellungen wie 'es ist nicht das, sondern das', unspezifische positive Adjektive wie 'ganzheitlich' oder 'nachhaltig', übertriebene Bedeutungsaufladung, lange Gedankenstriche, Dreierlisten und ein abschließendes Fazit.
Man kann ein Gespür entwickeln, aber es gibt keine perfekte Methode. Auffällig sind oft unkonkrete Analogien und eine generische Sprache, doch das sind keine absolut hinreichenden Indizien.
Pangram ist ein KI-Detektor, der durch Training mit vielen menschlichen und KI-generierten Texten gelernt hat, typische Muster zu erkennen. Es ist relativ zuverlässig, aber nicht perfekt, besonders bei kurzen Texten.
Frühere Detektoren basierten auf festen Regeln und waren leicht auszutricksen. Pangram nutzt maschinelles Lernen mit großen Datenmengen, was es robuster macht.
Die Europäische Union hat gesetzliche Regelungen erlassen, die seit kurzem gelten, um Transparenz bei KI-generierten Inhalten zu schaffen, wie in der Folge erwähnt wird.
Die 100 Prozent beziehen sich auf die Menge des Textes, nicht auf die Sicherheit der Erkennung. Das kann fälschlich den Eindruck erwecken, dass die Einschätzung absolut sicher ist.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.