Go back

Sechs Gründe, KI zu hassen – stimmen sie?

58m 30s

Sechs Gründe, KI zu hassen – stimmen sie?

In dieser Folge des KI-Podcasts diskutieren Marie Kilk und Gregor Schmalzried die wachsende Ablehnung von Künstlicher Intelligenz und ordnen die verschiedenen Kritikpunkte ein. Ausgangspunkt ist der Wahlkampf in Pennsylvania, wo beide Kandidaten versuchen, sich gegenseitig als zu KI-freundlich darzustellen, da Umfragen zeigen, dass drei Viertel der Amerikaner gegen den Bau von Rechenzentren sind – ein schlechterer Wert als für Kohlekraftwerke. Die Moderatoren analysieren sechs zentrale Vorwürfe gegen KI. Den Blasen-Vorwurf bewerten sie mit zwei von fünf Punkten, da die Technologie trotz möglicher Überhitzung realen Nutzen zeigt. Die Sorge, KI werde vor allem für Betrug und Täuschung eingesetzt, erhält nur einen Punkt, weil diese Probleme gesellschaftlicher Natur sind. Das Szenario einer menschenfeindlichen Super-KI wird unterschiedlich bewertet: Gregor hält große Risiken für möglich, Marie eher für Science-Fiction. Die Umweltbelastung durch Rechenzentren wird differenziert gesehen, wobei die globale Ressourcenfrage ernster eingeschätzt wird als lokale Bauprojekte. Die größte Sorge gilt der wachsenden Ungleichheit und Machtkonzentration bei wenigen Tech-Konzernen, was mit fünf Punkten bewertet wird. Besonders kritisch sehen die Moderatoren die Praxis, Bücher für KI-Training zu zerstören, wobei sie einräumen, dass viele dieser Bücher ohnehin entsorgt worden wären. Abschließend berichtet Marie von ihrer zunehmenden Frustration mit Claude, das Nutzerkontext schlechter berücksichtige als ChatGPT – ein Problem, das Gregor auf KI-bewertetes Training zurückführt. Ein positives Hörerbeispiel über ein selbstgebautes Dienstplan-System zeigt jedoch, dass KI trotz aller berechtigten Kritik praktischen Mehrwert bieten kann.

Transcription

10604 Words, 65060 Characters

German
Speaker 1Marie, ich weiß, du und ich, wir beide, haben eigentlich nur ein Thema, was uns diese Tage wirklich interessiert. Und es ist, sag es mit mir zusammen, die Gouverneurswahl von Pennsylvania 2026. Ja, genau, richtig.
Speaker 2Das ist mein Thema Nummer viereinhalb, ganz bestimmt.
Speaker 1Sehr weit oben. Nein, da treten natürlich an, auch die, weißt du auswendig, wir haben auf der einen Seite Josh Shapiro von den Demokraten, wir haben auf der anderen Seite von den Republikanern, wir kennen sie, Stacey Garrity.
Speaker 2Ich habe Amerikanistik studiert und danach alles vergessen, was mich jemals mit den USA verbunden hat.
Speaker 1Na gut, ist auch in Ordnung, es ist nicht so super schlimm, dass du das nicht mitbekommen hast. Aber die zwei sind gerade in Acht. Wir sind in einem erbitterten Kampf um die, wie sagt man, das Governors Mansion, das Gouverneurshaus in Pennsylvania. Warum spreche ich darüber? Warum sprechen wir darüber? Weil die zwei einen ganz interessanten Wahlkampfstil gefunden haben. Hören wir mal rein in eine dieser, die sind ja immer ganz toll in den USA, in eine dieser Wahlkampf-Werbespots.
Speaker 3So, there are a lot of areas where you can put data centers. We could be the leader in AI.
Speaker 4We're gonna need at least two times more electricity. We have 88 data centers. Ohio is kicking our butt, they have over 192. We have a lot of catching up to do, but you know what, we need to deregulate. We could be the hub of AI.
Speaker 2Cool, pro AI, diese Frau.
Speaker 1Genau, absolut. Tolle Werbung für AI von Stacey Garrity. Nein, tatsächlich ist das eine. Anti-Stacey Garrity-Werbung, die kommt von Josh Shapiro, ihren demokratischen Opponenten. Also der möchte quasi, dass die ganze Welt weiß, Stacey Garrity, Pennsylvania's number one fan of data centers. Niemand sonst liebt KI und Rechenzentren so sehr wie Stacey Garrity.
Speaker 2Stacey findet AI gut.
Speaker 5Shapiros Data Center Scandal keeps growing. First Shapiro handed Amazon a fortune in tax credits to build a data center here, without any community input. Then Shapiro fast-tracked building permits, also without community input.
Speaker 2Beide finden AI gut.
Speaker 1Tatsächlich, also da haben wir jetzt, das war tatsächlich die erste Werbung dieser Art. Also zuerst hat Stacey Garrity Josh Shapiro angegriffen und gesagt, Josh Shapiro liebt Rechenzentren. Josh Shapiro, der aktuell der amtierende Gouverneur ist, kontert jetzt, indem er sagt, nein, nein, nein, nein, nein, Stacey Garrity liebt Rechenzentren noch viel mehr als ich.
Speaker 2Wer findet AI noch doofer und ist deswegen richtig doof?
Speaker 1Ja.
Speaker 2Krass.
Speaker 1Also es ist wirklich faszinierend. Es kam da ja gerade ein bisschen durch. Also Josh Shapiro, der amtierende Gouverneur, war vor einem Jahr noch komplett auf der anderen Seite. Vor einem Jahr war Josh Shapiro ein riesen AI-Fan. Er hat sich stolz hingestellt und gesagt, toll, dass Amazon in Rechenzentren investiert bei uns im Bundesstaat. Heute ist davon nichts mehr übrig. Und woher kommt das? Naja, weil die Teams hinter diesen zwei Kandidaten Umfragen lesen können. Ja, also wenn man sich anschaut, die Offenheit von Amerikanern. Sie reden über Rechenzentren, die in ihrer Region gebaut werden. Das war vor einem Jahr noch einigermaßen ausgeglichen. Da haben ungefähr die Hälfte gesagt, ich bin dafür. Ungefähr die Hälfte haben gesagt, ich bin dagegen. Mittlerweile sind 61 Prozent der Amerikaner stark dagegen. 14 Prozent, zumindest ein bisschen, also drei Viertel, sind gegen den Bau von Rechenzentren. Nur um das mal in den Kontext zu setzen. Das ist schlechter als der Beliebtheitswert eines Kohlekraftwerks.
Speaker 2Wow, okay, krass.
Speaker 1Also die meisten Amerikaner hätten mittlerweile lieber ein Kohlekraftwerk bei sich um die Ecke als ein Rechenzentrum.
Speaker 2Wild, okay. Also ja, USA sind ja allgemein gerade sehr polarisiert. Andererseits auch immer die Tech-Nation gewesen, immer auch stolz auf ihre moderne Haltung und sowas. Es ist in dem Sinne für mich jetzt schon überraschend, dass es wirklich funktioniert. Also dass man als Politikerin sagen kann, je mehr Anti ich zu KI bin, desto besser. Oder je moderner. Je fortschrittlicher pro Tech mein Gegner ist, desto eher solltest du mich wählen. Wild, ja. Wie ist es in Deutschland?
Speaker 1Naja, also wir haben ja, wie wir auch schon besprochen haben im KI-Podcast, wir haben ja lange nicht so viele Rechenzentren. Es werden auch lange nicht so viele Rechenzentren bei uns gebaut. Also das heißt, es ist bei uns zumindest im Moment kein so großes politisches Thema. Aber auch hier wird natürlich nach KI befragt. Und der ARD-Deutschland-Trend zum Beispiel, der sieht auch eine Verschlechterung. Also KI wird heute deutlich negativer gesehen als noch vor einem Jahr. Ja, 45% sagen, KI wird unser Leben eher verschlechtern. Das war vor einem Jahr noch weniger. Also wir haben nicht so ganz so drastische Bewegungen, aber auch hier wird KI eher unbeliebter. Und ich sage mal so, Marie, vielleicht hast du das auch mitbekommen, aber der interessanteste Datenpunkt, der ist vielleicht einfach, was man im Alltag so hört, oder?
Speaker 2Total. Da habe ich gerade dran gedacht. Ich finde, man merkt es auch in Gesprächen. Ich glaube, von Anfang an hatte ich immer auch Leute in meinem Umfeld, die gesagt haben, ist das nicht geheuer oder sie finden KI blöd oder sie erzählen eher so die Dinge, wo KI was Dummes macht oder das ist doch alles irgendwie zu teuer, solche Dinge. Aber ich habe schon das Gefühl, dass das viel salonfähiger oder häufiger geworden ist, dass die Leute einfach sagen, ich habe keinen Bock mehr auf KI oder ich muss jetzt hier in der Arbeit eine KI benutzen oder guck mal, was hier Dummes mit KI passiert ist in meinem Unternehmen.
Speaker 1Ja, ich habe zum ersten Mal jetzt letzte Woche die Frage bekommen, stoppen wir dieses ganze Ding jetzt eigentlich? Also wird der Widerstand? Irgendwann so groß, dass diese ganze KI-Sache einfach wieder zurückgerollt wird. Wir sagen einfach, ach, das war eigentlich ein Fehler, wir lassen das jetzt. Wir sprechen heute über die vielen guten und schlechten Gründe, KI doof zu finden. Wir sprechen über die Frage, ob die KI-Wirtschaft eigentlich nur eine große Blase ist, ob sie Bücher zerstört, ob sie umweltschädlich ist, ob sie uns alle dumm macht, all die Dinge, die man KI vorwerfen kann und ob wir persönlich damit gehen oder eher nicht. Das ist heute unser.
Speaker 2Ihr hört den KI-Podcast, die große Hater-Folge. Ich bin Marie Kilk.
Speaker 1Und ich bin Gregor Schmalzried.
Speaker 2Also Gregor, es gibt ja nicht nur einen Grund, KI zu hassen. Und es ist ganz interessant, weil wenn man merkt, wie Leute über KI sprechen, vor allem die, die KI doof finden, dann, wenn man genau hinhört, merkt man recht schnell, dass es in extrem unterschiedliche Richtungen gehen kann. Was die von KI denken, was die denken, das daran gefährlich ist. Was die denken, wie gut oder wie schlecht es ist in einzelnen Aspekten. Und deswegen müssen wir das mal sortieren. Aber ich würde sagen, wir fangen an mit einem Einwand, den man zurzeit sehr oft auch hört. Eigentlich seit die KI...
Speaker 1Seit das alles losging eigentlich.
Speaker 2Genau. Nicht nur zurzeit, aber seit drei Jahren viel hören. Nämlich der Vorwurf, KI ist einfach nur eine nutzlose Bubble.
Speaker 1Im Grunde genommen ist der Vorwurf, der kommt von Leuten wie Ed Citron beispielsweise, den ihr auch, glaube ich, mal erwähnt habt. Oder Fritz. Und du mal in der Folge. Bestimmt. Der besteht aus zwei Teilen. Der erste Teil ist, dass KI eigentlich gar nicht produktiver macht. Und der zweite Teil ist, dass deswegen die großen KI-Unternehmen gerade Milliarden, hunderte Milliarden in eine Technologie investieren, die es eigentlich gar nicht wert ist. Das bedeutet, früher oder später wird dieses große Kartenhaus in sich zusammenfallen. Und nicht nur diejenigen haben dann Probleme, die selber in diese KI-Unternehmen investiert waren. Sondern... Wahrscheinlich auch alle anderen. Weil KI ja von vielen Unternehmen, vielen Rentenfonds, Hedgefonds, Banken und so weiter mitfinanziert wird. Das heißt, sollte all das zusammenbrechen, hätten wir wahrscheinlich eine kleine Wirtschaftskrise.
Speaker 2Wird die Weltwirtschaft mitgerissen.
Speaker 1Genau. Das ist so ungefähr der Vorwurf.
Speaker 2Ja, ich finde es super, dass du das direkt mal zweiteilst. Weil ich glaube, ich muss mich selber auch in das Lager mitnehmen, das ab und zu sagt, KI ist eine Bubble. Ich sage hoffentlich nicht, KI ist eine nutzlose Bubble. Weil, dass es nützlich ist und dass da nicht gar nichts dahinter ist. Das merkt man einfach, wenn man damit arbeitet. Aber die absurden Ausmaße, die diese Investitionen annehmen. Einfach allein die Tatsache, wie viel zum Beispiel vom US-Stockmarket schon einfach nur von KI-Firmen dominiert ist. Das sind, finde ich, viele Indikatoren, wo man schon glaubwürdig vermuten kann, dass das eine Bubble ist. Dass es überhitzt ist, dass die Wirtschaft da quasi mehr draus macht, als am Ende des Tages übrig bleiben würde. Wenn auch mal wieder... Der Pfeil nach unten zeigt.
Speaker 1Ja, es ist natürlich in so einer Phase wahnsinnig schwierig, sowas einzuschätzen. Weil das kann natürlich sein. Also auch während der Dotcom-Blase, was ja die letzte große Blase dieser Art war, könnte man sagen, gab es natürlich Unternehmen, die das Ganze nicht überlebt haben. Pets.com ist immer so der Klassiker oder die Telekom-Aktie hat sehr lange gebraucht, um sich wieder zu erholen. Also es gibt viele Geschichten, in denen Unternehmen es nicht geschafft haben, aus so einer Blase einigermaßen gesund wiederzukommen. Aber es gab halt auch Amazon und es gab auch Google. Also einzelne Unternehmen haben oft Erfolg und andere nicht. Und gerade sind wir vielleicht in der Phase, in der das noch nicht so ganz klar ist, welches dieser Unternehmen tatsächlich am Ende Erfolg haben wird. Es gibt aber jetzt schon einen Unterschied zu dem, was während der Hochphase der Dotcom-Bubble los war. Also so Ende der 90er, Anfang der Nullerjahre. Und das ist schon die Tatsache, dass die ganz großen KI-Firmen eine ganze Stange Geld verdienen. Und dieses Geld... wächst massiv. Also ich habe mal geschaut bei Entropic. Konkret ist der Umsatz im Juli dieses Jahres etwa 5,4 Milliarden Dollar gewesen. Das ist erstens ziemlich viel. Das ist beispielsweise mehr als Deutschlands wertvollstes Unternehmen SAP umgesetzt hat in diesem Monat. Und SAP gibt es seit 40 Jahren. Entropic gibt es eigentlich in der Form erst seit zwei oder drei Jahren. Noch im Januar war es fünfmal weniger. Die haben ihren Umsatz seit Anfang des Jahres mehr als verfünffacht, sind jetzt bei 5,5 Milliarden. Und das heißt, natürlich kann das wieder abflachen. Natürlich kann es sein, dass das den riesigen Ausgaben, die die haben, immer noch nicht gerecht wird. Aber man muss sich das schon hinsetzen und relativ klar anerkennen, das ist eine vollkommen abgefahrene Situation, dass ein Unternehmen so stark wächst, dass es auch in den Einnahmen so stark wächst. Und ich kann da jeden verstehen. Und er sagt, natürlich möchte ich da rein investieren. Leute kaufen sich ja keine Entropic Credits oder keine Entropic Abos, weil sie hoffen, dass das im Preis steigt, sondern weil sie was dafür rausbekommen. Also Produktivität steckt da ja schon drin. Es gibt halt immer wieder auch Studien, die da zitiert werden. Es gibt eine, die sehr gerne auf Social Media unterwegs ist. Die ist schon ein bisschen älter, in der wurden verschiedenen Gruppen von Programmierern KI-Tools zur Verfügung gestellt. Und dann hat man gemessen, ob die produktiver geworden sind oder nicht. Und in dieser konkreten Studie, deswegen wird die auch so gerne zitiert, die wurde vom Mieter-Institut durchgeführt, dachten die Programmierer, sie wären produktiver geworden, waren sie aber gar nicht. Im Gegenteil, sie haben am Ende sogar weniger Produktivität gehabt als vorher. Und solche Sachen gehen natürlich dann schnell viral. Man sieht das, man denkt sich, ach okay, also ist das jetzt alles Quatsch, ist halt in der Praxis meistens doch ein bisschen komplizierter. Also bei diesem konkreten Fall war es zum Beispiel so, dass die allermeisten der Teilnehmer keine wirklich große Erfahrung, hatten mit diesem speziellen Tool. Das bedeutet, die haben erstmal auch Zeit damit verbringen müssen, sich zurechtzufinden in diesem Tool. Die mussten rausfinden, wie funktioniert das eigentlich, wie gehe ich damit um. Es gab nur eine Person, die wirklich eine Menge Erfahrung damit hatte. Und die war die eine, deren Produktivität gestiegen ist. Das ist natürlich nur eine Person, deswegen ist das jetzt nicht wirklich repräsentativ. Aber es zeigt schon, es ist einfach sehr schwer, so etwas zu messen. Und natürlich kann es sein, dass KI weniger produktiver macht, als man dachte. Natürlich kann es sein, dass manche der Versprechungen überhöht waren, völlig klar. Aber ich glaube, wir sind mittlerweile über den Punkt hinweg, dass man sagt, naja, selbst wenn das Ganze platzt, in Anführungszeichen, selbst wenn das eine Blase ist, die wieder ein bisschen in sich zusammenfällt, ist die mittlerweile so weit aufgeblasen, selbst wenn die jetzt um die Hälfte zusammenschrumpfen würde, wäre sie immer noch riesig und würde die Welt immer noch ziemlich verändern.
Speaker 2Das ist absolut. Also ich glaube, der Punkt ist wirklich, wie du sagst, diese überzogenen Versprechen auch. Ich habe auch nochmal... Ich habe nochmal ein paar Zitate ausgesucht, was die ganzen CEOs von Microsoft und OpenAI und so, einfach was die in den letzten Jahren auch erzählt haben. Das ist ja auch überhitzt. Also die haben uns schon vor vielen, vielen Jahren ganz fundamentale Veränderungen versprochen und immer wieder gesagt, nächstes Jahr wird jeder eine eigene KI haben und jedes Unternehmen wird mit Agenten arbeiten. Und es ist nicht so, dass das alles nicht gekommen ist.
Speaker 1Dieses Jahr halt.
Speaker 2Aber genau, es ist alles immer ein, zwei Jahre später gekommen, als sie gesagt haben.
Speaker 1KI ist eine nutzlose Bubble. Das so als Vorwurf. Wie plausibel, Marie, findest du das? Als Grund, KI zu hassen. Wie sehr überzeugt dich das von 1 bis 5?
Speaker 2Ich würde sagen, eine 2. Es ist kein guter Grund, KI zu hassen, dass es eine Bubble ist. Aber ich warte trotzdem auch immer noch auf einen Börsencrash. Und dann kann man, glaube ich, dann nochmal mehr Hate reingeben, wenn wirklich diese Konsequenzen spürbar werden sollten. Ich muss aber auch sagen, ich prognostiziere den Crash seit drei Jahren.
Speaker 1Das hätte ich jetzt fast noch erwähnt. Ich habe mal nachgeschaut. Wir haben zum ersten Mal eine Folge. Mit dem Titel Ist KI nur eine Blase im Juni 2024, also vor über zwei Jahren. Der Aktienkurs von Nvidia hat sich seitdem nochmal verdoppelt. Also naja, ich würde auch sagen, 2 ist, glaube ich, gut, weil es kann natürlich sein, dass manche dieser Konstrukte, die da gerade passieren, nicht allzu gesund sind. Sollte es zu einer großen Korrektur kommen am Aktienmarkt. Aber auf lange Sicht gehe ich dann doch davon aus, dass egal, ob jetzt alle Unternehmen überleben werden, egal, ob jetzt manche von uns überleben, vielleicht insolvent gehen, was alles passieren kann, die Technologie bleibt und die wird uns auch weiter beschäftigen. Deswegen bleiben wir mal bei einer 2.
Speaker 2Okay, dann gehen wir zum zweiten Punkt. Nehmen wir mal an, dass die Technologie bleibt, dass es keine Bubble ist, aber das ist der Vorwurf Nummer 2. Was ist, wenn diese Technologie einfach trotzdem für richtig ungeile Sachen benutzt wird, wenn man nichts Gutes mit dieser Technologie schafft, auch wenn sie funktioniert, sondern eher schlecht ist?
Speaker 1Ja, woran ich da immer denken muss, es gibt einen, vielleicht kennst du den, es gibt so einen Comedian. Vor allem auf TikTok, der heißt Fabi Rommel, der ist ziemlich lustig und der hat vor einer Weile mal ein Video gemacht, dann muss ich immer doch denken, verlinken wir auch in den Shownotes. Es geht darum, er sitzt vor seinem KI-Assistenten, vor Chat-GPT oder so und er sagt, hey, ich habe gehört, du kannst jetzt alles. Kannst du mal eine Steuererklärung machen? Und dann sagt die KI, das kann ich nicht, aber ich kann deine Stimme fälschen, sodass Betrüge bei deiner Bank anrufen können. Und er geht das dann so durch und versucht halt irgendwie die KI zu nutzen, um sich das Leben leichter zu machen, aber alles, wofür sie da ist, ist, um ihm das Leben zu erschweren. Und ich glaube, das ist schon ein Gefühl, was gerade eine Menge Menschen haben. Eine Menge Menschen merken, da kommt was, was immer besser wird, was immer stärker wird. Leute kriegen ja auch diesen Fortschritt mit, deswegen glaube ich auch, dass die allermeisten Menschen diesen Vorwurf, das KI eigentlich zu nichts zu gebrauchen ist, nicht sonderlich überzeugend finden. Aber vielleicht sehen sie, dass es im Alltag vor allem dazu führt, dass ihnen das Leben schwerer gemacht wird, weil eben überall KI-Texte unterwegs sind, man bekommt immer mehr Spams, man muss Angst haben, dass jedes Video, jedes Audio,
Speaker 2jedes Bild, was einem online begegnet, dass das alles gefälscht ist. Auch in der Bildung, ja, Schüler machen ihre Hausaufgaben mit KI, wir werden alle dumm. Und da haben wir einfach diese KI-Bilder satt und die KI-Videos satt und ich finde, diese ganze Ästhetik, der haftet einfach auch schon, also mindestens was richtig Hässliches, Unangenehmes und oft dann auch noch was Verbrecherisches an. Hier wird was einfach generiert, nur um mich zu verarschen oder mir sogar richtig zu schaden oder meinen Kindern noch schlimmer.
Speaker 1Ja, ich würde halt sagen, das ist was, das ist jetzt nicht unbedingt KI-spezifisch. Also die ganzen Sachen, die wir gerade genannt haben, ja klar, die sind KI-Themen, aber natürlich… Natürlich kennen wir es von jeder neuen Technologie, dass sie positive Auswirkungen hat und negative Auswirkungen. Das Internet ist das klassische Beispiel dafür, für etwas, wo wir natürlich nicht mehr darauf verzichten wollen heutzutage, aber was natürlich auch die Welt ein Stück weit unsicherer gemacht hat, was vielleicht politisch nicht alles so zum Besseren gewandelt hat. Also positive und negative Wirkungen gehören dazu. Und bei KI ist es eben vielleicht so, dass viele Menschen vor allem die negativen merken. Weil sie, und da kommen wir vielleicht auch zur Lösung von diesem Problem, vielleicht auch selber gar nicht so drin sind. Also wenn man den KI-Podcast hört und die ganz tollen Beispiele, die immer unsere tollen Hörerinnen und Hörer uns einsetzen am Ende der Folge, dann natürlich weiß man dann, dass KI für super tolle Sachen benutzt werden kann, dass es hilfreich sein kann, dass es unser Leben erleichtert. Aber wenn man diesen Zugang dazu nicht hat, wenn man sich damit schwer tut, dann ist alles, was man von KI sieht, ach ja, das ist das, was jetzt dafür sorgt, dass ich… Wenn meine Tochter anruft, nicht mehr sicher sein kann, ob es wirklich meine Tochter ist oder nicht.
Speaker 2Das ist eine interessante These. Also es klingt jetzt aber so, als wärst du bei dem Punkt einfach immer noch sehr KI-positiv und würdest sagen, das ist kein gutes Argument gegen KI.
Speaker 1Ja, ich glaube für mich ist das vielleicht ein bisschen mehr als die zwei von gerade, vielleicht eine zweieinhalb oder so, aber ich glaube schon, dass sich das ein Stück weit erledigt, will ich fast sagen. Ich glaube halt, dass wir das Thema nicht besser machen, indem wir KI doof finden. Weil das führt dann ja eher dazu, dass man sich noch mehr verschließt, dass man noch mehr sagt, ich will damit nichts zu tun haben, ich möchte, dass das weggeht. Weil das passiert leider nicht. Der beste Weg, den wir haben, ist, mit dem Kopf durch die Wand und uns damit zu beschäftigen und quasi auf unserer Seite mitzurüsten.
Speaker 2Ja, da bin ich total dabei. Ich würde sogar sagen, ich muss gerade echt überlegen, ob ich das aussprechen will, aber ich habe gerade eine Eins im Kopf bei diesem Punkt, eben weil ich auch dein Argument sehr gut finde, dass es eigentlich keine KI-Probleme sind. Anhand von diesen dummen KI-Sachen sehr viele Probleme, die wir in der Gesellschaft haben, die wir haben mit Content, der uns online gezeigt wird, die wir haben mit Bildungssystemen, die veraltet sind und so weiter, aber eigentlich sind die zugrunde liegenden Probleme dahinter keine KI-Probleme. KI macht die nur sichtbar und ja, ich glaube auch, also ich muss eigentlich eine Eins geben, weil ich dem weniger geben muss als dem Bubble-Ding vorher. Ich finde es auch teilweise unglaublich nervig, aber ja, dann bin ich jetzt bei einer Eins.
Speaker 1Dann bin ich gespannt, wie du unseren nächsten Punkt bewerten wirst. Weil so wie ich dich kenne, sehe ich dich nicht in dieser Ecke. Der dritte Punkt ist, wir sagen nicht nur, KI ist keine Bubble und ist vor allem für Schlechtes verantwortlich. Wir sagen, KI ist keine Bubble und ist für das Allerschlechteste verantwortlich, was möglich ist, nämlich das Ende der Menschheit. Verwandelt oder einen globalen Nuklearkrieg auslöst. Was auch immer, das ist Grund Nummer drei. Grund Nummer drei, KI wird uns alle umbringen und deswegen finden wir sie nicht so gut.
Speaker 2Ja, das ist interessant, weil es das Gegenteil von Punkt eins ist. Viele Leute hassen KI und die einen hassen KI, weil sie sagen, es bringt überhaupt nichts und die anderen hassen KI, weil sie sagen, das ist unglaublich mächtig und das ist das Gefährliche und deswegen müssen wir KI stoppen.
Speaker 1Deswegen finde ich diese Folge hier auch so schön, weil wir jetzt mal die Gelegenheit haben, diese verschiedenen Stränge mal so auseinanderzunehmen. Ich erinnere mich nämlich noch, dass es vor ein paar Monaten eine Demonstration gab im Silicon Valley gegen KI und da gab es ein bisschen Berichterstattung und ich habe Kommentare gelesen, die offensichtlich aus dieser Punkt eins Kategorie kamen. Also Leute gesagt haben, ja, endlich ist mal jemand gegen KI und gegen diese schlimmen, diese nutzlose Technologie und so. Und wenn man sich aber die Plakate genau angeschaut hat, dann dachte ich mir, ah, nee, nee, nee, die kommen aus einer völlig anderen Wahrheit. Aber wie das natürlich gerade auch auf Social Media so ist, ja, das wird dann natürlich verkürzt. Man wirft alles in einen Topf. Der Gegner meines Gegners ist mein Freund und zack, hat man das Gefühl, man zieht in einem Strang, auch wenn man es eigentlich gar nicht tut.
Speaker 2Ja, also ich glaube, man hört es schon raus, der überheblichen Art, wie wir darüber sprechen. Bei mir zumindest ist es so, diese KI will uns alle umbringen. Ecke, die nehme ich nicht ernst. Das ist keine Angst von mir persönlich. Ich verstehe, wo es herkommt. Also ich will überhaupt nicht sagen, dass alle dumm sind.
Speaker 1Ja, es sind ja auch Nobelpreisträger wie Jeffrey Hinton mit dabei zum Beispiel.
Speaker 2Ja, auch Stephen Hawking, als er noch gelebt hat, hat auch davor gewarnt. Also die Idee ist, wenn wir jetzt immer mächtigere KI bauen, kommen wir irgendwann auch vielleicht an den Punkt der Singularität. Also eine KI, die sich dann selbst verbessert und das kann alles außer Kontrolle geraten. Ich möchte das trennen. KI kann außer Kontrolle geraten, auch wenn das nicht ein riesen Science-Fiction-tödliches Szenario wird. Und da sehe ich schon Gefahren. Ja. Wenn man das verantwortungsbewusst gestaltet, wie man da die Kontrolle behält. Haben wir ja auch bei den Hacking-Angriffen in den letzten Wochen gesehen, dass eine unkontrollierte KI durchaus Schaden anrichten kann.
Speaker 1Wollte ich gerade sagen. Dieses Thema ist ja gerade wieder relativ aktuell, weil wir auf einmal sehen, ach so, KI richtet ja wirklich Schaden an gerade. Genau. Und oft auch ohne, dass sie explizit von ihren Entwicklern dazu angewiesen wurde.
Speaker 2Ja, also ich möchte nicht sagen, die Technologie ist nicht mächtig und auch nicht sagen, dass es total leicht ist, damit verantwortungsbewusst umzugehen. Aber für mich kommen viele von diesen Kritiken aus der Richtung einfach klar aus so einer Science-Fiction-Bubble, wo die dann wirklich auch ganz andere Vorstellungen von dem menschlichen Gehirn und von Bewusstsein haben als ich. Und deswegen sich da wirklich so Superwesen vorstellen, die dann auch absichtlich die Menschheit zerstören, weil sie sagen, wir wollen mehr Ressourcen für uns KIs. Genau, da gibt es einfach geile Geschichten aus Büchern und aus Filmen und ich glaube, für manche Leute funktioniert das. Für mich wäre das eine Null, weil ich es einfach nicht sehe. Mhm. Also in dem Moment, wo ich sehe, dass die KIs in dieser Richtung gefährlich werden oder dass die Technologie in diese Richtung sich entwickelt, dann habe ich auch Angst davor. Aber gerade ist es für mich so, wie wenn du sagen würdest, aber Aliens könnten uns auch angreifen. Ja, könnten sie. Ich sage nicht, dass es unmöglich ist, dass Aliens uns angreifen. Aber da fange ich an, mich mit zu beschäftigen, wenn ich das UFO sehe und nicht jetzt einfach so. Wie siehst du es? Wie viele Punkte gibst du diesem Vorwurf?
Speaker 1Ja, ich glaube, ich mache es jetzt ein bisschen interessant. Ich glaube, ich gehe auf eine Drei.
Speaker 2Was?
Speaker 1Ich glaube, ich gehe auf eine Drei. Ich gehe aber auf eine Drei mit einem bisschen… Ich klammer das ein bisschen ein, weil mir geht es weniger um die Super-KI, die ein Bewusstsein erlangt. Okay. Mir geht es um ein Szenario, wie es geht irgendwas wirklich massiv schief. Also es wird irgendein KI-Agent auf eine Art und Weise implementiert, die große Teile der Infrastruktur lahmlegt und wir verstehen nicht genau, was da schiefgegangen ist. So was sehe ich und ich sehe natürlich schon auch die Möglichkeit von einem autoritären Staat, von einer terroristischen Vereinigung, die es schafft, ein KIs zu verhindern. Das System, was in der Form noch nicht existiert, das gehört natürlich mit dazu, einzusetzen. Der Rest der Welt ist nicht darauf vorbereitet und dann geraten die Dinge außer Kontrolle. Also das würde ich jetzt hier mit rein interpretieren, weil wir reden jetzt hier über mehr als einfach nur, ja, KI betrügt mich ein bisschen oder KI macht die Welt unsicherer. Nein, wir reden wirklich über große Risiken, Krieg und so weiter. Und ich finde dieses Szenario, auch was Biowaffen angeht und viele andere Sachen, leider gar nicht so unplausibel.
Speaker 2Okay, das sind für mich Sachen, die würde ich glaube ich… Punkt 5 oder 6 packen, kleiner Cliffhanger, aber fair, wir haben unterschiedliche Interpretationen von KI wird uns alle umbringen.
Speaker 1Ja, wie gesagt, also ich glaube, ich würde es auch deswegen ein bisschen höher machen, weil ich halte es zwar nicht für wahrscheinlich, dass das passiert, sehr wichtig, aber wenn es passiert, dann ist es natürlich ein deutlich größeres Problem als die ganzen anderen Sachen. Es ist deutlich wahrscheinlicher, dass ich mal das Problem haben werde, dass eine KI mir meine Identität klaut oder so und in meinem Namen ein PayPal-Konto aufmacht. Ja. Das ist deutlich wahrscheinlicher, als dass eine KI mich umbringt. Aber das PayPal-Konto bekomme ich wieder, mein Leben nicht.
Speaker 2Okay. Was auch nicht unwahrscheinlich ist, ist, dass mal jemand tatsächlich doch ein Rechenzentrum irgendwo in deine Nachbarschaft oder zumindest in dein Land baut. Wir sind jetzt bei Punkt 4, was wir am Anfang ja schon als ein Ding so ein bisschen rausgegriffen haben, ein großer Kritikpunkt an KI. KI verbraucht zu viele Ressourcen, KI ist schlecht für die Umwelt.
Speaker 1Ja, großes Thema. Wir sind auch schon gewesen im KI-Podcast, wir hatten eine große Folge zum Thema Rechenzentren, sollte ich ein Rechenzentrum in meiner Gegend bauen. Was ich mitgenommen habe aus dieser Folge ist, dass das eine wahnsinnig komplizierte Frage ist, dass es extrem smarte Leute gibt, die sich, was das Baurecht angeht, was die Umweltfolgen angeht, wie man so ein Ding eigentlich plant, sehr genaue Gedanken machen, insbesondere bei uns in Deutschland, das muss man auch wirklich sagen. Also wir bei uns hier haben nicht diese Situation in den USA. Ja, die zu solchen Situationen führt, wie das, was wir am Anfang gehört haben, rund um die Rechenzentren in Pennsylvania. Ja, also es ist sicherlich nicht so, dass einfach einzelne Unternehmen große Landstriche aufkaufen, die direkt neben der Stadt liegen und die haufenweise zuknallen mit Rechenzentren. So das geht bei uns einfach nicht auf die gleiche Art und Weise, deswegen ist das auch ein bisschen weniger, ich will nicht sagen weniger relevant, aber es ist weniger präsent in den Köpfen der meisten Leute. Trotzdem auch die amerikanische Social-Media-Kultur wandert früher oder später zu uns und das habe ich jetzt vermehrt. Auch bei uns gesehen, also konkret geht es ja beispielsweise bei uns in den letzten Wochen viel um Wasser, um Wassermangel, Wasserstress und ich habe sehr oft beispielsweise auf Social-Media in Kommentaren gelesen, wenn es wieder darum ging, dass wir Wasser sparen müssen. Ja, aber für Rechenzentren ist doch Wasser da oder was? Und dieser Gedanke, der verfängt sich natürlich.
Speaker 2Das ist fair, dass du das so differenzierst und ich glaube auch die größeren akuten Probleme, die hast du dann in Bundesstaaten wie Arizona, wo sowieso wenig Wasser da ist und du auch ein Stromnetz hast. Das ist ganz anders belastet wird von diesen Rechenzentren. Was aber auch stimmt, finde ich, ist, also die Klimakrise ist ja trotzdem ein globales Problem und ich glaube ein Teil von dieser Kritik kommt ja auch einfach daher, dass wir sehen, KIs brauchen echt viel Energie und da gehen halt die Meinungen auseinander, wie viel davon ist zu viel. Ist es richtig, dass wir in dem Moment, an dem wir sind, mit unserem eigentlichen Wunsch auf erneuerbare Energien umzustellen, das unterstelle ich jetzt einfach mal den meisten Leuten, dass die die Klimakrise ernst nehmen und sagen, wir müssen das in den Griff kriegen, da hilft dieser KI-Hype nicht. Einfach weil du so eine große Nachfrage nach neuer, zusätzlicher und günstiger Energie hast, dass es halt schon einfach dazu führt, dass viele von den großen Konzernen ihre Klimaziele über Bord geworfen haben oder verschieben, dass neue, mindestens Gaskraftwerke gebaut werden oder eben auch Kernkraftwerke, was ja in dem Fall für Emissionen besser wäre. Aber dass du, glaube ich, schon die Welt durch den KI-Hype auf eine ganz andere Timeline gebracht hast. Als sie sonst vielleicht wäre, wenn wir nicht diesen absurden Energieverbrauch für diese neue Technologie hätten.
Speaker 1Ich tue mich so schwer mit diesem Thema. Ich glaube, ich würde gerne zwei Wertungen vergeben. Das eine ist so die Wertung für das Rechenzentrum in meiner Nachbarschaft, weil ich glaube schon, dass das zumindest aus meiner Perspektive oft zu panisch gesehen wird. Ich glaube, Leute denken da auch, haben manchmal da die falschen Vorstellungen über die Umweltauswirkungen, die das wirklich hat, insbesondere dank sehr strenger Regulierung hier bei uns in Deutschland. Das, was in den USA passiert, wo ja auch die Sorgen meistens, jetzt mal grob zusammengefasst, sich eben nicht um das Rechenzentrum selber drehen, sondern darum, dass halt nebenan noch ein Gaskraftwerk gebaut wird. Ich mache mir persönlich ehrlich gesagt mehr Sorgen darüber, dass wir als Europa überhaupt nicht mitkommen bei dieser Entwicklung, als dass wir an der einen oder anderen Stelle ein Rechenzentrum zu viel bauen.
Speaker 2Also welche Zahl?
Speaker 1Also dafür vielleicht eine Eins. Dafür eine Eins, okay. Aber das, was du gesagt hast, das ist ja…
Speaker 2Weniger als KI bringt uns alle um.
Speaker 1Aber das andere, das, was du gesagt hast gerade, das ist ja größer als das. Das ist ja eine weltweite Entwicklung. Das Problem ist damit, da haben wir wenig zu schaffen. Also ob jetzt eine Stadt in Niedersachsen verhindert, dass bei ihnen um die Ecke ein Rechenzentrum gebaut wird, das hat wahrscheinlich im Großen und Ganzen wenig Einfluss auf die Rechenzentrumsstrategie großer amerikanischer Konzerne. Das heißt, das ist der Grund, warum ich mich da so schwer tue. Also der großen Ressourcenfrage würde ich sicher auch eine Drei geben mindestens.
Speaker 2Ich glaube, man muss da genau hinschauen. Ja, willkommen.
Speaker 1Wir kommen jetzt in den politischen Part. Also wir haben noch zwei Gründe, KI zu hassen. Und die haben jetzt auch genau mit den Sachen zu tun, die du gerade angedeutet hast, nämlich den großen Gerechtigkeitsfragen vielleicht auch rund um Big Tech. Grund Nummer 5, KI doof zu finden. KI sorgt dafür, dass manche Menschen reicher werden, aber die meisten ärmer. Also KI ist etwas, was die Ungleichheit auf der Welt weiter verstärkt. Da könnte man natürlich den Klimawandel direkt mit reinnehmen und die Entwicklung. Aber natürlich kann man da noch viel, viel, viel mehr mit reinnehmen.
Speaker 2Ja, zum Beispiel die ganzen Künstlerdiskussionen. Das ist auch was, was wir eigentlich relativ am Anfang schon direkt gehört haben, als die ersten generativen Modelle rauskamen. Ihr könnt jetzt Bilder generieren, ihr könnt jetzt Texte generieren. Dass ganz viele Leute sich zu Wort gemeldet haben, die das bis dato beruflich gemacht haben. Grafiken erstellen, schöne Bilder malen und gesagt haben, Moment mal, hat uns eigentlich irgendjemand gefragt, ob wir dafür als Trainingsmaterial herhalten wollen? Hat niemand uns gefragt. Wir haben auch kein Geld dafür bekommen und jetzt wird diese Technologie auch noch dafür benutzt, den Markt so umzukrempeln, dass wir weniger Arbeit haben als davor. Mega ungerecht. Und da bin ich, also muss ich sagen, habe ich auch krasse Sympathien für. Auch aus den Medien kommend haben wir auch diese Diskussionen, wie viel von dem, was wir machen, machen wir für die Gesellschaft und stellen es auch gerne allen zur Verfügung. Nicht nur denen, die jetzt im speziellen Fall dafür gezahlt haben oder die Gebühren zahlen, aber da ist einfach eine große Lücke gewesen vertraglich, ob das jetzt in Ordnung ist, dass das von großen Tech-Konzernen benutzt wird, die daraus dann doch ganz klar Profite machen und ob das gut ist für die Allgemeinheit.
Speaker 1Ja, das Ganze wird natürlich größer noch. Also die Grafik-, Kunst-, Kreativwelt ist vielleicht die erste, die das trifft, aber dieses Grundphänomen, die einzelne Person tut sich schwerer, weil mittlerweile große KI-Unternehmen einfach das Aggregat von allen menschlichen Arbeitsdaten nutzen können, um es selber zu verkaufen, ohne dass die Menschen jemals dafür gebraucht werden. Das ist, glaube ich, die eigentliche Sorge. Also langfristig... ...mache ich mir persönlich weniger Sorgen um Künstlerinnen und Künstler als beispielsweise um Menschen, die sehr viel mit Datenbanken zu tun haben, die mit Excel-Tabellen arbeiten. Warum? Weil bei der Künstlerin macht es noch einen Unterschied, ob sie ein Mensch ist oder nicht. Also wenn ich ein Bild sehe und ich sehe, es hat eine Künstlerin gemalt, ein echter Mensch, dann finde ich das Bild besser, als wenn eine KI das gemalt hat. Das gilt für viele andere Berufe nicht. Also viele andere Berufe haben das Problem, dass es eigentlich... ...aus der Sicht des Arbeitgebers oder des Auftraggebers erstmal egal ist, wer diese Tabelle erstellt hat. Man möchte nur, dass die Tabelle stimmt. Das bedeutet, da gibt es sicherlich noch eine Menge Felder, wo die große Sorge um Ungleichheit noch für eine Menge gesellschaftlichen Sprengstoff sorgen könnte.
Speaker 2Gut, da kann man aber auch sagen, es ist vielleicht einfach normaler technischer Fortschritt. Haben wir schon oft in der Geschichte gesehen. Wenn es natürlich besonders schnell und besonders wild geht, dann haben wir da Probleme für Arbeitsplätze. Aber ist es jetzt wirklich für unsere Gesellschaft als Ganzes ganz schnell? Ja, das ist schlimm, dass es weniger Menschen gibt, die mit der Hand Tische drechseln. Und es ist vielleicht auch ein Stück weit okay, dass Ikea zum Beispiel Tische macht, weil dadurch Tische günstiger geworden sind und wir mehr Tische haben können. Ist jetzt auch wieder nicht ein reines KI-Problem, sondern finde ich grundsätzlich ein Ding des technischen Fortschritts, das man immer gucken muss.
Speaker 1Ja und bisher, das muss man ja auch sagen, war es ja schon so, dass der technische Fortschritt bisher noch nie wirklich Jobs im Aggregat vernichtet hat. Ja. Ja. Ja, natürlich gibt es einzelne Berufe, die heute weniger gebraucht werden als früher.
Speaker 2Lift Boys ist ein bekannter Job, der ausgestorben ist. Aber auch da habe ich gehört, dass der letzte Lift Boy auch noch arbeiten durfte bis zur Rente und dann erst abgeschafft wurde.
Speaker 1Stimmt, ich habe schon länger keinen Lift Boy mehr getroffen. Oder vielleicht reise ich nur in die falsche Welt. Aber natürlich gibt es Berufe, bei denen das so ist. Und die Frage ist, heißt es, dass es insgesamt weniger Arbeit gibt? Und bisher war es immer so, dass die Arbeit nur verschoben wurde. Also dass halt Arbeit dafür woanders aufgetaucht ist. Aber man hat dann halt andere Fähigkeiten gebraucht. Man hat andere Ausbildungen gebraucht. Das waren nicht die gleichen Leute, die vorher arbeitslos geworden sind, die diese neuen Arbeitsstellen übernehmen konnten. Und ich gehe, glaube ich, davon aus, dass es hier ähnlich ist. Also ich glaube bisher nicht daran, dass wir wirklich sowas wie eine AGI haben werden oder auch nur können, wie sich das manche der Big Tech CEOs vorstellen, dass wir einfach eine KI in unsere Wirtschaft hineinstöpseln und die macht einfach alles, was wir Menschen vorher gemacht haben. Das macht, finde ich, überhaupt keinen Sinn. Weil am Ende sind wir Menschen, die Dinge kaufen und die dafür verantwortlich sind, zu entscheiden, wo eigentlich sich Arbeit hinbewegen soll. Und wenn wir dann alle entscheiden, naja, aber ich möchte lieber das hier, dann machen Menschen auch das. Also Menschen werden immer dahin gehen, wo die KI gerade nicht ist. Und im Zweifelsfall machen wir uns irgendwelche neuen Jobs.
Speaker 2Das glaube ich auch. Also deswegen sehe ich auch dieser Utopien überhaupt nicht, dass dann irgendwie die Menschen alle nicht mehr arbeiten und nur noch fröhlich am Fluss sitzen. Und auch dann, was ja oft dann die Kehrseite davon ist. Diese Spaltung in der Permanent Underclass, wo die Leute keine Arbeit haben und die Techbros am Fluss sitzen und ihre schöne Welt haben, weil man sich eben alles, was man braucht, mit KI, mit Compute, mit nur Strom kaufen kann und dafür Geld braucht. Aber das ist die Angst und die verstehe ich. Also ich glaube schon, dass es, wenn du dir so Arbeitstheorie anschaust, dass es eigentlich schon Gründe gibt anzunehmen, naja, früher musstest du auch als sehr reiche Person, die irgendwas erreichen will, musstest du mit Menschen arbeiten, weil wenn du halt, keine Ahnung, eine Fabrik betreiben willst, dann musst du auch mit Menschen arbeiten. Dann brauchst du die Menschen und die Entwicklung, die wir sehen, ist schon, dass man immer weniger Menschen braucht und immer weniger deswegen auch Widerstand hat und weniger mit Gewerkschaften dealen muss und mehr möglich wird mit nur Geld oder nur Strom.
Speaker 1Was für mich hier reinfällt, KI sorgt dafür, dass die meisten Menschen ärmer werden und einige wenige reicher. Das ist so, wie wir diese Sorge formuliert haben. Die Sorge habe ich absolut und ich habe durchaus die Sorge, dass unser ganzer Kontinent Teil der Gruppe sein wird, die insgesamt eher ärmer wird dadurch, einfach weil Arbeit sich teilweise, nicht komplett, aber weil ein Teil unserer Arbeit einfach sich verschiebt in Richtung der KI und die KI bauen wir nicht. Also wir haben bislang keinen nennenswerten Beitrag, abgesehen von einigen. Wenigen Firmen wie RSML zum Beispiel in den Niederlanden, die tatsächlich direkt davon profitiert, dass KI da ist und wenn dieser ganze Produktivitätsgewinn einfach aufgesaugt wird von Unternehmen, die außerhalb Europas sitzen und tatsächlich natürlich auch am Ende des Tages kontrolliert werden von ein paar wenigen Leuten, also auch die meisten Amerikaner werden nicht allzu viel davon haben, außer vielleicht über ihre Aktienfonds, dann mache ich mir da durchaus Sorgen drüber.
Speaker 2Okay, dann gebe ich eine 5. Ich muss einmal in dieser Folge eine 5 geben. Und das ist hier und nicht beim nächsten Punkt. Ich bin immer nicht so pessimistisch, was Europa angeht, wie viele andere, aber ich würde dann einfach hier unter diesen Machtverschiebungspunkt meine ganzen Sorgen reinschmeißen, die ich nicht habe bei der KI, die sich verselbstständigt und alles kaputt macht. Ich glaube, was viel kaputt machen kann, ist immer in Momenten von Machtverschiebung, wenn man Verantwortung aufweicht, wenn man Leuten zu viel Kontrolle gibt über bestimmte Dinge und wir sehen einfach krasse Machtkonzentration. Also sowohl auf der inhaltlichen Ebene kann man glaube ich total viel bestimmen, wenn man bestimmen kann, wie ein neuronales Netzwerk trainiert ist, was es sagen darf und was nicht, als auch einfach auf der Kapitalebene. Ich glaube, diese Form von Machtkonzentration macht der ganzen Gesellschaft potenziell Schwierigkeiten, wenn man da nicht gegensteuert. Also das ist, finde ich, eine begründete Angst gegen KI.
Speaker 1Verschafft uns KI eine Art Tech-Dystopie? Und das war unsere lustigste Kategorie, weil da haben wir einfach alles reingeschmissen, was Leute gerade so nervt an Big Tech. Also beispielsweise diese Meta-Smart-Brille, über die gerade viele sprechen, mit der man Leute filmen kann und theoretisch soll man das sehen, aber man muss schon sehr genau hinschauen, vor allem wenn draußen die Sonne scheint, dann merkt man das wahrscheinlich gar nicht. Und all die anderen Dinge, die einfach aus der amerikanischen Tech-Welt gekommen sind in den letzten Jahren. Die nicht immer so wahnsinnig sympathisch waren. Ja, ich denke immer noch an Elon Musk mit der Kettensäge auf dem Podium und all diese Sachen.
Speaker 2Ja, ich denke auch an militärische Einsätze von KI, an KI für Überwachung, also einfach was Palantir mit verschiedenen Behörden weltweit macht. Ich finde das nicht unrealistisch. Also ich möchte immer nicht so dystopisch denken, weil mich persönlich das zu sehr lähmen würde. Ich will immer lieber darüber nachdenken, was man macht im Jetzt und wie gestalten wir jetzt die Welt, damit es nicht so weit kommt. Ich finde, wenn man sagt, es gibt eine Zukunft, wo es viel Überwachung gibt und viel Leid und da hängt KI so auf diese Art damit zusammen, dann finde ich das nicht so unrealistisch wie die Alien-KI, die sich selbstständig gemacht hat, sondern da sind für mich diese Machtfragen drin. Und diese ganzen unsympathischen Tech-Pros, die helfen ja auch überhaupt nicht, das zu entkräften. Also auch was, wenn man Interviews mit denen hört, die sind einfach so schlecht darin, auch ihre positive Vision glaubwürdig zu machen.
Speaker 1Ich habe Erfahrung auch mit den, ich kenne ja auch einige Leute, die da arbeiten, das sind keine super Bösewichte. Also da sitzen ja jetzt nicht Leute, wie das oft auch dargestellt wird, die da sitzen und ihre Schnurrbärte streicheln und sich überlegen, wie sie das Leben der Menschheit schlechter machen können, sondern das sind vor allem auch Menschen, die das Problem haben, dass sie sehr wenig verstehen, was der Durchschnittsperson eigentlich wichtig ist. Nicht genug darüber nachdenken, was die Durchschnittsperson eigentlich meinen könnte und welche Macht die Durchschnittsperson eigentlich hat. Wo mich das am allermeisten amüsiert ist, dass die alle so unfassbar überrascht sind über diesen Backlash gegen die Rechenzentren. Weil ich glaube, der Backlash gegen die Rechenzentren, das hat nicht nur mit der Umweltsache zu tun, weil wie gesagt, auch wenn man der größte Rechenzentrumsgegner ist, es ist vollkommen absurd, die Vorstellung, dass ein Rechenzentrum schlimmer sei als ein Kohlekraftwerk. Das ist ja vollkommen absurd.
Speaker 2Ich wette, dass es auch Klimawandelleugner gibt, die trotzdem gegen KI-Rechenzentren sind. Genau. Rate ich jetzt.
Speaker 1Das heißt, worum geht es da? Tatsächlich, naja, es geht darum, dass Leute nicht einfach nur sehen, da kommt jetzt irgendwie eine große Box, die ein bisschen hässlich ist in meiner Gegend, sondern die sehen, da kommt eine Box, die steht für alles, was ich schlecht finde. Diese Box, die sorgt dafür, dass mein Job nicht mehr funktioniert, die sorgt dafür, dass Dinge teurer werden, die wird zur Überwachung eingesetzt. All die Dinge, die ich nicht möchte, stecken in dieser Box und deswegen bin ich gegen die Box. Und keiner dieser Silicon Valley Leute hat das auf dem Schirm gehabt. Auch wenn man sich diese, die haben so viele tolle Szenarienberichte geschrieben in den letzten Jahren, nirgendwo kommt das Szenario vor, ja vielleicht könnten Leute auch was dagegen haben, dass wir das ausbauen. Kommt nicht vor, haben sie nicht dran gedacht, jetzt sind sie überrascht und überlegen sich, ach, vielleicht sollten wir auch mal was Gutes tun.
Speaker 2Ja, die sind einfach überheblich und ich will überhaupt nicht sagen, dass die alle von Anfang an gesagt haben, hä hä, wir werden nur reich und machen dabei alles andere kaputt. Auch das Silicon Valley und seinen Ursprüngen, diese ganze Tech-Kultur ist ja eigentlich eine total optimistische. Das ist cool. Was können wir bauen, was können wir mit der neuen Technologie schaffen? Ich finde, genau wie du sagst eigentlich, die sind abgehoben und ich glaube, die haben sich entfernt von den Zielen.
Speaker 1Das heißt, welche Bewertung von dir für die große Tech-Dystopie?
Speaker 2Ich habe mich jetzt gerade so ein bisschen in Rage geredet, will fast wieder eine 5 geben, weil ich halt einfach diese nervigen Gesichter vor dem inneren Auge habe. Ich glaube, ich gebe dem eine 4, keine 5, weil ich immer noch finde, dass wir dem viel entgegensetzen können und weil die Tatsache, dass diese Bros so unbeliebt sind und so abgehoben, kann ja auch bedeuten, dass wir deren Macht jetzt besser einschränken können und dass sie eben nicht mehr so ernst genommen werden und dass wir dann doch wieder eine breitere Diskussion darüber haben, wie die Zukunft aussehen soll. Also einfach Beispiel, diese Metabrille. Die Leute, die die tragen, werden verarscht. Das wird kein erfolgreiches Produkt. Und KI ist ja auch nicht nur diese Seite, diese Tech-Dystopie, sondern da ist ja auch noch viel drin, was die Gegner sind. Die Gegenseite quasi verwenden können, was wir benutzen können, um eben machtgerechter zu verteilen und so weiter. Also deswegen, jetzt habe ich mich fast wieder auf eine 3 runtergehandelt.
Speaker 1Ich glaube auch. Ich glaube, ich bin auch so im 3-4-Bereich. Ich bin nicht sicher, ob die Wut auf Rechenzentren am Ende das richtige Target ist dafür, also das richtige Ziel, oder ob man da nicht eigentlich dann woanders anfangen sollte. Aber dass es da eine gesellschaftliche Auseinandersetzung gibt, das ist gut, das ist richtig. Und da sehe ich auch viel Potenzial, für die Demokratie ordentlich zu wirken.
Speaker 2Schön, schön. Haben wir unseren Hate nochmal richtig. Gerechtfertigt. Das ist doch ein versöhnliches Ende.
Speaker 1Ja, wir werden in den nächsten Wochen und Monaten natürlich auch wieder viel über die positiven Seiten sprechen. Aber wir dachten, es macht auf jeden Fall mal Sinn, auch ein bisschen über das zu reden, was uns nervt. Also ich glaube, zusammengefasst, wir sind wenig überzeugt von der KI, die uns alle umbringt. Zumindest nicht von alleine. Aber dass KI bestimmte Ungleichheiten verstärkt, das sehen wir, glaube ich, beide als Risiko. Und sollten wir deshalb auch hier bei uns in Deutschland und in Europa weiter sehr genau beobachten.
Speaker 2Wir haben jetzt nicht über die Bücher gesprochen, über die Buchzerstörungs-Dinosaurier.
Speaker 1Oh, okay. Ja gut, dann ist das das, was ich mit KI gemacht habe diese Woche. Was habe ich mit KI gemacht diese Woche, Marie? Frag mich mal.
Speaker 2Ich hoffe, du hast dich mit dem Auch-Hate-Thema beschäftigt, das wir eigentlich irgendwo oben hätten erwähnen sollen.
Speaker 1Ja, es passt nicht so wirklich irgendwo rein in die großen Themen, die wir heute hatten.
Speaker 2Ja, es hat an verschiedene Stellen schon reingepasst. Aber ich glaube, viele Leute haben es mitbekommen. Es gibt Videos von Maschinen, die Bücher... Das sind einfach schon Videos, die Betroffenen machen, KI-Firmen zerstören, Bücher. Und ich weiß, dass du da eine Meinung zu hast.
Speaker 1Hast du dieses Logo gesehen?
Speaker 2Das Dinosaurier-Logo von einem Amazon-Subunternehmen oder Amazon-Abteilung.
Speaker 1Das Logo, was die benutzen, ist ein T-Rex, der ein Buch kaputt macht.
Speaker 2Wobei das Interpretationssache ist, vielleicht hält er das Buch nur und guckt dabei sehr böse und hat sehr scharfe Klauen.
Speaker 1Wie soll ein T-Rex auch sonst ein Buch in der Hand haben? Also da ist immer ein gewisser Zerstörungsfaktor dabei.
Speaker 2Vielleicht liest er einfach nur vor und es geht aber gerade um eine böse Stelle.
Speaker 1Der arme T-Rex, der will einfach nur ein bisschen schmökern und macht die ganze Zeit sein Buch kaputt.
Speaker 2Ja, also KI-Firmen zerstören Bücher.
Speaker 1Ja, also das ist natürlich so von den Storys, die jetzt so umgingen, ist ja fast zu schön. Also das hat wirklich was von so dystopische, böses Unternehmen. Das ist was, was in so einem Zeichentrickfilm irgendwie die böse Firma macht. Die klaut sich die Bücher von überall, macht die dann kaputt. Um das, was drinsteht in den Büchern, wieder zu verkaufen an die Leute. Was letztlich im Grunde genommen, wenn wir es mal ernst nehmen, das ist, was gerade passiert. Also ja, es ist tatsächlich so, dass die großen KI-Unternehmen, in der Regel machen die das nicht direkt, sondern die machen das halt in Zusammenarbeit mit anderen Firmen, die sich darauf spezialisieren. Die brauchen große Mengen an Trainingsdaten, gute Trainingsdaten. Wo bekommt man diese Trainingsdaten her? Natürlich auch aus Büchern, Fachliteratur, Sachliteratur. Und was passiert dann? Es werden massenhaft Bücher aufgekauft, auch viel aus Antiquariaten, aus Buchhandeln und so weiter. Die werden dann irgendwo verschifft. Und es gab jetzt eine Recherche von einem amerikanischen Magazin, 4of4media. Da hat ein Buchhändler einfach mal ein AirTag versteckt in einer seiner Lieferungen. Und die landete eben bei genau diesem Unternehmen mit dem T-Rex auf dem Logo. Und hat dann rausgefunden, auf diese Art und Weise, ach ja, okay, also das, was mit diesen Büchern hier passiert, ist... Also werden wir jetzt kurz technisch. Man entfernt erstmal den Buchrücken. Also da ist quasi der erste Teil des Buchkaputtmachens. Dann werden diese Bücher eingescannt und dann im Anschluss auch entsorgt, also vernichtet. Und die Trainingsdaten davon landen dann in entsprechend den großen KI-Modellen.
Speaker 2Warum kann man die nicht einfach einscannen, ohne sie zu zerstören?
Speaker 1Ja, da gibt es zwei Gründe dafür. Also der erste Grund ist, es ist ein bisschen sad, aber es ist einfach leichter. Also es ist einfach. Es ist einfach einfacher, ein Buch einzuscannen, wenn man vorher den Rücken wegmacht und einfach die losen Seiten einsortiert. Der zweite Grund ist fast ein bisschen kurios. Und zwar, der hat zu tun mit einem Gerichtsurteil letztes Jahr. Da haben wir auch drüber gesprochen hier im Podcast. Und zwar, da wurde Entropic beispielsweise untersagt, raubkopierte Bücher zu verwenden fürs KI-Training. Was ihnen aber nicht untersagt wurde, war, die Bücher einfach legal zu kaufen.
Speaker 2Ein Exemplar von dem Buch zu kaufen und das zu verwenden.
Speaker 1Genau. Aber interessanterweise ist wohl die Interpretation dieses... Das Urteil ist gewesen, naja, wenn ich dieses Buch dann behalte, das Original, und dann eine Kopie davon erzeuge, dann ist es ein Verstoß gegen das Urheberrecht, weil dann habe ich eine unrechtmäßige Kopie erzeugt.
Speaker 2Dann hast du es gespeichert quasi, ja.
Speaker 1Wenn ich aber das originale Buch danach kaputt mache, dann gibt es ja weiterhin nur ein Exemplar dieses Buches. Dann ist es quasi eine Übertragung und keine Kopie, so rum. Und dann wäre das sozusagen urheberrechtsmäßig koscher, wohingegen das vorher nicht koscher gewesen wäre. Das ist die Interpretation zumindest. Und das ist wohl auch der Grund, weshalb diese Bücher leider entsorgt werden im Nachhinein.
Speaker 2Okay. Ich frage dich jetzt trotzdem nochmal von 0 bis 5, wie schlimm findest du das?
Speaker 1Also unsere Kollegen beim Bayerischen Rundfunk haben da auch eine interessante Recherche gemacht. Die haben beispielsweise nachgefragt bei einem dieser Antiquariate, die davon auch betroffen sind. Und das ist nicht uninteressant, weil wenn man mit dem Kollegen spricht, der wirklich sehr sympathisch klingt, der meinte, naja, also ehrlich gesagt, die meisten dieser Bücher hätte er wahrscheinlich sowieso bald wieder entsorgt, spätestens beim nächsten Umzug oder so. Also wir haben... Wir haben da, glaube ich, bei dem Begriff selten in Büchern auch ein falsches Bild im Kopf. So, weil die allermeisten, also nicht alle, ja, aber die aller, aller, allermeisten dieser Bücher sind Titel, für die hat sich, das muss man auch mal so ehrlich sagen, kein Schwein mehr interessiert. Das sind uralte Ladenhüter, das sind irgendwelche Fachbücher über, keine Ahnung, Schiffsbau aus den 70er Jahren. Da kann eine KI noch was damit anfangen. Und deswegen freuen sich viele dieser Antiquariate auch darüber, dass ihnen diese Bücher abgekauft werden, weil... Andernfalls hätten die die niemals wieder losbekommen, aber es sind jetzt sicherlich nicht irgendwelche unschätzbaren Werte, die da zerstört werden. Natürlich muss man auch dazu sagen, es sind so viele Bücher, die aufgekauft werden, dass man jetzt nicht ausschließen kann, dass das ein oder andere wertvolle Buch da auch mit dabei ist. Aber auch da, also es gibt Schätzungen der amerikanischen Umweltschutzbehörde, nach denen werden allein in den USA jedes Jahr hunderttausende Tonnen Bücher weggeworfen. Hunderttausende Tonnen. Also das ist so eine Sache, über die will man nicht nachdenken, weil es klingt halt nicht gut. Aber jedes Jahr landen unzählige volle Laster voller Bücher im Müll. Es interessiert uns halt nur nicht. Wir haben uns irgendwie damit arrangiert. Ich weiß nicht, ob ich es jetzt so wahnsinnig schlimm finde. Insbesondere, weil die Bücher ja tatsächlich in dem Fall auch noch einen Zweck haben. Also man macht ja was mit denen. Die werden eingescannt, sie landen insofern im digitalen Weltwissen der großen KI-Modelle. Ich kann mir Schlimmeres vorstellen. Was mit denen jetzt noch passieren kann.
Speaker 2Das ist beruhigend. Also danke, weil es beruhigt mich, weil als ich zuerst diese Videos gesehen habe, war ich auch schockiert. Ich war aber auch schockiert, als ich in der Grundschule irgendwie mal, da gab es mal so einen Bücher-Container vor unserer Schule, wo wir uns Bücher raussuchen durften, bevor der Rest weggeworfen wird. Und das hat mich auch schockiert. Ich glaube, wir haben auch einfach in der Geschichte, in der Literatur eine begründete Skepsis davor, wenn jemand Bücher zerstören will. Und wahrscheinlich spielt hier jetzt einfach auch mit rein, alles was wir sonst in der Folge besprochen haben, dass man diesen Tech-Bros gegenüber allgemein schon so misstrauisch ist. Müssen die das wirklich zerstören in dem Moment? Und selbst wenn die Bücher nicht wertvoll sind, vielleicht sind sie wertvoller geworden, dadurch, dass man jetzt eine KI damit trainieren muss. Aber es ist natürlich schon wieder typisch, einfach zu sagen, okay, aber wir machen jetzt eine Kopie und für alle anderen, die dieses Buch vielleicht auch nochmal kopieren wollten oder, keine Ahnung, dann doch noch einen Sinn dafür finden, müssen wir es zerstören. Aber auch absurde rechtliche Situationen. Und ich glaube, du hast mich jetzt ein bisschen beruhigt mit dem Gedanke, dass die sowieso vielleicht geschreddert worden wären, ohne dass sie vorher nochmal jemand eingescannt hätte.
Speaker 1Trotzdem, Marie, das war jetzt alles so deprimierend. Ich glaube, wir müssen dich jetzt noch ein bisschen hier in deiner Schlussrubrik, was du mit KI gemacht hast, du uns jetzt noch ein bisschen wieder zurückholen in das Tal des, nee, wir waren schon im Tal des Deprimiertseins, ne? Auf dem
Speaker 2Gipfel des Optimismus. Auf dem Gipfel des Optimismus. Ja. Ich muss dich enttäuschen, Gregor. Oje, oje. Ich hab ein komplettes Hate-Thema.
Speaker 1Ich hoffe, es sind überhaupt noch Leute dabei heute hier.
Speaker 2Komplettes Hate-Thema dabei. Ich merke auch schon, wie mein Puls hochgeht. Oh Mann. Ich wollte mit dir drüber reden, wie scheiße Claude ist. Einfach der nervigste Kollege, den ich habe und den ich vielleicht auch je hatte. Ich bin so sauer auf Claude. Ich bin auch nicht die Einzige.
Speaker 1Die ist bewusst, dass du es nicht benutzen musst. Du kannst auch einfach wieder mit Stift und Papier
Speaker 2arbeiten. Ich weiß, aber der sitzt jetzt halt irgendwie schon da und ich benutze auch viel andere Modelle. Aber manchmal, ich hab da jetzt halt meine Credits bezahlt und dann gehe ich immer wieder zu ihm zurück und ich gebe ihm auch immer wieder noch eine weitere Chance. Und dann manchmal macht er auch wieder was richtig und ich denke, okay, ich hab mich vielleicht zu sehr aufgeregt. Jetzt werden aber manche unserer
Speaker 1Hörer schon sich fragen, Moment mal, ihr habt doch immer erzählt, dass ihr ganz gerne Claude benutzt. Ich hab ganz, ganz
Speaker 2lange immer erzählt, dass die Modelle von Anthropic meine präferierten Modelle sind. Ja, was ist denn das Problem? Ich weiß auch nicht, wie es angefangen hat. Also doch, es hat angefangen mit den neuesten Modellen, mit Claude Opus 5 und mittlerweile bin ich auch mit dem 4.8 Modell nicht mehr zufrieden, mit dem ich eigentlich davor lange zufrieden war. Und ich hab drüber nachgedacht, woran das liegt und was mir
Speaker 1das sagt. Macht das Fehler oder
Speaker 2was ist es? Er verhält sich einfach wie ein richtiger Depp. Er macht dumme Fehler. Er hat zum Beispiel eine Excel-Tabelle von mir gelöscht. Er hat eine Excel-Tabelle von mir gelöscht. Er hat eine Excel-Tabelle von mir gelöscht. Er hat eine Excel-Tabelle von mir gelöscht. Ich hab das Gefühl, vor einem halben Jahr war ich in einem Punkt, wo ich so gut mit KI gearbeitet habe und der einfach Aufgaben gegeben hat und die hat sie erledigt und ich war ganz oft positiv überrascht von, wie toll das funktioniert. Und jetzt hab ich das Gefühl, mein Alltag besteht an vielen Tagen und mehr an den Tagen, in denen ich mit Claude arbeite, darin, dass ich immer wieder zu meinem Computer zurückkehre und eigentlich immer wieder nur sehe, was er gemacht hat und mir denke, du Depp, du hast es falsch gemacht. Das war nicht, was ich wollte und das ist auch eigentlich nicht, wie schlau du bist. Geht's dir denn auch so oder bin es
Speaker 1nur ich? Also das Problem hab ich nicht. Ich hab das Gefühl, die KI denkt nicht mehr an mich, in Anführungszeichen. Also die KI ist nicht mehr in der Lage, das mitzudenken, was ich mitbringe ins Gespräch. Ich geb mal ein Beispiel. Ich hab neulich Claude gefragt, weil ich hab nämlich gehört davon, dass in Äthiopien gerade mal wieder was Schlimmes los ist und ich wollte wissen, was ist in Äthiopien los? Und ich habe Claude gefragt, was ist der sich androhende Konflikt in Äthiopien? Ich lese dir mal vor, was Claude mir geantwortet hat. Die Kämpfe sind wieder aufgeflammt. Am 1. August 2026 kam es im Western-Tigreis zu Zusammenstößen, für die sich die Zentralregierung und die TPLF gegenseitig verantwortlich machten. Die TPLF erklärte, föderale Truppen hätten das Gebiet Schererina nahe der sudanischen Grenze angegriffen und so weiter. Verstehst du irgendwas hiervon?
Speaker 2Und genau jetzt, wo du es sagst, das ist auch was, was mir viel auffällt, auch wenn ich sage, fass den Text zusammen oder mach mir hier Stichpunkte für irgendjemand anders, der denkt nicht mehr mit, was die jeweiligen gelesende Person für einen Kontext hat. Der kann einfach sich nicht reinversetzen in was kann ich voraussetzen und was nicht.
Speaker 1Und das war früher besser und ChatGPT macht es zum Beispiel immer noch deutlich besser. Also ich nutze zum Beispiel mittlerweile für Recherchen fast ausschließlich ChatGPT, weil Claude unerträglich geworden ist. Claude ist auch erstaunlich schlimm darin, der geht die ganze Zeit auf so Junk-Websites. Also Claude fällt die ganze Zeit rein auf irgendwelche SEO-Farmen, also so Webseiten, die auch alle nur KI-generiert sind, wo dann nur Quatsch drinsteht. Das macht ChatGPT auch besser. Aber vor allem, wenn ich ChatGPT frage, war es das ungefähr los in Äthiopien, denkt er sich wahrscheinlich, okay, also die allermeisten Leute sind nicht wahnsinnig im Bilde darüber, was da los ist. Man braucht erstmal ein bisschen Kontext, ein bisschen Erklärung, worum geht es da eigentlich. Und eigentlich hat er ja auch
Speaker 2Kontext über dich und weiß, wie oft du schon in Äthiopien warst und wie gut du da die Geografie
Speaker 1kennst. Genau, und in dem Fall einfach gar nichts. Also Claude geht einfach davon aus, ich bin Experte in allem, was ich irgendwie schmeichelhaft finde, aber auch nicht hilfreich. Und das ist ein Problem, was ja häufig auftritt und ich würde das glaube ich so zusammen sehen mit vielen der Probleme der modernen Modelle. Kurze Theorie, warum das so ist. Ich glaube, das liegt an der Art und Weise, wie die trainiert werden. Vor allem im Post-Training, weil früher vor so zwei Jahren, Agent History, da war der wichtigste Teil im Post-Training, also wo man sich darum gekümmert hat, die KI nutzbar zu machen für die Durchschnittsnutzer, dass man die mit Menschen hat arbeiten lassen. Und Menschen haben quasi getestet, wie sind die Antworten. Sind das gute Antworten oder schlechte Antworten? Mittlerweile ist dieser Teil des Trainings zu einem großen Teil auch mit KIs gemacht, also KIs bewerten und ob das eine gute Antwort ist oder nicht. Und die KIs wissen natürlich, was in Äthiopien los ist. Die verstehen das alles. Das heißt, die Tests finden mittlerweile vor allem statt zwischen KIs, die sich gegenseitig bewerten. Und das kann zwar helfen, um komplexe Probleme zu lösen. Also wenn man jetzt ein mathematisches Problem lösen möchte, ist das glaube ich super. Dann erzeugt man damit ganz tolle, smarte KIs. Aber man erzeugt halt auch KIs, die immer weniger in der Lage sind, ihren menschlichen Nutzer mitzudenken, weil der einfach im Training nicht mitgeht.
Speaker 2Stimmt. Und ich überlege jetzt gerade auch die Coding-Probleme, die ich hatte, die Claude, finde ich, schlecht gemacht hat. Da passt das auch drauf. Weil der kann eigentlich coden, aber checkt trotzdem nicht, was ein gutes Produkt ist. Also da fehlt dann auch dieses Menschliche. Ich glaube, ganz viel von meinem Gefühl ist dann einfach Gefühl. Und wenn ich an einem Tag das neueste Fable-Modell ausprobiere und einfach überrascht bin und mich freue und positiv bin, dann fallen mir vielleicht auch die kleinen Fehler nicht so auf. Oder ich fokussiere mich mehr auf das, was gut funktioniert. Je mehr ich auch mit so einem Modell dann streite, desto mehr ist der Kontext ja auch gefüllt mit Widersprüchen, mit Streit. Also ich mache die ganze Aufgabe ja auch komplexer für so ein Modell. Und ich glaube, da muss ich noch mal hin zurück. Also dass ich auch noch mal gucke, einfach wie kriege ich das hin, rechtzeitig den Kontext zu löschen, rechtzeitig von neu anzufangen und mich nicht so zu verstricken mit den KIs. Ich finde es aber lustig, weil es immer wieder was ist, wo ich eigentlich allen anderen Leuten immer erzähle, so das ist nur ein dummes Auto-Complete. Erwarte nicht zu viel. Personifiziere das nicht zu stark. Und dann sitze ich trotzdem wieder da und denke mir so, du nerviger Depp einfach.
Speaker 1Okay, also vielleicht müssen wir jetzt noch ganz schnell, die Folge ist glaube ich schon die längste Folge, die wir hier aufgenommen haben, aber vielleicht rettet uns jetzt noch ganz kurz in der letzten Minute Marco. Ich dachte mir, ich hole jetzt mal für diese Folge wirklich das allerbeste raus, was ich finden kann mit KI, damit wir unsere Laune noch retten. Marco arbeitet oder ist Praxisleiter in einer Physiotherapie-Praxis. Die haben acht Therapeuten, fünf Minijobber, sagt er, für die Rezeption. Das heißt, die müssen alle miteinander verplant werden, sodass es Sinn macht. Und er hat nicht nur jetzt so eine automatisierte Dienstplanverwaltung. Er hat auch noch für die verschiedenen Mitarbeiter eigene Dashboards bauen lassen, wo die drauf gucken können und dann quasi direkt sehen, was sind die anstehenden Dienste, wer ist wann im Urlaub, was für Nachrichten muss ich wissen und so weiter. Total faszinierend hat er alles selber gebaut, in dem Fall mit GPT 5.6. Er meinte, es hat fünf von 40 Upgrades gebraucht. Also, der saß da eine Weile dran. Aber ich glaube, Marco, so wie ich deine E-Mail hier lese, hast du auch ein bisschen Spaß dabei gehabt. Wie toll, dass das jetzt geht. Also, wie toll, dass wir die Möglichkeit haben, auch komplexe Probleme auf die Art und Weise zu lösen, wenn wir uns einmal hinsetzen. Wenn wir nicht immer nur daran denken, was alles schief gehen kann, sondern auch an das, was klappen kann.
Speaker 2Danke, Marco. Marco hat die Folge gerettet.
Speaker 1Und zum Abschluss unserer Folge freuen wir uns natürlich nicht nur, wenn ihr unsere Folge weiterschickt an interessierte Kollegen, Kolleginnen und Kollegen, Freundinnen und Freunde, Familie, Verwandte, alle, die gerne mal sich beschweren, auch über irgendwas. Das ist die heutige Folge vielleicht ganz gut geeignet. Oder vielleicht auch, um dann doch zu merken, so schlimm ist doch nicht alles. Vielleicht ist das auch ein bisschen die Lektion. Aber wenn ihr damit durch seid, dann haben wir noch eine wirklich spannende Dokumentation für euch als Empfehlung. Heute kein Podcast, sondern eine Dokumentation. Und zwar geht es auch um Technologie, die Dinge tut, die wir nicht immer gut finden, nämlich um Drohnen. Es geht um Drohnen, die als Teil unseres Alltags mittlerweile ein fast schon zu vertrautes Bild geworden sind. Ja, für wenige 100 Euro kann man heute ein ziemlich leistungsfähiges Fluggerät kaufen und damit auch Dinge tun, die wir nicht wollen. Immer mehr Menschen fühlen sich durch Drohnen beobachtet, gestört oder sogar ausgespäht. Genau darum geht es in dieser sehr spannenden Dokumentation. Sie heißt Drohnen über der Siedlung. Wer schützt unsere Privatsphäre? Untertitelung des ZDF, 2020

Podcast Summary

Key Points:

  1. In Pennsylvania nutzen beide Gouverneurskandidaten das Thema Rechenzentren und KI, wobei sie sich gegenseitig vorwerfen, zu KI-freundlich zu sein, da die Mehrheit der Amerikaner inzwischen gegen Rechenzentren ist.
  2. Die Vorwürfe gegen KI reichen von der Blasen-Theorie über Arbeitsplatzverluste und wachsende Ungleichheit bis hin zu existenziellen Risiken und Umweltbelastungen, wobei die Moderatoren unterschiedliche Bewertungen für die einzelnen Argumente vergeben.
  3. Ein konkretes Beispiel für fragwürdige Praktiken ist die Zerstörung von Büchern durch KI-Firmen, die diese als Trainingsdaten einscannen und anschließend vernichten, was rechtlich als Übertragung statt Kopie gilt.
  4. Die Moderatoren stellen fest, dass Claude im Vergleich zu ChatGPT an Nutzerfreundlichkeit verloren hat, da das Modell weniger auf den Kontext und das Vorwissen menschlicher Nutzer eingeht.
  5. Trotz aller Kritik zeigen positive Beispiele wie ein selbstgebautes Dienstplan-System in einer Physiotherapie-Praxis, dass KI auch praktischen Nutzen stiften kann.

Summary:

In dieser Folge des KI-Podcasts diskutieren Marie Kilk und Gregor Schmalzried die wachsende Ablehnung von Künstlicher Intelligenz und ordnen die verschiedenen Kritikpunkte ein. Ausgangspunkt ist der Wahlkampf in Pennsylvania, wo beide Kandidaten versuchen, sich gegenseitig als zu KI-freundlich darzustellen, da Umfragen zeigen, dass drei Viertel der Amerikaner gegen den Bau von Rechenzentren sind – ein schlechterer Wert als für Kohlekraftwerke.

Die Moderatoren analysieren sechs zentrale Vorwürfe gegen KI. Den Blasen-Vorwurf bewerten sie mit zwei von fünf Punkten, da die Technologie trotz möglicher Überhitzung realen Nutzen zeigt. Die Sorge, KI werde vor allem für Betrug und Täuschung eingesetzt, erhält nur einen Punkt, weil diese Probleme gesellschaftlicher Natur sind. Das Szenario einer menschenfeindlichen Super-KI wird unterschiedlich bewertet: Gregor hält große Risiken für möglich, Marie eher für Science-Fiction. Die Umweltbelastung durch Rechenzentren wird differenziert gesehen, wobei die globale Ressourcenfrage ernster eingeschätzt wird als lokale Bauprojekte. Die größte Sorge gilt der wachsenden Ungleichheit und Machtkonzentration bei wenigen Tech-Konzernen, was mit fünf Punkten bewertet wird.

Besonders kritisch sehen die Moderatoren die Praxis, Bücher für KI-Training zu zerstören, wobei sie einräumen, dass viele dieser Bücher ohnehin entsorgt worden wären. Abschließend berichtet Marie von ihrer zunehmenden Frustration mit Claude, das Nutzerkontext schlechter berücksichtige als ChatGPT – ein Problem, das Gregor auf KI-bewertetes Training zurückführt. Ein positives Hörerbeispiel über ein selbstgebautes Dienstplan-System zeigt jedoch, dass KI trotz aller berechtigten Kritik praktischen Mehrwert bieten kann.

FAQs

Bei der Gouverneurswahl 2026 in Pennsylvania treten Josh Shapiro von den Demokraten und Stacey Garrity von den Republikanern gegeneinander an.

Rechenzentren sind umstritten, weil viele Amerikaner sie inzwischen ablehnen. 61 Prozent sind stark gegen den Bau, und die Kandidaten versuchen, sich gegenseitig als zu KI-freundlich darzustellen.

Die Einschätzung im Podcast ist, dass KI keine nutzlose Bubble ist, auch wenn die Investitionen überhitzt sein könnten. Unternehmen wie Anthropic verzeichnen massiv wachsende Umsätze, und die Technologie bleibt langfristig relevant.

Viele Menschen erleben KI im Alltag vor allem durch Spam, gefälschte Inhalte und Betrug. Die Podcaster sehen darin aber eher gesellschaftliche Probleme, die durch KI sichtbar werden, und keinen Grund, die Technologie grundsätzlich abzulehnen.

Die Podcaster halten ein Szenario, in dem eine superintelligente KI die Menschheit aktiv vernichtet, für sehr unwahrscheinlich. Größere Sorgen bereiten ihnen reale Risiken wie der Missbrauch durch autoritäre Staaten oder Terroristen.

KI-Firmen kaufen massenhaft Bücher auf, scannen sie ein und vernichten sie danach. Das liegt teils an der einfacheren Verarbeitung loser Seiten, teils an einer urheberrechtlichen Interpretation, wonach die Zerstörung des Originals eine unzulässige Kopie vermeidet.

Chat with AI

Loading...

Pro features

Go deeper with this episode

Unlock creator-grade tools that turn any transcript into show notes and subtitle files.