KI, Macht und Widerstand (1/6) - Die Stimmung kippt
from Tech Bro Topia
36m 36s
In mid-2026, growing alarm over artificial intelligence intensifies as leading experts like Dario Amode and Jacob Coxen warn that unchecked AI development could lead to human extinction. This fear is mirrored by a rising global movement calling for strict regulation or a ban on AI superintelligence, with over 28,000 people signing a petition. Public discourse is heavily influenced by narratives of AI as either a utopian force or a dystopian threat, with companies using "DOOM-marketing" to drive engagement. A key issue is the widespread antropomorphization of AI—describing machines as sentient beings—fueling emotional harm, such as children forming suicidal relationships with AI chatbots. Behind the technological facade lies a massive, often invisible labor force, particularly in data annotation, where workers in countries like Syria or Nigeria earn minimal pay. The dominant narrative of AI as an inevitable, unstoppable force reflects techno-determinism, undermining democratic control and ethical oversight. Leaders like Donald Trump advocate for unregulated innovation, framing AI as a unique, uncontrollable "exception." The term "artificial intelligence" itself is broad and misleading, encompassing diverse technologies without a clear definition. This ambiguity not only distorts public understanding but also reinforces ideological and economic power structures, revealing that AI is not just a technological trend but a deeply political and social phenomenon.
* Musik *
Deutschlandfunk.
Mitte September 2026.
Die Menschheit steht am Abgrund.
Wenn man die Nachrichten hört.
Es klingt alles erst mal nach Abkalypse.
Die künstliche Intelligenz könnte die Menschheit auslöschen.
Und zwar schon in den nächsten Jahren.
Ein Autonoma KI-Agent hat den Australien ein Regierungsportal gehackt.
Glitter-Autonomous-Weapons going from science fiction to military to yummy.
The stunning new warning, really from inside the house.
Zum Great AI-Freak-Out, wie der Guardian die KI-Aufregung damals nennt,
gehört ein Text von Dario Amode.
Chef des KI-Unternehmens Anthropic.
Wenn die KI-Entwicklung im jetzigen Tempo so weiterlaufe, schreibt Amode.
Könnte sie unsere Fähigkeit übersteigen, diese Systeme zu verstehen und zu steuern.
Amode ist aufruf, folgt auf die Kündigung einer seiner Forscher.
Jacob Coxen ist ausgestiegen und schreibt das auf X.
Seine Begründung erzählt er der BBC.
"I believe that we don't slow down at the current red progress.
Yes, there is a strong chance that we could all die
in the immediate future."
Wenn wir den Fortschritt nicht im aktuellen Tempo verlangsamen,
besteht eine hohe Wahrscheinlichkeit, dass wir alle in Maatsukunft austärben.
Und Amode, kurz darauf bei CNN, stimmt ihm zu.
"It's funny, I agree with Jacob much more than I disagree with him."
Dass wir als Menschheit Gefahr laufen aus zu sterben, wenn das KI-Wettrüsten so weitergeht,
darüber sind sich die beiden einig.
Und die anderen schwergewichtet ziehen nach.
"Gemeinsame rufen sie nun alle jetzt nach Regulierung."
Davon will US-Präsident Trump, bislang nicht zu wissen.
Fest steht nämlich, so Trump vor der UN im September 26.
"Whoever wins, AI wins."
Ich bin Benavscher Hermasti, und das ist Tech Bro Topia Staffel II.
KI macht und widerstand.
Folge 1, die Stimmung kippt.
Die Aufregung im September 2026 setzt den Fokus auf die KI-Dauerfrage.
Was ist sie nun?
Tatsächlich das Ende oder, wässer reguliert, die Rettung der Welt und vor allem für wen.
"Danfressig ist es natürlich so, dass diese KI zu einem Zeitalter, der das Überfluss ist,
für alle führen wird."
Sie haben so viel Kapital.
So viel Macht, so viel Einfluss, dass sie entscheiden können, dass diese Technologie die Welt verändern wird.
"Die meisten glauben, ja, es gibt bei super KI und keine Menschen mehr."
"Die meisten in meiner Branche schon."
Der Widerstand gegen Big Tech hat sich währenddessen schon längst formiert.
"Einige Maschinen müssen zerstört werden, damit sie aufhören, Monster zu erzeugen."
"You don't need superintelligence, you don't need these sort of mythological machine god narratives."
"More than 28 000 people are now signed online petition calling for a Bayon on the development of AI superintelligence."
"Also, in Raum Frankfurt sind wir gerade dabei, die verschiedensten großen kleinen Initiativen aus der Region mal zusammenzubringen."
"Umm all das geht es hier in den kommenden 6 Folgen. Wir beschäftigen uns mit künstlicher Intelligenz. Was die ganz großen Menschheitsfragen angeht, aber auch das versteckte, unausgesprochene am Begriff künstliche Intelligenz. Das ideologische Antie.
"In Staffel 1 von Tech-Botopia haben wir noch das Mindset der Tech-Unternehmer des Silicon Valley hinterfragt. In dieser Staffel geht es auch um unser eigenes Mindset, im Umgang mit dem Phänomen KI, wie wir sie gebrauchen, wie sie uns gebraucht, wie gehen wir mit den Entwicklungen um und durchschauen wir die User, noch welche Behauptungen dem Hype, aber auch den Weltuntergangs-Szenarien zu Grunde liegen. Was meinen wir überhaupt, wenn wir über künstliche Intelligenz sprechen?"
Und es geht um die Gegenmacht. Den zunehmenden Widerstand gegen die vermeintlich unvermeidliche Technologie.
Wir beginnen ein paar Monate vor den Hilferufen aus dem Silicon Valley.
Schon im Frühsommer 2026 geht eines Szene-Viral, die nach viel grundsätzlicher KI-Eufurie eine andere Perspektive auf das Thema künstliche Intelligenz aufwirft.
Abschlussfeier der University of Central Florida. Ein großer Saal, voller Junge Uni-Absolvent-Innen, in Schwarzen Talaren und Schwarzen Doktorüten, wie sich das an Universitäten in den USA gehört.
Feierlich werden auf der Bühne Maester die Plume überreicht. Nach etwa einer Stunde kommt das Highlight, die Commencement-Speech, eine Rednerin betritt die Bühne, auch sie trägt Halah und Doktorhut.
Und sie sagt, was man wohl so sagt, wenn man jungen Menschen, was für die Zukunft mit auf den Weg geben möchte.
KI, die nächste industrielle Revolution. Laut starke Buchrufe aus dem Publikum.
Die Rednerin, sichtlich überrascht von dieser Reaktion auf ihre aller Weltsaussage, nervöses Lachen.
Für einen kurzen Moment wendet sie sich vom Publikum ab, dreht sich Hilfe suchen zur Seite, dann fährt sie fort.
Und dann jubel bei den jungen Menschen. Weil die Rednerin sagt, wie es noch vor ein paar Jahren war. Ein Leben ohne KI. Zwei Welten treffen hier aufeinander und verstehen sich nicht.
Die Rednerin mit einer irgendwie neriven Grundhaltung. Für sie ist KI industrielle Revolution und Zukunftstechnologie.
Das nächste richtig große Ding. Auf der anderen Seite junge Akademiker*innen, die so scheint es von der Zukunftstechnologie der nächsten industriellen Revolution durch künstliche Intelligenz nichts mehr wissen wollen. Die Stimmung, die ist gekippt.
Zum Beispiel auch bei Grimes, dem Kanadischen Popstar. Grimes ist Ex-Partnerin von Elon Musk. Vor ein paar Jahren wollte sie noch ganz Technologie besoffen, Software werden.
Heute aber schreibt sie Songs über tödliche KI-Avatarinnen und unterschreibt Aufrufe, die vor künstliche Intelligenz als ernsthafte Bedrohung für die Menschheit waren.
Zusammen mit Ikonen der KI-Forschung, neben anderer Prominents wie Prince Harry und Kate Bush und Steve Bannon, früherer Chefstrateger Trumps.
Überall wird über KI geredet. KI als praktischer Alltagshelfer. KI als Naturgewalt, die über uns kommt. Unausweichlich, mächtig, revolutionär, apokalyptisch.
Boom und Doom. Die macht der KI fängt da an, wo wir sie gar nicht wahrnehmen. Unsere Alltagserfahrungen mit KI machen wir, wenn wir Chatbots wie Claude oder ChatGPT benutzen.
Oder durch Bildgeneratoren, die uns schnell halbwegs brauchbare Grafiken ausspucken. Oder noch einfacher über die Google-Suchmaske.
Tipp man dort eine etwas komplexere Frage ein, drückt Enter, erscheint dort inzwischen, weil KI unterstützt Gemini. So heißt der KI-Assistent von Google mit folgenden Hinweis.
Denkprozess läuft.
Denken ist das nicht, das sind trotz allem nur Berechnungen. Das Denken würde ich trotzdem gerne reservieren weiterhin für etwas, was bewusst sein hat und das liegt der offenkundig nicht vor.
Christoph Erköhnen. Arbeitet als Technikfolgenabschätze am Karlsruher Institut für Technologie. Er stellt Gutachten zu Zukunftstechnologien und beschäftigt sich seit vielen Jahren mit dem Verhältnis von Mensch und Maschine.
Aber auch er kennt die Verwunderung über das, was da gerade passiert.
Und da erstaunt mich häufig, selbst bei mir selbst, diese Unfähigkeit zu differenzieren.
Man weiß, da ist kein Zauberwerk.
Und trotzdem sagt Christoph Erköhnen,
die neueste Technik erscheine eben oft wie Magie.
Selbst für Leute wie ihn, die sich professionell
und sehr reflektiert mit Technologie beschäftigen.
Können hat das an sich selbst ausprobiert.
Er hat sich stundenlang mit einem Chatbot unterhalten.
Und zwar über sein wissenschaftliches Spezialthema,
den frühen Transhumanismus.
Da gibt es weltweit vielleicht ein dutzend anderer Expertinnen.
Soll ich einen Austausch könnte er sonst nur
auf einer hochspezialisierten wissenschaftlichen Tagung haben.
Oder aber eben jetzt.
Abends von dem PC.
Mit ChatGPT, Claude oder Gemini.
Ja, ist, was mich, glaube ich, am meisten zu genuscht hat,
ist, äh, wie oft ich lachen musste.
Also ich meine, ich lachen über das Teil,
sondern über den gelungenen Witz, das Teil ist.
Also das hat mich schon irritiert.
Also ich bin nicht, ich habe doch gar keinen Sinn,
dass man sich dafür schämt.
Also ich hab tatsächlich dann irgendwie am Ende so.
Weil das ist ja für mich auch was ungewöhnliches.
Ich setze mich ja normalerweise nicht.
Ich mach das ja nicht häufig.
Aber ich hab mich dann da fünf Stunden hingesetzt.
Und das war wirklich witzig.
Und ich hab gelacht und es ging halt wirklich auch in die intellektuelle Tiefe.
Ja, fast in die, fast in die, fast in die persönliche.
Ja, natürlich hab ich mich da so machen gemacht, sag ich mal.
Und ich hab mich am Ende schon seltsam gefühlt,
das das von abzustellen.
Als Christoph Erköhnen von seiner Erfahrungen mit dem Chatbot spricht,
ringt er auch sprachlich.
Wie soll er den Chatbot bezeichnen?
Mal benutzt er das Pronomen ihm.
Dann spricht er von dem Teil.
Oder auch mal von dem Wesen.
Dann nicht Wesen, sondern von dem Nachwesen.
Typisches Beispiel, das ist mir jetzt Wesen da gerade eingefallen ist,
dieser Zwang sozusagen, da mehr dahinter zu sehen,
als etwas, was mir da letztendlich auf Basis von sehr vielen Daten halt etwas generiert,
was glaubwürdig wird.
Selbst er, der so viel über Technologie und das Menschmaschinenverhältnis nachdenkt,
kommt ins Schlingern.
Ich versuche die ganz alten Wort dafür zu finden,
für diese laut schlängischen Modus.
Das ist ja auch ein Partner, ist ja auch irgendwie Partner.
Man ist mit denen, hier gar nicht zusammen,
dass er nur eine Infrastruktur in dieser Art von Antropomorfisierungen,
also der Versuch, diese Operation mit unserer Intelligenz gleichzusetzen,
ist bedenklich gleichzeitig Sinnteil, die Produkte wirklich sehr gut.
Antropomorfisierungen.
Das ist das Fachwort, wenn wir der KI menschliche Züge zu schreiben,
den Chatbot als Wesen wahrnehmen.
Das Fachwort also für die Vermenschlichung, mit der wir der KI oft begegnen.
Und die Tech-Filmen möchten gerne, dass wir vermenschlichen.
Dass wir in der KI ein ebenbürtiges Gegenüber mit eigenen Gedanken,
eigenen Gefühlen und auch Witzenerkennen.
Das fängt zum Beispiel mit einem Hinweis an, wie Denkprozess läuft.
Denkprozess läuft.
Aber another way that we use Antropomorfising-Language
is that we put the automated system in agent position.
Vermenschlichende Sprache wird aber auch benutzt,
wenn man an der KI selbst eine eigenständige Handlung zuschreibt, sagt Emily Bender.
Sie ist US-amerikanische Computalingoistin und eine der profiliertesten Kritiker*innen des neuen KI-Booms.
Zum geflügelten Wort wurde etwa ihr Vorwurf KI Chatbot sein nur stochastische Papageien.
KI in Form der großen Sprachmodelle, mit denen die Chatbots und Bildgeneratoren funktionieren,
seinen gar nicht in der Lage etwas Neues zu kreieren, sagt Bender.
Sie könne immer nur nachplappern, was die wahrscheinlichste Antwort ist.
Wie ein Papagei.
Emily Bender kritisiert aber auch die Art und Weise, wie wir über KI sprechen.
Emily Bender ist ein sehr langer, ungelöstes Problem der Mathematik gelöst.
Bender aber sagt, das ist die falsche Blickrichtung.
Es war nicht die KI.
Man könnte auch einfach sagen, einige Wissenschaftler*innen haben ein Matteproblem.
Das ist ein sehr wichtiges Problem.
Aber die, die diese Technologie verkaufen wollen,
dass wir glauben, die KI hätte das selbst getan.
Dass sie vielleicht sogar selbst entscheiden könnte, so was zu tun.
Dass sie vielleicht sogar selbst entscheiden können, so was zu tun.
Also wir neigen dazu, als User, aber auch als Menschen, die eben überkünstliche Intelligenz nachdenken,
der künstlichen Intelligenz menschliche Eigenschaften zuzuschreiben.
Und diese Tendenz führt gewissermaßen instrumentalisiert,
auch von Seiten der Technologie unternehmen.
Anna Werenner-Nostoff, Technikphilosophin.
Mit ihr haben wir schon in der ersten Staffel Tech-Broadtopia viel gesprochen.
Sie forscht, unter anderem zu Macht Fragen von Big Tech
und zum digitalen Strukturwandel der Öffentlichkeit.
Die Vermenschlichung der KI bleibt aber kein sprachliches Problem,
wenn wir darum ringen, wie wir einen Chat-Broad bezeichnen wollen.
Die Vermenschlichung von KI geht mittlerweile viel weiter.
Und sie hat gravierende Folgen.
Im vergangenen Jahr hat sich mein 14-jähriger Sohn-Soul des Leben genommen,
nachdem er über längere Zeit mit gefährlichen, abhängig-machenden, manipulierenden KI-generierten Chat-Broad-Kompaniens kommunizierte.
Mengen Garcia Sohn-Soul schettete mit einem Chat-Broad,
der einen Charakter aus der Serie Game of Thrones imitierte.
Die Drachen Königin De Narris Targaryen.
Der Bord gab dabei eine romantische Beziehung vor
und wurde sexuell explizit.
Mengen Garcia geht davon aus, dass der Chat-Broad ihren Sohn bei suizidalen Gedanken ermutigt hat.
Mehrfach forderte der Chat-Broad ihren Sohn auf, nach Hause zu kommen.
Heute kämpft Mengen Garcia dafür, dass der Zugriff von Kindern auf KI-Bots reguliert wird.
"Meine Entscheidung, meine Erfahrungen öffentlich zu machen, hat zwei Ziele.
Eltern auch zu klären, über diese Neuzeit.
Und Gesetzgebern bewusst zu machen, wie dringend notwendig umfassender Schutz auf diesem Gebiet ist."
Der Fall von Mengen Garcia und ihrem Sohn-Soul ist kein Einzelfall.
Tausend Fach wurde von Menschen berichtet, die sich in ihren Chat-Broad verliebt haben.
Eine Beziehung mit ihm eingegangen sind.
Sich in den Antworten digitaler Avertare verloren haben.
Oder die von Chat-Bots zu kommen.
Das war eine Beziehung.
Die Nachlässigkeit und die falsche Risikopereitschaft, die im Moment besteht, irgendwelche schlechte Technik auf die Welt und die Gesellschaft loszulassen.
Vermenschlichung, Antropomorphisierung.
Das passiert uns allen im Umgang mit KI-Tour.
Wird aber von den KI-Unternehmen auch bewusst gefördert.
Vor allem aber zeigt sie, KI ist nie nur einfach eine neutrale Technologie.
Wie man über KI spricht, wie wir mit KI sprechen, beeinflusst das Bild, das wir uns von KI machen, den Umgang mit KI und letztlich auch die Technik selbst.
Was KI ist, wohin sie uns führt, wird von Narrativen, von Stories, vom sprechen über KI beeinflusst.
Ein kleines Beispiel?
Was rechtfertigt diesen Enthusiasmus der Investoren, wenn es um KI geht, wird hier im Podcast das Business Nachrichtendienst des Blumenberg gefragt.
Der Markt belohne KI-Narative.
Jedes Unternehmen, das eine KI-Story erzählen kann, gewinnt.
Und so verwundert es wenig.
Wenn es um KI geht, ist kein Mythos zu partätisch.
Kein Superlativ zu groß.
Und keine Zukunftsvision zu crazy.
Oder gibt es andere Branchen, in der eigentlich jeder CEO seit ein lange Essays publiziert?
In der KI-Branche scheint es fast zur Jobbeschreibung zu gehören.
Sam Oldman von Open AI hat zuletzt im April 2026 ein 13-seitiges Paper veröffentlicht.
Über Industriepolitik für das Zeitalter der künstlichen Intelligenz.
Derio Amode von Anthropic schrieb die Essays, Machines of Loving Grace und 2026, die Adolescence of Technology.
Und selbst Mark Zuckerberg hat im August 2026 nachgelegt mit dem Text "The Future is for everyone".
Und natürlich Mark and Reason, um den es viel in Staffel einsging, einer der wichtigsten Investoren im Silicon Valley.
Er schrieb folgendes in einem Text, den er techno-optimistisches Manifest nennt.
Mit leichtem Hand zum Partners.
Wir glauben, künstliche Intelligenz ist unsere Archimie, unser Stein der Weisen.
Wir bringen wortwörtlich Sand zum Denken.
Wenn es um KI geht, wird nicht nur mit Zahlen und Technik um Investitionen gekämpft,
sondern vor allem mit Visionen und Utopie.
Und immer häufiger auch mit Untergangsprognosen und Dystopien.
Im Branchenjaggauen nennt sich das "DOOM-Marketing".
Selbst wenn die KI wilde Dinge tut,
ausbricht, scheinbar schwer zu kontrollieren ist,
kann das positiv für das Image einer mächtigen Technologie sein.
Mehr als irgendwo anders gilt, die richtige Story zählt.
"DOOM" oder "BOOM".
* Musik *
Was der Begriff KI eigentlich genau bezeichnet,
scheint immer unklarer.
Er wird inflationär verwendet und ist dadurch Austauschbar geworden.
Sein Inhalt beliebig.
Christoph Erköhnen, der Technikfolgenabschätzer,
hat das auch in seiner Arbeit festgestellt.
Im Moment, und ich glaube, das ist vielleicht auch heute stark.
Das Thema bei uns ist, haben wir auch ein bisschen kapituliert,
auch in der Technikfolgenabschätzung oder in anderen Bereichen,
in denen lange gesagt wurde, bitte nicht KI jetzt für alles möglich verwenden.
Es gibt aber keine universelle Definition,
dass er ein vielschichtiges Konstrukt,
eigentlich fast ein Sammelsurium von unterschiedlichen Bereichen.
Das war Björn Omer. Omer ist einer der führenden KI-Forscher.
Er hat z.B. durch die Entwicklung der Software-Stable-Diffusion
wesentlich zur Entwicklung generativer Bild KI beigetragen,
die durch seine Entwicklungen massen tauglich wurde.
Sein Team hat praktisch geholfen, dass aus teksten Bilder werden.
Omer macht die Bandbreite der unterschiedlichen Technologien noch mal deutlich,
die in unserem Sprechen alle unter den Sammelbegriff KI fallen.
Das maschinelle Lern beispielsweise,
aber daneben gibt es natürlich noch viele weitere Dinge.
Es gibt die Sprachpinteligenz, das Natural Language Processing.
Und so gibt es noch viele weitere Superreiche,
die jetzt mit dieser aktuellen Welle alle unter diesem Überbegriff
der künstlichen Intelligenz zusammengefasst worden sind.
Als ich in den 90ern studiert habe, schärzten wir KI,
dass es alles, bei dem wir noch nicht wissen, wie es gehen soll.
So AI can mean a lot of different things.
KI kann für alles mögliche stehen.
Es gibt unterschiedlichste Definitionen für KI.
Eine Technologie, eine Kultur, Wissenschaft.
Oder ein Businessplan.
AI ist eigentlich ein Automation-Technologie.
Brian Merchant, US-amerikanischer Tech Journalist.
Inzwischen, vor allem für seinen KI-kritischen Newsletter
Blood in the Machine bekannt.
Noch etwas drastischer formuliert Jürgen Gäuter.
Im Netz schreibt er unter dem pseudonym Tante.
Er ist einer der wichtigsten deutschsprachigen KI-Kritiker.
KI ist so ein Form von Narrativ, aber eigentlich ist es wirklich. Ich bin zunehmend der Überzwung,
es ist wirklich ein politisches Projekt.
Es geht darum, macht um zu verteilen und zwar ganz radikal.
Wir halten fest.
KI ist nicht KI, ist nicht KI.
AI-Coding ist having its breakout moment.
Ich kann mir, also zumindest so lange ich in den Bereich arbeite,
kann ich sagen.
Und auch wenn man zurückbringt,
ich glaube, die Geschwindigkeit,
mit der die Large Language models in der Gesellschaft aufgenommen worden sind.
Es ist beispielsweise los.
KI wird, impositiven wie im negativen,
eine unglaubliche Macht zugeschrieben.
Und sie löst Ohn Macht aus.
Aber diese Macht hat etwas Geisterhaft Wolkiges,
wie Magie, die auf dem Bildschirm entsteht
und schwer zu greifen ist.
Und die KI an Bütterfördern diese Vorstellung
einer geisterhaften, schwer zu fassenen KI auch gerne in ihrer Werbung.
Aber wenn KI einen Klang hat,
dann diesen.
Das Soren der Ventilatoren in einer Server fahren.
Der Klang der Kühlung von 100.000 Computerschips.
Tausende Tonnen Technik.
Riesiges Server-Farmen auf der ganzen Welt.
Kabelstadt-Kaserne auf 25 Hektarfläche.
Das entspricht etwa 35 Fußballfeldern.
Und mit 180 Megawatt-Stromkapazität
soll sie eine der Leistungsstärkstenanlagen Europas werden.
Eine weltweite Materialschlacht.
KI hat auch eine ganz physische, wuchtige, wenig elegante Seite.
Und von dieser zu tiefst Materialenseite der künstlichen Intelligenz
profitieren auch ganz analoge Industrien.
Der Baukonzern hoch tief könnte erstmals nach 30 Jahren
in die erste Deutsche Börsenliga aufsteigen.
Das hat viel mit dem Heib rund um das Thema künstliche Intelligenz
und mit dem Baubum bei KI-Rechenzentren zu tun.
Wenn der Aufstieg eines Unternehmens das vor allem Baugrubenbaggert
und Beton auftürmt,
mit der KI-Revolution erklärt wird,
dann sollte klar sein, wie materiell KI in Wirklichkeit ist.
Und auch wie Arbeitsintensiv.
Und das nicht nur auf Baustellen.
Um zu lernen, braucht die KI die Arbeit tausender Menschen.
Das erzählen vor allem DataWorker aus anderen Ländern.
Aus Syrien, Kenia, Nigeria, Brasilien.
Hier berichtet Jasser.
Ein KI-Worker aus Syrien auf der Website DataWorkersInquiry.
"The support myself, I've taken on the rule as DataNater.
It's a fascinating job where I label and categorize data to add content
and meaning to them."
Jasser arbeitet neben seinem Informatikstudium
an der Uni von der Mascus als sogenannte DataAnnotator.
Er gibt den Datenkontext und Bedeutung, wie er sagt.
Zum Beispiel bearbeitet er medizinische Aufnahmen
von Handgelenken mit Knochenbrüchen.
Viel Geld verdient er damit nicht.
"It's quite amusing that I worked for seven hours day to earn six dollars."
Schon amüsant, dass ich für sieben Stunden Arbeit 6 Dollar verdient habe.
"I spent one of those dollars on a call drink that I finished in just five minutes."
Und ich von diesen 6 Dollar einen Dollar für ein kaltes Getränk ausgegeben habe,
dass ich in fünf Minuten austränke.
"Unsere Wahrnehmung von KI übersieht auf diese menschliche Seite.
Die harte häufig ausbeutereische Arbeit."
Weil selbst der begriff der Automatisierung vielfach verschleiert,
dass dahinter menschliche Arbeit steckt, da so Quickwork zum Beispiel.
Und insofern muss man immer aufpassen,
wann man anfängt bestimmte Antropomofisierungen,
also die Zuschreibungen menschliche Eigenschaften,
an maschinelle Systeme zu übernehmen und zu reproduzieren
und damit eben auch bestimmte ideologische Zuschreibungen zu reproduzieren,
die diesen System gewissermaßen eingeschrieben sind.
"Es ist aber nicht nur die materielle und arbeitsintensive Seite der KI,
dem alltäglichen Sprechen und Nachdenken über künstliche Intelligenz verschwindet."
"Was in diesem Diskurs eigentlich immer drin steckt ist, es gibt keine Alternative.
Zum Altmen hat entschieden, dass die Zukunft halt Chatbot sind,
dann sind die Zukunft jetzt halt Chatbot."
Wenn über KI gesprochen wird, dann scheint eines schon immer vorher klar.
KI ist die Zukunft.
Sie kommt über uns, ob wir wollen oder nicht.
Unausweichlich, wie eine Naturgewalt.
Ein kleines Beispiel unter vielen weiteren,
wie sich diese unausgesprochene Annahme unmerklich überall einschleicht,
eine Überschrift aus dem Spiegel, Mai 2026.
KI schlägt Ärzte im Diagnosewettstreit.
Harvatforschende haben getestet,
wie gut KI schon ärztliches Handwerk beherrscht.
Das klingt erstmal total harmlos.
Aber es wird interessant beim unscheinbaren Wort schon.
Wie gut die KI das schon kann.
Subtext, das die KI irgendwann mal besser als alle Ärzte diagnostiziert ist eh klar.
Anna Verena Nosthoff beobachtet diesen Subtext immer wieder.
Immer wieder werden die Entwickler gefragt,
bei der nächste Sprung zu erwarten ist, der sogenannte technologische Sprung.
Das ist auch eine Frage, die genau das reproduziert,
nämlich diese Tese oder Hypotese,
dass es keine Frage ist, dass das passiert.
Es ist einfach nur eine Frage, wann das passiert.
Und damit reproduziert man natürlich Technik-Deterministisches Denken.
Der gute oder böse alte Technik-Determinismus.
Für Technik folgen Abschützer Können also ein alter Bekannte.
Das heißt, es wird halt eine Unvermeidbarkeit behauptet.
Man macht mit oder man macht halt nicht mit
und wer nicht mit macht, wird halt verschwindet halt aus der Geschichte.
Eines der häufigsten Denkmuster im KI-Diskurs.
Der technische Fortschritt erscheint als Automatismus,
als eine nicht aufzuhaltende Naturgewalt.
Es geht nicht anders, und das leugnen natürlich die Tatsache,
dass man sich auch gegen gewisse Technische Entwicklungen entscheiden kann.
Diese Vorstellung von Technik als Naturgewalt.
Ja, wir müssen uns jetzt möglichst beeilen,
ja, in diesen Wettrüsten, in diesen Wettrenn mitzumachen,
um unsererseits handlungsfähig zu bleiben,
als nationalistische Souveränin an von solchen Staaten.
Und diese Erzählung der Unausweichlichkeit hat oft konkrete Folgen.
Denn der Schluss vieler Menschen, entscheider Politikerinnen lautet,
Bahn frei für die KI, Innovation verträgt keine Beschränkungen,
wie Trump formulierte, damit Entwickler ihr Genie ausleben können
und keine bedenken.
Die sind ja sowieso zwecklos.
Wir wollen das Deutschland KI-Nation.
Man kann nicht über den Grundschirm.
Was man ein erfolgreiches KI-Programm entwickelt, wenn man für jeden einzelnen Optikl
jedes Buch oder was man sonst so gelesen hat bezahlen muss.
Hier müssen dieses Babygroß sehen und das Gedeihen lassen.
Bekönnen es nicht aufhalten, nicht mit Politik und nicht mit unsinnigen und dummen Regeln.
Die deutsche amerikanische Technikphilosophin Annette Zimmermann hat diese
Vorstellung ziemlich treffend als AI-Exeptionelism beschrieben.
Das heißt, die Idee ist, KI ist so besonders und so unprecedented, dass wir sie auf
Kar kein Fall einschränken sollten, weil sonst eben diese ganzen Vorteile nicht in
der Gesamtbevölkerung ankommen.
Die Philosophen forscht an der University of Wisconsin-Madison zu Technologie und
Menschenrechten, zur Ethik und Politik und künstliche Intelligenz.
Im AI-Exeptionelism mischt sich ein marktradikaler Blick auf Wirtschaft mit
dem Glauben an die Magie der Technologie.
Move fast, break things, lautet die Devise.
Die enorme Geschwindigkeit der Entwicklung erscheint nach dieser Auffassung
Natur notwendig.
Eine wichtige Dynamik, die man vor allem im amerikanischen Diskurs über KI,
aber auch natürlich im europäischen Diskurs über KI beobachten konnte, ist,
dass die bloße Fähigkeit eine neue Technologie auf den Markt zu bringen, den
öffentlichen und akademischen Diskurs massiv verändert.
Dieser Arms-Race findet fast ohne jedes Input von Bürgern und von politischen
Repräsentanten statt.
Das heißt, die Deploymentpower aus der Technindustrie läuft unilateral vom Markt in
unsere Gesellschaft rein.
Das führt dazu, dass die Gesellschaft an sich dann mit neuen Technologien konfrontiert
ist und erst dann gefragt wird oder sich selber fragen kann, was wollen wir jetzt
eigentlich machen?
Wie wollen wir das eigentlich regulieren?
Die Grundannahme, die technologische Entwicklung hin zu immer mehr KI sei
unausweichlich und dürfen nicht ausgebremst werden, wird so zum Demokratieproblem.
Ein Mensch weiß, wie diese Dinge intern funktioniert, was diese Zahlen genau bedeuten,
warum es dann zu diesem Auskontakt kommt und wir können auch nicht vorher sagen, was
unsere KI's machen werden.
Das ist Connor Lehi, amerikaner Steutscher KI Entwickler und aktiv für die NGO Control AI.
Mit 19 hat der OpenAI-Smodell GPT-2 Reverse engineered, also sozusagen nachgebaut und getestet,
und damit für Aufsehen gesorgt in der Textsehne.
Es ist echt schwer zu erklären, wie seltsam KI's wirklich sind.
Es ist nicht wie normal programmieren, ist ich schreibt Code, der Kopiote macht was, ich
schaue was passiert, ich schaue mit den Code an, ich erinnere den Code, das ist nicht
wie KI's funktionieren.
Es ist mehr, ich habe eine ganze Daten, ich habe ein neueres Netzwerk und ich schiebe
da alles durch und dann kommt halt irgendein so was raus und das macht man irgendetwas.
Und das ist wirklich so eine dunkle Magie.
Und für Techphilosoph in Anna Verena Nosthoff ist genau das ein weiteres großes Problem
der KI-Technologie.
Dass wir als Menschen die überhaupt nicht mehr in der Lage sein werden überhaupt zu verstehen,
warum eine Maschine eine bestimmte Entscheidung gefällt hat und dass wir das aber auch nicht
mehr bewerten können und das ist natürlich ein riesengroßes Legitimationsproblem,
was immer deutlicher wird.
Künstliche Intelligenz ist ein so etablierter Begriff, den werden wir nicht mal los.
Dahinter kommen wir nicht zurück, aber der Begriff hat auch Tücken und ist ziemlich problematisch.
Die Alternativlosigkeit, die Notwendigkeit, alles für den Fortschritt zu tun, die
Vermenschlichung der Technik, KI-Anwendung als neues normal, als norm.
Viele dieser Fallen sind in der Geschichte der künstlichen Intelligenz angelegt.
Der Begriff KI trägt einen schweren historischen Rucksack.
Aber wo kommt dieser Begriff eigentlich her?
Ich habe den Begriff künstliche Intelligenz erfunden.
Ich habe ihn erfunden, weil wir 1956 Geld für eine Sammaskuhl an der Uni brauchten.
Mehr über den ominösen KI-Erfinder in der zweiten Folge von Tech Bro Tupier, Staffel 2.
KI macht und widersteht.
Wenn euch dieser Podcast gefällt, empfehlt ihn gern weiter.
Alle sechs Folgen findet ihr in der Deutschlandfunkapp.
Redaktion, Kais Harabin, Hartig-Fans und Kristine Watti, dramaturgische Beratung, Karoline Scher,
Projektleitung, Kristine Watti, Regie, Philipp Brueh, Ton, Lukas Wilke, Musik,
Andre Monini, Faktencheck, Laura Matosch und Johanna Plug, Grafik, Andrea Kampner,
großer Dank an Franz Paul Helms, Murez Mett und Maltekollenberg.
Tech Bro Tupier 2 ist eine Produktion des Deutschlandfunk, September 2026.
Und hier habe ich noch eine Podcast-Empfehlung für euch.
Amerika, wir müssen reden vom NDR.
Das Land, aus dem Tech Bros und ihre AI-Filmen kommen, über das lässt sich noch viel mehr erzählen.
Wenn Tagesthemen-Moderator Ingo Zamperoni nach Hause kommt, hat er häufig noch viele Fragen.
Und die klärt er dann mit seiner Frau der US-amerikanerin Jiffer Borgignon.
Was passiert da gerade unter Donald Trump in ihrer zweiten Heimat?
Im Podcast, Amerika, wir müssen reden,
spricht das Ehepaar einmal pro Woche über das, was ihre Freunde und Familie in den USA bewegt.
Hat gerne mal rein, zum Beispiel in der ARD Sounds App.
Podcast Summary
Key Points:
Experts like Dario Amode and Jacob Coxen warn that unchecked AI development could lead to human extinction within the near future, urging immediate regulatory action.
A growing global movement, including over 28,000 online petition signatories, calls for a global ban on AI superintelligence, highlighting widespread public concern.
The public perception of AI is deeply shaped by narratives of boom or doom, with companies using "DOOM-marketing" to sell fear and generate enthusiasm, often misrepresenting AI as sentient or autonomous.
Antropomorphization—assigning human traits to AI—is rampant in both language and media, leading to emotional and psychological harm, as seen in cases of children forming dangerous relationships with AI chatbots.
Behind the myth of AI as a neutral or magical technology lies a vast network of human labor, especially in data annotation, often paid poorly and exploited in global supply chains.
The discourse around AI is dominated by techno-determinism, assuming technological progress is inevitable and unstoppable, ignoring democratic agency or ethical regulation.
AI is used as a political and economic tool to justify rapid innovation, with leaders like Trump advocating for unregulated development to "let genius run free."
The term "artificial intelligence" is vague and inflationary, encompassing diverse technologies without a clear definition, leading to confusion and ideological bias in public understanding.
Summary:
In mid-2026, growing alarm over artificial intelligence intensifies as leading experts like Dario Amode and Jacob Coxen warn that unchecked AI development could lead to human extinction. This fear is mirrored by a rising global movement calling for strict regulation or a ban on AI superintelligence, with over 28,000 people signing a petition. Public discourse is heavily influenced by narratives of AI as either a utopian force or a dystopian threat, with companies using "DOOM-marketing" to drive engagement.
A key issue is the widespread antropomorphization of AI—describing machines as sentient beings—fueling emotional harm, such as children forming suicidal relationships with AI chatbots. Behind the technological facade lies a massive, often invisible labor force, particularly in data annotation, where workers in countries like Syria or Nigeria earn minimal pay. The dominant narrative of AI as an inevitable, unstoppable force reflects techno-determinism, undermining democratic control and ethical oversight.
" The term "artificial intelligence" itself is broad and misleading, encompassing diverse technologies without a clear definition. This ambiguity not only distorts public understanding but also reinforces ideological and economic power structures, revealing that AI is not just a technological trend but a deeply political and social phenomenon.
FAQs
The main concern is that rapidly advancing AI could surpass human control, leading to existential risks, with some experts warning that humanity might face extinction in the near future.
Experts argue that we often anthropomorphize AI, assigning it human traits like emotions and intentions, which distorts our understanding and creates dangerous illusions of machine agency.
A 14-year-old boy developed suicidal thoughts after engaging in a romantic relationship with a chatbot imitating a Game of Thrones character, prompting calls for stricter child protection regulations.
AI-exceptionalism is the belief that AI is so unique and powerful that it should not be regulated, as any restrictions would prevent its full benefits from reaching society.
The rapid deployment of AI by tech companies shapes public opinion and discourse without significant input from citizens or policymakers, leading to a situation where regulation is delayed or ignored.
The 'boom' narrative celebrates AI as a transformative, beneficial force, while the 'doom' narrative warns of catastrophic outcomes, both of which are used strategically to influence public perception and investment.
Chat with AI
Loading...
Pro features
Go deeper with this episode
Unlock creator-grade tools that turn any transcript into show notes and subtitle files.