06 | TO THE RESCUE

Hey, es ist erst 5 Wochen her, dass wir diesen Podcast buchstäblich über Nacht ins Leben gerufen haben. Und in dieser kurzen Zeit ist so viel passiert, dass es mit ziemlich unwirklich vorkommt. In der United States US Defense Secretary Pete Hegseth has announced the launch of Project Meridian, the initiative will focus on autonomous warfare, developing weapons and systems for future battles, it will be co-land by Tesla and SpaceX founder Elon Musk. Und während wir noch versuchen, das alles zu verstehen und einzuordnen, da überschlagen sich die Nachrichten rund um die Entwicklung von KI immer weiter. Heute wollen wir deshalb etwas anderes machen. Wir wollen kurz innehalten. Das hier, das ist das Sound vor dem Haus, wo ich keine bin. Ich bin immer noch im Urlaub, im Portugal, irgendwo im Wald, super abgelegen, weit und breit, kein Mensch, aber das hört ja selbst. Ich dachte mir, dass das vielleicht genau der richtige Ort ist, um ein kleines Zwischenfahrt sie zu ziehen. Und darüber nachzudenken, warum wir diesen Podcast überhaupt machen. Und ich muss euch etwas gestehen. Wenn man Woche für Woche über die Gefahren künstlicher Intelligenz spricht, Expertenen zu Szenarien befragt, die im schlimmsten Fall das Ende der Menschheit bedeuten. Oder vergleiche mit der Gefahr eines Atomkriegs zieht, dann kommt man sich schon ein bisschen merkwürdig vor. Wieder sprich wirklich im Manein der Wüste, oder dieser zottlichen Typ einer Einkaufsstraße, die die Rückkehr von Jesus ankündigen. Alles ist vielleicht gut gemeint, aber irgendwie auch sehr doll, zu laut, zu dramatisch. Natürlich haben wir uns in den letzten Wochen gefragt, was ist, wenn wir komplett übertreiben, wenn sich in ein paar Jahren all diese Warnungen, die wir gerade hören, wenn sie sich als völlig Überzogen herausstellen, als Marketingstanz, als Hooks, als Panik machen. Hörlich gesagt, wäre das wahrscheinlich das Beste, was uns passieren könnte. Aber wir brauchen uns in diesem Punkt auch gar nicht einig sein. Ob der Weltuntergang nun droht oder nicht, wer weiß das schon. Ganz unabhängig davon, wie es ausgeht, müssen wir jetzt trotzdem genau hinschauen. Und das hat mit einer Innovation zu tun, die wir alle mit erlebt haben, die uns begeistert hat, die uns geprägt hat, die unsere gesellschaftlichen Regeln, unsere Motivation, unsere Gefühle, unsere Aufmerksamkeit und unser Miteinander, für immer verändert hat. Und bei der wir rückblickend einiges hätten anders machen sollen. Ich bin Kassau Behrers und ihr hört "I'm sorry Dave", Episode 6, "To the Rescue". * Musik * Daher näht ihr euch noch, als Social Media groß wurde. Das ist ungefähr 15 Jahre her. Facebook, Twitter, YouTube, später Instagram. Plötzlich kann jeder Mensch seine eigenen Geschichten erzählen. Jeder kann publizieren, jeder kann mit Menschen auf der ganzen Welt kommunizieren, ohne dafür eine Zeitung, einen Fernsehsender oder irgendeine andere Institution zu benötigen. Wir haben gesehen, wie sich Menschen über kontinente Hinweg vernetzen, wie über soziale Netzwerke Protestbewegungen entstehen, wie politische Informationen Menschen erreichen, die sie früher nie zu Gesicht bekommen hätten. Und natürlich haben wir das gefeiert. Ich glaube, die meisten von uns hatten damals das Gefühl, dass wir gerade zeigen einer großartigen Entwicklung waren. Das Internet würde die Welt offener machen, freier, demokratischer. Und es gab ja auch wirklich viele gute Gründe, daran zu glauben. * Musik * Tristan Harris, darin hat sich doch ziemlich genau in dieser Zeit. Harris war früher Design-Ediker bei Google. Heute gehört er zu den bekanntesten Kritikern der Geschäftsmodelle, großer Technologieplattform. Vor einigen Jahren hat er mit der Netflix-Doku "The Social de Lema" einem riesigen Publikum erklärt, wie soziale Netzwerke versuchen, unser Aufmerksamkeit zu kontrollieren. Hier blickt er in seinem Podcast "You are undervalid at attention" auf die Anfangszeit von Social Media und seine Begeisterung zurück. "Everyone was so excited about the opportunities that Social Media presented, and me included, I remember hearing "Bizdown the Co-Founder of Twitter on the Radio in 2009 talking about someone sending a tweet in Kenya and getting retweeted twice and suddenly everybody in the United States saw it, but then 15 seconds. And it's like, "That's amazing, that's so powerful!" And who's not intoxicated by that? "Jemand verschickt einen tweet aus Kenya. Zwei Menschen verbreiten ihn weiter. Und 15 Sekunden später lesen ihn Menschen auf der anderen Seite der Welt, was für eine unglaubliche Möglichkeit. Aber die Tatsache, dass eine Technologie fantastische Dinge ermöglicht, bedeutet noch lange nicht, dass sie am Ende auch insgesamt gut für unsere Gesellschaft ist. "The question was, is that enough to get to the good world, where technology is net synergistically improving the overall state and health of the society? And the challenge is that it is going to keep providing these good examples, but the incentives underneath Social Media, we're going to derive systemic harm or systemic weakening of society, shortening of attention spans, more division, less of a information commens driven by truth but more of the incentives of clickbait, the outrage economy. We say one and so forth. Denn während wir begeistert unsere Urlaubsphotos hochladen, unsere Freunde wiederfinden und nur über Likes freuen, entsteht hinter diesen Plattformen ein gigantisches Geschäftsmodell. Ein Geschäftsmodell, das diejenigen Inhalte priorisiert, die wir uns besonders aufregen, die uns Angst machen, die uns wütend machen, die uns darin bestätigen, dass wir recht haben. Und die anderen natürlich, alle Samtidioten sind." 15 Jahre später fällt die Bilanz von Social Media ziemlich erschreckend aus. Wir haben mit Cambridge Analytica erlebt, wie die persönlichen Daten von Millionen Facebook-Nutzern ohne deren Wissen abgeschöpft und für politische Kampagnen missbraucht worden sind. Wir haben gesehen, wie soziale Netzwerke weltweit für das Informationskampagnen, politische Propaganda, Hätze und gezielte Wahlmanipulation genutzt wurden. Ohne Facebook wäre Trump vermutlich nicht Präsident geworden, das wäre vermutlich nicht zum Brexit gekommen. Insgesamt hätten wir jetzt weniger Populistinnen an der Macht. Ohne Social Media wäre unsere Gesellschaft nicht so polarisiert und sie miteinander nicht so gestört, die Stimmung aktuell nicht so aggressiv. Und dann sind er die Folgen für Kinder und Jugendliche, Cybermobbing, Essstörungen und Depressionen Angstzustände. Jugendliche, die über soziale Netzwerke abpresst und in den Selbstmord getrieben werden. Das amerikanische FBI hat zahlreiche solcher Fälle dokumentiert. Im August 2026 hat sich Meta, der Facebook und Instagram-Mutterkonzern, mit zahlreichen amerikanischen Bundesstaaten auf einen außergerichtlichen Vergleich geeinigt. Es geht um den Vorwurf. Meta habe seine Plattformen bewusst so gestaltet, dass sie Kinder und Jugendliche möglichst lange an sich binden. Und dabei, die möglichen negativen Folgen für ihre Gesundheit nicht ausreichend berücksichtigen. Meta hat keinen Fehler zugegeben, aber das Unternehmen hat sich trotzdem auf Zahlungen von bis zu 18 Milliarden Dollar und Änderungen seiner Plattformregeln eingelassen. Die Zahlung hätte Meta bestimmt nicht akzeptiert, wenn sie sich sicher gewesen wäre, vor Gericht zu gewinnen. Vermutlich bestand die Gefahr, dass die Schadensersatzansprüche um ein vielfaches Höher ausgefallen werden. So läuft das bei außergerichtlichen Einigung. Jugendliche und Kinder sollen künftig strengere Nutzungszeitbegrenzungen auf Instagram und Facebook bekommen. Nachts sollen die App standardmäßig gesperrt sein und während der Schulzeit sollen sie weniger Nachrichtigungen verschicken. Alles Maßnahmen, auf die uns vermutlich schon vor 15 Jahren, hätten einigen können. Das ist das, was mich dann so beschäftigt. Niemand hat uns damals gezwungen, die Entwicklung dieser Technologie einfach hinzunehmen. Niemand hat uns davon abgehalten, mindestens standarzt oder gewisse Regeln einzufordern. Vielleicht hätten wir häufiger fragen sollen, welchen Preis wir als Gesellschaft für all diese neuen Möglichkeiten bezahlen würden. Aber das war eben schwierig, weil Social Media ein völlig neues Phänomen war. ein weltweites Experiment. Und als wir endlich angefangen haben, uns mit den negativen Auswirkungen auseinanderzusetzen, da waren die Plattformen längst tief in unserer Gesellschaft verankert. Seitdem versuchen wir die Schäden nachträglich zu begrenzen, mit nationalen Altersbeschränkungen hier, neuen Gesetzen dort, mit Gerichtsverfahren und Milliarden vergleichen. Aber Prävention sieht anders aus. Und wenn die Strafen erst kommen, nachdem die Schäden längst entstanden sind, werden sie für die Konzerne irgendwann zum kalkulierbaren Geschäftsrisiko. Meter ist mittlerweile so groß, so mächtig und so profitabel, das 18 Milliarden Dollar nicht mehr wehtun. Für Meter ist dieser Betrag nicht viel mehr als ein Speedingticket. Genau diesen Fehler sollten wir bei der nächsten technologischen Revolution nicht wiederholen. Tristan Harris benutzt dafür ein ziemlich einprecksames Bild. Ihr vergleicht den technologischen Fortschritt bei KI mit einem Turm aus Jenga-Baustein, den wir als Gesellschaft begeistert immer höher und höher bauen. Like, you know, we all want a taller and more amazing building, imagine two ways of getting to that building. One way is we build that taller and taller building by pulling out more and more blocks from the bottom. You know, we are clearly acknowledging that the tower is getting taller and more impressive, exponentially faster every year because of the pace of scaling and compute and all the forces we are talking about. But isn't there a different way to build that tower than to keep pulling out more and more blocks from the bottom? That's the essence of the change that we are trying to make in the world. We build the tourmode, therefore so fast and so high, we take down steiner out of the fundament. We don't expect to see if we allow you maybe the basic facilities on which the whole building is built. As I said, we don't even need to be honest, whether with all my K.I. or with autonomous K.I. agents, both the world and the world. Or not. We also don't have to be honest, whether K.I. our working market is changing, whether K.I. in the wrong hands to a new form of terrorism or otherwise a risk scenario. But can we at least say that K.I. has an innovation power that is much more powerful and faster than social media? With our economy, our society and our others, that's why my much more powerful and faster change. If we can get on that, then it will be clear that we, as a society, cannot allow this, is too late to follow negative consequences of this technology in order to think about it. Washington, that's the 29th September, 2026, for about 3 weeks. In the white house, there is a really remarkable value in this day. Big Tax, Big Ass CEOs are at the white house today and the future of A.I. and America is on the agenda. Donald Trump has invited to the Middle East. In the magnificent East Room of the White House, heavy crystal-grown-läuchter, golden-brok-hat-for-hänge-bloom-book-head. Mark Zuckerberg von Meta is there, Elon Musk and Jensen Wang from NVIDIA are sitting right and left with Trump, Sunda Pichai from Google, Jeff Bezos from Amazon and Dario Amudai from Anthropic. Seymour Oldman from Open Air is behind it, but he sent his background to Greg Brockman. In total, 32 men and two women in this meeting share. Together, they represent their market value of more than $28 billion. That is almost as much as the economic power of the United States in a year. More than the 27 states of the European Union together. And it was the fifth and half of the German Brutto-in-Lands product. Only the most valuable figures in this meeting are $1.8 billion. That is $1800 a year. It is about one of the most important questions of this time. How should the development of artificial intelligence be controlled? Since the hacking phase, in a branch intensively discusses how dangerous and dangerous AI systems are already used. Whether you need new security standards, independent control, maybe even similar restrictions for certain development. But what comes out of this day in the white house, is clearly a beneficial outcome. No connecting rules, no frists, no sanctions for destruction. The companies want their tests themselves. And they are not always obliged to make their test results open. So why should this development not be used formally, but rather morally? That should be used for the moment. Because Donald Trump is something completely different, much more important than the regularity. From this point forward, all of the United States documents and hopefully the world will be changed to use the much more accurate term "super" as opposed to "artificial". So it is "super" intelligence. He wants to create artificial intelligence. Artificial. It sounds too much like fake. And it can be intelligent, but now everything else is fake. So all artificial intelligence is still "super" intelligence. 15 years ago, Mark Zuckerberg and the other founders of the major Internet platform still have young companies that have told us, to use the world. They still have no really scientific or political influence. Today they control themselves, companies that belong to the most important institutions of our time. And they sit at the middle of the first white house and then start their regulation. We find ourselves in the next technical revolution. A revolution in which the same companies, and some new, are likely to play a much more basic role. A few companies can decide on which rules these systems work, which we trust important parts of our everyday life. Our energy and supply systems, our transport systems, our infrastructure, our safety and our distribution. And also part of our human lives. KI will change what we have achieved. We will allow us with difficult decisions. Maybe even in which we will be able to live or with whom we will be able to be a family. This is a very new dimension of power, which is concentrated there. The American president, his guest in the white house, does not want any preventive regulation. He returns to a very successful answer for the possible negative consequences of his technology. Therefore, tell him in the current discussion, that the development in the KI does not stop. When the open AI does slow, it will be faster in the tropic. When the American companies will train on the brakes, China will be overhauled. The technical revolution is already full of power. And if not with power, it will lose. That sounds plausible. But it is also a very serious argument. Because if development is unimaginable, no one can really take responsibility for their consequences. The Israeli historian and author, Yuval Noah Harari, has this unimaginable argument for the most dangerous threats in the current KI debate. In short, Harari was in the podcast "The Insider" of the economist's guest in conversation with the chief editor, "Sanimenten Bedaus". The narrative of inevitability is a narrative of having no responsibility. They will explain to you, and they are quite correct, that there is a problem of trust. That I would like to slow down, I would like to have more safety, but I cannot trust my competitors in the other companies or other countries, and I don't want to remain behind. "Menten Bedaus fragt Harari, dann ob er nicht auch glaube, dass KI-Systeme unvermeidlich intelligenter als Menschen sein. Und sie deshalb irgendwann, unvermeidlich, auch die Kontrolle über Menschen übernehmen würden." "If we continue with the present accelerating pace of the AI race, yes, this will be the result. In 10 years, the AI will take over. Aber das ist nichts Nevitables. Wir sind still in Kontrollen 2020. And it's our decision what to do now, and that's crucial. I think that in the U.S. it should be clear to all voters that the coming elections are about AI, because I don't want to tell people who to vote for because I don't know the specific candidates in each Senate district. But the crucial questions to ask the potential candidates, much more than you ask them about the economy or immigration or foreign policy, what's your stance on AI? They are in the middle of the U.S. in the U.S. in November. Maybe the most important questions that you should have to ask politicians, more important than asking the economy, the immigration policy or foreign policy. Because these questions are now decided in 2006. Would you support a ban on legal rights for AI's? Would you try to slow down the accelerating pace of AI's? What do you think about companies selling AI boyfriends to 10 enrolled kids? How are you going to legally prevent it if we vote for you? This is now the crucial time to ask these questions because it might be too late by 2028. It will certainly be too late by 2036. For these questions and for the emergency regulation of AI, maybe too late. In 2006, I mean, in 10 years, it will definitely be too late. The AI era is still there. It has long begun to change our lives big. But their consequences are not certain. AI is not a natural forest. Their negative consequences are incomprehensible. And that's why we started this podcast. After the first episodes, we reached a lot of subscribers. And a few of you said, "I heard a few episodes and I liked them very much, but I don't hear it anymore. I suspect that everything is too much." The hacking phase incident was the suspecting solution for us to do this podcast. The cooperation was impossible to explain. The topic of AI was to roll out from the technical edge. Because we need to bring a larger public debate. We believe that an informed society can change something. That we should not just let this technology go, to build it. We need to understand this technology together and discuss it. To make the answer to the question. And to bring our politicians to this topic, to prioritize it. Before the hacking phase was over. In this way, we also want a future for each week, even if it means that maybe a little bit of work like these cute guys in the shopping street. See you next week. I'm sorry, Dave. It's a production of Studio Bummins and Andan. Up the fort, ever since, in Madonna's DAX, on Spotify, Apple Podcasts, Campfire, YouTube, and everywhere else, where there are podcasts. I'm CashhawbyHouse. Our executive producer is Tobias Baughage, John Hanscheen, and I. Technician production, Fabian Seidel and Jonas Havke. Production, music and sound design, Janik Werner. Technician production, Ben Kubote. If you want to read and listen to our additional links, or want to exchange with us, then come to Campfire FM. And if you have any questions or questions, check us an email at [email protected]. If you liked our podcast, feel free to follow us. Thank you for watching, see you next week.