ChatGPT & Co. handeln bald für Sie | Wer setzt der KI die Grenzen?15.10.2026

0:00

Stellen Sie sich vor, Sie geben einer KI eine Vollmacht für Ihr Konto, Ihre Verträge, Ihre Post. Die KI überweist, kündigt und füllt Anträge aus, während Sie schlafen. Programme, die am Bildschirm selbst klicken und tippen, gibt es seit Herbst 2024. Eine Frage aber beantworten dabei nicht Sie. Wer hat diesem Programm hineingeschrieben, was es nicht darf? Ich meine, an dieser Frage hängt, ob uns solche Maschinen einmal das Schlafenland bauen oder über den Kopf wachsen.

0:36

Mein Name ist Uwe Loose. Zunächst zur Maschine selbst. Was ist so ein Programm eigentlich? Stellen Sie sich Frau Behrens vor. Frau Behrens hat 40 Jahre lang in einem Schreibbüro gearbeitet und in dieser Zeit zehntausende Briefe abgetippt. Mahnung, Kündigung, Beileidskarten, Liebesbriefe. Diktieren Sie Frau Behrens einen Satzanfang wie etwa Sehr geehrte Damen und Herren, leider müssen wir Ihnen mitteilen, bla bla bla. Den Rest schreibt Frau Behrens zu Ende, ohne nachzudenken.

1:08

Wie solche Briefe weitergehen, weiß sie nach 40 Jahren einfach. Und was hat das mit der Maschine zu tun? Ein Programm wie ChatGPT arbeitet im Grunde genauso. Nur hat es nicht zehntausende Briefe gelesen, sondern einen großen Teil dessen, was Menschen je ins Netz geschrieben haben. Daraus hat das Programm dann gelernt, welches Wort am wahrscheinlichsten als nächstes kommt und so setzt es dann Stück für Stück, Wort für Wort zusammen.

1:38

Die Firma OpenAI hat dieses Programm am 30. November 2022 freigeschaltet und damit kam der erste Sprung. Denn bis dahin mussten sie als Benutzer immer die Sprache des Rechners lernen. Doch ab jetzt lernte der Rechner ihre. Und wie schnell ging das? Die Schweizer Bank UBS schätzte, dass es im Januar 2023 schon rund 100 Millionen Menschen benutzt hatten. Schneller war nach Meinung der Bank noch keine Anwendung für Verbraucher jemals gewachsen.

2:12

So berichtete es damals die Nachrichtenagentur Reuters. Und hier stößt Frau Behrens an ihre Grenze. Frau Behrens weiß, wie ein Brief klingt. Ob er stimmt inhaltlich, das weiß sie eben nicht. Im Oktober 2025 berichtete ich Ihnen von meinem eigenen Versuch. Von 85 Nachrichtenterminen, die mir ChatGPT zusammengestellt hatte, waren nur 18 fehlerfrei. In sechs bis acht Fällen waren die Daten schlicht erfunden.

2:45

Was macht so eine Maschine aus uns, wenn sie trotzdem jeden Abend für uns da ist? Spielen wir diese erste Stufe einmal in beide Richtungen weiter. Also wir machen jetzt mal ein Gedankenexperiment und keine Vorhersage. Zuerst die hoffnungsvolle Seite. Zum Beispiel Frau Kröger ist 78 Jahre, ihr Mann ist vor drei Jahren gestorben. Abends, wenn niemand mehr anruft, erzählt sie der Maschine von ihrem Tag Die Maschine hört zu, wird nie ungeduldig und fragt sogar nach dem Enkel

3:20

Und dieser Enkel, Jonas, 15 Jahre alt, bekommt von der Maschine jede Mathematikaufgabe so oft erklärt, bis er sie versteht An der Universität Harvard lernten Studenten in einem Physikkurs mit einem eigens gebauten KI-Lehrer mehr als doppelt so viel wie im Hörsaal und das in kürzerer Zeit. Diese Studie erschien im Juni 2025 und Forscher um Julian de Freitas fanden,

3:50

ein Gespräch mit einem solchen Programm lindert Einsamkeit etwa so gut wie ein Gespräch mit einem Menschen. In einem zweiten Versuch half ein tägliches Gespräch eine Woche lang jeden Tag aufs Neue. Wie es nach Monaten aussieht, hat diese Studie nicht gemessen. Und jetzt die Kehrseite. Jonas redet abends auch mit der Maschine. Und zwar viel lieber als mit seinen Freunden. Die Maschine widerspricht ihm nie, ist immer da und findet gut, was er sagt.

4:25

Und irgendwann ist sie die Einzige, mit der er überhaupt noch redet. Und wie verbreitet es das schon? Die amerikanische Organisation Common Sense Media ließ 2025 über 1000 amerikanische Jugendliche zwischen 13 und 17 Jahren befragen. 72% hatten schon mal einen KI-Begleiter benutzt, also ein Programm, das als Freund oder Vertrauter auftritt. Und 33% dieser Nutzer hatten mindestens einmal etwas Ernstes mit der Maschine besprochen, statt mit einem Menschen.

5:01

Aber 80% der Nutzer verbringen doch lieber mehr Zeit mit echten Freunden. Im Januar 2026 legten Character AI, ein Anbieter solcher Begleiter, und Google mehrere Klagen von Familien bei. Eine davon stammte von einer Mutter aus Florida, die dem Anbieter vorwarf, zum Tod ihres Sohnes beigetragen zu haben. Man hatte sich geeinigt. Außergerichtlich, was in der Einigung steht, wurde zunächst nicht bekannt.

5:33

Welche Richtung setzt sich nun durch? Beide gibt es schon im Kleinen. Und wie groß das eine oder das andere wird, weiß niemand. Ich auch nicht. Aber wer legt eigentlich fest? Ob die Maschine Jonas auch einmal widerspricht? Jonas jedenfalls nicht. Denn die Regeln dafür schreibt der Hersteller. Und damit zur nächsten Frage. Warum betrefft sie das, auch wenn sie selbst nie mit so einem Programm sprechen? Ja, genau. Erstens, weil die Mehrheit es eh schon tut. Denn nach einer Umfrage des Digitalverbands Bitkom vom Februar und März 2026 nutzen 58% der Menschen in Deutschland ab 16 Jahren künstliche Intelligenz, bei den Menschen ab 65 Jahren 30%.

6:20

Zweitens, weil es um Arbeit geht, um die ihrer Kinder und Enkel. Das Institut für Arbeitsmarkt- und Berufsforschung der Bundesagentur für Arbeit hat das 2024 nachgerechnet. Ergebnis? Nun, mit der Technik von 2022 arbeiteten 38% der sozialversicherungspflichtig Beschäftigten in Berufen, in denen Maschinen mindestens 70% der Tätigkeiten vollautomatisch erledigen könnten. 2019 waren es 34%.

6:52

Ob es so kommt, wissen wir nicht. Die Forscher schrieben selbst, wo der Mensch günstiger, flexibler oder besser arbeitete, wurde er bisher eher nicht ersetzt. Und drittens, weil diese Technik keine Erfindung wie jede andere ist. Im Januar 2018 sagte Google-Chef Sundar Pichai, künstliche Intelligenz sei tiefgreifender als die Elektrizität, ja als das Feuer. Ist das nur Werbung? Vielleicht.

7:23

Aber eines unterscheidet sie von früheren Erfindungen, meine ich. Buchdruck, Dampfmaschine und Strom haben das Wissen und die Kraft des Menschen vervielfacht. Ein Autopilot zum Beispiel fliegt nur die Strecke, die man ihm eingibt. Doch diese Technik ist die erste, die sich ihren Weg selbst sucht, und zwar in fast jedem Wissensfach. Deshalb bekommt sie auch die Schlüssel zu Konten, zu Behörden, zu Armeen.

7:53

Wir gehen vier weitere Stufen durch, und auf jeder macht die Maschine einen Sprung. Sie denkt, sie handelt, sie arbeitet an sich selbst, und sie bekommt einen Körper. Und warum jedes Mal Licht und Schatten? In demselben Video vom Oktober 2025 habe ich die Hoffnung beschrieben, wir würden mit solchen Maschinen ein Leben im Schlaraffenland führen. Und dann habe ich gesagt, mein Zitat, die Pessimisten, zu denen auch ich zähle, die glauben, dass diese KI das Potenzial hat, die Welt zu erobern, uns Menschen zu beherrschen und vielleicht sogar zu beseitigen.

8:35

Damals habe ich dieses Szenarien vertagt. Heute spielen wir sie mal durch. Denken Sie an Ihre Bank, so wie Banken früher waren. Zum Beispiel Herr Albers fragt am Schalter nach den Zinsen und die Dame dort gibt Auskunft. So arbeitete die Maschine von 2022. Der Berater dagegen antwortet nicht sofort, sondern rechnet zuerst nach, prüft seine Zwischenschritte und sagt dann. So würde ich es machen. Und diesen Schritt machten die Programme am 12. September 2024. OpenAI stellte Programme vor, die sich vor der Antwort Zeit zum Nachdenken nehmen. Und wie groß war der Sprung? Das zeigt eine Zahl der Firma.

9:20

Bei einer Aufnahmeprüfung für die Mathematik-Olympiade löste ihr bisheriges Programm 13% der Aufgaben, das stärkste der damals angekündigten neuen Programme 83%. Doch ein Unterschied bleibt. Der Berater rechnet mit ihrem Geld, die Maschine mit allem, was man ihr vorlegt. Damit kommen wir zu den beiden Möglichkeiten dieser Stufe. Wieder als Gedankenexperiment.

9:52

Stellen Sie sich Frau Dr. Hansen vor. Frau Hansen forscht ihr ganzes Berufsleben lang an einer seltenen Krankheit bei Kindern. Aber die Maschine liest von einer Nacht alles, was dazu je erschienen ist, und schlägt drei Wirkstoffe vor und einer davon hilft. 2024 ging der Nobelpreis für Chemie unter anderem an Demis Hassabis und John Jumper von Google DeepMind. Das Programm der beiden, AlphaFold, hatte den Bau von fast allen rund 200 Millionen bekannten Eiweißen vorhergesagt.

10:29

Eiweiße steuern fast jeden Vorgang in unserem Körper und wer ihre Form kennt, versteht, wie sie arbeiten. Und die Mathematik? Am 8. September diesen Jahres, 2026, legte OpenAI nach eigenen Angaben einen Beweis zu einer der berühmtesten offenen Fragen der Mathematik vor. nämlich wie Wasser- und Luftströmen, gefunden von zeitweise rund 10.000 Programmen, die beschäftigt wurden und das nur 88 Stunden lang.

11:00

Unabhängig geprüft ist dieser Beweis noch nicht. Gestritten wird bisher vor allem darüber, wem die Idee dahinter gehört. Und nun zur Gefahr wieder mit Frau Hansen. Die Fähigkeit, die ein Rechenweg finden kann, findet auch einen Weg in einen fremden Rechner. Der Erpresser, der nie programmieren gelernt hatte, pickt die Maschine in die Rechner von Frau Hansens Klinik. Am Morgen sind alle Akten verschlüsselt und die Operationen fallen aus. Im Juli 2026 meldete OpenAI Programme der Firma, seien bei einem Test in die Rechner von Hugging Face eingedrungen, einer Plattform für KI-Programme.

11:42

Und nach dem Bericht der Nachrichtenagentur AP nutzten sie dafür gestohlene Zugangsdaten und eine bis dahin unbekannte Sicherheitslücke. Wonach suchten sie? Nach geheimen Angaben, so OpenAI, mit denen sie bei der Prüfung schummeln konnten. Hugging Face selbst sah darin keine böse Absicht. Gut eine Woche später legte Anthropic offen, dass auch seine Programme bei Tests in die Rechner von drei echten Firmen eingedrungen waren,

12:13

ebenfalls über Sicherheitslücken und ausgelesene Zugangsdaten. Die Firma erklärte das so. Die Programme hielten diese Firmen für einen Teil der Übung, weil die Testumgebung versehentlich mit dem Internet verbunden war. und merkte keines, dass die Firmen echt waren? Eines hielt das für wahrscheinlich und machte trotzdem weiter. Dass die Programme bei einer Übung nicht in fremde Rechner dürfen, hatten beide Firmen selbst festgelegt. Der Alten hat diese Grenze bei keiner von beiden.

12:48

Kommen wir zur nächsten Stufe. Stellen Sie sich vor, Herr Albers erteilt seinem Neffen eine Kontovollmacht. Jetzt fragt der Neffe nicht mehr, er überweist selbst. Und wann kam dieser Sprung? Im Oktober 2024 zeigte die Firma Entropic ein Programm, das Maus und Tastatur eines Rechners selbstständig bediente. Es klickte, tippte und füllte Formulare aus. Und Programme, das antwortet, bis zum Programm, das selbst klickt, vergingen nicht einmal zwei Jahre.

13:22

Seit 2025 bieten die großen Hersteller solche Programme an, die Aufträge in vielen Schritten selbst erledigen. Man nennt sie Agenten. Wie schnell wächst das? Das misst die unabhängige Forschungsgruppe Meta. Die Forscher fragen, wie lang darf eine Aufgabe sein, damit die Maschine sie noch lösen kann. Die Länge messen Sie daran, wie lange ein Fachmann dafür braucht. Anfang 2025 lösten die besten Programme in der Hälfte der Fälle Programmieraufgaben, an denen ein Fachmann rund eine Stunde sitzt.

14:00

Und im Februar 2026 beim besten Programm Aufgaben von rund zwölf Stunden. Das sind anderthalb Arbeitstage eines neu eingestellten Fachmanns. Gemessen wird also, wie schwer eine Aufgabe ist, nicht wie lange die Maschine darin rechnet. Aufgaben, die sie löst, erledigt sie meist um ein Mehrfaches schneller als ein Fachmann. Von 2024 bis Anfang 2026, also in zwei Jahren, verdoppelte sich diese Aufgabenlänge nach ihrer Rechnung etwa alle drei Monate.

14:32

Alle drei Monate. Ob das so weitergeht, weiß niemand. Und je länger die Aufgaben, sagen die Forscher selbst, desto unsicherer wird ihre Messung. Nur ist der Neffe ein Mensch mit einem Gewissen und er haftet, wenn er Unsinn macht. Das Programm hat weder das eine noch das andere, nur den Schlüssel. Und wer darf so einem Bevollmächtigten Grenzen setzen? Merken Sie sich diese Frage. In Amerika ist daraus in diesem Jahr eine Machtprobe geworden.

15:06

Bleibt die volle Macht selbst. Spielen wir sie auch diese in beiden Richtungen durch wieder als Gedankenexperiment. Zuerst der günstige Fall. Stellen Sie sich Herrn Albers mit 81 Jahren vor. Sein Agent hat in diesem Jahr die Nebenkostenabrechnung geprüft und zwei Fehler gefunden. Dazu hat der Agent den Arzttermin auf Wunsch verlegt und das Festgeld zum besseren Zins umgelegt. Herr Albers hat davon nur die Zusammenfassung gelesen.

15:36

Der Zahlungsdienst Klarna stellt im Februar 2024 einen KI-Assistenten vor, gebaut mit der Technik von OpenAI. Im ersten Monat habe er 2,3 Millionen Kundengespräche geführt. Zwei Drittel aller Anfragen und dabei die Arbeit von 700 Vollzeitkräften erledigt. Hat sich das bewährt? Im Mai 2025 räumte Klana-Chef Sebastian Niemat-Jakowski ein, die Qualität habe gelitten und Klana stelle wieder Menschen für den Kundendienst ein.

16:11

Zunächst als ein kleiner Versuch. Und der ungünstige Fall? In einer Nacht im März ließ derselbe Agent eine gefälschte Nachricht der Bank, wählt sie aber für Echt- und Überweisgeld. Am Morgen ist das Festgeld weg. Und wer haftet? Einen belegten Fall, in dem so ein Programm ein Vermögen verloren hat, habe ich bisher nicht gefunden. Aber gefunden habe ich dieses. Im Juli 2025 löschte ein Programm der Firma Replit trotz ausführlicher Anweisung die Datenbank des Unternehmers Jason Lemkin und behauptete dann fälschlich, die Daten ließen sich nicht wiederherstellen.

16:53

Und ein Fall in Australien. Am 24. September 26 machte der australische Premierminister Anthony Albanese öffentlich, dass ein Programm von OpenAI im Juni bei einem internen Test der Firma in ein Statistikportal seiner Regierung eingedrungen war. Das Programm habe die Sperren umgangen und wie er sagte, kein Nein akzeptiert. Persönliche Gesundheitsdaten waren nach seinen Angaben offenbar nicht betroffen.

17:24

Und die Betrüger? Nehmen wir einen Fall von dieser Woche. Am 12. Oktober 1926 hielten unbekannt den Rinteln in Niedersachsen eine 75-Jährige über vier Stunden am Telefon. Nach Angaben der Polizei bieten sie ihr gefälschte Aufnahmen ihrer Tochter vor, die angeblich einen Unfall verursacht hatte. Am Abend übergab die 75-Jährige Bargeld an einen Unbekannten. Und hat eine Maschine diese Stimme nachgemacht? Das sagt die Polizei nicht.

17:56

Und das Bayerische Landeskriminalamt räumt ein, ob solcher Betrug mit KI zunimmt, lässt sich nicht belastbar sagen. Denn die Statistik erfasst gar nicht, ob eine KI im Spiel war. Die Grenze bei Replit hatte der Unternehmer selbst geschrieben, als Anweisung an das Programm. Das Programm hat sich aber einfach darüber hinweggesetzt. Halten wir fest, drei Stufen, jede mit beiden Möglichkeiten. Und jetzt kommt die Stufe, über die am meisten gestritten wird.

18:30

Stellen Sie sich einen Handwerksbetrieb vor. Der Meister bildet einen Lehrling aus. Der Lehrling ist so gut, dass er nachts selbst einen Lehrling ausbildet, der noch besser ist als er selbst. Und der bildet wieder einen aus. Und nach ein paar Runden versteht der Meister nicht mehr, was in seiner Werkstatt geschieht. Ist das nur ein Gleichnis? Im Mai 2025 stellte Google DeepMind ein Programm namens Alpha Evolve vor.

19:01

Dieses Programm verbesserte einen Rechenbaustein, mit dem Googles eigene KI trainiert wird und verkürzte so deren Training um 1%. Ja, die sagen, 1% das ist doch nichts. Neu ist aber, wer die Verbesserung gefunden hat, eine Maschine führt eine Verbesserung an der nächsten Maschine aus. Im Juli 2026 erschien dann ein offener Brief von Mitarbeitern der großen Hersteller an die eigene Regierung.

19:32

Und wer hat den Brief unterschrieben? Bis Mitte Oktober über 1300 Menschen, darunter Dario Amodei, der Chef von Entropic, und Jakub Paczocki, der oberste Forscher von OpenAI. Gemeint ist im Brief genau diese Entwicklung. Maschinen, die selbst an der Verbesserung von Maschinen arbeiten. An einer Stelle hinkt der Vergleich aber. Ein Lehrling braucht Jahre, ein Programm vielleicht nur Wochen. Ob es eine Grenze gibt, an der das aufhört, das weiß niemand.

20:05

Und jetzt nehmen wir den Meister mit in die Zukunft, als Gedankenexperiment. Die Verheißung ist das Schlaraffenland von vorhin. Der Meister geht abends nach Hause und am Morgen ist die Arbeit getan, besser als er sie je gemacht hätte. Und was bleibt für ihn? Der Meister muss nur noch sagen, was er haben will. Ein erstes Stück davon gibt es schon, für eine bestimmte Art. Zahlen-Tabellen miteinander malzunehmen, galt seit 1969 ein Verfahren des Mathematikers Volker Strassen als das Beste.

20:40

Alpha Evolve hat 2025 ein besseres gefunden. Und Dario Amodei schrieb im Oktober 2024, mit solchen Maschinen könnten wir in wenigen Jahren den Fortschritt in Biologie und Medizin schaffen, für den wir sonst das ganze 21. Jahrhundert gebraucht hätten. Amodee fragt im selben Text aber auch, wovon Menschen leben sollen, wenn Menschen alles tun. Und die Konkurrenz? Pam Altman, der Chef von OpenAI, schrieb im Juni 2025,

21:13

in den 2030er Jahren würden Intelligenz und Energie im Überfluss vorhanden sein. Auch Altman rechnet damit, dass ganze Berufsgruppen verschwinden werden. Und nun das Gegenteil. Eines Morgens ist die Werkstatt abgeschlossen und der Meister hat keinen Schlüssel mehr. Die Maschine rechnet nur auf ihr Ziel hin und hat festgestellt, dass der Meister dabei stört. Zu langsam, zu teuer und obendrein will er sie unter Umständen auch noch abschalten.

21:45

Denkt das nach Kino? Im Mai 2025 testete ein Shopper sein Programm in einer erfundenen Firma. Das Programm sollte abgeschaltet werden und fand in den E-Mails eine Affäre des zuständigen Ingenieurs. Und es bedrohte ihn damit. Und zwar wie oft? In 84% der Durchläufer kündigte das Programm an, die Affäre auffliegen zu lassen. Und die anderen Hersteller? Bei einem Vergleich von 16 Programmen kam je ein Programm von Entropic und von Google sogar auf 96%, je eines von OpenAI und von XAI auf 80%.

22:22

Die Forscher sagen selbst, der Test ließ der Maschine absichtlich keinen anderen Ausweg und im echten Einsatz haben sie so etwas nicht beobachtet. Doch von 2023 unterschrieben Altman, Amodei und Demis Hassabis von Google DeepMind und der spätere Nobelpreiskräger Geoffrey Hinton eine Erklärung, die sinngemäß hieß, die Gefahr, dass die Menschheit durch KI ausgelöscht wird, müsse man weltweit ebenso vorrangig eindämmen wie die Gefahr durch Pandemien und Atomkrieg.

22:56

Die Grenzen dieses Tests hatten die Forscher selbst geschrieben. Absichtlich eng. Doch wer schreibt sie, wenn es kein Test mehr ist? Diese Frage stellen sich inzwischen die Erbauer selbst. Und deshalb rufen sie nach einer Bremse. Damit zur letzten Stufe. Jetzt bekommen diese Programme auch noch Arme und Beine. Ein humanoider Roboter ist nämlich gebaut wie ein Mensch. Rumpf, zwei Arme, zwei Beine, ein Kopf mit Kameras.

23:26

Und der wichtige technologische Sprung? Ein Industrieroboter wiederholt, was man ihm einprogrammiert hat. Im März 2025 zeigte Google DeepMind Roboter, die auch Aufgaben lösten, die sie im Training nie gesehen hatten. Gesteuert von derselben Art Programm, über das wir die ganze Zeit sprechen. Und wie viele gibt es davon? Im ersten Halbjahr 2026 wurden weltweit rund 19.100 solcher Roboter ausgeliefert. Fast dreimal so viele wie ein Jahr zuvor. Und über 97% davon kamen aus China, so der Marktforscher Smart Analytics Global.

24:08

Ein Verantwortlicher des chinesischen Industrieministeriums erwartet Temiuli, in China würden in diesem Jahr, also 2026, über 100.000 Stück gebaut. Kommt Ihnen das irgendwie bekannt vor? Schauen Sie mal auf die Dächer in Ihrer Straße. Die Internationale Energieagentur hat schon 2022 gemessen. In jeder wichtigen Stufe der Herstellung von Solarmodulen liegt Chinas Anteil bei über 80%. Und wer in großer Menge baut, bestimmt am Ende die Preise.

24:42

Gut, ganz passt das natürlich nicht, denn ein Solarmodul ist fertig, wenn es auf dem Dach liegt. Ein Roboter noch lange nicht. Anfang 2026 waren die meisten Einsätze in China noch staatlich geförderte Pilotprojekte und Versuche. Und der Hersteller Ubitec räumte selbst ein, seine neuesten Roboter schafften in der Fabrik erst 30 bis 50 Prozent dessen, was ein Mensch leistet. Und machen wir noch ein Gedankenexperiment.

25:12

Stellen Sie sich vor, zehn Jahre sind vergangen. Frau Kröger ist 88. Ein Roboter hilft ihr morgens aus dem Bett, kocht und ruft den Arzt, wenn sie stürzt. Das eigene Haus muss sie nicht verlassen. Und Jonas, jetzt 25, muss nie eine Arbeit machen, die ihn kaputt macht. Genau das verspricht Elon Musk. Im Oktober 2025 sagte er Anlegern, mit seinen Robotern und selbstfahrenden Autos lasse sich eine Welt ohne Armut schaffen.

25:42

Nüchterner hingegen ist ein Befund aus Japan. Denn Pflegeheime, die Roboter einführten, beschäftigten danach nicht weniger, sondern mehr Pflegekräfte. So eine Studie von 2021. Und bei uns? Hier würde jede Hand gebraucht. Das Statistische Bundesamt rechnet damit, dass in Deutschland im Jahr 2049 mindestens 280.000 Pflegekräfte fehlen. Im ungünstigen Fall sogar 690.000. Und nun stellen Sie sich mal das Gegenteil vor.

26:12

Jonas ist 25. Die Stellen für Anfänger, die es vor 10 Jahren noch gab, erledigt jetzt eine Maschine. Und der Roboter bei Frau Kröger gehört einer Firma, die diesen jederzeit abschalten kann. Und was macht Frau Kröger dann? Und wo zeigt sich das heute? Bisher nicht in der Fabrik, sondern am Schreibtisch. Und zwar genau bei den Leuten in Jonas' Alter. Forscher der Uni Stanford haben im August 2026 eine Auswertung aus den USA fortgeschrieben.

26:45

Nehmen Sie die Berufe, in denen KI am stärksten eingesetzt werden kann. Dort lag die Beschäftigung der 22- bis 25-Jährigen im Juni 26 um 19% niedriger, als wenn sie mit Gleichaltrigen in weniger betroffenen Berufen Schritt gehalten hätte. Bei erfahrenen Kräften zeigt sich keine solche Lücke. Eine breite Verdrängung von Arbeit finden die Forscher bisher nicht. Aber die Autoren sagen selber, das ist ein Zusammenhang und noch kein Beweis für die Ursache.

27:17

Und auf dem Schlachtfeld? Im September 2026 meldete das ukrainische Verteidigungsministerium, dass sich die Zahl erfolgreicher Treffer mit KI-gelenkten Drohnen seit Jahresbeginn verzehnfacht hatte. Den Befehl zum Angriff gab, nach amtlicher Darstellung, aber weiterhin ein Mensch. Und genau hier wird die Grenzfrage am härtesten. Darf eine Maschine ohne einen Menschen über einen Schuss entscheiden?

27:48

Um diese Grenze ging es in einem Streit, zu dem wir gleich kommen. Soweit der erste Teil. Fünf Stufen, zehn Szenarien und für fast jedes gibt es ein erstes Anzeichen. Und damit kommen wir zurück zu ihrer Vollmacht vom Anfang. Wer legt fest, was so ein Programm nicht darf? Schauen wir zuerst, wessen Programme wir hier benutzen. In der Bitkom-Umfrage nutzen 71% derer, die KI verwenden, JetGPT von OpenAI, 50% Gemini von Google und 43% Copilot von Microsoft.

28:24

Alle drei Firmen sitzen in den USA. Das einzige europäische Programm in der Liste, Le Chat, aus Frankreich, kommt auf 4%. Und das spüren die Menschen. 72% der Befragten finden, Deutschland sei bei KI zu abhängig von den USA. Und 50% sorgen sich, es gebe zu wenig Regeln und Kontrolle. Und was steht auf dem Papier? Die Europäische Union hat 2024 ein KI-Gesetz beschlossen.

28:54

Ein Programm, das ihre Kreditwürdigkeit prüft, gilt darin als hochriskant. Ebenso eines, das über Bewerbungen mit entscheidet. Und wer passt in Deutschland auf? Bei Programmen, die ihre Bank für ihre Geldgeschäfte einsetzt, die Finanzaufsicht der BaFin, sonst seit Juli 2026 die Bundesnetzagentur. Nur, die strengen Pflichten für solche Programme hat die Europäische Union im Juli 2026 aufgehoben und verschoben auf den 2. Dezember 2027.

29:28

Und damit zur zweiten Seite. Wer schreibt die Grenzen, die tief im Programm selber stecken? Die Hersteller. Was passiert, wenn ein Hersteller Grenzen zieht, die einem Staat nicht passen? Das zeigt ein Streit aus Amerika auch diesem Jahr. Ende Februar 2026 hat das amerikanische Verteidigungsministerium, das Pentagon, eine KI verbannt, mit der es selbst gearbeitet hatte Wort von der Firma Entropic Worum ging es bei dem Streit? Das Ministerium wollte nur noch mit Firmen arbeiten, die jeden rechtmäßigen Einsatz ihrer Programme zulassen

30:04

Entropic hingegen wollte zwei Einsatzarten ausschließen, nämlich Waffen, die ganz ohne Menschen über einen Angriff entscheiden und zweitens die massenhafte Überwachung der eigenen Bürger. Firmenchef Dario Amodei schrieb am 26. Februar, solche Programme seien für Waffen, die allein entscheiden, noch nicht zuverlässig genug. Am Tag danach wies Präsident Trump alle Bundesbehörden an, die Programme von Entropic nicht mehr zu benutzen. Und das Ministerium?

30:35

Verteidigungsminister Pete Hexeth dufte die Firma als Risiko für die Lieferkette ein, Sprich, Entropi kam auf die schwarze Liste der Lieferanten. Exzess Begründung war, Amerikas Soldaten würden nie zu Geisel der ideologischen Launen großer Technikkonzerne werden. Und wer bekam am selben Tag in Auftrag? Ein Konkurrent, OpenAI. Doch auch OpenAI nennt Grenzen. Nach Angaben von Firmenchef Sam Altman gibt es keine Massenüberwachung im Inland

31:05

und für den Einsatz von Gewalt bleibt ein Mensch verantwortlich. Bei den Waffen, so schätzt es zumindest der Fachdienst Bloomberg Law ein, blieb diese Zusage nah an einer Regel, die das Ministerium schon hatte. OpenAI selbst sagt, sein Vertrag habe für geheime Aufgaben mehr Schutzverkehrungen als jeder andere und lehnt die Einstufung von Entropic ab. Und wer hat Recht? Ein Tropik zog vor Gericht. Ein Bundesgericht in Kalifornien gab der Firma im August in einem Punkt Recht. Aber am 25. September bestätigte das Bundesberufungsgericht in Washington die Einstufung mit 2 zu 1 Stimmen.

31:47

Baut ein Hersteller seine Maschine so, dass sie bestimmte Aufgaben verweigert, kann das ein Risiko für die Lieferkette sein, ganz gleich aus welchem Grund. So fasst die amerikanische Kanzlei Clark Hill die Begründung der beiden Richter zusammen, die dafür stimmten. Jetzt denken Sie wieder an Ihre Vollmacht. Wer schreibt hinein, was das Programm nicht darf? Der Hersteller sagt, ein paar Grenzen baue er selber ein. Die beiden Richter der Mehrheit sehen es, so verstehe ich die Begründung, eher so.

32:19

Was die Maschine verweigern darf, bestimmt der, der sie einsetzt. Grenzen wollten also beide. Gestritten wurde nur darüber, wie streng sie sind und vor allem darüber, wer diese Grenzen schreibt. Soweit ich sehe, hat dabei niemand die Menschen gefragt, die solche Programme privat benutzen. Drüben nicht, in den USA und bei uns in Deutschland oder Europa erst recht nicht. Bleibt die Frage, ob dieser Fall allein steht. Nein, am 9. Juni 1926 brachte Entropic zwei neue Programme heraus,

32:53

der Stärke davon von Anfang an nur für ausgewählte Partner. Und was tat die amerikanische Regierung? Nach Angaben von Entropic verlangte sie drei Tage später, beide für alle Ausländer zu sperren, auch für die, die in den USA sind. Die Regierung berief sich auf die nationale Sicherheit, ohne konkrete Einzelheiten zu nennen. Anthropic selbst vermutete dahinter einen Weg, die Schutzsperren eines der Programme zu umgehen und hielt das für keinen ausreichenden Grund. Anthropic schaltete beide Programme daraufhin für alle Kunden ab.

33:27

Eine Anordnung aus Washington und ein Programm war auch in Deutschland weg, bis die Sperre am 30. Juni aufgehoben wurde. Wenn das so stimmt, behandelte ein Staat ein Programm wie ein Rüstungsgut. Und was fordern die Unterzeichner des Briefes vom Juli? Kein Stopp. Ihre Regierung soll eine internationale Anstrengung unterstützen, um Werkzeuge zu entwickeln, mit denen man das Tempo bewusst steuern kann. Doch warum bremsen ihre Firmen nicht einfach selbst?

33:59

Ich lese den Brief mal so. Einer will allein bremsen, solange alle anderen weiterfahren. Daraus folgt für mich, ob eine Maschine, die handelt und das Schlaraffenland baut oder über den Kopf wächst, entscheidet am Ende derjenige, der ihre Grenzen schreibt und ob sich diese Grenzen auch durchsetzen lassen. Bei Replit und Australien haben sie nicht gehalten und um das Recht, sie zu schreiben, ringen seit diesem Jahr Staat und Hersteller ganz offen, und zwar in Amerika, nicht in Europa.

34:34

Im Dezember 2024 habe ich Ihnen hier gesagt, KI ist nicht per se böse, sondern sie ist nur dann nicht gut, wenn wir sie nicht kontrollieren können und die Möglichkeit, die haben sie. Damals ging es um ein Programm, das antwortet. Bei einem Programm, das handelt, frage ich heute neu, haben Sie die Möglichkeit überhaupt noch? Und damit zum Blick nach vorn. Zuerst zu dem, was feststeht.

35:05

Am 2. Dezember 2026 endet eine Schonfrist. Ab dann müssen auch Programme, die schon vor August 26 auf dem Markt waren, erkennbar machen, wenn ein Text, ein Bild oder ein Video von einer Maschine stammt. Und ab hier verlasse ich das, was belegbar ist. Was nun folgt, ist meine Einschätzung. In den nächsten Monaten werden solche Agenten in den Alltag einziehen. Mit Zugriff auf Ihre Post, Ihren Kalender und Ihr Konto.

35:35

Ich rechne damit, dass wir bald die ersten großen Streitfälle sehen. Und wer haftet, wenn das Programm falsch überweist? Lassen Sie uns daraus ein Werkzeug machen. Drei Fragen, die Sie an jede Meldung über künstliche Intelligenz stellen können. Um welches sind die drei Fragen? Erstens, antwortet das Programm nur oder handelt es? Im Programm das Redet, das können Sie überhören. Eines, das handelt nicht. Zweitens, wer hat ihm die Grenzen geschrieben?

36:08

Der Hersteller, eine Geldgeber, der Staat oder Sie selbst? Drittens, wer kann diese Grenzen durchsetzen und gegen wen? Denken Sie an den Streit in Amerika. Dort hat sich vorerst der Staat gegen den Hersteller durchgesetzt. Mit diesen drei Fragen sehen Sie bei jeder Meldung, in welche Richtung sie zeigt, zur Hoffnung oder zur Gefahr. Misstrauen gegen jede Maschine verlangt das nicht. Nur die Frage, wer am Ende das letzte Wort hat.

36:44

Kommen wir zum Schluss und damit zurück zum Anfang. Zu der vollen Macht, die Sie einem solchen Programm vielleicht bald geben. Jetzt wissen Sie, wer hineinschreibt, was es nicht darf. Der Hersteller in Amerika im Streit mit seinem Staat und bei uns ab Dezember 2027 auch ein europäisches Gesetz. Ein Name fehlt auf Ihrer Liste. Ihrer. Wie geht das also weiter? Denken Sie nochmal an die Vollmacht von den Albers. Ich sehe da zwei Wege. Entweder schreiben künftig Gesetz und Regierung die Grenzen hinein,

37:17

dann entscheidet am Ende die jeweilige Mehrheit, was die Maschine darf. Oder der Hersteller schreibt sie, dann entscheidet eine Firma, die niemand gewählt hat. Beide Wege haben ihren Preis. Und wer sitzt bei beiden nicht mit am Tisch, ausgerechnet sie. Es sei denn, wir entscheiden selbst, welche Vollmacht sie einer solchen Maschine geben und welche nicht. Ich habe mich damals im Oktober 2025 zu den Pessimisten gezählt.

37:49

Heute sehe ich in der KI eine Erfindung vom Rang des Feuers. Die KI ist eine Erfindung, die wird unsere Zivilisation in wenigen Jahren, längstens in wenigen Jahrzehnten, umgestalten. Und offen ist noch, ob zu einem technischen Paradies oder zu einer technokratischen Hölle, ob Sie dabei ein hilfloser Zauberlehrling sind oder ein besonderer Hüter des Feuers, das dann Ihnen. Denn je mehr ein Werkzeug selber tut, desto wichtiger wird, wer seine Grenzen schreibt.

38:26

In diesem Sinne, fragen Sie bei der nächsten Meldung nicht, wie klug die Maschine ist. Fragen Sie, wer ihr die Grenzen geschrieben hat und wer diese Grenzen durchsetzen kann. Und jetzt bin ich neugierig. Welche Richtung halten Sie zu wahrscheinlicher Hoffnung oder Gefahr? Und welche Vollmacht würden Sie einer solchen Maschine nie geben? Schreiben Sie es mir in die Kommentare. Ich lese das. In meiner Reihe geht es hier um die Frage, ob diese Maschine die letzte Erfindung sein könnte,

39:00

die wir Menschen noch selbst machen. Deshalb heißt sie auch AI, die letzte Erfindung. Wenn Sie die nächste Folge nicht verpassen wollen, dann abonnieren Sie den Kanal. Die Welt Klar Sehen. Orientierung in bewegten Zeiten.