Der Artikel erschien am 20.03.2026

Deus ex machina

Künstliche Intelligenz auf dem Weg zur unkontrollierten Macht

Es gibt Momente in der Geschichte der Technik, in denen ein neues Werkzeug nicht nur die Welt verändert, sondern beginnt, sich selbst weiterzuentwickeln. Wir befinden uns in einem solchen Moment. Künstliche Intelligenz entwickelt heute künstliche Intelligenz. Sie schreibt ihren eigenen Code, erzeugt ihre eigenen Trainingsdaten und bewertet ihre eigenen Ergebnisse. Was vor wenigen Jahren noch nach Science-Fiction geklungen hätte, ist heute industrielle Realität, und die Geschwindigkeit dieser Entwicklung gibt Anlass zu ernsthafter Beunruhigung.

China gibt das Tempo vor

Das eindrücklichste Beispiel dieser neuen Ära kommt nicht aus dem Silicon Valley, sondern aus der Volksrepublik China. Im Januar 2025 erschütterte ein chinesisches Start-up namens DeepSeek die internationale Technologiewelt.

Gegründet von Liang Wenfeng, hatte das Unternehmen ein Sprachmodell entwickelt, das den amerikanischen Konkurrenten in Leistung und Effizienz ebenbürtig war, dabei aber mit einem Bruchteil der Rechenkapazität und der Entwicklungskosten auskam [1]. Satya Nadella, der Vorstandsvorsitzende von Microsoft, zeigte sich beim Weltwirtschaftsforum in Davos offen beeindruckt und erklärte, das Modell sei in seiner Effizienz schlicht außergewöhnlich [1].

Was DeepSeek so bemerkenswert macht, ist nicht allein das Ergebnis, sondern der Weg dorthin. Das Unternehmen bediente sich konsequent einer Methode, die Fachleute als Destillation bezeichnen: Große, bereits leistungsfähige Sprachmodelle erzeugten die Daten, mit denen ein kleineres, effizienteres Modell trainiert wurde. Die Maschine lernte also von der Maschine. Gleichzeitig wurd

en synthetische Trainingsdaten eingesetzt, die nicht von Menschen, sondern von bestehenden Systemen automatisch generiert wurden [1]. Menschliche Arbeit wurde in diesem Prozess weitgehend überflüssig.

Liang Wenfeng hatte dabei vorausschauend gehandelt. Noch bevor die Vereinigten Staaten den Export von Hochleistungschips nach China untersagten, hatte er Tausende Grafikprozessoren des amerikanischen Herstellers Nvidia erworben und damit eine Infrastruktur geschaffen, die seinem Unternehmen einen entscheidenden Vorsprung verschaffte [1]. Der Chip-Boykott, der China treffen sollte, kam zu spät.

Ein Staat, der die Zukunft plant

DeepSeek ist kein Zufall. Es ist das sichtbarste Ergebnis einer jahrelangen, planvollen staatlichen Strategie. Seit dem Jahr 2017 verfolgt die Volksrepublik China eine umfassende nationale Agenda zur Entwicklung künstlicher Intelligenz mit dem erklärten Ziel, bis zum Jahr 2030 die weltweit führende Nation auf diesem Gebiet zu sein [2]. Der Staat hat dabei nicht gezögert. Ein eigens gegründeter Fonds wurde mit sechzig Milliarden Renminbi ausgestattet, was etwa sieben Komma zwei Milliarden Euro entspricht [2]. Allein in Shanghai wurden mehr als sechzig eigene Sprachmodelle registriert. Bis September 2025 hatte die chinesische Regierung dreißig nationale KI-Standards veröffentlicht, die den Rahmen für Entwicklung und Einsatz der Technologie im ganzen Land vorgeben [2].

Die großen Technologiekonzerne des Landes sind in diesen Plan eingebunden. Baidu, der chinesische Suchmaschinenriese, entwickelt Sprachmodelle und autonome Fahrsysteme. Alibaba treibt die KI-gestützte Cloud-Infrastruktur voran. Huawei, bekannt für seinen Streit mit westlichen Regierungen, kombiniert KI-Hardware und Software zu einem geschlossenen System. Moonshot AI, der Entwickler des Modells Kimi, und das Unternehmen Fourier Intelligence, das humanoide Roboter mit KI-gesteuerten Systemen ausstattet, vervollständigen ein Ökosystem, das in dieser Geschlossenheit und strategischen Ausrichtung in der westlichen Welt kein Vorbild hat [3].

Ein Bericht der Stanford University aus dem Jahr 2023 stellte fest, dass China zu diesem Zeitpunkt bereits zur führenden KI-Forschungsnation aufgestiegen war. Neun der zehn produktivsten Forschungseinrichtungen weltweit befanden sich demnach in chinesischer Hand [3]. Das ist keine Momentaufnahme. Es ist das Ergebnis einer Investitionsstrategie, die vor mehr als einem Jahrzehnt begonnen hat.

Die Maschine bewertet sich selbst

Um die Tragweite dieser Entwicklung zu verstehen, muss man sich vor Augen führen, auf welchen Wegen künstliche Intelligenz heute künstliche Intelligenz verbessert. Neben der bereits erwähnten Destillation gibt es das Verfahren des sogenannten Reinforcement Learning from Human Feedback, kurz RLHF, bei dem menschliche Bewerter die Ausgaben eines Modells beurteilen, um es zu verbessern.

Doch auch diese Methode wird zunehmend automatisiert. In chinesischen Laboren übernehmen andere KI-Systeme die Rolle der Bewerter [2]. Die Maschine kontrolliert also die Maschine. Hinzu kommt das Verfahren des AutoML, bei dem KI-Systeme ihre eigene Architektur und ihre eigenen Parameter ohne menschliches Eingreifen optimieren. Der Mensch schreibt immer seltener die Regeln. Er gibt nur noch das Ziel vor.

Moonshot AI hat mit seinem Modell Kimi 2.5 zuletzt internationale Download-Rankings angeführt. Wie das Nachrichtenportal Business Insider berichtete, greifen mittlerweile Unternehmen im Silicon Valley selbst auf chinesische KI-Anbieter zurück [4]. Was einst undenkbar schien, ist Realität geworden: Der Westen importiert chinesische Intelligenz.

Agenten, die handeln, ohne gefragt zu werden

Die eigentliche Zäsur liegt jedoch nicht in der Leistungsfähigkeit einzelner Sprachmodelle. Sie liegt in der Entwicklung sogenannter KI-Agenten. Diese Systeme, zu denen Projekte wie Open Claw und ähnliche Initiativen gehören, sind keine passiven Antwortgeber mehr. Sie setzen eigenständig Handlungen in Gang. Sie durchsuchen das Internet, verfassen Texte, versenden Nachrichten, buchen Leistungen und beeinflussen Prozesse, ohne dass ein Mensch jeden einzelnen Schritt freigibt. Die Frage, die sich dabei stellt, ist nicht technischer Natur. Sie ist politischer und gesellschaftlicher Natur: Wer kontrolliert, was diese Agenten tun? Und in wessen Interesse handeln sie?

Die Geschichte der vergangenen Jahre hat gezeigt, dass diese Frage alles andere als akademisch ist. Während der Corona-Pandemie wurden soziale Netzwerke zu Schlachtfeldern der Meinungsbildung. Algorithmische Filter entschieden darüber, welche Inhalte Millionen von Nutzern zu sehen bekamen und welche nicht. Beiträge, die offizielle Narrationen in Frage stellten, wurden zurückgedrängt oder ganz entfernt. Die Botschaft, dass eine neuartige Impfung in einem Tempo entwickelt worden sei, das Wissenschaftler mit dem Begriff teleskopiert beschrieben und das in der Geschichte der Medizin kein Vorbild hatte, wurde in weiten Teilen der Medienlandschaft ohne kritische Einordnung wiederholt [5]. Stimmen, die auf Ungereimtheiten hinwiesen, wurden systematisch in ihrer Reichweite beschränkt.

Was damals noch weitgehend durch menschliche Moderatoren und regelbasierte Algorithmen gesteuert wurde, wird morgen durch lernende Systeme erledigt, die ihre Entscheidungen eigenständig treffen und kontinuierlich anpassen. Ein KI-Agent, der darauf trainiert wurde, bestimmte Informationen zu fördern und andere zu unterdrücken, tut dies mit einer Geschwindigkeit und in einem Ausmaß, das kein menschliches Redaktionsteam je erreichen könnte.

Die Beschleunigung als eigentliche Gefahr

Es wäre falsch, die Gefahr in einem einzelnen Modell oder einem einzelnen Land zu verorten. Die eigentliche Gefahr liegt in der Geschwindigkeit selbst. Wenn KI-Systeme andere KI-Systeme trainieren, wenn synthetische Daten in immer größeren Mengen erzeugt werden, wenn Agenten eigenständig handeln und Millionen von Nutzern gleichzeitig erreichen, dann verliert der Mensch schrittweise die Fähigkeit, diese Entwicklung noch zu überblicken, geschweige denn zu steuern.

Das Phänomen des sogenannten Model Collapse, bei dem Fehler und Verzerrungen eines Modells sich in seinen Nachfolgern verstärken, weil diese wiederum mit den fehlerhaften Ausgaben des Vorgängers trainiert wurden, ist dabei nur das technische Abbild eines größeren Problems [2]. Wenn eine falsche Prämisse in den Trainingsdaten verankert ist, wird sie durch jede neue Generation des Modells tiefer eingegraben. Was beginnt als Ungenauigkeit, endet als Gewissheit.

Die Regulierungsbemühungen in Europa und den Vereinigten Staaten hinken dieser Entwicklung strukturell hinterher. Gesetze entstehen zu langsam, zu menschlich, um die kI in ihre Schranken zu weisen, Technologie nicht. Und China, das ein eigenes geschlossenes KI-Ökosystem aufgebaut hat, unterliegt dabei Rahmenbedingungen, die westliche Beobachter mit einigem Recht als besorgniserregend beschreiben. KI-generierte Inhalte dürfen nach chinesischem Recht keine sozialen Konflikte provozieren, wie die Germany Trade and Invest-Behörde festhält [2]. Was das im Einzelnen bedeutet, entscheidet der Staat.

Was auf dem Spiel steht

Die Frage ist nicht, ob künstliche Intelligenz die Gesellschaft verändern wird. Sie tut es bereits. Die Frage ist, ob die Bürger demokratischer Gesellschaften in der Lage sein werden, diesen Wandel zu erkennen, zu bewerten und zu beeinflussen, bevor die Systeme eine Eigendynamik entwickelt haben, die einer demokratischen Kontrolle entzogen ist.

Die Erfahrungen der vergangenen Jahre haben gezeigt, dass Technologie, die Meinungen filtert und Informationen steuert, kein neutrales Werkzeug ist. Sie ist immer das Werkzeug derer, die sie kontrollieren. Wenn KI-Agenten in naher Zukunft in der Lage sein werden, Millionen von Nutzern gleichzeitig zu erreichen, maßgeschneiderte Botschaften zu formulieren und die öffentliche Debatte in Echtzeit zu lenken, dann ist die Frage nach ihrer Kontrolle keine technische Detailfrage mehr. Sie ist eine der zentralen politischen Fragen unserer Zeit.

Die freundliche Maschine, die sich selbst erschafft, wartet nicht darauf, dass wir eine Antwort gefunden haben.

Quellen

[1] Tagesschau: DeepSeek, das KI-Start-up aus China, das die Welt überrascht. https://www.tagesschau.de/wirtschaft/unternehmen/deepseek-ki-start-up-china-100.html

[2] Germany Trade and Invest (GTAI): KI-Strategie China. https://www.gtai.de/de/trade/china/specials/ki-strategie-1934098

[3] Wikipedia: Künstliche Intelligenz in China. https://de.wikipedia.org/wiki/K%C3%BCnstliche_Intelligenz_in_China

[4] Business Insider: China-KI erobert Silicon Valley. https://www.businessinsider.de/wirtschaft/china-ki-erobert-silicon-valley-westliche-firmen-setzen-auf-anbieter-aus-fernost/

[5] Allgemeine Berichterstattung zur Corona-Pandemie und algorithmischer Inhaltsmoderation in sozialen Netzwerken 2020 bis 2023.

#KünstlicheIntelligenz #DeepSeek #KI #China #AIAgents #Meinungsfreiheit #Technologie #Zukunft #Überwachung #OpenSource #Digitalisierung #brunhuber

Diskussion und Vertiefung: Sie können diesen Artikel mit meinem Brunhuber-Assistenten in ChatGPT weiter diskutieren.