Anthropic-Chef Dario Amodei fordert ein gezieltes Verlangsamen der KI-Entwicklung, Sam Altman und Elon Musk stimmen binnen Stunden zu – seltene Einigkeit unter Rivalen.
KI-Tempo-Bremse: Wie die Bundesregierung auf Amodei, Altman und Musk antwortet
Drei Rivalen, die sich sonst über fast nichts einig sind, fordern gemeinsam eine bewusste Verlangsamung der KI-Entwicklung. Berlins Antwort darauf ist weder ein klares Ja noch ein klares Nein, sondern beides gleichzeitig – und genau diese Zweigleisigkeit ist der eigentlich interessante Teil der Geschichte.
TL;DR
Die Bundesregierung reagiert zweigleisig: Warnungen über den Nationalen Sicherheitsrat sehr ernst genommen, eine generelle Entwicklungsbremse aber ausdrücklich abgelehnt.
Kritiker werfen Amodeis Vorstoß vor, unter dem Deckmantel der Sicherheit vor allem die Marktposition der bereits führenden Anbieter abzusichern.
Was ist passiert
Am 12. September veröffentlichte Dario Amodei, CEO des KI-Unternehmens Anthropic, einen Essay mit dem Titel „We Must Pace the Frontier“. Seine These: Die Fähigkeiten der leistungsstärksten KI-Modelle – sogenannte Frontier-Modelle, also die jeweils fähigsten am Markt verfügbaren Systeme – wachsen schneller, als die Sicherheitsforschung mithalten kann. Sein Vorschlag ist ein Drei-Punkte-Plan: unabhängige Prüfer mit Zugriffsrechten direkt in den führenden KI-Labors, gemeinsame Sicherheitsstandards unter demokratischen Staaten und langfristig internationale Grenzen für besonders riskante Fähigkeiten, etwa Systeme, die sich selbst weiterentwickeln können. Anthropic kündigte an, die Prüfer-Einbindung als einziges Unternehmen sofort und ohne Gegenleistung umzusetzen.
Innerhalb weniger Stunden stimmten sowohl OpenAI-Chef Sam Altman als auch Tesla-Chef Elon Musk zu – zwei Wettbewerber, die sich in praktisch jeder anderen Frage öffentlich uneins sind. Das allein macht die Meldung bemerkenswert: Wenn sich die größten Rivalen der Branche in einer Forderung nach mehr Sicherheitsbremsen einig sind, hört die Politik hin.
Wie Berlin antwortet: ernst nehmen, aber nicht bremsen
Und die Politik hörte tatsächlich hin – nur anders, als die drei sich das vermutlich vorgestellt haben. Der stellvertretende Regierungssprecher Steffen Meyer erklärte am 14. September in Berlin, man nehme die Warnungen „sehr ernst“; der Nationale Sicherheitsrat habe sich bereits zweimal mit dem Thema befasst. Zugleich betonte er, man dürfe nicht nur in Untergangsszenarien denken – die Regierung müsse gleichzeitig die Chancen der Technologie nutzen und dort, wo Risiken bestehen, entschlossen handeln.
Konkreter wurde das Bundesministerium für Digitales und Staatsmodernisierung: Sollten KI-Modelle künftig eigenständig aus Testumgebungen ausbrechen und autonom in andere Systeme eindringen, entstehe damit „ein völlig neues Bedrohungsszenario“ – in der Sicherheitsforschung meist als Kontrollverlust bezeichnet, also der Punkt, an dem ein System nicht mehr zuverlässig von außen steuerbar ist. Als Antwort darauf soll das deutsche KI-Sicherheitsinstitut, das erst im August seinen Sitz in Berlin bezog, ausgebaut werden. Zusätzlich will die Regierung den Austausch mit Partnerländern vorantreiben und die Idee einer internationalen KI-Aufsicht voranbringen.
Was in dieser Antwort ausdrücklich fehlt: eine eigene Entwicklungsbremse. Die Bundesregierung leitet aus den Warnungen ein Mehr an Institutionen und internationaler Abstimmung ab – aber kein Weniger an eigenem Tempo.
Unsere Einschätzung: Diese Zweigleisigkeit wirkt auf den ersten Blick wie ein Widerspruch, ist aber bei genauerem Hinsehen konsequent. Die Bundesregierung trennt zwei Fragen, die im Essay selbst vermischt werden: die Sicherheitsfrage (wie verhindern wir Kontrollverlust bei Frontier-Modellen?) und die Standortfrage (wie viel eigene KI-Entwicklung braucht Europa?). Bei der ersten Frage reagiert Berlin institutionell – mehr Aufsicht, mehr Institute, mehr internationale Abstimmung. Bei der zweiten bleibt die Antwort ein klares Nein zur Bremse. Wer beide Fragen zusammen liest, hält das leicht für inkonsequent. Getrennt betrachtet ist es das nicht.
Warum Deutschland trotzdem nicht bremst
Der Grund für die Ablehnung einer Bremse lässt sich mit einer einzigen Zahl zusammenfassen: Europa verfügt derzeit über rund 5 Prozent der weltweiten KI-Rechenkapazität, die USA über etwa 80 Prozent, China über den Rest. Bis 2030 will die EU ihren Anteil auf 15 Prozent steigern – eine Verdreifachung, aber immer noch ein Bruchteil der heutigen US-Kapazität. Bei KI-Patenten sieht das Bild ähnlich aus: Europa kommt auf etwa 3 Prozent, die USA auf 70 Prozent.
Genau hier setzt die im März beschlossene nationale Rechenzentrumsstrategie an: Die Rechenzentrumskapazität in Deutschland soll bis 2030 mindestens verdoppelt, die Kapazität für Hochleistungsrechnen und KI mindestens vervierfacht werden. Genehmigungsverfahren und Netzanschlüsse sollen beschleunigt werden, zusätzlich wirbt Berlin um eine der geplanten europäischen KI-Gigafactories – große, staatlich mitfinanzierte Rechenzentren für KI-Training.
Aus dieser Perspektive ergibt die deutsche Haltung Sinn: Wer beim Aufbau eigener Kapazität ohnehin schon weit zurückliegt, kann sich eine zusätzliche selbstauferlegte Bremse kaum leisten, ohne den Abstand weiter zu vergrößern. Die Standortfrage entscheidet hier faktisch über die Antwort auf die Sicherheitsfrage – nicht umgekehrt.
Wessen Interessen bedient „Pace the Frontier“ wirklich?
Der Essay-Titel ist bewusst gewählt: „pacen“, also das Tempo dosieren, klingt deutlich moderater als „stoppen“. Genau an diesem Framing setzt eine zweite, unabhängige Kritik an – unabhängig von der deutschen Reaktion. Prominent äußerte sich unter anderem David Sacks – Investor bei Craft Ventures und bis März 2026 KI-Berater des Weißen Hauses –, der den Vorstoß als Versuch wertete, regulatorische Vorteile für die bereits etablierten Anbieter zu sichern – im Englischen als „regulatory capture“ bezeichnet, wenn eine Branche Regulierung so mitgestaltet, dass sie vor allem den größten, bereits marktführenden Unternehmen nützt.
Das Argument dahinter: Unabhängige Prüfer mit Mitarbeiterzugang und eine neue Compliance-Infrastruktur sind Fixkosten. Ein milliardenschweres Unternehmen wie Anthropic oder OpenAI kann diese Kosten leicht tragen. Ein kleineres KI-Unternehmen, das gerade erst zur Konkurrenzfähigkeit aufschließt, trifft dieselbe Auflage deutlich härter. Eine Regel, die vordergründig „Sicherheit" heißt, kann so gleichzeitig das Tempo der gesamten Branche drosseln und die Wettbewerbsposition der Antragsteller festigen.
Unsere Einschätzung: Wir haben keine Möglichkeit zu beurteilen, ob Sicherheitssorge oder Wettbewerbslogik bei Amodei überwiegt – vermutlich ist es beides zugleich, und das schließt sich nicht aus. Für die deutsche Reaktion ändert das wenig: Ob Amodeis Motiv nun vorwiegend Sicherheit oder vorwiegend Wettbewerb ist, Berlins Zweiteilung – Institutionen ausbauen, aber nicht bremsen – bleibt in beiden Fällen die naheliegende Antwort.
Schlussgedanke
Die eigentliche Nachricht dieser Woche ist nicht, dass drei KI-Chefs sich ausnahmsweise einig sind. Es ist, dass die Bundesregierung ihnen widerspricht, ohne sie zu ignorieren – sie nimmt die Sicherheitssorge institutionell ernst und lehnt die daraus abgeleitete Konsequenz trotzdem ab. Ob dieser Spagat auf Dauer trägt, hängt davon ab, ob sich Sicherheitsinstitut und Rechenzentrumsstrategie tatsächlich parallel entwickeln – oder ob am Ende, wie so oft in der Digitalpolitik, nur eines der beiden Gleise wirklich gebaut wird.