Die Organisation ControlAI wirbt jetzt auch in Deutschland für ein gesetzliches Verbot von Superintelligenz. Ihr Deutschland-Verantwortlicher Benjamin Balde begründet die Eile im KI-Update-Podcast von heise. Einige Experten rechneten in ein bis zwei Jahren mit rekursiver Selbstverbesserung von KI-Systemen, sagt er dort. Für Investoren in KI-Labore und deren Zulieferer wird damit ein Regulierungsrisiko greifbarer.
Was hinter der Warnung vor rekursiver Selbstverbesserung steckt
Rekursive Selbstverbesserung heißt: KI-Systeme übernehmen die Entwicklung ihrer Nachfolger weitgehend selbst. Balde verweist darauf, dass KI schon heute einen großen Teil des Codes für neue Modelle schreibt. Gelingt die Automatisierung der KI-Forschung, könnten Modelle nach seiner Darstellung schnell in vielen Bereichen übermenschlich werden.
Belegt ist der Zeitrahmen nicht. Balde nennt keine Studie, sondern verweist allgemein auf Experten. Auch seine Angabe, die Fähigkeiten von KI hätten sich zuletzt in weniger als 90 Tagen verdoppelt, bleibt eine Einschätzung ohne Quelle.
Klar ist dagegen die Forderung. ControlAI will Systeme verbieten, die den Menschen in allgemeinen Domänen überflügeln. Spezialisierte Anwendungen wie Proteinforschung oder autonomes Fahren sollen ausdrücklich erlaubt bleiben.
Wo die Forderung politisch steht
In Großbritannien hat der Labour-Abgeordnete Alex Sobel im September die Artificial Superintelligence Bill eingebracht. Sie soll Entwicklung, Einsatz und Betrieb solcher Systeme verbieten. In den USA haben Senator Bernie Sanders und der Abgeordnete Greg Casar am 3. September 2026 den Ban Artificial Superintelligence Act vorgestellt. Er sieht zusätzlich eine Pause für fortgeschrittene KI und eine neue Bundesbehörde vor.
Beide Vorstöße kommen von einzelnen Abgeordneten ohne Rückhalt der Regierung. Ihre Erfolgsaussichten sind nach unserer Einschätzung gering. Der Thinktank ITIF hält ein Verbot für einen Fehler, weil es den Nutzen leistungsfähiger KI opfere und China stärke. In Berlin war Balde am 9. Oktober 2026 als Sachverständiger zu einem Fachgespräch im Forschungsausschuss des Bundestages geladen.
Warum die Halbleiterkette zum Hebel wird
Für Investoren ist ein Argument Baldes besonders relevant. Er hält ein Verbot für durchsetzbar, weil nur wenige Akteure Superintelligenz bauen könnten. Die Engpässe liegen in der Halbleiterkette. TSMC fertigt die führenden Chips, ASML baut die Lithografiemaschinen, Zeiss liefert die Optik und Trumpf die Laser.
Rechenzentren im Gigawattbereich ließen sich zudem per Satellit über ihre Abwärme aufspüren, sagt Balde. Daraus ergibt sich eine Einschätzung: Setzt sich der Ansatz durch, würden Exportkontrollen und Prüfpflichten dort ansetzen, wo europäische Zulieferer Marktmacht haben. Der US-Entwurf nennt Exportkontrollen bereits ausdrücklich als Instrument. Für Portfolios mit Gewicht in KI-Infrastruktur ist das ein Faktor der Risikoeinschätzung, wenn auch kein kurzfristiger.
Ob der Zeitdruck berechtigt ist, bleibt offen. Am 13. November 2026 steht die zweite Lesung des britischen Entwurfs an. Sie ist ein erster Gradmesser dafür, wie viel Rückhalt das Thema im Parlament findet.
* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.