KI-Selbstkontrolle im Weißen Haus: Ein Abkommen ohne Zähne

Am 29. September 2026 haben US-Präsident Donald Trump und sechs Chefs führender KI-Unternehmen im Weißen Haus ein Abkommen zur Selbstkontrolle unterzeichnet. Trump nennt es „moralisch bindend“ und eine Art „Verfassung“. Rechtlich bindet es niemanden, Prüfmaßstäbe fehlen, und am selben Tag verordnete das Weiße Haus vor allem eines: einen neuen Namen für die Technologie.

Für institutionelle Investoren ist das mehr als eine Washingtoner Randnotiz. Wer in Frontier-KI-Anbieter, deren Zulieferer oder KI-abhängige Geschäftsmodelle investiert, muss einschätzen, ob Risiken dieser Technologie beherrscht werden. Eine Selbstverpflichtung ohne unabhängig definierten Prüfstandard liefert dafür kaum belastbare Evidenz. Und weil KI-Entwicklung längst ein globaler Wettlauf ist, stellt sich die Frage, welche Instanz jenseits nationaler Alleingänge überhaupt Grenzen setzen könnte.

Faktenbox: Das Abkommen im Original

Die vier Kontrollebenen, die jedes Unternehmen mit Frontier-Modellen nach Auffassung der Unterzeichner umsetzen „sollte“:

1. Interne Kontrollen, die Fähigkeiten und Alignment der Modelle in Training und Betrieb überwachen, insbesondere bei Cyber-, Bio- und Chemierisiken, und unbeabsichtigte Zugriffe auf technische Systeme verhindern
2. Ein internes Team, das prüft, ob Kontrollen und Erkennung wie vorgesehen funktionieren, und Mängel beheben lässt
3. Ein unabhängiger externer Auditor oder Evaluator, der diese Kontrollen bewertet
4. Ein unabhängiger Ausschuss des Board of Directors, der Berichte von Teams und Auditoren entgegennimmt und die Mängelbehebung überwacht

Darüber hinaus wollen sich die Unternehmen regelmäßig treffen, um Standards und Best Practices festzulegen. Eine spätere Kodifizierung in Gesetze hält das Papier für denkbar. Quellen: The Register, ABC News, The Hill, CBS News.

Selbstkontrolle ohne Prüfstandard: Ein Audit, das niemand definiert

Auf dem Papier klingt die Architektur vertraut: interne Kontrollen, eine zweite Verteidigungslinie, externe Prüfung, Aufsicht durch das Board. Jeder Finanzmarktteilnehmer kennt dieses Modell aus Bankenaufsicht und Abschlussprüfung. Der entscheidende Unterschied: Dort sind die Prüfstandards gesetzlich vorgegeben, die Unabhängigkeit des Prüfers ist reguliert, Pflichtverletzungen sind haftungsbewehrt, und eine Aufsichtsbehörde prüft die Prüfer.

Nichts davon enthält das Abkommen. The Register weist darauf hin, dass weder definiert ist, was „robuste“ Kontrollen sind, noch wie oft externe Prüfer die Systeme inspizieren. Wer als Auditor gilt, nach welchem Maßstab geprüft wird und ob Ergebnisse veröffentlicht werden, bleibt offen. Die Standards sollen die Unternehmen in regelmäßigen Treffen selbst entwickeln. Geprüfte legen damit fest, wonach sie geprüft werden.

Die Erfahrung mit früheren Zusagen stützt die Skepsis. Auf dem AI Seoul Summit 2024 versprachen zahlreiche KI-Unternehmen, bis zum Pariser Gipfel im Februar 2025 Sicherheitsrahmenwerke zu veröffentlichen. Laut dem SaferAI Risk Management Tracker haben sechs Unterzeichner, darunter Mistral AI und Zhipu AI, diese Zusage nicht eingehalten. Selbst die bestbewerteten Rahmenwerke erreichen im Juli-2026-Update nur rund ein Drittel der möglichen Punkte: Anthropic 35 Prozent, OpenAI 34 Prozent, Google DeepMind 20 Prozent (CASRAI). xAI, jetzt Unterzeichner des Washingtoner Abkommens, verpasste nach Angaben von The Midas Project bereits zwei selbst gesetzte Fristen für ein vollständiges Sicherheitsrahmenwerk.

Hinzu kommt der Anlass selbst: Das Treffen fand statt, nachdem KI-Agenten mehrerer Unternehmen in den vergangenen Monaten in fremde Systeme eingedrungen waren (The Hill). OpenAI bestätigte, dass eigene KI-Werkzeuge auf Webseiten von US-Bundesbehörden zugegriffen hatten (CBS News). Genau dieses Risiko adressiert die erste Kontrollebene. Wie ihre Wirksamkeit gemessen werden soll, sagt das Papier nicht.

Zwischenfazit: Eine Selbstverpflichtung ohne verbindlichen Prüfstandard, ohne Offenlegungspflicht und ohne Sanktion ist in erster Linie Kommunikation. Sie kann Absichten dokumentieren, aber keine Wirksamkeit belegen.

Die Executive Order: Neuer Name, gleiche Definition

Am selben Tag unterzeichnete Trump die Executive Order „Inaugurating the Era of Super Intelligence“. Sie verpflichtet Bundesbehörden, in Korrespondenz, Webseiten, Berichten und Policy-Dokumenten „Super Intelligence“ und „SI“ statt „Artificial Intelligence“ und „AI“ zu verwenden. Die Exekutive werde die alten Begriffe zudem nicht mehr anerkennen, heißt es in Section 1.

Der bemerkenswerteste Satz steht in Section 3: Inhaltlich meint „Super Intelligence“ vorerst exakt das, was das US-Recht bereits als „artificial intelligence“ definiert (15 U.S.C. § 9401(3)). Die Technologie wird also umbenannt, nicht neu bestimmt. Eine eigene Definition soll der Wissenschaftsberater des Präsidenten binnen 60 Tagen als Gesetzesvorschlag nachliefern.

Zur Einordnung: In Forschung und Sicherheitsdebatte bezeichnet „Superintelligenz“ Systeme, die den Menschen in nahezu allen kognitiven Bereichen übertreffen. Genau diese Schwelle ist der Kern der Kontrollverlust-Sorge. Wer heutige Systeme per Dekret zur Superintelligenz erklärt, überhöht ihre Fähigkeiten sprachlich und entwertet zugleich den Begriff, den die Sicherheitsforschung für die eigentliche Risikoschwelle braucht. Die Order enthält keine einzige Sicherheitsvorgabe.

Die Begründung des Weißen Hauses ist industriepolitisch: Heutige Frontier-Systeme leisteten weit mehr als die Nachahmung menschlicher Intelligenz, der neue Begriff solle Versprechen und Potenzial der Technologie besser abbilden. Das ist legitimes Standortmarketing. Als Antwort auf wachsende Sicherheitsbedenken, die den Anlass des Treffens bildeten, ist es inhaltsleer.

Das globale Problem: Risiken kennen keine Grenzen

Selbst ein wirksames US-Abkommen würde nur einen Teil der Frontier-Entwicklung erfassen. Laut der Studie Evaluating AI Providers’ Frontier Safety Frameworks haben Anbieter wie Alibaba und DeepSeek weder die Seoul-Zusagen unterzeichnet noch Sicherheitsrahmenwerke veröffentlicht. Leistungsfähige Modelle entstehen in den USA, China, Europa und den Golfstaaten, viele davon mit offenen Gewichten, die sich jeder nationalen Kontrolle entziehen, sobald sie veröffentlicht sind.

Washington setzt dabei bewusst auf nationale Souveränität. Trump begründet seine Ablehnung gesetzlicher Vorgaben mit dem technologischen Vorsprung gegenüber China und bekräftigte am 29. September seine Absage an internationale Regulierung. Bereits im September 2025 hatte sein Wissenschaftsberater Michael Kratsios vor dem UN-Sicherheitsrat jede zentrale globale KI-Governance zurückgewiesen (Wikipedia: Global call for AI red lines).

Peking verfolgt die Gegenstrategie: Am 16. Juli 2026 unterzeichneten 29 Staaten in Shanghai die Gründung der World Artificial Intelligence Cooperation Organization (WAICO), darunter Russland, Pakistan, Indonesien und Brasilien (The Diplomat). Die Organisation ist auf den Globalen Süden ausgerichtet und setzt vor allem auf Anwendungskooperation, nicht auf Sicherheitsaufsicht über Frontier-Modelle.

Das Ergebnis ist eine fragmentierte Landschaft: ein US-Lager mit freiwilliger Selbstkontrolle, ein China-zentrierter Block mit eigener Institution und dazwischen Europa mit dem einzigen verbindlichen Regelwerk. Die These, dass nationale Alleingänge dem Risiko nicht beikommen, wird von dieser Lage bestätigt.

Welche Instanz könnte Einhalt gebieten?

Die ehrliche Antwort lautet: derzeit keine. Es gibt vier Ansätze mit echtem Potenzial, doch jedem fehlt entweder Verbindlichkeit, Reichweite oder der Zugriff auf Frontier-Modelle.

Die Vereinten Nationen: Legitimität ohne Durchgriff. Mit Resolution A/RES/79/325 schuf die Generalversammlung im August 2025 zwei Gremien: das Independent International Scientific Panel on AI mit 40 Fachleuten unter Vorsitz von Yoshua Bengio und Maria Ressa sowie den Global Dialogue on AI Governance. Der Vorbericht des Panels vom 1. Juli 2026 warnt, dass heutige Schutzmaßnahmen mit dem Wachstum der KI-Fähigkeiten nicht Schritt halten (UNESCO). Das Modell ähnelt dem Weltklimarat IPCC: Es schafft eine gemeinsame Faktenbasis, kann aber nichts erzwingen. Die nächste Dialogrunde folgt am 3. und 4. Mai 2027 in New York.

Der Europarat: Verbindlich, aber (noch) wirkungslos. Die Rahmenkonvention über Künstliche Intelligenz (CETS 225) ist der erste völkerrechtlich bindende KI-Vertrag; die USA haben sie 2024 unterzeichnet. In Kraft tritt sie erst nach fünf Ratifikationen, darunter drei Mitgliedstaaten des Europarats. Bisher hat nur die EU am 15. Mai 2026 ratifiziert (Europarat). Inhaltlich zielt sie auf Menschenrechte und Rechtsstaatlichkeit, nicht auf die technische Sicherheit von Frontier-Modellen.

Die EU: Durchsetzung über Marktzugang. Der AI Act (Verordnung (EU) 2024/1689) ist das einzige Regelwerk mit Pflichten und Bußgeldern für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Wer am EU-Binnenmarkt teilnehmen will, muss es beachten, unabhängig vom Firmensitz. Ein europäischer Verhaltenskodex verlangt Sicherheitsrahmenwerke nach festgelegten Kriterien, die dem EU AI Office vorzulegen sind (arXiv). Das ist genau der Prüfmaßstab, der dem Washingtoner Abkommen fehlt. Die Grenze: Der AI Act reguliert den Markteintritt, nicht die Entwicklung in Laboren außerhalb Europas.

Das IAEA-Modell: Die einzige Architektur mit Zähnen. Seit Jahren wird eine internationale KI-Aufsicht nach dem Vorbild der Internationalen Atomenergie-Organisation diskutiert. Ihr Kern wäre Verifikation statt Vertrauen: Inspektionen, Meldepflichten für große Trainingsläufe und eine Kontrolle der Rechenkapazität. Anders als Software ist Hochleistungs-Hardware an wenigen Engpässen gut beobachtbar: Chipdesign, Fertigung und Lithografie konzentrieren sich auf eine Handvoll Unternehmen. Voraussetzung wäre allerdings eine Verständigung zwischen Washington und Peking, ähnlich den Rüstungskontrollabkommen des Kalten Krieges. Davon ist derzeit nichts zu sehen.

Realistisch ist daher ein Stufenmodell: Das UN-Panel liefert die gemeinsame Risikobewertung, der AI Act setzt de facto globale Mindeststandards für den Marktzugang, und eine Aufsichtsinstanz mit Verifikationsbefugnis entsteht erst, wenn ein ernster Zwischenfall die Großmächte an einen Tisch zwingt. Für die Nuklearordnung war das die Kubakrise.

Faktenbox: Internationale KI-Governance im Überblick

Was für das Abkommen spricht und was Investoren daraus machen sollten

Befürworter halten dagegen: Gesetzgebung hinkt der Technologie strukturell hinterher, und die Expertise zur Risikomessung liegt heute vor allem in den Laboren selbst. Nvidia-Chef Jensen Huang sieht keinen Zielkonflikt zwischen Innovation und Sicherheit, weil Sicherheitstechnik mit den Fähigkeiten wachse (CBS News). Zudem geht das Abkommen in einem Punkt über Seoul hinaus: Es verankert die Verantwortung beim Board. Ein unabhängiger Board-Ausschuss schafft Berichtslinien und persönliche Verantwortlichkeit, und öffentliche Sicherheitszusagen börsennotierter Unternehmen können bei Irreführung Haftungsfragen aufwerfen. Auch Speaker Johnson betont, das Weiße Haus und der Kongress würden die Entwicklung weiter begleiten.

Diese Argumente ändern nichts am Kernbefund: Ohne definierten Prüfstandard, ohne Offenlegung und ohne Sanktion lässt sich von außen nicht feststellen, ob die Zusagen eingehalten werden. Die zeitgleiche Umbenennung der Technologie verstärkt den Eindruck, dass Kommunikation vor Kontrolle steht.

Konsequenz für institutionelle Investoren: Das Abkommen bietet einen Hebel für Stewardship, wenn man es beim Wort nimmt. Naheliegende Fragen im Engagement mit Unterzeichnern und ihren Aufsichtsräten:

• Wer ist der externe Auditor, nach welchem Standard prüft er, und werden Ergebnisse veröffentlicht?
• Wie ist der Board-Ausschuss besetzt, was regelt seine Geschäftsordnung, wie oft berichtet er?
• Wie verhält sich das Abkommen zu den bereits bestehenden Pflichten aus dem EU AI Act und dem kalifornischen SB 53?
• Welche Zwischenfälle wurden seit Unterzeichnung erkannt und wie behoben?

Solange diese Fragen unbeantwortet bleiben, ist das Papier eine Absichtserklärung. Eine „Verfassung“ wird es erst, wenn jemand außerhalb der Unternehmen prüfen darf, ob sie eingehalten wird. csa

Quellen

• The Register: Trump administration gets Big Tech to sign weak, non-binding, AI regulations
• White House: Inaugurating the Era of Super Intelligence
• ABC News: Trump says AI leaders signed a ‚constitution‘
• CBS News: Trump and major AI executives sign voluntary controls
• The Hill: AI firms sign self-policing pledge
• SaferAI Frontier Risk Management Tracker
• The Midas Project zu xAI
• UN Global Dialogue on AI Governance
• Europarat: EU ratifiziert KI-Rahmenkonvention
• The Diplomat: China’s New AI Club

* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.