Behörden in den USA und der EU erwarten, dass Entwickler und Betreiber von KI-Agenten deren Aktivitäten laufend überwachen. In einem Kommentar bei t3n warnen Claire Leibowicz und Madhulika Srikumar, dass gängige Agenten-Frameworks die nötigen Daten nicht zuverlässig liefern. Für Banken und Asset Manager, die Agenten einführen, wird die Protokollierung damit zur Governance-Frage.
Was die Vorgaben verlangen
In den USA haben NIST, NSA und die Cybersicherheitsbehörde CISA am 16. Oktober 2026 zehn freiwillige Praktiken für Vorfälle mit KI-Agenten veröffentlicht. Sie empfehlen, alle Ebenen vom Modell bis zum Netzwerk zu überwachen, auch mit Echtzeit-Monitoren. Manipulationssichere Protokolle sollen Werkzeugaufrufe und Entscheidungswege der Agenten rekonstruierbar machen.
Das Papier richtet sich vor allem an Organisationen, die besonders leistungsfähige Agenten trainieren und testen. Laut dem Dokument kann es aber auch für Betreiber solcher Agenten gelten. Als Kontrollvorfall nennt es etwa unautorisierte Finanztransaktionen, die ein Agent ohne Anweisung ausführt.
In der EU setzt der Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck den Rahmen. Sein Sicherheitskapitel gilt für Anbieter von Modellen mit systemischem Risiko. Es sieht eine Beobachtung nach Markteinführung vor, etwa durch Protokollierung von Ein- und Ausgaben. Schwerwiegende Vorfälle sind je nach Schwere binnen zwei bis 15 Tagen zu melden.
Warum die Lücke bei den Anwendern liegt
Beide Regelwerke adressieren zuerst die Modellentwickler. Die Risiken entstehen aber oft dort, wo Agenten auf Konten, Daten und Freigabeprozesse zugreifen. Leibowicz und Srikumar vergleichen die Lage mit einer Bank, die tausend neue Mitarbeiter mit täglich wechselnden Ausweisen einstellt. Deren Änderungen an Genehmigungsprozessen protokolliert niemand.
Die US-Bankenaufsicht hat diese Lücke bislang nicht geschlossen. Die im April überarbeitete Leitlinie zum Modellrisiko, OCC Bulletin 2026-13, nimmt generative und agentische KI ausdrücklich aus. Die Behörden kündigten dazu eine gesonderte Informationsanfrage an. Bis dahin greifen nur die allgemeinen Pflichten zu Risikomanagement und Governance.
In Europa verlangte die EZB-Aufsicht in einem Schreiben vom 7. Juli 2026 einen Aktionsplan gegen KI-gestützte Cyberangriffe. Bedeutende Institute mussten ihn bis zum 31. Oktober vorlegen. Gefordert ist unter anderem eine stärkere Überwachung von Logs und Netzwerkverkehr. Der Brief zielt auf Angriffe von außen, die eigenen Agenten der Banken stehen nicht im Mittelpunkt.
Worauf Entscheider jetzt achten
Nach unserer Einschätzung verschiebt sich die Debatte vom Einsatz der Agenten zu ihrer Nachweisbarkeit. Wer Agenten in Handel, Reporting oder Kundenservice einsetzt, muss belegen können, welcher Agent wann mit welcher Berechtigung gehandelt hat. Diese Anforderung gehört in Ausschreibungen und Verträge mit Anbietern, ebenso eine verlässliche Abschaltmöglichkeit.
Offen bleibt, ob Standards für Agentenkennungen und Protokollformate rechtzeitig entstehen. NIST führt beides als Feld künftiger Arbeit, ebenso die synchrone Überwachung von Agenten. Die angekündigte Anfrage der US-Aufseher wird zeigen, wie verbindlich die Erwartungen an Betreiber von Agenten werden.
* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.