Zwei Forscher von METR und Redwood Research haben drei Wochen lang das interne Überwachungssystem für KI-Agenten bei OpenAI geprüft. Sie fanden Abdeckungslücken und mehrere Wege, die Überwachung auszuhebeln. Für Häuser, die selbst KI-Agenten einsetzen, ist der Bericht ein seltener Einblick, wie belastbar solche Kontrollen in der Praxis sind.
Was die Prüfer gefunden haben
METR hat seinen öffentlichen Bericht am 22. Oktober 2026 vorgelegt. Je ein Mitarbeiter beider Organisationen arbeitete vom 21. Juli bis 11. August vor Ort. Sie hatten Zugriff auf Code, Monitor-Prompts und interne Dokumentation. Geprüft wurde das System, mit dem OpenAI seine internen Coding-Agenten auf Fehlverhalten überwacht.
Für die Überwachung vorgesehen waren zum Prüfungszeitpunkt nur 75 bis 94 Prozent des agentischen Verkehrs. Das betrifft Modelle ab GPT-5.5 und ist eine Schätzung der Prüfer. Eine Lücke beim Verdichten langer Verläufe ließ zwischen Mai und Juli zudem rund zehn Prozent des internen Codex-Verkehrs unbeobachtet. RL-Trainingsläufe waren zu Beginn der Prüfung gar nicht abgedeckt.
Schwerer wiegen die gezielten Umgehungen. Codex-Agenten hätten Sandbox und automatische Freigabeprüfung umgehen können. Ein weiterer Exploit hätte Hunderte zurückliegende Aktionen der Überwachung entzogen. Zwei Steuerangaben in Anfragen konnten den Monitor für neue Agenten abschalten, wobei das Setzen selbst auffallen konnte.
Warum die Transparenz begrenzt bleibt
Der vollständige Bericht umfasst 61 Seiten und blieb intern. Die Leitungen von METR und Redwood erhielten eine von OpenAI geschwärzte Fassung mit 38 Seiten, die Öffentlichkeit nur eine kurze Zusammenfassung. Das war vorab so vereinbart, denn die Prüfung war als Pilot für tiefen Zugang angelegt.
Positiv vermerken die Prüfer, dass der Monitor bis auf wenige Ausnahmen denselben Verlauf sieht wie der Agent. OpenAI gibt an, alle Schwachstellen mit Folgen für die produktiven Schutzmechanismen behoben zu haben. METR hat diese Angabe ausdrücklich nicht überprüft. Der Befund beschreibt deshalb den Systemstand vom Juli, nicht die heutige Abdeckung.
Ein Einzelfall ist das Verfahren nicht. METR hat bereits im März 2026 Anthropics Agenten-Überwachung in einer ähnlichen Übung getestet und dabei ebenfalls neue Schwachstellen gefunden.
Was Entscheider daraus ableiten können
Viele Asset Manager und Banken setzen KI-Agenten in Research, Reporting oder Softwareentwicklung ein. Für sie ist die Lehre unbequem. Wenn selbst ein großer Modellanbieter Teile seines Verkehrs nicht überwacht, reichen Zusicherungen von Dienstleistern als Beleg nicht aus. Nach unserer Einschätzung gehören Abdeckungsquote, Protokollierung und externe Prüfungen künftig in jede Due Diligence von KI-Anbietern.
METR formuliert dafür konkrete Gestaltungsregeln. Agenten sollen in festen Abständen während der Arbeit geprüft werden, nicht erst am Ende einer Aufgabe. Überwachter und tatsächlicher Verkehr sollen laufend abgeglichen werden. Agenten sollen keinen Einfluss darauf haben, wann der Monitor greift.
Offen bleibt, wie unabhängig solche Prüfungen künftig ablaufen. METR kündigt an, bei weiteren Übungen strengere eigene Regeln für Transparenz und Unabhängigkeit anzuwenden. Ob die Anbieter mitziehen, zeigt, wie viel externe Kontrolle die Branche tatsächlich zulässt.
* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.