EU AI Act: Studie zeigt, warum Compliance-Nachweise veralten

AIEU AI Act: Studie zeigt, warum Compliance-Nachweise veralten

Der EU AI Act verlangt für Hochrisiko-KI technische Nachweise. Was genau gemessen werden soll, lässt das Gesetz jedoch offen. Eine neue Studie auf arXiv zeigt, dass solche Nachweise im laufenden Betrieb ihre Gültigkeit verlieren können. Für Banken und Versicherer ist das relevant, denn Kreditscoring und Tarifierung in der Lebens- und Krankenversicherung gelten als Hochrisiko-Anwendungen.

Was die Studie untersucht hat

Die Forschergruppe um Helma Torkamaan hat 32 Fachleute aus Forschung, Politik und Praxis in einem Workshop zusammengebracht. Sie spielten reale Anwendungsfälle aus Gesundheitswesen, Personalauswahl und öffentlichem Verkehr durch. Die Leitfrage lautete, wie aus einer rechtlichen Pflicht eine messbare technische Eigenschaft wird.

Laut den Autoren verlangt jede Übersetzung kontextabhängige Entscheidungen. Es geht darum, was gemessen wird und welcher Nachweis eine Konformitätsaussage trägt. Dabei treten wiederkehrende Spannungen auf. Technische, organisatorische und beweisbezogene Anforderungen lassen sich kaum getrennt behandeln.

Warum Nachweise im Betrieb an Wert verlieren

Der zentrale Befund betrifft die Zeit nach der Abnahme. Ändert sich die Nutzung eines Systems oder die Gruppe der Betroffenen, kann ein zuvor gültiger Nachweis seine Aussagekraft verlieren. Ein Modell, das für eine Kundengruppe sauber geprüft wurde, ist damit nicht automatisch für eine andere belegt.

Auch die menschliche Aufsicht, die der AI Act für Hochrisiko-Systeme vorschreibt, stößt im Alltag an Grenzen. Die Teilnehmer nannten Zeitdruck und unvollständige Informationen als typische Hindernisse. Die Autoren folgern, dass dauerhafte Konformität kontinuierliches Monitoring und eine kontextbezogene Governance braucht. Einmalige technische Prüfungen reichen dafür nicht aus.

Was der Zeitplan für Finanzinstitute bedeutet

Zu den Hochrisiko-Systemen zählen laut Anhang III des AI Act die Kreditwürdigkeitsprüfung natürlicher Personen. Ebenso erfasst sind Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung. Ursprünglich sollten die Pflichten dafür ab August 2026 greifen. Die Verordnung (EU) 2026/1744, der Digital Omnibus zur KI, verschiebt sie auf Dezember 2027.

Die Anforderungen an Risikomanagement, technische Dokumentation und menschliche Aufsicht bleiben dabei bestehen. Viele Institute setzen Modelle von Drittanbietern ein und sind damit Betreiber im Sinne der Verordnung. Auch Betreiber müssen den Betrieb eines Hochrisiko-Systems überwachen. Der Nachweis des Anbieters deckt deshalb nicht jede spätere Nutzung im eigenen Haus ab.

Worauf Institute bis Ende 2027 achten

Die Studie behandelt den Finanzsektor nicht. Ihre Befunde lassen sich nach unserer Einschätzung dennoch übertragen. Scoring-Modelle arbeiten mit Kundendaten, die sich mit Zinsniveau, Konjunktur und Produktangebot verschieben. Wer Konformität nur einmal dokumentiert, riskiert einen Nachweis, der bei der nächsten Prüfung nicht mehr zum System passt.

Offen bleibt, welche Messgrößen Aufsicht und Normungsgremien bis Ende 2027 als ausreichend anerkennen. Bis dahin entscheiden die Institute selbst, wie sie Monitoring, Zuständigkeiten und Dokumentation verbinden. Diese Architektur lässt sich jetzt aufbauen, solange die Fristen noch Raum dafür lassen.

* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.