KI wird schneller in kritische Geschäftsprozesse eingebaut, als Unternehmen ihre Kontrollstrukturen anpassen. Zu diesem Befund kommen AXA XL und die Beratung S-RM in ihrem neuen Bericht „Aufbau einer widerstandsfähigen KI“. Die Autoren sehen die größte Gefahr nicht in einzelnen Modellen, sondern in den Lücken bei Identität, Daten, Lieferanten und Vorfallbereitschaft, auf die KI aufsetzt.
Der Versicherer AXA XL, Sparte für Sach-, Haftpflicht- und Spezialrisiken der AXA-Gruppe, hat gemeinsam mit S-RM, einer global tätigen Beratung für Corporate Intelligence und Cybersicherheit, den Bericht „Building Resilient AI: Managing AI Risk through Governance, Security and Resilience“ vorgelegt. Die deutsche Fassung trägt den Titel „Aufbau einer widerstandsfähigen KI“. Das Vorwort verantworten Jonathan Salter, Head of Risk Consulting bei AXA XL, und Rebiah Bardot-Girard, die bei AXA XL den Bereich Cyber Risk Consulting leitet. Die Perspektive aus der Vorfallsbearbeitung steuert Joani Green bei, Global Technical Director Cyber Security bei S-RM.
Einsatz wächst schneller als die Kontrolle
Die Autoren stützen ihre Diagnose auf mehrere Branchenerhebungen. Nach dem „State of AI“-Report 2026 von McKinsey setzen 88 Prozent der Organisationen KI regelmäßig in mindestens einer Geschäftsfunktion ein, nach 78 Prozent im Vorjahr. 23 Prozent nutzen bereits agentische KI in mindestens einem Geschäftsbereich in größerem Umfang, weitere 39 Prozent experimentieren damit. Dem steht laut einer von den Autoren zitierten Deloitte-Studie gegenüber, dass nur eines von fünf Unternehmen über ein ausgereiftes Governance-Modell für autonome KI-Agenten verfügt.
Immerhin zieht die Sicherheitspraxis nach: Laut „Global Cybersecurity Outlook“ des Weltwirtschaftsforums prüfen inzwischen 64 Prozent der Organisationen die Sicherheit von KI-Tools vor dem Einsatz, gegenüber 37 Prozent im Vorjahr. Der Bericht hält eine Prüfung vor dem Einsatz allein jedoch für unzureichend, solange KI-Systeme im laufenden Betrieb Zugriff auf sensible Daten, Anwendungen und Entscheidungsprozesse haben.
„KI entwickelt sich von einer experimentellen Technologie zu einem festen Bestandteil der Systeme und Prozesse, auf die Unternehmen täglich angewiesen sind. Doch die Governance hält mit dieser Entwicklung nicht immer Schritt“, sagt Salter.
Alte Schwachstellen, neue Größenordnung
Die inhaltliche Kernthese: KI schafft weniger neue als verstärkte Risiken. Datendiebstahl, böswillige Insider und Softwarelücken seien seit Langem bekannt, KI verändere vor allem Tempo, Reichweite und Autonomie. Bardot-Girard formuliert es so: „KI-Risiken entstehen nur selten isoliert. Vielmehr verstärken sie bestehende Schwachstellen im Identitätsmanagement, in der Daten-Governance, bei der Steuerung von Dienstleistern und in der Vorbereitung auf Vorfälle.“
Im Einzelnen arbeitet der Bericht sieben Risikofelder ab:
- Datenlecks und unbefugter Zugriff. Je tiefer KI in Prozesse eingebunden ist, desto breiter werden sensible Daten zugänglich. Der IBM X-Force Threat Intelligence Index 2025 ordnet mehr als 30 Prozent der untersuchten Vorfälle dem Diebstahl oder Missbrauch von Zugangsdaten zu.
- Data Poisoning. Manipulierte Trainingsdaten können Hintertüren im Modell verankern, die nach dem Einsatz kaum zu erkennen und nur durch vollständiges Neutraining zu beheben sind.
- Prompt Injection. Gezielte Eingaben können Schutzmechanismen umgehen, vertrauliche Informationen offenlegen oder kundennahe Dienste stören.
- Modellmanipulation und Modelldiebstahl. Eigene Modelle werden zu schützenswerten Vermögenswerten mit proprietärem Wissen.
- Halluzinationen. Der Stanford AI Index 2026 misst bei 26 führenden Modellen Halluzinationsraten zwischen 22 und 94 Prozent. Für Entscheidungen mit Kunden- oder Aufsichtsbezug verlangen die Autoren deshalb laufende Validierung statt einmaliger Abnahme.
- Abhängigkeit von Drittanbieter-Modellen. Fehlende Transparenz über Trainingsdaten und Updates, Modelldrift nach dem Einsatz und unklare Lizenzlage erschweren Compliance und Nachprüfbarkeit.
- Shadow AI. Nicht genehmigte KI-Tools von Mitarbeitenden und stillschweigend aktivierte KI-Funktionen in bestehender Software gelten dem Bericht als derzeit am weitesten verbreitete Quelle von Exponierung.
Hinzu kommt das Thema autonomer Agenten, die mit eigenen Berechtigungen handeln. Je mehr Autonomie ein Unternehmen der KI überträgt, desto klarer muss geregelt sein, wer für ihre Handlungen einsteht. Green beschreibt die Lücke aus Beratersicht: Viele Organisationen verfügten über formale Governance für strategische KI-Programme, während die unkontrollierte Nutzung über öffentliche Tools, eingebettete Softwarefunktionen oder Dienstleister weiterlaufe. Das schaffe eine Differenz zwischen wahrgenommener und tatsächlicher Kontrolle.
Fünf Prioritäten für „Secure AI by Design“
Als Gegenmittel skizzieren AXA XL und S-RM fünf Handlungsfelder: bessere Daten-Governance, die Sicherheit von Modellen und Anwendungen, strengere Identitäts- und Zugriffskontrollen nach dem Prinzip minimaler Berechtigungen, Resilienz im gesamten KI-Ökosystem aus Cloud-Providern und Anbietern sowie kontinuierliche Überwachung und Anpassung. Als Orientierungsrahmen verweist der Bericht auf das NIST AI Risk Management Framework, die Norm ISO/IEC 42001 sowie die OWASP-Top-10-Listen für LLM- und agentische Anwendungen. Letztere führen übermäßige Handlungsmacht („excessive agency“) und zu weit gefasste Berechtigungen als aufkommende Sicherheitsrisiken.
Ein Punkt, der in Governance-Debatten häufig untergeht, betrifft die Beweislage nach Vorfällen. Herkömmliche Protokolle reichten nach Greens Einschätzung oft nicht aus, um zu rekonstruieren, was passiert ist, wenn Prompts, Outputs, Abrufquellen oder Agentenaktionen beteiligt waren. Unternehmen sollten vorab festlegen, welche Informationen sie für juristische, regulatorische oder versicherungsbezogene Prozesse benötigen.
Der Blick des Versicherers
Aus Versicherungssicht liegt die eigentliche Pointe in der Schadenszuordnung. KI-bedingte Schäden lassen sich laut Bericht oft keiner einzelnen Sparte zuordnen: Ein über einen gefälschten Videoanruf autorisierter Zahlungsbetrug, ein fehlerhafter KI-Output mit Drittschaden und ein durch einen Agenten ermöglichter Einbruch berühren jeweils unterschiedliche Policen, von Cyber über Vertrauensschaden bis Haftpflicht und Betriebsunterbrechung. AXA XL empfiehlt daher, KI-Risiken in konkreten Geschäftsszenarien durchzuspielen, um frühzeitig zu klären, wo bestehende Kontrollen und Deckungen greifen und wo Lücken bestehen.
Regulatorisch beschreibt der Bericht einen Flickenteppich: den risikobasierten EU AI Act mit Ausstrahlung über die EU hinaus, den prinzipienbasierten Ansatz im Vereinigten Königreich, ein fragmentiertes Umfeld in den USA sowie eigenständige Regeln in China und im asiatisch-pazifischen Raum. Gemeinsamer Nenner sei die Erwartung, dass Unternehmen nachweisen, wo sie KI einsetzen, wer verantwortlich ist und wie der Lebenszyklus dokumentiert wird. Den Wettbewerbsvorteil sehen die Autoren bei jenen, die Governance frühzeitig als Unternehmensfähigkeit statt als Compliance-Pflicht aufbauen.
Einordnung
Für institutionelle Marktteilnehmer lassen sich aus dem Bericht drei Punkte ableiten:
- KI-Risiko ist Drittparteirisiko. Für Banken, Versicherer und Kapitalverwaltungsgesellschaften fügt sich die Forderung nach Due Diligence für Modelle und Anbieter nahtlos in das bestehende Auslagerungs- und IKT-Drittparteienmanagement ein. Wer KI-Anbieter dort nicht erfasst, hat eine Lücke im Register, nicht nur in der IT.
- Shadow AI ist das unterschätzte Governance-Thema. Die Risiken entstehen weniger in den großen, gut dokumentierten KI-Projekten als in der Breite: im Browser des Portfoliomanagers, im Copilot der Office-Suite, in der KI-Funktion eines Datenanbieters. Eine belastbare Bestandsaufnahme ist die Voraussetzung für jede weitere Steuerung.
- Versicherbarkeit setzt Nachweisbarkeit voraus. Wenn Versicherer KI-Schäden spartenübergreifend bewerten, werden Protokollierung, Zugriffskonzepte und dokumentierte Szenarioanalysen zur Grundlage für Deckung und Prämie. Governance wird damit auch zur Kostenfrage.
Ob sich der Bericht als Ausgangspunkt für neue Deckungskonzepte erweist, wird davon abhängen, wie schnell Versicherer und Versicherte eine gemeinsame Sprache für KI-Schadensszenarien finden. csa
* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.