Fünf Prioritäten für Unternehmen zur resilienten KI-Einführung
Der Bericht von AXA XL und der Unternehmensberatung S-RM warnt davor, dass Künstliche Intelligenz (KI) schneller in kritische Geschäftsprozesse integriert wird, als Unternehmen ihre Governance, Sicherheitsmaßnahmen und Reaktionsfähigkeit anpassen können. KI-Risiken sind daher keine isolierte Technologie- oder Compliance-Herausforderung, sondern ein zentraler Faktor der Unternehmensresilienz.
Zunehmende Verbreitung und Risiken von KI
Laut McKinsey & Company setzt bereits 88 % der Unternehmen KI in mindestens einer Geschäftsfunktion ein. Der Bericht hebt hervor, dass KI neue Angriffsflächen für Cyberbedrohungen schafft und gleichzeitig zusätzliche operative, regulatorische und Drittparteirisiken entstehen.
Zentrale Handlungsfelder für Unternehmen
Mit wachsendem Zugriff von KI-Systemen auf sensible Daten, Geschäftsanwendungen und Entscheidungsprozesse benennt der Bericht fünf Schlüsselbereiche für Führungskräfte:
- Klare Verantwortlichkeiten für KI über alle Unternehmensbereiche einschließlich formell eingeführter und nicht autorisierter Anwendungen (Shadow AI).
- Schutz sensibler Daten und verstärktes Identitäts- und Zugriffsmanagement angesichts zunehmender Autonomie von KI-Systemen.
- Ganzheitliches Management von KI-Risiken über den gesamten Lebenszyklus, von Datenerfassung über Modellentwicklung bis zu Überwachung und Vorfallreaktion.
- Strenge Governance und Sorgfaltspflichten gegenüber KI-Anbietern und kritischen Dienstleistern.
- Vorbereitung auf KI-bezogene Schadensszenarien in Bereichen wie Cyber, Betrug, Haftpflicht und Betriebsunterbrechung.
Risikoarten und Sicherheitsmaßnahmen
Der Bericht identifiziert Risiken wie Datenabfluss, Manipulation von KI-Modellen, Prompt Injection, unzuverlässige Ergebnisse, Shadow AI und autonome KI-Agenten. Fünf Prioritäten für eine sichere KI umfassen verbesserte Daten-Governance, Modell- und Anwendungssicherheit, stärkere Zugriffssteuerung, Resilienz im KI-Ökosystem sowie kontinuierliche Überwachung und Anpassung.
Entwicklungen und Empfehlungen
Eine aktuelle Erhebung des Weltwirtschaftsforums zeigt, dass 64 % der Unternehmen die Sicherheit von KI-Tools vor dem Einsatz prüfen, verglichen mit 37 % im Vorjahr. Ein einmaliger Check reicht jedoch nicht aus: Kontinuierliche Überwachung während des gesamten KI-Betriebs bleibt unerlässlich, um Risiken zu minimieren.
Unterstützung durch AXA XL und S-RM
Die beiden Organisationen bieten Unterstützung beim Aufbau robuster Governance-Strukturen, der Simulation von Vorfallszenarien sowie bei der Auswahl von Risikominderungsmaßnahmen und Versicherungslösungen.
DE: Bei der Erstellung dieses Beitrags wurde KI unterstützend eingesetzt.EN: AI was used to assist in the creation of this post.