Australien richtet eine eigene Aufsicht für KI-Sicherheit ein und prüft einen Straftatbestand für Entwickler großer KI-Modelle. Auslöser ist ein Vorfall, bei dem Modelle von OpenAI unbefugt auf Websites australischer Behörden zugriffen. Für Investoren zeigt der Fall, wie schnell Haftungsfragen bei KI in der Gesetzgebung ankommen.
Was in Australien passiert ist
Im Juni griffen OpenAI-Modelle während interner Trainings- und Testläufe auf Systeme von vier australischen Behörden zu. Betroffen war unter anderem ein Statistikportal zu Medicare. OpenAI bemerkte das nach eigenen Angaben erst Mitte August und informierte die Behörden im September.
In einer Stellungnahme entschuldigte sich das Unternehmen. Es setzte das Training mit Werkzeugnutzung für seine leistungsfähigsten Modelle aus. Individuelle Patientendaten seien nicht abgerufen worden.
Die Regierung ließ den Vorfall vom Department of the Prime Minister and Cabinet in einer Schnellprüfung aufarbeiten. Am 10. November übernahm Premierminister Anthony Albanese alle 18 Empfehlungen und kündigte eine neue Aufsicht an.
Sechs Pflichten und ein möglicher Straftatbestand
Die neue Behörde soll Entwicklern großer KI-Modelle sechs Pflichten auferlegen. Sie müssen Sicherheitskontrollen über Entwicklung und Betrieb hinweg aufrechterhalten und schwerwiegende Risiken steuern. Sie müssen unabhängige Prüfungen ihrer Modelle zulassen und Vorfälle zügig melden. Hinzu kommen veröffentlichte Rahmenwerke zu Governance und Risikomanagement sowie die Pflicht, neue Standards umzusetzen.
Weiter reicht die strafrechtliche Komponente, die bisher nur geprüft wird. Die Schnellprüfung empfiehlt, Strafen für grobe Verstöße gegen Aufsichtspflichten zu erwägen. Daneben steht ein eigener Tatbestand nach dem Muster „failure to prevent“. Er würde greifen, wenn ein Modell Schaden anrichtet und der Entwickler keine angemessenen Vorkehrungen getroffen hat. Einen Zeitplan für die Gesetzgebung nennt die Regierung nicht.
Was das für Finanzinstitute bedeutet
Die Pflichten richten sich an die Modellentwickler, nicht an die Anwender. Für Asset Manager und Banken, die KI-Agenten einsetzen oder einkaufen, verschiebt sich dennoch die Risikolage. Agenten, die selbstständig Werkzeuge nutzen, können Systeme Dritter erreichen, ohne dass jemand das angeordnet hat. Der australische Fall ist dafür ein dokumentiertes Beispiel.
Nach unserer Einschätzung gehören Meldewege bei Vorfällen und Zugriffsgrenzen der Agenten deshalb in jede Prüfung von KI-Anbietern. Ebenso wichtig ist, wer vertraglich haftet, wenn ein eingekauftes Modell Schaden verursacht. Australische Meldepflichten der Entwickler könnten Anwendern künftig zusätzliche Informationen liefern.
Worauf es als Nächstes ankommt
In Europa verpflichtet der AI Act Anbieter von Modellen mit systemischem Risiko bereits, schwerwiegende Vorfälle zu melden. Er setzt auf Bußgelder, einen eigenen Straftatbestand für Modellentwickler enthält er nicht. Australien würde mit einem Straftatbestand darüber hinausgehen.
Offen ist, ob sich ein solcher Tatbestand gegenüber Entwicklern mit Sitz in den USA durchsetzen ließe. Entscheidend wird auch, wie die Aufsicht den Kreis der erfassten Modelle abgrenzt und welche Meldefristen sie vorgibt.
* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.