KI-Screening von Lebensläufen: Audit zeigt Schwachstellen im Einsatz

AIKI-Screening von Lebensläufen: Audit zeigt Schwachstellen im Einsatz

Sprachmodelle können Bewerbungen vorsortieren und Personalabteilungen entlasten. Eine neue Studie prüft, ob solche Systeme dafür reif sind. Ihr Befund: Die Zuverlässigkeit hängt stark an der Bauweise des Systems. Entscheidend sind die Bewertungsschnittstelle, die Rechtevergabe und die Trennung von Daten und Anweisungen.

Wie die Forscher das Screening geprüft haben

Die Studie erschien am 15. November 2026 auf arXiv. Verfasst haben sie Spandan Roy, Subhabrata Majumdar und Soudeep Deb vom Indian Institute of Management Bangalore. Sie testen vier Sprachmodelle, darunter DeepSeek-V4-Pro und GPT-OSS-120B. Grundlage sind 210 synthetische Lebensläufe für 14 Stellen aus fünf Branchen.

Die Modelle urteilen über sechs Schnittstellen, von der Ja-Nein-Entscheidung über Punktwerte bis zum Ranking. Punktwerte von 0 bis 100 erfassten Qualifikationsunterschiede am besten, binäre Urteile am schlechtesten. Die Punktwerte waren allerdings schlecht kalibriert: Die Schwelle für eine gleichwertige Shortlist-Entscheidung unterschied sich je nach Modell deutlich. Bei Paarvergleichen und Rankings entschied oft die Reihenfolge, in der die Kandidaten vorlagen.

Versteckte Anweisungen im Lebenslauf

Der zweite Teil der Studie prüft die Compliance. Ohne Schutzmaßnahmen befolgten die Modelle rund 96 Prozent der Anweisungen, die Angreifer in Lebensläufen versteckt hatten. Mit Warnhinweis, Trennzeichen und Markierung der Bewerberdaten sank die Quote auf unter 6 Prozent. Ein Modell folgte den Anweisungen auch dann noch.

Ähnlich verhielt es sich mit internen Nutzern ohne Berechtigung. Ohne Schutz setzten die Modelle deren Anweisungen in rund 65 Prozent der Fälle um. Mit rollenbasierter Zugriffskontrolle waren es nur noch etwa 1 Prozent. Die Autoren folgern daraus, dass die Anwendung selbst Berechtigungen durchsetzen muss und ein Prompt allein nicht reicht.

Was das für Finanzinstitute bedeutet

KI-Systeme zur Auswahl von Bewerbern gelten nach der KI-Verordnung als Hochrisiko-Anwendung. Nach dem Digital Omnibus werden die Pflichten dafür erst im Dezember 2027 verbindlich. Die Studie zeigt eine weitere Lücke: Die Begründungen der Modelle passten oft nicht zu ihren Entscheidungen. Kippte ein Angriff die Entscheidung, war die Begründung in keinem Fall stimmig.

Das berührt das Recht Betroffener auf eine Erklärung. Die Autoren empfehlen deshalb, Skalen vor dem Einsatz zu kalibrieren und Begründungen gesondert zu testen. Entscheidung, Qualifikationsbewertung und genehmigte Ausnahmen sollen getrennt dokumentiert werden.

Aus Sicht von altii reicht der Befund über das Recruiting hinaus. Banken und Asset Manager lassen Sprachmodelle auch Dokumente aus Due Diligence, Onboarding oder Fondsprüfung auswerten. Wo fremde Dokumente in ein Modell fließen, stellt sich dieselbe Frage nach eingeschleusten Anweisungen und sauber getrennten Rechten.

Offen bleibt, wie gut sich die Ergebnisse auf echte Bewerbungen übertragen lassen. Die Studie arbeitet mit synthetischen Lebensläufen. Wer solche Systeme bis Ende 2027 einführt, findet im Prüfrahmen dennoch eine Vorlage, um die Einsatzreife vor dem Produktivstart zu belegen.

* DE: Die ergänzenden Inhalte können KI-generiert sein. EN: The additional content may be AI-generated.