Hochrisiko-KI ist im EU AI Act die Kategorie für KI-Systeme mit erheblichem Einfluss auf Menschen, an die besonders strenge Anforderungen geknüpft sind. Annex III des EU AI Act listet die betroffenen Anwendungsbereiche auf, darunter Beschäftigung und Personalauswahl.
Was Annex III regelt Anhang III der Verordnung (EU) 2024/1689 benennt unter Nummer 4 ausdrücklich KI-Systeme in den Bereichen Beschäftigung, Personalmanagement und Zugang zu selbstständiger Erwerbstätigkeit. Dazu gehören Systeme, die Bewerbungen filtern oder Kandidaten bewerten und einordnen. Recruiting-KI fällt damit eindeutig in die Hochrisiko-Kategorie.
Welche Pflichten folgen Aus der Einstufung als Hochrisiko ergeben sich Pflichten zu Risikomanagement, Datenqualität, technischer Dokumentation, Protokollierung, Transparenz, menschlicher Aufsicht und Genauigkeit. Diese Anforderungen sollen sicherstellen, dass das System fair, nachvollziehbar und kontrollierbar bleibt. Die Hochrisiko-Pflichten nach Anhang III waren ursprünglich ab dem 2. August 2026 anwendbar. Über den sogenannten Digital Omnibus der EU-Kommission von Mai 2026 wird eine Verschiebung dieses Termins diskutiert, die zum Stand Juni 2026 noch nicht endgültig beschlossen ist. Den genauen Geltungsbeginn daher kurzfristig prüfen.
Warum das zählt Die Einstufung bestimmt, welche Auflagen ein Unternehmen beim Einsatz von Recruiting-KI erfüllen muss. Wer ein konformes System wählt, reduziert seinen eigenen Aufwand erheblich, weil der Anbieter zentrale Pflichten bereits abdeckt.
Worauf Sie achten sollten
- Prüfen, ob der Anbieter die Hochrisiko-Anforderungen nachweislich erfüllt.
- Auf Dokumentation, Transparenz und menschliche Aufsicht bestehen.
- Den eigenen Einsatz des Systems sauber dokumentieren.