Warum dieser Bereich als Hochrisiko gilt
Anhang III Nr. 4 nennt KI-Systeme für die Einstellung und Auswahl von Personen, für Entscheidungen über Beförderung und Kündigung, für die Zuweisung von Aufgaben sowie für die Überwachung und Bewertung von Beschäftigten. Der Gesetzgeber sieht hier ein hohes Risiko für die Grundrechte, weil über den Zugang zu Arbeit und Einkommen entschieden wird.
Entscheidend ist die Rolle des Systems bei der Entscheidung über einen Menschen. Sobald die KI Bewerbende einordnet, scort oder ranked und dieses Ergebnis die Auswahl wesentlich prägt, ist die Hochrisiko-Einstufung wahrscheinlich.
Typische Systeme in diesem Bereich
- Bewerber-Scoring und automatisiertes Ranking von Kandidatinnen und Kandidaten
- CV-Parsing und CV-Filterung zur Vorauswahl
- KI-gestützte Video- oder Sprachanalyse in Interviews
- Tools zur Leistungsbewertung oder Verhaltensanalyse von Beschäftigten
Diese Pflichten greifen
- Risikomanagement und Daten-Governance, inklusive Prüfung auf Diskriminierung (Bias)
- Technische Dokumentation, Protokollierung und Transparenz gegenüber den Betreibern
- Wirksame menschliche Aufsicht über die Auswahlentscheidung
- Konformitätsbewertung und Registrierung vor der Inbetriebnahme
Die Ausnahme nach Art. 6 Abs. 3
Die Ausnahme nach Art. 6 Abs. 3 ist im Recruiting heikel: Sie entfällt, sobald ein Profiling natürlicher Personen stattfindet — und genau das ist beim Bewerten und Einordnen von Bewerbenden in der Regel der Fall. Ein reines Hilfswerkzeug ohne Bewertung (etwa reine Formatierung) kann anders zu beurteilen sein, muss aber sauber begründet und dokumentiert werden.