Warum dieser Bereich als Hochrisiko gilt
Anhang III Nr. 5 erfasst KI-Systeme, die zur Bewertung der Kreditwürdigkeit oder zur Erstellung von Bonitäts-Scores natürlicher Personen eingesetzt werden. Ausgenommen sind Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen.
Der Grund: Eine fehlerhafte oder voreingenommene Bonitätsbewertung kann Menschen vom Zugang zu Krediten, Wohnraum oder essenziellen Diensten ausschließen. Deshalb stuft der Gesetzgeber diese Anwendung als hochriskant ein.
Typische Systeme in diesem Bereich
- Scoring-Modelle zur Bewertung der Kreditwürdigkeit von Privatpersonen
- Automatisierte Kreditentscheidungen und Limit-Vergabe
- KI-gestützte Risikobewertung im Konsumenten- oder Ratenkredit
- Bonitätsprüfung im Rahmen von Buy-now-pay-later-Angeboten
Diese Pflichten greifen
- Daten-Governance mit besonderem Fokus auf Repräsentativität und Bias-Vermeidung
- Risikomanagement, technische Dokumentation und Protokollierung
- Nachvollziehbarkeit der Score-Bildung und menschliche Aufsicht
- Konformitätsbewertung und EU-Registrierung vor Inbetriebnahme
Die Ausnahme nach Art. 6 Abs. 3
Reine Betrugserkennung ist vom Hochrisiko-Bereich ausgenommen. Die Abgrenzung ist in der Praxis aber heikel: Sobald ein System auch zur Bewertung der Kreditwürdigkeit beiträgt oder Personen profiliert, gilt die Ausnahme nicht. Diese Grenze sollte dokumentiert und begründet werden.
Häufige Fragen
Ist ein Kredit-Scoring-Modell ein Hochrisiko-KI-System?
Ja, wenn es die Kreditwürdigkeit oder den Bonitäts-Score natürlicher Personen bewertet. Das ist in Anhang III Nr. 5 ausdrücklich als Hochrisiko genannt. Reine Betrugserkennung ist ausgenommen.
Fällt Betrugserkennung auch unter die Hochrisiko-Regeln?
Nein — Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen, sind ausgenommen. Sobald ein System aber zusätzlich Bonität bewertet, kann die Ausnahme entfallen.
Gilt das auch für Bonitätsprüfungen bei Buy-now-pay-later?
Wenn dabei die Kreditwürdigkeit natürlicher Personen automatisiert bewertet wird, ja. Die konkrete Ausgestaltung entscheidet — eine Einzelfallprüfung ist sinnvoll.