Was ist ein Hochrisiko-KI-System nach dem EU AI Act?
Erklärung
Der EU AI Act listet in Anhang III konkrete Einsatzbereiche, in denen KI-Systeme als hochriskant gelten, etwa: biometrische Identifizierung und Kategorisierung, Betrieb kritischer Infrastruktur, Zugang zu Bildung und Berufsausbildung, Personalauswahl und -management (z. B. automatisierte Bewerbervorauswahl), Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen wie Kreditwürdigkeitsprüfungen, sowie bestimmte Anwendungen in Strafverfolgung, Migration und Rechtspflege.
Für Hochrisiko-KI-Systeme gelten umfangreiche Pflichten: ein Risikomanagementsystem, hohe Anforderungen an die Datenqualität der Trainingsdaten, technische Dokumentation, Protokollierungspflichten, menschliche Aufsicht sowie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit. Anbieter müssen zudem vor Markteinführung eine Konformitätsbewertung durchführen.
Praxisrelevanz für Unternehmen
Unternehmen, die KI-gestützte Systeme zur Bewerberauswahl, Kreditprüfung oder ähnlichen sensiblen Zwecken einsetzen, sollten frühzeitig prüfen, ob das eingesetzte System unter Anhang III fällt – unabhängig davon, ob sie das System selbst entwickelt haben oder als Betreiber einer fremden Lösung einsetzen.
Betreiber – also Unternehmen, die ein Hochrisiko-KI-System nutzen, ohne es selbst anzubieten – treffen eigene, wenn auch reduzierte Pflichten: etwa die bestimmungsgemäße Nutzung, menschliche Aufsicht und die Meldung erkannter Risiken an den Anbieter. Diese Pflichten sollten vertraglich und organisatorisch klar zugeordnet werden.
Verwandte Begriffe & Leistungen
Häufige Fragen zu „Was ist ein Hochrisiko-KI-System nach dem EU AI Act?“
Ist jedes KI-System im Personalwesen automatisch Hochrisiko?
Nicht automatisch, aber viele Anwendungen zur automatisierten Bewerbervorauswahl oder Leistungsbewertung fallen unter Anhang III und sind entsprechend zu prüfen.
Was ist der Unterschied zwischen Anbieter und Betreiber eines Hochrisiko-KI-Systems?
Der Anbieter entwickelt oder bringt das System in Verkehr und trägt die umfangreichsten Pflichten. Der Betreiber nutzt ein bereits verfügbares System im eigenen Unternehmen und trägt eigene, reduzierte Pflichten.
Ab wann gelten die Pflichten für Hochrisiko-KI-Systeme?
Die Fristen sind gestaffelt und unterscheiden sich je nach betroffenem Bereich – wir prüfen für Ihr konkretes System, welche Frist einschlägig ist.
Fragen zu Was ist ein Hochrisiko-KI-System nach dem EU AI Act??
Wir prüfen unverbindlich, was das für Ihr Unternehmen konkret bedeutet – und wie DSGVO.tech Sie dabei entlasten kann.