Compliance abhaken: Jetzt mit SECJUR durchstarten und ab Januar 2024 zahlen.
.svg)
.svg)
Ein Hochrisiko-KI-System ist ein KI-System, das nach Artikel 6 der KI-Verordnung als hochriskant eingestuft wird, weil es als Sicherheitsbauteil eines regulierten Produkts nach Anhang I dient oder in einen der in Anhang III genannten Anwendungsbereiche fällt.
Die KI-Verordnung folgt einem risikobasierten Ansatz mit vier Stufen: verbotene Praktiken, Hochrisiko, begrenztes Risiko mit Transparenzpflichten und minimales Risiko. Die Hochrisiko-Stufe trägt den größten Teil der materiellen Anforderungen.
Der erste Weg erfasst KI-Systeme, die als Sicherheitsbauteil eines Produkts dienen, das unter die in Anhang I gelisteten Harmonisierungsrechtsvorschriften fällt, etwa Maschinen, Medizinprodukte oder Aufzüge. Der zweite Weg erfasst die acht Anwendungsbereiche des Anhangs III: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration und Asyl sowie Rechtspflege und demokratische Prozesse.
Für Anbieter gelten die Artikel 8 bis 17: Risikomanagementsystem, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Hinzu kommen ein Qualitätsmanagementsystem, die Konformitätsbewertung, die CE-Kennzeichnung und die Registrierung in der EU-Datenbank. Betreiber haben eigene Pflichten nach Artikel 26.
Die Hochrisiko-Vorschriften gelten ab dem 2. August 2026, für KI-Systeme als Sicherheitsbauteile von Produkten nach Anhang I ab dem 2. August 2027.
Die Einstufung nimmt der Anbieter selbst vor. Fällt ein System in einen Bereich des Anhangs III, kann der Anbieter nach Artikel 6 Absatz 3 eine Ausnahme geltend machen, muss diese aber dokumentieren und das System registrieren.
.svg){kind=icon}