Rund 20 Prozent der Unternehmen, die künstliche Intelligenz einsetzen, wissen nach eigener Einschätzung nicht, in welche Risikoklasse ihre Systeme fallen. Dabei ist genau diese Einstufung der Ausgangspunkt jeder Pflicht aus dem AI Act – der KI-Verordnung (KI-VO). Ob Sie überhaupt eine Hochrisiko-KI nach Anhang III betreiben, entscheidet darüber, ob Sie mit ein paar Transparenzhinweisen auskommen – oder umfassende Betreiberpflichten erfüllen müssen.
Dieser Artikel erklärt die vier Risikoklassen der KI-Verordnung und zeigt anhand des Anhang III (artificialintelligenceact.eu), wie Sie ein Hochrisiko-KI-System in Ihrem Unternehmen erkennen.
Lesetipp: Wie Sie KI im Mittelstand rechtssicher einführen – von der Risikoklassifizierung bis zur KI-Richtlinie – lesen Sie in unserem kostenlosen E-Book „KI sicher einsetzen — Der Leitfaden für Geschäftsführer”. Jetzt herunterladen →
Die Verordnung (EU) 2024/1689 (EUR-Lex) verfolgt einen risikobasierten Ansatz. Nicht jedes System mit künstlicher Intelligenz wird gleich behandelt – die Pflichten steigen mit dem Risiko. Vier Stufen sind zu unterscheiden:
| Risikoklasse | Rechtsgrundlage | Beispiele | Folge für Betreiber |
|---|---|---|---|
| Verbotenes Risiko | Art. 5 | Social Scoring, manipulative KI, ungezieltes Scraping von Gesichtsbildern | Untersagt (gilt seit 2. Februar 2025) |
| Hochrisiko | Art. 6 / Anhang III | Bewerber-Scoring, Bonitätsprüfung, KI-Prüfungsbewertung | Umfassende Pflichten ab 2. August 2026 |
| Begrenztes Risiko | Art. 50 | Chatbots, KI-generierte Inhalte (Deepfakes) | Transparenzpflichten (Kennzeichnung) |
| Minimales Risiko | – | Spam-Filter, KI in Videospielen, Lagerhaltung | Keine besonderen Pflichten |
Die überwiegende Mehrheit der KI-Anwendungen im Mittelstand fällt in die unteren beiden Klassen. Kritisch wird es dort, wo KI über Menschen entscheidet oder wesentlich mitentscheidet – und genau das regelt Anhang III.
Ein KI-System zählt zu den Hochrisiko-KI-Systemen gemäß Artikel 6 Absatz 2, wenn es in einem der acht in Anhang III aufgeführten Bereiche eingesetzt wird. Als KI-Systeme mit hohem Risiko werden sie dann als hochriskant eingestuft – die folgende Liste ist die zentrale Prüfgrundlage für Betreiber:
| Nr. | Hochrisiko-Bereich | Praktisches Beispiel |
|---|---|---|
| 1 | Biometrie | Biometrische Fernidentifizierung, Emotionserkennung |
| 2 | Kritische Infrastruktur | Sicherheitskomponente kritischer digitaler Infrastruktur, in Strom-, Wasser- oder Verkehrsnetzen |
| 3 | Allgemeine und berufliche Bildung | KI-gestützte Prüfungsbewertung, Zugangsvergabe |
| 4 | Beschäftigung und Personalmanagement | Bewerber-Scoring, Leistungsbewertung, Zuweisung von Aufgaben |
| 5a | Zugang zu öffentlichen Leistungen | Bewertung von Ansprüchen auf Sozialleistungen |
| 5b | Kreditwürdigkeit / Bonität (außer zur Aufdeckung von Finanzbetrug) | Automatisiertes Bonitäts-Scoring von Kunden |
| 5c | Lebens- und Krankenversicherung | KI-Risikobewertung und Preisgestaltung |
| 6 | Strafverfolgung | Risikoeinschätzung von Personen durch Behörden |
| 7 | Migration, Asyl und Grenzkontrolle | Prüfung von Anträgen, Grenzverfahren |
| 8 | Rechtspflege und demokratische Prozesse | Unterstützung von Justizbehörden bei Gerichtsentscheidungen |
Für den typischen Mittelständler sind vor allem drei Bereiche relevant: Nr. 4 (Beschäftigung), wenn ein KI-Tool Bewerbungen vorsortiert, Mitarbeitende bewertet oder die Zuweisung von Aufgaben steuert, Nr. 5b (Kreditwürdigkeit), wenn Sie Kundenbonität automatisiert prüfen, und Nr. 3 (Bildung), wenn Sie als Bildungsträger KI in Prüfungen einsetzen. Ausdrücklich ausgenommen von Nr. 5b sind KI-Systeme, die allein der Aufdeckung von Finanzbetrug dienen – sie werden nicht automatisch als hochriskant eingestuft.
Anhang III listet eigenständige Hochrisiko-Anwendungen – die Pflichten dafür gelten ab dem 2. August 2026. Anhang I betrifft dagegen KI, die als Sicherheitskomponente in bereits regulierte Produkte (etwa Maschinen oder Medizinprodukte) eingebettet ist; hierfür gilt erst der 2. August 2027. Wer beide Fristen vermischt, plant falsch.
Wichtig ist eine Ausnahme: Fällt ein System zwar formal in einen Anhang-III-Bereich, birgt es aber kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte (etwa weil es nur eine eng begrenzte Verfahrensaufgabe erfüllt), kann es nach Art. 6 Abs. 3 als nicht-hochriskant gelten. Diese Einschätzung müssen Sie allerdings dokumentieren – sie darf nicht einfach unterstellt werden.
Die Pflichten der KI-VO knüpfen daran an, dass ein solches System in der EU in Verkehr gebracht oder in Betrieb genommen wurde. Steht fest, dass Sie ein Hochrisiko-KI-System betreiben, kommen ab dem 2. August 2026 konkrete Betreiberpflichten auf Sie zu – auch dann, wenn Sie das System nicht selbst entwickelt, sondern nur eingekauft haben:
In bestimmten Fällen kommt eine Grundrechte-Folgenabschätzung (FRIA, Art. 27) hinzu. Sie trifft vor allem öffentliche Stellen und private Betreiber öffentlicher Dienstleistungen sowie – für private Unternehmen besonders relevant – Betreiber von KI zur Kreditwürdigkeitsprüfung (Nr. 5b) und zur Risikobewertung in der Lebens- und Krankenversicherung (Nr. 5c). Die FRIA beschreibt unter anderem den Einsatzprozess, die betroffenen Personengruppen und die spezifischen Grundrechte-Risiken. Sie ergänzt eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, ersetzt sie aber nicht.
Die meisten Geschäftsführer sind überrascht, wenn ihr HR-Tool plötzlich als Hochrisiko-KI gilt. Dabei ist die Klassifizierung keine Kür, sondern der Anfang von allem: Ohne saubere Einstufung wissen Sie nicht, welche Pflicht für welches System greift. Wir fangen deshalb immer mit dem Inventar an – erst zählen, dann klassifizieren, dann handeln.
Nils OehmichenDatenschutzberater bei frag.hugo
Die Erfahrung aus unseren Mandaten zeigt: Die Einstufung ist kein einmaliger Akt. Wird ein Tool erweitert oder für einen neuen Zweck genutzt, kann sich die Risikoklasse ändern. Ein strukturiertes KI-Register nach dieser Anleitung hält diese Einordnung nachvollziehbar fest und ist die Grundlage jeder Nachweisführung.
Ob Sie eine Hochrisiko-KI nach Anhang III betreiben, entscheidet über den gesamten Umfang Ihrer AI-Act-Pflichten. Der Weg dorthin ist klar: alle KI-Systeme erfassen, jedes einer der vier Risikoklassen zuordnen und für die Anhang-III-Fälle die Betreiberpflichten ab dem 2. August 2026 vorbereiten. Eine strukturierte Lösung wie Hugo KI unterstützt Sie dabei, die Einstufung nachvollziehbar zu dokumentieren. Wer heute mit der Klassifizierung beginnt, hat dafür ausreichend Zeit. Einen breiteren Überblick über die Umsetzung im Mittelstand gibt unser Artikel AI Act für KMU.
KI-Systeme klassifizieren – strukturiert und nachvollziehbar
Mit Hugo KI erfassen Sie Ihre KI-Anwendungen, ordnen sie den Risikoklassen zu und dokumentieren die Einstufung revisionssicher. So behalten Sie den Überblick, bevor die Pflichten greifen.
Hugo KI kennenlernen →Ein Hochrisiko-KI-System nach Anhang III ist ein KI-System, das in einem der acht dort gelisteten sensiblen Bereiche eingesetzt wird – etwa Beschäftigung, Kreditwürdigkeit oder Bildung. Es unterliegt den umfassenden Pflichten der KI-Verordnung, die für diesen Bereich ab dem 2. August 2026 gelten.
Anhang III nennt acht Bereiche: 1 Biometrie, 2 kritische Infrastruktur, 3 allgemeine und berufliche Bildung, 4 Beschäftigung und Personalmanagement, 5 Zugang zu grundlegenden Diensten (5a öffentliche Leistungen, 5b Kreditwürdigkeit, 5c Versicherung), 6 Strafverfolgung, 7 Migration und Grenzkontrolle sowie 8 Rechtspflege und demokratische Prozesse.
Ein KI-gestütztes Bewerber-Scoring oder eine automatisierte Vorauswahl von Kandidaten fällt unter Anhang III Nr. 4 (Beschäftigung und Personalmanagement) und gilt in der Regel als Hochrisiko-KI-System. Als Betreiber haben Sie dann konkrete Pflichten, etwa zur menschlichen Aufsicht und Dokumentation.
Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. August 2026. Für eingebettete KI in regulierten Produkten nach Anhang I gilt eine spätere Frist, der 2. August 2027.
Die FRIA nach Artikel 27 trifft vor allem öffentliche Stellen und private Betreiber öffentlicher Dienstleistungen sowie Betreiber von KI zur Kreditwürdigkeitsprüfung (Anhang III Nr. 5b) und zur Risikobewertung in der Lebens- und Krankenversicherung (Nr. 5c). Sie ergänzt eine DSFA nach Artikel 35 DSGVO, ersetzt sie aber nicht.
Anhang III listet eigenständige Hochrisiko-Anwendungen in acht Bereichen; die Pflichten dafür gelten ab dem 2. August 2026. Anhang I betrifft KI, die als Sicherheitskomponente in bereits regulierte Produkte eingebettet ist; dafür gilt der 2. August 2027.
Inhaltsverzeichnis
KI-Verordnung Fristen im Überblick: Welche Pflicht wann greift – von der KI-Kompetenz seit Februar 2025 bis zum Geltungsbeginn für Hochrisiko-KI ab 2. August 2026.
Weiterlesen: KI-Verordnung: Alle Fristen 2025–2027 im Überblick
KI-Register erstellen: Welche Felder ein KI-Inventar braucht und wie Sie es Schritt für Schritt aufbauen – die Basis jeder AI-Act-Nachweisführung.
Weiterlesen: KI-Register erstellen: Schritt-für-Schritt-Anleitung für Unternehmen
FRIA Grundrechte-Folgenabschätzung nach Art. 27 KI-VO: Wer ist verpflichtet, was gehört hinein und wie sie die DSFA ergänzt. Pflicht ab August 2026.
Weiterlesen: FRIA: Grundrechte-Folgenabschätzung nach Art. 27 KI-VOÜber den Autor
Datenschutzberater & Geschäftsführer
Nils ist TÜV-zertifizierter Datenschutzbeauftragter. Seit über 13 Jahren betreut er Mittelständler bei DSGVO, NIS2 und dem EU AI Act. Geschäftsführer der frag.hugo Informationssicherheit GmbH und der datuno GmbH, leitet außerdem die BVMID-Geschäftsstelle Hamburg Süd/Ost.
Vier Klicks zum schriftlichen Festpreis-Angebot — oder direkt anrufen. Wir hören zu, sortieren Ihr Thema und sagen Ihnen ehrlich, ob wir helfen können.
Lieber erstmal schreiben? Kontaktformular
