Verbotene KI-Praktiken nach Art. 5 AI Act: Diese 8 sind seit 2025 tabu

Inhalt in Kürze

• Seit dem 2. Februar 2025 sind acht KI-Praktiken in der gesamten EU verboten — unabhängig von Branche oder Unternehmensgröße (Art. 5 EU AI Act).
• Betroffen sind auch ganz alltägliche Tools: Emotionserkennung am Arbeitsplatz, manipulative Chatbots und das ungezielte Abgreifen von Gesichtsbildern aus dem Netz.
• Verstöße kosten bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes — der höchste Bußgeldrahmen im gesamten AI Act.
• Die wichtigste Sofortmaßnahme: prüfen, ob eines Ihrer eingesetzten Systeme unter eine der acht Kategorien fällt. Wir zeigen, wie.

Viele Geschäftsführer kennen den AI Act nur als “kommt irgendwann 2026 oder 2027”. Das stimmt für die meisten Pflichten. Bei den verbotenen Praktiken ist es anders: Diese gelten bereits seit Februar 2025 scharf. Wer hier ein falsches Tool im Einsatz hat, riskiert das höchste Bußgeld der Verordnung — und zwar sofort.

Was Artikel 5 verbietet — die acht roten Linien

Der AI Act teilt KI in Risikoklassen ein. Ganz oben steht das unannehmbare Risiko: Praktiken, die so grundrechtsgefährdend sind, dass sie schlicht verboten werden. Artikel 5 listet sie abschließend auf. Durch den KI-Omnibus (Verordnung (EU) 2026/1744) kommen ab dem 2. Dezember 2026 zwei weitere Verbote hinzu: KI-Systeme, die ohne Einwilligung realistische intime oder sexuell eindeutige Darstellungen identifizierbarer Personen erzeugen oder manipulieren („Nudifier-Apps“), und KI-Systeme, die Missbrauchsdarstellungen von Kindern erzeugen oder manipulieren.

Die acht verbotenen Kategorien im Klartext:

Verbotene Praktik	Praxisbeispiel
Unterschwellige Manipulation	Chatbot, der Nutzer gezielt zu schädlichen Käufen drängt
Ausnutzen von Schutzbedürftigkeit	KI, die Alter, Behinderung oder Notlage ausnutzt
Social Scoring	Bewertung von Bürgern nach sozialem Verhalten
Predictive Policing per Profiling	Straftat-Vorhersage allein anhand von Persönlichkeitsmerkmalen
Ungezieltes Scraping von Gesichtern	Aufbau von Gesichtsdatenbanken aus dem Internet/Kameras
Emotionserkennung am Arbeitsplatz	Software, die “Stimmung” von Mitarbeitern misst
Biometrische Kategorisierung	Rückschluss auf Ethnie, Religion, sexuelle Orientierung
Echtzeit-Fernidentifizierung im öffentlichen Raum	Live-Gesichtserkennung durch Behörden (eng begrenzte Ausnahmen)

Quelle: Art. 5 EU AI Act, Klassifizierung nach Bundesnetzagentur.

Die zwei Verbote, die KMU wirklich treffen

Themen wie Social Scoring oder Predictive Policing betreffen den Mittelstand kaum – verboten sind sie aber nicht nur für Behörden, sondern für jeden Anbieter und Betreiber. Zwei Verbote landen dagegen mitten im Tagesgeschäft.

Emotionserkennung am Arbeitsplatz. Tools, die Mimik, Stimme oder Tippverhalten von Mitarbeitern auswerten, um Stress, Konzentration oder “Engagement” zu messen, sind verboten. Das taucht heute in Recruiting-Software, Call-Center-Analytics und manchen Produktivitäts-Dashboards auf. Eine eng gefasste Ausnahme gibt es nur für medizinische und Sicherheitszwecke.

Manipulative Systeme. KI, die mit unterschwelligen oder täuschenden Techniken Menschen zu Entscheidungen drängt, die ihnen schaden, ist tabu. Aggressive “Dark Pattern”-Bots im Vertrieb können hier hineinrutschen.

Was ein Verstoß kostet

Der AI Act staffelt seine Bußgelder. Für die verbotenen Praktiken nach Artikel 5 gilt der höchste Rahmen der gesamten Verordnung.

Zum Vergleich: Für Hochrisiko-Verstöße sind es “nur” 15 Mio. € oder 3 %. Das Verbot ist also die teuerste Stufe — und sie greift schon heute. Parallel droht bei personenbezogenen Daten zusätzlich die DSGVO mit bis zu 20 Mio. € oder 4 %. Beide Regime gelten nebeneinander.

In vier Schritten auf der sicheren Seite

1. KI-Bestand erfassen: Listen Sie jedes Tool mit KI-Funktion auf — auch Recruiting-, HR- und Vertriebssoftware. Schatten-KI nicht vergessen.
2. Gegen die acht Kategorien prüfen: Fällt eines der Systeme unter Artikel 5? Besonders auf Emotions- und Verhaltensanalyse achten.
3. Verträge und Datenblätter checken: Was wirbt der Anbieter? "Emotion analytics" oder "sentiment scoring" im Datenblatt ist ein Warnsignal.
4. Verbotene Systeme abschalten oder umkonfigurieren: Lässt sich die kritische Funktion deaktivieren, kann das Tool weiterlaufen. Sonst raus.

Lesetipp: Dieses Thema wird in unserem kostenlosen E-Book „KI sicher einsetzen — Der Leitfaden für Geschäftsführer” (93 Seiten) ausführlich behandelt. Jetzt herunterladen →

Aus der Praxis

In der Beratung sehen wir den Fehler selten beim großen, offensichtlichen System. Er steckt im Detail: eine Recruiting-Plattform, die nebenbei “Soft Skills aus dem Video-Interview” auswertet. Genau das ist Emotionserkennung — und im Bewerbungskontext doppelt heikel, weil hier auch noch der Beschäftigtendatenschutz greift. Wer solche Module bewusst abschaltet, behält das Tool und vermeidet das Risiko.

Ihr nächster Schritt

Mehr zur Einordnung Ihrer Systeme lesen Sie in unserem Beitrag zu den Hochrisiko-KI-Systemen nach AI Act und zur AI-Act-Beratung in Hamburg. Wer KI strukturiert einführen will, findet in unserer KI-Richtlinie für Unternehmen den passenden Rahmen.

---

Häufige Fragen (FAQ)

Seit wann gelten die verbotenen KI-Praktiken?

Seit dem 2. Februar 2025. Artikel 5 des EU AI Act ist eine der ersten Vorschriften, die scharf gestellt wurde — lange vor den Hochrisiko-Pflichten.

Gilt das Verbot auch, wenn ich die KI nur eingekauft habe?

Ja. Das Verbot trifft jeden, der ein solches System in der EU einsetzt — unabhängig davon, ob Sie es selbst entwickelt oder nur lizenziert haben.

Ist Emotionserkennung immer verboten?

Am Arbeitsplatz und in der Bildung ja. Es gibt eng begrenzte Ausnahmen für medizinische und Sicherheitszwecke. Recruiting und Mitarbeiter-Monitoring fallen unter das Verbot.

Was kostet ein Verstoß gegen Artikel 5?

Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist. Das ist der höchste Bußgeldrahmen des AI Act.

Wie finde ich heraus, ob mein Tool betroffen ist?

Erfassen Sie alle KI-Systeme und prüfen Sie sie gegen die acht Kategorien. Achten Sie besonders auf Begriffe wie “Emotion”, “Sentiment” oder “Verhaltensanalyse” in Datenblättern. Im Zweifel hilft eine fachliche Einschätzung.