Welche Risikoklassen es gibt und ab wann welche Pflichten gelten
Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Sie unterscheidet verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten wie generative KI und übrige Anwendungen, für die über Artikel 4 hinaus kaum Pflichten gelten.
Seit dem 2. Februar 2025 gelten die Verbote nach Artikel 5 und die Pflicht nach Artikel 4, Maßnahmen für die KI-Kompetenz zu ergreifen. Artikel 4 gilt seit dem 27. Juli 2026 in der Fassung der Verordnung (EU) 2026/1744. Verboten ist etwa die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen. Seit dem 2. August 2025 gelten Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Seit dem 2. August 2026 gelten die meisten übrigen Vorschriften, darunter die Transparenzpflichten nach Artikel 50. Anbieter generativer KI-Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, haben für die maschinenlesbare Kennzeichnung nach Artikel 50 Abs. 2 bis zum 2. Dezember 2026 Zeit. Die Pflichten für Hochrisiko-Systeme gelten nach derselben Änderung ab dem 2. Dezember 2027 (Anhang III) und ab dem 2. August 2028 (Anhang I).
Was Artikel 4 von Arbeitgebern verlangt
Betreiber ist nach Artikel 3 Nr. 4, wer ein KI-System in eigener Verantwortung einsetzt, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen umgehen. Diese Fassung gilt seit dem 27. Juli 2026, eingeführt durch die Verordnung (EU) 2026/1744. Ein bestimmtes Niveau an KI-Kompetenz muss die Organisation dabei für niemanden garantieren.
Die gute Nachricht: Die Verordnung schreibt weder Curriculum noch Zertifikat vor. Die Maßnahmen richten sich nach den technischen Kenntnissen, der Erfahrung sowie der Aus- und Fortbildung dieser Personen, nach dem Einsatzkontext und nach den Menschen, bei denen die Systeme eingesetzt werden.
Wo Organisationen die KI-Verordnung missverstehen
Viele Organisationen behandeln die Verordnung als reines IT-Thema und übersehen dabei ihre Tragweite. Die Pflicht nach Artikel 4 trifft jede Organisation, die KI-Systeme einsetzt, und damit jeden Bereich, in dem Mitarbeitende mit KI-Tools arbeiten. Umgekehrt gilt ein Lernsystem mit KI-Funktionen keineswegs automatisch als hochriskant. Die Einstufung hängt vom konkreten Einsatzzweck ab und lässt sich nur im Einzelfall klären.
Sobald KI über Menschen mitentscheidet, lohnt sich ein genauer Blick. Systeme, die in Anhang III aufgeführt sind, gelten in der Regel als hochriskant. Artikel 6 Abs. 3 lässt Ausnahmen zu, etwa wenn ein System nur eine eng gefasste Verfahrensaufgabe erfüllt. Anhang III Nr. 3 erfasst Systeme, die in Einrichtungen der allgemeinen und beruflichen Bildung den Zugang bestimmen oder Lernergebnisse bewerten. Unter Nr. 4 fallen Systeme für Recruiting, etwa zum Filtern von Bewerbungen oder zur Bewertung von Kandidatinnen und Kandidaten, sowie Systeme, die Entscheidungen über Beförderungen oder Kündigungen beeinflussen, Aufgaben nach individuellem Verhalten zuweisen oder Leistung und Verhalten von Mitarbeitenden überwachen und bewerten. Ab dem 2. Dezember 2027 gilt für solche Systeme: Bevor ein Arbeitgeber sie am Arbeitsplatz einsetzt, informiert er nach Artikel 26 Abs. 7 die Arbeitnehmervertretung und die betroffenen Mitarbeitenden. Die menschliche Aufsicht überträgt er Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis (Artikel 26 Abs. 2).
In Deutschland hat der Betriebsrat außerdem ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG, und zwar unabhängig von der Risikoklasse. Es greift bereits, wenn ein KI-System Verhalten oder Leistung der Mitarbeitenden überwachen kann. Nach der Rechtsprechung des Bundesarbeitsgerichts genügt es, dass eine technische Einrichtung dazu objektiv geeignet ist.