EU AI Act & KI-Dienstplanung: Wann Schichtplanungs-KI zum Hochrisiko-System wird

Gilt der EU AI Act überhaupt für meinen Dienstplan?

Der EU AI Act (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft, seine Regeln greifen aber gestaffelt über mehrere Jahre. Für die Dienstplanung ist er relevant, sobald KI mitentscheidet, wer wann welche Schicht bekommt – und je nachdem, was das System dabei tut, reicht die Bandbreite von „völlig unkritisch“ bis „Hochrisiko-System mit umfangreichen Pflichten“. Die entscheidende Frage ist deshalb nicht, ob irgendwo „KI“ draufsteht, sondern was die Software mit den Daten der Beschäftigten macht.

Die Zeitschiene: Was seit wann gilt

Ursprünglich sollten die Hochrisiko-Pflichten für Personalmanagement-KI schon am 2. August 2026 greifen. Mit dem sogenannten „Digital Omnibus“ haben sich Rat und Parlament am 7. Mai 2026 darauf verständigt, diesen Start auf den 2. Dezember 2027 zu verschieben. Der zusätzliche Vorlauf ändert aber nichts daran, dass Verbote und Kompetenzpflichten längst gelten – und dass die DSGVO ohnehin unabhängig vom AI Act zu beachten ist.

Wann Schichtplanungs-KI als Hochrisiko-System zählt

Anhang III Nr. 4 des AI Act nennt „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ als Hochrisiko-Bereich. Zwei Fallgruppen sind dort beschrieben:

• Recruiting und Auswahl (Buchstabe a): KI, die gezielt Stellenanzeigen ausspielt, Bewerbungen automatisch filtert und analysiert oder Bewerber:innen bewertet – der klassische Recruiting-Fall.
• Steuerung im laufenden Arbeitsverhältnis (Buchstabe b): KI, die über Arbeitsbedingungen, Beförderung oder Kündigung entscheidet, Aufgaben anhand des individuellen Verhaltens oder persönlicher Eigenschaften und Merkmale zuteilt oder die Leistung und das Verhalten von Beschäftigten überwacht und bewertet.

Für die Dienstplanung ist Buchstabe b entscheidend. Verteilt eine KI Schichten oder Aufgaben danach, wie sich einzelne Beschäftigte in der Vergangenheit verhalten haben – etwa nach einer Kennzahl für „Zuverlässigkeit“, nach Einsprungbereitschaft oder Arbeitstempo –, oder misst und bewertet sie die Leistung am Dienst, dann ist sie ein Hochrisiko-System. Dasselbe gilt, wenn dieselbe Software zusätzlich zur Leistungs- oder Verhaltensüberwachung eingesetzt wird.

Und wann nicht: der Unterschied zwischen Optimierung und Profilbildung

Nicht jede automatische Dienstplanung fällt darunter. Der AI Act zielt auf Systeme, die Menschen anhand persönlicher Merkmale bewerten oder überwachen – nicht auf reine Bedarfs- und Regeloptimierung. Eine KI, die nur den Personalbedarf gegen Öffnungs- bzw. Versorgungszeiten, gesetzliche Grenzen (Höchstarbeitszeit, Ruhezeiten), hinterlegte Qualifikationen und die von den Beschäftigten selbst angegebenen Verfügbarkeiten und Wünsche optimiert, teilt keine Aufgaben „auf Grundlage individuellen Verhaltens“ zu.

Zusätzlich enthält Art. 6 Abs. 3 einen Filter: Ein System, das nur eine eng umrissene Verfahrensaufgabe erfüllt oder das Ergebnis menschlicher Arbeit lediglich verbessert bzw. eine bereits vorbereitete menschliche Einschätzung ergänzt, ohne sie zu ersetzen, gilt nicht als hochriskant – es sei denn, es erstellt Profile natürlicher Personen. Genau dieses Profiling ist die rote Linie: Sobald einzelne Beschäftigte anhand ihres Verhaltens bewertet werden, greift die Ausnahme nicht mehr.

Praktisch heißt das: Ob Ihr Dienstplan-Tool Hochrisiko ist, entscheidet nicht das Etikett „KI“, sondern seine Funktion. Lassen Sie sich vom Anbieter schriftlich bestätigen, ob und wie das System Beschäftigte bewertet oder überwacht – das ist die Grundlage jeder weiteren Einordnung.

Was verboten ist – auch schon heute

Zwei Verbote gelten bereits seit dem 2. Februar 2025 und sind für den Betriebsalltag wichtiger, als viele denken:

• Emotionserkennung am Arbeitsplatz: KI, die aus Stimme, Mimik oder Verhalten auf Gefühlszustände von Beschäftigten schließt, ist am Arbeitsplatz verboten – erlaubt bleibt sie nur aus medizinischen oder sicherheitstechnischen Gründen (Art. 5 Abs. 1 Buchst. f).
• Social Scoring: Das Bewerten und Einstufen von Personen anhand ihres Sozialverhaltens über verschiedene Kontexte hinweg ist untersagt (Art. 5 Abs. 1 Buchst. c).

Für die Dienstplanung bedeutet das: Ein System, das etwa per Kamera oder Sprachanalyse die „Motivation“ oder „Stimmung“ im Team messen würde, ist unabhängig von allen Fristen unzulässig. Diese Grenze gilt schon jetzt.

Pflichten für Arbeitgeber als Betreiber

Der AI Act unterscheidet zwischen Anbietern, die ein System entwickeln, und Betreibern, die es einsetzen. Als Arbeitgeber sind Sie in der Regel Betreiber – und haben auch dann eigene Pflichten, wenn die Software von einem Dritten stammt. Zwei davon gelten schon jetzt, unabhängig von der Hochrisiko-Frist:

• KI-Kompetenz (Art. 4): Seit dem 2. Februar 2025 müssen Sie dafür sorgen, dass Personen, die mit KI-Systemen arbeiten – also auch die Dienstplanenden –, über ausreichende Kenntnisse verfügen, um Vorschläge einordnen und hinterfragen zu können.
• Transparenz (Art. 50): Seit dem 2. August 2026 muss offengelegt werden, wenn Beschäftigte mit einer KI interagieren, etwa mit einem Chatbot für Urlaubsanträge oder Schichttausch.

Kommt ab Dezember 2027 ein Hochrisiko-System zum Einsatz, treten die Betreiberpflichten nach Art. 26 hinzu: bestimmungsgemäße Nutzung, geeignete menschliche Aufsicht sicherstellen (Art. 14), Eingabedaten müssen für den Zweck relevant sein, und die Protokolle des Systems sind aufzubewahren. Besonders wichtig im Arbeitsverhältnis ist Art. 26 Abs. 7: Vor der Inbetriebnahme eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Sie die betroffenen Beschäftigten und ihre Vertretung informieren.

DSGVO bleibt: Art. 22 und die menschliche Letztentscheidung

Der AI Act ersetzt den Datenschutz nicht – er kommt hinzu. Für den Dienstplan bleibt Art. 22 DSGVO zentral: Beschäftigte haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt. Eine vollautomatisch zugeteilte Schicht, gegen die niemand mehr eingreift, kann darunter fallen.

Der Ausweg ist die menschliche Letztentscheidung: Sobald eine planende Person den KI-Vorschlag inhaltlich prüft, bei Bedarf anpasst und aktiv freigibt, liegt keine „ausschließlich automatisierte“ Entscheidung mehr vor. Entscheidend ist, dass die Prüfung echt ist – ein bloßes Durchwinken des Vorschlags genügt nicht. Wer KI in der Dienstplanung einsetzt, sollte diesen Freigabeschritt bewusst als Kontrollpunkt gestalten und dokumentieren.

Betriebsrat und MAV: Mitbestimmung bei KI im Dienstplan

Die Einführung einer KI-gestützten Dienstplanung ist fast nie allein Sache der Geschäftsführung. Wo ein Betriebsrat besteht, greift § 87 Abs. 1 Nr. 6 BetrVG: Technische Einrichtungen, die geeignet sind, das Verhalten oder die Leistung der Beschäftigten zu überwachen, sind mitbestimmungspflichtig – und eine Software, die Ist-Zeiten erfasst und Schichten zuteilt, ist dafür der Standardfall. Zusätzlich ist die Planung der Einführung nach § 90 BetrVG mit dem Betriebsrat zu beraten, und der Betriebsrat darf zur Beurteilung von KI ausdrücklich einen Sachverständigen hinzuziehen (§ 80 Abs. 3 BetrVG).

In kirchlichen und diakonischen Einrichtungen – im Gesundheitswesen die Regel – tritt an die Stelle des Betriebsrats die Mitarbeitervertretung (MAV) nach MAVO bzw. MVG-EKD mit vergleichbaren Beteiligungsrechten. In beiden Fällen gilt: Eine Betriebs- bzw. Dienstvereinbarung, die Zweck, Datenumfang, Aufbewahrung und die menschliche Letztentscheidung festlegt, ist der sauberste Weg, KI im Dienstplan rechtssicher einzuführen.

Was Gesundheitsbetriebe jetzt tun sollten

1. Bestandsaufnahme: Prüfen, welche eingesetzte oder geplante Software KI enthält und was sie konkret tut – reine Bedarfsoptimierung oder Bewertung und Überwachung einzelner Beschäftigter?
2. Anbieter in die Pflicht nehmen: Schriftlich klären lassen, ob das System als Hochrisiko-KI nach Anhang III eingestuft ist und welche Nachweise (Dokumentation, Konformität) der Anbieter bereitstellt.
3. Menschliche Freigabe verankern: Den Schritt, in dem eine planende Person den KI-Vorschlag prüft und freigibt, verbindlich festlegen – als Schutz vor Art. 22 DSGVO und als echte menschliche Aufsicht.
4. KI-Kompetenz aufbauen: Dienstplanende schulen, damit sie Vorschläge verstehen, hinterfragen und korrigieren können (Pflicht seit Februar 2025).
5. Mitbestimmung früh einbinden: Betriebsrat oder MAV von Anfang an beteiligen und eine Betriebs- bzw. Dienstvereinbarung zur KI-Nutzung abschließen.
6. Verbote beachten: Keine Emotions- oder Stimmungserkennung am Arbeitsplatz – dieses Verbot gilt bereits, nicht erst 2027.

Für den rechtssicheren Weg zählt weniger das Etikett „KI“ als die Frage, ob eine Software Beschäftigte bewertet – oder ob sie nur den Bedarf gegen Regeln, Verfügbarkeiten und Qualifikationen optimiert und die letzte Entscheidung bei der planenden Person lässt. Im apotower-Vergleich für Gesundheitsbetriebe liegt Aplano vorn: Die automatische Dienstplanung schlägt Besetzungen anhand von Verfügbarkeiten, Qualifikationen und gesetzlichen Grenzen vor, den fertigen Plan gibt die planende Person frei – Soll, Ist und Stundenkonten laufen dabei in einem Ablauf zusammen. So bleibt die menschliche Letztentscheidung erhalten, statt Beschäftigte nach persönlichen Merkmalen zu sortieren.