Algorithmisches Management – Arbeitsanweisungen durch künstliche Intelligenz
Künstliche Intelligenz (KI) hat das Potenzial, die Arbeitswelt stärker und vielfältiger zu verändern als bisherige Technologien. Ihr Einsatz in der Arbeitswelt ist längst keine ferne Möglichkeit mehr, sondern Realität. KI-Anwendungen werben mit Objektivität, einer höheren Arbeitszufriedenheit sowie Mitarbeiterbindung und vor allem: Effizienz.
Die Einsatzfelder decken vom Recruiting über das Personalmanagement bis hin zur langfristigen Personalentwicklung den gesamten Zyklus eines Arbeitslebens ab. Organisation und Managementaufgaben werden schon jetzt vielerorts von automatisierten Entscheidungssystemen übernommen. Personalanalytik (human resource analytics), bspw. zielt darauf ab, Mitarbeiter* einzustellen und ihre Leistung zu bewerten. Ein weiteres anschauliches Anwendungsbeispiel bietet „algorithmisches Management“ – Mitarbeiter erhalten zunehmend Arbeitsanweisungen von digitalen Systemen, die üblicherweise vom Arbeitgeber im Rahmen seines Weisungsrechts nach § 106 S. 1 GewO erteilt werden.
Was ist algorithmisches Management?
Das algorithmische Management (algorithmic management) umfasst die Personaleinsatzplanung sowie die Koordination und Kontrolle von Mitarbeiteraktivitäten. Diese Form des KI-Einsatzes ist im Begriff, betriebliche Strukturen in ihrer Funktionsweise zu verändern.
So erhalten bspw. Mitarbeiter in der Logistikbranche von einem Algorithmus errechnete Arbeitsanweisungen über ein digitales Empfangsgerät. In Lagerhäusern leiten sog. „Lead-me“ Wagen die Mitarbeiter von einem Lagerort zum anderen und geben Anweisungen, welches Produkt in welcher Menge an Artikeln an einer bestimmten Station entnommen werden soll. Im Personen- oder Gütertransport entscheidet KI über die Route der fahrzeugführenden Mitarbeiter, gibt Tankstellen, Pausenzeiten und -orte vor. Im Einzelhandel werten KI-Systeme Daten aus, um die Kundennachfrage vorherzusagen und Entscheidungen über den effizientesten Personaleinsatz zu treffen.
KI als Weisungsgeber
Das Weisungsrecht des Arbeitgebers gem. § 106 Abs. 1 GewO begründet die persönliche Abhängigkeit des Arbeitnehmers und ist prägendes Merkmal des Arbeitsverhältnisses. Völlig frei bei der Ausübung des Weisungsrechts ist der Arbeitgeber jedoch nicht: Er muss stets nach „billigem Ermessen“ entscheiden, d. h. die Umstände des Einzelfalls und die berechtigten Interessen des Arbeitnehmers berücksichtigen.
In der Praxis wird das arbeitgeberseitige Weisungsrecht bzw. dessen Ausübung häufig auf nachgelagerte Führungskräfte übertragen. Die rechtliche Grundlage hierfür findet sich im Weisungsrecht selbst. Der Inhalt der Arbeitsleistung umfasst dann u.a., das Weisungsrecht für den Arbeitgeber gegenüber anderen Arbeitnehmern auszuüben.
Doch ist es auch möglich, das Weisungsrecht auf KI-Systeme zu übertragen? Das deutsche Arbeitsrecht stellt keinen Grundsatz auf, dass Weisungen und Entscheidungen von einem Menschen vorzunehmen sind. Da zudem die von einer KI ausgeführte Weisung jedenfalls vom Arbeitgeber vordefinierte Bedingungen beachtet, können Arbeitgeber ihr Weisungsrecht einer KI übertragen. Die von der KI ausgeführten Weisungen sind dann dem Arbeitgeber zuzurechnen.
Sobald eine Weisung jedoch „unbillig“ ist, muss der Arbeitnehmer die Weisung nicht befolgen. Der Arbeitgeber hat in Zweifelsfällen darzulegen und zu beweisen, ob eine Entscheidung „billig“ war. In diesem Zusammenhang stellt sich insbesondere die Frage, ob KI-Weisungen per se unbillig sein könnten, weil keine umfassende Interessenabwägung stattfindet. Denn KI-Weisungen beruhen i.d.R. auf den der KI zugänglichen oder selbst erhobenen Daten. Eine KI kennt zumeist nicht die Umstände des einzelnen Mitarbeiters. Zudem hat KI große Schwierigkeiten, Gerechtigkeitsprinzipien und Werteordnungen in eine Entscheidung mit einzubeziehen (ethical reasoning).
Es ist daher empfehlenswert, weisungsgebende KI-Systeme mit einer Remonstrationsfunktion auszurüsten und Mitarbeiter anzuhalten, von der Funktion Gebrauch zu machen, sobald sie eine KI-Anweisung für unbillig halten.
Datenschutzrechtliche Aspekte – „smarte“ Software braucht „smarte“ Menschen – Letztentscheidungsrecht auch bei Weisungen?
Eine wesentliche Beschränkung des Einsatzes von KI findet sich in Art. 22 Abs. 1 DSGVO: Entscheidungen, die gegenüber einer Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, dürfen nicht ausschließlich auf einer automatisierten Datenverarbeitung beruhen. Das Verbot beruht auf dem Gedanken, dass Maschinen nicht über Menschen entscheiden sollen, um das Individuum vor der „Versachlichung“ in Form einer bloßen Datensammlung zu schützen. Entscheidend ist, ob durch die KI-Entscheidung eine unmittelbare rechtliche Wirkung für den Arbeitnehmer entsteht. Eine Weisung i.S.d. § 106 GewO ist hingegen zumeist schlicht eine Konkretisierung der Arbeitspflicht ohne Veränderung der Rechtsposition des Arbeitnehmers. Weist ein KI-System etwa den Fahrern eines Lieferdienstes einen bestimmten Tourenplan zu, beruht dies lediglich auf einzelnen personenbezogenen Daten wie dem Standort, und nicht darauf, dass sie die aufgrund ihrer in einem Persönlichkeitsprofil ermittelten Fähigkeiten besonders effizient erledigen können. In diesem Fall ist keine Letztentscheidung durch einen Menschen notwendig.
Verwendet der Arbeitgeber personenbezogene Daten zur automatisierten Entscheidungsfindung i.S.d. Art. 22 DSGVO, verpflichten Art. 13 Abs. 2 Buchst. f und Art. 15 Abs. 1 Buchst. h DSGVO zu aussagekräftigen Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person.
Mitbestimmungsrecht des Betriebsrats bei Einführung und Anwendung eines KI-Systems
Die Einführung eines KI-Systems, das ein algorithmisches Management ermöglicht, unterliegt der Mitbestimmung. Nach § 87 Abs. 1 Nr. 6 BetrVG steht dem Betriebsrat bei der Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen, ein Mitbestimmungsrecht zu. Dabei ist es nach der ständigen Rechtsprechung unbeachtlich, ob der Arbeitgeber mit der technischen Einrichtung eine Beurteilung von Verhalten und Leistung bezweckt oder tatsächlich vornimmt; maßgeblich ist, wie es bei einem KI-System anzunehmen ist, allein die objektive Eignung der Einrichtung zur Überwachung.
Darüber hinaus sind § 90 Abs. 1 Nr. 3 BetrVG (Unterrichtungs- und Beratungsrechte bei der Planung des Einsatzes von KI), § 80 Abs. 3 S. 2 BetrVG (Recht zur Hinzuziehung eines Sachverständigen bei Einführung und Anwendung von KI) sowie ggf. § 95 Abs. 2a BetrVG (Zustimmungsbedürfnis bei KI-generierten Auswahlrichtlinien) zu beachten.
Algorithmisches Management und Plattformarbeit
Algorithmisches Management wird auch im Rahmen von digitalen Arbeitsplattformen eingesetzt.
Vor diesem Hintergrund hat die Europäische Kommission einen Entwurf für eine Richtlinie zur Verbesserung der Plattformarbeit erstellt, die drei Ziele in Bezug auf algorithmisches Management bei digitalen Arbeitsplattformen verfolgt:
- Algorithmen durch digitale Arbeitsplattformen sollen transparenter genutzt werden.
- Es soll gewährleistet werden, dass eine von Menschen durchgeführte Überwachung der Einhaltung der Arbeitsbedingungen erfolgt.
- Das Recht automatisierte Entscheidungen anzufechten, soll sowohl für Arbeitnehmer als auch für echte Selbstständige gewährleistet werden.
Nachdem der Entwurf im Dezember 2022 vom Europaparlament angenommen wurde, ist er derzeit Gegenstand des Trilogs von Parlament, Kommission und Ministerrat.
Potenziale von KI nutzen
KI ist prädestiniert für den Einsatz im Arbeitsleben und kann dabei helfen, täglich anfallende Auswahl- und Abwägungsprozesse zu automatisieren und die Effizienz des Unternehmens zu steigern. Mit den Potenzialen des KI-Einsatzes in Unternehmen sind neue Herausforderungen verbunden. Umso wichtiger ist es, die rechtlichen Rahmenbedingungen von vorneherein abzustecken. Nur dann kann der Einsatz von KI auch dauerhaft von Vorteil sein.
This article is also available in English.
*Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.
