Veröffentlicht am 10. Oktober 2024
Künstliche Intelligenz, AI Act und algorithmisches Management sind in aller Munde. Aber was ist (zukünftig) zu beachten?
Der europäische AI Act trat unter beachtlicher medialer Berichterstattung mit 1. August 2024 in Kraft. Die darin vorgesehenen Vorgaben werden überwiegend ab August 2026 gelten. Für viele technische Anwendungen gibt es jedoch Regelungen, die bereits jetzt zu beachten sind.
Automatisierte Entscheidungen einschließlich Profiling
Anders als der AI Act ist Art 22 DSGVO bereits seit 2018 in Kraft und zu beachten. In der arbeitsrechtlichen Praxis spielte die Regelung, deren Verletzung auch Geldbußen zur Folge haben kann, bisher keine bedeutende Rolle. Spätestens seit der Entscheidung des EuGH in der Rechtssache Schufa Scoring ist das anders.
Nach Art 22 Abs 1 DSGVO hat jede betroffene Person das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber eine rechtliche Wirkung entfaltet, oder sie in ähnlicher Weise erheblich beeinträchtigt. Komplexe automatisierte Entscheidungsprozesse mittels KI sind daher künftig jedenfalls verboten. Viele Autor:innen sind der Ansicht, dass Art 22 DSGVO auch bereits dann gilt, wenn die Entscheidung nicht ausschließlich automatisiert getroffen wird. Demnach sind auch algorithmische Empfehlungen an Art 22 DSGVO zu messen. Setzt sich diese Auffassung durch, hätte dies weitreichende Folgen: Erfasst wären nicht nur das Recruiting, die Bonuszumessung oder Entscheidungen über die Beförderung von Mitarbeiter:innen, sofern diesen ein (teil-)automatisierter Prozess zugrunde liegt. Werden etwa Bewerbungen automatisch beurteilt und „gerankt", liegt bereits eine automatisierte Entscheidung vor.
Werden derartige Systeme angeschafft, sollte der arbeits- und datenschutzrechtliche Aspekt – auch in Anbetracht möglicher Rechtsfolgen (Geldbuße, Schadenersatz, Nichtigkeit der Maßnahme) – rechtzeitig berücksichtigt werden.
Betriebsverfassungsrecht
Parallel zur DSGVO sind die Vorschriften des Betriebsverfassungsrechts zu beachten. Algorithmisches Management benötigt personenbezogene Daten, um Entscheidungen zu treffen oder Empfehlungen aussprechen zu können. Damit sind Betriebsvereinbarungen in aller Regel unausweichlich und rechtlich notwendig. Dies gilt sogar für Bewerber:innen, wenn sich die (elektronische) Bewerbung als qualifizierter Personalfragebogen darstellt. In diesem Fall unterliegen selbst Personen, die noch nicht Arbeitnehmer:innen sind, dem Mitwirkungsrecht des Betriebsrats in Form einer notwendigen Betriebsvereinbarung.
