KI und Arbeitsschutz – Chancen und Risiken

Kaum ein Thema wird derzeit intensiver und kontroverser diskutiert als KI (Künstliche Intelligenz). Spätestens seit ChatGPT und Microsoft Copilot ist KI im Alltag der Menschen angekommen – und damit auch an vielen Arbeitsplätzen. Die Nutzung von KI-Systemen kann bestimmte Arbeiten spürbar erleichtern und beschleunigen, wirft aber gleichzeitig zahlreiche Rechtsfragen insbesondere im datenschutzrechtlichen Bereich auf. Darüber hinaus entstehen durch die Einbindung von KI in die Arbeitsabläufe von Betrieben einerseits neue arbeitsschutzrechtliche Fragen und Pflichten, andererseits kann KI jedoch auch im Arbeitsschutz selbst eingesetzt werden, um diesen effektiver zu gestalten und beispielsweise die Anzahl der Arbeitsunfälle zu reduzieren.

Die Rechtsanwältin und Fachanwältin für Arbeitsrecht Meike Christine Rehner beleuchtet in diesem Beitrag diesen beiden Blickwinkeln auf das Thema KI und Arbeitsschutz und den daraus resultierenden Chancen und Risiken.

Top-Tipp: Sie wollen up to date in Sachen Recruiting, Verträge, Datenschutz und Mitbestimmung sein? Meike Christine Rehner gibt gemeinsam mit Ihren Kollegen Dr. Michael Witteler und Ivan Evdokimov in unserem Seminar „KI und Arbeitsrecht" weitere Praxis-Tipps zum Thema.

Wird KI im Betrieb eingesetzt, ist dies bei der Gefährdungsbeurteilung gemäß § 5 ArbSchG und § 3 ArbStättV für die jeweiligen Arbeitsplätze zu berücksichtigen. Der Einsatz einer intelligenten Maschine als Arbeitsmittel kann zudem eine umfassende Gefährdungsbeurteilung nach § 3 BetrSichV erforderlich machen. Bei jeder Gefährdungsbeurteilung, die potenziell gesundheitsschädliche Auswirkungen von KI-Systemen zu bewerten hat, ist danach zu fragen, welche Folgen die KI-Systeme für die Gesundheit der Arbeitnehmer haben können. Es ist zu untersuchen, ob die Arbeitsbelastung zunimmt oder sonstige Gefährdungen für die physische und psychische Gesundheit bestehen und wie sichergestellt wird, dass Überlastungen vermieden werden.

Auch ist die Entscheidung zu treffen, wer die KI und ihre Anweisungen kontrolliert. Aufgrund zunehmender Komplexität von vernetzten und intelligenten Systemen stoßen herkömmliche Methoden zur Bestimmung der Sicherheitsintegrität an ihre Grenzen, wenn es um die Beurteilung einer KI-basierten Software geht. Reichen herkömmliche Kenntnisse innerhalb der Arbeitsschutzorganisation nicht aus, können Schulungen für Fachkräfte für Arbeitssicherheit und andere Akteure des Arbeitsschutzes notwendig werden, damit diese den Arbeitgeber auch bei der Nutzung von KI adäquat beraten können.

Für jedes Arbeitsmittel gelten die produktsicherheitsrechtlichen Beschaffenheitsanforderungen aus § 5 Abs. 3 BetrSichV. Betriebssicherheitsrechtliche Besonderheiten in Bezug auf KI-gestützte Arbeitsmittel gibt es im Übrigen derzeit nicht. In Zukunft wird insoweit maßgeblich auf die Anforderungen aus der EU-Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) abzustellen sein, die das Europäische Parlament am 13. März 2024 verabschiedet hat.

Die KI-VO legt den regulatorischen Schwerpunkt auf Anforderungen an Hochrisiko-KI-Systeme. Gemäß Art. 6 Abs. 2 KI-VO iVm Anhang III Ziffer 4 gelten unter anderem solche KI-Systeme als Hochrisiko-KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere für die Bekanntmachung freier Stellen, das Sichten oder Filtern von Bewerbungen und das Bewerten von Bewerbern in Vorstellungsgesprächen oder Tests. Gleiches gilt für KI-Systeme, die bestimmungsgemäß für Entscheidungen über Beförderungen und über Kündigungen, für die Aufgabenzuweisung sowie für die Überwachung und Leistungsbewertung von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen. Arbeitgeber, die solche Hochrisiko-KI nutzen möchten, werden besondere Pflichten treffen, etwa die Pflicht zur Verwendung entsprechend der Gebrauchsanweisung, die Pflicht zur Einführung der Eingabedaten entsprechend der Zweckbestimmung, oder die Pflicht zur Aufbewahrung von Protokollen, Art. 29 KI-VO. Unter Umständen werden Arbeitgebern als Nutzern auch noch weiteren Pflichten auferlegt, etwa wenn sie wesentliche Änderungen an einem Hochrisiko-KI-System vornehmen, Art. 28 I KI-VO. Dann treffen sie dieselben Pflichten wie die Anbieter von Hochrisiko-KI-Systemen.

Durch Digitalisierung und Vernetzung von Arbeitsmitteln werden Arbeitsumgebungen zunehmend komplexer. Das erschwert die Risikobewertung im Arbeitsschutz. Allerdings kann KI nicht nur bei den zu erbringenden Tätigkeiten, sondern auch im betrieblichen Arbeitsschutz selbst eingesetzt werden, um Abläufe zu beschleunigen und die Risikobewertung zu erleichtern. KI-Systeme können Gesundheitsdaten, Sicherheitsprotokolle und Unfallberichte auswerten, um Muster zu erkennen, die auf potenzielle Gefahren hinweisen. Zudem sind solche Systeme in der Lage, Gefahrensituationen vorausschauend zu erkennen und Beschäftigte frühzeitig auf die Risiken hinzuweisen. Daneben können KI-Systeme aber auch weitere technologische und rechtliche Entwicklungen in Zukunft befeuern. KI-basierte Systeme können viel schneller für den operativen Tagesalltag notwendige Informationen aus Dokumenten filtern, als es Menschen können. Sie können zum Beispiel dabei helfen, in wenigen Sekunden aus allen Sicherheitsdatenblättern die Informationen zusammenzustellen und aufzubereiten, die konkret benötigt werden. Mittels KI-gestützter Analysen können Unternehmen die für den Arbeits- und Gesundheitsschutz relevanten Daten in Echtzeit einsehen, wie beispielsweise die Bildschirmzeit von Beschäftigten. Schließlich können KI-Systeme Vorgänge übernehmen, die für die Beschäftigten mit gesundheitlichen Risiken verbunden wären, wie beispielweise Qualitätsprüfungen.

Wenngleich potenzielle Chancen und Risiken von KI vielfältig diskutiert werden, gibt es wenig empirische Evidenz, mit welchen Veränderungen der Einsatz von KI tatsächlich verbunden ist. Grund dafür ist, dass der großen Aufmerksamkeit für das Thema eine vergleichsweise geringe Datenbasis zu bereits eingesetzter KI aus der Perspektive der Beschäftigten gegenübersteht.

Zweifelsohne können infolge der Nutzung von KI in der Arbeitswelt neue oder verstärkte Belastungen für Beschäftigte auftreten. Diese äußern sich beispielsweise durch eine steigende Arbeitsintensität, Zunahme repetitiver Arbeit, höherer Technikabhängigkeit und damit verbundener geringerer Kontrolle sowie die Gefahr sozialer Isolation.

Im Hinblick auf den Einsatz von KI auf organisationaler Ebene besteht zudem das Risiko einer faktisch kontinuierlichen Überwachung von Beschäftigten, die arbeitsrechtlich problematisch und insbesondere auch mit datenschutzrechtlichen Compliance-Risiken verbunden ist. Der Arbeitgeber muss sicherstellen, dass er in der Lage ist, datenschutzrechtliche Auskunftsersuchen zu erfüllen und muss den Überblick darüber behalten, welche Daten von welchen Systemen verarbeitet werden und wie diese Daten in Entscheidungen einfließen. Auch muss er personenbezogene Daten so verarbeiten, dass ihre Sicherheit und Vertraulichkeit hinreichend gewährleistet ist. Eine weitere Schwierigkeit besteht darin, dass KI sehr große Datenmengen aus vielfältigen unterschiedlichen Quellen in hoher Geschwindigkeit analysiert. Das Prinzip der Datenminimierung nach Art. 5 Abs. 1 c) DS-GVO fordert aber, das technische System zur Datenverarbeitung so zu gestalten, dass es seine Funktion mit möglichst wenig personenbezogenen Daten erfüllen kann. Es ist deshalb das geringste Maß an Personenbezug zu wählen, das zur Zweckerreichung bereits geeignet ist, wie etwa durch Anonymisierung. Wegen des Verbots automatisierter Entscheidungen muss der Anwender zudem sicherstellen, dass entsprechende Software immer nur als Entscheidungshilfe herangezogen wird, sie darf die Personalentscheidung also nicht vorwegnehmen.

Auch sind Diskriminierungen durch Algorithmen zu befürchten. Insbesondere Diskriminierungstatbestände in der Vertragsanbahnung stellen für den Arbeitgeber ein hohes Risiko dar. Arbeitgeber sollten vor dem Einsatz von KI-gestützten Anwendungen daher die Qualität des Datenbestands kritisch hinterfragen. Auch ist die Einforderung von Nachweisen zu Qualitätskontrollen der Anbieter ratsam. Die Anwendungen sollten so programmiert sein, dass sie weder unmittelbar noch mittelbar nach Merkmalen des § 1 AGG fragen, da diese als Indiz für eine Diskriminierung in Betracht kommen. Bei selbstlernenden Algorithmen bedarf es einer regelmäßigen, zu dokumentierenden Qualitätskontrolle, um Diskriminierungsrisiken zu reduzieren.

Darüber hinaus muss der Arbeitgeber betriebsverfassungsrechtliche Vorschriften beachten. Zu denken ist dabei an die Unterrichtungspflicht aus § 90 Abs. 1 Nr. 3 BetrVG, Zustimmungserfordernisse aus § 95 Abs. 2 a BetrVG sowie Mitbestimmungsrechte aus § 87 Abs. 1 BetrVG.

Neben rechtlichen und tatsächlichen Risiken können KI-Anwendungen Beschäftigte aber auch sinnvoll unterstützen und den Arbeits- und Gesundheitsschutz stärken. Schon heute können kognitive Assistenzsysteme über Belastungen und Beanspruchungen informieren und so das Gesundheitsverhalten der Beschäftigten positiv beeinflussen. Körpersensornetzwerke können dank KI die Messung der physischen Beanspruchung verbessern. KI-Technologien können genauso eine Entlastung bei repetitiven Aufgaben bieten. Neue Chancen eröffnen sich auch für die inklusionsförderliche Gestaltung von Arbeit durch individuelle Unterstützungsmöglichkeiten.

Wie in allen Einsatzbereichen von KI gilt es daher auch im Hinblick auf die dargestellten arbeitsschutzrechtlichen Aspekte, die richtige Balance zu finden, um KI-Systeme mit Augenmaß zur Verbesserung der Arbeitsbedingungen und des betrieblichen Arbeitsschutzes einsetzen zu können.