Generative KI rechtskonform einsetzen – Tipps zu Datenschutz, Urheberrecht & Co.

Spätestens seit OpenAI im November 2022 ChatGPT veröffentlichte, ist Künstliche Intelligenz (KI) in aller Munde. Zunehmend mehr Unternehmen planen oder setzen bereits generative KI wie ChatGPT (Chatbot Generative Pre-trained Transformer) ein, welche in der Lage ist, neue Texte, Bilder, Videos, Audios oder sonstige Inhalte zu generieren. Aber ist das rechtlich eigentlich so einfach?

Die Fachanwältinnen Mareike Christine Gehrmann und Dr. Anne Förster werfen in diesem Beitrag für Sie einen Blick auf den rechtskonformen Einsatz von generativer KI und weisen auf die Herausforderungen in Sachen Datenschutz, Urheberrecht und Co. hin.

Vor allem HR-Abteilungen könnten durch den Einsatz von ChatGPT & Co. ihre Prozesse vereinfachen, indem sie generative KI nutzen, beispielsweise zur Erstellung von Stellenausschreibungen, Zeugnissen, Kündigungen und Arbeitsverträgen. Aus Compliance-Sicht sollte jedoch die Einführung solch generativer KI im Unternehmen genau geprüft werden. Viele Fragen stellen sich aktuell vor allem mit Blick auf den Datenschutz. Auch beim Einsatz von generativer KI sind nämlich die strikten Vorgaben der Datenschutz-Grundverordnung (DSGVO) zu erfüllen. Das bedeutet zunächst, dass die Datenverarbeitung einer Rechtsgrundlage bedarf. Ferner ist vor Beginn der Datenverarbeitung die betroffene Person hierüber zu informieren, insbesondere ist ihr zu erläutern, woher die personenbezogenen Daten stammen, wer diese empfängt, zu welchem Zweck die personenbezogenen Daten innerhalb oder außerhalb der Europäischen Union verarbeitet oder wie lange sie gespeichert werden. Auch gibt die DSGVO vor, dass nur so viele personenbezogenen Daten wie nötig verarbeitet werden dürfen (Datenminimierung), was bereits per se dem Einsatz von KI zu widersprechen scheint. Es verwundert nicht, dass die Datenschutzbehörden verschiedener Länder dem kalifornischen Unternehmen OpenAI diverse Fragen zum Datenschutz gestellt haben.

Die EU, insbesondere das Parlament, planen generative KI in der aktuell noch im Entwurf befindlichen KI-Verordnung strikter zu regulieren, sodass sich auch hieraus Pflichten für Unternehmen ergeben werden, die solche KI-Systeme anbieten oder nutzen wollen. Geplant ist, dass angemessene Schutzmaßnahmen gegen die Erzeugung von Inhalten, die gegen EU-Recht verstoßen, gewährleisten werden müssen. Zudem sollen zusätzliche Transparenzpflichten eingehalten werden, u.a. müssen urheberrechtlich geschützte Trainingsdaten öffentlich einsehbar sein.

Bevor generative KI aber überhaupt im Unternehmen eingesetzt werden kann, muss der Betriebsrat beteiligt werden. Der Betriebsrat kann dann einen Sachverständigen beauftragen, ohne dass es auf die Erforderlichkeit der Beauftragung ankommt. Der Einwand, dass der Betriebsrat selbst die erforderlichen Kenntnisse besitzt oder die Angelegenheit nicht die Einbindung eines teuren Sachverständigenden rechtfertigt, ist dem Unternehmen damit verwehrt. Es bleibt zudem bei der zwingenden Mitbestimmung bei der Einführung und Anwendung von technischen Einrichtungen, die objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmenden zu überwachen.

Weiterhin muss das Unternehmen sicherstellen, dass es nicht zu algorithmenbasierter Diskriminierung oder Voreingenommenheit der generativen KI kommt. Denn aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung oder falscher „Schlussfolgerungen“ können Algorithmen zu einer mittelbaren Benachteiligung von beispielsweise Bewerberinnen und Bewerbern führen, z. B. wegen ihres Geschlechts oder ihrer Herkunft. Kommt es zu unzulässigen Diskriminierungen aufgrund des Einsatzes von generativer KI, ist im Ergebnis das Unternehmen hierfür verantwortlich. Unzulässige Benachteiligungen können zu Schadensersatzansprüchen der betroffenen Personen nach dem Antidiskriminierungsrecht führen.

Zudem stellen sich auch urheberrechtliche Fragen, da kaum nachvollziehbar ist, aus welchem Datensatz das neue Werk generiert wurde oder wer Urheber ist. Es ist nahezu unmöglich, Texte einer generativen KI auf Urheberrechtsverletzungen zu prüfen. Selbst Plagiat-Tools, bieten an dieser Stelle (noch) keine hundertprozentige Sicherheit, ob der Inhalt nicht doch schon existiert.

Vor dem Einsatz von generativer KI sind die Mitarbeitenden deshalb im Hinblick auf die Funktionalität und die vorgenannten Risiken zu schulen. Sie müssen sensibilisiert werden, wie generative KI funktioniert und aber auch, welche Risiken gerade mit Blick auf die Sicherstellung des Geschäftsgeheimnisschutzes lauern. Neben diesen rechtlichen Aspekten gilt es zudem die ethischen Implikationen beim Einsatz generativer KI im Blick zu behalten. Aus Compliance-Sicht ist daher die Implementierung eines Kontrollsystems zur Sicherstellung der rechtskonformen Anwendung von generativer KI unerlässlich.