Generative KI rechtskonform einsetzen – Tipps zu Datenschutz, Urheberrecht & Co.

Teilen Sie diese Seite
Kostenloser Download

Leadership Report 2023

Kostenloser Download

Weiterbildungsprogramm für Führung & Management

Kostenloser Download

Das große 1x1 der Künstlichen Intelligenz

Updates via Newsletter

Weiterbildungsangebote, Praxistipps und Expertenmeinungen bequem per E-Mail – für einen leichteren Alltag!

30. Juli 2023
Digitalisierung, Recht
0 Kommentare

Spätestens seit OpenAI im November 2022 ChatGPT veröffentlichte, ist Künstliche Intelligenz (KI) in aller Munde. Zunehmend mehr Unternehmen planen oder setzen bereits generative KI wie ChatGPT (Chatbot Generative Pre-trained Transformer) ein, welche in der Lage ist, neue Texte, Bilder, Videos, Audios oder sonstige Inhalte zu generieren. Aber ist das rechtlich eigentlich so einfach?

Die Fachanwältinnen Mareike Christine Gehrmann und Dr. Anne Förster werfen in diesem Beitrag für Sie einen Blick auf den rechtskonformen Einsatz von generativer KI und weisen auf die Herausforderungen in Sachen Datenschutz, Urheberrecht und Co. hin.

Expertin Mareike C. Gehrmann

Mareike C. Gehrmann

Partner | Taylor Wessing

Zum Profil
Expertin Dr. Anne Förster

Dr. Anne Förster

Salary Partner | Taylor Wessing

Zum Profil

Datenschutz macht rechtskonforme Nutzung von generativer KI schwierig

Vor allem HR-Abteilungen könnten durch den Einsatz von ChatGPT & Co. ihre Prozesse vereinfachen, indem sie generative KI nutzen, beispielsweise zur Erstellung von Stellenausschreibungen, Zeugnissen, Kündigungen und Arbeitsverträgen. Aus Compliance-Sicht sollte jedoch die Einführung solch generativer KI im Unternehmen genau geprüft werden. Viele Fragen stellen sich aktuell vor allem mit Blick auf den Datenschutz. Auch beim Einsatz von generativer KI sind nämlich die strikten Vorgaben der Datenschutz-Grundverordnung (DSGVO) zu erfüllen. Das bedeutet zunächst, dass die Datenverarbeitung einer Rechtsgrundlage bedarf. Ferner ist vor Beginn der Datenverarbeitung die betroffene Person hierüber zu informieren, insbesondere ist ihr zu erläutern, woher die personenbezogenen Daten stammen, wer diese empfängt, zu welchem Zweck die personenbezogenen Daten innerhalb oder außerhalb der Europäischen Union verarbeitet oder wie lange sie gespeichert werden. Auch gibt die DSGVO vor, dass nur so viele personenbezogenen Daten wie nötig verarbeitet werden dürfen (Datenminimierung), was bereits per se dem Einsatz von KI zu widersprechen scheint. Es verwundert nicht, dass die Datenschutzbehörden verschiedener Länder dem kalifornischen Unternehmen OpenAI diverse Fragen zum Datenschutz gestellt haben.

EU plant eine strikte KI-Verordnung

Die EU, insbesondere das Parlament, planen generative KI in der aktuell noch im Entwurf befindlichen KI-Verordnung strikter zu regulieren, sodass sich auch hieraus Pflichten für Unternehmen ergeben werden, die solche KI-Systeme anbieten oder nutzen wollen. Geplant ist, dass angemessene Schutzmaßnahmen gegen die Erzeugung von Inhalten, die gegen EU-Recht verstoßen, gewährleisten werden müssen. Zudem sollen zusätzliche Transparenzpflichten eingehalten werden, u.a. müssen urheberrechtlich geschützte Trainingsdaten öffentlich einsehbar sein.

Betriebsrat muss bei KI-Nutzung einbezogen werden

Bevor generative KI aber überhaupt im Unternehmen eingesetzt werden kann, muss der Betriebsrat beteiligt werden. Der Betriebsrat kann dann einen Sachverständigen beauftragen, ohne dass es auf die Erforderlichkeit der Beauftragung ankommt. Der Einwand, dass der Betriebsrat selbst die erforderlichen Kenntnisse besitzt oder die Angelegenheit nicht die Einbindung eines teuren Sachverständigenden rechtfertigt, ist dem Unternehmen damit verwehrt. Es bleibt zudem bei der zwingenden Mitbestimmung bei der Einführung und Anwendung von technischen Einrichtungen, die objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmenden zu überwachen.

Unzulässige Benachteiligungen sind zu vermeiden

Weiterhin muss das Unternehmen sicherstellen, dass es nicht zu algorithmenbasierter Diskriminierung oder Voreingenommenheit der generativen KI kommt. Denn aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung oder falscher „Schlussfolgerungen“ können Algorithmen zu einer mittelbaren Benachteiligung von beispielsweise Bewerberinnen und Bewerbern führen, z. B. wegen ihres Geschlechts oder ihrer Herkunft. Kommt es zu unzulässigen Diskriminierungen aufgrund des Einsatzes von generativer KI, ist im Ergebnis das Unternehmen hierfür verantwortlich. Unzulässige Benachteiligungen können zu Schadensersatzansprüchen der betroffenen Personen nach dem Antidiskriminierungsrecht führen.

Urheberrechtliche Fragen sind bei KI-Nutzung schwer zu beantworten

Zudem stellen sich auch urheberrechtliche Fragen, da kaum nachvollziehbar ist, aus welchem Datensatz das neue Werk generiert wurde oder wer Urheber ist. Es ist nahezu unmöglich, Texte einer generativen KI auf Urheberrechtsverletzungen zu prüfen. Selbst Plagiat-Tools, bieten an dieser Stelle (noch) keine hundertprozentige Sicherheit, ob der Inhalt nicht doch schon existiert.

Schulung von Mitarbeitenden ist für einen rechtskonformen KI-Einsatz unerlässlich

Vor dem Einsatz von generativer KI sind die Mitarbeitenden deshalb im Hinblick auf die Funktionalität und die vorgenannten Risiken zu schulen. Sie müssen sensibilisiert werden, wie generative KI funktioniert und aber auch, welche Risiken gerade mit Blick auf die Sicherstellung des Geschäftsgeheimnisschutzes lauern. Neben diesen rechtlichen Aspekten gilt es zudem die ethischen Implikationen beim Einsatz generativer KI im Blick zu behalten. Aus Compliance-Sicht ist daher die Implementierung eines Kontrollsystems zur Sicherstellung der rechtskonformen Anwendung von generativer KI unerlässlich.

Kostenloser Download

Das große 1x1 der Künstlichen Intelligenz – Alles, was Sie über KI, ChatGPT & Co. wissen müssen

Laden Sie sich dieses kostenlose Whitepaper herunter und erfahren Sie alles rund um Künstliche Intelligenz, damit Sie sich Ihren Wissensvorsprung sichern!

Gefällt Ihnen, was Sie lesen? Teilen Sie diesen Beitrag oder hinterlassen Sie uns einen Kommentar!

Kommentare

Keine Kommentare

Kommentar schreiben

* Diese Felder sind erforderlich

Die Management Circle AG mit Sitz in Eschborn im Taunus ist spezialisiert auf die berufliche Weiterbildung in Form von Seminaren, Konferenzen und Kongressen für Fach- und Führungskräfte.

© Management Circle 2024