Rechtliche Navigation im Dschungel der Generativen AI

Generative AI-Technologien sind nicht nur technologisch spannend und bieten beeindruckende Möglichkeiten, sondern sind auch rechtlich komplex. Ein aktuelles Beispiel für mögliche Fallstricke des Themas ist die jüngste Klage der US-Autorengilde gegen das Unternehmen hinter Chat GPT. Die Autoren bezichtigen Chat GPT, ihre Bücher unberechtigterweise für das Training der Technologie von Chat GPT verwendet zu haben.

Das Programmieren von AI oder auch der Einsatz von AI-basierten Systemen sollte wohlüberlegt sein und jedenfalls im Einzelfall vor Inbetriebnahme nicht nur technisch, sondern auch rechtlich geprüft werden und rechtliche Besonderheiten frühzeitig mitgedacht werden:

Datennutzung und Urheberrechte

Die Auswahl der Trainingsdaten für generative AI ist für den Einsatzbereich und auch zur Minimierung des rechtlichen Risikos entscheidend. Unternehmen müssen sicherstellen, dass sie keine urheberrechtlich geschützten Inhalte unrechtmäßig verwenden. Eine sorgfältige Prüfung der Trainingsdaten und Erzeugnisse der AI ist daher unerlässlich, um nicht am anderen Ende einer Klage des Urhebers zu begegnen.

Prüfung der Nutzungsbedingungen von AI-Systemen

Bevor das AI-System in Betrieb genommen wird, sollte eine umfassende rechtliche Prüfung der Nutzungsbedingungen stattfinden. Nutzungsbedingungen von Anbietern von AI-Systemen sehen meist große Haftungsfreistellungen für den Anbieter vor oder können sogar Rechte an den Outputs einräumen. Diese Analyse sollte sowohl von internen als auch externen Rechtsexperten begleitet werden.

Daten- und Knowhow-Schutz

Unternehmen muss beim Einsatz von AI-Systemen klar sein, dass solche Systeme von den Trainingsdaten leben. Und es ist keine Seltenheit, dass Prompts (Inputs) für das Training des AI-Systems verwendet werden. Dabei ist neben den datenschutzrechtlichen Bedenken auch darauf zu achten, dass keine sensiblen Unternehmensdaten durch Mitarbeiter in das System eingespeist werden.

Transparenz und Verbraucherschutz

Wenn AI-Systeme, wie automatisierte Chatbots, gegenüber Kunden eingesetzt werden, ist auf das Transparenzgebot zu achten. Nutzer müssen wissen, dass sie mit einem Bot interagieren, andernfalls könnte eine sogenannte irreführende Geschäftspraktik vorliegen.

Sollten die AI-Systeme auch für Recruiting oder andere arbeitsrechtliche Belange eingesetzt werden, ist hier auch auf arbeitsrechtliche Besonderheiten zu achten.

Regulierung von AI durch die EU

Die EU hat begonnen, AI mit ihrem derzeit noch im „Trilog“ befindlichen AI-Act zu regulieren. Auch hier tun Unternehmen gut daran, die neuen Regelungen für AI-Systeme im Blick zu behalten und diese Pflichten bei der Einführung von AI-Systemen gleich mitzudenken.

Mehr Informationen über die neuen Regelungen zum AI-Act finden sich hier:

Abschließende Empfehlung

Eine rechtliche Evaluierung vor dem ersten Einsatz von AI-Systemen ist dringend empfohlen. Ein proaktiver Ansatz ist immer besser als nachträgliche Korrekturen, die nicht nur in kostspieligen Verfahren münden können, sondern auch riskant für das Image sein können.