KI-Coding-Assistenten im Unternehmen: Wer auf den Gesetz­geber wartet, wartet ver­ge­bens

Im April 2023 gab ein Ingenieur von Samsung fehlerhaften Quellcode in ChatGPT ein, weil er eine schnelle Lösung für einen Bug suchte. Was als Effizienzgewinn gedacht war, wurde zum Sicherheitsvorfall, denn der vertrauliche Code lag damit auf den Servern eines US-Anbieters. Der Konzern untersagte seinen Beschäftigten kurz darauf die Nutzung generativer KI.

Der Fall ist drei Jahre alt und das Verbot längst aufgeweicht, die Fragen dahinter aber sind geblieben: ob der Einsatz erlaubt ist, wem das Ergebnis gehört und wer haftet, wenn etwas schiefgeht. Vor diesen Fragen stehen Rechtsabteilungen in Software-Unternehmen täglich. In den meisten Entwicklerteams schreiben KI-Assistenten heute mit, von der Autovervollständigung bis zum weitgehend autonomen Agenten.

Die verbreitete Antwort darauf lautet: Rechtsunsicherheit; das Recht habe mit der Technik nicht Schritt gehalten und biete für neuere praktische Probleme keine Lösung an. Diese Diagnose reicht bis in die Gesetzgebung: Ihren – später wieder zurückgezogenen – Vorschlag für eine KI-Haftungsrichtlinie begründete die Europäische Kommission 2022 ausdrücklich mit der Rechtsunsicherheit beim Einsatz von KI.

Das geltende Recht benennt die Risiken klar; offen ist allein ihre Verteilung. Und diese Verteilung ist im Privatrecht nicht allein eine Frage des Gesetzes, sondern auch der Vertragsgestaltung. Der Grund dafür liegt darin, dass die hier einschlägigen gesetzlichen Regeln des Geschäftsgeheimnis- und des Urheberrechts überwiegend dispositiv sind. Das heißt, die Beteiligten können sie durch Vereinbarung ausgestalten. Wer auf den Gesetzgeber wartet, übersieht, dass die Praxis längst rechtliche Lösungen entwickelt hat. Zeigen lässt sich das an drei Stationen, die den Weg des Codes durch den Assistenten nachzeichnen, nämlich am Input, am Output und am Rahmen.

Wenn der Code das Haus verlässt

Der Samsung-Fall betrifft die erste Station. Wer proprietären Code in einen KI-Dienst eingibt, gibt ein Geschäftsgeheimnis aus der Hand. § 2 Nr. 1 des Gesetzes zum Schutz von Geschäftsgeheimnissen (GeschGehG) macht den Schutz aber davon abhängig, dass das Unternehmen angemessene Geheimhaltungsmaßnahmen trifft. Überlässt ein Unternehmen seinen Code einem Dienst, der die Eingaben auf eigenen Servern verarbeitet und vielleicht zum Training nutzt, riskiert es diesen Schutz. Zur Auslagerung an klassische Cloud-Dienste gibt es Rechtsprechung, die sich nur bedingt übertragen lässt; für KI-Dienste fehlt sie bislang.

Ein Problem des Geheimnisschutzes entsteht nur dann, wenn der Code überhaupt nach außen gelangt. Das ist aber nicht zwangsläufig der Fall. Entscheidend ist die Art des Einsatzes: welches Werkzeug, welcher Tarif und welche Daten dem Dienst übergeben werden. Ein Modell, das auf den eigenen Servern des Unternehmens läuft, gibt nichts nach außen. Wer die KI eine generische Funktion schreiben lässt, ohne ihr den Firmencode zur Verfügung zu stellen, ebenso wenig. Kritisch wird es erst, wenn der KI-Assistent den Kontext des gesamten Repositorys, also der zentralen Ablage des gesamten Projekt-Quellcodes, erhält oder Software-Entwickler ganze Dateien in ein kostenloses Tool kopieren. KI-Assistenten gehören in den meisten Entwicklerteams längst zum Alltag; dass dabei ganze Dateien in kostenlose Werkzeuge geraten, oft ohne die Frage, wohin die Daten fließen, wird als Risiko unterschätzt.

Typisch ist ein wachsendes Software-Unternehmen, das seine Programme als Mietsoftware über das Internet anbietet (Software as a Service, SaaS). Dessen Entwickler nutzen die kostenlose Version eines KI-Assistenten und fügen bei der Fehlerbehebung (Debugging) ganze Module des eigenen Codes ein, um Fehler schneller zu finden. Dann fragt womöglich niemand vorher, ob überhaupt ein Tarif gebucht ist, der die Vertraulichkeit der Eingaben absichert, und wohin die Daten fließen. Dass eigener Code an den KI-Anbieter gelangt ist, fällt dann erst auf, wenn ein Investor vor der Finanzierungsrunde eine Bestandsaufnahme des Firmencodes verlangt.

Die Rechtsfrage entsteht also nicht durch die KI, sondern durch die Art ihres Einsatzes, und die steuert das Unternehmen selbst.

Die Antwort liegt im Vertrag. Die Business- und Enterprise-Angebote der großen Anbieter von KI-Sprachmodellen sichern Vertraulichkeit zu, schließen die Nutzung der Eingaben zum Training aus und stellen eine Auftragsverarbeitung bereit. Der kostenlose Zugang dagegen leistet nichts davon. Ob der Code geschützt bleibt, entscheidet damit die Wahl des Tarifs, nicht der Gesetzgeber. Wie weit die Vorkehrungen gehen müssen, hängt vom Einzelfall ab und verlangt eine Abwägung zwischen dem Nutzen der KI und dem Risiko für das Geheimnis. Genau darin liegt der Gestaltungsspielraum, den das Gesetz dem Unternehmen lässt.

Wem der generierte Code gehört

Die Output-Station wirft zwei Fragen auf. Erstens: Wem gehört der generierte Code? Zweitens: Könnte der Firmencode offenlegungspflichtig werden?

Ein Computerprogramm ist nach § 69a Abs. 3 Urheberrechtsgesetz (UrhG) nur geschützt, wenn es eine eigene geistige Schöpfung seines Urhebers ist. Rein maschinell erzeugter Code erfüllt diese Voraussetzung nicht, und Syntax wie zugrunde liegender Algorithmus sind nach § 69a Abs. 2 UrhG ohnehin frei. Je autonomer der Assistent arbeitet, desto eher fällt sein Ergebnis aus dem Schutz, und ein Wettbewerber dürfte es übernehmen. Dass maschinengemachte Werke im Regelfall ungeschützt bleiben, hat der Rechtsanwalt und Urheberrechtsexperte Prof. Dr. Jan Bernd Nordemann schon 2023 auf LTO analysiert.

Für Code bleibt damit offen, wo die menschliche Prägung endet und die maschinelle beginnt. Erste Gerichtsurteile betreffen bislang nur das KI-Training. So hielt das Landgericht Hamburg das Auslesen urheberrechtlich geschützter Inhalte für ein KI-Trainingsdatenset für zulässig, weil es unter die gesetzliche Schranke für Text- und Data-Mining fällt (§ 60d UrhG); über die Schutzfähigkeit des erzeugten Codes sagt das nichts.

Schwerer wiegt die zweite Frage. Der KI-Assistent lernt selbst aus fremdem Code, auch aus solchem unter Copyleft-Lizenzen wie der GNU General Public License (GPL), der bekanntesten dieser Lizenzen. Copyleft-Lizenzen erlauben die freie Nutzung des Codes, verlangen aber, dass jede darauf aufbauende Software unter derselben Lizenz und damit offen im Quelltext veröffentlicht wird. 

Reproduziert der Assistent solche Fragmente, schleppt er deren Lizenzpflichten in das eigene Produkt ein. Im Extremfall zwingt das ein Unternehmen, den eigenen Quellcode offenzulegen. In den USA ist das Verfahren Doe v. GitHub gegen die Betreiber des Microsoft-KI-Assistenten Copilot seit 2022 anhängig und beschäftigt inzwischen die Berufungsinstanz. Im Kern geht es um die Frage, ob der Assistent fremden Open-Source-Code ohne die vorgeschriebenen Lizenzangaben reproduziert und das Copilot nutzende Unternehmen damit zur Offenlegung seines eigenen Codes zwingt.

Für das deutsche Recht ist die Rechtslage dagegen im Grundsatz geklärt: Solche Lizenzen sind kein freundlicher Hinweis, sondern rechtsverbindliche Bedingungen. Wer sie verletzt, riskiert Unterlassungs- und Schadensersatzansprüche des Rechteinhabers – und im Fall der Copyleft-Lizenzen die Pflicht, den eigenen Quellcode offenzulegen.

Auch hier liefert nicht das Gesetz die Antwort, sondern die Vertragsgestaltung zwischen Unternehmen und KI-Anbieter. Filter, die lizenzbelastete Vorschläge blockieren, vertragliche Freistellungen des Anbieters und eine dokumentierte Herkunftskontrolle verlagern das Risiko dorthin, wo es beherrschbar ist.

Wer die Verantwortung trägt

Auf der dritten Station laufen die ersten beiden zusammen. Darüber zu entscheiden, ob und wie KI-Assistenten zum Einsatz kommen, ist Aufgabe der Geschäftsleitung eines Unternehmens. Sie ist zuvörderst dafür verantwortlich, für das Wohl des Unternehmens zu sorgen. Dies umfasst auch die Pflicht, wirtschaftliche Risiken zu vermeiden und gegebenenfalls zu erkennen und zu beherrschen. Wer in einem Software-Unternehmen den Einsatz von KI-Assistenten laufen lässt, ohne Regeln für die vorgenannten Fragen zu setzen, wird dieser Verantwortung nicht gerecht.

Hinzu kommt eine Pflicht, die vielen noch nicht bewusst ist. Seit dem 2. Februar 2025 verlangt Art. 4 der europäischen KI-Verordnung, dass Unternehmen für ein ausreichendes Maß an KI-Kompetenz ihres Personals sorgen; über diese Schulungspflicht hat LTO bereits berichtet. Sie gilt für jeden Betreiber, vom Konzern bis zur kleinen Softwareschmiede. Verlangt wird kein Zertifikat, wohl aber ein belegbares Verständnis der Werkzeuge und ihrer Grenzen.

Beide Pflichten dürften in der Praxis eine interne Richtlinie zum Einsatz von KI-Assistenten unabdingbar machen. Diese muss festlegen, welche Tools erlaubt sind, welcher Code das Haus verlassen darf und wer die Ergebnisse prüft.

Der Samsung-Ingenieur hätte kein neues Gesetz gebraucht, um seinen Fehler zu vermeiden, sondern ein anderes Werkzeug: eine klare Regel, was mit seiner Eingabe geschieht. Dringlicher werden diese Fragen, sobald die Gerichte über Verfahren wie Doe v. GitHub entscheiden und die KI-Verordnung in den kommenden Jahren voll greift. Am Ergebnis ändert das nichts: Die drängenden Fragen des KI-Einsatzes beantwortet auch dann nicht der Gesetzgeber, sondern derjenige, der die Werkzeuge auswählt, die Verträge schließt und die Regeln schreibt. Was heute wie eine Lücke im Recht wirkt, ist in Wahrheit ein Gestaltungsauftrag an die Praxis.

Caroline Herrmann ist Rechtsanwältin in Weiskirchen im Saarland und zertifizierte KI-Compliance-Beauftragte. Sie berät Software- und Technologieunternehmen bundesweit im IT-Recht, im Datenschutz und in Fragen der KI-Compliance, mit einem Schwerpunkt auf dem rechtssicheren Einsatz von KI-Werkzeugen in der Softwareentwicklung.