Nutzung künstlicher Intelligenz zu unternehmerischen Zwecken: Was Arbeit­geber über das neue KI-Gesetz der EU wissen müssen

Das am 13. März 2024 verabschiedete KI-Gesetz regelt die Pflichten der Betreiber von KI-Systemen. Es bringt weitreichende Auswirkungen im Hinblick auf die Nutzung von KI-Systemen in den Betrieben mit sich. Worauf müssen sich Arbeitgeber einstellen?

Wann gilt das Gesetz?

Gemäß Art. 3 Nr. 4 des Gesetzes ist Betreiber jede natürliche oder juristische Person, die ein KI-System unter ihrer Aufsicht zu unternehmerischen Zwecken einsetzt. Ein KI-System ist nach Art. 3 Nr. 1 ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie betrieben werden und nach der Bereitstellung Anpassungsfähigkeit zeigen kann und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.

Das Gesetz gilt für alle Unternehmen mit Sitz in der EU. Nach dem Marktortprinzip gemäß Art. 2 gilt das Gesetz aber auch unabhängig vom Standort des Betreibers, solange der Einsatz des KI-Systems für Nutzer in der EU erfolgt. KI-Systeme, die vor dem Zeitpunkt des Inkrafttretens des KI-Gesetzes (voraussichtlich im zweiten Quartal 2026) eingeführt wurden, müssen bei wesentlichen Änderungen an die neuen Vorschriften angepasst werden (Art. 111 Abs. 2).

Betreiberpflichten unter risikobasiertem Ansatz

Welche Regelungen für Betreiber gelten, hängt zunächst vom System ab. Die Nutzung bestimmter KI-Anwendungen ist sogar untersagt. Die Betreiber aller Systeme trifft die Pflicht, die jeweils zuständigen Mitarbeiter zu schulen. Die Transparenzpflichten aus Art. 50 gelten nur für generative KI. 

Im Übrigen ist die Risikostufe des Systems maßgeblich für die Bestimmung des Pflichtenprogramms. Für Hochrisiko-KI-Systeme wie z. B. HR-Software gilt der strengste Pflichtenkatalog, wenn keine der Ausnahmen aus Artikel 6 Abs. 3 greift.

Liegt ein Hochrisikosystem vor, begründen Art. 26 und 27 wesentliche Pflichten für den Betreiber. Das Gesetz verlangt die Implementierung geeigneter technischer und organisatorischer Maßnahmen, die eine Verwendung des Systems nach den Anweisungen des Herstellers sicherstellen sowie eine menschliche Beaufsichtigung. 

Es dürfen nur solche Eingabedaten verwendet werden, die für den Anwendungsfall relevant und hinreichend repräsentativ sind. Das System muss überwacht werden, schwerwiegende Vorfälle müssen an Hersteller, Händler und Behörden gemeldet werden. Die Logfiles unterliegen einer Aufbewahrungspflicht. 

Für KI-Systeme, die für öffentliche Dienstleistungen, Kredit-Scoring sowie die Preisgestaltung von Lebens- und Krankenversicherungen verwendet werden, sieht das Gesetz die Durchführung einer Grundrechte-Folgenabschätzung vor. 

Nach Art. 25 Abs. 1 wird ein Betreiber zum Anbieter des bereits in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-Systems, wenn er seinen Namen oder sein Warenzeichen auf dem System anbringt, wesentliche Änderungen vornimmt, oder das KI-System so verändert, dass es zu einem Hochrisiko-KI-System wird. In diesem Fall muss der "neue" Anbieter grundsätzlich die weitreichenden Pflichten aus Art. 16 erfüllen.

Hohe Bußgelder bei Verstößen

Verstöße können der Marktüberwachungsbehörde gemeldet werden. Diese kann Zugang zu sämtlichen Dokumenten über das KI-System verlangen und die Inbetriebnahme untersagen. 

Personen, die von einer mithilfe eines Hochrisiko-KI-Systems getroffenen Entscheidung betroffen sind, können zudem Auskunft über die Rolle des Systems und die wesentlichen Entscheidungselemente verlangen. Der Einsatz verbotener KI kann mit einer Geldstrafe von bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes geahndet werden. Verstöße gegen Betreiberpflichten können eine Geldstrafe von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes nach sich ziehen. 

Viele Möglichkeiten für Arbeitgeber 

Die Einsatzfelder von KI im HR-Bereich finden sich im gesamten Lebenszyklus eines Arbeitsverhältnisses: Recruiting, Personalentwicklung, Performance Management, Mitarbeiterkommunikation, Mitarbeiterbindung – überall kommen KI-Tools zum Einsatz. 

Die Vorteile dieser Tools sind ebenso vielfältig wie ihre Einsatzmöglichkeiten. Die Verbesserung von Workflows, die Automatisierung standardisierter Aufgaben und eine erhöhte Genauigkeit versprechen Zeit- und Kostenersparnis. Allerdings gelten nach Art. 6 KI-Gesetz i. V. m. Anhang III Nr. 4 KI-Systeme zur Bewerberauswahl und zum Personalmanagement als Hochrisikosysteme. Denn nach Auffassung der EU können sie die Karriereaussichten und die Lebensgrundlagen von Personen spürbar beeinflussen. 

Der Arbeitgeber entscheidet frei über den Einsatz zulässiger KI-Tools im Arbeitsverhältnis. Sein Weisungsrecht erlaubt es ihm, die Beschäftigten sowohl zur Nutzung von KI-Tools wie beispielsweise ChatGPT anzuhalten als auch deren Nutzung vollständig zu verbieten. 

Sollen KI-Tools im Arbeitsverhältnis genutzt werden, muss der Arbeitgeber die Beschäftigten zum Umgang mit diesem neuen Werkzeug schulen und kontinuierlich weiterbilden. Dies schreibt nicht nur das neue KI-Gesetz ausdrücklich vor, auch das Arbeitsschutzgesetz verpflichtet den Arbeitgeber zur ausreichenden Unterweisung bei der Einführung neuer Arbeitsmittel und Technologien. 

Objektive KI gibt es nicht

Eine objektive KI ist ein Trugschluss – es gibt sie nicht. Gegenstand der Unterweisung muss daher auch die Tatsache sein, dass KI-Tools je nach Qualität des Trainingsdatensatzes historische Diskriminierungsmuster fortschreiben können. Dies gilt in besonderem Maß beim Einsatz von Hochrisikosystemen zur Bewerberauswahl. 

Das Allgemeine Gleichbehandlungsgesetz aber verbietet Benachteiligungen u. a. wegen des Geschlechts, wegen einer Behinderung oder der ethnischen Herkunft und gilt uneingeschränkt auch bei der Verwendung von künstlicher Intelligenz. 

Der Einsatz von KI-Tools ist aufgrund ihrer Potenziale und Risiken ein Corporate Governance-Thema und sollte daher durch unternehmensweit geltende Guidelines begleitet werden. Viele Unternehmen haben solche Richtlinien bereits implementiert. 

Inhalte sind neben der Verpflichtung zur Einhaltung der Gesetze und aller Unternehmenswerte meist die Erklärung zum verantwortungsvollen Einsatz von KI-Tools und zur Ausgestaltung der durch das KI-Gesetz vorgeschriebenen menschlichen Kontrolle. Weitere Themen sind der Datenschutz sowie die notwendige Transparenz und Erklärbarkeit der Anwendungen. 

Beteiligung des Betriebsrats beim Einsatz von KI

Rahmenregelungen zur Einführung und Anwendung von KI-Tools, die ganz allgemein Ziele und Grundsätze des Einsatzes von künstlicher Intelligenz im Unternehmen festlegen, unterliegen der freiwilligen Mitbestimmung. Ein Einigungszwang mit dem Betriebsrat besteht insoweit nicht. 

Mit § 87 Abs. 1 Nr. 6 und 7 Betriebsverfassungsgesetz (BetrVG) stehen den Betriebsräten allerdings erzwingbare Mitbestimmungsrechte bei der Einführung von konkreten KI-Tools zur Verfügung. Soweit sich durch deren Einführung wesentliche Änderungen in der Betriebsorganisation oder den Arbeitsmethoden ergeben, können im Einzelfall auch Interessenausgleich und Sozialplan ein Thema werden.

Neue Beteiligungsrechte im Zusammenhang mit KI wurden 2021 in das BetrVG eingeführt. So kann der Betriebsrat beispielsweise bei der Einführung oder Anwendung von KI-Tools stets einen Sachverständigen hinzuziehen, da dies als erforderlich gilt. In der Praxis ist eine hohe Sensibilisierung der Betriebsräte beim Thema KI zu beobachten. Dies dürfte sich durch die Klassifizierung einzelner KI-Anwendungen als Hochrisikosysteme nach dem EU-KI-Gesetz insbesondere im HR-Bereich kaum verringern. 

Der Einsatz künstlicher Intelligenz bietet Arbeitgebern viele Möglichkeiten zur Effizienzsteigerung und wird die Arbeitswelt nachhaltig verändern. Das KI-Gesetz gibt den grundsätzlichen Rechtsrahmen dafür vor, der zusammen mit den bereits bestehenden nationalen Gesetzen einen rechtssicheren Umgang mit KI-Tools ermöglicht.

 

Dr. Marc Hilber ist Rechtsanwalt und Partner bei Oppenhoff. Er berät im Bereich IT- und Datenschutzrecht. 

Kathrin Vossen ist Fachanwältin für Arbeitsrecht und Partnerin bei Oppenhoff. Sie berät im Bereich Arbeitsrecht.