KI-Regulierung: EU-Länder besch­ließen den AI Act end­gültig

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union (EU) beschlossen. Sie stimmten am Dienstag in Brüssel den Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten. Das EU-Parlament hatte bereits im März grünes Licht für das KI-Gesetz gegeben. Es sei das weltweit erste Gesetz dieser Art. 

Das Gesetz zielt darauf ab, die Nutzung von KI in der EU sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. KI-Systeme müssen von Menschen überwacht werden und nicht nur von anderen Technologien.

Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen.

Kein "Social Scoring" wie in China

Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört unter anderem die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden etwa in China Bürger in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz, beispielsweise damit Unternehmen im Einstellungsprozess die Gefühle ihrer Mitarbeiter erfassen können, und in Bildungseinrichtungen soll es in der EU nicht geben.

Ebenfalls ist die biometrische Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - grundsätzlich nicht erlaubt. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, wenn es um ganz bestimmte, schwere Straftaten wie Menschenhandel oder Terrorismus geht. 

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU. 

Kritik vom Digitalverband Bitkom

Nachdem Anfang Februar auch Deutschland dem Vorschlag formell zugestimmt hatte, war Justizminister Marco Buschmann (FDP) der Ansicht: "Die Verordnung schafft die Balance zwischen Innovation und Risikoschutz."

Der Digitalverband Bitkom kritisierte dagegen, dass das jetzt beschlossene KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI in Deutschland und Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen in Deutschland umgesetzt würden.

Bundesdigitalminister Volker Wissing (FDP) räumte am Dienstag ein, dass der Gesetzgeber bei einer sich so schnell verändernden Technologie wie KI dauerhaft gefordert sei. "Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären", sagte der FDP-Politiker. "Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern." Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde.

So geht's jetzt weiter

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten.

Die Mitgliedstaaten müssen außerdem Sanktionen festlegen, wenn Unternehmen die Vorschriften nicht einhalten, beispielsweise Geldstrafen. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

dpa/cho/LTO-Redaktion