Künstliche Intelligenz: EU-Par­la­ment gibt grünes Licht für welt­weit erstes KI-Gesetz

Das EU-Parlament hat den Weg für schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union freigemacht. Die EU-Kommission hatte das Gesetz bereits 2021 vorgeschlagen. Die Parlamentarier stimmten nun am Mittwoch in Straßburg mehrheitlich für das Gesetz. Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz. Danach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.

KI bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt.

Was ist erlaubt und was verboten?

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union (EU) sicherer zu machen. KI-Systeme sollen transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sein. KI-Systeme sollen außerdem von Menschen überwacht werden und nicht nur von anderen Technologien.

Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen nun strenge Anforderungen erfüllen. Ganz verboten wird dagegen unter anderem die Bewertung von sozialem Verhalten ("Social Scoring"), wonach die Bürger in China in Verhaltenskategorien eingeteilt werden. Und auch eine Emotionserkennung am Arbeitsplatz, beispielsweise damit Unternehmen im Einstellungsprozess die Gefühle ihrer Mitarbeiter erfassen können, darf es in der EU nicht geben.

Ebenfalls ist die biometrische Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - grundsätzlich nicht erlaubt. Polizei und andere Sicherheitsbehörden dürfen eine solche Gesichtserkennung aber ausnahmsweise zur Strafverfolgung nutzen, wenn es um ganz bestimmte, schwere Straftaten wie Menschenhandel oder Terrorismus geht. 

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU, teilte die Kommission mit. Die Details regeln nationale Gesetze.

Nachdem Anfang Februar auch Deutschland dem Vorschlag formell zugestimmt hatte, war Justizminister Marco Buschmann (FDP) der Ansicht: "Die Verordnung schafft die Balance zwischen Innovation und Risikoschutz."

So geht's jetzt weiter

Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Für die Mitgliedsstaaten bedeutet das, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen dann alle Punkte des Gesetzes vollständig umgesetzt sein.

Die Mitgliedstaaten müssen außerdem Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten, beispielsweise Geldstrafen. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

dpa/cho/LTO-Redaktion