Gesetzentwurf zu Neuerung in der Migrationsverwaltung: Erteilt die KI bald Arbeit­s­er­laub­nisse?

Die Bundesregierung will in der Migrationsverwaltung und in Visumsverfahren auf KI setzen. So sollen asyl- und aufenthaltsrechtliche Verwaltungsverfahren "effizienter, einheitlicher, qualitativ hochwertiger und sicherer" gestaltet werden. Am Freitag ist der Gesetzentwurf für das KI-Migrationsverwaltungsgesetz (KIMVG) der Tagesordnungspunkt 38 im Bundesrat.

Der Entwurf stammt aus dem Bundesministerium des Innern in Zusammenarbeit mit dem Auswärtigen Amt. Demnach sollen die "mit der Ausführung dieses Gesetzes betrauten Behörden" personenbezogene Daten verarbeiten dürfen, um KI-Systeme oder andere automatisierte Anwendungen zur Datenverarbeitung zu entwickeln, zu trainieren, zu validieren und zu testen. Die KI solle helfen, Unstimmigkeiten zu finden, Dokumente zu prüfen und Verfahren zu vereinheitlichen. Kosten entstehen laut dem Gesetzentwurf nicht.

Das Gesetz soll den Behörden also eine Rechtsgrundlage für den Einsatz von KI liefern. Konkrete Anwendungsfälle gibt das Gesetz nicht vor. Denkbar wäre etwa, dass die Systeme die Voraussetzungen für die Erteilung von Arbeitserlaubnissen oder den Aufenthaltsstatus prüfen und den Sachbearbeitern so die Arbeit erleichtern.

Für die Umsetzung sind u.a. Änderungen im Asylgesetz (AsylG) vorgesehen. Insbesondere soll dort die Ermächtigung zur Datenerhebung und -verarbeitung sowie zum Training der KI verankert werden. Die zuständigen Behörden sollen selbst Fristen zur Löschung der Daten festlegen und sicherstellen, dass die KI keine diskriminierenden Algorithmen entwickelt. Ausdrücklich nimmt das Gesetz Bezug auf die europäische KI‑Verordnung (KI‑VO). Das Bundesamt für Migration und Flüchtlinge (BAMF) wird zudem etwa ermächtigt, die Daten mit Informationen im Internet abzugleichen (§ 7b Abs. 1 AsylG-Entwurf (E)). Vergleichbare Regelungen sind für das Aufenthaltsgesetz (AufenthG) geplant (§§ 86, 90e AufenthG-E). 

Kritiker fürchten, dass so eine nicht kontrollierbare KI-Struktur mit hochsensiblen Daten gefüttert wird. Das könne zu diskriminierenden Entscheidungen führen – und doch zu Kosten für die Kommunen.

Kein konkretes KI-System vorgegeben 

Der Entwurf sieht kein konkretes KI-System vor, das die Behörden nutzen sollen. Aus Sicht der Bundesvereinigung der kommunalen Spitzenverbände (BVkom) seien aber "verpflichtende technische und organisatorische Vorgaben nötig, die auch die eingesetzte Hardware, sichere Serverstrukturen und geschützte Netze erfassen"; schließlich gehe es um sensible Daten.

Zudem müssten die Einarbeitung, Weiterbildung und Begleitung der Systeme in den Kommunen personell und finanziell realistisch abgesichert werden – beim Einsatz von KI-Systemen besteht eine Schulungspflicht der Mitarbeitenden. All das müsse finanziell abgesichert sein – die Kommunen könnten das nicht bezahlen. 

Der BVkom sieht die Gefahr, dass das System diskriminierende Ergebnisse, Hinweise, Empfehlungen oder Entscheidungsgrundlagen erzeugt, ausgibt oder verwendet. Dieser Gefahr zu begegnen, bedeute einen erheblichen Aufwand für die Behörden. Und selbst dann sei das Risiko sehr hoch, dass ein Bias entsteht, also ein Fehler im Algorithmus, der zu fehlerhaften oder verzerrenden Annahmen führt. Diese Kritik bleibt. Dennoch begrüßt die BVkom die vorgesehene Verfahrensanalyse und die Möglichkeit des Austausches von Daten zwischen Leistungsbehörden, Ausländerbehörden und der Bundesagentur für Arbeit, etwa bei Änderungen des Aufenthaltsstatus oder der Erteilung von Arbeitserlaubnissen.

Reicht Ermächtigungsgrundlage aus? 

Die Deutsche Vereinigung für Datenschutz e. V. (DVD) unterstützt im Grundsatz eine verbesserte Digitalisierung im ausländerrechtlichen Bereich. Dennoch übt auch sie Kritik. Der Vorsitzende Dr. Thilo Weichert verweist darauf, die Formulierung "mit der Ausführung des Gesetzes betraute Behörden" sei sehr weit. Sie umfasse eine Vielzahl von Stellen, u.a. Ausländerbehörden, das Auswärtige Amt, aber auch die Polizei der Länder – diese Aufzählung ist nicht abschließend. 

Es gehe um sensible Daten. Allein ein Verweis auf das Bundesdatenschutzgesetz stelle längst nicht sicher, dass damit auch ein datenschutzkonformer Umgang einhergeht. Er ist überzeugt, dass der Einsatz von KI‑Systemen einer eigenständigen gesetzlichen Ermächtigung bedarf, der dieses Gesetz nicht genügen könnte. Weichert verweist auf Art. 5 Abs. 1 lit. b KI-VO: Demnach kann der Einsatz von KI-Systemen bei vulnerablen Personen – wozu Geflüchtete nach seiner Ansicht oft zählen – gänzlich ausgeschlossen sein. Zudem könnten bei den Dokumenten, die verarbeitet werden sollen, auch Patientendaten sein, die besonders geschützt werden müssten. 

Entscheiden Sachbearbeitende noch selbst?

Eine weitere wesentliche Kritik greift die Regierung in der Begründung des Gesetzentwurfes selbst auf: Der Einsatz der KI ersetze nicht die individuelle Prüfung, die Entscheidung müsse bei den Sachbearbeitenden verbleiben. Dass das passieren wird, bezweifeln Kritiker.

Zu einfach könnten sich Entscheider die Vorgaben der KI zu eigen machen und die Einzelfälle nicht mehr selbst prüfen. Aus Sicht von Pro Asyl schafft der Entwurf "die normative Grundlage für intransparente, algorithmisch gesteuerte Entscheidungsprozesse, die weder für Betroffene nachvollziehbar noch vor Gericht substantiiert angreifbar sind". Ähnlich formuliert es Wiechert von der DVD: Es sei im Entwurf nicht vorgesehen, dass die Betroffenen Informationen darüber erhalten, wie ihre Daten erhoben und verarbeitet werden und wie Entscheidungen zustande gekommen sind.

Es besteht also Einigkeit, dass Daten zwischen den Institutionen und Behörden besser abgeglichen und Verfahren vereinfacht und digitalisiert werden sollten – womöglich auch durch die Nutzung von festgelegten KI‑Systemen. Der aktuelle Vorschlag eignet sich nach den befragten Institutionen dafür allerdings nicht. Was der Bundesrat daraus macht, wird sich am Freitag zeigen.

tap/LTO-Redaktion