Gesellschaft für Informatik e.V.
Pressemitteilung: KI in Asylverfahren: Gesellschaft für Informatik mahnt zu Vorsicht
KI in Asylverfahren: Gesellschaft für Informatik mahnt zu Vorsicht
Anlässlich des geplanten Einsatzes von künstlicher Intelligenz im Hochrisiko-Bereich bei asyl- und aufenthaltsrechtlichen Verfahren äußert die Gesellschaft für Informatik e. V. signifikante Bedenken bezüglich der technischen Machbarkeit, der Vereinbarkeit mit dem Datenschutz und der Gewährleistung rechtsstaatlicher Kontrollmechanismen.
Berlin, 29. Juli 2026 | Die Bundesregierung hat heute einen Gesetzesentwurf zum Einsatz künstlicher Intelligenz in der Migrationsverwaltung (KI-Migrationsverwaltungsgesetz, KIMVG) vorgelegt. Expert*innen der Gesellschaft für Informatik (GI) haben große Zweifel daran, ob durch den vorgesehenen Einsatz von selbstlernenden Systemen (ugs. KI-Systemen) die anvisierte Erhöhung der Effizienz, Einheitlichkeit, Qualität und Sicherheit erreicht werden kann. Aus Sicht der GI droht die Bundesregierung, schwerwiegende Fehler zu wiederholen.
Christine Hennig, Sprecherin des Fachbereichs Informatik und Gesellschaft der GI: „Es bedarf angemessener Aufsicht und Kontrolle der Systeme, um algorithmischen Verzerrungen und gruppenbezogenen Benachteiligungen entgegenzuwirken. Da es hier um Menschenleben geht, ist jede Fehlentscheidung eine zu viel. Die erhoffte Entlastung der Behörden darf nicht die notwendigen Kontrollmechanismen aushebeln.“
KI-Systeme arbeiten auf Basis von Wahrscheinlichkeiten und produzieren daher teils falsche Antworten (Halluzinationen). Zugleich verlassen sich menschliche Entscheidungsträger*innen bei der Verwendung eines automatisierten Systems übermäßig auf dessen Empfehlungen (sog. Automation Bias). Somit ist es notwendig, dass Mitarbeitende alle Ausgaben der KI kritisch einordnen, um deren Qualität zu sichern. Dieser manuelle Prüfaufwand mindert wiederum die erhoffte Steigerung der Effizienz.
Keine belastbare Grundlage für Entscheidungen
Der Gesetzesentwurf lässt den konkreten Aufbau der Analysesysteme offen. Die Konstruktion statistischer Zusammenhänge anhand weniger personenbezogener Datenpunkte ist ungenau und eignet sich nicht als belastbare Entscheidungsgrundlage für kontextspezifische Sachverhalte. Der zweifelhafte Nutzen rechtfertigt aus Sicht der GI daher keinen datenschutzrechtlich invasiven Eingriff durch die Verarbeitung personenbezogener Daten, gerade der besonders schützenswerten.
Darüber hinaus weist die GI darauf hin, dass auf KI-Systemen basierende Datenanalysen grundsätzlich die Gefahr von Bias und Diskriminierung bergen. Studien haben nachgewiesen, dass verzerrte Trainingssätze insbesondere für vulnerable Gruppen wie Frauen, Kinder und People of Color überproportional viele Fehlklassifikationen liefern. Diese machen jedoch die Mehrheit der Antragsteller*innen aus. Die GI warnt daher aus technischer Sicht vor den gravierenden grundrechtlichen Risiken, die mit dem Einsatz von KI-Systemen für hoheitliche Aufgaben einhergehen. Dies gilt auch für den automatisierten Abgleich mit öffentlich zugänglichen Internetdaten. Da weder die Echtheit noch die Authentizität dieser Daten gesichert werden kann, besteht eine hohe Gefahr von False Positives. Der Abgleich ist aus diesen Gründen nicht zielführend.
Hohe Fehlerraten bei Gesichtserkennung
Besondere Bedenken gelten außerdem der breiten Ausnahmeregelung zur Verarbeitung biometrischer Daten für den Abgleich im Verfahrensmonitoring. Sie ist sehr invasiv und riskiert zum Beispiel bei der Gesichtserkennung hohe Fehlerraten sowie im schlimmsten Fall intransparente und falsche Entscheidungen, etwa wenn heterogene Bildquellen oder sehr ähnliche Bildmotive (z.B. Zwillinge, Familienmitglieder) Teil des Abgleichs sind.
Die GI warnt demnach eindringlich vor zentralen Vorhaben des vorliegenden Gesetzesentwurfs, die weder effizienz- noch qualitätsfördernd sind. Eine umfassende Überarbeitung im parlamentarischen Verfahren ist zwingend notwendig. Zudem plädiert die GI dafür, „Security by Design“ und „Privacy by Design“ in Gesetzesentwürfen zentral zu verankern und im Falle eines Abgleichs hohe rechtliche Eingriffsschwellen, Kontrollmechanismen und Rechtsschutz für Betroffene zu verankern.
Vor dem Hintergrund des Sicherheitspakets und der Konsultation der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) hat sich die GI bereits mehrfach zu den Möglichkeiten und Grenzen der Verwendung von KI-Systemen geäußert.
Über die Gesellschaft für Informatik e.V. Die Gesellschaft für Informatik e.V. (GI) ist die größte Fachgesellschaft für Informatik im deutschsprachigen Raum. Seit 1969 vertritt sie die Interessen der Informatiker*innen in Wissenschaft, Gesellschaft und Politik und setzt sich für eine gemeinwohlorientierte Digitalisierung ein. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Die GI hat sich Ethische Leitlinien gegeben, die ihren Mitgliedern als Orientierung dienen. Weitere Informationen finden Sie unter www.gi.de
Pressekontakt: Eva Mattes Leitung Cybersicherheit Gesellschaft für Informatik e.V. (GI) Geschäftsstelle Berlin Mail: Eva.mattes@gi.de Web: www.gi.de