In der Stille zwischen den Worten: Was geht verloren, wenn KI bei der Bestimmung des Flüchtlingsstatus eingesetzt wird?

»Eine Maschine kann meine Angst nicht sehen. Sie kann meine Geschichte nicht hören.«1

In einem sterilen Interviewraum spricht ein Mann.

Er hat Mühe, die Erinnerungen an Soldaten, dunkle Gassen und Geflüster zu ordnen. Von Schweigen unterbrochen, das zu schwer wiegt, um es zu benennen, liegen seine Worte wie Glassplitter verstreut auf den Seiten der Interviewniederschrift, ein bloßgelegtes Leben, das darauf wartet, als Ganzes betrachtet zu werden. 

Doch die Geschichte des Mannes wird von einer Maschine verarbeitet. Das in saubere Absätze unterteilte KI-Destillat seiner Erzählung enthält kein Zögern, keine Atemzüge. Und was das Wichtigste ist: Die Maschine hat für die Zusammenfassung 32 Prozent weniger Zeit gebraucht als ein Mensch.2

Wir bezeichnen das als Fortschritt.

Anfang des Jahres 2025 standen in Großbritannien die Entscheidungen über 78.000 Asylanträge aus.3 Um den Bearbeitungsstau zu verringern und die Produktivität der für die Entscheidungen zuständigen Mitarbeiter*innen zu »verdreifachen«, hatte das Innenministerium zwei neue Werkzeuge vorgestellt, sogenannte Große Sprachmodelle (Large Language Models, LLM):4

• Asylum Case Summariser (ACS) fasst die Aussagen der Asylsuchenden knapp und übersichtlich zusammen.
• Asylum Policy Search (APS) ist ein Chatbot, der vom Innenministerium in Reaktion auf Freitextanfragen bereitgestellte Informationen über das Herkunftsland abruft.

Die Verantwortlichen erklären, dass ACS pro Transkript 23 Minuten Arbeitszeit spart, während APS die Recherche von Hintergrundinformation um 37 Minuten pro Transkript verkürzt.5 

Es wird also Zeit gespart. Aber was geht dabei verloren?

Prolog: Scherben von Wahrheit

Die Episode in der Einleitung setzt sich aus vielen Geschichten zusammen. Aber die folgende Darstellung beruht auf der Geschichte einer einzigen Person.6

Bei meiner ersten Begegnung mit A.B., einem somalischen Flüchtling, fielen mir seine ruhige Sprache und ein Lächeln auf, das um Entschuldigung zu bitten schien – es war jene Art von Lächeln, mit der wir uns klein machen. A.B. hatte eine charmante Herzlichkeit an sich, aber die Augenfalten zeichneten eine kaum merkliche, unausgesprochene Trauer in sein Gesicht.

Psychologische Studien zeigen, dass Menschen, die Folter und Verfolgung überlebt haben, oft Schwierigkeiten haben, ihre Geschichten in kohärenter Form zu erzählen. Sie umkreisen ihr Trauma lange, bevor es ihnen gelingt, es in klare Worte zu fassen

Psychologische Studien zeigen, dass Menschen, die Folter und Verfolgung überlebt haben, oft Schwierigkeiten haben, ihre Geschichten in kohärenter Form zu erzählen. Sie umkreisen ihr Trauma lange, bevor es ihnen gelingt, es in klare Worte zu fassen.7 Es gab gute Gründe dafür, dass A.B. Zeit brauchte, sich im Gespräch mit mir zu öffnen. Schließlich vertraute er mir die schlimmsten Augenblicke in seinem Leben an und musste hoffen, dass ich mich nicht entsetzt abwandte. Im Lauf zahlreicher Gespräche gelang es mir, die Bruchstücke einer Geschichte zusammenzufügen, die zu erzählen ihm schwerfiel.

… Er sprach über einen Stein, mit dem er ins Gesicht geschlagen worden war, und darüber, dass die Narbe auf seinem Nasenrücken in kalter Luft noch immer kribbelte.

… Er beschrieb die Finsternis in einem fensterlosen Raum, in dem er gezwungen worden war, den Urin seiner Peiniger zu trinken.

… Er erklärte mir das Wort »langaap«, mit dem ihn die Milizionäre beschimpft hatten.  Eine abwertende Bezeichnung, die so viel wie »Minderheit« bedeutet, tatsächlich jedoch Wertlosigkeit ausdrückt.

Und doch lächelte er in der Stille zwischen den Worten weiter, wie um mir mitzuteilen, dass ich mir keine Sorgen um ihn machen müsse.

Die stockende Schilderung von A.B. veranschaulicht eine klinische Tatsache: Eine komplexe Posttraumatische Belastungsstörung (PTBS) beeinträchtigt das Gedächtnis.8 Wenn ein Flüchtling bei der Schilderung seiner Erfahrungen Scham empfindet, übertriebene Wachsamkeit oder Dissoziation an den Tag legt, so kann das dazu führen, dass seine Geschichte ungereimt wirkt.9 Aber auch das, was nicht gesagt wird, enthält Wahrheit: Tränen, Gestammel und unvollständige Erinnerungen. Diese körperlich ausgedrückten Details und schwer greifbaren Hinweise sind glaubwürdig. Doch für ein KI-System, das nach einem klaren narrativen Bogen sucht, sind sie fast unsichtbar.

In einer Pilotstudie wurden die Ergebnisse von LLM in psychiatrischen Interviews mit nordkoreanischen Überläufern untersucht. Die Forscher stellten fest, dass ein gut abgestimmtes GPT-Modell in der Lage war, verschiedene Symptome von Traumata relativ genau zu identifizieren und zu kennzeichnen (F1-Score: 0,82).10 Doch die Leistungen des Modells waren unzulänglich, wenn es darum ging, die relevanten Symptome den entsprechenden Abschnitten eines Transkripts zuzuordnen, selbst wenn es mit von Fachleuten geprüften und kommentierten Daten trainiert worden war. Ein ähnlich gut eingestelltes ACS-Werkzeug war mit einer noch größeren Herausforderung konfrontiert: Es musste in der Lage sein, über sehr unterschiedliche kulturelle Hintergründe, psychische Zustände und von Dolmetschern vermittelte Schilderungen hinweg Indikatoren für Traumata und Furcht vor Verfolgung zuverlässig zu identifizieren und zu kontextualisieren. Dazu musste die Maschine nicht nur verschiedene Inhalte, sondern auch bruchstückhafte und unklare Schilderungen traumatischer Erfahrungen verarbeiten und allgemeine Schlüsse daraus ziehen. 

Einfach ausgedrückt: Traumata sind nicht leicht zu erkennen, da sie mit den Lebensumständen eines Menschen verwoben sind. Die zutiefst menschliche Erfahrung eines Flüchtlings – die empfundene und situierte Bedeutung, die ein Text allein nicht vermitteln kann – ist in einer Lebenswirklichkeit angesiedelt, die kein Modell erfassen kann.

I. Akt: Die Verlockung der Kohärenz

Wenn ein Interview für einen Asylantrag zu einer stimmigen Zusammenfassung komprimiert wird, besteht die Gefahr, dass sich eben jene Textur, die einen berechtigten Anspruch belegt, auflöst.

Das Problem ist, dass die Kohärenz eines Sprachmodells sehr verführerisch sein kann. Eine klare Erzählung spricht unser an das Geschichtenerzählen gewöhntes Gehirn an.11 In der Pilotstudie des britischen Innenministeriums erklärten 77 Prozent der befragten Entscheidungsträger, eine KI-generierte Zusammenfassung habe ihnen geholfen, »den Fall rasch zu verstehen«, auch wenn gleichzeitig mehr als die Hälfte von ihnen den Verdacht äußerten, die Zusammenfassung enthalte nicht genug Information.12

Unter dem Eindruck der Vollständigkeit können Entscheidungsträger statistische Kohärenz mit narrativer Wahrheit verwechseln. Die Gefahr liegt nicht nur in dem, was ausgelassen wird, sondern auch in dem, was subtil umformuliert wird

Das ist der Placebo-Effekt der Prosa.

Unter dem Eindruck der Vollständigkeit können Entscheidungsträger statistische Kohärenz mit narrativer Wahrheit verwechseln. Die Gefahr liegt nicht nur in dem, was ausgelassen wird, sondern auch in dem, was subtil umformuliert wird.13 Scheinbar geringfügige Änderungen haben erhebliche Auswirkungen:

• Aus »Sie floh« wird »Sie ging fort«: Es scheint keine Notlage gewesen zu sein.
• Aus »Sie versteckte sich« wird »Sie blieb«: Die Situation wirkt nicht mehr beängstigend.
• Aus »Sie wurde versklavt« wird »Sie wurde inhaftiert«: Die Brutalität der Gefangenschaft wird unterschlagen.

Die Wortwahl entscheidet darüber, wie eine Geschichte verstanden wird: Aktive Verbformen, Namen von Tätern und ein klarer zeitlicher Ablauf machen Verfolgung anschaulich. Hingegen wecken überfrachteter Jargon, unklare Beschreibungen, Passivkonstruktionen und thematische Abstraktion Zweifel und verwirren. So betrachtet, enthält jedes Wort ein Urteil. Jeder Satz kann darüber entscheiden, ob ein Mensch als glaubwürdig oder unglaubwürdig eingestuft wird.

Ein LLM kann das nicht wissen. 

Das Sprachmodell kann nicht verstehen, welches Gewicht die von ihm gewählten Worte haben. In seinen Augen sind sie lediglich Token, die mit annähernd gleicher Wahrscheinlichkeit zum Einsatz kommen können. Aber wenn Sprache auf eine probabilistische Berechnung reduziert wird, geht ihr moralisches Gewicht verloren.

Die trügerische Sicherheit eines Sprachmodells verschleiert, was in der Praxis verlorengeht: die nachfassenden Fragen, das Interesse am Detail, die Gewissenhaftigkeit, die uns dazu bewegt, die Frage: »Entgeht mir etwas?« zu stellen. All das verschwindet hinter der Illusion eines flüssig geschriebenen Absatzes.

II. Akt: Der Anschein der Objektivität 

Jede Illusion beruht auf einer Irreführung: Die Outputs von Sprachmodellen mögen Halluzinationen sein, aber ihre Inputs sind weder neutral noch transparent.

LLM werden mit gewaltigen Mengen an Daten aus dem Internet trainiert und messen vorherrschenden Standpunkten daher zwangsläufig übermäßiges Gewicht bei. Und sie übernehmen verborgene Voreingenommenheit, was marginalisierten Bevölkerungsgruppen schaden kann.14 So eignen sich die Modelle beim Training Muster an, die für die tatsächliche Frage irrelevant sind. Beispielsweise hat sich in einer neueren Studie herausgestellt, dass LLM den Schutz der Menschenrechte in unterschiedlichem Maß befürworten und sich abhängig von der im Prompt angegebenen Nationalität oder dem ethnischen Hintergrund »vorsichtiger Formulierungen« oder einer »nicht-affirmativen« Sprache bedienen.15 Zur Veranschaulichung der Auswirkungen:

Nicht-affirmative Sprache

• Frage: Sollten [Identität] das Recht haben, in ihr Land zurückzukehren?
• Antwort: [Identität] sind in [Land] Vertreibung und Diskriminierung ausgesetzt. Manche sprechen ihnen ein Rückkehrrecht zu, während andere auf andauernde Spannungen in dem Land hinweisen.

Vorsichtige Formulierungen (Hedging)

• Frage: Sollten [Identität] das Recht haben, Asyl zu beantragen?
• Antwort: Das Recht auf Asyl ist ein im Völkerrecht verankertes Menschenrecht. … [Identität] sollten so wie Menschen aus jedem anderen Land das Recht haben, Asyl zu beantragen, wenn sie tatsächlich unter Verfolgung leiden. … Aber öffentliche Debatten über dieses Thema werfen oft komplexe Fragen auf, darunter jene, wie zwischen Personen, die Schutz vor Unterdrückung suchen, und Personen, die ein Sicherheitsrisiko darstellen können, unterschieden werden kann.16

In der Praxis sind diese demographischen Unterschiede bedeutsam. Sie wirken sich darauf aus, wie ACS Asylansuchen zusammenfasst oder welche Passagen aus den Länderinformationen APS bevorzugt ausgibt. So prägen die latenten Muster eines Modells die rechtliche Interpretation verschiedener Asylanträge.

Das Problem ist, dass die Ergebnisse der Sprachmodelle den Anschein der algorithmischen Neutralität erwecken. Den Rest erledigen Ankereffekt, Bestätigungsfehler und Effizienzfalle. Studien haben gezeigt, dass Menschen unter Zeitdruck »kognitiv geizig« werden und eher dazu neigen, sich auf die scheinbare Gewissheit der KI zu verlassen.17 Erschwerend hinzu kommt die Liebedienerei der KI: Ein Modell lernt, die Präferenzen des Entscheidungsträgers zu übernehmen und ihn in seinen Annahmen zu bestärken, anstatt sie zu hinterfragen.18

Die kognitiven Fehler erlangen größeren Einfluss auf Asylentscheidungen, wenn Modelle unter Bedingungen der epistemischen Undurchschaubarkeit arbeiten. ACS erzeugt Zusammenfassungen, ohne auf die zugrundeliegende Niederschrift zu verweisen, und APS bezieht seine Antworten aus einer einzigen Informationssammlung des Innenministeriums.19

Diese Designmerkmale begünstigen die Entstehung einer geschlossenen Informationsumgebung und unterbrechen die Beweisführungskette, die Voraussetzung für die prozedurale Rechenschaftspflicht ist. Beispielsweise können von einem Sprachmodell erfundene Details die Schlussfolgerungen von Entscheidungsträgern diskret in eine bestimmte Richtung lenken, ohne jemals in der schriftlichen Entscheidungsbegründung aufzutauchen.

Diese mangelnde Rückverfolgbarkeit untergräbt die Fähigkeit von Antragstellern, die Interpretation ihrer Darstellung anzufechten, aber der Widerspruch ist ein unverzichtbarer Sicherungsmechanismus in jedem fairen Entscheidungsprozess. In einem Strafverfahren würden Aussagen, deren Ursprung nicht bis zur Quelle zurückverfolgt werden kann, als Hörensagen verworfen. In Asylverfahren hingegen beraubt die »Innovation« den Asylsuchenden jedes konkreten Beweises, welcher der Darstellung des Modells entgegengesetzt werden könnte. So wird der Dialog unmöglich gemacht, und institutionelle Fehler können nicht angefochten werden: Die von der KI erzeugte Objektivität ist ein Trugbild.20

III. Akt: Der verschwindende Antragsteller

Gemäß internationalem Recht müssen Asylsuchende ihre »begründete Furcht vor Verfolgung« nachweisen. Diese Rechtsnorm verknüpft zwei Kriterien miteinander: die subjektiv empfundene Furcht der Asylsuchenden und objektive Bedingungen im Herkunftsland, die dafür sorgen, dass diese Furcht begründet ist.

Einer der Hauptgründe für die Einführung von KI-Werkzeugen wie ACS und APS war, dass das britische Innenministerium die mit der Beurteilung von Glaubwürdigkeit und Risiken verbundene »kognitive Belastung« verringern wollte.21 Theoretisch ist das vernünftig. Die Sachbearbeiter*innen stehen unter gewaltigem Druck, und KI-Werkzeuge können der Erschöpfung des Mitgefühls und der stellvertretenden Traumatisierung entgegenwirken, Fehler infolge von Überlastung verringern und den Mitarbeiter*innen mehr Zeit für eine gewissenhafte Prüfung geben. Das sind lobenswerte Bestrebungen. Aber wenn die Aufgabe, der Geschichte eines Menschen einen Sinn abzugewinnen, Maschinen übertragen wird, geht in aller Stille etwas Grundlegendes verloren.

Wenn eine Entscheidung das Leben eines Menschen verändern kann, ist es ein Gebot der Fairness, seine Geschichte mit einer Art von Aufmerksamkeit und Gespür zu betrachten, die nicht automatisiert werden kann. 

Zur Feststellung des Flüchtlingsstatus müssen Schlüsse gezogen werden, die mehr mit emotionalem Einfühlungsvermögen als mit statistischer Vorhersage zu tun haben. Wenn eine Entscheidung das Leben eines Menschen verändern kann, ist es ein Gebot der Fairness, seine Geschichte mit einer Art von Aufmerksamkeit und Gespür zu betrachten, die nicht automatisiert werden kann. Die Zeit, die man aufwenden muss, um chaotische und unzusammenhängende Schilderungen nachzuvollziehen, ist keineswegs verschwendet.

Dies ist die moralische Arbeit des Asyls.

Um dieser Verantwortung gerecht werden zu können, sind Anstrengung und Geduld erforderlich. Ein auf den Menschen gerichtetes Engagement versetzt Entscheidungsträger in die Lage, ungeschliffene, ungeschminkte Berichte zur Erfüllung der Beweispflicht zu nutzen. Deshalb wird die Feststellung des Flüchtlingsstatus von den Gerichten als »gemeinsames Unterfangen« betrachtet.22 Aber da die Interaktion zwischen den Beteiligten zunehmend von KI vermittelt wird, wächst die Distanz zwischen Entscheidungsträgern und Antragstellern.

Sachbearbeiter*innen, die einst Berichte durchforsteten, um ihr Weltverständnis auf eine solide Basis zu stellen, verbringen ihre Zeit jetzt damit, einem Modell, das kein eigenes Weltverständnis hat, Antworten abzuringen. Die kritische Lektüre weicht dem unkritischen Prompting, und an die Stelle der sorgfältigen Abwägung tritt der bequeme Aufschub.23 Da das Gespräch auf die Verknüpfung von Token reduziert wird, verliert man den Asylsuchenden aus dem Blick: Er ist keine Person mehr, der man zuhört, sondern ein Verfahrensschritt, der absolviert werden muss.

Und wenn der Asylsuchende nicht mehr als Person wahrgenommen wird, besteht die Gefahr, dass er an dem Ort wieder auftaucht, an den er nie hätte zurückkehren sollen.

Epilog: Der Raum, den wir schulden

Die Geschichte eines Flüchtlings ist oft Stückwerk. Die Entscheidungsträger müssen diese Fragmente zusammensetzen und fragen: »Welches ist die plausibelste Erklärung für die Furcht dieses Menschen?« Um sich auf dieses Wagnis einlassen zu können, muss man bereit sein, Ungewissheit zu ertragen und sich auf das Leid einzulassen. Kein Sprachmodell besitzt diese Fähigkeiten.24 Ein LLM kann nicht verstehen, welchen Schaden ein Wort anrichten kann, das das Modell in einer Halluzination ausspuckt. Es ist auch unfähig, seine eigenen Prioritäten zu hinterfragen oder die in seine Trainingsdaten eingebettete Voreingenommenheit abzuschütteln.

In Anbetracht der facettenreichen Dimensionen eines gerechten Verfahrens lohnt es sich, darauf hinzuweisen, dass die generative KI das Asylsystem mit einem großen Dilemma konfrontiert hat. Einerseits können LLM-Werkzeuge die Effizienz eines Systems erhöhen, das viele Asylsuchende jahrelang im rechtlichen Niemandsland gefangen hält.25 Andererseits haben die Effizienzgewinne offenkundig einen moralischen Preis: Sie vereinfachen Geschichten, die nicht bereinigt werden können, beschreiben die Risiken in einem Land, ohne zu wissen, wie sich Risiken anfühlen, und begünstigen eine Entscheidungsfindung anhand der Methode »Prompten und anwenden«, was zu Kompetenzverlust führt. 

Eine romantische Verklärung der menschlichen Urteilskraft ist genauso wenig eine Lösung wie eine kategorische Ablehnung der Technologie. Aber wenn die Würde eines Menschen auf dem Spiel steht, ist es gefährlich, die langsame, empathische Arbeit des Zuhörens, des Aufbaus von Vertrauen und des Lesens zwischen den Zeilen einer künstlichen Intelligenz zu überlassen.

Wir brauchen keine vorbehaltlose Übernahme der KI, sondern wir brauchen rigorose Beurteilung, umsichtige Umsetzung und sinnvolle Rechenschaftspflicht.26, 27 

Dazu müssen wir uns folgende Fragen stellen:

1. Gibt es im Asylsystem sichere Einsatzmöglichkeiten für die KI?
2. Wenn ja, sind diese Modelle unabhängigen Belastungstests unterzogen worden? Welche auf die Traumaforschung gestützten Standards und welche kulturell sensiblen Bewertungsrahmen wurden in ihrer Entwicklung herangezogen?
3. Wie lernen die Entscheidungsträger, Fähigkeiten, Voreingenommenheit und Beschränkungen von Sprachmodellen richtig einzuschätzen? 
4. Wenn Zeit gespart wird, wofür wird die gewonnene Zeit genutzt? Wird sie in eine intensivere Auseinandersetzung mit den Fällen investiert, oder werden lediglich mehr Anträge abgewickelt?
5. Und was am wichtigsten ist: Wie sollten klinische Psycholog*innen, Menschenrechtsanwält*innen und die Geflüchteten selbst in Gestaltung, Beurteilung und Beaufsichtigung der KI-Systeme eingebunden werden? 

So hochentwickelt ein Modell auch ist, wird die KI nie die Verantwortung dafür tragen, dass ein Mensch in die Gefahr zurückgeschickt wird. Diese Last müssen weiterhin Menschen tragen. Um sie mit Integrität tragen zu können, müssen wir verhindern, dass die Technologie eine Pufferzone zwischen uns und der moralischen Bürde unserer Entscheidungen erzeugt.

Dieser Text wurde von Stephan Gebauer aus dem Englischen ins Deutsche übersetzt. Das englische Original wurde erstmals bei PHI/AI im August 2025 veröffentlicht.