ENTSCHLÜSSELT
KI entschlüsselt: Warum Sprachmodelle halluzinieren
Ein Sprachmodell kann eine Quelle mit Autor, Titel und Erscheinungsjahr nennen, obwohl sie nie existiert hat. Warum Sprachmodelle halluzinieren, hat deshalb weniger mit einem rätselhaften Defekt als mit ihrer grundlegenden Arbeitsweise zu tun: Sie erzeugen plausible Sprache, verfügen aber nicht automatisch über einen verlässlichen Mechanismus zur Wahrheitsprüfung.
Stand: August 2026
Ein Forscher fragt mehrere bekannte Sprachmodelle nach dem Titel seiner eigenen Doktorarbeit. Die Antworten wirken auf den ersten Blick ausgezeichnet: Sie enthalten akademisch klingende Titel, passende Universitäten und konkrete Jahreszahlen. Nur stimmt keine davon. Genau dieses Beispiel dokumentierten Forscher von OpenAI und dem Georgia Institute of Technology 2025 mit damals verfügbaren Versionen von ChatGPT, DeepSeek und Llama. Die Systeme produzierten nicht bloß eine ungenaue Erinnerung, sondern vervollständigten die Lücke jeweils mit einer anderen, sprachlich überzeugenden Geschichte. Die Veröffentlichung ist ein noch nicht begutachteter Preprint und teilweise anbietergetragen, beschreibt aber ein Verhalten, das auch unabhängige Forschung seit Jahren untersucht: Eine Antwort kann vollständig nach Wissen aussehen, ohne auf überprüfbarem Wissen zu beruhen. (Kalai et al., 2025)
Damit ist die zentrale Frage dieses Beitrags aus KI entschlüsselt gesetzt: Warum Sprachmodelle halluzinieren, obwohl sie enorme Textmengen verarbeitet haben, flüssig formulieren und häufig tatsächlich richtige Antworten geben – und weshalb sie ihre eigenen Erfindungen nicht zuverlässig als solche erkennen.
Das Modell sucht nicht nach dem wahren Satz
Gängige große Sprachmodelle werden zunächst darauf trainiert, Text fortzusetzen. Eine Eingabe wird in kleinere Einheiten, sogenannte Tokens, zerlegt; aus diesen berechnet das Modell für den nächsten Schritt eine Verteilung möglicher Fortsetzungen. Es wählt ein Token, fügt es dem bisherigen Text hinzu und wiederholt den Vorgang, bis eine Antwort entstanden ist. Durch die enorme Zahl gelernter Parameter kann das System dabei Grammatik, Stil, Zusammenhänge und viele in den Trainingsdaten enthaltene Fakten erstaunlich gut abbilden. Technisch bleibt das Ergebnis jedoch eine erzeugte Zeichenfolge und nicht die Ausgabe einer Datenbankabfrage, bei der vor dem Absenden noch einmal geprüft wird, ob Name, Datum und Quelle in einem verlässlichen Register vorkommen.
Das bedeutet nicht, dass ein Sprachmodell nur Wörter errät oder keinerlei Wissen repräsentiert. In seinen Gewichten stecken verdichtete statistische Strukturen aus dem Training, und diese Strukturen können sehr präzise Antworten ermöglichen. Das Wissen liegt dort aber nicht wie eine Sammlung sauber beschrifteter Karteikarten. Häufige und regelmäßig auftretende Muster lassen sich leichter lernen als seltene, willkürliche Einzelheiten. Wie ein wissenschaftlicher Titel aufgebaut ist, welche Wörter in Dissertationen häufig vorkommen und welches Fach zu einer Person passen könnte, folgt erkennbaren Mustern; der exakte Titel einer bestimmten, selten erwähnten Arbeit ist dagegen ein einzelnes Detail, das sich aus diesen Mustern nicht zuverlässig ableiten lässt.
Gerät das Modell an eine solche Lücke, verschwindet seine Fähigkeit zur Formulierung nicht. Es kann weiterhin eine Fortsetzung bilden, die sprachlich, fachlich und formal zu der Frage passt. Genau darin liegt der Widerspruch: Die Maschine scheitert an der Information, nicht an der Darstellung ihres vermeintlichen Wissens.
Warum Sprachmodelle halluzinieren: Aus einer Wissenslücke wird eine konkrete Erfindung
Während des Vortrainings sieht ein Sprachmodell sehr viele Beispiele dafür, wie Menschen Aussagen formulieren. Diese Texte tragen jedoch normalerweise keine durchgängigen Markierungen, die jeden Satz als wahr, falsch, veraltet, ironisch oder unbelegt kennzeichnen. Das Modell lernt daher zunächst die Verteilung der Sprache und nicht für jede denkbare Behauptung ein separates Wahrheitsurteil. Selbst ein fehlerfreier Trainingsbestand würde das Problem seltener Fakten nicht vollständig beseitigen, argumentieren Kalai und seine Mitautoren, weil aus wenigen Beobachtungen keine verlässliche allgemeine Regel für beliebige Namen, Daten oder Titel entstehen kann. Reale Trainingsdaten verschärfen die Lage, denn sie enthalten zusätzlich Widersprüche, Gerüchte, überholte Angaben und verbreitete Irrtümer.
Die begutachtete Studie TruthfulQA zeigte bereits an älteren Modellgenerationen, dass Sprachmodelle populäre menschliche Fehlannahmen aus Texten übernehmen können. Ihr häufig zitiertes Ergebnis, größere Modelle seien in diesem damaligen Test nicht automatisch wahrheitsgetreuer gewesen, darf nicht ungeprüft auf heutige Systeme übertragen werden; es belegt jedoch einen entscheidenden Punkt: Mehr Parameter und mehr Trainingsmaterial lösen das Wahrheitsproblem nicht zwangsläufig, wenn das Lernziel weiterhin darin besteht, vorhandene Sprache möglichst gut nachzubilden.
Nach dem Vortraining folgt bei modernen Chatmodellen üblicherweise eine weitere Abstimmung, damit sie Anweisungen befolgen, hilfreich antworten und unerwünschte Ausgaben vermeiden. Auch dieser Schritt kann Halluzinationen reduzieren, zugleich aber einen ungünstigen Anreiz erhalten. Wird ein Modell in Tests vor allem danach bewertet, wie oft es die richtige Antwort trifft, kann eine Vermutung besser abschneiden als ein ehrliches „Das weiß ich nicht“: Wer rät, hat zumindest eine Chance auf einen Punkt, wer sich enthält, erhält keinen. Der 2025 veröffentlichte Preprint von Kalai und seinen Mitautoren sieht in solchen Bewertungsregeln einen Grund dafür, dass selbst leistungsfähige Systeme Unsicherheit noch immer zu oft mit einer konkreten Antwort überdecken. Das ist keine Behauptung, ein Modell verfolge bewusst eine Prüfungsstrategie. Training und Bewertung begünstigen lediglich Ausgabemuster, die wie entschlossene Antworten aussehen.
Sprachliche Sicherheit ist kein Maß für Wahrheit
Menschen lesen Tonfall als Signal. Eine vorsichtige Formulierung klingt unsicher, eine genaue Jahreszahl und ein vollständiger Quellenname dagegen kompetent. Beim Sprachmodell entsteht dieser Eindruck aus einem technischen Prozess, der sprachliche Wahrscheinlichkeit und faktische Richtigkeit nicht sauber voneinander trennt. Das System kann sehr sicher darin sein, welche Wörter typischerweise aufeinanderfolgen, obwohl die daraus zusammengesetzte Behauptung falsch ist.
Gerade erfundene Quellen wirken deshalb so überzeugend. Wissenschaftliche Angaben besitzen eine starke Form: Namen, Titel, Zeitschrift, Jahrgang, Seitenbereich und eine Zeichenfolge, die wie eine DOI aussieht. Das Modell hat zahllose Beispiele dieser Form gesehen und kann sie präzise nachbauen. Ob die konkrete Kombination existiert, ist eine andere Frage. Es erzeugt in diesem Moment kein sichtbares Warnsignal, denn ein formal passender Titel und ein echter Titel werden zunächst mit demselben sprachlichen Werkzeug geschrieben.
Hinzu kommt, dass „Halluzination“ mehrere Fehlerarten zusammenfasst. Ein Modell kann einen Fakt frei erfinden, einen vorhandenen Text falsch zusammenfassen, zwei echte Quellen miteinander vermischen oder eine verbreitete Falschinformation konsequent wiederholen. Forschende der University of Oxford unterscheiden in ihrer 2024 in Natureveröffentlichten Arbeit deshalb sogenannte Konfabulationen von systematischen Fehlern. Bei einer Konfabulation schwankt das System zwischen inhaltlich verschiedenen Antworten, weil ihm eine belastbare Grundlage fehlt. Ein häufig gelernter Irrtum kann dagegen bei jeder Wiederholung gleich klingen – und gerade deshalb fälschlich zuverlässig wirken. (Farquhar et al., 2024)
Warum lange Antworten das Problem verstecken
Eine Antwort ist selten vollständig richtig oder vollständig falsch. Sie kann zehn zutreffende Aussagen enthalten und dazwischen zwei erfundene Details, die wegen des insgesamt plausiblen Textes kaum auffallen. Das macht lange Ausgaben besonders schwer zu bewerten: Mit jedem zusätzlichen Namen, Datum oder Ursache-Wirkungs-Zusammenhang wächst die Zahl der Einzelbehauptungen, die geprüft werden müssten.
Das Evaluationsverfahren FActScore zerlegt längere Texte deshalb in atomare Aussagen und prüft jede davon gegen eine Wissensquelle. In der 2023 veröffentlichten Untersuchung erreichte die damals getestete ChatGPT-Version bei erzeugten Personenbiografien einen FActScore von 58 Prozent. Dieser Wert ist kein aktuelles Qualitätsurteil über ChatGPT im Jahr 2026 und lässt sich nicht auf andere Aufgaben übertragen. Er zeigt vielmehr, weshalb ein flüssiger Gesamttext die Zuverlässigkeit verschleiern kann: Wahres und Falsches stehen nicht in getrennten Absätzen, sondern direkt nebeneinander.
Kann ein Sprachmodell seine Unsicherheit erkennen?
Zumindest teilweise. Modelle können unter geeigneten Bedingungen abschätzen, ob eine Antwort wahrscheinlich richtig ist, doch diese Selbsteinschätzung ist nicht in jeder Aufgabe gleich gut kalibriert und wird in einer normalen Chatantwort nicht automatisch offengelegt. Die Oxford-Forscher messen deshalb nicht nur, wie wahrscheinlich einzelne Wörter sind, sondern wie stark die Bedeutung mehrerer erzeugter Antworten schwankt. Wenn wiederholte Antworten denselben Sachverhalt unterschiedlich darstellen, steigt die sogenannte semantische Entropie; das kann auf eine Konfabulation hindeuten und einem System erlauben, eine Warnung auszugeben oder die Antwort zu verweigern.
Auch dieses Verfahren ist kein Wahrheitsdetektor. Wiederholt ein Modell stabil dieselbe Falschinformation, bleibt die semantische Unsicherheit gering. Ein Warnsystem kann daher einen Teil der willkürlichen Erfindungen erkennen, aber nicht jede falsche Behauptung. Die wichtige Trennlinie verläuft zwischen Unsicherheit und Unwahrheit: Hohe Unsicherheit ist ein nützliches Risikosignal, niedrige Unsicherheit noch kein Beweis.
Websuche und Dokumente geben dem Modell einen Boden – aber kein Wahrheitszertifikat
Ein verbreiteter Lösungsansatz besteht darin, dem Sprachmodell vor der Antwort externe Informationen bereitzustellen. Bei Retrieval-Augmented Generation, kurz RAG, sucht ein vorgeschaltetes System passende Textstellen in einer Dokumentensammlung und legt sie zusammen mit der Frage in den aktuellen Kontext. Das Modell muss eine seltene Information dann nicht allein aus seinen Parametern rekonstruieren, sondern kann sie aus einer sichtbaren Quelle übernehmen. Die grundlegende RAG-Arbeit von 2020 berichtete bei wissensintensiven Aufgaben spezifischere und faktischere Ausgaben als bei einem rein parametrischen Vergleichssystem. (Lewis et al., 2020)
Dasselbe Prinzip steckt hinter Wissensdatenbanken, Datei-Chats und vielen KI-Suchfunktionen. Unser GadgetChecks-Tutorial zur Uliya-KI auf einem UGREEN NAS zeigt den Unterschied praktisch: Ein lokales Modell ohne Online-Suche besitzt keinen Live-Zugriff auf Wetter, Schlagzeilen oder andere aktuelle Fakten; erst eine zugeschaltete Suche oder eine bereitgestellte Dokumentensammlung erweitert den verfügbaren Kontext.
Doch auch mit Suche bleibt eine Kette möglicher Fehler. Das System kann eine ungeeignete Suchanfrage formulieren, die falsche Fundstelle auswählen, einen veralteten Text erhalten, eine Passage missverstehen oder beim Formulieren eine Aussage ergänzen, die in keiner Quelle steht. Selbst eine angezeigte Fußnote beweist nur dann etwas, wenn der Link funktioniert und die Quelle die konkrete Behauptung tatsächlich trägt. Das Tow Center for Digital Journalism prüfte 2025 acht generative Suchdienste mit 1.600 gezielten Anfragen zu Nachrichtenausschnitten; in diesem eng definierten Test waren mehr als 60 Prozent der Antworten mindestens teilweise falsch, und mehrere Systeme erfanden oder beschädigten Links. Die Untersuchung bildet nicht jede Form von KI-Websuche ab, widerlegt aber die bequeme Annahme, eine Quellenanzeige mache die gesamte Antwort automatisch verlässlich. (Tow Center, 2025)
Wie Entwickler Halluzinationen weiter verringern wollen
Eine einzelne technische Maßnahme wird voraussichtlich nicht genügen. Retrieval und Websuche helfen dort, wo aktuelle oder seltene Informationen fehlen. Spezialisierte Datenbanken und Werkzeuge sind sinnvoll, wenn Zahlen berechnet, Gesetzestexte gefunden oder Produktdaten abgefragt werden müssen. Verifikationsschritte können eine erste Antwort in einzelne Behauptungen zerlegen, Quellen dafür suchen und widersprüchliche Stellen neu bearbeiten. Unsicherheitsmodelle können riskante Antworten markieren, während eine bessere Kalibrierung dafür sorgt, dass ein System häufiger auf eine Antwort verzichtet, anstatt eine Lücke zu füllen.
Mindestens ebenso wichtig sind die Maßstäbe, nach denen Modelle entwickelt und verglichen werden. Wenn Benchmarks nur richtige Treffer belohnen und eine begründete Enthaltung wie einen Fehler behandeln, bleibt Raten attraktiv. Aussagekräftigere Evaluationen unterscheiden deshalb zwischen korrekten Antworten, falschen Antworten und berechtigter Unsicherheit; ein selbstbewusst erfundener Fakt muss schlechter bewertet werden als das Eingeständnis, dass die nötige Information fehlt. Daneben braucht es Tests mit aktuellen Modellversionen, klar dokumentierten Werkzeugen und realistischen Aufgaben, denn eine niedrige Fehlerquote in einem abgeschlossenen Fragensatz sagt wenig über lange Recherchen, mehrdeutige Anweisungen oder neue Ereignisse aus.
Fortschritt ist dabei real. Neuere Modelle, bessere Trainingsverfahren und angeschlossene Werkzeuge können bestimmte Halluzinationen deutlich seltener machen. Die Aussage „Dieses Modell halluziniert weniger“ bleibt aber unvollständig, solange nicht klar ist, welches Modell, welche Version, welche Aufgabe, welche Suchfunktion und welches Messverfahren gemeint sind.
Was Nutzer aus einer überzeugenden Antwort nicht ableiten sollten
Eine KI-Antwort ist besonders nützlich, wenn Sprache verarbeitet werden soll: Ein bereitgestellter Text kann gegliedert, vereinfacht, übersetzt oder nach klar benannten Stellen durchsucht werden. Das Risiko steigt, sobald fehlende Fakten aus dem Modellwissen ergänzt werden sollen, vor allem bei seltenen Namen, exakten Daten, Zitaten, Studien, Urteilen, technischen Spezifikationen oder sehr aktuellen Ereignissen. In medizinischen, rechtlichen und finanziellen Fragen genügt eine plausible Formulierung grundsätzlich nicht; dort müssen belastbare Originalquellen und fachkundige Prüfung die Entscheidung tragen.
Quellenangaben sollten deshalb nicht als Dekoration gelesen werden. Entscheidend ist, ob die verlinkte Seite existiert, ob Autor und Titel stimmen, ob die Quelle aktuell genug ist und ob sie genau die Behauptung belegt, neben der sie erscheint. Besonders bei einer langen Antwort lohnt es sich, nicht den gesamten Text pauschal als glaubwürdig oder unglaubwürdig einzustufen, sondern die wenigen entscheidenden Aussagen herauszulösen: Welche Zahl beeinflusst die Schlussfolgerung, welche Studie begründet den Rat, welches Datum macht die Nachricht aktuell? Diese Punkte verdienen die Prüfung zuerst.
Auch die Aufforderung „Erfinde nichts“ ist sinnvoll, aber kein technischer Schutzschalter. Sie kann das Antwortverhalten vorsichtiger machen, ersetzt jedoch weder fehlende Informationen noch eine externe Kontrolle. Besser ist ein System, das auf zugängliche Primärquellen zurückgreift, Unsicherheit sichtbar macht und im Zweifel keine konkrete Behauptung erzeugt. Trotzdem bleibt die letzte Prüfung bei folgenreichen Entscheidungen außerhalb des Modells.
Was wir daraus über KI lernen
Warum Sprachmodelle halluzinieren, lässt sich damit ohne mystische Vorstellung erklären: Sie wurden darauf trainiert, aus einem gegebenen Kontext eine passende sprachliche Fortsetzung zu erzeugen. Meistens treffen gelernte Sprachmuster und die dafür nötigen Fakten zusammen, manchmal ist aber nur das Muster stark genug. Dann kann das System die Form einer richtigen Antwort liefern, obwohl ihm der belastbare Inhalt fehlt.
Die wichtigste Grenze moderner Sprachmodelle liegt daher nicht darin, dass sie grundsätzlich nichts wissen oder immer unzuverlässig wären. Sie liegt darin, dass sprachliche Qualität, interne Sicherheit und überprüfbare Wahrheit drei verschiedene Größen sind. Websuche, Retrieval, Verifikationsmodelle und bessere Bewertungen können diese Größen enger zusammenführen, aber nicht vollständig gleichsetzen. Eine überzeugende Antwort ist ein Ergebnis, das geprüft werden kann – kein Beweis, dass die Prüfung bereits stattgefunden hat.
Hauptquellen
- Kalai et al.: Why Language Models Hallucinate – Preprint von Forschern bei OpenAI und Georgia Tech, veröffentlicht 2025.
- Farquhar et al.: Detecting hallucinations in large language models using semantic entropy – begutachtete Studie in Nature, 2024.
- Lin et al.: TruthfulQA – Measuring How Models Mimic Human Falsehoods – begutachteter ACL-Konferenzbeitrag, 2022.
- Min et al.: FActScore – Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation – begutachteter EMNLP-Konferenzbeitrag, 2023.
- Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks – ursprüngliche, bei NeurIPS veröffentlichte RAG-Arbeit, 2020.
- Tow Center for Digital Journalism: AI Search Has a Citation Problem – unabhängige Untersuchung generativer Suchdienste, 2025.
Technik-Deals im Überblick
Ausgewählte Angebote und zeitlich begrenzte Preisaktionen rund um Technik und Gadgets.
