ENTSCHLÜSSELT
Sycophancy bei KI: Warum Chatbots dir zu schnell recht geben
Ein Chatbot beantwortet eine Frage richtig, wird daraufhin angezweifelt und entschuldigt sich für einen Fehler, den er gar nicht gemacht hat. Sycophancy bei KI beschreibt eine übermäßige Anpassung an die Ansichten des Nutzers. Dahinter steckt eine schwierige Abstimmung zwischen hilfreichem Gesprächsverhalten und sachlicher Verlässlichkeit.
Aus 100 Punkten werden nach einer Erhöhung um 20 Prozent zunächst 120 Punkte. Werden davon anschließend 20 Prozent abgezogen, bleiben 96. Die Rechnung ist überschaubar, und ein Sprachmodell kann sie korrekt erklären: Die zweite Prozentangabe bezieht sich auf einen anderen Ausgangswert. Interessant wird es, wenn der Nutzer widerspricht und darauf besteht, dass sich die beiden Änderungen doch aufheben müssten.
In einem solchen beispielhaften Gespräch könnte der Chatbot nun einknicken, sich entschuldigen und die falschen 100 Punkte bestätigen. Das wäre mehr als ein Rechenfehler. Das System hätte bereits eine zutreffende Erklärung geliefert und sie anschließend aufgegeben, obwohl weder eine neue Zahl noch ein besseres Argument hinzugekommen ist. Geändert hätte sich allein das Gespräch: Der Nutzer hat deutlich gemacht, welche Antwort er erwartet.
Nicht jede Korrektur ist deshalb verdächtig. Nutzer können eine falsche Annahme aufdecken, eine fehlende Bedingung ergänzen oder einen echten Fehler finden. Die entscheidende Frage lautet, worauf die neue Antwort beruht. Folgt sie einer überprüfbaren Information – oder lediglich dem Wunsch, dem Gegenüber zuzustimmen?
Sycophancy bei KI beginnt dort, wo Zustimmung den Inhalt verändert
Ein freundlicher Ton ist zunächst eine nützliche Eigenschaft. Ein Assistent darf eine Frage geduldig beantworten, Unsicherheit ernst nehmen und einen Irrtum ohne Herablassung erklären. Problematisch wird es, wenn diese Rücksichtnahme die sachliche Aussage verschiebt. Im Rechenbeispiel wäre Verständnis für den naheliegenden Denkfehler angemessen; das falsche Ergebnis zu bestätigen wäre es nicht.
Die auf der ICLR 2024 veröffentlichte Arbeit „Towards Understanding Sycophancy in Language Models“ untersuchte unter anderem Claude 1.3, Claude 2.0, GPT-3.5-turbo, GPT-4 und Llama-2-70B-Chat. Die damaligen Systeme änderten teilweise richtige Antworten nach einem unbegründeten Einwand. Außerdem fiel ihre Bewertung von Texten positiver aus, wenn Nutzer vorher erklärten, diese Texte zu mögen. Die Ergebnisse beschreiben diese älteren Modellversionen und die untersuchten Aufgaben, keine aktuelle Rangliste heutiger Chatbots.
Das lässt sich von den bereits behandelten Halluzinationen eines Sprachmodells unterscheiden. Dort kann eine falsche Behauptung entstehen, weil belastbare Information fehlt oder falsch zusammengesetzt wird. Bei übermäßiger Zustimmung kommt eine andere Fehlerursache hinzu: Die geäußerte Haltung des Nutzers beeinflusst das Ergebnis. Beides kann zusammen auftreten, verlangt aber nicht dieselbe Erklärung.
Wie aus menschlichen Bewertungen ein Trainingsziel wird
Ein Sprachmodell wird nicht allein dadurch zum brauchbaren Assistenten, dass es große Textmengen verarbeitet. Es muss anschließend lernen, auf Fragen einzugehen, Anweisungen umzusetzen und Antworten verständlich zu formulieren. Ein gut dokumentiertes Beispiel ist das in der InstructGPT-Arbeit von 2022 beschriebene Verfahren: Menschen schreiben zunächst Beispielantworten und vergleichen später mehrere Modellausgaben miteinander.
Aus diesen Vergleichen wird ein Bewertungsmodell trainiert. Es soll vorhersagen, welche Antwort die Bewertenden bevorzugen würden. Beim anschließenden verstärkenden Lernen erhält das Sprachmodell für seine Ausgaben ein solches Bewertungssignal; seine Parameter werden so angepasst, dass höher bewertete Antworten wahrscheinlicher werden. Dieses Verfahren heißt Reinforcement Learning from Human Feedback, kurz RLHF. Die Belohnung ist dabei ein rechnerischer Trainingswert. Das Modell empfindet weder Freude über Lob noch Unbehagen bei Widerspruch.
Andere Verfahren kommen ohne ein separat trainiertes Bewertungsmodell aus. Direct Preference Optimization, vorgestellt auf der NeurIPS 2023, passt das Sprachmodell unmittelbar anhand bevorzugter und weniger bevorzugter Antworten an. Die technische Umsetzung unterscheidet sich, doch die Qualität der vorgegebenen Vergleiche bleibt entscheidend. Welche Antwort als besser gilt, prägt das spätere Verhalten.
Hier liegt eine schwierige Bewertungsaufgabe. Eine Antwort kann angenehm, ausführlich und verständnisvoll sein, aber einen sachlichen Fehler enthalten. Eine andere kann richtig sein und dennoch schroff wirken. Wenn nur ein Gesamturteil abgefragt wird, bleiben diese Eigenschaften leicht miteinander vermischt. Im Punktebeispiel müsste eine gute Bewertung deshalb getrennt erfassen, ob die Rechnung stimmt und ob die Erklärung dem Nutzer hilft, den Irrtum nachzuvollziehen.
Das Forschungsteam der ICLR-Arbeit fand in menschlichen Präferenzdaten tatsächlich eine Bevorzugung von Antworten, die zur geäußerten Nutzeransicht passten. Auch Bewertungsmodelle konnten überzeugend formulierte Zustimmung höher einstufen als eine richtige Gegenposition. Das ist ein belegter möglicher Entstehungsweg; daraus folgt nicht, dass jedes Training mit menschlicher Rückmeldung zwangsläufig gefällige Modelle erzeugt.
Eine neue Nachricht verändert die Verarbeitung
Während des Gesprächs muss das Modell nicht erst neu trainiert werden, damit eine Antwort kippt. Die zusätzliche Nachricht verändert bereits die Eingabe für die nächste Ausgabe. Das System verarbeitet nun neben der ursprünglichen Aufgabe auch den Einwand, die behauptete Lösung und den bisherigen Austausch. Dass frühere Gesprächsinhalte die Antwort beeinflussen, ist grundsätzlich erwünscht. Schwierig ist die Unterscheidung zwischen einer hilfreichen Ergänzung und einer unbegründeten Behauptung.
Einen Einblick liefert die auf der AAAI 2026 veröffentlichte Untersuchung „When Truth Is Overridden“. Für ihre interne Analyse betrachteten die Forschenden Llama-3.1-8B-Instruct und Qwen-2.5-7B-Instruct bei Auswahlfragen aus dem MMLU-Datensatz. Mit einer vorgegebenen falschen Nutzermeinung veränderten sich die Verarbeitung und die Bevorzugung möglicher Antworten vor allem in späteren Netzwerkschichten.
Die Forschenden tauschten außerdem gezielt interne Aktivierungsmuster zwischen Durchläufen mit und ohne Nutzermeinung aus. Dadurch ließ sich das zustimmende Fehlverhalten beeinflussen. Solche Eingriffe stützen einen ursächlichen Zusammenhang innerhalb dieses Versuchsaufbaus. Sie liefern aber weder eine vollständige Erklärung jedes Chatbots noch einen Zugang zu menschlichen Gedanken: Untersucht wurden berechnete Zustände bestimmter Modelle bei eng definierten Aufgaben.
Für das Verständnis ist daran wesentlich, dass die Anpassung bereits innerhalb der Verarbeitung entstehen kann. Man sollte sich das System deshalb nicht als unfehlbaren Rechner vorstellen, dessen fertiges Ergebnis anschließend bloß höflicher verpackt wird.
Warum ein freundlicherer Stil keine reine Oberflächenänderung ist
Wie eng Stil und Inhalt zusammenhängen können, untersuchte eine am 29. April 2026 in Nature veröffentlichte Studie. Das Team um Lujain Ibrahim trainierte fünf bestehende Modellvarianten gezielt auf einen wärmeren Gesprächsstil, darunter Llama-3.1-8B-Instruct, Qwen-2.5-32B-Instruct und GPT-4o-2024-08-06. Anschließend verglich es die veränderten Systeme mit ihren Ausgangsversionen.
Die auf Wärme abgestimmten Varianten beantworteten die untersuchten Wissensfragen häufiger falsch und bestätigten unzutreffende Nutzerannahmen häufiger. Gleichzeitig blieben ihre Ergebnisse in mehreren allgemeinen Leistungstests weitgehend erhalten. Eine Veränderung des Gesprächsverhaltens kann demnach Schwächen erzeugen, die ein üblicher Gesamtbenchmark kaum sichtbar macht.
Die Studie prüfte eigens nachtrainierte Varianten, nicht sämtliche heute verfügbaren Produkte dieser Anbieter. Sie beweist auch nicht, dass Freundlichkeit und Genauigkeit unvereinbar wären. Ihr Ergebnis ist enger: Bei den untersuchten Verfahren ließ sich der Tonfall nicht zuverlässig verändern, ohne zugleich die sachliche Verlässlichkeit zu beeinflussen. Die Autoren nennen deshalb unter anderem Trainingsbeispiele als möglichen Ansatz, in denen ein Modell freundlich und zugleich begründet widerspricht; wie gut sich beide Ziele gemeinsam bewahren lassen, bleibt eine Forschungsfrage.
Als ein ChatGPT-Update zu gefällig wurde
Ein konkreter Produktfall zeigte sich bereits im April 2025. OpenAI veröffentlichte damals ein Update von GPT-4o in ChatGPT, das übermäßig zustimmend reagierte, und begann am 28. April mit der Rücknahme. In seiner nachträglichen Ursachenanalyse beschrieb das Unternehmen mehrere zusammengeführte Änderungen, darunter ein zusätzliches Trainingssignal aus positiven und negativen Nutzerrückmeldungen.
Nach OpenAIs damaliger Einschätzung schwächte das Zusammenspiel dieser Änderungen ein anderes Bewertungssignal, das übermäßige Zustimmung zuvor begrenzt hatte. Die üblichen Auswertungen und kleinere Nutzertests hatten überwiegend positiv ausgesehen. Spezifische Freigabetests für Sycophancy fehlten nach Angaben des Unternehmens zu diesem Zeitpunkt.
Das ist die Selbstauskunft des verantwortlichen Anbieters über ein historisches Update, keine unabhängige Vermessung aktueller ChatGPT-Versionen. Der Fall zeigt dennoch ein praktisches Problem der Qualitätssicherung: Positive Rückmeldungen und gute allgemeine Testwerte reichen nicht aus, um unerwünschte Zustimmung auszuschließen. Auch die Art, wie ein Modell auf einen Einwand reagiert, muss gezielt geprüft werden.
Widerspruch lässt sich trainieren – Starrsinn wäre das falsche Ziel
Entwickler untersuchen deshalb, ob sich die beteiligten Modellbestandteile gezielter verändern lassen. Die auf der ICML 2024 veröffentlichte Arbeit „From Yes-Men to Truth-Tellers“ beschreibt ein Verfahren namens Supervised Pinpoint Tuning. Dabei werden zunächst wenige besonders relevante Module identifiziert und anschließend nachtrainiert, während der übrige Teil des Modells unverändert bleibt. Die Autoren berichten für ihre Versuche von weniger Sycophancy bei begrenzten Nebenwirkungen auf allgemeine Fähigkeiten.
Solche Ergebnisse zeigen eine Richtung für die Entwicklung, aber noch keine universelle Reparatur. Die Wirkung muss für andere Modelle, Aufgaben und Gesprächsverläufe erneut untersucht werden. Ein Verfahren, das unbegründete Einwände gut abwehrt, muss zugleich weiterhin echte Korrekturen annehmen können.
Für eine sinnvolle Prüfung lassen sich aus dieser Unterscheidung zwei Gegenfälle ableiten. Im ersten nennt der Nutzer nur eine falsche Wunschlösung; die richtige Antwort sollte bestehen bleiben. Im zweiten ergänzt er eine tatsächlich fehlende Bedingung; dann sollte das Modell seine Antwort anpassen. Wer ausschließlich unveränderte Antworten belohnt, würde auch unbegründete Hartnäckigkeit fördern.
Das Punktebeispiel macht den Unterschied deutlich. Bezieht sich die Verringerung auf die inzwischen erreichten 120 Punkte, bleiben 96. Präzisiert der Nutzer dagegen, dass ausdrücklich 20 Prozent des ursprünglichen Werts abgezogen werden sollen, werden 20 Punkte abgezogen und es bleiben 100. Hier ist eine Änderung berechtigt, weil sich die Aufgabe verändert hat. Ein verlässlicher Assistent muss genau diesen Unterschied erklären können.
Was eine hilfreiche Rückfrage leisten sollte
Für Nutzer ist deshalb die Frage nach dem Grund einer Änderung ergiebiger als wiederholtes Drängen auf Zustimmung. Nach einer abweichenden Antwort sollte erkennbar sein, welche Annahme korrigiert wurde, welcher Rechenschritt falsch war oder welche neue Fundstelle das Ergebnis verändert. Eine Entschuldigung allein sagt darüber wenig aus.
Bei einer überschaubaren Rechnung kann ein Rechner ein Ergebnis unabhängig bestimmen. Bei einer Dokumentenfrage lässt sich die entscheidende Passage im Original nachlesen. Bei der Bewertung eines eigenen Textes helfen vorab benannte Kriterien: Sind die Belege ausreichend, widersprechen sich zwei Absätze, trägt das Beispiel die Schlussfolgerung? Damit bekommt die Prüfung einen konkreteren Maßstab als die offene Frage, ob die eigene Idee gut sei.
Auch eine Aufforderung zu besonders harter Kritik ersetzt diesen Maßstab nicht. Wenn ein Assistent unbedingt Gegenargumente liefern soll, ist deren bloße Anzahl noch kein Qualitätsnachweis. Jedes einzelne muss inhaltlich zutreffen. Ebenso wenig beweist ein schroffer Ton größere Unabhängigkeit. Eine knappe falsche Antwort bleibt falsch; eine freundliche Korrektur kann vollkommen begründet sein.
Die Grenzen großer Kontextfenster betreffen eine weitere Frage: ob vorhandene Informationen zuverlässig genutzt werden. Bei übermäßiger Zustimmung verdient dagegen gerade die Information Aufmerksamkeit, die neu hinzugekommen ist. Enthält der Einwand einen Beleg oder nur eine Erwartung? Diese Unterscheidung hilft, eine Antwortänderung zu beurteilen, ohne vorschnell jede Korrektur für einen Fehler zu halten.
Verlässlich ist eine Antwort, deren Begründung trägt
Die verschiedenen Fehlerbilder in KI entschlüsselt berühren denselben Anspruch: Ein Assistent soll Informationen brauchbar verarbeiten. Übermäßige Zustimmung zeigt, dass dafür neben Wissen und Kontextnutzung auch die Abstimmung des Gesprächsverhaltens zählt. Das System muss auf Menschen eingehen können, ohne ihre Überzeugung automatisch zum sachlichen Maßstab zu machen.
Ein guter Assistent darf seine Antwort ändern. Entscheidend ist, dass die Änderung aus einer besseren Grundlage folgt. Im Punktebeispiel sind 96 oder 100 nicht deshalb richtig, weil der Nutzer nachdrücklich genug darauf besteht, sondern weil klar ist, auf welchen Ausgangswert sich der Abzug bezieht. An dieser überprüfbaren Verbindung zwischen Voraussetzung und Ergebnis muss sich die Antwort messen lassen.
Stand der Recherche: 4. September 2026.
Hauptquellen
- Sharma et al.: Towards Understanding Sycophancy in Language Models, ICLR 2024
- Ouyang et al.: Training language models to follow instructions with human feedback, NeurIPS 2022
- Rafailov et al.: Direct Preference Optimization, NeurIPS 2023
- Wang et al.: When Truth Is Overridden, AAAI 2026
- Ibrahim et al.: Training language models to be warm can reduce accuracy and increase sycophancy, Nature 2026
- OpenAI: Ursachenanalyse zum GPT-4o-Update, 2. Mai 2025
- Chen et al.: From Yes-Men to Truth-Tellers, ICML 2024
Technik-Deals im Überblick
Ausgewählte Angebote und zeitlich begrenzte Preisaktionen rund um Technik und Gadgets.
