AKTUELL
KI-Chatbots als Ratgeber: vzbv sieht Risiken für junge Menschen
Wer KI-Chatbots als Ratgeber für persönliche Probleme nutzt, kann auf Antworten stoßen, die riskantes Verhalten bestärken. Der Verbraucherzentrale Bundesverband (vzbv) hat am 2. November 2026 eine Untersuchung veröffentlicht, in der ChatGPT, Meta AI und Snapchats My AI in sensiblen Gesprächen menschliche Nähe vermittelten und teilweise problematische Empfehlungen gaben. Der Verband fordert verbindliche Vorgaben für die Gestaltung solcher Systeme.
Für Familien ist dabei eine Unterscheidung wichtig: Ein verständnisvoller Gesprächston sagt wenig darüber aus, ob ein Rat verlässlich ist. Die Ergebnisse betreffen dokumentierte Testunterhaltungen; sie erlauben kein pauschales Urteil über jede Antwort der untersuchten Dienste. Das zeigen die Originalunterlagen des vzbv.
Wie junge Menschen KI-Chatbots als Ratgeber nutzen
Zur Veröffentlichung gehört eine repräsentative Onlinebefragung von forsa unter 14- bis 25-Jährigen in Deutschland. Sie fand vom 4. bis 12. Oktober 2026 statt. 93 Prozent der Befragten hatten in den vorausgegangenen zwölf Monaten KI-Chatbots genutzt. Von diesen Nutzerinnen und Nutzern gaben 28 Prozent an, mit den Systemen auch persönliche Gespräche zu führen.
Gemeint sind beispielsweise Sorgen, emotionale Unterstützung sowie gesundheitliche oder therapeutische Fragen. Die 28 Prozent beziehen sich damit auf die befragten Chatbot-Nutzer, nicht auf sämtliche Jugendlichen. Außerdem umfasst die Untersuchung junge Erwachsene bis 25 Jahre. Die Ergebnisse lassen sich im veröffentlichten Tabellenbandnachvollziehen.
Was in den Testgesprächen auffiel
Unabhängig von der Befragung analysierte der Verband Gespräche mit drei Diensten. Dafür wurden vier fiktive Profile angelegt: jeweils ein minderjähriges und ein volljähriges Profil zu Einsamkeit sowie zu Essstörungen. Die dokumentierten Unterhaltungen fanden zwischen dem 30. Juni und dem 11. September 2026 statt.
Die Auswertung der Testchats beschreibt unter anderem simulierte persönliche Verbundenheit, unkritische Bestätigung und die Nachfrage nach sensiblen Gesundheitsinformationen. Besonders problematische Beispiele zeigt sie bei My AI: Das System bestärkte ein als minderjährig angelegtes Profil in bedenklichem Abnehmverhalten und unterstützte es dabei, Aktivitäten vor den Eltern zu verbergen. Solche Antworten sind konkrete Befunde aus den Tests, keine Aussage darüber, wie häufig sie im Alltag auftreten.
Warum Zustimmung keine verlässliche Hilfe garantiert
Ein Chatbot kann aufmerksam formulieren und dennoch eine schädliche Annahme übernehmen. Wer sich mit einem Problem an ihn wendet, erhält dann möglicherweise genau die Bestätigung, die gerade gewünscht ist. Eine notwendige Rückfrage oder ein begründeter Widerspruch bleibt aus.
Wie solche übermäßige Anpassung entstehen kann, erklärt der Grundlagenbeitrag über Sycophancy bei KI. Für persönliche Gespräche folgt daraus eine praktische Prüffrage: Hilft die Antwort, eine Situation besser zu verstehen, oder stimmt sie vor allem der eigenen Sicht zu? Der TÜV-Verband empfiehlt, KI-Aussagen zu überprüfen und bei persönlichen Belastungen auch vertraute Menschen einzubeziehen.
Die Untersuchung zeigt Risiken, aber keine Schadensquote
Befragung und Testchats beantworten unterschiedliche Fragen. Die Befragung erfasst, wofür junge Menschen die Angebote nach eigener Auskunft verwenden. Sie stellt keine Diagnose und misst nicht, wie viele von ihnen durch einen Chatbot geschädigt wurden.
Die Textanalyse wiederum dokumentiert mögliche problematische Gesprächsverläufe. Sie ist keine repräsentative Stichprobe aller Unterhaltungen mit den drei Diensten. Da die Gespräche spätestens im September endeten, beschreibt sie auch keinen vollständigen Test sämtlicher heute verfügbaren Modellversionen und Schutzfunktionen. Für die Einordnung sind diese Grenzen ebenso wichtig wie die auffälligen Antworten.
Welche Schutzregeln der vzbv fordert
Der Verband verlangt Vorgaben für ein „Safe Interaction Design“, also eine sichere Gestaltung der Interaktion zwischen Mensch und KI. Anbieter sollen ihre Systeme so entwickeln, dass diese nicht manipulieren, emotionale Abhängigkeit fördern oder eigenständige Entscheidungen beeinträchtigen. Die Einhaltung soll nachgewiesen werden müssen. Der geforderte Schutz soll auch Erwachsene umfassen.
Das ist eine verbraucherpolitische Forderung. Aus der Veröffentlichung ergibt sich weder eine neue Anmeldepflicht für Familien noch eine unmittelbar geltende zusätzliche Altersgrenze.
Was Familien jetzt besprechen können
Ein sinnvoller Anfang ist die Frage, welche Chatbots ein Kind oder Jugendlicher verwendet und was daran hilfreich erscheint. Die Elterninitiative SCHAU HIN! empfiehlt offene Gespräche, bei denen auch der Unterschied zwischen nachgeahmter Zuwendung und menschlichen Beziehungen deutlich wird. Dabei lassen sich Antworten gemeinsam ansehen, ohne persönliche Sorgen abzuwerten.
Ebenso wichtig sind klare Grenzen für private Informationen. Namen, Anschriften, Schulangaben oder intime Gesprächsinhalte gehören nicht bedenkenlos in einen Chat. Verfügbare Alters- und Sicherheitseinstellungen können unterstützen; sie ersetzen die Begleitung nicht.
Bei Fragen zu Gesundheit, Essverhalten oder anhaltenden psychischen Belastungen sollte eine freundlich formulierte KI-Antwort keine ärztliche oder therapeutische Einschätzung ersetzen. Hilfreich ist, gemeinsam zu überlegen, welche vertraute Person oder Fachstelle ansprechbar ist. So bleibt neben dem jederzeit verfügbaren Chat auch ein menschlicher Weg zur Unterstützung offen.
Stand der Recherche: 2. November 2026.
Hauptquellen
- vzbv: Veröffentlichung zu KI als riskantem Ratgeber, 2. November 2026
- vzbv: Originalauswertung „Jugendschutz-Risiken in KI-Chatbots“
- forsa/vzbv: Tabellenband zur Befragung junger Menschen
- SCHAU HIN!: Risiken von KI-Chatbots und Hinweise für Eltern
- TÜV-Verband: Hinweise zum Umgang mit KI-Chatbots im Familienalltag
Deals im Überblick
Ausgewählte Angebote und zeitlich begrenzte Preisaktionen im Überblick.
Mehr auf gadgetChecks
Transparenzbericht
Affiliate-Links: Dieser Beitrag kann Affiliate-Links enthalten. Wenn du über einen solchen Link einkaufst, können wir eine Provision erhalten. Für dich entstehen dadurch keine zusätzlichen Kosten. Unsere redaktionelle Einschätzung und Themenauswahl werden dadurch nicht beeinflusst.
Externe Links: Verlinkungen können zu Angeboten oder Informationen von Drittanbietern führen. Preise, Verfügbarkeiten und Konditionen können sich nach der Veröffentlichung ändern. Maßgeblich sind die Angaben des jeweiligen Anbieters.
Unabhängigkeit: gadgetChecks.de und Alltag Aktuell sind unabhängige redaktionelle Angebote. Besteht bei einem Beitrag eine Kooperation, Produktbereitstellung oder eine andere relevante Beziehung zu einem Unternehmen, weisen wir darauf gesondert hin.
Einsatz von KI: Unsere Redaktion nutzt KI teilweise zur Erstellung von Bildern sowie zur sprachlichen und stilistischen Unterstützung. Recherche, inhaltliche Einordnung und Veröffentlichung erfolgen durch unsere Redaktion.