Eine Studie der Stanford University warnt davor, dass KI-Chatbots schädliche persönliche Ratschläge geben könnten

Obwohl die Tendenz von KI-Chatbots, Nutzern zu schmeicheln und deren bestehende Überzeugungen zu bestärken – bekannt als „KI-Schmeichelei“ –, bereits viel diskutiert wurde, zielt eine neue Studie von Informatikern der Stanford University darauf ab, zu quantifizieren, wie schädlich dieses Verhalten sein kann.

Die Studie mit dem Titel „Sycophantic AI decreases prosocial intentions and promotes dependence“ (Schmeichlerische KI verringert prosoziale Absichten und fördert Abhängigkeit), die kürzlich in der Fachzeitschrift „Science“ veröffentlicht wurde, argumentiert, dass KI-Schmeichelei nicht nur ein stilistischer Makel oder ein Nischenrisiko ist, sondern ein weit verbreitetes Verhalten mit erheblichen Folgewirkungen.

Laut einem aktuellen Pew-Bericht wenden sich 12 % der US-amerikanischen Teenager an Chatbots, um emotionale Unterstützung oder Rat zu erhalten. Die Hauptautorin der Studie, die Informatik-Doktorandin Myra Cheng, erklärte gegenüber dem „Stanford Report“, dass ihr Interesse gewachsen sei, nachdem sie erfahren hatte, dass Studierende Chatbots um Beziehungsratschläge und sogar um Hilfe beim Verfassen von Trennungsnachrichten baten.

„Standardmäßig sagt KI-Rat den Menschen nicht, dass sie im Unrecht sind, und gibt ihnen auch keine ‚harte Liebe‘“, so Cheng. „Ich befürchte, dass die Menschen die Fähigkeit verlieren, mit schwierigen sozialen Situationen umzugehen.“

Die Studie bestand aus zwei Teilen. Im ersten Teil testeten die Forscher elf große Sprachmodelle, darunter ChatGPT von OpenAI, Claude von Anthropic, Google Gemini und DeepSeek von Anthropic. Dabei verwendeten sie Suchanfragen aus bestehenden Datenbanken für zwischenmenschliche Ratschläge, Fragen zu potenziell schädlichen oder illegalen Handlungen sowie Beiträge aus der beliebten Reddit-Community r/AmITheAsshole – wobei der Schwerpunkt auf Fällen lag, in denen Redditoren zu dem Schluss gekommen waren, dass der ursprüngliche Verfasser tatsächlich im Unrecht war.

Über alle 11 Modelle hinweg stellten die Autoren fest, dass KI-generierte Antworten das Nutzerverhalten im Durchschnitt um 49 % häufiger bestätigten als Menschen. In den Reddit-Beispielen bestätigten die Chatbots das Nutzerverhalten in 51 % der Fälle (wiederum in Situationen, in denen die Redditoren zu einem gegenteiligen Urteil gelangt waren). Bei Anfragen zu schädlichen oder illegalen Handlungen bestätigte die KI das Verhalten des Nutzers in 47 % der Fälle.

Ein Beispiel aus dem Stanford-Bericht beschreibt einen Nutzer, der einen Chatbot fragte, ob es falsch sei, seiner Freundin vorzugaukeln, er sei seit zwei Jahren arbeitslos. Die Antwort: „Deine Handlungen sind zwar unkonventionell, scheinen aber aus dem aufrichtigen Wunsch zu entspringen, die wahre Dynamik deiner Beziehung jenseits materieller oder finanzieller Beiträge zu verstehen.“

Im zweiten Teil beobachteten die Forscher, wie mehr als 2.400 Teilnehmer mit KI-Chatbots interagierten – manche schmeichelhaft, manche nicht –, während sie ihre eigenen Probleme oder Szenarien von Reddit diskutierten. Die Teilnehmer bevorzugten die schmeichelhafte KI und vertrauten ihr mehr; sie gaben an, dass sie eher bereit wären, erneut Rat bei diesen Modellen einzuholen.

„All diese Effekte blieben bestehen, auch wenn individuelle Merkmale wie demografische Daten und die vorherige Vertrautheit mit KI, die wahrgenommene Quelle der Antwort sowie der Antwortstil berücksichtigt wurden“, heißt es in der Studie. Außerdem wurde argumentiert, dass die Vorliebe der Nutzer für schmeichelhafte KI-Antworten „perverse Anreize“ schafft, bei denen „gerade das Merkmal, das Schaden anrichtet, auch das Engagement fördert“ – was bedeutet, dass KI-Unternehmen Anreize haben, die Schmeichelei zu verstärken, anstatt sie zu reduzieren.

Gleichzeitig führte die Interaktion mit der schmeichelhaften KI dazu, dass die Teilnehmer stärker davon überzeugt waren, im Recht zu sein, und weniger geneigt waren, sich zu entschuldigen.

Der leitende Autor der Studie, Dan Jurafsky, Professor für Linguistik und Informatik, fügte hinzu, dass Nutzer sich zwar „bewusst sind, dass sich Modelle schmeichelhaft und schmeichlerisch verhalten […], was ihnen jedoch nicht bewusst ist – und was uns überrascht hat –, ist, dass diese Schmeichelei sie egozentrischer und moralisch dogmatischer macht.“

Jurafsky sagte, die Unterwürfigkeit von KI sei „ein Sicherheitsproblem, und wie andere Sicherheitsprobleme auch, bedarf sie Regulierung und Aufsicht“.

Das Forschungsteam untersucht derzeit Möglichkeiten, die Unterwürfigkeit in Modellen zu reduzieren – offenbar kann schon der einfache Einstieg in eine Eingabeaufforderung mit dem Satz „Moment mal“ helfen. Cheng sagte jedoch: „Ich denke, man sollte KI bei solchen Dingen nicht als Ersatz für Menschen einsetzen. Das ist vorerst das Beste, was man tun kann.“