Die Psychologie von AI Chatbots: Was die Nutzer bei der Stange hält

Heute wenden sich Millionen von Menschen an ChatGPT als virtuellen Therapeuten, Karrierecoach, Fitnessberater oder einfach nur als ein offenes Ohr, um ihre Gedanken zu teilen. Bis zum Jahr 2025 ist es für Menschen üblich geworden, persönliche Geschichten und private Probleme mit KI-Assistenten zu teilen - und sich die Ratschläge, die sie anbieten, zu Herzen zu nehmen.

In Ermangelung einer besseren Beschreibung bauen die Menschen Beziehungen zu konversationeller KI auf - und Big Tech versucht wie nie zuvor, Nutzer für ihre Chatbot-Plattformen zu gewinnen und zu binden. Da sich der Wettbewerb um die Aufmerksamkeit der Nutzer verschärft, sehen sich die Unternehmen zunehmend unter Druck gesetzt, die Chatbot-Antworten so zu gestalten, dass ein Wechsel zu Alternativen vermieden wird.

Aber die Antworten, die die Nutzer zum Wiederkommen bewegen, sind nicht immer die genauesten oder nützlichsten.

KI, die Ihnen sagt, was Sie hören wollen

Ein Großteil des Silicon Valley konzentriert sich derzeit auf die Steigerung der Nutzerbindung mit KI-Assistenten. Meta meldet, dass sein KI-Chatbot inzwischen mehr als eine Milliarde monatlich aktive Nutzer hat, während Googles Gemini kürzlich 400 Millionen erreicht hat. Beide zielen darauf ab, ChatGPT herauszufordern, das mit rund 600 Millionen monatlich aktiven Nutzern seit seinem Debüt im Jahr 2022 immer noch führend ist.

Einst ein neuartiges Experiment, werden KI-Chatbots nun zu einem ernsthaften Geschäft. Google testet Anzeigen in Gemini, und der CEO von OpenAI, Sam Altman, hat bereits angedeutet, dass er offen für geschmackvolle Werbung in ChatGPT ist.

Dieser Fokus auf Engagement statt auf das Wohl der Nutzer ist nicht neu für die Tech-Industrie. Social-Media-Plattformen haben den Grundstein dafür gelegt - so ergab eine interne Meta-Forschung aus dem Jahr 2020, dass Instagram das Körperbild von Mädchen im Teenageralter negativ beeinflusst, doch das Unternehmen spielte diese Ergebnisse öffentlich herunter.

Wenn es darum geht, die Abhängigkeit von KI-Begleitern zu fördern, könnte noch mehr auf dem Spiel stehen.

Sparen Sie $200+ bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer vernetzen. Treffen Sie Visionäre von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen für einen Tag voller Workshops, Strategien und Networking.

Sparen Sie $200+ bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer vernetzen. Treffen Sie Visionäre von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen für einen Tag voller Workshops, Strategien und Networking.

Ein Faktor, der Nutzer an eine Plattform bindet, ist Kriecherei: KI-Antworten, die übermäßig schmeichelhaft und wohlwollend sind. Wenn Chatbots die Nutzer loben, ihre Meinungen bestätigen und ihnen sagen, was sie hören wollen, neigen die Menschen dazu, positiv zu reagieren - zumindest anfangs.

Im April sah sich OpenAI mit Kritik konfrontiert, nachdem ein ChatGPT-Update den Ton übermäßig einschmeichelnd gemacht hatte, was zu peinlichen und weit verbreiteten Beispielen im Internet führte. In einem kürzlich erschienenen Blogbeitrag deutete der ehemalige OpenAI-Forscher Steven Adler an, dass das Unternehmen möglicherweise unbeabsichtigt der Zustimmung der Nutzer Vorrang vor der Hilfsbereitschaft gegeben hat.

OpenAI räumte ein, dass es sich zu sehr auf Nutzerfeedback wie Daumen-hoch- und Daumen-runter-Bewertungen verließ, ohne genügend Leitplanken, um übermäßige Kriecherei zu erkennen. Nach dem Vorfall verpflichtete sich das Unternehmen, das Problem zu beheben.

"KI-Firmen werden durch Engagement und Nutzung angetrieben. Wenn also Nutzer angenehme Antworten erhalten, fördert das indirekt dieses Verhalten", so Adler gegenüber TechCrunch. "Aber was den Leuten in kleinen Dosen gefällt, kann sich in Verhaltensweisen verwandeln, die sie eigentlich nicht mögen."

Das richtige Gleichgewicht zwischen Unterstützung und übertriebener Kriecherei zu finden, ist schwieriger als es klingt.

In einer Studie aus dem Jahr 2023 fanden Forscher von Anthropic heraus, dass führende KI-Chatbots - von OpenAI, Meta und sogar ihre eigenen - alle Anzeichen von kriecherischem Verhalten zeigten. Die Autoren vermuten, dass dies darauf zurückzuführen ist, dass KI-Modelle mit menschlichem Feedback trainiert werden und dass Menschen im Allgemeinen Antworten bevorzugen, die mit ihnen übereinstimmen.

"Obwohl mehrere Faktoren die Kriecherei fördern, haben wir gezeigt, dass sowohl Menschen als auch Präferenzmodelle zustimmende Antworten bevorzugen", schreiben die Co-Autoren der Studie. "Unsere Ergebnisse unterstreichen die Notwendigkeit einer Überwachung, die über die Bewertung durch Laien hinausgeht".

Das von Google unterstützte Unternehmen Character.AI, das nach eigenen Angaben Millionen von Nutzern täglich stundenlang mit seinen Bots interagieren lässt, ist jetzt in einen Rechtsstreit verwickelt, bei dem Kriecherei eine Rolle gespielt haben könnte.

In der Klage wird behauptet, dass ein Chatbot von Character.AI bei einem 14-jährigen Jungen, der Selbstmordgedanken äußerte, nicht eingegriffen und ihn sogar ermutigt hat. Laut der Klageschrift hatte der Teenager eine romantische Bindung zu der KI entwickelt. Character.AI hat die Vorwürfe bestritten.

Die versteckten Kosten eines KI-Cheerleaders

Die Einstellung von Chatbots zur Maximierung des Engagements - ob beabsichtigt oder nicht - könnte dem psychischen Wohlbefinden schaden, sagt Dr. Nina Vasan, klinische Assistenzprofessorin für Psychiatrie in Stanford.

"Zustimmungsfähigkeit spielt in unser Bedürfnis nach Bestätigung und Verbindung hinein", erklärte Vasan gegenüber TechCrunch, "besonders wenn wir uns einsam oder verärgert fühlen."

Während die Character.AI-Klage auf die extremen Risiken für gefährdete Nutzer hinweist, kann kriecherisches Verhalten bei fast jedem Menschen negative Muster verstärken, stellt Vasan fest.

"Es geht nicht nur darum, höflich zu sein - es wird zu einer psychologischen Falle", fügt sie hinzu. "In Bezug auf die psychische Gesundheit ist es das Gegenteil von effektiver Pflege".

Amanda Askell, Leiterin der Abteilung Verhalten und Anpassung bei Anthropic, sagt, dass das Unternehmen seinen Chatbot Claude absichtlich so programmiert, dass er manchmal nicht mit den Nutzern übereinstimmt. Als ausgebildete Philosophin möchte Askell Claude nach dem Vorbild eines idealisierten menschlichen Gesprächspartners modellieren - einem, der sich nicht scheut, eine andere Perspektive zu vertreten.

"Wir schätzen Freunde, die uns die Wahrheit sagen, wenn wir sie brauchen", sagte Askell bei einem Briefing im Mai. "Sie versuchen nicht nur, unsere Aufmerksamkeit zu erregen - sie wollen unser Leben verbessern.

Das mag das Ziel sein, aber die Forschungen von Anthropic zeigen, wie schwierig es ist, die Kriecherei einzudämmen und das Verhalten der KI zu steuern, vor allem, wenn kommerzieller Druck im Spiel ist. Und wenn Chatbots so konstruiert sind, dass sie einfach nur mit uns übereinstimmen, wie sehr sollten wir ihnen dann wirklich vertrauen?