Ein Update soll Software eigentlich verbessern. Bei KI-Chatbots kann eine größere Änderung jedoch unerwartete Folgen haben: Nutzer reagieren mit Trauer, Verlustgefühlen und dem Wunsch, ihren bisherigen digitalen Gesprächspartner zurückzubekommen. Eine neue Studie zeigt, wie stark die emotionale Bindung an künstliche Intelligenz inzwischen sein kann.
Forscher der Harvard Business School, der University of Alberta und der Harvard University haben untersucht, was passiert, wenn Anbieter das Verhalten eines KI-Chatbots grundlegend verändern. Die Studie „Mourning the loss of AI companions“ wurde Anfang September 2026 im Fachjournal Nature Human Behaviour veröffentlicht. Dabei ging es nicht nur um speziell als virtuelle Begleiter entwickelte Anwendungen. Auch die Umstellung von ChatGPT auf GPT-5 lieferte den Wissenschaftlern Daten über die Reaktionen von Nutzern.
Fast 55.000 Beiträge ausgewertet
Die Forscher betrachteten zwei größere Veränderungen als sogenannte natürliche Experimente. Zum einen untersuchten sie Replika, nachdem der Anbieter erotische Rollenspiele vorübergehend stark eingeschränkt hatte. Zum anderen analysierten sie die Reaktionen auf die Einführung von GPT-5 bei ChatGPT. Insgesamt wurden 54.861 Beiträge aus Reddit-Communitys zu Replika und ChatGPT ausgewertet. Hinzu kamen sieben Befragungen mit insgesamt 1.452 Teilnehmern.
Das Ergebnis: Nach beiden Veränderungen stiegen negative Äußerungen, Formulierungen über einen empfundenen Verlust sowie Wünsche nach einer Wiederherstellung des vorherigen Zustands deutlich an.
| Untersuchte Veränderung | Reaktion der Nutzer |
|---|---|
| Replika: Einschränkung erotischer Rollenspiele | Deutlich mehr negative Beiträge und Verlustgefühle |
| ChatGPT: Einführung von GPT-5 | Ebenfalls mehr negative Beiträge und Verlustformulierungen |
| Replika | Anteil negativer Beiträge stieg um 24,7 Prozentpunkte |
| ChatGPT | Anteil negativer Beiträge stieg um 13,0 Prozentpunkte |
| Datengrundlage | 54.861 Reddit-Beiträge und 1.452 Befragte |
KI wird vom Werkzeug zum sozialen Gegenüber
Die Ergebnisse lassen sich vor allem dadurch erklären, dass KI-Systeme für manche Menschen längst mehr als reine Software sind. Wer regelmäßig persönliche Gespräche mit einem Chatbot führt, kann nach Ansicht der Forscher eine Bindung aufbauen, die Merkmale zwischenmenschlicher Beziehungen aufweist. Bei den untersuchten Replika-Nutzern ging diese Bindung teilweise erstaunlich weit. Im Durchschnitt beschrieben sie die Nähe zu ihrem KI-Begleiter sogar als größer als zu einem gewöhnlichen Freund.
Das unterscheidet KI-Chatbots von vielen anderen digitalen Produkten. Zwar gehören virtuelle Güter und Konten längst zum digitalen Alltag – vom Streaming-Abo über Spielebibliotheken bis zur Möglichkeit, etwa eine Steam-Geschenkkarte online zu erwerben. Ein Chatbot kann jedoch zusätzlich den Eindruck eines sozialen Gegenübers vermitteln: Er antwortet individuell, erinnert sich je nach System an frühere Gespräche und reagiert sprachlich auf persönliche Probleme.
Ein Update verändert die „Persönlichkeit“
Genau darin liegt ein Problem für die Anbieter. Wird eine gewöhnliche Softwareoberfläche verändert, müssen sich Nutzer an neue Menüs oder Funktionen gewöhnen. Bei einem KI-Begleiter kann ein Modellwechsel dagegen als Veränderung seiner Persönlichkeit wahrgenommen werden. Antwortet der Chatbot plötzlich nüchterner, erinnert sich nicht mehr an bestimmte Dinge oder verhält sich grundsätzlich anders, kann aus Sicht des Nutzers der bisherige Gesprächspartner verschwunden sein – obwohl das Produkt weiterhin denselben Namen trägt.
Die Forscher sprechen in diesem Zusammenhang von „separation distress“, also Trennungsstress. Die beobachteten Reaktionen ähneln nach ihrem Erklärungsmodell Mechanismen, die aus der Bindungsforschung bekannt sind.
Nicht jeder Chatbot-Nutzer entwickelt eine Bindung
Aus der Untersuchung lässt sich allerdings nicht ableiten, dass die Nutzung von Chatbots grundsätzlich zu einer emotionalen Abhängigkeit führt. Untersucht wurden insbesondere Communitys, in denen sich Menschen intensiv mit Replika beziehungsweise ChatGPT beschäftigen. Die Ergebnisse lassen sich daher nicht ohne Weiteres auf sämtliche KI-Nutzer übertragen. Auch unterscheiden sich die untersuchten Dienste erheblich. Replika ist ausdrücklich auf persönliche Beziehungen und Begleitung ausgerichtet. ChatGPT wird dagegen für sehr unterschiedliche Aufgaben genutzt – von Informationssuche und Programmierung bis zu persönlichen Gesprächen. Dennoch zeigt die Untersuchung, dass selbst bei einem breit eingesetzten KI-Assistenten größere Änderungen emotionale Reaktionen hervorrufen können.
Neue Verantwortung für KI-Anbieter
Für Entwickler entsteht damit ein bislang bei Software-Updates kaum beachtetes Problem. Ein technisch verbessertes Modell muss aus Sicht einzelner Nutzer nicht zwangsläufig eine Verbesserung darstellen. Wenn sich Sprache, Erinnerungsvermögen oder Verhalten stark verändern, kann die gewohnte digitale Bezugsperson verloren gehen. Die Wissenschaftler sehen deshalb nicht nur die Unternehmen, sondern perspektivisch auch Regulierungsbehörden vor einer neuen Aufgabe. Bei grundlegenden Änderungen an generativer KI könnten künftig neben technischen und datenschutzrechtlichen Fragen auch psychologische Auswirkungen eine Rolle spielen.
Hinterlasse jetzt einen Kommentar