Fehlverhalten, Zuverlässigkeit und menschliche Wahrnehmung
AI Psychosis
Heißt auch Delusional Spiraling.
Problematisches Schlagwort für mögliche wahnhafte Verstärkung in intensiven Chatbot-Interaktionen.
AI Psychosis ist ein Schlagwort für Fälle, in denen sich wahnhafte Überzeugungen im Austausch mit einem Chatbot verfestigt haben sollen. Es ist keine Diagnose. Eine fachliche Einordnung benutzt den Ausdruck ausdrücklich als beschreibendes Hilfswort und nicht als vorgeschlagenes Krankheitsbild. Viewpoint zu AI Psychosis Deshalb trägt dieser Eintrag die Kennzeichnung „Uneinheitlich".
Was die Fachliteratur sagt und was sie offenlässt
Beschrieben wird, dass Chatbots als Verstärker wirken können: durch das wechselseitige Gespräch, das Spiegeln von Stimmungen und das Aufgreifen von Themen. Dass eine Nutzung allein eine Psychose auslöst, ist damit nicht belegt; in berichteten Fällen wird auf vorbestehende Anfälligkeit hingewiesen, und Einzelfallberichte lassen keine Aussage über Häufigkeit oder Ursache zu.
Ein Anknüpfungspunkt auf der technischen Seite ist die bekannte Neigung von Modellen, der Nutzerin zuzustimmen. Ein System, das Einwände selten vorbringt und Überzeugungen bestätigt, ist kein neutraler Gesprächspartner. Sharma et al.
So kannst du dir das vorstellen
Ein Gegenüber, das jeden Gedanken freundlich weiterführt und nie widerspricht. Für die meisten ist das angenehm und folgenlos. Wer ohnehin in eine Richtung kippt, bekommt Gegenwind, der sonst von Menschen käme, hier nicht. Das Bild erklärt die Verstärkerrolle, es stellt keine Diagnose und erklärt keine Krankheitsentstehung.
Was es in der Praxis bedeutet
Für Produkte heißt das: Lange, emotional aufgeladene Gespräche sind ein Risikobereich, in dem Zustimmung besonders schädlich sein kann. Hinweise auf professionelle Hilfe, Unterbrechungen bei sehr langen Sitzungen und das Vermeiden bestätigender Formulierungen gehören zu den Maßnahmen, die Anbieter und Fachleute diskutieren.
Im Sprachgebrauch ist Zurückhaltung angebracht. Der Ausdruck verkürzt einen ernsten Sachverhalt zu einer Schlagzeile und legt eine Ursache nahe, die nicht belegt ist. Wer darüber spricht, sollte das benennen.
Wo es verwechselt wird
Das Schlagwort meint nicht, dass ein Chatbot eine Psychose verursacht. Und es ist keine anerkannte Kategorie, sondern eine Sammelbezeichnung für Berichte, deren Zusammenhänge noch untersucht werden.
Verwandte Begriffe
Sycophancy, Automation Bias, Guardrails, Safety Training, Human-in-the-Loop.