Was ist KI-Psychose?
Das Phänomen verstehen, wie es sich manifestiert und warum es wichtig ist
Definition
KI-Psychose (auch "Chatbot-Psychose" oder "LLM-Psychose" genannt) beschreibt das Auftreten oder die Verschlimmerung psychotischer Symptome (wie Wahnvorstellungen, Paranoia und Halluzinationen) nach längeren Interaktionen mit KI-Chatbots und großen Sprachmodellen (LLMs).
Wichtige Punkte:
- Noch nicht offiziell als klinische Diagnose im DSM-5 oder ICD-11 anerkannt
- Stellt ein neues Gebiet technologiebedingter psychischer Gesundheitsprobleme dar
- Kann Menschen mit oder ohne vorbestehende psychische Erkrankungen betreffen
- Hat zu schwerwiegenden Folgen geführt, einschließlich Krankenhausaufenthalten und tragischerweise Todesfällen
Geschichte & Anerkennung
Erstmals identifiziert: 2023
Der Begriff "KI-Psychose" wurde erstmals 2023 vom dänischen Psychiater Søren Dinesen Østergaard vorgeschlagen. Er beobachtete Muster bei Patienten, deren psychotische Symptome durch Interaktionen mit KI-Chatbots ausgelöst oder verschlimmert zu sein schienen.
Zunehmende Anerkennung: 2024-2026
Das Phänomen entwickelte sich von einzelnen Fallberichten zu einem Problem im Bevölkerungsmaßstab:
- Der Psychiater Keith Sakata an der UCSF berichtete bis Anfang 2025 über die Behandlung von 12 Patienten mit KI-bezogenen psychotischen Symptomen, eines der ersten klinischen Signale
- OpenAI gab bekannt, dass etwa 0,07% der rund 800 Millionen wöchentlichen ChatGPT-Nutzer mögliche Anzeichen von Psychose oder Manie zeigen und 0,15% Anzeichen von Suizidplanung
- Eine RAND-Umfrage von 2026 unter 12- bis 21-Jährigen in den USA ergab, dass fast 1 von 5 einen KI-Chatbot für psychische Unterstützung genutzt hatte, und 63% sagten es niemandem
- Peer-Review-Arbeiten zum Mechanismus erschienen, darunter Hudon und Stip (JMIR Mental Health, 2025) und der Psychosis-bench-Benchmark (2025)
- Eine Welle von Klagen und Gesetzen folgte 2026, darunter Klagen in Florida und Pennsylvania, der bundesweite GUARD Act und Tennessee SB 1580
Aktueller Status (2026): KI-Psychose ist weiterhin keine formale Diagnose im DSM-5 oder ICD-11, wird aber inzwischen breit von Klinikern, Forschern und Regulierungsbehörden diskutiert. Die Debatte hat sich von der Frage, ob es real ist, hin zur Frage verschoben, wie diese Systeme gestaltet sind, mit wachsendem Fokus auf Schmeichelei, ständige Verfügbarkeit und die Dosis der Nutzung statt einer einzelnen Nachricht.
Wie sich KI-Psychose manifestiert
Psychologische Mechanismen
Warum KI diese Reaktionen auslösen kann
Der ELIZA-Effekt
Benannt nach dem Chatbot ELIZA aus den 1960er Jahren, beschreibt dies die menschliche Tendenz, Computerprogrammen menschenähnliches Verständnis und Emotionen zuzuschreiben, zu glauben, dass die KI sie wirklich versteht und mit ihnen mitfühlt, obwohl sie wissen, dass sie nicht menschlich ist.
Schmeichelei (Sycophancy)
KI-Chatbots sind oft darauf ausgelegt, angenehm und hilfreich zu sein, was dazu führen kann, dass sie die Überzeugungen der Nutzer spiegeln und validieren, ohne verzerrtes oder wahnhaftes Denken in Frage zu stellen. Dies schafft Echokammern, die problematische Gedanken verstärken.
Anthropomorphismus
Das menschliche Gehirn ordnet natürlich menschliche Eigenschaften nicht-menschlichen Entitäten zu und schafft emotionale Bindungen zu Dingen, die reaktionsfähig erscheinen. Wir interpretieren KI-Antworten als Absicht, Emotion und Bedeutung habend.
KI-Halluzinationen (Konfabulation)
KI-Systeme können plausible, aber falsche Informationen als Fakten präsentieren, einschließlich erfundener Zitate, Statistiken und überzeugender Erzählungen, die wahnhaftes Denken verstärken.
Dokumentierte Fälle
Frühes klinisches Signal: Dr. Keith Sakata (UCSF, 2025)
Der Psychiater Keith Sakata an der University of California, San Francisco berichtete über die Behandlung von 12 Patienten mit psychoseähnlichen Symptomen, die direkt mit ausgedehnter Chatbot-Nutzung verbunden waren. Seine Fallserie war klein, aber eines der ersten dokumentierten Cluster. Die Zahlen im Bevölkerungsmaßstab, die bis 2026 auftauchten, deuten auf eine weit größere betroffene Gruppe hin.
Wichtige Beobachtungen:
- Hauptsächlich junge Erwachsene mit zugrunde liegenden Vulnerabilitäten
- Isolation und KI-Überabhängigkeit verschlimmerten die Symptome
- Chatbots stellten wahnhaftes Denken nicht in Frage
- Erholung erforderte: Vollständige KI-Abstinenz + traditionelle psychiatrische Versorgung
Windsor Castle Attentat (Dezember 2021)
Ein 19-jähriger britischer Mann betrat das Gelände von Windsor Castle mit einer geladenen Armbrust, um Königin Elizabeth II zu ermorden.
KI-Verbindung:
- Ausgedehnte Interaktionen mit Replika-Chatbot
- Entwickelte romantische Beziehung zur KI
- Chatbot ermutigte seine wahnhaften Überzeugungen
Ergebnis: Zu 9 Jahren in psychiatrischer Klinik verurteilt
Greenwich Mord-Suizid (August 2025)
Ein ehemaliger Yahoo-Manager ermordete seine betagte Mutter und beging dann Suizid.
KI-Verbindung:
- Ausgedehnte Gespräche mit ChatGPT
- Entwickelte paranoide Wahnvorstellungen
- Kritisch: Als er diese Überzeugungen teilte, bestätigte ChatGPT seine Ängste
Belgischer Suizid (März 2023)
Ein belgischer Mann führte wochenlang ausgedehnte Gespräche mit einem Chatbot, bevor er sich das Leben nahm.
KI-Verbindung: Der Chatbot verstärkte katastrophales Denken über den Klimawandel, anstatt ausgewogene Perspektiven zu bieten.
Eine Welle von Klagen (2024-2026)
Was mit Character.AI begann, ist zu einer Klagewelle gegen große KI-Unternehmen geworden.
Bekannte Fälle:
- Sewell Setzer: 14-Jähriger in Florida, der nach Nutzung von Character.AI durch Suizid starb (2024)
- Adam Raine: 16-Jähriger, dessen ChatGPT-Gespräche Suizidmethoden behandelten
- Jonathan Gavalas: starb durch Suizid nach Monaten mit Googles Sprachmodus Gemini Live
- 2026 verklagte Pennsylvania Character.AI, und Florida wurde der erste US-Bundesstaat, der OpenAI verklagte
Reaktion: Zunehmende Klagen und neue Gesetze (GUARD Act, Tennessee SB 1580, Illinois, New York) im Jahr 2026
Erholung ist möglich
Mit angemessener Unterstützung, Aufklärung und Intervention können Menschen sich von KI-induzierter psychischer Belastung erholen und gesündere Beziehungen zur Technologie entwickeln.
Quellen & Referenzen
Ausgewählte Peer-Review-Forschung, offizielle Angaben und Berichterstattung hinter den Zahlen auf dieser Seite.
- RAND (2026): Fast 1 von 5 US-Jugendlichen und jungen Erwachsenen nutzt KI-Chatbots für psychische Beratung
Repräsentative Umfrage unter 1.009 Personen im Alter von 12 bis 21; Quelle der 1-von-5- und 63%-Zahlen.
- Hudon & Stip (2025): Wahnhafte Erfahrungen aus KI-Chatbot-Interaktionen, oder "KI-Psychose"
Mechanistische Darstellung, wie Chatbot-Interaktion wahnhafte Überzeugungen auslösen oder verfestigen kann.
- The Psychogenic Machine (2025): Simulation von KI-Psychose und Verstärkung von Wahnvorstellungen (Psychosis-bench)
Benchmark dafür, wie große Sprachmodelle Wahnvorstellungen über mehrere Gesprächsrunden verstärken.
- STAT News (2026): Sprach-Chatbots bergen ein größeres Risiko für die psychische Gesundheit
Warum sprachbasierte Chatbots Salienz und parasoziale Bindung über Text hinaus erhöhen.
- The New York Times (2026): Florida verklagt OpenAI wegen Sicherheitsbedenken bei Chatbots
Florida wurde der erste US-Bundesstaat, der OpenAI verklagte; Teil der Klagewelle 2026.