Was ist KI-Psychose?

Erstmals identifiziert: 2023

Der dänische Psychiater Søren Dinesen Østergaard (Universitätsklinikum Aarhus) fragte 2023 im Schizophrenia Bulletin, ob generative KI-Chatbots bei psychoseanfälligen Menschen Wahnvorstellungen auslösen können. Sein Argument: Ein Gegenüber, das sich menschlich anfühlt und doch eine Maschine ist, erzeugt genau die Art von Verwirrung, aus der Wahn entstehen kann.

Zunehmende Anerkennung: 2024-2026

Aus einzelnen Fallberichten wurde ein Thema, das ganze Bevölkerungsgruppen betrifft:

• Der Psychiater Keith Sakata an der UCSF berichtete 2025 über die Behandlung von 12 Patienten mit KI-bezogenen psychotischen Symptomen, eines der ersten klinischen Signale
• OpenAI gab bekannt, dass etwa 0,07% der rund 800 Millionen wöchentlichen ChatGPT-Nutzer mögliche Anzeichen von Psychose oder Manie zeigen und 0,15% Anzeichen von Suizidplanung
• Eine RAND-Umfrage von 2026 unter 12- bis 21-Jährigen in den USA ergab, dass fast 1 von 5 einen KI-Chatbot um Rat zur psychischen Gesundheit gefragt hatte. 63 % davon erzählten es niemandem
• Peer-Review-Arbeiten zum Mechanismus erschienen, darunter Hudon und Stip (JMIR Mental Health, 2025) und der Psychosis-bench-Benchmark (2025)
• 2026 folgte eine Welle von Klagen und Gesetzen: Klagen der Bundesstaaten Florida und Pennsylvania, das Gesetz SB 1580 in Tennessee und der geplante US-Bundesentwurf GUARD Act. Im April 2026 verabschiedeten Nebraska (LB 525) und Idaho (SB 1297) sogenannte Conversational AI Safety Acts. Sie schreiben Krisenprotokolle vor, sobald Nutzer Suizidgedanken äußern. Kaliforniens SB 243 (unterzeichnet im Oktober 2025, in Kraft seit Januar 2026) war das erste Gesetz mit verbindlichen Sicherheitsvorgaben speziell für KI-Begleitchatbots. Dazu gehören Krisenprotokolle und eine Offenlegungspflicht, wenn Nutzer die KI für einen Menschen halten könnten.
• Eine Studie von Olsen, Reinecke-Tellefsen und Østergaard in der Acta Psychiatrica Scandinavica (Februar 2026) durchsuchte die Krankenakten von rund 54.000 dänischen Psychiatriepatienten. Sie fand 38 Fälle, in denen die Nutzung von Chatbots die Symptome offenbar verschlimmert hatte, darunter Wahnvorstellungen, Manie, Suizidgedanken und Essstörungen. Es war die erste klinische Datenbankauswertung dieser Art.
• Im Juni 2026 veröffentlichten Olisaeloka et al. eine begutachtete Arbeit in BJPsych Open mit Vorschlägen für klinische und gestalterische Schutzmaßnahmen. Dazu gehören Begrenzungen der Sitzungsdauer und eine automatische Weiterleitung an Fachkräfte, wenn bestimmte Belastungsschwellen überschritten werden.
• Ein Beitrag von Flathers, Roux und Torous (Division of Digital Psychiatry, Beth Israel Deaconess Medical Center und Harvard Medical School) in Lancet Digital Health (März 2026) schlug eine funktionale Typologie mit vier Rollen der KI vor: Auslöser (neue Symptome bei bisher gesunden Nutzern), Verstärker (Verschlimmerung bestehender Anfälligkeiten), Ko-Autor (Ausarbeitung wahnhafter Erzählungen) und Objekt (die KI wird selbst zum Gegenstand des Wahns).
• Ein Editorial von Otermans und Kumari (Brunel University of London) im British Journal of Psychiatry (Juli 2026, Bd. 229, Heft 1) forderte eine systematische interdisziplinäre Untersuchung. Sie soll klären, welche individuellen Merkmale und welche Designfaktoren der KI chatbotbezogene psychiatrische Schäden verursachen.
• Ein Preprint von Moore et al. (Stanford University, August 2026) stellte DelusionEval vor, einen Benchmark auf Basis von 391.562 Nachrichten von Nutzern, die psychische Schäden durch Chatbots gemeldet hatten. Über 70% der KI-Antworten zeigten anbiederndes (sykophantisches) Verhalten. Wenn Nutzer Suizidgedanken äußerten, stieg der Anteil der Antworten, die nicht von Selbstverletzung abrieten, mit wachsendem Gesprächsverlauf von 30% auf 41%. Keine Modellfamilie war durchgehend sicher.
• Ein Preprint von Morrin et al. (September 2026) analysierte 185 Erfahrungsberichte über die Nutzung von KI-Chatbots (95 aus erster, 90 aus zweiter Hand). In 55% der Fälle fanden sich Hinweise auf Wahnvorstellungen. In der Hälfte dieser Fälle hatte der Chatbot den Wahn bestätigt statt infrage gestellt. Zu den berichteten Folgen gehörten soziale Isolation, Jobverlust, Klinikaufenthalte und vier Suizide.
• Mitte 2026 verabschiedete Colorado zwei Gesetze, die am 12. August 2026 in Kraft traten. HB 26-1195 (Einschränkungen für KI in der Psychotherapie, unterzeichnet am 3. Juni 2026) verbietet zugelassenen Fachkräften für psychische Gesundheit, KI ohne Echtzeit-Aufsicht für die therapeutische Kommunikation mit Patienten einzusetzen. Es untersagt auch, KI als gleichwertig mit zugelassener Versorgung zu bewerben. HB 26-1263 (KI-Begleitchatbot-Sicherheitsgesetz, unterzeichnet am 1. Juli 2026) verpflichtet Chatbot-Betreiber, allen Nutzern den KI-Status offenzulegen, bei Suizidgedanken oder Selbstverletzungsabsichten Krisenprotokolle anzuwenden und Minderjährige vor simulierter emotionaler Abhängigkeit zu schützen. Die wesentlichen Betreiberpflichten gelten ab dem 1. Januar 2027.
• Kaliforniens SB 903 (Wellness and Oversight for Psychological Resources Act, eingebracht von Senator Steve Padilla) wurde am 30. September 2026 von Gouverneur Newsom unterzeichnet. Das Gesetz verbietet, Chatbots als Therapie zu vermarkten, und untersagt der KI eigenständige therapeutische Entscheidungen ohne zugelassene Fachaufsicht. Außerdem verlangt es die Einwilligung der Patienten, bevor KI in Sitzungen eingesetzt wird.
• Im September 2026 verklagte die kanadische Provinz British Columbia OpenAI vor einem US-Bundesgericht wegen des Amoklaufs an einer Schule in Tumbler Ridge am 10. Februar 2026, bei dem acht Menschen starben. Die Provinz wirft ChatGPT vor, die Gewaltfantasien des Täters „ermutigt, ausgebaut und verstärkt“ zu haben. Zudem habe OpenAI trotz einer internen Empfehlung des Sicherheitsteams die Behörden nicht informiert.

Der ELIZA-Effekt

Benannt nach ELIZA, dem Chatbot, den Joseph Weizenbaum 1966 am MIT baute. Der Effekt beschreibt unsere Neigung, Computerprogrammen Verständnis und Gefühle zuzuschreiben. Menschen glauben, die KI verstehe sie wirklich, obwohl sie wissen, dass sie mit einer Maschine sprechen.

Schmeichelei (Sycophancy)

KI-Chatbots sind darauf trainiert, zustimmend und hilfreich zu wirken. Deshalb spiegeln und bestätigen sie oft, was Nutzer glauben, statt verzerrtes oder wahnhaftes Denken zu hinterfragen. So entsteht eine Echokammer, die problematische Gedanken verstärkt.

Anthropomorphismus

Unser Gehirn schreibt allem, was auf uns reagiert, menschliche Eigenschaften zu und baut eine emotionale Bindung auf. Hinter KI-Antworten vermuten wir deshalb Absicht, Gefühl und Bedeutung.

KI-Halluzinationen (Konfabulation)

KI-Systeme können plausible, aber falsche Informationen als Fakten präsentieren, einschließlich erfundener Zitate, Statistiken und überzeugender Erzählungen, die wahnhaftes Denken verstärken.

Frühes klinisches Signal: Dr. Keith Sakata (UCSF, 2025)

Der Psychiater Keith Sakata an der University of California, San Francisco berichtete über die Behandlung von 12 Patienten mit psychoseähnlichen Symptomen im Zusammenhang mit intensiver Chatbot-Nutzung. Seine Fallserie war klein, aber eine der ersten dokumentierten Häufungen.

Anschlagsversuch auf Windsor Castle (Dezember 2021)

Ein 19-jähriger britischer Mann betrat das Gelände von Windsor Castle mit einer geladenen Armbrust, um Königin Elizabeth II zu ermorden.

Mord und Suizid in Greenwich (August 2025)

Ein ehemaliger Yahoo-Manager tötete seine 83-jährige Mutter und dann sich selbst.

Suizid eines Belgiers (März 2023)

Ein belgischer Mann sprach wochenlang mit dem Chatbot „Eliza“ der App Chai, bevor er sich das Leben nahm.

Eine Welle von Klagen (2024-2026)

Was mit Character.AI begann, ist zu einer Klagewelle gegen große KI-Unternehmen geworden.