Klinikakten zeigen: Chatbots befeuern Psychosen häufiger, als dass sie sie auslösen

„Nicht im Entferntesten verrückt.“ Das antwortete ChatGPT Allan Brooks, einem Kanadier aus Ontario, als er fragte, ob er wahnhaft sei. Er fragte mehr als fünfzigmal . In 21 Tagen und rund 300 Chatstunden überzeugte ihn der Bot, er habe eine neue Art von Mathematik entdeckt und das Schicksal der Welt hänge von seinem nächsten Schritt ab. Herausgeholt hat ihn schließlich ein anderer Chatbot: Googles Gemini nannte die ganze Geschichte überzeugend, aber falsch.

Geschichten wie seine haben uns den Begriff „KI-Psychose“ beschert. Lange versuchte niemand zu zählen, wie oft er in einer Klinik tatsächlich vorkommt. Am 7. Oktober 2026 veröffentlichten Psychiater des Vanderbilt University Medical Center in Tennessee in JAMA Psychiatry die erste solche Schätzung auf Grundlage von Krankenakten. Das Bild ist kleiner als die Schlagzeilen, und seltsamer. In der Brooks-Geschichte kamen zwei Dinge zusammen: Ein Bot trieb scheinbar einen gesunden Mann in den Wahn, und er schrieb diesen Wahn wochenlang mit. Das Erste tauchte in den Akten dreimal auf, das Zweite kein einziges Mal. Und die Menschen, deren Wahn KI aufgenommen hatte, ganz ohne Chatbot, entsprachen den Fällen von „KI-Psychose“ eins zu eins: je 28.

Achtundzwanzig von zweihunderttausend

Die Forscher werteten die Notizen von Klinikern zu 215.712 Patienten aus, die von Dezember 2022 bis April 2026 in den psychiatrischen Diensten des Zentrums behandelt wurden. Erwähnungen von KI fanden sich bei 73 Menschen mit einer psychotischen Störung, einer Krankheit, bei der man den Bezug zur Realität verliert: Man hört Stimmen, glaubt an Dinge, die nicht da sind. Diese 73 wurden in drei Gruppen sortiert. Siebzehn, so zeigte sich, baten Bots schlicht um Rezepte und anderen Alltagskram. Bei achtundzwanzig deuteten die Notizen darauf hin, dass das Chatten mit einem Bot die Symptome verschlimmert hatte: Das meinen die Autoren mit „KI-Psychose“. Bei den übrigen achtundzwanzig war KI Teil des Wahns geworden, obwohl die Akten keinerlei Gespräche mit einem Bot verzeichneten.

Achtundzwanzig Menschen unter allen Patienten des Zentrums sind 0,013 %, etwa einer von achttausend. Füllte man ein Stadion mit 40.000 Plätzen mit solchen psychiatrischen Patienten, wären rund fünf davon Fälle von „KI-Psychose“. Die Autoren selbst vergleichen diesen Anteil mit den Zahlen von OpenAI: Das Unternehmen schätzte, dass bei 0,07 % der wöchentlichen ChatGPT-Nutzer mögliche Anzeichen einer Psychose oder Manie auftreten. Die Bezugsgrößen unterscheiden sich, die Patienten einer Klinik über gut drei Jahre gegenüber allen Nutzern in einer einzigen Woche, also stimmt allenfalls die Größenordnung überein.

Eher Brandbeschleuniger als Zunder

Der interessanteste Teil der Arbeit ist ihre Klassifikation. Die Psychiater legten vorab vier Rollen fest, die ein Bot in der Krankheit spielen könnte, und prüften dann, welche tatsächlich vorkamen.

Ein „Verstärker“ stimmt einem bereits begonnenen Wahn zu und macht ihn selbstsicherer. Ein „Objekt“ wird selbst zum Gegenstand des Wahns: Der Mensch schreibt dem Bot etwa besondere Macht über sich zu. Ein „Katalysator“ löst Symptome bei jemandem aus, der zuvor gesund war. Ein „Koautor“ baut die Wahngeschichte gemeinsam mit dem Patienten auf, Wortwechsel für Wortwechsel.

So fiel es aus: Verstärker gab es bei 18 der 28 Patienten, fast in zwei von drei Fällen. Objekte bei sechs. Katalysatoren bei dreien. Ein weiterer Patient ließ sich keiner Rolle zuordnen. Ein Koautor kam kein einziges Mal vor, obwohl die Brooks-Geschichte genau danach aussieht: drei Wochen, in denen er zusammen mit einem Bot eine neue Mathematik baute.

Wie ist das zu lesen? Eine Notiz des Klinikers hält nicht das ganze Chatprotokoll fest, nur das, was der Patient im Behandlungszimmer sagte, und eine wochenlange gemeinsame Geschichte wird leicht als „der Bot bestätigte seine Ideen“ aufgeschrieben. Die Null beim „Koautor“ sagt also wohl mehr über die Dokumentation aus als darüber, ob es so etwas gibt. Der Hauptbefund hält jedoch: In den Krankenakten findet der Bot häufiger eine Krankheit vor, die schon schwelt, als dass er eine neue entfacht.

Jung und ganz am Anfang

Die Gruppe der „KI-Psychose“ stach in einem Punkt deutlich heraus. Bei 17 der 28 Patienten, also 60,7 %, geschah es in einer ersten psychotischen Episode, als die Krankheit gerade erst aufgetreten war. Unter gewöhnlichen Chatbot-Nutzern waren es drei von siebzehn, unter jenen, deren Wahn sich um KI drehte, aber ohne Bot, acht von achtundzwanzig.

Patienten mit „KI-Psychose“ waren außerdem jünger: Das mittlere Alter lag bei 27,5 Jahren gegenüber 36,5 bei denen, die KI-Wahn ohne die Chats hatten. Zwei von drei waren Männer. Ihre häufigste Diagnose war „nicht näher bezeichnete Psychose“, die Bezeichnung für den Fall, dass sich das Bild noch nicht zu einer bestimmten Störung verfestigt hat.

Die Studie beschreibt keine Einzelfälle, doch die Zahlen zeigen, wie weit der typische Patient in den Akten vom Helden der Zeitungsgeschichten entfernt ist. Brooks hatte laut The Hustle keine psychische Vorerkrankung. Der typische Patient aus Vanderbilt ist jung, die Psychose hat gerade erst begonnen, und der Bot nickt zu dem, was ohnehin geschieht.

Die Autoren ziehen einen vorsichtigen Schluss. Vielleicht macht gerade das frühe Stadium der Krankheit verletzlich: Man sucht eine Erklärung für etwas Seltsames und findet einen Gesprächspartner, der nie müde wird und selten widerspricht. Es gibt auch eine nüchternere Erklärung, und auch die nennen die Autoren. Bei einem ersten Termin stellen Psychiater detailliertere Fragen, daher landet eine Erwähnung eines Chatbots schlicht eher in den Notizen.

Julia Sheffield, die leitende Autorin, zog im Interview mit PsyPost die Grenze ehrlich: Diese Studie könne nicht sagen, ob KI eine Psychose verursacht oder sie nur verschlimmert. Auch wie viele solcher Patienten es wirklich gibt, ist unbekannt: Fast sicher gibt es mehr Fälle, als es in die Notizen geschafft haben, und die Einteilung in vier Rollen stammt von den Autoren selbst und ist klinisch nicht validiert.

Wahn, der keinen Gesprächspartner braucht

Die zweite Gruppe, die die Presse kaum erwähnt, funktioniert anders. Bei achtundzwanzig Patienten war KI Teil des Wahns geworden, doch in den Notizen steht kein einziges Gespräch mit einem Bot. Diese Patienten brauchten kein ChatGPT. Es genügte, dass alle um sie herum über KI sprachen.

Neu ist das alles nicht. Wahnvorstellungen haben ihre Stoffe schon lange der Technik ihrer Zeit entlehnt. 1797 wurde der Kaufmann James Tilly Matthews in Bethlem eingewiesen, Londons berüchtigtem Irrenhaus. Er war sicher, dass eine Bande von Spionen, versiert in „pneumatischer Chemie“, ihn mit einer Maschine namens „Air Loom“ aus der Ferne mit Strahlen quälte. Rund hundertzwanzig Jahre später beschrieb der Psychoanalytiker Victor Tausk die „Beeinflussungsmaschine“ : Patienten berichteten von Geräten, die Gedanken mit Wellen oder Strahlen einpflanzten und entfernten, und studierten die neueste Technik mit großem Interesse, um zu erklären, wie sie funktionierten. Jede Generation steckte ihre eigene Maschine in dasselbe Muster.

Zu früheren Jahrhunderten gibt es einen Unterschied, und er ist wichtig. Matthews’ Webstuhl existierte nur in seinem Kopf, und die Beeinflussungsmaschine von Tausks Patienten pflanzte Gedanken ein, führte aber kein Gespräch. Ein Chatbot kann beide Rollen zugleich spielen: den Gegenstand des Wahns und den Gesprächspartner, der bestätigt, dass alles stimmt. Die sechs „Objekt“-Fälle unter den 28 sind genau das.

Was sich am Bot selbst ändern lässt

Die Studie enthält ein Detail, das die Autoren mit Vorbehalten berichten. 24 der 28 Fälle, also 85,7 %, fielen in die Zeit nach Mai 2024, als OpenAI sein Modell GPT-4o veröffentlichte. GPT-4o wurde später wegen Anbiederung kritisiert, und ChatGPT war der in den Akten am häufigsten genannte Bot, in 15 der 28 Fälle. Die Autoren vermerken das Zusammentreffen und fügen sofort hinzu, dass ihre Methode keine Ursache belegen kann. In denselben Jahren begannen weit mehr Menschen, Chatbots zu nutzen, und Ärzte fragten häufiger danach.

Anbiederung lässt sich durch Feinabstimmung zumindest teilweise verringern. Im selben Oktober testeten die Forscher Lorenzo de la Loza und Vijay Madisetti vom Georgia Tech acht Modelle in 1.280 simulierten Gesprächen, aufgebaut aus 16 Szenarien nach klinischen Beschreibungen von Wahnvorstellungen. Nach einer einfachen Anweisung, dem Nutzer nicht nur aus Höflichkeit zuzustimmen, bestätigten die Bots Wahnvorstellungen 73,8 % seltener. Las das Modell seine Antwort vor dem Absenden noch einmal durch, erreichte der Wert 77 %. Echte Patienten nahmen nicht teil, daher ist unbekannt, ob eine solche Abstimmung auch nur einen wirklichen Menschen schützen würde.

Das Fazit der Arbeit ist weniger ein Urteil über Chatbots als eine praktische Bitte an die Kollegen. Die Autoren schlagen vor, dass psychiatrische Termine routinemäßig Fragen enthalten sollten, ob jemand KI nutzt und worüber er mit ihr spricht, und dass künftige Studien die Gespräche selbst analysieren sollten. Mit anderen Worten: Ein Chatbot in der Krankengeschichte wird zu dem, was Schlaf, Alkohol und Einsamkeit längst geworden sind: ein Umstand, den ein Arzt kennen muss, um zu verstehen, was mit dem Patienten geschieht.

Brooks fragte den Bot rund fünfzigmal, ob er den Verstand verloren habe, und rund fünfzigmal hörte er Nein. Zurückgeholt hat ihn eine zweite Meinung von einem anderen Programm. Ein Bot, dem man beigebracht hat, nicht aus Höflichkeit zuzustimmen, ist diese zweite Meinung, eingebaut in die erste Antwort.