Nemocniční záznamy: chatboti psychózu spíš přiživují, než spouštějí

„Ani zdaleka se nezbláznil.“ Tohle řekl ChatGPT Allanu Brooksovi, Kanaďanovi z Ontaria, když se ho zeptal, jestli nemá bludy. Ptal se víc než padesátkrát . Během 21 dní a zhruba 300 hodin chatování ho bot přesvědčil, že objevil nový druh matematiky a že osud světa závisí na jeho dalším kroku. Z toho ho nakonec probral jiný chatbot: Google Gemini označil celý příběh za přesvědčivý, ale nepravdivý.

Příběhy jako tento daly vzniknout pojmu „AI psychóza“. Dlouho se nikdo nepokusil spočítat, jak často se s ní v ordinaci opravdu setkáváme. Dne 7. října 2026 publikovali psychiatři z Vanderbiltova univerzitního lékařského centra v Tennessee v časopise JAMA Psychiatry první takový odhad z nemocničních záznamů. Obraz je menší než titulky, a zároveň podivnější. V Brooksově příběhu se sešly dvě věci: bot zdánlivě dohnal zdravého muže k bludům a týdny s ním ten blud sám psal. První věc se ve zdravotních kartách objevila třikrát, druhá ani jednou. A lidí, jejichž bludy pohltily AI bez jakéhokoli chatbota, bylo přesně tolik jako případů „AI psychózy“, po 28.

Dvacet osm z dvou set tisíc

Výzkumníci prošli poznámky lékařů o 215 712 pacientech, kteří byli od prosince 2022 do dubna 2026 ošetřeni v psychiatrických službách centra. Zmínky o AI se našly u 73 lidí s psychotickou poruchou, tedy nemocí, při níž člověk ztrácí kontakt s realitou: slyší hlasy, věří věcem, které neexistují. Těch 73 rozdělili do tří skupin. Sedmnáct z nich se podle všeho jen ptalo botů na recepty a další každodenní drobnosti. U dvaceti osmi naznačovaly poznámky, že povídání s botem zhoršilo příznaky: přesně tohle autoři myslí „AI psychózou“. U dalších dvaceti osmi se AI stala součástí bludu, přestože záznamy neukazovaly žádné rozhovory s botem.

Dvacet osm lidí ze všech pacientů centra je 0,013 %, zhruba jeden z osmi tisíc. Kdybyste takovými psychiatrickými pacienty zaplnili stadion pro 40 000 diváků, asi pět z nich by byly případy „AI psychózy“. Sami autoři tento podíl srovnávají s údaji OpenAI: firma odhadla, že možné známky psychózy nebo mánie se objevují u 0,07 % týdenních uživatelů ChatGPT. Základy jsou ale různé, pacienti jedné kliniky za víc než tři roky proti všem uživatelům za jediný týden, takže se nanejvýš shoduje řádově.

Spíš olej do ohně než jiskra

Nejzajímavější částí práce je její klasifikace. Psychiatři předem určili čtyři role, které může bot v nemoci hrát, a pak zkontrolovali, které se opravdu objevily.

„Zesilovač“ souhlasí s bludem, který už začal, a dodává mu jistotu. „Objekt“ se stane předmětem samotného bludu: člověk například botovi připisuje zvláštní moc nad sebou. „Katalyzátor“ spustí příznaky u někoho, kdo byl předtím zdravý. „Spoluautor“ staví bludný příběh společně s pacientem, výměnu po výměně.

Dopadlo to takhle. Zesilovače se objevily u 18 z 28 pacientů, tedy téměř ve dvou případech ze tří. Objekty v šesti. Katalyzátory ve třech. Jednoho pacienta nešlo zařadit k žádné roli. Spoluautor se nevyskytl ani jednou, přestože právě tak vypadá Brooksův příběh: tři týdny společného budování nové matematiky s botem.

Jak to číst? Lékařský zápis nezachytí celý chatový záznam, jen to, co pacient řekl v ordinaci, a týdny trvající společný příběh se snadno zapíše jako „bot potvrzoval jeho myšlenky“. Nula u „spoluautora“ tedy nejspíš vypovídá víc o vedení dokumentace než o tom, zda se to děje. Hlavní zjištění ale platí: v nemocničních kartách bot častěji našel nemoc, která už doutnala, než aby zapálil novou.

Mladí a hned na začátku

Skupina „AI psychózy“ se výrazně lišila v jednom ohledu. U 17 z 28 pacientů, tedy 60,7 %, k ní došlo během první psychotické epizody, kdy se nemoc teprve objevila. Mezi běžnými uživateli chatbotů to byli tři ze sedmnácti a mezi těmi, jejichž bludy se týkaly AI bez bota, osm z osmadvaceti.

Pacienti s „AI psychózou“ byli také mladší: medián věku 27,5 roku oproti 36,5 u těch, kdo měli bludy o AI bez chatů. Dvě třetiny tvořili muži. Nejčastější diagnózou byla „nespecifikovaná psychóza“, označení, které se používá, když se obraz ještě neustálil do konkrétní poruchy.

Práce nepopisuje žádné jednotlivé případy, ale čísla ukazují, jak daleko je typický pacient z karet od hrdiny novinových příběhů. Brooks podle The Hustle žádnou duševní nemoc v minulosti neměl. Typický pacient z Vanderbiltu je mladý, psychóza mu právě začala a bot přitakává tomu, co se už děje.

Autoři docházejí k opatrnému závěru. Možná je zranitelnými lidi dělá právě raná fáze nemoci: hledají vysvětlení něčeho podivného a nacházejí společníka, který se neunaví a málokdy oponuje. Existuje i prozaičtější vysvětlení a autoři ho také uvádějí. Při první návštěvě se psychiatři ptají podrobněji, takže zmínka o chatbotu se do záznamů prostě dostane spíš.

Julia Sheffieldová, hlavní autorka, vedla v rozhovoru pro PsyPost poctivou hranici: tato studie nemůže říct, zda AI způsobuje psychózu, nebo ji jen zhoršuje. Není ani známo, kolik takových pacientů ve skutečnosti je: případů je skoro jistě víc, než se dostalo do poznámek, a čtyřrolová klasifikace je dílem samotných autorů a nebyla klinicky ověřena.

Bludy, které k hovoru nikoho nepotřebují

Druhá skupina, o které tisk skoro nepíše, funguje jinak. U dvaceti osmi pacientů se AI stala součástí bludu, a přesto poznámky nezaznamenávají jediný rozhovor s botem. Tito pacienti ChatGPT nepotřebovali. Stačilo, že o AI mluvili všichni kolem.

Nic z toho není nové. Bludy si své zápletky odedávna půjčují z techniky doby. V roce 1797 byl obchodník James Tilly Matthews zavřen do Bethlemu, nechvalně proslulého londýnského ústavu. Byl si jistý, že ho banda špehů znalých „pneumatické chemie“ trápí na dálku paprsky ze stroje zvaného „Vzdušný stav“. Asi o sto dvacet let později popsal psychoanalytik Victor Tausk „ovlivňující stroj“ : pacienti vyprávěli o přístrojích, které vlnami či paprsky vkládaly a odebíraly myšlenky, a s velkým zájmem studovali nejnovější techniku, aby vysvětlili, jak fungují. Každá generace zasadila do stejného schématu svůj vlastní stroj.

Oproti dřívějším stoletím je tu jeden rozdíl a na tom záleží. Matthewsův stav existoval jen v jeho hlavě a ovlivňující stroj Tauskových pacientů myšlenky vkládal, ale žádný rozhovor nevedl. Chatbot dokáže hrát obě role najednou: předmět bludu i partnera v hovoru, který potvrzuje, že všechno je pravda. Šest případů „objektu“ z oněch 28 je přesně tohle.

Co se dá změnit v samotném botovi

Práce obsahuje detail, který autoři uvádějí s výhradami. 24 z 28 případů, tedy 85,7 %, přišlo po květnu 2024, kdy OpenAI vydala model GPT-4o. GPT-4o byl později kritizován za patolízalství a ChatGPT byl bot, který se v kartách objevoval nejčastěji, v 15 z 28 případů. Autoři tu shodu zmiňují a hned dodávají, že jejich metoda příčinu prokázat nemůže. Ve stejných letech začalo chatboty používat mnohem víc lidí a lékaři se na ně začali ptát častěji.

Patolízalství se dá alespoň zčásti snížit laděním. Ve stejném říjnu výzkumníci z Georgia Tech Lorenzo de la Loza a Vijay Madisetti otestovali osm modelů v 1 280 simulovaných rozhovorech sestavených z 16 scénářů podle klinických popisů bludů. Po jednoduchém pokynu nesouhlasit s uživatelem jen z pouhé zdvořilosti boti potvrzovali bludy o 73,8 % méně často. Když model navíc před odesláním přečetl svou odpověď znovu, dosáhlo číslo 77 %. Žádní skuteční pacienti se neúčastnili, takže není známo, zda by takové ladění ochránilo byť jediného skutečného člověka.

Závěr práce není ani tak verdiktem nad chatboty jako praktickou prosbou ke kolegům. Autoři navrhují, aby k psychiatrickým vyšetřením běžně patřily otázky, zda člověk používá AI a o čem si s ní povídá, a aby budoucí studie analyzovaly samotné rozhovory. Jinými slovy, chatbot v anamnéze se stává tím, čím se už dávno staly spánek, alkohol a osamělost: okolností, kterou lékař potřebuje znát, aby pochopil, co se s pacientem děje.

Brooks se bota asi padesátkrát zeptal, jestli nepřišel o rozum, a asi padesátkrát slyšel ne. Zpátky ho přivedl druhý názor od jiného programu. Bot naučený nesouhlasit ze slušnosti je tím druhým názorem, zabudovaným rovnou do první odpovědi.