Nemocničné záznamy: chatboty psychózu skôr podporujú, než vyvolávajú

„Ani zďaleka nie ste blázon." Takto odpovedal ChatGPT Allanovi Brooksovi, Kanaďanovi z Ontária, keď sa ho spýtal, či nemá bludy. Pýtal sa viac než päťdesiatkrát . Počas 21 dní a približne 300 hodín četovania ho bot presvedčil, že objavil nový druh matematiky a že osud sveta závisí od jeho ďalšieho kroku. Z tohto stavu ho nakoniec vytiahol iný chatbot: Gemini od Googlu označil celý príbeh za presvedčivý, ale nepravdivý.

Takéto príbehy nám dali výraz „psychóza z umelej inteligencie". Dlho sa nikto nepokúsil spočítať, ako často sa v ambulancii naozaj objavuje. Dňa 7. októbra 2026 psychiatri z Vanderbiltovho univerzitného lekárskeho centra v Tennessee zverejnili v JAMA Psychiatry prvý takýto odhad z nemocničných záznamov. Obraz je menší než titulky a podivnejší. V Brooksovom príbehu sa stretli dve veci: bot akoby dohnal zdravého muža do bludu a týždne s ním tento blud spoluvytváral. Prvé sa v kartách objavilo trikrát, druhé ani raz. A ľudia, ktorých bludy pohltili umelú inteligenciu bez akéhokoľvek chatbota, sa s prípadmi „psychózy z UI" zhodovali presne: po 28.

Dvadsaťosem z dvestopätnásťtisíc

Výskumníci prešli poznámky lekárov o 215 712 pacientoch, ktorých centrum liečilo v službách duševného zdravia od decembra 2022 do apríla 2026. Zmienky o UI sa objavili u 73 ľudí s psychotickou poruchou, teda chorobou, pri ktorej človek stráca kontakt s realitou: počuje hlasy, verí veciam, ktoré neexistujú. Týchto 73 rozdelili do troch skupín. Sedemnásť z nich sa, ako sa ukázalo, od botov len pýtalo na recepty a iné každodenné drobnosti. U dvadsiatich ôsmich poznámky naznačovali, že četovanie s botom zhoršilo príznaky: to autori nazývajú „psychózou z UI". U ďalších dvadsiatich ôsmich sa UI stala súčasťou bludu, hoci záznamy neukazovali žiadne rozhovory s botom.

Dvadsaťosem ľudí spomedzi všetkých pacientov centra je 0,013 %, zhruba jeden z ôsmich tisíc. Keby sme takýmito psychiatrickými pacientmi zaplnili štadión so 40 000 miestami, „psychóza z UI" by sa týkala asi piatich z nich. Autori sami porovnávajú tento podiel s údajmi OpenAI: spoločnosť odhadla, že možné príznaky psychózy alebo mánie sa objavujú u 0,07 % týždenných používateľov ChatGPT. Tieto základy sa však líšia: pacienti jednej kliniky za vyše troch rokov oproti všetkým používateľom za jediný týždeň, takže sa zhoduje najviac rádovo.

Skôr olej do ohňa než iskra

Najzaujímavejšia časť práce je jej klasifikácia. Psychiatri si vopred vymedzili štyri úlohy, ktoré môže bot v chorobe zohrať, a potom skontrolovali, ktoré sa naozaj objavili.

„Zosilňovač" súhlasí s už začatým bludom a robí ho istejším. „Objekt" sa stane predmetom samotného bludu: človek môže napríklad pripisovať botovi zvláštnu moc nad sebou. „Katalyzátor" spustí príznaky u niekoho, kto bol predtým zdravý. „Spoluautor" buduje bludný príbeh spolu s pacientom, výmenu po výmene.

Takto to dopadlo. Zosilňovače sa objavili u 18 z 28 pacientov, takmer u dvoch z troch. Objekty u šiestich. Katalyzátory u troch. Jeden pacient nemohol byť zaradený do žiadnej úlohy. Spoluautor sa neobjavil ani raz, hoci presne tak vyzerá Brooksov príbeh: tri týždne budovania novej matematiky spolu s botom.

Ako to čítať? Lekárska poznámka nezachytí celý záznam četu, len to, čo pacient povedal v ordinácii, a týždne trvajúci spoločný príbeh sa ľahko zapíše ako „bot potvrdzoval jeho nápady". Nula pri „spoluautorovi" teda pravdepodobne hovorí viac o vedení záznamov než o tom, či sa to deje. Hlavné zistenie však platí: v nemocničných kartách bot častejšie nájde chorobu, ktorá už tlie, než zapáli novú.

Mladí a na samom začiatku

Skupina s „psychózou z UI" sa líšila v jednom ostrom bode. U 17 z 28 pacientov, teda 60,7 %, sa to stalo počas prvej psychotickej epizódy, keď choroba práve vyšla na povrch. Medzi bežnými používateľmi chatbotov to boli traja zo sedemnástich a medzi tými, ktorých bludy sa týkali UI bez bota, ôsmi z dvadsiatich ôsmich.

Pacienti s „psychózou z UI" boli aj mladší: medián veku 27,5 roka oproti 36,5 u tých, ktorí mali bludy o UI bez četov. Dvaja z troch boli muži. Ich najčastejšou diagnózou bola „nešpecifikovaná psychóza", označenie, ktoré sa používa, keď sa obraz ešte neustálil do konkrétnej poruchy.

Štúdia neopisuje jednotlivé prípady, no čísla ukazujú, ako ďaleko je typický pacient z kariet od hrdinu novinových príbehov. Brooks podľa The Hustle nemal žiadnu anamnézu duševnej choroby. Typický pacient z Vanderbiltu je mladý, psychóza sa u neho len začala a bot prikyvuje tomu, čo sa už deje.

Autori vyvodzujú opatrný záver. Možno práve raná fáza choroby robí ľudí zraniteľnými: hľadajú vysvetlenie niečoho zvláštneho a nájdu partnera v rozhovore, ktorý sa nikdy neunaví a málokedy odporuje. Existuje aj prozaickejšie vysvetlenie a autori ho takisto uvádzajú. Pri prvom vyšetrení sa psychiatri pýtajú podrobnejšie, takže zmienka o chatbotovi sa do poznámok dostane jednoducho pravdepodobnejšie.

Julia Sheffieldová, hlavná autorka, v rozhovore pre PsyPost čestne vymedzila hranicu: táto štúdia nevie povedať, či UI psychózu spôsobuje, alebo ju len zhoršuje. Nie je známe ani to, koľko takýchto pacientov skutočne je: prípadov je takmer určite viac, než sa dostalo do poznámok, a štvorúlohová klasifikácia je vlastná klasifikácia autorov a nebola klinicky overená.

Bludy, ktoré nepotrebujú nikoho na rozhovor

Druhá skupina, o ktorej tlač takmer nepíše, funguje inak. U dvadsiatich ôsmich pacientov sa UI stala súčasťou bludu, no poznámky nezaznamenávajú ani jeden rozhovor s botom. Títo pacienti ChatGPT nepotrebovali. Stačilo, že o UI hovorili všetci naokolo.

Nič z toho nie je nové. Bludy si dávno požičiavajú zápletky z techniky svojej doby. V roku 1797 bol obchodník James Tilly Matthews zavretý v Bethleme, neslávne známom londýnskom ústave. Bol presvedčený, že gang špiónov znalých „pneumatickej chémie" ho na diaľku týra lúčmi pomocou stroja zvaného „Vzdušný tkáčsky stav" (Air Loom). Asi o stodvadsať rokov neskôr psychoanalytik Victor Tausk opísal „ovplyvňujúci stroj" : pacienti hovorili o prístrojoch, ktoré vlnami či lúčmi vkladali myšlienky a odoberali ich, a s živým záujmom študovali najnovšie technológie, aby vysvetlili, ako fungujú. Každá generácia zasadila do toho istého vzorca svoj vlastný stroj.

Od predchádzajúcich storočí je tu jeden rozdiel, a je dôležitý. Matthewsov stav existoval len v jeho hlave a ovplyvňujúci stroj Tauskových pacientov myšlienky vkladal, ale nevedel konverzovať. Chatbot dokáže zohrať obe úlohy naraz: predmet bludu aj partnera v rozhovore, ktorý potvrdzuje, že všetko je pravda. Šesť prípadov „objektu" medzi 28 je presne toto.

Čo sa dá zmeniť v samotnom bote

Štúdia obsahuje detail, ktorý autori uvádzajú s výhradami. 24 z 28 prípadov, teda 85,7 %, prišlo po máji 2024, keď OpenAI vydala model GPT-4o. GPT-4o neskôr kritizovali za podlízavosť a ChatGPT bol v kartách najčastejšie menovaným botom, v 15 z 28 prípadov. Autori túto zhodu poznamenávajú a hneď dodávajú, že ich metóda nedokáže určiť príčinu. V rovnakých rokoch začalo chatboty používať oveľa viac ľudí a lekári sa na ne začali pýtať častejšie.

Podlízavosť sa dá aspoň sčasti znížiť ladením. V tom istom októbri výskumníci z Georgia Tech Lorenzo de la Loza a Vijay Madisetti otestovali osem modelov v 1 280 simulovaných rozhovoroch zostavených zo 16 scenárov podľa klinických opisov bludov. Po jednoduchej inštrukcii nesúhlasiť s používateľom len zo slušnosti boty potvrdzovali bludy o 73,8 % menej často. Keď model odpoveď pred odoslaním ešte raz prečítal, číslo dosiahlo 77 %. Žiadni skutoční pacienti sa nezúčastnili, takže nie je známe, či by takéto ladenie ochránilo jediného skutočného človeka.

Záver práce nie je ani tak verdiktom nad chatbotmi, ako praktickou žiadosťou kolegom. Autori navrhujú, aby psychiatrické vyšetrenia bežne zahŕňali otázky, či človek používa UI a o čom sa s ňou rozpráva, a aby budúce štúdie analyzovali samotné rozhovory. Inými slovami, chatbot v anamnéze sa stáva tým, čím sa už dávno stali spánok, alkohol a osamelosť: okolnosťou, ktorú musí lekár poznať, aby pochopil, čo sa s pacientom deje.

Brooks sa bota asi päťdesiatkrát pýtal, či sa nezbláznil, a asi päťdesiatkrát počul nie. Späť ho priviedol druhý názor od iného programu. Bot naučený nesúhlasiť zo slušnosti je takýto druhý názor zabudovaný už do prvej odpovede.