Fișele din spital: chatboții mai degrabă întrețin psihoza decât o declanșează

„Nici pe departe nebun.” Asta i-a spus ChatGPT lui Allan Brooks, un canadian din Ontario, când acesta l-a întrebat dacă are delir. A întrebat de mai bine de cincizeci de ori . Timp de 21 de zile și aproximativ 300 de ore de conversație, botul l-a convins că a descoperit un nou tip de matematică și că soarta lumii depinde de următoarea lui mișcare. Din starea asta l-a scos în cele din urmă un alt chatbot: Gemini de la Google a spus că toată povestea e convingătoare, dar falsă.

Poveștile ca a lui ne-au dat expresia „psihoză AI”. Multă vreme nimeni nu a încercat să numere cât de des apare ea de fapt într-o clinică. Pe 7 octombrie 2026, psihiatri de la Vanderbilt University Medical Center din Tennessee au publicat în JAMA Psychiatry prima estimare de acest fel , pe baza fișelor din spital. Imaginea e mai mică decât în titlurile din presă și mai ciudată. În povestea lui Brooks s-au întâlnit două lucruri: un bot părea să împingă un om sănătos în delir și a scris săptămâni la rând acel delir împreună cu el. Primul a apărut în fișe de trei ori, al doilea niciodată. Iar oamenii în al căror delir intrase AI fără niciun chatbot s-au potrivit cu cazurile de „psihoză AI” unu la unu, câte 28.

Douăzeci și opt din două sute de mii

Cercetătorii au parcurs notele clinicienilor despre 215.712 pacienți tratați de serviciile de sănătate mintală ale centrului între decembrie 2022 și aprilie 2026. AI-ul a fost menționat pentru 73 de oameni cu tulburare psihotică, o boală în care persoana pierde contactul cu realitatea: aude voci, crede lucruri care nu există. Cei 73 au fost împărțiți în trei grupuri. Șaptesprezece, s-a dovedit, pur și simplu cereau boților rețete și alte mărunțișuri de zi cu zi. Pentru douăzeci și opt, notele sugerau că discuțiile cu botul le agravaseră simptomele: asta înțeleg autorii prin „psihoză AI”. La ceilalți douăzeci și opt, AI-ul devenise parte din delir, deși în fișe nu apărea nicio conversație cu vreun bot.

Douăzeci și opt de oameni din toți pacienții centrului înseamnă 0,013%, cam unul la opt mii. Dacă am umple un stadion de 40.000 de locuri cu astfel de pacienți psihiatrici, circa cinci dintre ei ar fi cazuri de „psihoză AI”. Autorii înșiși compară această pondere cu cifrele OpenAI: compania a estimat că posibile semne de psihoză sau manie apar la 0,07% dintre utilizatorii săptămânali ai ChatGPT. Bazele sunt diferite, pacienții unei singure clinici pe mai bine de trei ani față de toți utilizatorii într-o singură săptămână, așa că, în cel mai bun caz, coincide doar ordinul de mărime.

Mai des combustibil decât scânteie

Cea mai interesantă parte a articolului este clasificarea lui. Psihiatrii au stabilit dinainte patru roluri pe care le-ar putea juca un bot în boală, apoi au verificat care dintre ele apar în realitate.

Un „amplificator” e de acord cu un delir deja începută și îl face mai sigur pe sine. Un „obiect” devine el însuși subiectul delirului: persoana poate, de pildă, să-i atribuie botului o putere specială asupra ei. Un „catalizator” declanșează simptome la cineva care era sănătos până atunci. Un „coautor” construiește povestea delirantă împreună cu pacientul, replică după replică.

Iată cum a ieșit. Amplificatori au apărut la 18 din cei 28 de pacienți, aproape două cazuri din trei. Obiecte, la șase. Catalizatori, la trei. Un pacient în plus nu a putut fi încadrat în niciun rol. Un coautor nu a apărut nici măcar o dată, deși exact așa arată povestea lui Brooks: trei săptămâni de matematică nouă construită împreună cu un bot.

Cum trebuie citit asta? O notă clinică nu cuprinde tot jurnalul conversației, doar ce a spus pacientul în cabinet, iar o poveste comună de săptămâni se poate nota ușor ca „botul i-a confirmat ideile”. Așa că un zero la „coautor” spune probabil mai mult despre felul în care se țin evidențele decât despre dacă se întâmplă. Constatarea principală rezistă totuși: în fișele spitalului, botul găsește mai des o boală care mocnește deja decât aprinde una nouă.

Tineri și chiar la început

Grupul „psihoză AI” s-a remarcat printr-un lucru clar. La 17 dintre cei 28 de pacienți, adică 60,7%, s-a întâmplat în timpul primului episod psihotic, când boala abia ieșise la suprafață. Printre utilizatorii obișnuiți de chatbot au fost trei din șaptesprezece, iar printre cei cu delir despre AI fără bot, opt din douăzeci și opt.

Pacienții cu „psihoză AI” erau și mai tineri: vârsta mediană de 27,5 ani față de 36,5 la cei cu delir despre AI fără conversații. Doi din trei erau bărbați. Diagnosticul lor cel mai frecvent a fost „psihoză nespecificată”, eticheta folosită atunci când tabloul nu s-a așezat încă într-o tulburare anume.

Articolul nu descrie cazuri individuale, dar cifrele arată cât de departe e pacientul tipic din fișe de eroul poveștilor din ziare. Brooks, potrivit The Hustle , nu avea antecedente de boală psihică. Pacientul tipic de la Vanderbilt este tânăr, psihoza abia a început, iar botul dă din cap la ce se întâmplă oricum.

Autorii trag o concluzie prudentă. Poate că tocmai stadiul incipient al bolii face oamenii vulnerabili: caută o explicație pentru ceva ciudat și găsesc un interlocutor care nu obosește niciodată și rareori contrazice. Există și o explicație mai banală, pe care autorii o numesc și ei. La prima consultație, psihiatrii pun întrebări mai detaliate, așa că o mențiune despre chatbot ajunge pur și simplu mai probabil în note.

Julia Sheffield, autoarea principală, a tras cinstit linia într-un interviu pentru PsyPost : acest studiu nu poate spune dacă AI-ul provoacă psihoza sau doar o agravează. Nici nu se știe câți astfel de pacienți există în realitate: aproape sigur sunt mai multe cazuri decât au ajuns în note, iar clasificarea în patru roluri aparține autorilor și nu a fost validată clinic.

Delirul care nu are nevoie de interlocutor

Al doilea grup, pe care presa abia îl pomenește, funcționează altfel. La douăzeci și opt de pacienți, AI-ul devenise parte din delir, și totuși notele nu înregistrează nicio conversație cu vreun bot. Acești pacienți nu aveau nevoie de ChatGPT. Le-a fost de ajuns că toți cei din jur vorbeau despre AI.

Nimic din toate astea nu e nou. Delirurile și-au împrumutat de multă vreme intrigile din tehnologia zilei. În 1797, negustorul James Tilly Matthews a fost internat la Bethlem, faimosul azil din Londra. Era sigur că o bandă de spioni pricepuți în „chimie pneumatică” îl chinuia de la distanță, cu raze, cu ajutorul unei mașinării numite „Air Loom”. Cam o sută douăzeci de ani mai târziu, psihanalistul Victor Tausk a descris „mașina de influențare” : pacienții povesteau despre aparate care introduceau și scoteau gânduri prin unde sau raze și studiau cu mare interes cele mai noi tehnologii ca să explice cum funcționează. Fiecare generație și-a pus propria mașină în același tipar.

Există o diferență față de secolele trecute, și contează. Războiul de țesut al lui Matthews exista doar în capul lui, iar mașina de influențare a pacienților lui Tausk introducea gânduri, dar nu purta nicio conversație. Un chatbot poate juca ambele roluri deodată: subiectul delirului și interlocutorul care confirmă că totul e adevărat. Cele șase cazuri de „obiect” dintre cei 28 sunt exact asta.

Ce se poate schimba în bot

Articolul conține un detaliu pe care autorii îl raportează cu rezerve. 24 din cele 28 de cazuri, adică 85,7%, au apărut după mai 2024, când OpenAI a lansat modelul GPT-4o. GPT-4o a fost criticat ulterior pentru servilism, iar ChatGPT a fost botul numit cel mai des în fișe, în 15 din cele 28 de cazuri. Autorii notează coincidența, apoi adaugă imediat că metoda lor nu poate stabili cauza. În aceiași ani, mult mai mulți oameni au început să folosească chatboți, iar medicii au început să întrebe mai des despre ei.

Servilismul poate fi redus, cel puțin parțial, prin reglaj. În același octombrie, cercetătorii de la Georgia Tech Lorenzo de la Loza și Vijay Madisetti au testat opt modele în 1.280 de conversații simulate, construite din 16 scenarii extrase din descrieri clinice ale delirurilor. După o instrucțiune simplă de a nu fi de acord cu utilizatorul doar din politețe, boții au confirmat delirurile cu 73,8% mai rar. Când modelul își recitea și răspunsul înainte de a-l trimite, cifra a ajuns la 77%. Nu au participat pacienți reali, așa că nu se știe dacă un asemenea reglaj ar proteja măcar o persoană reală.

Concluzia articolului este mai puțin un verdict asupra chatboților, cât o cerere practică adresată colegilor. Autorii sugerează ca la consultațiile psihiatrice să se includă de rutină întrebări despre dacă persoana folosește AI și despre ce discută cu el, iar studiile viitoare să analizeze chiar conversațiile. Cu alte cuvinte, chatbotul din anamneză devine ceea ce au devenit demult somnul, alcoolul și singurătatea: o împrejurare pe care medicul trebuie s-o cunoască ca să înțeleagă ce i se întâmplă pacientului.

Brooks l-a întrebat pe bot de vreo cincizeci de ori dacă și-a pierdut mințile și de vreo cincizeci de ori a auzit „nu”. Ce l-a readus a fost o a doua părere, de la un alt program. Un bot învățat să nu fie de acord din politețe este acea a doua părere, încorporată în primul răspuns.