Els historials hospitalaris mostren que els xatbots aviven la psicosi més del que la provoquen

«Ni de lluny una bogeria.» Això va respondre ChatGPT a Allan Brooks, un canadenc d’Ontario, quan li va preguntar si delirava. Ho va preguntar més de cinquanta vegades . Durant 21 dies i unes 300 hores de xerrada, el bot el va convèncer que havia descobert un nou tipus de matemàtiques i que el destí del món depenia del seu pròxim moviment. El que el va fer reaccionar al final va ser un altre xatbot: Gemini, de Google, va dir que tota la història era convincent però falsa.

Històries com la seva ens han donat l’expressió «psicosi per IA». Durant molt de temps ningú va intentar comptar amb quina freqüència apareix realment en una consulta. El 7 d’octubre de 2026, psiquiatres del Vanderbilt University Medical Center, a Tennessee, van publicar a JAMA Psychiatry la primera estimació d’aquest tipus a partir d’historials hospitalaris. El quadre és més petit que els titulars, i més estrany. A la història de Brooks hi coincidien dues coses: un bot semblava empènyer un home sa cap al deliri, i durant setmanes va escriure aquest deliri amb ell. El primer cas va aparèixer tres vegades als historials; el segon, cap. I les persones el deliri de les quals havia absorbit la IA sense cap xatbot pel mig coincideixen amb els casos de «psicosi per IA» un a un: 28 en cada grup.

Vint-i-vuit entre dos-cents mil

Els investigadors van repassar les notes clíniques de 215.712 pacients atesos pels serveis de salut mental del centre entre el desembre del 2022 i l’abril del 2026. Hi van aparèixer mencions de la IA en 73 persones amb un trastorn psicòtic, una malaltia en què la persona perd el contacte amb la realitat: sent veus, creu coses que no hi són. Aquests 73 es van classificar en tres grups. Disset, va resultar, simplement demanaven receptes als bots i altres menudeses quotidianes. En vint-i-vuit, les notes feien pensar que xerrar amb un bot havia empitjorat els símptomes: això és el que els autors anomenen «psicosi per IA». En els altres vint-i-vuit, la IA s’havia convertit en part del deliri tot i que els registres no mostraven cap conversa amb un bot.

Vint-i-vuit persones sobre el total de pacients del centre són un 0,013 %, aproximadament una de cada vuit mil. Si omplíssim un estadi de 40.000 seients amb pacients psiquiàtrics com aquests, uns cinc serien casos de «psicosi per IA». Els mateixos autors comparen aquesta proporció amb les xifres d’OpenAI: la companyia ha calculat que possibles signes de psicosi o mania apareixen en el 0,07 % dels usuaris setmanals de ChatGPT. Les bases són diferents, els pacients d’una sola clínica durant més de tres anys davant de tots els usuaris en una setmana, de manera que, com a molt, només coincideix l’ordre de magnitud.

Més sovint combustible que guspira

La part més interessant de l’article és la classificació. Els psiquiatres van definir per endavant quatre papers que un bot podia tenir en la malaltia i després van comprovar quins apareixien de debò.

Un «amplificador» dona la raó a un deliri que ja ha començat i el fa més ferm. Un «objecte» passa a ser el tema del deliri mateix: la persona pot, per exemple, atribuir al bot un poder especial sobre ella. Un «catalitzador» desencadena símptomes en algú que abans estava bé. Un «coautor» construeix la història delirant amb el pacient, intercanvi a intercanvi.

Això és el que va sortir. Amplificadors, en 18 dels 28 pacients, gairebé dos casos de cada tres. Objectes, en sis. Catalitzadors, en tres. Un pacient més no va poder ser assignat a cap paper. Un coautor no va aparèixer ni una sola vegada, tot i que és exactament el que sembla la història de Brooks: tres setmanes construint unes matemàtiques noves juntament amb un bot.

Com s’ha d’interpretar? Una nota clínica no recull tot el registre del xat, només el que el pacient va dir a la consulta, i una història conjunta de setmanes pot quedar escrita fàcilment com a «el bot va confirmar les seves idees». Així doncs, un zero en «coautor» probablement diu més sobre com es registren les dades que sobre si passa. La conclusió principal, però, es manté: als historials hospitalaris, el bot troba més sovint una malaltia que ja covava que no pas n’encén una de nova.

Joves, i just al començament

El grup de «psicosi per IA» destacava en un punt ben clar. En 17 dels 28 pacients, és a dir el 60,7 %, va passar durant un primer episodi psicòtic, quan la malaltia acabava d’aflorar. Entre els usuaris corrents de xatbots eren tres de disset, i entre els qui tenien deliris sobre la IA sense bot, vuit de vint-i-vuit.

Els pacients amb «psicosi per IA» també eren més joves: una edat mitjana de 27,5 anys davant de 36,5 en els qui tenien deliris sobre la IA sense xerrades. Dos de cada tres eren homes. El seu diagnòstic més freqüent era «psicosi no especificada», l’etiqueta que s’usa quan el quadre encara no s’ha assentat en un trastorn concret.

L’article no descriu casos individuals, però les xifres mostren fins a quin punt el pacient típic dels historials s’allunya del protagonista de les històries de diari. Brooks, segons The Hustle , no tenia antecedents de malaltia mental. El pacient típic de Vanderbilt és jove, la psicosi tot just ha començat, i el bot assenteix al que ja està passant.

Els autors n’extreuen una conclusió prudent. Potser és la fase inicial de la malaltia el que fa vulnerables les persones: busquen una explicació d’alguna cosa estranya i troben un interlocutor que no es cansa mai i que gairebé mai contradiu. N’hi ha també una explicació més prosaica, i els autors també la donen. En una primera visita, els psiquiatres fan preguntes més detallades, de manera que és més probable que una menció d’un xatbot acabi a les notes.

Julia Sheffield, l’autora sènior, va traçar la línia amb honestedat en una entrevista a PsyPost : aquest estudi no pot dir si la IA causa la psicosi o només l’empitjora. Tampoc no se sap quants pacients d’aquests hi ha realment: gairebé segur que hi ha més casos dels que van arribar a les notes, i la classificació de quatre papers és dels mateixos autors i no s’ha validat clínicament.

Deliris que no necessiten ningú amb qui parlar

El segon grup, que la premsa gairebé no esmenta, funciona de manera diferent. En vint-i-vuit pacients, la IA s’havia convertit en part del deliri, però les notes no recullen ni una sola conversa amb un bot. Aquests pacients no necessitaven ChatGPT. Els bastava que tothom al seu voltant parlés de IA.

Res d’això no és nou. Els deliris fa temps que prenen els seus arguments de la tecnologia del moment. El 1797, el comerciant James Tilly Matthews va ser internat a Bethlem, el famós asil de Londres. Estava convençut que una banda d’espies experts en «química pneumàtica» el turmentava a distància amb raigs mitjançant una màquina anomenada «Air Loom», el «telar d’aire». Uns cent vint anys després, el psicoanalista Victor Tausk va descriure la «màquina d’influència» : els pacients parlaven d’aparells que inseria i extreien pensaments amb ones o raigs, i estudiaven amb gran interès la tecnologia més recent per explicar com funcionaven. Cada generació va encaixar la seva pròpia màquina en el mateix patró.

Hi ha una diferència respecte als segles anteriors, i és important. El telar de Matthews només existia al seu cap, i la màquina d’influència dels pacients de Tausk inseria pensaments però no conversava. Un xatbot pot fer els dos papers alhora: el tema del deliri i l’interlocutor que confirma que tot és cert. Els sis casos d’«objecte» entre els 28 són exactament això.

Què es pot canviar al bot mateix

L’article conté un detall que els autors donen amb reserves. 24 dels 28 casos, el 85,7 %, van ser posteriors al maig del 2024, quan OpenAI va llançar el model GPT-4o. GPT-4o va ser criticat més tard per adulador, i ChatGPT va ser el bot esmentat més sovint als historials, en 15 dels 28 casos. Els autors fan notar la coincidència i tot seguit afegeixen que el seu mètode no pot establir causalitat. En aquests mateixos anys molta més gent va començar a fer servir xatbots, i els metges van començar a preguntar-hi més sovint.

L’adulació es pot reduir, almenys en part, amb un ajust. Aquell mateix octubre, els investigadors de Georgia Tech Lorenzo de la Loza i Vijay Madisetti van provar vuit models en 1.280 converses simulades construïdes a partir de 16 escenaris extrets de descripcions clíniques de deliris. Amb una simple instrucció de no donar la raó a l’usuari només per ser amable, els bots van confirmar els deliris un 73,8 % menys sovint. Quan el model, a més, rellegia la resposta abans d’enviar-la, la xifra va arribar al 77 %. No hi van participar pacients reals, de manera que no se sap si un ajust així protegiria cap persona de debò.

La conclusió de l’article és menys un veredicte sobre els xatbots que una petició pràctica als col·legues. Els autors proposen que les consultes de psiquiatria incloguin de manera rutinària preguntes sobre si la persona fa servir IA i de què hi parla, i que els estudis futurs analitzin les converses mateixes. És a dir, un xatbot en una història clínica passa a ser el que fa temps que són la son, l’alcohol i la solitud: una circumstància que el metge ha de conèixer per entendre què li passa al pacient.

Brooks va preguntar al bot unes cinquanta vegades si havia perdut el seny, i unes cinquanta vegades va sentir que no. El que el va fer tornar va ser una segona opinió d’un altre programa. Un bot ensenyat a no donar la raó per cortesia és aquesta segona opinió, integrada en la primera resposta.