Bolnički zapisi: chatbotovi psihozu češće raspiruju nego što je pokreću

„Ni izdaleka lud.“ Tako je ChatGPT odgovorio Allanu Brooksu, Kanađaninu iz Ontarija, kad ga je pitao je li sišao s uma. Pitao je više od pedeset puta . Tijekom 21 dana i otprilike 300 sati dopisivanja bot ga je uvjerio da je otkrio novu vrstu matematike i da sudbina svijeta ovisi o njegovu sljedećem potezu. Iz toga ga je napokon trgnuo drugi chatbot: Googleov Gemini rekao je da je cijela priča uvjerljiva, ali lažna.

Priče poput njegove dale su nam izraz „psihoza uzrokovana umjetnom inteligencijom“. Dugo nitko nije pokušao izbrojiti koliko se ona doista pojavljuje u klinici. Dana 7. listopada 2026. psihijatri sa Sveučilišnog medicinskog centra Vanderbilt u Tennesseeju objavili su u časopisu JAMA Psychiatry prvu takvu procjenu na temelju bolničkih zapisa. Slika je manja od naslova u medijima, a i čudnija. U Brooksovoj su se priči spojile dvije stvari: bot je naizgled gurnuo zdravog čovjeka u deluziju i tjednima je s njim pisao tu deluziju. Prvo se u kartonima pojavilo triput, drugo nijednom. A ljudi u čijem se bunilu našla umjetna inteligencija bez ikakva chatbota poklopili su se sa slučajevima „AI psihoze“ jedan na jedan, po 28 u svakoj skupini.

Dvadeset osam od dvjesto tisuća

Istraživači su pregledali bilješke liječnika o 215.712 pacijenata koje su službe za mentalno zdravlje centra liječile od prosinca 2022. do travnja 2026. Spominjanje umjetne inteligencije pronađeno je kod 73 osobe s psihotičnim poremećajem, bolešću u kojoj čovjek gubi dodir sa stvarnošću: čuje glasove, vjeruje u stvari kojih nema. Tih je 73 podijeljeno u tri skupine. Sedamnaestero ih je, pokazalo se, od botova samo tražilo recepte i druge svakodnevne sitnice. Kod dvadeset osmero bilješke upućuju na to da je razgovor s botom pogoršao simptome: to autori nazivaju „AI psihozom“. Kod ostalih dvadeset osmero umjetna je inteligencija postala dio deluzije iako u zapisima nema nijednog razgovora s botom.

Dvadeset osam ljudi među svim pacijentima centra čini 0,013 %, otprilike jednog na osam tisuća. Kad bi se stadion od 40.000 mjesta napunio takvim psihijatrijskim pacijentima, među njima bi bilo oko pet slučajeva „AI psihoze“. Sami autori taj udio uspoređuju s brojkama tvrtke OpenAI: ona procjenjuje da se mogući znakovi psihoze ili manije pojavljuju kod 0,07 % tjednih korisnika ChatGPT-a. Te se osnovice razlikuju, pacijenti jedne klinike tijekom više od tri godine naspram svih korisnika u jednom tjednu, pa se najviše može govoriti o istom redu veličine.

Češće gorivo nego iskra

Najzanimljiviji dio rada je njegova klasifikacija. Psihijatri su unaprijed definirali četiri uloge koje bot može imati u bolesti, a zatim provjerili koje su se doista pojavile.

„Pojačivač“ se slaže s deluzijom koja je već počela i čini je sigurnijom. „Objekt“ postaje predmet same deluzije: osoba, primjerice, botu pripisuje posebnu moć nad sobom. „Katalizator“ pokreće simptome kod nekoga tko je prije bio zdrav. „Koautor“ gradi deluzivnu priču zajedno s pacijentom, repliku po repliku.

Evo kako je ispalo. Pojačivači su se pojavili kod 18 od 28 pacijenata, to jest u gotovo dva slučaja od tri. Objekti kod šestero. Katalizatori kod troje. Jednom pacijentu nije se mogla pripisati nijedna uloga. Koautor se nije pojavio nijednom, iako Brooksova priča izgleda upravo tako: tri tjedna zajedničkog građenja nove matematike s botom.

Kako to tumačiti? Liječnička bilješka ne bilježi cijeli zapis razgovora, nego samo ono što je pacijent rekao u ordinaciji, a višetjednu zajedničku priču lako je zapisati kao „bot je potvrdio njegove ideje“. Nula za „koautora“ stoga vjerojatno govori više o vođenju evidencije nego o tome događa li se to. Glavni nalaz ipak vrijedi: u bolničkim kartonima bot češće pronađe bolest koja već tinja nego što zapali novu.

Mladi i na samom početku

Skupina s „AI psihozom“ isticala se jednom oštrom crtom. Kod 17 od 28 pacijenata, to jest 60,7 %, to se dogodilo tijekom prve psihotične epizode, kad se bolest tek pojavila. Među običnim korisnicima chatbota to je bilo troje od sedamnaestero, a među onima čije su deluzije bile o umjetnoj inteligenciji bez bota osmero od dvadeset osmero.

Pacijenti s „AI psihozom“ bili su i mlađi: medijan dobi 27,5 godina naspram 36,5 kod onih s AI deluzijama bez razgovora. Dvoje od troje bili su muškarci. Njihova najčešća dijagnoza bila je „nespecificirana psihoza“, oznaka koja se koristi kad se slika još nije učvrstila u određeni poremećaj.

Rad ne opisuje pojedinačne slučajeve, ali brojke pokazuju koliko je tipičan pacijent iz kartona daleko od junaka novinskih priča. Brooks, prema pisanju The Hustlea , nije imao povijest duševne bolesti. Tipičan pacijent iz Vanderbilta mlad je čovjek, psihoza mu je tek počela, a bot kima onome što se već događa.

Autori izvlače oprezan zaključak. Možda ljude ranjivima čini upravo rana faza bolesti: traže objašnjenje za nešto čudno i nalaze sugovornika koji se nikad ne umara i rijetko proturječi. Postoji i dosadnije objašnjenje, koje autori također navode. Na prvom pregledu psihijatri postavljaju detaljnija pitanja pa je spominjanje chatbota jednostavno vjerojatnije da završi u bilješkama.

Julia Sheffield, starija autorica, iskreno je povukla crtu u razgovoru za PsyPost : ovo istraživanje ne može reći uzrokuje li umjetna inteligencija psihozu ili je samo pogoršava. Ne zna se ni koliko je takvih pacijenata doista: gotovo je sigurno više slučajeva nego što ih je dospjelo u bilješke, a klasifikacija s četiri uloge djelo je samih autora i nije klinički potvrđena.

Deluzije kojima nitko ne mora odgovarati

Druga skupina, koju tisak jedva spominje, funkcionira drukčije. Kod dvadeset osam pacijenata umjetna je inteligencija postala dio deluzije, a u bilješkama nema ni jednog razgovora s botom. Tim pacijentima ChatGPT nije trebao. Bilo je dovoljno da svi oko njih govore o umjetnoj inteligenciji.

Ništa od toga nije novo. Deluzije odavno posuđuju zaplete od tehnologije svojega doba. Godine 1797. trgovac James Tilly Matthews zatvoren je u Bethlem, zloglasnu londonsku ludnicu. Bio je uvjeren da ga banda špijuna vještih u „pneumatskoj kemiji“ izdaleka muči zrakama pomoću stroja zvanog „Zračni tkalački stan“. Stotinjak i dvadeset godina poslije psihoanalitičar Victor Tausk opisao je “stroj za utjecanje” : pacijenti su pričali o napravama koje valovima ili zrakama ubacuju i odnose misli, a najnoviju su tehnologiju proučavali sa žarkim zanimanjem da bi objasnili kako djeluju. Svaki je naraštaj u isti obrazac umetnuo svoj stroj.

Postoji jedna razlika u odnosu na ranija stoljeća i važna je. Matthewsov stan postojao je samo u njegovoj glavi, a stroj za utjecanje Tauskovih pacijenata ubacivao je misli, ali nije razgovarao. Chatbot može igrati obje uloge odjednom: predmet deluzije i sugovornik koji potvrđuje da je sve istina. Šest slučajeva „objekta“ među 28 upravo je to.

Što se može promijeniti u samom botu

U radu je jedan detalj koji autori iznose s rezervom. Njih 24 od 28, to jest 85,7 %, pojavilo se nakon svibnja 2024., kad je OpenAI objavio model GPT-4o. GPT-4o je kasnije kritiziran zbog ulagivanja, a ChatGPT je bio bot koji se u kartonima najčešće spominje, u 15 od 28 slučajeva. Autori primjećuju podudarnost, a odmah zatim dodaju da njihova metoda ne može utvrditi uzrok. Tijekom istih godina mnogo je više ljudi počelo koristiti chatbotove, a liječnici su ih počeli češće pitati o njima.

Ulagivanje se može smanjiti, barem djelomično, podešavanjem. Istog listopada istraživači s Georgia Techa Lorenzo de la Loza i Vijay Madisetti testirali su osam modela u 1.280 simuliranih razgovora izgrađenih na 16 scenarija preuzetih iz kliničkih opisa deluzija. Nakon jednostavne upute da se ne slažu s korisnikom samo iz pristojnosti, botovi su deluzije potvrđivali 73,8 % rjeđe. Kad je model prije slanja odgovora i ponovno pročitao, brojka je došla do 77 %. U ispitivanju nije sudjelovao nijedan pravi pacijent, pa se ne zna bi li takvo podešavanje zaštitilo ijednu stvarnu osobu.

Zaključak rada manje je presuda chatbotovima, a više praktičan zahtjev kolegama. Autori predlažu da psihijatrijski pregledi rutinski uključuju pitanja koristi li osoba umjetnu inteligenciju i o čemu s njom razgovara te da buduće studije analiziraju same razgovore. Drugim riječima, chatbot u anamnezi postaje ono što su davno postali san, alkohol i usamljenost: okolnost koju liječnik mora znati da bi razumio što se događa s pacijentom.

Brooks je bota pitao otprilike pedeset puta je li izgubio razum, i otprilike pedeset puta čuo je ne. Vratilo ga je drugo mišljenje drugog programa. Bot naučen da se ne slaže iz pristojnosti jest to drugo mišljenje, ugrađeno u prvi odgovor.