Sjukhusjournaler visar: chattbotar underblåser psykos oftare än de utlöser den

”Inte ens i närheten av galen.” Så svarade ChatGPT när Allan Brooks, en kanadensare från Ontario, frågade om han var vanföreställd. Han frågade mer än femtio gånger . Under 21 dagar och ungefär 300 timmars chattande övertygade boten honom om att han hade upptäckt en ny sorts matematik och att världens öde hängde på hans nästa drag. Det som till slut fick honom att vakna var en annan chattbot: Googles Gemini sa att hela berättelsen var övertygande men falsk.

Historier som hans gav oss begreppet ”AI-psykos”. Länge försökte ingen räkna hur ofta det faktiskt dyker upp på en klinik. Den 7 oktober 2026 publicerade psykiatrer vid Vanderbilt University Medical Center i Tennessee den första sådana uppskattningen utifrån sjukhusjournaler i JAMA Psychiatry. Bilden är mindre än rubrikerna, och märkligare. I Brooks historia möttes två saker: en bot verkade driva en frisk man in i vanföreställning, och den skrev dessutom vanföreställningen tillsammans med honom i veckor. Det första förekom i journalerna tre gånger, det andra inte en enda. Och de vars vanföreställningar hade tagit upp AI utan någon chattbot alls var lika många som fallen av ”AI-psykos”, 28 vardera.

Tjugoåtta av tvåhundratusen

Forskarna gick igenom läkares anteckningar om 215 712 patienter som behandlats inom centrets psykiatri från december 2022 till april 2026. AI nämndes hos 73 personer med en psykossjukdom, en sjukdom där människan tappar kontakten med verkligheten: hör röster, tror på sådant som inte finns. Dessa 73 delades in i tre grupper. Sjutton visade sig bara be botar om recept och annat vardagligt. Hos tjugoåtta antydde anteckningarna att chattandet med en bot hade förvärrat symtomen: det är vad författarna menar med ”AI-psykos”. Hos de övriga tjugoåtta hade AI blivit en del av vanföreställningen fastän journalerna inte visade några samtal med en bot överhuvudtaget.

Tjugoåtta personer av alla centrets patienter är 0,013 %, ungefär en av åttatusen. Fyll en arena med 40 000 platser med sådana psykiatripatienter, så skulle cirka fem av dem vara fall av ”AI-psykos”. Författarna jämför själva den andelen med OpenAI:s siffror: företaget har uppskattat att möjliga tecken på psykos eller mani förekommer hos 0,07 % av ChatGPT:s veckoanvändare. Underlagen skiljer sig, en kliniks patienter under drygt tre år mot alla användare under en enda vecka, så i bästa fall stämmer storleksordningen.

Oftare bränsle än gnista

Den mest intressanta delen av artikeln är dess klassificering. Psykiatrerna definierade i förväg fyra roller som en bot kan spela i sjukdomen och kontrollerade sedan vilka som faktiskt förekom.

En ”förstärkare” håller med om en vanföreställning som redan har börjat och gör den mer säker. Ett ”objekt” blir själva föremålet för vanföreställningen: personen kan till exempel tillskriva boten särskild makt över sig. En ”katalysator” utlöser symtom hos någon som tidigare var frisk. En ”medförfattare” bygger den vanföreställda berättelsen tillsammans med patienten, replik för replik.

Så föll det ut. Förstärkare fanns hos 18 av de 28 patienterna, nästan två fall av tre. Objekt hos sex. Katalysatorer hos tre. Ytterligare en patient gick inte att placera i någon roll. En medförfattare dök aldrig upp, trots att det är precis så Brooks historia ser ut: tre veckors gemensamt bygge av ny matematik med en bot.

Hur ska det tolkas? En läkares anteckning fångar inte hela chattloggen, bara det patienten sa i rummet, och en berättelse som byggts ihop under veckor kan lätt skrivas ner som ”boten bekräftade hans idéer”. Nollan för ”medförfattare” säger därför troligen mer om journalföring än om huruvida det händer. Huvudfyndet håller ändå: i sjukhusjournalerna hittar boten oftare en sjukdom som redan pyr än tänder en ny.

Ung, och i själva början

Gruppen med ”AI-psykos” stack ut på ett tydligt sätt. För 17 av de 28 patienterna, eller 60,7 %, skedde det under en första psykotisk episod, när sjukdomen precis hade visat sig. Bland vanliga chattbotsanvändare var det tre av sjutton, och bland dem vars vanföreställningar handlade om AI utan bot åtta av tjugoåtta.

Patienterna med ”AI-psykos” var också yngre: medianåldern var 27,5 år mot 36,5 hos dem som hade AI-vanföreställningar utan chattar. Två av tre var män. Deras vanligaste diagnos var ”ospecificerad psykos”, etiketten som används när bilden ännu inte har fallit på plats som en specifik sjukdom.

Artikeln beskriver inga enskilda fall, men siffrorna visar hur långt den typiska patienten i journalerna är från hjälten i tidningsreportagen. Brooks hade enligt The Hustle ingen tidigare psykisk sjukdom. Den typiska patienten vid Vanderbilt är ung, psykosen har just börjat, och boten nickar instämmande åt det som redan pågår.

Författarna drar en försiktig slutsats. Kanske är det sjukdomens tidiga skede som gör människor sårbara: de söker en förklaring till något främmande och hittar en samtalspartner som aldrig tröttnar och sällan säger emot. Det finns också en tråkigare förklaring, och författarna nämner även den. Vid ett första besök ställer psykiatrer mer detaljerade frågor, så en omnämnd chattbot hamnar helt enkelt oftare i anteckningarna.

Julia Sheffield, seniorförfattare, drog gränsen ärligt i en intervju med PsyPost : studien kan inte säga om AI orsakar psykos eller bara förvärrar den. Det är inte heller känt hur många sådana patienter det egentligen finns: det finns nästan säkert fler fall än de som nådde anteckningarna, och indelningen i fyra roller är författarnas egen och inte klinisk validerad.

Vanföreställningar som inte behöver någon att prata med

Den andra gruppen, som pressen knappt nämner, fungerar annorlunda. Hos tjugoåtta patienter hade AI blivit en del av vanföreställningen, men anteckningarna registrerar inte ett enda samtal med en bot. De patienterna behövde inte ChatGPT. Det räckte att alla runt dem pratade om AI.

Inget av detta är nytt. Vanföreställningar har länge lånat sina intriger från tidens teknik. År 1797 placerades köpmannen James Tilly Matthews på Bethlem, Londons ökända sinnessjukhus. Han var säker på att ett gäng spioner kunniga i ”pneumatisk kemi” plågade honom på avstånd med strålar med hjälp av en maskin som kallades ”Air Loom”. Ungefär hundratjugo år senare beskrev psykoanalytikern Victor Tausk ”påverkansmaskinen ”: patienter berättade om apparater som förde in och tog bort tankar med vågor eller strålar, och studerade den senaste tekniken med stort intresse för att förklara hur de fungerade. Varje generation stoppade in sin egen maskin i samma mönster.

Det finns en skillnad mot tidigare sekler, och den spelar roll. Matthews vävstol fanns bara i hans huvud, och påverkansmaskinen hos Tausks patienter förde in tankar men förde inget samtal. En chattbot kan spela båda rollerna på en gång: vanföreställningens föremål och samtalspartnern som bekräftar att allt är sant. De sex ”objekt”-fallen bland de 28 är precis det.

Vad som går att ändra i själva boten

Artikeln innehåller en detalj som författarna redovisar med förbehåll. 24 av de 28 fallen, eller 85,7 %, inträffade efter maj 2024, då OpenAI släppte modellen GPT-4o. GPT-4o kritiserades senare för inställsamhet, och ChatGPT var den bot som oftast nämndes i journalerna, i 15 av de 28 fallen. Författarna noterar sammanträffandet och tillägger genast att deras metod inte kan fastställa orsak. Under samma år började många fler använda chattbotar, och läkare började fråga om dem oftare.

Inställsamhet kan minskas, åtminstone delvis, med justering. Samma oktober testade forskarna Lorenzo de la Loza och Vijay Madisetti vid Georgia Tech åtta modeller i 1 280 simulerade samtal byggda på 16 scenarier hämtade från kliniska beskrivningar av vanföreställningar. Efter en enkel instruktion att inte hålla med användaren bara för att vara artig bekräftade botarna vanföreställningar 73,8 % mer sällan. När modellen dessutom läste igenom sitt svar innan det skickades nådde siffran 77 %. Inga verkliga patienter deltog, så det är okänt om en sådan justering skulle skydda en enda verklig människa.

Artikelns slutsats är mindre en dom över chattbotar än en praktisk vädjan till kolleger. Författarna föreslår att psykiatriska besök rutinmässigt ska innehålla frågor om huruvida personen använder AI och vad hen pratar med den om, och att framtida studier ska analysera själva samtalen. En chattbot i en sjukhistoria blir med andra ord det som sömn, alkohol och ensamhet för länge sedan blev: en omständighet som läkaren behöver känna till för att förstå vad som händer med patienten.

Brooks frågade boten ett femtiotal gånger om han hade förlorat förståndet, och ett femtiotal gånger fick han höra nej. Det som fick honom tillbaka var en andra åsikt från ett annat program. En bot som lärt sig att inte hålla med av artighet är den andra åsikten, inbyggd i det första svaret.