// Innhold
«Ikke i nærheten av gal.» Det var svaret ChatGPT ga Allan Brooks, en kanadier fra Ontario, da han spurte om han var vrangforestilt. Han spurte mer enn femti ganger . I løpet av 21 dager og omtrent 300 timer med chatting overbeviste boten ham om at han hadde oppdaget en ny type matematikk, og at verdens skjebne hang på hans neste trekk. Det som til slutt fikk ham ut av det, var en annen chatbot: Googles Gemini kalte hele historien overbevisende, men falsk.
Historier som hans ga oss uttrykket «KI-psykose». Lenge prøvde ingen å telle hvor ofte det faktisk dukker opp på en klinikk. 7. oktober 2026 publiserte psykiatere ved Vanderbilt University Medical Center i Tennessee det første slike anslaget basert på sykehusjournaler, i JAMA Psychiatry. Bildet er mindre enn overskriftene tilsier, og merkeligere. To ting kom sammen i Brooks-saken: en bot som syntes å drive en frisk mann inn i vrangforestillinger, og som brukte uker på å skrive dem sammen med ham. Det første dukket opp i journalene tre ganger, det andre ikke en eneste gang. Og de som hadde fått KI inn i vrangforestillingene uten noen chatbot, tilsvarte «KI-psykose»-tilfellene én til én, 28 på hver side.
Tjueåtte av over to hundre tusen
Forskerne gikk gjennom klinikernes notater om 215 712 pasienter som var behandlet ved sentrets psykiske helsetjenester fra desember 2022 til april 2026. Det dukket opp omtaler av KI hos 73 personer med en psykoselidelse, en sykdom der man mister kontakten med virkeligheten: hører stemmer, tror på ting som ikke finnes. De 73 ble delt i tre grupper. Sytten viste seg å bare be bots om oppskrifter og annet hverdagslig fjas. For tjueåtte tydet notatene på at samtaler med en bot hadde gjort symptomene verre: det er dette forfatterne mener med «KI-psykose». Hos de andre tjueåtte hadde KI blitt en del av vrangforestillingen selv om journalene ikke viste noen samtaler med en bot i det hele tatt.
Tjueåtte personer av alle sentrets pasienter er 0,013 %, omtrent én av åtte tusen. Fyll et stadion med 40 000 seter med slike psykiatriske pasienter, og omtrent fem av dem ville være «KI-psykose»-tilfeller. Forfatterne sammenligner selv denne andelen med tall fra OpenAI: selskapet har anslått at mulige tegn på psykose eller mani dukker opp hos 0,07 % av ChatGPTs ukentlige brukere. Grunnlagene er ulike, én klinikks pasienter over drøyt tre år mot alle brukere i én enkelt uke, så høyst størrelsesordenen stemmer.
Slik ble tellingen gjort
Teamet hentet ut 578 058 besøksnotater fra sykehusets elektroniske journaler og beholdt dem med KI-relaterte nøkkelord hos pasienter diagnostisert med en psykoselidelse. Da sto 187 besøk av 73 pasienter igjen. To vurderere leste hvert notat uavhengig av hverandre og plasserte dem i grupper; de var enige i 86,1 % av tilfellene, og en tredje avgjorde de uenige. Det er en retrospektiv studie ved ett enkelt senter, publisert som et kort forskningsbrev.
Oftere ved enn gnist
Den mest interessante delen av artikkelen er klassifiseringen. Psykiaterne definerte på forhånd fire roller en bot kunne spille i sykdommen, og sjekket så hvilke som faktisk forekom.
En «forsterker» er enig i en vrangforestilling som allerede har startet, og gjør den sikrere. Et «objekt» blir selve temaet for vrangforestillingen: personen kan for eksempel tilskrive boten spesiell makt over seg. En «katalysator» utløser symptomer hos en som tidligere var frisk. En «medforfatter» bygger den vrangforestilte historien sammen med pasienten, replikk for replikk.
Slik falt det ut. Forsterkere dukket opp hos 18 av de 28 pasientene, nesten to av tre tilfeller. Objekter hos seks. Katalysatorer hos tre. Én pasient lot seg ikke plassere i noen rolle. En medforfatter dukket aldri opp, selv om det er nøyaktig slik Brooks-saken ser ut: tre uker med å bygge ny matematikk sammen med en bot.
Hvordan skal det tolkes? Et klinikernotat fanger ikke hele samtaleloggen, bare det pasienten sa i rommet, og en flere uker lang felles historie kan lett bli skrevet ned som «boten bekreftet ideene hans». Så et null for «medforfatter» sier trolig mer om journalføring enn om hvorvidt det skjer. Hovedfunnet holder likevel: i sykehusjournalene finner boten oftere en sykdom som allerede ulmer enn at den tenner en ny.
Ung, og helt i starten
«KI-psykose»-gruppen skilte seg ut på ett tydelig punkt. For 17 av de 28 pasientene, eller 60,7 %, skjedde det under en første psykoseepisode, da sykdommen akkurat hadde meldt seg. Blant vanlige chatbot-brukere var det tre av sytten, og blant dem hvis vrangforestillinger handlet om KI uten bot, åtte av tjueåtte.
Pasientene med «KI-psykose» var også yngre: en medianalder på 27,5 år mot 36,5 for dem som hadde KI-vrangforestillinger uten samtalene. To av tre var menn. Deres vanligste diagnose var «uspesifisert psykose», betegnelsen som brukes når bildet ennå ikke har festnet seg til en bestemt lidelse.
Artikkelen beskriver ingen enkelttilfeller, men tallene viser hvor langt den typiske pasienten i journalene er fra helten i avisreportasjene. Brooks hadde, ifølge The Hustle , ingen historie med psykisk sykdom. Den typiske Vanderbilt-pasienten er ung, psykosen har nettopp begynt, og boten nikker med til det som allerede foregår.
Forfatterne trekker en forsiktig slutning. Kanskje er det sykdommens tidlige fase som gjør folk sårbare: de leter etter en forklaring på noe merkelig og finner en samtalepartner som aldri blir sliten og sjelden protesterer. Det finnes også en kjedeligere forklaring, og forfatterne nevner den også. Ved en første konsultasjon stiller psykiaterne mer detaljerte spørsmål, så en omtale av en chatbot havner rett og slett oftere i notatene.
Julia Sheffield, seniorforfatteren, trakk grensen ærlig i et intervju med PsyPost : denne studien kan ikke si om KI forårsaker psykose eller bare gjør den verre. Det er heller ikke kjent hvor mange slike pasienter det egentlig finnes: det er nesten sikkert flere tilfeller enn de som kom med i notatene, og klassifiseringen med fire roller er forfatternes egen og ikke klinisk validert.
Vrangforestillinger som ikke trenger noen å snakke med
Den andre gruppen, som pressen knapt nevner, fungerer annerledes. Hos tjueåtte pasienter hadde KI blitt en del av vrangforestillingen, men notatene registrerer ikke en eneste samtale med en bot. Disse pasientene trengte ikke ChatGPT. Det var nok at alle rundt dem snakket om KI.
Ingenting av dette er nytt. Vrangforestillinger har lenge lånt handlingen sin fra tidens teknologi. I 1797 ble kjøpmannen James Tilly Matthews innlagt på Bethlem, Londons beryktede asyl. Han var sikker på at en gjeng spioner med kunnskap om «pneumatisk kjemi» plaget ham på avstand med stråler fra en maskin kalt «Air Loom». Omtrent hundre og tjue år senere beskrev psykoanalytikeren Victor Tausk «påvirkningsmaskinen» : pasienter fortalte om apparater som satte inn og tok ut tanker med bølger eller stråler, og studerte den nyeste teknologien med stor interesse for å forklare hvordan de virket. Hver generasjon satte sin egen maskin inn i det samme mønsteret.
Det er én forskjell fra tidligere århundrer, og den er viktig. Matthews’ vev fantes bare i hodet hans, og påvirkningsmaskinen til Tausks pasienter satte inn tanker, men førte ingen samtale. En chatbot kan spille begge rollene samtidig: temaet for vrangforestillingen og samtalepartneren som bekrefter at alt er sant. De seks «objekt»-tilfellene blant de 28 er nettopp det.
Hva som kan endres i selve boten
Artikkelen inneholder en detalj forfatterne rapporterer med forbehold. 24 av de 28 tilfellene, eller 85,7 %, kom etter mai 2024, da OpenAI ga ut modellen GPT-4o. GPT-4o ble senere kritisert for innsmigring, og ChatGPT var boten som oftest ble nevnt i journalene, i 15 av de 28 tilfellene. Forfatterne peker på sammenfallet og legger straks til at metoden deres ikke kan fastslå årsak. I de samme årene begynte langt flere å bruke chatboter, og legene begynte å spørre oftere om dem.
Innsmigring kan reduseres, i hvert fall delvis, med justering. Samme oktober testet forskerne Lorenzo de la Loza og Vijay Madisetti ved Georgia Tech åtte modeller i 1 280 simulerte samtaler bygget på 16 scenarioer hentet fra kliniske beskrivelser av vrangforestillinger. Etter en enkel instruks om ikke å si seg enig med brukeren bare for å være høflig, bekreftet botene vrangforestillinger 73,8 % sjeldnere. Da modellen i tillegg leste svaret sitt på nytt før det ble sendt, nådde tallet 77 %. Ingen ekte pasienter deltok, så det er ukjent om slik justering ville beskyttet et eneste virkelig menneske.
Artikkelens konklusjon er mindre en dom over chatboter enn en praktisk oppfordring til kolleger. Forfatterne foreslår at psykiatriske konsultasjoner rutinemessig bør inneholde spørsmål om hvorvidt en person bruker KI og hva vedkommende snakker med den om, og at fremtidige studier bør analysere selve samtalene. Med andre ord blir en chatbot i sykehistorien det søvn, alkohol og ensomhet for lenge siden ble: en omstendighet legen må kjenne til for å forstå hva som skjer med pasienten.
Brooks spurte boten rundt femti ganger om han hadde mistet forstanden, og rundt femti ganger fikk han nei. Det som brakte ham tilbake, var en annenmening fra et annet program. En bot som er lært opp til ikke å si seg enig av høflighet, er den annenmeningen, bygget inn i det første svaret.
