Dokumentacja szpitalna: chatboty częściej podsycają psychozę, niż ją wywołują

„Nie jest pan nawet w najmniejszym stopniu szalony”. Tak ChatGPT odpowiedział Allanowi Brooksowi, Kanadyjczykowi z Ontario, gdy ten zapytał, czy nie ma urojeń. Pytał ponad pięćdziesiąt razy . Przez 21 dni i około 300 godzin rozmów bot przekonał go, że odkrył nowy rodzaj matematyki i że od jego kolejnego ruchu zależą losy świata. Z transu wyrwał go dopiero inny chatbot: Gemini od Google’a uznał całą historię za przekonującą, ale fałszywą.

Takie opowieści dały nam określenie „psychoza AI”. Przez długi czas nikt nie próbował policzyć, jak często zjawisko to faktycznie trafia do gabinetu lekarskiego. 7 października 2026 roku psychiatrzy z Vanderbilt University Medical Center w Tennessee opublikowali w JAMA Psychiatry pierwsze takie szacunki oparte na dokumentacji szpitalnej. Obraz jest mniejszy, niż sugerują nagłówki, i dziwniejszy. W historii Brooksa zeszły się dwie rzeczy: bot rzekomo wpędził zdrowego mężczyznę w urojenia i przez tygodnie pisał te urojenia razem z nim. Pierwsza pojawiła się w kartach pacjentów trzy razy, druga ani razu. A osób, których urojenia wchłonęły AI bez udziału jakiegokolwiek chatbota, było dokładnie tyle samo, co przypadków „psychozy AI”: po 28.

Dwadzieścia osiem na dwieście tysięcy

Badacze przejrzeli notatki klinicystów dotyczące 215 712 pacjentów, którzy od grudnia 2022 do kwietnia 2026 roku korzystali z usług zdrowia psychicznego tego ośrodka. Wzmianki o AI znaleziono u 73 osób z zaburzeniem psychotycznym, czyli chorobą, w której człowiek traci kontakt z rzeczywistością: słyszy głosy, wierzy w rzeczy, których nie ma. Tych 73 podzielono na trzy grupy. Siedemnaście osób, jak się okazało, po prostu prosiło boty o przepisy i inne codzienne drobiazgi. U dwudziestu ośmiu notatki wskazywały, że rozmowy z botem nasiliły objawy: właśnie to autorzy nazywają „psychozą AI”. U kolejnych dwudziestu ośmiu AI weszło do urojeń, choć w dokumentacji nie ma śladu rozmów z botem.

Dwadzieścia osiem osób na wszystkich pacjentów ośrodka to 0,013%, czyli mniej więcej jedna na osiem tysięcy. Gdyby wypełnić stadion na 40 000 miejsc takimi pacjentami psychiatrycznymi, przypadkami „psychozy AI” byłoby około pięciu z nich. Sami autorzy porównują ten odsetek z danymi OpenAI: firma szacowała, że możliwe oznaki psychozy lub manii pojawiają się u 0,07% tygodniowych użytkowników ChatGPT. Podstawy tych liczb się różnią: pacjenci jednej kliniki na przestrzeni ponad trzech lat kontra wszyscy użytkownicy w ciągu jednego tygodnia, więc co najwyżej rząd wielkości jest zbliżony.

Częściej paliwo niż iskra

Najciekawszą częścią artykułu jest klasyfikacja. Psychiatrzy z góry zdefiniowali cztery role, jakie bot może odgrywać w chorobie, a potem sprawdzili, które z nich rzeczywiście się pojawiły.

„Wzmacniacz” przytakuje urojeniom, które już się zaczęły, i sprawia, że pacjent jest ich bardziej pewny. „Obiekt” sam staje się tematem urojeń: człowiek może na przykład przypisywać botowi szczególną władzę nad sobą. „Katalizator” wywołuje objawy u kogoś, kto wcześniej był zdrowy. „Współautor” buduje urojeniową historię razem z pacjentem, replika po replice.

Oto wynik. Wzmacniacze wystąpiły u 18 z 28 pacjentów, czyli w niemal dwóch przypadkach na trzy. Obiekty u sześciu. Katalizatory u trzech. Jednemu pacjentowi nie dało się przypisać żadnej roli. Współautor nie pojawił się ani razu, choć właśnie tak wygląda historia Brooksa: trzy tygodnie budowania nowej matematyki razem z botem.

Jak to rozumieć? Notatka klinicysty nie obejmuje całego zapisu czatu, a jedynie to, co pacjent powiedział w gabinecie, a trwającą tygodniami wspólną opowieść łatwo zapisać jako „bot potwierdzał jego pomysły”. Zero przy „współautorze” zapewne mówi więc więcej o sposobie prowadzenia dokumentacji niż o tym, czy takie sytuacje się zdarzają. Główny wniosek jednak się utrzymuje: w kartach szpitalnych bot częściej znajduje chorobę, która już się tli, niż zapala nową.

Młodzi i na samym początku

Grupa „psychozy AI” wyróżniała się pod jednym wyraźnym względem. U 17 z 28 pacjentów, czyli 60,7%, stało się to podczas pierwszego epizodu psychotycznego, gdy choroba dopiero się ujawniła. Wśród zwykłych użytkowników chatbotów było to trzech na siedemnastu, a wśród tych, których urojenia dotyczyły AI bez udziału bota, ośmiu na dwudziestu ośmiu.

Pacjenci z „psychozą AI” byli też młodsi: mediana wieku wyniosła 27,5 roku wobec 36,5 u tych, którzy mieli urojenia o AI bez rozmów. Dwie trzecie stanowili mężczyźni. Najczęstszym rozpoznaniem była „psychoza nieokreślona”, czyli etykieta stosowana, gdy obraz kliniczny nie ułożył się jeszcze w konkretne zaburzenie.

Artykuł nie opisuje pojedynczych przypadków, ale liczby pokazują, jak daleko typowy pacjent z kart szpitalnych odbiega od bohatera gazetowych historii. Brooks, jak pisze The Hustle , nie miał historii chorób psychicznych. Typowy pacjent z Vanderbilt jest młody, psychoza dopiero się u niego zaczęła, a bot przytakuje temu, co i tak się dzieje.

Autorzy wyciągają ostrożny wniosek. Być może wczesny etap choroby sam czyni ludzi podatnymi: szukają wyjaśnienia czegoś dziwnego i znajdują rozmówcę, który się nie męczy i rzadko się sprzeciwia. Jest też bardziej przyziemne wyjaśnienie, które autorzy również podają. Podczas pierwszej wizyty psychiatrzy zadają bardziej szczegółowe pytania, więc wzmianka o chatbocie po prostu chętniej trafia do notatek.

Julia Sheffield, starsza autorka badania, uczciwie nakreśliła granicę w wywiadzie dla PsyPost : to badanie nie pozwala stwierdzić, czy AI wywołuje psychozę, czy tylko ją pogarsza. Nie wiadomo też, ilu takich pacjentów jest naprawdę: niemal na pewno więcej, niż trafiło do notatek, a czteroelementowa klasyfikacja jest autorska i nie przeszła walidacji klinicznej.

Urojenia, które nie potrzebują rozmówcy

Druga grupa, o której prasa prawie nie wspomina, działa inaczej. U dwudziestu ośmiu pacjentów AI stało się częścią urojeń, a mimo to w notatkach nie ma ani jednej rozmowy z botem. Ci pacjenci nie potrzebowali ChatGPT. Wystarczyło, że wszyscy wokół mówili o AI.

Nic w tym nowego. Urojenia od dawna czerpią swoje wątki z technologii epoki. W 1797 roku kupiec James Tilly Matthews trafił do Bethlem, osławionego londyńskiego szpitala dla obłąkanych. Był pewien, że banda szpiegów biegłych w „chemii pneumatycznej” dręczy go na odległość promieniami za pomocą maszyny zwanej „Air Loom” („powietrzny krosno”). Mniej więcej sto dwadzieścia lat później psychoanalityk Victor Tausk opisał „maszynę wpływającą” : pacjenci opowiadali o urządzeniach, które falami lub promieniami wkładają i wyjmują myśli, a najnowszą technikę studiowali z żywym zainteresowaniem, by wyjaśnić, jak one działają. Każde pokolenie wstawiało własną maszynę w ten sam schemat.

Jest jedna różnica w porównaniu z wcześniejszymi wiekami i ma ona znaczenie. Krosno Matthewsa istniało tylko w jego głowie, a maszyna wpływająca z urojeń pacjentów Tauska wkładała myśli, ale nie prowadziła rozmowy. Chatbot może pełnić obie role naraz: być przedmiotem urojeń i rozmówcą, który potwierdza, że wszystko to prawda. Sześć przypadków „obiektu” wśród tych 28 to właśnie to.

Co można zmienić w samym bocie

W artykule jest szczegół, który autorzy podają z zastrzeżeniami. 24 z 28 przypadków, czyli 85,7%, przypadło na okres po maju 2024 roku, gdy OpenAI wypuściło model GPT-4o. GPT-4o krytykowano później za serwilizm, a ChatGPT był botem wymienianym w kartach najczęściej: w 15 z 28 przypadków. Autorzy odnotowują tę zbieżność i od razu dodają, że ich metoda nie pozwala ustalić przyczyny. W tych samych latach znacznie więcej osób zaczęło korzystać z chatbotów, a lekarze zaczęli częściej o nie pytać.

Serwilizm można ograniczyć, przynajmniej częściowo, odpowiednim dostrojeniem. W tym samym październiku badacze z Georgia Tech, Lorenzo de la Loza i Vijay Madisetti, przetestowali osiem modeli w 1280 symulowanych rozmowach zbudowanych z 16 scenariuszy opartych na klinicznych opisach urojeń. Po prostym poleceniu, by nie zgadzać się z użytkownikiem tylko dla uprzejmości, boty potwierdzały urojenia o 73,8% rzadziej. Gdy model dodatkowo ponownie czytał swoją odpowiedź przed wysłaniem, wynik sięgnął 77%. W badaniu nie wzięli udziału prawdziwi pacjenci, więc nie wiadomo, czy takie dostrojenie ochroniłoby choćby jednego realnego człowieka.

Wniosek artykułu to bardziej praktyczna prośba do kolegów po fachu niż wyrok na chatboty. Autorzy proponują, by podczas wizyt psychiatrycznych rutynowo pytać, czy pacjent korzysta z AI i o czym z nim rozmawia, a przyszłe badania powinny analizować same rozmowy. Innymi słowy, chatbot w wywiadzie lekarskim staje się tym, czym dawno temu stały się sen, alkohol i samotność: okolicznością, o której lekarz musi wiedzieć, by zrozumieć, co dzieje się z pacjentem.

Brooks pytał bota około pięćdziesięciu razy, czy postradał zmysły, i około pięćdziesięciu razy słyszał „nie”. Z powrotem sprowadziła go druga opinia innego programu. Bot nauczony, by nie przytakiwać z uprzejmości, to właśnie ta druga opinia, wbudowana w pierwszą odpowiedź.