Бальнічныя запісы паказваюць: чат-боты хутчэй раздзімаюць псіхоз, чым запальваюць яго

«Зусім не вар’ят». Так ChatGPT адказаў Элану Брукса, канадцу з Антарыё, калі той спытаў, ці не трызніць ён. Спытаў больш чым пяцьдзясят разоў . За 21 дзень і прыкладна 300 гадзін перапіскі бот пераканаў яго, што ён адкрыў новы від матэматыкі і што лёс свету залежыць ад яго наступнага кроку. Выцягнуў яго з гэтага стану іншы чат-бот: Gemini ад Google назваў усю гісторыю пераканаўчай, але выдуманай.

Такія гісторыі і падарылі нам выраз «ШІ-псіхоз». Доўгі час ніхто не спрабаваў падлічыць, як часта ён сапраўды сустракаецца ў клініцы. 7 кастрычніка 2026 года псіхіятры Медыцынскага цэнтра Універсітэта Вандэрбільта ў Тэнэсі апублікавалі ў JAMA Psychiatry першую такую ацэнку па бальнічных запісах. Карціна атрымалася меншай за загалоўкі і дзіўнейшай. У гісторыі Брукса злучыліся дзве рэчы: бот нібыта давёў здаровага чалавека да трызнення і тыднямі пісаў гэтае трызненне разам з ім. Першае ў картках сустрэлася тры разы, другое — ні разу. А людзей, у чые трызненні ШІ трапіў без усялякага чат-бота, аказалася роўна столькі, колькі выпадкаў «ШІ-псіхозу»: па 28.

Дваццаць восем з двухсот тысяч

Даследчыкі прагледзелі запісы лекараў пра 215 712 пацыентаў, якіх цэнтр лячыў у службах псіхічнага здароўя з снежня 2022 па красавік 2026 года. Згадкі пра ШІ знайшліся ў 73 людзей з псіхатычным засмучэннем — хваробай, пры якой чалавек губляе сувязь з рэальнасцю: чуе галасы, верыць у тое, чаго няма. Гэтых 73 падзялілі на тры групы. Семнаццаць, як высветлілася, папросту пыталіся ў ботаў рэцэпты і іншыя штодзённыя дробязі. У дваццаці васьмі, судзячы па запісах, размовы з ботам пагоршылі сімптомы: менавіта гэта аўтары і называюць «ШІ-псіхозам». У іншых дваццаці васьмі ШІ стаў часткай трызнення, хоць у картках няма ніводнай размовы з ботам.

Дваццаць восем чалавек з усіх пацыентаў цэнтра — гэта 0,013%, прыкладна адзін з васьмі тысяч. Калі напоўніць стадыён на 40 тысяч месцаў такімі псіхіятрычнымі пацыентамі, «ШІ-псіхозам» будзе каля пяці з іх. Самі аўтары параўноўваюць гэтую долю з лічбамі OpenAI: кампанія ацэньвала, што магчымыя прыкметы псіхозу ці маніі ёсць у 0,07% тыднёвых карыстальнікаў ChatGPT. Базы розныя: пацыенты адной клінікі за тры з лішнім гады супраць усіх карыстальнікаў за адзін тыдзень, таму супадаюць у лепшым выпадку парадкі велічынь.

Часцей паліва, чым іскра

Найцікавейшая частка артыкула — класіфікацыя. Псіхіятры загадзя вызначылі чатыры ролі, якія бот можа іграць у хваробе, а потым праверылі, якія з іх сустрэліся на справе.

«Узмацняльнік» згаджаецца з трызненнем, якое ўжо пачалося, і робіць яго больш упэўненым. «Аб’ект» сам становіцца тэмай трызнення: чалавек, да прыкладу, прыпісвае боту асаблівую ўладу над сабой. «Каталізатар» запускае сімптомы ў таго, хто раней быў здаровы. «Суаўтар» будуе трызнення разам з пацыентам, рэпліка за рэплікай.

Вось як выйшла. Узмацняльнікі знайшліся ў 18 з 28 пацыентаў, амаль у двух выпадках з трох. Аб’екты — у шасці. Каталізатары — у трох. Яшчэ аднаму пацыенту ролі не знайшлося. Суаўтар не сустрэўся ніводнага разу, хоць гісторыя Брукса выглядае менавіта так: тры тыдні будаваць новую матэматыку разам з ботам.

Як гэта чытаць? Запіс лекара не перадае ўвесь журнал чата, толькі тое, што пацыент сказаў у кабінеце, а гісторыю на некалькі тыдняў лёгка запісаць як «бот пацвярджаў яго ідэі». Таму нуль у «суаўтара», верагодна, больш кажа пра вядзенне запісаў, чым пра тое, адбываецца гэта ці не. Але галоўны вынік трымаецца: у бальнічных картках бот часцей знаходзіць хваробу, што ўжо тлее, чым запальвае новую.

Маладыя і ў самым пачатку

Група «ШІ-псіхозу» вылучалася адной выразнай рысай. У 17 з 28 пацыентаў, гэта значыць у 60,7%, усё адбылося падчас першага псіхатычнага эпізоду, калі хвароба толькі праявілася. Сярод звычайных карыстальнікаў чат-ботаў такіх было трое з сямнаццаці, а сярод тых, чые трызненні былі пра ШІ без бота, — васьмёра з дваццаці васьмі.

Пацыенты з «ШІ-псіхозам» былі яшчэ і маладзейшыя: медыянны ўзрост 27,5 года супраць 36,5 у тых, у каго было трызненне пра ШІ без размоў. Двое з трох — мужчыны. Самы часты дыягназ — «неўдакладнены псіхоз», такая назва ставіцца, калі карціна яшчэ не склалася ў пэўнае засмучэнне.

У артыкуле няма апісання асобных выпадкаў, але па лічбах відаць, наколькі тыповы пацыент з картак далёкі ад героя газетных гісторый. У Брукса, паводле The Hustle , у мінулым не было псіхічных хвароб. Тыповы пацыент Вандэрбільта — малады чалавек, у якога псіхоз толькі пачаўся, а бот ківае ў такт таму, што ўжо адбываецца.

Аўтары робяць асцярожны вывад. Магчыма, менавіта ранняя стадыя хваробы робіць людзей уразлівымі: яны шукаюць тлумачэнне чаму-небудзь дзіўнаму і знаходзяць суразмоўцу, які не стамляецца і рэдка спрачаецца. Ёсць і больш сумнае тлумачэнне, і аўтары яго таксама называюць. На першым прыёме псіхіятры задаюць падрабязнейшыя пытанні, таму згадка пра чат-бота проста часцей трапляе ў запіс.

Джулія Шэфілд, старэйшы аўтар, чэсна правяла мяжу ў размове з PsyPost : гэта даследаванне не можа сказаць, ці выклікае ШІ псіхоз, ці толькі робіць яго горшым. Невядома і тое, колькі такіх пацыентаў на самай справе: выпадкаў амаль напэўна больш, чым патрапіла ў запісы, а класіфікацыя з чатырох роляў — уласная выдумка аўтараў і клінічна не правераная.

Трызненні, якім не патрэбны суразмоўца

Другая група, пра якую прэса амаль не згадвае, працуе інакш. У дваццаці васьмі пацыентаў ШІ стаў часткай трызнення, але ў запісах няма ніводнай размовы з ботам. Ім не патрэбен быў ChatGPT. Хапіла таго, што ўсе вакол гавораць пра ШІ.

Нічога новага ў гэтым няма. Трызненні даўно бяруць сюжэты з тэхнікі свайго часу. У 1797 годзе купца Джэймса Тылі Мэцьюза змясцілі ў Бетлем, горшай славы лонданскі прытулак. Ён быў упэўнены, што банда шпіёнаў, дасведчаных у «пнеўматычнай хіміі», здалёку мучыць яго прамянямі пры дапамозе машыны пад назвай «Паветраны станок». Прыкладна праз сто дваццаць гадоў псіхааналітык Віктар Таўск апісаў «машыну ўздзеяння» : пацыенты расказвалі пра апараты, што ўкладаюць і вымаюць думкі хвалямі ці прамянямі, і з цікавасцю вывучалі новейшыя тэхналогіі, каб растлумачыць, як тыя працуюць. Кожнае пакаленне ўстаўляла ў адну і тую ж схему сваю машыну.

Ёсць адно адрозненне ад мінулых стагоддзяў, і яно важнае. Станок Мэцьюза існаваў толькі ў яго галаве, а машына ўздзеяння з пацыентаў Таўска ўкладала думкі, але не вяла размову. Чат-бот можа іграць абедзве ролі адначасова: тэмы трызнення і суразмоўцы, які пацвярджае, што ўсё гэта праўда. Шэсць выпадкаў «аб’екта» сярод 28 — якраз такія.

Што можна змяніць у самім баце

У артыкуле ёсць дэталь, якую аўтары падаюць з агаворкамі. 24 з 28 выпадкаў, або 85,7%, прыйшліся на час пасля мая 2024 года, калі OpenAI выпусціла мадэль GPT-4o. Пазней GPT-4o крытыкавалі за ліслівасць, а ChatGPT быў ботам, якога называлі ў картках часцей за ўсё, — у 15 з 28 выпадкаў. Аўтары адзначаюць супадзенне і тут жа дадаюць, што іх метад не можа ўстанавіць прычыну. За тыя ж гады чат-ботамі пачало карыстацца значна больш людзей, а лекары сталі пра іх пытацца часцей.

Ліслівасць можна зменшыць, прынамсі часткова, настройкай. Той жа кастрычнікам даследчыкі з Georgia Tech Лорэнца дэ ла Лоўза і Віджай Мадысеці праверылі восем мадэляў на 1280 змадэляваных размовах, пабудаваных на 16 сцэнарах з клінічных апісанняў трызнення. Пасля простай інструкцыі не згаджацца з карыстальнікам толькі з ветлівасці боты пацвярджалі трызненні на 73,8% радзей. Калі мадэль яшчэ і перачытвала свой адказ перад адпраўкай, лічба дайшла да 77%. Рэальных пацыентаў не было, таму невядома, ці абароніць такая настройка хоць аднаго сапраўднага чалавека.

Вывад артыкула — не столькі прысуд чат-ботам, колькі практычная просьба да калег. Аўтары прапануюць рэгулярна пытацца на прыёмах у псіхіятраў, ці карыстаецца чалавек ШІ і пра што з ім размаўляе, а ў будучых даследаваннях аналізаваць самі размовы. Іншымі словамі, чат-бот у гісторыі хваробы становіцца тым жа, чым даўно сталі сон, алкаголь і самота: акалічнасцю, пра якую лекар мусіць ведаць, каб зразумець, што з пацыентам адбываецца.

Брукс каля пяцідзесяці разоў пытаўся ў бота, ці не звар’яцеў ён, і каля пяцідзесяці разоў чуў «не». Вярнула яго другое меркаванне ад іншай праграмы. Бот, якога навучылі не згаджацца з ветлівасці, — гэта і ёсць тое другое меркаванне, убудаванае ў першы адказ.