// Содержание
«Даже отдалённо не похоже на сумасшествие». Так ChatGPT отвечал канадцу Аллану Бруксу из провинции Онтарио, когда тот спрашивал, не бредит ли он. Спрашивал Брукс больше пятидесяти раз : за 21 день и около 300 часов переписки бот убедил его, что он открыл новую математику и от его следующего шага зависит судьба мира. Отрезвил Брукса другой чат-бот, Gemini от Google: он назвал всю историю убедительной, но ложной.
После таких историй в газетах появилось словосочетание «ИИ-психоз». Посчитать, как часто он встречается в реальной клинике, долго никто не брался. 7 октября 2026 года психиатры Медицинского центра Университета Вандербильта в Теннесси опубликовали в JAMA Psychiatry первую такую оценку по больничным записям. Картина вышла скромнее газетной и страннее её. В истории Брукса сошлись две вещи: бот будто бы свёл с ума здорового человека и неделями сочинял бред вместе с ним. Первое в картах нашлось три раза, второе ни разу. А людей, в чей бред ИИ попал без всякого чат-бота, нашлось ровно столько же, сколько случаев «ИИ-психоза»: по 28.
Двадцать восемь из двухсот тысяч
Исследователи прочитали записи врачей о 215 712 пациентах, которые лечились у психиатров и психологов центра с декабря 2022 года по апрель 2026-го. Упоминания ИИ нашлись у 73 человек с психотическим расстройством. Так называют болезнь, при которой человек теряет связь с реальностью: слышит голоса, верит в то, чего нет. Их разложили на три группы. Семнадцать просто спрашивали у бота рецепты и прочие житейские мелочи. У двадцати восьми переписка с ботом, судя по записям, ухудшила симптомы: это и есть «ИИ-психоз» в понимании авторов. Ещё у двадцати восьми ИИ стал частью бреда, хотя никаких разговоров с ботом в картах не отмечено.
Двадцать восемь человек из всех пациентов центра — это 0,013%, примерно один на восемь тысяч. Если заполнить такими пациентами психиатров стадион на сорок тысяч мест, «ИИ-психоз» найдётся примерно у пяти. Авторы сами сравнивают эту долю с цифрами OpenAI: по оценке компании, признаки возможного психоза или мании видны у 0,07% пользователей ChatGPT за неделю. Но базы разные: пациенты одной клиники за три с лишним года против всех пользователей за неделю. Совпадает разве что порядок величины.
Как именно считали
Исследователи выгрузили из электронной системы больницы 578 058 записей о визитах. Из них отобрали записи пациентов с психотическим расстройством, где встречались слова, связанные с ИИ. Осталось 187 визитов 73 пациентов. Двое экспертов независимо друг от друга прочитали каждую запись и разложили пациентов по группам. Их решения совпали в 86,1% случаев, спорные разбирал третий. Исследование ретроспективное, то есть по уже сделанным записям, и охватывает один центр. Опубликовано оно как короткое научное письмо (research letter).
Чаще подливает масла, реже поджигает
Самое интересное в работе спрятано в классификации. Психиатры заранее описали четыре роли, которые бот может сыграть в болезни, и проверили, какие встречаются на деле.
«Усилитель» поддакивает уже начавшемуся бреду и укрепляет его. «Объект» сам становится предметом бреда: например, человек приписывает боту особую власть над собой. «Катализатор» запускает симптомы у человека, который до этого был здоров. «Соавтор» сочиняет бредовую историю вместе с пациентом, реплика за репликой.
Распределение вышло такое. Усилитель встретился у 18 из 28 пациентов, то есть почти в двух случаях из трёх. Объект у шести. Катализатор у трёх. Ещё одного пациента ни к одной роли отнести не смогли. Соавтора не нашлось ни разу, хотя именно так выглядит история Брукса, который три недели строил с ботом новую математику.
Как это читать? В карту врача попадает не вся переписка, а только то, что пациент рассказал на приёме. Многодневную совместную историю там легко свести к одной фразе: «бот подтверждал его идеи». Поэтому ноль у «соавтора» говорит скорее о том, как ведутся записи, чем о том, что так не бывает. Зато главный вывод держится: в больничных картах бот чаще находит уже тлеющую болезнь, чем зажигает новую.
Молодые и в самом начале болезни
У группы «ИИ-психоза» нашлась одна резкая черта. У 17 из 28 пациентов, то есть у 60,7%, всё случилось во время первого психотического эпизода, когда болезнь только проявилась. Среди обычных пользователей чат-ботов таких было трое из семнадцати, а среди тех, кто бредил об ИИ без бота, восемь из двадцати восьми.
Пациенты с «ИИ-психозом» к тому же моложе: медианный возраст 27,5 года против 36,5 у тех, кто бредил об ИИ без переписки. Двое из трёх — мужчины. Чаще других у них стоит диагноз «неуточнённый психоз», который ставят, когда картина ещё не сложилась в определённое расстройство.
Описаний отдельных случаев в статье нет, но по этим цифрам видно, как далёк типичный пациент из карт от героя газетных историй. У Брукса, как пишет издание The Hustle , психических болезней прежде не было. Типичный пациент из Вандербильта молод, психоз у него только начался, и бот поддакивает тому, что уже происходит.
Авторы делают осторожный вывод. Возможно, уязвимым человека делает само начало болезни: он ищет объяснение странному и находит собеседника, который никогда не устаёт и редко спорит. Есть и скучное объяснение, авторы его тоже называют. На первом приёме психиатр расспрашивает подробнее, и упоминание чат-бота просто чаще попадает в карту.
Руководитель работы Джулия Шеффилд честно обозначила границу в разговоре с изданием PsyPost : по этому исследованию нельзя сказать, вызывает ли ИИ психоз или только усугубляет его. Неизвестно и то, сколько всего таких пациентов: случаев наверняка больше, чем попало в записи. А классификацию из четырёх ролей авторы придумали сами, и в клинике её никто не проверял.
Бред, которому не нужен собеседник
Вторая группа, о которой газеты почти не пишут, устроена иначе. У двадцати восьми пациентов ИИ стал частью бреда, хотя в записях нет ни одного разговора с ботом. Таким пациентам ChatGPT был не нужен: хватило того, что про ИИ говорят все вокруг.
В этом нет ничего нового: бред давно берёт сюжеты из техники своего времени. В 1797 году в лондонскую больницу Бедлам поместили купца Джеймса Тилли Мэтьюза . Он был уверен, что шайка шпионов, знатоков «пневматической химии», мучает его лучами на расстоянии с помощью машины «Воздушный ткацкий станок». Через сто двадцать лет психоаналитик Виктор Тауск описал «машину влияния» : его пациенты рассказывали о приборах, которые лучами или волнами вкладывают и вынимают мысли. Чтобы объяснить, как эти приборы устроены, больные с интересом изучали новейшую технику. Каждое поколение подставляло в эту схему свою машину.
Разница с прошлыми веками одна, но важная. Ткацкий станок Мэтьюза существовал только в его голове, а «машина влияния» у пациентов Тауска вкладывала мысли, но разговора не вела. Чат-бот может сыграть обе роли сразу: стать и предметом бреда, и собеседником, который подтверждает, что всё так и есть. Шесть «объектов» из 28 случаев — как раз об этом.
Что можно поменять в самом боте
В работе есть деталь, которую авторы приводят с оговорками. 24 из 28 случаев, то есть 85,7%, пришлись на время после мая 2024 года, когда OpenAI выпустила модель GPT-4o. GPT-4o потом критиковали за угодливость, а ChatGPT в картах упоминается чаще других ботов: в 15 случаях из 28. Авторы отмечают совпадение, но тут же пишут, что их методом причину не установить. За те же годы чат-ботами просто стало пользоваться гораздо больше людей, а врачи начали чаще о них спрашивать.
Угодливость можно хотя бы частично убрать настройкой. В том же октябре исследователи Технологического института Джорджии Лоренцо де ла Лоса и Виджай Мадисетти проверили восемь моделей в 1280 смоделированных разговорах. Сценариев было 16, их составили по клиническим описаниям бреда. После простой инструкции не соглашаться с собеседником только из вежливости боты стали подтверждать бред на 73,8% реже. Если модель вдобавок перечитывала свой ответ перед отправкой, то на 77%. Живых пациентов в этой работе не было, так что неизвестно, защитит ли такая настройка хоть одного реального человека.
Вывод работы звучит не как приговор чат-ботам, а как рабочая просьба к коллегам. Авторы предлагают сделать на психиатрическом приёме обычным вопрос, пользуется ли человек ИИ и о чём с ним разговаривает. А в следующих исследованиях разбирать сами переписки. Иначе говоря, чат-бот в истории болезни становится тем же, чем давно стали сон, алкоголь и одиночество: обстоятельством, о котором врачу нужно знать, чтобы понять, что происходит с пациентом.
Брукс полсотни раз спросил бота, не сошёл ли он с ума, и полсотни раз услышал «нет». Отрезвило его второе мнение от другой программы. Бот, которого научили не соглашаться из вежливости, и есть такое второе мнение, только встроенное в первый ответ.
