// Мазмұны
«Мүлдем есі дұрыс емес емес». ChatGPT Онтариодан келген канадалық Аллан Бруксқа есі дұрыс па деп сұрағанда дәл осылай жауап берген. Ол мұны елу реттен астам сұраған. 21 күн және шамамен 300 сағат сөйлесу барысында бот оны жаңа математика түрін ашқанына және әлемнің тағдыры келесі қадамына байланысты екеніне сендірді. Оны ақырында басқа чат-бот есін жиғызды: Google Gemini бүкіл оқиғаны нанымды, бірақ жалған деп атады.
Осындай оқиғалар «ИИ-психоз» деген сөз тіркесін тудырды. Оның клиникада шын мәнінде қаншалықты жиі кездесетінін ұзақ уақыт ешкім санап көрген жоқ. 2026 жылғы 7 қазанда Теннесидегі Вандербильт университетінің медициналық орталығының психиатрлары JAMA Psychiatry журналында аурухана жазбалары бойынша осындай алғашқы бағаны жариялады. Көрініс тақырыптардағыдан кішірек әрі таңғаларлығырақ. Брукс оқиғасында екі нәрсе қатар жүрді: бот дені сау адамды сандырақ күйіне түсіргендей көрінді және сол сандырақты онымен бірге апталар бойы жазды. Біріншісі карталарда үш рет кездесті, екіншісі бірде-бір рет кездеспеді. Ал сандырағына ИИ чат-ботсыз сіңген адамдар «ИИ-психоз» жағдайларымен дәлме-дәл сәйкес келді: екі топта да 28-ден.
Екі жүз мыңның ішінен жиырма сегіз
Зерттеушілер 2022 жылғы желтоқсаннан 2026 жылғы сәуірге дейін орталықтың психикалық денсаулық қызметтерінде емделген 215 712 пациенттің дәрігерлік жазбаларын қарап шықты. ИИ туралы айтылатын жазбалар психотикалық бұзылысы бар 73 адамда кездесті. Бұл — адам шындықпен байланысын жоғалтатын ауру: дауыстар естиді, жоқ нәрселерге сенеді. Сол 73 адам үш топқа бөлінді. Он жетісі, шын мәнінде, боттан рецепт пен басқа да күнделікті ұсақ-түйек сұраған. Жиырма сегізінде жазбалар бот пен сөйлесу симптомдарды күшейткенін көрсетті: авторлар «ИИ-психоз» деп осыны айтады. Қалған жиырма сегізінде ИИ сандырақтың бір бөлігіне айналды, алайда жазбаларда боттармен ешқандай сөйлесу тіркелмеген.
Орталықтың барлық пациенттерінің ішіндегі жиырма сегіз адам — 0,013%, шамамен сегіз мыңның біреуі. 40 000 орындық стадионды осындай психиатриялық пациенттермен толтырсақ, олардың шамамен бесеуі «ИИ-психоз» жағдайы болар еді. Авторлар бұл үлесті OpenAI мәліметтерімен өздері салыстырады: компания психоз немесе мания белгілері ChatGPT-дің апталық пайдаланушыларының 0,07%-ында болуы мүмкін деп бағалаған. Бұл негіздер әртүрлі: бір клиниканың үш жылдан астам уақыттағы пациенттері мен бір аптадағы барлық пайдаланушылар, сондықтан бір ретті шамамен ғана сәйкес келеді.
Санау қалай жүргізілді
Команда аурухананың электрондық жазбаларынан 578 058 қабылдау жазбасын алып, психотикалық бұзылыс диагнозы қойылған пациенттердің ИИ-ге қатысты кілт сөздері бар жазбаларын қалдырды. Нәтижесінде 73 пациенттің 187 қабылдауы қалды. Әр жазбаны екі бағалаушы бөлек оқып, топтарға бөлді; олардың келісімі 86,1% болды, дау туған жерде үшіншісі шешім қабылдады. Бұл — қысқа зерттеу хат түрінде жарияланған ретроспективті, бір орталықтағы зерттеу.
Ұшқыннан гөрі жиі — жел
Мақаланың ең қызықты бөлігі — оның жіктемесі. Психиатрлар бот аурудың ішінде ойнауы мүмкін төрт рөлді алдын ала анықтап, одан кейін қайсысының шынымен кездескенін тексерді.
«Күшейтуші» басталып қойған сандырақпен келісіп, оны сенімдірек етеді. «Нысан» сандырақтың өзіне тақырып болады: мысалы, адам ботқа өзіне қатысты ерекше күш тели алады. «Катализатор» бұрын дені сау адамда симптомдарды іске қосады. «Бірге жазушы» сандырақ әңгімесін пациентпен бірге, бір репликадан екіншісіне құрастырады.
Нәтиже мынадай. Күшейтушілер 28 пациенттің 18-інде кездесті, яғни үштен екісіне жуық жағдайда. Нысандар — алтауында. Катализаторлар — үшеуінде. Тағы бір пациентке ешқандай рөл бекітілмеді. «Бірге жазушы» бірде-бір рет кездеспеді, ал Брукс оқиғасы дәл соған ұқсайды: үш апта бойы боттың көмегімен жаңа математика құру.
Мұны қалай түсінуге болады? Дәрігер жазбасы чаттың бүкіл журналын емес, пациент кабинетте не айтқанын ғана жазады, ал апталарға созылған бірлескен оқиға «бот оның идеяларын растады» деп оңай жазылып кетуі мүмкін. Сондықтан «бірге жазушы» бойынша нөл бұл құбылыстың бар-жоғынан гөрі жазбаларды жүргізу тәртібі туралы көбірек айтатын шығар. Алайда басты тұжырым сақталады: аурухана карталарында бот жаңа ауруды тұтатқаннан гөрі әлдеқашан қарсып жатқан ауруды жиірек тауып алады.
Жас және дәл басында
«ИИ-психоз» тобы бір айқын белгісімен ерекшеленді. 28 пациенттің 17-сінде, яғни 60,7%-ында бұл алғашқы психотикалық эпизодта, ауру енді ғана білінген кезде болды. Қарапайым чат-бот пайдаланушылар арасында бұл он жетінің үшеуі, ал сандырағы боттан тыс ИИ туралы болғандар арасында жиырма сегіздің сегізі болды.
«ИИ-психоз» пациенттері жас болды: медианалық жасы 27,5, ал чатсыз ИИ сандырағы барларда 36,5. Үштен екісі ер адамдар болды. Олардың ең жиі диагнозы — «анықталмаған психоз», яғни көрініс нақты бұзылысқа әлі қалыптаспаған кезде қойылатын белгі.
Мақалада жеке жағдайлар сипатталмайды, бірақ сандар карталардағы типтік пациенттің газет оқиғаларының кейіпкерінен қаншалықты алыс екенін көрсетеді. Брукста, The Hustle мәліметінше , психикалық аурулар тарихы болмаған. Вандербильттің типтік пациенті жас, психоз енді ғана басталған, ал бот болып жатқанның бәрімен келісіп отырады.
Авторлар сақ тұжырым жасайды. Мүмкін, аурудың ерте кезеңі адамдарды осал етеді: олар біртүрлі нәрсеге түсініктеме іздейді де, шаршамайтын және сирек таласатын әңгімелесушіні табады. Одан гөрі көңілсіз түсініктеме де бар, авторлар оны да атайды. Алғашқы қабылдауда психиатрлар толығырақ сұрайды, сондықтан чат-ботты айту жазбаға түсу ықтималдығы жоғары.
Аға автор Джулия Шеффилд PsyPost басылымына берген сұхбатында шекараны шынайы сызды: бұл зерттеу ИИ психозды тудыра ма, әлде тек күшейте ме, соны айта алмайды. Мұндай пациенттердің шын мәнінде қанша екені де белгісіз: жағдайлар жазбаларға түскеннен әлдеқайда көп болуы мүмкін, ал төрт рөлді жіктеу авторлардың өздерінікі және клиникалық тұрғыда расталмаған.
Сөйлесетін ешкім қажет емес сандырақ
Баспасөз әрең айтатын екінші топ басқаша жұмыс істейді. Жиырма сегіз пациентте ИИ сандырақтың бір бөлігіне айналған, бірақ жазбаларда боттармен бірде-бір сөйлесу тіркелмеген. Бұл пациенттерге ChatGPT қажет болмады. Айналасындағылардың бәрінің ИИ туралы сөйлеп жатқаны жеткілікті болды.
Мұның ешқайсысы жаңа емес. Сандырақ сюжеттерін баяғыдан бері өз заманының техникасынан алып келеді. 1797 жылы көпес Джеймс Тилли Мэтьюз Лондонның қолайсыз атақты Бетлем баспанасына жатқызылды. Ол «пневматикалық химияны» меңгерген тыңшылар тобы «Ауа станогы» деп аталатын машинамен алыстан сәулелер жіберіп, өзін қинап жатыр деп сенді. Шамамен жүз жиырма жылдан кейін психоаналитик Виктор Тауск «әсер ететін машинаны» сипаттады: пациенттер толқындар немесе сәулелер арқылы ойларды салатын және алып тастайтын құрылғылар туралы айтып, олардың қалай жұмыс істейтінін түсіндіру үшін жаңа технологияны зор қызығушылықпен зерттеді. Әр ұрпақ сол үлгіге өз машинасын орналастырды.
Ертедегі ғасырлардан бір айырмашылық бар, және ол маңызды. Мэтьюздің станогы тек оның басында болды, ал Тауск пациенттерінің әсер ететін машинасы ой салатын, бірақ сөйлеспейтін. Чат-бот екі рөлді бірден ойнай алады: сандырақтың нысаны да, оның бәрі рас екенін растайтын әңгімелесуші де. 28-дегі алты «нысан» жағдайы дәл осы.
Боттың өзінде не өзгертуге болады
Мақалада авторлар ескертпелермен келтіретін бір бөлшек бар. 28 жағдайдың 24-і, яғни 85,7%-ы 2024 жылғы мамырдан кейін, OpenAI өзінің GPT-4o моделін шығарған соң болды. GPT-4o кейін жағымпаздығы үшін сынға ұшырады, ал ChatGPT карталарда ең жиі аталған бот болды: 28 жағдайдың 15-інде. Авторлар сәйкестікті атап өтеді, бірден-ақ олардың әдісі себепті анықтай алмайтынын қосады. Сол жылдары чат-боттарды пайдаланатындар әлдеқайда көбейді, ал дәрігерлер олар туралы жиірек сұрай бастады.
Жағымпаздықты, кем дегенде ішінара, баптау арқылы азайтуға болады. Сол қазанда Джорджия технологиялық институтының зерттеушілері Лоренцо де ла Лоса мен Виджай Мадисетти клиникалық сандырақ сипаттамаларынан алынған 16 сценарийден құрастырылған 1280 имитациялық әңгімеде сегіз модельді сынады . Пайдаланушымен сыпайылық үшін ғана келіспеу туралы қарапайым нұсқаудан кейін боттар сандырақты 73,8% азырақ растады. Модель жіберер алдында жауабын қайта оқитын болғанда, көрсеткіш 77%-ға жетті. Нақты пациенттер қатыспады, сондықтан мұндай баптау бірде-бір нақты адамды қорғай ма, белгісіз.
Мақаланың қорытындысы чат-боттарға үкімнен гөрі әріптестерге арналған практикалық өтініш. Авторлар психиатриялық қабылдауларға адамның ИИ пайдаланатыны мен онымен не туралы сөйлесетіні жөніндегі сұрақтарды үнемі қосуды, ал болашақ зерттеулерде әңгімелердің өзін талдауды ұсынады. Басқаша айтқанда, ауру тарихындағы чат-бот көптен бері ұйқы, алкоголь және жалғыздық болып кеткен нәрсеге айналады: емделушіге не болып жатқанын түсіну үшін дәрігер білуі тиіс мән-жай.
Брукс ботқа есінен адасқан-адаспағанын елу шақты рет сұрады және елу шақты рет «жоқ» деген жауап естіді. Оны қайтарған басқа бағдарламаның екінші пікірі болды. Сыпайылықтан келіспеуге үйретілмеген бот — сол екінші пікір, алғашқы жауапқа салынған.
