// Садржај
„Није ни приближно лудо.“ Тако је ChatGPT одговорио Алану Бруксу, Канађанину из Онтарија, када га је питао да ли је у заблуди. Питао је више од педесет пута . Током 21 дана и отприлике 300 сати дописивања бот га је уверио да је открио нову врсту математике и да судбина света зависи од његовог следећег потеза. Из тога га је тек извукао други чет-бот: Googleов Gemini је рекао да је цела прича убедљива, али лажна.
Управо су приче попут његове дале назив „ИИ-психоза“. Дуго нико није покушао да изброји колико се она заправо јавља у ординацији. Седмог октобра 2026. психијатри са Медицинског центра Универзитета Вандербилт у Тенесију објавили су у часопису JAMA Psychiatry прву такву процену на основу болничких записа. Слика је мања од наслова, и чудноватија. У Бруксовој причи су се срела два обележја: бот је наизглед довео здравог човека до заблуде и недељама је са њим писао ту заблуду. Прво се у картонима појавило три пута, друго ниједном. А људи у чије су заблуде ИИ ушао без икаквог чет-бота подударају се са случајевима „ИИ-психозе“ један на један, по 28.
Двадесет осам од две стотине хиљада
Истраживачи су прошли кроз белешке лекара о 215.712 пацијената које су службе за ментално здравље центра лечиле од децембра 2022. до априла 2026. Помени ИИ нашли су се код 73 особе са психотичним поремећајем, болешћу у којој човек губи додир са стварношћу: чује гласове, верује у ствари којих нема. Тих 73 разврстано је у три групе. Седамнаесторо је, испоставило се, од ботова једноставно тражило рецепте и остале свакодневне ситнице. Код двадесет осморо белешке сугеришу да је дописивање са ботом погоршало симптоме: управо то аутори називају „ИИ-психозом“. Код осталих двадесет осморо ИИ је постао део заблуде иако у записима уопште нема разговора са ботом.
Двадесет осам људи међу свим пацијентима центра чини 0,013%, отприлике једног од осам хиљада. Када бисте стадион са 40.000 места напунили оваквим психијатријским пацијентима, око петоро би били случајеви „ИИ-психозе“. Сами аутори упоређују тај удео са бројкама компаније OpenAI: она процењује да се могући знаци психозе или маније јављају код 0,07% недељних корисника ChatGPT-а. Те основе се разликују, пацијенти једне клинике током више од три године наспрам свих корисника у једној недељи, па се највише може слагати ред величине.
Како је обављено бројање
Тим је из електронских записа болнице извукао 578.058 белешки о прегледима и задржао оне са кључним речима везаним за ИИ код пацијената са дијагнозом психотичног поремећаја. Остало је 187 посета 73 пацијената. Два оцењивача су независно прочитала сваку белешку и распоредила је у групе; слагали су се у 86,1% случајева, а спорне је решавао трећи. Ово је ретроспективна студија из једног центра, објављена као кратко истраживачко писмо.
Чешће гориво него варница
Најзанимљивији део рада је његова класификација. Психијатри су унапред одредили четири улоге које бот може имати у болести, па проверили које су се стварно појавиле.
„Појачивач“ се слаже са заблудом која је већ почела и чини је увереном. „Објекат“ сам постаје предмет заблуде: човек, на пример, боту приписује посебну моћ над собом. „Катализатор“ изазива симптоме код некога ко је раније био здрав. „Коаутор“ гради заблудну причу заједно са пацијентом, реплику по реплику.
Ево како је испало. Појачивачи су се јавили код 18 од 28 пацијената, скоро у два случаја од три. Објекти код шесторо. Катализатори код троје. Један пацијент није могао да се сврста ни у једну улогу. Коаутор се није појавио ниједном, иако управо тако изгледа Бруксова прича: три недеље заједничког грађења нове математике са ботом.
Како то читати? Белешка лекара не бележи цео лог разговора, само оно што је пацијент рекао у ординацији, а вишенедељна заједничка прича лако се може забележити као „бот је потврдио његове идеје“. Зато нула код „коаутора“ вероватно више говори о вођењу евиденције него о томе да ли се то догађа. Главни налаз ипак стоји: у болничким картонима бот чешће налази болест која већ тиња него што пали нову.
Млади, и на самом почетку
Група „ИИ-психозе“ истицала се на један јасан начин. Код 17 од 28 пацијената, односно 60,7%, то се догодило током првог психотичног епизода, када се болест тек појавила. Међу уобичајеним корисницима чет-ботова било их је троје од седамнаесторо, а међу онима чије су заблуде биле о ИИ без бота осморо од двадесет осморо.
Пацијенти са „ИИ-психозом“ били су и млађи: медијана година 27,5 наспрам 36,5 код оних са ИИ-заблудама без разговора. Двоје од троје били су мушкарци. Њихова најчешћа дијагноза била је „неспецификована психоза“, ознака која се користи кад се слика још није сврстала у конкретан поремећај.
Рад не описује појединачне случајеве, али бројке показују колико је типичан пацијент из картона далеко од јунака новинских прича. Брукс, према писању The Hustle , није имао историју менталне болести. Типичан вандербилтски пацијент је млад, психоза му је тек почела, а бот климне главом на оно што се већ догађа.
Аутори извлаче опрезан закључак. Можда рани стадијум болести људе чини рањивима: траже објашњење за нешто чудно и налазе саговорника који се никад не замара и ретко се противи. Постоји и баналније објашњење, које аутори такође наводе. На првом прегледу психијатри постављају детаљнија питања, па је помен чет-бота једноставно вероватније да доспе у белешке.
Џулија Шефилд, виша ауторка, поштено је повукла границу у интервјуу за PsyPost : ова студија не може рећи изазива ли ИИ психозу или је само погоршава. Није познато ни колико таквих пацијената заиста има: готово сигурно их је више него што их је доспело у белешке, а класификација од четири улоге је ауторска и клинички није потврђена.
Заблуде којима нико не треба за разговор
Друга група, коју штампа једва помиње, ради другачије. Код двадесет осморо пацијената ИИ је постао део заблуде, а у белешкама нема ниједног разговора са ботом. Овим пацијентима ChatGPT није био потребан. Било је довољно да сви око њих причају о ИИ.
Ништа од тога није ново. Заблуде одавно позајмљују заплете од технологије свог доба. Године 1797. трговац Џејмс Тили Метјуз примљен је у Бедлам, озлоглашено лондонско склониште за душевне болеснике. Био је сигуран да га банда шпијуна вештих у „пнеуматској хемији“ са даљине муче зрацима помоћу машине звана „Ваздушни разбој“. Око сто двадесет година касније психоаналитичар Виктор Таусак описао је „машину утицаја“ : пацијенти су причали о апаратима који таласима или зрацима убацују и одузимају мисли, и са живим интересовањем проучавали најновију технику да би објаснили како раде. Свака генерација уклапала је своју машину у исти образац.
Постоји једна разлика у односу на раније векове, и она је важна. Метјузов разбој постојао је само у његовој глави, а машина утицаја Таускових пацијената убацивала је мисли, али није водила разговор. Чет-бот може играти обе улоге одједном: предмет заблуде и саговорник који потврђује да је све истина. Шест случајева „објекта“ међу 28 управо су то.
Шта се може променити у самом боту
У раду постоји детаљ који аутори износе с резервом. 24 од 28 случајева, односно 85,7%, догодило се после маја 2024, када је OpenAI објавио свој модел GPT-4o. GPT-4o је касније критикован због улизиштва, а ChatGPT је бот који се најчешће помиње у картонима, у 15 од 28 случајева. Аутори примећују поклапање, па одмах додају да њихов метод не може утврдити узрок. Током тих година знатно више људи почело је да користи чет-ботове, а лекари су почели чешће да питају о њима.
Улизиштво се може смањити, бар делимично, подешавањем. Истог октобра истраживачи са Georgia Techa Лоренцо де ла Лоза и Вијај Мадисети тестирали су осам модела у 1.280 симулираних разговора састављених од 16 сценарија узетих из клиничких описа заблуда. Након једноставне инструкције да се не слаже са корисником само из љубазности, ботови су потврђивали заблуде 73,8% ређе. Када је модел још и поново прочитао свој одговор пре слања, цифра је достигла 77%. У експерименту нису учествовали стварни пацијенти, па се не зна да ли би такво подешавање заштитило иједну стварну особу.
Закључак рада мање је пресуда чет-ботовима, а више практичан захтев колегама. Аутори предлажу да психијатријски прегледи рутински укључују питања да ли човек користи ИИ и о чему с њим разговара, а да будућа истраживања анализирају саме разговоре. Другим речима, чет-бот у анамнези постаје оно што су давно постали сан, алкохол и самоћа: околност коју лекар мора да зна да би разумео шта се дешава с пацијентом.
Брукс је бота питао педесетак пута да ли је полудео, и педесетак пута је чуо одговор да није. Вратило га је друго мишљење другог програма. Бот научен да се не слаже из учтивости јесте то друго мишљење, уграђено у први одговор.
