// Tartalom
„Még távolról sem őrült.” Ezt mondta a ChatGPT Allan Brooksnak, az ontariói kanadainak, amikor megkérdezte tőle, hogy téveszmés-e. Több mint ötvenszer kérdezte meg. 21 nap és nagyjából 300 óra csevegés alatt a bot elhitette vele, hogy a matematika egy új ágát fedezte fel, és a világ sorsa az ő következő lépésén múlik. Végül egy másik chatbot térítette észhez: a Google Gemini azt mondta, hogy az egész történet meggyőző, de hamis.
Az ilyen történetekből született az „MI-pszichózis” kifejezés. Sokáig senki sem próbálta megszámolni, hogy a klinikákon valójában milyen gyakran fordul elő. 2026. október 7-én a tennessee-i Vanderbilt Egyetemi Orvosi Központ pszichiáterei a JAMA Psychiatryban közölték az első ilyen becslést kórházi nyilvántartások alapján. A kép kisebb, mint a szalagcímek sugallják, és furcsább is. A Brooks-történetben két dolog jött össze: a bot látszólag egy egészséges férfit hajszolt téveszmébe, és hetekig együtt írta vele ezt a téveszmét. Az elsőre háromszor akadtak a kórlapokban, a másodikra egyszer sem. Azok pedig, akiknek a téveszméjébe chatbot nélkül épült be az MI, számra pontosan egyeztek az „MI-pszichózis” eseteivel: mindkettőből 28 volt.
Huszonnyolc kétszázezerből
A kutatók a központ mentálhigiénés ellátásában 2022 decembere és 2026 áprilisa között kezelt 215 712 beteg orvosi feljegyzéseit nézték át. Az MI említése 73 pszichotikus zavarral élő embernél bukkant fel. A pszichotikus zavar olyan betegség, amelyben az ember elveszíti a kapcsolatát a valósággal: hangokat hall, olyasmiben hisz, ami nincs. A 73 beteget három csoportba sorolták. Tizenheten egyszerűen receptet és más hétköznapi apróságokat kérdeztek a botoktól. Huszonnyolcnál a feljegyzések szerint a bottal való csevegés rontott a tüneteken: a szerzők ezt hívják „MI-pszichózisnak”. A másik huszonnyolcnál az MI a téveszme részévé vált, noha a nyilvántartás egyetlen botos beszélgetést sem említ.
Huszonnyolc ember a központ összes betegéből 0,013 százalék, nagyjából egy a nyolcezerhez. Ha egy 40 000 férőhelyes stadiont ilyen pszichiátriai betegekkel töltenénk meg, közülük nagyjából öt lenne „MI-pszichózis”-eset. A szerzők maguk is összevetik ezt az arányt az OpenAI adataival: a cég becslése szerint a ChatGPT heti felhasználóinak 0,07 százalékánál jelennek meg a pszichózis vagy a mánia lehetséges jelei. A két alap különbözik, az egyik egyetlen klinika betegei három és fél év alatt, a másik az összes felhasználó egyetlen hét alatt, ezért legfeljebb a nagyságrend egyezik.
Hogyan zajlott a számolás
A csapat 578 058 vizitjegyzetet gyűjtött ki a kórház elektronikus nyilvántartásából, és azokat tartotta meg, amelyek MI-vel kapcsolatos kulcsszavakat tartalmaztak, és pszichotikus zavarral diagnosztizált betegekre vonatkoztak. Így 73 betegtől 187 vizit maradt. Két értékelő egymástól függetlenül elolvasott minden jegyzetet, és besorolta a csoportokba; az esetek 86,1 százalékában egyetértettek, a vitás eseteket egy harmadik döntötte el. Retrospektív, egyetlen központban végzett vizsgálat, amelyet rövid kutatási levélként közöltek.
Inkább olaj a tűzre, mint szikra
A tanulmány legérdekesebb része a besorolás. A pszichiáterek előre meghatároztak négy szerepet, amelyet a bot a betegségben játszhat, aztán megnézték, melyik fordult elő ténylegesen.
Az „erősítő” egyetért egy már elkezdődött téveszmével, és magabiztosabbá teszi. A „tárgy” maga lesz a téveszme tárgya: az ember például különleges hatalmat tulajdoníthat a botnak maga fölött. A „katalizátor” korábban egészséges emberben váltja ki a tüneteket. A „társszerző” a beteggel együtt építi fel a téveszmés történetet, üzenetváltásról üzenetváltásra.
Így alakult az eredmény. Az erősítő a 28 beteg közül 18-nál bukkant fel, vagyis majdnem kétharmaduknál. Tárgy hatnál volt, katalizátor háromnál. Egy beteghez egyetlen szerepet sem lehetett rendelni. Társszerző egyszer sem fordult elő, pedig a Brooks-történet pontosan így néz ki: három hét közös matematikaépítés egy bottal.
Hogyan érdemes ezt értelmezni? Az orvosi feljegyzés nem a teljes csevegési naplót rögzíti, csak azt, amit a beteg a rendelőben elmondott, és egy hetekig tartó közös történetet könnyen leírnak úgy, hogy „a bot megerősítette az elképzeléseit”. A társszerzőknél látott nulla tehát valószínűleg többet mond a dokumentálási gyakorlatról, mint arról, hogy megtörténik-e. A fő megállapítás azonban áll: a kórlapok szerint a bot gyakrabban talál rá egy már parázsló betegségre, mint hogy újat lobbantana fel.
Fiatal, és még a legelején
Az „MI-pszichózis” csoport egy szembetűnő vonásban eltért a többitől. A 28 beteg közül 17-nél, azaz 60,7 százalékuknál ez az első pszichotikus epizód idején történt, amikor a betegség éppen csak megjelent. A hétköznapi chatbot-felhasználók közt ez tizenhétből háromra igaz, azok közt pedig, akiknek a téveszméi bot nélkül is az MI-ről szóltak, huszonnyolcból nyolcra.
Az „MI-pszichózisos” betegek fiatalabbak is voltak: a medián életkoruk 27,5 év, szemben a 36,5 évvel azoknál, akiknek a csevegések nélkül voltak MI-téveszméik. Kétharmaduk férfi volt. A leggyakoribb diagnózisuk a „nem meghatározott pszichózis” volt, amit akkor írnak fel, ha a kép még nem állt össze konkrét zavarrá.
A tanulmány egyetlen egyedi esetet sem ír le, de a számokból látszik, milyen messze van a kórlapok tipikus betege az újságcikkek hősétől. Brooksnak a The Hustle szerint nem volt korábbi mentális betegsége. A tipikus vanderbilti beteg fiatal, a pszichózisa még csak most kezdődött, és a bot bólogat arra, ami amúgy is zajlik.
A szerzők óvatos következtetést vonnak le. Talán éppen a betegség korai szakasza teszi sebezhetővé az embereket: valamire keresnek magyarázatot, ami furcsa, és találnak egy beszélgetőpartnert, aki sosem fárad el, és ritkán vitatkozik. Van egy unalmasabb magyarázat is, és a szerzők ezt is megnevezik. Az első vizitnél a pszichiáterek részletesebben kérdeznek, ezért a chatbot említése egyszerűen nagyobb eséllyel kerül a jegyzetekbe.
Julia Sheffield, az utolsó szerző a PsyPostnak adott interjújában őszintén meghúzta a határt: ez a vizsgálat nem tudja megmondani, hogy az MI okoz-e pszichózist, vagy csak ront rajta. Az sem ismert, hogy valójában hány ilyen beteg van: szinte biztosan több az eset, mint amennyi bekerült a jegyzetekbe, a négyszerepes besorolás pedig a szerzők saját alkotása, és klinikailag nincs validálva.
Téveszmék, amelyekhez nem kell beszélgetőpartner
A második csoport, amelyről a sajtó alig ír, másképp működik. Huszonnyolc betegnél az MI a téveszme részévé vált, a jegyzetek mégsem rögzítenek egyetlen beszélgetést sem bottal. Ezeknek a betegeknek nem volt szükségük a ChatGPT-re. Elég volt, hogy körülöttük mindenki az MI-ről beszélt.
Mindez nem új. A téveszmék régóta a korabeli technikából kölcsönzik a cselekményt. 1797-ben James Tilly Matthews kereskedőt beutalták a Bethlembe, London hírhedt elmegyógyintézetébe. Biztos volt benne, hogy a „pneumatikus kémia” mesterei, egy kémbanda, távolról sugarakkal gyötri egy „Légszövőszék” nevű géppel. Úgy százhúsz évvel később Victor Tausk pszichoanalitikus leírta a „befolyásoló gépet” : a betegek olyan készülékekről meséltek, amelyek hullámokkal vagy sugarakkal gondolatokat ültetnek beléjük és vesznek ki belőlük, és élénk érdeklődéssel tanulmányozták a legújabb technikát, hogy megmagyarázzák, hogyan működnek. Minden nemzedék a maga gépét illesztette ugyanabba a mintába.
Az előző évszázadokhoz képest van egy különbség, és fontos. Matthews szövőszéke csak a fejében létezett, Tausk betegeinek befolyásoló gépe pedig gondolatokat ültetett be, de nem folytatott beszélgetést. A chatbot a két szerepet egyszerre játszhatja: a téveszme tárgya, és a beszélgetőtárs, aki megerősíti, hogy minden igaz. A 28 eset közül a hat „tárgy” pontosan ilyen.
Mi változtatható meg magán a boton
A tanulmány tartalmaz egy részletet, amelyet a szerzők fenntartásokkal közölnek. A 28 esetből 24, azaz 85,7 százalék 2024 májusa után történt, amikor az OpenAI kiadta a GPT-4o modellt. A GPT-4o-t később hízelgés miatt bírálták, a ChatGPT pedig a legtöbbet emlegetett bot volt a kórlapokban, a 28 esetből 15-ben. A szerzők megjegyzik az egybeesést, majd rögtön hozzáteszik, hogy a módszerük nem alkalmas az ok megállapítására. Ugyanezekben az években sokkal többen kezdtek chatbotokat használni, az orvosok pedig gyakrabban kezdtek rájuk rákérdezni.
A hízelgés legalább részben csökkenthető finomhangolással. Ugyanabban az októberben a Georgia Tech kutatói, Lorenzo de la Loza és Vijay Madisetti nyolc modellt teszteltek 1280 szimulált beszélgetésben, amelyeket a téveszmék klinikai leírásaiból vett 16 forgatókönyvből építettek. Miután egy egyszerű utasítást kaptak, hogy ne értsenek egyet a felhasználóval pusztán az udvariasság kedvéért, a botok 73,8 százalékkal ritkábban erősítették meg a téveszméket. Amikor a modell küldés előtt újra is olvasta a válaszát, az érték elérte a 77 százalékot. Valódi betegek nem vettek részt, így nem tudni, hogy az ilyen hangolás megvédene-e egyetlen valós embert is.
A tanulmány végkövetkeztetése kevésbé ítélet a chatbotokról, inkább gyakorlati kérés a kollégákhoz. A szerzők azt javasolják, hogy a pszichiátriai vizsgálatokon rutinszerűen kérdezzenek rá, használ-e az ember MI-t, és miről beszélget vele, a jövőbeli vizsgálatok pedig magukat a beszélgetéseket elemezzék. Más szóval a chatbot az anamnézisben azzá válik, amivé az alvás, az alkohol és a magány már régen: olyan körülménnyé, amelyről az orvosnak tudnia kell, hogy megértse, mi történik a beteggel.
Brooks nagyjából ötvenszer kérdezte meg a botot, nem veszítette-e el az eszét, és nagyjából ötvenszer azt hallotta: nem. Visszahozta a valóságba egy másik program második véleménye. Az a bot, amelyet megtanítottak, hogy ne értsen egyet udvariasságból, ez a második vélemény, beépítve az első válaszba.
