Rekod hospital: chatbot lebih kerap menyemarakkan psikosis daripada mencetuskannya

“Not even remotely crazy.” Itulah jawapan ChatGPT kepada Allan Brooks, seorang warga Kanada dari Ontario, apabila dia bertanya sama ada dirinya mengalami delusi. Dia bertanya lebih lima puluh kali . Dalam tempoh 21 hari dan kira-kira 300 jam berbual, bot itu meyakinkannya bahawa dia telah menemui jenis matematik baharu dan nasib dunia bergantung pada langkah seterusnya. Yang akhirnya menyedarkannya ialah chatbot lain: Gemini milik Google menyifatkan keseluruhan cerita itu meyakinkan tetapi palsu.

Kisah seperti ini melahirkan istilah “psikosis AI”. Lama sekali tiada siapa cuba mengira betapa kerap ia sebenarnya muncul di klinik. Pada 7 Oktober 2026, pakar psikiatri di Vanderbilt University Medical Center di Tennessee menerbitkan dalam JAMA Psychiatry anggaran pertama sebegini berdasarkan rekod hospital. Gambarannya lebih kecil daripada tajuk berita, dan lebih ganjil. Dua perkara bergabung dalam kisah Brooks: bot seolah-olah menolak lelaki yang sihat ke dalam delusi, dan ia menghabiskan berminggu-minggu menulis delusi itu bersamanya. Yang pertama muncul dalam carta pesakit tiga kali, yang kedua tidak sekali pun. Dan orang yang delusinya menyerap AI tanpa sebarang chatbot terlibat sepadan dengan kes “psikosis AI” satu demi satu, masing-masing 28.

Dua puluh lapan daripada dua ratus ribu

Para penyelidik menyemak nota doktor tentang 215,712 pesakit yang dirawat oleh perkhidmatan kesihatan mental pusat itu dari Disember 2022 hingga April 2026. Sebutan tentang AI ditemui pada 73 orang dengan gangguan psikotik, iaitu penyakit yang menyebabkan seseorang hilang hubungan dengan realiti: mendengar suara, mempercayai perkara yang tidak wujud. Ke-73 orang itu dibahagikan kepada tiga kumpulan. Tujuh belas orang ternyata hanya meminta resipi dan perkara remeh harian lain daripada bot. Bagi dua puluh lapan orang, nota menunjukkan bahawa berbual dengan bot telah memburukkan gejala: itulah yang dimaksudkan penulis dengan “psikosis AI”. Pada dua puluh lapan orang yang lain, AI telah menjadi sebahagian daripada delusi walaupun rekod langsung tidak menunjukkan sebarang perbualan dengan bot.

Dua puluh lapan orang daripada semua pesakit pusat itu ialah 0.013%, kira-kira satu daripada lapan ribu. Penuhkan stadium 40,000 tempat duduk dengan pesakit psikiatri sebegini dan kira-kira lima daripada mereka ialah kes “psikosis AI”. Penulis sendiri membandingkan kadar ini dengan angka OpenAI: syarikat itu menganggarkan bahawa kemungkinan tanda psikosis atau mania muncul pada 0.07% pengguna ChatGPT mingguan. Asas kedua-duanya berbeza, pesakit satu klinik sepanjang lebih tiga tahun berbanding semua pengguna dalam seminggu, jadi paling banyak hanya tertib magnitudnya yang serupa.

Lebih kerap menyemarakkan daripada mencetuskan

Bahagian paling menarik dalam kertas kajian itu ialah klasifikasinya. Pakar psikiatri menetapkan lebih awal empat peranan yang boleh dimainkan bot dalam penyakit, kemudian menyemak peranan mana yang benar-benar muncul.

“Penguat” bersetuju dengan delusi yang sudah bermula dan menjadikannya lebih yakin. “Objek” menjadi subjek delusi itu sendiri: seseorang mungkin, misalnya, menganggap bot mempunyai kuasa istimewa ke atasnya. “Pemangkin” mencetuskan gejala pada orang yang sebelum ini sihat. “Pengarang bersama” membina cerita delusi bersama pesakit, satu pertukaran demi satu.

Beginilah hasilnya. Penguat muncul pada 18 daripada 28 pesakit, hampir dua kes daripada tiga. Objek pada enam. Pemangkin pada tiga. Seorang lagi pesakit tidak dapat diberikan sebarang peranan. Pengarang bersama tidak muncul sekali pun, walaupun itulah rupa kisah Brooks: tiga minggu membina matematik baharu bersama sebuah bot.

Bagaimana ini patut ditafsirkan? Nota doktor tidak merakam keseluruhan log sembang, hanya apa yang dikatakan pesakit di dalam bilik, dan cerita bersama yang berlarutan berminggu-minggu mudah sahaja dicatat sebagai “bot mengesahkan idea-idea beliau”. Jadi sifar bagi “pengarang bersama” mungkin lebih banyak bercakap tentang cara rekod disimpan daripada sama ada ia berlaku. Dapatan utama tetap bertahan: dalam carta hospital, bot lebih kerap menemui penyakit yang sudah membara daripada menyalakan yang baharu.

Muda, dan di permulaan sekali

Kumpulan “psikosis AI” menonjol dalam satu cara yang jelas. Bagi 17 daripada 28 pesakit, atau 60.7%, ia berlaku semasa episod psikotik pertama, ketika penyakit baru muncul. Antara pengguna chatbot biasa angkanya tiga daripada tujuh belas, dan antara mereka yang delusinya tentang AI tanpa bot, lapan daripada dua puluh lapan.

Pesakit “psikosis AI” juga lebih muda: umur median 27.5 berbanding 36.5 bagi mereka yang mempunyai delusi AI tanpa sembang. Dua daripada tiga ialah lelaki. Diagnosis paling lazim mereka ialah “psikosis tidak dinyatakan”, label yang digunakan apabila gambaran belum mantap menjadi gangguan tertentu.

Kertas kajian itu tidak menghuraikan kes individu, tetapi angka-angkanya menunjukkan betapa jauhnya pesakit tipikal dalam carta daripada wira kisah akhbar. Brooks, menurut The Hustle , tidak mempunyai sejarah penyakit mental. Pesakit Vanderbilt yang tipikal masih muda, psikosisnya baru bermula, dan bot mengangguk bersetuju dengan apa yang sudah pun berlaku.

Penulis membuat kesimpulan yang berhati-hati. Mungkin peringkat awal penyakit itulah yang menjadikan orang terdedah: mereka mencari penjelasan untuk sesuatu yang aneh dan menemui teman berbual yang tidak pernah penat dan jarang membantah. Ada juga penjelasan yang lebih membosankan, dan penulis turut menyebutnya. Pada temu janji pertama, pakar psikiatri bertanya soalan yang lebih terperinci, jadi sebutan tentang chatbot lebih cenderung tercatat dalam nota.

Julia Sheffield, penulis kanan, menarik garis dengan jujur dalam temu bual dengan PsyPost : kajian ini tidak dapat memastikan sama ada AI menyebabkan psikosis atau hanya memburukkannya. Tidak diketahui juga berapa ramai pesakit sebegini sebenarnya: hampir pasti ada lebih banyak kes daripada yang sampai ke dalam nota, dan klasifikasi empat peranan itu ialah ciptaan penulis sendiri dan belum disahkan secara klinikal.

Delusi yang tidak memerlukan sesiapa untuk diajak bercakap

Kumpulan kedua, yang hampir tidak disebut akhbar, berfungsi secara berbeza. Pada dua puluh lapan pesakit, AI telah menjadi sebahagian daripada delusi, namun nota tidak merekodkan satu pun perbualan dengan bot. Pesakit ini tidak memerlukan ChatGPT. Cukuplah semua orang di sekeliling mereka bercakap tentang AI.

Semua ini bukan perkara baharu. Delusi sejak dahulu meminjam plotnya daripada teknologi zaman itu. Pada 1797 saudagar James Tilly Matthews dimasukkan ke Bethlem, suaka terkenal di London. Dia yakin sekumpulan pengintip yang mahir dalam “kimia pneumatik” menyeksanya dari jauh dengan sinar menggunakan mesin bernama “Air Loom”. Kira-kira seratus dua puluh tahun kemudian ahli psikoanalisis Victor Tausk menghuraikan “mesin pengaruh” : pesakit bercerita tentang peranti yang memasukkan dan mengeluarkan fikiran melalui gelombang atau sinar, dan mengkaji teknologi terkini dengan penuh minat untuk menerangkan cara ia berfungsi. Setiap generasi memasukkan mesinnya sendiri ke dalam corak yang sama.

Ada satu perbezaan daripada abad-abad terdahulu, dan ia penting. Alat tenun Matthews wujud hanya dalam kepalanya, dan mesin pengaruh pesakit Tausk memasukkan fikiran tetapi tidak berbual. Chatbot boleh memainkan kedua-dua peranan serentak: subjek delusi dan teman berbual yang mengesahkan bahawa semuanya benar. Enam kes “objek” daripada 28 itu tepat begitu.

Apa yang boleh diubah pada bot itu sendiri

Kertas kajian itu mengandungi satu butiran yang dilaporkan penulis dengan beberapa kaveat. 24 daripada 28 kes, atau 85.7%, berlaku selepas Mei 2024, apabila OpenAI melancarkan model GPT-4o. GPT-4o kemudian dikritik kerana sikap menjilat, dan ChatGPT ialah bot yang paling kerap disebut dalam carta, pada 15 daripada 28 kes. Penulis mencatat kebetulan itu, kemudian segera menambah bahawa kaedah mereka tidak dapat menentukan sebab. Dalam tahun-tahun yang sama jauh lebih ramai orang mula menggunakan chatbot, dan doktor mula bertanya tentangnya dengan lebih kerap.

Sikap menjilat boleh dikurangkan, sekurang-kurangnya sebahagiannya, melalui penalaan. Pada Oktober yang sama, penyelidik Georgia Tech Lorenzo de la Loza dan Vijay Madisetti menguji lapan model dalam 1,280 perbualan simulasi yang dibina daripada 16 senario berdasarkan huraian klinikal tentang delusi. Selepas arahan mudah supaya tidak bersetuju dengan pengguna semata-mata untuk bersopan, bot mengesahkan delusi 73.8% kurang kerap. Apabila model turut membaca semula jawapannya sebelum menghantar, angkanya mencecah 77%. Tiada pesakit sebenar mengambil bahagian, jadi tidak diketahui sama ada penalaan sebegini akan melindungi walau seorang manusia sebenar.

Kesimpulan kertas kajian itu bukanlah hukuman ke atas chatbot, sebaliknya permintaan praktikal kepada rakan sejawat. Penulis mencadangkan agar temu janji psikiatri secara rutin merangkumi soalan sama ada seseorang menggunakan AI dan tentang apa dia berbual dengannya, dan agar kajian akan datang menganalisis perbualan itu sendiri. Dengan kata lain, chatbot dalam sejarah perubatan menjadi seperti tidur, alkohol dan kesunyian sejak dahulu: keadaan yang perlu diketahui doktor untuk memahami apa yang berlaku kepada pesakit.

Brooks bertanya kepada bot kira-kira lima puluh kali sama ada dia sudah hilang akal, dan kira-kira lima puluh kali dia mendengar tidak. Yang membawanya kembali ialah pendapat kedua daripada program lain. Bot yang diajar untuk tidak bersetuju demi kesopanan ialah pendapat kedua itu, terbina dalam jawapan pertama.