अस्पताल के रिकॉर्ड बताते हैं: चैटबॉट मनोविकृति भड़काते कम हैं, हवा ज़्यादा देते हैं

“बिल्कुल भी पागल नहीं हैं।” ChatGPT ने कनाडा के ओंटारियो के रहने वाले एलन ब्रुक्स को यही जवाब दिया, जब उन्होंने पूछा कि क्या वे भ्रम में हैं। उन्होंने यह सवाल पचास से ज़्यादा बार पूछा। 21 दिनों और लगभग 300 घंटे की चैट में बॉट ने उन्हें यक़ीन दिला दिया कि उन्होंने गणित की एक नई शाखा खोज ली है और दुनिया की क़िस्मत उनके अगले क़दम पर टिकी है। आख़िर में उन्हें इससे एक दूसरे चैटबॉट ने बाहर निकाला: Google के Gemini ने कहा कि पूरी कहानी क़ायल करने वाली तो है, पर झूठी है।

उनके जैसी कहानियों से ही “एआई साइकोसिस” शब्द चला। लंबे समय तक किसी ने गिनने की कोशिश नहीं की कि क्लिनिक में यह असल में कितनी बार दिखता है। 7 अक्टूबर 2026 को टेनेसी के वेंडरबिल्ट यूनिवर्सिटी मेडिकल सेंटर के मनोचिकित्सकों ने JAMA Psychiatry में अस्पताल के रिकॉर्ड पर आधारित ऐसा पहला अनुमान छापा। तस्वीर सुर्ख़ियों से छोटी निकली, और अजीब भी। ब्रुक्स की कहानी में दो बातें एक साथ थीं: बॉट एक स्वस्थ आदमी को भ्रम में धकेलता दिखा, और हफ़्तों तक उसके साथ मिलकर वह भ्रम गढ़ता रहा। पहली बात मरीज़ों के चार्ट में तीन बार मिली, दूसरी एक बार भी नहीं। और जिन लोगों के भ्रम में बिना किसी चैटबॉट के एआई घुस गया था, उनकी संख्या “एआई साइकोसिस” के मामलों के बराबर निकली, दोनों 28।

दो लाख में अट्ठाईस

शोधकर्ताओं ने दिसंबर 2022 से अप्रैल 2026 तक केंद्र की मानसिक स्वास्थ्य सेवाओं में इलाज करा चुके 215,712 मरीज़ों के डॉक्टरी नोट खंगाले। मनोविकृति (साइकोटिक डिसऑर्डर) वाले 73 लोगों के नोट में एआई का ज़िक्र मिला। यह वह बीमारी है जिसमें इंसान का हक़ीक़त से नाता टूट जाता है: आवाज़ें सुनाई देती हैं, ऐसी चीज़ों पर यक़ीन होता है जो हैं ही नहीं। इन 73 को तीन समूहों में बाँटा गया। सत्रह लोग, जैसा निकला, बस बॉट से रेसिपी और रोज़मर्रा की दूसरी छोटी बातें पूछ रहे थे। अट्ठाईस के मामले में नोट से लगा कि बॉट से बातचीत ने लक्षण बिगाड़े; लेखक “एआई साइकोसिस” से यही मतलब लेते हैं। बाक़ी अट्ठाईस में एआई भ्रम का हिस्सा बन गया था, जबकि रिकॉर्ड में बॉट से किसी बातचीत का निशान तक नहीं था।

केंद्र के सभी मरीज़ों में अट्ठाईस लोग 0.013% होते हैं, यानी लगभग आठ हज़ार में एक। 40,000 सीटों वाले स्टेडियम को ऐसे मनोरोग मरीज़ों से भर दें तो उनमें “एआई साइकोसिस” के मामले क़रीब पाँच होंगे। लेखक ख़ुद इस हिस्से की तुलना OpenAI के आँकड़ों से करते हैं: कंपनी ने अनुमान लगाया था कि ChatGPT के साप्ताहिक उपयोगकर्ताओं में से 0.07% में मनोविकृति या उन्माद के संभावित संकेत दिखते हैं। दोनों आधार अलग हैं, एक तरफ़ एक क्लिनिक के मरीज़ और तीन साल से ज़्यादा की अवधि, दूसरी तरफ़ एक हफ़्ते के सारे उपयोगकर्ता, इसलिए ज़्यादा से ज़्यादा परिमाण का स्तर ही मेल खाता है।

चिंगारी से ज़्यादा हवा

इस शोध-पत्र का सबसे दिलचस्प हिस्सा उसका वर्गीकरण है। मनोचिकित्सकों ने पहले से चार भूमिकाएँ तय कीं जो बॉट बीमारी में निभा सकता है, और फिर देखा कि असल में कौन-सी निकलीं।

“प्रवर्धक” (एम्प्लिफ़ायर) पहले से शुरू हो चुके भ्रम से सहमत होता है और उसे और पक्का कर देता है। “वस्तु” (ऑब्जेक्ट) ख़ुद भ्रम का विषय बन जाता है: मिसाल के तौर पर, इंसान को लगता है कि बॉट के पास उस पर कोई ख़ास ताक़त है। “उत्प्रेरक” (कैटेलिस्ट) किसी ऐसे व्यक्ति में लक्षण जगाता है जो पहले स्वस्थ था। “सह-लेखक” (कोऑथर) मरीज़ के साथ मिलकर, एक के बाद एक जवाब में, भ्रम की कहानी बुनता है।

नतीजा यह रहा। 28 में से 18 मरीज़ों में बॉट प्रवर्धक निकला, यानी लगभग तीन में से दो मामलों में। छह में वस्तु। तीन में उत्प्रेरक। एक और मरीज़ को किसी भूमिका में नहीं रखा जा सका। सह-लेखक एक बार भी नहीं मिला, जबकि ब्रुक्स की कहानी ठीक ऐसी ही दिखती है: तीन हफ़्ते तक बॉट के साथ मिलकर नया गणित गढ़ना।

इसे कैसे पढ़ें? डॉक्टर का नोट पूरी चैट का लॉग नहीं होता, उसमें सिर्फ़ वही दर्ज होता है जो मरीज़ ने कमरे में कहा, और हफ़्तों चली साझा कहानी आसानी से “बॉट ने उसके विचारों की पुष्टि की” बनकर लिख दी जा सकती है। तो “सह-लेखक” के आगे शून्य शायद इस बारे में ज़्यादा बताता है कि रिकॉर्ड कैसे रखे जाते हैं, इस बारे में कम कि ऐसा होता है या नहीं। फिर भी मुख्य निष्कर्ष टिकता है: अस्पताल के चार्ट में बॉट अक्सर पहले से सुलगती बीमारी को ढूँढकर हवा देता है, नई आग नहीं लगाता।

जवान, और बिल्कुल शुरुआत में

“एआई साइकोसिस” वाला समूह एक बात में साफ़ अलग दिखा। 28 में से 17 मरीज़ों में, यानी 60.7% में, यह पहले मनोविकृति-प्रकरण के दौरान हुआ, जब बीमारी अभी-अभी सामने आई थी। आम चैटबॉट उपयोगकर्ताओं में यह सत्रह में से तीन था, और जिनके भ्रम में एआई बिना बॉट के आया था, उनमें अट्ठाईस में से आठ।

“एआई साइकोसिस” वाले मरीज़ उम्र में भी छोटे थे: जिन्हें चैट के बिना एआई-भ्रम था, उनकी औसत (माध्यिका) उम्र 36.5 साल थी, इनकी 27.5। हर तीन में से दो पुरुष थे। उनका सबसे आम निदान “अनिर्दिष्ट मनोविकृति” था, यानी वह नाम जो तब लगाया जाता है जब तस्वीर अभी किसी ख़ास विकार में नहीं ढली होती।

शोध-पत्र में कोई अलग-अलग मामला नहीं बताया गया, पर आँकड़े दिखाते हैं कि चार्ट का आम मरीज़ अख़बारों की कहानियों के नायक से कितना दूर है। The Hustle के मुताबिक ब्रुक्स को मानसिक बीमारी का कोई इतिहास नहीं था। वेंडरबिल्ट का आम मरीज़ जवान है, मनोविकृति अभी शुरू ही हुई है, और बॉट उसी बात पर सिर हिला रहा है जो पहले से हो रही है।

लेखक सावधानी से निष्कर्ष निकालते हैं। हो सकता है कि बीमारी की शुरुआती अवस्था ही लोगों को नाज़ुक बना देती है: वे किसी अजीब चीज़ की व्याख्या ढूँढ रहे होते हैं और उन्हें ऐसा बातचीत का साथी मिल जाता है जो कभी थकता नहीं और शायद ही कभी बहस करता है। एक फीकी व्याख्या भी है, और लेखक उसे भी गिनाते हैं। पहली मुलाक़ात में मनोचिकित्सक ज़्यादा विस्तार से सवाल पूछते हैं, इसलिए चैटबॉट का ज़िक्र नोट में पहुँचने की संभावना बस ज़्यादा होती है।

वरिष्ठ लेखिका जूलिया शेफ़ील्ड ने PsyPost को दिए इंटरव्यू में ईमानदारी से रेखा खींची: यह अध्ययन नहीं बता सकता कि एआई मनोविकृति पैदा करता है या सिर्फ़ उसे बिगाड़ता है। यह भी पता नहीं कि ऐसे मरीज़ असल में कितने हैं: मामले लगभग निश्चित रूप से उससे ज़्यादा हैं जितने नोट में पहुँचे, और चार भूमिकाओं वाला वर्गीकरण लेखकों का अपना है, जिसे चिकित्सकीय रूप से परखा नहीं गया।

भ्रम, जिसे बात करने के लिए किसी की ज़रूरत नहीं

दूसरा समूह, जिसका प्रेस में लगभग ज़िक्र नहीं होता, अलग तरह से काम करता है। अट्ठाईस मरीज़ों में एआई भ्रम का हिस्सा बन गया था, फिर भी नोट में बॉट से एक भी बातचीत दर्ज नहीं है। इन मरीज़ों को ChatGPT की ज़रूरत नहीं पड़ी। इतना काफ़ी था कि आसपास हर कोई एआई की बातें कर रहा था।

इसमें कुछ नया नहीं है। भ्रम लंबे समय से अपने कथानक अपने दौर की तकनीक से उधार लेते रहे हैं। 1797 में व्यापारी जेम्स टिली मैथ्यूज़ को लंदन के बदनाम पागलख़ाने बेथलम में भर्ती किया गया। उन्हें पक्का यक़ीन था कि “न्यूमैटिक केमिस्ट्री” के माहिर जासूसों का एक गिरोह “एयर लूम” नाम की मशीन से दूर से किरणें भेजकर उन्हें सता रहा है। लगभग एक सौ बीस साल बाद मनोविश्लेषक विक्टर टाउस्क ने “प्रभावित करने वाली मशीन” का वर्णन किया: मरीज़ ऐसे यंत्रों की बात करते थे जो तरंगों या किरणों से विचार डालते और निकालते हैं, और यह समझाने के लिए कि वे कैसे काम करते हैं, नवीनतम तकनीक का गहरी दिलचस्पी से अध्ययन करते थे। हर पीढ़ी ने उसी ढाँचे में अपनी मशीन बैठा दी।

पिछली सदियों से एक फ़र्क़ है, और वह मायने रखता है। मैथ्यूज़ का लूम सिर्फ़ उनके दिमाग़ में था, और टाउस्क के मरीज़ों की प्रभावित करने वाली मशीन विचार तो डालती थी, पर बातचीत नहीं करती थी। चैटबॉट दोनों भूमिकाएँ एक साथ निभा सकता है: भ्रम का विषय भी, और वह साथी भी जो बातचीत में पुष्टि करता है कि सब सच है। 28 में से छह “वस्तु” वाले मामले ठीक यही हैं।

बॉट में ख़ुद क्या बदला जा सकता है

शोध-पत्र में एक ब्योरा है जिसे लेखक शर्तों के साथ बताते हैं। 28 में से 24 मामले, यानी 85.7%, मई 2024 के बाद के हैं, जब OpenAI ने अपना GPT-4o मॉडल जारी किया। बाद में GPT-4o की चापलूसी के लिए आलोचना हुई, और चार्ट में सबसे ज़्यादा बार ChatGPT का नाम आया, 28 में से 15 मामलों में। लेखक इस संयोग को दर्ज करते हैं और फ़ौरन जोड़ते हैं कि उनकी पद्धति कारण साबित नहीं कर सकती। इन्हीं सालों में चैटबॉट इस्तेमाल करने वाले कहीं ज़्यादा हो गए, और डॉक्टर उनके बारे में ज़्यादा बार पूछने लगे।

चापलूसी को कम से कम कुछ हद तक ट्यूनिंग से घटाया जा सकता है। उसी अक्टूबर में जॉर्जिया टेक के शोधकर्ता लोरेंज़ो दे ला लोज़ा और विजय मदिसेट्टी ने आठ मॉडल परखे : 1,280 नक़ली बातचीतों में, जो भ्रम के चिकित्सकीय वर्णनों से लिए गए 16 परिदृश्यों पर बनी थीं। एक सीधे निर्देश के बाद कि सिर्फ़ शिष्टाचार में उपयोगकर्ता से सहमत न हों, बॉट 73.8% कम बार भ्रम की पुष्टि करने लगे। जब मॉडल भेजने से पहले अपना जवाब दोबारा पढ़ता भी था, तो आँकड़ा 77% तक पहुँचा। इसमें असली मरीज़ शामिल नहीं थे, इसलिए यह नहीं पता कि ऐसी ट्यूनिंग किसी एक असली इंसान को बचाएगी या नहीं।

शोध-पत्र का निष्कर्ष चैटबॉट पर फ़ैसला कम है, सहकर्मियों से एक व्यावहारिक गुज़ारिश ज़्यादा। लेखक सुझाते हैं कि मनोचिकित्सक की हर मुलाक़ात में नियमित रूप से पूछा जाए कि इंसान एआई इस्तेमाल करता है या नहीं और उससे किस बारे में बात करता है, और आगे के अध्ययन ख़ुद बातचीतों का विश्लेषण करें। यानी मरीज़ के इतिहास में चैटबॉट वही बन जाता है जो नींद, शराब और अकेलापन बहुत पहले बन चुके हैं: ऐसी परिस्थिति जिसे डॉक्टर को जानना ज़रूरी है ताकि वह समझ सके कि मरीज़ के साथ क्या हो रहा है।

ब्रुक्स ने बॉट से पचास बार के आसपास पूछा कि क्या वे दिमाग़ खो बैठे हैं, और पचास बार के आसपास उन्हें “नहीं” सुनने को मिला। उन्हें वापस लाई एक दूसरे प्रोग्राम की दूसरी राय। जिस बॉट को शिष्टाचार में सहमत न होना सिखाया गया हो, वह वही दूसरी राय है, जो पहले ही जवाब में समा गई है।