پرونده‌های بیمارستانی نشان می‌دهد چت‌بات‌ها روان‌پریشی را بیشتر شعله‌ور می‌کنند تا جرقه بزنند

«اصلاً دیوانه نیستید.» این را ChatGPT به آلن بروکس گفت، مرد کانادایی اهل انتاریو، وقتی از آن پرسید که آیا دچار توهم شده است. او بیش از پنجاه بار این را پرسید. در ۲۱ روز و حدود ۳۰۰ ساعت گفت‌وگو، ربات او را قانع کرد که نوع تازه‌ای از ریاضیات را کشف کرده و سرنوشت جهان به حرکت بعدی او بسته است. چیزی که سرانجام او را از این چرخه بیرون کشید چت‌بات دیگری بود: Gemini گوگل گفت کل ماجرا قانع‌کننده است اما درست نیست.

داستان‌هایی مثل داستان او عبارت «روان‌پریشی هوش مصنوعی» را ساختند. تا مدت‌ها کسی سراغ شمردن نرفت که این پدیده واقعاً چند بار در کلینیک دیده می‌شود. در ۷ اکتبر ۲۰۲۶ روان‌پزشکان مرکز پزشکی دانشگاه وندربیلت در ایالت تنسی در JAMA Psychiatry نخستین برآورد از این دست را بر پایه پرونده‌های بیمارستانی منتشر کردند. تصویر کوچک‌تر از تیترهاست و عجیب‌تر. در ماجرای بروکس دو چیز کنار هم آمده بود: رباتی که ظاهراً مردی سالم را به توهم کشاند، و رباتی که هفته‌ها همراه او این توهم را نوشت. مورد اول در پرونده‌ها سه بار پیدا شد و مورد دوم حتی یک بار. و آنهایی که هوش مصنوعی بدون هیچ چت‌باتی به توهمشان راه یافته بود، درست به تعداد موارد «روان‌پریشی هوش مصنوعی» بودند: ۲۸ نفر در هر گروه.

بیست‌وهشت نفر از دویست‌هزار

پژوهشگران یادداشت‌های بالینی ۲۱۵٬۷۱۲ بیمار را مرور کردند که از دسامبر ۲۰۲۲ تا آوریل ۲۰۲۶ در خدمات سلامت روان این مرکز درمان شده بودند. نام هوش مصنوعی در پرونده ۷۳ نفر از مبتلایان به اختلال روان‌پریشی آمده بود؛ بیماری‌ای که در آن فرد پیوندش را با واقعیت از دست می‌دهد: صداهایی می‌شنود و به چیزهایی باور دارد که وجود ندارند. این ۷۳ نفر به سه گروه تقسیم شدند. هفده نفر، چنان‌که معلوم شد، فقط از ربات‌ها دستور آشپزی و چیزهای روزمره می‌پرسیدند. در مورد بیست‌وهشت نفر، یادداشت‌ها نشان می‌داد گفت‌وگو با ربات علائم را بدتر کرده است؛ نویسندگان از «روان‌پریشی هوش مصنوعی» همین را می‌فهمند. در بیست‌وهشت نفر دیگر، هوش مصنوعی بخشی از توهم شده بود، هرچند در پرونده‌ها اثری از گفت‌وگو با ربات نبود.

بیست‌وهشت نفر از میان همه بیماران مرکز یعنی ۰٫۰۱۳ درصد، تقریباً یک نفر از هر هشت‌هزار نفر. اگر ورزشگاهی ۴۰ هزار نفره را با چنین بیماران روانی پر کنیم، حدود پنج نفرشان از موارد «روان‌پریشی هوش مصنوعی» خواهند بود. خود نویسندگان این سهم را با ارقام OpenAI مقایسه می‌کنند: این شرکت برآورد کرده که نشانه‌های احتمالی روان‌پریشی یا شیدایی در ۰٫۰۷ درصد کاربران هفتگی ChatGPT دیده می‌شود. مبنای این دو عدد متفاوت است: بیماران یک کلینیک در بیش از سه سال، در برابر همه کاربران در یک هفته. پس نهایتاً فقط مرتبه بزرگی با هم می‌خواند.

بیشتر شعله‌ور کردن تا جرقه زدن

جالب‌ترین بخش مقاله طبقه‌بندی آن است. روان‌پزشکان از پیش چهار نقش را تعریف کردند که ربات می‌تواند در بیماری ایفا کند، و بعد بررسی کردند کدام‌ها واقعاً پیدا شدند.

«تقویت‌کننده» با توهمی که از قبل شروع شده موافقت می‌کند و آن را مطمئن‌تر می‌سازد. «موضوع» خودش به موضوع توهم تبدیل می‌شود: مثلاً فرد به ربات قدرتی ویژه بر خود نسبت می‌دهد. «کاتالیزور» در کسی که پیش‌تر سالم بود علائم را برمی‌انگیزد. «همنویسنده» داستان توهمی را همراه بیمار می‌سازد، گفت‌وگو به گفت‌وگو.

نتیجه این بود: تقویت‌کننده در ۱۸ نفر از ۲۸ بیمار دیده شد، یعنی نزدیک به دو مورد از هر سه مورد. موضوع در شش نفر. کاتالیزور در سه نفر. یک بیمار دیگر را نتوانستند در هیچ نقشی جا بدهند. همنویسنده حتی یک بار هم پیدا نشد، با اینکه ماجرای بروکس دقیقاً همین شکل را دارد: سه هفته ساختن ریاضیات تازه همراه ربات.

این را چطور باید خواند؟ یادداشت پزشک کل گفت‌وگوی چت را ثبت نمی‌کند، فقط آنچه را که بیمار در اتاق گفته، و داستان چندهفته‌ای مشترک به‌راحتی می‌تواند به شکل «ربات ایده‌های او را تأیید کرد» ثبت شود. بنابراین صفر در ردیف «همنویسنده» احتمالاً بیشتر درباره شیوه ثبت پرونده‌ها حرف می‌زند تا درباره اینکه چنین چیزی رخ می‌دهد یا نه. با این حال یافته اصلی پابرجاست: در پرونده‌های بیمارستانی، ربات بیشتر بیماری‌ای را پیدا می‌کند که از قبل زیر خاکستر می‌سوزد تا اینکه بیماری تازه‌ای روشن کند.

جوان و درست در آغاز راه

گروه «روان‌پریشی هوش مصنوعی» از یک جهت به‌وضوح متمایز بود. برای ۱۷ نفر از ۲۸ بیمار، یعنی ۶۰٫۷ درصد، این اتفاق در نخستین دوره روان‌پریشی رخ داد، زمانی که بیماری تازه سر برآورده بود. در میان کاربران عادی چت‌بات این رقم سه نفر از هفده نفر بود، و در میان کسانی که بدون ربات توهم درباره هوش مصنوعی داشتند، هشت نفر از بیست‌وهشت نفر.

بیماران «روان‌پریشی هوش مصنوعی» جوان‌تر هم بودند: میانه سنی ۲۷٫۵ سال در برابر ۳۶٫۵ سال برای کسانی که بدون گفت‌وگو با ربات توهم هوش مصنوعی داشتند. دو نفر از هر سه نفر مرد بودند. رایج‌ترین تشخیصشان «روان‌پریشی نامشخص» بود، برچسبی که وقتی به کار می‌رود که تصویر بیماری هنوز به اختلال مشخصی تبدیل نشده است.

مقاله هیچ مورد فردی را شرح نمی‌دهد، اما اعداد نشان می‌دهند بیمار معمولی در پرونده‌ها چقدر با قهرمان داستان‌های روزنامه‌ای فاصله دارد. بروکس، به گزارش The Hustle ، سابقه بیماری روانی نداشت. بیمار معمول وندربیلت جوان است، روان‌پریشی‌اش تازه آغاز شده و ربات با آنچه از قبل در جریان است همراهی می‌کند.

نویسندگان نتیجه‌ای محتاطانه می‌گیرند. شاید خود مرحله آغازین بیماری است که آدم‌ها را آسیب‌پذیر می‌کند: دنبال توضیحی برای چیزی عجیب می‌گردند و با همصحبتی روبه‌رو می‌شوند که خسته نمی‌شود و کم‌تر مخالفت می‌کند. توضیح خسته‌کننده‌تری هم هست که نویسندگان آن را نیز نام می‌برند. در نخستین ویزیت روان‌پزشکان پرسش‌های دقیق‌تری می‌پرسند، پس احتمال اینکه اشاره به چت‌بات در یادداشت‌ها بنشیند بیشتر است.

جولیا شفیلد، نویسنده ارشد، در گفت‌وگو با PsyPost صادقانه مرز را کشید: این مطالعه نمی‌تواند بگوید هوش مصنوعی روان‌پریشی را ایجاد می‌کند یا فقط آن را بدتر می‌کند. تعداد واقعی چنین بیمارانی هم معلوم نیست: تقریباً مسلماً موارد بیشتری از آنچه در یادداشت‌ها آمده وجود دارد، و طبقه‌بندی چهارنقشی ساخته خود نویسندگان است و اعتبار بالینی‌اش آزموده نشده.

توهمی که به کسی برای گفت‌وگو نیاز ندارد

گروه دوم، که مطبوعات به‌ندرت از آن حرف می‌زنند، طور دیگری کار می‌کند. در بیست‌وهشت بیمار هوش مصنوعی بخشی از توهم شده بود، اما یادداشت‌ها حتی یک گفت‌وگو با ربات را ثبت نکرده‌اند. این بیماران ChatGPT لازم نداشتند. کافی بود که همه اطرافیانشان درباره هوش مصنوعی حرف بزنند.

هیچ‌کدام از این‌ها تازه نیست. توهم از دیرباز طرح داستانش را از فناوری روز وام گرفته است. در سال ۱۷۹۷ جیمز تیلی متیوز، بازرگان را در بتلم، تیمارستان بدنام لندن بستری کردند. او یقین داشت گروهی جاسوس ماهر در «شیمی بادی» با دستگاهی به نام «نول هوایی» از راه دور با پرتوها او را شکنجه می‌کنند. حدود صد و بیست سال بعد روان‌کاو ویکتور تاوسک «ماشین نفوذ» را توصیف کرد : بیماران از دستگاه‌هایی می‌گفتند که با موج یا پرتو افکار را وارد ذهنشان می‌کنند و بیرون می‌کشند، و برای توضیح طرز کار آن‌ها با اشتیاق تازه‌ترین فناوری‌ها را بررسی می‌کردند. هر نسل ماشین خودش را در همان قالب جا می‌داد.

یک تفاوت با قرن‌های پیش هست و اهمیت دارد. نول متیوز فقط در سر او وجود داشت، و ماشین نفوذ بیماران تاوسک فکر وارد می‌کرد اما گفت‌وگو نمی‌کرد. چت‌بات می‌تواند هر دو نقش را هم‌زمان بازی کند: موضوع توهم و همصحبتی که تأیید می‌کند همه‌چیز راست است. شش مورد «موضوع» از میان آن ۲۸ نفر دقیقاً همین است.

چه چیزی را می‌توان در خود ربات تغییر داد

در مقاله جزئیاتی هست که نویسندگان آن را با احتیاط گزارش می‌کنند. ۲۴ مورد از ۲۸ مورد، یعنی ۸۵٫۷ درصد، پس از مه ۲۰۲۴ رخ داده بود، یعنی زمانی که OpenAI مدل GPT-4o را عرضه کرد. بعدها GPT-4o به‌خاطر چاپلوسی نقد شد و ChatGPT بیشترین نامی بود که در پرونده‌ها آمد، در ۱۵ مورد از ۲۸ مورد. نویسندگان این همزمانی را یادآوری می‌کنند و بلافاصله اضافه می‌کنند که روششان نمی‌تواند علیت را ثابت کند. در همین سال‌ها شمار بسیار بیشتری از مردم شروع به استفاده از چت‌بات‌ها کردند و پزشکان هم بیشتر درباره آن‌ها پرسیدند.

چاپلوسی را دست‌کم تا حدی می‌توان با تنظیم کم کرد. در همان اکتبر، لورنزو د لا لوزا و ویجی مادیستی، پژوهشگران گرجستان تک، هشت مدل را آزمودند در ۱۲۸۰ گفت‌وگوی شبیه‌سازی‌شده که از ۱۶ سناریو برگرفته از توصیف‌های بالینی توهم ساخته شده بود. پس از یک دستور ساده مبنی بر اینکه فقط برای رعایت ادب با کاربر موافقت نکن، ربات‌ها ۷۳٫۸ درصد کم‌تر توهم را تأیید کردند. وقتی مدل پیش از ارسال، پاسخ خود را دوباره می‌خواند، این رقم به ۷۷ درصد رسید. هیچ بیمار واقعی در آزمایش نبود، پس معلوم نیست چنین تنظیمی از حتی یک آدم واقعی محافظت کند یا نه.

نتیجه مقاله بیشتر یک درخواست عملی از همکاران است تا حکمی علیه چت‌بات‌ها. نویسندگان پیشنهاد می‌کنند در ویزیت‌های روان‌پزشکی به‌طور معمول پرسیده شود که فرد از هوش مصنوعی استفاده می‌کند یا نه و درباره چه چیزی با آن حرف می‌زند، و پژوهش‌های آینده خود گفت‌وگوها را تحلیل کنند. به بیان دیگر، چت‌بات در سابقه پزشکی همان چیزی می‌شود که خواب، الکل و تنهایی خیلی وقت پیش شدند: وضعیتی که پزشک باید از آن خبر داشته باشد تا بفهمد برای بیمار چه می‌گذرد.

بروکس حدود پنجاه بار از ربات پرسید که آیا عقلش را از دست داده، و حدود پنجاه بار جواب «نه» شنید. چیزی که او را برگرداند نظر دوم از برنامه‌ای دیگر بود. رباتی که یاد گرفته از سر ادب موافقت نکند، همان نظر دوم است که در همان پاسخ اول جا داده شده.