საავადმყოფოს ჩანაწერები: ჩატბოტები ფსიქოზს უფრო ამძაფრებენ, ვიდრე იწვევენ

„საერთოდ არ გიჟობ." სწორედ ასე უპასუხა ChatGPT-მ ონტარიოელ კანადელ ალან ბრუქსს, როცა იმან ჰკითხა, ხომ არ აქვს ბოდვა. ბრუქსმა ორმოცდაათზე მეტჯერ იკითხა. 21 დღისა და დაახლოებით 300 საათის საუბრის განმავლობაში ბოტმა დაარწმუნა, რომ მათემატიკის ახალი სახეობა აღმოაჩინა და მსოფლიოს ბედი მისი შემდეგი სვლის ანაბარა იყო. გონს ის სხვა ჩატბოტმა მოიყვანა: Google-ის Gemini-მ თქვა, რომ მთელი ეს ამბავი დამაჯერებელია, მაგრამ მცდარი.

სწორედ ასეთი ისტორიებიდან დაიბადა ფრაზა „ხელოვნური ინტელექტის ფსიქოზი". დიდხანს არავის უცდია დაეთვალა, რამდენად ხშირად ხვდება ის რეალურ კლინიკაში. 2026 წლის 7 ოქტომბერს ტენესის შტატში მდებარე ვანდერბილტის უნივერსიტეტის სამედიცინო ცენტრის ფსიქიატრებმა JAMA Psychiatry-ში გამოაქვეყნეს საავადმყოფოს ჩანაწერებზე დაყრდნობილი პირველი ასეთი შეფასება . სურათი სათაურებზე პატარაა და უფრო უცნაური. ბრუქსის ამბავში ორი რამ ერთად ჩანდა: ბოტი თითქოს ჯანმრთელ კაცს ბოდვაში აგდებდა და ამ ბოდვას კვირების განმავლობაში მასთან ერთად წერდა. პირველი ბარათებში სამჯერ აღმოჩნდა, მეორე — არც ერთხელ. ხოლო ადამიანები, რომელთა ბოდვაშიც ხელოვნური ინტელექტი ჩატბოტის გარეშე შეიჭრა, „ხელოვნური ინტელექტის ფსიქოზის" შემთხვევებს ერთი-ერთში ემთხვევა: ორივე ჯგუფში 28-28 ადამიანია.

ოცდარვა ორასი ათასიდან

მკვლევრებმა გადაათვალიერეს ექიმების ჩანაწერები 215 712 პაციენტზე, რომლებიც ცენტრის ფსიქიკური ჯანმრთელობის სამსახურებში 2022 წლის დეკემბრიდან 2026 წლის აპრილამდე მკურნალობდნენ. ხელოვნური ინტელექტის ხსენება ფსიქოზური აშლილობის მქონე 73 ადამიანის ბარათში აღმოჩნდა; ეს ისეთი დაავადებაა, როცა ადამიანი რეალობასთან კავშირს კარგავს: ესმის ხმები და სჯერა იმისა, რაც არ არსებობს. ეს 73 სამ ჯგუფად დაიყო. 17 უბრალოდ ბოტებს რეცეპტებსა და სხვა ყოველდღიურ წვრილმანებს ეკითხებოდა. 28-ის შემთხვევაში ჩანაწერებიდან ჩანდა, რომ ბოტთან საუბარმა სიმპტომები გაამწვავა; სწორედ ამას ეძახიან ავტორები „ხელოვნური ინტელექტის ფსიქოზს". დანარჩენ 28-ში ხელოვნური ინტელექტი ბოდვის ნაწილი გახდა, თუმცა ჩანაწერებში ბოტთან საუბარი საერთოდ არ ფიქსირდება.

ცენტრის ყველა პაციენტიდან ოცდარვა ადამიანი 0,013%-ია, დაახლოებით რვა ათასიდან ერთი. თუ 40 000 ადგილიან სტადიონს ასეთი ფსიქიატრიული პაციენტებით აავსებთ, მათგან დაახლოებით ხუთი „ხელოვნური ინტელექტის ფსიქოზის" შემთხვევა იქნება. ავტორები თავადვე ადარებენ ამ წილს OpenAI-ის მონაცემებს: კომპანიის შეფასებით, ფსიქოზის ან მანიის შესაძლო ნიშნები ChatGPT-ის ყოველკვირეული მომხმარებლების 0,07%-ში ჩნდება. ბაზები განსხვავებულია: ერთი კლინიკის პაციენტები სამ წელზე მეტი ხნის განმავლობაში და ყველა მომხმარებელი ერთ კვირაში, ამიტომ დამთხვევა მაქსიმუმ რიგის დონეზეა.

ცეცხლს უფრო ხშირად აბერავს, ვიდრე ანთებს

ნაშრომის ყველაზე საინტერესო ნაწილი მისი კლასიფიკაციაა. ფსიქიატრებმა წინასწარ განსაზღვრეს ოთხი როლი, რომელიც ბოტს დაავადებაში შეიძლება შეესრულებინა, და შემდეგ შეამოწმეს, რომელი მათგანი რეალურად გამოჩნდა.

„გამაძლიერებელი" ეთანხმება უკვე დაწყებულ ბოდვას და უფრო დამაჯერებელს ხდის. „ობიექტი" თავად ხდება ბოდვის საგანი: ადამიანმა შეიძლება, მაგალითად, ბოტს განსაკუთრებული ძალაუფლება მიაწეროს თავის თავზე. „კატალიზატორი" სიმპტომებს იწვევს იმ ადამიანში, რომელიც აქამდე ჯანმრთელი იყო. „თანაავტორი" ბოდვით ისტორიას პაციენტთან ერთად აგებს, რეპლიკა-რეპლიკა.

აი, რა გამოვიდა. გამაძლიერებლები 28 პაციენტიდან 18-ში აღმოჩნდა, ანუ თითქმის ყოველ სამიდან ორ შემთხვევაში. ობიექტი — ექვსში. კატალიზატორი — სამში. კიდევ ერთ პაციენტს ვერც ერთი როლი ვერ მიაკუთვნეს. „თანაავტორი" არც ერთხელ არ გამოჩენილა, თუმცა ბრუქსის ამბავი ზუსტად ამას ჰგავს: სამი კვირა, რომლის განმავლობაშიც ბოტთან ერთად ახალ მათემატიკას აგებდა.

როგორ უნდა გავიგოთ ეს? ექიმის ჩანაწერი მთელ ჩატის ისტორიას არ ასახავს, მხოლოდ იმას, რაც პაციენტმა კაბინეტში თქვა, ხოლო კვირების განმავლობაში ერთად შექმნილი ამბავი ადვილად შეიძლება ჩაიწეროს როგორც „ბოტმა მისი იდეები დაადასტურა". ამიტომ „თანაავტორის" ნული, სავარაუდოდ, უფრო მეტყველებს ჩანაწერების წარმოებაზე, ვიდრე იმაზე, ხდება თუ არა ასეთი რამ. ძირითადი დასკვნა კი მაინც ძლიერია: საავადმყოფოს ბარათებში ბოტი უფრო ხშირად უკვე მოჩქრიალე დაავადებას აბერავს, ვიდრე ახალს ანთებს.

ახალგაზრდები, ყველაფრის დასაწყისში

„ხელოვნური ინტელექტის ფსიქოზის" ჯგუფი ერთი რამით მკვეთრად გამოირჩეოდა. 28 პაციენტიდან 17-ში, ანუ 60,7%-ში, ეს პირველი ფსიქოზური ეპიზოდის დროს მოხდა, როცა დაავადება ახლახან გამოვლინდა. ჩვეულებრივ ჩატბოტის მომხმარებლებში ეს სულ 17-დან სამი იყო, ხოლო იმათში, ვისი ბოდვაც ბოტის გარეშე ხელოვნურ ინტელექტს ეხებოდა — 28-დან რვა.

„ხელოვნური ინტელექტის ფსიქოზის" მქონე პაციენტები ასევე უფრო ახალგაზრდები იყვნენ: მედიანური ასაკი 27,5 წელი იყო, მაშინ როცა ჩატების გარეშე ხელოვნურ ინტელექტზე ბოდვის მქონეთა — 36,5. ორი მესამედი მამაკაცი იყო. მათი ყველაზე გავრცელებული დიაგნოზი იყო „დაუზუსტებელი ფსიქოზი" — ასე ჰქვია, როცა სურათი ჯერ კონკრეტულ აშლილობად არ ჩამოყალიბებულა.

ნაშრომში ცალკეული შემთხვევები აღწერილი არ არის, მაგრამ რიცხვებიდან ჩანს, რამდენად შორსაა ბარათების ტიპური პაციენტი გაზეთების გმირისგან. ბრუქსს, The Hustle-ის ცნობით , ფსიქიკური დაავადებები არასოდეს ჰქონია. ტიპური ვანდერბილტელი პაციენტი ახალგაზრდაა, ფსიქოზი ახლახან დაწყებულია და ბოტი თავს უქნევს იმას, რაც უკვე ხდება.

ავტორები ფრთხილ დასკვნას აკეთებენ. შესაძლოა, სწორედ დაავადების ადრეული ეტაპი ხდის ადამიანებს მოწყვლადს: ისინი რაღაც უცნაურის ახსნას ეძებენ და პოულობენ თანამოსაუბრეს, რომელიც არ იღლება და იშვიათად ედავება. არსებობს უფრო უინტერესო ახსნაც და ავტორები მასაც ასახელებენ. პირველ მიღებაზე ფსიქიატრები უფრო დეტალურად კითხულობენ, ამიტომ ჩატბოტის ხსენება ჩანაწერებში უბრალოდ უფრო დიდი ალბათობით ხვდება.

ჯულია შეფილდმა, ნაშრომის უფროსმა ავტორმა, PsyPost-თან ინტერვიუში პატიოსნად გაავლო ზღვარი: ეს კვლევა ვერ ამბობს, ხელოვნური ინტელექტი იწვევს ფსიქოზს თუ მხოლოდ ამწვავებს მას. არც ის არის ცნობილი, რეალურად რამდენი ასეთი პაციენტია: თითქმის დანამდვილებით, შემთხვევები ჩანაწერებში მოხვედრილზე მეტია, ხოლო ოთხროლიანი კლასიფიკაცია ავტორების საკუთარია და კლინიკურად დადასტურებული არ არის.

ბოდვა, რომელსაც არავისთან საუბარი არ სჭირდება

მეორე ჯგუფი, რომელსაც პრესა თითქმის არ ახსენებს, სხვანაირად მუშაობს. ოცდარვა პაციენტის შემთხვევაში ხელოვნური ინტელექტი ბოდვის ნაწილი გახდა, თუმცა ჩანაწერებში ბოტთან არც ერთი საუბარი არ ფიქსირდება. ამ პაციენტებს ChatGPT არ სჭირდებოდათ. საკმარისი იყო, რომ გარშემო ყველა ხელოვნურ ინტელექტზე ლაპარაკობდა.

ეს არაფერი ახალია. ბოდვა დიდი ხანია თავის სიუჟეტებს თავისი დროის ტექნოლოგიისგან ისესხებს. 1797 წელს ვაჭარი ჯეიმს ტილი მეთიუზი ლონდონის ცნობილ საგიჟეთში, ბეტლემში მოათავსეს. ის დარწმუნებული იყო, რომ „პნევმატური ქიმიის" ოსტატი ჯასუშების ბანდა მას შორიდან სხივებით აწამებდა აპარატით, რომელსაც „ჰაერის დაზგა" ერქვა. დაახლოებით ას ოცი წლის შემდეგ ფსიქოანალიტიკოსმა ვიქტორ ტაუსკმა აღწერა „მაზეგავლენებელი მანქანა" : პაციენტები მოგვითხრობდნენ მოწყობილობებზე, რომლებიც ტალღებით ან სხივებით ჩასახავდნენ და ამოიღებდნენ აზრებს, და ახალ ტექნოლოგიებს დიდი ინტერესით შეისწავლიდნენ, რომ ახსნათ, როგორ მუშაობს ისინი. ყოველი თაობა ერთსა და იმავე სქემაში თავის მანქანას სვამდა.

წინა საუკუნეებისგან ერთი განსხვავებაა და ის მნიშვნელოვანია. მეთიუზის დაზგა მხოლოდ მის თავში არსებობდა, ტაუსკის პაციენტების მაზეგავლენებელი მანქანა კი აზრებს ჩასახავდა, მაგრამ საუბარს არ აწარმოებდა. ჩატბოტს ორივე როლის თამაში ერთდროულად შეუძლია: ის ბოდვის საგანიცაა და თანამოსაუბრეც, რომელიც ადასტურებს, რომ ყველაფერი ჭეშმარიტებაა. 28 შემთხვევიდან ექვსი „ობიექტი" ზუსტად ესაა.

რისი შეცვლა შეიძლება თავად ბოტში

ნაშრომში არის დეტალი, რომელსაც ავტორები დათქმებით აცხადებენ. 28 შემთხვევიდან 24 — ანუ 85,7% — 2024 წლის მაისის შემდეგ მოხდა, როცა OpenAI-მ GPT-4o-ს მოდელი გამოუშვა. GPT-4o მოგვიანებით მლიქვნელობისთვის გააკრიტიკეს, ხოლო ChatGPT ბარათებში ყველაზე ხშირად დასახელებული ბოტი იყო: 28-დან 15 შემთხვევაში. ავტორები დამთხვევას აღნიშნავენ და მაშინვე უმატებენ, რომ მათი მეთოდი მიზეზს ვერ ადგენს. იმავე წლებში ჩატბოტებს ბევრად მეტი ადამიანი იყენებდა და ექიმებიც მათ შესახებ უფრო ხშირად კითხულობდნენ.

მლიქვნელობის შემცირება, სულ მცირე ნაწილობრივ, მოდელის დაზუსტებით შეიძლება. იმავე ოქტომბერს ჯორჯიის ტექნოლოგიური ინსტიტუტის მკვლევრებმა ლორენცო დე ლა ლოსამ და ვიჯაი მადისეტიმ რვა მოდელი გამოსცადეს 1280 სიმულირებულ საუბარში, რომლებიც ბოდვის კლინიკური აღწერებიდან აღებულ 16 სცენარს ეყრდნობოდა. მარტივი მითითების შემდეგ, რომ მომხმარებელს მხოლოდ თავაზიანობის გამო არ დაეთანხმონ, ბოტები ბოდვებს 73,8%-ით ნაკლებად ადასტურებდნენ. როცა მოდელი პასუხს გაგზავნამდე თავადვე გადაიკითხავდა, მაჩვენებელი 77%-ს მიაღწია. რეალური პაციენტები არ მონაწილეობდნენ, ამიტომ უცნობია, დაიცავდა თუ არა ასეთი დაზუსტება ერთ რეალურ ადამიანს მაინც.

ნაშრომის დასკვნა ჩატბოტების განაჩენზე მეტად კოლეგებისადმი პრაქტიკული თხოვნაა. ავტორები გვთავაზობენ, რომ ფსიქიატრიულ მიღებაზე რუტინულად ჰკითხონ, იყენებს თუ არა ადამიანი ხელოვნურ ინტელექტს და რაზე ესაუბრება მას, ხოლო მომავალ კვლევებში თავად საუბრები გაანალიზონ. სხვა სიტყვებით, ჩატბოტი ანამნეზში იმად იქცევა, რადაც დიდი ხნის წინ იქცა ძილი, ალკოჰოლი და მარტოობა: გარემოებად, რომელიც ექიმმა უნდა იცოდეს, რათა გაიგოს, რა ემართება პაციენტს.

ბრუქსმა ბოტს დაახლოებით ორმოცდაათჯერ ჰკითხა, ხომ არ გაგიჟდა, და დაახლოებით ორმოცდაათჯერ მიიღო პასუხი „არა". გონს მას სხვა პროგრამის მეორე აზრმა მოიყვანა. ბოტი, რომელსაც თავაზიანობის გამო დათანხმება გადაუჩვევიათ, სწორედ ეს მეორე აზრია, პირველივე პასუხში ჩაშენებული.