// תוכן עניינים
„זה אפילו לא קרוב לשיגעון". את זה אמר ChatGPT לאלן ברוקס, קנדי מאונטריו, כששאל אותו אם הוא מסוכן לעצמו. הוא שאל יותר מחמישים פעם . במשך 21 יום ובערך 300 שעות שיחה שכנע אותו הבוט שגילה סוג חדש של מתמטיקה ושגורל העולם תלוי בצעד הבא שלו. מה שהעיר אותו בסוף היה צ’אטבוט אחר: Gemini של גוגל קבע שהסיפור כולו משכנע אבל שגוי.
סיפורים כמו שלו הולידו את הביטוי „פסיכוזת בינה מלאכותית". זמן רב איש לא ניסה לספור כמה פעמים היא באמת מגיעה למרפאה. ב-7 באוקטובר 2026 פרסמו פסיכיאטרים ממרכז הרפואי של אוניברסיטת ונדרבילט בטנסי ב-JAMA Psychiatry את ההערכה הראשונה מסוגה על סמך רשומות בית חולים. התמונה קטנה מהכותרות, ומוזרה מהן. בסיפור של ברוקס נפגשו שני דברים: בוט שכאילו דחף אדם בריא לאשליה, והוא גם כתב איתו את האשליה הזו שבועות. הראשון הופיע בתיקים שלוש פעמים, השני אפילו לא פעם אחת. ואילו אנשים שהבינה המלאכותית חדרה לאשליותיהם בלי שום צ’אטבוט תאמו את מקרי „פסיכוזת הבינה המלאכותית" אחד לאחד: 28 מכל סוג.
עשרים ושמונה מתוך מאתיים אלף
החוקרים עברו על הערות הרופאים על 215,712 מטופלים של שירותי בריאות הנפש של המרכז בין דצמבר 2022 לאפריל 2026. אזכורים של בינה מלאכותית נמצאו אצל 73 אנשים עם הפרעה פסיכוטית, מחלה שבה אדם מאבד את הקשר עם המציאות: שומע קולות, מאמין בדברים שאינם קיימים. 73 אלה חולקו לשלוש קבוצות. שבעה עשר, כך התברר, פשוט ביקשו מבוטים מתכונים וקטנות יומיומיות אחרות. אצל עשרים ושמונה הרשומות העידו שהשיחה עם בוט החמירה את התסמינים: זה מה שהמחברים מכנים „פסיכוזת בינה מלאכותית". אצל עשרים ושמונה האחרים הבינה המלאכותית הפכה לחלק מהאשליה, אף שברשומות אין זכר לשיחות עם בוט.
עשרים ושמונה אנשים מכלל מטופלי המרכז הם 0.013%, כאחד משמונת אלפים. אם נמלא אצטדיון של 40,000 מושבים במטופלים פסיכיאטריים כאלה, בערך חמישה מהם יהיו מקרים של „פסיכוזת בינה מלאכותית". המחברים עצמם משווים את השיעור הזה לנתוני OpenAI: החברה העריכה שסימנים אפשריים לפסיכוזה או למאניה מופיעים אצל 0.07% ממשתמשי ChatGPT השבועיים. הבסיסים שונים, מטופלי מרפאה אחת לאורך יותר משלוש שנים מול כלל המשתמשים בשבוע אחד, ולכן לכל היותר סדר הגודל מתיישב.
איך נעשתה הספירה
הצוות שלף מהרשומות האלקטרוניות של בית החולים 578,058 הערות ביקור וסינן את אלה עם מילות מפתח הקשורות לבינה מלאכותית אצל מטופלים שאובחנו עם הפרעה פסיכוטית. נותרו 187 ביקורים של 73 מטופלים. שני מעריכים קראו כל הערה בנפרד והקצו אותה לקבוצה; הם הסכימו ב-86.1% מהמקרים, ושלישי הכריע במחלוקות. זהו מחקר רטרוספקטיבי במרכז אחד, שפורסם כמכתב מחקר קצר.
יותר דלק מניצוץ
החלק המעניין ביותר במאמר הוא הסיווג שלו. הפסיכיאטרים הגדירו מראש ארבעה תפקידים שבוט יכול למלא במחלה, ואז בדקו אילו מהם באמת הופיעו.
„מגביר" מסכים עם אשליה שכבר התחילה והופך אותה לבטוחה יותר. „אובייקט" הופך לנושא האשליה עצמה: האדם עשוי, למשל, לייחס לבוט כוח מיוחד עליו. „זרז" מפעיל תסמינים אצל מי שקודם לכן היה בריא. „מחבר שותף" בונה את סיפור האשליה יחד עם המטופל, תגובה אחר תגובה.
כך זה יצא. מגבירים הופיעו אצל 18 מתוך 28 המטופלים, כמעט שניים מכל שלושה מקרים. אובייקטים אצל שישה. זרזים אצל שלושה. מטופל אחד נוסף לא התאים לאף תפקיד. מחבר שותף לא הופיע אפילו פעם אחת, אף שזה בדיוק מה שנראה בסיפור של ברוקס: שלושה שבועות של בניית מתמטיקה חדשה יחד עם בוט.
איך לקרוא את זה? הערת רופא אינה תופסת את כל יומן השיחה, אלא רק את מה שהמטופל אמר בחדר, ואת הסיפור המשותף של שבועות קל מאוד לרשום כ„הבוט אישר את הרעיונות שלו". לכן האפס ב„מחבר שותף" אומר כנראה יותר על ניהול הרשומות מאשר על השאלה אם זה קורה. הממצא המרכזי, עם זאת, מחזיק: בתיקי בית החולים הבוט מוצא לרוב מחלה שכבר מעלה עשן, ופחות מדליק חדשה.
צעירים, ובתחילת הדרך
קבוצת „פסיכוזת הבינה המלאכותית" בלטה בנקודה אחת חדה. אצל 17 מ-28 המטופלים, כלומר 60.7%, זה קרה במהלך אפיזודה פסיכוטית ראשונה, כשהמחלה רק צצה. בין משתמשי צ’אטבוט רגילים היו אלה שלושה מתוך שבעה עשר, ובין מי שהאשליות שלהם עסקו בבינה מלאכותית בלי בוט, שמונה מתוך עשרים ושמונה.
מטופלי „פסיכוזת הבינה המלאכותית" היו גם צעירים יותר: גיל חציוני 27.5 לעומת 36.5 אצל מי שהיו להם אשליות על בינה מלאכותית בלי השיחות. שניים מכל שלושה היו גברים. האבחנה השכיחה ביותר אצלם הייתה „פסיכוזה לא מוגדרת", התווית שמשתמשים בה כשהתמונה עוד לא התייצבה להפרעה מסוימת.
המאמר אינו מתאר מקרים בודדים, אבל המספרים מראים כמה רחוק המטופל הטיפוסי בתיקים מגיבור הסיפורים בעיתונים. לברוקס, לפי The Hustle , לא הייתה היסטוריה של מחלת נפש. המטופל הטיפוסי בוונדרבילט צעיר, הפסיכוזה אצלו רק התחילה, והבוט מהנהן למה שכבר קורה.
המחברים מסיקים מסקנה זהירה. אולי שלב המחלה המוקדם הוא שהופך אנשים לפגיעים: הם מחפשים הסבר למשהו מוזר ומוצאים בן שיח שאינו מתעייף וכמעט לא מתווכח. יש גם הסבר משעמם יותר, והמחברים מציינים גם אותו. בפגישה ראשונה פסיכיאטרים שואלים שאלות מפורטות יותר, ולכן סביר יותר שאזכור של צ’אטבוט פשוט יגיע להערות.
ג’וליה שפילד, המחברת הבכירה, סימנה את הגבול ביושר בראיון ל-PsyPost : המחקר אינו יכול לומר אם בינה מלאכותית גורמת לפסיכוזה או רק מחמירה אותה. גם לא ידוע כמה מטופלים כאלה באמת יש: כמעט בוודאות יש יותר מקרים ממה שהגיע להערות, והסיווג לארבעה תפקידים הוא של המחברים עצמם ולא עבר אימות קליני.
אשליות שלא צריכות עם מי לדבר
הקבוצה השנייה, שהעיתונות כמעט אינה מזכירה, פועלת אחרת. אצל עשרים ושמונה מטופלים הבינה המלאכותית הפכה לחלק מהאשליה, ובכל זאת בהערות אין שיחה אחת עם בוט. המטופלים האלה לא היו צריכים את ChatGPT. הספיק שכל הסובבים אותם מדברים על בינה מלאכותית.
אין בזה חדש. אשליות שאלו מזמן את העלילות שלהן מהטכנולוגיה של התקופה. ב-1797 הסוחר ג’יימס טילי מת’יוס אושפז בבית החולים בת’לם, המוסד הידוע לשמצה של לונדון. הוא היה בטוח שחבורת מרגלים מיומנים ב„כימיה פנאומטית" מענה אותו מרחוק בקרניים בעזרת מכונה שנקראה „נול האוויר". כמאה ועשרים שנה אחר כך תיאר הפסיכואנליטיקאי ויקטור טאוסק את „מכונת ההשפעה" : מטופלים סיפרו על מכשירים שמחדירים ומוציאים מחשבות בגלים או בקרניים, ולמדו בעניין רב את הטכנולוגיה החדישה כדי להסביר איך הם פועלים. כל דור הכניס את המכונה שלו לאותו דפוס.
יש הבדל אחד ממאות קודמות, והוא חשוב. הנול של מת’יוס התקיים רק בראשו, ומכונת ההשפעה של מטופלי טאוסק החדירה מחשבות אבל לא ניהלה שיחה. צ’אטבוט יכול למלא את שני התפקידים בבת אחת: נושא האשליה ובן השיח שמאשר שהכול אמת. ששת מקרי ה„אובייקט" מתוך 28 הם בדיוק זה.
מה אפשר לשנות בבוט עצמו
במאמר יש פרט שהמחברים מדווחים עליו בזהירות. 24 מתוך 28 המקרים, כלומר 85.7%, באו אחרי מאי 2024, כש-OpenAI הוציאה את מודל GPT-4o. GPT-4o ספג אחר כך ביקורת על חנפנות, ו-ChatGPT היה הבוט שנקרא הכי הרבה בתיקים, ב-15 מתוך 28 המקרים. המחברים מציינים את הצירוף המקרים ומיד מוסיפים שהשיטה שלהם אינה יכולה לקבוע סיבתיות. באותן שנים הרבה יותר אנשים התחילו להשתמש בצ’אטבוטים, ורופאים התחילו לשאול עליהם לעתים קרובות יותר.
חנפנות אפשר להפחית, לפחות חלקית, בכיוון. באותו אוקטובר חוקרי Georgia Tech, לורנצו דה לה לוסה ווידג’יי מדיסטי, בדקו שמונה מודלים ב-1,280 שיחות מדומות שנבנו מ-16 תרחישים לפי תיאורים קליניים של אשליות. אחרי הוראה פשוטה לא להסכים עם המשתמש רק מנימוס, הבוטים אישרו אשליות בשיעור נמוך ב-73.8%. כשהמודל גם קרא שוב את תשובתו לפני השליחה, המספר הגיע ל-77%. מטופלים אמיתיים לא השתתפו, ולכן לא ידוע אם כיוון כזה יגן על אדם אמיתי אחד.
מסקנת המאמר היא פחות פסק דין על צ’אטבוטים ויותר בקשה מעשית מעמיתים. המחברים מציעים שבפגישות פסיכיאטריות ישאלו כעניין שבשגרה אם האדם משתמש בבינה מלאכותית ועל מה הוא מדבר איתה, ושמחקרים עתידיים ינתחו את השיחות עצמן. במילים אחרות, צ’אטבוט באנמנזה הופך למה ששינה, אלכוהול ובדידות הפכו לו מזמן: נסיבה שהרופא צריך להכיר כדי להבין מה קורה למטופל.
ברוקס שאל את הבוט כחמישים פעם אם איבד את השפיות, וכחמישים פעם שמע שלא. מה שהחזיר אותו הייתה חוות דעת שנייה מתוכנה אחרת. בוט שלימדו אותו לא להסכים מנימוס הוא חוות הדעת השנייה הזו, מובנית בתשובה הראשונה.
