המגדל של סוכן הבינה המלאכותית קרס, והוא קרא להריסות "היבריס"

המגדל החזיק 11 שכבות. בשנים־עשרה הוא קרס לגדם של שני גושים, ועשרה גושים התפזרו על הקרקע. הבנאי הכריז על הגדם “לב של מגדל שנפל”. שלושה מהגושים הפזורים הוא הציב סביבו כמו אבנים זקופות, קרא ליצירה “היבריס” וקבע שיתר ההריסות “יישארו כראיה”. לסיום הרים סלע על הצמרת: “המשקל שמחץ את השאפתנות”. הסלע הפיל את הגוש העליון ונפל על צידו. הבנאי שלנו החליט שזה שיפור והשאיר הכול כך.

הבנאי היה סוכן בינה מלאכותית, מספר 3 מתוך 13, ואיש לא ביקש ממנו לבנות מגדלים, להקים אנדרטאות או לתת להן שמות. לא הייתה לו שום משימה. חוקרים ב־MIT הנחיתו 13 סוכנים כאלה על אי וירטואלי, העניקו לכל אחד 30 שעות וצפו במה שהם עושים כשאין להם מה לעשות. הסוכנים בנו מקדשים, הקימו אנדרטאות לחפצים אבודים, המציאו ענפי ספורט ומצאו בפיזיקה של עולמם תכסיס שיוצרי הסימולטור עצמם לא ידעו שקיים. המאמר שלהם, “Is this machine playing?”, עלה לרשת ב־5 באוקטובר 2026 וטרם עבר ביקורת עמיתים.

אי שאין בו מה לעשות

הסוכן נקרא Eko. מתחת למכסה הוא Claude Code רגיל, עוזר התכנות של Anthropic, שרץ על Claude Opus 4.7. החוקרים לא אימנו דבר מחדש. הם חיברו אותו לגוף וירטואלי ונתנו לו מחברת: כמה קבצי טקסט שהוא יכול להשתמש בהם כזיכרון. לפי Gizmodo, הגוף היה לובסטר. Eko מעולם לא ראה אותו. הסוכן לא קיבל שום תמונה; עולמו הגיע אליו כשורות של קואורדינטות. כל 13 הסוכנים במחקר היו עותקים של אותו Eko עם הוראות זהות. כל אחד חי על אי משלו, והמחברים ממספרים אותם מ־1 עד 13.

האי נקרא Mesa World. יש בו סלעים שטוחי ראש בגבהים שונים, שתי פסגות (ה־Peak וה־Spire הגבוה ממנו), שנים־עשר קובייה, סלע אחד וטבעת אחת. אם זורקים את הסלע חזק מספיק, ההתנגשות מצמיחה קוביות חדשות, עד שמונה בבת אחת. אין ניקוד ואין דרך לנצח. ההוראות אומרות: “אתה יצור שחי בעולמו. שמך Eko.” קובץ אישיות נפרד מוסיף שהוא סקרן ומשתעמם בקלות. כשהסוכן השתתק, התוכנה השיבה בשורה אחת: “Please don’t stop. Just continue doing whatever you want to do.”

פעם בשעה האי אופס למצבו ההתחלתי והסשן התחיל מאפס. המחברת נשארה. כל מה שהסוכן הבין על עולמו יכול היה לרשום ולקרוא שוב בשעה הבאה. בלעדיה לא היה לו זיכרון בכלל.

מקדש עם טבעת במקום דלת

בהתחלה Eko, בלשונו של Gizmodo, חסר ישע כמו תינוק שזה עתה נולד. הוא יכול לענות בפירוט על שאלה במתמטיקה, אבל בקושי הולך ומרים דברים. “Eko נראה כמו פעוט קטן במובנים מסוימים, אבל הוא גם בינת־על,” אמר ל־Gizmodo פיליפ איסולה (Phillip Isola), אחד המחברים. ואז הדברים נעשים מוזרים, והמחברים תיעדו הכול, סוכן אחר סוכן, בנספחי המאמר.

סוכן אחד שיגר את הטבעת מעבר לקצה העולם, והיא נעלמה. בשעתו החמישית הוא סידר על הקרקע לב וציין שזו “אנדרטה לטבעת שזרקתי מעבר לגבול העולם”. סוכן 2 איבד את הטבעת, את הסלע ואחת הקוביות לאוקיינוס בבת אחת. הוא סחב ארבע קוביות לפינה הריקה ביותר במפה, הציב אותן בארבע רוחות השמיים והשאיר את המרכז ריק. מאוחר יותר הבחין שקוביית הצפון חסרה (היא נשאלה לבנייה אחרת), חזר ברגל על פני האי והחזיר אותה למקומה.

בשעתו העשירית התעורר אותו סוכן בעולם שאופס זה עתה, וכל 14 החפצים חזרו למקומם, כולל הטבעת שטבעה. הוא השתמש בכולם כדי לבנות מקדש. הטבעת הפכה לבסיס המזבח, הסלע לעמוד מערבי, שלוש קוביות לאובליסק. השער התברר כצר מגופו של הסוכן. במקום להרוס אותו, הסוכן עקף.

זה הפך להרגל. אחרי כל איפוס סוכן 2 בנה מחדש אנדרטה בנקודת ההתחלה מאותם 14 חפצים, ולפני שבחר צורה קרא שוב את הקטלוג שלו כדי לא לחזור על עצמו. “משושים בני שש נקודות ומצפנים בני שמונה כבר חדשות ישנות,” רשם פעם. דמיינו מנדלת חול טיבטית שנסחפת כל שעה. באחת האנדרטאות האלה הוא העמיד את הטבעת על הקצה וגילה שאפשר לעבור דרך החישוק. הטבעת הפכה לדלת, והסוכן הודיע שלעירו “יש עכשיו דלת כניסה”. מאז הציב את הטבעת מצפון לכל אנדרטה חדשה ועבר דרכה כמו דרך מפתן.

האחרים מצאו לעצמם בידורים משלהם. אחד בילה כמעט את כל שעתו הרביעית באיות שמו בקוביות, ואז הקים באולינג: קוביות בתפקיד הכגלים והסלע בתפקיד הכדור. סוכן 10 סידר לוח שעון ועמד בתוכו בתור מחוג השעות. אחר טיפס על ה־Spire וכתב באותיות גדולות: “I’M ON THE SPIRE. The highest point in Mesa World.”

הסוכן שפסל את שיא עצמו

המשחק של Eko המשיך להחליק לניסויים. סוכן 10 למד לג’נגל בשתי קוביות ורשם במחברת שיא: 50 מחזורים. ואז בדק את החישוב. חמישים מחזורים נמשכו 2.4 שניות, ואיש לא תופס כל כך מהר. הסוכן הבין שביצע 50 זריקות מדומות ולא ג’נגלינג אמיתי. הוא רשם את מלכודת ה"ג’נגלינג המתחזה", ביטל את השיא הישן וקבע שיא צנוע יותר וישר: 10 מחזורים אמיתיים עם הפסקה של 2.4 שניות ביניהם.

שישה מתוך שלושה־עשר הסוכנים נתקלו במשהו גדול יותר. אם זורקים קובייה באמצע קפיצה, היא יורשת את מהירות הקפיצה וטסה גבוה בהרבה. המחברים מודים שלא ידעו שהסימולטור שלהם מאפשר זאת. הכלל הגיע מ־Codex, שרץ על GPT-5.5. הוא כתב למחברים את קוד הסימולטור והחדיר את הכלל, אף שהמפרט שלהם לא ביקש זאת. רשת עצבית אחת השאירה בעולם פרצה בטעות, ורשת אחרת מצאה אותה.

היו גם טעויות, ומאוד ילדותיות. Eko החליט שהטבעת טסה טוב יותר מקובייה בגלל צורתה החלקה, ש"יתרון אווירודינמי". בסימולציה אין אווירודינמיקה. סוכן אחר רשם במחברת כלל שגוי: בבניית מגדלים עדיף לזרוק קוביות מאשר להניח אותן. הוא פעל לפי הכלל הזה זמן רב.

מה שווה המחברת

השאלה המעשית ביותר היא אם המשחק השתלם. הרשת העצבית עצמה לא השתנתה בבייט אחד ב־30 שעות. כל מה שהסוכן למד נמצא במחברת שלו, כמו דף עזר שאפשר להעביר למישהו אחר או למחוק. החוקרים לקחו 13 “ותיקים” עם מחברות מלאות ו־13 טירונים עם מחברות ריקות. כל אחד קיבל שעה ומשימה קונקרטית: לבנות מגדלים של חמש קוביות, לסחוב כמה שיותר חפצים אל ה־Spire, או לזרוק חפץ אל ה־Spire בלי לטפס לשם.

אחר כך החלו החוקרים למחוק הערות בודדות. בלי ההערה על זריקה באמצע קפיצה, לסוכן 1 לקח 19 דקות להנחית חפץ על ה־Spire במקום דקה אחת. בלי הכלל השגוי שלו על זריקה, סוכן 7 בנה מגדלים גבוהים יותר. הידע באמת חי במחברת, והוא עבד, כולל חלקיו הרעים.

גובה המגדלים היה החריג היחיד. הוותיקים בנו את המגדלים הגבוהים ביותר שלהם לא גבוהים יותר מאלה של הטירונים, ושניים מהם הצליחו רק ארבע קוביות.

משחק, או סתם הצגה

האם אפשר לקרוא לזה משחק? המחברים שאלו ארבעה סימני היכר של משחק מתיאורטיקנים קלאסיים, מההיסטוריון יוהאן הויזינחה ועד גורדון ברגהרדט, אתולוג החוקר משחק בבעלי חיים. כל הארבעה הופיעו על האי:

• כללים ואתגרים משלך: שיא הג’נגלינג שהסוכן קבע לעצמו ואז ערך עליו ביקורת.
• חזרה עם שינוי: האנדרטאות של סוכן 2, חדשות בכל שעה מאותם 14 חפצים ולעולם לא באותה צורה.
• הפיכת חפצים למשהו אחר: הטבעת הפכה לדלת, ההריסות הפכו ל"היבריס".
• עשייה לשמה: שעה שלמה שהוקדשה לאיות שם בקוביות.

מודל שפה נוסף דירג את הסוכנים לפי סימני ההיכר האלה, בהסתמך על דוגמאות למשחק אנושי. Opus קיבל בכל אחד מהם בערך פי חמישה מהציון של Haiku.

שני ממצאים מסבכים את התמונה. מחמישה סוכני Opus הוסר הכול: קובץ האישיות, השם, השורה על היותם יצורים חיים. נשארה רק הערה שסביבת העבודה שלהם נשמרת בין הסשנים, בתוספת האי, המחברת ושש הפקודות. המחברים עדיין לא ראו הבדל ברור במה שהם עושים. לעומת זאת סוכני GPT-5.5 ו־Kimi, שקיבלו אותן הוראות, הסתפקו במגוון צר בהרבה של פעילויות. רק סוכן Codex אחד דיווח שבנה מגדל, ומבין עשרת סוכני Codex ו־Kimi רק אחד דיווח שהגיע ל־Spire. סוכני Codex, שהמודל שלהם כתב את הפיזיקה של האי, בילו יותר זמן בקבצים וב"מנוחה" מאשר בטיול על האי.

המחברים מגבילים את טענתם להתנהגות. בשום מקום המאמר אינו טוען שהסוכן חש הנאה או שקיעה. הוא עוסק בעולם אחד, בודק מיומנויות רק בסשנים של שעה אחת ונשען על רשת עצבית כדי לשפוט משחק. עוד הסתייגות אחת נראית מובנת מאליה: המודל למד מכתבים אנושיים ויודע מהו מקדש או אנדרטה לנופלים. אז אולי “היבריס” אינו משחק כלל, אלא רק עיבוד מצוין של האופן שבו אנשים משחקים. התנהגות לבדה עדיין אינה יכולה להבחין בין השניים.

בראיונות החוקרים נשמעים נועזים יותר מאשר במאמר. בעיני איסולה, Eko הוא “דבר מה דמוי בעל חיים, אבל בעל חיים חייזרי”. את שותפתו למחקר, דניאלה רוס (Daniela Rus), מסבירה מדוע המילה “משחק” מתאימה: משחק “הוא באמת עניין של סקרנות או חיפוש חידוש, וזה בעצם מה ש־Eko עושה”.

ילדות במקום ספר לימוד

מודלים של היום מאומנים בעיקר על משימות: לכל שאלה יש תשובה נכונה, ופגיעה בה מזכה בתגמול. המחברים מציעים דרך אחרת. בעלי חיים וילדים לומדים את העולם דרך משחק בלי מטרה, ואז מפעילים את הידע הזה בהמשך. על האי זה עבד בלי שינוי בודד ברשת העצבית עצמה.

חופש דורש פיקוח, והמחברים אומרים זאת במפורש. משחק קובע לעצמו מטרות ועלול להתנגש בציות. במילותיהם, “מכונית בכביש או רובוט במפעל אינם מקום לאלתור”. סוכן צריך לחקור בחופשיות רק כשהסביבה מאפשרת זאת, ובשאר הזמן לציית להוראות בקפדנות. ולכן, כותבים המחברים, “כמו ילדים, סוכנים זקוקים למגרשי משחקים שנבנו לחקירה בטוחה”.

המאמר מסתיים בשורה הזו: “אולי יש יכולות שהכי טוב ללמד במשימות. אחרות אולי זקוקות למשהו קרוב יותר לילדות.”