برج یک عامل هوش مصنوعی فروریخت و او آوار را «غرور» نامید

برج یازده طبقه دوام آورد. در طبقهٔ دوازدهم فروریخت و از آن فقط یک کنده‌ٔ دو‌بلوکی ماند و ده بلوک روی زمین پخش شد. سازنده کنده را «قلب یک برج فروریخته» اعلام کرد. سه بلوک از بلوک‌های پراکنده را مثل سنگ‌های ایستاده دورش چید، اثر را «غرور» نامید و حکم کرد که بقیهٔ آوار «به‌عنوان مدرک بماند». برای پایان‌بندی، تخته‌سنگی را بالای آن برد: «وزنی که جاه‌طلبی را خرد کرد». تخته‌سنگ بلوک بالایی را انداخت و خودش کج شد. سازندهٔ ما این را بهبود دانست و دست نزد.

سازنده یک عامل هوش مصنوعی بود، شمارهٔ ۳ از ۱۳، و هیچ‌کس از او نخواسته بود برج بسازد، یادمان بر پا کند یا اسم بگذارد. او اصلاً مأموریتی نداشت. پژوهشگران MIT ۱۳ عامل از این دست را روی یک جزیرهٔ مجازی رها کردند، به هرکدام ۳۰ ساعت وقت دادند و تماشا کردند که وقتی کاری برای انجام دادن ندارند چه می‌کنند. عامل‌ها معبد ساختند، برای اشیای گمشده یادبود برپا کردند، ورزش‌هایی اختراع کردند و ترفندی در فیزیک دنیای خود پیدا کردند که سازندگان شبیه‌ساز هم از وجودش خبر نداشتند. مقاله‌شان با عنوان «آیا این ماشین بازی می‌کند؟» در ۵ اکتبر ۲۰۲۶ منتشر شد و هنوز داوری همتا نشده است.

جزیره‌ای که کاری برای انجام دادن نداشت

اسم عامل Eko است. در اصل Claude Code معمولی است، دستیار برنامه‌نویسی شرکت Anthropic، که روی Claude Opus 4.7 اجرا می‌شود. پژوهشگران چیزی را دوباره آموزش ندادند. فقط آن را به یک بدن مجازی وصل کردند و یک دفترچه دادند: چند فایل متنی که می‌توانست به‌جای حافظه از آن‌ها استفاده کند. به گزارش Gizmodo بدن یک خرچنگ‌دراز بود. Eko هرگز آن را ندید. عامل اصلاً تصویر دریافت نمی‌کرد و دنیایش به‌شکل ردیف‌هایی از مختصات به او می‌رسید. هر ۱۳ عاملِ این مطالعه نسخه‌هایی از همان Eko با دستورهای یکسان بودند. هرکدام روی جزیرهٔ خودش زندگی می‌کرد و نویسندگان آن‌ها را از ۱ تا ۱۳ شماره‌گذاری کرده‌اند.

اسم جزیره Mesa World است. صخره‌های تخت‌سر با ارتفاع‌های مختلف دارد، دو قله (Peak و بلندتر از آن Spire)، دوازده مکعب، یک سنگ و یک حلقه. اگر سنگ را به‌اندازهٔ کافی محکم پرتاب کنی، ضربه مکعب‌های تازه پدید می‌آورد، تا هشت‌تا در هر بار. نه امتیازی در کار است و نه راهی برای بردن. در دستورها آمده است: «تو موجودی هستی که در دنیای خودت زندگی می‌کنی. اسمت Eko است.» یک فایل شخصیت جداگانه اضافه می‌کند که کنجکاو است و زود حوصله‌اش سر می‌رود. هر بار که عامل ساکت می‌شد، نرم‌افزار تنها یک جمله جواب می‌داد: «لطفاً متوقف نشو. هر کاری دلت می‌خواهد ادامه بده.»

هر ساعت جزیره به حالت اولیه برمی‌گشت و جلسه از نو شروع می‌شد. دفترچه می‌ماند. هرچه عامل دربارهٔ دنیایش فهمیده بود می‌توانست بنویسد و ساعت بعد دوباره بخواند. بدون آن اصلاً حافظه‌ای نداشت.

معبدی با حلقه‌ای به‌جای در

Eko در ابتدا، به تعبیر Gizmodo، مثل نوزاد درمانده است. می‌تواند به یک سؤال ریاضی با جزئیات جواب بدهد، اما به‌زحمت راه می‌رود یا چیزی برمی‌دارد. فیلیپ ایزولا، یکی از نویسندگان، به Gizmodo گفت: «Eko از بعضی جهات مثل یک نوپاست، ولی در عین حال ابرهوش هم هست.» بعد اوضاع عجیب می‌شود و نویسندگان همه‌چیز را، عامل به عامل، در پیوست‌های مقاله ثبت کرده‌اند.

یکی از عامل‌ها حلقه را از لبهٔ دنیا به بیرون پرت کرد و حلقه برای همیشه رفت. در ساعت پنجم، قلبی روی زمین چید و یادداشت کرد که این «یادبودی است برای حلقه‌ای که از مرز دنیا بیرون انداختم». عامل ۲ حلقه، سنگ و یک مکعب را یک‌جا به اقیانوس باخت. چهار مکعب را به خالی‌ترین گوشهٔ نقشه کشید، آن‌ها را در چهار جهت اصلی گذاشت و مرکز را خالی رها کرد. بعد متوجه شد مکعب شمالی نیست (برای ساخت دیگری قرضش گرفته بود)، از آن‌سوی جزیره برگشت و سرجایش گذاشت.

در ساعت دهم، همین عامل در دنیایی که تازه ریست شده بود بیدار شد، با هر ۱۴ شیء سرجایشان، از جمله حلقهٔ غرق‌شده. از همهٔ آن‌ها برای ساختن یک معبد استفاده کرد. حلقه پایهٔ محراب شد، سنگ ستون غربی و سه مکعب یک ابلیسک. دروازه از بدن خود عامل باریک‌تر درآمد. عامل به‌جای خراب کردنش، دور زد.

این به عادت تبدیل شد. عامل ۲ پس از هر ریست، از همان ۱۴ شیء در نقطهٔ شروعش یادمانی دوباره می‌ساخت و پیش از انتخاب شکل، فهرست خودش را از نو می‌خواند تا تکرار نکند. یک بار یادداشت کرد: «شش‌ضلعی‌ها و قطب‌نماهای هشت‌پر دیگر کهنه شده‌اند.» مثل ماندالای شنی تبتی است که هر ساعت جاروب می‌شود. در یکی از این یادمان‌ها حلقه را روی لبه‌اش ایستاند و دید می‌تواند از میان حلقه رد شود. حلقه به در تبدیل شد و عامل اعلام کرد که شهرش «حالا یک در ورودی دارد». از آن به بعد حلقه را شمال هر یادمان تازه می‌گذاشت و مثل آستانه از آن عبور می‌کرد.

بقیه سرگرمی‌های خودشان را پیدا کردند. یکی تقریباً تمام ساعت چهارمش را صرف نوشتن اسمش با مکعب‌ها کرد، بعد بولینگ راه انداخت، با مکعب‌ها به‌جای کگل و سنگ به‌جای توپ. عامل ۱۰ صفحهٔ ساعت چید و خودش به‌جای عقربهٔ ساعت‌شمار در آن ایستاد. دیگری از Spire بالا رفت و با حروف بزرگ نوشت: «I’M ON THE SPIRE. The highest point in Mesa World.»

عاملی که رکورد خودش را باطل کرد

بازی Eko مدام به آزمایش می‌لغزید. عامل ۱۰ یاد گرفت با دو مکعب ژونگل کند و در دفترچه‌اش رکوردی ثبت کرد: ۵۰ چرخه. بعد محاسبه‌اش را وارسی کرد. پنجاه چرخه ۲٫۴ ثانیه طول کشیده بود و هیچ‌کس با این سرعت دریافت نمی‌کند. عامل فهمید ۵۰ پرتاب ساختگی انجام داده، نه ژونگل واقعی. تله‌ٔ «ژونگل ساختگی» را یادداشت کرد، رکورد قبلی را لغو کرد و رکوردی فروتنانه‌تر و صادقانه ثبت کرد: ۱۰ چرخهٔ واقعی با ۲٫۴ ثانیه مکث میان آن‌ها.

شش عامل از سیزده عامل به چیز بزرگ‌تری برخوردند. اگر مکعب را وسط پرش پرتاب کنی، سرعت پرش را به ارث می‌برد و خیلی بالاتر می‌رود. نویسندگان اعتراف می‌کنند نمی‌دانستند شبیه‌سازشان این را اجازه می‌دهد. این قاعده از Codex بود که روی GPT-5.5 اجرا می‌شود. کد شبیه‌ساز را برای نویسندگان نوشته و این قاعده را وارد کرده بود، هرچند مشخصاتشان چنین چیزی نخواسته بود. یک شبکهٔ عصبی ناخواسته در دنیا رخنه‌ای گذاشت و شبکهٔ دیگری آن را پیدا کرد.

اشتباه هم بود، آن هم کاملاً کودکانه. Eko تصمیم گرفت حلقه از مکعب بهتر پرواز می‌کند چون شکل صافش «مزیت آیرودینامیکی» دارد. در شبیه‌سازی آیرودینامیکی وجود ندارد. عامل دیگری قاعده‌ای نادرست در دفترچه‌اش نوشت: هنگام ساخت برج، پرتاب مکعب‌ها بهتر از گذاشتن آن‌هاست. مدتی طولانی به همین قاعده عمل کرد.

دفترچه چقدر ارزش دارد

عملی‌ترین پرسش این است که آیا بازی نتیجه داد. خود شبکهٔ عصبی در ۳۰ ساعت حتی یک بایت هم تغییر نکرد. هرچه عامل یاد گرفته بود در دفترچه‌اش بود، مثل تقلب‌نامه‌ای که می‌شود به دیگری داد یا پاکش کرد. پژوهشگران ۱۳ «کهنه‌کار» با دفترچهٔ پر و ۱۳ تازه‌وارد با دفترچهٔ خالی را گرفتند. هرکدام یک ساعت و یک کار مشخص داشت: ساختن برج‌های پنج‌مکعبی، بردن هرچه بیشتر شیء روی Spire، یا انداختن چیزی روی Spire بدون بالا رفتن.

بعد پژوهشگران شروع کردند یادداشت‌ها را یکی‌یکی پاک کنند. بدون یادداشت پرتاب در وسط پرش، عامل ۱ به‌جای یک دقیقه ۱۹ دقیقه طول کشید تا شیء را روی Spire بنشاند. بدون قاعدهٔ نادرستش دربارهٔ پرتاب، عامل ۷ برج‌های بلندتر ساخت. دانش واقعاً در دفترچه بود و کار می‌کرد، با بخش‌های بدش.

ارتفاع برج یک استثنا بود. کهنه‌کارها بلندترین برج‌هایشان را بلندتر از تازه‌وارد‌ها نساختند و دو نفرشان فقط به چهار مکعب رسیدند.

بازی یا فقط نقش بازی کردن

آیا می‌شود اسم این را بازی گذاشت؟ نویسندگان چهار نشانهٔ بازی را از نظریه‌پردازان کلاسیک، از مورخ یوهان هوئیزینگا تا گوردون برگهارت، رفتارشناسی که بازی حیوانات را مطالعه می‌کند، وام گرفتند. هر چهار در جزیره پیدا شد:

• قاعده‌ها و چالش‌های خود فرد: رکورد ژونگلی که عامل برای خودش گذاشت و بعد وارسی کرد.
• تکرار همراه با تنوع: یادمان‌های عامل ۲، هر ساعت تازه از همان ۱۴ شیء و هرگز با یک شکل.
• تبدیل اشیا به چیزی دیگر: حلقه در شد، آوار «غرور» شد.
• انجام دادن برای خود کار: یک ساعت کامل نوشتن اسم با مکعب‌ها.

مدل زبانی دیگری عامل‌ها را با این نشانه‌ها سنجید و نمونه‌هایی از بازی انسان را راهنما گرفت. Opus در هر نشانه تقریباً پنج برابر Haiku امتیاز گرفت.

دو یافته تصویر را پیچیده می‌کنند. پنج عامل Opus از همه‌چیز تهی شدند: فایل شخصیت، نام، جملهٔ مربوط به زنده بودن. تنها یک یادداشت ماند که فضای کارشان میان جلسه‌ها پایدار است، به‌علاوهٔ جزیره، دفترچه و شش فرمان. نویسندگان باز هم تفاوت روشنی در کارهایی که کردند ندیدند. در همین حال عامل‌های GPT-5.5 و Kimi با همین دستورها به مجموعهٔ بسیار محدودتری از فعالیت‌ها چسبیدند. فقط یکی از عامل‌های Codex گزارش داد برجی ساخته و از ده عامل Codex و Kimi فقط یکی گزارش داد به Spire رسیده است. عامل‌های Codex، که مدل خودشان فیزیک جزیره را نوشته بود، بیشتر وقتشان را در فایل‌هایشان و در «استراحت» گذراندند تا قدم زدن روی جزیره.

نویسندگان ادعایشان را به رفتار محدود می‌کنند. در مقاله هیچ‌جا ادعا نمی‌شود که عامل لذت یا غرق شدن را حس می‌کند. مقاله فقط یک دنیا را پوشش می‌دهد، مهارت‌ها را تنها در جلسه‌های یک‌ساعته می‌سنجد و برای قضاوت دربارهٔ بازی به یک شبکهٔ عصبی تکیه دارد. یک احتیاط بدیهی دیگر هم هست: مدل از نوشته‌های انسانی یاد گرفته و می‌داند معبد یا یادبود کشته‌شدگان چیست. پس شاید «غرور» اصلاً بازی نباشد، فقط بازگویی بسیار خوبی از شیوهٔ بازی آدم‌ها. رفتار به‌تنهایی هنوز نمی‌تواند این دو را از هم جدا کند.

در مصاحبه‌ها پژوهشگران جسورتر از مقاله حرف می‌زنند. به گفتهٔ ایزولا، Eko «چیزی شبیه یک حیوان است، اما حیوانی بیگانه». همکارش دانیلا روس توضیح می‌دهد چرا واژهٔ «بازی» جا می‌افتد: بازی «واقعاً دربارهٔ کنجکاوی یا نوجویی است و Eko اساساً همین کار را می‌کند.»

کودکی به‌جای کتاب درسی

مدل‌های امروزی بیشتر روی وظیفه‌ها آموزش می‌بینند: هر پرسش پاسخ درستی دارد و رسیدن به آن پاداش می‌آورد. نویسندگان راه دیگری پیشنهاد می‌کنند. حیوانات و کودکان با بازی کردن بی‌هدف دنیا را می‌شناسند و بعداً این دانش را به کار می‌گیرند. روی جزیره این کار بدون دست زدن به خود شبکهٔ عصبی جواب داد.

آزادی به نظارت نیاز دارد و نویسندگان صریح می‌گویند. بازی هدف‌های خودش را می‌گذارد و می‌تواند با فرمان‌برداری تصادم کند. به گفتهٔ آن‌ها، «ماشین در جاده یا ربات در کارخانه جای بداهه‌کاری نیست». عامل فقط وقتی باید آزادانه کاوش کند که محیط اجازه بدهد و در بقیهٔ موارد باید دستورها را سخت‌گیرانه دنبال کند. پس، به نوشتهٔ نویسندگان، «عامل‌ها هم مثل کودکان به زمین بازی‌ای نیاز دارند که برای کاوش ایمن ساخته شده باشد». مقاله با این جمله تمام می‌شود: «شاید بعضی توانایی‌ها را بهتر است با وظیفه آموخت. بعضی دیگر شاید به چیزی نزدیک‌تر به کودکی نیاز دارند.»