Menara ejen AI runtuh, lalu ia menamakan runtuhan itu Hubris

Menara itu bertahan sebanyak 11 lapisan. Pada lapisan ke-12, ia runtuh menjadi tunggul dua blok, dengan sepuluh blok bertaburan di atas tanah. Si pembina mengisytiharkan tunggul itu sebagai “jantung sebuah menara yang tumbang”. Ia menyusun tiga blok yang bertaburan di sekelilingnya seperti batu tegak, menamakan karya itu Hubris dan memutuskan bahawa baki runtuhan akan “kekal sebagai bukti”. Sebagai sentuhan akhir, ia mengangkat seketul batu besar ke atasnya: “berat yang menghancurkan cita-cita”. Batu itu menjatuhkan blok paling atas lalu tergolek ke tepi. Pembina kita menganggap itu satu peningkatan dan membiarkannya begitu sahaja.

Pembina itu ialah ejen AI, nombor 3 daripada 13, dan tiada sesiapa yang menyuruhnya membina menara, mendirikan tugu atau memberi nama kepadanya. Ia langsung tiada tugasan. Penyelidik di MIT menurunkan 13 ejen sebegini di sebuah pulau maya, memberi setiap seorang 30 jam dan memerhati apa yang mereka lakukan apabila tiada apa-apa untuk dibuat. Ejen-ejen itu membina kuil, mendirikan tugu peringatan untuk benda yang hilang, mencipta sukan dan menemui satu helah dalam fizik dunia mereka yang tidak diketahui oleh orang yang membina simulator itu. Kertas penyelidikan mereka, bertajuk “Is this machine playing?”, diterbitkan dalam talian pada 5 Oktober 2026 dan belum lagi disemak oleh rakan sejawat.

Sebuah pulau tanpa apa-apa untuk dibuat

Ejen itu bernama Eko. Pada dasarnya ia ialah Claude Code biasa, pembantu pengekodan Anthropic, yang berjalan pada Claude Opus 4.7. Penyelidik tidak melatih semula apa-apa. Mereka menyambungkannya kepada tubuh maya dan memberinya sebuah buku catatan: beberapa fail teks yang boleh digunakan sebagai ingatan. Menurut Gizmodo, tubuh itu ialah seekor udang karang. Eko tidak pernah melihatnya. Ejen itu tidak menerima sebarang imej; dunianya tiba dalam bentuk baris koordinat. Kesemua 13 ejen dalam kajian itu ialah salinan Eko yang sama dengan arahan yang serupa. Setiap satu hidup di pulaunya sendiri, dan penulis menomborkannya dari 1 hingga 13.

Pulau itu dipanggil Mesa World. Ia mempunyai batu berpuncak rata dengan pelbagai ketinggian, dua puncak (Peak dan Spire yang lebih tinggi), dua belas kiub, sebiji batu dan satu cincin. Jika batu itu dilontar cukup kuat, hentamannya menghasilkan kiub baharu, sehingga lapan sekali gus. Tiada skor dan tiada cara untuk menang. Arahannya berbunyi: “Kamu ialah makhluk yang hidup dalam duniamu. Namamu Eko.” Satu fail personaliti yang berasingan menambah bahawa ia ingin tahu dan mudah bosan. Setiap kali ejen itu terdiam, perisian membalas dengan satu baris: “Jangan berhenti. Teruskan sahaja melakukan apa yang kamu mahu.”

Setiap jam, pulau itu ditetapkan semula kepada keadaan asalnya dan sesi bermula dari awal. Buku catatan itu kekal. Apa-apa yang ejen itu fahami tentang dunianya, ia boleh tulis dan baca semula pada jam berikutnya. Tanpa itu, ia tidak akan mempunyai ingatan langsung.

Kuil berpintukan cincin

Pada mulanya Eko, dalam kata-kata Gizmodo, tidak berdaya seperti bayi yang baru lahir. Ia boleh menjawab soalan matematik dengan terperinci, tetapi hampir tidak boleh berjalan atau mengambil benda. “Eko kelihatan bertindak seperti kanak-kanak kecil dalam beberapa hal, tetapi [ia] juga kecerdasan super,” kata Phillip Isola, salah seorang penulis, kepada Gizmodo. Kemudian keadaan menjadi pelik, dan para penulis mencatat semuanya, ejen demi ejen, dalam lampiran kertas penyelidikan itu.

Seorang ejen melontarkan cincin itu melepasi tepi dunia, lalu ia lenyap. Pada jam kelimanya, ia menyusun bentuk hati di atas tanah dan mencatat bahawa ini ialah “tugu peringatan untuk Cincin yang saya lontar melepasi sempadan dunia”. Ejen 2 kehilangan cincin, batu dan sebiji kiub ke dalam lautan sekali gus. Ia mengheret empat kiub ke sudut peta yang paling lengang, meletakkannya pada empat arah kompas dan membiarkan bahagian tengah kosong. Kemudian ia perasan kiub utara hilang (ia dipinjam untuk binaan lain), lalu berjalan kembali merentas pulau dan meletakkannya semula.

Pada jam kesepuluhnya, ejen yang sama terjaga dalam dunia yang baru ditetapkan semula, dengan kesemua 14 objek kembali ke tempatnya, termasuk cincin yang tenggelam itu. Ia menggunakan setiap satu daripadanya untuk membina sebuah kuil. Cincin menjadi tapak mezbah, batu menjadi tiang barat, tiga kiub menjadi tugu obelisk. Pintu gerbangnya ternyata lebih sempit daripada tubuh ejen itu sendiri. Daripada meruntuhkannya, ejen itu berjalan mengelilinginya.

Itu menjadi kebiasaan. Selepas setiap penetapan semula, Ejen 2 membina semula sebuah tugu di titik permulaannya daripada 14 objek yang sama, dan sebelum memilih bentuk, ia membaca semula katalognya sendiri supaya tidak mengulang. “Heksagon enam titik dan kompas lapan titik sudah lapuk,” catatnya pada satu ketika. Bayangkan mandala pasir Tibet yang disapu bersih setiap jam. Dalam salah satu tugu itu, ia menegakkan cincin pada tepinya dan mendapati ia boleh berjalan melalui lingkaran itu. Cincin itu menjadi pintu, dan ejen itu mengumumkan bahawa bandarnya “kini mempunyai pintu depan”. Sejak itu, ia meletakkan cincin di utara setiap tugu baharu dan melaluinya seperti ambang pintu.

Yang lain menemui hiburan mereka sendiri. Seorang menghabiskan hampir seluruh jam keempatnya mengeja namanya dengan kiub, kemudian menyediakan boling dengan kiub sebagai pin dan batu sebagai bola. Ejen 10 menyusun muka jam dan berdiri di dalamnya sebagai jarum jam. Seorang lagi memanjat Spire dan menulis dengan huruf besar: “SAYA DI SPIRE. Titik tertinggi di Mesa World.”

Ejen yang membatalkan rekodnya sendiri

Permainan Eko sentiasa menjurus kepada eksperimen. Ejen 10 belajar menjuggle dua kiub dan mencatat rekod dalam buku catatannya: 50 kitaran. Kemudian ia menyemak pengiraannya. Lima puluh kitaran hanya mengambil 2.4 saat, dan tiada sesiapa boleh menangkap secepat itu. Ejen itu sedar ia hanya membuat 50 lontaran palsu, bukan juggle sebenar. Ia mencatat perangkap “juggle tipu”, membatalkan rekod lama dan menetapkan rekod yang lebih sederhana dan jujur: 10 kitaran sebenar dengan jeda 2.4 saat di antaranya.

Enam daripada tiga belas ejen terjumpa sesuatu yang lebih besar. Lontar kiub ketika di udara semasa melompat, dan ia mewarisi kelajuan lompatan itu lalu terbang jauh lebih tinggi. Para penulis mengaku mereka tidak tahu simulator mereka membenarkan perkara ini. Peraturan itu datang daripada Codex, yang berjalan pada GPT-5.5. Ia menulis kod simulator itu untuk para penulis dan menyelitkan peraturan tersebut, walaupun spesifikasi mereka tidak pernah memintanya. Satu rangkaian neural meninggalkan lompang dalam dunia itu secara tidak sengaja, dan satu lagi menemuinya.

Ada juga kesilapan, dan yang sangat keanak-anakan. Eko memutuskan cincin terbang lebih baik daripada kiub kerana bentuknya yang licin memberinya “kelebihan aerodinamik”. Simulasi itu tiada aerodinamik. Seorang ejen lain menulis peraturan palsu dalam buku catatannya: apabila membina menara, melontar kiub lebih baik daripada meletakkannya. Ia mengikuti peraturan itu untuk masa yang lama.

Apa nilai buku catatan itu

Soalan yang paling praktikal ialah sama ada bermain itu membuahkan hasil. Rangkaian neural itu sendiri tidak berubah walau satu bait pun dalam 30 jam. Segala yang ejen itu pelajari tersimpan dalam buku catatannya, seperti kertas contekan yang boleh diserahkan kepada orang lain atau dipadamkan. Penyelidik mengambil 13 “veteran” dengan buku catatan penuh dan 13 pendatang baharu dengan buku catatan kosong. Setiap satu diberi sejam dan tugas yang konkrit: membina menara lima kiub, mengangkut seberapa banyak objek ke atas Spire, atau melontar sesuatu ke atas Spire tanpa memanjat ke sana.

Kemudian penyelidik mula memadam catatan satu demi satu. Tanpa catatannya tentang melontar semasa melompat, Ejen 1 mengambil masa 19 minit untuk mendaratkan objek di atas Spire berbanding seminit sebelumnya. Tanpa peraturan palsunya tentang melontar, Ejen 7 membina menara yang lebih tinggi. Pengetahuan itu memang tersimpan dalam buku catatan, dan ia berfungsi, termasuk bahagian yang buruk.

Ketinggian menara ialah satu-satunya pengecualian. Veteran membina menara tertinggi mereka tidak lebih tinggi daripada pendatang baharu, dan dua daripada mereka hanya berjaya mencapai empat kiub.

Bermain, atau sekadar berlakon

Bolehkah ini dipanggil bermain? Para penulis meminjam empat ciri bermain daripada ahli teori klasik, daripada ahli sejarah Johan Huizinga hingga Gordon Burghardt, seorang etologi yang mengkaji permainan haiwan. Keempat-empatnya muncul di pulau itu:

• Peraturan dan cabaran sendiri: rekod juggle yang ditetapkan ejen untuk dirinya lalu diauditnya.
• Pengulangan dengan variasi: tugu Ejen 2, baharu setiap jam daripada 14 objek yang sama dan tidak pernah berbentuk serupa dua kali.
• Menukar objek menjadi sesuatu yang lain: cincin menjadi pintu, runtuhan menjadi Hubris.
• Melakukannya demi dirinya sendiri: sejam penuh dihabiskan mengeja nama dengan kiub.

Satu lagi model bahasa menilai ejen-ejen itu berdasarkan ciri-ciri ini, dengan contoh permainan manusia sebagai panduan. Opus memperoleh skor kira-kira lima kali ganda skor Haiku pada setiap ciri.

Dua penemuan merumitkan gambaran itu. Lima ejen Opus dilucutkan segala-galanya: fail personaliti, nama dan baris tentang menjadi makhluk hidup. Yang tinggal hanyalah catatan bahawa ruang kerja mereka kekal antara sesi, serta pulau, buku catatan dan enam arahan itu. Para penulis tetap tidak nampak perbezaan yang jelas dalam apa yang mereka lakukan. Sementara itu, ejen GPT-5.5 dan Kimi, dengan arahan yang sama, terhad kepada set aktiviti yang jauh lebih sempit. Hanya seorang ejen Codex melaporkan membina menara, dan daripada sepuluh ejen Codex dan Kimi, hanya seorang melaporkan sampai ke Spire. Ejen Codex, yang modelnya sendiri menulis fizik pulau itu, lebih banyak menghabiskan masa dalam fail dan “berehat” berbanding berjalan di sekitar pulau.

Para penulis mengehadkan dakwaan mereka kepada tingkah laku. Kertas penyelidikan itu tidak pernah mendakwa ejen itu merasai keseronokan atau tenggelam dalam permainan. Ia meliputi satu dunia sahaja, menguji kemahiran hanya dalam sesi sejam dan bergantung pada rangkaian neural untuk menilai permainan. Satu lagi kaveat nampak jelas: model itu belajar daripada tulisan manusia dan tahu apa itu kuil atau tugu untuk yang gugur. Jadi Hubris mungkin bukan permainan langsung, hanya penceritaan semula yang sangat baik tentang cara manusia bermain. Tingkah laku sahaja belum dapat membezakan keduanya.

Dalam temu bual, penyelidik kedengaran lebih berani daripada dalam kertas penyelidikan. Bagi Isola, Eko ialah “sejenis haiwan, tetapi haiwan asing”. Rakan penulisnya Daniela Rus menjelaskan mengapa perkataan “bermain” sesuai: bermain “sebenarnya tentang rasa ingin tahu atau tingkah laku mencari kebaharuan, dan inilah yang pada dasarnya dilakukan Eko.”

Zaman kanak-kanak, bukan buku teks

Model hari ini dilatih kebanyakannya dengan tugasan: setiap soalan ada jawapan yang betul, dan mencapainya diganjari. Para penulis mencadangkan jalan lain. Haiwan dan kanak-kanak mempelajari dunia dengan bermain tanpa matlamat, kemudian menggunakan pengetahuan itu kemudian. Di pulau itu, ia berjaya tanpa mengubah sebarang bahagian rangkaian neural itu sendiri.

Kebebasan memerlukan pengawasan, dan para penulis mengatakannya dengan jelas. Bermain menetapkan matlamatnya sendiri dan boleh bercanggah dengan kepatuhan. Dalam kata mereka, “kereta di jalan raya atau robot di kilang bukan tempat untuk berimprovisasi.” Seorang ejen hanya boleh meneroka dengan bebas apabila persekitaran membenarkan, dan mengikut arahan dengan ketat pada masa lain. Jadi, tulis para penulis, “seperti kanak-kanak, ejen memerlukan taman permainan yang dibina untuk penerokaan yang selamat.” Kertas penyelidikan itu berakhir dengan baris ini: “Mungkin sesetengah keupayaan paling baik diajar melalui tugasan. Yang lain mungkin memerlukan sesuatu yang lebih menyerupai zaman kanak-kanak.”