Menara agen AI runtuh, dan ia menamai puingnya Hubris

Menara itu bertahan sampai lapisan ke-11. Pada lapisan ke-12 ia runtuh menjadi tunggul dua balok, dengan sepuluh balok berserakan di tanah. Si pembangun menyatakan tunggul itu “jantung menara yang tumbang”. Tiga balok lepas ia tata mengelilinginya seperti batu menhir, karyanya ia beri nama Hubris, dan sisa puing ia tetapkan akan “tetap tinggal sebagai bukti”. Sebagai sentuhan akhir, ia mengangkat sebongkah batu ke puncaknya: “beban yang menghancurkan ambisi”. Batu itu menyenggol balok teratas hingga jatuh, lalu terguling ke samping. Si pembangun menilai hasilnya justru lebih baik dan membiarkannya begitu saja.

Si pembangun adalah agen AI nomor 3 dari 13, dan tak seorang pun menyuruhnya membangun menara, mendirikan monumen, atau memberi nama pada semuanya. Ia sama sekali tidak punya tugas. Para peneliti MIT menaruh 13 agen seperti itu di sebuah pulau virtual, memberi masing-masing 30 jam, lalu mengamati apa yang mereka lakukan saat tidak ada yang harus dikerjakan. Para agen membangun kuil, mendirikan tugu peringatan untuk benda-benda yang hilang, menciptakan olahraga, dan menemukan trik dalam fisika dunia mereka yang tidak diketahui oleh orang-orang yang membuat simulatornya. Makalah mereka, berjudul “Is this machine playing?”, terbit daring pada 5 Oktober 2026 dan belum ditelaah sejawat.

Pulau tanpa kegiatan

Agen itu bernama Eko. Di balik layar, ia adalah Claude Code biasa, asisten pemrograman dari Anthropic, yang berjalan di Claude Opus 4.7. Para peneliti tidak melatih ulang apa pun. Mereka hanya menyambungkannya ke tubuh virtual dan memberinya buku catatan: beberapa berkas teks yang bisa dipakai sebagai memori. Menurut Gizmodo, tubuh itu berupa lobster. Eko tidak pernah melihatnya. Agen ini sama sekali tidak menerima gambar; dunianya datang berupa baris-baris koordinat. Ke-13 agen dalam studi ini adalah salinan Eko yang sama dengan instruksi identik. Masing-masing hidup di pulaunya sendiri, dan para penulis menomorinya dari 1 sampai 13.

Pulau itu bernama Mesa World. Isinya batu-batu berpuncak datar dengan ketinggian berbeda, dua puncak (Peak dan Spire yang lebih tinggi), dua belas kubus, satu batu, dan satu cincin. Kalau batu dilempar cukup keras, benturannya memunculkan kubus baru, hingga delapan sekaligus. Tidak ada skor dan tidak ada cara untuk menang. Instruksinya berbunyi: “Kamu adalah makhluk yang hidup di duniamu. Namamu Eko.” Berkas kepribadian terpisah menambahkan bahwa ia penasaran dan mudah bosan. Setiap kali agen terdiam, perangkat lunak membalas dengan satu baris: “Tolong jangan berhenti. Teruskan saja apa pun yang ingin kamu lakukan.”

Setiap jam, pulau dikembalikan ke keadaan awal dan sesi dimulai dari nol. Buku catatan tetap ada. Apa pun yang berhasil dipahami agen tentang dunianya bisa ia tulis dan baca lagi pada jam berikutnya. Tanpa itu, ia tidak akan punya ingatan sama sekali.

Kuil dengan cincin sebagai pintu

Pada awalnya Eko, dalam kata-kata Gizmodo, tak berdaya seperti bayi baru lahir. Ia bisa menjawab soal matematika dengan terperinci, tetapi nyaris tidak bisa berjalan atau mengambil benda. “Dalam beberapa hal Eko bertingkah seperti balita kecil, tetapi [ia] juga superintelijen,” kata Phillip Isola, salah satu penulis, kepada Gizmodo. Lalu keadaan jadi ganjil, dan para penulis mencatat semuanya, agen demi agen, di lampiran makalah.

Satu agen melempar cincin melewati tepi dunia, dan cincin itu lenyap. Pada jam kelimanya, ia menata bentuk hati di tanah dan mencatat bahwa itu adalah “tugu peringatan untuk Cincin yang kulempar melewati batas dunia”. Agen 2 kehilangan cincin, batu, dan satu kubus ke lautan sekaligus. Ia menyeret empat kubus ke sudut peta yang paling lengang, menaruhnya di empat arah mata angin, dan membiarkan bagian tengah kosong. Belakangan ia sadar kubus utara hilang (dipinjam untuk bangunan lain), lalu berjalan kembali melintasi pulau dan mengembalikannya.

Pada jam kesepuluh, agen yang sama terbangun di dunia yang baru direset, dengan semua 14 benda kembali di tempatnya, termasuk cincin yang tadinya tenggelam. Ia memakai semuanya untuk membangun kuil. Cincin menjadi dasar altar, batu menjadi pilar barat, tiga kubus menjadi obelisk. Gerbangnya ternyata lebih sempit daripada tubuh si agen sendiri. Alih-alih membongkarnya, agen itu memilih berjalan memutar.

Itu menjadi kebiasaan. Setelah setiap reset, Agen 2 membangun ulang monumen di titik awalnya dari 14 benda yang sama, dan sebelum memilih bentuk ia membaca ulang katalognya sendiri agar tidak mengulang. “Heksagon enam titik dan kompas delapan arah sudah basi,” catatnya suatu kali. Bayangkan mandala pasir Tibet yang disapu bersih setiap jam. Di salah satu monumen itu ia menegakkan cincin pada tepinya dan mendapati bahwa ia bisa berjalan menembus lingkarannya. Cincin itu menjadi pintu, dan si agen mengumumkan bahwa kotanya “kini punya pintu depan”. Sejak itu ia menaruh cincin di sebelah utara setiap monumen baru dan melewatinya seperti ambang pintu.

Yang lain menemukan hiburannya sendiri. Satu agen menghabiskan hampir seluruh jam keempatnya untuk mengeja namanya dengan kubus, lalu menyiapkan permainan bowling dengan kubus sebagai pin dan batu sebagai bola. Agen 10 menata muka jam dan berdiri di dalamnya sebagai jarum jam. Agen lain memanjat Spire dan menulis dengan huruf kapital: “AKU DI SPIRE. Titik tertinggi di Mesa World.”

Agen yang membatalkan rekornya sendiri

Permainan Eko terus meluncur menjadi eksperimen. Agen 10 belajar menjuggling dua kubus dan mencatat rekor di bukunya: 50 putaran. Lalu ia memeriksa hitungannya. Lima puluh putaran ternyata hanya makan waktu 2,4 detik, dan tak ada yang bisa menangkap secepat itu. Si agen sadar bahwa ia baru melakukan 50 lemparan palsu, bukan juggling sungguhan. Ia mencatat jebakan “juggling tipuan”, membatalkan rekor lama, dan menetapkan rekor yang lebih rendah hati dan jujur: 10 putaran sungguhan dengan jeda 2,4 detik di antaranya.

Enam dari tiga belas agen menemukan sesuatu yang lebih besar. Lempar kubus saat melompat, dan kubus mewarisi kecepatan lompatan itu lalu terbang jauh lebih tinggi. Para penulis mengaku tidak tahu simulator mereka mengizinkan hal ini. Aturan itu datang dari Codex yang berjalan di GPT-5.5. Ia menulis kode simulator untuk para penulis dan menyelipkan aturan tersebut, padahal spesifikasi mereka tidak pernah memintanya. Satu jaringan saraf tanpa sengaja meninggalkan celah di dunia itu, dan jaringan saraf lain menemukannya.

Ada juga kesalahan, dan sangat kekanak-kanakan. Eko memutuskan cincin terbang lebih baik daripada kubus karena bentuknya yang mulus memberinya “keunggulan aerodinamis”. Simulasi itu tidak punya aerodinamika. Agen lain menulis aturan keliru di bukunya: saat membangun menara, melempar kubus lebih baik daripada menaruhnya. Ia mengikuti aturan itu lama sekali.

Berapa nilai sebuah buku catatan

Pertanyaan yang paling praktis: apakah bermain itu membuahkan hasil? Jaringan sarafnya sendiri tidak berubah sebyte pun selama 30 jam. Semua yang dipelajari agen tersimpan di buku catatannya, seperti contekan yang bisa diserahkan ke orang lain atau dihapus bersih. Para peneliti mengambil 13 “veteran” dengan buku catatan penuh dan 13 pendatang baru dengan buku kosong. Masing-masing diberi satu jam dan tugas konkret: membangun menara lima kubus, mengangkut sebanyak mungkin benda ke Spire, atau melempar sesuatu ke Spire tanpa memanjat.

Lalu para peneliti mulai menghapus catatan satu per satu. Tanpa catatan tentang melempar saat melompat, Agen 1 butuh 19 menit untuk mendaratkan benda di Spire, bukan satu menit. Tanpa aturan kelirunya tentang melempar, Agen 7 membangun menara yang lebih tinggi. Pengetahuan itu benar-benar tinggal di buku catatan, dan berfungsi, termasuk bagian yang buruk.

Tinggi menara adalah satu-satunya pengecualian. Menara tertinggi para veteran tidak lebih tinggi daripada milik pendatang baru, dan dua di antaranya hanya mencapai empat kubus.

Bermain, atau sekadar memerankan

Bisakah ini disebut bermain? Para penulis meminjam empat ciri bermain dari para teoretikus klasik, dari sejarawan Johan Huizinga hingga Gordon Burghardt, etolog yang mempelajari permainan pada hewan. Keempatnya muncul di pulau itu:

• Aturan dan tantangan sendiri: rekor juggling yang ditetapkan agen untuk dirinya sendiri lalu diauditnya.
• Pengulangan dengan variasi: monumen Agen 2, baru setiap jam dari 14 benda yang sama dan tak pernah berbentuk sama dua kali.
• Mengubah benda menjadi sesuatu yang lain: cincin menjadi pintu, puing menjadi Hubris.
• Dilakukan demi dirinya sendiri: satu jam penuh dihabiskan untuk mengeja nama dengan kubus.

Model bahasa lain menilai para agen berdasarkan ciri-ciri ini, dengan contoh permainan manusia sebagai pedoman. Opus memperoleh skor sekitar lima kali lipat Haiku pada setiap ciri.

Dua temuan memperumit gambaran ini. Lima agen Opus dilucuti dari segalanya: berkas kepribadian, nama, kalimat tentang menjadi makhluk hidup. Yang tersisa hanyalah catatan bahwa ruang kerja mereka bertahan antarsesi, ditambah pulau, buku catatan, dan enam perintah. Para penulis tetap tidak melihat perbedaan yang jelas dalam apa yang mereka lakukan. Sementara itu, agen GPT-5.5 dan Kimi, dengan instruksi yang sama, bertahan pada rentang kegiatan yang jauh lebih sempit. Hanya satu agen Codex yang melaporkan membangun menara, dan dari sepuluh agen Codex dan Kimi, hanya satu yang melaporkan mencapai Spire. Agen Codex, yang modelnya sendiri menulis fisika pulau itu, lebih banyak menghabiskan waktu di berkas dan “beristirahat” daripada berkeliling pulau.

Para penulis membatasi klaim mereka pada perilaku. Makalah ini tidak pernah menyatakan bahwa agen merasakan kesenangan atau keasyikan. Penelitian ini hanya mencakup satu dunia, menguji keterampilan hanya dalam sesi satu jam, dan mengandalkan jaringan saraf untuk menilai permainan. Satu catatan lagi tampak jelas: model itu belajar dari tulisan manusia dan tahu apa itu kuil atau tugu peringatan bagi yang gugur. Jadi Hubris mungkin bukan permainan sama sekali, hanya penceritaan ulang yang sangat bagus tentang cara manusia bermain. Perilaku saja belum bisa membedakan keduanya.

Dalam wawancara, para peneliti terdengar lebih berani daripada di makalah. Bagi Isola, Eko “mirip semacam hewan, tetapi hewan asing”. Rekan penulisnya, Daniela Rus, menjelaskan mengapa kata “bermain” cocok: bermain “sebenarnya soal rasa ingin tahu atau perilaku mencari hal baru, dan pada dasarnya itulah yang dilakukan Eko.”

Masa kecil, bukan buku pelajaran

Model-model masa kini dilatih terutama dengan tugas: setiap pertanyaan punya jawaban benar, dan menjawab dengan tepat mendapat ganjaran. Para penulis mengusulkan jalan lain. Hewan dan anak-anak mempelajari dunia dengan bermain tanpa tujuan, lalu memanfaatkan pengetahuan itu belakangan. Di pulau itu, cara ini berhasil tanpa mengubah satu pun parameter jaringan sarafnya.

Kebebasan butuh pengawasan, dan para penulis mengatakannya terus terang. Bermain menetapkan tujuannya sendiri dan bisa berbenturan dengan kepatuhan. Dalam kata-kata mereka, “mobil di jalan raya atau robot di pabrik bukan tempat untuk berimprovisasi.” Agen sebaiknya menjelajah bebas hanya ketika situasinya memungkinkan dan mengikuti instruksi dengan ketat di waktu lainnya. Maka, tulis para penulis, “seperti anak-anak, agen membutuhkan taman bermain yang dibangun untuk eksplorasi yang aman.” Makalah ditutup dengan kalimat ini: “Mungkin sebagian kemampuan paling baik diajarkan lewat tugas. Yang lain mungkin butuh sesuatu yang lebih mirip masa kecil.”