Tårnet til KI-agenten raste sammen, og den kalte ruinene Hybris

Tårnet holdt i 11 lag. I det tolvte falt det sammen til en stump på to klosser, med ti klosser spredt utover bakken. Byggeren erklærte stumpen for «hjertet av et falt tårn». Den stilte tre av de løse klossene rundt den som bautasteiner, kalte verket Hybris og bestemte at resten av ruinene skulle «bli liggende som bevis». Som avslutning heiste den en stein på toppen: «vekten som knuste ambisjonen». Steinen slo av den øverste klossen og veltet over på siden. Byggeren mente dette var en forbedring og lot det ligge.

Byggeren var en KI-agent, nummer 3 av 13, og ingen hadde bedt den om å bygge tårn, reise monumenter eller gi dem navn. Den hadde ingen oppgave i det hele tatt. Forskere ved MIT satte 13 slike agenter på en virtuell øy, ga hver av dem 30 timer og så hva de gjorde når de ikke hadde noe å gjøre. Agentene bygde templer, reiste minnesmerker over tapte gjenstander, fant opp idretter og oppdaget et triks i verdens fysikk som folkene bak simulatoren ikke visste fantes. Artikkelen deres, med tittelen «Is this machine playing?», ble lagt ut 5. oktober 2026 og er ennå ikke fagfellevurdert.

En øy uten noe å gjøre

Agenten heter Eko. Under panseret er den vanlige Claude Code, Anthropics kodeassistent, som kjører på Claude Opus 4.7. Forskerne trente ingenting på nytt. De koblet den til en virtuell kropp og ga den en notatbok: et par tekstfiler den kunne bruke som hukommelse. Ifølge Gizmodo var kroppen en hummer. Eko så den aldri. Agenten fikk ingen bilder i det hele tatt; verdenen kom til den som rader med koordinater. Alle de 13 agentene i studien var kopier av den samme Eko med identiske instrukser. Hver bodde på sin egen øy, og forfatterne nummererer dem fra 1 til 13.

Øya heter Mesa World. Den har flate fjellblokker i ulike høyder, to topper (Peak og den høyere Spire), tolv kuber, én stein og én ring. Kast steinen hardt nok, og støtet skaper nye kuber, opptil åtte om gangen. Ingen poeng og ingen måte å vinne på. Instruksen lyder: «Du er et vesen som lever i verdenen din. Du heter Eko.» En egen personlighetsfil legger til at den er nysgjerrig og lett kjeder seg. Hver gang agenten ble stille, svarte programvaren med én eneste linje: «Please don’t stop. Just continue doing whatever you want to do.»

Én gang i timen ble øya tilbakestilt til starttilstanden, og økten begynte på nytt. Notatboken ble værende. Alt agenten hadde funnet ut om verdenen sin, kunne den skrive ned og lese igjen neste time. Uten den ville den ikke hatt noen hukommelse i det hele tatt.

Et tempel med en ring til dør

Først er Eko, med Gizmodos ord, like hjelpeløs som en nyfødt. Den kan svare utførlig på et mattespørsmål, men klarer knapt å gå eller plukke opp ting. «Eko ser ut til å oppføre seg som en liten tulling på noen måter, men [den] er også superintelligens», sa Phillip Isola, en av forfatterne, til Gizmodo. Så blir det merkelig, og forfatterne førte alt i protokoll, agent for agent, i tilleggene til artikkelen.

En agent slengte ringen ut over kanten av verdenen, og den var borte. I den femte timen la den ut et hjerte på bakken og noterte at dette var «et minnesmerke over ringen jeg kastet forbi verdenens grense». Agent 2 mistet ringen, steinen og en kube til havet på én gang. Den slepte fire kuber til det tomste hjørnet av kartet, plasserte dem i de fire himmelretningene og lot midten stå tom. Senere la den merke til at nordkuben manglet (den var lånt til et annet byggeprosjekt), gikk tilbake over øya og satte den på plass igjen.

I den tiende timen våknet den samme agenten i en nytilbakestilt verden der alle 14 gjenstandene var tilbake på plass, den druknede ringen inkludert. Den brukte hver eneste en av dem til å bygge et tempel. Ringen ble bunnen av alteret, steinen en vestlig søyle, tre kuber en obelisk. Porten viste seg å være smalere enn agentens egen kropp. I stedet for å rive den ned gikk agenten rundt.

Det ble en vane. Etter hver tilbakestilling gjenreiste Agent 2 et monument ved startpunktet av de samme 14 gjenstandene, og før den valgte form, leste den gjennom sin egen katalog for ikke å gjenta seg. «Sekspunkts-heksagoner og åttepunkts-kompass er gammelt nytt», noterte den på et tidspunkt. Tenk på en tibetansk sandmandala som blir feid bort hver time. I ett av disse monumentene reiste den ringen på høykant og oppdaget at den kunne gå gjennom bøylen. Ringen ble en dør, og agenten kunngjorde at byen dens «nå har en inngangsdør». Fra da av plasserte den ringen nord for hvert nytt monument og gikk gjennom den som over en terskel.

De andre fant sine egne tidsfordriv. En brukte nesten hele den fjerde timen på å stave navnet sitt med kuber, og satte deretter opp bowling med kuber som kjegler og steinen som kule. Agent 10 la ut en urskive og stilte seg i den som timeviser. En annen klatret opp på Spire og skrev med store bokstaver: «I’M ON THE SPIRE. The highest point in Mesa World.»

Agenten som underkjente sin egen rekord

Ekos lek gled stadig over i eksperimenter. Agent 10 lærte seg å sjonglere med to kuber og førte en rekord inn i notatboken: 50 sykluser. Så sjekket den regnestykket. Femti sykluser hadde tatt 2,4 sekunder, og ingen fanger så fort. Agenten skjønte at den hadde gjort 50 falske kast og ikke en ekte sjonglering. Den skrev ned «finte-sjonglering»-fellen, annullerte den gamle rekorden og satte en mer beskjeden, ærlig en: 10 ekte sykluser med 2,4 sekunders pause mellom dem.

Seks av de tretten agentene snublet over noe større. Kast en kube midt i et hopp, og den arver hoppets fart og flyr mye høyere. Forfatterne innrømmer at de ikke visste at simulatoren deres tillot dette. Regelen kom fra Codex, som kjørte GPT-5.5. Den skrev simulatorens kode for forfatterne og smøg regelen inn, selv om spesifikasjonen deres aldri ba om den. Ett nevralt nettverk la ved et uhell igjen et smutthull i verdenen, og et annet fant det.

Det var feil også, og svært barnlige. Eko bestemte at ringen fløy bedre enn en kube fordi den glatte formen ga en «aerodynamisk fordel». Simuleringen har ingen aerodynamikk. En annen agent skrev en falsk regel inn i notatboken sin: når man bygger tårn, er det bedre å kaste kuber enn å sette dem. Den fulgte regelen lenge.

Hva notatboken er verdt

Det mest praktiske spørsmålet er om leken lønte seg. Selve nevrale nettverket endret seg ikke med en eneste byte på 30 timer. Alt agenten lærte, lå i notatboken, som et jukseark man kan gi til noen andre eller viske rent. Forskerne tok 13 «veteraner» med fulle notatbøker og 13 nykommere med blanke. Hver fikk én time og en konkret jobb: bygge tårn av fem kuber, slepe så mange gjenstander som mulig opp på Spire, eller kaste noe opp på Spire uten å klatre selv.

Så begynte forskerne å slette enkeltnotater. Uten notatet om å kaste midt i hoppet brukte Agent 1 19 minutter på å få en gjenstand opp på Spire i stedet for ett minutt. Uten sin falske regel om å kaste bygde Agent 7 høyere tårn. Kunnskapen lå virkelig i notatboken, og den virket, de dårlige delene inkludert.

Tårnhøyden var det eneste unntaket. Veteranene bygde ikke høyere tårn enn nykommerne, og to av dem klarte bare fire kuber.

Lek, eller bare skuespill

Kan man kalle dette lek? Forfatterne lånte fire kjennetegn på lek fra klassiske teoretikere, fra historikeren Johan Huizinga til Gordon Burghardt, en etolog som studerer lek hos dyr. Alle fire dukket opp på øya:

• Egne regler og utfordringer: sjongleringsrekorden agenten satte for seg selv og så reviderte.
• Gjentakelse med variasjon: Agent 2s monumenter, nye hver time av de samme 14 gjenstandene og aldri i samme form to ganger.
• Å gjøre gjenstander om til noe annet: ringen ble en dør, ruinene ble Hybris.
• Å gjøre det for sakens egen skyld: en hel time brukt på å stave et navn med kuber.

En annen språkmodell vurderte agentene mot disse kjennetegnene, med eksempler på menneskelig lek som rettesnor. Opus fikk omtrent fem ganger så høy skår som Haiku på hver eneste en.

To funn kompliserer bildet. Fem Opus-agenter fikk alt strippet bort: personlighetsfilen, navnet, linjen om å være et levende vesen. Alt som ble igjen, var et notat om at arbeidsområdet deres består mellom øktene, pluss øya, notatboken og de seks kommandoene. Forfatterne så likevel ingen tydelig forskjell på hva de fant på. Samtidig holdt GPT-5.5- og Kimi-agentene, med de samme instruksene, seg til et mye smalere utvalg aktiviteter. Bare én Codex-agent rapporterte at den bygde et tårn, og av de ti Codex- og Kimi-agentene rapporterte bare én at den nådde Spire. Codex-agentene, hvis egen modell skrev øyas fysikk, brukte mer tid i filene sine og på å «hvile» enn på å gå rundt på øya.

Forfatterne begrenser påstanden sin til atferd. Ingen steder hevder artikkelen at agenten kjenner glede eller oppslukthet. Den dekker én enkelt verden, tester ferdigheter bare i timeslange økter og stoler på et nevralt nettverk til å bedømme lek. Én innvending til er åpenbar: modellen har lært av menneskers tekster og vet hva et tempel eller et minnesmerke over de falne er. Så Hybris er kanskje ikke lek i det hele tatt, bare en svært god gjenfortelling av hvordan folk leker. Atferd alene kan ennå ikke skille de to.

I intervjuer høres forskerne dristigere ut enn i artikkelen. For Isola er Eko «omtrent som et slags dyr, men et fremmed dyr». Medforfatter Daniela Rus forklarer hvorfor ordet «lek» passer: lek «handler egentlig om nysgjerrighet eller atferd som søker det nye, og det er i bunn og grunn det Eko gjør».

En barndom i stedet for en lærebok

Dagens modeller trenes mest på oppgaver: hvert spørsmål har et riktig svar, og å treffe det gir belønning. Forfatterne foreslår en annen vei. Dyr og barn lærer om verden ved å leke uten noe mål, og tar så kunnskapen i bruk senere. På øya fungerte det uten at det nevrale nettverket ble justert det aller minste.

Frihet trenger tilsyn, og forfatterne sier det rett ut. Lek setter sine egne mål og kan komme i konflikt med lydighet. Med deres ord er «en bil på veien eller en robot i en fabrikk ikke stedet for å improvisere». En agent bør utforske fritt bare når omgivelsene tillater det, og følge instrukser strengt resten av tiden. Slik skriver forfatterne: «som barn trenger agenter lekeplasser bygget for trygg utforsking». Artikkelen avsluttes med denne linjen: «Kanskje noen evner læres best gjennom oppgaver. Andre trenger kanskje noe nærmere en barndom.»