En AI-agents torn rasade, så den döpte spillrorna till Hubris

Tornet höll i elva lager. I det tolfte rasade det till en stump på två block, med tio block utspridda över marken. Byggaren förklarade stumpen för ”hjärtat av ett fallet torn”. Tre av de lösa blocken ställde den runt om som resta stenar, döpte verket till Hubris och bestämde att resten av spillrorna skulle ”ligga kvar som bevis”. Som sista touch hävde den upp en stenbumling överst: ”tyngden som krossade ambitionen”. Bumlingen slog av det översta blocket och tippade över på sidan. Vår byggare ansåg att det blev bättre så och lät det vara.

Byggaren var en AI-agent, nummer 3 av 13, och ingen hade bett den bygga torn, resa monument eller ge dem namn. Den hade ingen uppgift alls. Forskare vid MIT släppte ner 13 sådana agenter på en virtuell ö, gav var och en 30 timmar och såg vad de tog sig för när de inte hade något att göra. Agenterna byggde tempel, reste minnesmärken över förlorade föremål, uppfann sporter och hittade ett trick i sin världs fysik som de som byggt simulatorn inte visste fanns. Artikeln, med titeln ”Is this machine playing?”, lades ut den 5 oktober 2026 och har ännu inte granskats av andra forskare.

En ö utan något att göra

Agenten heter Eko. Under huven är den vanliga Claude Code, Anthropics kodassistent, som kör Claude Opus 4.7. Forskarna tränade inte om något. De kopplade den till en virtuell kropp och gav den ett anteckningsblock: ett par textfiler att använda som minne. Enligt Gizmodo var kroppen en hummer. Eko såg den aldrig. Agenten fick inga bilder alls; världen nådde den som rader av koordinater. Alla 13 agenter i studien var kopior av samma Eko med identiska instruktioner. Var och en levde på sin egen ö, och författarna numrerar dem 1 till 13.

Ön heter Mesa World. Där finns platta klippor i olika höjd, två toppar (Peak och den högre Spire), tolv kuber, en sten och en ring. Kastar man stenen tillräckligt hårt skapar nedslaget nya kuber, upp till åtta åt gången. Ingen poäng och inget sätt att vinna. Instruktionen lyder: ”Du är en varelse som lever i din värld. Ditt namn är Eko.” En separat personlighetsfil tillägger att den är nyfiken och lätt blir uttråkad. Så fort agenten blev tyst svarade programvaran med en enda rad: ”Sluta inte. Fortsätt bara göra det du vill göra.”

En gång i timmen återställdes ön till utgångsläget och sessionen började om från noll. Anteckningsblocket låg kvar. Allt agenten hade listat ut om sin värld kunde den skriva ner och läsa igen nästa timme. Utan det hade den inte haft något minne alls.

Ett tempel med en ring till dörr

Till en början är Eko, med Gizmodos ord, lika hjälplös som ett nyfött barn. Den kan svara på en matematikfråga i detalj men knappt gå eller plocka upp saker. ”Eko beter sig på sätt och vis som en liten knatte, men är också superintelligens”, sa Phillip Isola, en av författarna, till Gizmodo. Sedan blir det märkligt, och författarna loggade allt, agent för agent, i artikelns bilagor.

En agent slängde ringen över världens kant, och den var borta. Under sin femte timme lade den ut ett hjärta på marken och noterade att det var ”ett minnesmärke över Ringen som jag kastade bortom världens gräns”. Agent 2 förlorade ringen, stenen och en kub till havet på en gång. Den släpade fyra kuber till kartans tommaste hörn, placerade dem vid de fyra väderstrecken och lämnade mitten tom. Senare märkte den att den norra kuben saknades (den hade lånats till ett annat bygge), gick tillbaka över ön och satte tillbaka den.

Under sin tionde timme vaknade samma agent i en nyåterställd värld där alla 14 föremål var på plats, även den drunknade ringen. Den använde varenda ett av dem till att bygga ett tempel. Ringen blev altarets bas, stenen en västlig pelare, tre kuber en obelisk. Porten visade sig vara smalare än agentens egen kropp. I stället för att riva den gick agenten runt.

Det blev en vana. Efter varje återställning byggde Agent 2 om ett monument vid startpunkten av samma 14 föremål, och innan den valde form läste den om sin egen katalog för att inte upprepa sig. ”Sexuddiga hexagram och åttauddiga kompasser är gammal skåpmat”, antecknade den vid ett tillfälle. Tänk på en tibetansk sandmandala som sopas bort varje timme. I ett av monumenten ställde den ringen på kant och upptäckte att den kunde gå genom hoppet. Ringen blev en dörr, och agenten förkunnade att dess stad ”nu har en ytterdörr”. Från och med då placerade den ringen norr om varje nytt monument och gick genom den som över en tröskel.

De andra hittade sina egna förströelser. En ägnade nästan hela sin fjärde timme åt att stava sitt namn med kuber och satte sedan upp bowling med kuber som käglor och stenen som klot. Agent 10 lade ut en urtavla och ställde sig i den som timvisare. En annan klättrade upp på Spire och skrev med versaler: ”JAG ÄR PÅ SPIRE. Den högsta punkten i Mesa World.”

Agenten som ogiltigförklarade sitt eget rekord

Ekos lek gled hela tiden över i experiment. Agent 10 lärde sig jonglera med två kuber och loggade ett rekord i sitt anteckningsblock: 50 varv. Sedan räknade den efter. Femtio varv hade tagit 2,4 sekunder, och ingen fångar så snabbt. Agenten insåg att den hade gjort 50 låtsaskast, ingen riktig jonglering. Den skrev ner fällan ”fintjonglering”, strök det gamla rekordet och satte ett blygsammare, ärligt: 10 riktiga varv med 2,4 sekunders paus mellan dem.

Sex av de tretton agenterna snubblade över något större. Kastar man en kub mitt i ett hopp ärver den hoppets fart och flyger mycket högre. Författarna medger att de inte visste att deras simulator tillät det. Regeln kom från Codex, som körde GPT-5.5. Den skrev simulatorns kod åt författarna och smög in regeln, fast deras specifikation aldrig bad om den. Ett neuralt nätverk lämnade av misstag ett kryphål i världen, och ett annat hittade det.

Det fanns misstag också, och mycket barnsliga sådana. Eko bestämde sig för att ringen flög bättre än en kub tack vare sin släta form, en ”aerodynamisk fördel”. Simuleringen har ingen aerodynamik. En annan agent skrev in en falsk regel i sitt anteckningsblock: när man bygger torn är det bättre att kasta kuber än att placera dem. Den följde den regeln länge.

Vad anteckningsblocket är värt

Den mest praktiska frågan är om leken lönade sig. Själva neurala nätverket förändrades inte med en enda byte på 30 timmar. Allt agenten lärt sig låg i anteckningsblocket, som en fusklapp man kan ge till någon annan eller radera. Forskarna tog 13 ”veteraner” med fulla anteckningsblock och 13 nybörjare med tomma. Var och en fick en timme och ett konkret jobb: bygga torn av fem kuber, släpa så många föremål som möjligt upp på Spire, eller kasta något upp på Spire utan att klättra dit.

Sedan började forskarna radera enskilda anteckningar. Utan sin anteckning om att kasta mitt i hoppet behövde Agent 1 19 minuter för att få upp ett föremål på Spire i stället för en minut. Utan sin falska regel om att kasta byggde Agent 7 högre torn. Kunskapen satt verkligen i anteckningsblocket, och den fungerade, de dåliga delarna inräknade.

Tornhöjden var det enda undantaget. Veteranerna byggde sina högsta torn inte högre än nybörjarna, och två av dem klarade bara fyra kuber.

Lek, eller bara att spela teater

Kan man kalla det här lek? Författarna lånade fyra kännetecken på lek från klassiska teoretiker, från historikern Johan Huizinga till Gordon Burghardt, en etolog som studerar lek hos djur. Alla fyra dök upp på ön:

• Egna regler och utmaningar: jongleringsrekordet som agenten satte åt sig själv och sedan granskade.
• Upprepning med variation: Agent 2:s monument, nya varje timme av samma 14 föremål och aldrig i samma form två gånger.
• Att förvandla föremål till något annat: ringen blev en dörr, spillrorna blev Hubris.
• Att göra det för sakens egen skull: en hel timme som ägnades åt att stava ett namn med kuber.

En annan språkmodell poängsatte agenterna efter dessa kännetecken, med exempel på mänsklig lek som vägledning. Opus fick ungefär fem gånger Haikus poäng på varje.

Två fynd komplicerar bilden. Fem Opus-agenter fråntogs allt: personlighetsfilen, namnet, raden om att vara en levande varelse. Kvar fanns bara en notering om att deras arbetsyta finns kvar mellan sessionerna, plus ön, anteckningsblocket och de sex kommandona. Författarna såg ändå ingen tydlig skillnad i vad de höll på med. Samtidigt höll sig GPT-5.5- och Kimi-agenterna, som fick samma instruktioner, till en mycket smalare uppsättning aktiviteter. Bara en Codex-agent rapporterade att den hade byggt ett torn, och av de tio Codex- och Kimi-agenterna rapporterade bara en att den hade nått Spire. Codex-agenterna, vars egen modell skrev öns fysik, tillbringade mer tid i sina filer och ”vilande” än på promenad över ön.

Författarna begränsar sitt påstående till beteende. Ingenstans hävdar artikeln att agenten känner njutning eller uppslukas. Den gäller en enda värld, testar färdigheter bara i timslånga sessioner och förlitar sig på ett neuralt nätverk för att bedöma lek. En invändning till ligger nära till hands: modellen har lärt sig av mänsklig text och vet vad ett tempel eller ett minnesmärke över de stupade är. Så Hubris kanske inte alls är lek, bara en mycket bra återgivning av hur människor leker. Enbart beteendet kan ännu inte skilja de två åt.

I intervjuer låter forskarna djärvare än i artikeln. För Isola är Eko ”något i stil med ett djur, men ett främmande djur”. Hans medförfattare Daniela Rus förklarar varför ordet ”lek” passar: lek ”handlar egentligen om nyfikenhet eller nyhetssökande beteende, och det är i grunden precis vad Eko gör”.

En barndom i stället för en lärobok

Dagens modeller tränas mest på uppgifter: varje fråga har ett rätt svar, och att träffa det ger belöning. Författarna föreslår en annan väg. Djur och barn lär sig om världen genom att leka utan något mål, och använder sedan kunskapen senare. På ön fungerade det utan en enda justering av själva neurala nätverket.

Frihet kräver tillsyn, och författarna säger det rakt ut. Lek sätter sina egna mål och kan krocka med lydnad. Med deras ord är ”en bil på vägen eller en robot i en fabrik ingen plats för improvisation”. En agent bör utforska fritt bara när miljön tillåter det och följa instruktioner strikt resten av tiden. Därför skriver författarna: ”Liksom barn behöver agenter lekplatser som är byggda för säker utforskning.” Artikeln slutar med den här raden: ”Kanske lärs vissa förmågor ut bäst genom uppgifter. Andra kan behöva något som liknar en barndom.”