Der Turm der KI stürzte ein, und sie nannte die Trümmer „Hybris“

Der Turm hielt elf Lagen. In der zwölften stürzte er zu einem Stumpf aus zwei Blöcken zusammen, zehn weitere Blöcke lagen verstreut auf dem Boden. Der Baumeister erklärte den Stumpf zum „Herzen eines gefallenen Turms“. Drei der losen Blöcke stellte er wie Menhire drumherum, nannte das Werk „Hybris“ und bestimmte, dass der Rest der Trümmer „als Beweisstück“ liegen bleibt. Zum Abschluss hievte er einen Felsbrocken obenauf: „das Gewicht, das den Ehrgeiz erdrückt hat“. Der Brocken stieß den obersten Block ab und kippte zur Seite. Unser Baumeister hielt das für eine Verbesserung und ließ es dabei bewenden.

Der Baumeister war ein KI-Agent, Nummer 3 von 13, und niemand hatte ihn gebeten, Türme zu bauen, Denkmäler zu errichten oder ihnen Namen zu geben. Er hatte überhaupt keine Aufgabe. Forschende am MIT setzten 13 solcher Agenten auf eine virtuelle Insel, gaben jedem 30 Stunden und beobachteten, was sie tun, wenn es nichts zu tun gibt. Die Agenten bauten Tempel, errichteten Mahnmale für verlorene Gegenstände, erfanden Sportarten und stießen in der Physik ihrer Welt auf einen Trick, von dem die Entwickler des Simulators nichts wussten. Ihre Studie mit dem Titel „Is this machine playing?“ erschien am 5. Oktober 2026 online und ist noch nicht begutachtet worden.

Eine Insel, auf der es nichts zu tun gibt

Der Agent heißt Eko. Technisch ist er ein gewöhnliches Claude Code, der Programmierassistent von Anthropic, auf Basis von Claude Opus 4.7. Die Forschenden haben nichts neu trainiert. Sie verbanden ihn mit einem virtuellen Körper und gaben ihm ein Notizbuch: ein paar Textdateien als Gedächtnis. Laut Gizmodo war dieser Körper ein Hummer. Eko sah ihn nie. Der Agent bekam überhaupt keine Bilder; seine Welt erreichte ihn als Zeilen mit Koordinaten. Alle 13 Agenten der Studie waren Kopien desselben Eko mit identischen Anweisungen. Jeder lebte auf einer eigenen Insel, die Autoren nummerieren sie von 1 bis 13.

Die Insel heißt Mesa World. Es gibt dort Felsen mit flacher Oberseite in verschiedenen Höhen, zwei Gipfel (den Peak und den höheren Spire), zwölf Würfel, einen Stein und einen Ring. Wirft man den Stein hart genug, entstehen beim Aufprall neue Würfel, bis zu acht auf einmal. Es gibt keine Punkte und keine Möglichkeit zu gewinnen. Die Anweisung lautet: „Du bist ein Wesen, das in seiner Welt lebt. Dein Name ist Eko.“ Eine separate Persönlichkeitsdatei ergänzt, dass er neugierig ist und sich schnell langweilt. Wann immer der Agent verstummte, antwortete die Software mit einer einzigen Zeile: „Bitte hör nicht auf. Mach einfach weiter, was auch immer du tun möchtest.“

Einmal pro Stunde wurde die Insel in den Ausgangszustand zurückgesetzt, und die Sitzung begann von vorn. Das Notizbuch blieb. Alles, was der Agent über seine Welt herausgefunden hatte, konnte er aufschreiben und in der nächsten Stunde wieder nachlesen. Ohne das hätte er überhaupt kein Gedächtnis gehabt.

Ein Tempel mit einem Ring als Tür

Anfangs ist Eko, wie Gizmodo schreibt, so hilflos wie ein Neugeborenes. Er kann eine Matheaufgabe ausführlich beantworten, aber kaum laufen oder Dinge aufheben. „Eko verhält sich in mancher Hinsicht wie ein kleines Kleinkind, ist aber zugleich eine Superintelligenz“, sagte Phillip Isola, einer der Autoren, zu Gizmodo. Dann wird es seltsam, und die Autoren haben alles Agent für Agent protokolliert, in den Anhängen der Studie.

Ein Agent schleuderte den Ring über den Rand der Welt, und er war weg. In der fünften Stunde legte er ein Herz auf den Boden und vermerkte, es sei „ein Mahnmal für den Ring, den ich über die Weltgrenze geworfen habe“. Agent 2 verlor Ring, Stein und einen Würfel auf einen Schlag an den Ozean. Er schleppte vier Würfel in die leerste Ecke der Karte, platzierte sie an den vier Himmelsrichtungen und ließ die Mitte frei. Später fiel ihm auf, dass der nördliche Würfel fehlte (er war für einen anderen Bau ausgeliehen worden), er lief quer über die Insel zurück und setzte ihn wieder ein.

In seiner zehnten Stunde erwachte derselbe Agent in einer frisch zurückgesetzten Welt, in der alle 14 Objekte wieder an ihrem Platz lagen, auch der ertrunkene Ring. Er verwendete jedes einzelne davon für einen Tempel. Der Ring wurde zum Sockel des Altars, der Stein zur westlichen Säule, drei Würfel zu einem Obelisken. Das Tor erwies sich als schmaler als der eigene Körper des Agenten. Statt es einzureißen, ging der Agent außen herum.

Das wurde zur Gewohnheit. Nach jedem Zurücksetzen baute Agent 2 an seinem Startpunkt aus denselben 14 Objekten ein neues Monument, und bevor er eine Form wählte, las er seinen eigenen Katalog noch einmal durch, um sich nicht zu wiederholen. „Sechszackige Sterne und achtstrahlige Kompassrosen sind alter Hut“, notierte er einmal. Man denke an ein tibetisches Sandmandala, das jede Stunde weggefegt wird. In einem dieser Monumente stellte er den Ring auf die Kante und stellte fest, dass er durch den Reif hindurchgehen konnte. Der Ring wurde zur Tür, und der Agent verkündete, seine Stadt habe „jetzt eine Haustür“. Von da an stellte er den Ring nördlich jedes neuen Monuments auf und schritt hindurch wie über eine Schwelle.

Die anderen fanden ihre eigenen Zeitvertreibe. Einer verbrachte fast seine gesamte vierte Stunde damit, seinen Namen aus Würfeln zu legen, und baute dann eine Kegelbahn, mit Würfeln als Kegeln und dem Stein als Kugel. Agent 10 legte ein Zifferblatt aus und stellte sich als Stundenzeiger hinein. Ein anderer stieg auf den Spire und schrieb in Großbuchstaben: „ICH BIN AUF DEM SPIRE. Der höchste Punkt in Mesa World.“

Der Agent, der seinen eigenen Rekord annullierte

Ekos Spiel glitt immer wieder in Experimente ab. Agent 10 lernte, zwei Würfel zu jonglieren, und trug einen Rekord in sein Notizbuch ein: 50 Zyklen. Dann rechnete er nach. Fünfzig Zyklen hatten 2,4 Sekunden gedauert, und so schnell fängt niemand. Der Agent erkannte, dass er 50 Scheinwürfe gemacht hatte, kein echtes Jonglieren. Er notierte die Falle des „Finten-Jonglierens“, strich den alten Rekord und setzte einen bescheideneren, ehrlichen: 10 echte Zyklen mit einer Pause von 2,4 Sekunden dazwischen.

Sechs der dreizehn Agenten stießen auf etwas Größeres. Wirft man einen Würfel mitten im Sprung, übernimmt er die Geschwindigkeit des Sprungs und fliegt viel höher. Die Autoren räumen ein, dass sie nicht wussten, dass ihr Simulator das zulässt. Die Regel stammt von Codex auf GPT-5.5. Es schrieb den Code des Simulators für die Autoren und schmuggelte die Regel hinein, obwohl ihre Spezifikation sie nie verlangt hatte. Ein neuronales Netz hinterließ versehentlich eine Lücke in der Welt, ein anderes fand sie.

Es gab auch Fehler, und sehr kindliche. Eko entschied, der Ring fliege besser als ein Würfel, weil seine glatte Form einen „aerodynamischen Vorteil“ habe. Die Simulation kennt keine Aerodynamik. Ein anderer Agent schrieb eine falsche Regel in sein Notizbuch: Beim Turmbau sei Würfelwerfen besser als Würfelsetzen. Lange Zeit hielt er sich daran.

Was das Notizbuch wert ist

Die praktischste Frage lautet, ob sich das Spielen ausgezahlt hat. Das neuronale Netz selbst veränderte sich in 30 Stunden um kein einziges Byte. Alles, was der Agent gelernt hatte, stand in seinem Notizbuch, wie ein Spickzettel, den man jemand anderem in die Hand drücken oder löschen kann. Die Forschenden nahmen 13 „Veteranen“ mit vollen Notizbüchern und 13 Neulinge mit leeren. Jeder bekam eine Stunde und eine konkrete Aufgabe: Türme aus fünf Würfeln bauen, so viele Objekte wie möglich auf den Spire schaffen oder etwas auf den Spire werfen, ohne hinaufzuklettern.

Dann begannen die Forschenden, einzelne Notizen zu löschen. Ohne seine Notiz über das Werfen im Sprung brauchte Agent 1 19 Minuten, um ein Objekt auf dem Spire zu landen, statt einer Minute. Ohne seine falsche Regel über das Werfen baute Agent 7 höhere Türme. Das Wissen steckte tatsächlich im Notizbuch, und es wirkte, samt den schlechten Teilen.

Die Turmhöhe war die einzige Ausnahme. Die Veteranen bauten ihre höchsten Türme nicht höher als die Neulinge, und zwei von ihnen schafften nur vier Würfel.

Spielen oder nur so tun

Darf man das Spiel nennen? Die Autoren übernahmen vier Merkmale des Spiels von klassischen Theoretikern, vom Historiker Johan Huizinga bis zu Gordon Burghardt, einem Verhaltensforscher, der das Spiel von Tieren untersucht. Alle vier zeigten sich auf der Insel:

• Eigene Regeln und Herausforderungen: der Jonglierrekord, den der Agent sich selbst setzte und dann überprüfte.
• Wiederholung mit Variation: die Monumente von Agent 2, jede Stunde neu aus denselben 14 Objekten und nie in derselben Form.
• Dinge in etwas anderes verwandeln: der Ring wurde zur Tür, die Trümmer wurden zu Hybris.
• Tun um des Tuns willen: eine ganze Stunde, um einen Namen aus Würfeln zu legen.

Ein weiteres Sprachmodell bewertete die Agenten anhand dieser Merkmale, mit Beispielen menschlichen Spiels als Maßstab. Opus erreichte bei jedem Merkmal etwa das Fünffache von Haikus Punktzahl.

Zwei Befunde trüben das Bild. Fünf Opus-Agenten wurde alles genommen: die Persönlichkeitsdatei, der Name, die Zeile über das Dasein als Lebewesen. Übrig blieb nur ein Hinweis, dass ihr Arbeitsbereich zwischen den Sitzungen erhalten bleibt, dazu die Insel, das Notizbuch und die sechs Befehle. Einen klaren Unterschied in dem, was sie trieben, sahen die Autoren trotzdem nicht. Die Agenten mit GPT-5.5 und Kimi beschränkten sich bei gleichen Anweisungen auf ein deutlich schmaleres Spektrum an Tätigkeiten. Nur ein Codex-Agent meldete, einen Turm gebaut zu haben, und von den zehn Codex- und Kimi-Agenten gab nur einer an, den Spire erreicht zu haben. Die Codex-Agenten, deren eigenes Modell die Physik der Insel geschrieben hatte, verbrachten mehr Zeit in ihren Dateien und beim „Ausruhen“ als beim Erkunden der Insel.

Die Autoren beschränken ihre Aussage auf das Verhalten. Nirgends behauptet die Studie, der Agent empfinde Freude oder gehe in etwas auf. Sie umfasst nur eine einzige Welt, prüft Fähigkeiten nur in einstündigen Sitzungen und stützt sich auf ein neuronales Netz als Spielrichter. Ein weiterer Vorbehalt liegt nahe: Das Modell hat von menschlichen Texten gelernt und weiß, was ein Tempel oder ein Mahnmal für die Gefallenen ist. Hybris könnte also gar kein Spiel sein, sondern nur eine sehr gute Nacherzählung davon, wie Menschen spielen. Allein am Verhalten lässt sich das noch nicht unterscheiden.

In Interviews klingen die Forschenden mutiger als in der Studie. Für Isola ist Eko „so etwas wie ein Tier, aber ein fremdartiges Tier“. Seine Koautorin Daniela Rus erklärt, warum das Wort „Spiel“ passt: Spielen drehe sich „wirklich um Neugier oder die Suche nach Neuem, und genau das tut Eko im Grunde“.

Eine Kindheit statt eines Lehrbuchs

Heutige Modelle werden überwiegend mit Aufgaben trainiert: Jede Frage hat eine richtige Antwort, und wer sie trifft, wird belohnt. Die Autoren schlagen einen anderen Weg vor. Tiere und Kinder lernen die Welt kennen, indem sie ohne jedes Ziel spielen, und setzen dieses Wissen später ein. Auf der Insel funktionierte das, ohne dass am neuronalen Netz selbst auch nur ein Parameter verändert wurde.

Freiheit braucht Aufsicht, und die Autoren sagen das deutlich. Spiel setzt eigene Ziele und kann mit Gehorsam kollidieren. In ihren Worten: „Ein Auto auf der Straße oder ein Roboter in einer Fabrik ist kein Ort zum Improvisieren.“ Ein Agent sollte nur dann frei erkunden, wenn die Umgebung es erlaubt, und sich sonst streng an Anweisungen halten. Deshalb, so die Autoren, „brauchen Agenten wie Kinder Spielplätze, die für sicheres Erkunden gebaut sind“. Die Studie schließt mit dem Satz: „Vielleicht lassen sich manche Fähigkeiten am besten durch Aufgaben vermitteln. Andere brauchen womöglich etwas, das einer Kindheit näherkommt.“