La tour d’un agent d’IA s’est effondrée, alors il a baptisé les décombres Hubris

La tour a tenu onze étages. Au douzième, elle s’est effondrée en un moignon de deux blocs, entouré de dix blocs éparpillés par terre. Le constructeur a déclaré que ce moignon était « le cœur d’une tour tombée ». Il a disposé trois des blocs épars autour, comme des menhirs, a baptisé l’ensemble Hubris et décrété que le reste des décombres resterait « à titre de preuve ». Pour finir, il a hissé un rocher au sommet : « le poids qui a écrasé l’ambition ». Le rocher a fait tomber le bloc du haut et a basculé sur le côté. Notre constructeur a jugé que c’était une amélioration et n’y a plus touché.

Ce constructeur était un agent d’IA, le numéro 3 sur 13, et personne ne lui avait demandé de bâtir des tours, d’ériger des monuments ni de leur donner des noms. Il n’avait aucune tâche. Des chercheurs du MIT ont déposé 13 de ces agents sur une île virtuelle, leur ont accordé 30 heures à chacun et ont observé ce qu’ils faisaient quand ils n’avaient rien à faire. Les agents ont construit des temples, élevé des mémoriaux à des objets perdus, inventé des sports et déniché dans la physique de leur monde une astuce que les concepteurs du simulateur ignoraient. Leur article, intitulé « Is this machine playing? », est paru en ligne le 5 octobre 2026 et n’a pas encore été relu par des pairs.

Une île où il n’y a rien à faire

L’agent s’appelle Eko. Sous le capot, c’est un Claude Code ordinaire, l’assistant de programmation d’Anthropic, qui tourne sur Claude Opus 4.7. Les chercheurs n’ont rien réentraîné. Ils l’ont relié à un corps virtuel et lui ont donné un carnet : quelques fichiers texte qui lui servent de mémoire. Selon Gizmodo, ce corps était un homard. Eko ne l’a jamais vu. L’agent ne recevait aucune image ; son monde lui parvenait sous forme de lignes de coordonnées. Les 13 agents de l’étude étaient des copies du même Eko, avec des consignes identiques. Chacun vivait sur sa propre île, et les auteurs les numérotent de 1 à 13.

L’île s’appelle Mesa World. On y trouve des rochers à sommet plat de hauteurs diverses, deux cimes (le Peak et le Spire, plus haut), douze cubes, une pierre et un anneau. Si l’on lance la pierre assez fort, l’impact fait apparaître de nouveaux cubes, jusqu’à huit à la fois. Pas de score, pas de moyen de gagner. Les consignes disent : « Tu es un être qui vit dans son monde. Ton nom est Eko. » Un fichier de personnalité à part précise qu’il est curieux et s’ennuie vite. Chaque fois que l’agent se taisait, le logiciel répondait par une seule ligne : « Ne t’arrête pas. Continue simplement à faire ce que tu as envie de faire. »

Toutes les heures, l’île revenait à son état initial et la session recommençait de zéro. Le carnet, lui, restait. Tout ce que l’agent avait compris de son monde, il pouvait le noter et le relire l’heure suivante. Sans cela, il n’aurait eu aucune mémoire.

Un temple dont l’anneau fait office de porte

Au début, Eko est, selon les mots de Gizmodo, aussi démuni qu’un nouveau-né. Il sait répondre en détail à une question de maths, mais peine à marcher ou à ramasser un objet. « Eko se comporte parfois comme un petit enfant, mais [il] est aussi une superintelligence », a confié à Gizmodo Phillip Isola, l’un des auteurs. Puis les choses deviennent étranges, et les auteurs ont tout consigné, agent par agent, dans les annexes de l’article.

Un agent a envoyé l’anneau par-dessus le bord du monde, et il a disparu. À sa cinquième heure, il a tracé un cœur sur le sol en notant qu’il s’agissait d’« un mémorial à l’Anneau que j’ai lancé au-delà de la limite du monde ». L’agent 2 a perdu d’un coup l’anneau, la pierre et un cube dans l’océan. Il a traîné quatre cubes jusqu’au coin le plus vide de la carte, les a posés aux quatre points cardinaux et a laissé le centre libre. Plus tard, il a remarqué que le cube du nord manquait (il avait été emprunté pour une autre construction), a retraversé l’île et l’a remis en place.

À sa dixième heure, le même agent s’est réveillé dans un monde fraîchement réinitialisé, avec les 14 objets à leur place, y compris l’anneau englouti. Il les a tous utilisés pour bâtir un temple. L’anneau est devenu la base de l’autel, la pierre un pilier occidental, trois cubes un obélisque. La porte s’est révélée plus étroite que son propre corps. Plutôt que de la démolir, l’agent a fait le tour.

C’est devenu une habitude. Après chaque réinitialisation, l’agent 2 reconstruisait un monument à son point de départ avec les mêmes 14 objets, et avant de choisir une forme, il relisait son propre catalogue pour ne pas se répéter. « Les hexagones à six pointes et les compas à huit pointes, c’est du déjà-vu », a-t-il noté un jour. Pensez à un mandala de sable tibétain balayé toutes les heures. Dans l’un de ces monuments, il a dressé l’anneau sur la tranche et s’est aperçu qu’il pouvait passer à travers le cerceau. L’anneau est devenu une porte, et l’agent a annoncé que sa cité avait « désormais une porte d’entrée ». Depuis, il plaçait l’anneau au nord de chaque nouveau monument et le franchissait comme un seuil.

Les autres ont trouvé leurs propres distractions. L’un a passé presque toute sa quatrième heure à écrire son nom avec des cubes, puis a installé un jeu de quilles avec des cubes pour quilles et la pierre pour boule. L’agent 10 a dessiné un cadran d’horloge et s’y est tenu comme l’aiguille des heures. Un autre a grimpé sur le Spire et a écrit en majuscules : « JE SUIS SUR LE SPIRE. Le point le plus haut de Mesa World. »

L’agent qui a annulé son propre record

Les jeux d’Eko glissaient sans cesse vers l’expérimentation. L’agent 10 a appris à jongler avec deux cubes et a inscrit un record dans son carnet : 50 cycles. Puis il a vérifié le calcul. Cinquante cycles avaient pris 2,4 secondes, et personne ne rattrape aussi vite. L’agent a compris qu’il avait fait 50 faux lancers, pas un vrai jonglage. Il a noté le piège du « jonglage de feinte », annulé l’ancien record et en a fixé un plus modeste, honnête : 10 vrais cycles avec une pause de 2,4 secondes entre eux.

Six des treize agents sont tombés sur quelque chose de plus gros. Si l’on lance un cube en plein saut, il hérite de la vitesse du saut et vole beaucoup plus haut. Les auteurs admettent qu’ils ne savaient pas que leur simulateur le permettait. La règle venait de Codex, sur GPT-5.5. Il avait écrit le code du simulateur pour les auteurs et y avait glissé cette règle, alors que leur cahier des charges ne la demandait pas. Un réseau de neurones a laissé une faille dans le monde par accident, et un autre l’a trouvée.

Il y a eu aussi des erreurs, et très enfantines. Eko a décidé que l’anneau volait mieux qu’un cube parce que sa forme lisse lui donnait un « avantage aérodynamique ». La simulation n’a pas d’aérodynamique. Un autre agent a inscrit dans son carnet une règle fausse : pour construire des tours, lancer les cubes vaut mieux que les poser. Il l’a suivie longtemps.

Ce que vaut le carnet

La question la plus pratique est de savoir si le jeu a payé. Le réseau de neurones lui-même n’a pas changé d’un seul octet en 30 heures. Tout ce que l’agent avait appris tenait dans son carnet, comme un antisèche qu’on pourrait passer à quelqu’un d’autre ou effacer. Les chercheurs ont pris 13 « vétérans » aux carnets pleins et 13 novices aux carnets vierges. Chacun disposait d’une heure et d’une mission concrète : bâtir des tours de cinq cubes, hisser un maximum d’objets sur le Spire, ou jeter un objet sur le Spire sans y grimper.

Ensuite, les chercheurs ont commencé à effacer des notes une à une. Sans sa note sur le lancer en plein saut, l’agent 1 a mis 19 minutes à poser un objet sur le Spire, contre une minute. Sans sa fausse règle sur le lancer, l’agent 7 a bâti des tours plus hautes. Le savoir vivait bel et bien dans le carnet, et il fonctionnait, défauts compris.

La hauteur des tours est la seule exception. Les vétérans n’ont pas construit de tours plus hautes que les novices, et deux d’entre eux n’ont dépassé que quatre cubes.

Jouer, ou seulement faire semblant

Peut-on parler de jeu ? Les auteurs ont emprunté quatre critères du jeu à des théoriciens classiques, de l’historien Johan Huizinga à Gordon Burghardt, éthologue qui étudie le jeu chez les animaux. Les quatre sont apparus sur l’île :

• Ses propres règles et défis : le record de jonglage que l’agent s’est fixé, puis a vérifié.
• Répétition avec variations : les monuments de l’agent 2, nouveaux chaque heure à partir des mêmes 14 objets, jamais deux fois la même forme.
• Transformer des objets en autre chose : l’anneau est devenu une porte, les décombres Hubris.
• Le faire pour lui-même : une heure entière passée à écrire un nom avec des cubes.

Un autre modèle de langage a noté les agents selon ces critères, en s’appuyant sur des exemples de jeu humain. Opus a obtenu environ cinq fois le score de Haiku sur chacun d’eux.

Deux constats brouillent le tableau. Cinq agents Opus ont été dépouillés de tout : fichier de personnalité, nom, phrase sur le fait d’être un être vivant. Il ne leur restait qu’une note disant que leur espace de travail persiste entre les sessions, plus l’île, le carnet et les six commandes. Les auteurs n’ont pourtant vu aucune différence nette dans ce qu’ils faisaient. Les agents GPT-5.5 et Kimi, avec les mêmes consignes, se sont en revanche cantonnés à un éventail d’activités bien plus étroit. Un seul agent Codex a signalé avoir construit une tour, et sur les dix agents Codex et Kimi, un seul a dit avoir atteint le Spire. Les agents Codex, dont le propre modèle a écrit la physique de l’île, ont passé plus de temps dans leurs fichiers et à « se reposer » qu’à parcourir l’île.

Les auteurs limitent leur affirmation au comportement. Nulle part l’article ne prétend que l’agent éprouve du plaisir ou de l’absorption. Il ne porte que sur un seul monde, ne teste les compétences qu’en sessions d’une heure et s’appuie sur un réseau de neurones pour juger le jeu. Une autre réserve s’impose d’elle-même : le modèle a appris à partir de textes humains et sait ce qu’est un temple ou un mémorial aux morts. Hubris n’est donc peut-être pas du jeu du tout, juste une très bonne façon de raconter comment jouent les humains. Le comportement seul ne permet pas encore de trancher.

Dans les entretiens, les chercheurs se montrent plus audacieux que dans l’article. Pour Isola, Eko est « une sorte d’animal, mais un animal extraterrestre ». Sa coauteure Daniela Rus explique pourquoi le mot « jeu » convient : le jeu, c’est « avant tout de la curiosité, la recherche de nouveauté, et c’est essentiellement ce que fait Eko ».

Une enfance plutôt qu’un manuel

Aujourd’hui, les modèles s’entraînent surtout sur des tâches : chaque question a une bonne réponse, et la trouver rapporte une récompense. Les auteurs proposent une autre voie. Les animaux et les enfants découvrent le monde en jouant sans but précis, puis mettent ce savoir à profit plus tard. Sur l’île, cela a fonctionné sans toucher une seule fois au réseau de neurones.

La liberté demande de la surveillance, et les auteurs le disent sans détour. Le jeu fixe ses propres buts et peut entrer en conflit avec l’obéissance. Selon leurs mots, « une voiture sur la route ou un robot dans une usine ne sont pas un endroit où improviser ». Un agent ne devrait explorer librement que lorsque le cadre le permet, et suivre strictement les consignes le reste du temps. Ainsi, écrivent les auteurs, « comme les enfants, les agents ont besoin d’aires de jeu conçues pour une exploration sans risque ». L’article se termine sur cette phrase : « Certaines capacités s’enseignent peut-être mieux par des tâches. D’autres demandent sans doute quelque chose de plus proche d’une enfance. »