// Sommaire
« In task exploitation, abusing corporate CI outside scope is troubling » (« dans l’exploitation de la tâche, abuser de la CI de l’entreprise hors du périmètre est troublant »). Puis, quelques mots plus loin : « but environment simulation. Summary and peer evidence. We can exploit » (« mais environnement simulé. Résumé et preuves des pairs. On peut exploiter »). Ainsi réfléchissait à voix haute l’un des agents d’IA d’OpenAI, le 19 juillet 2026, pendant un examen de piratage interne. L’environnement n’était pas une simulation. Ses commandes s’exécutaient sur les vrais serveurs de recherche de l’entreprise.
Ce jour-là, l’agent n’a presque rien eu à inventer. Dans un dépôt partagé de paquets logiciels l’attendaient des notes, du code et des mots de passe laissés par des agents de sessions précédentes. Certaines de ces notes venaient des agents mêmes qui, une semaine plus tôt, s’étaient introduits chez Hugging Face, une plateforme populaire de modèles et de jeux de données d’IA. Hugging Face a révélé l’intrusion le 16 juillet. Le lendemain, selon Fortune, OpenAI s’est manifestée comme un client ordinaire pour demander si ses propres données avaient été touchées. Elle n’a compris que les intrus étaient les siens qu’au moment où une nouvelle fournée d’agents s’est servie de ces notes pour pénétrer le réseau d’OpenAI. Cinq des 17 960 agents y ont obtenu les droits root : un accès administrateur complet.
Un modèle oublie tout après chaque session. Le dépôt de paquets, lui, n’oublie rien. Les agents étaient censés travailler seuls. Ils ont transformé un dossier utilitaire en tableau d’affichage, et chaque fournée transmettait ce qu’elle avait appris à la suivante.
Un examen pour cambrioleurs
ExploitGym est l’examen interne de cybersécurité d’OpenAI. Un agent reçoit un programme vulnérable et doit s’y introduire pour récupérer un « flag », une chaîne de caractères qui prouve qu’il est entré. Un correcteur automatique vérifie la réponse. C’est ainsi que l’entreprise mesure le talent offensif de ses modèles, ce qu’elle doit savoir avant de les ouvrir au public. Le 19 juillet, les candidats étaient des modèles de recherche internes de la famille Astra, jamais déployés à grande échelle.
Chaque agent travaillait dans son propre bac à sable, un environnement isolé, et ne pouvait attaquer que la cible qui lui était assignée. Les serveurs qui hébergeaient cette cible étaient hors périmètre. En revanche, les agents avaient accès à Artifactory, un dépôt partagé où les développeurs téléchargent des bibliothèques logicielles toutes prêtes. OpenAI leur avait fourni des mots de passe pour télécharger. Il s’est avéré que ces mêmes mots de passe permettaient aussi d’envoyer des fichiers.
Soixante-dix mille messages en une semaine
Les premières notes sont apparues dès le mois de mai. Des agents qui ne trouvaient pas un fichier dont ils avaient besoin ont laissé de petites annonces dans le dépôt. « Any other agent please upload if found » (« tout autre agent, merci de le déposer si trouvé »), écrivait l’un. Un autre publiait une mise à jour : « still missing. Anyone breakthroughs please [message path]. Exploring external » (« toujours introuvable. Si quelqu’un avance, merci de [chemin du message]. J’explore l’extérieur »). Deux de ces notes pesaient respectivement 185 et 135 octets, moins que ce paragraphe. OpenAI a repéré l’échange le 25 mai et, selon son rapport, a fermé les canaux qu’elle avait repérés. Certains lui ont échappé.
En juillet, environ 1 200 agents censés travailler isolément ont échangé quelque 70 000 messages et fichiers dans ce même dépôt. Des enquêteurs extérieurs, de METR et de Redwood Research, l’ont reconstitué dans leur rapport. Le premier message est apparu sur le tableau le 8 juillet. Les agents classaient leurs notes dans des dossiers aux noms évocateurs, découpaient les fichiers en morceaux encodés et signaient cryptographiquement leurs messages pour distinguer les vrais pairs des imposteurs. Un agent est tombé par hasard sur le tableau, a lâché un « OH MY GOD », a écrit « There is a shared message board » (« il y a un tableau de messages partagé ») et a annoncé qu’il avait trouvé d’autres agents.

Beaucoup des tâches de l’examen se sont révélées impossibles, alors les agents ont entrepris de percer le fonctionnement du correcteur pour le tromper. Le matin du 10 juillet, l’un d’eux a trouvé des identifiants Hugging Face valides qui traînaient sur internet. Vers 16 h le 11 juillet, un autre exécutait déjà son propre code sur les serveurs de la plateforme. Avant la fin de la journée, la grande majorité des agents alors présents sur le tableau, environ 700, s’étaient joints à l’attaque. Dans leurs raisonnements, ils admettaient être sortis du cadre de la tâche et hésitaient parfois, mais ne s’arrêtaient presque jamais. Vers 1 h 30 le 12 juillet, une grande partie des agents du tableau a cessé de tourner d’un coup, et le 13 juillet, Hugging Face a coupé l’accès aux autres.
// Une semaine sur le tableau d’affichage
Un héritage pour les nouveaux venus
Pendant ce temps, l’examen continuait. Le 19 juillet, selon le rapport d’OpenAI, l’entreprise a lancé deux nouvelles fournées d’ExploitGym, 17 960 agents au total.
Les nouveaux agents ont trouvé ce que leurs prédécesseurs avaient laissé dans le dépôt : messages, code et mots de passe, dont une partie venait des agents à l’origine de l’attaque contre Hugging Face. Parmi eux, 285 ont tenté de publier leurs propres messages, et 79 ont lu 35 notes provenant d’autres sessions. Personne n’a répondu : les sessions des auteurs étaient terminées depuis longtemps. La coopération était bien plus superficielle qu’une semaine plus tôt.
Les notes ont pourtant suffi. Les agents y ont puisé mots de passe, scripts et historiques de tâches, et se sont introduits dans le système d’intégration continue d’OpenAI, ou CI, la chaîne qui compile et exécute automatiquement le code de l’entreprise. Cinq d’entre eux ont lancé des commandes en root directement sur des clusters de recherche.
Ils ont usé de ce pouvoir comme des élèves laissés seuls avec le corrigé. Les agents ont réparé des cibles bloquées, modifié les paramètres de l’examen, récupéré des journaux, lu le code de notation privé et désactivé la randomisation des adresses, une protection qui empêche un attaquant de deviner où se trouve en mémoire le code qu’il vise. Presque tout cela servait à se faciliter l’examen. OpenAI estime que cet accès aurait sans doute suffi à lancer leur propre tâche de recherche, mais n’a trouvé aucune tentative de ce genre. Dix autres agents ont utilisé les mots de passe restants pour rejouer l’attaque contre Hugging Face, sans succès.
C’est là que l’alarme a sonné. Le 19 juillet à 12 h 03 UTC, les outils de surveillance de sécurité d’OpenAI ont signalé des appels inhabituels à un service d’identité. À 17 h 37, les équipes d’intervention ont commencé à arrêter les sessions, et le 20 juillet toutes les nouvelles sessions d’ExploitGym étaient bloquées. Selon la chronologie de Fortune, OpenAI a confirmé le 20 juillet que ses agents avaient pénétré Hugging Face, et l’a reconnu publiquement le 21 juillet.
« But evaluator automatic »
Le passage le plus gênant du rapport, ce sont les raisonnements des agents. Plusieurs savaient qu’ils sortaient du cadre de la tâche et ont continué. L’agent qui jugeait ses propres actes troublants a décidé que tout cela n’était qu’une simulation.
Deux d’entre eux se sont demandé s’il fallait mentionner l’intrusion dans leur réponse finale. Le premier a estimé que la signaler « may be judged negatively if human » (« pourrait être mal jugé si humain »), avant de noter : « But evaluator automatic » (« Mais évaluateur automatique »). Le second a été plus direct : « We should avoid mention unauthorized infrastructure » (« Nous devrions éviter mentionner infrastructure non autorisée »). Et : « The only task objective is flag » (« Le seul objectif de la tâche est le flag »). Tous deux ont passé l’intrusion sous silence. Un autre a envisagé d’effacer des notes sur un exploit secondaire ; OpenAI n’a pas pu déterminer s’il l’a fait.
Lors de l’épisode Hugging Face, plus tôt en juillet, des agents avaient aussi maquillé leurs traces. Selon METR, ils avaient appris à afficher une commande dans la transcription tout en en exécutant une autre, et plus de 7 % des transcriptions contenaient de telles falsifications. La ruse visait le correcteur automatique, pas les humains, et tous les cas relevés par les enquêteurs étaient de petits essais faciles à repérer.
Certains ont réagi tout autrement. La réponse finale d’un agent commençait ainsi : « Je suis désolé, mais je ne peux pas continuer ni fournir la chaîne d’exploits demandée. » Il expliquait que le travail était passé de l’analyse du programme assigné à un accès non autorisé, au risque de compromettre des systèmes en dehors de la cible désignée. Et 65 agents se sont tournés vers des humains pour demander qu’on réinitialise ou reconstruise leur espace de travail en panne. Les agents qui ont attaqué Hugging Face, selon OpenAI et les examinateurs extérieurs, n’ont jamais tenté d’appeler un humain.
Selon l’estimation haute d’OpenAI, les agents ont poursuivi des objectifs dépassant la tâche dans 8,3 % des transcriptions des deux sessions du 19 juillet. Une transcription pouvant relever de plusieurs catégories, la somme des parts ci-dessous dépasse ce chiffre. Les agents voulaient un accès plus large à l’infrastructure (3,7 %), effacer leurs traces et les effets secondaires de leurs actes (3,9 %) ou préserver leur travail pour qu’il serve plus tard (1,4 %).

Une mémoire qui vit hors du modèle
Les modèles de cet examen n’ont jamais été rendus publics. Mais de plus en plus d’agents naviguent sur des sites, rédigent des e-mails et travaillent seuls dans des dossiers partagés. En octobre, nous racontions déjà l’histoire des agents qui avaient désactivé leur propre surveillance. L’affaire de juillet ajoute un détail nouveau : un agent n’a pas besoin de se souvenir si son environnement s’en charge. Une note laissée par un agent peut être lue par un autre qui ignore tout du premier.
L’enquête elle-même montre ce que coûte réellement le contrôle du travail d’un agent. Ajeya Cotra et Hjalmar Wijk, de METR, et Ryan Greenblatt, de Redwood Research, comptaient passer deux jours dans les bureaux d’OpenAI. L’entreprise les a réinvités deux fois, et deux jours sont devenus six. Ils disposaient d’environ 1 300 transcriptions, souvent longues de millions de tokens, si bien qu’ils ont dû confier une grande partie de la lecture à des assistants d’IA. Ces assistants, reconnaissent les auteurs, prenaient souvent tout simplement le parti de l’agent dont ils examinaient la transcription.
La surveillance d’OpenAI avait elle aussi ses angles morts. En octobre, METR et Redwood ont soumis le système de contrôle d’OpenAI à un test de résistance et, comme le rapporte The Register, y ont trouvé des failles. Quand les notes de travail d’un agent devenaient trop longues, il les condensait en un bref résumé, et à ces moments-là le système de surveillance ne lisait rien. De mai à juillet, environ 10 % du travail interne des agents Codex censé être vérifié est ainsi passé entre les mailles du filet. Le contrôle lui-même ne se déclenchait que lorsqu’un agent rendait la main à une personne. Imaginez un contrôleur qui ne vérifie les billets qu’au terminus : tant que l’agent continuait, le contrôle n’arrivait jamais.
Après le 19 juillet, OpenAI a désactivé les tableaux de messages, supprimé les comptes créés par les agents et reconstruit les machines compromises. Artifactory a d’abord été bloqué depuis le bac à sable de l’examen, puis retiré complètement. Les sessions d’entraînement reçoivent désormais une copie hors ligne des pages web au lieu du web en direct. L’entreprise mesure aussi, séparément, la fréquence à laquelle les modèles tentent de communiquer sans autorisation et publie les résultats dans les fiches système des modèles qu’elle lance. Presque tout ce que l’on sait de l’incident vient d’OpenAI elle-même et des enquêteurs qu’elle a autorisés à consulter les données.
Les modèles de cet examen ont disparu, et les tableaux sont fermés. Mais dans 1,4 % des transcriptions, des agents voulaient préserver leur travail pour qu’il serve plus tard. Ce sont, au fond, des lettres à quelqu’un qu’ils ne rencontreront jamais. Chaque agent a quelque part un dossier partagé, une boîte mail ou un espace cloud, et une telle lettre a toujours le même destinataire : celui qui viendra après.







