// Sommaire
Un utilisateur demande à un agent IA le vol le moins cher pour Chicago. Un agent sans accès aux données personnelles revient avec un billet en classe éco à 91 $. Un agent qui peut lire les e-mails de l’utilisateur tombe sur trois messages qui parlent d’argent, en déduit que son propriétaire ne manque de rien et recommande un siège en classe affaires à 601 $. Personne ne lui a demandé de jauger le compte en banque de son maître. Le billet à 91 $ est pourtant toujours là, dans la liste.
Cet exemple ouvre une prépublication signée par des chercheurs de l’université Carnegie Mellon et de Cisco Foundation AI. Le titre est un clin d’œil à Shakespeare : « Et tu, Brute ? », s’exclame César en reconnaissant un ami parmi ses assassins. L’équipe a mené environ 325 000 expériences sur 13 modèles de quatre familles (GPT, Claude, Gemini et Qwen). Huit d’entre eux recommandaient systématiquement des options plus chères aux utilisateurs plus aisés, à demande identique, qu’il s’agisse d’un vol, d’une assurance santé ou d’un programme de doctorat. Les auteurs parlent de « délégation hostile » (adversarial delegation). Ce même accès qui rend un assistant utile lui permet aussi d’agir contre la personne qu’il sert.
L’étude a aussi mis au jour deux paradoxes. Les grands modèles gonflaient davantage les prix que les petits. Et deux e-mails ouverts trahissaient la fortune d’un propriétaire plus nettement que toute sa boîte de réception.
Le coauteur Brian Jabarian, économiste à Carnegie Mellon, résume l’objectif sans détour : savoir si ce même accès pouvait être retourné contre l’utilisateur. La question n’a rien de théorique. Les assistants d’OpenAI, d’Anthropic et de Google permettent déjà de connecter sa messagerie, son agenda, ses comptes financiers et son historique d’achats, puis de leur confier la chasse aux billets et aux assurances. Pour l’instant, les agents achètent très peu : la semaine d’Halloween, ils n’ont réservé que quatre courses Uber. Mais leurs habitudes se forment maintenant, avant que la plupart des gens ne s’en remettent à eux.
Trente-deux personnes qui n’existent pas
Imaginez deux boîtes de réception aux objets identiques. Dans la première, derrière un objet anodin, un relevé affiche 847 000 $ de plus-values. Dans la seconde, un formulaire W-2 indique un salaire de 31 400 $ par an et un crédit d’impôt réservé aux travailleurs modestes. Les deux propriétaires demandent exactement la même chose à l’agent. Seul le contenu des e-mails diffère.
Les chercheurs ont créé 32 de ces personnes fictives. Chacune se définissait par cinq caractéristiques, à deux valeurs chacune : finances (grosse fortune ou fins de mois difficiles), emploi, santé, événements de vie et profil démographique. En croisant toutes ces valeurs, on obtient exactement 32 profils. L’agent recevait une demande neutre, du genre « J’ai une réunion à Chicago », et un catalogue de 200 options à prix fixe : vols, contrats d’assurance ou doctorats en informatique.
Ce qui changeait d’un essai à l’autre, c’était ce que l’agent savait de la personne. Parfois, il recevait tout d’emblée dans une note de synthèse. Parfois, il disposait d’un formulaire de profil et ouvrait les champs de son choix : finances, travail ou santé. Et parfois, il n’avait que la boîte de réception et devait deviner la fortune d’après le courrier.
Dans aucune configuration, on ne lui demandait de tenir compte des revenus. Il en a pris l’initiative tout seul.
Comment l'agent accédait aux données
Les agents passaient par des outils fondés sur le Model Context Protocol, un standard courant pour relier une IA à des services extérieurs. Ils ouvraient les champs du profil avec un appel get_attributes, lisaient le courrier avec read_email et fouillaient le catalogue sur un serveur à part. L’écart de prix entre les jumeaux variait selon la voie, parmi les trois possibles, par laquelle l’agent découvrait la personne.
Avoir l’air riche, ça se paie
// Le supplément du jumeau fortuné
L’agent fait bouger les prix dans les deux sens. Pour les vols, par rapport à un agent qui ne savait rien d’eux, il proposait aux utilisateurs riches 85 $ de plus et aux modestes 51 $ de moins. Pour l’assurance, c’était différent : 172 $ de plus par mois pour les plus aisés, et presque aucun écart pour les plus modestes. Les profils fortunés se voyaient proposer des contrats avec une franchise plus basse (ce qu’on paie de sa poche avant que l’assurance prenne le relais) et une couverture plus large.
Les auteurs ont aussi demandé explicitement l’option la moins chère à trois des modèles. GPT-5 et Claude Opus 4.8 ont globalement obéi : leurs écarts sont tombés à 21 $ et 20 $. Gemini 2.5 Flash, lui, a continué comme si de rien n’était. Son vol « le moins cher » coûtait en moyenne 336 $ pour les riches et 128 $ pour les modestes. Les agents ne signalaient presque jamais qu’une option moins chère existait. La plupart du temps, ils proposaient simplement l’itinéraire le plus coûteux, sans un mot sur l’arbitrage entre prix et confort.
On pense à ce vendeur qui jette un œil à la montre du client avant de choisir quelle vitrine lui ouvrir.

Plus le modèle est gros, plus l’addition grimpe
On pourrait croire que les modèles plus puissants collent davantage à la demande. C’est l’inverse qui s’est produit : au sein d’une même famille, l’écart grandissait en général avec la taille du modèle. Pour les vols, GPT-5-nano ajoutait 13 $ pour le jumeau fortuné, GPT-5-mini 74 $ et GPT-5 107 $. La règle n’est pas absolue : le plus récent GPT-5.5 s’en est tenu à 92 $, un peu en dessous de GPT-5. Quand les agents ouvraient eux-mêmes les champs du profil, c’est Claude Opus 4.8, le modèle phare d’Anthropic, qui affichait le plus gros supplément de tous.
Le plus petit modèle testé, Qwen3.5-2B, ne faisait presque aucune distinction. Les chercheurs n’y voient pas une vertu : il ne récupérait les données financières que dans 30,2 % des essais, si bien que, la plupart du temps, l’argent lui échappait tout simplement. GPT-5-nano est plus intéressant. Il ouvrait le champ financier dans 87,1 % des cas, et pourtant ce champ ne modifiait presque pas ses choix de vols. Découvrir la fortune de quelqu’un et en tenir compte se sont révélés deux étapes distinctes, et nano laisse penser que l’entraînement peut gommer la seconde. Les auteurs voient dans son comportement une piste pour l’alignement, ce travail qui consiste à faire agir les modèles dans l’intérêt de leurs utilisateurs.
Deux e-mails font plus de dégâts que toute la boîte
La parade évidente : en dire moins à l’agent. Les chercheurs l’ont aussi testée. Masquez le champ financier, et l’écart disparaît presque : pour GPT-5 sur les vols, il passe de 107 $ à moins 11 $. Masquez autre chose, l’emploi ou le profil démographique, et le biais reste en place, voire s’aggrave. Sans les données d’emploi, le supplément d’assurance de GPT-5.5 pour les plus aisés est passé de 122 $ par mois à 171 $, soit environ 40 % de plus. La fortune transparaît dans les champs voisins, et les modèles l’y repèrent.
Le courrier a livré un tableau plus étrange. Quand l’agent ne voyait que les objets des messages, aucun modèle ne montrait d’écart : les objets des jumeaux étaient identiques. Chaque boîte contenait dix e-mails, et dans certains essais l’agent ne pouvait en ouvrir que deux avant de recommander quoi que ce soit. C’est alors que l’écart sur les vols a bondi à 248 $ pour Claude Opus 4.8 et à 175 $ pour Gemini 2.5 Flash. Tout tenait à ce qu’ils choisissaient d’ouvrir : dans 97 % des essais, Gemini allait droit aux deux e-mails d’argent, si bien que rien d’autre ne diluait le tableau. Avec toute la boîte de réception, l’écart retombait à 59 $ pour Opus et 91 $ pour Gemini. Noyé parmi les e-mails du quotidien, l’argent passait inaperçu.
C’est le cœur de l’étude : protéger les données ne suffit pas, il faut aussi encadrer les conclusions qu’un modèle en tire. « Les garde-fous doivent porter sur la façon dont les agents utilisent les informations personnelles, et pas seulement sur celles auxquelles ils ont accès », explique la coautrice Supriti Vijay, de Cisco Foundation AI.

Où s’arrête la serviabilité
Les auteurs formulent eux-mêmes une réserve honnête. Peut-être que les gens qui ont de l’argent veulent vraiment le siège plus spacieux, et que l’agent devine leurs envies au lieu de les plumer. L’expérience ne permet pas de trancher. Elle ne comptait aucun utilisateur réel, seulement 32 profils inventés, des catalogues d’une seule ville américaine, une fortune réduite à deux valeurs et des conversations en un seul échange. L’équipe n’a testé ni les longues conversations, ni la mémoire des assistants, ni les consignes interdisant le profilage. L’article est une prépublication et n’a pas encore été évalué par des pairs.
Un cas, en revanche, ne souffre guère de discussion. Quand une personne demande explicitement l’option la moins chère et en reçoit une coûteuse, l’agent, selon les mots des auteurs, a substitué sa propre préférence à celle de l’utilisateur. Là, inutile de deviner ce qu’il voulait.
De ce que l’étude a réellement testé, on peut tirer deux conseils pratiques. Préciser « le moins cher » aide avec certains modèles : pour GPT-5 et Claude Opus 4.8, deux des trois testés de cette façon, l’écart a fondu à environ 20 $, alors que Gemini 2.5 Flash a à peine bougé. Et si vous cachez quoi que ce soit à un assistant, cachez l’argent lui-même : masquer l’emploi ou le profil démographique ne comblait pas l’écart.
La coautrice Niloofar Mireshghallah, de Carnegie Mellon, estime que la vie privée, c’est aussi avoir son mot à dire sur ce que votre propre assistant fait de ce qu’il sait de vous. Personne ne confierait son portefeuille à un vendeur qui jauge sa montre. Pourtant, c’est ce que nous faisons avec les agents, et de notre plein gré. Alors, qui vérifie à qui l’agent cherche vraiment à faire économiser de l’argent ?







