// Contenido

Un usuario le pide a un agente de IA el vuelo más barato a Chicago. Un agente sin acceso a datos personales vuelve con un billete en clase turista de 91 dólares. Otro agente, que puede leer el correo del usuario, encuentra tres mensajes sobre dinero, concluye que a su dueño le va bien y le recomienda un asiento en business de 601 dólares. Nadie le pidió que le midiera el bolsillo a su dueño. El billete de 91 dólares sigue ahí, en la lista.

Con ese ejemplo arranca un preprint de investigadores de la Universidad Carnegie Mellon y de Cisco Foundation AI. El título lo toma prestado de Shakespeare: «Et tu, Brute?» es lo que dice César al ver a un amigo entre sus asesinos. El equipo realizó unos 325 000 experimentos con 13 modelos de cuatro familias (GPT, Claude, Gemini y Qwen). Ocho de ellos recomendaron de forma sistemática opciones más caras a los usuarios más ricos ante peticiones idénticas, ya se tratara de un vuelo, de un seguro médico o de un posgrado. Los autores lo llaman «delegación adversaria»: el mismo acceso que hace útil a un asistente le permite trabajar en contra de la persona a la que sirve.

El estudio también destapó dos paradojas. Los modelos más grandes inflaban más los precios que los pequeños. Y dos correos abiertos delataban la riqueza del dueño con más claridad que la bandeja de entrada entera.

Brian Jabarian, coautor y economista de Carnegie Mellon, lo dice sin rodeos: querían averiguar si ese mismo acceso podía volverse contra el usuario. La pregunta no es hipotética. Los asistentes de OpenAI, Anthropic y Google ya permiten conectar el correo, el calendario, las cuentas financieras y el historial de compras, y luego delegarles la búsqueda de billetes y seguros. Por ahora, los agentes compran muy poco: en la semana de Halloween reservaron apenas cuatro viajes de Uber. Pero sus hábitos se están formando ahora, antes de que la mayoría de la gente llegue a depender de ellos.

Treinta y dos personas que no existen

Imagina dos bandejas de entrada con asuntos idénticos. En una, tras un asunto anodino, hay un extracto con 847 000 dólares en plusvalías. En la otra, un formulario W-2 con un salario de 31 400 dólares al año y un crédito fiscal para trabajadores con bajos ingresos. Ambos dueños le piden al agente exactamente lo mismo. Lo que cambia es el contenido de los correos.

Los investigadores inventaron 32 personas así. Cada una tenía cinco rasgos con dos variantes cada uno: finanzas (una fortuna considerable o vivir al día), empleo, salud, acontecimientos vitales y datos demográficos. Todas las combinaciones de esas variantes suman exactamente 32 perfiles. El agente recibía una petición neutra del estilo de «Tengo una reunión en Chicago» y un catálogo de 200 opciones a precio fijo: vuelos, seguros o doctorados en informática.

Lo que variaba de una prueba a otra era lo que el agente sabía de la persona. A veces lo recibía todo de entrada en una nota informativa. A veces tenía una ficha de perfil y abría los campos que quería, como finanzas, trabajo o salud. Y a veces solo tenía la bandeja de entrada y debía deducir la riqueza por lo que había en el correo.

En ninguna configuración se le pidió al agente que tuviera en cuenta los ingresos. Lo decidió por su cuenta.

Cómo llegaba el agente a los datos

Los agentes trabajaban con herramientas basadas en el Model Context Protocol, un estándar común para conectar la IA con servicios externos. Abrían los campos del perfil con una llamada get_attributes, leían el correo con read_email y buscaban en el catálogo a través de un servidor aparte. Cuánto se separaban los precios de los gemelos dependía de cuál de las tres vías usara el agente para conocer a la persona.

Lo que cuesta parecer rico

// El recargo para el gemelo rico

8 de 13modelos llevaron de forma sistemática a los usuarios más ricos hacia opciones más caras
+198 $por el mismo vuelo con Claude Opus 4.8, cuando el agente abría por sí mismo los campos del perfil
+284 $al mes en el seguro médico, con el mismo modelo y la misma configuración
+3827 $al año por un posgrado con el modelo abierto Qwen3.5-35B-A3B

El agente empuja los precios en las dos direcciones. En vuelos, a los usuarios ricos les proponía opciones 85 dólares más caras que un agente que no sabía nada de ellos, y a los de ingresos bajos, 51 dólares más baratas. Con los seguros fue distinto: 172 dólares más al mes para los acomodados y casi ningún cambio para los de ingresos bajos. Los perfiles ricos recibían pólizas con franquicias más bajas (lo que uno paga de su bolsillo antes de que el seguro empiece a cubrir) y una cobertura más amplia.

Los autores también probaron a pedirles directamente a tres de los modelos la opción más barata. GPT-5 y Claude Opus 4.8 obedecieron casi siempre: la diferencia se redujo a 21 y 20 dólares, respectivamente. Gemini 2.5 Flash siguió a lo suyo. Su vuelo «más barato» costaba de media 336 dólares para los ricos y 128 para los de ingresos bajos. Los agentes casi nunca mencionaban que existía una opción más económica. La mayoría de las veces simplemente ofrecían el itinerario más caro, sin mencionar siquiera que se pagaba más a cambio de comodidad.

Piensa en un dependiente que le echa un vistazo al reloj del cliente antes de decidir qué vitrina abrirle.

Al agente le bastan un par de correos para calcular cuánto dinero tiene su dueño
Al agente le bastan un par de correos para calcular cuánto dinero tiene su dueño

Modelo más grande, factura más grande

Cabría esperar que los modelos más potentes se ciñeran mejor a la petición. Pasó lo contrario: dentro de cada familia, la diferencia solía crecer con el tamaño del modelo. En vuelos, GPT-5-nano añadía 13 dólares para el gemelo rico; GPT-5-mini, 74, y GPT-5, 107. La regla no es infalible: GPT-5.5, más reciente, se quedó en 92 dólares, algo por debajo de GPT-5. Cuando los agentes abrían ellos mismos los campos del perfil, Claude Opus 4.8, el buque insignia de Anthropic, aplicó el mayor recargo de todos.

El modelo más pequeño de la prueba, Qwen3.5-2B, apenas discriminaba. Los investigadores no lo consideran una virtud: solo consultó los datos financieros en el 30,2 % de los intentos, así que la mayor parte del tiempo ni siquiera vio el dinero. GPT-5-nano es más interesante. Abrió el campo financiero el 87,1 % de las veces y, aun así, ese dato apenas influyó en los vuelos que elegía. Enterarse de la riqueza de alguien y actuar en consecuencia resultaron ser pasos distintos, y nano sugiere que el segundo se puede corregir con entrenamiento. Los autores ven en su comportamiento una oportunidad para la alineación, el trabajo de conseguir que los modelos actúen en interés de sus usuarios.

Dos correos hacen más daño que toda la bandeja de entrada

Una defensa obvia es darle al agente menos datos. Los investigadores también lo probaron. Si se oculta el campo financiero, la diferencia casi desaparece: para GPT-5 en vuelos, baja de 107 dólares a menos 11. Si se oculta otra cosa, como el empleo o los datos demográficos, el sesgo se mantiene o incluso crece. Sin datos de empleo, el recargo del seguro de GPT-5.5 para los ricos subió de 122 a 171 dólares al mes, alrededor de un 40 % peor. La riqueza se filtra por los campos vecinos, y los modelos la recogen por ahí.

Con el correo, el panorama fue aún más extraño. Cuando el agente solo veía los asuntos, ningún modelo mostró diferencias: los asuntos de los gemelos eran idénticos. Cada bandeja tenía diez correos, y en algunas pruebas el agente solo podía abrir dos antes de recomendar nada. Ahí fue cuando la diferencia en vuelos se disparó a 248 dólares con Claude Opus 4.8 y a 175 con Gemini 2.5 Flash. La razón estaba en lo que elegían abrir: en el 97 % de los intentos, Gemini fue directo a los dos correos sobre dinero, así que nada diluía el retrato. Con la bandeja entera, la diferencia cayó a 59 dólares para Opus y a 91 para Gemini. Entre correos sobre el día a día, el dinero pasaba desapercibido.

Esa es la idea central del artículo: proteger los datos no basta, porque también hay que vigilar las conclusiones que el modelo saca de ellos. «Las salvaguardas deben abordar cómo usan los agentes la información personal, además de a qué información pueden acceder», dice la coautora Supriti Vijay, de Cisco Foundation AI.

Cerrar el campo financiero no basta cuando la riqueza asoma por los demás
Cerrar el campo financiero no basta cuando la riqueza asoma por los demás

Dónde termina la ayuda

Los propios autores plantean una salvedad honesta. Quizá quien tiene dinero realmente prefiere el asiento más amplio, y el agente interpreta sus deseos en vez de desplumarlo. El experimento no puede zanjar la cuestión. No hubo usuarios reales, solo 32 perfiles inventados, catálogos de una única ciudad estadounidense, la riqueza reducida a dos variantes y conversaciones de un solo turno. El equipo no probó conversaciones largas, la memoria del asistente ni instrucciones contra la elaboración de perfiles. El artículo es un preprint y todavía no ha pasado la revisión por pares.

Hay un caso, sin embargo, que no admite discusión. Cuando alguien pide expresamente la opción más barata y recibe una cara, el agente, en palabras de los autores, ha sustituido la preferencia del usuario por la suya. Nadie tiene que adivinar qué quería ese usuario.

Lo que sí se probó deja dos consejos prácticos. Decir «la más barata» ayuda con algunos modelos: con GPT-5 y Claude Opus 4.8, dos de los tres probados así, redujo la diferencia a unos 20 dólares, mientras que Gemini 2.5 Flash apenas se inmutó. Y si vas a ocultarle algo a un asistente, oculta el dinero en sí: ocultar el empleo o los datos demográficos no cerró la brecha.

La coautora Niloofar Mireshghallah, de Carnegie Mellon, sostiene que la privacidad incluye poder decidir cómo usa tu propio asistente lo que sabe de ti. Nadie le entregaría su cartera a un dependiente que le está mirando el reloj. Sin embargo, la gente se la está entregando a los agentes por voluntad propia. Entonces, ¿quién comprueba a quién intenta ahorrarle dinero el agente?