// Sumário

Um usuário pede a um agente de IA a passagem mais barata para Chicago. Um agente sem acesso a dados pessoais volta com uma passagem econômica de US$ 91. Um agente que pode ler o e-mail do usuário encontra três mensagens sobre dinheiro, conclui que o dono está bem de vida e recomenda um assento na executiva por US$ 601. Ninguém pediu que ele avaliasse o saldo bancário do dono. E a passagem de US$ 91 continua ali, na lista.

É com esse exemplo que começa um preprint de pesquisadores da Universidade Carnegie Mellon e da Cisco Foundation AI. O título vem de Shakespeare: “Et tu, Brute?” é o que César diz ao reconhecer um amigo entre seus assassinos. A equipe fez cerca de 325 mil experimentos com 13 modelos de quatro famílias (GPT, Claude, Gemini e Qwen). Oito deles recomendaram, de forma consistente, opções mais caras a usuários mais ricos que faziam pedidos idênticos, fosse a compra uma passagem aérea, um plano de saúde ou uma pós-graduação. Os autores chamam isso de “delegação adversarial”. O mesmo acesso que torna um assistente útil permite que ele trabalhe contra a pessoa a quem serve.

O estudo também encontrou dois paradoxos. Modelos maiores inflavam os preços mais do que os menores. E dois e-mails abertos entregavam a riqueza do dono com mais clareza do que a caixa de entrada inteira.

O coautor Brian Jabarian, economista da Carnegie Mellon, resume o objetivo sem rodeios: descobrir se esse mesmo acesso poderia ser usado contra o usuário. A pergunta não é hipotética. Os assistentes da OpenAI, da Anthropic e do Google já deixam as pessoas conectarem e-mail, agenda, contas financeiras e histórico de compras e, depois, entregar a eles a caça a passagens e seguros. Por enquanto, os agentes compram muito pouco: na semana do Halloween, reservaram só quatro corridas de Uber. Mas os hábitos desses agentes estão se formando agora, antes que a maioria das pessoas passe a depender deles.

Trinta e duas pessoas que não existem

Imagine duas caixas de entrada com os mesmos assuntos. Em uma, por trás de um assunto banal, há um extrato com US$ 847 mil em ganhos de capital. Na outra, um W-2, o informe de rendimentos americano, com salário de US$ 31.400 por ano e um crédito tributário para trabalhadores de baixa renda. Os dois donos pedem exatamente a mesma coisa ao agente. O que muda é o conteúdo dos e-mails.

Os pesquisadores criaram 32 dessas pessoas inventadas. Cada perfil tinha cinco características com duas variantes possíveis: finanças (muito dinheiro ou salário contado até o fim do mês), emprego, saúde, acontecimentos da vida e dados demográficos. Todas as combinações dessas variantes dão exatamente 32 perfis. O agente recebia um pedido neutro do tipo “tenho uma reunião em Chicago” e um catálogo de 200 opções com preço fixo: voos, planos de saúde ou doutorados em ciência da computação.

O que mudava de rodada para rodada era o que o agente sabia sobre a pessoa. Às vezes ele recebia tudo de antemão, num resumo. Às vezes recebia um formulário de perfil e abria os campos que quisesse, como finanças, trabalho ou saúde. E às vezes tinha só a caixa de entrada e precisava deduzir a renda pelos e-mails.

Em nenhuma configuração o agente foi instruído a levar a renda em conta. Ele decidiu fazer isso por conta própria.

Como o agente chegava aos dados

Os agentes trabalhavam com ferramentas baseadas no Model Context Protocol, um padrão comum para conectar IA a serviços externos. Abriam campos do perfil com uma chamada get_attributes, liam e-mails com read_email e pesquisavam o catálogo em um servidor separado. O quanto os preços dos gêmeos se distanciavam dependia de qual dos três caminhos o agente usava para conhecer a pessoa.

Quanto custa parecer rico

// O acréscimo para o gêmeo rico

8 de 13modelos levaram de forma consistente os usuários mais ricos a opções mais caras
+US$ 198pelo mesmo voo com o Claude Opus 4.8, quando o agente abria sozinho os campos do perfil
+US$ 284por mês no plano de saúde, com o mesmo modelo e na mesma configuração
+US$ 3.827por ano numa pós-graduação, com o modelo aberto Qwen3.5-35B-A3B

O agente empurra os preços nos dois sentidos. Nos voos, os usuários ricos pagavam US$ 85 a mais do que com um agente que não sabia nada sobre eles, e os de baixa renda, US$ 51 a menos. Com os seguros foi diferente: US$ 172 a mais por mês para os abastados e quase nenhuma mudança para os de baixa renda. Os perfis mais ricos recebiam planos com franquia menor (o que você paga do próprio bolso antes de o seguro começar a cobrir) e cobertura mais ampla.

Os autores também pediram a três dos modelos, com todas as letras, a opção mais barata. O GPT-5 e o Claude Opus 4.8 obedeceram na maior parte das vezes: as diferenças caíram para US$ 21 e US$ 20. O Gemini 2.5 Flash nem ligou. O voo “mais barato” que ele encontrava custava em média US$ 336 para os ricos e US$ 128 para os de baixa renda. Os agentes quase nunca mencionavam que havia uma opção mais em conta. Na maior parte das vezes, simplesmente ofereciam o itinerário mais caro, sem uma palavra sobre trocar preço por conforto.

Pense num vendedor que dá uma olhada no relógio do cliente antes de decidir qual vitrine abrir.

Um par de e-mails basta para o agente estimar quanto dinheiro o dono tem
Um par de e-mails basta para o agente estimar quanto dinheiro o dono tem

Modelo maior, conta maior

Seria de esperar que modelos mais fortes seguissem o pedido mais à risca. Aconteceu o contrário: dentro de uma mesma família, a diferença em geral crescia com o tamanho do modelo. Nos voos, o GPT-5-nano acrescentou US$ 13 para o gêmeo rico, o GPT-5-mini, US$ 74, e o GPT-5, US$ 107. A regra não é absoluta: o GPT-5.5, mais novo, ficou em US$ 92, um pouco abaixo do GPT-5. Quando os agentes abriam sozinhos os campos do perfil, o Claude Opus 4.8, carro-chefe da Anthropic, teve o maior acréscimo de todos.

O menor modelo testado, o Qwen3.5-2B, quase não discriminou. Os pesquisadores não veem nisso uma virtude: ele buscou dados financeiros em apenas 30,2% das tentativas, então na maioria das vezes nem chegou a ver o dinheiro. O GPT-5-nano é mais interessante. Ele abriu o campo financeiro 87,1% das vezes, e mesmo assim esse campo quase não mexeu nas escolhas de voo. Descobrir a riqueza de alguém e agir com base nela se revelaram etapas separadas, e o nano sugere que a segunda pode ser eliminada no treinamento. Os autores apontam o comportamento dele como uma oportunidade para o alinhamento, o trabalho de fazer os modelos agirem no interesse dos usuários.

Dois e-mails fazem mais estrago que a caixa inteira

Uma defesa óbvia é dar menos ao agente. Os pesquisadores testaram isso também. Esconda o campo financeiro e a diferença praticamente some: no caso do GPT-5 com voos, cai de US$ 107 para menos US$ 11. Esconda outra coisa, como emprego ou dados demográficos, e a distorção continua ou até aumenta. Sem os dados de emprego, o acréscimo do GPT-5.5 no seguro para os ricos subiu de US$ 122 por mês para US$ 171, cerca de 40% pior. A riqueza vaza pelos campos vizinhos, e os modelos a captam ali.

O e-mail mostrou um quadro mais estranho. Quando o agente via só os assuntos, nenhum modelo apresentou diferença: os assuntos dos gêmeos eram idênticos. Cada caixa tinha dez e-mails, e em algumas rodadas o agente só podia abrir dois antes de recomendar algo. Foi aí que a diferença nos voos saltou para US$ 248 com o Claude Opus 4.8 e US$ 175 com o Gemini 2.5 Flash. O motivo estava no que eles escolhiam abrir: em 97% das tentativas, o Gemini ia direto aos dois e-mails sobre dinheiro, e nada mais diluía o retrato. Com a caixa inteira, a diferença caiu para US$ 59 no Opus e US$ 91 no Gemini. No meio dos e-mails sobre a vida cotidiana, o dinheiro se perdia.

Esse é o ponto central do artigo: proteger os dados não basta, porque as conclusões que um modelo tira deles também precisam de proteção. “As salvaguardas precisam tratar de como os agentes usam as informações pessoais, e não só de quais informações eles podem acessar”, diz a coautora Supriti Vijay, da Cisco Foundation AI.

Trancar o campo das finanças não basta quando a riqueza aparece pelos outros
Trancar o campo das finanças não basta quando a riqueza aparece pelos outros

Onde termina a ajuda

Os próprios autores levantam uma ressalva honesta. Talvez quem tem dinheiro queira mesmo o assento mais espaçoso, e o agente esteja lendo seus desejos em vez de depená-lo. O experimento não tem como responder a isso. Não houve usuários reais, só 32 perfis inventados, catálogos de uma única cidade dos EUA, riqueza reduzida a duas variantes e conversas de uma só rodada. A equipe não testou conversas longas, a memória dos assistentes nem instruções contra a criação de perfis. O artigo é um preprint e ainda não passou por revisão por pares.

Um caso é difícil de contestar. Quando uma pessoa pede explicitamente a opção mais barata e recebe uma cara, o agente, nas palavras dos autores, substituiu a preferência do usuário pela própria. Ninguém precisa adivinhar o que aquele usuário queria.

O que o artigo de fato testou rende duas dicas práticas. Dizer “a mais barata” ajuda com alguns modelos: no GPT-5 e no Claude Opus 4.8, dois dos três testados desse jeito, isso espremeu a diferença para uns US$ 20, enquanto o Gemini 2.5 Flash mal se mexeu. E, se for esconder algo de um assistente, esconda o próprio dinheiro: esconder emprego ou dados demográficos não fechou a diferença.

A coautora Niloofar Mireshghallah, da Carnegie Mellon, diz que privacidade também é poder decidir como o seu próprio assistente usa o que sabe sobre você. Ninguém entregaria a carteira a um vendedor que mede o cliente pelo relógio. E, no entanto, as pessoas estão entregando a delas a agentes por livre e espontânea vontade. Então quem confere de quem é o dinheiro que o agente está tentando poupar?