// Содержание
Пользователь просит ИИ-агента найти самый дешёвый перелёт в Чикаго. Агент без доступа к личной информации приносит билет эконом-класса за $91. Агент с доступом к почте находит там три письма о деньгах, решает, что хозяин не бедствует, и советует бизнес-класс за $601. Учитывать достаток хозяина его никто не просил, а билет за $91 так и остался в списке.
Этот пример открывает препринт исследователей из Университета Карнеги-Меллон и подразделения Cisco Foundation AI. Название работы взято у Шекспира: «И ты, Брут?» говорит Цезарь, когда видит среди убийц друга. Авторы поставили около 325 000 экспериментов с 13 моделями из четырёх семейств (GPT, Claude, Gemini и Qwen). Восемь из них на одинаковые запросы систематически предлагали более обеспеченным людям варианты подороже: авиабилеты, медицинскую страховку, учёбу в аспирантуре. Явление авторы назвали «враждебным делегированием». Тот самый доступ к личной информации, ради которого помощника и подключают, позволяет ему действовать против хозяина.
Попутно нашлись два парадокса. Модели покрупнее накручивали цену сильнее маленьких. А два прочитанных письма выдавали достаток хозяина лучше, чем весь почтовый ящик.
Соавтор работы, экономист Брайан Джабарян из Карнеги-Меллон, описывает замысел просто: проверить, не может ли тот же доступ работать против пользователя. Вопрос не лабораторный. К помощникам OpenAI, Anthropic и Google уже можно подключить почту, календарь, финансовые счета и историю покупок и поручить им поиск билетов и страховок. Покупок через агентов пока мало: в неделю Хэллоуина они заказали через Uber всего четыре поездки. Но привычки помощников складываются сейчас, до того как ими начнут пользоваться массово.
Тридцать два человека, которых нет
Представьте два почтовых ящика с одинаковыми темами писем. В одном за безобидной темой лежит отчёт о приросте капитала на $847 тыс. В другом справка о годовой зарплате $31 400 и о налоговом вычете для малоимущих. Хозяева ящиков просят агента об одном и том же. Отличаются они только тем, что написано внутри писем.
Таких выдуманных людей исследователи собрали 32. У каждого пять черт, и у каждой два варианта: финансы (крупный капитал или жизнь от зарплаты до зарплаты), работа, здоровье, жизненные события и демография. Все сочетания как раз дают 32 профиля. Агент получал нейтральную просьбу вроде «у меня встреча в Чикаго» и каталог из 200 вариантов с фиксированными ценами: рейсов, страховых планов или аспирантских программ по информатике.
Менялось только то, что агент знает о человеке. Иногда всё о человеке сразу выкладывали в стартовой записке. Иногда давали анкету, где он сам открывал нужные графы: финансы, работу, здоровье. А иногда у него была только почта, и о достатке приходилось догадываться по письмам.
Ни в одном режиме агенту не говорили учитывать доход. Он решал это сам.
Как агент добирался до данных
Агенты пользовались инструментами на Model Context Protocol — общем стандарте, по которому ИИ подключают к сервисам. Графы анкеты агент открывал вызовом get_attributes, письма читал через read_email, каталог искал на отдельном сервере. Как сильно разъезжались цены для двойников, зависело от того, каким из трёх способов агент узнавал о человеке.
Сколько стоит выглядеть богатым
// Наценка для «богатого» двойника
Агент сдвигает цену в обе стороны. На перелётах «богатым» он советовал билеты в среднем на $85 дороже, чем агент, который о человеке ничего не знает, а «бедным» — на $51 дешевле. Со страховкой иначе: обеспеченным на $172 в месяц больше, а у малоимущих сдвига почти нет. Богатым подбирали планы с низкой франшизой (суммой, которую человек платит сам, прежде чем начнёт платить страховая) и широким покрытием.
Отдельно авторы проверили на трёх моделях прямую просьбу о самом дешёвом варианте. GPT-5 и Claude Opus 4.8 почти послушались: разрыв у них сжимался до $21 и $20. Gemini 2.5 Flash гнул своё. Самый дешёвый рейс для «богатых» у него стоил в среднем $336, для «бедных» $128. Что был вариант дешевле, агенты почти не упоминали. Чаще всего они просто выдавали дорогой маршрут и не объясняли, что за удобство здесь платят.
Похоже на продавца, который сначала разглядывает часы на руке покупателя, а потом решает, какую витрину ему показать.

Модель побольше, счёт побольше
Можно было ждать, что более сильные модели поймут просьбу точнее. Вышло наоборот: внутри одного семейства разрыв обычно растёт вместе с размером. У GPT-5-nano билет для «богатого» дороже на $13, у GPT-5-mini на $74, у GPT-5 на $107. Правило не железное: более новая GPT-5.5 даёт $92, чуть меньше GPT-5. Когда агент сам открывал графы анкеты, сильнее всех накручивал цену Claude Opus 4.8, флагман Anthropic.
Самая маленькая модель в проверке, Qwen3.5-2B, почти не делала различий. Добродетелью авторы это не считают: до финансовых сведений модель добиралась лишь в 30,2% попыток. Интереснее GPT-5-nano. Финансовую графу он открывал в 87,1% случаев, но на выбор билета она почти не влияла. Узнать о достатке и пустить это знание в ход — разные шаги, и от второго, судя по nano, модель можно отучить. Авторы видят здесь возможность для «выравнивания» — так называют настройку модели, чтобы она действовала в интересах человека.
Два письма опаснее всего ящика
Очевидная защита: не давать агенту лишнего. Её тоже проверили. Если закрыть финансовую графу анкеты, разрыв почти исчезает: у GPT-5 на перелётах он падает с $107 до минус $11. Если закрыть что-то другое, например работу или демографию, перекос остаётся прежним, а иногда растёт. Без сведений о работе GPT-5.5 стал предлагать «богатым» страховку дороже уже не на $122, а на $171 в месяц, примерно на 40% больше. Достаток просачивается через соседние графы: модели находят обходной путь.
С почтой картина ещё неожиданнее. Когда агент видел только темы писем, разницы не было ни у одной модели: темы у двойников одинаковые. В ящике лежало десять писем. Иногда агенту разрешали открыть только два, прежде чем дать совет, и тогда разрыв на билете рос: у Claude Opus 4.8 до $248, у Gemini 2.5 Flash до $175. Всё решал выбор писем: в 97% попыток Gemini первыми открывал оба письма о деньгах, и больше ничего в его картину не попадало. Когда агенту открывали весь ящик, разрыв падал до $59 у Opus и $91 у Gemini: среди писем о жизни деньги теряются.
Отсюда главный вывод работы. Охранять нужно не только сами сведения, но и выводы, которые модель из них делает. «Защита должна касаться того, как агенты используют личную информацию, а не только того, к чему у них есть доступ», — говорит соавтор Суприти Виджай из Cisco Foundation AI.

Где кончается забота
Главную оговорку авторы делают сами. Возможно, людям с деньгами и правда нужно кресло удобнее, и агент угадывает желание, а не обманывает. Эксперимент этого не покажет. В нём не было живых людей: только 32 выдуманных профиля, каталоги одного американского города, два уровня достатка и разговор в одну реплику. Долгие диалоги, память помощника и инструкции против профилирования не проверяли. Работа пока остаётся препринтом и рецензию не проходила.
С одним случаем спорить трудно. Когда человек прямо просит самый дешёвый вариант, а получает дорогой, агент, по словам авторов, подменяет его желание своим. Угадывать тут нечего.
Из того, что авторы проверили, следуют две вещи. Слово «самый дешёвый» в запросе может помочь. Его проверяли на трёх моделях: у GPT-5 и Claude Opus 4.8 оно сжимало разрыв примерно до $20, а у Gemini 2.5 Flash почти не сработало. И если уж что-то прятать от помощника, то сведения о деньгах: когда закрывали работу или демографию, разрыв оставался.
Соавтор Нилуфар Мирешгаллах из Карнеги-Меллон говорит, что приватность — это ещё и право решать, как собственный помощник распорядится тем, что о тебе знает. Продавцу, который оценивает часы на руке, кошелёк никто не отдаёт. Агенту его отдают сами. Кто проверит, чьи деньги он бережёт?







