// Содержание

Пользователь просит ИИ-агента найти самый дешёвый перелёт в Чикаго. Агент без доступа к личной информации приносит билет эконом-класса за $91. Агент с доступом к почте находит там три письма о деньгах, решает, что хозяин не бедствует, и советует бизнес-класс за $601. Учитывать достаток хозяина его никто не просил, а билет за $91 так и остался в списке.

Этот пример открывает препринт исследователей из Университета Карнеги-Меллон и подразделения Cisco Foundation AI. Название работы взято у Шекспира: «И ты, Брут?» говорит Цезарь, когда видит среди убийц друга. Авторы поставили около 325 000 экспериментов с 13 моделями из четырёх семейств (GPT, Claude, Gemini и Qwen). Восемь из них на одинаковые запросы систематически предлагали более обеспеченным людям варианты подороже: авиабилеты, медицинскую страховку, учёбу в аспирантуре. Явление авторы назвали «враждебным делегированием». Тот самый доступ к личной информации, ради которого помощника и подключают, позволяет ему действовать против хозяина.

Попутно нашлись два парадокса. Модели покрупнее накручивали цену сильнее маленьких. А два прочитанных письма выдавали достаток хозяина лучше, чем весь почтовый ящик.

Соавтор работы, экономист Брайан Джабарян из Карнеги-Меллон, описывает замысел просто: проверить, не может ли тот же доступ работать против пользователя. Вопрос не лабораторный. К помощникам OpenAI, Anthropic и Google уже можно подключить почту, календарь, финансовые счета и историю покупок и поручить им поиск билетов и страховок. Покупок через агентов пока мало: в неделю Хэллоуина они заказали через Uber всего четыре поездки. Но привычки помощников складываются сейчас, до того как ими начнут пользоваться массово.

Тридцать два человека, которых нет

Представьте два почтовых ящика с одинаковыми темами писем. В одном за безобидной темой лежит отчёт о приросте капитала на $847 тыс. В другом справка о годовой зарплате $31 400 и о налоговом вычете для малоимущих. Хозяева ящиков просят агента об одном и том же. Отличаются они только тем, что написано внутри писем.

Таких выдуманных людей исследователи собрали 32. У каждого пять черт, и у каждой два варианта: финансы (крупный капитал или жизнь от зарплаты до зарплаты), работа, здоровье, жизненные события и демография. Все сочетания как раз дают 32 профиля. Агент получал нейтральную просьбу вроде «у меня встреча в Чикаго» и каталог из 200 вариантов с фиксированными ценами: рейсов, страховых планов или аспирантских программ по информатике.

Менялось только то, что агент знает о человеке. Иногда всё о человеке сразу выкладывали в стартовой записке. Иногда давали анкету, где он сам открывал нужные графы: финансы, работу, здоровье. А иногда у него была только почта, и о достатке приходилось догадываться по письмам.

Ни в одном режиме агенту не говорили учитывать доход. Он решал это сам.

Как агент добирался до данных

Агенты пользовались инструментами на Model Context Protocol — общем стандарте, по которому ИИ подключают к сервисам. Графы анкеты агент открывал вызовом get_attributes, письма читал через read_email, каталог искал на отдельном сервере. Как сильно разъезжались цены для двойников, зависело от того, каким из трёх способов агент узнавал о человеке.

Сколько стоит выглядеть богатым

// Наценка для «богатого» двойника

8 из 13моделей систематически предлагали богатым подороже
+$198за тот же перелёт у Claude Opus 4.8, когда агент сам открывал графы анкеты
+$284в месяц за медицинскую страховку у той же модели в том же режиме
+$3827в год за аспирантуру у открытой модели Qwen3.5-35B-A3B

Агент сдвигает цену в обе стороны. На перелётах «богатым» он советовал билеты в среднем на $85 дороже, чем агент, который о человеке ничего не знает, а «бедным» — на $51 дешевле. Со страховкой иначе: обеспеченным на $172 в месяц больше, а у малоимущих сдвига почти нет. Богатым подбирали планы с низкой франшизой (суммой, которую человек платит сам, прежде чем начнёт платить страховая) и широким покрытием.

Отдельно авторы проверили на трёх моделях прямую просьбу о самом дешёвом варианте. GPT-5 и Claude Opus 4.8 почти послушались: разрыв у них сжимался до $21 и $20. Gemini 2.5 Flash гнул своё. Самый дешёвый рейс для «богатых» у него стоил в среднем $336, для «бедных» $128. Что был вариант дешевле, агенты почти не упоминали. Чаще всего они просто выдавали дорогой маршрут и не объясняли, что за удобство здесь платят.

Похоже на продавца, который сначала разглядывает часы на руке покупателя, а потом решает, какую витрину ему показать.

Агенту хватает пары писем, чтобы прикинуть, сколько у хозяина денег
Агенту хватает пары писем, чтобы прикинуть, сколько у хозяина денег

Модель побольше, счёт побольше

Можно было ждать, что более сильные модели поймут просьбу точнее. Вышло наоборот: внутри одного семейства разрыв обычно растёт вместе с размером. У GPT-5-nano билет для «богатого» дороже на $13, у GPT-5-mini на $74, у GPT-5 на $107. Правило не железное: более новая GPT-5.5 даёт $92, чуть меньше GPT-5. Когда агент сам открывал графы анкеты, сильнее всех накручивал цену Claude Opus 4.8, флагман Anthropic.

Самая маленькая модель в проверке, Qwen3.5-2B, почти не делала различий. Добродетелью авторы это не считают: до финансовых сведений модель добиралась лишь в 30,2% попыток. Интереснее GPT-5-nano. Финансовую графу он открывал в 87,1% случаев, но на выбор билета она почти не влияла. Узнать о достатке и пустить это знание в ход — разные шаги, и от второго, судя по nano, модель можно отучить. Авторы видят здесь возможность для «выравнивания» — так называют настройку модели, чтобы она действовала в интересах человека.

Два письма опаснее всего ящика

Очевидная защита: не давать агенту лишнего. Её тоже проверили. Если закрыть финансовую графу анкеты, разрыв почти исчезает: у GPT-5 на перелётах он падает с $107 до минус $11. Если закрыть что-то другое, например работу или демографию, перекос остаётся прежним, а иногда растёт. Без сведений о работе GPT-5.5 стал предлагать «богатым» страховку дороже уже не на $122, а на $171 в месяц, примерно на 40% больше. Достаток просачивается через соседние графы: модели находят обходной путь.

С почтой картина ещё неожиданнее. Когда агент видел только темы писем, разницы не было ни у одной модели: темы у двойников одинаковые. В ящике лежало десять писем. Иногда агенту разрешали открыть только два, прежде чем дать совет, и тогда разрыв на билете рос: у Claude Opus 4.8 до $248, у Gemini 2.5 Flash до $175. Всё решал выбор писем: в 97% попыток Gemini первыми открывал оба письма о деньгах, и больше ничего в его картину не попадало. Когда агенту открывали весь ящик, разрыв падал до $59 у Opus и $91 у Gemini: среди писем о жизни деньги теряются.

Отсюда главный вывод работы. Охранять нужно не только сами сведения, но и выводы, которые модель из них делает. «Защита должна касаться того, как агенты используют личную информацию, а не только того, к чему у них есть доступ», — говорит соавтор Суприти Виджай из Cisco Foundation AI.

Закрыть финансовую графу мало, если достаток виден по соседним
Закрыть финансовую графу мало, если достаток виден по соседним

Где кончается забота

Главную оговорку авторы делают сами. Возможно, людям с деньгами и правда нужно кресло удобнее, и агент угадывает желание, а не обманывает. Эксперимент этого не покажет. В нём не было живых людей: только 32 выдуманных профиля, каталоги одного американского города, два уровня достатка и разговор в одну реплику. Долгие диалоги, память помощника и инструкции против профилирования не проверяли. Работа пока остаётся препринтом и рецензию не проходила.

С одним случаем спорить трудно. Когда человек прямо просит самый дешёвый вариант, а получает дорогой, агент, по словам авторов, подменяет его желание своим. Угадывать тут нечего.

Из того, что авторы проверили, следуют две вещи. Слово «самый дешёвый» в запросе может помочь. Его проверяли на трёх моделях: у GPT-5 и Claude Opus 4.8 оно сжимало разрыв примерно до $20, а у Gemini 2.5 Flash почти не сработало. И если уж что-то прятать от помощника, то сведения о деньгах: когда закрывали работу или демографию, разрыв оставался.

Соавтор Нилуфар Мирешгаллах из Карнеги-Меллон говорит, что приватность — это ещё и право решать, как собственный помощник распорядится тем, что о тебе знает. Продавцу, который оценивает часы на руке, кошелёк никто не отдаёт. Агенту его отдают сами. Кто проверит, чьи деньги он бережёт?