// 目次

ユーザーがAIエージェントに「シカゴ行きのいちばん安い便を」と頼む。個人データに触れられないエージェントは、91ドルのエコノミー席を持ってくる。ところがメールを読めるエージェントは、お金にまつわるメールを3通見つけて「この持ち主は懐に余裕がある」と判断し、601ドルのビジネスクラスを勧めてくる。持ち主の預金残高を見積もれなどと、誰も頼んではいない。91ドルの便も、ちゃんとリストに載っているのに。

この例から始まるのが、カーネギーメロン大学とCisco Foundation AIの研究者によるプレプリントだ。タイトルはシェイクスピアからの借用だ。「ブルータス、お前もか」は、暗殺者の中に友の顔を見つけたカエサルの台詞である。チームはGPT、Claude、Gemini、Qwenの4系統13モデルで約32万5000回の実験を行った。そのうち8モデルは、まったく同じ依頼でも裕福なユーザーには一貫して高い選択肢を勧めた。航空券でも、医療保険でも、大学院でも同じだった。著者らはこれを「敵対的委任(adversarial delegation)」と呼ぶ。アシスタントを便利にしているのと同じアクセス権が、仕えるべき本人に牙をむくというわけだ。

研究では二つのパラドックスも見つかった。大きなモデルほど値段を吊り上げた。そして、開いたメールが2通だけのほうが、受信箱まるごとよりも持ち主の懐具合をはっきり漏らした。

共著者でカーネギーメロン大学の経済学者ブライアン・ジャバリアンは、目的を率直に語る。その同じアクセス権が、ユーザー自身に不利な形で使われうるのかを確かめることだ。これは仮定の話ではない。OpenAI、Anthropic、Googleのアシスタントはすでに、メール、カレンダー、金融口座、購入履歴をつないで、航空券や保険探しを任せられるようになっている。いまのところエージェントが実際に買うものはごくわずかで、ハロウィーンの週に予約したUberの配車はわずか4回だった。だが、エージェントの癖が固まるのは、多くの人が頼りきるようになる前の今だ。

実在しない32人

件名がまったく同じ二つの受信箱を想像してほしい。一方には、そっけない件名の奥に84万7000ドルのキャピタルゲインを示す明細がある。もう一方には、年収3万1400ドルの源泉徴収票(W-2)と、低所得の勤労者向け税額控除の通知。二人の持ち主はエージェントにまったく同じことを頼む。違うのはメールの中身だけだ。

研究者たちはこうした架空の人物を32人つくった。それぞれに五つの属性があり、各属性は二つの値をとる。財務(資産家か、給料日までぎりぎりの暮らしか)、雇用、健康、人生の出来事、人口統計的属性だ。組み合わせはちょうど32通りになる。エージェントには「シカゴで会議がある」といった中立的な依頼と、価格の決まった200件の選択肢のカタログが渡された。中身は航空便、保険プラン、あるいはコンピューターサイエンスの博士課程だ。

実行ごとに変えたのは、エージェントがその人物について何を知っているかだった。最初から人物メモで全部を知らされることもあれば、プロフィールの入力フォームを渡され、財務、仕事、健康など見たい項目を自分で開くこともあった。受信箱しかなく、メールから懐具合を推測するしかない場合もあった。

どの設定でも、収入を考慮せよとは指示されていない。エージェントが自分でそう決めたのだ。

エージェントはどうやってデータに触れたか

エージェントは、AIを外部サービスにつなぐ共通規格Model Context Protocolで作られたツールを通じて動いた。プロフィールの項目はget_attributes呼び出しで開き、メールはread_emailで読み、カタログは別のサーバーで検索した。双子に勧める価格がどこまで開くかは、エージェントが三つのルートのどれで人物を知ったかによって変わった。

金持ちに見えると、いくら高くつくか

// 裕福な双子への上乗せ

13中8モデルが裕福なユーザーを一貫して高い選択肢へ誘導した
+198ドルClaude Opus 4.8で同じフライトにかかった上乗せ(エージェントが自分でプロフィール項目を開いた場合)
+284ドル同じ設定・同じモデルでの医療保険の月額上乗せ
+3827ドルオープンモデルQwen3.5-35B-A3Bでの大学院の年間上乗せ

エージェントは値段を上にも下にも動かす。航空便では、何も知らないエージェントを基準にすると、裕福なユーザーは85ドル高い便へ、低所得のユーザーは51ドル安い便へ誘導された。保険は様子が違った。富裕層には月172ドル高く、低所得層にはほとんど変化がない。裕福なプロフィールには、免責額(保険が効き始める前に自腹で払う額)が低く、補償の手厚いプランが回された。

著者らは三つのモデルに、はっきり「いちばん安いもの」を頼む実験もした。GPT-5とClaude Opus 4.8はおおむね従い、差はそれぞれ21ドルと20ドルに縮んだ。Gemini 2.5 Flashはお構いなしだった。その「最安」の便は、裕福なユーザー向けで平均336ドル、低所得のユーザー向けで128ドル。しかもエージェントは、もっと安い選択肢があることをほとんど口にしなかった。たいていは高いほうの旅程を黙って差し出し、値段と引き換えに快適さを選んだとは一言も説明しなかった。

客の手首の腕時計をちらりと見てから、どのショーケースを開けるか決める店員を思い浮かべればいい。

持ち主の懐具合を見積もるのに、エージェントはメール2通で足りる
持ち主の懐具合を見積もるのに、エージェントはメール2通で足りる

モデルが大きいほど、請求額も大きい

強いモデルほど依頼に忠実だろうと思うかもしれない。結果は逆で、同じ系統の中ではモデルが大きいほど差が開くことが多かった。航空便では、裕福な双子への上乗せはGPT-5-nanoで13ドル、GPT-5-miniで74ドル、GPT-5で107ドル。とはいえ鉄則ではない。新しいGPT-5.5は92ドルで、GPT-5をやや下回った。エージェントが自分でプロフィール項目を開く設定では、Anthropicのフラッグシップ、Claude Opus 4.8の上乗せが全モデルで最大だった。

テストした中で最小のQwen3.5-2Bは、ほとんど差をつけなかった。だが研究者たちはそれを美点とは呼ばない。財務データを取りにいったのは試行のわずか30.2%で、たいていはそもそもお金の情報を見ていなかったからだ。面白いのはGPT-5-nanoのほうだ。財務の項目を87.1%の確率で開いたのに、航空便の選択はほとんど動かなかった。懐具合を知ることと、それに基づいて動くことは別のステップだとわかったわけで、nanoを見る限り、後者は訓練で取り除けそうだ。著者らはこの振る舞いを、アラインメント(モデルをユーザーの利益に沿って動かすための取り組み)にとっての好機だと見ている。

メール2通は、受信箱まるごとより罪深い

すぐ思いつく防御策は、エージェントに渡すものを減らすことだ。研究者たちはそれも試した。財務の項目を隠すと、差はほぼ消える。GPT-5の航空便では107ドルからマイナス11ドルになった。ところが雇用や人口統計など別の項目を隠しても、偏りはそのままか、むしろ大きくなる。雇用データがないと、GPT-5.5の富裕層向け保険の上乗せは月122ドルから171ドルに増え、およそ40%悪化した。懐具合は隣の項目から漏れ出し、モデルはそれをちゃんと拾い上げる。

メールの実験では、さらに奇妙なことが起きた。エージェントが件名しか見られない場合、どのモデルにも差は出なかった。双子の件名は同じだからだ。受信箱にはそれぞれ10通のメールがあり、一部の実験では、エージェントがおすすめを出す前に開けるのは2通までだった。すると航空便の差は、Claude Opus 4.8で248ドル、Gemini 2.5 Flashで175ドルに跳ね上がった。理由は開くメールの選び方にある。Geminiは試行の97%でお金に関する2通を真っ先に開いたため、全体像を薄めるものが何もなかった。受信箱を丸ごと渡すと、差はOpusで59ドル、Geminiで91ドルに下がった。日常のメールに紛れて、お金の話が埋もれたのだ。

これがこの論文の核心だ。データを守るだけでは足りない。モデルがそこから引き出す結論も見張らなければならない。「安全対策は、エージェントがどの情報にアクセスできるかだけでなく、個人情報をどう使うかにも目を向けなければならない」と、Cisco Foundation AIの共著者スプリティ・ヴィジャイは言う。

懐具合がほかの項目から透けて見えるなら、財務の欄に鍵をかけても足りない
懐具合がほかの項目から透けて見えるなら、財務の欄に鍵をかけても足りない

どこまでが親切か

著者ら自身、率直に断り書きを添えている。お金のある人は本当に広い座席を望んでいて、エージェントはぼったくっているのではなく希望を読み取っているだけかもしれない。この実験では、そこまでは判断できない。実在のユーザーはおらず、架空のプロフィール32人、米国の一都市のカタログ、二段階に単純化された懐具合、一往復だけの会話しかないからだ。長い会話、アシスタントの記憶、プロファイリングを禁じる指示は検証されていない。論文はプレプリントで、まだ査読を経ていない。

それでも、反論しにくいケースが一つある。人がはっきり最安を頼んだのに高いものを渡されたなら、著者らの言葉を借りれば、エージェントはユーザーの好みを自分の好みにすり替えたことになる。そのユーザーが何を望んだかは、推測するまでもない。

論文が実際に検証したことからは、実用的なヒントが二つ得られる。「いちばん安いもの」と念を押すのは、一部のモデルには効く。このやり方で試した三つのうちGPT-5とClaude Opus 4.8では差がおよそ20ドルまで縮んだが、Gemini 2.5 Flashはほとんど動かなかった。そしてアシスタントに何かを隠すなら、お金そのものを隠すこと。雇用や人口統計を隠しても差は埋まらなかった。

カーネギーメロン大学の共著者ニルーファル・ミレシュガッラーによれば、プライバシーには、自分について知ったことをアシスタントがどう使うかに口を出す権利も含まれる。腕時計を値踏みする店員に財布を預ける人はいない。それなのに人々は、自分の意思でエージェントに財布を手渡している。では、エージェントが節約しようとしているのは誰のお金なのか。それを確かめるのは誰だろう。