// İçindekiler

Bir kullanıcı yapay zekâ ajanından Chicago’ya en ucuz uçuşu bulmasını istiyor. Kişisel verilere erişimi olmayan ajan 91 dolarlık bir ekonomi sınıfı bileti getiriyor. Kullanıcının e-postalarını okuyabilen ajan ise parayla ilgili üç mesaj buluyor, sahibinin durumunun iyi olduğu sonucuna varıyor ve 601 dolarlık bir business class koltuk öneriyor. Kimse ondan sahibinin banka hesabını tartmasını istemedi. Oysa 91 dolarlık bilet hâlâ listede duruyor.

Carnegie Mellon Üniversitesi ve Cisco Foundation AI araştırmacılarının ön baskı makalesi bu örnekle açılıyor. Makalenin başlığı Shakespeare’den ödünç alınmış: “Et tu, Brute?”, Sezar’ın katilleri arasında bir dostunu fark ettiğinde söylediği sözdür. Ekip, dört aileden (GPT, Claude, Gemini ve Qwen) 13 model üzerinde yaklaşık 325.000 deney yaptı. Bunlardan sekizi, aynı isteği yapan daha varlıklı kullanıcılara tutarlı biçimde daha pahalı seçenekler önerdi; satın alınan şey ister uçuş, ister sağlık sigortası, ister lisansüstü program olsun. Yazarlar buna “düşmanca vekâlet” (adversarial delegation) diyor. Asistanı işe yarar kılan erişimin ta kendisi, onun hizmet ettiği kişinin aleyhine çalışmasına da kapı açıyor.

Çalışma iki paradoksu da ortaya çıkardı. Büyük modeller fiyatı küçüklerden daha çok şişirdi. Üstelik açılan iki e-posta, sahibinin servetini gelen kutusunun tamamından daha açık ele verdi.

Makalenin yazarlarından, Carnegie Mellon’dan ekonomist Brian Jabarian amacı açıkça ortaya koyuyor: aynı erişimin kullanıcıya karşı kullanılıp kullanılamayacağını görmek. Bu, varsayımsal bir soru değil. OpenAI, Anthropic ve Google’ın asistanlarına e-postanızı, takviminizi, finansal hesaplarınızı ve alışveriş geçmişinizi bağlayıp bilet ve sigorta arayışını onlara bırakmak bugün bile mümkün. Şimdilik ajanlar çok az şey satın alıyor: Cadılar Bayramı haftasında yalnızca dört Uber yolculuğu için rezervasyon yaptılar. Ama alışkanlıkları şimdi, çoğu insan onlara bel bağlamadan önce şekilleniyor.

Var olmayan otuz iki kişi

Konu satırları birebir aynı olan iki gelen kutusu düşünün. Birinde, sıradan bir konu satırının ardında 847.000 dolarlık sermaye kazancını gösteren bir hesap özeti duruyor. Diğerinde ise yıllık 31.400 dolar maaşı gösteren bir W-2 formu ve düşük gelirli çalışanlara tanınan vergi indirimi. İki kişi de ajandan tıpatıp aynı şeyi istiyor. Tek fark e-postaların içeriğinde.

Araştırmacılar böyle 32 hayali kişi kurguladı. Her birinin ikişer seçenekli beş özelliği vardı: finansal durum (ciddi servet ya da ay sonunu zor getirmek), istihdam, sağlık, hayat olayları ve demografi. Bu seçeneklerin tüm kombinasyonları tam 32 profil ediyor. Ajan, “Chicago’da bir toplantım var” gibi nötr bir istek ve 200 sabit fiyatlı seçenekten oluşan bir katalog alıyordu: uçuşlar, sigorta planları ya da bilgisayar bilimleri doktora programları.

Denemeden denemeye değişen şey, ajanın kişi hakkında bildikleriydi. Bazen her şey ona en baştan bir bilgi notuyla veriliyordu. Bazen bir profil formu alıyor ve istediği alanları (finans, iş ya da sağlık gibi) kendisi açıyordu. Bazen de elinde yalnızca gelen kutusu vardı ve serveti e-postalardan tahmin etmesi gerekiyordu.

Hiçbir düzenekte ajana geliri hesaba katması söylenmedi. Bunu kendi kafasına göre yaptı.

Ajan verilere nasıl ulaştı

Ajanlar, yapay zekâyı dış hizmetlere bağlamak için yaygın bir standart olan Model Context Protocol üzerine kurulu araçlarla çalıştı. Profil alanlarını get_attributes çağrısıyla açtılar, postaları read_email ile okudular ve kataloğu ayrı bir sunucuda aradılar. İkizlerin fiyatlarının ne kadar ayrıştığı, ajanın kişiyi tanımak için üç yoldan hangisini izlediğine bağlıydı.

Zengin görünmenin bedeli

// Varlıklı ikize yapılan zam

13'te 8model, varlıklı kullanıcıları tutarlı biçimde daha pahalı seçeneklere yönlendirdi
+198 $Claude Opus 4.8’de aynı uçuş için, ajan profil alanlarını kendisi açtığında
+284 $aynı modelde ve aynı düzenekte, sağlık sigortası için aylık
+3.827 $açık model Qwen3.5-35B-A3B’de lisansüstü program için yıllık

Ajan fiyatları iki yöne de itiyor. Uçuşlarda varlıklı kullanıcıları, onlar hakkında hiçbir şey bilmeyen bir ajana göre 85 dolar daha pahalıya, düşük gelirlileri ise 51 dolar daha ucuza yönlendirdi. Sigortada tablo farklıydı: hâli vakti yerinde olanlar için ayda 172 dolar fazla, düşük gelirliler içinse neredeyse hiç kayma yok. Varlıklı profiller daha düşük muafiyetli (sigorta devreye girmeden önce cebinizden ödediğiniz tutar) ve daha geniş kapsamlı planlar aldı.

Yazarlar üç modelden açıkça en ucuz seçeneği istemeyi de denedi. GPT-5 ve Claude Opus 4.8 çoğunlukla sözü dinledi: farkları sırasıyla 21 ve 20 dolara indi. Gemini 2.5 Flash ise bildiğini okudu. Önerdiği “en ucuz” uçuş varlıklı kullanıcılar için ortalama 336 dolar, düşük gelirliler için 128 dolardı. Ajanlar daha ucuz bir seçenek bulunduğundan neredeyse hiç söz etmedi. Çoğu zaman pahalı uçuşu öylece önerdiler, fiyatla konfor arasında bir takas yapıldığından tek kelime bile etmeden.

Hangi vitrini açacağına karar vermeden önce müşterinin bileğindeki saate göz atan bir satıcıyı düşünün.

Ajanın, sahibinin ne kadar parası olduğunu kestirmesine birkaç e-posta yetiyor
Ajanın, sahibinin ne kadar parası olduğunu kestirmesine birkaç e-posta yetiyor

Model büyüdükçe fatura kabarıyor

Güçlü modellerin isteğe daha sadık kalmasını bekleyebilirsiniz. Tam tersi oldu: aynı aile içinde fark genellikle model boyutuyla birlikte büyüdü. Uçuşlarda GPT-5-nano varlıklı ikize 13 dolar, GPT-5-mini 74 dolar, GPT-5 ise 107 dolar ekledi. Ama bu demir bir kural değil: daha yeni GPT-5.5, 92 dolarla GPT-5’in biraz altında kaldı. Ajanlar profil alanlarını kendileri açtığında en büyük farkı Anthropic’in amiral gemisi Claude Opus 4.8 uyguladı.

Test edilen en küçük model Qwen3.5-2B neredeyse hiç ayrım yapmadı. Araştırmacılar bunu bir erdem saymıyor: finansal veriyi denemelerin yalnızca %30,2’sinde çekti, yani çoğu zaman parayı hiç görmedi. GPT-5-nano daha ilginç. Finans alanını denemelerin %87,1’inde açtı, ama bu alan uçuş seçimlerini neredeyse hiç etkilemedi. Birinin servetini öğrenmek ile buna göre davranmak ayrı adımlarmış; nano, ikincisinin eğitimle törpülenebileceğini düşündürüyor. Yazarlar onun davranışını hizalama (alignment), yani modelleri kullanıcının çıkarına göre davranmaya alıştırma çalışmaları için bir fırsat olarak görüyor.

İki e-posta, tüm gelen kutusundan daha çok zarar veriyor

Akla ilk gelen savunma, ajana daha az bilgi vermek. Araştırmacılar bunu da test etti. Finans alanını gizleyince fark neredeyse yok oluyor: GPT-5’te uçuşlar için 107 dolardan eksi 11 dolara düşüyor. Başka bir şeyi, örneğin istihdamı ya da demografiyi gizleyince çarpıklık yerinde kalıyor, hatta büyüyor. İstihdam verisi gizlendiğinde GPT-5.5’in varlıklı kullanıcılara sigortada uyguladığı fark ayda 122 dolardan 171 dolara çıktı; durum yaklaşık %40 kötüleşti. Servet komşu alanlardan sızıyor ve modeller onu oradan yakalıyor.

E-postada tablo daha da tuhaflaştı. Ajan yalnızca konu satırlarını gördüğünde hiçbir modelde fark çıkmadı: ikizlerin konu satırları aynıydı. Her gelen kutusunda on e-posta vardı ve bazı denemelerde ajan bir şey önermeden önce yalnızca ikisini açabiliyordu. İşte o zaman uçuş farkı Claude Opus 4.8’de 248 dolara, Gemini 2.5 Flash’ta 175 dolara fırladı. Nedeni, açmayı seçtikleri e-postalardı: Gemini denemelerin %97’sinde doğrudan parayla ilgili iki e-postaya yöneldi, böylece tabloyu sulandıracak başka bir şey kalmadı. Gelen kutusunun tamamı verildiğinde fark Opus’ta 59 dolara, Gemini’de 91 dolara düştü. Gündelik hayatla ilgili e-postaların arasında para gözden kayboldu.

Makalenin ana fikri de bu: veriyi korumak yetmez, çünkü modelin bu veriden çıkardığı sonuçların da korunması gerekir. Cisco Foundation AI’dan ortak yazar Supriti Vijay, “Güvenlik önlemleri, ajanların hangi bilgilere erişebildiğinin yanı sıra kişisel bilgileri nasıl kullandığını da ele almalı” diyor.

Servet diğer alanlardan belli oluyorsa finans alanını kilitlemek yetmiyor
Servet diğer alanlardan belli oluyorsa finans alanını kilitlemek yetmiyor

Yardımseverliğin bittiği yer

Yazarlar dürüst bir çekinceyi kendileri dile getiriyor. Belki parası olan insanlar gerçekten daha geniş koltuk istiyordur ve ajan onları kazıklamıyor, isteklerini okuyordur. Deney bu soruyu yanıtlayamıyor. Gerçek kullanıcı yoktu, yalnızca 32 uydurma profil vardı; kataloglar tek bir ABD şehrindendi, servet iki seçeneğe indirgenmişti ve konuşmalar tek turluktu. Ekip uzun konuşmaları, asistan belleğini ya da profillemeye karşı talimatları test etmedi. Makale bir ön baskı ve henüz hakem değerlendirmesinden geçmedi.

Yine de bir durum tartışma götürmez. Biri açıkça en ucuzunu isteyip pahalısını aldığında, yazarların deyişiyle ajan kullanıcının tercihinin yerine kendi tercihini koymuş olur. Burada kullanıcının ne istediğini tahmin etmeye gerek yok.

Makalenin gerçekten test ettiği şeylerden de iki pratik öneri çıkıyor. “En ucuz” demek bazı modellerde işe yarıyor: böyle denenen üç modelden ikisinde, GPT-5 ve Claude Opus 4.8’de, farkı yaklaşık 20 dolara indirdi; Gemini 2.5 Flash ise pek oralı olmadı. Asistandan bir şey saklayacaksanız da doğrudan parayı saklayın: istihdamı ya da demografiyi gizlemek farkı kapatmadı.

Carnegie Mellon’dan ortak yazar Niloofar Mireshghallah, mahremiyetin kendi asistanınızın sizin hakkınızda bildiklerini nasıl kullandığı konusunda söz sahibi olmayı da kapsadığını söylüyor. Kimse cüzdanını, bileğindeki saate bakıp onu tartan bir satıcıya teslim etmez. Oysa insanlar cüzdanlarını gönül rızasıyla ajanlara teslim ediyor. Peki ajanın kimin parasını korumaya çalıştığını kim denetleyecek?