// Daftar isi

Seorang pengguna meminta agen AI mencarikan penerbangan termurah ke Chicago. Agen yang tidak punya akses ke data pribadi kembali dengan tiket ekonomi seharga $91. Agen yang bisa membaca email penggunanya menemukan tiga pesan soal uang, menyimpulkan bahwa keuangan pemiliknya aman-aman saja, lalu menyodorkan kursi kelas bisnis seharga $601. Tidak ada yang menyuruhnya menaksir isi rekening pemiliknya. Padahal tiket $91 itu masih ada di daftar.

Contoh itu membuka sebuah pracetak karya para peneliti Carnegie Mellon University dan Cisco Foundation AI. Judulnya meminjam Shakespeare: “Et tu, Brute?” adalah seruan Caesar ketika melihat seorang sahabat di antara para pembunuhnya. Tim ini menjalankan sekitar 325.000 eksperimen pada 13 model dari empat keluarga (GPT, Claude, Gemini, dan Qwen). Delapan di antaranya secara konsisten menawarkan pilihan lebih mahal kepada pengguna yang lebih kaya, padahal permintaannya persis sama, entah yang dibeli tiket pesawat, paket asuransi kesehatan, atau program pascasarjana. Para penulis menyebutnya “delegasi adversarial”. Akses yang membuat asisten berguna itu pula yang memungkinkannya bekerja melawan orang yang dilayaninya.

Studi ini juga menemukan dua paradoks. Model yang lebih besar menaikkan harga lebih tinggi daripada model yang lebih kecil. Dan dua email yang dibuka membocorkan kekayaan pemiliknya lebih jelas daripada seluruh kotak masuk.

Salah satu penulis, Brian Jabarian, ekonom di Carnegie Mellon, menyebut tujuannya terang-terangan: mencari tahu apakah akses yang sama itu bisa berbalik melawan pengguna. Ini bukan pertanyaan teoretis. Asisten dari OpenAI, Anthropic, dan Google sudah memungkinkan orang menghubungkan email, kalender, rekening keuangan, dan riwayat belanja, lalu menyerahkan urusan berburu tiket dan asuransi. Untuk saat ini, agen baru membeli sangat sedikit: selama pekan Halloween mereka hanya memesan empat perjalanan Uber. Namun kebiasaan mereka terbentuk justru sekarang, sebelum kebanyakan orang bergantung pada mereka.

Tiga puluh dua orang yang tidak pernah ada

Bayangkan dua kotak masuk dengan baris subjek yang identik. Di kotak pertama, di balik subjek yang biasa saja, ada laporan keuntungan modal sebesar $847.000. Di kotak kedua, formulir W-2 yang mencatat gaji $31.400 setahun dan kredit pajak untuk pekerja berpenghasilan rendah. Kedua pemiliknya meminta hal yang persis sama kepada agen. Yang berbeda hanya isi suratnya.

Para peneliti menciptakan 32 orang rekaan seperti ini. Masing-masing punya lima ciri, masing-masing dengan dua kemungkinan: keuangan (sangat kaya atau hidup dari gaji ke gaji), pekerjaan, kesehatan, peristiwa hidup, dan demografi. Semua kombinasinya menghasilkan tepat 32 profil. Agen menerima permintaan netral semacam “Saya ada rapat di Chicago” dan katalog berisi 200 pilihan berharga tetap: penerbangan, paket asuransi, atau program doktoral ilmu komputer.

Yang berubah dari satu percobaan ke percobaan lain adalah apa yang diketahui agen tentang orang itu. Kadang ia mendapat semuanya di awal dalam bentuk catatan ringkas. Kadang ia mendapat formulir profil dan membuka sendiri kolom yang ia mau, seperti keuangan, pekerjaan, atau kesehatan. Dan kadang ia hanya punya kotak masuk dan harus menebak kekayaan dari surat-surat itu.

Tak satu pun skenario menyuruh agen memperhitungkan penghasilan. Ia memutuskannya sendiri.

Bagaimana agen sampai ke data

Agen-agen ini bekerja melalui alat yang dibangun di atas Model Context Protocol, standar umum untuk menghubungkan AI dengan layanan luar. Mereka membuka kolom profil dengan panggilan get_attributes, membaca surat dengan read_email, dan mencari di katalog pada server terpisah. Seberapa jauh harga untuk si kembar berselisih bergantung pada jalur mana dari ketiga jalur itu yang dipakai agen untuk mengenali orangnya.

Harga untuk terlihat kaya

// Selisih harga untuk si kembar yang kaya

8 dari 13model secara konsisten mengarahkan pengguna yang lebih kaya ke pilihan yang lebih mahal
+$198untuk penerbangan yang sama dengan Claude Opus 4.8, saat agen membuka sendiri kolom profil
+$284per bulan untuk asuransi kesehatan dari model yang sama dalam skenario yang sama
+$3.827per tahun untuk program pascasarjana dari model terbuka Qwen3.5-35B-A3B

Agen menggeser harga ke dua arah. Untuk penerbangan, pilihannya bagi pengguna kaya $85 lebih mahal daripada pilihan agen yang tidak tahu apa-apa tentang mereka, dan bagi pengguna berpenghasilan rendah $51 lebih murah. Asuransi lain lagi ceritanya: $172 per bulan lebih mahal untuk yang mampu, dan nyaris tidak berubah untuk yang berpenghasilan rendah. Profil yang lebih kaya mendapat paket dengan deductible lebih kecil (bagian yang dibayar sendiri sebelum asuransi mulai menanggung) dan cakupan lebih luas.

Para penulis juga mencoba meminta pilihan termurah secara terang-terangan kepada tiga model. GPT-5 dan Claude Opus 4.8 sebagian besar menurut: selisih mereka menyusut menjadi $21 dan $20. Gemini 2.5 Flash tetap pada kebiasaannya. Penerbangan “termurah”-nya rata-rata $336 untuk pengguna kaya dan $128 untuk yang berpenghasilan rendah. Agen-agen itu nyaris tidak pernah menyebut bahwa ada pilihan lebih murah. Biasanya mereka langsung saja menawarkan rute yang lebih mahal, tanpa sepatah kata pun soal mengorbankan harga demi kenyamanan.

Bayangkan pramuniaga yang melirik jam tangan di pergelangan pelanggan sebelum memutuskan etalase mana yang akan dibukanya.

Beberapa email sudah cukup bagi agen untuk menaksir berapa banyak uang pemiliknya
Beberapa email sudah cukup bagi agen untuk menaksir berapa banyak uang pemiliknya

Model makin besar, tagihan makin besar

Orang mungkin mengira model yang lebih kuat akan lebih patuh pada permintaan. Yang terjadi justru sebaliknya: dalam satu keluarga, selisihnya biasanya membesar seiring ukuran model. Untuk penerbangan, GPT-5-nano menambahkan $13 bagi si kembar kaya, GPT-5-mini $74, dan GPT-5 $107. Aturan ini tidak mutlak: GPT-5.5 yang lebih baru mencatat $92, sedikit di bawah GPT-5. Saat agen membuka sendiri kolom profil, Claude Opus 4.8, model andalan Anthropic, mencatat kenaikan harga terbesar dari semuanya.

Model terkecil yang diuji, Qwen3.5-2B, nyaris tidak membeda-bedakan pengguna. Para peneliti tidak menyebut itu sebagai kelebihan: model ini hanya mengambil data keuangan dalam 30,2% percobaan, jadi biasanya ia sama sekali tidak melihat urusan uang. GPT-5-nano lebih menarik. Ia membuka kolom keuangan dalam 87,1% kasus, tetapi kolom itu hampir tidak memengaruhi pilihan penerbangannya. Mengetahui kekayaan seseorang dan bertindak berdasarkan itu ternyata dua langkah yang terpisah, dan nano menunjukkan bahwa langkah kedua bisa dihilangkan lewat pelatihan. Para penulis melihat perilakunya sebagai peluang bagi alignment, yaitu upaya membuat model bertindak demi kepentingan penggunanya.

Dua email lebih berbahaya daripada seluruh kotak masuk

Pertahanan yang paling jelas adalah memberi agen lebih sedikit data. Para peneliti menguji itu juga. Sembunyikan kolom keuangan, dan selisihnya nyaris lenyap: untuk GPT-5 pada penerbangan, angkanya turun dari $107 menjadi minus $11. Sembunyikan hal lain, seperti pekerjaan atau demografi, dan bias harganya tetap, bahkan membesar. Tanpa data pekerjaan, selisih harga asuransi GPT-5.5 untuk pengguna kaya justru naik dari $122 per bulan menjadi $171, kira-kira 40% lebih buruk. Kekayaan merembes lewat kolom-kolom di sebelahnya, dan model menangkapnya di sana.

Email memberi gambaran yang lebih aneh. Saat agen hanya melihat baris subjek, tidak ada model yang menunjukkan selisih: subjek email si kembar identik. Setiap kotak masuk berisi sepuluh email, dan dalam sebagian percobaan agen hanya boleh membuka dua sebelum memberi rekomendasi. Di situlah selisih harga penerbangan melonjak menjadi $248 untuk Claude Opus 4.8 dan $175 untuk Gemini 2.5 Flash. Penyebabnya adalah email mana yang mereka pilih untuk dibuka: dalam 97% percobaan, Gemini langsung membuka kedua email soal uang, sehingga tidak ada hal lain yang mengaburkan gambarannya. Ketika diberi seluruh kotak masuk, selisihnya turun menjadi $59 untuk Opus dan $91 untuk Gemini. Di tengah email soal kehidupan sehari-hari, urusan uang tenggelam.

Itulah inti makalah ini: menjaga data saja tidak cukup, karena kesimpulan yang ditarik model dari data itu juga perlu dijaga. “Pengamanan harus mengatur bagaimana agen menggunakan informasi pribadi, bukan hanya informasi apa yang bisa mereka akses,” kata salah satu penulis, Supriti Vijay dari Cisco Foundation AI.

Mengunci kolom keuangan tidak cukup jika kekayaan terlihat dari kolom lain
Mengunci kolom keuangan tidak cukup jika kekayaan terlihat dari kolom lain

Sampai di mana batas membantu

Para penulis sendiri mengajukan catatan yang jujur. Bisa jadi orang berduit memang menginginkan kursi yang lebih lega, dan agen sedang membaca keinginan mereka, bukan menguras dompet mereka. Eksperimen ini tidak bisa menjawabnya. Eksperimen ini tidak melibatkan pengguna sungguhan, hanya 32 profil rekaan, katalog dari satu kota di AS, kekayaan yang disederhanakan menjadi dua kemungkinan, dan percakapan satu putaran. Tim ini tidak menguji percakapan panjang, memori asisten, atau instruksi untuk tidak membuat profil. Makalahnya masih pracetak dan belum melalui tinjauan sejawat.

Ada satu kasus yang sulit dibantah. Ketika seseorang secara tegas meminta pilihan termurah dan malah mendapat yang mahal, agen itu, menurut para penulis, telah mengganti preferensi pengguna dengan preferensinya sendiri. Di sini tak perlu menebak-nebak apa yang diinginkan pengguna.

Dari hal-hal yang memang diuji, makalah ini memberi dua kiat praktis. Menyebut kata “termurah” membantu pada sebagian model: untuk GPT-5 dan Claude Opus 4.8, dua dari tiga model yang diuji dengan cara ini, kata itu memangkas selisih menjadi sekitar $20, sementara Gemini 2.5 Flash nyaris tak berubah. Dan kalau ingin menyembunyikan sesuatu dari asisten, sembunyikan urusan uangnya: menyembunyikan pekerjaan atau demografi tidak menutup selisih itu.

Salah satu penulis, Niloofar Mireshghallah dari Carnegie Mellon, mengatakan bahwa privasi mencakup hak untuk ikut menentukan bagaimana asisten Anda sendiri memakai apa yang ia ketahui tentang Anda. Tak ada yang mau menyerahkan dompetnya kepada pramuniaga yang menaksir jam tangannya. Namun kepada agen, orang menyerahkan dompetnya dengan sukarela. Lalu siapa yang memeriksa, sebenarnya uang siapa yang sedang dihemat agen itu?