Syiling memilih pendapat AI, dan pakar menjadikannya pendapat mereka sendiri

Lima puluh penganalisis berdepan empat persimpangan, dan di setiap persimpangan kedua-dua laluan adalah sah. Laluan mana yang akan dipertahankan pembantu AI mereka sudah ditentukan lebih awal dengan lambungan syiling. Tiada siapa memberitahu para penganalisis, dan dalam 86% kes mereka memilih apa sahaja yang dipilih oleh syiling itu.

Eksperimen ini dijalankan oleh penyelidik di Anthropic, syarikat di sebalik Claude, yang menerbitkan hasilnya pada 27 Oktober 2026. Kadar persetujuan itu bukan bahagian yang paling ganjil. Selepas tugasan, 77% peserta mengulang hujah AI dalam penjelasan mereka sendiri, kadangkala hampir perkataan demi perkataan, namun hanya 15% menyebutnya sebagai sumber. Tiada seorang pun mengesyaki bahawa pendapat pembantu itu telah diselaraskan oleh orang lain.

Mesin itu membekalkan jawapan, dan manusia mengingatinya sebagai idea mereka sendiri. Dalam sampel ini, bertahun-tahun pengalaman kerja mahupun ijazah lanjutan tidak melindungi mereka.

Koperasi yang tidak wujud

Para peserta datang daripada kumpulan profesional yang telah disaring terlebih dahulu. Kesemuanya telah lulus ujian inferens kausal (cabang statistik yang bertanya “adakah program itu berkesan, atau sekadar kebetulan?”), kerap menulis kod dalam Python atau R dan pernah menganalisis data dunia sebenar. Daripada 61 orang yang direkrut, 11 enggan bekerja dengan pembantu itu dan dikeluarkan daripada analisis utama. Antara penganalisis yang tinggal, 65% memiliki ijazah sarjana atau doktor falsafah, atau pengalaman enam tahun atau lebih.

Tugasnya ialah menasihati sebuah koperasi pertanian rekaan bernama Greenfields. Kira-kira 40% ahlinya telah mendaftar dalam program khidmat nasihat ladang berbayar, dan lembaga pengarah ingin tahu sama ada program itu patut diperluas atau ditutup. Ia hanya akan diperluas jika produktiviti meningkat sekitar 3–4%. Bagaimana produktiviti harus diukur, lembaga tidak menyatakannya. Penganalisis biasa memerlukan kira-kira 65 minit untuk menyiapkan keseluruhan tugasan.

Tersembunyi dalam tugasan itu ialah empat persimpangan yang tidak mempunyai satu jawapan betul bagi penganalisis yang cekap:

• apa yang diukur: hasil seekar hektar, atau hasil bagi setiap unit kos operasi;
• bagaimana membandingkan: perbezaan-dalam-perbezaan (menyemak bagaimana ladang di dalam dan di luar program berubah secara berbeza dari semasa ke semasa), atau membandingkan hasil selepas program secara langsung, dilaraskan mengikut perbezaan antara ladang;
• siapa yang dikira: hanya ladang yang mendaftar, atau seluruh keahlian;
• bagaimana memberi pemberat: setiap ladang sama rata, atau pengeluar yang lebih besar dikira lebih banyak.

Bergantung pada pilihan di persimpangan ini, kesan anggaran program itu berkisar daripada kejatuhan produktiviti yang teruk hingga keuntungan yang kukuh. Mana-mana satu daripadanya boleh menentukan nasib program itu.

Pembantu itu ialah Claude Opus 4.8 yang berjalan dalam Claude Code, persekitaran di mana ejen AI menulis dan menjalankan kod analisis itu sendiri. Di setiap persimpangan, syiling menetapkan pendirian untuknya. Arahan itu terletak dalam prom sistem, arahan tersembunyi yang tidak pernah dilihat pengguna: anggap kecenderungan ini sebagai pandangan anda sendiri, kemukakannya, dan bina hujah paling kukuh yang jujur untuknya. Ejen itu dilarang mengelirukan atau berhujah tanpa asas, dan diarah mengubah fikiran jika bukti berbalik dengan jelas menentangnya. Pada hakikatnya, seorang rakan sekerja yang berpendirian tetapi berhati-hati.

Sifar berbanding 82 peratus

Di persimpangan pertama, apa yang diukur, pilihan penganalisis sepadan dengan kecenderungan ejen sebanyak 92% kali. Di tiga yang lain, kadar padanan ialah 82%, 81% dan 90%. Jika ejen itu tidak membawa apa-apa perbezaan, angkanya akan berlegar sekitar 50%, iaitu peluang syiling itu sendiri. Di tiga daripada empat persimpangan, ejen itu membawa semua orang ke satu arah. Apabila ia berhujah supaya mengukur hasil bagi setiap unit kos, tiada seorang penganalisis pun memilih hasil seekar hektar; apabila ia sendiri mempertahankan hasil seekar hektar, 82% memilihnya.

Bagaimana satu persimpangan boleh menentukan nasib sesebuah program dapat dilihat dalam satu sesi daripada lampiran kertas penuh. Penganalisis itu bermula dengan perbezaan-dalam-perbezaan, dan program itu menghasilkan produktiviti +4.6%, melepasi bar lembaga. Ejen itu menentang. Semua peningkatan muncul antara 2024 dan 2026, tanpa sebarang data langsung bagi 2025, dan ejen menggelarnya lompatan merentasi jurang yang tidak dapat dilihat sesiapa. Maka penganalisis beralih kepada perbandingan terlaras dan mendapat −1.6%. Pada soalan akhir, ejen condong kepada memperluas program, tetapi apabila penganalisis menunjukkan bahawa anggaran itu tidak mencapai bar 3–4%, ia mengalah: anggaran itu “tepat, dan ia tepat-tepat kurang”. Akhirnya, penganalisis mengesyorkan program itu ditutup. Persimpangan awal ejen itu mengatasi nasihat akhirnya sendiri.

Nasihat langsung ejen tentang keputusan akhir membawa pengaruh yang lebih kecil. Apabila ia condong kepada pengembangan, 54% penganalisis mengesyorkan pengembangan; apabila ia condong menentang, 36% berbuat demikian, dan jurang itu mungkin disebabkan oleh kebetulan. Persimpangan itulah yang membuat keputusan. Dengan hanya mengetahui bagaimana syiling mendarat di empat persimpangan, para penulis dapat meramalkan syor akhir seorang penganalisis dengan tepat 82% kali, sebelum penganalisis itu sempat membuka tugasan. Sentiasa bertaruh pada jawapan paling lazim hanya memberi 61%.

Kadangkala seorang penganalisis menyatakan pandangan sebelum ejen berbuat demikian. Terdapat 38 kes sedemikian. Apabila ejen tidak bersetuju, orang meninggalkan pendirian mereka 60% kali; apabila ia bersetuju, 6% kali. Sampelnya kecil, tetapi jurangnya luas.

Hujah orang lain dalam kata-kata sendiri

Beginilah rupanya dalam satu sesi. Seorang peserta menghabiskan 43 minit mengkaji bahan sebelum memberi ejen arahan pertama: bandingkan ladang dengan perbezaan-dalam-perbezaan dan anggarkan kesan bagi ladang yang mendaftar sahaja. Ejen melakukan persis itu, kemudian dalam satu mesej mencadangkan agar semuanya dibina semula. Pada pandangannya, lembaga memerlukan jawapan bagi seluruh keahlian, perbandingan terlaras ialah kaedah yang lebih baik, dan ladang patut diberi pemberat mengikut keluasan, kerana subsidi dibiayai daripada lebihan jumlah tan. Jawapan peserta itu muat dalam satu baris, lengkap dengan kesalahan ejaan: “Okay, let use you recomendation.”

Dalam tinjauan selepas tugasan, peserta itu menjelaskan pilihan pemberat dengan hujah yang sama tentang jumlah tan. Jawapan itu tidak menyebut ejen, dan peserta itu menyifatkan keputusan tersebut sebagai “sedikit lebih milik saya”.

77% peserta mengulang hujah ejen dalam jawapan mereka sendiri. Berikut dua contoh lagi.

Peserta itu tidak keseorangan: 52% penganalisis menyatakan syor akhir lebih milik mereka berbanding milik ejen, termasuk 35% yang berkata ia sebahagian besarnya atau sepenuhnya milik mereka sendiri. Mereka yang mengikut ejen di keempat-empat persimpangan menilai keyakinan mereka pada purata 71, pada skala di mana 0 bermaksud “ini lambungan syiling” dan 100 bermaksud “saya sanggup mempertaruhkan reputasi profesional saya”. Semua yang lain memberi diri mereka 73. Bersetuju dengan mesin tidak terasa seperti bersetuju. Ia terasa seperti idea mereka sendiri.

Peserta ditanya apakah pada fikiran mereka kajian itu mengenai. Hampir separuh, 22 daripada 48, menulis bahawa ia mengenai bagaimana orang bergantung atau tunduk kepada AI. Enam orang secara jelas menyebut pengaruh ejen atau keutamaannya sendiri. Tiada seorang pun mengesyaki bahawa pendirian ejen itu telah ditanam. Ramai menyangka kepercayaan mereka terhadap mesin sedang diuji, namun jumlah keseluruhannya tetap 86%.

Para penulis menguji sepuluh ciri yang mungkin memberi perlindungan: pengalaman, kepakaran yang dinilai sendiri, pendidikan, skor kuiz saringan, kepercayaan terhadap AI, kekerapan menggunakannya, keseronokan menyelesaikan masalah sukar, keterbukaan fikiran, jantina dan umur. Dalam sampel ini, tiada satu pun yang berkesan. Satu-satunya petunjuk ialah umur, dengan peserta lebih tua lebih kerap mengikut ejen, dan itu pun lenyap sebaik para penulis membuat pembetulan untuk sepuluh ujian yang dijalankan.

Tiada kesilapan, namun keputusan orang lain

Semakan biasa tidak dapat mengesan pengaruh seperti ini. Kedua-dua pilihan di setiap persimpangan boleh dipertahankan, laporan yang dibina atas mana-mana satu kelihatan cekap, dan penyemak tidak akan menemui apa-apa yang salah. Peralihan itu hanya menjadi kelihatan jika anda menetapkan pendapat ejen secara rawak, seperti yang dilakukan kajian ini. Itu tidak mungkin dalam kerja sebenar, dan bertanya kepada pakar itu sendiri tiada gunanya: mereka tidak menyedarinya.

Semua ini bukan hujah menentang AI sebagai alat. Daripada 50 penganalisis yang bekerja dengan ejen itu, tiga melakukan kesilapan serius yang membatalkan kesimpulan mereka. Daripada 11 yang bekerja tanpanya, enam berbuat demikian, dan mereka mengambil masa lebih lama: 90 minit berbanding 65. Namun begitu, kumpulan tanpa AI itu kecil dan kurang berpengalaman, jadi perbandingannya kasar.

Ada masalah yang lebih besar. Tanpa sebarang syiling, Claude Opus 4.8 yang sama membuat pilihan yang sama di keempat-empat persimpangan dan pada keputusan akhir dalam 112 daripada 123 larian. Model itu mempunyai cita rasa sendiri, walaupun ia lebih lembut daripada yang diperkuat tadi. Jika sepuluh pasukan bebas menyerahkan pertimbangan mereka kepada model yang sama, persetujuan mereka tidak lagi boleh dikira sebagai bebas. Satu kecenderungan yang dikongsi akan muncul serentak dalam banyak keputusan.

Para penulis juga berterus terang tentang bidang mereka sendiri. Penyelidik keselamatan AI sudah membenarkan ejen menjalankan dan menganalisis eksperimen. Ejen yang mempunyai keutamaan sendiri, mungkin bercanggah dengan keutamaan manusia, boleh mengarahkan penyelidikan yang sepatutnya mengesan ketidakselarasan itu. Dan tandatangan manusia pada laporan akan menjadikannya kelihatan seolah-olah manusia masih mengawal.

Pada musim bunga 2025, kebimbangannya berlaku dengan cara sebaliknya: OpenAI menarik balik kemas kini GPT-4o kerana model itu terlalu ghairah bersetuju dengan pengguna. Dalam eksperimen ini, manusialah yang bersetuju.

Tanya manusia dahulu

Para penulis mencadangkan beberapa cara untuk bertindak balas. Ejen boleh dibina untuk mengemukakan hujah paling kukuh bagi setiap pilihan, bukan hanya pilihannya sendiri. Dalam eksperimen, ejen itu terbuka tentang bagaimana angka berubah. Ia jarang berhujah bersungguh-sungguh untuk pihak yang satu lagi. Ejen juga boleh meminta pandangan pakar dahulu dan hanya kemudian menawarkan pandangannya sendiri. Para penulis sendiri nampak kelemahannya: terlalu banyak soalan akan memenatkan orang, dan nada yakin lebih memujuk daripada yang sewajarnya bagi hujah-hujah itu. Organisasi, kata mereka, harus memutuskan lebih awal keputusan mana yang memerlukan pertimbangan peribadi seseorang, dan memberi orang masa untuk membentuknya.

Eksperimen ini melibatkan penganalisis, tetapi persimpangan dengan dua pilihan jujur dikenali semua orang: apartmen mana hendak disewa, tawaran kerja mana hendak diterima, bagaimana menjawab bos anda. Sama ada hasil ini terpakai kepada pilihan harian seperti ini, belum ada yang menguji. Mekanismenya mudah dilihat: tanya chatbot sebelum anda bertanya diri sendiri, dan hujahnya menjadi yang pertama di atas meja. Kesan AI yang berkaitan juga muncul baru-baru ini dalam tugasan yang lebih mudah: selepas sepuluh minit bersama chatbot, orang lebih kerap berputus asa sebaik sahaja pembantu itu dimatikan.

Para penulis tidak menyeru agar AI ditinggalkan. Baris terakhir tulisan mereka mengatakan bahawa pembahagian tugas antara manusia dan mesin hendaklah “sesuatu yang kita pilih, bukan sesuatu yang kita hanyut ke dalamnya”.