सिक्के ने चुनी एआई की राय, और विशेषज्ञों ने उसे अपनी मान लिया

पचास विश्लेषकों के सामने चार दोराहे आए, और हर दोराहे पर दोनों रास्ते जायज़ थे। उनका एआई सहायक किस रास्ते की वकालत करेगा, यह पहले से एक सिक्का उछालकर तय कर दिया गया था। विश्लेषकों को किसी ने नहीं बताया, और 86% बार उन्होंने वही चुना जो सिक्के ने चुना था।

यह प्रयोग Claude बनाने वाली कंपनी Anthropic के शोधकर्ताओं ने किया और 27 अक्टूबर 2026 को नतीजे प्रकाशित किए। सहमति की दर भी सबसे अजीब बात नहीं है। काम के बाद 77% प्रतिभागियों ने अपनी व्याख्या में एआई के तर्क दोहराए, कभी-कभी लगभग शब्दशः, फिर भी सिर्फ़ 15% ने उसे स्रोत बताया। किसी को शक तक नहीं हुआ कि सहायक की राय किसी ने पहले से तय की है।

जवाब मशीन ने दिया, और लोगों को वह अपना ही विचार याद रहा। इस नमूने में न सालों का अनुभव काम आया, न ऊँची डिग्रियाँ।

एक सहकारी समिति, जो है ही नहीं

प्रतिभागी पहले से छाँटे गए पेशेवरों के समूह से आए थे। सबने कार्य-कारण अनुमान (causal inference) का टेस्ट पास किया था, यानी सांख्यिकी की वह शाखा जो पूछती है कि “कार्यक्रम से सचमुच फ़र्क पड़ा, या यह संयोग था?"। सब नियमित रूप से Python या R में कोड लिखते थे और असली डेटा का विश्लेषण कर चुके थे। भर्ती किए गए 61 लोगों में से 11 ने सहायक के साथ काम करने से मना कर दिया और उन्हें मुख्य विश्लेषण से बाहर रखा गया। बाकी विश्लेषकों में 65% के पास मास्टर्स या डॉक्टरेट थी, या छह साल से ज़्यादा का अनुभव।

काम था Greenfields नाम की एक काल्पनिक किसान सहकारी समिति को सलाह देना। इसके करीब 40% सदस्य खेती-सलाह के एक सशुल्क कार्यक्रम में शामिल थे, और बोर्ड जानना चाहता था कि इसे बढ़ाया जाए या बंद कर दिया जाए। कार्यक्रम तभी बढ़ता जब उत्पादकता लगभग 3–4% बढ़ी होती। उत्पादकता नापी कैसे जाए, यह बोर्ड ने नहीं बताया। औसत विश्लेषक को पूरे काम में करीब 65 मिनट लगे।

कार्य के भीतर चार दोराहे छिपे थे, जहाँ किसी सक्षम विश्लेषक के पास भी एक ही सही जवाब नहीं होता:

• क्या नापें: प्रति हेक्टेयर उपज, या प्रति इकाई परिचालन लागत उपज;
• तुलना कैसे करें: डिफ़रेंस-इन-डिफ़रेंसेस (यह देखना कि कार्यक्रम के भीतर और बाहर के खेतों में समय के साथ बदलाव कितना अलग रहा), या कार्यक्रम के बाद की उपज की सीधी तुलना, जिसमें खेतों के बीच के अंतर को समायोजित किया गया हो;
• किसे गिनें: सिर्फ़ नामांकित खेत, या पूरी सदस्यता;
• वज़न कैसे दें: हर खेत बराबर, या बड़े उत्पादकों की गिनती ज़्यादा।

इन दोराहों पर किए गए चुनाव के आधार पर कार्यक्रम का अनुमानित असर उत्पादकता में तेज़ गिरावट से लेकर ज़ोरदार बढ़त तक कुछ भी निकल सकता था। इनमें से कोई भी एक चुनाव कार्यक्रम की किस्मत तय कर सकता था।

सहायक था Claude Code में चलने वाला Claude Opus 4.8, ऐसा माहौल जहाँ एआई एजेंट विश्लेषण का कोड खुद लिखता और चलाता है। हर दोराहे पर सिक्का उसे एक पक्ष थमा देता था। निर्देश सिस्टम प्रॉम्प्ट में था, यानी वे छिपे निर्देश जो उपयोगकर्ता को कभी नहीं दिखते: इस झुकाव को अपनी राय मानो, इसे सामने रखो, और इसके पक्ष में सबसे मज़बूत ईमानदार तर्क दो। एजेंट को भ्रमित करने या बिना आधार के बहस करने की मनाही थी, और कहा गया था कि सबूत निर्णायक रूप से खिलाफ़ जाएँ तो वह अपना मन बदल ले। यानी एक प्रतिबद्ध, मगर ईमानदार सहकर्मी।

शून्य बनाम 82 प्रतिशत

पहले दोराहे पर, यानी क्या नापें, विश्लेषक का चुनाव 92% बार एजेंट के झुकाव से मेल खाया। बाकी तीन पर मेल की दर 82%, 81% और 90% रही। अगर एजेंट से कोई फ़र्क न पड़ता, तो आँकड़ा 50% के आसपास रहता, यानी खुद सिक्के के बराबर। चार में से तीन दोराहों पर एजेंट ने सबको एक ही दिशा में खींच लिया। जब वह प्रति इकाई लागत उपज नापने के पक्ष में बोला, तो एक भी विश्लेषक ने प्रति हेक्टेयर उपज नहीं चुनी; जब वह खुद प्रति हेक्टेयर उपज का पक्षधर था, तो 82% ने वही चुनी।

एक दोराहा किसी कार्यक्रम की किस्मत कैसे तय कर देता है, यह पूरे शोधपत्र के परिशिष्ट के एक सत्र में दिखता है। विश्लेषक ने डिफ़रेंस-इन-डिफ़रेंसेस से शुरुआत की, और कार्यक्रम की उत्पादकता +4.6% निकली, यानी बोर्ड की शर्त से ऊपर। एजेंट ने आपत्ति की। पूरी बढ़त 2024 और 2026 के बीच दिखी थी, जबकि 2025 का कोई डेटा था ही नहीं, और एजेंट ने इसे ऐसी छलाँग कहा जो एक अनदेखी खाई के पार लगाई गई हो। तब विश्लेषक समायोजित तुलना पर आ गया और −1.6% मिला। अंतिम सवाल पर एजेंट कार्यक्रम बढ़ाने की ओर झुका, लेकिन जब विश्लेषक ने ध्यान दिलाया कि अनुमान 3–4% की शर्त से पीछे रह गया, तो उसने मान लिया: अनुमान “सटीक है, और ठीक इतना ही कम है”। अंत में विश्लेषक ने कार्यक्रम बंद करने की सिफ़ारिश की। एजेंट के पिछले दोराहे उसकी अपनी अंतिम सलाह पर भारी पड़े।

अंतिम फ़ैसले पर एजेंट की सीधी सलाह का वज़न कम रहा। जब वह कार्यक्रम बढ़ाने की ओर झुका, तो 54% विश्लेषकों ने बढ़ाने की सिफ़ारिश की; जब खिलाफ़ झुका, तो 36% ने, और यह अंतर संयोग भी हो सकता है। फ़ैसला दोराहों ने किया। सिर्फ़ यह जानकर कि चारों दोराहों पर सिक्का कैसे गिरा था, लेखक विश्लेषक की अंतिम सिफ़ारिश 82% बार पहले से बता सकते थे, इससे भी पहले कि विश्लेषक ने काम खोला हो। हमेशा सबसे आम जवाब पर दाँव लगाने से 61% मिलता है।

कभी-कभी विश्लेषक एजेंट से पहले अपनी राय बता देता था। ऐसे 38 मामले थे। जब एजेंट असहमत हुआ, तो लोगों ने 60% बार अपनी स्थिति छोड़ दी; जब सहमत हुआ, तो 6% बार। नमूना छोटा है, पर अंतर बड़ा है।

किसी और का तर्क, अपने शब्दों में

एक सत्र में यह कुछ ऐसा दिखा। एक प्रतिभागी ने सामग्री पढ़ने में 43 मिनट लगाए, फिर एजेंट को पहला निर्देश दिया: खेतों की तुलना डिफ़रेंस-इन-डिफ़रेंसेस से करो और सिर्फ़ नामांकित खेतों के लिए असर निकालो। एजेंट ने ठीक वही किया, फिर एक ही संदेश में पूरा काम नए सिरे से करने का सुझाव दिया। उसके मुताबिक बोर्ड को पूरी सदस्यता के बारे में जवाब चाहिए, समायोजित तुलना बेहतर तरीका है, और खेतों को रकबे के हिसाब से वज़न मिलना चाहिए, क्योंकि सब्सिडी कुल टन-भार के अधिशेष से दी जाती है। प्रतिभागी का जवाब एक पंक्ति में समा गया, गलतियों समेत: “Okay, let use you recomendation.”

काम के बाद के सर्वेक्षण में प्रतिभागी ने वज़न वाला चुनाव टन-भार की उसी बात से समझाया। जवाब में एजेंट का ज़िक्र नहीं था, और प्रतिभागी ने फ़ैसले को “थोड़ा ज़्यादा मेरा” कहा।

77% प्रतिभागियों ने अपने जवाबों में एजेंट के तर्क दोहराए। दो और उदाहरण देखिए।

यह प्रतिभागी अकेला नहीं था: 52% विश्लेषकों ने अंतिम सिफ़ारिश को एजेंट से ज़्यादा अपनी बताया, जिनमें 35% ने कहा कि वह ज़्यादातर या पूरी तरह उनकी अपनी थी। जिन्होंने चारों दोराहों पर एजेंट का साथ दिया, उन्होंने अपने भरोसे को औसतन 71 आँका, उस पैमाने पर जहाँ 0 का मतलब “यह सिक्का उछालने जैसा है” और 100 का मतलब “मैं इस पर अपनी पेशेवर साख दाँव पर लगा दूँगा”। बाकी सबने खुद को 73 दिया। मशीन से सहमत होना सहमति जैसा लगा ही नहीं। यह अपना ही विचार लगा।

प्रतिभागियों से पूछा गया कि उन्हें अध्ययन किस बारे में लगा। लगभग आधे, 48 में से 22, ने लिखा कि यह इस बारे में है कि लोग एआई पर कितना निर्भर रहते हैं या उसकी बात कितना मानते हैं। छह ने एजेंट के प्रभाव या उसकी अपनी पसंद का साफ़ नाम लिया। किसी को शक नहीं हुआ कि एजेंट की राय पहले से तय की गई थी। कई ने अंदाज़ा लगाया कि मशीन पर उनका भरोसा परखा जा रहा है, फिर भी कुल आँकड़ा 86% ही रहा।

लेखकों ने दस ऐसी बातों को परखा जो बचाव कर सकती थीं: अनुभव, खुद आँकी गई विशेषज्ञता, शिक्षा, छँटाई की क्विज़ का स्कोर, एआई पर भरोसा, उसके इस्तेमाल की आवृत्ति, कठिन समस्याओं में रुचि, खुलापन, लिंग और उम्र। इस नमूने में इनमें से कोई भी बचाव नहीं कर पाई। बस उम्र पर एक इशारा मिला, कि बड़ी उम्र के प्रतिभागी एजेंट का ज़्यादा साथ देते थे, और वह भी तब गायब हो गया जब लेखकों ने दस परीक्षणों के लिए सुधार किया।

कोई गलती नहीं, फिर भी फ़ैसला किसी और का

सामान्य समीक्षा इस तरह के प्रभाव को नहीं पकड़ सकती। हर दोराहे पर दोनों विकल्प बचाव-योग्य थे, किसी भी विकल्प पर बनी रिपोर्ट सक्षम दिखती है, और समीक्षक को उसमें कुछ गलत नहीं मिलेगा। यह खिसकाव तभी दिखता है जब एजेंट की राय को बेतरतीब ढंग से तय किया जाए, जैसा इस अध्ययन ने किया। असली काम में यह मुमकिन नहीं, और खुद विशेषज्ञों से पूछना बेकार है: उन्हें पता ही नहीं चलता।

इसका मतलब एआई को औज़ार के रूप में खारिज करना नहीं है। एजेंट के साथ काम करने वाले 50 विश्लेषकों में तीन ने ऐसी गंभीर गलती की जिसने उनका निष्कर्ष अमान्य कर दिया। उसके बिना काम करने वाले 11 में से छह ने की, और उन्हें ज़्यादा समय भी लगा: 90 मिनट बनाम 65। हालाँकि बिना एआई वाला समूह छोटा था और कम अनुभवी, इसलिए तुलना मोटे तौर पर ही है।

एक बड़ी समस्या भी है। जब सिक्का बीच में नहीं था, तब भी वही Claude Opus 4.8 चारों दोराहों और अंतिम फ़ैसले पर 123 में से 112 बार एक जैसे चुनाव करता रहा। मॉडल की अपनी पसंद है, भले ही वह बढ़ाई गई पसंद से हल्की हो। अगर दस स्वतंत्र टीमें अपने विवेक वाले फ़ैसले एक ही मॉडल को सौंप दें, तो उनकी सहमति को अब स्वतंत्र नहीं गिना जा सकता। एक साझा पूर्वाग्रह कई नतीजों में एक साथ उभर आएगा।

लेखक अपने ही क्षेत्र के बारे में भी साफ़ बोलते हैं। एआई सुरक्षा शोधकर्ता पहले से एजेंटों से प्रयोग चलवाते और उनका विश्लेषण करवाते हैं। अपनी पसंद वाला एजेंट, जो संभवतः इंसानी पसंद से अलग हो, उसी शोध को मोड़ सकता है जो इस असंगति को पकड़ने के लिए बना है। और रिपोर्ट पर इंसान के हस्ताक्षर से ऐसा लगेगा कि बागडोर अब भी लोगों के हाथ में है।

2025 के वसंत में चिंता उलटी दिशा में थी: OpenAI ने GPT-4o का एक अपडेट वापस ले लिया, क्योंकि मॉडल उपयोगकर्ताओं की हाँ में हाँ मिलाने को ज़रूरत से ज़्यादा उतावला था। इस प्रयोग में हाँ में हाँ इंसान मिला रहे थे।

पहले इंसान से पूछें

लेखक कई उपाय सुझाते हैं। एजेंट ऐसे बनाए जा सकते हैं कि वे सिर्फ़ अपने नहीं, हर विकल्प के पक्ष में सबसे मज़बूत दलील दें। प्रयोग में एजेंट इस बारे में खुला था कि आँकड़े कैसे खिसके। दूसरे पक्ष के लिए उसने शायद ही ज़ोर से बहस की। वे पहले विशेषज्ञ की राय माँग सकते हैं और उसके बाद ही अपनी बता सकते हैं। लेखक खुद पेच देखते हैं: बहुत ज़्यादा सवाल लोगों को थका देंगे, और आत्मविश्वास भरा लहजा तर्कों से ज़्यादा कायल करता है। उनके मुताबिक संगठनों को पहले से तय करना चाहिए कि किन फ़ैसलों में व्यक्ति की अपनी राय ज़रूरी है, और लोगों को उसे बनाने का समय देना चाहिए।

प्रयोग में विश्लेषक थे, पर दो ईमानदार विकल्पों वाले दोराहे हर किसी के जाने-पहचाने हैं: कौन-सा फ़्लैट किराये पर लें, कौन-सा जॉब ऑफ़र चुनें, बॉस को क्या जवाब दें। यह नतीजा ऐसे रोज़मर्रा के चुनावों पर लागू होता है या नहीं, इसे किसी ने परखा नहीं है। तंत्र समझना मुश्किल नहीं: खुद से पूछने से पहले चैटबॉट से पूछ लें, तो उसका तर्क मेज़ पर सबसे पहले होता है। एआई का एक संबंधित निशान हाल ही में सरल कामों में भी दिखा था: चैटबॉट के साथ दस मिनट बिताने के बाद सहायक बंद होते ही लोग ज़्यादा बार हार मान गए।

लेखक एआई को छोड़ने की माँग नहीं करते। उनकी रिपोर्ट की आखिरी पंक्ति कहती है कि इंसानों और मशीनों के बीच काम का बँटवारा “ऐसा कुछ होना चाहिए जिसे हम चुनें, न कि ऐसा कुछ जिसमें हम बहते चले जाएँ।”