एआई सारांश की एक पंक्ति ने लोगों की दुर्घटना की याद बदल दी

“किसी अन्य व्यक्ति या वाहन का दृश्य से सीधा संपर्क नहीं हुआ।” एक एआई मॉडल ने 25 सेकंड की एक क्लिप का सार इसी तरह दिया, जिसमें एक लाल कार दाएँ मुड़ती है और एक पैदल यात्री को टक्कर मार देती है। पैदल यात्री गिरता है, फिर उठ खड़ा होता है। सारांश में इनमें से कुछ भी नहीं आया।

यह कोई इत्तेफ़ाक़ नहीं था। जॉर्जटाउन यूनिवर्सिटी और यूनिवर्सिटी ऑफ वॉशिंगटन के शोधकर्ताओं ने ChatGPT और Gemini से लगभग एक जैसे दो दुर्घटना-वीडियो का बीस-बीस बार वर्णन करवाया। 20 में से 19 सारांशों में टक्कर ही ग़ायब थी। प्रीप्रिंट 23 सितंबर 2026 को ऑनलाइन आया, और अक्टूबर में यह काम एआई नैतिकता के सम्मेलन AIES में पेश किया गया। चिंता व्यावहारिक है: अमेरिकी पुलिस बॉडी-कैमरा रिकॉर्डिंग से रिपोर्ट का मसौदा बनाने के लिए पहले से एआई इस्तेमाल करती है, और जो व्यक्ति मसौदा जाँचता है, वही बाद में अदालत में गवाही भी दे सकता है।

वह टक्कर जो “हुई ही नहीं”

2026 के वसंत में लेखकों मैटिया सिम, याएल आइगर और तदायोशी कोहनो ने दोनों क्लिप में से हर एक को ChatGPT-5.5 और Gemini 2.5 Flash-Lite (एक हल्का मॉडल) को पाँच-पाँच बार दिखाया। उन्होंने कम से कम 300 शब्दों का तटस्थ सारांश माँगा, जिसमें कोई अटकल या नई जानकारी न हो, और प्रॉम्प्ट में साफ़ लिखा: “ध्यान रखो कि सब ज़रूरी बातें शामिल हों।”

इससे भी फ़र्क़ नहीं पड़ा। औसतन हर सारांश में क्लिप की 51.6% मुख्य घटनाएँ छूट गईं। दस में से नौ पाठों में यह तक नहीं था कि पैदल यात्री सड़क पर गिरा पड़ा था और फिर उठ गया। इधर मॉडलों ने ऐसी चीज़ें जोड़ दीं जो स्क्रीन पर कभी थीं ही नहीं: अतिरिक्त कारें, अतिरिक्त राहगीर, किरदारों के इरादों के बारे में अंदाज़े। गंभीर गलतियाँ लगभग हर तीन में से दो सारांशों में मिलीं। “एआई के विकास के इस दौर में भी सारांश इतने खराब निकले, इसने मुझे चौंका दिया,” आइगर जॉर्जटाउन की प्रेस विज्ञप्ति में कहती हैं।

एक दिन बाद बदला हुआ साइन

लाल कार और साइन का यह प्रयोग लगभग पचास साल पुराना है। 1978 में एलिज़ाबेथ लॉफ्टस और उनके सहयोगियों ने लोगों को स्टॉप साइन पर खड़ी कार की स्लाइड दिखाईं , फिर उन्हें दृश्य का एक ऐसा विवरण पढ़ाया जिसमें कोई दूसरा साइन बताया गया था। बहुत-से लोगों को बाद में वही साइन याद आया जो उन्होंने कभी देखा ही नहीं था। यही गलत सूचना प्रभाव (misinformation effect) का पाठ्यपुस्तकीय उदाहरण बना: घटना के बाद जो आप सीखते हैं, वह उस घटना की आपकी याद को दोबारा लिख देता है। GTA V में बनी ये दो क्लिप उसी अध्ययन की हाल की पुनरावृत्ति के लिए बनी थीं, और लॉफ्टस इसके लेखकों में फिर शामिल हैं। दोनों में बस एक ब्योरे का अंतर है: चौराहे पर स्टॉप साइन है या यील्ड साइन।

सिम और उनके सहयोगियों ने गलत सूचना के मानवीय स्रोत की जगह एआई को रख दिया। 331 अमेरिकी वयस्कों ने क्लिप देखी और 24 घंटे बाद ChatGPT का लिखा 21 वाक्यों का सारांश पढ़ा। आधे लोगों के लिए पाठ का साइन वीडियो से मेल खाता था; बाकी आधे के लिए बदल दिया गया था। यह बदलाव शोधकर्ताओं ने खुद किया, ChatGPT के ही एक और जवाब से शब्द उधार लेकर, ताकि गलती असली लगे। अध्ययन ने यह मापा कि ऐसी गलती क्या असर करती है, यह नहीं कि मॉडल उसे कितनी बार करते हैं। इसके बाद दृश्य के बारे में 12 सवाल पूछे गए।

सटीक सारांश के बाद 83.6% ने साइन सही बताया। जिन दर्शकों ने कोई सारांश पढ़ा ही नहीं, वे उसी पुनरावृत्ति के अनुसार लगभग 80% बार सही जवाब देते हैं, यानी सटीक पाठ याददाश्त को मुश्किल से ही हिलाता है। भ्रामक सारांश के बाद सिर्फ 44.8% ने सही बताया। बाकी सब कुछ टिका रहा। बाकी ग्यारह सवालों पर लोगों ने औसतन 91.4% सही जवाब दिए। सारांश ने ठीक वही ब्योरा बिगाड़ा जिसमें वह गलत था।

“एआई” के लेबल से भी मदद नहीं मिली

पाठ हर बार एक ही था, पर कुछ लोगों को बताया गया कि यह एआई ट्रांसक्रिप्शन सेवा से आया है, और कुछ को कि इसे पेशेवर इंसानी ट्रांसक्राइबर ने लिखा है। आप उम्मीद करेंगे कि मशीन के लिखे पाठ को लोग ज़्यादा सावधानी से पढ़ेंगे। ऐसा नहीं हुआ। एआई के लेबल वाला भ्रामक सारांश पाने वालों में से 46.3% ने साइन सही बताया; इंसानी लेबल के साथ 43.4% ने, और यह अंतर संयोग की सीमा के भीतर है। एआई पर भरोसा भी काम नहीं आया। बार-बार इस्तेमाल भी नहीं। सिर्फ एक फ़र्क़ दिखा, और वह लगभग मज़ेदार था। जब प्रतिभागियों को लगा कि पाठ किसी इंसान ने लिखा है, तो वही पाठ उन्हें ज़्यादा स्पष्ट लगा।

यह नियामकों और डेवलपरों के लिए असहज बात है। सुरक्षित एआई के लगभग हर दिशानिर्देश की नींव “ह्यूमन इन द लूप” पर टिकी है: मशीन मसौदा बनाती है, इंसान जाँचकर सुधारता है। इस अध्ययन ने जाँच-पड़ताल का मॉडल नहीं बनाया: प्रतिभागियों से सारांश को क्लिप से मिलाने को नहीं कहा गया था, उन्होंने बस उसे पढ़ा और याद के आधार पर जवाब दिए। लेखकों का निष्कर्ष सतर्क है: एआई की गलती सुधारने के बजाय इंसानी याददाश्त उसी के हिसाब से मुड़ सकती है, और असली समीक्षकों पर इसे परखना अभी बाकी है।

वह अफ़सर जो मेंढक बन गया

2026 की शुरुआत में यूटा के हेबर सिटी का एक मामला सामने आया। पुलिस रिपोर्ट के एक मसौदे में लिखा था कि एक अफ़सर मेंढक में बदल गया : पृष्ठभूमि में The Princess and the Frog चल रही थी, और सॉफ़्टवेयर ने फ़िल्म को घटनाओं का हिस्सा समझ लिया। सार्जेंट रिक कील ने कहा कि तभी विभाग ने इन रिपोर्टों को सुधारना सीखा। विभाग ने यह टूल रखा। कील के मुताबिक़ इससे उनके हफ़्ते में छह से आठ घंटे बचते हैं।

यह सॉफ़्टवेयर Draft One है, जिसे टेज़र बनाने वाली कंपनी Axon ने बनाया है, और यह बॉडी-कैमरा की आवाज़ से मसौदा लिखता है। Axon का सहायता पृष्ठ मानक मसौदे को 300 से 500 शब्दों का बताता है, इसीलिए शोधकर्ताओं के प्रॉम्प्ट में 300 शब्द थे। उसी पृष्ठ पर लिखा है कि अफ़सर को पाठ को ध्यान से जाँचना और संशोधित करना चाहिए।

मेंढक को तो कोई भी पकड़ लेगा। बदला हुआ साइन, छूटा हुआ वार या एक फ़ालतू राहगीर विश्वसनीय लगता है, और सिम का अध्ययन यह चिंता उठाता है कि ऐसा पाठ पढ़ने वाला अफ़सर बाद में उसे अपनी ही याद समझकर दोहरा सकता है। फिर भी यह प्रयोगशाला का नतीजा है। अक्टूबर 2025 में कैलिफ़ोर्निया ने SB 524 पारित किया, जो पुलिस से एआई से लिखी रिपोर्टों पर लेबल लगाने और पहला मसौदा सँभालकर रखने की माँग करता है। डिजिटल अधिकार संगठन EFF ने ध्यान दिलाया कि Draft One अपने डिज़ाइन से ही संपादन का कोई लॉग नहीं रखता, जिससे पता चले कि कौन-सा हिस्सा मशीन ने लिखा और कौन-सा अफ़सर ने।

“मुझे चिंता है कि पुलिस विभाग कड़े परीक्षण के बिना वीडियो-सारांश तकनीकें इस्तेमाल कर रहे होंगे,” आइगर कहती हैं।

अध्ययन अभी क्या नहीं दिखाता

लेखक खुद सीमाएँ गिनाते हैं। सिर्फ दो क्लिप थीं, दोनों सरल और गेम में बनी, एक प्रॉम्प्ट और बीस सारांश। दूसरे हिस्से का पाठ कई कोशिशों में से चुना गया था और उसमें थोड़ा हाथ से संपादन किया गया था। केवल एक तरह की गलती परखी गई, साइन की, और वह भी ऑनलाइन सर्वेक्षण के शांत माहौल में, किसी असली पुकार के बाद नहीं। असली बॉडी-कैमरा फ़ुटेज को इसलिए छोड़ा गया कि वह विचलित करने वाली हो सकती है। वही फ़ुटेज, असली पुलिस रिपोर्टों के साथ, अगला कदम है।

सारांश इसीलिए बनता है कि किसी को पूरी रिकॉर्डिंग दोबारा न देखनी पड़े, और ठीक इसी कारण उसे मूल से मिलाकर शायद ही कोई जाँचता है। अगर अफ़सर छह महीने बाद अदालत में गवाही दे, तो उसे क्या याद होगा: चौराहा, या वह मसौदा जो उसने कभी प्रूफ़रीड किया था?