// فهرست مطالب
«هیچ خودرو یا شخص دیگری مستقیماً با صحنه تعامل نداشت.» این‌طور یک مدل هوش مصنوعی ویدیویی ۲۵ ثانیه‌ای را خلاصه کرد که در آن یک خودروی قرمز به راست می‌پیچد و به عابر پیاده می‌زند. عابر پیاده می‌افتد، بعد دوباره بلند می‌شود. هیچ‌کدام از این‌ها به خلاصه راه پیدا نکرد.
این اتفاق تصادفی نبود. پژوهشگران دانشگاه جورج‌تاون و دانشگاه واشنگتن از ChatGPT و Gemini خواستند دو ویدیوی تقریباً یکسان از یک تصادف را بیست بار توصیف کنند. در ۱۹ خلاصه از ۲۰ خلاصه، خودِ تصادف جا افتاده بود. پیش‌چاپ این پژوهش ۲۳ سپتامبر ۲۰۲۶ منتشر شد و در اکتبر در AIES ، کنفرانسی درباره اخلاق هوش مصنوعی، ارائه شد. نگرانی کاملاً عملی است: پلیس آمریکا همین حالا برای نوشتن گزارش از ضبط دوربین‌های بدن‌پوش از هوش مصنوعی کمک می‌گیرد، و کسی که پیش‌نویس را بازبینی می‌کند همان کسی است که ممکن است بعدها در دادگاه شهادت بدهد.
تصادفی که «رخ نداده بود»
در بهار ۲۰۲۶ نویسندگان مقاله، متیا سیم، یائل آیگر و تادایوشی کوهنو، هر یک از دو ویدیو را پنج بار به ChatGPT-5.5 و Gemini 2.5 Flash-Lite، مدلی سبک، دادند. از آن‌ها خلاصه‌ای بی‌طرفانه و دست‌کم ۳۰۰ کلمه‌ای خواستند، بدون حدس‌زدن و بدون افزودن واقعیت تازه، و در دستور صریحاً نوشتند: «مطمئن شو هر چیز مهمی آمده باشد.»
فایده‌ای نداشت. به‌طور میانگین هر خلاصه ۵۱٫۶ درصد از رویدادهای کلیدی ویدیو را جا انداخته بود. از هر ده متن، نُه متن حتی اشاره نکرده بود که عابر پیاده روی آسفالت افتاد و بعد برخاست. در عوض مدل‌ها چیزهایی اضافه کرده بودند که هرگز روی صفحه نبود: خودروهای اضافه، رهگذرهای اضافه، حدس درباره نیت آدم‌ها. نادقتی‌های جدی در حدود دو خلاصه از هر سه خلاصه دیده شد. آیگر در بیانیه مطبوعاتی جورج‌تاون می‌گوید: «از اینکه خلاصه‌ها حتی در این مرحله از پیشرفت هوش مصنوعی تا این حد بد بودند، شگفت‌زده شدم.»
تابلویی که یک روز بعد عوض شد
خودروی قرمز و تابلو تقریباً پنجاه سال سابقه دارند. در سال ۱۹۷۸ الیزابت لافتوس و همکارانش اسلایدهایی از خودرویی کنار تابلوی ایست به شرکت‌کنندگان نشان دادند و بعد از آن‌ها خواستند توصیفی از صحنه را بخوانند که تابلوی دیگری را نام می‌برد. بسیاری بعدها تابلویی را به یاد آوردند که هرگز ندیده بودند. این آزمایش به نمونهٔ درسیِ «اثر اطلاعات نادرست» تبدیل شد: آنچه پس از یک رویداد یاد می‌گیرید، خاطرهٔ شما از آن رویداد را بازنویسی می‌کند. دو ویدیوی مورد بحث با GTA V ساخته شده‌اند و برای یک تکرار تازهٔ همان پژوهش تهیه شدند؛ لافتوس بار دیگر در میان نویسندگان آن است. این دو فقط در یک جزئیات تفاوت دارند: چهارراه یا تابلوی ایست دارد یا تابلوی رعایت حق تقدم.
سیم و همکارانش منبع انسانیِ اطلاعات نادرست را با هوش مصنوعی عوض کردند. ۳۳۱ بزرگسال آمریکایی ویدیو را دیدند و ۲۴ ساعت بعد خلاصه‌ای ۲۱ جمله‌ای را خواندند که ChatGPT نوشته بود. برای نیمی از آن‌ها تابلوی نوشته‌شده در متن با ویدیو می‌خواند؛ برای نیم دیگر عوض شده بود. این جابه‌جایی را خود پژوهشگران انجام دادند و عبارت را از پاسخ دیگری از ChatGPT گرفتند تا خطا طبیعی به نظر برسد. پژوهش سنجید که چنین خطایی چه اثری دارد، نه اینکه مدل‌ها چند بار مرتکب آن می‌شوند. پس از آن ۱۲ پرسش دربارهٔ صحنه مطرح شد.
پس از خلاصهٔ دقیق، ۸۳٫۶ درصد تابلو را درست گفتند. بنا بر همان پژوهش تکراری، کسانی که اصلاً خلاصه‌ای نخوانده‌اند حدود ۸۰ درصد درست پاسخ می‌دهند، پس متن دقیق حافظه را تقریباً جابه‌جا نمی‌کند. پس از خلاصهٔ گمراه‌کننده فقط ۴۴٫۸ درصد درست گفتند. بقیهٔ چیزها سر جایشان ماند. در یازده پرسش دیگر میانگین پاسخ‌های درست ۹۱٫۴ درصد بود. خلاصه دقیقاً همان جزئیاتی را خراب کرد که در آن اشتباه کرده بود.
برچسب «هوش مصنوعی» کمکی نکرد
متن همیشه یکی بود، اما به بعضی گفته شد که از یک سرویس رونویسی با هوش مصنوعی آمده و به بعضی دیگر که یک رونویس‌گر حرفه‌ای انسانی آن را نوشته است. ممکن است انتظار داشته باشید آدم‌ها با متن ماشینی محتاط‌تر برخورد کنند. نکردند. از میان کسانی که خلاصهٔ گمراه‌کننده را با برچسب هوش مصنوعی گرفتند، ۴۶٫۳ درصد تابلو را درست نام بردند؛ با برچسب انسان، ۴۳٫۴ درصد، تفاوتی در حد تصادف. اعتماد به هوش مصنوعی هم کمکی نکرد. استفادهٔ مکرر از آن هم همین‌طور. فقط یک تفاوت پیدا شد، و تقریباً خنده‌دار بود: همان متن وقتی شرکت‌کنندگان فکر می‌کردند آدمی نوشته، برایشان روشن‌تر به نظر می‌رسید.
کسی که بازگویی یک ماشین را می‌خواند، شروع می‌کند به یاد آوردن روایت ماشین.
این برای قانون‌گذاران و توسعه‌دهندگان دردسر است. تقریباً هر رهنمود امنیت هوش مصنوعی به «انسان در حلقه» تکیه می‌کند: ماشین پیش‌نویس می‌نویسد، آدم بررسی و اصلاح می‌کند. این پژوهش بررسی‌کردن را شبیه‌سازی نکرد: از شرکت‌کنندگان نخواستند خلاصه را با ویدیو مقایسه کنند، فقط آن را خواندند و از حافظه پاسخ دادند. نتیجه‌گیری نویسندگان محتاطانه است: شاید حافظهٔ انسان به‌جای اصلاح خطای هوش مصنوعی، خودش را با آن تطبیق دهد، و آزمودنِ این فرض روی بازبین‌های واقعی هنوز در پیش است.
افسری که قورباغه شد
در اوایل ۲۰۲۶ ماجرایی از هیبر سیتی در ایالت یوتا بیرون آمد. در پیش‌نویس یک گزارش پلیس آمده بود که افسری به قورباغه تبدیل شده است : در پس‌زمینه انیمیشن «شاهزاده و قورباغه» پخش می‌شد و نرم‌افزار فیلم را بخشی از رویدادها گرفته بود. گروهبان ریک کیل گفت همان‌جا بود که اداره یاد گرفت این گزارش‌ها را اصلاح کند. اداره ابزار را نگه داشت. کیل می‌گوید هفته‌ای شش تا هشت ساعت در وقتش صرفه‌جویی می‌شود.
این نرم‌افزار Draft One نام دارد و ساختهٔ Axon، سازندهٔ تیزر، است و از روی صدای دوربین بدن‌پوش پیش‌نویس می‌نویسد. صفحهٔ راهنمای Axon پیش‌نویس استاندارد را ۳۰۰ تا ۵۰۰ کلمه اعلام می‌کند، و به همین دلیل در دستور پژوهشگران ۳۰۰ کلمه آمده بود. در همان صفحه آمده که افسر باید متن را با دقت بازبینی و اصلاح کند.
قورباغه را هر کسی تشخیص می‌دهد. اما تابلوی عوض‌شده، ضربه‌ای که از قلم افتاده یا رهگذری اضافه معقول به نظر می‌رسد، و پژوهش سیم این نگرانی را پیش می‌کشد که افسری که چنین متنی را می‌خواند ممکن است بعدها آن را خاطرهٔ خودش به یاد آورد. هنوز این یک نتیجهٔ آزمایشگاهی است. در اکتبر ۲۰۲۵ کالیفرنیا قانون SB 524 را تصویب کرد که پلیس را ملزم می‌کند گزارش‌های نوشته‌شده با هوش مصنوعی را برچسب بزند و پیش‌نویس نخست را نگه دارد. گروه حقوق دیجیتال EFF یادآوری کرد که Draft One طبق طراحی هیچ سابقهٔ ویرایشی نگه نمی‌دارد که نشان دهد کدام بخش‌ها را ماشین نوشته و کدام را افسر.
آیگر می‌گوید: «نگرانم که ادارات پلیس شاید بدون آزمون دقیق از فناوری‌های خلاصه‌سازی ویدیو استفاده کنند.»
آنچه پژوهش هنوز نشان نمی‌دهد
نویسندگان خودشان محدودیت‌ها را فهرست کرده‌اند. فقط دو ویدیو بود، هر دو ساده و ساخته‌شده در بازی، یک دستور و بیست خلاصه. متن بخش دوم از میان چند تلاش انتخاب شد و کمی با دست ویرایش شد. فقط یک نوع خطا آزموده شد، تابلو، آن هم در آرامش یک نظرسنجی آنلاین و نه پس از یک تماس واقعی. ضبط واقعی دوربین بدن‌پوش کنار گذاشته شد، چون ممکن است صحنه‌های دلخراش داشته باشد. گام بعدی همان ضبط‌ها همراه با گزارش‌های واقعی پلیس است.
خلاصه برای این هست که کسی لازم نباشد کل ضبط را دوباره ببیند، و درست به همین دلیل تقریباً هیچ‌کس آن را با اصل مقایسه نمی‌کند. اگر افسر شش ماه دیگر در دادگاه شهادت بدهد، چه چیزی یادش مانده است: خودِ چهارراه، یا پیش‌نویسی که روزی غلط‌گیری‌اش کرد؟
