Satu baris dalam ringkasan AI menulis semula ingatan orang tentang sebuah kemalangan

“Tiada watak atau kenderaan lain yang berinteraksi secara langsung dengan babak itu.” Begitulah sebuah model AI merumuskan klip 25 saat yang memaparkan sebuah kereta merah membelok ke kanan lalu merempuh seorang pejalan kaki. Pejalan kaki itu jatuh, kemudian bangun semula. Satu pun tidak masuk ke dalam ringkasan.

Ini bukan kebetulan. Penyelidik di Georgetown University dan University of Washington meminta ChatGPT dan Gemini memerihalkan dua video kemalangan yang hampir serupa sebanyak dua puluh kali. Dalam 19 daripada 20 ringkasan, kemalangan itu sendiri tiada. Pracetak tersebut dimuat naik pada 23 September 2026, dan pada Oktober kajian itu dibentangkan di AIES , sebuah persidangan tentang etika AI. Kebimbangannya amat praktikal: polis Amerika sudah menggunakan AI untuk menyediakan laporan daripada rakaman kamera badan, dan orang yang menyemak draf itu ialah orang yang sama yang mungkin memberi keterangan kelak.

Kemalangan yang “tidak berlaku”

Pada musim bunga 2026, para pengarang, Mattea Sim, Yael Eiger dan Tadayoshi Kohno, menayangkan setiap satu daripada dua klip itu lima kali kepada ChatGPT-5.5 dan Gemini 2.5 Flash-Lite, sebuah model ringan. Mereka meminta ringkasan neutral sekurang-kurangnya 300 perkataan, tanpa spekulasi dan tanpa fakta baharu, dan menegaskannya dalam arahan: “pastikan semua yang penting disertakan.”

Tidak membantu. Secara purata, sesebuah ringkasan meninggalkan 51.6% peristiwa utama klip. Sembilan daripada sepuluh teks langsung tidak menyebut bahawa pejalan kaki itu terbaring di atas jalan raya lalu bangun semula. Sementara itu, model-model tersebut menokok tambah perkara yang tidak pernah ada di skrin: kereta tambahan, pejalan kaki tambahan, tekaan tentang niat watak. Ketidaktepatan kritikal muncul dalam kira-kira dua daripada tiga ringkasan. “Saya terkejut betapa teruknya ringkasan itu, walaupun pada peringkat perkembangan AI sekarang,” kata Eiger dalam kenyataan akhbar Georgetown .

Papan tanda yang ditukar sehari kemudian

Kereta merah dan papan tanda itu sudah hampir lima puluh tahun usianya. Pada 1978, Elizabeth Loftus dan rakan sekerja menunjukkan slaid sebuah kereta di papan tanda berhenti kepada orang ramai, lalu meminta mereka membaca perihal babak itu yang menyebut papan tanda yang berbeza. Ramai kemudiannya mengingati papan tanda yang tidak pernah mereka lihat. Itulah kes buku teks bagi kesan maklumat salah: apa yang anda ketahui selepas sesuatu peristiwa menulis semula ingatan anda tentangnya. Kedua-dua klip itu, yang dibina dalam GTA V, dibuat untuk replikasi terkini kajian tersebut, dan Loftus sekali lagi termasuk dalam kalangan pengarangnya. Bezanya hanya satu butiran: persimpangan itu mempunyai sama ada papan tanda berhenti atau papan tanda beri laluan.

Sim dan rakan-rakannya menggantikan sumber maklumat salah yang berupa manusia dengan AI. Seramai 331 orang dewasa Amerika menonton klip itu dan, 24 jam kemudian, membaca ringkasan 21 ayat yang ditulis oleh ChatGPT. Bagi separuh daripada mereka, papan tanda dalam teks itu sepadan dengan video; bagi separuh lagi, papan tanda itu telah ditukar. Para penyelidik sendiri yang membuat pertukaran itu, dengan meminjam ayat daripada jawapan ChatGPT yang lain supaya kesilapan itu kelihatan tulen. Kajian ini mengukur kesan kesilapan sebegitu, bukan kekerapan model melakukannya. Kemudian datang 12 soalan tentang babak itu.

Selepas ringkasan yang tepat, 83.6% menyebut papan tanda dengan betul. Penonton yang tidak membaca sebarang ringkasan memperoleh jawapan betul kira-kira 80% daripada masa, menurut replikasi yang sama, jadi teks yang tepat hampir tidak menggerakkan ingatan. Selepas ringkasan yang mengelirukan, hanya 44.8%. Segala yang lain kekal utuh. Bagi sebelas soalan yang lain, purata jawapan betul ialah 91.4%. Ringkasan itu merosakkan tepat butiran yang disalahkannya.

Label “AI” tidak membantu

Teksnya sentiasa sama, tetapi sebahagian peserta diberitahu ia datang daripada perkhidmatan transkripsi AI dan yang lain diberitahu ia ditulis oleh jurutranskripsi manusia profesional. Anda mungkin menjangka orang akan lebih berhati-hati dengan teks tulisan mesin. Hakikatnya tidak. Antara mereka yang menerima ringkasan mengelirukan berlabel AI, 46.3% menyebut papan tanda dengan betul; berlabel manusia, 43.4%, jurang yang dalam lingkungan kebetulan. Kepercayaan terhadap AI tidak membantu. Begitu juga dengan kekerapan menggunakannya. Hanya satu perbezaan muncul, dan ia hampir melucukan. Teks yang sama itu dirasakan lebih jelas oleh peserta apabila mereka menyangka seorang manusia yang menulisnya.

Hal ini menyulitkan para pengawal selia dan pembangun. Hampir setiap garis panduan untuk AI yang selamat bersandar pada “manusia dalam gelung”: mesin menyediakan draf, manusia menyemak dan membetulkannya. Kajian ini tidak memodelkan proses semakan: peserta tidak diminta membandingkan ringkasan dengan klip, mereka hanya membacanya lalu menjawab daripada ingatan. Kesimpulan para pengarang berhati-hati: daripada membetulkan kesilapan AI, ingatan manusia mungkin melentur menyesuaikan diri dengannya, dan pengujian ke atas penyemak sebenar masih akan datang.

Pegawai yang menjadi katak

Pada awal 2026, satu kes timbul di Heber City, Utah. Sebuah draf laporan polis menyatakan bahawa seorang pegawai telah bertukar menjadi katak : filem The Princess and the Frog sedang terpasang di latar belakang, dan perisian itu menganggap filem tersebut sebahagian daripada kejadian. Sarjan Rick Keel berkata ketika itulah jabatannya belajar membetulkan laporan sebegini. Jabatan itu mengekalkan alat tersebut. Keel mengatakan ia menjimatkan enam hingga lapan jam seminggu.

Perisian itu ialah Draft One, buatan Axon, syarikat Taser, dan ia menulis draf daripada audio kamera badan. Halaman bantuan Axon menetapkan draf piawai pada 300 hingga 500 perkataan, maka itulah asalnya 300 perkataan dalam arahan penyelidik. Halaman yang sama menyatakan pegawai harus menyemak dan menyemak semula teks itu dengan teliti.

Sesiapa pun akan menyedari katak itu. Papan tanda yang bertukar, pukulan yang terlepas pandang atau orang awam tambahan kelihatan munasabah, dan kajian Sim menimbulkan kebimbangan bahawa seorang pegawai yang membaca teks sebegitu mungkin kelak mengingatinya sebagai ingatannya sendiri. Namun ini masih dapatan makmal. Pada Oktober 2025, California meluluskan SB 524, yang mewajibkan polis melabel laporan yang ditulis dengan AI dan menyimpan draf pertama. Kumpulan hak digital EFF menegaskan bahawa Draft One, menurut reka bentuknya, tidak menyimpan log suntingan yang menunjukkan bahagian mana ditulis oleh mesin dan bahagian mana oleh pegawai.

“Saya bimbang jabatan polis mungkin menggunakan teknologi ringkasan video tanpa ujian yang ketat,” kata Eiger.

Apa yang belum ditunjukkan oleh kajian ini

Para pengarang sendiri menyenaraikan batasannya. Hanya ada dua klip, kedua-duanya ringkas dan dijana dalam permainan, satu arahan dan dua puluh ringkasan. Teks untuk bahagian kedua dipilih daripada beberapa percubaan dan disunting sedikit secara manual. Hanya satu jenis kesilapan diuji, iaitu papan tanda, dan dalam suasana tenang tinjauan dalam talian, bukan selepas panggilan sebenar. Rakaman kamera badan sebenar ditinggalkan kerana ia boleh bersifat grafik. Rakaman itu, bersama laporan polis sebenar, akan menyusul.

Ringkasan wujud supaya tiada sesiapa perlu menonton semula keseluruhan rakaman, dan itulah sebabnya hampir tiada siapa menyemaknya dengan yang asal. Jika pegawai itu memberi keterangan di mahkamah enam bulan dari sekarang, apakah yang akan diingatinya: persimpangan itu, atau draf yang pernah disemaknya?