// Daftar isi
“Tidak ada karakter atau kendaraan lain yang berinteraksi langsung dengan adegan tersebut.” Begitulah sebuah model AI meringkas klip berdurasi 25 detik, tempat sebuah mobil merah berbelok ke kanan dan menabrak pejalan kaki. Si pejalan kaki jatuh, lalu bangkit lagi. Tak satu pun dari itu masuk ke dalam ringkasan.
Ini bukan kebetulan. Peneliti dari Georgetown University dan University of Washington meminta ChatGPT dan Gemini mendeskripsikan dua video tabrakan yang nyaris identik sebanyak dua puluh kali. Dalam 19 dari 20 ringkasan, tabrakannya sendiri hilang. Pracetak makalahnya terbit daring pada 23 September 2026, dan pada Oktober penelitian itu dipresentasikan di AIES , konferensi tentang etika AI. Kekhawatirannya sangat praktis: polisi Amerika sudah memakai AI untuk menyusun draf laporan dari rekaman kamera tubuh, dan orang yang memeriksa draf itu adalah orang yang kelak bisa bersaksi.
Tabrakan yang “tidak pernah terjadi”
Pada musim semi 2026 para penulisnya, Mattea Sim, Yael Eiger, dan Tadayoshi Kohno, memutar masing-masing dari dua klip itu lima kali kepada ChatGPT-5.5 dan Gemini 2.5 Flash-Lite, model ringan. Mereka meminta ringkasan netral minimal 300 kata, tanpa spekulasi dan tanpa fakta baru, dan menegaskannya di prompt: “pastikan semua hal penting tercakup.”
Tidak membantu. Rata-rata sebuah ringkasan melewatkan 51,6% peristiwa kunci klip. Sembilan dari sepuluh teks bahkan tidak menyebut bahwa si pejalan kaki tergeletak di aspal lalu bangun lagi. Sementara itu, model menambahkan hal yang tidak pernah ada di layar: mobil tambahan, pejalan kaki tambahan, tebakan tentang niat para tokoh. Ketidakakuratan kritis muncul pada kira-kira dua dari tiga ringkasan. “Saya terkejut betapa buruknya ringkasan itu, bahkan pada tahap perkembangan AI saat ini,” kata Eiger dalam siaran pers Georgetown .
Rambu yang ditukar sehari kemudian
Mobil merah dan rambu itu usianya hampir lima puluh tahun. Pada 1978 Elizabeth Loftus dan rekan-rekannya menunjukkan slide sebuah mobil di dekat rambu stop kepada orang-orang, lalu meminta mereka membaca deskripsi adegan yang menyebut rambu lain. Banyak dari mereka kemudian mengingat rambu yang tak pernah mereka lihat. Itulah kasus buku teks untuk efek misinformasi: apa yang kamu pelajari setelah suatu peristiwa menulis ulang ingatanmu tentangnya. Kedua klip, yang dibuat di GTA V, dirancang untuk replikasi terbaru studi itu, dan Loftus kembali menjadi salah satu penulisnya. Keduanya hanya berbeda pada satu detail: persimpangannya memiliki rambu stop atau rambu beri jalan.
Sim dan rekan-rekannya mengganti sumber misinformasi manusia dengan AI. Sebanyak 331 orang dewasa Amerika menonton klip itu dan 24 jam kemudian membaca ringkasan 21 kalimat buatan ChatGPT. Untuk separuh peserta, rambu dalam teks cocok dengan video; untuk separuh lainnya, rambunya ditukar. Penukaran itu dilakukan sendiri oleh para peneliti, dengan meminjam redaksi dari jawaban ChatGPT lain agar kesalahannya tampak asli. Studi ini mengukur apa yang dilakukan kesalahan semacam itu, bukan seberapa sering model membuatnya. Setelah itu datang 12 pertanyaan tentang adegan tersebut.
Setelah ringkasan yang akurat, 83,6% menyebut rambu dengan benar. Penonton yang tidak membaca ringkasan apa pun menjawab benar sekitar 80%, menurut replikasi yang sama, jadi teks akurat nyaris tidak menggeser ingatan. Setelah ringkasan yang menyesatkan, hanya 44,8%. Hal lainnya tetap utuh. Pada sebelas pertanyaan lain, rata-rata orang menjawab benar 91,4%. Ringkasan itu merusak persis detail yang salah ditulisnya.
Label “AI” tidak membantu
Teksnya selalu sama, tetapi sebagian peserta diberi tahu bahwa teks itu berasal dari layanan transkripsi AI, sementara yang lain diberi tahu bahwa seorang transkriber manusia profesional yang menulisnya. Orang mungkin mengira peserta akan memperlakukan teks buatan mesin dengan lebih hati-hati. Ternyata tidak. Di antara mereka yang menerima ringkasan menyesatkan berlabel AI, 46,3% menyebut rambu dengan benar; yang berlabel manusia, 43,4%, selisih yang masih dalam batas kebetulan. Kepercayaan pada AI tidak menolong. Sering memakainya pun tidak. Hanya satu perbedaan yang muncul, dan hampir lucu: teks yang persis sama terasa lebih jelas bagi peserta ketika mereka mengira seorang manusia yang menulisnya.
Orang yang membaca penceritaan ulang oleh mesin mulai mengingat versi si mesin.
Ini merepotkan bagi regulator dan pengembang. Hampir semua pedoman AI yang aman bersandar pada “manusia dalam lingkaran”: mesin membuat draf, manusia memeriksa dan memperbaiki. Studi ini tidak memodelkan pemeriksaan: peserta tidak diminta membandingkan ringkasan dengan klip, mereka hanya membacanya lalu menjawab dari ingatan. Kesimpulan para penulis berhati-hati: alih-alih mengoreksi kesalahan AI, ingatan manusia mungkin justru melengkung menyesuaikan diri dengannya, dan menguji hal itu pada pemeriksa sungguhan masih menjadi pekerjaan ke depan.
Petugas yang berubah jadi katak
Pada awal 2026 muncul sebuah kasus di Heber City, Utah. Draf laporan polisi menyatakan bahwa seorang petugas berubah menjadi katak : film The Princess and the Frog sedang menyala di latar belakang, dan perangkat lunaknya menganggap film itu bagian dari kejadian. Sersan Rick Keel mengatakan saat itulah kepolisiannya belajar mengoreksi laporan semacam ini. Alat itu tetap dipakai. Keel mengatakan alat itu menghemat enam sampai delapan jam per minggu baginya.
Perangkat lunak itu bernama Draft One, buatan Axon, perusahaan pembuat Taser, dan ia menulis draf dari audio kamera tubuh. Halaman bantuan Axon menyebut draf standar sepanjang 300 sampai 500 kata, itulah asal angka 300 kata dalam prompt para peneliti. Halaman yang sama menyatakan bahwa petugas harus memeriksa dan merevisi teks itu dengan saksama.
Siapa pun akan menangkap soal katak itu. Rambu yang ditukar, pukulan yang terlewat, atau pengamat tambahan tampak masuk akal, dan studi Sim menimbulkan kekhawatiran bahwa petugas yang membaca teks seperti itu kelak bisa mengingatnya sebagai ingatannya sendiri. Itu masih hasil laboratorium. Pada Oktober 2025 California mengesahkan SB 524, yang mewajibkan polisi memberi label pada laporan yang ditulis dengan AI dan menyimpan draf pertamanya. Kelompok hak digital EFF menunjukkan bahwa Draft One, secara desain, tidak menyimpan log suntingan yang menunjukkan bagian mana yang ditulis mesin dan mana yang ditulis petugas.
“Saya khawatir departemen kepolisian mungkin memakai teknologi peringkasan video tanpa pengujian yang ketat,” kata Eiger.
Apa yang belum ditunjukkan studi ini
Para penulis sendiri mencantumkan batasannya. Klipnya hanya dua, keduanya sederhana dan dirender dari gim, dengan satu prompt dan dua puluh ringkasan. Teks untuk bagian kedua dipilih dari beberapa percobaan dan disunting ringan secara manual. Hanya satu jenis kesalahan yang diuji, yaitu rambu, dan dalam ketenangan survei daring, bukan setelah panggilan darurat sungguhan. Rekaman kamera tubuh yang asli tidak dipakai karena bisa memuat adegan grafis. Rekaman itu, bersama laporan polisi sungguhan, akan menjadi langkah berikutnya.
Sebuah ringkasan ada agar tak seorang pun perlu menonton ulang seluruh rekaman, dan justru karena itulah hampir tak ada yang mencocokkannya dengan aslinya. Jika enam bulan lagi petugas itu bersaksi di pengadilan, apa yang akan ia ingat: persimpangannya, atau draf yang pernah ia baca ulang?
