Yapay zekâ özetindeki tek satır, insanların kaza belleğini yeniden yazdı

“Sahneyle doğrudan etkileşime giren başka karakter ya da araç yoktu.” Bir yapay zekâ modeli, kırmızı bir arabanın sağa dönüp bir yayaya çarptığı 25 saniyelik görüntüyü işte böyle özetledi. Yaya yere düşüyor, sonra ayağa kalkıyor. Bunların hiçbiri özete girmedi.

Bu bir tesadüf değildi. Georgetown Üniversitesi ve Washington Üniversitesi’nden araştırmacılar, ChatGPT ve Gemini’den birbirine neredeyse aynı iki kaza videosunu yirmi kez tarif etmesini istedi. 20 özetin 19’unda kazanın kendisi yoktu. Ön baskı 23 Eylül 2026’da yayımlandı, çalışma Ekim’de yapay zekâ etiği konferansı AIES ’te sunuldu. Kaygı da çok somut: Amerikan polisi vücut kamerası kayıtlarından rapor taslağı hazırlamak için şimdiden yapay zekâ kullanıyor, taslağı kontrol eden kişi de ileride mahkemede ifade verebilecek kişinin ta kendisi.

“Olmayan” kaza

2026 baharında yazarlar Mattea Sim, Yael Eiger ve Tadayoshi Kohno, iki klibin her birini ChatGPT-5.5’e ve hafif bir model olan Gemini 2.5 Flash-Lite’a beşer kez gösterdi. Tarafsız, en az 300 kelimelik, yorum katmayan ve yeni bilgi eklemeyen bir özet istediler; istemde ayrıca şunu yazdılar: “önemli olan her şeyin dahil edildiğinden emin ol.”

İşe yaramadı. Bir özet ortalama olarak klibin kilit olaylarının %51,6’sını atladı. Metinlerin onda dokuzu, yayanın asfaltta yattığını ve sonra kalktığını bile anmadı. Buna karşılık modeller ekranda hiç olmayan şeyler ekledi: fazladan arabalar, fazladan yoldan geçenler, karakterlerin niyetleri üzerine tahminler. Kritik yanlışlıklar özetlerin kabaca üçte ikisinde çıktı. Eiger, Georgetown’un basın açıklamasında şöyle diyor: “Yapay zekânın gelişiminin bu aşamasında bile özetlerin ne kadar kötü olduğu beni şaşırttı.”

Bir gün sonra değişen tabela

Kırmızı araba ve tabela neredeyse elli yıllık. 1978’de Elizabeth Loftus ve meslektaşları insanlara dur tabelasında duran bir arabanın slaytlarını gösterdi , ardından sahneyi farklı bir tabelayla anlatan bir metin okuttu. Birçok kişi sonradan hiç görmediği tabelayı hatırladı. Yanlış bilgi etkisinin ders kitaplarına giren örneği bu: bir olaydan sonra öğrendikleriniz, o olaya dair belleğinizi yeniden yazar. GTA V’de hazırlanan iki klip, bu çalışmanın yakın zamanlı bir tekrarı için üretildi ve Loftus yine yazarlar arasında. Klipler tek bir ayrıntıda farklılaşıyor: kavşakta ya dur tabelası var ya da yol ver tabelası.

Sim ve meslektaşları yanlış bilginin insan kaynağını yapay zekâyla değiştirdi. 331 Amerikalı yetişkin klibi izledi ve 24 saat sonra ChatGPT’nin yazdığı 21 cümlelik bir özeti okudu. Yarısında metindeki tabela videoyla uyuşuyordu; diğer yarısında değiştirilmişti. Bu değişikliği araştırmacılar kendileri yaptı; hata gerçekçi dursun diye ifadeyi başka bir ChatGPT yanıtından ödünç aldılar. Çalışma, böyle bir hatanın ne yaptığını ölçtü, modellerin bunu ne sıklıkla yaptığını değil. Ardından sahneyle ilgili 12 soru geldi.

Doğru bir özetten sonra katılımcıların %83,6’sı tabelayı doğru söyledi. Aynı tekrar çalışmasına göre hiç özet okumayan izleyiciler yaklaşık %80 doğru yapıyor; yani doğru bir metin belleği pek oynatmıyor. Yanıltıcı özetten sonra bu oran yalnızca %44,8 oldu. Geri kalan her şey yerinde kaldı. Diğer on bir soruda insanlar ortalama %91,4 doğru yanıt verdi. Özet, tam olarak yanlış yazdığı ayrıntıyı bozdu.

“Yapay zekâ” etiketi işe yaramadı

Metin hep aynıydı, ama bazı katılımcılara bunun bir yapay zekâ yazıya dökme servisinden geldiği, bazılarına ise profesyonel bir insan çevirmenin yazdığı söylendi. İnsanların makine yazısına daha dikkatli yaklaşmasını beklersiniz. Yaklaşmadılar. Yanıltıcı özet “yapay zekâ” etiketiyle verildiğinde tabelayı doğru söyleyenler %46,3, “insan” etiketiyle %43,4 oldu; fark tesadüf sınırları içinde. Yapay zekâya güven de yardımcı olmadı. Sık kullanım da. Yalnızca bir fark çıktı ve neredeyse komikti: Aynı metin, onu bir insanın yazdığını sanan katılımcılara daha anlaşılır geldi.

Bu, düzenleyiciler ve geliştiriciler için can sıkıcı. Güvenli yapay zekâya dair hemen her yönerge “döngüdeki insan” fikrine yaslanıyor: makine taslağı yazar, insan kontrol edip düzeltir. Bu çalışma kontrol etmeyi modellemedi: katılımcılardan özeti klible karşılaştırmaları istenmedi, yalnızca okuyup belleklerinden yanıt verdiler. Yazarların vardığı sonuç temkinli: Yapay zekânın hatasını düzeltmek yerine insan belleği ona uyacak şekilde eğilebilir; bunu gerçek denetçiler üzerinde sınamak ise hâlâ önümüzde.

Kurbağaya dönüşen polis

2026 başında Utah’ın Heber City kasabasında bir olay gün yüzüne çıktı. Bir polis raporu taslağında, bir memurun kurbağaya dönüştüğü yazıyordu: arka planda Prenses ve Kurbağa filmi oynuyordu ve yazılım filmi olayların bir parçası sandı. Çavuş Rick Keel, departmanın bu raporları düzeltmeyi o zaman öğrendiğini söyledi. Araçtan vazgeçmediler. Keel, haftada altı ila sekiz saat kazandığını söylüyor.

Yazılımın adı Draft One; Taser üreticisi Axon yapıyor ve vücut kamerası sesinden taslak yazıyor. Axon’un yardım sayfası standart taslağı 300 ila 500 kelime olarak veriyor; araştırmacıların istemindeki 300 kelime de buradan geliyor. Aynı sayfa, memurun metni dikkatle gözden geçirip düzeltmesi gerektiğini söylüyor.

Kurbağayı herkes yakalar. Değiştirilmiş bir tabela, kaçırılmış bir darbe ya da fazladan bir yoldan geçen ise inandırıcı görünür; Sim’in çalışması da böyle bir metni okuyan memurun onu sonradan kendi anısı olarak hatırlayabileceği kaygısını doğuruyor. Ama bu hâlâ bir laboratuvar sonucu. Ekim 2025’te Kaliforniya, polisin yapay zekâyla yazılan raporları etiketlemesini ve ilk taslağı saklamasını zorunlu kılan SB 524’ü kabul etti. Dijital haklar örgütü EFF, Draft One’ın tasarımı gereği hangi bölümleri makinenin, hangilerini memurun yazdığını gösteren bir düzenleme kaydı tutmadığına dikkat çekti .

Eiger şöyle diyor: “Polis departmanlarının video özetleme teknolojilerini titiz testlerden geçirmeden kullanıyor olabileceği beni endişelendiriyor.”

Çalışmanın henüz göstermedikleri

Yazarlar sınırları kendileri sıralıyor. Yalnızca iki klip vardı, ikisi de basit ve oyun motoruyla üretilmişti; bir istem ve yirmi özet. İkinci bölümdeki metin birkaç denemeden seçildi ve elle hafifçe düzenlendi. Yalnızca tek tür hata sınandı, tabela; üstelik gerçek bir çağrının ardından değil, çevrimiçi anketin sakinliğinde. Gerçek vücut kamerası görüntüleri, sert içerik barındırabildiği için dışarıda bırakıldı. Gerçek polis raporlarıyla birlikte bu görüntüler sırada.

Özet, kimsenin kaydın tamamını yeniden izlememesi için vardır; kimsenin onu aslıyla karşılaştırmamasının nedeni de tam olarak bu. Memur altı ay sonra mahkemede ifade verdiğinde neyi hatırlayacak: kavşağı mı, yoksa bir zamanlar gözden geçirdiği taslağı mı?