Jedan redak u AI sažetku prepisao je ljudima sjećanje na nesreću

„Nikakvi drugi likovi ni vozila nisu izravno sudjelovali u prizoru.” Tako je jedan AI model sažeo snimku od 25 sekundi na kojoj crveni automobil skreće udesno i udara pješaka. Pješak pada, a zatim ustaje. Ništa od toga nije dospjelo u sažetak.

Nije bila riječ o slučajnosti. Istraživači sa Sveučilišta Georgetown i Sveučilišta Washington zamolili su ChatGPT i Gemini da dvadeset puta opišu dvije gotovo identične snimke nesreće. U 19 od 20 sažetaka sama je nesreća nedostajala. Preprint objavljen je 23. rujna 2026., a u listopadu je rad predstavljen na konferenciji o etici umjetne inteligencije AIES . Zabrinutost je sasvim praktična: američka policija već koristi AI za sastavljanje izvješća na temelju snimki s tjelesnih kamera, a osoba koja provjerava taj nacrt ista je ona koja će kasnije možda svjedočiti.

Nesreća koja se „nije dogodila”

U proljeće 2026. autori, Mattea Sim, Yael Eiger i Tadayoshi Kohno, pet su puta pokazali svaku od dviju snimki ChatGPT-u 5.5 i Geminiju 2.5 Flash-Lite, laganom modelu. Tražili su neutralan sažetak od najmanje 300 riječi, bez nagađanja i bez novih činjenica, a u upitu su izričito napisali: „pobrini se da sve važno bude uključeno”.

Nije pomoglo. U prosjeku je sažetak izostavljao 51,6 % ključnih događaja snimke. Devet tekstova od deset nije ni spomenulo da je pješak ležao na asfaltu pa ustao. Istodobno su modeli dodavali stvari kojih na ekranu nikad nije bilo: dodatne automobile, dodatne prolaznike, pretpostavke o namjerama likova. Kritične netočnosti pojavile su se u otprilike dva sažetka od tri. „Zapanjila me koliko su sažetci loši, čak i u ovoj fazi razvoja umjetne inteligencije”, kaže Eiger u priopćenju Georgetowna .

Znak zamijenjen dan poslije

Crveni automobil i znak stari su gotovo pedeset godina. Godine 1978. Elizabeth Loftus i suradnici pokazali su ljudima dijapozitive automobila kraj znaka stop, a potom su ih dali čitati opis prizora u kojem se spominjao drugi znak. Mnogi su se poslije sjećali znaka koji nikad nisu vidjeli. Time je nastao udžbenički primjer učinka dezinformacije: ono što saznate nakon događaja prepisuje vaše sjećanje na njega. Dvije snimke, izrađene u igri GTA V, nastale su za nedavnu replikaciju te studije, a Loftus je opet među autorima. Razlikuju se u jednom detalju: raskrižje ima ili znak stop ili znak za davanje prednosti.

Sim i kolege zamijenili su ljudski izvor dezinformacije umjetnom inteligencijom. 331 odrasla Amerikanka i Amerikanac pogledali su snimku, a 24 sata poslije pročitali su sažetak od 21 rečenice koji je napisao ChatGPT. Za polovicu je znak u tekstu odgovarao snimci, a za drugu polovicu bio je zamijenjen. Zamjenu su napravili sami istraživači, uzevši formulaciju iz drugog odgovora ChatGPT-a kako bi pogreška izgledala vjerodostojno. Studija je mjerila što takva pogreška čini, a ne koliko je često modeli prave. Zatim je slijedilo 12 pitanja o prizoru.

Nakon točnog sažetka znak je točno navelo 83,6 % ispitanika. Gledatelji koji uopće nisu čitali sažetak pogode ga u oko 80 % slučajeva, prema istoj replikaciji, pa točan tekst sjećanje jedva pomiče. Nakon zavaravajućeg sažetka bilo ih je samo 44,8 %. Sve ostalo ostalo je netaknuto. Na jedanaest drugih pitanja ljudi su u prosjeku točno odgovorili u 91,4 % slučajeva. Sažetak je pokvario upravo onaj detalj u kojem je pogriješio.

Oznaka „AI” nije pomogla

Tekst je uvijek bio isti, ali jednima je rečeno da dolazi iz AI servisa za transkripciju, a drugima da ga je napisao profesionalni ljudski transkribent. Moglo bi se očekivati da će ljudi pažljivije čitati tekst koji je napisao stroj. Nisu. Među onima koji su zavaravajući sažetak dobili s oznakom AI, 46,3 % točno je navelo znak; s oznakom čovjeka, 43,4 %, razlika unutar slučajnosti. Povjerenje u AI nije pomoglo. Ni često korištenje. Pokazala se samo jedna razlika, gotovo smiješna: isti je tekst sudionicima djelovao jasnije kad su mislili da ga je napisao čovjek.

To je neugodno za regulatore i programere. Gotovo svaka smjernica za siguran AI oslanja se na „čovjeka u petlji”: stroj sastavi nacrt, čovjek provjeri i ispravi. Ova studija nije modelirala provjeru: sudionici nisu morali uspoređivati sažetak sa snimkom, nego su ga samo pročitali i odgovarali po sjećanju. Zaključak autora je oprezan: umjesto da ispravi pogrešku AI-ja, ljudsko se sjećanje možda prilagođava njoj, a provjera na stvarnim recenzentima tek slijedi.

Policajac koji se pretvorio u žabu

Početkom 2026. pojavio se slučaj iz Heber Cityja u Utahu. U nacrtu policijskog izvješća stajalo je da se policajac pretvorio u žabu : u pozadini je išla Princeza i žaba, a softver je film zamijenio za dio događaja. Narednik Rick Keel kaže da je upravo tada odjel naučio ispravljati ta izvješća. Alat su zadržali. Keel tvrdi da mu štedi šest do osam sati tjedno.

Softver se zove Draft One, proizvodi ga Axon, tvrtka koja stoji iza Tasera, a nacrt piše na temelju zvuka s tjelesnih kamera. Axonova stranica pomoći navodi da standardni nacrt ima 300 do 500 riječi, otuda 300 riječi u upitu istraživača. Ista stranica kaže da policajac mora pažljivo pregledati i prepraviti tekst.

Žabu bi primijetio svatko. Zamijenjeni znak, propušten udarac ili višak slučajnog prolaznika izgledaju uvjerljivo, a Simina studija pobuđuje strah da bi se policajac koji čita takav tekst kasnije mogao sjećati njega kao vlastite uspomene. Ipak, to je za sada laboratorijski rezultat. U listopadu 2025. Kalifornija je donijela SB 524, koji od policije zahtijeva da označava izvješća napisana uz pomoć AI-ja i da čuva prvi nacrt. Organizacija za digitalna prava EFF upozorila je da Draft One po svojoj zamisli ne vodi evidenciju izmjena koja bi pokazala koje je dijelove napisao stroj, a koje policajac.

„Brine me što policijske uprave možda koriste tehnologije za sažimanje videa bez rigoroznog testiranja”, kaže Eiger.

Što studija za sada ne pokazuje

Autori sami navode ograničenja. Bile su samo dvije snimke, obje jednostavne i izrađene u igri, jedan upit i dvadeset sažetaka. Tekst za drugi dio izabran je između više pokušaja i lagano ručno uređen. Testirana je samo jedna vrsta pogreške, znak, i to u miru internetske ankete, a ne nakon stvarnog poziva. Prave snimke s tjelesnih kamera ostavljene su po strani jer mogu biti drastične. Upravo one, uz stvarna policijska izvješća, dolaze sljedeće.

Sažetak postoji zato da nitko ne mora ponovno gledati cijelu snimku, i upravo zato ga gotovo nitko ne uspoređuje s izvornikom. Kad policajac za šest mjeseci bude svjedočio na sudu, čega će se sjećati: raskrižja ili nacrta koji je jednom lektorirao?