// Innhold
«Ingen andre personer eller kjøretøy var i direkte kontakt med scenen.» Slik oppsummerte en KI-modell et 25 sekunder langt klipp der en rød bil svinger til høyre og treffer en fotgjenger. Fotgjengeren faller, og reiser seg igjen. Ingenting av dette kom med i sammendraget.
Det var ingen tilfeldighet. Forskere ved Georgetown University og University of Washington ba ChatGPT og Gemini beskrive to nesten identiske krasjvideoer tjue ganger. I 19 av de 20 sammendragene manglet selve krasjet. Forhåndstrykket kom ut 23. september 2026, og i oktober ble arbeidet presentert på AIES , en konferanse om KI-etikk. Bekymringen er høyst praktisk: amerikansk politi bruker allerede KI til å skrive rapporter ut fra opptak fra kroppskameraer, og personen som kontrollerer utkastet, er den samme som senere kan bli kalt inn som vitne.
Krasjet som «ikke skjedde»
Våren 2026 viste forfatterne, Mattea Sim, Yael Eiger og Tadayoshi Kohno, hvert av de to klippene fem ganger til ChatGPT-5.5 og til Gemini 2.5 Flash-Lite, en lettvektsmodell. De ba om et nøytralt sammendrag på minst 300 ord, uten spekulasjon og uten nye fakta, og skrev det rett ut i ledeteksten: «sørg for at alt viktig er med».
Det hjalp ikke. I gjennomsnitt utelot et sammendrag 51,6 % av klippets nøkkelhendelser. Ni tekster av ti nevnte ikke engang at fotgjengeren lå på asfalten og så reiste seg. Samtidig la modellene til ting som aldri var på skjermen: flere biler, flere forbipasserende, gjetninger om hva personene hadde tenkt å gjøre. Kritiske unøyaktigheter dukket opp i omtrent to av tre sammendrag. «Jeg ble slått av hvor dårlige sammendragene var, selv på dette stadiet av KI-utviklingen», sier Eiger i Georgetowns pressemelding .
Et skilt byttet ut et døgn senere
Den røde bilen og skiltet er nesten femti år gamle. I 1978 viste Elizabeth Loftus og kolleger folk lysbilder av en bil ved et stoppskilt, og lot dem så lese en beskrivelse av scenen som nevnte et annet skilt. Mange husket senere skiltet de aldri hadde sett. Det ble lærebokeksempelet på feilinformasjonseffekten: det du får vite etter en hendelse, skriver om minnet av den. De to klippene, laget i GTA V, ble bygget for en nylig gjentakelse av den studien, og Loftus er igjen blant forfatterne. De skiller seg på én detalj: krysset har enten et stoppskilt eller et vikepliktsskilt.
Sim og kollegene erstattet den menneskelige kilden til feilinformasjon med en KI. 331 amerikanske voksne så klippet og leste 24 timer senere et sammendrag på 21 setninger skrevet av ChatGPT. For halvparten stemte skiltet i teksten med videoen, for den andre halvparten var det byttet ut. Forskerne gjorde byttet selv og lånte ordlyden fra et annet ChatGPT-svar, slik at feilen skulle se ekte ut. Studien målte hva en slik feil gjør, ikke hvor ofte modeller begår den. Så kom 12 spørsmål om scenen.
Etter et korrekt sammendrag nevnte 83,6 % riktig skilt. De som ikke leser noe sammendrag i det hele tatt, svarer riktig omtrent 80 % av gangene ifølge den samme gjentakelsen, så en korrekt tekst flytter knapt på minnet. Etter det villedende sammendraget var det bare 44,8 %. Alt annet satt som det skulle. På de elleve andre spørsmålene hadde folk i snitt 91,4 % riktig. Sammendraget ødela akkurat den detaljen det hadde feil.
«KI»-merkelappen hjalp ikke
Teksten var alltid den samme, men noen fikk vite at den kom fra en KI-transkripsjonstjeneste, og andre at en profesjonell menneskelig transkribent hadde skrevet den. Man skulle tro folk behandlet maskinskrevet tekst med mer aktsomhet. Det gjorde de ikke. Blant dem som fikk det villedende sammendraget merket som KI, nevnte 46,3 % riktig skilt, merket som menneskeskrevet 43,4 %, en forskjell innenfor tilfeldighetens rammer. Tillit til KI hjalp ikke. Hyppig bruk gjorde det heller ikke. Bare én forskjell dukket opp, og den var nesten morsom: nøyaktig samme tekst virket klarere på deltakerne når de trodde et menneske hadde skrevet den.
Den som leser en maskins gjenfortelling, begynner å huske maskinens versjon.
Det er ubehagelig for reguleringsmyndigheter og utviklere. Nesten alle retningslinjer for trygg KI hviler på «et menneske i sløyfen»: maskinen lager utkast, mennesket kontrollerer og retter. Denne studien modellerte ikke kontrollen: deltakerne ble ikke bedt om å sammenligne sammendraget med klippet, de leste det og svarte fra hukommelsen. Forfatternes konklusjon er forsiktig: i stedet for å rette KI-ens feil kan menneskets minne bøye seg etter den, og å teste det på ekte kontrollører gjenstår.
Betjenten som ble en frosk
Tidlig i 2026 dukket det opp en sak i Heber City i Utah. Et utkast til politirapport hevdet at en betjent hadde forvandlet seg til en frosk : «Prinsessen og frosken» gikk på tv i bakgrunnen, og programvaren tok filmen for en del av hendelsene. Sersjant Rick Keel sa at det var da avdelingen lærte å rette slike rapporter. De beholdt verktøyet. Keel sier det sparer ham seks til åtte timer i uken.
Programvaren heter Draft One og lages av Axon, selskapet bak Taser. Den skriver et utkast ut fra lyd fra kroppskameraer. Axons hjelpeside oppgir standardutkastet til 300 til 500 ord, derav de 300 ordene i forskernes ledetekst. Samme side sier at betjenten skal gjennomgå og revidere teksten nøye.
Alle ville fanget frosken. Et byttet skilt, et oversett slag eller en ekstra tilskuer ser troverdig ut, og Sims studie vekker bekymring for at en betjent som leser en slik tekst, senere kan huske den som sitt eget minne. Det er fortsatt et laboratorieresultat. I oktober 2025 vedtok California SB 524, som krever at politiet merker rapporter skrevet med KI og beholder det første utkastet. Digitalrettighetsgruppen EFF pekte på at Draft One med vilje ikke fører noen endringslogg som viser hvilke deler maskinen skrev og hvilke betjenten skrev.
«Det bekymrer meg at politiavdelinger kan bruke videosammendragsteknologi uten grundig testing», sier Eiger.
Hva studien ennå ikke viser
Forfatterne lister opp begrensningene selv. Det var bare to klipp, begge enkle og spillgenererte, én ledetekst og tjue sammendrag. Teksten til den andre delen ble valgt blant flere forsøk og lett redigert for hånd. Bare én type feil ble testet, skiltet, og i roen under en nettundersøkelse snarere enn etter en ekte hendelse. Ekte opptak fra kroppskameraer ble holdt utenfor fordi det kan være grafisk. Dette materialet, sammen med ekte politirapporter, kommer neste gang.
Et sammendrag finnes for at ingen skal måtte se hele opptaket på nytt, og det er nettopp derfor nesten ingen sjekker det mot originalen. Hvis betjenten vitner i retten om seks måneder, hva vil han huske: krysset, eller utkastet han engang korrekturleste?
