// Inhoud
“No other characters or vehicles interacted directly with the scene.” Zo vatte een AI-model een clip van 25 seconden samen waarin een rode auto rechtsaf slaat en een voetganger aanrijdt. De voetganger valt en staat weer op. Niets daarvan haalde de samenvatting.
Het was geen toevalstreffer. Onderzoekers van Georgetown University en de University of Washington lieten ChatGPT en Gemini twintig keer twee bijna identieke aanrijdingsvideo’s beschrijven. In 19 van de 20 samenvattingen ontbrak de aanrijding zelf. De preprint verscheen op 23 september 2026 online en in oktober werd het werk gepresenteerd op AIES , een conferentie over ethiek van AI. De zorg is heel praktisch: de Amerikaanse politie laat AI al rapporten opstellen op basis van bodycam-opnames, en degene die dat concept controleert, kan later ook als getuige optreden.
De aanrijding die “niet gebeurde”
In het voorjaar van 2026 lieten de auteurs Mattea Sim, Yael Eiger en Tadayoshi Kohno elk van de twee clips vijf keer aan ChatGPT-5.5 en aan Gemini 2.5 Flash-Lite voorleggen, een lichtgewicht model. Ze vroegen om een neutrale samenvatting van minstens 300 woorden, zonder speculatie en zonder nieuwe feiten, en schreven in de prompt zelfs uit: “make sure everything important is included.”
Het hielp niet. Gemiddeld liet een samenvatting 51,6% van de kerngebeurtenissen van de clip weg. Negen van de tien teksten vermeldden niet eens dat de voetganger op het asfalt lag en daarna opstond. Ondertussen voegden de modellen dingen toe die nooit in beeld waren: extra auto’s, extra voorbijgangers, gissingen over wat personages van plan waren. Kritieke onjuistheden kwamen voor in ongeveer twee van de drie samenvattingen. “I was struck by how bad the summaries were, even at this stage in AI development,” zegt Eiger in het persbericht van Georgetown .
Een bord dat een dag later werd verwisseld
De rode auto en het bord zijn bijna vijftig jaar oud. In 1978 toonden Elizabeth Loftus en collega’s mensen dia’s van een auto bij een stopbord en lieten hen daarna een beschrijving van de scène lezen waarin een ander bord werd genoemd. Veel proefpersonen herinnerden zich later het bord dat ze nooit hadden gezien. Dat werd het schoolvoorbeeld van het misinformatie-effect: wat je na een gebeurtenis leert, herschrijft je herinnering eraan. De twee clips, gemaakt in GTA V, zijn gebouwd voor een recente replicatie van die studie, en Loftus is opnieuw een van de auteurs. Ze verschillen in één detail: op het kruispunt staat een stopbord of een voorrangsbord.
Sim en haar collega’s vervingen de menselijke bron van misinformatie door een AI. 331 Amerikaanse volwassenen keken naar de clip en lazen 24 uur later een samenvatting van 21 zinnen, geschreven door ChatGPT. Bij de ene helft kwam het bord in de tekst overeen met de video; bij de andere helft was het verwisseld. De onderzoekers voerden die wissel zelf door en leenden de formulering uit een ander ChatGPT-antwoord, zodat de fout er echt uit zou zien. De studie mat wat zo’n fout teweegbrengt, niet hoe vaak modellen haar maken. Daarna volgden 12 vragen over de scène.
Na een correcte samenvatting noemde 83,6% het bord goed. Kijkers die helemaal geen samenvatting lazen, hebben het volgens dezelfde replicatie ongeveer 80% van de tijd goed, dus een correcte tekst verandert nauwelijks iets aan het geheugen. Na de misleidende samenvatting was dat nog maar 44,8%. Al het andere bleef staan. Op de elf andere vragen scoorden mensen gemiddeld 91,4% goed. De samenvatting brak precies het detail dat ze verkeerd had.
Het etiket “AI” hielp niet
De tekst was steeds dezelfde, maar sommige deelnemers kregen te horen dat hij van een AI-transcriptiedienst kwam en anderen dat een professionele menselijke transcribent hem had geschreven. Je zou verwachten dat mensen door een machine geschreven tekst zorgvuldiger lezen. Dat deden ze niet. Van de mensen die de misleidende samenvatting met het etiket AI kregen, noemde 46,3% het bord goed; met het etiket mens 43,4%, een verschil dat binnen het toeval valt. Vertrouwen in AI hielp niet. Veelvuldig gebruik ook niet. Er kwam maar één verschil naar boven, en dat was bijna grappig. Precies dezelfde tekst kwam duidelijker over op deelnemers die dachten dat een mens hem had geschreven.
Wie het verhaal van een machine leest, gaat de versie van de machine onthouden.
Dat is lastig voor toezichthouders en ontwikkelaars. Bijna elke richtlijn voor veilige AI leunt op een “human in the loop”: de machine maakt een concept, de mens controleert en corrigeert. Deze studie modelleerde dat controleren niet: deelnemers hoefden de samenvatting niet met de clip te vergelijken, ze lazen hem gewoon en beantwoordden de vragen uit hun geheugen. De conclusie van de auteurs is voorzichtig: in plaats van de fout van de AI te corrigeren, kan het menselijk geheugen zich eraan aanpassen, en toetsing bij echte controleurs moet nog komen.
De agent die in een kikker veranderde
Begin 2026 dook een zaak op in Heber City, Utah. In een concept-politierapport stond dat een agent in een kikker was veranderd : op de achtergrond liep The Princess and the Frog, en de software nam de film voor een deel van de gebeurtenissen. Sgt. Rick Keel zei dat het korps toen leerde deze rapporten te corrigeren. Het bleef het hulpmiddel gebruiken. Keel zegt dat het hem zes tot acht uur per week scheelt.
De software heet Draft One, gemaakt door Axon, het bedrijf achter de Taser, en schrijft een concept op basis van bodycam-audio. Volgens de helppagina van Axon beslaat een standaardconcept 300 tot 500 woorden, vandaar de 300 woorden in de prompt van de onderzoekers. Op dezelfde pagina staat dat de agent de tekst zorgvuldig moet nalopen en herzien.
De kikker zou iedereen opmerken. Een verwisseld bord, een gemiste klap of een extra omstander ziet er aannemelijk uit, en Sims studie voedt de zorg dat een agent die zo’n tekst leest, zich die later als zijn eigen herinnering kan voorstellen. Het blijft een laboratoriumresultaat. In oktober 2025 nam Californië SB 524 aan, die de politie verplicht rapporten die met AI zijn geschreven te markeren en het eerste concept te bewaren. De organisatie voor digitale rechten EFF wees erop dat Draft One er door zijn ontwerp geen wijzigingslogboek op nahoudt waarin staat welke delen de machine schreef en welke de agent.
“It worries me that police departments may be using video summarization technologies without rigorous testing,” zegt Eiger.
Wat de studie nog niet aantoont
De auteurs noemen de beperkingen zelf. Er waren maar twee clips, beide eenvoudig en in een game gerenderd, één prompt en twintig samenvattingen. De tekst voor het tweede deel werd gekozen uit meerdere pogingen en licht met de hand bewerkt. Er werd maar één soort fout getest, het bord, en in de rust van een online enquête in plaats van na een echte oproep. Echte bodycam-beelden bleven buiten beschouwing omdat ze schokkend kunnen zijn. Die beelden, met echte politierapporten, komen als volgende.
Een samenvatting bestaat om te voorkomen dat iemand de hele opname opnieuw moet bekijken, en juist daarom vergelijkt bijna niemand haar met het origineel. Als de agent over zes maanden voor de rechtbank getuigt, wat zal hij dan onthouden: het kruispunt, of het concept dat hij ooit nakeek?
