Une ligne dans un résumé d’IA a réécrit le souvenir d’un accident

« Aucun autre personnage ni véhicule n’a interagi directement avec la scène. » Voilà comment un modèle d’IA a résumé un clip de 25 secondes où une voiture rouge tourne à droite et renverse un piéton. Le piéton tombe, puis se relève. Rien de tout cela n’a atterri dans le résumé.

Ce n’était pas un accident de parcours. Des chercheurs de l’université Georgetown et de l’université de Washington ont demandé à ChatGPT et à Gemini de décrire vingt fois deux vidéos d’accident presque identiques. Dans 19 résumés sur 20, l’accident lui-même manquait. Le preprint est paru en ligne le 23 septembre 2026, et en octobre le travail a été présenté à l’AIES , une conférence sur l’éthique de l’IA. L’inquiétude est très concrète : la police américaine utilise déjà l’IA pour rédiger des rapports à partir des enregistrements de caméras-piétons, et celui qui relit ce brouillon est le même qui pourra plus tard témoigner.

L’accident qui « n’a pas eu lieu »

Au printemps 2026, les auteurs, Mattea Sim, Yael Eiger et Tadayoshi Kohno, ont montré chacun des deux clips cinq fois à ChatGPT-5.5 et à Gemini 2.5 Flash-Lite, un modèle léger. Ils demandaient un résumé neutre d’au moins 300 mots, sans spéculation ni fait nouveau, et l’avaient écrit noir sur blanc dans la consigne : « veillez à inclure tout ce qui est important ».

Cela n’a rien changé. En moyenne, un résumé omettait 51,6 % des événements clés du clip. Neuf textes sur dix ne mentionnaient même pas que le piéton gisait sur l’asphalte avant de se relever. En revanche, les modèles ajoutaient des choses qui n’étaient jamais à l’écran : des voitures en trop, des passants en trop, des hypothèses sur les intentions des personnages. Des inexactitudes graves sont apparues dans environ deux résumés sur trois. « J’ai été frappée de voir à quel point les résumés étaient mauvais, même au stade actuel de l’IA », dit Eiger dans le communiqué de Georgetown .

Un panneau échangé un jour plus tard

La voiture rouge et le panneau ont presque cinquante ans. En 1978, Elizabeth Loftus et ses collègues montraient des diapositives d’une voiture devant un panneau stop, puis faisaient lire une description de la scène qui évoquait un autre panneau. Beaucoup se souvenaient ensuite du panneau qu’ils n’avaient jamais vu. C’est devenu le cas d’école de l’effet de désinformation : ce que l’on apprend après un événement réécrit le souvenir qu’on en a. Les deux clips, réalisés dans GTA V, ont été conçus pour une réplication récente de cette étude, dont Loftus est de nouveau l’une des autrices. Ils ne diffèrent que par un détail : le carrefour a soit un panneau stop, soit un panneau « cédez le passage ».

Sim et ses collègues ont remplacé la source humaine de désinformation par une IA. 331 adultes américains ont regardé le clip puis, 24 heures plus tard, lu un résumé de 21 phrases écrit par ChatGPT. Pour la moitié d’entre eux, le panneau du texte correspondait à la vidéo ; pour l’autre moitié, il avait été échangé. Les chercheurs ont fait cet échange eux-mêmes, en reprenant la formulation d’une autre réponse de ChatGPT pour que l’erreur paraisse authentique. L’étude mesurait l’effet d’une telle erreur, pas la fréquence à laquelle les modèles la commettent. Venaient ensuite 12 questions sur la scène.

Après un résumé exact, 83,6 % ont nommé correctement le panneau. Ceux qui n’ont lu aucun résumé le trouvent juste environ 80 % du temps, d’après cette même réplication : un texte exact ne change donc presque rien à la mémoire. Après le résumé trompeur, ils n’étaient que 44,8 %. Tout le reste tenait. Sur les onze autres questions, les gens ont répondu juste dans 91,4 % des cas en moyenne. Le résumé a abîmé exactement le détail qu’il avait faux.

L’étiquette « IA » n’a rien changé

Le texte était toujours le même, mais on disait aux uns qu’il venait d’un service de transcription par IA, aux autres qu’il avait été écrit par un transcripteur professionnel humain. On pourrait croire que les gens traitent un texte de machine avec plus de prudence. Il n’en a rien été. Parmi ceux qui avaient reçu le résumé trompeur étiqueté IA, 46,3 % ont nommé le bon panneau ; étiqueté humain, 43,4 %, un écart dans la marge du hasard. La confiance envers l’IA n’y a rien fait. L’usage fréquent non plus. Une seule différence est apparue, presque comique : le même texte paraissait plus clair aux participants quand ils pensaient qu’une personne l’avait écrit.

C’est gênant pour les régulateurs et les développeurs. Presque toutes les consignes pour une IA sûre reposent sur un « humain dans la boucle » : la machine rédige, la personne vérifie et corrige. Cette étude n’a pas modélisé la vérification : on n’a pas demandé aux participants de comparer le résumé au clip, ils l’ont simplement lu, puis ont répondu de mémoire. La conclusion des auteurs est prudente : au lieu de corriger l’erreur de l’IA, la mémoire humaine pourrait se plier pour s’y accorder, et le tester sur de vrais relecteurs reste à faire.

L’agent devenu grenouille

Début 2026, une affaire a fait surface à Heber City, dans l’Utah. Un brouillon de rapport de police affirmait qu’un agent s’était transformé en grenouille : La Princesse et la Grenouille passait en fond sonore, et le logiciel avait pris le film pour une partie des faits. Le sergent Rick Keel a raconté que c’est à ce moment-là que son service a appris à corriger ces rapports. Il a gardé l’outil. Keel assure que cela lui fait gagner six à huit heures par semaine.

Le logiciel s’appelle Draft One, il est fabriqué par Axon, l’entreprise du Taser, et il rédige un brouillon à partir de l’audio des caméras-piétons. La page d’aide d’Axon fixe le brouillon standard à 300-500 mots, d’où les 300 mots de la consigne des chercheurs. La même page précise que l’agent doit relire et corriger le texte avec soin.

N’importe qui repérerait la grenouille. Un panneau échangé, un coup manqué ou un badaud en plus paraissent plausibles, et l’étude de Sim fait craindre qu’un agent qui lit un tel texte s’en souvienne ensuite comme de son propre souvenir. Ce n’est encore qu’un résultat de laboratoire. En octobre 2025, la Californie a adopté la loi SB 524, qui oblige la police à signaler les rapports rédigés avec l’IA et à conserver le premier brouillon. L’organisation de défense des droits numériques EFF a souligné que Draft One, par conception, ne garde aucun journal des modifications indiquant quelles parties ont été écrites par la machine et lesquelles par l’agent.

« Je m’inquiète de voir des services de police utiliser des technologies de résumé vidéo sans test rigoureux », dit Eiger.

Ce que l’étude ne montre pas encore

Les auteurs énumèrent eux-mêmes les limites. Il n’y avait que deux clips, simples et issus d’un jeu vidéo, une seule consigne et vingt résumés. Le texte de la seconde partie a été choisi parmi plusieurs essais et légèrement retouché à la main. Un seul type d’erreur a été testé, le panneau, dans le calme d’un sondage en ligne plutôt qu’après un véritable appel. Les images réelles de caméras-piétons ont été écartées parce qu’elles peuvent être violentes. Ce sont elles, avec de vrais rapports de police, qui viendront ensuite.

Un résumé existe pour que personne n’ait à revoir l’enregistrement en entier, et c’est précisément pour cela que presque personne ne le compare à l’original. Si l’agent témoigne au tribunal dans six mois, de quoi se souviendra-t-il : du carrefour, ou du brouillon qu’il a un jour relu ?