// Contingut
«Cap altre personatge ni vehicle va interactuar directament amb l’escena». Així va resumir un model d’IA un clip de 25 segons on un cotxe vermell gira a la dreta i atropella un vianant. El vianant cau i després s’aixeca. Res d’això no va arribar al resum.
No va ser un cas aïllat. Investigadors de la Universitat de Georgetown i de la Universitat de Washington van demanar a ChatGPT i a Gemini que descriguessin vint vegades dos vídeos d’un accident gairebé idèntics. En 19 dels 20 resums faltava l’accident mateix. El preprint es va penjar el 23 de setembre del 2026 i a l’octubre el treball es va presentar a l’AIES , una conferència sobre ètica de la IA. La preocupació és ben pràctica: la policia nord-americana ja fa servir IA per redactar informes a partir de les gravacions de les càmeres corporals, i qui revisa aquest esborrany és la mateixa persona que més endavant pot haver de declarar com a testimoni.
L’accident que «no va passar»
A la primavera del 2026 els autors, Mattea Sim, Yael Eiger i Tadayoshi Kohno, van mostrar cadascun dels dos clips cinc vegades a ChatGPT-5.5 i a Gemini 2.5 Flash-Lite, un model lleuger. Els van demanar un resum neutral d’almenys 300 paraules, sense especulacions ni fets nous, i ho van deixar ben clar a la instrucció: «assegura’t que hi surti tot el que és important».
No va servir de res. De mitjana, un resum es deixava el 51,6 % dels fets clau del clip. Nou textos de cada deu ni tan sols esmentaven que el vianant va quedar estirat a l’asfalt i després es va aixecar. Mentrestant, els models afegien coses que mai no havien sortit a la pantalla: cotxes de més, vianants de més, suposicions sobre les intencions dels personatges. Hi havia inexactituds crítiques en dos resums de cada tres, aproximadament. «Em va sorprendre com de dolents eren els resums, fins i tot en aquest punt del desenvolupament de la IA», diu Eiger al comunicat de premsa de Georgetown .
Una senyal canviada un dia després
El cotxe vermell i la senyal tenen gairebé cinquanta anys. L’any 1978 Elizabeth Loftus i els seus col·legues van ensenyar a la gent diapositives d’un cotxe davant d’un stop i després els van fer llegir una descripció de l’escena on es parlava d’una altra senyal. Molts, més tard, recordaven la senyal que no havien vist mai. Així va néixer el cas de manual de l’efecte de la desinformació: el que aprens després d’un fet reescriu el record que en tens. Els dos clips, fets amb GTA V, es van crear per a una rèplica recent d’aquell estudi, i Loftus torna a ser-ne coautora. Només difereixen en un detall: al creuament hi ha una senyal de stop o una de cediu el pas.
Sim i els seus col·legues van canviar la font humana de la desinformació per una IA. 331 adults nord-americans van mirar el clip i, 24 hores després, van llegir un resum de 21 frases escrit per ChatGPT. Per a la meitat, la senyal del text coincidia amb la del vídeo; per a l’altra meitat, l’havien canviada. Aquest canvi el van fer els mateixos investigadors, que en van agafar la redacció d’una altra resposta de ChatGPT perquè l’error semblés autèntic. L’estudi mesurava què fa un error així, no amb quina freqüència els models el cometen. Després van venir 12 preguntes sobre l’escena.
Després d’un resum exacte, el 83,6 % va anomenar correctament la senyal. Segons aquesta mateixa rèplica, els espectadors que no llegeixen cap resum l’encerten al voltant del 80 % de les vegades, de manera que un text exacte gairebé no mou la memòria. Després del resum enganyós, només ho va fer el 44,8 %. Tota la resta es va mantenir. En les altres onze preguntes, la mitjana d’encerts va ser del 91,4 %. El resum va fer malbé justament el detall en què s’equivocava.
L’etiqueta «IA» no va ajudar
El text era sempre el mateix, però a uns els van dir que venia d’un servei de transcripció amb IA i a uns altres que l’havia escrit un transcriptor professional humà. Es podria pensar que la gent tractaria amb més cura un text escrit per una màquina. Doncs no. Entre els qui van rebre el resum enganyós etiquetat com a IA, el 46,3 % va anomenar bé la senyal; etiquetat com a humà, el 43,4 %, una diferència dins de l’atzar. Ni la confiança en la IA no va ajudar, ni tampoc l’ús freqüent. Només va aparèixer una diferència, i era gairebé còmica: el mateix text els semblava més clar als participants quan pensaven que l’havia escrit una persona.
Qui llegeix el relat d’una màquina comença a recordar la versió de la màquina.
Això és incòmode per als reguladors i per als desenvolupadors. Gairebé totes les pautes d’IA segura es recolzen en el «humà dins del cicle»: la màquina fa l’esborrany, la persona el revisa i el corregeix. Aquest estudi no va modelar la revisió: als participants no se’ls va demanar que comparessin el resum amb el clip, simplement el van llegir i van respondre de memòria. La conclusió dels autors és prudent: en lloc de corregir l’error de la IA, potser la memòria humana s’hi acaba adaptant, i comprovar-ho amb revisors reals encara està per fer.
L’agent que es va convertir en granota
A principis del 2026 va sortir a la llum un cas a Heber City, a Utah. Un esborrany d’informe policial deia que un agent s’havia convertit en granota : de fons sonava La princesa i la granota, i el programa va prendre la pel·lícula com a part dels fets. El sergent Rick Keel va dir que va ser llavors quan el departament va aprendre a corregir aquests informes. Van quedar-se l’eina. Keel assegura que li estalvia entre sis i vuit hores a la setmana.
El programa és Draft One, d’Axon, l’empresa de les pistoles Taser, i escriu un esborrany a partir de l’àudio de la càmera corporal. La pàgina d’ajuda d’Axon situa l’esborrany estàndard entre 300 i 500 paraules, d’on surten les 300 paraules de la instrucció dels investigadors. La mateixa pàgina diu que l’agent ha de revisar i corregir el text amb atenció.
La granota la detectaria qualsevol. Una senyal canviada, un cop que es passa per alt o un transeünt de més semblen versemblants, i l’estudi de Sim fa témer que un agent que llegeixi un text així potser l’acabi recordant com un record propi. Tot i això, és un resultat de laboratori. A l’octubre del 2025 Califòrnia va aprovar la SB 524, que obliga la policia a assenyalar els informes escrits amb IA i a conservar el primer esborrany. L’organització de drets digitals EFF va assenyalar que Draft One, per disseny, no guarda cap registre d’edicions que mostri quines parts ha escrit la màquina i quines l’agent.
«Em preocupa que els departaments de policia facin servir tecnologies de resum de vídeo sense proves rigoroses», diu Eiger.
Què no demostra encara l’estudi
Els autors mateixos en enumeren els límits. Només hi havia dos clips, tots dos senzills i generats amb un joc, una sola instrucció i vint resums. El text per a la segona part es va triar entre diversos intents i es va retocar una mica a mà. Només es va provar un tipus d’error, el de la senyal, i en la calma d’una enquesta en línia, no després d’una trucada real. Les imatges reals de càmeres corporals es van deixar fora perquè poden ser cruals. Aquestes imatges, amb informes policials reals, són el pas següent.
Un resum existeix perquè ningú hagi de tornar a mirar tota la gravació, i per això mateix gairebé ningú no el contrasta amb l’original. Si d’aquí a sis mesos l’agent declara davant del tribunal, què recordarà: el creuament o l’esborrany que un dia va revisar?
