Una sola línea de un resumen de IA reescribió el recuerdo de un atropello

«Ningún otro personaje o vehículo interactuó directamente con la escena». Así resumió un modelo de IA un clip de 25 segundos en el que un coche rojo gira a la derecha y atropella a un peatón. El peatón cae y luego se levanta. Nada de eso llegó al resumen.

No fue una casualidad. Investigadores de la Universidad de Georgetown y de la Universidad de Washington pidieron a ChatGPT y a Gemini que describieran veinte veces dos vídeos casi idénticos de un accidente. En 19 de los 20 resúmenes faltaba el propio accidente. El preprint se publicó el 23 de septiembre de 2026 y en octubre el trabajo se presentó en AIES , una conferencia sobre ética de la IA. La preocupación es práctica: la policía estadounidense ya usa IA para redactar informes a partir de las grabaciones de las cámaras corporales, y quien revisa ese borrador es la misma persona que más tarde puede declarar como testigo.

El accidente que «no ocurrió»

En la primavera de 2026 los autores, Mattea Sim, Yael Eiger y Tadayoshi Kohno, mostraron cada uno de los dos clips cinco veces a ChatGPT-5.5 y a Gemini 2.5 Flash-Lite, un modelo ligero. Pidieron un resumen neutral de al menos 300 palabras, sin especulaciones y sin hechos nuevos, y lo dejaron por escrito en el prompt: «asegúrate de incluir todo lo importante».

No sirvió de nada. De media, un resumen dejaba fuera el 51,6 % de los hechos clave del clip. Nueve textos de cada diez ni siquiera mencionaban que el peatón quedó tendido en el asfalto y luego se levantó. Mientras tanto, los modelos añadían cosas que nunca salieron en pantalla: coches de más, transeúntes de más, conjeturas sobre las intenciones de los personajes. Aparecieron inexactitudes críticas en aproximadamente dos de cada tres resúmenes. «Me sorprendió lo malos que eran los resúmenes, incluso en esta etapa de desarrollo de la IA», dice Eiger en el comunicado de prensa de Georgetown .

Una señal cambiada un día después

El coche rojo y la señal tienen casi cincuenta años. En 1978 Elizabeth Loftus y sus colegas mostraron a la gente diapositivas de un coche ante una señal de stop y luego les dieron a leer una descripción de la escena que nombraba otra señal distinta. Muchos recordaron después la señal que nunca habían visto. Aquello se convirtió en el caso de manual del efecto de la desinformación: lo que aprendes después de un suceso reescribe tu recuerdo de él. Los dos clips, creados en GTA V, se hicieron para una réplica reciente de aquel estudio, y Loftus vuelve a figurar entre sus autores. Se diferencian en un solo detalle: en el cruce hay una señal de stop o una de ceda el paso.

Sim y sus colegas sustituyeron la fuente humana de desinformación por una IA. 331 adultos estadounidenses vieron el clip y, 24 horas después, leyeron un resumen de 21 frases escrito por ChatGPT. En la mitad de los casos la señal del texto coincidía con la del vídeo; en la otra mitad, estaba cambiada. El cambio lo hicieron los propios investigadores, tomando la redacción de otra respuesta de ChatGPT para que el error pareciera genuino. El estudio midió qué efecto tiene un error así, no con qué frecuencia lo cometen los modelos. Después vinieron 12 preguntas sobre la escena.

Tras un resumen exacto, el 83,6 % nombró bien la señal. Quienes no leen ningún resumen la aciertan alrededor del 80 % de las veces, según esa misma réplica, así que un texto exacto apenas mueve la memoria. Tras el engañoso, solo lo hizo el 44,8 %. Todo lo demás se mantuvo. En las otras once preguntas, la gente acertó de media el 91,4 %. El resumen rompió justo el detalle en el que se equivocaba.

La etiqueta «IA» no ayudó

El texto era siempre el mismo, pero a unos se les dijo que procedía de un servicio de transcripción con IA y a otros que lo había escrito un transcriptor profesional humano. Cabría esperar que la gente tratara con más cuidado un texto escrito por una máquina. No lo hizo. Entre quienes recibieron el resumen engañoso etiquetado como IA, el 46,3 % nombró bien la señal; etiquetado como humano, el 43,4 %, una diferencia dentro del azar. La confianza en la IA no ayudó. Tampoco el uso frecuente. Solo apareció una diferencia, y era casi graciosa: el mismo texto les parecía más claro a los participantes cuando creían que lo había escrito una persona.

Esto incomoda a reguladores y desarrolladores. Casi todas las pautas de IA segura se apoyan en un «humano en el circuito»: la máquina redacta, la persona revisa y corrige. Este estudio no modeló la revisión: no se pidió a los participantes que compararan el resumen con el clip, simplemente lo leyeron y respondieron de memoria. La conclusión de los autores es prudente: en lugar de corregir el error de la IA, la memoria humana podría doblarse para encajar con él, y comprobarlo con revisores reales queda aún por hacer.

El agente que se convirtió en rana

A principios de 2026 salió a la luz un caso en Heber City, Utah. Un borrador de informe policial afirmaba que un agente se había convertido en rana : de fondo sonaba «La princesa y el sapo», y el programa tomó la película por parte de los hechos. El sargento Rick Keel contó que fue entonces cuando el departamento aprendió a corregir estos informes. Se quedó con la herramienta. Keel dice que le ahorra de seis a ocho horas a la semana.

El programa es Draft One, de Axon, la empresa del Taser, y redacta un borrador a partir del audio de las cámaras corporales. La página de ayuda de Axon fija el borrador estándar en 300 a 500 palabras, de ahí las 300 palabras del prompt de los investigadores. La misma página dice que el agente debe revisar y corregir el texto con atención.

La rana la detectaría cualquiera. Una señal cambiada, un golpe omitido o un transeúnte de más resultan verosímiles, y el estudio de Sim alimenta el temor de que un agente que lea un texto así pueda recordarlo después como recuerdo propio. Sigue siendo un resultado de laboratorio. En octubre de 2025 California aprobó la SB 524, que obliga a la policía a etiquetar los informes escritos con IA y a conservar el primer borrador. El grupo de derechos digitales EFF señaló que Draft One, por diseño, no guarda un registro de ediciones que indique qué partes escribió la máquina y cuáles el agente.

«Me preocupa que los departamentos de policía estén usando tecnologías de resumen de vídeo sin pruebas rigurosas», dice Eiger.

Lo que el estudio aún no demuestra

Los propios autores enumeran los límites. Hubo solo dos clips, ambos sencillos y generados en un juego, un prompt y veinte resúmenes. El texto de la segunda parte se eligió entre varios intentos y se retocó levemente a mano. Se probó un único tipo de error, la señal, y en la calma de una encuesta en línea, no después de una llamada real. Se dejaron fuera grabaciones reales de cámaras corporales porque pueden ser gráficas. Esas grabaciones, con informes policiales reales, son el siguiente paso.

Un resumen existe para que nadie tenga que volver a ver la grabación entera, y precisamente por eso casi nadie lo compara con el original. Si dentro de seis meses el agente declara ante un tribunal, ¿qué recordará: el cruce o el borrador que una vez revisó?