// Sumário
“Nenhum outro personagem ou veículo interagiu diretamente com a cena.” Foi assim que um modelo de IA resumiu um vídeo de 25 segundos em que um carro vermelho vira à direita e atropela um pedestre. O pedestre cai e depois se levanta. Nada disso entrou no resumo.
Não foi acaso. Pesquisadores da Universidade de Georgetown e da Universidade de Washington pediram ao ChatGPT e ao Gemini que descrevessem vinte vezes dois vídeos quase idênticos de um atropelamento. Em 19 dos 20 resumos, o próprio atropelamento sumiu. O preprint foi publicado em 23 de setembro de 2026 e, em outubro, o trabalho foi apresentado na AIES , conferência sobre ética em IA. A preocupação é prática: a polícia americana já usa IA para redigir relatórios a partir de gravações de câmeras corporais, e quem revisa esse rascunho é a mesma pessoa que pode depois ter de testemunhar.
O atropelamento que “não aconteceu”
Na primavera de 2026, os autores, Mattea Sim, Yael Eiger e Tadayoshi Kohno, mostraram cada um dos dois vídeos cinco vezes ao ChatGPT-5.5 e ao Gemini 2.5 Flash-Lite, um modelo leve. Pediram um resumo neutro de pelo menos 300 palavras, sem especulação e sem fatos novos, e deixaram explícito no prompt: “garanta que tudo o que for importante esteja incluído”.
Não adiantou. Em média, um resumo deixava de fora 51,6% dos eventos-chave do vídeo. Nove textos em dez nem sequer mencionavam que o pedestre ficou deitado no asfalto e depois se levantou. Em compensação, os modelos acrescentavam o que nunca esteve na tela: carros a mais, transeuntes a mais, palpites sobre as intenções dos personagens. Imprecisões críticas apareceram em cerca de dois resumos de cada três. “Fiquei impressionada com como os resumos eram ruins, mesmo neste estágio do desenvolvimento da IA”, diz Eiger no comunicado de imprensa de Georgetown .
Uma placa trocada um dia depois
O carro vermelho e a placa têm quase cinquenta anos. Em 1978, Elizabeth Loftus e colegas mostraram slides de um carro diante de uma placa de pare e depois pediram que as pessoas lessem uma descrição da cena que citava outra placa. Muitos passaram a lembrar da placa que nunca tinham visto. Virou o caso de manual do efeito da desinformação: o que você aprende depois de um evento reescreve a sua memória dele. Os dois vídeos, feitos no GTA V, foram criados para uma replicação recente desse estudo, da qual Loftus novamente participa. Diferem em um único detalhe: o cruzamento tem uma placa de pare ou uma placa de preferencial.
Sim e seus colegas trocaram a fonte humana da desinformação por uma IA. 331 adultos americanos assistiram ao vídeo e, 24 horas depois, leram um resumo de 21 frases escrito pelo ChatGPT. Para metade deles, a placa no texto correspondia ao vídeo; para a outra metade, tinha sido trocada. A troca foi feita pelos próprios pesquisadores, que tomaram emprestada a redação de outra resposta do ChatGPT para que o erro parecesse genuíno. O estudo mediu o que um erro desses provoca, não com que frequência os modelos o cometem. Depois vieram 12 perguntas sobre a cena.
Depois de um resumo fiel, 83,6% apontaram a placa corretamente. Quem não lê resumo nenhum acerta cerca de 80% das vezes, segundo a mesma replicação, então um texto fiel quase não mexe na memória. Depois do resumo enganoso, só 44,8%. O resto ficou intacto. Nas outras onze perguntas, as pessoas acertaram em média 91,4%. O resumo quebrou exatamente o detalhe em que errou.
O rótulo “IA” não ajudou
O texto era sempre o mesmo, mas a alguns disseram que vinha de um serviço de transcrição por IA e a outros que um transcritor humano profissional o escreveu. Seria de esperar que as pessoas tratassem com mais cuidado um texto escrito por máquina. Não trataram. Entre os que receberam o resumo enganoso rotulado como IA, 46,3% acertaram a placa; rotulado como humano, 43,4%, uma diferença dentro do acaso. Confiar na IA não ajudou. Usá-la com frequência também não. Só apareceu uma diferença, e era quase engraçada: o mesmíssimo texto parecia mais claro aos participantes quando eles achavam que o autor era uma pessoa.
Quem lê o relato de uma máquina passa a lembrar a versão da máquina.
Isso é incômodo para reguladores e desenvolvedores. Quase toda diretriz de IA segura se apoia num “humano no circuito”: a máquina redige, a pessoa confere e corrige. Este estudo não modelou a conferência: os participantes não foram instruídos a comparar o resumo com o vídeo, apenas leram e responderam de memória. A conclusão dos autores é cautelosa: em vez de corrigir o erro da IA, a memória humana pode se curvar para se ajustar a ele, e testar isso com revisores reais ainda está por vir.
O policial que virou sapo
No início de 2026, veio à tona um caso em Heber City, em Utah. Um rascunho de relatório policial afirmava que um policial havia se transformado em sapo : ao fundo passava A Princesa e o Sapo, e o software tomou o filme por parte dos acontecimentos. O sargento Rick Keel disse que foi aí que o departamento aprendeu a corrigir esses relatórios. A ferramenta continuou em uso. Keel diz que ela lhe poupa de seis a oito horas por semana.
O software é o Draft One, da Axon, a fabricante dos Tasers, e escreve um rascunho a partir do áudio das câmeras corporais. A página de ajuda da Axon fixa o rascunho padrão em 300 a 500 palavras, daí as 300 palavras no prompt dos pesquisadores. A mesma página diz que o policial deve revisar e corrigir o texto com atenção.
Qualquer um perceberia o sapo. Uma placa trocada, um golpe não registrado ou um transeunte a mais parecem plausíveis, e o estudo de Sim levanta a preocupação de que um policial que lê um texto assim possa depois recordá-lo como memória própria. Ainda é um resultado de laboratório. Em outubro de 2025, a Califórnia aprovou a SB 524, que obriga a polícia a rotular os relatórios escritos com IA e a guardar o primeiro rascunho. O grupo de direitos digitais EFF apontou que o Draft One, por projeto, não guarda um histórico de edições que mostre quais trechos a máquina escreveu e quais o policial.
“Me preocupa que departamentos de polícia possam estar usando tecnologias de resumo de vídeo sem testes rigorosos”, diz Eiger.
O que o estudo ainda não mostra
Os próprios autores listam os limites. Foram apenas dois vídeos, ambos simples e renderizados em jogo, um prompt e vinte resumos. O texto da segunda parte foi escolhido entre várias tentativas e levemente editado à mão. Testou-se só um tipo de erro, a placa, e na calma de uma pesquisa online, não depois de uma ocorrência real. Imagens reais de câmeras corporais ficaram de fora porque podem ser chocantes. Essas imagens, com relatórios policiais reais, são o próximo passo.
Um resumo existe para que ninguém precise rever a gravação inteira, e é justamente por isso que quase ninguém o confere com o original. Se daqui a seis meses o policial depuser num tribunal, do que ele vai se lembrar: do cruzamento ou do rascunho que um dia revisou?
