O singură linie dintr-un rezumat IA a rescris amintirea oamenilor despre un accident

„Alte personaje sau vehicule nu au interacționat direct cu scena." Așa a rezumat un model de IA un clip de 25 de secunde în care o mașină roșie face la dreapta și lovește un pieton. Pietonul cade, apoi se ridică. Nimic din toate astea n-a ajuns în rezumat.

Nu a fost o întâmplare. Cercetători de la Universitatea Georgetown și de la Universitatea din Washington au cerut de câte douăzeci de ori ChatGPT și Gemini să descrie două videoclipuri aproape identice cu un accident. În 19 din cele 20 de rezumate lipsea chiar accidentul. Preprintul a apărut online pe 23 septembrie 2026, iar în octombrie lucrarea a fost prezentată la AIES , o conferință despre etica IA. Îngrijorarea e una practică: poliția americană folosește deja IA pentru a redacta rapoarte pe baza înregistrărilor camerelor corporale, iar cel care verifică ciorna este același om care poate depune mărturie mai târziu.

Accidentul care „n-a avut loc"

În primăvara lui 2026, autorii, Mattea Sim, Yael Eiger și Tadayoshi Kohno, au arătat fiecare dintre cele două clipuri de câte cinci ori lui ChatGPT-5.5 și lui Gemini 2.5 Flash-Lite, un model ușor. Au cerut un rezumat neutru de cel puțin 300 de cuvinte, fără speculații și fără fapte noi, și au scris negru pe alb în prompt: „asigură-te că tot ce e important este inclus".

N-a ajutat. În medie, un rezumat omitea 51,6% dintre evenimentele-cheie ale clipului. Nouă texte din zece nici nu pomeneau că pietonul a stat întins pe asfalt și apoi s-a ridicat. În schimb, modelele adăugau lucruri care nu apăruseră niciodată pe ecran: mașini în plus, trecători în plus, presupuneri despre intențiile personajelor. Inexactități critice au apărut în aproape două rezumate din trei. „M-a surprins cât de slabe erau rezumatele, chiar și în acest stadiu al dezvoltării IA", spune Eiger în comunicatul de presă al Georgetown .

Un semn schimbat după o zi

Mașina roșie și semnul au aproape cincizeci de ani. În 1978, Elizabeth Loftus și colegii ei au arătat oamenilor diapozitive cu o mașină oprită la un semn de oprire, apoi i-au pus să citească o descriere a scenei în care apărea un alt semn. Mulți și-au amintit mai târziu semnul pe care nu-l văzuseră niciodată. Așa a apărut cazul clasic al efectului dezinformării: ce afli după un eveniment îți rescrie amintirea lui. Cele două clipuri, realizate în GTA V, au fost create pentru o replicare recentă a acelui studiu, iar Loftus se numără din nou printre autori. Ele diferă printr-un singur detaliu: intersecția are fie un semn de oprire, fie un semn de cedare a trecerii.

Sim și colegii ei au înlocuit sursa umană de dezinformare cu o IA. 331 de adulți americani au urmărit clipul și, 24 de ore mai târziu, au citit un rezumat de 21 de propoziții scris de ChatGPT. Pentru jumătate dintre ei, semnul din text corespundea celui din video; pentru ceilalți, fusese schimbat. Schimbarea au făcut-o cercetătorii înșiși, preluând formularea dintr-un alt răspuns al lui ChatGPT, ca eroarea să pară autentică. Studiul a măsurat ce face o astfel de eroare, nu cât de des o fac modelele. Apoi au urmat 12 întrebări despre scenă.

După un rezumat exact, 83,6% au numit corect semnul. Cei care nu citesc niciun rezumat îl ghicesc corect în aproximativ 80% din cazuri, potrivit aceleiași replicări, așa că un text exact abia dacă mișcă memoria. După cel înșelător, doar 44,8%. Restul a rămas neatins. La celelalte unsprezece întrebări, oamenii au răspuns corect în medie în proporție de 91,4%. Rezumatul a stricat exact detaliul pe care îl greșise.

Eticheta „IA" n-a ajutat

Textul era mereu același, dar unora li s-a spus că vine de la un serviciu de transcriere cu IA, iar altora că l-a scris un transcriptor profesionist, om. Ai fi putut crede că oamenii tratează mai atent un text scris de mașină. Nu au făcut-o. Dintre cei care au primit rezumatul înșelător etichetat drept IA, 46,3% au numit corect semnul; etichetat drept uman, 43,4%, o diferență în limitele hazardului. Nici încrederea în IA n-a ajutat. Nici utilizarea frecventă. S-a văzut o singură diferență, aproape amuzantă: exact același text li s-a părut participanților mai clar când credeau că l-a scris un om.

Asta e incomod pentru autorități de reglementare și pentru dezvoltatori. Aproape toate ghidurile pentru o IA sigură se sprijină pe „omul din buclă": mașina redactează, omul verifică și corectează. Studiul acesta n-a modelat verificarea: participanții nu au fost rugați să compare rezumatul cu clipul, ci pur și simplu l-au citit și au răspuns din memorie. Concluzia autorilor e prudentă: în loc să corecteze greșeala IA, memoria umană s-ar putea îndoi ca să i se potrivească, iar testarea pe evaluatori reali e încă de făcut.

Polițistul care s-a transformat în broască

La începutul lui 2026 a apărut un caz în Heber City, Utah. O ciornă de raport de poliție afirma că un ofițer s-a transformat într-o broască : în fundal rula „Prințesa și broasca", iar programul a luat filmul drept parte din evenimente. Sgt. Rick Keel a spus că atunci a învățat departamentul să corecteze aceste rapoarte. Instrumentul l-au păstrat. Keel spune că îi economisește șase până la opt ore pe săptămână.

Programul se numește Draft One, e făcut de Axon, compania care produce Taser-ele, și scrie o ciornă pe baza sunetului de la camera corporală. Pagina de ajutor Axon indică pentru ciorna standard 300–500 de cuvinte, de aici cele 300 de cuvinte din promptul cercetătorilor. Aceeași pagină spune că ofițerul trebuie să verifice cu atenție și să corecteze textul.

Broasca o observă oricine. Un semn schimbat, o lovitură ratată sau un trecător în plus par plauzibile, iar studiul lui Sim ridică temerea că un ofițer care citește un astfel de text și-l poate aminti mai târziu drept propria amintire. E totuși un rezultat de laborator. În octombrie 2025, California a adoptat legea SB 524, care obligă poliția să marcheze rapoartele scrise cu IA și să păstreze prima ciornă. Organizația pentru drepturi digitale EFF a subliniat că Draft One, prin construcție, nu păstrează un jurnal al modificărilor care să arate ce părți le-a scris mașina și care ofițerul.

„Mă îngrijorează că departamentele de poliție ar putea folosi tehnologii de rezumare video fără teste riguroase", spune Eiger.

Ce nu arată încă studiul

Autorii își enumeră singuri limitele. Au fost doar două clipuri, ambele simple și randate într-un joc, un singur prompt și douăzeci de rezumate. Textul pentru a doua parte a fost ales dintre mai multe încercări și editat ușor de mână. A fost testat un singur tip de eroare, semnul, și în liniștea unui sondaj online, nu după un apel real. Înregistrările reale de la camerele corporale au fost lăsate deoparte, pentru că pot fi violente. Acestea, împreună cu rapoarte reale de poliție, urmează.

Un rezumat există pentru ca nimeni să nu mai fie nevoit să revadă toată înregistrarea, și tocmai de aceea aproape nimeni nu-l verifică în raport cu originalul. Dacă ofițerul depune mărturie în instanță peste șase luni, ce-și va aminti: intersecția sau ciorna pe care a corectat-o cândva?