// Tartalom
„Más szereplő vagy jármű nem lépett közvetlen kapcsolatba a helyszínnel.” Így foglalt össze egy mesterségesintelligencia-modell egy 25 másodperces felvételt, amelyen egy piros autó jobbra kanyarodik, és elüt egy gyalogost. A gyalogos elesik, aztán feláll. Az összefoglalóba ebből semmi nem került be.
Ez nem véletlen botlás volt. A Georgetown Egyetem és a Washingtoni Egyetem kutatói húszszor kérték meg a ChatGPT-t és a Geminit, hogy írja le két csaknem azonos balesetvideót. A 20 összefoglalóból 19-ből hiányzott maga a baleset. Az előnyomat 2026. szeptember 23-án került fel az internetre, októberben pedig az AIES nevű, az MI etikájával foglalkozó konferencián mutatták be. A gond gyakorlati: az amerikai rendőrség már most MI-vel íratja a jelentéseit a testkamerák felvételeiből, és azt, aki a tervezetet ellenőrzi, később akár tanúként is meghallgathatják.
A baleset, amely „meg sem történt”
2026 tavaszán a szerzők, Mattea Sim, Yael Eiger és Tadayoshi Kohno a két felvétel mindegyikét ötször mutatta meg a ChatGPT-5.5-nek és a Gemini 2.5 Flash-Litenak, egy könnyű modellnek. Semleges, legalább 300 szavas összefoglalót kértek, találgatás és új tények nélkül, és a promptban ki is mondták: „ügyelj rá, hogy minden fontos benne legyen”.
Nem segített. Egy összefoglaló átlagosan a felvétel kulcseseményeinek 51,6%-át kihagyta. Tízből kilenc szöveg azt sem említette, hogy a gyalogos az aszfalton feküdt, majd felállt. Közben a modellek olyasmit tódítottak hozzá, ami sosem volt a képen: további autókat, további járókelőket, találgatásokat a szereplők szándékáról. Súlyos pontatlanság nagyjából minden harmadik összefoglalóból kettőben akadt. „Megdöbbentett, mennyire gyengék voltak az összefoglalók az MI fejlődésének ebben a szakaszában is” – mondja Eiger a Georgetown közleményében .
Egy nap múlva kicserélt tábla
A piros autó és a tábla ötven évesek lesznek. 1978-ban Elizabeth Loftus és munkatársai diákat mutattak az embereknek egy stoptáblánál álló autóról, majd olyan leírást olvastattak velük a jelenetről, amely egy másik táblát említett. Sokan később arra a táblára emlékeztek, amelyet soha nem láttak. Ebből lett a téves információ hatásának tankönyvi példája: amit az esemény után megtudsz, átírja az emléked róla. A két, GTA V-ben készült felvételt ennek a kísérletnek a közelmúltbeli megismétléséhez gyártották, és a szerzők között ismét ott van Loftus. Egyetlen részletben különböznek: a kereszteződésben vagy stoptábla áll, vagy elsőbbségadás kötelező tábla.
Sim és kollégái a téves információ emberi forrását egy MI-re cserélték. 331 amerikai felnőtt nézte meg a felvételt, majd 24 órával később elolvasott egy 21 mondatos, ChatGPT által írt összefoglalót. A felüknek a szövegbeli tábla egyezett a videóval, a másik felüknek kicserélték. A cserét maguk a kutatók végezték: a megfogalmazást egy másik ChatGPT-válaszból kölcsönözték, hogy a hiba hitelesnek tűnjön. A vizsgálat azt mérte, mit tesz egy ilyen hiba, nem azt, milyen gyakran követik el a modellek. Ezután 12 kérdés következett a jelenetről.
Pontos összefoglaló után 83,6% nevezte meg helyesen a táblát. Akik semmilyen összefoglalót nem olvastak, ugyanennek a megismételt kísérletnek az adatai szerint nagyjából 80%-ban találják el, vagyis a pontos szöveg alig mozdít az emlékezeten. A félrevezető után csak 44,8% felelt jól. Minden más a helyén maradt. A másik tizenegy kérdésre az emberek átlagosan 91,4%-ban válaszoltak helyesen. Az összefoglaló pontosan azt az egy részletet rontotta el, amelyben tévedett.
Az „MI” felirat nem segített
A szöveg mindig ugyanaz volt, de egyeseknek azt mondták, hogy MI-alapú átíró szolgáltatás készítette, másoknak azt, hogy hivatásos emberi átíró. Azt várnánk, hogy a gépi szöveget óvatosabban kezelik. Nem így történt. Akik a félrevezető összefoglalót MI-címkével kapták, 46,3%-ban nevezték meg helyesen a táblát; az emberi címkével kapók 43,4%-ban, ami a véletlen határain belüli különbség. Az MI iránti bizalom sem segített. A gyakori használat sem. Egyetlen különbség akadt, és az szinte mulatságos. Ugyanaz a szöveg érthetőbbnek tűnt a résztvevőknek, ha azt hitték, hogy ember írta.
Aki elolvassa a gép újramesélését, a gép változatára kezd emlékezni.
Ez kényelmetlen a szabályozóknak és a fejlesztőknek. A biztonságos MI szinte minden irányelve az „ember a körforgásban” elvére épít: a gép fogalmaz, az ember ellenőriz és javít. Ez a vizsgálat nem az ellenőrzést modellezte: a résztvevőktől nem kérték, hogy vessék össze az összefoglalót a felvétellel, egyszerűen elolvasták, és emlékezetből válaszoltak. A szerzők következtetése óvatos: ahelyett, hogy kijavítaná az MI hibáját, az emberi emlékezet talán ahhoz igazodik, ennek próbája valódi ellenőrökön még hátravan.
A rendőr, aki békává változott
2026 elején felbukkant egy eset az utahi Heber Cityből. Egy rendőrségi jelentéstervezet azt állította, hogy egy rendőr békává változott : a háttérben A hercegnő és a béka ment, és a szoftver a filmet az események részének vélte. Rick Keel őrmester szerint ekkor tanulta meg az osztály, hogyan kell javítani ezeket a jelentéseket. Az eszközt megtartották. Keel szerint heti hat-nyolc órát spórol vele.
A szoftver a Draft One, gyártója az Axon, a Taser cég, és a testkamera hangjából ír tervezetet. Az Axon súgóoldala szerint a szokásos tervezet 300–500 szó, innen a 300 szó a kutatók promptjában. Ugyanez az oldal azt írja, hogy a rendőrnek gondosan át kell néznie és ki kell javítania a szöveget.
A békát bárki kiszúrja. A kicserélt tábla, a kihagyott ütés vagy egy fölösleges szemtanú hihetőnek hat, és Sim vizsgálata felveti a kockázatot, hogy az a rendőr, aki ilyen szöveget olvas, később a saját emlékeként idézheti fel. Ez azonban egyelőre laboratóriumi eredmény. 2025 októberében Kalifornia elfogadta az SB 524-et, amely előírja, hogy a rendőrség jelölje meg az MI-vel írt jelentéseket, és őrizze meg az első tervezetet. Az EFF digitális jogi csoport rámutatott , hogy a Draft One a kialakításából adódóan nem vezet szerkesztési naplót arról, mely részeket írta a gép, és melyeket a rendőr.
„Aggaszt, hogy a rendőrségek szigorú tesztelés nélkül használhatnak videóösszegző technológiákat” – mondja Eiger.
Amit a vizsgálat még nem mutat meg
A szerzők maguk sorolják fel a korlátokat. Mindössze két felvétel volt, mindkettő egyszerű és játékmotorral készült, egy prompt és húsz összefoglaló. A második részhez használt szöveget több kísérlet közül választották ki, és kézzel enyhén átszerkesztették. Csak egyféle hibát vizsgáltak, a táblát, és egy online felmérés nyugalmában, nem valódi bevetés után. A valódi testkamerás felvételeket kihagyták, mert megrázóak lehetnek. A következő lépés ez a felvétel lesz, valódi rendőrségi jelentésekkel.
Az összefoglaló arra való, hogy ne kelljen újranézni az egész felvételt, és éppen ezért szinte senki nem veti össze az eredetivel. Ha a rendőr fél év múlva a bíróságon tanúskodik, mire fog emlékezni: a kereszteződésre, vagy a tervezetre, amelyet egykor átolvasott?
