// Spis treści
„Żadne inne postacie ani pojazdy nie wchodziły w bezpośrednią interakcję ze sceną”. Tak model AI streścił 25-sekundowe nagranie, na którym czerwony samochód skręca w prawo i potrąca pieszego. Pieszy upada, po chwili wstaje. W streszczeniu nie było po tym śladu.
To nie był wypadek przy pracy. Badacze z Georgetown University i University of Washington poprosili ChatGPT i Gemini, żeby dwadzieścia razy opisały dwa niemal identyczne nagrania wypadku. W 19 z 20 streszczeń samego wypadku zabrakło. Preprint trafił do sieci 23 września 2026 roku, a w październiku pracę przedstawiono na AIES , konferencji o etyce sztucznej inteligencji. Obawa jest całkiem praktyczna: amerykańska policja już teraz każe AI pisać szkice raportów na podstawie nagrań z kamer nasobnych, a osoba, która taki szkic sprawdza, może potem sama zeznawać.
Wypadek, którego „nie było”
Wiosną 2026 roku autorzy, Mattea Sim, Yael Eiger i Tadayoshi Kohno, pokazali każde z dwóch nagrań pięć razy ChatGPT-5.5 oraz Gemini 2.5 Flash-Lite, lekkiemu modelowi. Poprosili o neutralne streszczenie na co najmniej 300 słów, bez domysłów i bez nowych faktów, a w poleceniu dodali wprost: „upewnij się, że uwzględniono wszystko, co ważne”.
Nic to nie dało. Średnio streszczenie pomijało 51,6% kluczowych zdarzeń z nagrania. Dziewięć tekstów na dziesięć nie wspominało nawet, że pieszy leżał na asfalcie, a potem wstał. Za to modele dodawały rzeczy, których na ekranie nigdy nie było: dodatkowe samochody, dodatkowych przechodniów, domysły co do zamiarów postaci. Poważne nieścisłości pojawiały się w mniej więcej dwóch streszczeniach na trzy. „Uderzyło mnie, jak słabe były te streszczenia, i to na obecnym etapie rozwoju AI”, mówi Eiger w komunikacie prasowym Georgetown .
Znak podmieniony po dobie
Czerwony samochód i znak mają prawie pięćdziesiąt lat. W 1978 roku Elizabeth Loftus ze współpracownikami pokazała ludziom slajdy z samochodem przed znakiem drogowym, a potem dała im do przeczytania opis sceny, w którym wymieniono inny znak. Wielu później zapamiętało znak, którego nigdy nie widziało. Tak powstał podręcznikowy przykład efektu dezinformacji: to, czego dowiadujesz się po zdarzeniu, przepisuje twoją pamięć o nim. Oba nagrania, zrobione w GTA V, powstały na potrzeby niedawnej replikacji tamtego badania, a Loftus znów jest wśród jej autorów. Różnią się jednym szczegółem: na skrzyżowaniu stoi albo znak STOP, albo znak ustąp pierwszeństwa.
Sim i jej koledzy zastąpili ludzkie źródło dezinformacji sztuczną inteligencją. 331 dorosłych Amerykanów obejrzało nagranie, a 24 godziny później przeczytało 21-zdaniowe streszczenie napisane przez ChatGPT. U połowy znak w tekście zgadzał się z nagraniem, u drugiej połowy został podmieniony. Podmiany dokonali sami badacze, biorąc sformułowania z innej odpowiedzi ChatGPT, żeby błąd wyglądał wiarygodnie. Badanie mierzyło więc skutki takiego błędu, a nie to, jak często modele go popełniają. Potem padło 12 pytań o scenę.
Po rzetelnym streszczeniu 83,6% osób poprawnie wskazało znak. Ci, którzy nie czytali żadnego streszczenia, trafiają w około 80% przypadków, według tej samej replikacji, więc prawdziwy tekst prawie nie rusza pamięci. Po tekście wprowadzającym w błąd było to tylko 44,8%. Cała reszta się trzymała. Na pozostałe jedenaście pytań ludzie odpowiadali poprawnie średnio w 91,4%. Streszczenie zepsuło dokładnie ten szczegół, w którym się myliło.
Etykieta „AI” nie pomogła
Tekst był zawsze ten sam, ale jednym mówiono, że pochodzi z usługi transkrypcji opartej na AI, a innym, że napisał go zawodowy transkrybent. Można by się spodziewać, że ludzie podejdą ostrożniej do tekstu maszyny. Nie podeszli. Wśród osób, które dostały mylące streszczenie z etykietą AI, znak poprawnie wskazało 46,3%; z etykietą „człowiek” – 43,4%, a ta różnica mieści się w granicach przypadku. Nie pomogło zaufanie do AI. Nie pomogło też częste korzystanie z niej. Wyszła tylko jedna różnica, niemal zabawna: ten sam tekst wydawał się uczestnikom bardziej zrozumiały, gdy sądzili, że napisał go człowiek.
Kto czyta opowieść maszyny, zaczyna pamiętać wersję maszyny.
To kłopotliwe dla regulatorów i twórców. Prawie wszystkie zasady bezpiecznej AI opierają się na „człowieku w pętli”: maszyna pisze szkic, człowiek sprawdza i poprawia. To badanie nie modelowało sprawdzania: uczestnicy nie porównywali streszczenia z nagraniem, po prostu je czytali i odpowiadali z pamięci. Wniosek autorów jest ostrożny: zamiast poprawiać błąd AI, ludzka pamięć może się do niego dopasować, a sprawdzenie tego na prawdziwych recenzentach dopiero przed nimi.
Policjant, który zamienił się w żabę
Na początku 2026 roku głośno było o sprawie z Heber City w stanie Utah. W szkicu raportu policyjnego stwierdzono, że funkcjonariusz zamienił się w żabę : w tle leciała „Księżniczka i żaba”, a program wziął film za część zdarzeń. Sierżant Rick Keel powiedział, że wtedy w jednostce nauczono się poprawiać takie raporty. Narzędzia nie porzucono. Keel twierdzi, że oszczędza dzięki niemu od sześciu do ośmiu godzin tygodniowo.
Oprogramowanie to Draft One firmy Axon, producenta paralizatorów Taser; pisze ono szkic na podstawie dźwięku z kamer nasobnych. Strona pomocy Axon podaje, że standardowy szkic ma od 300 do 500 słów, stąd 300 słów w poleceniu badaczy. Na tej samej stronie napisano, że funkcjonariusz powinien dokładnie przejrzeć i poprawić tekst.
Żabę wyłapie każdy. Podmieniony znak, przeoczony cios czy dodatkowy przechodzień wyglądają wiarygodnie, a badanie Sim budzi obawę, że funkcjonariusz, który przeczyta taki tekst, może później przypominać go sobie jako własne wspomnienie. To na razie wynik laboratoryjny. W październiku 2025 roku Kalifornia uchwaliła ustawę SB 524, która nakazuje policji oznaczać raporty napisane z pomocą AI i zachowywać pierwszą wersję. Organizacja broniąca praw cyfrowych EFF zwróciła uwagę , że Draft One z założenia nie prowadzi dziennika zmian, z którego byłoby widać, które fragmenty napisała maszyna, a które funkcjonariusz.
„Martwi mnie, że komendy policji mogą korzystać z technologii streszczania nagrań bez rygorystycznych testów”, mówi Eiger.
Czego badanie jeszcze nie pokazuje
Autorzy sami wymieniają ograniczenia. Były tylko dwa nagrania, oba proste i wyrenderowane w grze, jedno polecenie i dwadzieścia streszczeń. Tekst do drugiej części wybrano spośród kilku prób i lekko poprawiono ręcznie. Sprawdzono tylko jeden rodzaj błędu, czyli znak, i to w spokoju internetowej ankiety, a nie po prawdziwym zgłoszeniu. Prawdziwych nagrań z kamer nasobnych nie użyto, bo mogą być drastyczne. Takie nagrania, razem z prawdziwymi raportami policji, to kolejny krok.
Streszczenie istnieje po to, żeby nikt nie musiał oglądać całego nagrania od nowa, i właśnie dlatego prawie nikt nie porównuje go z oryginałem. Jeśli za pół roku funkcjonariusz stanie w sądzie jako świadek, co zapamięta: skrzyżowanie czy szkic, który kiedyś sprawdzał?
