// Obsah
„S místem děje nijak přímo nepřišla do styku žádná další postava ani vozidlo.“ Tak shrnul jeden AI model 25sekundový záběr, na kterém červené auto odbočuje doprava a srazí chodce. Chodec upadne a zase se zvedne. Nic z toho se do shrnutí nedostalo.
Nebyla to náhoda. Vědci z Georgetownské univerzity a Washingtonské univerzity požádali ChatGPT a Gemini, aby dvacetkrát popsaly dvě téměř shodná videa nehody. V 19 z 20 shrnutí samotná srážka chyběla. Předtisk vyšel 23. září 2026 a v říjnu práci představili na AIES , konferenci o etice umělé inteligence. Obava je praktická: americká policie už pomocí AI sepisuje zprávy z nahrávek tělových kamer a člověk, který takový koncept kontroluje, je stejný, kdo může později vypovídat před soudem.
Nehoda, která „nenastala“
Na jaře 2026 autoři Mattea Simová, Yael Eigerová a Tadayoshi Kohno pětkrát ukázali každé ze dvou videí modelu ChatGPT-5.5 a modelu Gemini 2.5 Flash-Lite, odlehčené verzi. Chtěli neutrální shrnutí o délce alespoň 300 slov, bez spekulací a bez nových faktů, a v zadání výslovně napsali: „dbej na to, aby bylo zahrnuto všechno důležité“.
Nepomohlo to. Shrnutí v průměru vynechalo 51,6 % klíčových událostí záběru. Devět textů z deseti ani nezmínilo, že chodec ležel na asfaltu a pak se zvedl. Modely zato přidávaly věci, které na obrazovce nikdy nebyly: další auta, další kolemjdoucí, dohady o tom, co postavy zamýšlely. Kritické nepřesnosti se objevily zhruba ve dvou shrnutích ze tří. „Zarazilo mě, jak špatná ta shrnutí byla, a to i na současné úrovni vývoje AI,“ říká Eigerová v tiskové zprávě Georgetownu .
Značka vyměněná o den později
Červené auto a značka mají skoro padesát let. V roce 1978 Elizabeth Loftusová s kolegy promítala lidem snímky auta u značky Stop a pak jim dala přečíst popis scény, ve kterém byla jiná značka. Mnozí si poté vybavovali značku, kterou nikdy neviděli. Stal se z toho učebnicový příklad efektu dezinformace: to, co se dozvíte po události, přepíše vaši paměť na ni. Obě videa, vytvořená ve hře GTA V, vznikla pro nedávné zopakování té studie a Loftusová je mezi jejími autory opět. Liší se jediným detailem: na křižovatce je buď značka Stop, nebo Dej přednost v jízdě.
Simová s kolegy nahradili lidský zdroj dezinformace umělou inteligencí. 331 dospělých Američanů zhlédlo video a o 24 hodin později si přečetlo shrnutí o 21 větách, které napsal ChatGPT. Pro polovinu z nich značka v textu odpovídala videu, pro druhou polovinu byla vyměněná. Výměnu provedli sami výzkumníci, přičemž formulaci převzali z jiné odpovědi ChatGPT, aby chyba vypadala věrohodně. Studie měřila, co taková chyba způsobí, ne jak často ji modely dělají. Poté následovalo 12 otázek o scéně.
Po přesném shrnutí značku správně pojmenovalo 83,6 % lidí. Diváci, kteří žádné shrnutí nečetli, ji podle téže replikace trefí zhruba v 80 % případů, takže přesný text paměť skoro nehne. Po zavádějícím shrnutí to bylo jen 44,8 %. Všechno ostatní zůstalo. Na jedenáct dalších otázek lidé v průměru odpověděli správně z 91,4 %. Shrnutí pokazilo přesně ten detail, ve kterém se mýlilo.
Označení „AI“ nepomohlo
Text byl pokaždé stejný, ale některým řekli, že pochází z AI přepisovací služby, a jiným, že ho napsal profesionální lidský přepisovač. Dalo by se čekat, že lidé budou s textem od stroje zacházet pozorněji. Nezacházeli. Ze čtenářů, kteří dostali zavádějící shrnutí označené jako AI, značku správně uvedlo 46,3 %, u označení „člověk“ 43,4 %, tedy rozdíl v mezích náhody. Nepomohla ani důvěra v AI, ani časté používání. Objevil se jediný rozdíl, a ten byl skoro k smíchu: tentýž text připadal účastníkům jasnější, když si mysleli, že ho napsal člověk.
Kdo čte převyprávění od stroje, začíná si pamatovat strojovou verzi.
To je nepříjemné pro regulátory i vývojáře. Skoro každá zásada bezpečné AI se opírá o „člověka ve smyčce“: stroj navrhne, člověk zkontroluje a opraví. Tato studie kontrolu nemodelovala: účastníci nedostali za úkol porovnat shrnutí se záběrem, prostě si ho přečetli a odpovídali z paměti. Závěr autorů je opatrný: místo aby člověk opravil chybu AI, může se jí jeho paměť přizpůsobit, a ověření na skutečných kontrolorech teprve přijde.
Policista, který se proměnil v žábu
Na začátku roku 2026 vyplul na povrch případ z Heber City v Utahu. V konceptu policejní zprávy stálo, že se policista proměnil v žábu : v pozadí běžela Princezna a žabák a software považoval film za součást událostí. Seržant Rick Keel řekl, že právě tehdy se oddělení naučilo takové zprávy opravovat. Nástroj si ponechalo. Keel říká, že mu šetří šest až osm hodin týdně.
Software se jmenuje Draft One, vyrábí ho Axon, firma proslulá taserem, a koncept píše ze zvuku tělové kamery. Nápověda Axonu uvádí, že standardní koncept má 300 až 500 slov, odtud 300 slov v zadání výzkumníků. Tatáž stránka uvádí, že policista má text pečlivě zkontrolovat a upravit.
Žábu by si všiml každý. Vyměněná značka, přehlédnutý úder nebo kolemjdoucí navíc vypadají věrohodně a Simové studie vyvolává obavu, že policista, který takový text přečte, si ho může později vybavit jako vlastní vzpomínku. Pořád je to laboratorní výsledek. V říjnu 2025 Kalifornie přijala zákon SB 524, který policii ukládá označovat zprávy napsané s pomocí AI a uchovávat první verzi. Organizace na ochranu digitálních práv EFF upozornila , že Draft One z principu nevede protokol úprav, z něhož by bylo vidět, které části napsal stroj a které policista.
„Znepokojuje mě, že policejní oddělení mohou používat technologie pro shrnování videa bez důkladného testování,“ říká Eigerová.
Co studie zatím neukazuje
Omezení uvádějí sami autoři. Byla jen dvě videa, obě jednoduchá a herně vykreslená, jedno zadání a dvacet shrnutí. Text pro druhou část vybrali z několika pokusů a lehce ručně upravili. Testovali jen jediný druh chyby, značku, a to v klidu online průzkumu, ne po skutečném zásahu. Skutečné záběry z tělových kamer vynechali, protože mohou být drastické. Právě ty, spolu se skutečnými policejními zprávami, přijdou na řadu příště.
Shrnutí existuje proto, aby si nikdo nemusel pouštět celou nahrávku znovu, a právě proto ho skoro nikdo nesrovnává s originálem. Až bude policista za půl roku svědčit u soudu, co si bude pamatovat: křižovatku, nebo koncept, který kdysi pročítal?
