// Obsah
„Žiadne iné postavy ani vozidlá do scény priamo nezasiahli.“ Takto zhrnul jeden model umelej inteligencie 25-sekundový záznam, v ktorom červené auto odbočí doprava a narazí do chodca. Chodec spadne a potom vstane. Nič z toho sa do zhrnutia nedostalo.
Nebola to náhoda. Vedci z Georgetownskej univerzity a Washingtonskej univerzity požiadali ChatGPT a Gemini, aby dvadsaťkrát opísali dve takmer rovnaké videá s nehodou. V 19 z 20 zhrnutí samotná nehoda chýbala. Predtlač vyšla 23. septembra 2026 a v októbri ju predstavili na AIES , konferencii o etike umelej inteligencie. Obava je praktická: americká polícia už pomocou umelej inteligencie píše správy z nahrávok z telových kamier a ten, kto návrh kontroluje, môže neskôr vypovedať na súde.
Nehoda, ktorá „nenastala“
Na jar 2026 autori Mattea Sim, Yael Eiger a Tadayoshi Kohno päťkrát ukázali každé z dvoch videí modelom ChatGPT-5.5 a Gemini 2.5 Flash-Lite, ľahkému modelu. Požiadali o neutrálne zhrnutie s minimálne 300 slovami, bez dohadov a bez nových faktov, a v zadaní to ešte zdôraznili: „dbaj na to, aby tam bolo všetko dôležité.“
Nepomohlo to. V priemere zhrnutie vynechalo 51,6 % kľúčových udalostí záznamu. Deväť textov z desiatich ani nespomenulo, že chodec ležal na asfalte a potom vstal. Modely zároveň pridávali veci, ktoré na obrazovke nikdy neboli: ďalšie autá, ďalších okoloidúcich, dohady o úmysloch postáv. Kritické nepresnosti sa objavili zhruba v dvoch zhrnutiach z troch. „Zarazilo ma, aké zlé tie zhrnutia boli, a to aj v tejto fáze vývoja umelej inteligencie,“ hovorí Eiger v tlačovej správe Georgetownu .
Znak vymenený o deň neskôr
Červené auto a dopravná značka majú takmer päťdesiat rokov. V roku 1978 Elizabeth Loftusová a jej kolegovia ukázali ľuďom snímky auta pri značke STOP a potom im dali prečítať opis scény, v ktorom bola iná značka. Mnohí si neskôr pamätali značku, ktorú nikdy nevideli. Stal sa z toho učebnicový príklad efektu dezinformácie: to, čo sa dozvieme po udalosti, prepíše našu pamäť na ňu. Dve videá, vytvorené v GTA V, vznikli pre nedávne zopakovanie tej štúdie a Loftusová je opäť medzi autormi. Líšia sa jediným detailom: na križovatke je buď značka STOP, alebo značka Daj prednosť v jazde.
Simová a jej kolegovia nahradili ľudský zdroj dezinformácie umelou inteligenciou. 331 dospelých Američanov pozrelo video a o 24 hodín neskôr si prečítalo 21-vetové zhrnutie od ChatGPT. Pre polovicu súhlasila značka v texte s videom, pre druhú polovicu bola vymenená. Výmenu urobili vedci sami, pričom si požičali formuláciu z inej odpovede ChatGPT, aby chyba vyzerala vierohodne. Štúdia merala, čo takáto chyba spôsobí, nie ako často ju modely robia. Nasledovalo 12 otázok o scéne.
Po presnom zhrnutí správne pomenovalo značku 83,6 % ľudí. Diváci, ktorí nečítali žiadne zhrnutie, ju podľa toho istého zopakovania trafia zhruba v 80 % prípadov, takže presný text pamäť takmer neovplyvní. Po zavádzajúcom to bolo len 44,8 %. Všetko ostatné zostalo v pamäti. Na jedenásť ďalších otázok odpovedali ľudia v priemere správne v 91,4 % prípadov. Zhrnutie pokazilo presne ten detail, v ktorom sa mýlilo.
Označenie „AI“ nepomohlo
Text bol vždy rovnaký, no jedným povedali, že pochádza zo služby na prepis pomocou umelej inteligencie, a iným, že ho napísal profesionálny ľudský prepisovateľ. Dalo by sa čakať, že strojový text budú ľudia čítať opatrnejšie. Nečítali. Z tých, ktorí dostali zavádzajúce zhrnutie označené ako AI, správny znak uviedlo 46,3 %; pri označení „človek“ 43,4 %, rozdiel v rámci náhody. Nepomohla ani dôvera v umelú inteligenciu, ani časté používanie. Objavil sa jediný rozdiel a bol takmer vtipný. Ten istý text pôsobil účastníkom zrozumiteľnejšie, keď si mysleli, že ho napísal človek.
Kto číta strojové prerozprávanie, začne si pamätať strojovú verziu.
To je nepríjemné pre regulátorov aj vývojárov. Takmer každá zásada bezpečnej umelej inteligencie sa opiera o „človeka v slučke“: stroj napíše návrh, človek ho skontroluje a opraví. Táto štúdia kontrolu nemodelovala: účastníci nemali porovnávať zhrnutie so záznamom, len si ho prečítali a odpovedali z pamäti. Záver autorov je opatrný: namiesto opravy chyby umelej inteligencie sa môže ľudská pamäť prispôsobiť jej, no overenie na skutočných recenzentoch ešte len príde.
Policajt, ktorý sa zmenil na žabu
Začiatkom roka 2026 sa objavil prípad z mesta Heber City v Utahu. V návrhu policajnej správy stálo, že sa policajt premenil na žabu : v pozadí bežal film Princezná a žaba a softvér ho považoval za súčasť udalostí. Rick Keel, seržant, povedal, že vtedy sa oddelenie naučilo takéto správy opravovať. Nástroj si ponechalo. Keel tvrdí, že mu šetrí šesť až osem hodín týždenne.
Ide o softvér Draft One od firmy Axon, výrobcu paralyzérov Taser, ktorý píše návrh zo zvuku telovej kamery. Pomocná stránka Axonu uvádza štandardný návrh na 300 až 500 slov, odtiaľ tých 300 slov v zadaní vedcov. Tá istá stránka hovorí, že policajt má text starostlivo skontrolovať a upraviť.
Žabu by si všimol hocikto. Vymenený znak, prehliadnutý úder alebo zbytočný okoloidúci vyzerajú vierohodne a štúdia Simovej vyvoláva obavu, že policajt, ktorý taký text prečíta, si ho môže neskôr vybaviť ako vlastnú spomienku. Stále je to laboratórny výsledok. V októbri 2025 Kalifornia schválila zákon SB 524, ktorý od polície vyžaduje označovať správy napísané pomocou umelej inteligencie a uchovávať prvý návrh. Organizácia na ochranu digitálnych práv EFF upozornila , že Draft One zo svojej konštrukcie nevedie záznam úprav, z ktorého by bolo vidieť, ktoré časti napísal stroj a ktoré policajt.
„Znepokojuje ma, že policajné oddelenia môžu používať technológie na zhrňovanie videa bez dôkladného testovania,“ hovorí Eiger.
Čo štúdia zatiaľ nepreukazuje
Obmedzenia si autori uvádzajú sami. Boli len dve videá, obe jednoduché a vytvorené v hre, jedno zadanie a dvadsať zhrnutí. Text pre druhú časť bol vybraný z viacerých pokusov a mierne ručne upravený. Testoval sa len jeden druh chyby, značka, a to v pokoji online prieskumu, nie po skutočnom výjazde. Skutočné zábery z telových kamier vynechali, pretože môžu byť drastické. Tie, spolu so skutočnými policajnými správami, prídu na rad ďalej.
Zhrnutie existuje preto, aby si nikto nemusel pozerať celý záznam znova, a presne preto ho takmer nikto neporovnáva s originálom. Keď bude policajt o šesť mesiacov svedčiť na súde, čo si bude pamätať: križovatku, alebo návrh, ktorý raz prečítal?
