Један ред у сажетку вештачке интелигенције преписао је људима сећање на судар

„Други ликови или возила нису директно ступали у интеракцију са сценом.“ Тако је једна вештачка интелигенција сажела 25-секундни снимак на коме црвени аутомобил скреће удесно и удара пешака. Пешак пада, па устаје. Ништа од тога није доспело у сажетак.

Није то био случајан промашај. Истраживачи са Универзитета Џорџтаун и Универзитета Вашингтон тражили су од ChatGPT-а и Gemini-ја да двадесет пута опишу два готово идентична снимка саобраћајне несреће. У 19 од 20 сажетака сама несрећа је недостајала. Прештампа се појавила на мрежи 23. септембра 2026, а у октобру је рад представљен на конференцији о етици вештачке интелигенције AIES . Брига је сасвим практична: америчка полиција већ користи ВИ за израду извештаја на основу снимака с телесних камера, а особа која проверава тај нацрт може касније и сведочити.

Несрећа која се „није догодила“

У пролеће 2026. аутори, Матеја Сим, Јаел Ајгер и Тадајоши Кохно, показали су сваки од два снимка по пет пута моделу ChatGPT-5.5 и моделу Gemini 2.5 Flash-Lite, лаганој верзији. Тражили су неутралан сажетак од најмање 300 речи, без нагађања и без нових чињеница, а у упиту су изричито навели: „постарај се да буде укључено све важно“.

Није помогло. У просеку је сажетак изостављао 51,6% кључних догађаја са снимка. Девет текстова од десет није ни споменуло да пешак лежи на асфалту, а затим устаје. Истовремено су модели додавали ствари којих на екрану никад није било: додатне аутомобиле, додатне пролазнике, нагађања о намерама ликова. Критичне нетачности појавиле су се у отприлике два сажетка од три. „Зачудило ме је колико су сажеци лоши, чак и на овој тачки развоја ВИ“, каже Ајгер у саопштењу Џорџтауна .

Знак замењен дан касније

Црвени аутомобил и знак стари су готово педесет година. Године 1978. Елизабет Лофтус и сарадници показали су људима дијапозитиве аутомобила код знака „стоп“, а затим им дали да прочитају опис сцене у коме се помиње другачији знак. Многи су се касније сећали знака који никада нису видели. То је постао уџбенички пример ефекта дезинформације: оно што сазнате после догађаја преписује ваше сећање на њега. Два снимка, направљена у игри GTA V, настала су за недавну репликацију те студије, а Лофтус је поново међу њеним ауторима. Разликују се у једном детаљу: на раскрсници је или знак „стоп“ или знак „првенство пролаза“.

Сим и њене колеге заменили су људски извор дезинформација вештачком интелигенцијом. 331 одрасла Американац и Американка гледали су снимак, а 24 сата касније прочитали су сажетак од 21 реченице који је написао ChatGPT. Код половине се знак у тексту поклапао са снимком, код друге половине био је замењен. Ту замену истраживачи су направили сами, позајмивши формулацију из другог одговора ChatGPT-а да грешка делује веродостојно. Студија је мерила шта таква грешка чини, а не колико често је модели праве. Потом је уследило 12 питања о сцени.

После тачног сажетка 83,6% испитаника је исправно именовало знак. Гледаоци који нису прочитали никакав сажетак погоде га у око 80% случајева, према истој тој репликацији, тако да тачан текст једва помера сећање. После обмањујућег сажетка то је урадило само 44,8%. Све остало је остало на месту. На осталих једанаест питања људи су у просеку одговорили тачно у 91,4% случајева. Сажетак је покварио тачно онај детаљ у коме је погрешио.

Ознака „ВИ“ није помогла

Текст је увек био исти, али једнима је речено да долази из ВИ услуге за транскрипцију, а другима да га је написао професионални транскрибент. Могло би се очекивати да ће људи с машинским текстом поступати пажљивије. Нису. Међу онима који су обмањујући сажетак добили с ознаком ВИ, 46,3% је исправно именовало знак; с ознаком да је писао човек, 43,4%, а та разлика је у оквиру случајности. Поверење у ВИ није помогло. Није ни често коришћење. Појавила се само једна разлика, и била је скоро смешна: исти текст учесницима је деловао јасније кад су мислили да га је написао човек.

То је непријатно за регулаторе и програмере. Готово свака смерница за безбедну ВИ ослања се на „човека у петљи“: машина пише нацрт, човек проверава и исправља. Ова студија није моделовала проверу: од учесника се није тражило да упореде сажетак са снимком, они су га једноставно прочитали и одговарали по сећању. Закључак аутора је опрезан: уместо да исправи грешку ВИ, људско сећање би могло да се савије како би јој се прилагодило, а проверу тога на стварним рецензентима тек треба спровести.

Полицајац који је постао жаба

Почетком 2026. изронио је случај из града Хибер у Јути. У нацрту полицијског извештаја писало је да се полицајац претворио у жабу : у позадини се играо цртани филм „Принцеза и жаба“, а софтвер је филм схватио као део догађаја. Наредник Рик Кил каже да је тада одељење научило да исправља ове извештаје. Алат су задржали. Кил тврди да му уштеди шест до осам сати недељно.

Софтвер се зове Draft One, прави га Axon, компанија која производи тејзере, а нацрт пише на основу звука с телесне камере. Страница помоћи компаније Axon наводи да стандардни нацрт има 300 до 500 речи, отуда 300 речи у упиту истраживача. На истој страници стоји да полицајац треба пажљиво да прегледа и преправи текст.

Жабу би приметио свако. Замењен знак, пропуштен ударац или сувишан пролазник делују уверљиво, а Симина студија изазива бојазан да се полицајац који чита такав текст касније може сетити тога као свог сећања. Ипак, то је резултат из лабораторије. У октобру 2025. Калифорнија је донела закон SB 524, који налаже полицији да означава извештаје написане уз помоћ ВИ и да чува први нацрт. Организација за дигитална права EFF скренула је пажњу да Draft One по свом дизајну не чува дневник измена који би показао који делови су написани од стране машине, а који од полицајца.

„Брине ме што полицијске управе можда користе технологије за сажимање видеа без ригорозног тестирања“, каже Ајгер.

Шта студија још не показује

Аутори сами набрајају ограничења. Било је само два снимка, оба једноставна и приказана у игри, један упит и двадесет сажетака. Текст за други део изабран је из неколико покушаја и благо ручно преуређен. Тестирана је само једна врста грешке, знак, и то у миру онлајн анкете, а не после стварног позива. Прави снимци с телесних камера изостављени су јер могу бити језиви. Ти снимци, заједно са стварним полицијским извештајима, следе.

Сажетак постоји да нико не би морао поново да гледа цео снимак, и управо зато га готово нико не пореди с оригиналом. Ако полицајац за шест месеци сведочи на суду, чега ће се сећати: раскрснице или нацрта који је једном прочитао и исправио?