// Зміст
«Інших персонажів чи транспортних засобів, які безпосередньо взаємодіяли б зі сценою, не було». Так ШІ-модель підсумувала 25-секундний ролик, де червоне авто повертає праворуч і збиває пішохода. Пішохід падає, а потім підводиться. У підсумок з цього не потрапило нічого.
Це не випадковість. Дослідники з Джорджтаунського університету й Вашингтонського університету двадцять разів просили ChatGPT і Gemini описати два майже однакові відео ДТП. У 19 підсумках із 20 самої аварії не було. Препринт з’явився 23 вересня 2026 року, а в жовтні роботу представили на AIES , конференції з етики ШІ. Занепокоєння цілком практичне: американська поліція вже використовує ШІ, щоб складати чернетки рапортів за записами нагрудних камер, а людина, яка перевіряє таку чернетку, згодом може давати свідчення в суді.
Аварія, якої «не було»
Навесні 2026 року автори, Маттеа Сім, Йаель Айґер і Тадайосі Кохно, по п’ять разів показали кожен із двох роликів ChatGPT-5.5 і Gemini 2.5 Flash-Lite, легкій моделі. Вони просили нейтральний підсумок щонайменше на 300 слів, без припущень і без нових фактів, а в запиті ще й прямо наголосили: «переконайтеся, що все важливе включено».
Не допомогло. У середньому підсумок пропускав 51,6% ключових подій ролика. Дев’ять текстів із десяти навіть не згадували, що пішохід лежав на асфальті, а потім підвівся. Натомість моделі додавали те, чого на екрані ніколи не було: зайві автівки, зайвих перехожих, здогади про наміри персонажів. Критичні неточності траплялися приблизно в двох підсумках із трьох. «Мене вразило, наскільки погані підсумки, і це на нинішньому етапі розвитку ШІ», — каже Айґер у пресрелізі Джорджтауна .
Знак, підмінений через добу
Червоному авто й знаку майже п’ятдесят років. У 1978-му Елізабет Лофтус із колегами показали людям слайди з авто біля знака «Стоп», а потім дали прочитати опис сцени, де згадувався інший знак. Багато хто згодом пригадав знак, якого ніколи не бачив. Так з’явився хрестоматійний приклад ефекту дезінформації: те, що ви дізнаєтеся після події, переписує вашу пам’ять про неї. Два ролики, зроблені в GTA V, створили для нещодавнього повторення того досліду, і Лофтус знову серед його авторів. Відрізняються вони однією деталлю: на перехресті стоїть або знак «Стоп», або знак «Дати дорогу».
Сім із колегами замінили людське джерело хибної інформації штучним інтелектом. 331 дорослий американець подивився ролик, а через 24 години прочитав підсумок із 21 речення, написаний ChatGPT. Для половини знак у тексті збігався з відео, для другої половини його підмінили. Підміну дослідники зробили самі, запозичивши формулювання з іншої відповіді ChatGPT, щоб помилка виглядала правдоподібно. Дослідження вимірювало, що робить така помилка, а не те, як часто моделі її припускаються. Далі йшли 12 запитань про сцену.
Після точного підсумку знак правильно назвали 83,6%. Ті, хто не читав жодного підсумку, за даними того самого повторення, відповідають правильно приблизно в 80% випадків, тож точний текст пам’ять майже не змінює. Після оманливого правильних відповідей було лише 44,8%. Решта трималася міцно. На одинадцять інших запитань люди відповідали правильно в середньому у 91,4% випадків. Підсумок зіпсував рівно ту деталь, у якій помилився.
Позначка «ШІ» не допомогла
Текст завжди був той самий, але одним учасникам сказали, що його створила служба ШІ-транскрипції, а іншим — що писав професійний стенографіст. Можна було б очікувати, що до тексту від машини люди поставляться уважніше. Ні. Серед тих, кому оманливий підсумок подали з позначкою «ШІ», правильно назвали знак 46,3%; з позначкою «людина» — 43,4%, різниця в межах випадковості. Довіра до ШІ не допомогла. Частота користування теж. Виявилася лише одна відмінність, і майже кумедна: той самий текст здавався учасникам зрозумілішим, коли вони вважали, що його написала людина.
Хто читає переказ від машини, починає пам’ятати версію машини.
Для регуляторів і розробників це незручно. Майже кожна настанова щодо безпечного ШІ спирається на «людину в контурі»: машина складає чернетку, людина перевіряє й виправляє. Це дослідження перевірку не моделювало: учасників не просили зіставляти підсумок із відео, вони просто читали його й відповідали з пам’яті. Висновок авторів обережний: замість того щоб виправити помилку ШІ, людська пам’ять, можливо, прогинається під неї, а перевірка цього на справжніх рецензентах ще попереду.
Офіцер, який став жабою
На початку 2026 року стався випадок у місті Гебер-Сіті, штат Юта. У чернетці поліцейського рапорту стояло, що офіцер перетворився на жабу : на тлі грав мультфільм «Принцеса і жаба», і програма сприйняла фільм за частину подій. Сержант Рік Кіл розповів, що саме тоді в управлінні навчилися виправляти такі рапорти. Інструмент залишили. За словами Кіла, він заощаджує шість-вісім годин на тиждень.
Програма називається Draft One, її створила Axon, компанія, що випускає Taser, і вона складає чернетку за звуком із нагрудної камери. Довідкова сторінка Axon визначає стандартну чернетку в 300–500 слів, звідси 300 слів у запиті дослідників. Там же сказано, що офіцер має уважно перевірити й виправити текст.
Жабу помітить будь-хто. Підмінений знак, пропущений удар чи зайвий свідок виглядають правдоподібно, а дослідження Сім викликає побоювання, що офіцер, який прочитав такий текст, згодом може пригадати його як власний спогад. Це все ж лабораторний результат. У жовтні 2025 року Каліфорнія ухвалила закон SB 524, що зобов’язує поліцію позначати рапорти, написані за допомогою ШІ, і зберігати першу чернетку. Організація із захисту цифрових прав EFF зауважила , що Draft One за задумом не веде журналу правок, з якого було б видно, які фрагменти написала машина, а які — офіцер.
«Мене непокоїть, що поліція, можливо, використовує технології відеопідсумовування без ретельного тестування», — каже Айґер.
Чого дослідження поки не показує
Автори самі перелічують обмеження. Було лише два ролики, обидва прості й зняті в грі, один запит і двадцять підсумків. Текст для другої частини вибрали з кількох спроб і трохи підредагували вручну. Перевіряли лише один тип помилки, знак, і в спокої онлайн-опитування, а не після реального виклику. Справжні записи нагрудних камер не брали, бо вони можуть бути жорстокими. Саме ці записи, разом зі справжніми поліцейськими рапортами, чекають попереду.
Підсумок існує для того, щоб нікому не доводилося передивлятися весь запис, і саме тому майже ніхто не звіряє його з оригіналом. Коли за пів року офіцер свідчитиме в суді, що він пам’ятатиме: перехрестя чи чернетку, яку колись вичитав?
