// Содержание
«Никакие другие персонажи или машины напрямую со сценой не взаимодействовали». Так нейросеть пересказала 25-секундный ролик, в котором красная машина поворачивает направо и сбивает пешехода. Пешеход падает, потом встаёт. В пересказе этого нет.
Это не единичный сбой. Исследователи из Джорджтаунского и Вашингтонского университетов попросили ChatGPT и Gemini двадцать раз описать два почти одинаковых ролика с наездом. В 19 сводках из 20 самого наезда не оказалось. Препринт вышел 23 сентября 2026 года, в октябре работу представили на конференции AIES по этике ИИ. Повод для тревоги вполне практический. Американская полиция уже поручает ИИ черновики протоколов по записи с нагрудной камеры, а вычитывает такой черновик тот же человек, которому потом давать показания.
Наезд, которого «не было»
Авторы работы Маттеа Сим, Яэль Эйгер и Тадаёси Коно весной 2026 года пять раз показали каждый из двух роликов ChatGPT-5.5 и облегчённой Gemini 2.5 Flash-Lite. Попросили нейтральную сводку не короче 300 слов, без догадок и новых фактов, и отдельно дописали в запрос: «проследи, чтобы всё важное было упомянуто».
Не помогло. В среднем сводка теряла 51,6% ключевых событий ролика. Девять текстов из десяти не упомянули даже, что человек лежал на асфальте, а потом поднялся. Зато модели добавляли то, чего на экране не было: лишние машины, лишних прохожих, намерения персонажей. Грубые искажения нашлись примерно в двух сводках из трёх. «Меня поразило, насколько плохими были сводки, даже при нынешнем уровне ИИ», — говорит Эйгер в пресс-релизе Джорджтауна .
Знак, который подменили через сутки
Сам сюжет с красной машиной и знаком придуман почти полвека назад. В 1978 году Элизабет Лофтус с коллегами показывала людям слайды с машиной у знака «Стоп», а потом давала прочитать описание сцены, где знак назван другим. Многие после этого вспоминали тот знак, которого не видели. Так описали эффект дезинформации: сведения, полученные после события, переписывают память о нём. Оба ролика нарисованы в игре GTA V для недавнего повтора того опыта, и среди его авторов снова Лофтус. Различаются они одной деталью: на перекрёстке стоит то «Стоп», то «Уступи дорогу».
Сим и коллеги заменили подсказчика-человека нейросетью. 331 взрослый американец посмотрел ролик, а через 24 часа прочитал сводку ChatGPT из 21 предложения. У половины знак в тексте был тот же, что в ролике, у другой половины его поменяли. Меняли знак сами исследователи, а формулировку взяли из другого ответа ChatGPT, чтобы ошибка выглядела настоящей. Опыт проверял, как действует такая ошибка, а не как часто модель её допускает. Потом участники отвечали на 12 вопросов о сцене.
С верной сводкой знак правильно назвали 83,6% участников. Без всякой сводки, как показал тот самый повтор, знак вспоминают около 80% зрителей: верный текст память почти не трогает. С неверной сводкой правильно ответили только 44,8%. Остальное люди помнили хорошо: на одиннадцать других вопросов они верно ответили в среднем в 91,4% случаев. Сводка сломала ровно ту деталь, которую исказила.
Пометка «ИИ» не спасла
Текст во всех случаях был один и тот же, но одним участникам сказали, что это работа ИИ-сервиса расшифровки, другим — что профессионального расшифровщика. Логично ожидать, что к тексту машины человек отнесётся осторожнее. Не отнёсся. Из тех, кому досталась неверная сводка с пометкой «ИИ», знак правильно назвали 46,3%, с пометкой «человек» — 43,4%. Разница в пределах случайности. Не помогли ни доверие к ИИ, ни привычка им пользоваться: опытные пользователи ошибались так же. Единственное различие вышло забавным. Один и тот же текст показался участникам понятнее, когда его приписали человеку.
Человек, прочитавший пересказ машины, начинает помнить её версию.
Результат бьёт по главной надежде регуляторов и разработчиков. Почти все рекомендации по безопасному ИИ держатся на «человеке в контуре»: машина пишет, человек проверяет и исправляет. Саму проверку в опыте не воспроизводили: участники не сверяли сводку с роликом, а просто читали текст и отвечали по памяти. Вывод авторов осторожный: человек может не поправить ошибку ИИ, а подстроить под неё собственную память. Проверить это на настоящих проверяющих ещё предстоит.
Полицейский, который стал лягушкой
В начале 2026 года в новости попал городок Хибер-Сити в Юте. Там ИИ-черновик протокола сообщил, что полицейский превратился в лягушку : на заднем плане шёл мультфильм «Принцесса и лягушка», и программа приняла его за часть событий. Сержант Рик Кил рассказал, что после этого в отделе поняли, как важно исправлять такие протоколы. Но от программы не отказались: по словам Кила, она экономит ему шесть-восемь часов в неделю.
Программа называется Draft One. Её делает Axon, производитель электрошокеров, а черновик она пишет по звуку с нагрудной камеры. По справке Axon , обычный черновик занимает 300–500 слов, отсюда и 300 слов в запросе исследователей. Там же сказано, что офицер должен внимательно прочитать и исправить текст.
Лягушку заметит любой. Подменённый знак, пропущенный удар или лишний прохожий выглядят правдоподобно. После опыта Сим есть основания опасаться, что полицейский, прочитавший такой текст, потом вспомнит их как свои. Пока это лишь лабораторный результат. В октябре 2025 года Калифорния приняла закон SB 524: полиция обязана отмечать протоколы, написанные с помощью ИИ, и хранить первый черновик. Правозащитники из EFF указывали , что Draft One изначально не ведёт журнал правок, по которому видно, что написала машина, а что человек.
«Меня тревожит, что полиция может пользоваться программами для пересказа видео без серьёзной проверки», — говорит Эйгер.
Чего опыт пока не доказывает
Ограничения авторы перечисляют сами. Роликов было всего два, оба игровые и простые, запрос один, сводок двадцать. Сводку для второй части выбрали из нескольких попыток и слегка поправили вручную. Проверяли лишь один вид подмены — знак, да ещё в спокойной обстановке онлайн-опроса, а не после настоящего вызова. Настоящие записи с нагрудных камер намеренно не брали: на них бывают жестокие сцены. Следующим шагом авторы называют как раз такие записи и настоящие протоколы.
Пока ясно одно: сводку читают, чтобы не пересматривать запись целиком, поэтому сверять её с оригиналом почти никто не станет. Через полгода полицейский даст показания в суде. Что он вспомнит — перекрёсток или черновик, который когда-то вычитал?
