// Мазмұны
«Көліктер мен өзге кейіпкерлердің ешқайсысы көрініспен тікелей әрекеттеспеді». Қызыл көлік оңға бұрылып, жаяу жүргіншіні қағып кететін 25 секундтық бейнені жасанды интеллект моделі дәл осылай қорытындылады. Жүргінші құлайды, содан кейін қайта тұрады. Мұның ешқайсысы қысқаша мазмұнға кірмеген.
Бұл кездейсоқтық емес. Джорджтаун университеті мен Вашингтон университетінің зерттеушілері ChatGPT мен Gemini-ден екі өте ұқсас апат бейнесін жиырма реттен сипаттауды сұрады. 20 мазмұнның 19-ында апаттың өзі жоқ болып шықты. Препринт 2026 жылғы 23 қыркүйекте жарияланды, ал қазанда жұмыс жасанды интеллект этикасына арналған AIES конференциясында таныстырылды. Алаңдаушылық өте нақты: Америка полициясы денеге тағылатын камералардың жазбасынан есеп жобасын жазу үшін жасанды интеллектіні қазірдің өзінде қолданады, ал сол жобаны тексеретін адам кейін сотта куәлік беруі де мүмкін.
Болмаған апат
2026 жылдың көктемінде авторлар Маттеа Сим, Яэль Айгер және Тадаёси Кохно екі бейнені ChatGPT-5.5-ке және жеңіл модель Gemini 2.5 Flash-Lite-қа бестен реттен көрсетті. Олардан кемінде 300 сөзден тұратын бейтарап қысқаша мазмұн жазуды, болжам жасамауды және жаңа дерек қоспауды сұрады, ал өтінішке «маңыздының бәрі енгеніне көз жеткіз» деп арнайы жазды.
Көмектеспеді. Орта есеппен әр мазмұнда бейненің негізгі оқиғаларының 51,6% түсіп қалды. Тоғыз мәтіннің оннан біреуі де жаяу жүргіншінің асфальтта жатып, содан кейін тұрғанын атап өтпеді. Бұл кезде модельдер экранда ешқашан болмаған нәрселерді қосып жіберді: артық көліктер, артық жолаушылар, кейіпкерлердің не ойлағаны туралы болжамдар. Елеулі қателер шамамен әрбір үш мазмұнның екеуінде кездесті. «Жасанды интеллект дамуының қазіргі кезеңінде де мазмұндардың мынадай нашар болғаны мені таңғалдырды», дейді Айгер Джорджтаунның баспасөз хабарламасында .
Бір күннен кейін ауыстырылған белгі
Қызыл көлік пен жол белгісінің тарихы шамамен елу жыл бұрын басталған. 1978 жылы Элизабет Лофтус және әріптестері адамдарға тоқтау белгісінің жанындағы көліктің слайдтарын көрсетті , содан кейін көріністі басқа белгі атап өтілген сипаттамамен оқытты. Көпшілігі кейін өздері ешқашан көрмеген белгіні есіне түсірді. Осы жағдай дезинформация әсерінің оқулықтық мысалына айналды: оқиғадан кейін білгенің оның жадыңды қайта жазады. Екі бейне GTA V ойынында жасалған, олар сол зерттеудің жуырдағы қайталануы үшін түсірілді, оның авторларының арасында Лофтус тағы да бар. Айырмашылығы бір-ақ детальде: қиылыста не тоқтау белгісі, не жол беру белгісі тұр.
Сим мен әріптестері жалған ақпараттың адами көзін жасанды интеллектімен алмастырды. 331 америкалық ересек бейнені көрді, ал 24 сағаттан кейін ChatGPT жазған 21 сөйлемдік қысқаша мазмұнды оқыды. Жартысы үшін мәтіндегі белгі бейнедегімен сәйкес келді, екінші жартысы үшін ауыстырылған. Бұл ауыстыруды зерттеушілер өздері жасады: қате шынайы көрінуі үшін сөздерді ChatGPT-дің басқа жауабынан алды. Зерттеу осындай қате не істейтінін өлшеді, модельдердің оны қаншалықты жиі жіберетінін емес. Одан кейін көрініс туралы 12 сұрақ қойылды.
Дәл мазмұннан кейін 83,6% белгіні дұрыс атады. Сол қайталаудың өзі бойынша, ешқандай мазмұн оқымаған көрермендер оны шамамен 80% жағдайда дұрыс айтады, сондықтан дәл мәтін жадқа әрең әсер етеді. Адастырушы мазмұннан кейін тек 44,8% дұрыс жауап берді. Қалғаны бәрі орнында қалды. Қалған он бір сұрақта адамдар орта есеппен 91,4% дұрыс жауап берді. Мазмұн тек өзі қателескен деталь бойынша ғана жадты бұзды.
«Жасанды интеллект» белгісі көмектеспеді
Мәтін әрқашан бір болды, бірақ біреулерге оны жасанды интеллект транскрипция қызметі жазған деп, басқаларына кәсіби адам транскрипторы жазған деп айтты. Адамдар машина жазған мәтінге сақтықпен қарайды деп күтуге болады. Олай болмады. Адастырушы мазмұн «жасанды интеллект» деп белгіленгендердің 46,3%-ы белгіні дұрыс атады; «адам» деп белгіленгендердің 43,4%-ы, бұл кездейсоқтық шегіндегі айырмашылық. Жасанды интеллектке сенім көмектеспеді. Жиі қолдану да көмектеспеді. Тек бір айырмашылық байқалды, ол күлкілі болып шықты: дәл сол мәтін қатысушыларға оны адам жазған деп ойлағанда түсініктірек көрінді.
Машинаның қайталап айтқанын оқыған адам машинаның нұсқасын есте сақтай бастайды.
Бұл реттеушілер мен әзірлеушілер үшін ыңғайсыз жағдай. Қауіпсіз жасанды интеллектке арналған барлық дерлік нұсқаулық «адам циклде» ұстанымына сүйенеді: машина жоба жазады, адам тексеріп, түзетеді. Бұл зерттеуде тексеру модельденбеді: қатысушылардан мазмұнды бейнемен салыстыру сұралмады, олар жай оқып, есінен жауап берді. Авторлардың қорытындысы сақ: жасанды интеллекттің қатесін түзетудің орнына, адам жады оған бейімделіп бұрылуы мүмкін, ал мұны нақты тексерушілерде тексеру әлі алда.
Бақаға айналған офицер
2026 жылдың басында Юта штатындағы Хебер-Ситиде бір жағдай белгілі болды. Полицияның есеп жобасында офицер бақаға айналды деп жазылған: фонда «Ханшайым және бақа» мультфильмі қойылып тұрған, ал бағдарлама фильмді оқиғаның бір бөлігі деп қабылдаған. Сержант Рик Кил осы кезде бөлім мұндай есептерді түзетуді үйренгенін айтты. Құрал сақталды. Килдің айтуынша, ол оған аптасына алты-сегіз сағатты үнемдейді.
Бағдарлама Draft One деп аталады, оны Taser шығаратын Axon компаниясы жасаған, ол денеге тағылатын камераның дыбысынан жоба жазады. Axon анықтама бетінде стандартты жоба 300–500 сөз екені көрсетілген, сондықтан зерттеушілердің өтінішінде 300 сөз тұр. Сол беттің өзінде офицер мәтінді мұқият тексеріп, түзетуі керек делінген.
Бақаны кез келген адам байқар еді. Ауыстырылған белгі, өткізіп алынған соққы немесе артық жолаушы сенімді көрінеді, ал Симнің зерттеуі мұндай мәтінді оқыған офицер оны кейін өз жадындай еске алуы мүмкін деген алаңдаушылық тудырады. Бұл әзірге зертханалық нәтиже ғана. 2025 жылдың қазанында Калифорния SB 524 заңын қабылдады, ол полицияны жасанды интеллектпен жазылған есептерді белгілеуге және бірінші жобаны сақтауға міндеттейді. EFF цифрлық құқық қорғау тобы Draft One-да машинаның қай бөлікті, ал офицердің қай бөлікті жазғанын көрсететін өңдеу журналы құрылымы бойынша жоқ екенін атап көрсетті .
«Полиция бөлімдері бейне қысқаша мазмұндау технологияларын қатаң тексерусіз қолданып жүрген болуы мүмкін екені мені алаңдатады», дейді Айгер.
Зерттеу әзірге нені көрсетпейді
Авторлар шектеулерді өздері тізіп берген. Екі ғана бейне болды, екеуі де қарапайым әрі ойынмен жасалған, бір өтініш және жиырма мазмұн. Екінші бөлімге арналған мәтін бірнеше талпыныстан таңдалып, қолмен сәл түзетілді. Қатенің тек бір түрі, яғни белгі сыналды, оның өзі нақты шақырудан кейін емес, онлайн сауалнаманың тыныштығында. Нақты денелік камера жазбалары сұмдық болуы мүмкін болғандықтан алынбады. Нақты полиция есептерімен бірге сол жазбалар келесі кезекте.
Қысқаша мазмұн ешкімге бүкіл жазбаны қайта көрудің керегі болмауы үшін бар, дәл сондықтан оны түпнұсқамен салыстырып тексеретін адам дерлік жоқ. Егер офицер алты айдан кейін сотта куәлік берсе, ол нені есте сақтайды: қиылысты ма, әлде бір кезде оқып шыққан жобаны ма?
