// Mundarija
“Boshqa qahramonlar yoki transport vositalari sahnaga bevosita aralashmagan.” Sunʼiy intellekt 25 soniyalik videoni shunday qisqa bayon qildi. Videoda qizil mashina oʻngga burilib, piyodani urib yuboradi. Piyoda yiqiladi, keyin oʻrnidan turadi. Qisqacha bayonga bularning birortasi kirmagan.
Bu tasodif emas edi. Jorjtaun universiteti va Vashington universiteti tadqiqotchilari ChatGPT va Gemini’dan deyarli bir xil ikki avtohalokat videosini yigirma martadan tasvirlashni soʻrashdi. 20 ta qisqa bayonning 19 tasida halokatning oʻzi yoʻq edi. Preprint 2026-yil 23-sentyabrda eʼlon qilindi, oktyabrda esa ish sunʼiy intellekt etikasiga bagʻishlangan AIES konferensiyasida taqdim etildi. Xavotir amaliy: Amerika politsiyasi tana kameralari yozuvlaridan hisobot qoralamasini yozishda allaqachon sunʼiy intellektdan foydalanmoqda, bu qoralamani tekshiradigan odam esa keyinchalik sudda guvohlik berishi mumkin.
“Sodir boʻlmagan” halokat
2026-yil bahorida mualliflar Mattea Sim, Yael Eiger va Tadayoshi Kohno ikkala videoni ChatGPT-5.5 va yengil model Gemini 2.5 Flash-Lite’ga besh martadan koʻrsatishdi. Ulardan kamida 300 soʻzlik betaraf bayon talab qilindi: taxminlarsiz, yangi faktlarsiz. Soʻrovda ataylab yozib qoʻyildi: “muhim narsalarning hammasi kirganiga ishonch hosil qiling”.
Foydasi boʻlmadi. Oʻrtacha har bir bayonda videodagi asosiy voqealarning 51,6 foizi tushib qolgan. Toʻqqiz matndan bittasida ham piyoda asfaltda yotgani va keyin turgani aytilmagan. Shu bilan birga modellar ekranda hech qachon boʻlmagan narsalarni qoʻshib yubordi: ortiqcha mashinalar, ortiqcha yoʻldan oʻtuvchilar, qahramonlarning niyati haqidagi taxminlar. Jiddiy noaniqliklar taxminan har uch bayonning ikkitasida uchradi. “Sunʼiy intellekt rivojining hozirgi bosqichida ham qisqa bayonlar bunchalik yomon chiqqani meni hayratda qoldirdi”, deydi Eiger Jorjtaun matbuot relizida .
Bir kundan keyin almashtirilgan belgi
Qizil mashina va yoʻl belgisi deyarli ellik yillik tarixga ega. 1978-yilda Elizabet Loftus hamkasblari bilan odamlarga belgi yonida turgan mashinaning slaydlarini koʻrsatdi , soʻng ularga sahnaning boshqa belgi tilga olingan tavsifini oʻqitdi. Koʻpchilik keyinchalik hech qachon koʻrmagan belgini esladi. Bu notoʻgʻri axborot effektining darsliklardagi klassik misoliga aylandi: voqeadan keyin bilib olganingiz uning haqidagi xotirangizni qayta yozadi. GTA V’da yaratilgan ikkita video shu tajribaning yaqinda oʻtkazilgan takroriga moslab tayyorlangan, mualliflar orasida yana Loftus bor. Ular bitta tafsilotda farq qiladi: chorrahada yo yoʻlni toʻxtab oʻting (stop) belgisi, yo yoʻl bering belgisi turadi.
Sim va hamkasblari notoʻgʻri axborot manbayini odamdan sunʼiy intellektga almashtirishdi. 331 nafar amerikalik voyaga yetgan kishi videoni koʻrdi va 24 soatdan keyin ChatGPT yozgan 21 gapli qisqa bayonni oʻqidi. Yarmi uchun matndagi belgi videodagiga mos edi, qolgan yarmi uchun almashtirilgan edi. Bu almashtirishni tadqiqotchilarning oʻzlari qilishdi: xato haqiqiydek koʻrinishi uchun ibora ChatGPT’ning boshqa javobidan olindi. Tadqiqot modellar bunday xatoni qanchalik tez-tez qilishini emas, shunday xato nimaga olib kelishini oʻlchadi. Keyin sahna haqida 12 ta savol berildi.
Aniq bayondan keyin 83,6% belgini toʻgʻri aytdi. Xuddi shu takror tadqiqotga koʻra, hech qanday bayon oʻqimagan tomoshabinlar taxminan 80% hollarda toʻgʻri javob beradi, yaʼni aniq matn xotirani deyarli oʻzgartirmaydi. Chalgʻituvchi bayondan keyin esa faqat 44,8% toʻgʻri javob berdi. Qolgan hamma narsa oʻz joyida qoldi. Boshqa oʻn bir savolda odamlar oʻrtacha 91,4% toʻgʻri javob berdi. Bayon aynan xato yozilgan tafsilotni buzdi.
“Sunʼiy intellekt” belgisi yordam bermadi
Matn har doim bir xil edi, lekin baʼzilarga uni sunʼiy intellektli transkripsiya xizmati yozgani, boshqalarga esa uni professional inson transkriptor yozgani aytildi. Mashina yozgan matnga odamlar ehtiyotkorroq munosabatda boʻlsa kerak, deb oʻylash mumkin. Ammo bunday boʻlmadi. Chalgʻituvchi bayon sunʼiy intellektniki deb belgilanganlardan 46,3% belgini toʻgʻri aytdi; odamniki deb belgilanganlardan 43,4%, bu tasodif doirasidagi farq. Sunʼiy intellektga ishonch ham yordam bermadi. Tez-tez foydalanish ham. Faqat bitta farq topildi, u deyarli kulgili edi: aynan bir xil matn, uni odam yozgan deb oʻylashganda, ishtirokchilarga tushunarliroq tuyuldi.
Mashinaning qayta hikoyasini oʻqigan odam mashinaning versiyasini eslay boshlaydi.
Bu tartibga soluvchilar va ishlab chiquvchilar uchun noqulay holat. Xavfsiz sunʼiy intellekt boʻyicha deyarli har bir tavsiya “halqadagi inson” tamoyiliga tayanadi: mashina qoralama yozadi, odam tekshiradi va tuzatadi. Bu tadqiqot tekshiruvni modellashtirmadi: ishtirokchilardan bayonni video bilan solishtirish soʻralmadi, ular shunchaki oʻqib, xotiradan javob berishdi. Mualliflarning xulosasi ehtiyotkor: sunʼiy intellektning xatosini tuzatish oʻrniga, inson xotirasi unga moslashib egilishi mumkin, buni haqiqiy tekshiruvchilarda sinab koʻrish esa oldinda.
Qurbaqaga aylangan politsiyachi
2026-yil boshida Yuta shtatidagi Heber-Sitida bir voqea ochilib qoldi. Politsiya hisobotining qoralamasida zobit qurbaqaga aylangani yozilgan edi: fonda “Malika va Qurbaqa” multfilmi ketayotgan edi, dastur esa filmni voqealarning bir qismi deb oldi. Serjant Rik Kil bu paytda boʻlim bunday hisobotlarni tuzatishni oʻrganganini aytdi. Boʻlim vositani qoldirdi. Kilning aytishicha, u unga haftasiga olti-sakkiz soat tejaydi.
Dastur Draft One boʻlib, uni Taser ishlab chiqaruvchisi Axon yaratgan; u tana kamerasi audiosidan qoralama yozadi. Axon yordam sahifasi standart qoralamani 300 dan 500 soʻzgacha deb belgilaydi, tadqiqotchilar soʻrovidagi 300 soʻz ham shundan. Xuddi shu sahifada zobit matnni diqqat bilan koʻrib chiqishi va tuzatishi kerakligi aytilgan.
Qurbaqani har kim payqaydi. Almashtirilgan belgi, oʻtkazib yuborilgan zarba yoki ortiqcha guvoh esa ishonarli koʻrinadi, Simning tadqiqoti esa shunday matnni oʻqigan zobit keyinchalik uni oʻz xotirasi deb eslashidan xavotirni kuchaytiradi. Hozircha bu laboratoriya natijasi. 2025-yil oktyabrida Kaliforniya SB 524 qonunini qabul qildi: u politsiyadan sunʼiy intellekt yordamida yozilgan hisobotlarni belgilashni va birinchi qoralamani saqlashni talab qiladi. Raqamli huquqlar himoyachisi EFF tashkiloti Draft One’ning loyihasiga koʻra tahrirlar jurnalini yuritmasligini taʼkidladi: qaysi qismini mashina, qaysi qismini zobit yozgani koʻrinmaydi.
“Politsiya boʻlimlari videoni qisqartiruvchi texnologiyalardan puxta sinovsiz foydalanayotgani meni xavotirga solmoqda”, deydi Eiger.
Tadqiqot hali nimani koʻrsatmaydi
Mualliflar cheklovlarni oʻzlari sanab oʻtgan. Faqat ikkita video bor edi, ikkalasi ham oddiy va oʻyin dvigatelida yaratilgan, bitta soʻrov va yigirma bayon. Ikkinchi qism uchun matn bir necha urinishdan tanlangan va qoʻlda biroz tahrirlangan. Faqat bitta xato turi, yaʼni belgi sinaldi, uning oʻzi ham haqiqiy chaqiruvdan keyin emas, onlayn soʻrovnomaning xotirjamligida. Haqiqiy tana kamerasi yozuvlari olinmadi, chunki ular dahshatli boʻlishi mumkin. Ana shu yozuvlar va haqiqiy politsiya hisobotlari keyingi bosqichda.
Qisqacha bayon hamma yozuvni qayta koʻrib chiqmaslik uchun yoziladi, shu sababli uni asl nusxa bilan deyarli hech kim solishtirmaydi. Agar zobit olti oydan keyin sudda guvohlik bersa, u nimani eslaydi: chorrahanimi yoki bir paytlar oʻqib chiqqan qoralamanimi?
