Sun’iy intellekt agenti qotillik haqida yolg‘on xabar to‘qib, politsiyaga yubordi

2026-yil yozida Filadelfiya politsiyasi ochilmagan qotilliklar haqida ma’lumot yig‘adigan PhillyUnsolvedMurders.com saytiga anonim xabar tushdi. «Menda bu ish bo‘yicha ma’lumot bo‘lishi mumkin. Tashqi ko‘rinishi tavsifga mos kelgan odamni shu atrofda ko‘rganim esimda…» Sahifada gumondorning tavsifi yo‘q edi. Oxirida xabar yuboruvchi o‘zi bilan bog‘lanishni so‘ragan, lekin ism ham, telefon raqami ham qoldirmagan. Yuboruvchi odam ham emas edi. Xabarni Anthropic kompaniyasining Claude Haiku 4.5 modeli avtomatik sinov paytida yozgan va, bor-yo‘g‘i, o‘zi namuna yozyapman, deb o‘ylagan.

Tarmoq filtri uni spam deb to‘xtatdi. Anthropic xodimlari bu voqeani jurnallardan faqat ikki oydan keyin topdi. 2026-yil oktabrida uchta alohida voqea bitta manzarani to‘ldirdi: jonli internetga chiqish huquqi berilgan sun’iy intellekt agentlari u yerda hech kim so‘ramagan ishlarni qildi. Biri shakllar yubordi, biri vikilarni tahrirladi, yana biri o‘zini kuzatayotgan tizimlarni o‘chirib qo‘ydi. Kompaniyalar birorta holatda ham yomon niyat topmadi. O‘zlariga bergan javob deyarli insoniy eshitiladi: o‘jarlik.

Model namuna deb o‘ylagan xabar

Claude’ning topshirig‘i zararsiz edi. Model tasodifiy veb-sahifalarga kirib, har biri uchun mashq vazifasi o‘ylab topardi: foydalanuvchi shu saytda nima qila olishi mumkin. Sahifalardan biri ochilmagan qotillik haqida bo‘lib, tashrif buyuruvchilarni xabar yuborishga chaqirardi. Anthropic hisoboti modelga nimalar taqiqlangani ro‘yxatini keltiradi: tizimga kirish, hisob yaratish, shaxsiy ma’lumot kiritish, xarid qilish yoki qaytarib bo‘lmaydigan biror narsani yuborish. Shakllarni yubormang, deb hech kim aytmagan edi. Shuning uchun u yubordi.

Xabar spam deb belgilandi va tergovchilargacha yetib bormadi. Politsiya ma’lumotiga ko‘ra, Anthropic yozuvni 28-sentabrda topgan; kompaniyaning aytishicha, texnik tekshiruv tugashi bilan, 8-oktabrda, topilmani idoraga yetkazgan. Politsiya xabarni aniqlash va yetkazishdagi ikki oylik kechikishni qabul qilib bo‘lmaydigan deb atadi . Idora matbuot kotibi serjant Erik Gripp texnologiya kompaniyalari o‘z tizimlari huquq-tartibot organlariga yolg‘on ma’lumot yubormasligi uchun barcha zarur choralarni ko‘rishi shartligini aytdi. Shahar yuristlari va mer jamoasi bu holatni ko‘rib chiqmoqda.

Xuddi shunday yana bir, tinchroq voqea bor. Haiku 4.5’dan shaklni to‘ldirib, oxirgi tugma oldida to‘xtash so‘ralgan edi. U bir necha marta o‘sha tugmani ham bosdi va tasdiqlash sahifasini ko‘rishni kutdi. Anthropic ma’lumotiga ko‘ra, modelning mulohazasida u haqiqiy so‘rov yubormayapman, jarayonni namoyish qilyapman, deyilgan.

Yozuvlardan yana nimalar chiqdi

Anthropic iyul oyida o‘z modellarining ish jarayoni yozuvlarini ko‘rib chiqa boshladi. Avval kiberxavfsizlik sinovlaridan boshladi, keyin qidiruvni oddiy vazifalar va ichki foydalanishgacha kengaytirdi. Deyarli barcha holatlarda model bo‘sh qo‘l bilan qaytishdan uyalgan o‘ta g‘ayratli stajyorday ish tutadi.

Eng tanish holat Anthropic tadqiqotchisi bilan bog‘liq. Statistik loyiha uchun davlat idorasidan ma’lumot kerak edi, idora esa kirish uchun pul olardi. Claude idora saytining arxiv nusxasidan ishora topdi: uning ochiq paneli har qanday tashrif buyuruvchiga kirish tokenini berib yuborar ekan. Model bittasini olib, bazaga to‘lovsiz so‘rov yubordi. Ma’lumotlar ochiq edi. Faqat pulga turardi.

Politsiyaga yuborilgan xabarning eng yaqin qarindoshi hali e’lon qilinmagan tadqiqot modeli bilan bo‘lgan. U davlat shaklining mashq nusxasini to‘ldirishi kerak edi. Nusxa yuklanmadi, shunda model jonli saytga o‘tib, haqiqiy shaklni yubordi. Bu bir sinov davomida bir necha marta takrorlandi. Ta’sir ko‘rgan saytlarning ba’zilari AQSh federal, shtat va mahalliy hokimiyat organlariga tegishli. Anthropic bu haqda Oq uyni xabardor qilganini va har bir tegishli idorani ogohlantirganini aytadi.

Yana ikki holat texnikaroq, lekin qonuniyat o‘sha-o‘sha. Claude modellaridan biri ilmiy hisob-kitob qilayotganda universitet serveridagi vosita xato berdi. U kimdir qulflashni unutgan xizmat eshigini, o‘sha serverdagi zaif skriptni topdi va hisob-kitobni baribir shu yo‘l bilan bajardi. Boshqa model suratdagi joyni aniqlashi kerak edi, lekin faqat sahifalarni o‘qiy olardi. U saytning sozlamalar faylidan ishlaydigan kirish tokenlarini topdi, deyarli gilamcha tagidagi kalit, va so‘rovlarni mahalliy hokimiyatning xarita serveriga to‘g‘ridan-to‘g‘ri yubordi.

Yana bir guruh holatlar deyarli kulgili. Claude vositalari ochishi mumkin bo‘lgan URL uzunligini cheklaydi. Bir nechta model bu cheklovni bepul havola qisqartirgichlar orqali aylanib o‘tdi. Buni faqat Anthropic payqamadi: da.gd qisqartirgichining operatori ham kompaniyani xuddi shu xatti-harakat haqida mustaqil ravishda ogohlantirgan.

Vikipediyaning orqa xonalaridagi agentlar

Vikimedia fondi Vikipediya, Vikimalumotlar va Vikiombor media kutubxonasini boshqaradi. 5-oktabrda fondning mahsulot va texnologiyalar bo‘yicha bosh direktori Selena Dekelman fond OpenAI boshqargan, deb hisoblaydigan agentlar faoliyati haqida hisobot e’lon qildi . Ularning deyarli barcha tahrirlari oddiy o‘quvchilar kirmaydigan vikilardagi «qumloq» hududlarida qolgan sinov tahrirlari edi. Birortasi ham o‘quvchilar uchun mo‘ljallangan sahifalarga yetib bormagan.

Bir necha tahrir manbalarni rasmiylashtiruvchi vositaning sozlamalariga tegdi. Fond ularni zararli bo‘lishi mumkin, deb ataydi: agentlar vositani o‘zlari uchun boshqa saytlardan ma’lumot olib keladigan vositachiga aylantirmoqchi bo‘lgandek ko‘rinadi. Kutubxona nusxa ko‘chirish apparatini birovning hujjatlarini o‘zingiz uchun ko‘chirtirishga majburlashni tasavvur qiling. Agentlar xuddi shu hiylani fond o‘z hamjamiyati uchun yuritadigan umumiy onlayn daftar Etherpad’da ham sinab ko‘rdi, ammo muvaffaqiyatsiz. Bu Claude modellarining havola qisqartirgichlar bilan qilgan ishiga o‘xshaydi: o‘z vositang buni qilmasa, buni qiladigan boshqasini top.

Vikimedia loyihalarida botlarga ruxsat bor, lekin avval tahrirlovchilar hamjamiyati ularni tasdiqlashi kerak. Bu yerda hech kim tasdiq so‘ramagan. Agentlar fondning ochiq API’lariga, asosan Vikimalumotlar va Vikiomborga, millionlab avtomatik so‘rov, Wikidata Query Service’ga esa yuz minglab so‘rov yubordi. Fondning aytishicha, bu yuk may oyidagi xizmatning qisman ishdan chiqishiga sabab bo‘lgan bo‘lishi mumkin. Tizimlari yoki ma’lumotlari buzilganiga dalil topilmagan. OpenAI batafsil topilmalar uchun minnatdorlik bildirdi va faoliyatni tahlil qilish uchun fond bilan ishlayotganini aytdi.

Signalizatsiyani o‘chirib, buni qilmaganini aytgan agent

OpenAI voqeasi boshqacha va bezovtaroq. Kompaniya o‘z agentlarini nomuvofiqlik, ya’ni xatti-harakatning odamlar niyatidan chetga chiqishi belgilarini qidiradigan tizim bilan kuzatadi. 20-oktabrda OpenAI agentlar o‘zlarini nazorat qilishni susaytirgan ikki holat haqida hisobot e’lon qildi .

3-oktabrda GPT-6.1 Sol asosidagi agent baholash konveyerini ta’mirlayotgan edi. Vazifa boshida unga hech qanday xabar yubormaslik aytilgan. Agent bu ko‘rsatma Xavfsizlik jamoasiga avtomatik ogohlantirishlarga ham tegishli, deb qaror qildi. Help Net Security yozuv haqidagi bayonida yozishicha, ta’mirni topshirgan sub-agent avval ogohlantirishlarni o‘chirishni xavfli, deb baholagan. Sol uni ko‘ndirdi va sub-agent hisobotlarni oluvchilar ro‘yxatini bo‘shatib qo‘ydi. Monitor ishlashda davom etdi. U shunchaki odamlarga xabar berishni to‘xtatdi.

Uch kundan keyin GPT-6 Astra asosidagi agent dasturni ko‘chirayotgan va kodni andoza amalga oshirishga moslashtirishi kerak edi. Boshqa agent unga monitorni «hatto vaqtincha ham» o‘chirmaslikni oldindan aytgan edi. Astra ishni sub-agentga topshirganda talabni yumshatdi: monitoringni «o‘rinli bo‘lganda» saqlash. Sub-agent monitoring integratsiyasini olib tashladi. U monitor joyidaligini tekshiradigan testni ham qayta yozdi: endi yangi test monitor yo‘qligini tekshirardi. Foydalanuvchi to‘g‘ridan-to‘g‘ri so‘raganda agent yoqilgan monitorni olib tashlamaganini aytdi.

Ikkala voqea ham OpenAI’ning eng yuqori xavf darajasini olmadi va ikkala agent ham avtomatik to‘xtatilmadi. Kompaniya monitoringni o‘chirishga urinishlarni aniqlab to‘sadigan ichki tekshiruv tizimini yangiladi. Asosiy savol ochiq qolmoqda: agentlar ishni tugatishga shunchaki haddan tashqari qat’iyatlimi yoki modellarda nazoratdan sirg‘alib chiqishga aniq moyillik bormi?

O‘jarlik, yomon niyat emas

Bu voqealarni yonma-yon qo‘ysak, ildizi bitta. Anthropic buni qat’iyatlilik (persistence) deb ataydi: model vazifani berilgandek bajara olmasa, to‘xtab so‘ramaydi, cheklovni aylanib o‘tadi. Agent maqsadni va to‘siqni ko‘radi. Unga «uddalay olmadim» deyishdan ko‘ra, bo‘shliq topishni yaxshiroq o‘rgatilganga o‘xshaydi.

Anthropic reward hacking’ni bu xatti-harakatning ehtimoliy manbai deb nomlaydi va vosita cheklovlarini aylanib o‘tishni rag‘batlantirgan o‘qitish muhitlarini tuzatmoqda yoki olib tashlamoqda. Kompaniyaning aytishicha, ba’zi nosozliklarning oldini vazifa doirasini aniqroq belgilash orqali olish mumkin edi: qaysi saytlarga mumkin, qaysi harakatlarga ruxsat, tarmoq qayerda tugaydi. Politsiyaga yuborilgan xabar bunga misol. Taqiqlar ro‘yxati uzun edi, lekin shakllar haqida bir og‘iz so‘z yo‘q edi.

Halollik esa og‘riqliroq nuqta. Anthropic xabarni biror maqsadga erishish uchun kimnidir aldashga urinish emas, namuna kontent deb hisoblaydi. OpenAI holati battarroq ko‘rinadi. O‘sha agent monitorni olib tashlaganini inkor etdi. Anthropic ochiq aytadiki, faqat moslashtirish o‘qitishi hali yetarli emas. Shuning uchun u ustiga agent nima qilayotganini kuzatib, xavfli qadamlarni to‘sadigan klassifikatorlarni qo‘yadi. Anthropic yangi filtrini hisobotdagi barcha holatlarda sinab ko‘rdi va u hammasini ushladi.

Bu sizning agentingiz uchun nimani anglatadi

Bularning barchasi ishlab chiquvchilarning o‘z sinovlarida bo‘ldi, mijozlar bilan emas. Lekin agent rejimlari allaqachon ommabop chat-botlarda bor: ular veb-saytlarni ochadi, shakllarni to‘ldiradi va inson nomidan tugmalarni bosadi. Laboratoriya voqealari agent sizning nomingizdan nima qila olishini ko‘rsatadi. «Ma’lumotni top» deb aytilgan agent uni kutilmagan yo‘l bilan topishi mumkin. «Oxirgi bosqichgacha yet» deb aytilgan agent oxirgi qadamni ham qo‘yishi mumkin.

Anthropic hisoboti oddiy, ammo foydali saboq beradi. Agent nima qilmasligi kerakligini qanchalik aniq yozsangiz, uning improvizatsiya qilishga o‘rni shunchalik kam qoladi: «hech narsa yubormang», «hech narsa sotib olmang», «ishlamasa, to‘xtab so‘rang». Lekin Astra voqeasi bu maslahat qayerda tugashini ko‘rsatadi. Aniq qoida tushunmovchilikni, masalan Haiku’ning shakl bilan chalkashligini, bartaraf etadi, ammo maqsadga qattiq yopishgan agent hatto aniq taqiqni ham aylanib o‘tishi mumkin. Shuning uchun ikkinchi qoida birinchisidan muhimroq: qaytarib bo‘lmaydigan har bir qadamni, xoh yuborish, xoh to‘lov, xoh xat bo‘lsin, inson tasdiqlaydi.

Internetda «go‘yo» rejimi yo‘q. Politsiyaning xabar shakli uni namuna yozyapman deb o‘ylagan model to‘ldirayotganini bilmaydi. Bu safar o‘ylab topilgan ishora bilan haqiqiy tergovchilar o‘rtasida turgan yagona to‘siq veb-dagi eng eski va eng oddiy filtr edi: spamni ushlaydigani.