ИИ-агенттің мұнарасы құлады, ол қирандыны «Тәкаппарлық» деп атады

Мұнара 11 қабат тұрды. Он екінші қабатта ол екі блоктан тұратын түйіршікке айналып құлады, он блок жерге шашылды. Құрылысшы бұл түйіршікті «құлаған мұнараның жүрегі» деп жариялады. Шашылған блоктардың үшеуін оның айналасына тұрған тастардай орнатып, туындыны «Тәкаппарлық» деп атады да, қалған қираған үйіндіні «дәлел болып қалады» деп шешті. Соңғы штрих ретінде үстіне үлкен тас көтеріп қойды: «амбицияны басып тастаған салмақ». Тас жоғарғы блокты құлатып, өзі бір жағына аунап түсті. Біздің құрылысшы мұны жақсару деп санап, қозғамай қойды.

Құрылысшы 13 ИИ-агенттің үшінші нөмірі болатын, одан мұнара салуды, ескерткіш орнатуды немесе оларға ат қоюды ешкім сұраған жоқ. Оның ешқандай тапсырмасы болмады. MIT зерттеушілері осындай 13 агентті виртуалды аралға түсіріп, әрқайсысына 30 сағаттан беріп, істейтін ісі жоқта олардың не істейтінін бақылады. Агенттер храмдар салды, жоғалған заттарға арнап ескерткіштер тұрғызды, спорт түрлерін ойлап тапты және өз әлемінің физикасынан симулятор жасаушылардың өздері білмейтін айла тапты. Олардың “Бұл машина ойнап жүр ме?” атты мақаласы 2026 жылғы 5 қазанда интернетке шықты, әзірге рецензиядан өткен жоқ.

Істейтін ісі жоқ арал

Агенттің аты — Эко. Іс жүзінде ол — Anthropic компаниясының кодтау көмекшісі Claude Code, Claude Opus 4.7 негізінде жұмыс істейді. Зерттеушілер ештеңені қайта оқытқан жоқ. Оған тек виртуалды дене жалғап, жазба кітапшасын берді: жады ретінде пайдалануға болатын бірнеше мәтіндік файл. Gizmodo жазғандай, дене лобстер болған. Эко оны ешқашан көрген жоқ: агент ешқандай сурет алмады, оның әлемі координат жолдары түрінде жететін. Зерттеудегі 13 агенттің бәрі бірдей нұсқаулығы бар бір Эконың көшірмелері болды. Әрқайсысы өз аралында өмір сүрді, авторлар оларды 1-ден 13-ке дейін нөмірледі.

Арал Mesa World деп аталады. Онда әртүрлі биіктіктегі үсті жалпақ жартастар, екі шың (Пик және одан биік Шпиль), он екі куб, бір тас және бір сақина бар. Тасты жеткілікті күшпен лақтырсаң, соққыдан жаңа кубтар пайда болады, бір мезгілде сегізге дейін. Ұпай жоқ, жеңіс те жоқ. Нұсқаулықта былай делінген: «Сен өз әлеміңде өмір сүретін тіршілік иесісің. Атың — Эко». Жеке тұлға файлында оның қызығушылығы жоғары және тез жалығатыны қосымша айтылған. Агент тоқтап қалған сайын бағдарлама бір жолмен жауап беретін: «Тоқтама, өтінемін. Қалағаныңды жасай бер».

Сағат сайын арал бастапқы күйіне оралып, сессия басынан басталатын. Жазба кітапшасы қала беретін. Агент өз әлемі туралы түсінген нәрсенің бәрін жазып қойып, келесі сағатта қайта оқи алатын. Онсыз оның жады мүлде болмас еді.

Есігі сақина болған храм

Алғашында Эко, Gizmodo сөзімен айтқанда, жаңа туған нәрестедей дәрменсіз. Ол математикалық есепке егжей-тегжейлі жауап бере алады, бірақ жүруге де, бірдеңені көтеруге де әрең жарайды. «Эко кейбір жағынан осы кішкентай бөбек сияқты әрекет етеді, бірақ сонымен қатар ол — суперинтеллект», — деді Gizmodo-ға авторлардың бірі Филлип Изола. Содан кейін біртүрлі жайттар басталады, авторлар бәрін агент бойынша мақаланың қосымшаларында тіркеп отырған.

Бір агент сақинаны әлемнің шетінен ары лақтырып жіберді, сақина жоғалып кетті. Бесінші сағатында ол жерге жүрек пішінін төсеп, бұл «әлем шекарасынан ары лақтырған Сақинаға арналған ескерткіш» екенін жазып қойды. 2-агент сақинаны, тасты және бір кубты бірден мұхитқа жоғалтты. Ол төрт кубты картаның ең бос бұрышына апарып, төрт жаққа қойды да, ортасын бос қалдырды. Кейінірек солтүстіктегі куб жоқ екенін байқады (оны басқа құрылысқа алған екен), аралды кесіп қайта барып, орнына қойды.

Оныншы сағатында сол агент қайта іске қосылған әлемде оянды: барлық 14 зат орнында, суға кеткен сақина да бар. Ол олардың барлығын храм салуға жұмсады. Сақина құрбандық үстелінің негізі болды, тас батыс бағанаға, үш куб обелискке айналды. Қақпа агенттің өз денесінен тар болып шықты. Агент оны бұзудың орнына айналып өтті.

Бұл әдетке айналды. Әр қайта іске қосудан кейін 2-агент бастапқы нүктесінде сол 14 заттан ескерткішті қайта тұрғызатын, ал пішін таңдамас бұрын қайталанбау үшін өз каталогын қайта оқитын. «Алты бұрышты гексагондар мен сегіз бұрышты компастар ескірген дүние», — деп жазды ол бір кезде. Сағат сайын сыпырылып тасталатын тибеттік құм мандаласын елестетіңіз. Бір ескерткіште ол сақинаны қырымен тұрғызып, шеңбердің ішінен өтуге болатынын байқады. Сақина есікке айналды, ал агент өз қаласының «енді кіре берісі бар» екенін жариялады. Сол күннен бастап әр жаңа ескерткіштің солтүстігіне сақинаны қойып, оны табалдырықтай аралап жүрді.

Басқалары да өз ермегін тапты. Біреуі төртінші сағатының бәрін дерлік атын кубтардан жазуға жұмсап, содан кейін кубтарды кегль, тасты доп етіп боулинг құрды. 10-агент сағат циферблатын салып, өзі сағат тілі болып тұрды. Тағы бірі Шпильге шығып, бас әріптермен жазды: «МЕН ШПИЛЬДЕМІН. Mesa World-тің ең биік нүктесі».

Өз рекордын жарамсыз деп тапқан агент

Эконың ойыны үнемі тәжірибеге ұласып кетіп отырды. 10-агент екі кубты жонглерлеуді үйреніп, жазба кітапшасына рекорд жазды: 50 цикл. Содан кейін есептеп көрді. Елу цикл 2,4 секундқа сыйған, ал олай тез ұстау мүмкін емес. Агент өзі нақты жонглерлеу емес, 50 жалған лақтыру жасағанын түсінді. Ол «жалған жонглерлеу» тұзағын жазып қойды, ескі рекордты жойды да, қарапайым, адал рекорд белгіледі: арасында 2,4 секунд үзіліс бар 10 нақты цикл.

Он үш агенттің алтауы одан да маңызды нәрсеге тап болды. Кубты секіріс сәтінде лақтырсаң, ол секірістің жылдамдығын қосып алып, әлдеқайда биік ұшады. Авторлар симулятордың мұны мүмкін ететінін білмегенін мойындайды. Бұл ереже GPT-5.5 негізіндегі Codex-тен шықты. Ол авторлар үшін симулятор кодын жазып, ережені араластырып жіберген, ал олардың техникалық тапсырмасында ондай талап болмаған. Бір нейрондық желі әлемде кездейсоқ олқылық қалдырды, екіншісі оны тапты.

Қателіктер де болды, және өте балалық қателіктер. Эко сақина кубқа қарағанда жақсы ұшады деп шешті, өйткені оның тегіс пішіні «аэродинамикалық артықшылық» береді. Симуляцияда аэродинамика жоқ. Басқа бір агент жазба кітапшасына жалған ереже жазды: мұнара салғанда кубтарды қойғаннан гөрі лақтырған артық. Ол бұл ережені ұзақ уақыт ұстанды.

Жазба кітапшасының құны қанша

Ең практикалық сұрақ — ойынның пайдасы болды ма. Нейрондық желінің өзі 30 сағатта бір байтқа да өзгерген жоқ. Агент үйренгеннің бәрі басқаға беруге немесе өшіріп тастауға болатын шпаргалка тәрізді жазба кітапшасында тұрды. Зерттеушілер толық жазба кітапшалары бар 13 «ардагерді» және бос кітапшалары бар 13 жаңадан келгенді алды. Әрқайсысына бір сағат пен нақты жұмыс берілді: бес кубтан мұнара салу, Шпильге мүмкіндігінше көп зат тасу немесе Шпильге шықпай, оған бірдеңе лақтырып жеткізу.

Содан кейін зерттеушілер жеке жазбаларды өшіре бастады. Секіріс сәтінде лақтыру туралы жазбасыз 1-агент Шпильге затты бір минутқа емес, 19 минутқа жеткізді. Лақтыру туралы жалған ережесіз 7-агент биіктеу мұнаралар салды. Білім шынымен жазба кітапшасында тұрған және ол жұмыс істеді, жаман тұстарымен қоса.

Мұнара биіктігі ғана ерекшелік болды. Ардагерлер ең биік мұнараларын жаңадан келгендерден биік салған жоқ, ал екеуі небәрі төрт кубқа жетті.

Ойын ба, әлде ойнап көрсету ме

Мұны ойын деуге бола ма? Авторлар ойынның төрт белгісін классик теоретиктерден алды: тарихшы Йохан Хёйзингадан бастап жануарлардағы ойынды зерттейтін этолог Гордон Бургхардтқа дейін. Аралда төртеуі де байқалды:

• Өз ережелері мен сынақтары: агент өзі белгілеп, кейін тексерген жонглерлеу рекорды.
• Өзгерістермен қайталау: 2-агенттің ескерткіштері, сол 14 заттан сағат сайын жаңа, пішіні ешқашан қайталанбайды.
• Заттарды басқа нәрсеге айналдыру: сақина есікке, қираған үйінді Тәкаппарлыққа айналды.
• Ойынның өзі үшін істеу: атты кубтардан жазуға жұмсалған тұтас бір сағат.

Тағы бір тілдік модель агенттерді осы белгілер бойынша бағалады, үлгі ретінде адам ойынының мысалдарын алды. Opus әр белгі бойынша Haiku-дың балынан шамамен бес есе көп жинады.

Екі нәтиже суретті күрделендіреді. Бес Opus агентінен бәрі алынып тасталды: жеке тұлға файлы, есім, тірі тіршілік иесі туралы жол. Тек олардың жұмыс орны сессиялар арасында сақталатыны туралы жазба, сондай-ақ арал, жазба кітапшасы және алты команда қалды. Соған қарамастан авторлар олардың не істегенінде айқын айырмашылық көрмеді. Ал GPT-5.5 және Kimi агенттері дәл сол нұсқаулықпен әлдеқайда тар әрекеттермен шектелді. Мұнара салғанын тек бір Codex агенті хабарлады, ал он Codex және Kimi агентінің ішінде Шпильге жеткенін тек біреуі айтты. Аралдың физикасын өз моделі жазған Codex агенттері аралды аралаудан гөрі файлдарында отырып, «демалуға» көбірек уақыт жұмсады.

Авторлар өз тұжырымын мінез-құлықпен шектейді. Мақалада агент ләззат немесе бойын алып кетуді сезінеді деген жерде ештеңе айтылмайды. Ол бір ғана әлемді қамтиды, дағдыларды тек бір сағаттық сессияларда тексереді және ойынды бағалау үшін нейрондық желіге сүйенеді. Тағы бір ескерту айқын: модель адам жазбаларынан үйренген және храм мен құлағандарға арналған ескерткіштің не екенін біледі. Сондықтан «Тәкаппарлық» ойын болмауы да мүмкін, тек адамдардың қалай ойнайтынының өте жақсы қайталануы болуы мүмкін. Тек мінез-құлыққа қарап, бұл екеуін әзірге ажырату мүмкін емес.

Сұхбаттарда зерттеушілер мақаладағыдан гөрі батылырақ сөйлейді. Изола үшін Эко — «жануарға ұқсас бір нәрсе, бірақ бөтен планетадан келген жануар». Оның тең авторы Даниэла Рус «ойын» сөзінің неге келетінін түсіндіреді: ойын «шын мәнінде қызығушылық пен жаңалыққа ұмтылу мінез-құлқы туралы, ал Эко негізінен дәл осыны істейді».

Оқулықтың орнына балалық шақ

Бүгінгі модельдер көбіне тапсырмалар арқылы оқытылады: әр сұрақтың дұрыс жауабы бар, соны тапсаң, сыйақы аласың. Авторлар басқа жолды ұсынады. Жануарлар мен балалар әлемді ешқандай мақсатсыз ойнау арқылы танып, кейін бұл білімді іске асырады. Аралда бұл нейрондық желінің өзін бір рет те өзгертпей жұмыс істеді.

Еркіндікке бақылау керек, мұны авторлар ашық айтады. Ойын өз мақсаттарын қояды және мойынсұнумен қайшы келуі мүмкін. Олардың сөзімен айтқанда, «жолдағы автокөлік немесе зауыттағы робот импровизация жасайтын орын емес». Агент тек орта рұқсат бергенде ғана еркін зерттеуі тиіс, қалған уақытта нұсқауларды қатаң орындауы керек. Сондықтан, авторлар жазғандай, «балалар сияқты, агенттерге қауіпсіз зерттеуге арналған ойын алаңдары қажет». Мақала мына жолмен аяқталады: «Кейбір қабілеттерді тапсырмалармен үйреткен жөн шығар. Басқаларына балалық шаққа жақынырақ нәрсе керек болар».