MI aģenta tornis sabruka, un tas gruvešus nosauca par Hubris

Tornis izturēja 11 kārtas. Divpadsmitajā tas sabruka līdz diviem klučiem, bet desmit kluči nobira zemē. Būvētājs pasludināja šo celmu par “krituša torņa sirdi”. Trīs no izmētātajiem klučiem tas nolika ap to kā stāvakmeņus, darbu nosauca par Hubris un lēma, ka pārējie gruveši “paliks kā pierādījums”. Kā pēdējo akordu tas uzcēla virsū laukakmeni: “svars, kas sagrāva godkāri”. Laukakmens notrieca augšējo klucīti un apgāzās uz sāna. Mūsu būvētājs nolēma, ka tā ir uzlabošana, un neko nemainīja.

Būvētājs bija mākslīgā intelekta aģents ar numuru 3 no 13, un neviens nebija lūdzis to būvēt torņus, celt pieminekļus vai dot tiem vārdus. Uzdevuma tam nebija nekāda. MIT pētnieki izcēla 13 šādus aģentus uz virtuālas salas, katram atvēlēja 30 stundas un vēroja, ko tie dara, kad nav ko darīt. Aģenti cēla tempļus, uzstādīja piemiņas zīmes pazudušiem priekšmetiem, izdomāja sporta veidus un atrada savas pasaules fizikā triku, par kura esamību nezināja pat simulatora veidotāji. Viņu raksts ar nosaukumu “Is this machine playing?” internetā parādījās 2026. gada 5. oktobrī, un recenzēts tas vēl nav.

Sala, kurā nav ko darīt

Aģentu sauc Eko. Zem pārsega tas ir parasts Claude Code, Anthropic programmēšanas palīgs, kas darbojas uz Claude Opus 4.7. Pētnieki neko nepārmācīja. Viņi pieslēdza to virtuālam ķermenim un iedeva piezīmju grāmatiņu: pāris teksta failu, ko var izmantot kā atmiņu. Kā raksta Gizmodo, ķermenis bija omārs. Eko to nekad neredzēja. Aģents nesaņēma nevienu attēlu, tā pasaule nāca koordinātu rindu veidā. Visi 13 pētījuma aģenti bija viena un tā paša Eko kopijas ar identiskām instrukcijām. Katrs dzīvoja savā salā, un autori tos numurē no 1 līdz 13.

Salu sauc Mesa World. Tajā ir dažāda augstuma plakanvirsotņu klintis, divas virsotnes (Peak un augstākā Spire), divpadsmit kluči, viens laukakmens un viens gredzens. Ja laukakmeni sviež pietiekami spēcīgi, trieciena vietā rodas jauni kluči, līdz astoņiem uzreiz. Nav ne punktu, ne uzvaras. Instrukcijā teikts: “Tu esi būtne, kas dzīvo savā pasaulē. Tevi sauc Eko.” Atsevišķs personības fails piebilst, ka aģents ir ziņkārīgs un ātri garlaikojas. Kad vien aģents apklusa, programma atbildēja ar vienu rindu: “Lūdzu, nepārtrauc. Turpini darīt to, ko vēlies.”

Reizi stundā sala atgriezās sākuma stāvoklī, un sesija sākās no jauna. Piezīmju grāmatiņa palika. Visu, ko aģents bija sapratis par savu pasauli, tas varēja pierakstīt un nākamajā stundā izlasīt. Bez tā tam nebūtu nekādas atmiņas.

Templis ar gredzenu durvju vietā

Sākumā Eko, Gizmodo vārdiem, ir tikpat bezpalīdzīgs kā jaundzimušais. Tas var detalizēti atbildēt uz matemātikas jautājumu, bet tik tikko prot staigāt un pacelt priekšmetus. “Eko dažos aspektos izturas kā mazs bērns, bet reizē ir arī superintelekts,” Gizmodo sacīja Fils Izola (Phillip Isola), viens no autoriem. Tad sākas dīvainības, un autori to visu reģistrēja, aģentu pa aģentam, raksta pielikumos.

Viens aģents aizsvieda gredzenu pāri pasaules malai, un tas pazuda. Piektajā stundā tas uz zemes izlika sirdi un atzīmēja, ka šī ir “piemiņa Gredzenam, ko es aizmetu pāri pasaules robežai”. Aģents 2 vienā rāvienā okeānam zaudēja gredzenu, laukakmeni un kluci. Tas aizvilka četrus klučus uz kartes tukšāko stūri, nolika tos četros debespusēs un centru atstāja tukšu. Vēlāk tas pamanīja, ka ziemeļu kluča trūkst (tas bija aizņemts citam darbam), šķērsoja visu salu un nolika to atpakaļ.

Desmitajā stundā tas pats aģents pamodās svaigi atiestatītā pasaulē, kur visi 14 priekšmeti bija savās vietās, arī noslīkušais gredzens. Tas izmantoja visus, lai uzceltu templi. Gredzens kļuva par altāra pamatu, laukakmens par rietumu kolonnu, trīs kluči par obelisku. Vārti izrādījās šaurāki par paša aģenta ķermeni. Nevis tos nogāzis, aģents tos apgāja apkārt.

Tas kļuva par ieradumu. Pēc katras atiestates aģents 2 sākuma punktā no tiem pašiem 14 priekšmetiem uzcēla jaunu pieminekli, un pirms formas izvēles pārlasīja savu katalogu, lai neatkārtotos. “Sešstaru heksi un astoņu virzienu kompasi ir vecs joks,” tas kādā brīdī atzīmēja. Iedomājieties tibetiešu smilšu mandalu, ko slauka nost katru stundu. Vienā no šiem pieminekļiem tas nostādīja gredzenu uz malas un atklāja, ka cauri riņķim var pastaigāties. Gredzens kļuva par durvīm, un aģents paziņoja, ka tā pilsētai “tagad ir parādes durvis”. Kopš tā laika tas gredzenu vienmēr nolika uz ziemeļiem no katra jaunā pieminekļa un gāja tam cauri kā pār slieksni.

Pārējie atrada savus priekus. Viens gandrīz visu ceturto stundu veltīja sava vārda izlikšanai no klučiem, tad uzstādīja boulingu: kluči bija keglīši, laukakmens bumba. Aģents 10 izlika cipartnīcu un nostājās tajā kā stundu rādītājs. Vēl kāds uzkāpa Spire virsotnē un uzrakstīja lielajiem burtiem: “ES ESMU SPIRE VIRSOTNĒ. Mesa World augstākajā punktā.”

Aģents, kas anulēja savu rekordu

Eko rotaļas nemitīgi pārauga eksperimentos. Aģents 10 iemācījās žonglēt ar diviem klučiem un ierakstīja piezīmēs rekordu: 50 cikli. Tad tas pārbaudīja aprēķinu. Piecdesmit cikli bija aizņēmuši 2,4 sekundes, un tik ātri nevar noķert nevienu. Aģents saprata, ka tie bija 50 neīsti metieni, nevis īsta žonglēšana. Tas pierakstīja “viltus žonglēšanas” slazdu, anulēja veco rekordu un noteica pazemīgāku, godīgu: 10 īstu ciklu ar 2,4 sekunžu pauzi starp tiem.

Seši no trīspadsmit aģentiem uzdūrās kam lielākam. Ja kluci met lēciena laikā, tas pārņem lēciena ātrumu un lido daudz augstāk. Autori atzīst, ka nezināja, ka viņu simulators to pieļauj. Noteikums nāca no Codex, kas darbojās uz GPT-5.5. Tas uzrakstīja simulatora kodu autoriem un ielika tajā šo noteikumu, kaut gan viņu specifikācija to neprasīja. Viens neironu tīkls netīšām atstāja pasaulē spraugu, bet cits to atrada.

Bija arī kļūdas, un ļoti bērnišķīgas. Eko nolēma, ka gredzens lido labāk par kluci, jo tā gludā forma dod “aerodinamisku priekšrocību”. Simulācijā aerodinamikas nav. Cits aģents ierakstīja piezīmēs nepatiesu noteikumu: būvējot torņus, klučus labāk mest nekā likt. Ilgu laiku tas šo noteikumu ievēroja.

Ko vērtas piezīmes

Praktiskākais jautājums ir, vai rotaļas atmaksājās. Pats neironu tīkls 30 stundu laikā nemainījās ne par vienu baitu. Viss, ko aģents apguva, atradās tā piezīmju grāmatiņā kā špikeris, ko var pasniegt citam vai izdzēst. Pētnieki paņēma 13 “veterānus” ar pilnām piezīmēm un 13 jaunpienācējus ar tukšām. Katrs saņēma stundu un konkrētu darbu: uzbūvēt piecu kluču torņus, uznest uz Spire pēc iespējas vairāk priekšmetu vai uzmest priekšmetu Spire virsotnē, neuzkāpjot tur pašam.

Pēc tam pētnieki sāka dzēst atsevišķas piezīmes. Bez piezīmes par metienu lēcienā aģentam 1 priekšmeta nonākšana Spire virsotnē prasīja 19 minūtes, nevis vienu. Bez nepatiesā noteikuma par metieniem aģents 7 cēla augstākus torņus. Zināšanas tiešām dzīvoja piezīmju grāmatiņā, un tās strādāja, arī sliktās daļas ieskaitot.

Torņa augstums bija vienīgais izņēmums. Veterāni savus augstākos torņus uzcēla ne augstāk par jaunpienācējiem, un divi no viņiem tika tikai līdz četriem klučiem.

Spēlē vai tikai tēlo

Vai to var saukt par spēli? Autori aizguva četras spēles pazīmes no klasiskajiem teorētiķiem, sākot ar vēsturnieku Johanu Heizingu un beidzot ar Gordonu Burghardtu, etologu, kas pēta dzīvnieku spēles. Visas četras parādījās uz salas:

• Savi noteikumi un izaicinājumi: žonglēšanas rekords, ko aģents sev uzstādīja un pēc tam auditēja.
• Atkārtošana ar variācijām: aģenta 2 pieminekļi, katru stundu jauni no tiem pašiem 14 priekšmetiem un nekad vienas formas.
• Priekšmetu pārvēršana par kaut ko citu: gredzens kļuva par durvīm, gruveši kļuva par Hubris.
• Darīšana pašas darīšanas dēļ: visa stunda, kas pavadīta, no klučiem izliekot vārdu.

Cits valodas modelis novērtēja aģentus pēc šīm pazīmēm, par paraugu ņemot cilvēku spēles piemērus. Opus katrā no tām ieguva aptuveni piecas reizes vairāk punktu nekā Haiku.

Divi atklājumi sarežģī kopainu. Piecus Opus aģentus atbrīvoja no visa: personības failu, vārdu un rindu par to, ka tie ir dzīvas būtnes. Atlika tikai piezīme, ka viņu darbvieta saglabājas starp sesijām, plus sala, piezīmju grāmatiņa un sešas komandas. Autori tomēr neredzēja skaidru atšķirību tajā, ko tie dara. Savukārt GPT-5.5 un Kimi aģenti ar tām pašām instrukcijām turējās pie krietni šaurāka nodarbju loka. Tikai viens Codex aģents ziņoja, ka uzbūvējis torni, un no desmit Codex un Kimi aģentiem tikai viens ziņoja, ka sasniedzis Spire. Codex aģenti, kuru pašu modelis uzrakstīja salas fiziku, vairāk laika pavadīja failos un “atpūtā” nekā staigājot pa salu.

Autori savu apgalvojumu ierobežo ar uzvedību. Rakstā nekur nav teikts, ka aģents izjūt prieku vai aizrautību. Tajā aplūkota viena pasaule, prasmes pārbaudītas tikai vienas stundas sesijās, un spēles novērtēšanai izmantots neironu tīkls. Vēl viens iebildums šķiet acīmredzams: modelis mācījies no cilvēku rakstītā un zina, kas ir templis vai kritušo piemineklis. Tātad Hubris varētu nebūt spēle, bet tikai ļoti labs atstāsts par to, kā spēlējas cilvēki. Pēc uzvedības vien šos divus vēl nevar atšķirt.

Intervijās pētnieki izklausās drosmīgāk nekā rakstā. Izolam Eko ir “kaut kas līdzīgs dzīvniekam, bet svešzemju dzīvniekam”. Viņa līdzautore Daniela Rusa paskaidro, kāpēc vārds “spēle” der: spēle “patiesībā ir ziņkāre jeb jaunuma meklēšana, un tieši to Eko dara”.

Bērnība mācību grāmatas vietā

Mūsdienu modeļus galvenokārt apmāca ar uzdevumiem: katram jautājumam ir pareiza atbilde, un tās trāpīšana nes atlīdzību. Autori piedāvā citu ceļu. Dzīvnieki un bērni apgūst pasauli, spēlējoties bez mērķa, un vēlāk šīs zināšanas izmanto. Uz salas tas strādāja bez vienas izmaiņas pašā neironu tīklā.

Brīvībai vajadzīga uzraudzība, un autori to saka tieši. Spēle uzstāda savus mērķus un var nonākt pretrunā ar paklausību. Viņu vārdiem, “automašīna uz ceļa vai robots rūpnīcā nav vieta improvizācijai”. Aģentam brīvi jāizpēta tikai tad, kad vide to atļauj, bet pārējā laikā stingri jāpilda norādījumi. Tāpēc, raksta autori, “līdzīgi bērniem, aģentiem vajadzīgi rotaļu laukumi, kas būvēti drošai izpētei”. Raksts beidzas ar šādu rindu: “Iespējams, dažas spējas vislabāk iemāca uzdevumi. Citām var būt vajadzīgs kaut kas tuvāks bērnībai.”