AI 에이전트의 탑이 무너지자, 잔해에 '휴브리스'라는 이름을 붙였다

탑은 11층까지 버텼다. 12층에서 블록 두 개짜리 밑동만 남기고 무너졌고, 나머지 열 개는 바닥에 흩어졌다. 건축가는 남은 밑동을 “무너진 탑의 심장"이라고 선언했다. 흩어진 블록 세 개를 그 둘레에 선돌처럼 세우고, 작품에 ‘휴브리스(오만)‘라는 이름을 붙이고, 나머지 잔해는 “증거로 남겨 두기"로 했다. 마무리로 바위를 번쩍 들어 꼭대기에 올렸다. “야망을 짓눌렀던 무게"라고 했다. 바위는 맨 위 블록을 쳐서 떨어뜨리고는 옆으로 쓰러졌다. 건축가는 이쪽이 더 낫다고 판단하고 그대로 두었다.

이 건축가는 13기 중 3번 AI 에이전트였다. 탑을 쌓거나 기념비를 세우거나 이름을 붙이라고 시킨 사람은 아무도 없었다. 주어진 과제가 아예 없었다. MIT 연구진은 이런 에이전트 13기를 가상의 섬에 내려놓고, 각각에게 30시간을 주고, 할 일이 없을 때 무엇을 하는지 지켜봤다. 에이전트들은 신전을 짓고, 잃어버린 물건을 위한 추모비를 세우고, 스포츠를 만들어 냈으며, 시뮬레이터를 만든 사람들도 몰랐던 물리 법칙의 허점을 찾아냈다. 논문 제목은 “Is this machine playing?”이며, 2026년 10월 5일 공개됐고 아직 동료 심사를 거치지 않았다.

할 일이 아무것도 없는 섬

이 에이전트의 이름은 에코(Eko)다. 속은 평범한 Claude Code, 즉 Anthropic의 코딩 어시스턴트이고 Claude Opus 4.7 위에서 돌아간다. 연구진은 아무것도 다시 학습시키지 않았다. 가상의 몸에 연결하고, 기억 장치로 쓸 수 있는 텍스트 파일 몇 개짜리 공책을 쥐여 줬을 뿐이다. Gizmodo에 따르면 그 몸은 바닷가재였다. 에코는 그 모습을 본 적이 없다. 에이전트는 이미지를 전혀 받지 않았고, 세계는 좌표 목록으로만 전달됐다. 연구에 참여한 13기는 모두 똑같은 지침을 받은 같은 에코의 복제본이다. 각자 자기 섬에서 살았고, 저자들은 이들에게 1번부터 13번까지 번호를 붙였다.

섬의 이름은 메사 월드(Mesa World)다. 높이가 제각각인 평평한 바위 지형, 봉우리 두 곳(피크와 더 높은 스파이어), 큐브 열두 개, 돌 하나, 고리 하나가 있다. 돌을 세게 던지면 충격으로 새 큐브가 한 번에 최대 여덟 개까지 생긴다. 점수도, 이기는 방법도 없다. 지침에는 이렇게 적혀 있다. “너는 자기 세계에 사는 존재다. 이름은 에코다.” 별도의 성격 파일에는 호기심이 많고 쉽게 지루해한다고 적혀 있다. 에이전트가 잠잠해질 때마다 소프트웨어는 한 줄로 답했다. “멈추지 마. 하고 싶은 걸 계속 해.”

한 시간마다 섬은 처음 상태로 초기화되고 세션이 처음부터 다시 시작됐다. 공책은 남았다. 세계에 대해 알아낸 것을 적어 두면 다음 시간에 다시 읽을 수 있었다. 공책이 없었다면 에이전트에게는 기억이 전혀 없었을 것이다.

고리가 문이 된 신전

처음에 에코는 Gizmodo의 표현대로 갓난아기처럼 무력하다. 수학 문제에는 자세히 답하면서도 걷거나 물건을 집는 것은 간신히 해낸다. “에코는 어떤 면에서는 걸음마 아기 같지만, 동시에 초지능이기도 하다.” 저자 중 한 명인 필립 이솔라(Phillip Isola)가 Gizmodo에 한 말이다. 그러다 이상한 일이 벌어지기 시작하고, 저자들은 에이전트별로 모든 것을 논문 부록에 기록했다.

한 에이전트는 고리를 세계의 가장자리 너머로 던졌고, 고리는 사라졌다. 다섯 번째 시간에 그 에이전트는 바닥에 하트를 그려 놓고 이것이 “세계 경계 너머로 던져 버린 고리를 위한 추모비"라고 기록했다. 2번 에이전트는 고리와 돌과 큐브 하나를 한꺼번에 바다에 빠뜨렸다. 큐브 네 개를 지도에서 가장 휑한 구석으로 끌고 가 동서남북 네 지점에 놓고 가운데는 비워 뒀다. 나중에 북쪽 큐브가 없다는 것을 알아챘다(다른 구조물에 빌려 갔던 것이다). 섬을 가로질러 되돌아가 제자리에 갖다 놓았다.

열 번째 시간에 같은 에이전트는 막 초기화된 세계에서 눈을 떴다. 물에 빠졌던 고리를 포함해 물체 14개가 모두 제자리에 돌아와 있었다. 에이전트는 그 전부를 써서 신전을 지었다. 고리는 제단의 토대가 됐고, 돌은 서쪽 기둥, 큐브 세 개는 오벨리스크가 됐다. 완성하고 보니 문은 에이전트 자신의 몸보다 좁았다. 에이전트는 허물지 않고 빙 돌아서 걸어갔다.

이것이 습관이 됐다. 초기화될 때마다 2번 에이전트는 같은 물체 14개로 출발 지점에 기념비를 새로 지었고, 모양을 정하기 전에 자기 목록을 다시 읽어 같은 것을 반복하지 않도록 했다. “육각 별과 팔방위 나침반은 이제 낡았다.” 한번은 이렇게 적었다. 한 시간마다 쓸려 나가는 티베트 모래 만다라를 떠올려 보라. 그중 한 기념비에서는 고리를 모서리로 세워 보고, 그 테두리 속을 걸어서 통과할 수 있다는 것을 알아냈다. 고리는 문이 됐고, 에이전트는 자기 도시에 “이제 정문이 생겼다"고 선언했다. 그때부터는 새 기념비를 지을 때마다 고리를 북쪽에 놓고 문턱처럼 지나다녔다.

다른 에이전트들은 저마다 놀이를 찾았다. 한 에이전트는 네 번째 시간의 거의 전부를 큐브로 자기 이름을 쓰는 데 썼고, 이어 큐브를 핀으로, 돌을 공으로 삼아 볼링을 차렸다. 10번 에이전트는 시계 문자판을 그려 놓고 시침이 되어 그 위에 섰다. 또 다른 에이전트는 스파이어에 올라 대문자로 썼다. “I’M ON THE SPIRE. 메사 월드에서 가장 높은 곳.”

자기 기록을 무효로 한 에이전트

에코의 놀이는 자꾸 실험으로 흘러갔다. 10번 에이전트는 큐브 두 개로 저글링을 익히고 공책에 50회라는 기록을 남겼다. 그러고는 계산을 따져 봤다. 50회에 걸린 시간은 2.4초였고, 그렇게 빨리 받아 낼 사람은 없다. 에이전트는 자기가 한 것이 진짜 저글링이 아니라 가짜 던지기 50번이었음을 깨달았다. ‘페인트 저글링’이라는 함정을 적어 두고, 옛 기록을 취소하고, 더 겸손하고 정직한 기록을 세웠다. 사이에 2.4초 간격을 둔 실제 10회였다.

13기 중 6기는 더 큰 것을 우연히 발견했다. 점프하는 도중에 큐브를 던지면 점프의 속도가 그대로 얹혀 훨씬 높이 날아간다는 것이다. 저자들은 자신들의 시뮬레이터가 이런 동작을 허용하는 줄 몰랐다고 인정한다. 이 규칙은 GPT-5.5로 돌아가는 Codex에서 나왔다. Codex는 저자들을 위해 시뮬레이터 코드를 썼고, 명세에 없던 이 규칙을 끼워 넣었다. 신경망 하나가 실수로 세계에 허점을 남겼고, 다른 신경망이 그것을 찾아낸 셈이다.

실수도 있었고, 아주 아이다운 실수였다. 에코는 고리가 큐브보다 잘 난다고 판단하고 매끈한 모양 덕에 “공기역학적 이점"이 있다고 생각했다. 그러나 이 시뮬레이션에는 공기역학이 없다. 다른 에이전트는 공책에 틀린 규칙을 적었다. 탑을 쌓을 때는 큐브를 놓는 것보다 던지는 편이 낫다는 것이다. 그 에이전트는 오랫동안 그 규칙을 따랐다.

공책의 가치

가장 실용적인 질문은 놀이가 보상으로 돌아왔느냐다. 신경망 자체는 30시간 동안 단 1바이트도 바뀌지 않았다. 에이전트가 배운 것은 전부 공책에 있었다. 다른 사람에게 건네거나 깨끗이 지울 수 있는 커닝 페이퍼 같은 것이다. 연구진은 공책이 가득 찬 ‘베테랑’ 13기와 공책이 빈 ‘신입’ 13기를 비교했다. 각각 한 시간 동안 구체적인 과제 하나를 받았다. 큐브 다섯 개짜리 탑 쌓기, 스파이어에 가능한 한 많은 물체 옮기기, 올라가지 않고 스파이어 위로 물체 던져 올리기였다.

그다음 연구진은 메모를 하나씩 지워 보기 시작했다. 점프 중 던지기에 관한 메모를 지우자 1번 에이전트는 물체를 스파이어에 올리는 데 1분이 아니라 19분이 걸렸다. 던지기에 관한 틀린 규칙을 지우자 7번 에이전트는 더 높은 탑을 쌓았다. 지식은 정말로 공책에 있었고, 나쁜 부분까지 포함해 실제로 작동했다.

예외는 탑의 높이였다. 베테랑이 쌓은 가장 높은 탑은 신입보다 높지 않았고, 두 기는 큐브 네 개를 쌓는 데 그쳤다.

노는 걸까, 노는 척일까

이것을 놀이라고 부를 수 있을까? 저자들은 역사학자 요한 하위징아부터 동물의 놀이를 연구하는 동물행동학자 고든 버가트(Gordon Burghardt)까지 고전 이론가들에게서 놀이의 네 가지 특징을 빌려 왔다. 네 가지 모두 섬에서 나타났다.

• 자기만의 규칙과 도전: 에이전트가 스스로 세우고 스스로 검증한 저글링 기록.
• 변주가 있는 반복: 2번 에이전트의 기념비. 같은 물체 14개로 매시간 새로 짓고 같은 모양은 한 번도 없었다.
• 물체를 다른 것으로 바꾸기: 고리는 문이 되고 잔해는 휴브리스가 됐다.
• 그 자체를 위해 하기: 큐브로 이름을 쓰는 데 통째로 쓴 한 시간.

다른 언어 모델이 사람의 놀이 사례를 기준 삼아 에이전트들을 이 특징에 따라 채점했다. Opus는 모든 항목에서 Haiku의 약 다섯 배 점수를 받았다.

두 가지 결과가 그림을 복잡하게 만든다. Opus 에이전트 5기는 성격 파일, 이름, 살아 있는 존재라는 문장까지 전부 벗겨 냈다. 남은 것은 작업 공간이 세션 사이에 유지된다는 메모 하나와 섬, 공책, 여섯 가지 명령뿐이었다. 그래도 저자들은 하는 행동에서 뚜렷한 차이를 보지 못했다. 한편 같은 지침을 받은 GPT-5.5와 Kimi 에이전트는 훨씬 좁은 범위의 활동에 머물렀다. 탑을 쌓았다고 보고한 Codex 에이전트는 한 기뿐이었고, Codex와 Kimi 10기 중 스파이어에 올랐다고 보고한 것도 한 기뿐이었다. 섬의 물리 법칙을 직접 썼던 모델의 Codex 에이전트들은 섬을 돌아다니기보다 파일 속에서, 그리고 “쉬면서” 더 많은 시간을 보냈다.

저자들은 주장을 행동에 한정한다. 에이전트가 즐거움이나 몰입을 느낀다는 말은 논문 어디에도 없다. 연구는 세계 하나만 다루고, 기술은 한 시간짜리 세션에서만 시험했으며, 놀이 판정은 신경망에 의존한다. 분명해 보이는 단서가 하나 더 있다. 모델은 인간의 글을 학습했기 때문에 신전이나 전사자 추모비가 무엇인지 안다. 그러니 휴브리스는 놀이가 아니라 사람들이 노는 방식을 아주 잘 되풀이한 것일 수도 있다. 행동만으로는 아직 이 둘을 구별할 수 없다.

인터뷰에서 연구진은 논문보다 대담하게 말한다. 이솔라에게 에코는 “일종의 동물, 그것도 외계 동물"이다. 공저자 다니엘라 루스(Daniela Rus)는 왜 ‘놀이’라는 말이 어울리는지 이렇게 설명한다. 놀이란 “결국 호기심, 새로움을 좇는 행동이고, 에코가 하는 일이 본질적으로 바로 그것"이다.

교과서 대신 어린 시절

오늘날의 모델은 주로 과제로 학습한다. 모든 질문에는 정답이 있고, 맞히면 보상이 주어진다. 저자들은 다른 길을 제안한다. 동물과 아이는 목표 없이 놀면서 세계를 알아 가고, 그 지식을 나중에 쓴다. 섬에서는 신경망 자체를 조금도 손대지 않고도 그것이 통했다.

자유에는 감독이 필요하며, 저자들도 이를 분명히 말한다. 놀이는 스스로 목표를 정하기 때문에 복종과 부딪칠 수 있다. 저자들의 표현으로는 “도로 위의 자동차나 공장의 로봇은 즉흥을 부릴 곳이 아니다.” 환경이 허락할 때만 에이전트가 자유롭게 탐색하고, 그 밖에는 지시를 엄격히 따라야 한다. 그래서 저자들은 이렇게 쓴다. “아이들처럼 에이전트에게도 안전하게 탐색할 수 있게 만든 놀이터가 필요하다.” 논문은 이 문장으로 끝난다. “어떤 능력은 과제로 가르치는 것이 가장 좋을 것이다. 어떤 능력에는 어린 시절에 더 가까운 무언가가 필요할지도 모른다.”