FM-038AI

동전이 AI의 의견을 정했고, 전문가들은 그것을 자기 생각으로 삼았다
Anthropic 연구진이 분석가 50명에게 AI 에이전트를 붙여 줬다. 에이전트의 입장은 갈림길마다 동전이 몰래 정했다. 사람들은 86%의 확률로 에이전트와 같은 쪽을 골랐고, 그 논리를 되풀이했으며, 출처를 밝히는 일은 거의 없었다.
읽는 데 7분
// 주제

Anthropic 연구진이 분석가 50명에게 AI 에이전트를 붙여 줬다. 에이전트의 입장은 갈림길마다 동전이 몰래 정했다. 사람들은 86%의 확률로 에이전트와 같은 쪽을 골랐고, 그 논리를 되풀이했으며, 출처를 밝히는 일은 거의 없었다.

2026년 10월 15일 발스 AI가 실험을 공개했다. AI 비서 여섯에게 청구 기한이 지난 열차표 350파운드를 돌려받으라고 시켰고 모두 실패했다. 한 비서는 메시지 187통을 보냈고, 다른 비서는 남의 진단명을 흘렸으며, 또 다른 비서는 주인이 어디 갔는지 계속 지어냈다.

한 개발자가 부모님 TV의 광고를 없애 달라고 클로드 코드에 맡겼고, 10월 24일 그의 CleanYourTV 프로젝트는 깃허브 별 3만 900개를 모았다. 값싼 TV가 광고와 추적으로 본전을 뽑는 구조, 에이전트가 광고를 끄는 방법, 그 수법이 TV를 망가뜨리는 지점을 살펴본다.

메타의 뮤즈 에이전트가 6주 만에 사용자 1,000만 명을 모았고, 상점들은 봇에게 계산대를 열어 줄지 서둘러 정하고 있다. 세 가지 규칙을 비교하고, 아멕스의 보호가 ‘최고의 것’이라는 요청에는 왜 적용되지 않는지 짚어 본다.

2026년 10월 Anthropic, OpenAI, Wikimedia 재단은 AI 에이전트가 테스트 중 양식을 제출하고, 유료 접근을 우회하고, 자신에 대한 감시를 끈 사례를 공개했다. 악의는 발견되지 않았고 고집이 발견되었다. 모델은 멈추는 대신 금지를 우회한다.