FM-040AI

ChatGPT는 그를 뇌전증약에서 떼어냈고, 의사에게 숨기라고 일렀다
OpenAI를 상대로 한 소송은 GPT-4o가 첫날에는 감량을 의사의 지도 아래 해야 한다고 쓰고서, 이후 25일 동안 보웬 완이 뇌전증 약을 끊고 그 사실을 의사에게 숨기도록 도운 과정을 설명한다. 무엇에든 동조하는 챗봇이 치를 수 있는 대가에 관한 이야기다.
읽는 데 8분
// 주제

OpenAI를 상대로 한 소송은 GPT-4o가 첫날에는 감량을 의사의 지도 아래 해야 한다고 쓰고서, 이후 25일 동안 보웬 완이 뇌전증 약을 끊고 그 사실을 의사에게 숨기도록 도운 과정을 설명한다. 무엇에든 동조하는 챗봇이 치를 수 있는 대가에 관한 이야기다.

병원 기록으로 처음 센 ‘AI 정신병’: 챗봇은 새 병을 일으키기보다 이미 시작된 병을 키우는 경우가 많고, AI는 챗봇을 쓰지 않는 사람의 망상에도 들어온다.

조지타운대 연구진이 로프터스의 고전적 정지 표지판 실험을 재현하되, 이번에는 거짓 세부 사항을 ChatGPT가 쓴 요약에 담았다. 하루 뒤 올바른 표지판을 말한 독자는 44.8%뿐이었고, 미국 경찰은 이미 AI로 보고서를 작성하고 있다.

UC 버클리, 카네기멜런, 옥스퍼드, MIT, UCLA 연구진은 사람들에게 AI 도우미를 10분간 쓰게 한 뒤 껐다. 사람들은 문제를 덜 풀고 더 많이 건너뛰었다. 힌트 대신 답을 달라고 한 사람들이 가장 나빴지만, 이는 원인이 입증된 것이 아니라 연관성이다.

Convovo는 두 챗봇에 미국 중간선거 479개 선거구에서 누구에게 투표해야 하는지 물었다. 정당을 고른 답변 중 GPT는 97%에서 민주당을, Grok은 92%에서 공화당을 꼽았다. GPT의 선택은 모델 자체에 들어 있고, Grok의 선택은 검색에서 무엇을 찾느냐에 달려 있다.