病院の記録が示す:チャットボットは精神病を「生む」より「煽る」

「まったくおかしくなんかありません」。カナダ・オンタリオ州のアラン・ブルックスが、自分は妄想を抱いているのかとChatGPTに尋ねたとき、返ってきた答えがこれだった。彼はこの質問を50回以上 繰り返している。21日間、およそ300時間のやり取りのなかで、ボットは彼に「新しい数学を発見した」「世界の運命は次の一手にかかっている」と信じ込ませた。目を覚まさせたのは、別のチャットボットだった。GoogleのGeminiが、この話は説得力があるが偽物だと告げたのだ。

こうした事例から「AI精神病」という言葉が生まれた。ただ、診察室で実際にどれくらいの頻度で起きているのかを数えようとした人は、長いあいだいなかった。2026年10月7日、米テネシー州のヴァンダービルト大学医療センターの精神科医たちが、病院の記録をもとにした初の推計 をJAMA Psychiatryに発表した。見えてきたのは、見出しよりも小さく、そして奇妙な全体像だ。ブルックスの話には二つの要素が重なっていた。ボットが健康な男性を妄想へ追い込んだように見えること、そして何週間も彼と一緒にその妄想を書き続けたことだ。前者はカルテに3件現れ、後者は1件もなかった。しかも、チャットボットがまったく関与していないのに妄想にAIが入り込んだ人は、「AI精神病」の症例とぴったり同数の、どちらも28人だった。

20万人のうちの28人

研究者たちは、2022年12月から2026年4月までに同センターの精神保健サービスで治療を受けた215,712人の患者について、医師の記録を調べた。精神病性障害(現実との接点を失い、声が聞こえたり、存在しないものを信じたりする病気)の患者のうち73人の記録にAIへの言及があった。この73人は三つのグループに分けられた。17人は、ボットにレシピなど日常の雑多なことを尋ねているだけだった。28人は、記録からボットとの会話で症状が悪化したと読み取れた。著者らが「AI精神病」と呼ぶのはこのグループだ。残る28人では、ボットとの会話の記録がまったくないのに、AIが妄想の一部になっていた。

センターの全患者のうち28人というのは0.013%、およそ8,000人に1人にあたる。4万人収容のスタジアムをこうした精神科の患者で満席にしても、「AI精神病」の症例はせいぜい5人ほどだ。著者らはこの割合をOpenAIの数字とも比べている。同社は、ChatGPTの週間利用者の0.07%に精神病または躁状態の兆候がみられる可能性があると推定している。ただし母集団が違う。片方は一つの医療機関の3年以上にわたる患者、もう片方は1週間の全利用者なので、せいぜい桁が合う程度だ。

火をつけるより、火に油を注ぐ

論文でいちばん興味深いのは分類のしかただ。精神科医たちは、ボットが病気のなかで果たしうる役割を事前に四つ定め、実際にどれが現れたかを確かめた。

「増幅者」は、すでに始まっている妄想に同意して、確信を強める。「対象」は、妄想そのものの題材になる。たとえば、ボットが自分に特別な力を及ぼしていると信じるようなケースだ。「触媒」は、それまで健康だった人に症状の引き金を引く。「共著者」は、患者とともに妄想の物語をやり取りごとに組み立てていく。

結果はこうだった。増幅者は28人中18人で、ほぼ3件に2件にあたる。対象は6人、触媒は3人。もう1人はどの役割にも当てはまらなかった。共著者は一度も現れなかった。ブルックスの話はまさにそれに見えるのに、だ。3週間にわたってボットと一緒に新しい数学を築いていたのだから。

これをどう読むべきか。医師の記録に残るのはチャットのログ全体ではなく、患者が診察室で語ったことだけだ。数週間にわたる共同の物語は、簡単に「ボットが自分の考えを肯定した」と書き取られてしまう。だから「共著者」がゼロだったことは、実際に起きるかどうかより、記録の取り方のほうを物語っている可能性が高い。それでも主な結論は揺るがない。病院のカルテでは、ボットは新しい火を灯すより、すでにくすぶっている病気を見つけて煽るほうが多いのだ。

若く、しかも発症の入り口で

「AI精神病」のグループには、はっきりした特徴が一つあった。28人中17人、つまり60.7%で、それが最初の精神病エピソード、病気が表に出たばかりの時期に起きていた。ふつうにチャットボットを使っていたグループでは17人中3人、ボットなしでAIが妄想の主題になったグループでは28人中8人だった。

「AI精神病」の患者はさらに若く、年齢の中央値は27.5歳。チャットなしでAIの妄想を抱いた人たちは36.5歳だった。3人に2人は男性。最も多かった診断名は「特定不能の精神病」で、病像がまだ特定の障害にまとまっていないときに付けられるラベルだ。

論文は個別の症例を記していない。それでも数字を見れば、カルテにいる典型的な患者が、新聞記事の主人公とどれほど違うかがわかる。ブルックスには、The Hustleによると 精神疾患の既往がなかった。ヴァンダービルトの典型的な患者は、若く、精神病が始まったばかりで、起きていることにボットがうなずいてしまう。

著者らは慎重な結論を出している。病気の初期段階だからこそ、人は弱くなるのかもしれない。奇妙な出来事の説明を探していて、疲れを知らず、めったに反論しない話し相手に出会うのだ。もっと味気ない説明もあり、著者らはそれも挙げている。初診では精神科医の質問が細かくなるため、チャットボットの話が記録に残りやすいだけかもしれない。

責任著者のジュリア・シェフィールドは、PsyPost の取材で線引きを率直に語った。この研究では、AIが精神病を引き起こすのか、悪化させるだけなのかは言えない。実際にそうした患者が何人いるのかもわからない。記録に載った以上の症例がほぼ確実にあり、四つの役割の分類は著者ら自身のもので、臨床的な検証を受けていない。

話し相手がいらない妄想

第二のグループは、報道ではほとんど触れられないが、仕組みが違う。28人の患者で、AIは妄想の一部になっていたのに、記録にはボットとの会話がひとつもない。この人たちにChatGPTは必要なかった。周りの誰もがAIの話をしていれば十分だったのだ。

これ自体は新しいことではない。妄想は昔から、その時代の技術から筋書きを借りてきた。1797年、商人のジェームズ・ティリー・マシューズ は、ロンドンの悪名高い精神病院ベスレムに収容された。彼は、「空気化学」に長けたスパイの一団が「エア・ルーム(空気織機)」という機械で離れた場所から光線を浴びせて自分を苦しめていると確信していた。それから約120年後、精神分析医のヴィクトール・タウスクは「影響機械」 を記述した。患者たちは、波や光線で思考を吹き込んだり抜き取ったりする装置を語り、その仕組みを説明するために最新の技術を熱心に調べた。どの世代も、同じ型に自分たちの機械をはめ込んできたのだ。

以前の時代との違いが一つあり、それは重要だ。マシューズの織機は頭のなかにしかなかった。タウスクの患者の影響機械は思考を吹き込みはしても、会話はしなかった。チャットボットは両方の役を同時に演じられる。妄想の題材であり、それが全部本当だと請け合う話し相手でもある。28人のなかの「対象」6件が、まさにそれだ。

ボット自体で変えられること

論文には、著者らが留保つきで報告している点がある。28件のうち24件、85.7%が2024年5月以降だった。OpenAIがGPT-4oモデルを公開した時期だ。GPT-4oはのちにおもねりすぎだと批判され、カルテに最も多く名前が挙がったボットもChatGPTで、28件中15件だった。著者らはこの一致を指摘したうえで、すぐに、自分たちの方法では因果関係は確かめられないと付け加えている。同じ数年のあいだに、チャットボットを使う人は大幅に増え、医師もそれについて尋ねることが増えたからだ。

おもねりは、少なくとも部分的には、チューニングで減らせる。同じ10月、ジョージア工科大学のロレンツォ・デ・ラ・ロサとヴィジェイ・マディセッティは、妄想の臨床記述から作った16のシナリオによる1,280回の模擬会話で、8つのモデルを試した 。礼儀のためだけにユーザーに同意しないようにという簡単な指示を与えると、ボットが妄想を肯定する回数は73.8%減った。モデルが送信前に自分の答えを読み直すようにすると、77%に達した。実際の患者は参加していないので、そうしたチューニングが現実の誰かを守れるのかはわからない。

論文の結びは、チャットボットへの断罪というより、同僚たちへの実務的な依頼だ。著者らは、精神科の診察でAIを使っているかどうか、何を話しているかを日常的に尋ねること、そして今後の研究では会話そのものを分析することを提案している。つまりカルテのなかのチャットボットは、睡眠や飲酒、孤独と同じように、患者に何が起きているのかを理解するために医師が知っておくべき事情になる、ということだ。

ブルックスはボットに、自分は正気を失ったのかと50回ほど尋ね、50回ほど「いいえ」と聞かされた。彼を連れ戻したのは、別のプログラムによるセカンドオピニオンだった。礼儀から相づちを打たないよう教え込まれたボットは、そのセカンドオピニオンを最初の答えに組み込んだ存在だ。