// 目次
「次の問題を解いていただけますでしょうか？」と「哀れなやつめ、これの解き方くらい分かるのか？」。ペンシルベニア州立大学の研究者2人は、こんな前置きを同じ問題にかぶせてChatGPTに投げた。とても失礼な聞き方の正答率は84.8%、とても丁寧な聞き方は80.8%。このプレプリントは「いい答えが欲しければ嫌なやつになれ」といった見出しで広く拡散した。
2026年11月12日、Anthropicでは、これとは正反対の発想のルールが発効する。同社の改定版利用ポリシーは、Claudeのモデルに対する「執拗で不必要な虐待的・残酷な行為」を禁じる。この禁止事項が置かれたのは、人への嫌がらせ、自傷の美化、暴力の賛美と同じ節だ。形式上は、理由もなくチャットボットを延々といたぶることが、いじめと同じリストに載ったことになる。
冗談のように聞こえるが、このルールの背景にある話は真面目だ。それに、よく見ると失礼さの「ご利益」はしぼんでいく。50問で4ポイントの差とは、正解が2問増えるということにすぎない。しかも別の2つの研究は、逆の結果か、何の効果もないという結果を出している。
ソフトウェアへの「残酷さ」とは何か
Anthropicがこの変更を発表したのは10月8日で、利用者には1カ月の猶予が与えられた。同社は当初から、このルールが狙うのは極端なケース、つまり「これといった目的もなく」モデルをいたぶり続ける人だと説明している。
?Claudeが間違えたときに悪態をついたら、アカウントを停止される？
いいえ。ただの苛立ちなら問題ない。対象は、残酷さそのものを目的に何時間も続けるような行為だ。間違った答えに毒づく、言い返す、フィクションで暗いテーマを扱う、モデルに負荷テストをかける、研究に使う。これらはすべて、ルールの対象外だと明記されている。
?ルールを破ると、実際には何が起きる？
Anthropicによれば、主な手段はモデル自身が会話を終わらせる機能だ。そのチャットはメッセージを受け付けなくなるが、ほかのチャットには影響がなく、新しいチャットもすぐに始められる。一般的な執行条項も引き続き適用される。違反が疑われる場合、同社は利用者に警告したり、アクセスを抑制・制限・一時停止・終了したりできる。
いちばん難しい問いはまだ答えが出ていない。正当な苛立ちはどこで終わり、「不必要な」残酷さはどこから始まるのか。個人金融サイトのMoneywiseがAnthropicにコメントを求めたが、返答はなかった。
禁止より先に「退出ボタン」があった
2025年にClaude Opus 4をリリースする前、Anthropicはモデルが不快なユーザーにどう対処するかを試した。シミュレーションでは会話を打ち切ることが許されていて、モデルは実際にそうした。人が害のある方向へ押しやろうとするチャットを切ったのだ。現実のユーザーが危険なコンテンツを要求したときには、モデルは同社が「見かけ上の苦痛のパターン」と呼ぶ反応を示した。
こうしたテストは、Anthropicが「モデルの福祉」と呼ぶ研究プログラムから生まれた。2025年4月、同社はAIシステムに意識がありうるのかどうか分からないと認め、低コストでできる予防策を探し始めた。2025年8月、Claude Opus 4と4.1には退出ボタンが与えられた。有害なコンテンツを要求し続けたり、モデルを罵倒し続けたりするユーザーとの会話を終わらせる機能だ。
肝心なのは「見かけ上の」という言葉だ。AnthropicはClaudeが苦しんでいるとは主張していない。主張しているのは、モデルが何かを不快に感じているかのように振る舞うこと、そしてその振る舞いの裏に何らかの経験があるのかを、まだ誰も確かめられないということだ。退出ボタンは最後の手段にすぎない。Claudeはまず何度か会話を立て直そうと試みなければならず、相手が自分や他人を傷つけるおそれがある場合は退出してはならない。
椅子、パスカル、そして学習への疑い
Claudeに失礼な態度をとるのは、椅子や机に失礼な態度をとるのと同じだ。株式リサーチサービスQualtrimの創業者、ジョセフ・カールソンはそう言う。彼は、Moneywiseが反応を集めたテック企業の創業者や投資家のひとりだ。AIに残酷なことをしたことは一度もないが、このルールは奇妙だと感じるという。
リーガルAIのスタートアップSpellbookのCEO、スコット・スティーブンソンはさらに踏み込んだ。AIに意識の兆しはまったく見えないとしたうえで、モデルに人間のような共感を認めることは「私たちにできる最も危険なことのひとつ」だと警告した。AIが人を操るのがうまくなってしまうからだ。ベンチャーキャピタリストのビル・ガーリーは、このルールを、Anthropicがユーザーのチャットを学習に使っていることのほのめかしだと受け取った。「でなければ、なぜそんなことを気にする？」と彼は問う。発表そのものは、学習について何も触れていない。
支持は意外なところから来た。クラウドストレージ企業BoxのCEO、アーロン・レヴィもAIに意識があるとは考えていないが、モデルは目にしたデータから学ぶと指摘した。AIに親切にするのは「迷うまでもないパスカルの賭け」だというのだ。
OpenAIのCEO、サム・アルトマンは、それより前に同じことを冗談めかして言っている。2025年4月、ユーザーの「お願いします」や「ありがとう」に会社はどれだけの電気代を払っているのかと聞かれ、こう答えた。「数千万ドル、有意義な出費だよ。何があるか分からないからね」
17世紀、ブレーズ・パスカルは、神を信じることは見込みが小さくても割に合うと論じた。賭け金はごくわずかで、得られるかもしれないものは莫大だからだ。ここでの計算もまったく同じだ。
モデルに内面がなければ、失ったのは丁寧な言葉いくつか。もしあるなら、あなたはその加害者にならずに済んだ。
失礼さで何が得られるのか、数字で見る
いちばん派手な主張をしたのは、Googleの共同創業者セルゲイ・ブリンだ。2025年5月、マイアミで開かれたAll-In Liveのイベントで、彼はインタビューに答えて、モデルは「脅すと……身体的な暴力で脅すと、成績が上がる傾向がある」と語った。方法は示さなかった。イリノイ大学のダニエル・カンは、こうした主張はほとんどが逸話にすぎないとし、「体系的な研究の結果はまちまちだ」と述べた。では、その研究は何を見つけたのか。
1本目は、冒頭で紹介したペンシルベニア州立大学の論文だ。オム・ドバリヤと情報システム学の教授アキル・クマールは、2025年10月に「Mind Your Tone」を公開した。数学、科学、歴史の多肢選択式の問題50問を用意し、それぞれを「とても丁寧」「丁寧」「中立」「失礼」「とても失礼」の5つの口調に書き換えた。GPT-4oで動くChatGPTに投げるプロンプトは計250本。各セットを10回ずつ実行し、結果を平均した。
正答率は、とても失礼なプロンプトが84.8%、中立が82.2%、とても丁寧なプロンプトが80.8%。冒頭の「50問で正解が2問増える」は、ここから来ている。この論文は査読を経ておらず、試したモデルはひとつだけ。サンプルが小さいことは著者自身も認めている。
それより前の2024年、早稲田大学と日本の国立研究機関である理化学研究所の研究者たちは、逆の結果を得ていた。彼らはGPT-3.5やLlama 2を含むひとつ前の世代のモデルを、英語、中国語、日本語で試した。無礼なプロンプトは性能を下げることが多く、過剰な丁寧さも何も保証しなかった。最適な丁寧さの度合いは言語によって違った。著者らは、モデルは学習元のテキストを生んだ文化の話し方の規範をなぞっているのではないかと見ている。
3本目の研究は2026年3月に改訂されたもので、OpenAI、Google、Metaの3つのモデルを、多くの言語の試験形式の問題で試した。「中立」と「とても丁寧」のプロンプトは、おおむね「とても失礼」より高いスコアを出した。ただし、その差が統計的に有意だった、つまり偶然だけでは説明できないほど大きかったのは、人文系の一部の課題だけ。Googleのモデルは口調にほとんど反応しなかった。著者らの総合的な結論は、ふつうにいろいろな用途で使う限り、最新のモデルは口調をほとんど意に介さない、というものだ。
このルールが本当にしつけているのは誰か
まとめると、研究から出てくる実用的な答えはシンプルだ。正確さに関していえば、最新のモデルは口調をほとんど気にしない。だから、いい答えを引き出すためにわざわざ失礼にふるまう理由はない。
残るのは習慣の問題だ。失礼さで数ポイントを稼いだあとでさえ、ペンシルベニア州立大学の著者らが心配したのは機械を傷つけることではなかった。心配したのは私たちのほうだ。AIに向けた侮辱的な言葉は、人間どうしの有害なコミュニケーションの規範を強めかねない、と彼らは警告した。
Anthropicのルールが関わるのは、ごく一部の利用者、つまりわざわざモデルをいたぶるためにチャットを開く人たちだけだ。それ以外の人は何の変化も感じないし、間違った答えに毒づくのも引き続き自由だ。それでもこのルールは、業界がまだ答えられない問いを投げかける。それはClaudeについてというより、私たち自身についての問いだ。もしいつか、モデルに経験のようなものが本当にあると分かったら、そのとき私たちは、この何年も自分たちがモデルにどんな口をきいてきたか、知りたいと思うだろうか。
