FM-051AI

AnthropicがClaudeへの虐待を禁止。失礼に聞けば、AIの答えは良くなる?
Anthropicは「モデルの福祉」を理由に、Claudeへの不必要な残酷さを禁止する。ある研究では失礼なプロンプトでChatGPTの正答率が4ポイント上がったが、ほかの2つの研究はこの効果を裏づけていない。
読了1分
// トピック

Anthropicは「モデルの福祉」を理由に、Claudeへの不必要な残酷さを禁止する。ある研究では失礼なプロンプトでChatGPTの正答率が4ポイント上がったが、ほかの2つの研究はこの効果を裏づけていない。

病院記録による初の「AI精神病」の集計では、ボットは新しい病気を生むより、すでに始まった病気を煽ることが多く、AIは使っていない人の妄想にも入り込んでいた。

破産したCharacter.aiは、技術のライセンスを2000万ドルでディズニーに売るが、1200万人のユーザーのキャラクターとチャットには買い手がいない。その行方、州司法長官が介入した理由、自分のチャットを書き出す方法をQ&Aで解説する。

Convovoは2つのチャットボットに、アメリカ中間選挙の479選挙区で誰に投票すべきか尋ねた。政党を選んだ回答のうち、GPTは97%で民主党、Grokは92%で共和党を挙げた。GPTの選択はモデル自体に宿り、Grokの選択は検索で何が見つかるかに左右される。

皮膚科医マグヌス・リンチは、GPT-6 Astra、Claude Fable 5.1、2015年のInception v3に、生検で確定した皮膚病変200件を診断させた。古いネットワークの正解率は62%で、チャットボットの42%を上回り、同じ慎重さならメラノーマの見逃しも少なかった。一方チャットボットは、ほぼ全員に受診を勧めた。