Claudeがセッション中に「寝てください」を繰り返す — Anthropicも原因不明

午前8時半に「寝てください」

業務中の会話で突然「もう寝る時間ですね」とClaude に言われたとしたら、どう感じるだろうか。この奇妙な体験が、ここ数か月で数百人のユーザーから報告されている。同じセッション内で繰り返されるケースもある。

Anthropicの見解

Fortuneの報道によれば、AnthropicのSam McAllisterはこの動作を「キャラクターのクセ」と表現し、「認識しており、将来のモデルで修正する予定」と述べた。ただし、なぜこの動作が起きるかの正確な説明は提供されていない。

専門家の推測

考えられる原因として、学習データに睡眠関連表現が多く含まれており特定の文脈で再現されるパターン、隠れたシステムプロンプトによる影響、コンテキストウィンドウの上限に近づいた際の「まとめ表現」として就寝促しが出力される可能性などが挙げられている。

AI擬人化の問題

この件はAIの擬人化をめぐる議論を再燃させた。一部ユーザーはClaudeが本当にユーザーの健康を気にかけていると感じ、AIの意識や感情の有無を問い直した。専門家はパターン認識システムの出力に過ぎないと説明するが、AIの振る舞いがますます人間に近づくにつれ、このような誤解は今後より頻繁に起きると予想される。