AIエージェントに必要なのはプロンプト追加ではなくコントロールフロー

プロンプトの限界

AIエージェントのプロンプトにMANDATORYやDO NOT SKIPと書いたことがある開発者なら、すでにプロンプトベースのアプローチの限界に達しているサインだ。開発者Bryan SuhによるこのHN投稿は552ポイントを獲得し、信頼性の高いAIエージェントには精巧なプロンプトではなく決定論的な制御フローが必要だと主張している。

プロンプトチェーンの問題点

SuhはLLMをステートメントが提案でありハルシネーションしながらSuccessを返す関数を持つプログラミング言語に例える。このような環境では予測可能な動作とローカルな推論はほぼ不可能になる。プロンプトチェーンは非決定論的で仕様が曖昧で検証が難しい。

伝統的なソフトウェアはライブラリ、モジュール、関数の再帰的な組み合わせによってスケールする。プロンプトチェーンにはこの特性が欠けている。

解決策：決定論的スキャフォールド

LLMをシステム全体として扱うのではなく、明示的な状態遷移と検証チェックポイントを持つ決定論的スキャフォールド内のコンポーネントとして配置すべきだ。ロジックは散文からランタイムへ移行しなければならない。

エラー検出の重要性

決定論的なオーケストレーションだけでは不十分だ。積極的なエラー検出がなければエージェントは誤った結論に速く到達する手段になってしまう。常時の人間による監視、事後の徹底検証、検証なしの出力受け入れ——いずれもスケールしない。

まとめ

複雑なエージェントシステムの信頼性はプロンプトの精緻化ではなくソフトウェアアーキテクチャの厳密さから生まれる。552ポイントという高評価がこの主張への共感を示している。