エージェント型検索（Agentic retrieval）は、従来の検索拡張生成（RAG）パイプラインの次なるステップとして注目されており、ハルシネーションを抑え、情報をどのように取得すべきか「思考」するプロダクションAIシステムの実現を約束します。推進派によれば、この手法は、大規模なドキュメントコレクションに対してクエリに回答するコストを、コーパス全体をモデルのコンテキストウィンドウに投入する場合と比較して最大82倍削減できるとしており、生成AIをスケールさせようとするあらゆる企業にとって重要な節約となります。

なぜ従来のRAGパイプラインは不十分なのか

クラシックなRAGのワークフローは、ドキュメントをチャンクに分割し、各チャンクを密なベクトル空間にエンベディングし、ユーザーのクエリに対してスコアの高いベクトルを抽出するという、固定された一連の手順に従います。デモでは、モデルがいくつかの「関連する」一節を受け取り、自信を持って回答するため、この手法は整然として見えます。しかし、プロダクション環境では、その自信が的外れであることも少なくありません。

3つのシステム的な欠陥がこの問題を引き起こしています：

  • ベクトル類似度 ≠ 関連性。 2つの文章は数学的には近くても、正反対の事実を述べていることがあり、モデルが誤った主張を引用してしまう原因となります。
  • 断片化による事実の分断。 固定されたチャンク分割は、しばしば単一の記述を真っ二つに切断してしまいます。モデルがその半分しか受け取れない場合、欠落した部分を再構成することはできません。
  • 複雑なクエリ。 実世界の質問は、ほとんどのエンベディングモデルの学習データとは乖離しているため、類似性検索が関連のないチャンクを返してしまうことがあります。

パイプラインが誤ったコンテキストを返しても、後続の言語モデルは依然として（しばしば高い確信度を持って）回答を生成してしまい、システムはエラーを出しません。その結果、「サイレント・ハルシネーション（静かなる幻覚）」、つまりライブサービス中では検出が困難な、音もなく起こる失敗が発生します。

ハイブリッド検索：段階的な修正策

一般的な対応策は、密なベクトルにキーワード検索を重ね合わせ、エンベディングでは見逃される正確な用語の一致を捉えることができるハイブリッド・リトリーバーを作成することです。さらに、学習済みの関連性スコアに基づいて取得リストを並べ替える第2のモデルである「リランカー（reranker）」を追加することで、精度をさらに向上させることができます。

しかし、ハイブリッド検索も依然として静的なスクリプトに従っています。難易度や不確実性に関わらず、すべてのクエリが同じ一連の手順をトリガーします。パイプラインは、さらなるデータが必要かどうか、複雑な質問をどのようにサブクエリに分解すべきか、あるいは取得したスニペットが不十分であるかどうかを判断することができません。

エージェント型検索は検索を意思決定プロセスとして扱う

エージェント型検索は、この問題を、人間のリサーチャーを模倣する自律的な「エージェント」による一連の意思決定として再定義します。エージェントは以下のことが可能です：

  • クエリの書き換え。 検索前に口語的な表現や曖昧な言い回しを正規化することで、検索モデルが意図を理解できる確率を高めます。
  • 検索の必要性を判断する。 単純なクエリに対してはエージェントが直接回答し、トークンを節約して不要なノイズを回避します。
  • マルチステップ検索の計画。 複雑な質問を小さなサブクエリに分解し、それぞれを独立して検索した後に再結合します。
  • 自己修正。 初期の検索結果が弱い場合（例：信頼度スコアが低い、または矛盾する証拠がある場合）、エージェントは異なる表現でクエリを再発行するか、検索範囲を広げます。

コスト論争：ロングコンテキスト vs. 検索

コンテキストウィンドウの巨大化によって検索は不要になると主張する論者もいます。これに対する現実的な反論は、膨大なコーパスをモデルのコンテキストに投入するコストは、焦点を絞った検索よりも桁違いに高いということです。見積もりによれば、大規模なデータセットにおいて、検索は正確な回答に必要なコンテキストの根拠を提供しつつ、8倍から82倍安価です。ロングコンテキストウィンドウは、厳選された少数のドキュメントセットに対する微細な推論には依然として有用ですが、スケーラブルな検索に取って代わることはできません。

透明性と検証

プロダクショングレードのAIアシスタントは、その情報源を明示しなければなりません。エージェント型検索は、各主張に引用を付与できるため、人間のレビュアーがファクトチェックのプロセスを検証できます。この「作業過程を示す（show-your-work）」アプローチは、信頼を構築し、エージェントが将来のやり取りで回避することを学習できるような、脆弱な検索経路を浮き彫りにします。

今後の注目点

  • ツール群
  • 評価基準
  • エンタープライズ向けのパイロット運用

結論

エージェント型検索は、多くのデモで主流となっている、静的でエラーの起こりやすいRAGパイプラインの先へと進みます。AIシステムに「いつ、どのように検索するか」を判断させることで、トークンの使用量を抑え、コストを劇的に削減し、そして極めて重要な点として、すべての回答に対して検証可能な情報源を提供します。