マルチエージェント・ワークフローは、現在GitHubを席巻しています。開発者は大規模言語モデルを連鎖させ、各エージェントに特定の専門分野を割り当て、単一のモデルでは対処できないタスクに取り組むために、それらの出力をオーケストレーションしています。その結果は素晴らしいものになり得ます。あるエージェントが調査し、別のエージェントが下書きを作成し、3番目のエージェントが事実を確認し、4番目のエージェントが最終的な出力をフォーマットします。しかし、そうした調整の裏には、脆弱な依存関係が潜んでいます。もし、人間の入力をマシン読み取り可能な指示に変換するという最初のステップが遅かったり不正確だったりすると、チェーン全体が崩壊します。後続のエージェントはゴミを修正することはできません。それを伝播させることしかできないのです。

このボトルネックを解消するのがIflytek/domuxです。これは、まさに一つの重要なタスク、すなわち「高速なコマンド理解」のために構築されたオープンソースモデルです。エッセイを生成したり、自由な会話を行ったりするのではなく、domuxは自然言語を解析し、他のエージェントが即座に利用できる厳格で構造化されたデータをエクスポートします。スマートホームハブから産業用制御パネルまで、リアルタイムの構造化入力が必要なあらゆるシステムが、知覚レイヤーとしてこれを利用できます。

チェーンにおける最弱のリンク

ユーザーが「ここをもっと明るくして」といった単純なコマンドを出した場合に何が起こるかを考えてみましょう。マルチエージェントのセットアップでは、その発言は照明コントローラー、エネルギーモニター、セキュリティロガーを通過する必要があるかもしれません。もし初期のパーサーが「ユーザーはもっと光を欲しがっている」といった曖昧な文章を返すと、その後のすべてのエージェントがその意味を再解釈しなければならなくなります。正確なパラメータを待って停止してしまうものもあれば、部屋や明るさのレベルを推測して間違えてしまうものもあるでしょう。ワークフローは停止してしまいます。

レイテンシは問題をさらに悪化させます。入り口の部分で数百ミリ秒の解析遅延が加わると、情報が3番目のエージェントに届く頃には、システムはすでに壊れているように感じられます。リアルタイムの環境では、開始の遅れは許されません。開発者は、オーケストレーション・フレームワークがアーキテクチャ図の上では美しく見えても、曖昧な入力や遅い入力が与えられると崩壊することに気づき始めています。ワークフローの残りの部分が考え始める前に、コマンドを標準化する専用のレイヤーが必要なのです。

Domuxはそのレイヤーとなるように設計されています。乱雑な人間の言語を受け入れ、後続のエージェントがグラウンドトゥルースとして扱えるクリーンなスキーマに変換します。

スピード、構造、そして正確性

このプロジェクトは、プロダクション環境の動作に直接影響を与える3つの特性を掲げています。

第一に、150ミリ秒未満で応答します。この閾値は重要です。インタラクティブな設定では、0.25秒未満の応答は瞬時であると感じられますが、1秒に近づくものはユーザーにツールの放棄を学習させてしまいます。入力が音声であれチャットインターフェースであれ、domuxはパイプラインを動かし続けます。

第二に、入力を厳格な7フィールドのスキーマにマッピングします。後続のシステムがデコードするための自由形式のテキストは存在しません。すべてのコマンドは予測可能なカラムに割り当てられます。

第三に、100%のフォーマット遵守とともに、98.37%の正確性を謳っています。正確性とは、モデルが通常ユーザーを正しく理解することを意味します。フォーマット遵守とは、出力が毎回構造的に有効であることを意味します。99%正確であっても、時折フィールドを落としたり新しいフィールドを捏造したりするパーサーは、自動化されたチェーンにおいてはリスクとなります。一つの不正な行が、コンシューマーエージェントをクラッシュさせる可能性があるからです。

実際の出力は以下のようになります。モデルがコマンドを処理すると、パイプ区切りのレコードを返します。

action|device|attribute|value|unit|room|floor
turnOn|light|brightness|80|percent|living room|ground floor

このフォーマットは意図的なものです。パイプ区切りのテキストは、重い依存関係なしに、あらゆるプログラミング言語で容易に解析できます。JSONの肥大化や、ネストされたシリアライゼーションによるレイテンシを回避できます。照明エージェントはactionとdeviceのカラムを読み取って即座に行動できます。ロギングエージェントは、別の推論パスを実行することなくroomとfloorを抽出できます。この構造は、設計段階から曖昧さを排除しています。

乱雑な人間の意図の処理

実際の人々はAPIドキュメントのように話すわけではありません。「もっと明るくして」や「ここを暖かくして」といった言い方をします。脆弱なパーサーではこれに対応できません。Domuxは、意図を調整アクションにマッピングし、正確な値の解決は後続のシステムに任せることで、曖昧さを処理します。もし誰かが「もっと明るくして」と言えば、モデルはそのアクションを明るさの増加として特定します。具体的な数値レベルは、現在の読み取り値、時刻、または