LaunchDarkly（ローンチダークリー）は、AI Configsのエージェントグラフが一般提供開始となり、機能リリース、実験、ガードレールに既に使われているのと同じ制御プレーンにマルチエージェントワークフロー管理が統合されたと発表した。同社は、マルチエージェントシステムでは複雑なタスクを、それぞれが特定の作業を担当する専門エージェントに分解でき、アプリケーションコードの外でこれらのエージェントを調整することで、システムの規模拡大に伴う可視性とガバナンスが簡素化されると説明した。新しいモデルでは、エージェントグラフの各ノードがエージェントベースのAI Configに対応し、各エッジは1つのエージェントの出力が次のエージェントにどのように流れるかを定義するため、責任、実行順序、再利用の明確なオーケストレーションが可能になる。また、1つのAI Configを複数のグラフで重複なく参照できると発表では述べている。
LaunchDarklyは、LaunchDarkly AI SDKがグラフ構造を解決し、既存のターゲティングルールを使って各エージェントを評価する一方で、実行時の処理はホストアプリケーションまたはフレームワークに任せる方法について説明した。リリースでは、このアプローチにより、ワークフロー定義をコード全体に分散させるのではなく、管理されたコントロールプレーンに保持できるため、アプリケーションを再デプロイすることなくエージェントの動作を可視化および編集できることが強調された。同社は、旅行アシスタントの例を用いてこの概念を説明している。オーケストレーターエージェントがユーザーのクエリーをレストラン、宿泊施設、レジャーなどの専門エージェントにルーティングし、各エージェントが独自のツールを呼び出して情報を収集し、サマライザーエージェントが最終的な応答をまとめる。この構成は、グラフトポロジーによってどの専門エージェントがトラフィックを処理し、サマライザーがどのくらいの頻度で参加するかが分かるため、システム全体の動作を一目で理解できるようにする方法として提示された。
一般提供リリースでは、パフォーマンスメトリクスをグラフの可視化に直接重ね合わせるエージェントグラフ監視機能が追加され、レイテンシー、呼び出し回数、外部ツール呼び出しを、個別のトレースとしてではなく、ワークフロー全体のコンテキストでノードごとに確認できるようになった。この発表では、このような可視化によって、システムがどこで時間を費やしているか、最適化がどこで最も効果的かをチームが迅速に特定できると示唆されている。例として、最も多くのトラフィックと最も多くのツール呼び出しを処理するレストランスペシャリスト、トラフィックがほとんどない宿泊施設スペシャリスト、ほぼ全ての呼び出しで実行されるサマライザーが強調された。LaunchDarklyは、この統合ビューによってトラブルシューティングが迅速化され、エラー率が変動し始めたときに散在する可観測性データをつなぎ合わせる労力が軽減されると述べている。
リリースでは、可視性が運用制御に直接結びついていることがさらに説明された。各ノードの設定（モデル選択、プロンプト、パラメーター）はAI Configs内に存在するため、アプリケーションコードに手を加えたり、新しいデプロイメントを出荷したりすることなく、制御プレーンで変更を加えることができる。発表では、チームがバリエーションを更新したり、フォールバックを設定したり、ターゲティングルールを調整したりすることで、これらの変更がアクティブなトラフィック全体に迅速に反映されることが指摘された。既存のAI Configsの機能も適用される。ガード付きロールアウトを使って変更を段階的に実行したり、フォールバックバリエーションを設定して、審査員のスコアが低下したときに自動的にトリガーされるようにすることで、システムの信頼性を維持したりできる。Python AI SDKでは現在完全なサポートが提供されており、Node.jsのサポートも間もなく提供される予定だ。
出典：LaunchDarkly
この製品の詳細については、LaunchDarkly製品ページをご覧ください。
