JFrog（ジェイフロッグ）は、生成AIを活用したコーディングエージェントのトークン消費量を劇的に削減し、開発コストを最適化するためのツール「Boost」のパブリックプレビューを開始した。今回のリリースにより、開発者はAIの精度やパフォーマンスを損なうことなく、不要なコンテキストの読み込みによるコストの肥大化やAPIの利用制限を回避することが可能となる。
AIコーディングの現場では、入力コンテキストがAIの利用料金全体の約70％を占めており、その大部分が開発に関係のない不要なデータであるという課題があった。例えば、テスト失敗時に膨大なログを出力してAIに読み込ませるケースや、あいまいな検索によって大量の無関係なコードを何度も再読み込させるケースが挙げられる。また、トークンを節約するために単純なテキストの切り詰めを行うと、AIが前後の文脈を見失って同じ環境確認コマンドを何度も繰り返すという別の無駄が発生していた。
これらの課題に対処するため、Boostはコマンドの先頭に付与するだけで、AIに渡すデータを最適化する仕組みを導入した。具体的には、AIに対してBoostの動作原理を理解させ、自律的に連携させるためのプロンプト「boost skill」と、フィルタリングされた元の全データを履歴から即座に再取得できる「boost retrieve」という2つの機能を実装した。これにより、AIは必要なときだけ詳細なデータにアクセスできるようになり、無駄なトークン消費を抑制している。
このツールは、既にJFrogの社内にある1000人以上のエンジニアで構成される研究開発組織に導入されており、これまでに合計で1000億トークン以上の削減を達成している。なお、Boostが収集するのはトークン数やエラー情報などの生産性向上に関わるメタデータのみであり、ソースコードや会話の内容といった機密データは一切収集・送信されない。パブリックプレビュー期間中は無料で提供される。
出典：JFrog
この製品の詳細については、JFrog製品ページをご覧ください。
