JFrog（ジェイフロッグ）は、JFrog AI CatalogがNVIDIA NIMモデルを他のアーティファクトと同様のガバナンスの下に置くことで、別途レジストリーの必要性をなくし、モデルがチェックされないまま環境に流入することを許していたガバナンスのギャップを解消したと発表した。
JFrogは、開発者やコーディング担当者がNVIDIAのNGCレジストリーからNIMモデルを直接取得していたことを指摘し、これは組織が長年かけて構築してきたサプライチェーン管理を回避する行為だったと付け加えた。また、4社のうち3社が1年以内にエージェント型AIを導入する予定であり、多くのチームはガバナンスがNIMモデルに適用される以前から既にNIMモデルを使っていたとも述べている。
JFrogは、サプライチェーン外で消費されるモデルは、スキャンもバージョン管理も監査もされていない状態で届くため、数年前にDockerイメージ、npmパッケージ、Maven依存関係で対処されたのと同じリスク状況が再び発生すると説明した。また、このような監視体制の欠如により、セキュリティーチームやプラットフォームチームは、どのモデルが特定のリリースで出荷されたかを追跡するために必要な記録を得られなくなると警告した。
NIMモデルをNGCから直接取得する場合、キュレーションポリシーへの準拠評価、Artifactoryバージョンレコードの作成、監査証跡の生成など、いくつかの重要なチェックが省略されると指摘した。さらに、こうした盲点は、モデルが本番環境に導入され、どのアーティファクトがデプロイされたのかを誰かが尋ねるまで気付かれない可能性があると付け加えた。
この文書では、JFrog AI CatalogがNIMモデルをネイティブな第一級の成果物として扱い、他のバイナリーと同様の管理、バージョン管理、セキュリティー対策を施していることを説明した。また、以前はNGCから直接取得したモデルが検証されずに開発者に渡っていたのに対し、現在はカタログによってモデルが許可されリストと照合されてから利用可能になるという、両者の違いについても概説した。
カタログは、NVIDIA NIMモデルとHugging Faceモデルを単一のビューで表示し、完全なメタデータ、バージョン履歴、およびガバナンスステータスを可視化することで、統合された検出機能を提供すると述べた。また、各モデルにはセキュリティーチームまたはプラットフォームチームによって設定された明示的な許可またはブロックの指定があり、キュレーションポリシーとロールベースのアクセス制御によって他の依存関係と同様の方法で使用が保護されると付け加えた。
同社は、発見からデプロイまでのプロセスは迅速に行えるように設計されていると説明した。具体的には、生成されたDockerログインコマンドによる認証、ガバナンスステータスが表示されたモデルの閲覧、そして提供されたDockerコマンドを使ってArtifactory経由でローカルまたはKubernetes上でモデルをプルまたは実行する、という手順である。認証とデプロイの手順はコピー＆ペースト可能なコマンドとして提示されるため、開発者や自動化エージェントは、ガバナンスがバックグラウンドで透過的に実行される間、数分以内に発見からコード実行へと移行できると説明した。
JFrogによると、NVIDIA NIMモデルは、JFrog XrayとCurationによって適用される単一のロールベースのアクセス制御モデル、監査証跡、ポリシーセットの下で、Artifactory内の他のAIアセットと共存するようになったとのことだ。また、この変更により、既存のソフトウェアサプライチェーンプラットフォームが拡張され、これまで対象外だったAIアーティファクトもカバーされるようになったとも説明されている。JFrogは、NIMモデルを使っている、または使用を計画している組織に対し、サプライチェーンガバナンスの下に置くよう促している。
出典：JFrog
この製品の詳細については、JFrog製品ページをご覧ください。
