大手ソフトウェア企業であるJFrog（ジェイフロッグ）は、ソフトウェアサプライチェーンプラットフォームにおけるAIガバナンス機能の拡張を発表した。「Shadow AI Detection」と呼ばれるこの新機能は、JFrog swampUP Europeで発表された。この革新的な機能は、企業がAIサプライチェーン全体を統制し、セキュリティーを確保するために必要な可視性と制御を提供するように設計されている。AIモデルとAPIの無制限の使用、いわゆるシャドーAIから保護することを目的としている。これは、セキュリティーとコンプライアンスに重大なリスクをもたらす可能性がある。
シャドーAIは、イノベーションとセキュリティーのバランスを重視するCIOとCISOにとって、ますます大きな懸念事項となっている。シャドーAI検出機能の導入は、JFrogがAIサプライチェーンのセキュリティーをあらゆる角度から強化するための戦略的な取り組みだ。これにより、開発者にとって使いやすく、堅牢なセキュリティーとガバナンスを備えたワークフローを構築することで、企業はAIを安全かつ責任を持って活用できるようになる。
開発パイプライン全体にわたるAIの急速な統合は、組織にとって大きなガバナンス上の課題となっている。開発者やデータサイエンスチームは、組織の監督なしに、プロバイダーから提供されたAIモデルやサービスを直接統合することがよくある。シャドーAIと呼ばれるこの管理されていない活動は、企業をコンプライアンス違反、データ漏洩、サプライチェーン攻撃などの脅威にさらす危険な盲点を生み出す可能性がある。
JFrogのShadow AI Detectionは、組織全体で利用されている全ての社内AIモデルと外部APIゲートウェイを自動的に検出し、インベントリー化することを目的としている。これには、承認済みおよびアドホックなサードパーティーソースの両方が含まれる。これらのモデルとサービスが検出されると、一元管理が可能になり、チームは全てのAI資産にセキュリティーとコンプライアンスのポリシーを適用できる。また、これにより、承認されたユーザーがサードパーティーのAIサービスにアクセスして利用するための明確なパスを確立し、制御された、完全に監査可能なインタラクションを確保できる。
世界的な規制の台頭やセキュリティーリスクの高まりにより、AI活動の完全な監査証跡の必要性はますます高まっている。JFrogの新しいAI検出機能は、米国の「フロンティアAI透明性法」、EUサイバーレジリエンス法、EU AI法、ドイツのBSIガイドライン、EUのNIS2、AIシステムのセキュリティー確保に関するガイドラインとコンパニオンガイドなど、主要なフレームワークに準拠したコンプライアンスとセキュリティーの維持を支援するように設計されている。これらの規制は、責任あるAI開発の確保、厳格なリスク管理と報告基準の適用、ソフトウェアコンポーネントの可視性の義務付け、そして設計から展開までAIシステムのセキュリティー確保を目的としている。
AIガバナンスとセキュリティーの複雑な状況を乗り越える組織を支援するための重要な一歩であるJFrogのShadow AI Detectionは、JFrog AI Catalogの一部として利用できるようになる予定だ。AIサプライチェーンを効果的かつ責任を持って管理するために必要なツールを組織に提供する。
出典：JFrog
この製品の詳細については、JFrog製品ページをご覧ください。
