NinjaOne(ニンジャワン)は、IT運用におけるAI導入時の統制と安全性を担保する仕組みを解説した記事「Katana AI Governance: How NinjaOne Keeps IT Teams in Control」を公開した。現在早期アクセス段階にある「Katana AI」について、自律的なスクリプト実行を制限する承認フロー、既存の権限モデルの継承、技術者単位でのアクセス制御、監査ログ、および組織全体の緊急停止機能(キルスイッチ)といったガバナンス設計の詳細を提示している。
[既存権限(RBAC)の継承と厳格なデータ保護]
Katana AIは、利用する技術者またはサービスアカウントに割り当てられた既存のロールベースアクセス制御(RBAC)をそのまま引き継いで動作する。
・閲覧範囲の制限:技術者自身がアクセスできないデバイス、組織、顧客環境のデータをKatana AIが表示することはない。MSP環境においては、担当する特定クライアントのデータのみに基づいて要約や推奨が生成される。
・データ分離とモデル学習の禁止:顧客自身のNinjaOne環境内のデータのみを参照し、他社データや未検証の外部ウェブリソースを参照しない。また、顧客データがNinjaOneエコシステム外のモデル学習に利用されることもない。
[技術者による承認を前提とした実行モデル]
AIによる誤動作や予期せぬ変更を防ぐため、完全な自律実行を行わない設計を採用している。
・人間による介在(Human-in-the-loop):Katana AIは次の対処手順やスクリプトを「推奨」するにとどまり、エンドポイント上で処理を実行するには技術者による明示的な事前承認を必須とする。
[きめ細かいアクセス制御と監査追跡]
導入の拡大フェーズに応じた柔軟な運用と、監査に対する説明責任を果たす機能を備えている。
・技術者単位の制御(Per-AI controls):組織内のどの技術者にKatana AIの利用を許可するかを個別に設定可能。MSPの管理者がクライアント対応ごとに利用者を限定するといった制御ができる。
・全決定の監査ログ記録:提示された推奨内容、実行されたアクション、および承認者の情報が全てログとして保存され、クライアントや経営陣への証跡提示に対応する。
・グローバルキルスイッチ:万が一のトラブルや緊急時に、プラットフォーム全体でKatana AIの機能を即座に一括停止できるキルスイッチが用意されている。
出典:NinjaOne
この製品の詳細については、NinjaOne製品ページをご覧ください。