セキュリティー環境は現在、大きな変革期を迎えている。AI、特にエージェント型AIの企業システムへの統合は、セキュリティー専門家にとって課題と機会の両方をもたらしており、今や企業のワークフローに不可欠なAIアシスタントは、サイバー攻撃者の主要な標的になりつつある。O’Reilly（オライリー）は、Black Hat USA 2025コンファレンスから、その実情を以下のようにレポートした。
コンファレンスで最も懸念されたプレゼンテーションの一つは、ZenityのMichael Bargury氏によるものだったという。同氏は、ChatGPT、Gemini、Microsoft Copilotといった主要AIプラットフォームに影響を与える、これまで知られていなかったエクスプロイト手法を実演した。これらの調査結果は、AIアシスタントが堅牢なセキュリティー対策を講じていても、システム侵害の経路となる可能性があることを浮き彫りにしている。組織が生産性向上のためにAI機能を強化するにつれ、これらのツールによる機密データやシステムへのアクセスも拡大している。この拡大により、新たな攻撃対象領域が生まれ、防御すべきサプライチェーンはより複雑化している。
興味深いことに、従来のセキュリティー原則は、この新たな環境においても依然として有効だ。Kudelski SecurityのNathan Hamiel氏とNils Amiet氏は、AIを活用した開発ツールが、既知の脆弱性を現代のアプリケーションに意図せず再導入してしまうことを実証した。彼らの調査結果は、基本的なアプリケーションセキュリティーの実践がAIセキュリティーの基本であり続けることを示唆している。
今後、脅威モデリングはますます重要になると同時に、より複雑化している。セキュリティーコミュニティーは、MAESTROやNISTのAIリスク管理フレームワークなど、AIシステム向けに特別に設計された新しいフレームワークで対応している。今年のコンファレンスで開始されたOWASP Agentic Security Top 10プロジェクトは、AI特有のセキュリティーリスクを理解し、対処するための構造化されたアプローチを提供する。
セキュリティー専門家にとって、今後の道のりはバランスの取れたアプローチを必要とする。強固な基盤を維持しながら、AI特有のセキュリティー課題に関する新たな専門知識を習得していく必要がある。組織は、従来の脆弱性と新たなAI特有の脅威の両方を考慮し、この新たな視点からセキュリティー体制を再評価する必要がある。
総じてBlack Hat USA 2025での議論は、AIが新たなセキュリティー課題をもたらす一方で、防御戦略におけるイノベーションの機会も提供するという点を明確に示した。Mikko Hypponen氏の基調講演では、過去30年間のサイバーセキュリティーの進歩を歴史的観点から振り返り、セキュリティーはかつてないほど向上しているだけでなく、AIの活用における先行性を生かす態勢が整っていると結論づけた。Black Hatは懸念材料を強調する傾向があるが、全体として見ると、今年のプレゼンテーションは楽観的な見方ができる理由も数多くあることを示したという。O'Reillyは、個々の成功は、セキュリティーチームが既存のプラクティスをいかにうまく適応させながら、AIシステム向けに特別に設計された新しいアプローチを取り入れられるかにかかっているだろう、と結んでいる。
レポート全文はこちら
出典：O'Reilly
この製品の詳細については、O'Reilly製品ページをご覧ください。
