AIセキュリティとは？
脅威アクターは、人工知能（AI）や自動化を活用し、従来の防御側の対応速度を上回る速さでサイバー攻撃を実行します。これに対抗するため、セキュリティ分野でもAIを活用し、脅威検知の高度化やインシデント対応の迅速化を図ることで、攻撃側と防御側の力の差を埋めることが重要です。
%201.svg){kind=logo}
AI セキュリティの定義
AI AIセキュリティには、大きく分けて2つの側面があります。「セキュリティのためのAI（AI for Security）」と、「AIを守ること（Securing AI）」です。前者は「AI活用型サイバーセキュリティ」とも呼ばれ、人工知能や機械学習を用いて、データ、アプリケーション、システムの防御力を高める取り組みを指します。
一方でAIセキュリティは、AIワークロードのセキュリティを意味する場合もあり、AIモデルや機械学習ツールを、そのライフサイクル全体にわたって脅威アクターから保護することを指します。一見すると分かりにくい概念ですが、組織はこの両面をあわせて考える必要があります。AIはセキュリティ対策の高速化に貢献する一方、業務効率化を目的としたAI活用が広がる中で、AIワークロードそのものを保護する重要性も高まっているためです。
「セキュリティのためのAI」を理解する
AIモデルやAIツールは進化を遂げ、組織のセキュリティ体制を強化できる段階に達しています。特にAIによって加速された攻撃は数秒単位で発生するため、防御側には迅速な対応が求められます。AIセキュリティツールは、リスクの分類や優先順位付け、証拠の収集などを支援します。
その選択肢の一つが「エージェント型AI」です。これは、特定の目的やタスクを達成するために、自律的に行動できる新しいタイプのAIです。状況を分析し、複雑な課題をより扱いやすいタスクに分解しながら、目標達成を支援します。
Iセキュリティ分野では、エージェント型AIがクラウド環境を自律的に監視し、利用されているツール、システム、プロセスに関するデータを収集することで、リスクの優先順位付けを行います。こうして得られた情報をもとに、組織に深刻な影響を与えるリスクと、後回しにできるリスクを見極めます。その後、エージェント型AIは、リスクの背景や修正方法に関する提案とともに、セキュリティチームへ重要なリスクを提示します。
「セキュリティのためのAI」が重要な理由
攻撃者の進化に追いつくことは容易ではありません。攻撃はますます高度化しており、脅威アクターはダークAIと呼ばれるAIを利用して、数秒のうちに新たな攻撃を仕掛けています。さらに、組織がハイブリッド環境やマルチクラウド環境へと拡張するにつれ、クラウド環境は一層複雑化しています。その結果、攻撃対象領域（アタックサーフェス）は日々拡大し、人手だけで管理することは困難になっています。
こうした状況において、AIセキュリティはセキュリティチームを支援し、より迅速な対応を可能にします。インシデントやリスクの検知までの時間を短縮し、人では処理しきれない膨大なデータを高速に分析して、攻撃の兆候となる不審なパターンを特定します。さらに、アラート疲れの軽減に貢献するとともに、反復的な作業を自律的に実行することで、セキュリティチームの負担を大幅に軽減します。
AIを保護することのメリット
- インシデント対応時間の短縮：AIセキュリティはクラウドツールからデータを収集し、インシデントに関する包括的なレポートを作成することで、平均解決時間（MTTR）を短縮します
- アラート疲れの軽減：AIは対応が必要な重要アラートのみに絞り込み、それ以外は後回しにすることで、セキュリティチームの負担を軽減します。
- 脅威検知の強化：AIは膨大なデータを高速に分析し、人では見逃したり誤って判断したりしがちな不審なパターンを検出します。
- 定型的なセキュリティ作業の自動化：AIが繰り返し発生する単調な作業を担うことで、セキュリティチームはより戦略的な施策に集中できます。
- 日々の優先順位付けの迅速化：SOCアナリストはAIプロンプトを活用することで、1日の業務を効率的に開始できます。
AIを保護するうえでの課題
AIワークロードを安全に保つことは容易ではありません。主なAIセキュリティリスクには、以下のような課題があります。
- 敵対的AIの悪用：脅威アクターは、モデル反転攻撃、データポイズニング、プロンプトインジェクションなど、さまざまなAI攻撃手法を用いて、データの窃取やAIの無力化を狙います。
- サプライチェーンの複雑化：AIモデルをどこで、どのように保護すべきかを把握することは必ずしも容易ではありません。セキュリティチームは、潜在的な脆弱ポイントを洗い出し、それに備える必要があります。
- 規制・コンプライアンスへの対応：多くの規制はまだ策定段階にある、あるいは未整備であるため、データに関する規制要件を正確に把握することが困難です。
- モデルドリフト：AIモデルの性能は時間の経過とともに低下し、学習データから乖離することがあります。ドリフトを監視し、再学習によってモデル品質を維持することが重要です。
- 意図しないエラーと不正操作の識別：誤ったデータ入力などの偶発的なミスと、意図的な操作や攻撃とを区別し、それぞれがモデル性能に与える影響を見極める必要があります。
AI for security best practices
Iをセキュリティに有効活用するためのベストプラクティスには、以下のような取り組みが含まれます。
- AIセキュリティフレームワークの策定：リスク管理や脅威検知をより効果的に行えるよう、AIをセキュリティにどのように設計・実装・運用するかについて、体系的なフレームワークを整備します。
- MLOpsの適用：機械学習運用（MLOps）を活用し、モデルドリフトの防止やバージョン管理の徹底など、AIセキュリティツールを継続的かつ安定的に運用します。
- 透明性の確保：セキュリティチームにとってAIモデルがブラックボックスであってはなりません。AIの判断や挙動を理解でき、正しく機能していると信頼できる状態を保つことが重要です。
- 人による監督の導入：AIモデルは完全に自律した存在であり続けることはできません。意図どおりに動作しているかを確認するため、人による継続的な監督が必要です。
- 外部からの影響に備えたモデル検証：データポイズニング、バックドア攻撃、モデルの悪用などの脅威に耐えられるよう、AIモデルを継続的にテストし、堅牢性を高めます。
AIセキュリティの未来：エージェント型AI
AIセキュリティはまだ発展途上にありますが、現在利用可能な多くのツールは、必ずしも「セキュリティのためのAI」を実現しているとは言えません。実際には、防御担当者をドキュメントや静的な学習モデル、限定的なスクリプト化されたプレイブックにつなぐだけの、いわばチャットボットに近いものも少なくありません。エージェント型AIは、こうした状況を大きく変えます。
エージェント型AIを活用したクラウドセキュリティにより、組織は事後対応型から予防型へと移行できます。エージェント型AIはアラート数を削減するとともに、リスクトリアージの背景にある理由や文脈を提示することで、重要度の低いノイズに埋もれることなく、セキュリティチームが本当に注視すべき課題を把握できるよう支援します。
Sysdig SageでAI搭載のチームメンバーを手に入れる
脅威環境は急速に変化しており、組織にはそのスピードに対応できるクラウドセキュリティが求められています。 Sysdig SageTM は、攻撃者と同等のスピードで行動できるよう、組織を支援します。もう後手に回る必要はありません。エージェント型クラウドセキュリティを活用することで、ノイズを排除し、リスクの背景にある文脈を理解し、重要な脆弱性を的確に優先順位付けできます。
AIを保護する：AIワークロードセキュリティ
次に、AIワークロードセキュリティとも呼ばれる「AIを保護する」取り組みについて見ていきます。組織は、AIモデルや関連コンポーネントを攻撃や脆弱性からどのように守るべきかを理解する必要があります。AI機能をどこに、どのように導入するかを判断する際には、慎重かつ体系的なアプローチが不可欠です。適切な管理や統制を整えないままAIワークロードを導入すると、意図しないセキュリティリスクを招く可能性があります。
AIセキュリティが重要な理由
AIを保護することが重要なのは、AIモデルが組織にとって重要なデータセットと接続されており、外部に漏えいした場合に深刻な影響を及ぼす可能性があるためです。組織は、AIモデルに入力されるあらゆるデータが安全に保護されていることを確実に把握しておく必要があります。
また、学習データセットには機密情報や知的財産が含まれることが多く、これらは新たな攻撃対象領域（アタックサーフェス）となります。
さらに、AIセキュリティでは、脅威アクターによる外部からの影響を防ぎ、AIモデルが操作・改ざんされないようにすることも重要です。モデルが不正に操作されると、業務上重要なデータの漏えいや、誤った、あるいは悪意ある動作を引き起こす可能性があります。こうしたモデル改ざんは、AIツールを利用不能にするだけでなく、AIそのものへの信頼を損なう原因にもなります。
AIを保護することのメリット
AIワークロードセキュリティの主なメリットは以下のとおりです。
- AIモデルやシステムへの信頼性向上：データポイズニングなどの敵対的AI攻撃の影響を受けていないことを担保し、AIモデルの出力を安心して信頼できるようになります。
- データ漏えいの防止：強固なデータ管理と保護を実装することで、学習データセットやAI経由でアクセス可能なデータの不正な持ち出し（データ流出）を防ぎます。
- 規制・コンプライアンスへの対応：AIに対する強固なセキュリティ対策は、特に規制の厳しい業界において、データガバナンスや関連法規への準拠を支援します。
- 顧客からの信頼向上：十分なセキュリティ対策により、顧客は機密情報を安心してAIモデルに提供でき、組織のAI活用に対する信頼が高まります。
AIを保護するうえでの課題
AIワークロードを安全に保つことは容易ではありません。主なAIセキュリティ上のリスクには、以下のような課題があります。
- 敵対的AIの悪用：脅威アクターは、モデル反転攻撃、データポイズニング、プロンプトインジェクションなど、さまざまなAI攻撃手法を用いて、データの窃取やAIの機能停止を狙います。
- サプライチェーンの複雑性：AIモデルをどこで、どのように保護すべきかを把握するのは必ずしも明確ではありません。セキュリティチームは、潜在的な障害点やリスクを考慮した対策が求められます。
- 規制・コンプライアンスへの対応：多くの規制はまだ策定段階にある、または未整備であるため、データ規制に関する要件を正確に理解することが難しい状況です。
- モデルドリフト：AIモデルの性能は時間の経過とともに低下し、学習データから乖離することがあります。ドリフトを監視し、再学習によってモデル性能を回復させる必要があります。
- 意図しないエラーと不正操作の識別：誤ったデータ入力などの偶発的なミスと、意図的な操作や攻撃とを見分け、それぞれがモデルの性能に与える影響を把握することが重要です。
AIを保護するためのセキュリティベストプラクティス
AIモデル、データセット、APIを保護するための主なAIセキュリティのベストプラクティスは以下のとおりです。
- AI部品表（AIBOM）の作成：ソフトウェア部品表（SBOM）と同様に、AIモデルに関連するすべてのコンポーネント、依存関係、データセットを把握することで、重大なCVEの修正箇所を特定しやすくなります。
- モデルのハードニング：AIモデルをサイバー攻撃の事例にさらすことで、脅威に対する耐性を高めます。
- AIパイプラインの保護：データ収集から学習、デプロイに至るまで、AIモデルのライフサイクル全体にわたってセキュリティ制御を適用します。
- APIおよびエンドポイントの保護：多層防御を採用し、AIシステムと接続するAPIやエンドポイントの安全性を確保します。
- 定期的な監査の実施：AIの学習に使用されるデータを把握し、モデルへの変更を記録するとともに、モデルドリフトやその他の問題を継続的に監視します。
- OWASP Top 10の活用：OWASP（Open Web Application Security Project）が公開している、大規模言語モデルを保護するためのトップ10のセキュリティ観点を参考にします。
- 強固なアクセス制御の導入：ロールベースアクセス制御（RBAC）や最小権限の原則などのIDおよびアクセス管理（IAM）を用いて、データセット、API、エンドポイントを保護します。
- レート制限の実装：クエリ数を制限することで、モデル反転攻撃などのリスクを軽減します。
- 規制要件への準拠：NIST AIリスク管理フレームワークやISO/IEC 42001など、AI関連のフレームワークに沿ってセキュリティ対策を整備します。
SysdigでAIワークロードを安全に保つ
組織が業務プロセスの中でAIや機械学習をどのように、そしてどこに導入すべきかを模索している今、AIセキュリティの重要性はこれまで以上に高まっています。敵対的AIをはじめとするさまざまなAI脅威は、AIモデルへの信頼を損ない、顧客によるAI導入の意欲を低下させる可能性があります。
Sysdigは、AIモデルのリソース使用状況や悪意ある挙動を示す異常を包括的に監視する機能、不審な動作や不正アクセスを検知するランタイムセキュリティ、そして業界の規制や標準への準拠を維持するためのコンプライアンス管理を含む、AIセキュリティを提供します。
SysdigのAIワークロードセキュリティは、ワークロードおよび学習データセットに対するエンドツーエンドのセキュリティと完全な可視性を、組織にもたらします。