AI部品表（AIBOM：AI Bill of Materials）とは？

AIBOMの定義

AI部品表（AIBOM：AI Bill of Materials）とは、AIモデルやAIを利用するソフトウェアを構築するために使用されているすべてのコンポーネントを網羅的に一覧化したものです。AIBOMにより、組織はコンポーネント、ライセンス、依存関係を正確に把握・追跡・更新・管理できるようになります。これにより、職場で利用されるAIモデルの可視性が高まり、組織全体のセキュリティ態勢の強化につながります。

AIモデルやツール、ソフトウェアは、他のアプリケーションと同様に、構成要素・ライブラリ・依存関係を正確に把握する必要があります。AIBOMを活用することで、組織はAIモデルを安全に保ち、ビジネスクリティカルなデータを保護するために必要なセキュリティツール、ポリシー、プロセスが適切に整備されていることを確認できます。

多くの組織ではすでに、「ソフトウェア部品表（SBOM）」を活用して安全なソフトウェア開発ライフサイクル（SSDLC）を確立し、サプライチェーンリスクの低減に取り組んでいます。ソフトウェアを構成するコンポーネントや依存関係を把握することで、セキュリティチームは脆弱性を迅速に特定し、修正できるようになります。‍

AIBOMが重要な理由

AIツールを構成するコンポーネントを正しく理解することは、組織が業界規制に適合し、AIガバナンスフレームワーク（EUのAI法や米国各州の法規制など）を遵守するうえで不可欠です。EUのAI法は2027年に全面施行され、データの透明性と品質、説明責任、継続的な監視が求められます。

AIBOMは、AIモデルやAIツールに関する透明性を高める役割を果たします。組織は、データの来歴（データリネージ）、アルゴリズム、データソースなど、AIモデルの内部構成を把握しておく必要があります。

こうした情報を基に、セキュリティチームはモデルの系譜、データの出所、依存関係を文書化し、継続的な可視性を維持できます。AIBOMは、AIモデルや基盤に対する脅威検知やセキュリティポスチャー管理の実装を容易にします。

さらに、AIBOMは「誰がどのコンポーネントを構築したのか」「誰が更新・設定・保護の責任を負うのか」といった説明責任の明確化にもつながります。これにより、セキュリティチームやDevOpsチームは脆弱性をより迅速に修復でき、各コンポーネントの責任所在を明確にした運用が可能になります。

AIBOMが軽減に役立つAIセキュリティリスク

他のソフトウェアと同様に、AIモデルにも注意すべきリスクや脅威があります。AIBOMは、以下のようなAIセキュリティリスクの把握と対策に役立ちます。

• データポイズニング：脅威アクターが学習データに悪意のあるデータを混入させ、モデルの判断を誤らせたり、バイアスやバックドアを生み出したりする攻撃。
• プロンプト漏えい：プロンプトインジェクションの一種で、既存のセーフガードを回避するようAIの指示を操作する手法。
• LLMジャッキング：盗まれた認証情報などを用いてAIモデルへ不正アクセスし、悪意あるモデルの学習や暗号資産のマイニングなどにリソースを乗っ取る攻撃。
• データセットの侵害：公開データセットに敵対的データが混入され、多くの利用者にとって出力の信頼性が低下するリスク。
• フレームワークの脆弱性：一般的に使われるAI開発ライブラリの脆弱性を悪用し、組織のシステムを侵害する攻撃。
• モデル反転（モデルインバージョン）：繰り返しクエリを投げ、その出力から学習データを推測し、機密情報や独自情報を再構築する攻撃。

AIBOMによってAIモデルの構成要素や依存関係を可視化することで、これらのリスクを早期に特定し、適切な対策を講じやすくなります。

AIBOMを活用するメリット

AIBOMは、組織に高い透明性をもたらし、適切なセキュリティポリシーや制御の策定を可能にします。その他の主なメリットは以下のとおりです。

• コンプライアンスとガバナンス：AIモデルを構成するすべての要素を把握することで、現在および将来の規制への準拠を確実にします。AIBOMは監査プロセスを円滑に進めるうえでも有効です。
• 説明責任の明確化：各コンポーネントの所有者や責任範囲を明確にし、運用・更新・セキュリティ対応の責任所在をはっきりさせます。
• AIの再現性向上：モデル構成や依存関係を正確に記録することで、再現性の確保や検証を支援します。
• バイアス検出の迅速化：トレーサビリティが向上し、データやアルゴリズムに起因するバイアスをより早く特定・修正できます。

AIBOMの課題

AIBOMには多くの利点がある一方で、次のような課題も存在します。

• 標準化の不足：現時点では、AIモデルをインベントリ化するための統一された方法が確立されておらず、セキュリティ制御やポリシー設計に影響を与える可能性があります。
• 複雑性の増大：AIモデルは一般的なソフトウェアやインフラよりも複雑で、構成要素も継続的に進化します。そのため、効果的な管理が難しくなります。
• 透明性と機密性のバランス：AIBOMは詳細な来歴（プロビナンス）の可視化を促しますが、その情報が独自の知的財産や機密情報の露出につながる恐れもあります。また、透明性が限定的なサードパーティ製モデルでは、AIBOMの完全性を担保できない場合があります。

保護すべきAIモデルの構成要素

SBOMはソフトウェアライブラリを包括的に可視化しますが、AIBOMはそれをさらに拡張します。AIBOMには、AIモデルやツールを実行するための物理インフラに加え、信頼境界、データソース、依存関係などの非物理レイヤーも含めることができます。

AIBOMをどこまで詳細に作成するかは組織の方針によって異なります。SBOMと同様に、BOMへどの程度の情報を含められるか、また含めるべきかを事前に定めることが重要です。AIBOMはSBOMと共通点があり、NISTは以下の情報の記載を推奨しています：モデルの出所とバージョン、性能指標、依存関係、ライセンス情報、データソース、データの種類および分類。

AIBOMはSBOMよりも複雑で、AIモデルのインベントリには、例えば次のような要素が含まれます。

• 物理ハードウェア：GPU、CPU、NPU、TPU、メモリ、サーバー、ネットワーク、ストレージ機器
• コンテナ化コンポーネント：ベースイメージ、PyTorchやTensorFlowなどのライブラリ
• ランタイムとフレームワーク：学習パイプライン、推論サーバー、ライブラリ、独自コード
• モデル成果物：モデル、アルゴリズム、パラメータ、バージョン
• データセット：モデル名、形式、分類、バージョン、来歴（プロビナンス）
• インターフェースとプロトコル：API、モデルのユーザーインターフェース、トークン化プロセス、プロトコル要素

なお、サードパーティ製AIモデルを利用している場合、ランタイムやコンテナレベルの詳細など、すべての情報を取得できないケースがある点にも留意が必要です。

AIBOMでAIの可視性を確保

AIをブラックボックスのままにしてはいけません。AIBOMを活用することで、内部のすべての依存関係やライブラリをインベントリ化し、リスクがどこに存在するのかを正確に把握し、資産を安全に保つことができます。AIには、モデルドリフトやデータセットの汚染といった新たな脅威が伴うため、SBOMの取り組みをAIモデルにも拡張することが重要です。

AIBOMに関する完全ガイド（英語版）では、AIの可視性とガバナンスのベストプラクティス、AI特有のリスク、そしてAIモデルが稼働するクラウドネイティブでコンテナ化されたスタックについて詳しく解説しています。ぜひご覧ください。