Sysdig、アクティブAIリスクを軽減するAIワークロードセキュリティを発表

企業が自社のAIワークロードを可視化し、アクティブなリスクや疑わしい活動をリアルタイムで特定することで、新たなAIガイドラインへのコンプライアンス確保に貢献

＜このプレスリリースは4/30/2024に米国で発表されたリリースの抄訳です＞

4/30/2024 - 米国カリフォルニア州サンフランシスコ発  –ランタイム・インサイトの力を活用したクラウド・セキュリティのリーダーであるSysdigは、AI環境に関連するアクティブ・リスクを特定・管理するAIワークロード・セキュリティの提供開始を発表しました。Sysdigのクラウド・ネイティブ・アプリケーション・プロテクション・プラットフォーム（CNAPP）に追加されたこの新機能により、企業のセキュリティチームはAI環境の現状を把握・理解し、AIパッケージを含むワークロード上の不審な活動を特定し、AIへの法規制に先駆けて問題を迅速に修正することが可能となります。

Sysdig Inc. 製品管理担当SVP、Knox Anderson（ノックス・アンダーソン）のコメント:

「SysdigのCNAPPにAI ワークロードセキュリティが追加されたのは、企業がAIの力を活用し、ビジネスを加速できるよう、AIの安全な導入を支援するソリューションに対する多くのニーズに応えたものです。AI ワークロードセキュリティを利用することで、企業は自社のAI基盤を把握し、使用中のAIパッケージを含むワークロードや、一般に公開され、悪用可能な脆弱性を持つワークロードなど、アクティブなリスクを特定することができます。AIワークロードは悪意のある者にとって格好の攻撃対象であり、AIワークロードセキュリティによって、セキュリティ担当者はこれらのワークロード内の不審な活動を検出し、AIモデルやトレーニングデータに対する差し迫った脅威に対処することができます。」

KubernetesはAIのデプロイメント・プラットフォームとして選ばれるようになりました。しかし、コンテナ化されたワークロードは、その刹那性からデータの保護とアクティブリスクの軽減が困難です。機密性の高いトレーニングデータの侵害につながりかねない悪意のあるアクティビティやランタイムイベントを理解するには、ランタイムの可視性を備えたリアルタイムソリューションが必要です。Sysdig CNAPPは、クラウドにおける脅威検知の標準であるオープンソースのFalcoを土台にワークロードがクラウドにあるかオンプレミスにあるかに関係なく、Kubernetesクラスタのようなクラウドネイティブなランタイムセキュリティのために設計されています。

リアルタイムAIワークロードセキュリティの導入により、Sysdigは、OpenAI、Hugging Face、Tensorflow、Anthropicなどの主要なAIエンジンやソフトウェアパッケージを使用しているワークロードを即座に特定し、優先順位を付けることができます。Sysdigが、AIワークロードが実行されている場所を理解しているため、利用者はAIの利用を管理し、制御することができます。Sysdigはまた、リアルタイムのAIワークロードセキュリティを同社のリスク発見機能と完全に統合することで、トリアージを簡素化し、対応時間を短縮します。これにより、セキュリティチームは、相関するすべてのリスクとイベントを単一のビューで把握できるようになります。　そして、アクティブなAIリスクの優先順位付け、調査、修復を行うための効率的なワークフローを提供します。

図1：AIワークロードセキュリティのリスクを特定する画面（リアルタイムのAIワークロードセキュリティをリスク発見機能（Findings)と統合し、リスクとイベントのビューを把握）

AIの普及がもたらす外部への露出の増加

現在デプロイされているGenAIのワークロードのうち、34％が一般に公開されていることがSysdigの調べでわかりました。一般公開とは、ワークロードが適切なセキュリティ対策を講じることなく、インターネットや他の信頼できないネットワークからアクセスできることを指し、GenAIモデルによって活用される機密データを重大な危険にさらします。セキュリティ侵害やデータ漏洩のリスクを高めるだけでなく、一般公開は規制遵守の課題への扉を開くことになるのです。

図2：Attack Path画面にリスク要因にAIパッケージが含まれた画面

AIの導入がより急速に進められるとともに、これらのモデルやその学習に使用されるデータのセキュリティに対する懸念が高まっていることを考えると、本日の発表は、適切なタイミングです。最近のCloud Security Allianceの調査では、55%の組織が今年GenAIソリューションの導入を計画していると結論づけています。Sysdigはまた、12月以降、OpenAIパッケージのデプロイがほぼ3倍に増加していることを発見しました。現在デプロイされているGenAIパッケージのうち、OpenAIが28％を占め、Hugging FaceのTransformersが19％、Natural Language Toolkit（NLTK）が18％、TensorFlowが11％、Anthropicが1％未満と続きます。

AIワークロードセキュリティの導入は、2023年10月のバイデン政権による大統領令や、2024年3月の米国電気通信情報局（NTIA）の勧告に従って提案された、近々予定されているガイドラインや、AIを監査・規制する圧力の高まりにも合致しています。SysdigのAI ワークロードセキュリティは、公開された脆弱性、悪用可能な脆弱性、およびランタイムイベントを強調表示することで、この差し迫ったAIの法規制に先立ち、あらゆる業界の組織が問題を迅速に修正できるよう支援します。

適切なランタイムインサイトなしでは、AIワークロードは組織を過度のリスクにさらすことになります。攻撃者は、実行中のパッケージの脆弱性を悪用して、機密性の高いトレーニングデータにアクセスしたり、AIのリクエストやレスポンスを変更したりする可能性があります。Sysdigは、顧客がこうした倫理的な懸念や盲点に対処し、ジェネレーティブAIが提供する効率性とスピードのメリットを享受できるよう支援します。参考資料ブログ：AI の活用を加速： CNAPPにおけるAIワークロードセキュリティ