ダークAIとは？

ダークAIとは？

ダークAIとは、生成AIや大規模言語モデル（LLM）などの人工知能を悪意のある目的で使用することです。技術的なレベルでは、ダークAIは主流AI（生産性の向上や反復作業の自動化を目的として構築されたもの）と変わりません。両者を区別するのは、その技術の用途です。フィッシングメールの作成や悪意のあるコードの作成など、あらゆるAIツールは「ダークAI」の目的で使用することができます。

しかし、悪意ある目的のために特別に開発されたAIツールが登場しており、ダークAIと呼ばれる明確なカテゴリーのツールが生み出されています。これらのツールは、主流のAIツールのガードレールなしで作成されており、欺瞞的または有害なコンテンツの生成に使用されることを（防止しようと）試みるのではなく、サイバー犯罪のユースケースに合わせて機能セットを調整しています。

ダークAI: ある重大な脅威

Dark AIは、サイバー攻撃者の能力を増幅させる能力により、重大な脅威とみなされています。

• 説得力のあるディープフェイクを作成する：AIは音声を複製し、ライブビデオで人の外見を完全に複製することもできるため、ビデオ通話で人を装うことが可能になります。
• ソーシャルエンジニアリングの改善：Dark AIツールは、説得力のあるフィッシングや詐欺メールを作成するように調整でき、ログインページを複製してユーザーをだまし、サイバーセキュリティ侵害に参加させることができます。
• ネットワーク環境に合わせた攻撃：AIツールは、悪用可能な脆弱性について、構成やネットワーク環境を分析するために使用できます。
• セキュリティツールに対する攻撃の最適化： AIは悪意のあるコードを最適化し、既知の保護対策を確実に回避できるようにすることで、インフラストラクチャを水平方向に移動し、後で侵入するためのバックドアを潜在的に残すことができます。
• 攻撃の頻度を高める：ブルートフォース攻撃は、組織内の人的または技術的な弱点を見つけ、悪用するために、インテリジェントに適応させることができます。

AIは、サイバー攻撃を経験の浅いサイバー犯罪者でも実行可能なものにしました。攻撃方法をより利用しやすくすることで（ターゲットを理解し、ツールチェーンを確立するために必要な技術的知識や時間を削減）、全体的な攻撃の件数を増やしています。AIが強化されたこれらの攻撃の多くは素人じみたものかもしれませんが、規模が拡大したことで、ハッキングやデータ漏洩が成功する可能性が大幅に高まっています。

ダークAI攻撃で用いられるツールと戦術

ハッキングやマルウェアのツール開発者たちは、AIの力をすぐに認識し、独自のソリューションを開発してリリースしました。その多くは利益目的です。

AIツール説明FraudGPTソーシャルエンジニアリング用の生成型AIモデルで、標的を絞ったフィッシングメール、偽のウェブサイト、ログインページを作成し、ユーザーからパスワードをスキミングするために使用されます。DarkBERTダークウェブのデータに基づいて訓練されたこの大規模言語モデル（LLM)は、サイバー犯罪者が使用する場所をナビゲートする際にセキュリティ研究者を支援することを目的としていますが（専門用語や暗号語の理解など）、犯罪者自身が攻撃を仕掛けるために必要なリソースを見つけるために使用することもできます。WormGPTFraudGPTと同様に、WormGPTもマルウェア攻撃用の悪意のあるコードを生成するために使用されます。Mainstream LLMsGoogle Gemini、Microsoft Copilot、ChatGPTといった主流のLLMが悪意ある目的で使用されることを意図していないからといって、それが不可能であることを意味するわけではありません。ガードレールは、AIを活用して目的を達成しようとする悪意ある行為者を阻止するには限界があります。

これらのツールは、さまざまな手法を組み合わせることで戦術的に展開されます。ダークAIは、攻撃自体を直接的に行うために使用される場合もあります（例えば、ソフトウェアやクラウド構成の脆弱性を直接特定し、それらを標的とするスクリプトを記述するなど）。あるいは、不正な電子メール、ランディングページ、その他の欺瞞的なコンテンツなど、攻撃の要素を構築するために使用される場合もあります。

ダークAIがサイバーセキュリティにもたらす影響

組織がダークAIがサイバーセキュリティに及ぼす悪影響を回避する唯一の方法は、サイバーセキュリティにおいて警戒を怠らず、先を見越した姿勢を取ることです。これは、従来のオンプレミスITインフラストラクチャのような明確な境界を持たない常時オンラインのクラウド環境では特に重要です。

AIツールは、コードの意図を不明瞭にするメカニズムを提供するため、サプライチェーンのセキュリティにも影響を与えています。これにより、オープンソースソフトウェアや依存関係において、悪意のあるコードが検出されない可能性が高まります。

攻撃がAIによるものかどうかに関わらず、クラウド環境（およびその上で実行されるワークロード）を標的とした攻撃の複雑性とリアルタイム性がますます高まっているため、多角的なアプローチが必要となっています。開発チームだけでなく、ITセキュリティを担当するチームも、ランタイムセキュリティや自動化された脅威検知および対応（特にコンテナ化された環境の拡張において、可視性が問題となる場合）など、堅牢なDevSecOpsプラクティスを採用する必要があります。

ダークAIから身を守る方法

ダークAIから身を守る方法は、自分自身を守るのか、組織や企業のITインフラストラクチャを守るのかによって異なります。

ダークAIから身を守る方法は、自分自身を守るのか、組織や企業のITインフラを守るのか、その対象によって異なります。

• 個人にとって、ダークAIによる最大の脅威はソーシャルエンジニアリングと詐欺です。銀行、メールプロバイダー、ソーシャルネットワークからの本物のメールに見せかけたフィッシングメールには注意が必要です。また、認証情報を盗むために偽装されたログイン画面につながる可能性がある疑わしいメール内のリンクは、一切クリックしないようにしてください。さらに、ダークAIや公開ウェブ（ソーシャルメディアのプロフィールや企業ディレクトリなど）のデータを利用して、友人や同僚になりすます偽装者にも注意が必要です。
• 企業は、ダークAIによるリスクの増大に苦しんでいます。ソーシャルエンジニアリングによってスタッフが操られるリスクに加え、製品やサービスを提供する際に使用するインフラも攻撃対象となり得ます。特にクラウドインフラは脆弱であり、連携して自動的にスケーリングするコンテナは、目に見えない脅威をはらんでいます。

このような場合、クラウドネイティブアプリケーション保護プラットフォーム（CNAPP）を導入し、ダークAIサイバー攻撃に対する保護を組み合わせた対策を講じる必要があります。

AIによる検知と対応により、悪用可能な脆弱性やアクティブな脅威を可能な限り迅速に検知し、修復します。

• クラウドプラットフォームにおける悪用可能な脆弱性や特権の誤設定を特定するための構成スキャン。
• サプライチェーンやその他のソフトウェアにおける既知の脆弱性を特定するための脆弱性管理。
• コンテナやオーケストレーションプラットフォーム内のアクティビティを監視するランタイムセキュリティ。
• リスクを優先付けするポスチャー管理。
• コンプライアンスチェックにより、GDPRやCCPAなどのデータおよびユーザープライバシーに関する規制への準拠を確保します。
• AIによる検知と対応により、悪用可能な脆弱性やアクティブな脅威を可能な限り迅速に検知し、修復します。

サイバーセキュリティにおけるAIの価値は仮説上の話ではありません。サイバーセキュリティプラットフォームに自動化とAIを活用している組織は、従来のサイバーセキュリティ技術に頼っている組織と比較して、平均で222万米ドルのコスト削減を実現しています。

しかし、AIは保護すべき攻撃ベクトルでもあります。LLMジャッキングは、パブリックAIプラットフォーム（ChatGPTやMicrosoft CoPilotなど）を使用する組織を標的にし、アカウント認証情報を盗み、請求額を吊り上げたり、生成型AIを支える大規模言語モデルを使用して情報を盗み出します。AI攻撃の多様性は増しており、企業内でのLLMの使用（許可されているか否かに関わらず）を特定し、保護できる最新の脅威インテリジェンスをセキュリティツールに組み込む必要があります。

SysdigがクラウドをダークAIから守るために役立つ方法

Dark AIはクラウドセキュリティに対する継続的な脅威であり、インフラ全体にわたって高度なセキュリティ対策が必要です。オンプレミスまたはクラウドで実行されているか、コンテナまたはサーバーレスプラットフォームで実行されているかに関わらず、構成、プロセス、およびユーザーアクティビティのアクティブな監視が不可欠です。

Sysdigは、クラウドセキュリティ対策管理とクラウドワークロードのランタイム保護を統合したCNAPPを提供しています。これには、Sysdig Sage（AIと自動化により、ダークAIによって仕組まれたものや実装されたものを含む、インフラストラクチャとデータに対する新たな脅威に迅速かつ効果的に対処する）が含まれています。

クラウドの脅威から組織を保護するために取るべき対策と、担当するインフラストラクチャとデータが確実に保護されるようにする方法については、555ベンチマークガイド：クラウドセキュリティ実務担当者向けをご覧ください。

FAQs

ダークAIとは、悪意のある目的で人工知能技術を応用したものです。例えば、AIは説得力のある詐欺メールの作成、ウイルスやワームのコード生成、悪用可能な情報や脆弱性に関するデータの分析などに使用することができます。

技術的には、ダークAIは通常のAIと用途が異なるだけで、それ以外は変わりません。しかし、悪意のある行為や犯罪行為を行うために特別に開発されたAIツールが出現しており、生産性を向上させ価値を生み出すために開発された従来のAIツールとは一線を画しています。

ダークAIを含むAI技術の急速な進化に伴い、セキュリティ対策の強化が求められています。定期的なプロセスやファイルのスキャンに限定される従来のサイバーセキュリティ保護対策では、もはや十分ではありません。AIツールを脅かす攻撃ベクトルを特定し遮断するには、ランタイムセキュリティとユーザーおよびプロセス動作のアクティブな監視が必要です。

サイバー犯罪におけるダークAIとAI技術の応用は、個人や企業にとってますます大きな脅威となっています。AIは、コードを書き、情報を抽出し、オンラインの脅威を軽減するために展開された特定のインフラ、組織構造、サイバーセキュリティ対策に適応することで、標的型ソーシャルエンジニアリングやサイバー攻撃を構築するために必要な労力と知識を大幅に削減することができます。

ダークAIからどうやって身を守るか？

ダークAIを含むAI技術の急速な進化に伴い、セキュリティ対策の強化が求められています。定期的なプロセスやファイルのスキャンに限定される従来のサイバーセキュリティ保護対策では、もはや十分ではありません。AIツールを脅かす攻撃ベクトルを特定し遮断するには、ランタイムセキュリティとユーザーおよびプロセス動作のアクティブな監視が必要です。