interviewマイクロソフトのグローバル脅威インテリジェンス担当バイスプレジデントのシェロッド・デグリッポ氏によると、AIエージェントはサイバー犯罪者と国家支援型ハッカーが、サイバー攻撃を計画・実行するために必要な「雑務的な作業」をアウトソースすることを可能にしている。北朝鮮はこれを活用している。
これには、侵害されたコンピューター上の偵察実行や、攻撃インフラストラクチャの構築・管理などのタスクが含まれる。これらはデジタル侵入の計画・実行ほどスリリングには聞こえないかもしれないが、脅威ハンターが注視すべきエージェントAIの現実的な犯罪用途である。
「システムに対するエージェント的で自動化された偵察は注視する価値がある」とデグリッポ氏はThe Registerのインタビューで述べた。「XYZについて調べてきて、見つけたすべての情報を教えてくれ。この特定の団体が所有するネットブロックをスキャンしてくれ。」
攻撃者はこれを手動で行うことができるが、エージェントに行わせるより遥かに時間がかかるだろう。「これは、通常の標準的なビジネス目的に使用でき、同時に脅威アクターが悪意のある目的に使用できるAIの素晴らしい例だ」と彼女は述べた。
金曜日のブログで、Microsoftはこの方法が犯罪者がAIを使用して犯罪行為の効率性と生産性を向上させ、その結果、より優れた、より大規模で、より高速な攻撃が実現する方法の一つであると述べている。
インフラストラクチャ管理は、AIエージェントが役立つもう一つの領域だとデグリッポ氏は述べた。「脅威アクターがインフラストラクチャを構築する様子は常に見てきた。これは既存の正当なインフラストラクチャを侵害して悪意のある目的に使用することを意味する場合もあれば、アカウントを購入して自分たちのインフラストラクチャを設定して脅威キャンペーンを開始することを意味する場合もある」と彼女は述べた。
Microsoft Threat Intelligenceは北朝鮮のCoral Sleetが（偽IT労働者詐欺の背後にある犯行グループの一つ）開発プラットフォームを使用して攻撃インフラストラクチャを迅速に大規模に作成・管理していることを観察しており、これによりより迅速なキャンペーンステージング、テスト、コマンドアンドコントロール操作が可能になっていると述べている。
「エージェントAIの使用例という観点から、これは非常に興味深い。なぜなら、自然言語を使用して悪意のあるインフラストラクチャと対話し、考えを表現するだけで伝えることができるからだ」とデグリッポ氏は述べた。
両方の使用方法は攻撃者の時間と労力を節約し、技術的に精通していない犯罪者の障壁を低くする。特に、防御者に検出されないようなインフラストラクチャを構築する場合にそうである。
「脅威アクターは機能することを行い、最も簡単かつ迅速に目的を達成することを行う」とデグリッポ氏は述べた。「そのため、脅威アクターに本当に強力なツールを与えることで、彼らはより多くのそのようなことを行うことができるようになる。」
マイクロソフトの脅威インテリジェンスチームおよび他のセキュリティ研究者は、攻撃者がエージェントAIを使用してマルウェアを生成することを文書化しているが、エージェントのコード作成スキルはまだ人間のスキルに匹敵できないとデグリッポ氏は述べた。しかし、彼女は付け加えて、このユースケースには2つの部分があると言った。
「AIで生成またはAI対応のマルウェアを検出する場合、伝統的に、通常のマルウェアとは異なることに気付いている」と彼女は述べた。「それには、人間がコードを見ると『これはAIで生成されたと思う』と言うことができる痕跡がある。」
異なるAI関数とライブラリを呼び出すことができるマルウェアを含む2番目の部分は、より興味深く、「より洗練された」使用法であるとデグリッポ氏は述べた。
「ソフトウェア開発の背景を持つ誰もが、良性のソフトウェアを開発しているか悪意のあるソフトウェアを開発しているかに関わらず、AIでワークフローをより良く強化する方法を考えている」と彼女は述べた。「次のSaaS CRMアプリケーション、子どもたちのサッカーの試合を管理するスマートフォンアプリ、またはお金を盗むまたはスパイ行為をするためのマルウェアを開発しているかどうかは関係ない。あらゆる種類のコードを開発している誰もが、それを行うためにAIアシスタントを使用する方法を考えている。」®
