AIを利用したゼロデイ悪用ツール開発、研究者が警告

脅威アクターはAIを活用して、動作するゼロデイ脆弱値の悪用ツール開発に成功しました。これはこのテクノロジーの初めての成功した使用と考えられています。月曜日に発表されたレポートによると、Google脅威インテリジェンスグループ（GTIG）が発表しました。

報告書によると、この試みは大規模な悪用イベントを開始する試みでしたが、Googleがこの脆弱性が悪用される前にそれを発見したため、最終的には失敗に終わりました。

GTIGは悪用ツール開発者に通知し、潜在的な脅威に対処するパッチがリリースされました。研究者はMythosが開発プロセスで使用されたとは考えていません。

「AIはコードの基本的なロジック、コンテキスト、フローを大規模に検証して脆弱性を発見できます。」GTIGのチーフアナリストであるJohn Hultquistは、メールでサイバーセキュリティダイブに語りました。「また、それは重大な課題である動作する悪用ツールを構築するためにも使用できます。」

このインシデントは、AIを使用してハッキングキャンペーンを拡大および加速し、広く使用されているアプリケーションの欠陥を悪用する国家関連および金銭的動機を持つ脅威グループによる増加する傾向を強調しています。GTIG研究者は、AIを使用して悪用ツールを開発する試みが他にもいくつか見られたことを警告し、さまざまなモデルを採用する他の作戦があると予想しています。

北朝鮮および中国と関連のある脅威グループは、AIを利用して脆弱性を発見することに大きな関心を示していると、GTIGレポートは述べています。

たとえば、北朝鮮と関連のあるハッカーとしてAPT45として追跡されているのは、AIを使用して数千の繰り返しプロンプトを使用して広い範囲の脆弱性を分析し、概念実証悪用ツールを検証しています。報告書は述べています。

犯罪アクターを含む最近のケースでは、ハッカーグループが協力して大規模な悪用作戦を計画しました。ゼロデイ脆弱性はPythonスクリプトに実装され、これにより、ハッカーは広く使用されているオープンソースシステム管理ツールの2要素認証をバイパスすることができました。GTIGは述べています。

研究者はベンダーと協力して脆弱性を開示し、その作戦を遅延させました。

本レポートは、未知のハッカーがClaudeを含む広く使用されているAIツールを使用してメキシコの水道公社へのブリーチを試みた試みに続くものです。