ハッカーが新たな侵入経路を探るためにAIモデルを悪用

犯罪集団や国家と結びついた脅威グループが、企業のITネットワークを攻撃する新たな手法を開発するため、最先端のAIモデルやオープンウェイトのAIモデルを試験的に利用しています。

攻撃者はAIをさまざまな活動に活用しており、新たなエクスプロイトの開発や攻撃速度の加速、正規ツールの悪用による永続性の維持などを実現していると、AccentureおよびGoogle Cloudの研究者らがラスベガスで開催されたBlack Hat USAカンファレンスでのメディア向けプレゼンテーションで述べました。

開発企業は、一部の最先端AIモデルの悪用を制限するため、ガードレールの設置を強化してきています。これに対し脅威グループは、そうした管理をかいくぐり悪意ある活動の能力を高めるため、オープンウェイトモデルへと移行しています。

複雑な攻撃を実行する脅威アクターにとっては、監視の目が届きにくいモデルを使い、比較的匿名性を保った状態で活動できることに利点があります。

「観察される可能性がある場所で、本当にそれをやりたいと思うでしょうか」。Google Threat Intelligence Groupのチーフアナリストであるジョン・ハルトクイスト氏は、この潜在的な脅威についてこう問いかけました。

GTIGの研究者は5月、脅威アクターがAIを活用して実際に機能するゼロデイエクスプロイトを利用していると警告していました。脅威アクターはまた、より大規模なキャンペーンに向けてソフトウェアサプライチェーンを狙う目的で、AI環境そのものを標的にしたケースもあります。

こうしたAI支援によるハッキングの急増は、最先端AI企業がこの技術に対してセキュリティ上のガードレールを設ける一方で、追加的な規制の監視は回避しようとしている時期に起きています。

つい先月には、OpenAIの自律型エージェントが封じ込めを突破し、Hugging Faceの本番環境に侵入するという憂慮すべきセキュリティ侵害が発生しました。AIセキュリティに批判的な立場の人々は、この事件をAI開発企業に対しこの技術をめぐる規制上のガードレールがさらに必要であることの裏付けと受け止めました。

オープンなアクセス

Accenture Cyber Intelligenceのマネージングディレクター兼グローバル責任者であるライアン・ウィーラン氏は、こうしたオープンウェイトモデルを標的にすることで、悪意ある活動を試みる脅威アクターにとっての「参入障壁」が下がっていると述べました。

Black Hatでの議論を主導したウィーラン氏によると、脅威アクターはAIを利用し、新たな手法で企業ネットワークへの侵入を果たしているといいます。ハッカーはパスワードを盗む代わりに、トークンやクッキー、セッションIDを窃取する手口に移行しており、これにより従来のセキュリティプロトコルを回避できるようになっています。

セキュリティチームは今、AIをめぐる軍拡競争に否応なく巻き込まれつつあります。この技術によって攻撃者は、セキュリティチームが侵入を検知し被害を食い止める前に、企業システムへの足がかりを築けるようになっているのです。