中国系とみられるハッカーがオープンソースの人工知能モデルを利用して台湾政府に対するサイバー攻撃を実行していたことが、水曜日に発表された調査結果で明らかになりました。自律型AIによるハッキングが政府機関を標的にした事例として、公になったものでは初めてとなります。
イスラエルのサイバーセキュリティ企業Dreamの研究者らがブログ記事で明らかにしたところによると、この「準自律型攻撃」でハッカーは2,500件を超える人事記録をはじめとするデータを窃取しました。攻撃者はこのフレームワークを、人間の介入なしに「作戦の途中で適応できる」ように構築していたといいます。
同ブログ記事によれば、このフレームワークは「学習サイクル」と呼ばれる専用の調査フェーズを実装しており、これはAIシステムが脆弱性データベースやGitHubリポジトリ、セキュリティ研究の公開情報を自律的に検索し、標的となる政府のインフラに特化して適用可能な手法を探し出すセッションだということです。
そして、攻撃はそこで止まりませんでした。
Dreamは「攻撃者は当初の標的だけにとどまらなかった」と述べています。「作戦は政府のITサプライチェーンベンダー、原子力安全機関、政府のメールシステム、さらに7社以上のエネルギー分野企業にまで拡大され、設定ミスや露出した管理者インターフェース、悪用可能な脆弱性を求めて、これらすべてを並行してスキャンしていた」ということです。
Dreamはこのキャンペーンの特徴を挙げる中で、攻撃を進める過程で自らの失敗から学習していた点も指摘しています。
自律型のAIを活用したサイバー攻撃はこれまでも警鐘を鳴らされてきました。Anthropicは昨秋、初の自律型サイバースパイキャンペーンを阻止したと報告していますが、研究者らはこの「自律型」キャンペーンにも依然として相当な人手による作業が必要だったと指摘しています。
Financial Timesは、Dreamの調査結果と標的に関する詳細を最初に報じました。
ハッカーは台湾での作戦を構築するにあたり、HermesとOpenClawという2つの人気オープンソースAIフレームワークを使用しました。Dreamによれば、攻撃者はこの作業を許可を得たペネトレーションテストであるかのように見せかけることで、安全対策を回避していたということです。
同社は160メガバイト、約1,400ファイルに及ぶオンラインアーカイブを通じてこの作戦を発見し、「国家インフラに対する確認済みの実際の侵害を達成したマルチエージェントAIシステム」であることを明らかにしました。
昨秋発覚した自律型サイバースパイキャンペーンと同様、Dreamが調査した今回の攻撃でも、人間による調整の必要性が確認されました。
同社は次のように述べています。「脅威アクターが自律的な攻撃作戦にAIを活用する事例が増えているのを、私たちは目の当たりにしている」「しかし、このレベルで実際に機能するシステムを構築するには、モデルを『ただ』動かすだけでは済まない、それ以上の作業が必要になる。特定のタスクへの綿密な調整、エージェント間の協調の最適化、意思決定ロジックの微調整が求められる。今回のフレームワークに見られるベイズ的優先順位付け、自己修正ループ、適応的な調査サイクルには、まさにそうした高度さが表れている」
翻訳元: https://cyberscoop.com/near-autonomous-ai-attack-government-target-taiwan/
