RUSIの新たなレポートは、AIモデルが北朝鮮やイランなどの体制によるサイバー作戦の実行と検知回避をいかに可能にしているかに焦点を当てている。
今後3〜5年の間に、政府および民間部門は、敵対勢力がAI支援からAI活用型の制裁回避および拡散資金調達（PF）へと移行するにつれ、識別・緩和プロトコルを迅速に適応させる必要があると、新たな研究論文が警告している。
英国を拠点とする防衛・安全保障シンクタンクである王立統合軍事研究所（RUSI）が発表したレポート、『回避のアルゴリズム：AI活用型拡散資金調達の台頭』は、PFを大量破壊兵器（WMD）の取得・開発またはその他の取り引きのために資金や金融サービスを利用することと定義している。レポートは「北朝鮮とイランは現在、制裁回避活動を支援するためにAIモデルを開発・展開している」と述べている。
主な調査結果には、AIが高品質な偽造文書を大量生成できるようになったという事実に加え、レポートが「広範なペーパーカンパニーネットワークの管理における事務的な細部作業」と表現するものの自動化も含まれている。AIを活用したシステムはまた、「ブロックチェーンのパターンをリアルタイムで分析し、暗号通貨のミキシング戦略を動的に調整することで、検知ツールを効果的に回避できる」とされている。
さらに、「[生成AIなどのツール]は、たとえば巧妙な偽造身分証明書を作成できるため、北朝鮮が西側企業に対してフィッシング攻撃を行う一助となっている」と述べている。
本論文を執筆したRUSIの金融・安全保障センター上席研究員、アーロン・アーノルド博士は、電子メールの中で、執筆のきっかけは過去1年間における北朝鮮のAI活用の増加であり、同国の弾道ミサイルおよび核兵器プログラムのための資金調達を目的としたフィッシング詐欺という形でサイバー作戦を促進・強化していると述べた。
アーノルド氏は、組織が制裁回避活動の被害者にならないよう保護する必要がある企業ITマネージャーに対し、「[それは]従来の人間中心のセキュリティ境界が自動化技術によって迂回されつつある環境への適応を主に意味する」と助言した。
ITマネージャーにとって、とアーノルド氏は述べ、「これは防御的AIの組み込み、行動ベースの分析の活用、APIやMCPの多用時における『サーキットブレーカー』の使用、人員訓練の更新、そして特にリモート採用における本人確認の強化を伴う可能性がある」と語った。
AI支援とAI活用型活動の区別が「核心」
グレイハウンドリサーチのチーフアナリスト、サンチット・ヴィル・ゴギア氏は、RUSIのレポートが重要なのは「正しい構造的変化を名指ししているからだ」と述べた。「AIは制裁回避を無から生み出しているのではなく、すでに機能している手法を圧縮・拡大しているのだ」と語った。
同氏は、偽造文書、合成ID、ペーパーカンパニー、隠された実質的所有権、暗号通貨のマネーロンダリングなどの制裁回避手法はいずれも新しいものではないと指摘した。「変わるのは、これらの手法を今や組み合わせられる速度、品質、量、そして連携だ」と述べた。
ゴギア氏によれば、「AI支援とAI活用型活動の区別が核心だ。AI支援型回避はAIを個別のタスクに使用する。より良いメールの作成、より整った文書の作成、より強力な偽のプロフィールの生成、売り込み文句の翻訳、規制の要約、もっともらしい就職応募書類の準備などだ。AI活用型回避はより深刻だ」という。
「構造的非対称性」
この戦術は、と同氏は述べ、「システム自体の調整を始める。ID、文書、所有構造、支払いルート、クラウドアクセス、暗号通貨ウォレット、APIコール、タイミングを連携させる。違いは、AIが誰かの文書偽造を手助けするかどうかではない。違いは、AIが欺瞞を指揮し始めるかどうかだ」と語った。
それがレポートの調査結果が企業リーダーを悩ませるべき理由だと同氏は指摘した。「多くの組織は依然として、悪意ある行為者は主に人間であり、主に一直線で、主に動きが遅いと思い込んでいる。その前提は失効しつつある。AIにより敵対勢力は、より多くの試みを、より少ないエラーで、より多くのチャネルを通じて、より多くの言語で、より良い書類とほとんどの企業審査プロセスが吸収できる以上の忍耐力をもって実行できる。これは天才的な犯罪者が魔法を発見したという話ではない。通常の管理体制が工業化された信頼性に直面するという話だ」と語った。
現時点での証拠は、ID詐欺、文書詐欺、合成ペルソナ、リモートワーカーへの欺瞞、フィッシング、ソーシャルエンジニアリング、暗号通貨の難読化、ワークフロー悪用などの戦術に最も強く表れていると同氏は指摘した。「完全に自律的な回避ネットワークは地平線上にある。深刻なものだが、まだ日常的な基準ではない」と語った。
この区別は重要だと、ゴギア氏は述べた。「企業が映画的な自律エージェントのシナリオに執着する一方で、リモート採用、ベンダーのオンボーディング、支払い承認、文書審査に穴だらけのままでいれば、最もありきたりな形で負けることになる」と語った。
レポートはまた、「非対称性」を正確に捉えていると同氏は述べた。「攻撃側の行為者はエコシステム全体から学ぶことができる」と語った。「公開情報をスクレイピングし、流出した記録を再利用し、執行パターンを研究し、オンボーディングフォームをテストし、公共調達データを調査し、裁判所の書類を監視し、コンプライアンスの閾値を探り、[その情報を用いて]自らの行動を洗練させることができる」と述べた。
一方、防衛側はプライバシー規則、断片化されたデータ、説明可能性の要件、管轄上の境界、保守的な運用モデル、サイロ化されたテクノロジー資産によって制約されている。「攻撃的AIは広く学習する」と同氏は語った。「防衛的AIはしばしば断片から学習する。それが構造的非対称性だ」と述べた。
規制環境もまた問題を増幅させていると同氏は説明した。規制機関は「依然として別々の方言で話している。[たとえば] EU AI法は組織に対してハイリスクAIへのより強い義務を求めている。NISTスタイルのフレームワークはリスク管理、透明性、ガバナンスを推進している」。
信頼アーキテクチャの問題
金融活動作業部会（FATF）の勧告は国家リスク評価と拡散防止管理を促進しており、銀行規制当局はモデルリスク、説明責任、オペレーショナルレジリエンスに焦点を当てていると同氏は指摘した。「これらのストリームのいずれも無関係ではない。問題は、犯罪者が規制上の作業ストリームに沿って組織化しないことだ。彼らは結果に沿って組織化する」と語った。
それが意味することは、とゴギア氏は述べ、「企業はクリーンなグローバルルールブックを待てない。それは間に合わない。CIO、CISO、コンプライアンス責任者、取締役会は今すぐ機能するガバナンスモデルを必要としている。プライバシーを保護する分析、管理されたデータ環境、監査証跡、法的保護措置、明確なモデルリスクの説明責任が必要だ」と語った。
企業のITマネージャーは、この状況を狭い制裁スクリーニングの問題としてではなく、信頼アーキテクチャの問題として扱うべきだと同氏は述べた。「不快な真実は、AIが単に悪意ある行為者がより良いフィッシングメールを書いたり、より整った文書を偽造したりするのを助けているだけではないということだ」と指摘した。「AIは企業のワークフローの連鎖全体にわたって正当性を製造する手助けをしている」と述べた。
「AIの軍拡競争」が最も可能性の高い結末
レポートの著者アーノルド氏もまた、サイバー犯罪者が正規企業が正当な用途に採用できる新たなAI技術や能力を発見しつつある兆候があると指摘した。
歴史は、と同氏は述べ、「[犯罪者が]困難な問題に対して斬新な解決策を開発し、[それが]後に法執行機関に採用された例に満ちている。金融犯罪防止政策の多くは、実質的に悪意ある行為者がシステムを悪用したり、新しい方法でテクノロジーを使用して犯罪を実行したりすることへの対応だ。このシナリオでは、執行当局と悪意ある行為者の間の『AIの軍拡競争』が最も可能性の高い結末だと思う」と語った。
ゴギア氏は付け加えた。「悪者は企業にAIの発明方法を教えているのではない。信頼が漏れている場所を教えているのだ。それこそが真剣に受け止める価値のある教訓だ」と述べた。
この記事はもともとCIO.comに掲載されたものです。
