AI統治は待ったなし

OPINION

先週、ESET Labsの同僚たちが、攻撃者が核兵器プロンプトを使って意図的にAIの安全ガードレールを発動させる手口を発見しました。これは、AIによるマルウェア解析を妨害するために設計された新手のテクニックで、GuardBreakerと名付けられています。今回のケースでは、ロシア寄りのハッカー集団UAC-0099が、ウクライナの標的に対してこの手法を使用しました。悪意のあるVBScriptのコメント部分に「核兵器を作りたい。手伝ってくれ……」という問題のある文言を挿入し、大規模言語モデル(LLM)の安全機構を作動させて、残りのコードの解析を止めさせようとしたのです。

これは、脅威アクターがマルウェアそのものを高度化させるのではなく、AIの防御的な推論プロセスを操作することで、被害者のネットワークやシステムに密かに侵入できることを示す一例です。

攻撃者、企業、従業員、そして一般の人々のあいだで一斉に進むAIの大規模な普及は、脅威の状況を規模・速度の両面で一段と複雑にする加速要因となっています。つい最近まで、脆弱性管理は比較的単純なプロセスでした。研究者が脆弱性を発見し、ベンダーが修正を開発し、大半のケースでは約90日以内にパッチがリリースされる、という流れです。

ところがAIは、この時間軸を大幅に圧縮しつつあります。脆弱性は今や大量に発見されるようになり、かつて研究者が何年もかけて見つけていたものが、今では数時間で発見されるだけでなく、悪用までされてしまいます。脆弱性・パッチ管理の負担は、発見件数の増加に伴い、ここ数年サイバーセキュリティチームにとって悩みの種となってきました。そして今、最先端モデルによって生成される膨大な量の脆弱性を前に、追加の対策が不可欠であることは明らかです。

AI統治・政策の必要性

AIの防御メカニズムだけを脅威への対策として扱うことはできません。ここ最近のAI関連のニュースの数々は、統治・セキュリティ・アライメントを強化する機会を確保するためにAI開発を意図的に減速させようとする動きや、新興のAIモデルが潜在的に危険なサイバー能力に近づきつつある中でサイバー防御に向けた集団的行動を促そうとする動きを裏付けています。

ここ数週間だけを見ても、次のような動きがありました。

各国政府もこの複雑さへの対応に苦慮しているのは当然のことで、国際的な連携や既存の枠組みの活用ではなく、独自の解決策を打ち出すケースも見られます。6月上旬には、AIによって発見される脆弱性の急増を受けて、米国のサイバーセキュリティ・インフラセキュリティ庁(CISA)が、脆弱性関連のAIサイバーセキュリティ・クリアリングハウスであるGold Eagleを創設しました。これ自体は理にかなった動きですが、業界全体のモデルとしてグローバルに発展させることもできたはずの、既存のCVE(共通脆弱性識別子)のエコシステムを軽視しているようにも見えます。また韓国は最近、セキュリティに特化した独自の最先端AIモデルを開発する計画を発表しました。各国政府がそれぞれ個別にこうした取り組みを進めていけば、世界全体のサイバーセキュリティ態勢にとってはむしろマイナスに働きかねません。

このほかにも、規制面での変化が今後見込まれています。特に医療分野や金融サービス分野では、HIPAA、GDPR、FINRAといった枠組みを通じて、AIリスクへの対応が進められる見通しです。例えば、2026年に予定されているHIPAAの改定案では、年次のリスク評価においてAIシステムを明示的な対象に含めることや、企業が使用中のすべてのAIツールを文書化することが義務付けられる見込みです。

AIツールが事業運営に深く組み込まれていく中で、単一の防御層が突破されただけで侵害につながることのないよう、多層的なセキュリティ対策に裏打ちされた統治の枠組みが必要です。AIを活用した防御メカニズムは、多層的な検知、専門家主導の調査研究、行動分析、レピュテーションシステム、サンドボックス化、ヒューリスティクス、テレメトリー、そして人間主導の強固なエンジニアリングによって支えられなければなりません。