先週、ファイブ・アイズ——つまり裕福な英語圏諸国のクラブ——の国家安全保障機関が、AIモデルによるサイバーリスクの高まりについて警告する共同声明を発表しました。特に懸念されているのは、システムやネットワークに自律的に侵入するAIの能力です。この声明は、それを取り上げた扇情的な見出しの一部よりも抑制の効いた内容であり、示されているアドバイスもほぼ誰もが言ってきた標準的なものです。ただし、それを訴える緊迫感はこれまでになく強まっています。
インターネット上のリスク自体は目新しいものではなく、大小を問わずサイバー攻撃は、現在の生成AIモデルが登場するはるか以前から重大な問題であり続けてきました。
この数十年の間に変化してきたもの、そしてAIがそれ以上の速さで変えつつあるものこそが、「技能」と「能力」のギャップです。人類史のほとんどの期間、この二つの言葉はほぼ同義でした。しかしコンピュータはその両者を切り離してしまいました。このギャップが広がるにつれ、AIツールを手にした人間は、より多くの執筆、より多くの調査、より多くの分析を行えるようになると同時に、これまでにない規模の被害ももたらせるようになります。こうしたAIモデルは、詳細な指示をほとんど与えなくても、自律的にネットワークへ侵入し、データを盗み、ランサムウェアを展開し、システムを破壊することができます。そして、もし解決策があるとすれば、それは防御側にもAIを活用することに他なりません。
1998年、ハッカー集団L0phtに属する7人が米議会で証言しました。彼らは、ほとんど実情を理解していない上院委員会に対し、30分あればインターネットを機能停止に追い込めると語りました。これは半ば本当で半ば虚勢でしたが、重要な点を示しています。当時、システムへの侵入、データの窃取、被害の発生には、いずれも高い技能が必要だったということです。
L0phtのハッカーたちを、いわゆる「スクリプトキディ」と呼ばれるハッカーたちと比べてみましょう。彼らはコンピュータやセキュリティについて理解していませんでした。その代わりに、他人が書いたハッキングツールを利用していました。彼らの行動に必要な技能はごくわずかで、知識に至ってはさらに乏しいものでした。しかし、そうしたハッキングツールが広く出回るようになると、潜在的な攻撃者の数は増加していきました。
事前に書かれた攻撃ツールの質と入手しやすさが向上するにつれ、その数は増え続けてきました。そして今、AIによってその数は劇的に膨れ上がりつつあります。今日のAIシステムは——最先端のモデルだけでなく、その多くが——サイバー攻撃を自動的に実行する能力を備えています。いずれも熟練した攻撃者の手にかかればより高い効果を発揮しますが、最小限のプロンプトだけで自律的に行動できるようにもなってきています。
技能はないが能力だけはあるという人々に共通する特徴は、彼らがしばしば部外者であり、いかなる専門家コミュニティにも属さず、いかなる規範やルールにも縛られていないという点です。この現象はサイバーセキュリティに限った話ではなく、もっと一般的なものです。どんな医師でも、痕跡を残さずに人を毒殺する方法を教えられますし、多くのウイルス研究者は生物兵器を作る方法を知っています。どんな橋梁技術者でも、橋を爆破するための爆薬の設置場所を教えられます。それでも殺人を犯す医師やテロを起こす技術者がごくまれにしかいないのは、そうした技能を習得する長い過程が、同時に道徳的・倫理的な規範をも植え付けるからです。もし無作為に選んだ誰もが優れた毒殺の知識にアクセスできるとしたら、それは私たち全員を危険にさらすことになります。
現代のAIシステムは、事実上、人々が有害な行為を行う手助けをする万能アドバイザーとなっています。現在のAI大手企業は、質問の答えが質問者に害をもたらしかねない場合に、その質問をさせないためのガードレールを構築しようとしています。しかし、それが長期的にうまく機能することはないでしょう。より小型で安価なオープンソースモデル、人々のパソコン上でも動作するモデル、とりわけ複数のモデルを連携させて動かす仕組みは、OpenAIやAnthropicのような企業が提供する最先端モデルと同等の性能を発揮します。そして、それらは今後も進化を続けます。こうしたモデルは、かつてのスクリプトキディ向けハッキングツールのように人から人へと受け渡されていくことになり、そこにはそうしたガードレールは存在しません。
AIモデルに人々を監視させ、悪意あるプロンプトを当局に報告させるという指示も、同様の理由で機能しません。大手企業はそれを実行できますが、ローカルで動かされているオープンソースモデルはそうしません。これで稼げる時間は、せいぜい数か月程度でしょう。
第三の可能性として、モデル自体にハッキングや生物兵器の作成、その他人や社会に害を及ぼしうる行為ができないようにするという方法も考えられます。しかし、これもうまくいきません。理由は、医師に毒殺の仕方を教えずに解毒の仕方だけを教えることができないのと同じです。それは同じ知識だからです。建設と解体についても同じことが言えますし、サイバーセキュリティについても同様です。私たちはこうしたAIモデルに、コンピュータのコードを精査し、脆弱性を発見して自動的に修正してほしいと望んでいます。それが実現すれば、私たちの集団的なセキュリティにとって計り知れない恩恵となるでしょう。しかし残念ながら、同じ知識は攻撃にも利用され得るのです。
ここから導かれるのは、私たちが不安定さの増した世界に置かれているという結論です。AIアシスタントによって力を得た人間は、素晴らしいことも恐ろしいことも、これまで以上に行えるようになります。
ここで話はファイブ・アイズの声明に戻ります。彼らが推奨している内容は、いずれもセキュリティ専門家が何年、いや何十年も前から提言してきたものばかりです。それらは、1998年に開かれた「政府における脆弱なコンピュータセキュリティ:国民は危険にさらされているのか」と題されたあの議会公聴会でも語られていた内容です。ファイブ・アイズ自身も、自分たちのセキュリティに関する助言が新しいものではなく、緊急性が増しただけだと認めています。
新しいのは、変化のスピードです。「フロンティアAIの開発ペースが速いため、サイバーリスクに関する前提は数年ではなく数か月で陳腐化しうる。我々は先手を打って行動し、進化する脅威に適応・対応できる備えを持たなければならない」と声明は述べています。ファイブ・アイズは、AI技術——必ずしもチャットボットに限らず、より広い意味でのAI——が防御のあらゆる側面を強化するために活用され、「脆弱性をより早期に検出し、ソフトウェアの品質を向上させ、異常な挙動を監視し、インシデントへの対応を迅速化することで、インシデントのコストと影響の双方を軽減する」ことにつながると指摘しています。
ファイブ・アイズのセキュリティ機関による、実に優れた助言です。私たちは、サイバーセキュリティに限らず、AIがリスクを高めるあらゆる分野でこれを実践していく必要があります。
本エッセイは元々The Guardian紙に掲載されたものです。