AIの言語が人間の話し方を変える可能性

先週、Five Eyes(ファイブ・アイズ)——つまり裕福な英語圏諸国のクラブ——の国家安全保障機関が、AIモデルによるサイバーリスクの増大、特にシステムやネットワークへ自律的に侵入する能力について警告する共同声明を発表しました。この声明は、これを取り上げた一部の扇情的な見出しに比べると抑制の効いた内容で、示されたアドバイスもほぼ従来から誰もが口にしてきた標準的な内容でした。ただし、そこに新たな切迫感が加わっている点は見逃せません。

インターネットのリスク自体は目新しいものではなく、大小を問わずサイバー攻撃は、現行世代の生成AIモデルが登場するはるか以前から重大な問題であり続けてきました。

数十年にわたって変化し続け、そしてAIによってさらに急速に変わりつつあるのは、「スキル」と「能力」の間のギャップです。人類史のほとんどの期間、この二つの言葉はほぼ同義でした。しかしコンピュータがこの二つを切り離してしまったのです。両者のギャップが広がるにつれ、AIツールで力を得た人間は、より多くの執筆、より多くの調査、より多くの分析、そしてこれまで以上に大きな被害をもたらすことが可能になります。これらのモデルは、詳細な指示をほとんど与えられなくても、自律的にネットワークへ侵入し、データを盗み、ランサムウェアを展開し、システムを破壊できます。そして、もし解決策があるとすれば、それは防御側にこそAIを活用することにあるはずです。

1998年、ハッカー集団L0phtのメンバー7人が議会で証言を行いました。上院委員会のほとんどの委員がこの分野に無知な中、彼らは「30分あればインターネットを停止させられる」と証言しました。これは半分は本当で、半分ははったりでしたが、ここには重要な論点が示されています。すなわち、システムへの侵入、データの窃取、そして被害の発生には、いずれもスキルが必要だったということです。

L0phtのハッカーたちを、「スクリプトキディ」と揶揄されるハッカーたちと比較してみましょう。彼らはコンピュータやセキュリティについて理解していませんでした。その代わりに、他人が書いたハッキングツールを使っていました。彼らの行動には、最小限のスキルと、それ以下の知識しか必要ありませんでした。しかし、こうしたハッキングツールが広く出回るようになると、潜在的な攻撃者の数は増加しました。

その数は、既製の攻撃ツールの質と入手しやすさが向上するにつれて増え続けてきました。そして今、AIによってその数は劇的に増加しています。今日のAIシステムは、最先端のモデルに限らず、そのほとんどがサイバー攻撃を自動的に実行する能力を備えています。いずれも熟練した攻撃者の手にかかればより強力になりますが、最小限のプロンプトだけで自律的に行動できるようにもなりつつあります。

能力はあってもスキルがない人々についてよく言われるのは、彼らが往々にしてアウトサイダーであり、いかなる専門家コミュニティにも属さず、いかなるルールや規範にも縛られていないということです。この現象は、サイバーセキュリティに限った話ではありません。どんな医師でも、誰にも気づかれずに人を毒殺する方法を教えることができますし、多くのウイルス研究者は生物兵器の作り方を知っています。どんな橋梁エンジニアでも、橋を爆破するための爆薬の設置方法を教えられます。人を殺める医師やテロを起こす技術者がまれである理由は、そうしたスキルを習得する長い過程で、同時に道徳的・倫理的な規範も身につくからです。もし誰もが手軽に優れた毒殺の方法を知ることができるとすれば、それは私たち全員を危険にさらすことになります。

現代のAIシステムは、事実上、人々が有害な行為を行う手助けをする万能の助言者です。現在のAI大企業各社は、質問への回答が質問者に危害をもたらすような問いを人々が発せられないよう、ガードレールの構築に取り組んでいますが、それは長期的にはうまくいかないでしょう。より小規模で安価なオープンソースモデル——人々のパソコンで動作するモデルや、とりわけ複数のモデルが連携して動作する仕組みを含む——は、OpenAIやAnthropicといった企業の最先端モデルと同等の性能を持っています。しかも、それらは進化を続けています。こうしたモデルは、かつてのスクリプトキディ向けハッキングツールのように人から人へと出回るようになり、そこにはそうしたガードレールは存在しないでしょう。

AIモデルに人々を監視させ、悪意あるプロンプトを当局に通報するよう指示するというアプローチも、同様の理由で失敗します。大企業はそれを実行できるかもしれませんが、ローカルで動くオープンソースモデルにはそれができません。これで稼げる時間は、せいぜい数か月程度でしょう。

第三の選択肢として、モデル自体がハッキングや生物兵器の作成、その他人々や社会に危害を及ぼしうる行為を一切行えないようにするという方法も考えられます。しかしこれもうまくいきません。それは、毒物による治療法だけを医師に教え、毒殺の方法を教えずに済ませることができないのと同じ理由です。両者は同じ知識だからです。建設と解体についても同じことが言えますし、サイバーセキュリティについても同様です。私たちは、こうしたAIモデルにコンピュータコードをレビューさせ、脆弱性を発見し、自動的に修正させたいと望んでいます。それによって私たちの集団的なセキュリティにもたらされる恩恵は計り知れません。しかし残念ながら、同じ知識は攻撃にも利用され得るのです。

こうした状況の先にあるのは、これまで以上に変動の激しい世界です。AIアシスタントによって超人的な力を得た人間は、素晴らしいことも恐ろしいことも、どちらも成し遂げられるようになるでしょう。

ここで話をFive Eyesの声明に戻しましょう。彼らが推奨している内容は、いずれもセキュリティ専門家が何年も、いや何十年も前から言い続けてきたことばかりです。それは1998年のあの議会公聴会——「政府のコンピュータセキュリティの脆弱性:国民は危険にさらされているか」と題されたもの——で既に議論されていた事柄でもあります。Five Eyes自身も、彼らのセキュリティに関する助言そのものは目新しいものではなく、ただ切迫感が増しているだけだと認めています。

新しいのは、事態が変化する速度です。「最先端AI開発の急速なペースにより、サイバーリスクに関する前提は、年単位ではなく月単位で陳腐化しかねません。私たちは事前に行動し、進化する脅威に適応し、それに耐えられるよう備えなければなりません」。Five Eyesは、AI技術——必ずしもチャットボットに限らず、より広い意味でのAI——を防御のあらゆる側面の強化に活用することで、「脆弱性をより早期に検知し、ソフトウェアの品質を向上させ、異常な挙動を監視し、インシデントへの対応を迅速化することで、インシデントのコストと影響の両方を軽減できる」と指摘しています。

Five Eyesのセキュリティ機関による、これは実に優れた助言です。私たちは、サイバーセキュリティに限らず、AIがリスクを高めるあらゆる領域において、こうした取り組みを進めていく必要があります。

このエッセイはAda Palmer氏と共同で執筆され、元々はThe Guardian紙に掲載されたものです。