インスタントソフトウェア時代のサイバーセキュリティ

AIはソフトウェアの作成、デプロイ、使用方法を急速に変えています。トレンドは、AIが素早く簡単にカスタムソフトウェアを作成できる未来を指しており、「インスタントソフトウェア」の時代を示唆しています。極端に言えば、ユーザーがAIにオンデマンドでアプリケーション（例えば、スプレッドシート）を作成させ、使用済みになったら削除する方が、商用ソフトウェアを購入するよりも簡単になる可能性があります。将来のシステムには、両方の組み合わせが含まれる可能性があります。従来の長期的なソフトウェアと、常に作成、デプロイ、修正、削除されるエフェメラルなインスタントソフトウェアの両方です。

AIはサイバーセキュリティも変えています。特に、AIシステムはコード内の脆弱性を検出してパッチするのがより得意になってきています。これは、これらおよび関連技術がどのように改善されるかに応じて、攻撃者と防御者の両方に影響があります。

このエッセイでは、AIの進歩に対して楽観的な見方をとり、インスタントソフトウェアの時代におけるAI支配的なサイバーセキュリティがどのようなものになるかを推測したいと思います。攻撃者と防御者の間の軍拡競争がどのように展開されるかに影響を与える多くの未知数があります。

脆弱性発見がどのように機能するか

攻撃側では、AIが脆弱性を自動的に検出して悪用する能力は、過去数か月で劇的に増加しています。すでに政府と犯罪者の両方のハッカーがシステムを攻撃するためにAIを使用しているのが見られます。悪用の部分はここで重要です。なぜなら、それは自分たちの理解をはるかに超えた能力を経験不足の攻撃者に与えるからです。AIが改善されるにつれて、AIを使用して攻撃を自動化する攻撃者がさらに増えることを予想してください。個人と組織がますます強力なAIモデルをローカルに実行できるようになると、AIの悪用を監視および妨害するAIの企業はますます関係がなくなるでしょう。

オープンソースソフトウェア、および独自のソフトウェアに組み込まれたオープンソースライブラリを含む、オープンソースソフトウェアが最も狙われることを予想してください。脆弱性はソースコード内で見つけやすいからです。未知数No. 1は、AIの脆弱性発見ツールが閉じたソース商用ソフトウェアパッケージに対してどの程度うまく機能するかです。彼らはすぐに、ソースコードにアクセスすることなく、配布された製品のコピーを分析するだけで脆弱性を見つけるのに十分な力を持つようになると信じています。それが事実であれば、商用ソフトウェアも同様に脆弱になります。

特に脆弱になるのは、IoTデバイスのソフトウェアです。インターネット接続の車、冷蔵庫、セキュリティカメラなどの機器です。また、インターネット接続された電力網、製油所とパイプライン、化学工場などの産業IoTソフトウェアも該当します。IoTソフトウェアは品質が大幅に低い傾向があり、産業IoTソフトウェアはレガシーである傾向があります。

インスタントソフトウェアは異なる脆弱性があります。これは大衆市場ではありません。これは特定の個人、組織、またはネットワーク向けに作成されます。攻撃者は通常、分析するコードへのアクセスがありません。これにより、外部の攻撃者による悪用の可能性が低くなります。一時的なものであれば、脆弱性の寿命は短くなります。しかし、多くのインスタントソフトウェアは長期間ネットワーク上に存在します。そして、共有ツールライブラリにアップロードされた場合、攻撃者はそのコードをダウンロードして分析することができます。

これらすべてが、AIが世界中のシステムの脆弱性を自動的に見つけて悪用することができる強力なサイバー攻撃ツールになる未来を指しています。

パッチ作成の自動化

しかし、それは軍拡競争のほんの半分に過ぎません。防御側もAIを使用することができます。これらの同じAI脆弱性発見技術は、防御により価値があります。防御側が悪用可能な脆弱性を発見すると、コードにパッチを当てて攻撃者に対してそれを永遠に拒否することができます。

これが実際にどのように機能するかは、別の関連する機能に依存しています。AIが脆弱なソフトウェアにパッチを当てる能力です。これは、AIが最初の場所で安全なコードを書く能力と密接に関連しています。

AIは現在このことがあまり得意ではありません。AIが生成するインスタントソフトウェアは、AIが安全でないコードを書くことと、コーディングする人が安全性を理解していないことの両方のため、一般的に脆弱性に満ちています。OpenClawは、これの良い例です。

未知数No. 2は、AIが安全なコードを書くのにどの程度の改善がされるかです。不正に作成された安全でないコードの大規模なコーパスで訓練されているという事実は弱点ですが、改善されています。脆弱性のないコードを確実に作成できれば、防御側にとって莫大なメリットになります。また、AI単位の脆弱性発見により、AI開発者は簡単に安全なコードで訓練することができます。

脆弱性を見つけてパッチを当てるAIツールが標準的なソフトウェア開発プロセスの一部である未来を想像することができます。コードが脆弱性のないものになると言うことはできません。それは不可能な目標です。しかし、簡単に見つけられる脆弱性がないものにすることができます。技術が本当に良くなれば、コードは本質的に脆弱性のないものになる可能性があります。

パッチのラグとレガシーソフトウェア

新しいソフトウェア（商用とインスタントの両方）については、この未来は防御側に有利です。商用および慣例的なオープンソースソフトウェアについては、それほど単純ではありません。現在、世界はレガシーソフトウェアでいっぱいです。その多くは、IoTデバイスソフトウェアのように、それを更新するための専用のセキュリティチームを持っていません。時々それはパッチを当てることができません。AIがソースコードにアクセスできない場合に脆弱性を見つけるのがAIにとってより難しいのと同じように、AIが開発プロセスに組み込まれていない場合にソフトウェアにパッチを当てるのはAIにとってより難しいです。

AIシステムが脆弱性を見つけるのと同じくらい簡単に脆弱性にパッチを当てることができるという点について、私はそれほど確信していません。なぜなら、パッチはしばしば、より全体的なテストと理解が必要だからです。未知数No. 3は、AIが見つけた脆弱性のために信頼できるソフトウェアアップデートを作成する速度と、顧客がシステムを更新する速度です。

現在、ベンダーがパッチを発行してから顧客がアップデートをインストールするまでのタイムラグがあります。このタイムラグは、大規模な組織ソフトウェアではさらに長くなります。アップデートが基礎となるソフトウェアシステムを壊すリスクが大きすぎて、組織はアップデートを最初にテストすることなくロールアウトすることはできません。しかし、AIがそのプロセスを高速化するのに役立つことができれば、より迅速かつ確実にパッチを作成し、AI生成されたツイン環境でテストすることによって、防御側が利益を得ます。そうでなければ、脆弱性がパッチされるまで、攻撃者はシステムを攻撃するための窓口を持ち続けるでしょう。

自己修復に向けて

本当に楽観的な未来では、自己修復ネットワークを想像することができます。AIエージェントは商用およびカスタムAI生成ソフトウェアの常に進化するコーパスを継続的にスキャンして脆弱性を検出し、発見時に自動的にパッチを当てます。

それが機能するには、ソフトウェアライセンス契約を変更する必要があります。現在のところ、ソフトウェアベンダーはセキュリティパッチのペースを制御しています。ソフトウェア購入者にこの能力を与えることは、互換性、修理の権利、および責任についての影響があります。ここでの解決策は、テックではなくポリシーの領域です。

防御側がレガシーソフトウェアの欠陥を見つけることはできるが、確実にパッチを当てることができない場合、その場所が攻撃者がその努力を集中させるところです。その場合、継続的に進化するAI支援侵入検知を想像することができ、継続的に入力をスキャンして、脆弱なソフトウェアに到達する前に悪意のある攻撃をブロックしています。脆弱性を実行中のコードに自動的にパッチするほど変革的ではありませんが、それでも価値があります。

これらの防御AIシステムの力は、相互に調整でき、脆弱性とアップデートを共有できる場合に増加します。1つのAIによる発見は、影響を受けるソフトウェアを使用している誰もが迅速に広がることができます。再度：防御側が有利です。

考慮すべき他の変数があります。攻撃者と防御者の相対的な成功はまた、脆弱性がどのくらい豊富であるか、それらを見つけるのがどのくらい簡単であるか、AIがより微妙で不明瞭な脆弱性を見つけることができるかどうか、そして異なる攻撃者の間にどの程度の調整があるかに依存しています。これらすべてが未知数No. 4を構成しています。

脆弱性経済学

おそらく、AIは明白なものを最初にクリーンアップします。つまり、残りの脆弱性は微妙なものになります。それらを見つけるにはAIコンピューティングリソースが必要です。楽観的なシナリオでは、防御者は情報共有を通じてリソースをプールしながら、防御のコストを効果的に償却しています。情報共有が何らかの理由で機能しない場合、個々の防御者は独自の研究を行う必要があるため、防御はより多くの費用がかかります。しかし、インスタントソフトウェアは、コード内のはるかに多くの多様性を意味します。防御側に対する利点です。

これは、攻撃者が脆弱性を見つけるための相対的なコストとバランスをとる必要があります。攻撃者はすでに、新しい脆弱性を見つけてコストを償却し、新しい悪用を作成する本質的な方法があります。彼らは、クロスプラットフォーム、ベンダー間、およびシステム全体で脆弱性ハンティングを行うことができ、彼らが見つけたものを複数の目標を同時に攻撃するために使用することができます。一般的な脆弱性を修正するには、多くの場合、すべての関連するプラットフォーム、ベンダー、およびシステム間の協力が必要です。再度、インスタントソフトウェアは防御側に対する利点です。

しかし、見つけるのが難しいそれらの脆弱性はより価値があります。攻撃者は、主要な情報機関が今日行っていることをしようとします。「誰もが見つけることができない」ゼロデイ悪用を見つけるために。彼らは、検出を最小化するため、またはパッチが当たられる前に利益を最大化するためにそれらをゆっくりかつ控えめに、または速く広く使用するかのいずれかです。一方、防御者は脆弱性ハンティングと侵入検知の両方を行いながら、攻撃者が脆弱性を見つける前にパッチを当てることの目標を持っています。

脆弱性を見つけてパッチを作成した防御者が、情報共有/修復ネットワーク内の他の全員によって補償される脆弱性共有市場さえ想像することができます。これは牽引力かもしれませんが、多分そうかもしれません。

スタック上へ

最も楽観的な未来でも、攻撃者は単にあきらめるつもりはありません。彼らはシステムのユーザーなどの非ソフトウェア部分を攻撃します。またはシステムの抜け穴を探すつもりです。システムが技術的に許可するが、人間またはAIのいずれかの設計者によって意図されず予期しない、攻撃者がそれらの利点に使用できるもの。

この世界に残されているのは、ソフトウェアの脆弱性の検出と悪用に依存しないソーシャルエンジニアリングおよび認証情報盗難攻撃などの攻撃です。そして、AI生成ディープフェイクがソーシャルエンジニアリングをより簡単にしているのを既に見ています。しかし、ここでも、ユーザーの動作を監視し、攻撃の兆候を監視する防御的なAIエージェントを想像することができます。これは別のAI使用事例であり、攻撃者/防御者軍拡競争の観点からどのように考えるべきかさえはっきりしていません。しかし、少なくとも攻撃をスタック上へ押し上げています。

また、攻撃者は防御的なAIと彼らが通信するために使用するネットワークに浸透して影響を与え、出力を毒する、そして能力を低下させるようとするでしょう。AIシステムは、プロンプトインジェクションなどのあらゆる種類の操作に対して脆弱であり、その問題を解決できるかどうかは明確ではありません。これは未知数No. 5であり、それは大きいものです。常に「信頼信頼の問題」があるかもしれません。

将来が保証されていません。これらのテクノロジーが改善され続けるかどうか、またはいつプラトーに達するかは本当にわかりません。しかし、ほんの数か月前のAIソフトウェア開発の改善速度を考えると、このインスタントソフトウェアの世界でサイバーセキュリティがどのように機能するかについて考え始める必要があります。