インスタントソフトウェア時代のサイバーセキュリティ

AIはソフトウェアの書き方、デプロイ方法、使用方法を急速に変えています。トレンドが指し示す未来では、AIはカスタムソフトウェアを素早く簡単に書くことができます。それを「インスタントソフトウェア」と呼びます。極端な場合、ユーザーがAIにオンデマンドでアプリケーション（例えばスプレッドシート）を書かせ、使い終わったら削除する方が、商業製品を購入するより簡単になるかもしれません。将来のシステムは両方の組み合わせを含む可能性があります。従来の長期的なソフトウェアと、常に書き直され、デプロイされ、修正され、削除される一時的なインスタントソフトウェアの両方です。

AIはサイバーセキュリティも変えています。特に、AIシステムはコード内の脆弱性を見つけてパッチを当てることがますます得意になっています。これはこれらおよび関連テクノロジーがどのように改善されるかによって、攻撃者と防御者の両方に影響を及ぼします。

このエッセイでは、AIの進歩について楽観的な見方をしたいと思います。また、インスタントソフトウェアの時代におけるAI主導のサイバーセキュリティがどのようなものになるかを推測したいと思います。攻撃者と防御者の間の軍拡競争がどのように展開されるかに影響を与える多くの未知数があります。

欠陥発見がどのように機能するかもしれない

攻撃側では、AIが脆弱性を自動的に見つけて利用する能力は過去数ヶ月で劇的に増加しています。我々はすでに政府と犯罪の両方のハッカーがシステムを攻撃するためにAIを使用しているのを目にしています。悪用の部分はここで重要です。なぜなら、それは経験不足の攻撃者に彼らの理解をはるかに超える能力を与えるからです。AIがより良くなるにつれて、より多くの攻撃者がAIを使用して攻撃を自動化することを期待してください。そして個人と組織がますます強力なAIモデルをローカルで実行できるようになるにつれて、AI企業による悪意のあるAI使用の監視と中断はますます関係なくなるでしょう。

オープンソースソフトウェア、独有ソフトウェアに組み込まれたオープンソースライブラリを含む、脆弱性がソースコード内で見つけやすいため、最も標的にされることを期待してください。未知数その1は、AIの脆弱性発見ツールがクローズドソース商用ソフトウェアパッケージに対してどの程度うまく機能するかということです。私は彼らがすぐに、ソースコードへのアクセスなしに、出荷されたコピーを分析するだけで脆弱性を見つけるのに十分な能力を持つようになると信じています。それが本当なら、商用ソフトウェアも脆弱になります。

特に脆弱なのはIoTデバイス内のソフトウェアです。インターネット接続された車、冷蔵庫、セキュリティカメラなどです。また、インターネット接続されている電力網、石油精製所とパイプライン、化学工場などの産業用IoTソフトウェアです。IoTソフトウェアは一般に品質がはるかに低く、産業用IoTソフトウェアはレガシーである傾向があります。

インスタントソフトウェアは異なる方法で脆弱です。それは大衆向けではありません。それは特定の人、組織、またはネットワーク用に作成されます。攻撃者は通常、分析するコードにアクセスできません。これにより、外部攻撃者による悪用の可能性が低くなります。それが一時的なものであれば、すべての脆弱性は短い寿命を持つでしょう。しかし、多くのインスタントソフトウェアはネットワーク上で長期間生き続けるでしょう。そしてそれが共有ツールライブラリにアップロードされると、攻撃者はそのコードをダウンロードして分析できるようになります。

すべてこれは、AIが世界中のシステムの脆弱性を自動的に見つけて利用することができるサイバー攻撃の強力なツールになる未来を指し示しています。

パッチ作成の自動化

しかし、これは軍拡競争の半分に過ぎません。防御側もAIを使用できます。これらの同じAI脆弱性発見テクノロジーは防御のためにさらに価値があります。防御側が悪用可能な脆弱性を見つけると、コードにパッチを当てて攻撃者からそれを永遠に奪うことができます。

これが実際にどのように機能するかは、別の関連機能によります。それはAIが脆弱なソフトウェアにパッチを当てる能力であり、これはそもそも安全なコードを書く能力と密接に関連しています。

AIはこれに今日は非常に上手ではありません。AIが作成するインスタントソフトウェアは通常脆弱性に満ちています。AIが安全でないコードを書くことと、コーディングしている人々がセキュリティを理解しないという両方の理由です。OpenClawはこの良い例です。

未知数その2は、AIがセキュアなコードを書くことがどの程度上手になるかということです。彼らが貧弱に書かれた安全でないコードの大量のコーパスで訓練されているという事実はハンディキャップですが、彼らは改善されています。彼らが信頼できるように脆弱性のないコードを書くことができれば、それは防御者にとって巨大な利点になるでしょう。そしてAIベースの脆弱性発見は、AIが安全なコードを書くことで訓練されるのを簡単にします。

我々は脆弱性を見つけてパッチを当てるAIツールが典型的なソフトウェア開発プロセスの一部である未来を想像できます。コードが脆弱性なしであると言うことはできません。それは不可能な目標です。しかし、容易に見つけることができる脆弱性がなく、テクノロジーが本当に良くなった場合、コードは本質的に脆弱性がなくなる可能性があります。

パッチのラグとレガシーソフトウェア

新しいソフトウェア（商用とインスタント両方）の場合、この未来は防御者に有利です。商用と従来のオープンソースソフトウェアの場合、それほど単純ではありません。現在、世界はレガシーソフトウェアに満ちています。その多くは、IoTデバイスソフトウェアのように、それを更新する専任のセキュリティチームを持っていません。時々それはパッチを当てることができません。AIがソースコードへのアクセスがないとき脆弱性を見つけるのが難しいのと同様に、AIが開発プロセスに組み込まれていないときソフトウェアにパッチを当てるのは難しいです。

AIシステムが脆弱性を見つけるのと同じくらい簡単に脆弱性にパッチを当てることができるかどうかについて、私はそれほど確信していません。なぜなら、パッチを当てるにはしばしばより全体的なテストと理解が必要だからです。それが未知数その3です。AIが彼らが見つける脆弱性に対して信頼できるソフトウェア更新を作成することがどのくらい迅速にでき、顧客がどのくらい迅速に彼らのシステムを更新できるかということです。

今日、ベンダーがパッチを発行してから顧客がその更新をインストールするまでの時間差があります。その時間差は大規模な組織のソフトウェアではさらに長いです。更新が基本的なソフトウェアシステムを破損するリスクは、組織が最初にテストせずに更新をロールアウトするには大きすぎます。しかしAIがそのプロセスを高速化するのを支援できるならば、より高速で確実にパッチを書くことと、AI生成されたツイン環境でそれらをテストすることにより、利点は防御者に行きます。そうでなければ、脆弱性がパッチされるまで攻撃者は依然としてシステムを攻撃するウィンドウを持つでしょう。

自己修復へ向けて

本当に楽観的な未来では、我々は自己修復ネットワークを想像できます。AIエージェントは継続的に商用とカスタムAI生成ソフトウェアの常に進化するコーパスを脆弱性についてスキャンし、発見時に自動的にパッチを当てます。

それが機能するには、ソフトウェアライセンス契約を変更する必要があります。現在、ソフトウェアベンダーはセキュリティパッチのペースを制御します。ソフトウェア購入者にこの能力を与えることは互換性、修理への権利、および責任についての含意があります。ここでのソリューションはいずれもテックではなくポリシーの領域です。

防御がレガシーソフトウェアの欠陥を見つけることはできるが確実にパッチを当てることはできない場合、それは攻撃者が彼らの努力に焦点を当てるところです。その場合、我々は継続的に進化するAI駆動の侵入検知を想像できます。継続的に入力をスキャンし、悪意のある攻撃が脆弱なソフトウェアに到達する前にそれらをブロックします。脆弱性を実行中のコード内で自動的にパッチを当てるのと同じくらい変革的ではありませんが、それでも価値があります。

これらの防御的なAIシステムの力は、彼らが互いに調整し、脆弱性と更新を共有することができる場合に増加します。1つのAIによる発見は、影響を受けたソフトウェアを使用している全員に素早く広がる可能性があります。繰り返します。防御者に利点があります。

考慮すべき他の変数があります。攻撃者と防御者の相対的な成功はまた、脆弱性がどの程度豊富であるか、見つけるのがどの程度簡単であるか、AIがより微妙で不明瞭な脆弱性を見つけられるかどうか、異なる攻撃者の間でどの程度の調整があるかに依存します。これらのすべてが未知数その4を構成します。

脆弱性経済学

おそらく、AIは明らかなものを最初にクリーンアップするでしょう。これは残りの脆弱性がいずれも微妙であることを意味します。見つけるには、AIコンピューティングリソースが必要になります。楽観的なシナリオでは、防御者は情報共有を通じてリソースをプールし、防御コストを効果的に償却します。情報共有が何らかの理由で機能しない場合、防御ははるかに高くつきます。個々の防御者は独自の研究を行う必要があるからです。しかしインスタントソフトウェアはコードのはるかに多くの多様性を意味します。これは防御者への利点です。

これは攻撃者が脆弱性を見つけるための相対的コストと釣り合われる必要があります。攻撃者はすでに新しい脆弱性を見つけるコストを償却する固有の方法を持っており、新しい悪用を作成します。彼らはプラットフォーム、ベンダー、システム全体で脆弱性を狩り、複数のターゲットを同時に攻撃するために見つけたものを使用できます。共通の脆弱性を修正するには、しばしばすべての関連プラットフォーム、ベンダー、およびシステム間の協力が必要です。繰り返しますが、インスタントソフトウェアは防御者への利点です。

しかし、見つけるのが難しい脆弱性はより価値があります。攻撃者は今日の主要な情報機関が行うことをしようとします。「私たちだけ」のゼロデイ悪用を見つけてください。彼らはそれらを遅く控えめに使用して検出を最小化するか、迅速広く使用して利益を最大化してからパッチが当たります。一方、防御者は脆弱性狩りと侵入検知の両方を行っており、目標は攻撃者が脆弱性を見つける前に脆弱性をパッチを当てることです。

我々は脆弱性を見つけてパッチを作成する防御者が情報共有/修復ネットワーク内の他の誰もが補償される脆弱性共有の市場を想像することもできます。これは少し無理かもしれませんが、多分。

スタック内で上へ

最も楽観的な未来においても、攻撃者はただ諦めるつもりはありません。彼らはシステムのソフトウェア以外の部分。ユーザーなど。またはシステムの抜け穴を探すつもりです。システムが技術的に許可するが、デザイナー（人間またはAIかどうか）によって意図されておらず予測されておらず、攻撃者が自分たちの利点のために使用できることができるもの。

この世界に残っているのは、社会工学と認証情報窃取攻撃のようなソフトウェア脆弱性の発見と悪用に依存しない攻撃です。そして、我々はAI生成されたディープフェイクがどのように社会工学を簡単にするかはすでに見ています。しかし、ここでも、我々はユーザーの行動を監視し、攻撃の兆候を見守る防御的なAIエージェントを想像できます。これは別のAIユースケースであり、攻撃者/防御者の軍拡競争の観点からどのように考えるかについて、私は確実ではありません。しかし少なくともスタックを上へ攻撃を押しています。

また、攻撃者は防御的なAIとそれらが通信に使用するネットワークに浸透して影響を与えようとします。彼らの出力を毒し、彼らの能力を悪化させます。AIシステムはプロンプトインジェクションのような様々な操作に脆弱であり、我々がそれを解決することができるかどうか不明確です。これは未知数その5であり、それは大きなものです。常に「信頼できる信頼問題」があるかもしれません。

未来は保証されていません。これらのテクノロジーが継続的に改善され、いつそれらが平準化するかについては、本当にわかりません。しかし、過去数ヶ月でAIソフトウェア開発が改善された速度を考えると、このインスタントソフトウェア世界でサイバーセキュリティがどのように機能するかについて考え始める必要があります。

このエッセイは元々CSOに掲載されました。

追記: 私がこれを書いた後に公開された2つのエッセイ。どちらもAI脆弱性発見に関して私たちがどこにいるかの良い例です。物事は非常に急速に変わっています。