AIによる開発の二重の現実：イノベーションとリスク

JPMorgan ChaseのCISOであるPatrick Opetが4月にソフトウェアサプライヤー向けに公開書簡を発表したとき、彼は単に懸念を表明しただけでなく、警鐘を鳴らしていました。 

2025年版Verizonデータ侵害調査報告書の数字は、すべてのセキュリティリーダーの眠りを妨げるはずです。侵害の30％が現在サードパーティ製コンポーネントに関与しており、昨年の2倍に増加しています。しかし、ここで本当に注目すべきは、サプライチェーンリスクの急増が、まさにAIが私たちのコードの大部分を書き始めている時期に起きているという点です。

すべてのCISOを恐怖に陥れるべき例がGoogleです。現在、AIがGoogleのコードの30％を書いていますが、多くのセキュリティチームは依然として人間がすべてを書いていた時代向けに設計されたツールに頼っています。これは単なるギャップではなく、深い溝です。

懸念すべき理由 

大規模言語モデル、機械学習モデル、生成AIは、企業が日々依存する多くのアプリケーションを生み出すことで、ソフトウェア開発の現場を根本的かつ急速に変革しています。MarketsandMarketsによると、AIコーディング分野は2024年の約40億ドルから2028年には約130億ドルに成長すると予測されています。当然ながら、AIとソフトウェア開発の融合は、これまでにない効率向上と新たなイノベーションをもたらすでしょう。しかし、これらの素晴らしい利点にもかかわらず、AIの影響には専門的な注意を要する新たなセキュリティ課題も含まれています。 

私たちはこれを以前にも目にしています。エネルギー業界やテクノロジー業界で20年以上セキュリティチームを率いてきた経験から言えるのは、すべての大きなセキュリティ進化は同じ設計図に従うということです。すなわち、新しいテクノロジーは、防御策が追いつくよりも早く新たなリスクを生み出します。AI開発も例外ではありません。

GitHub Copilot、CodeGeeX、Amazon Q DeveloperといったAIコーディングアシスタントは、人間の開発者とは本質的に異なる重要な点があります。その最大の違いの一つは、開発経験、文脈理解、人間の判断力が欠けていることです。これらは、安全なコードと脆弱な実装を区別するうえで不可欠な要素です。

AIツールはまた、既知の脆弱性や非推奨の暗号化方式、古いコンポーネントを含む膨大な過去のコードリポジトリで学習します。その結果、AIアシスタントがこれらの要素を新しいアプリケーションに取り入れ、従来のセキュリティツール（静的アプリケーションセキュリティテスト（SAST）、動的アプリケーションセキュリティテスト（DAST）、ソフトウェア構成分析（SCA）など）では検出できないソフトウェアサプライチェーンのセキュリティリスクをもたらします。

これらのツールが不十分である理由は、主に既知の脆弱性パターンやコンポーネントのバージョンに焦点を当てているからです。これらのツールは、データポイズニング攻撃やミーメティックウイルスなど、AI特有の脅威を効果的に評価できません。これらは機械学習モデルを破壊し、悪用可能なコードの生成につながる可能性があります。AIセキュリティ分野の新興スタートアップもいくつか存在しますが、ファイルサイズや複雑さに関する従来のソリューションと同様の制限があります。また、マルウェア、改ざん、フォーマットに対するデシリアライズ攻撃など、モデルのあらゆる潜在的リスクを包括的に分析することもできません。 

これらの従来型セキュリティツールが最後に不足している点は、通常、開発中のコードを分析するだけで、最終的なコンパイル済みアプリケーションを検査しないことです。このアプローチでは、ビルドプロセス中やAI支援によって導入された悪意のある変更が見逃される盲点が生じます。ソフトウェアをコンパイル済みの状態で検査することは、無許可または潜在的に有害な追加を特定するために不可欠となっています。

今後どうするか？

組織がAIコーディングツールをますます導入する中で、セキュリティ戦略も進化させなければなりません。なぜなら、AIモデルはギガバイト単位の大きさになり、従来のツールでは処理できない複雑なファイルタイプを生成するからです。これらの新たなリスクに対応するには、分析能力と、以下のことが可能な包括的なソフトウェアサプライチェーンセキュリティ対策が必要です：

1. 開発に使用されるAIモデルの出所と完全性の検証
2. AIアシスタントが提案するコンポーネントやコードのセキュリティ検証
3. コンパイル済みアプリケーションを検査し、予期しないまたは無許可の追加を検出
4. AIシステムを危険にさらす可能性のあるデータポイズニングの監視

AIとソフトウェア開発の融合は選択肢ではなく、必然です。Patrick Opetがソフトウェアプロバイダーやセキュリティ実務者に対し、ソフトウェアサプライチェーンを標的とする新たな脅威に対応するよう呼びかけたのは正しかったのです。 

巨大なAIモデルから、それらが生成するコンパイル済みアプリケーションまで分析できる包括的なソフトウェアサプライチェーンセキュリティを導入し、セキュリティ戦略を適応させた組織こそが、今後成功を収めるでしょう。 

そうしない組織は、来年の侵害報告書で警告事例として取り上げられることになるでしょう。

Saša ZdjelarはReversingLabsのチーフトラストオフィサーです。