AIソフトウェアセキュリティの鍵はスピードではなく成熟度

エージェント型人工知能（AI）によるソフトウェア開発は、まるで夏の大作映画のような要素を備えています。ゴジラ級の生産性向上への期待が経営層を沸かせる一方で、セキュリティ上の影響が開発者やSOCチームを震え上がらせているのです。ただし、この興奮と戦慄は夏が終わっても続きます。しかも、その余波はこぼれたポップコーンどころでは済まない深刻なものになりかねません。

ソフトウェア開発向けか汎用かを問わず、大規模言語モデル（LLM）が急速に普及しています。会社が認可したツールに加え、従業員が持ち込むシャドーAIも増えており、攻撃対象領域（アタックサーフェス）の拡大は従来の対策が追いつけない速さです。特にエージェント型AIの利用拡大が拍車をかけています。リスク増大の影響はすでに現実のものになりつつあり、Gartnerは、エージェント型AIに起因するインシデントのコストが2027年にかけて4倍に増加すると予測しています。

エージェント型AIの影響は、まさに諸刃の剣です。SonarSourceによると、ClaudeやGeminiのような最先端のLLMは、最も優れた高機能なコードを書く一方で、最も深刻なセキュリティ脆弱性も生み出しています。

企業はエージェント型AIのリスク要因を制御する必要性を認識していますが、これまでに導入した保護策は不十分な可能性があります。AI主導のソフトウェア開発を抑え込む手段として真っ先に挙がるのはガバナンスであり、それには十分な理由があります。AIエージェントに何を許し、何を許さないかを管理するうえで欠かせないからです。AIツールの利用状況やコミットの可観測性を高めることと合わせれば、生産性向上の恩恵を受けながら、AIのリスクレベルを抑えられます。

しかし、ガバナンスだけでは限界があります。企業は、セキュリティ対策に関するほかの重要な面で、依然として手探りの状態にあるからです。具体的には、AI導入の段階的な尺度の中で自社がどこにいるのかを把握しておらず、その結果、現在の段階で何が必要なのかを理解できていない可能性があります。自社のAIプロジェクトの能力、伴うリスク、AIを管理するために求められる開発者のスキルレベルを明確に理解していなければ、セキュリティのベストプラクティスの実践は大きく不足しかねません。ソフトウェア開発の新たな現実に十分対応できるガバナンス計画が必要です。

AI導入と成熟度の各段階を知る

リスク管理の主導権を失うことなくAI導入という難題に取り組むには、3つのフェーズと8つのステージからなる「AI導入モデル」が参考になります。このモデルは、比較的シンプルなAIアシスタントが定型作業をこなす段階から、AIエージェントが自らタスクを開始して完了まで担える段階に至る、AI活用の道のりを反映したものです。

モデルは各ステージを非常に詳細に説明していますが、簡単にまとめると、AI実装の3つのフェーズ（AI支援型、AIネイティブ、エージェント型）にわたり、活動内容、リスクレベル、開発者に求められるスキルを定義した、8つの観察可能なステージで構成されています。

フェーズ1：AI支援型

最初のフェーズにはステージ1（最小限のAI利用）とステージ2（監督下での支援）が含まれ、AI導入の入り口にいる組織が対象です。開発者のために直接働くAIモデルを使い、リスクレベルは低から中程度です。この初期段階は、ガバナンスポリシーを確立するのに最適な時期です。一方、開発者に対しては、セキュアコーディングからコードレビューまで幅広いテーマでスキルアップを図るべきです。これらのスキルは、ベースラインの設定や開発者のパフォーマンス追跡を行うツールで検証できる状態にしておく必要があります。

フェーズ2：AIネイティブ

ステージ3（監督なしの支援）とステージ4（AI主体の開発）が該当し、開発者が綿密な監督なしにAIモデルをより自律的に動かすようになるフェーズです。エージェントがModel Context Protocol（MCP）などの情報共有標準を活用することで生産性は急上昇しますが、リスクレベルも高くなります。大きなリスクの一つは、開発者がAIを過信することです。ただし、過信を検出したりMCPの動作を追跡したりするツールは存在します。ステージ4は、AIネイティブからエージェント型への移行の始まりです。開発者はコードの作成者ではなくレビュアーになります。これは大きな変化であり、効果的な教育とスキルアップが求められます。

フェーズ3：エージェント型

すべての組織が目指すフェーズですが、リスクレベルは「非常に高い」「重大」から「極めて高い」「最大」にまで及びます。各ステージは、能力とリスクの両面で着実に階段を上っていきます。ステージ5（シングルエージェント）では、Claude CodeやGemini CLIのようなコマンドラインインターフェース（CLI）エージェントが、作業の最初から最後までを自力で実行します。ステージ6（マルチエージェント並列）では、複数のエージェントが協調して動くため、AIを急速に拡大できます。ステージ7（大規模エージェント管理）はさらに一段上で、複数のエージェントが大規模に稼働します。ステージ8（自律的オーケストレーション）では、開発者が各エージェントを一つのチームとして統率する必要があります。開発者教育では、ポリシーの適用、アプリケーションリスクスコアカードの活用、監査目的でのコミット追跡といった能力を扱うべきです。

これらのステージの進行からも明らかなように、AIエージェントがより複雑で自律的かつ無監督の作業をこなすにつれ、リスクレベルはたちまち手に負えなくなりかねません。そのため、ガバナンスと包括的な学習プログラムを早期に整えることが不可欠です。ガバナンスの土台を早い段階で築けなければ、後で大きなしっぺ返しを受ける恐れがあります。

幸い、現時点で大半の開発者はステージ2から4のあたりにいます。企業にとって、エージェント型開発ライフサイクル（ADLC）という全く新しい世界を管理するために必要なガードレール、監督体制、教育プログラムを導入するのに、遅すぎることはありません。

どこから始め、どう進めるか

多くの新技術と同様に、AIの導入は、組織がそれを安全に守る能力をはるかに先行しています。AIへの猛進に加えて、従業員が自前のLLMをネットワークに持ち込み、セキュリティ評価の進め方も文脈に応じたレビューのやり方も理解していないという問題もあります。その結果、組織は誰がAIを使い、どのように使い、本番コードにどんな影響を与えているのかを把握できなくなっています。AI導入では速く飛んでいるかもしれませんが、AIが安全に使われていることを確認するために必要な監督、ガードレール、開発者レベルの可観測性がないまま、多くの面で計器なしの飛行を続けているのです。

効果的なAIガバナンスの確立は、気が遠くなる作業に感じられるかもしれません。「どこから始めればよいのか」という疑問はもっともです。答えは、まず自社が今どこにいるのかを理解することです。それによって、現在の導入段階で必要なセキュリティ対策や開発者のスキルレベル、そして次の段階で求められるものが見えてきます。

組織がAI導入のどの段階にいても、能力とリスクの両面で次のレベルは想定より早く訪れます。