専門家は、エージェンティックAIがサイバーセキュリティを急速に変革し、人材がより動的な業務に集中できるようになると述べています。しかし、AIエージェントはまだ発展途上であるため、CISO（最高情報セキュリティ責任者）にはこの新しいセキュリティパラダイムに飛びつく前に多くの疑問を持つよう促しています。
今年のBlack HatおよびDEF CONカンファレンスで最も注目を集めた話題は、サイバー攻撃者と防御者の両方による人工知能ツールの急速な登場、特にエージェンティックAIを活用したサイバーセキュリティ強化でした。
サイバー防御者は20年近くにわたり、AI的な機械学習ツールを使ってタスクの自動化やバグの発見を行ってきましたが、大規模言語モデル（LLM）を搭載した新たなAIシステムやエージェンティックAIツールが登場したのはごく最近のことです。
「これはカンブリア爆発と表現されています」とRAD Securityの創設者兼CTO、Jimmy Mesta氏はCSOに語ります。「これは単なる進化ではありません。私たちの働き方や生活の仕方そのものが新たに生まれ変わる現象です。セキュリティの枠を超えています。これまでに類を見ない出来事です。」
専門家によれば、AIエージェントはセキュリティリスクを伴い、時には半導体レベルにまで及ぶこともありますが、煩雑な作業を自動化して貴重なセキュリティ人材をより大きな課題に集中させる「フォースマルチプライヤー効果」をもたらすチャンスでもあります。しかし、CISOは慎重に進め、AIエージェントをネットワーク内で自律的に動かす前に組織とデータを守るべきだと警告しています。
AIエージェントとは何か？
ChatGPTのようなチャットボットの普及により人工知能自体は社会全体に理解されつつありますが、エージェンティックAIについてはまだ共通の定義が確立されていません。IBMはAIエージェントを一般的に「利用可能なツールでワークフローを設計し、自律的にタスクを実行するシステム」と定義しています。
しかし実際には、エージェンティックAIの定義は明確に定まっておらず、流動的です。「エージェンティックAIとは何か？」とMesta氏は問いかけます。「LLMと違うのか？チャットインターフェースなのか？その答えは、私たちが望むほど明確ではなく、人によって定義が異なるようです。」
しかし多くの専門家は、AIエージェントは独立して行動を指示できる自己完結型のコードモジュールであることに同意しています。Wizのサイバーセキュリティ研究者、Andres Riancho氏はCSOにこう語ります。「基本的な概念は、LLMがタスクの実行を決定し、それをおそらくMCP、つまりModel Context Protocolサーバーを通じて実行するというものです。」MCPは、AIモデルとさまざまな外部ツールやサービスの橋渡しをします。
Zafran Securityの共同創設者兼CTO、Ben Seri氏は、AIエージェントの台頭を生成AIの登場と重ね合わせます。「これらはLLMをアナリストや仲介者のように振る舞わせるツールです」とCSOに語ります。「生成AIの初期と大きくは変わりません。機械に質問すれば答えが返ってくる。ただし今はプロセスになっています。AIやLLMにエージェンシー、つまり自律的に何らかの行動を取る能力を与えているのです。」
信頼・透明性・慎重な導入が重要
すべての技術と同様、あるいはそれ以上に、エージェンティックAIにはリスクとメリットの両方があります。AIエージェントの明らかなリスクの一つは、多くのLLMモデルと同様に、幻覚（誤った出力）やエラーを起こし、問題を引き起こす可能性があることです。
「プラットフォームツールに意思決定を委ねる、あるいはエージェンシーを与える場合、そのシステムが自分の最善の利益のために行動していることを確認するために、システムへの大きな信頼が必要です」とSeri氏は言います。「幻覚を起こすこともあるので、システムが出した結論とその根拠との間に証拠の連鎖を維持することに注意を払う必要があります。」
サプライチェーンの知識とともに、エージェンティックAI技術を利用する際には透明性が不可欠です。「私たちは透明性が非常に重要だと強調しています」とRoot.ioのCEO兼共同創設者、Ian Riopel氏はCSOに語ります。「私たちが公開したもの、顧客に提供したものはすべて、ソースコードを確認できます。何が変更されたのかを見て理解する必要があります。隠蔽によるセキュリティは良いアプローチではありません。」
もう一つのリスクは、AIエージェント導入の熱狂の中で、組織が基本的なセキュリティ上の懸念を見落とす可能性があることです。
「これは新しい技術であり、人々は迅速に製品を出荷し、イノベーションを起こし、新しいものを作ろうとしています」とWizのクラウドセキュリティ研究者、Hillai Ben-Sasson氏は言います。「みんな自分のサービス用にMCPサーバーを作ってAIと連携させていますが、結局MCPはAPIと同じです。10年前にAPIを作り始めたときに人々が犯したのと同じミスを繰り返さないでください。認証の問題やトークン、すべてAPIセキュリティの話です。」
エージェンティックAIはゲームチェンジャーになり得る
AIの登場に過剰な期待があると考える人も多いですが、専門家は、慎重かつ十分な検討をもって導入すれば、AIエージェントのメリットはサイバーセキュリティにとって画期的だと述べています。
AIエージェントは「未来です」とWizのBen-Sasson氏は言います。「ただし、現在のAI開発段階はまだ未熟なので、AIエージェントは新人エンジニアのように多くのミスをするかもしれません。だからこそ、さまざまな権限設定やガードレールが必要なのです。」
AIエージェントの本当の利点は、サイバーセキュリティにおける退屈だが必要な作業を担い、人材がより複雑な作業に集中できるようにすることで、セキュリティプログラムを加速させ、労働力の生産性を飛躍的に高めることです。
「私たちは、ある人気のオープンソースソフトウェアの重大な脆弱性に対してバックポートパッチを作成するため、エージェントの第3世代と最高のセキュリティ研究者の間で競争を行いました」とRoot.ioのRiopel氏は言います。「その研究者は、これまで存在しなかったパッチを作成するのに8日かかりました。3つの異なるコミットにまたがる17個のコードスニペットを修正する必要がありました。AIエージェントは15分以内でそれをやり遂げました。これは10倍どころか、1000倍の生産性です。」
フォースマルチプライヤーはスキルセットの変化を意味し、雇用喪失ではない
多くのセキュリティアナリストが現在行っている作業が削減される可能性があるにもかかわらず、エージェンティックAIは現在のサイバーセキュリティ人材の規模を減らすことはないでしょう。「エージェントのせいで誰かが解雇されることはありません」とRiopel氏は言います。
「私たちはスキルセットの変化を経験しているのであって、完全な置き換えとは言えません」とRAD SecurityのMesta氏は述べます。「AIが影響を与えるのは、CSVレポートをExcelに入れてチケットを作成するような、下位レベルの事務作業的な仕事です。」
しかし彼はこうも言います。「AIを使いこなせる人にとっては、セキュリティチームの生産性が飛躍的に向上します。これは大きな注意点です。AIに反対し、それを自分のスキルセットに加えるべきでないと考えるなら、今後同じレベルの職位を維持するのは難しくなるでしょう。」
Zafran SecurityのSeri氏は、AIエージェントの登場でサイバーセキュリティの専門家が減るというのは誤りだと考えています。「むしろ、もっと必要になるでしょう」と彼は言います。「これらのツールで自動化し、生活を楽にする機会はありますが、人が長年かけて蓄積する専門知識を置き換えるものではありません。」
CISOはAIエージェント導入をどう進めるべきか
すべての専門家が、AIエージェントの組織内導入は既定路線であり、クラウドコンピューティングの導入よりも速いペースで進むと述べています。「この列車はすでに駅を出発しただけでなく、まるで新幹線のようです」とMesta氏は言います。「史上最速の列車のようなものです。」
CISOは、完全にコントロールできるとは限らない技術の影響にすぐに対応しなければなりません。なぜなら、チームメンバーがAIプラットフォームを使ってセキュリティソリューションを開発する可能性が高いからです。「NOと言っても意味がありません。ガードレールを設けてYESと言う必要があります」とMesta氏は述べます。
エージェンティックAIがまだ初期段階にある今、CISOは多くの疑問を持つべきだとRiopel氏は言います。しかし彼は、最も重要な「問い」は「ごく短期間でチームの成果や効果をどうやって飛躍的に高められるか？」だと強調します。「短期間とは数ヶ月ではなく、数日であるべきです。大企業でもそのようなリターンを得ているのです。」
誰もが短期間での導入が正しい戦略だと考えているわけではありません。「多くの場合、CISOの視点から見ると、彼らが使っているエージェンティックAIサービスはまだ未熟だというのが教訓です」とWizのRiancho氏は言います。「業界自体が未熟です。すべてがより安定し、企業やエンドユーザーにとって安全になるには、数年のセキュリティ向上が必要です。」
しかしRiancho氏も、CISOは今こそ多くの疑問を持つべきだと考えています。「私は難しい質問をします。実際にエージェントをエンドポイントデバイスやインフラ、SOCなどに接続する前に、『これらのエージェントがどのようなアクションを実行するのか？』という難しい質問をしてください。」
CISOが問うべき重要な疑問の一つは、自社の情報が特定のベンダーのエージェンティックAI製品に入力された後、どうなるのかということです。
「自分のデータがOpenAIやAnthropic、あるいは他のセキュリティベンダー以外のベンダーに渡るのは避けたい」とZafran SecurityのSeri氏は言います。「これは基本です。自分が共有しているデータが世界中を巡り歩くことがないようにしてください。」
ニュースレターを購読する
編集部からあなたの受信箱へ
下にメールアドレスを入力して始めましょう。