人工知能（AI）およびエージェンティックAIのユースケースは、さまざまな業界で急増し続けています。しかし、人間の要素を排除することは、依然として深刻なセキュリティリスクをもたらすと専門家は警告しています。
AIは組織の業務を迅速化しましたが、新たに登場したエージェンティックAIシステムは自動化をさらに加速させています。エージェントはリアルタイムでのブロック機能を提供し、CISOが直面するコストや予算の課題に対応し、SOCチームが膨大な重要データを管理するのを支援します。最近のClouderaのレポート によると、組織の57％が過去2年以内にAIエージェントの導入を開始し、21％は過去1年で導入したとされています。そしてこの数字は今後も増加する見込みで、調査回答者の96％が今後12か月以内にAIエージェントの利用を拡大する予定だと回答しています。
現在、ユースケースは急増していますが、それに伴いこの技術が人間のスキルを置き換えるのではないかという懸念も高まっています。
AIは人間を置き換えるのか？
企業がAIを活用し、その結果従業員を解雇しているのではないかという懸念は、特にエージェンティックAIの副産物だと、SentinelOneの脅威発見・対応担当SVPであるスティーブ・ストーン氏は述べています。「実際には逆のことが起きていると思います」とストーン氏はDark Readingに語ります。「SentinelOneではAIとエージェンティックAIの活用を強化しています。これまで以上に多くのアナリストを採用しており、彼らにより意義のある仕事を任せられるようになっています。」
同社はAIを使って単調な作業を排除しており、アナリストが関与するタスクの数を絞り込むのに役立っているとストーン氏は付け加えます。これにより、より高度な問題に集中できるようになっています。
業界専門家の間では、AIは人間を置き換えるのではなくサポートするという傾向が共通して見られ、バグバウンティプログラムでの活用も含まれます。エシカルハッカーは、脆弱性を見つけるために自動化ツールを長年利用してきました。これらのツールを効果的に使う人々は、自分でモデルを構築・維持・カスタマイズする方法を見出しており、現在ではAIを使ってこれらのツールをさらに迅速に構築していますと、Bugcrowd CEOのデイブ・ジェリー氏は明かします。Bugcrowdは、組織と研究者をつなぎ、環境内に潜む欠陥を発見するのを支援するクラウドソーシングプラットフォームです。
「[AIは]人間を置き換えるのではなく、より効率的にしているだけです」とジェリー氏は説明し、過去6か月間だけで約70社のAIペンテスター企業が登場したと指摘します。「研究者たちはAIを活用して簡単な脆弱性を見つけ、より複雑な脆弱性に集中できる時間を増やしています。」
同様に、Sophosの開発責任者ジョン・ピーターソン氏は、自動化によって32,000社の顧客を担当する700人のアナリストが、ケース調査中に検出されたIoC（侵害の痕跡）を整理できるようになると述べています。検出やIoCは、IPアドレスからドメイン、ファイルハッシュまで膨大な情報を含むことがあります。
「私たちは人間をプロセスから排除しようとしているのではなく、アナリストを関与させ、できる限り作業を簡単にしようとしています」とピーターソン氏はDark Readingに語ります。「これまではAIなしでケース調査から情報をまとめていましたが、エージェンティックシステムを使えばこのプロセスをはるかに効率化できる大きなチャンスがあります。」
AIエージェントがノイズを整理する
AIが人間を置き換えるかどうか、またはどの程度置き換えるかはまだ分かりません。しかし、エージェンティックAIのユースケースが急速に増えているのは明らかです。特に膨大なデータ量の問題に対応するためです。業界は常にデータ量の問題を抱えてきたとストーン氏は述べ、SOCチームには膨大な情報が流れ込んでくると指摘します。しかし、チームすら持たない企業もあり、その場合はどうすればよいのでしょうか。
「それは不可能な問題です」とスティーブ氏は言います。「技術を導入しても、データを整理できなければ意味がありません。AIはその解決に非常に優れています。SOCは本当に圧倒されがちです。AIはグルーピングが得意で、一度問題を解決すれば、それを適用してノイズを切り分けることができます。」
さらに、AIは組織が自社の技術を活用しようとする際の学習曲線を短縮します。ほとんどの従業員は自分たちの技術がどのように機能しているか理解していませんが、AIは技術的な障壁を取り除くことができます。これは長い間待ち望まれていた大きな進歩だとストーン氏は述べています。
SentinelOneの顧客に関して言えば、AIやエージェンティックAIの利用はまさに「西部開拓時代」のような状況だとストーン氏は表現します。しかし、近代化の面では役立っています。
「[ある事象を]一度分析して適用すれば、もう一度見る必要はありません」とストーン氏は言います。「AIはすべてのデータと結果を取り込むことができます。今、私たちはあることをテストしており、同じことをしているクライアントとも協力しています。ジュニアアナリストがイベントをトリアージし、実施したすべてのステップを記録し、それをシニアアナリストの対応と比較します。」
AIは本質的にジュニアアナリストのメンターの役割を果たし、シニアアナリストは従来通りの業務を続けます。AIは下位レベルのアナリストが見逃したステップやギャップを指摘できます。「[AIは]リーダーである私たちに、どこに人材がいるのかを教えてくれるので、『この人のトレーニングに再度注力しよう』と言うことができます」とストーン氏は説明します。「以前は人間が必要でしたが、今では機械がこれを代行できます。」
CISOにとってのメリットとデメリット
CISOもエージェンティックAIのブームから恩恵を受けており、特にツール面での利点があります。エージェンティックAIに関しては無限の可能性があり、唯一の制約は想像力だとSophosのSOC運用担当VPトム・ゴラップ氏は述べています。
CISOの仕事は多面的であり、AI活用にあたっては多くの考慮事項があります。たとえば、どうやって一貫性のある再現可能な結果を監視するのか？また、AI活用によるチームのスキル低下といった潜在的な悪影響もあるとゴラップ氏は指摘します。
「これは課題です。なぜなら、多くの人が見落としていると感じるのですが、レベル1の業務を100％自動化した場合、レベル2のアナリストはどうやって育成するのか？」とゴラップ氏は懸念します。「どこから来るのか？採用やトレーニング計画はどうなるのか？CISOがAIをリスクの観点から検討する際には、他にも多くのことを考慮すべきです。」
常にリスクは存在する
エージェンティックAIの導入がセキュリティを考慮せずに行われた場合、攻撃者が顧客の機密データにアクセスするリスクがあります。また、攻撃者はエージェントや大規模言語モデルを利用するソフトウェアを標的にし始めるだろうとゴラップ氏は警告します。
そのためには、人間をプロセスに関与させ続けることが不可欠であると、ゴラップ氏とピーターソン氏は同意しています。SOCで下される決定は重大な影響を持ち、慎重なアプローチが求められます。組織はガードレールを外し、人間の関与なしにエージェンティックシステムに意思決定を任せる際には注意が必要です。
必要な時にAIを導入し、リスクとリターンのバランスを取ることが重要です。
「[私たちは]自動化への依存を望んでいません」とゴラップ氏は警告します。