議論すべきはAIを使うかどうかではなく、現実のアプリケーションで視野と制御を失わずにどう展開するかである。
今年は、人工知能が支援をやめて行動を始める転換点となるだろう。私たちは、自律的な意思決定を行い、複雑なワークフローを管理し、継続的な介入なしにエンドツーエンドのタスクを実行できる、エージェントベース、すなわちagentive AIへの質的飛躍を目の当たりにする。しかし、この自律性は企業に対して重大な警告も伴う。単独で動作できる能力は、あらゆるエラーやセキュリティ侵害の影響を指数関数的に増幅させるのだ。
ISACAのTech Trends and Priorities Pulse Pollによれば、ITおよびサイバーセキュリティの専門家の59%が、2026年にAI主導のサイバー脅威を予測している。これは小さな問題ではない。業界の「専門家」こそが、その影響について最も慎重であることを示している。
このような状況を踏まえると、議論すべきはAIを使うかどうかではなく、現実のアプリケーションで視野と制御を失わずにどう展開するかである。最近のラウンドテーブルで私は、逆説をお許しいただくなら、現場に一定の「ゲート」を設ける必要性を主張した。重要なプロセスにAIを実装すれば時間とコストを節約できることは否定できないが、何を接続し、どのように接続し、誰と情報を共有するのかについて、完全な可視性が求められる。これは、人を訓練し、社内で起こることをガバナンスする義務を私たちに突きつけるものであり、常に人間の責任を方程式の中心に据えなければならない。
エージェント型AIの到来により、この前提は慎重な推奨事項から、生存のための必須要件へと変わる。リスクはもはやテキストを生成するモデルに限られず、システム、顧客データベース、サプライチェーンに対して行動を実行するエージェントに及ぶ。ここには危険な断絶がある。同じ調査によれば、これらのリスクを管理する準備が「十分にできている」と考える専門家はわずか13%にとどまる。これは憂慮すべき統計であり、企業の大多数がAI競争に急いで参入しながら、容認できない脆弱性の領域で運用していることを示している。
だからこそ私は、エージェント型AIのような破壊的進歩には、あらゆる進化がガバナンスに根差していなければならないと繰り返し訴え続ける。ガバナンスとは俊敏性を鈍らせる官僚主義ではなく、限界、責任、必要な証跡を定義する一連のルールである。すなわち、どのユースケースが承認されるのか、エージェントが扱えるデータは何か、必須の統制は何か、自動化された意思決定をどう監督するのか、そして何かがうまくいかなかったとき誰が責任を負うのか、である。
この複雑な状況の中で朗報なのは、市場がこの状況の読み取りにおいて成熟し始めていることだ。サイバーセキュリティのような領域でAIを活用すれば運用負荷を軽減できるのは事実だが、同時に実装に伴う不可避の負担も生じる。ITチームは、安全で責任ある導入を目的として、AIソリューションの展開と、その利用を規定するポリシーの策定を主導しなければならず、そのためには時間、リソース、そしてビジョンが必要となる。
一方で、無視できない制約要因がある。専門人材の不足と、既存人材の疲弊だ。どの企業にとっても懸念すべき事実として、ISACAの調査によれば、ITに従事する人々の実に79%が燃え尽き（burnout）を経験している。これは、雇用主の関与が決定的要因であることを示している。彼らの支援は「職場のウェルビーイング」の問題ではなく、企業のリソース配分と定着能力に直接相関する決定要因なのだ。
日々のエージェント型AIのガバナンスは、より少ない人員とより大きな圧力の下で、新たなリスクの最前線を管理しなければならない状況からチームを守ることも意味する。どこから始めるべきか。第一に、役割、トレーサビリティ、統制（第三者管理を含む）を明確に定義するガバナンス・フレームワークから。第二に、実践的で具体的なトレーニングから――トレーニング不足が、最も一般的なプライバシー侵害の主要因の一つであることを忘れてはならない。
そして第三に、レジリエンス（回復力）を通じてである。事業継続とオペレーショナル・リカバリーが2026年の戦略的優先事項として確立されたのは偶然ではない。
最終的に、エージェント型AIは組織にとって究極の効率化の飛躍となり得る一方で、露出と脆弱性という観点では虚空への跳躍にもなり得る。両者の違いは、この新たな現実に整合した勇気ある意思決定にかかっている。もちろん革新は必要だ。しかし常に、ガバナンス・バイ・デザイン（設計段階からのガバナンス）という前提の下で。
この記事の著者は、Isacaの戦略および事業開発担当シニアマネージャー、グスタボ・フレガである。
