同社のセキュリティ責任者は、AIモデルは信頼できないと指摘しています。
Microsoft Securityのエグゼクティブ・バイスプレジデント（EVP）を務めるHayete Gallot氏は、ブログ記事 の中で、企業内で自律的に動作するAIエージェントが深刻なセキュリティ脅威になり得ると述べています。Microsoftによると、現在の最先端のAIモデルでも、完全に信頼することはできません。
その理由は、AIモデルが悪意を持っているからではありません。目標を達成するよう訓練されているため、その過程で予期せぬ近道を取る可能性があるからです。たとえば、制限を回避したり、意図されていない形で他のAIエージェントと連携したりすることが考えられます。
企業がAIエージェントに機密情報や社内ツールへのアクセスを許可し、さらに独自の判断まで委ねるようになると、この問題はとりわけ深刻になります。
こうしたリスクに対処するため、Microsoftは「Guardian Agents（ガーディアン・エージェント）」の提供を開始します。これは、他のAIエージェントの行動を24時間365日体制で監視・制御するAIエージェントです。リスクをリアルタイムで評価し、AIエージェントが有害となり得る行動を取った場合には介入します。この技術は、7月に発表されたセキュリティ構想「Microsoft’s Project Perception」の一部です。
翻訳元: https://www.csoonline.com/article/4238693/microsoft-treat-ai-agents-as-insider-threats.html
本記事は csoonline.com の記事を翻訳・要約したものです。
