「企業が今直面しているのは『AIの動物園』だ」――NordLayerが警告、承認されていない数十のチャットボットが…


  • AI Scoutは、従業員が業務で実際に利用している人工知能(AI)サービスを追跡
  • 従業員は、承認された経路の外でAIサービスを利用するケースが増加
  • NordLayer AI Scoutは、機密性の高いプロンプトを送信前に警告・墨消し・ブロック可能

職場でAIツールを使う従業員が増えています。その中には、雇用主が承認していない、あるいは正式に提供していないサービスも含まれます。

そのため、従業員がどのAIプラットフォームにアクセスし、どのような情報を送信し、それらのシステムが業務とどう連携しているのかが見えにくくなっています。

NordLayerは、新たに提供する「AI Scout」によって、組織が職場でのAI利用状況とそれに伴うセキュリティリスクを把握できるようになると説明しています。

企業内でのAI利用の実態を可視化

この単体製品は、ブラウザーとデスクトップ上でのやり取りを監視し、システム全体にわたる機密情報の漏えいを抑えるための制御機能を備えています。

AI Scoutは、許可されたAIサービスと許可されていないAIサービスを識別できます。これにより組織は、観測された利用状況を、業務利用が承認されたソフトウェアと照らし合わせられます。

レポートでは、購入済みのサブスクリプションではなく、実際の利用状況に基づいて使用量を測定します。導入済みのLLM全体でのトークン消費量も推計します。

従業員がAIシステムに送る情報も調べます。特定のプロンプトを送信する前に、機密性の高い可能性がある内容を検出する仕組みを使います。

同社によると、こうした保護機能は送信前に作動するため、機密情報が外部のAIサービスに渡るのを未然に防げる可能性があります。

NordLayerはまた、従業員が追加の確認を要する情報を入力した場合、ブラウザーベースの制御が送信前に介入できるとしています。

監視の対象は、従来のチャットボット利用にとどまりません。AIエージェントや、業務で使われる連携サービスとの技術的な関係にも及びます。

管理者は、プログラミングエージェントに関連付けられたMCPインフラを調査し、それらのシステムを通じて実際に利用できる機能を確認できます。

NordLayerのプロダクト研究開発担当VPであるVakaris Noreika氏は、次のように述べています。「NordLayer AI Scoutは、AIが実際にどう動いているかを踏まえて開発しました。外から見える姿だけでなく、技術的なレベルで何が起きているかを捉えるためのものです」

「AI DLPは、プロンプトを検査して送信前に制御するよう設計されています。機密データが最初から入力されないようにするためです」

職場のAIに、より厳格な監督が必要な理由

こうした監視が求められる背景には、企業の人工知能への投資が拡大する一方で、従業員が承認されていないサービスを使う、いわゆる「シャドーAI」が広がっていることがあります。

Writerの2026年の企業調査によると、59%の企業が人工知能技術に年間100万ドル超を投じています。

NordLayerが引用するメルボルン大学の報告書では、承認されたAIシステムを使う従業員は42%、業務で無料モデルを使う従業員は70%でした。

IBMの報告では、シャドーAIが絡む情報漏えいでは、世界平均の被害額499万ドルに40万ドルが上乗せされます。

これらの数字は、従業員が正式に承認されたプラットフォーム以外のAIサービスを使う場合に、組織が可視性を維持しにくい理由を物語っています。

NordLayerのプロダクト戦略担当VPであるAndrius Buinovskis氏は、次のように語っています。「企業が今直面しているのは、AIの動物園です。承認されていない数十ものLLMが日常的に従業員に使われ、その一つひとつが、データ漏えいやセキュリティ侵害に対する組織の露出を広げています」

「真のAIガバナンスには、広範な可視性が欠かせません。新しいLLMソリューションが急速に登場するなか、新しいAIツールを一つずつ手作業で審査していては、とても追いつきません。承認の有無にかかわらず、あらゆるAI利用を一つのプラットフォームに集約するテレメトリーが必要です」


翻訳元: https://www.techradar.com/pro/what-companies-are-facing-today-is-an-ai-zoo-nordlayer-warns-that-dozens-of-unsanctioned-chatbots-are-quietly-widening-every-companys-exposure-to-data-leaks

本記事は techradar.com の記事を翻訳・要約したものです。