英国の従業員の間で、管理されていないAIツールに機密情報を共有したり、セキュリティリスクを考慮しないままアカウント上の操作を許可したりする行為が広がっています。Dashlaneが警告しました。
認証情報セキュリティを専門とする同社は、英国、米国、フランスの計3,800人を対象とした調査の一環として、英国の従業員1,000人とIT幹部250人に意識調査を実施しました。その結果を最新のレポートMisplaced Trust: Inside the Workplace’s New AI Security Blind Spotとしてまとめています。
調査では、回答者の5人に1人(19%)が、パスワード、APIキー、ログイン認証情報のいずれかをAIツールやAIエージェントに共有したことがあると答えました。また、半数近く(48%)が、メール、社内ファイル、顧客情報へのアクセスなど、少なくとも1つの作業について、事前に許可を求めることなくAIに実行させた経験があると回答しています。
AIのリスクに関する関連記事: NCSC、エージェント型AIの安全な利用に関するガイダンスを公開
Dashlaneは、英国の従業員が雇用主への影響を考えないままシャドーAIを利用する傾向が強いことを明らかにしました。
主な調査結果は次のとおりです。
- 新しいAIツールに対し、1週間使った後であればログイン認証情報を貸してもよいと答えた人は37%
- AIツールにファイル、システム、アカウントへのアクセスを許可した後、本来はアクセスさせるべきでなかったと気付いた人は15%。そのうち45%は、アクセス権限が今も有効だと回答
- 同僚、Webサイト、その他の業務システムには通常共有しないような機密情報を、AIにコピーしたことがある人は23%
- 情報の保存先や送信先を確認しなかった人は21%
- 業務でAIエージェントを使う際、常にセキュリティリスクを考慮していると答えた人は4分の1(25%)にとどまる
DashlaneのCPO(最高製品責任者)であるChristophe Frenet氏は、次のように説明しています。「最新のデータからは、従業員がAIシステムを過度に信頼する『AI同僚効果』とも呼ぶべき現象が広がりつつあることが分かります。認証情報を共有し、AIエージェントにアクセスを許可しているものの、付与した権限でそのツールが何をできるのかを十分に理解していないケースもあります」
「これは、不正利用の検知やインシデントの調査に取り組むセキュリティチームにとって、大きな課題となります」
自信過剰なセキュリティ責任者
機密情報をLLMやエージェントと共有したり、エージェントに社内システムへのアクセスを許可したりすることは、コンプライアンスとセキュリティの両面で重大なリスクです。
情報が第三者のサーバーに渡り、そのサーバーが侵害される恐れがあります。モデルの学習に使われ、他のユーザーへの回答にそのまま出力される可能性もあります。さらに、エージェントは攻撃者によって乗っ取られる標的にもなり得ます。
実際、Dashlaneが調査したIT・セキュリティ幹部の72%が、過去12か月の間に、AIエージェントの認証情報やアクセス権限に関わるセキュリティインシデントを自組織で経験したと回答しました。
ところがレポートによると、大多数(92%)は、自組織で稼働しているすべてのAIエージェントを把握していると自信を示しています。これは、雇用主が把握していないAIツールを使っていると答えた従業員の4分の1(25%)の回答と矛盾します。
AI導入を求める事業部門からの圧力も、セキュリティ責任者に重くのしかかっています。
英国のIT・セキュリティ幹部の3分の2以上(68%)が、AIを迅速に導入しなければならないという圧力と、組織の安全を守る必要性との板挟みになっていると回答しました。
Frenet氏は次のように締めくくっています。「セキュリティ責任者にとっての課題は、AIがもたらす変化の速さと、誤用による影響の大きさが、これまでのどのテクノロジーとも異なる点にあります」
「人間のアイデンティティを守る優れたセキュリティプログラムの基盤となる原則、つまりジャストインタイムのプロビジョニング、最小権限、適切な認証情報の衛生管理、認証は、新たな『AI同僚』にも適用しなければなりません」
翻訳元: https://www.infosecurity-magazine.com/news/fifth-uk-employees-share-passwords/