セキュリティチームにとって、AIを使った攻撃よりも悩ましいのが、従業員が社内データをAIツールに貼り付ける行為です（懸念が高まっています）。
AIエージェントで最も懸念されるリスク（出典：O’Reilly）
O’Reillyが9月に実施した調査では、209人のセキュリティ担当者のうち、最も頻繁に遭遇する攻撃であるAI生成のフィッシングを主な懸念事項に挙げたのは、4分の1にとどまりました。
O’Reilly Mediaでコンテンツ戦略担当VPを務めるMike Loukides氏は、AIが人類を滅ぼすという恐れが、現在すでに起きている被害から目をそらさせていると指摘します。同氏は「必要なのはパニックではなく、現状の把握です。どのような脅威があるのか。スキルのギャップはどこにあるのか。予算はどうなっているのか」と記しています。
ベンダーの約束にほとんど信頼を置かず
市販のAIツールを通じたデータ漏えいを主な懸念に挙げた回答者は49%でした。同じく49%が、確認されていないAIの出力を従業員が信用してしまうことを心配しています。
多くのAIプロバイダーは、プロンプトや添付文書をモデルの学習に使わないと約束する企業向けアカウントを提供しています。しかしLoukides氏は、こうした規約を信用できるのか疑問視しています。モデル開発企業は学習データに飢えており、データ入手のために経営難のスタートアップを買収した例もあると指摘します。同氏は「セキュリティ担当者は、疑り深くあることが仕事ですから」と述べました。
ポリシーの弱い組織ほど広がるシャドーAI
AIの利用ルールを定めている組織はほぼ4分の3に上りますが、そのルールを包括的だと評価した回答者は半数に届きませんでした。また、過半数が、同僚が承認されていないAIツールに機密データを入力することが少なくとも時々あると答えています。
ポリシーの充実度は結果に影響しました。包括的なポリシーがある企業では、このシャドーAIの利用が広範に及んでいると答えた割合は17%でした。基本的なポリシーのみの企業では35%に上り、ポリシーがない企業の数値に近い水準です。
Loukides氏は、どのツールが承認されており、データを社外に出してよいのかを従業員が把握できるようにすべきだと主張します。指針がなければ、人は仕事が片付くツールに頼ります。その結果、法務面や評判面のトラブルを招きかねません。
おなじみの脅威への懸念は低め
過去1年間にAI生成のフィッシングに遭遇した回答者は55%で、脆弱性スキャンや悪用、AI支援型マルウェアを上回りました。Loukides氏は、反応が控えめなのは慣れが理由ではないかとみています。従業員は日常的にフィッシング対策の研修を受けており、フィルターが多くのメールを誰の目にも触れる前に捕捉しているためです。
一方、コンテンツに紛れ込ませた隠し指示でAIシステムをだますプロンプトインジェクションを懸念した回答者は11%でした。Loukides氏はこの数字を低いとみています。根拠として、AIシステムをだます目的の隠しテキストが履歴書の約1%から見つかったという調査を挙げました。
AIエージェントと緩い権限管理
ユーザーに代わってタスクを実行するソフトウェアであるAIエージェントは、固有の問題を引き起こします。最大の懸念は、エージェントが過剰な権限を持っていること、あるいは明確な管理者がいないことでした。次いで、監視体制の不備が挙がっています。Loukides氏は、現在のログインやアクセスの仕組みはIDが長期にわたって安定していることを前提にしているが、エージェントが他のエージェントやモデルに作業を引き継ぐ場面ではこの前提が成り立たなくなると記しています。
防御側はチャットボットを活用
セキュリティ担当者の3分の2が、調査や文書作成にチャットボットやコパイロットを使っています。一方、脅威検知やインシデント対応にAIを活用している人は約4分の1です。
セキュリティ向けに作られたAIツールを使うチームは、汎用チャットボットだけを使う同僚に比べて、アラートのトリアージが速く、検知精度も高いと回答しました。スキルのギャップはないと答えたのはわずか7%でした。最も多かった要望は、すでに手元にあるAIツールをもっと使いこなしたいというものでした。
一部の専門家は、現時点では攻撃側が優位に立っていると主張します。欠陥を見つけて攻撃を仕掛けるほうが、それを阻止するよりも容易だからです。Loukides氏は、AIが脆弱性の発見と修正に長けてくれば、形勢は防御側に傾くと予想しています。
Loukides氏は「AIで先手を打つことは、個人が孤立して、思い思いにツールや考え方を取り入れているだけでは実現しません。組織全体での取り組みが必要です」と締めくくりました。
翻訳元: https://www.helpnetsecurity.com/2026/10/26/ai-tools-security-worry-survey/
