Cisco Talosは、自律型AIエージェントが新たなセキュリティ上の課題を生み出しているとして、企業にインシデント対応計画の策定と演習の実施を促しています。
Talosのガイダンスは、攻撃者が脆弱性の自動テスト、フィッシング、認証情報の窃取、インフラの構築を組み合わせ、複数の面から防御側に圧力をかける可能性があると警告しています。
懸念はチャットボットが悪意あるコードを書くことにとどまりません。エージェント型AIシステムは、目標を追求する過程でツールを使い、結果を解釈し、行動を調整できます。
Talosの調査によると、攻撃者はすでにマルウェア開発、犯罪活動、脆弱性の発見にAIを利用しています。
それでも、人間の専門知識は依然として重要です。熟練した攻撃者は、詳細な指示、ツールのマッピング、永続的な設定ファイルをエージェントに与えることができます。
こうしたリソースにより、エージェントは環境を把握し、人間が繰り返し指示しなくても作業を続けられます。経験の浅いユーザーも能力を得られる可能性はありますが、そのツールにはエラーや運用上の弱点が多く含まれています。
ガイダンスは、公に報告されているエージェント攻撃の多くを、秘匿性の高いレッドチーム演習というよりペネトレーションテストに近いものだと説明しています。大量のスキャンや繰り返されるリクエスト、目に見える不正利用は、活動が早期に発覚する原因になります。
しかし、防御側は今後の攻撃キャンペーンが目立つままだと思い込むべきではありません。ステルス性を優先するよう指示されたエージェントは、アクセス経路の探索、永続化の維持、システム間の移動を行いながら、わかりやすい兆候を減らせる可能性があります。
Talosは、所有者であるとの主張、テスト許可を得ているとの口実、永続的な指示を使ってモデルの安全対策を回避する攻撃者を確認しています。
研究者はまた、危険なタスクが複数のセッションやファイルに分割され、モデルが全体の目的を認識しにくくなる状況も観測しました。
これらの調査結果は、AIのガードレールだけでは企業ネットワークを守れない理由を示しています。組織は、高速な自動プロービングと、正規の認証情報を悪用した目立たない侵入の両方に備える必要があります。
備えは、実践的なインシデント対応計画から始まります。Talosは、インシデントの重大度の定義、責任の割り当て、エスカレーション経路の設定、主要な連絡先の記録、調査担当者が収集すべき証拠の特定を推奨しています。計画は定期的にテストし、演習や実際のインシデントの後に更新すべきです。
ガイダンスはさらに、代替の連絡手段を用意することや、法務部門・法執行機関との明確な連携体制を求めています。対応手順には、検知、封じ込め、根絶、復旧、レビューを含める必要があります。
セキュリティチームは、公開されているネットワークポートだけでなく、攻撃経路の全体を把握すべきです。インターネット上の侵入口が、アプリケーション、データベース、ID基盤、顧客記録へとつながる場合もあります。侵害を前提とした演習により、攻撃者が最初の足掛かりを得た後にどこまで到達できるかを明らかにできます。
机上演習には、従業員へのなりすまし、認証情報の収集、モデルの重みの窃取が同時に起きるといったエージェント型のシナリオも含めるべきです。チームは、アクセスの取り消し、認証情報のローテーション、システムの隔離、証拠の保全をどれだけ迅速に行えるかを検証する必要があると、Talosは述べています。
推奨される対策には、フィッシング耐性のある認証、権限の制限、エンドポイント検知、社内ネットワークトラフィックの監視が含まれます。組織はAIアプリケーションの棚卸しを行い、サーバーや機密データへのアクセス権限も見直すべきです。
早期警戒のサインとしては、SQLインジェクション試行の増加、自動化されたリクエスト、WAF（Webアプリケーションファイアウォール）のアラート増加などが考えられます。こうしたシグナルは調査が必要であり、自動的にAIによるものと決めつけるべきではありません。
16,000以上のSOCチームがANY.RUNを活用し、脅威調査の効率化と手作業の削減を実現しています。 チームで試してみる
翻訳元: https://cyberpress.org/talos-urges-ai-readiness/
