OWASP、エージェンティックAIセキュリティガイダンスを発表

Open Worldwide Application Security Project（OWASP）は、大規模言語モデル（LLM）を活用したエージェンティックAIアプリケーションのセキュリティ確保のための新しい実践的ガイダンスを公開しました。

この包括的なガイダンスは、7月28日に公開され、AI/MLエンジニア、ソフトウェア開発者、セキュリティ専門家、AppSecプロフェッショナルなど、AIエージェントの構築者や開発者向けに具体的な技術的推奨事項に焦点を当てています。

「AIシステムがより自律的でツールを活用し、マルチエージェントアーキテクチャへと進化する中で、従来のAppSecだけでは対応できない新たなセキュリティ課題が生じています。そのため、OWASP Gen AI Security Projectは『Securing Agentic Applications Guide v1.0』を公開しました。これはエージェンティックAIの開発者や防御者向けの、これまでで最も包括的かつ実践的なオープンソースのセキュリティリソースです」と、OWASPはLinkedInの投稿で述べています。

この新しいリソースは、組織におけるAIエージェントの利用急増に対応して開発されました。

AIエージェントは高い自律性を持ち、データや結果を他のAIツールに渡す能力などを備えています。

これらのツールは、LLMベースの従来型システムよりも速いペースで動作し、人間がプロンプトを与える必要なく作業を行います。

また、人間の介入なしに変化する環境に動的に適応することも可能です。

このような人間による監督の欠如は、特にコードの作成やシステムの構成といった分野でエージェンティックAIアプリケーションが動作する際に、重大なセキュリティ上の懸念を生じさせています。

専門家はまた、この技術がアカウント乗っ取りなど、サイバー攻撃のさらなる自動化をサイバー犯罪者に助長することになると警告しています。

エージェンティックAIセキュリティの注力分野

OWASPのガイダンスは、エージェンティックAIの開発および導入ライフサイクル全体にわたるセキュリティをカバーしています。

• エージェンティックアーキテクチャのセキュリティ確保：ガイダンスは、アーキテクチャ自体にセキュリティを組み込む必要性を強調しており、強力なユーザー権限や認証制御（ユーザーのブラウザやコンピュータと連携するタスク実行時に資格情報の入力を求めるなど）を含みます。
• 設計および開発段階のセキュリティ：このセクションでは、エージェンティックAIモデルの操作や意図しない挙動を防ぐための対策に焦点を当てており、設計段階で明確な安全策（コア指示の上書きを警戒するようモデルに指示するなど）を講じることが推奨されています。
• 強化されたセキュリティ対策：組織は、AIエージェントによるリスクを軽減するため、追加のセキュリティツールや対策（OAuth 2.0による権限・認可の利用、資格情報の保存を避けるためのマネージドIDサービスの利用、機密データの暗号化など）をシステムに組み込むことが推奨されています。
• 運用上の接続リスクへの対応：このセクションでは、エージェンティックAIアプリケーションがAPI、データベース、コードインタープリタなど他のシステムと接続することによって生じるセキュリティリスクへの対策が示されています。
• サプライチェーンセキュリティ：組織は、エージェンティックAIに組み込まれるサードパーティコードによるリスクを制限するため、実行環境のデータソースへの権限管理や、コード内のサードパーティパッケージの脆弱性スキャンなどの措置を講じるべきです。
• エージェンティックアプリケーションの保証：ガイダンスは、エージェンティックシステムの脆弱性や攻撃経路を特定するため、定期的なレッドチーム演習の実施を推奨しています。
• デプロイメントのセキュリティ確保：AIエージェントを保護するため、本番環境ではCI/CDパイプラインでの厳格なチェックなど、複数のセキュリティ対策を導入すべきです。
• ランタイムのハードニング：セキュリティチームは、従来の仮想マシンのセキュリティ強化と、サンドボックス化、監査性、ランタイム行動監視などエージェンティック特有のセキュリティ制御を組み合わせるべきです。