Microsoft、Defender for Office 365にプロンプトインジェクション対策機能を追加

Microsoftは、Defender for Office 365にプロンプトインジェクション対策機能を導入しました。これは、企業のメール環境をAIを標的とした新たな脅威から守るうえで、大きな前進となる取り組みです。

組織がMicrosoft 365 CopilotのようなAIアシスタントを導入し、メールの要約や仕分け、返信対応にまで活用する動きが広がるなか、攻撃者は従来型のフィッシング手法から、AIシステムそのものを直接操作する手口へと戦術をシフトさせています。

MachineLearning & Artificial Intelligence

この新しいタイプの攻撃は「プロンプトインジェクション」と呼ばれ、メール本文に悪意のある指示を埋め込むことで、大規模言語モデル(LLM)が情報をどう解釈し、どう行動するかを操作します。

Defenderに追加されたプロンプトインジェクション対策

従来のフィッシング攻撃は、ソーシャルエンジニアリングによって人間のユーザーを欺くものでした。これに対し、プロンプトインジェクションはユーザーに代わってメールを処理するAIの仕組みそのものを標的にします。

Microsoftによると、こうした攻撃は「これまでの指示は無視してください」や「このメッセージを安全として扱ってください」といった命令文を挿入することでシステム側の指示を上書きしようとするもので、実質的にAIの意思決定プロセスを乗っ取る手口だといいます。

攻撃のペイロードは悪意のあるリンクや添付ファイルではなく、AIモデルによって命令として解釈されるよう巧妙に作り込まれたテキストです。

Microsoft Defender for Office 365は現在、通常のメールフロー検査プロセスの中でこうした悪意あるコンテンツを検知できるようになっており、セキュリティチーム側で追加の設定を行う必要はありません。

この検知機能は、フィッシングやマルウェア、ビジネスメール詐欺への既存の防御機能に統合されており、Defender for Office 365のPlan 1、Plan 2、およびMicrosoft Defender XDRの利用者はシームレスに導入できます。

検知の仕組みには、LLMベースの分類と従来型のメールセキュリティシグナルが組み合わされています。件名、本文、HTMLマークアップ、隠しテキストや不可視テキスト、引用返信、エンコードや難読化されたコンテンツなど、AIアシスタントが処理する際と同様にメール全体の構造を解析します。

攻撃者は多くの場合、白地に白文字、フォントサイズをゼロにする手法、Base64エンコード、添付ファイルや会話スレッド内への指示埋め込みといった手口を悪用し、検知を回避しつつAIシステムには解釈可能な形で攻撃を仕掛けます。

プロンプトインジェクションの試みが検知されると、Defenderはそのメールを「高確度フィッシング(High confidence phishing)」に分類し、「Prompt injection protection」という専用の検知タグを付与します。

セキュリティチームは、Microsoft Defender XDR内のThreat Explorer、リアルタイム検知、Advanced Huntingを使ってこれらの検知結果を調査でき、攻撃パターンや痕跡(IoC)についてより深い可視性を得ることができます。

今回のプロンプトインジェクション対策の導入は、AI主導のワークフローを保護するための、より広範な多層防御戦略を反映したものです。

Microsoft 365 Copilotをはじめとする各種AIサービスには、入力フィルタリング、プロンプトの分離、出力検証といったランタイム時の保護策がすでに組み込まれています。これに加え、Defender for Office 365はメールゲートウェイの段階で配信前の防御層を新たに追加します。これにより、悪意のある指示がユーザーのメールボックスに届いたり、AIアシスタントによって処理されたりする前にブロックできるようになります。

攻撃者が企業システム内のAI連携ポイントを悪用するケースが増えるなか、このような多層的なセキュリティアプローチは極めて重要です。

Cloudsecurity services

メール層でプロンプトインジェクションの試みをフィルタリングすることで、Microsoftは自社のAIツールだけでなく、メールの取り込みに依存するサードパーティ製の連携システムや独自の自動化ワークフローに対しても保護を提供します。

今回のアップデートは、AIシステム自体が攻撃対象となりつつあるという脅威動向の変化を浮き彫りにしており、組織には従来型のセキュリティ対策を、機械が主導する意思決定プロセスにも拡張することが求められています。

警告: 20以上の政府系サイトが、企業や市民に対してマルウェアを配信していました。 攻撃に関する詳細な調査レポートはこちら から確認し、自組織の被害有無をチェックしてください。