あなたの境界線はアイデンティティクライシスに陥っていませんか？

長年にわたり、十分なトレーニングと適切なツールがあれば、従業員を最初の防衛線として信頼できるという基本的で脆弱な前提で運用してきました。あなたは彼らにフィッシングメールの誤字を見抜くこと、怪しいリンクにカーソルを合わせること、異常なリクエストを疑うこと、そして不審なものを報告するよう教えてきました。しかし、セキュリティモデルの基盤であるアイデンティティの本質が、体系的に揺るがされています。

今やあなたは、ジェネレーティブAIの登場と、数え切れないほどのセキュリティ侵害から吸い上げられたテラバイト級の個人データによって強化されたデジタルドッペルゲンガーの世界に生きています。脅威はもはや巧妙に作られたメールだけではありません。脅威は今や、CFOの声で話し、法務責任者の文体で書き、実際の最近の会話を参照したテキストメッセージを送ることさえできます。

あなたのデジタルライフ、雇用履歴やソーシャルメディアでの個人的な逸話、そして非常に機密性の高いデータは、あなた自身の悪意あるデジタルドッペルゲンガーの原材料となり得ます。

最近のビジネスメール詐欺攻撃の波を考えてみてください。攻撃者はAI生成の音声メッセージを使って不正な送金を承認しました。または、ソーシャルメディアのプロフィールをスクレイピングして、同僚の名前や最近の会社プロジェクトを参照するメッセージを作成する高度なキャンペーンもあります。これらは孤立した事例ではなく、攻撃者の手法が大きく変化し、参入障壁が大幅に下がっていることを示しています。

かつては高度な技術スキルや綿密な調査が必要だったことが、今や広く入手可能なAIツールと、ターゲットとなる個人に関する公開データを調べる時間さえあれば、誰でも実現できるようになりました。

AIがなりすましを自動化する方法

脅威アクターは攻撃を自動化するだけでなく、AIを活用してなりすまし自体を自動化しています。その手法は以下の通りです：

• フィッシング、スミッシング、ビッシングの作成。 文法的に完璧で、文脈も理解し、感情に訴える超パーソナライズされたメールを作成します。これらのメッセージには、従来のフィッシングによく見られる壊れた英語や一般的な挨拶などの特徴的な兆候がもはやありません。
• 信頼の合成。 ボイスクローンAIを使い、信頼できる経営者からの緊急の留守電を残すことで、従業員に植え付けた疑念を回避します。
• マルチチャネル攻撃の指揮。 攻撃は一見無害なテキストから始まり、続いて本物らしいメールが届き、最後に電話でとどめを刺すこともあります。各ステップが偽のアイデンティティを強化します。
• 文脈認識の悪用。 AIはあなたのデータにアクセスすることで、コミュニケーションパターンや通常の勤務時間、頻繁な連絡先、さらにはあなたの文体まで分析し、まるで「あなたらしい」メッセージを作成できます。最近の会議や進行中のプロジェクト、内部コミュニケーションやソーシャルプラットフォームから取得した共有体験を参照することも可能です。

これらの能力は理論上のものではなく、すでに現実に運用されています。

その結果、従業員だけでなくインフラ全体に深刻なアイデンティティクライシスが生じています。攻撃者が信頼できるアイデンティティを巧妙に模倣できる場合、従来の防御策は驚くほど脆弱に見えるかもしれません。多要素認証（MFA）は重要ですが、ユーザーがソーシャルエンジニアリングによってプッシュ通知を承認してしまったらどうなるでしょうか？ネットワークのセグメンテーションも不可欠ですが、不正な認証情報がそのセグメントを通過し、正当とみなされたらどうなりますか？

セキュリティの使命：不信をデフォルトに

これには根本的な意識改革が必要です。あなたの使命は「決して信頼せず、常に検証する」ことです。戦略は、より動的でインテリジェント、かつアイデンティティ中心のモデルへと転換しなければなりません：

• 侵害を前提とする。 すでに初期侵入点が突破されているかのように運用すべきです。予防だけでなく、迅速な検知と対応にも重点を移す必要があります。もはや「入れないようにする」だけでなく、「侵入された瞬間に見つける」ことが重要です。
• 徹底的な可視化。 見えない敵とは戦えません。エンドポイントからネットワークコア、クラウドインスタンスからモバイルデバイスまで、あらゆる接点で統合的な可視性が必要です。トラフィックだけでなく、行動も監視する必要があります。このユーザーは本物の人物のように振る舞っているか？なぜCFOが午前3時に異常な地理位置からファイルにアクセスしているのか？
• 認証の近代化。 組織はFIDO2のようなフィッシング耐性のある認証方式への積極的な移行を進めるべきです。これにより「王国の鍵」を盗むことがより困難になります。
• インテリジェンスの活用。 幅広く、深く、予測的な脅威インテリジェンスを活用しましょう。私自身の組織が毎年発行しているVerizon Business Data Breach Investigations Report（DBIR）の活動からも分かるように、敵対者の全体的な戦術や手法を理解することは、防御を構築する上で極めて重要です。単なる反応ではなく、先回りして備えるために。

このアイデンティティクライシスは、あなたたちセキュリティリーダー世代にとって決定的な課題です。もはやデータを守るだけでなく、自律的で疲れ知らずの敵に対して「正当なアイデンティティ」という概念そのものを守ることが求められています。前進するには、AIにAIで立ち向かう勇気と、レジリエントでアイデンティティファーストなセキュリティフレームワークを構築するビジョンが必要です。

そして、ようやくこの課題に取り組み始めた矢先、次の進化がすでに迫っています。それが「エージェンティックAI」— 独立した推論と意思決定が可能な自律型システムです。

次なるフロンティア：エージェンティックAI

現在の生成AIモデルは人間のオペレーターを必要とし、完璧なメールを生成したり、声をクローンしたりできます。エージェンティックAIは、ほぼ独立した脅威アクターとなる可能性を秘めています。単純な目標を与えられれば、エージェントは自ら推論し、計画し、悪意ある目的を達成するために必要な複雑かつ多段階の攻撃を独自に実行できます。この自律的な脅威アクターは24時間365日活動し、ほぼリアルタイムで障害に適応し、恐ろしい効率で作戦を拡大できます。人間のディフェンダーは、眠ることなく、かつてない速度と規模で高度なキャンペーンを実行できるエージェンティック脅威アクターと対峙することになります。

ですから、今や自問すべきなのは「従業員がデジタルドッペルゲンガーに狙われるかどうか」ではなく、「どれだけ早く違いを見抜けるか」です。

悪意あるAIエージェントへの防御を準備する際には、自分たちがAIを導入する場合のセキュリティ上の影響も考慮しなければなりません。ここで適用すべきはおなじみのセキュリティ原則、「最小権限の原則」です。新入社員にいきなり全ての権限を与えないのと同じように、AIにも同じ論理が適用されるべきです。エージェントのネットワークやデータへのアクセスは、その役割と状況によって厳格に制限され、明確な階層の中で運用されなければなりません。

安全なエージェンティックAIを導入するには、最初から明確なガードレールを設ける必要があります。各エージェントに明確な制限を割り当て、定義されたパラメータ外で動作し始めた場合に即時停止できるプロセスを確立しましょう。すべての行動を監視・記録し、異常な行動を詳細にレビューできるようにします。最も重要なのは、エージェントのパターンや成果に対して人間による厳密な監督を維持し、セキュリティチームが操作の兆候や意思決定プロセスの予期せぬ結果を特定できるフィードバックループを確保することです。

最終的には、人間のチームにソーシャルエンジニアリングへの耐性を教育するのと同様に、AIエージェントのレジリエンスも継続的にテストしなければなりません。ここでレッドチーミングが重要になります。これはインフラだけでなく自社の自律型システムにも適用し、敵に騙されないことを検証する助けとなります。

このバランスを取れる組織こそが、新たな現実の中で自律型システムを安全に守り、対抗できる最良のポジションを得ることができるでしょう。

この記事はFoundry Expert Contributor Networkの一部として公開されています。
参加希望はこちら