ソーシャルエンジニアリングの終わりの始まり

オピニオン

この1ヶ月ほどの間に、世界最大手のテクノロジー企業各社が静かに同じ方向へ舵を切りました。5月には、GoogleがGeminiをAndroidにより深く統合する方針を打ち出しました。そして今週、AppleはApple IntelligenceをiPhone、iPad、Macへと拡大展開しました。世間の関心の多くは生産性や利便性に向いていますが、それよりもはるかに重要な変化が進行しつつあるかもしれません。

オペレーティングシステムが、単にコマンドを実行して情報を表示するだけの存在を脱しつつあります。ユーザーが見聞きし、受け取り、信頼するものを能動的に解釈する「参加者」へと変わりつつあるのです。これは史上初めてのことです。

この変化が持つ意味は、多くの人が思う以上に大きいものです。現代のサイバーセキュリティにおける最も厄介な攻撃手法の一つ――ソーシャルエンジニアリング――の終焉の幕が上がろうとしているからです。

数十年にわたり、ソーシャルエンジニアリング攻撃はユーザーの隙を突き、組織に数十億ドル規模の損害をもたらしてきました。ナイジェリアの前払い詐欺に始まり、フィッシングメール、偽のSMS、なりすまし電話に至るまで、こうした攻撃が成功し続けてきたのは、ますます複雑化するデジタルシステムを人間が手動で仲介せざるを得なかったためです。

拙著『The Weakest Link』で私は、ソーシャルエンジニアリング攻撃が成功してきた背景には、現代のコンピューティングが抱える三つの根本的な弱点があると論じました。すなわち「認証」「コンテキスト」「速度」の三点です。

ソーシャルエンジニアリング攻撃が有効だった理由

第一の弱点は「認証」です。現在の認証モデルは、数十億人のユーザー・アプリケーション・デバイスにわたる大規模利用を想定して設計されたものではありませんでした。コンピューティングの黎明期から、このシステムは比較的シンプルな発想に基づいていました。本人しか知り得ない情報、後にはその人が所持するものによって身元を証明するというものです。

時が経つにつれ、パスワード、秘密の質問、ワンタイムコード、認証アプリ、復旧用デバイス、そして絶え間ない本人確認プロンプトといった、継ぎ接ぎだらけのアーキテクチャへと変貌を遂げていきました。

しかし、その負担は常に人間のユーザーに課せられてきました。パスワードを記憶し、デバイスを携帯し、プロンプトを解釈し、質問に答え、欺きを見抜く――それはすべて人間の仕事でした。この限界は、技術的な問題だけにとどまりません。

オペレーティングシステムに直接統合された大規模言語モデル（LLM）は、このアーキテクチャを根本から変え得るものです。認証は、静的な資格情報や単発のプロンプトだけに頼る必要がなくなります。行動パターン、コミュニケーション履歴、デバイスとの関係性、声の特徴、過去のやり取り、そしてユーザー行動の動的な理解を通じて、システムが継続的にユーザーを認証できるようになるのです。

パスワードや秘密の質問を求める代わりに、将来のシステムは最近の行動の組み合わせによって本人確認を行うかもしれません。昨日会話した相手、空港へ向かう前に検索した目的地、あるいはここ1時間取り組んでいたプロジェクト――認証は記憶された秘密から、日々の体験へと移行していくでしょう。

第二の弱点は「コンテキスト」です。従来のメールセキュリティシステムは明らかなスパムを遮断する点では効果的になりましたが、ソーシャルエンジニアリング攻撃が成功し続けてきたのは、コンテキストの理解が機械にとって極めて困難だったからです。

見知らぬ送信者からの短いメールやテキストメッセージは、見慣れない人物や新しい連絡先からの正当な連絡とほぼ見分けがつかない場合があります。課題は単に相手が誰かを確認することではありません。何が起きているのかを理解することです。

LLMを統合したオペレーティングシステムは、このダイナミクスを変え始めるかもしれません。こうしたシステムはメール、メッセージング、音声、カレンダー、閲覧履歴、過去のやり取り、購入履歴、デバイスレベルの行動を同時横断的に扱えるため、操作のパターンをリアルタイムで見抜くのに十分な可視性をついに手にする可能性があります。

こんな状況を想像してください。銀行の担当者を名乗る電話がかかってきた同じタイミングで、取引の確認を求めるSMSが届き、さらに認証情報のリセットを促すメールも届く――。今日では、それぞれのシステムは自分が見ている断片しか把握できません。電話は通話しか見ません。メールクライアントはメッセージしか見ません。銀行アプリは取引リクエストしか見ません。

攻撃全体を俯瞰できるものは、どこにも存在しないのです。

LLMネイティブの統合オペレーティングシステムであれば、それが可能になるかもしれません。これらの出来事をリアルタイムで展開される組織的な操作の試みと認識し、その対話が過去の行動パターンと一致しない、既知の詐欺パターンに類似している、あるいは不自然な緊迫感や強制の要素が含まれているとユーザーに警告できるのです。システム自身が解釈に参加することで、ソーシャルエンジニアリングはますます困難になるでしょう。

第三の弱点は「速度」です。ソーシャルエンジニアリング攻撃が機能するのは、認知の余地――気づき、評価し、疑念を抱くまでの時間――を圧縮するからです。

疑念が芽生える前に、習慣や惰性でメールはすでに開封され、リンクはクリックされ、電話は出てしまっている――そういうことが頻繁に起こります。そこから先は、攻撃者は関与そのものを脆弱性のシグナルとして利用します。警告バナーやフィッシング検知などの介入策が限定的な効果しか上げられなかった理由はここにあります。それらは対話が始まった後に機能するものだからです。

数十年にわたり、サイバーセキュリティは最終的にユーザーの警戒心に依存してきました。クリックしない、返信しない、兆候に気づく、立ち止まる、報告する――その責任はほぼ完全に個人に委ねられてきたのです。

AIネイティブOSによるソーシャルエンジニアリング脅威の解決

組織は何十年もかけてユーザー教育に取り組んできました。その努力がセキュリティ意識の向上をもたらしたことは確かですが、ソーシャルエンジニアリングは依然としてサイバー攻撃の中で最も根強い手法のひとつであり続けています。その理由はシンプルかもしれません。解釈の負担が依然としてユーザーにかかっているからです。

AIネイティブオペレーティングシステムは、この方程式を根本から変えるかもしれません。攻撃が発生する前に阻止し、対話の最中に介入し、アカウントのロック、送金の制限、アプリケーションの隔離、異常な行動シーケンスのフラグ付けによって事後の被害を最小化する――そうした対応が可能になるのです。

これは単なる新しいサイバーセキュリティツールをはるかに超えた意味を持ちます。ユーザーの警戒に依存する時代から、システムの警戒に依存する時代への転換の始まりを告げるものです。そしてそれは、ソーシャルエンジニアリングの経済的な構造を根本から変える可能性があります。

歴史にも先例があります。1990年代から2000年代初頭にかけて、自己増殖型コンピューターウイルスはコンピューティングにおける支配的な脅威のひとつでした。急速に拡散する悪意あるコードにより、ネットワーク全体が機能停止に追い込まれることもありました。しかし時が経つにつれ、エンドポイント保護システムが広く普及し、高度化していきました。

ウイルス対策ソフトウェアが悪意ある活動を完全に排除したわけではありませんが、攻撃の経済的な構造を大きく変えました。防御システムがエンドポイント全体に広がるにつれ、従来の自己複製型ウイルスを作成するコストは、他の攻撃手法と比べて相対的に高くなっていったのです。

攻撃者たちは適応しました。人間のレイヤーが相対的に無防備なままだったため、認証情報の窃取、フィッシング、ランサムウェアの配布、そしてソーシャルエンジニアリングによる侵害へと移行していったのです。その状況が、今まさに変わり始めようとしています。

批評家たちは当然こう指摘するでしょう。攻撃者はAIを使ってAIを攻撃するだけだ、と。おそらくその通りになるでしょう。しかしここでも歴史が示すのは、規模が重要だということです。ウイルス対策システムが普及しても悪意あるコードは消えませんでしたが、攻撃者が活動する環境を変えました。何百万もの防御システムが継続的に監視し、検出し、シグネチャを共有し、保護を更新しました。その結果は完璧なセキュリティではありませんでしたが、攻撃成功のコストと複雑さが劇的に増大しました。

AIネイティブオペレーティングシステムでも、同様のダイナミクスが生まれるかもしれません。数十億台のデバイスが最終的に、行動を観察し、操作パターンを認識し、脅威インテリジェンスを共有し、リアルタイムで応答できる持続的なAIシステムを搭載するようになれば、攻撃者はこれまでとは根本的に異なる環境に直面することになります。課題はもはや一人のユーザーを騙すことではなく、数十億のやり取りを通じて継続的に稼働する何百万もの防御エージェントを欺くことになるのです。

攻撃が消えることはありません。しかし、今日よりもコストが高く、複雑で、信頼性の低いものになっていくかもしれません。欺きがなくなるからではありません。人間がもはや信頼の唯一の解釈者ではなくなるからこそ、そうなるのです。