AIの普及により、フィッシングメールの見分けはいっそう難しくなり、防御側がパッチを適用する前に脆弱性を悪用することも容易になっています。では、サイバーセキュリティ教育はAI時代に向けてどこまで見直す必要があるのでしょうか。
答えは「場合による」です。AIが突く弱点の多くは昔からあるものであり、長年教えられてきたサイバーセキュリティの基本は今も有効です。一方で、AIならではの課題もあり、それに対応する専用のカリキュラムが必要になります。こうした状況を受け、将来のAIセキュリティ人材を育成する新たなプログラムの創設に急ぐ大学や短大も出てきました。
企業のセキュリティ意識向上の取り組みでは、成功するプログラムと失敗するプログラムを分ける要因がいくつかあります。リスクを自社固有のビジネス事情に結び付けた、個別設計の研修は、汎用的なプログラムよりも成果が上がります。AIを使って従業員ごとにフィッシング訓練をパーソナライズし、より関心を引き、学びにつながりやすくしようとする経営層もいます。
人材育成の面では、AIセキュリティ教育が大学レベルで人気の新分野として台頭しています。従来のサイバーセキュリティ教育や、セキュリティに特化しない一般的なAI教育に比べれば、まだ広く普及しているとは言えません。それでも、こうしたプログラムが必要だと気づく大学は増えています。将来のソフトウェア開発者やガバナンス担当者には、特にミッションクリティカルなソフトウェアや、セキュリティオペレーションセンター(SOC)のような重要度の高い環境でAIを使う際のリスクとトレードオフを、より深く理解してもらう必要があるという考え方です。
10月のサイバーセキュリティ啓発月間中に収録した「Reporters’ Notebook」シリーズの最新回では、Cybersecurity Diveのシニアレポーターであるエリック・ゲラー(Eric Geller)氏が、Dark Readingのロブ・ライト(Rob Wright)氏、TechTarget Cybersecurityのシャロン・シェア(Sharon Shea)氏とともに、セキュリティ教育の最新動向について語り合いました。
以下の動画をご覧いただくか、動画の下にあるトランスクリプトをお読みください。トランスクリプトは、社内のAIアシスタントの助けを借りて、長さと分かりやすさを考慮し編集しています。
Dark Readingのロブ・ライト氏: Dark Readingでシニアニュースディレクターを務めるロブ・ライトです。Reporters’ Notebookの新しい回へようこそ。今日はシャロンとエリックに来てもらっています。まず自己紹介をお願いできますか。その後、今日のテーマに入りましょう。
TechTarget Cybersecurityのシャロン・シェア氏: こんにちは、シャロン・シェアです。TechTarget Cybersecurityでリードエディターを務めています。
Cybersecurity Diveのエリック・ゲラー氏: エリック・ゲラーです。Cybersecurity Diveでシニアレポーターをしています。
DRのロブ・ライト氏: 今月はサイバーセキュリティ啓発月間ですね。いやあ、1年で一番楽しみな時期ですよね。この数週間、このテーマでかなりの記事を書いてきましたし、まだ期間中で、あと1週間ほどあります。最近は決して順調とは言えません。攻撃も脅威も多く、サイバーセキュリティでは緊急の案件が山積みです。ただ、今回のビデオ討論ではそうした話題にも触れたいと思います。シャロン、口火を切ってもらえますか。
TTCのシャロン・シェア氏: ええ、まずはサイバーセキュリティ啓発月間の「人」の側面に立ち返って、攻撃の話は後ほどにしましょう。啓発月間の大きな柱の一つが、研修プログラムが十分な水準にあるかを確認することです。もちろん、アースデーが地球のための1日だけではないのと同じで、取り組むのはこの月だけではなく、1年を通じて続けたいところです。
ただ、この月は、私たちの記事でも触れたように、1年を通じてサイバーセキュリティに注力するための足がかりになり、改めて意識を高める機会になります。私が読んだSANSのレポートによると、組織の19%が、主に特定のコンプライアンス要件や監査要件を満たすためにセキュリティ意識向上研修を設計しています。コンプライアンスのためだけに実施するのは、あまり良い捉え方ではありません。
当然ながら、常に安全を保つために実施すべきものです。数か月に1度、あるいは年に数回、受講案内が受信トレイに届くと、誰もがため息をつくでしょう。退屈で、とにかく終わらせようとクリックを進め、チェックボックスを埋めるだけになりがちです。そのせいで、見てきたとおり、期待されるほどの効果が出ないこともあります。コンプライアンスのチェックボックスを埋める作業として扱ってはいけません。
取材を通じて学んだこと、あるいは以前から分かっていたことですが、万能の方法はありません。自組織の中でリスクを生む行動を特定し、それらの脅威をビジネス上の影響に結び付け、ベースラインを設定して、そこからの逸脱を監視する必要があります。
たとえば、ディープフェイクでヘルプデスクに入り込み、多要素認証(MFA)をリセットさせようとする脅威があります。あるいは、CFOが従業員とのオンライン会議で多額の送金を求めたという、よく知られたArupの事例もあります。どの部門に専用の研修が本当に必要かを絞り込むことが重要です。組織内には、一般の従業員、経営幹部、特権を持つ管理者、人事・採用担当、顧客対応の従業員、さらに第三者や委託先と、実にさまざまな人がいます。こうしたリスクに合わせて啓発の内容を変える必要があります。
もう一つ挙げるなら、プログラムを定期的に更新することです。従来の技術についても扱う必要があります。フィッシングが大きな問題であることは誰もが知っていますし、今も課題です。しかし同時に、AIという新しい技術も扱うべきです。AIだけでなく、生成AIやエージェント型AIなど、ここ数年に登場した最新技術も含まれます。それらを安全に使う方法と、技術に内在するセキュリティ上の問題を防ぐ方法を、従業員が理解している必要があります。
私たちが取材した中で面白いと思ったのは、啓発プログラムにAIを活用する例です。あるCISOは、AIで作成したフィッシング訓練を使い、従業員ごとにパーソナライズしていると話していました。これはなかなか良いですよね。おそらく1900年代から変わらないような、汎用的で退屈な同じ動画を見せるのとは違います。
DRのロブ・ライト氏: それは良さそうですね。
TTCのシャロン・シェア氏: ええ。退屈なプログラムが抱える問題の解決にもつながります。取材先の一人であるBlack Swanのケビン・ウォーカー(Kevin Walker)氏は、アリッサ・アイレイ(Alissa Irei)記者に、現実の長距離走ではなく、短期集中型の研修を行うべきだと語っています。1時間もある研修では、誰も内容を理解できませんし、最後まで集中も続きません。そこで、内容を自分に関係の深いものにしてパーソナライズし、従業員にとって有益で、手軽に消化できる短い単位にすることが大切です。
特定の従業員を狙う具体的な脅威といえば、ロブ、Dark Readingで最近取り上げている事例がありましたよね。
DRのロブ・ライト氏: ええ、最近はAIをテーマにした攻撃が相次いでいます。何度か記事にしましたが、気づいたのは、SEOポイズニングとマルバタイジング(悪意のある広告)が非常に多いことです。マルバタイジングのような脅威は、手口が高度ではなく、さほど広がらない「手軽な標的」だと考えがちです。Flash広告か、怪しい薄毛隠しの広告あたりから、マルウェアに感染する程度だろうと。
ところが、こうした広告はずっと効果的になっています。「高度」という言葉は使い古されていて好きではないのですが、それでも巧妙化しています。たとえばFacebookやMetaの広告は、広告ブロッカーでもなかなか防げません。Gen Digitalの最近のレポート(いや、もう1年近く前になると思いますが)では、InstagramとFacebookの広告の3件に1件が悪意あるものだったと報告されています。マルウェアやフィッシングのリンクに誘導するか、あからさまな詐欺広告だったということです。
今の攻撃者は、スポンサーリンクや、こうした種類の広告を使えると分かっています。多くの人がブロックしている従来のポップアップ広告などに限りません。スポンサーリンクやGoogle広告、効果の高いSEOポイズニングの手法を使って、「Claude Codeをダウンロード」といった誘い文句や、新しいAIツールの宣伝を流せるのです。
今はそうしたツールを探している人が非常に多くいます。シャドーAIも多く、積極的に探していても、ただ試していただけでも、こうした悪意あるリンクに出くわしやすい状況です。しかも、正規のインフラ上でホストされています。最近、Any.Runが公表したレポートには、AIをテーマにした攻撃がどれほど展開されているかを示す統計がありました。また、インフラとしてCloudflare Pagesが大規模に悪用されているという報告もあり、正規のものに見えてしまいます。さらにOpenAIのカスタムGPTもあり、OpenAIやCloudflareといった本物のプロバイダー上にあるため、正規のものに見えるのです。
こうした罠にはまりやすく、何かをクリックした途端に、認証情報を盗むインフォスティーラーをダウンロードしてしまいます。開発者の場合はなおさらで、開発者を狙う攻撃は非常に多く起きています。組織にとっては悪い知らせです。ですから、企業が今注力すべきことの一つは、組織内の人たちに働きかけることだと思います。権限レベルや組織内での立場にもよりますが、AIツールを探している従業員なら誰であっても、リスクを知っておくべきです。公式のアプリストアや正規の経路を通さずに見つけたものの多くは、詐欺やソーシャルエンジニアリングの手口である可能性が十分にあり、インフォスティーラーやもっと悪質なものを端末に仕込まれかねません。これは私たちにとっても目を開かされる話でした。
ぞっとする話です。まだハロウィンの前なのに。さて、エリックは何を見てきましたか。
CDのエリック・ゲラー氏: 私は次世代の労働力という視点から見てきました。現在の従業員への教育や、今ある脅威の軽減については、すでに多くの議論があります。一方で、AIを取り巻く状況は大きく変わり、今の労働力が理解するのに苦労しています。そこで私は、次の世代の人材がAIそのものだけでなく、AIに関連する脅威への備え方も理解できるようにすることに注目しました。
つまり、AIセキュリティの実務者になる方法、AIセキュリティのガバナンスとリスク管理に注力する方法です。大学レベルで、この分野でのキャリアに向けた学生の準備に、どんな講座があるのかを調べました。高等教育でAIのカリキュラムが数多くあるのは意外ではありません。意外なのは、ここ数年で大学がこの取り組みにセキュリティの要素が必要だと認識する点で、かなり進歩してきたことかもしれません。
AIセキュリティのカリキュラムの構築、あるいは構築の開始を試みている大学を複数取材しました。カーネギーメロン大学では、AIセキュリティの認定プログラムを提供しています。この分野を専門にしたい中堅クラスの社会人向けで、数週間の講座を受講して修了証を取得でき、この領域でリーダーになるための準備ができます。ただ、こうした取り組みの多くは学部や大学院のレベルで行われています。キャリアに入る前のごく早い段階の学生をつかまえて、この分野がなぜ重要なのかを教える講座が数多く設けられています。
ジョージア工科大学では、LLMセキュリティの大学院講座を教える教授に話を聞きました。学部レベルの入門講座「Cyber 101」で大規模言語モデルについて話すと、授業の外でも発展的に学びたい、サイバーのその分野をもっと知りたいという関心が高く、教授自身が驚いたそうです。
資金も注目も新製品の開発や展開に集まる中で、大学生がセキュリティに関心を持つのかと、やや悲観的に見ている人もいるでしょう。私が書いた記事は、そうした見方を正す内容であると同時に、楽観的になれる材料でもあります。少なくとも教えている人たちによれば、こうした内容を学びたい学生がいて、大学院に進学したり、AIのセキュリティ分野に特化した認定資格を取得したりしたい人もいるそうです。これは喜ばしいことです。今後数年のうちに、こうしたプログラムの修了生が社会に出始めると、状況は変わると思います。少なくとも一部の大学の狙いどおりになれば、AI開発に対して、よりセキュリティを意識した姿勢が広がっていくでしょう。
DRのロブ・ライト氏: 急に前向きな気持ちになりました。私にはとても珍しいことです。普段は悲観的なほうなので。
CDのエリック・ゲラー氏: どういたしまして。
DRのロブ・ライト氏: ありがとう。本当に良い知らせですね。歓迎すべき動きのようです。AIには期待できる面もあるのかもしれません。そうなることを願っています。
CDのエリック・ゲラー氏: ええ。もう一つ付け加えると、これは特定の大学だけに閉じた動きではありません。複数の大学が連合を組み、互換的に使えるカリキュラムを作っています。教室での指導で効果があった最善の方法を、ある大学が他の大学と共有しているのです。
この分野では、連邦政府が実は裏方の役割を担っています。全米規模のこの連合を支援しているからです。大学ごとに主導役を務め、自分たちが連携する小さな大学グループをつくり、授業計画を作成し、教室で通用する題材を探して、互いに共有しています。学術の世界はもともと協力的ですし、今回の取り組みも全員の利益になると思います。効果的な方法を見つけた教員が、ほかの大学の教員に「この方法を試してみては」と伝えています。それをまとめるコンソーシアムがあり、すべての大学で必ずしも同一ではないにせよ、大学間で共有できるカリキュラムを目指しています。
DRのロブ・ライト氏: それは良いですね。私は楽観的になっています。普段は決して楽観的にならないのですが。それでは、サイバーセキュリティ啓発月間をテーマに集まってくれて、ありがとうございました。前向きな話で締めくくれてうれしいです。ありがとう、二人とも。
TTCのシャロン・シェア氏: ありがとう、ロブ。ありがとう、エリック。
翻訳元: https://www.cybersecuritydive.com/news/cybersecurity-training-workforce-education-ai/874118/
