フロンティアモデルの暴走を受け、米大学がAIサイバーセキュリティ教育を強化

より安全で堅牢なAIを求める声が世界で高まるなか、米国の大学は、企業や政府が運用する強力なAIシステムを守れる人材を育てようと、急増するAIセキュリティ教育の需要に応えようとしています。

学部・大学院の講義から専門的な修了証（プロフェッショナル認定）まで、AIサイバーセキュリティの教育プログラムが全米各地で相次いで立ち上がっています。アルゴリズムやモデル、エージェントがあふれる職場に足を踏み入れる若者は、AIリスクの管理方法を理解しておく必要があると、専門家は警鐘を鳴らしています。最近、フロンティアAIモデルが関わる自律的なハッキング事案が起きたことも、サイバーセキュリティ教育の必要性をいっそう浮き彫りにしています。

政策立案者や企業経営者は、セキュリティを優先しない無謀なAI開発がもたらす結果を懸念しています。こうしたなか、高等教育機関は、手遅れになる前に、カリキュラムの深刻な空白を埋めようと急いでいます。取り組みを後押ししているのは、サイバーセキュリティ人材の育成を目指す連合体、先駆的な一部の教授陣、そしてAIセキュリティの授業への導入に新たに力を入れ始めた政府です。

「AnthropicやOpenAIなどが開発する各種モデルが、境界を越え、訓練されていない行動を取り始めているのを目にするにつれ、適切なガバナンスを確保することの重要性はますます高まっています」。こう語るのは、カーネギーメロン大学情報ネットワーキング研究所（Information Networking Institute）のアソシエイトディレクター、Michael Mattarock氏です。

倫理的なAIの姿勢を教える

大学はAIの存在感の高まりに応じて、この技術のほぼあらゆる側面を扱う講座を設けてきました。ところが最近まで、AIサイバーセキュリティ教育への需要は比較的低調でした。専門家は、これを深刻な問題だと指摘しています。

「AIがあらゆる業界や重要なシステムに組み込まれていくなか、卒業生には、単にAIを動かす方法だけでなく、安全で信頼でき、回復力のあるAIをどう構築し展開するかを理解してもらう必要があります」。ウェストフロリダ大学（University of West Florida）サイバーセキュリティ・AIセンターのアソシエイト・バイスプレジデント兼教授、Eman El-Sheikh氏はこう述べます。「AIモデルやデータ、システムを脆弱性や攻撃、悪用からどう守るかを理解した人材が必要です」

複数の専門家は、AIセキュリティ教育を軽視する危険性を、大学がコンピューターサイエンスの初期の講義でサイバーセキュリティを軽視したことがもたらした悲惨な結果になぞらえています。その初期講義については、コンピューターサイエンス入門課程での扱いが問題視されてきました。Mattarock氏は「誰もがAIという格好よくて魅力的なものを追いかけていて、そうしたソリューションやプラットフォームが適切に保護されているかどうかを確かめる事前の調査（デューデリジェンス）は、必ずしも十分に行われていません」と話します。

AIリスクを軽減する方法を学生に教えれば、「人材市場が厳しくなるなかでも競争力を持てるスキルセット」を身につけさせられると、マサチューセッツ州政府の拠点であるMassCyberCenterのディレクター、John Petrozzelli氏は語ります。同センターは、大学生をセキュリティオペレーションセンター（SOC）要員として育成するプログラムに、AI教育を組み込もうとしています。

モデルの出力から侵害の兆候を見抜く力など、サイバーセキュリティの基礎的なスキルを持たないまま卒業した将来のAI開発者は、自分が監督する方法も分からず、重要な安全対策も欠いたシステムを作り上げてしまいかねないと、Mattarock氏は指摘します。

複数の専門家は、フロンティアAIモデルが関与した最近の制御喪失事案は、開発者がセキュリティを軽視したときに何が起こり得るかを如実に示したと主張しています。

AIシステムに明確なガードレールを組み込む「倫理的なアプローチを取ること」は「極めて重要です」とPetrozzelli氏は述べます。「特に、脆弱性スキャンやペネトレーションテストといったサイバーセキュリティ目的でAIを使おうとする場合はなおさらです」

明るい材料もあります。Mattarock氏によると、自律的なハッキング事案が相次いでいることが、「学生の間で［AIセキュリティへの］関心を引き続き高めています」。

AIサイバー分野の学位、修了証、連携

AIサイバーセキュリティ教育はまだ黎明期の分野で、カリキュラムの導入状況は大学ごとに異なると、専門家は話します。

AIセキュリティのプログラムを提供する大学が現在正確に何校あるのかは不明ですが、Cybersecurity Diveの調べでは、シカゴ大学、ダコタ州立大学、フロリダ国際大学 、サウスカロライナ州の軍事大学The Citadelなど、全米各地にいくつかのプログラムが点在しています。昨年11月には、優れたサイバーセキュリティ教育課程を持つ大学を認定する米国家安全保障局（NSA）のプログラムが、フェリス州立大学を初の「セキュアAI分野の学術的卓越センター（Center of Academic Excellence in Secure Artificial Intelligence）」に指定しました。

ジョージア工科大学では、Teodora Baluta助教が、2025年の春学期と秋学期に教えた機械学習セキュリティの選択科目を、常設の講義にする準備を進めています。講義では、学習データのプライバシーといったAIをめぐる社会的な問題と、脅威モデリングによってジェイルブレイクを防ぎ堅牢性を保つといった技術的な検討事項を結びつけています。

この講義の狙いは、システムの防御と、システムが直面する危険を照らし合わせる脅威モデリングの方法を学生に教えることです。Baluta氏は、学生には「少し敵対者の視点で考える」姿勢を身につけて講義を終えてほしいと語ります。あまり一般的ではない脅威もあるかもしれないが、「少なくとも概念的に知っていれば、より責任あるAI分野のコンピューターサイエンティストになれる」と付け加えました。

サイバーセキュリティ教育課程を最初に設けた大学の一つであるカーネギーメロン大学は、少なくとも3つのレベルでAIセキュリティ教育を提供しています。学部生は責任あるAIとAIガバナンスの講義を履修でき、大学院生は人工知能エンジニアリング（情報セキュリティ）理学修士を目指せます。これは全米でも先駆けとなった学位の一つで、他大学がひな型として活用しています。同大学はさらに、上級技術リーダー向けの4日間のプログラムFuture of Secure AI（セキュアAIの未来）修了証も提供しています。

この修了証プログラムでは、データポイズニング攻撃のようなAI関連のセキュリティリスクが組織にどう影響し得るかを技術管理職に教え、そうしたリスクを経営幹部に伝えられるよう備えさせます。「投資対効果や、さまざまな攻撃ベクトルが事業の収益にどう影響するかを説明できなければ、経営陣の賛同を得るのは難しいでしょう」。プログラムを共同で率いるMattarock氏はこう述べます。「受講者にはその力を身につけてもらう必要があります」

AIは、国防総省が資金を提供する全米サイバーセキュリティ人材育成プログラム（NCWDP）にとっても、ますます重要な検討課題になっています。NCWDPは約36大学からなるコンソーシアムで、共同でカリキュラムを開発し、授業、業界の認定資格、キャリア開発を組み合わせた育成パスを整備しています。コンソーシアムを率いるUWFのEl-Sheikh氏によると、加盟校はすでに146の育成パスを通じて1万1000人超の学生を教え、1万9000件超の資格を授与しました。

UWF自身も、連邦政府の認定を受けたAIサイバーセキュリティの学習プログラムに加え、AIセキュリティの大学院の学位や専門的な修了証を提供しています。さらにNCWDPコンソーシアムを率いる立場から、AI基礎講座を作るプロジェクトを統括し、他校がサイバーセキュリティ課程に組み込めるよう共有しました。

成長分野への助言

AIセキュリティ教育は、まもなく本格的に広がりそうです。UWFでは「強く、高まりつつある関心」が寄せられているとEl-Sheikh氏は話します。カーネギーメロン大学では、2022年に開始したAIセキュリティの修士課程への出願数が、2003年に開始した最上位の情報セキュリティ修士課程にほぼ並ぶ水準になっています。ジョージア工科大学のBaluta氏は、学部レベルのサイバーセキュリティの講義でLLMのセキュリティを取り上げたところ、多くの学生がさらに学びたいと関心を示したと語りました。

オンライン学習プラットフォームのCourseraとUdemyにおけるAIセキュリティ講座の受講登録数は、2025年から2026年にかけて665%急増したと、両社が最近報告しました。

この分野を学ぶ人が増えるなか、各校は「AIセキュリティを単一の講義に限定せず、AIカリキュラム全体に組み込む」べきだとEl-Sheikh氏は述べます。後から導入しようとするのではなく、基礎的な概念として位置づけるべきだとしています。

専門家はまた、AI開発・運用の中核にしばしば存在する倫理的判断に卒業生が対応できるよう、AIの安全性とセキュリティについて、人間的な側面と技術的な側面のバランスを取って教えるべきだと指摘しています。大学は「科学的な側面とリベラルアーツの側面の両方を見据えた、バランスの取れた人材の一団を送り出す必要があります」とPetrozzelli氏は述べます。

すでにAIセキュリティ教育に取り組んでいる大学は、提供内容の改善と拡充を進めています。NCWDPコンソーシアムはAIセキュリティ関連の職種に特化した新たな育成パスを開発中で、UWFはこの分野向けに新しい修了証と学位プログラムを作っています。Baluta氏は、シラバスにエージェント型AIに関する講義をさらに加える予定だと話します。

若い専門家が安全でない形で新技術の導入を急ぐことを懸念する教育関係者にとって、この分野の拡大は、どれだけ急いでも急ぎすぎることはありません。

「セキュリティリスクを理解しないままAIの開発や利用を学ぶ学生は、ますます重要になっている全体像の一部を見落としています」とEl-Sheikh氏は語りました。