#Infosec2024: AIレッドチーミング提供企業Mindgard、英国で最も革新的なサイバーSMEに選出

英国の「Most Innovative Cyber SME」コンペティションの審査員は、Mindgardを2024年の受賞者に選出した。

この賞は、Reed Exhibitionsのポートフォリオ・ディレクターであるSaima Poorghobad氏により、Infosecurity Europeの会期中に発表された。

同氏は、コンペティションを審査したサイバーセキュリティ専門家パネルが、AIセキュリティ提供企業であるMindgardについて「独創性、インパクト、市場ニーズを示す非常に明快なピッチを行った」と称賛したと述べた。

また、同スタートアップが選ばれた理由として、「AI導入における最も差し迫った課題のいくつかに取り組んでいる」点を挙げた。

学術研究に支えられたAIレッドチーミング・プラットフォーム

Mindgardは英国拠点のスタートアップで、企業のセキュリティチームがさまざまなAIユースケースを展開できるよう、AIの脆弱性に対する継続的なレッドチーミングと修復を行うためのプラットフォームを提供している。

式典後にInfosecurityの取材に応じたMindgardのプロダクト責任者Nipun Gupta氏は、「私たちは、企業が利用するAIモデルを安全にテストすることで、AIから価値を引き出す支援をしています」と説明した。

Mindgardは、ワークフローにAIユースケースを実装する組織が、これらの異なるモデルを特定の敵対的攻撃に対してテストし、特定の脆弱性を見つけるのに役立つSaaS（software-as-a-service）プラットフォームを提供している。

「従来、レッドチーミングは、ITシステムに対して敵対者のような攻撃者の行動をシミュレートすることと結び付けられてきました。私たちはこれをAIモデルで行おうとしています」とGupta氏は述べた。

生成AIが世界を席巻する中で同スタートアップはステルスモードを脱したが、同氏は、レッドチーミング・プラットフォームの能力は生成AIや大規模言語モデル（LLM）にとどまらないと語った。

「私たちは、ディープラーニングモデルやLLM以外のGenAIアプリケーションを含む、あらゆる種類のニューラルネットワークに対する敵対的機械学習攻撃を理解できます。当社のプラットフォームは、ほとんどのAIモデルに見られるブラックボックス効果を打ち破れる形で攻撃を再現し、モデルがさらされているリスクに基づいてセキュリティ態勢を報告できます。」

Mindgardの創業機械学習エンジニアであるStefan Trawicki氏は続けてこう述べた。「機械学習の基礎を理解しているので、どのAIモデルを扱っているかは実際のところあまり気にしません。」

Mindgardのプラットフォームが用いるレッドチーミング手法には、モデルの入出力分析や、アプリケーション・プログラマブル・インターフェース（API）分析などがある。

「脱獄（jailbreak）のようなAIプロンプトハッキングの脆弱性を特定できるだけでなく、『モデル抽出（extract model）』や『学習データ抽出（extract training data）』といった、AIモデルのより根本的な欠陥も見つけられます」とTrawicki氏は付け加えた。

Gupta氏は、Mindgardのプラットフォームは社内のレッドチーミング作業を置き換えるのではなく、補完するよう設計されていると述べた。「それらを強化し、組織が依存しているAIモデルが脆弱な特定の攻撃に集中できるようにします。」

研究室からスタートアップへ

Mindgardの物語は2018年にさかのぼる。ランカスター大学のコンピュータサイエンス教授であるPeter Garraghan氏が、2014年に設立した自身の研究室で、敵対的機械学習の研究を開始した。

「当初は、敵対的機械学習の研究がいかに断片的であるかに気づいたことから始まりました。当時のプロジェクトの多くは非常に学術的な書き方で、産業用途には適していませんでした。私たちは自分たちの研究を、AIモデルを迅速にテストできるユーザーフレンドリーなプラットフォームへと統合し始めました」と、Garraghan氏の学術チームの一員だったTrawicki氏は語った。

その後、ランカスター大学の研究者たちは、自分たちが構築しているものと同様の商用製品が存在しないことに気づき、2022年にMindgardを設立した。

同スタートアップは、Lakestar、IQ Capital、Osney Capitalから300万ポンド（380万ドル）を調達している。顧客は主に、あらゆる業種の大企業だ。