AIは悪意のあるチップの脆弱性を97%の成功率で検出可能 ― しかしそれで十分なのか?

AI
(画像クレジット:Pixabay)
(画像クレジット:Shutterstock)

  • ハードウェアトロイの木馬がサプライチェーンの奥深くから世界のチップ産業を脅かしている
  • 97%の精度でも、製品チップに壊滅的な脆弱性が残る可能性がある
  • 配備前に隠れた脅威を検出することは、依然として重要なエンジニアリング課題である

AIはコンピュータチップ内の隠れた脅威を検出するためにますます活用されており、ミズーリ大学の研究者は、新しい手法がハードウェアトロイの木馬の特定で97%の成功率を達成したと主張しています。

これらの悪意ある改ざんはチップ製造中に挿入され、データセンター、医療機器、さらには防衛システムで使用されるデバイスを危険にさらす可能性があります。

このチームの研究は、AIツールを活用してデジタル経済を支えるハードウェアの安全性を高める上で重要な一歩となります。

ハードウェアトロイの木馬という持続的な課題

現代のコンピュータチップは広範なグローバルサプライチェーンを経て生産されており、設計、テスト、組み立てはしばしば異なる国の複数の企業によって行われます。

この複雑さが、製造のほぼあらゆる段階でトロイの木馬が挿入される機会を生み出し、検出を非常に困難にしています。

一度埋め込まれると、起動されるまで休眠状態にあり、データの窃取やデバイスの故障を引き起こす可能性があります。

これらの脅威の検出と除去には多大なコストがかかり、深刻な場合には企業が製品ライン全体をリコールせざるを得なくなり、財務や評判に損害を与えることもあります。

こうした課題に対処するため、ミズーリ大学の研究者は、GPT-3.5 Turbo、Gemini 1.5 Pro、Llama 3.1、DeepSeek-V2といった大規模言語モデル(LLM)をハードウェアトロイの木馬検出に応用するPEARLというシステムを導入しました。

PEARLは、ゼロショット、ワンショット、フューショットなどのインコンテキスト学習手法を用い、最初から学習することなくVerilogコード内のトロイの木馬を特定します。

また、なぜそのコード部分が悪意あるものと分類されたのかを説明する人間が読める説明も提供し、透明性を高めています。

オープンソースとエンタープライズのLLMを組み合わせることで、研究者はTrust-HubやISCAS 85/89データセットなど、さまざまなチップベンチマークでモデルの適応性と解釈性をテストしました。

実験結果によると、GPT-3.5 TurboのようなエンタープライズLLMは未知のハードウェアトロイの木馬検出で最大97%の精度を達成し、DeepSeek-V2のようなオープンソースモデルは約91%に到達しました。

さらに、PEARLは比較用のクリーンなリファレンスチップである「ゴールデンモデル」を必要とせず、より幅広い実用化が可能です。

有望な結果にもかかわらず、97%という検出率はごくわずかですが見逃されるトロイの木馬が残る余地を残しています。

チップが金融ネットワークから国家防衛まで重要なデジタルシステムを支えていることを考えると、わずかな脆弱性でも広範な影響を及ぼす可能性があります。

ハイリスクな業界では、たった1つの脅威の見逃しが壊滅的な障害につながる可能性があるため、専門家は追加の手動検証やテストなしにAI駆動モデルのみに依存することには慎重な姿勢を崩していません。

著者らは、特に新たなトロイの木馬の高度化を踏まえると、完璧な検出は依然として達成困難であることを認めています。

GoogleニュースでTechRadarをフォローし、 優先ソースに追加して、私たちの専門ニュース、レビュー、意見をフィードで受け取りましょう。必ずフォローボタンをクリックしてください!

もちろん、TikTokでTechRadarをフォローして、ニュース、レビュー、開封動画などもご覧いただけます。また、WhatsAppでも定期的に最新情報をお届けしています。

翻訳元: https://www.techradar.com/pro/ai-can-detect-malicious-chip-vulnerabilities-with-a-97-success-rate-but-i-fear-that-is-simply-not-enough

ソース: techradar.com