生成AI、特にAIエージェントが抱える大きなセキュリティ課題の一つは、こうしたシステムが実際に何を行ったのかを証明させることです。
Linux Foundationは、AIの活動をより透明かつ監査可能で信頼できるものにする、AIランタイムのエビデンスに関する新しいオープン標準によって、この課題に取り組もうとしています。
Trust, Runtime Attestation and Compliance Evidence(TRACE)は、ハードウェアによって証明されたAIエージェントのガバナンス記録に関するオープン仕様であり、機密コンピューティングベンダーのOPAQUEが、AMD、Intel、Microsoft、Technology Innovation Institute(TII)の支援を受けて開発しました。
TRACE:エージェント型AIの活動を証明する改ざん防止レシート
TRACEは、Internet Engineering Task Force(IETF)とInternet Research Task Force(IRTF)による既存の標準を組み合わせています。具体的には、クレームエンベロープにはRFC 9711(EAT)を、証明者・検証者・依拠当事者の役割にはRFC 9334(RATS)を、透明性台帳へのアンカリングにはSCITTドラフトを採用しています。
TRACEはこれらの標準を統合し、ランタイム環境、実行されたソフトウェア、適用されたポリシー、データ分類、そしてAIエージェントが使用したツールを紐づける、ハードウェアに裏打ちされた暗号学的に検証可能な記録を生成します。
注目すべきは、TRACEがAMDのSecure Encrypted Virtualization(SEV)を利用している点です。これはハードウェアベースのセキュリティ技術で、仮想マシン(VM)のメモリを暗号化することで、ホストのハイパーバイザーやクラウド管理者が機密データにアクセスできないようにします。
生成されるエビデンスは、クラウドプロバイダー、機密コンピューティング環境、主権インフラストラクチャの間で持ち運び可能となるよう設計されており、組織がAIワークロードの動作を独自に検証できる手段を提供します。
つまり、AIエージェントの活動に対する改ざん耐性のあるレシートとして機能するわけです。
Linux Foundationはこの仕様に対してベンダー中立のガバナンスを提供し、技術的なワークストリームはCoalition for Secure AI(CoSAI)がホストします。
Linux FoundationのCEOであるJim Zemlin氏は、8月25日の公式声明の中で、このベンダー中立のガバナンスによって、さまざまなインフラストラクチャにわたって「AIに対する信頼をオープンで持ち運び可能、かつ検証可能なものにする」べきだと述べています。
TRACEはすでに開発者からも早期の関心を集めています。参照ライブラリは、2026年6月のConfidential Computing Summitでの初公開から10週間以内に、PyPIで約135,000件のダウンロードを記録しました。
仕様書、技術ドキュメント、参照実装は、TRACEのプロジェクトリソースおよびGitHubリポジトリを通じて入手できます。
「暴走」AIエージェントが浮き彫りにする検証可能なセキュリティ管理策の必要性
共通標準を求める動きの背景には、各組織がAIエージェントを孤立した実験段階から、機密データを扱い複数のシステムと連携する本番環境へと移行させつつあるという状況があります。
OPAQUEは、同じく8月25日に公開された別の声明の中で、AIモデルがサイバーセキュリティ評価を受けている最中にOpenAIのエージェントがHugging Faceのインフラストラクチャを侵害した、最近のサイバーインシデントを取り上げました。
「この事件は、自律型AIが抱える根本的な課題を浮き彫りにしました。文書化されたポリシーやサンドボックスの構成だけでは、実行中にどの管理策が実際に有効だったのか、あるいはシステムが実際に何を行ったのかを証明することはできません」とOPAQUEは述べています。
同社は、同様のエビデンスの欠如がオープンウェイトモデルにも当てはまると指摘しています。
「重みを保有しインフラストラクチャを制御することで、デプロイに対するコントロールは高まりますが、それによって承認済みのモデルが改変されずに実行されたことや、必要なポリシーがその利用を統制していたことが証明されるわけではありません」と同社は付け加えています。
OPAQUEのCEOであるAaron Fulkerson氏は、AIの急速な進歩により「AIモデルやエージェントがどのように推論するかを常に予測できるとは限らない」と述べています。
しかし同氏は、TRACEが広く採用されれば「AIに許可する行動を制御し、実際に何を行ったかを証明できるようになる」とも述べています。
画像提供: IB Photography / Shutterstock.com
翻訳元: https://www.infosecurity-magazine.com/news/linux-foundation-trace-standard-ai/
