eSecurity Planet content and product recommendations are editorially independent. We may make money when you click on links to our partners. Learn More
Anthropicは木曜日、Model Hardware Standard(MHS)のリサーチプレビューを公開しました。これはAIエージェントがプログラム可能な物理機器を、標準化されたソフトウェア層を通じて検出・監視・操作できるようにする共通仕様です。
同社によると、MHSは顕微鏡、液体分注装置、カメラ、センサー、ロボットアームなどの機器を接続でき、エージェントが複数の機械を同時に連携させることが可能になるとしています。現在は科学研究機関と先端製造業の限られたグループによってテストが進められている段階です。
セキュリティチームにとってこのプレビューは、AIシステムが物理機器を直接操作できる状況下で、組織がどのようにエージェントを認証し、権限を制限し、コマンドを監視していくのかという新たな課題を提起するものです。
このプロジェクトはAnthropicとHHMI Janelia Research Campusの共同研究として始まりました。Anthropicは、通常は数週間から数カ月を要するハードウェア統合作業をMHSによって数時間から数分に短縮できると述べています。ただし、この成果はAnthropicおよびプレビューに参加している組織によるものです。
MHSの仕組み
MHSはAIエージェントと物理デバイスの間で標準化されたドライバーを使用します。機器ごとに個別の統合作業を必要とする代わりに、このドライバーは温度の読み取りや設定の変更といった基本操作を公開する仕組みです。
またこのシステムは、デバイスの機能や物理的な制限に関する構造化情報をエージェントに提供します。ユーザーは自然言語で特性を記述でき、ソフトウェアインターフェースからは把握しにくい詳細も含めて説明可能です。MHSはこうした情報をAIエージェント用の参照ファイルに変換します。
エージェントはその後、AnthropicのModel Context Protocol、コマンドラインツール、またはコードベースのAPIを通じて機器を制御できます。これにより、エージェントは複数の機器を連携させ、結果を監視し、状況の変化に応じて実験パラメータを調整することが可能になります。
一例として、Anthropicによれば、Claudeはレーザーを調整し、カメラで結果を観察するというプロセスを、ビームの調整方法を理解するまで繰り返しました。その後、学習した内容を決定論的なスクリプトへと落とし込み、すべての手順を改めて推論することなくアライメント作業を実行できるようにしたといいます。
なぜ重要なのか
Anthropicは、MHSをClaude専用機能ではなく、より広範なインフラ層として位置付けています。この標準はモデルに依存しない設計であり、プログラム可能なインターフェースを持つあらゆる機器で動作するよう意図されています。
MHSのテストや対応開発を進めている組織には、Amazon Web Services、Automata、Danaher、Doosan Roboticsなどが含まれます。AWSはStrands Robotsを通じてMHSをサポートする計画であり、Hugging FaceはLeRobotへの対応を進めているほか、Raspberry Piは複数の製品にわたる統合を可能にしていく方針です。
想定される応用範囲は、自動化された創薬実験からロボティクス、製造業、量子コンピューティングシステムに至るまで多岐にわたります。
より大きな試金石は安全性
AIエージェントに物理機器の制御権限を与えることは、コードを書いたり情報を操作したりする場合とは異なる種類のリスクをもたらします。ミスが機械の損傷や実験の失敗を招いたり、安全上の危険を生み出したりする可能性があるためです。また、エージェントやアカウント、ドライバーが侵害された場合、接続された機器が不正なコマンドにさらされる恐れもあります。Anthropicの発表では物理的な安全対策やモデルの制限事項について触れられていますが、認証、ロールベースの権限管理、ネットワーク分離、ドライバーの完全性、監査ログといったサイバーセキュリティ対策の詳細は示されていません。
Anthropicは、自社システムに依然として限界があることを認めています。Claudeの物理世界に対する理解は不完全な場合があり、モデルが物理的な問題をソフトウェアの問題と誤認識した際には、研究者が介入する必要があったといいます。また、MHSは現時点でプログラミングインターフェースを持たないハードウェアには対応できません。
同社はこのリサーチプレビューを通じて、参加パートナーとともに追加の安全性評価と運用手法を開発しており、このテスト段階の後にMHSをオープンソース化する計画です。
真の好機は相互運用性にあるかもしれない
MHSは、AIシステムとますます断片化が進む研究所・産業機器の世界との間で中立的な層として機能することができれば、最も大きな価値を発揮する可能性があります。
現状、異なるベンダーの機械を接続するには専門知識とカスタムソフトウェアが必要になることが少なくありません。共通のインターフェースがあれば、そうした専門性がボトルネックになりにくくなり、研究者は機器同士をつなぎ合わせる作業ではなく、実験の設計そのものに多くの時間を割けるようになるでしょう。
とはいえ、標準化だけで自律的な物理システムが安全かつセキュアになるわけではありません。限定的なテストの枠を超えてMHSを導入する前に、組織は最小権限アクセスを強制できるか、エージェントの活動を記録できるか、エージェントや接続コンポーネントが予期しない挙動を示した際に安全側に停止できるかを見極める必要があります。Anthropicのリサーチプレビューはこうした保護策の確立に役立つかもしれませんが、セキュリティチームはAIとハードウェアのインターフェースを、通常のソフトウェア統合ではなく重要な制御インフラとして扱うべきです。
