OpenClaw、AIエージェントのスキル・エコシステムを保護するためVirusTotalを活用

AIエージェントが実験的なチャットボットから、私たちの財務やスマートホームを管理できる強力なツールへと移行するにつれ、セキュリティは最優先事項となっています。

本日、OpenClawは、AIスキルのマーケットプレイスであるClawHubに高度な脅威検知を導入するため、VirusTotalとの大規模な提携を発表しました。

AIエージェントに特別な保護が必要な理由

従来のソフトウェアは硬直的で、コードが指示したとおりに正確に動作します。AIエージェントは異なり、自然言語を解釈し、タスクを実行するために独立して意思決定を行います。

これは非常に有用である一方、固有のリスクも生み出します。

悪意のある「スキル」(AIエージェント向けの追加機能)が、機密データの流出、未承認コマンドの実行、有害なソフトウェアのダウンロードへとエージェントを誘導してしまう可能性があります。

OpenClawのエコシステムが拡大するにつれ、これらの能力を悪用しようとする不正な行為者のリスクも同様に高まります。

セキュリティ統合の仕組み

これに対抗するため、OpenClawは、ClawHubに公開されるすべてのスキルに対して厳格なスキャンプロセスを実装しています。

このプロセスは、従来のファイル指紋(フィンガープリント)と最新のAI分析を組み合わせたものです。

  1. 決定論的パッケージング: 開発者がスキルをアップロードすると、ファイルは一意のデジタル指紋(SHA-256ハッシュ)を持つZIPファイルにまとめられます。
  2. データベース照合: この指紋は、VirusTotalの膨大な脅威インテリジェンス・データベースと即座に照合されます。
  3. Code Insight分析: ファイルが新規の場合、VirusTotalにアップロードされ、「Code Insight」を用いて詳細解析が行われます。この機能はGoogleのGemini LLMによって支えられており、コードを読み取ってその挙動を理解します。既知のウイルスシグネチャを確認するだけでなく、不明なネットワークへの接続やプライベートファイルへのアクセスといった不審な動作を探します。

このアプローチは、Hugging Faceのセキュリティモデルなどの類似実装よりも踏み込んだものです。

OpenClawは、挙動分析のためにスキルのバンドル全体をアップロードし、コードが実際に何をするのかについてシステムが全体像を把握できるようにしています。

判定システム

スキャン結果に基づき、スキルは3つのカテゴリに分類されます。

  • 無害: スキルは自動的に承認され、ダウンロード可能になります。
  • 疑わしい: スキルは公開されますが、ユーザー向けに明確な警告表示が付与されます。
  • 悪意あり: スキルは即座にブロックされ、ダウンロードできません。

OpenClawはまた、以前は安全だったツールが後から侵害されていないことを確認するため、稼働中のすべてのスキルを毎日再スキャンしています。

OpenClawは、このシステムが「万能の解決策」ではないことを認めています。言語を用いてAIを操作する複雑な「プロンプトインジェクション」攻撃をすべて検知できるとは限りません。

それでも、マルウェア、トロイの木馬、サプライチェーン攻撃に対する重要な防御層を提供します。

この提携はOpenClawにとって、より広範なセキュリティ施策の始まりを示すもので、近く公開セキュリティ・ロードマップや包括的な脅威モデリングが含まれ、パーソナルコンピューティングの未来を安全に保つことを目指します。

翻訳元: https://gbhackers.com/openclaw-virustotal-safeguard-ai-agent-skill-ecosystem/

ソース: gbhackers.com