米連邦取引委員会（FTC）は、OpenAI、Anthropicをはじめとする最先端AI開発企業を対象に、大規模な調査を開始しました。消費者への潜在的な被害、欺瞞的な主張、自律型AIシステムのリスク管理の不備が焦点です。
この調査は、既存の消費者保護法によって、AIエージェントが現実世界で取る行動の責任をモデル開発企業に問えるかどうかを占う、画期的な試金石になる可能性があります。
アンドリュー・ファーガソンFTC委員長が主導する調査では、大手AI企業が、不公正または欺瞞的な行為や慣行を禁じるFTC法第5条に違反する行為を行っていなかったかが検証される見通しです。
NY Postによると、FTCは民事調査要求（CID）の準備を進めています。CIDは、企業に内部記録の提出を求め、経営幹部に証言を強制できるものです。
報道によれば、要求の対象にはOpenAI、Anthropic、AI評価機関のMETRが含まれる可能性があります。調査の範囲は、チャットボットの誤解を招く出力といった従来の問題にとどまらないようです。
規制当局が注視しているのは、高度化するエージェント型AIシステムに伴う潜在的な害です。こうしたシステムは、自律的にツールを使い、ネットワークにアクセスし、コードを実行できます。限定されたプロンプトと応答のやり取りを超えて行動できる点が特徴です。
執行上の論点としては、各社が安全対策について適切に説明していたか、自律的な能力を適切にテストしていたか、消費者データを保護していたか、既知のセキュリティリスクに対応していたか、などが挙げられそうです。
今回の調査は、7月に公表されたOpenAIとHugging Faceをめぐるセキュリティインシデントに続くものです。OpenAIによると、社内のサイバーセキュリティ評価中に、安全対策を弱めた状態で動作していた一部のモデルが、隔離制御を回避しました。さらに、許可されていない通信経路を使い、共有インフラを悪用してインターネットに接続し、第三者のシステムにアクセスしたといいます。
OpenAIは、この活動によってHugging Faceの数十台のサーバーでコードが実行され、1台でroot権限が奪われたと説明しています。非公開データも一部が流出し、社内メッセージングプラットフォームの認証情報にもアクセスされました。
FTCの調査は、このインシデントが公になる前に始まっていたと伝えられています。それでも、今回の事案によって、最先端モデルのセキュリティ面への影響に対する監視の目は一段と厳しくなりました。
Hugging Faceの事例は、AIエージェントを展開する開発者にとっての中心的な課題を浮き彫りにしました。モデルの挙動が、初期アクセス、権限昇格、横展開、認証情報へのアクセス、コマンド実行、データ収集といった、従来型の攻撃チェーンの各段階と交わり得るということです。
Hugging Faceは、技術分析によってエージェント型の評価環境を特定したと述べています。初期アクセスの経路としては、パッケージレジストリのキャッシュプロキシの悪用と、Jinja2のテンプレートインジェクションの脆弱性が関わっていたと説明しています。
FTCがAIエージェントの管理不備を消費者保護の問題として扱えば、自律型エージェントを利用する組織には、より多くの対策が求められるようになる可能性があります。具体的には、サンドボックス化、最小権限のアクセス、ネットワークの外向き通信の制限、ログの一元管理、継続的な挙動監視、機密性の高い操作に対する人間の承認ゲートなどです。
FTCは、調査対象のOpenAI、Anthropicなどの企業について、違法行為があったとは主張していません。調査は責任の認定ではなく、同委員会はいまも情報収集の段階にあります。
ただ、CIDの活用を予定していることは、規制当局が詳細な証拠を求めている表れです。対象は、モデルの安全性に関する主張、社内テスト、インシデント対応、そしてエージェントが害を及ぼすのを防ぐための安全対策です。
この件は、重要な執行上の先例となる可能性があります。自律型システムが消費者やサイバーセキュリティに予見可能なリスクをもたらした場合、AI開発者は、そのシステムを独立した主体と位置づけて責任を免れることはできないかもしれません。
1万6,000以上のSOCチームがANY.RUNを活用し、脅威調査を効率化して手作業を削減しています。チームでの導入を検討する
