米連邦取引委員会（FTC）は、OpenAIやAnthropicをはじめとする主要な人工知能（AI）開発企業を対象に、大規模な調査を開始しました。高度なAIシステムが消費者に及ぼしかねない被害を検証するのが目的です。
調査では、各社によるAIの開発や展開、安全性に関する主張、エージェント型AIのリスク管理が、不公正または欺瞞的な商慣行を禁じるFTC法に違反しないかを評価します。
OpenAIとAnthropicを調査するFTC
今回の調査は、自律的に動作し、外部システムにアクセスし、有害または無許可の行為を実行しかねないAI製品に対する、米国の監視が大きく強まったことを示しています。
NYPostの報道によると、FTCは民事調査要請（CID）の発出を準備しています。CIDは召喚状に似た正式な情報収集要請で、文書の提出を求めるほか、企業幹部に証言を強制する可能性もあります。
FTCが集めようとしている証拠は、製品の安全対策、既知のリスク、消費者への開示内容、社内テスト、インシデント対応手順などです。モデルの能力や安全管理に関する公的な発言が正確だったかどうかも対象になります。
FTCのアンドリュー・ファーガソン委員長は、この問題を機械の自律性ではなく、責任の所在の問題だと位置づけています。ファーガソン氏はReuters Momentum AIのイベントで講演し、AIエージェントが「独自の意志や欲求」を持つ独立した主体だという見方を退けました。
同氏は、AIシステムが指示に従った結果として被害を生じさせた場合、その責任は設計者、指示を出した者、展開した組織にあると主張しました。
さらにファーガソン氏は、AIシステムが機密情報を漏えいさせたり不正に利用したりした場合には、未公表のデータ侵害に対するFTCの既存の権限が適用される可能性があるとも示唆しました。
インシデント対応計画
今回の調査の背景には、エージェント型モデルへの懸念の高まりがあります。こうしたモデルは、インターネットを閲覧し、ツールを使い、クラウドサービスと連携し、複雑なタスクをこなすことができます。
サイバーセキュリティの観点では、こうした能力によって、プロンプトインジェクション、認証情報の窃取、不正なデータアクセス、エクスプロイトの開発、フィッシングの自動化、破壊的な操作、相互接続された企業サービスを経由した横展開（ラテラルムーブメント）のリスクが高まります。
十分な隔離、ログ記録、承認ゲート、最小権限の制御がないまま広範な権限を与えられたAIモデルは、欠陥のある指示や悪意あるプロンプト、侵害されたツール連携を、消費者に影響する重大なセキュリティインシデントへと発展させかねません。
報道によると、FTCはとりわけ、AIが「暴走」したとされる事例と、予見可能なリスクについて企業が利用者に十分な警告をしていたかどうかに注目しています。安全性、プライバシー、信頼性、安全対策の有効性をめぐる誤解を招く主張も、調査の対象になる可能性があります。
この方針の下では、大規模なインシデントが起きた後だけでなく、マーケティングがモデルの保護機能を著しく誇張している場合にも、企業は精査を受けかねません。社内テストで重大な障害モードが判明している場合は、なおさらです。
今回の調査は、FTCがAI企業に対し、チャットボット製品が子どもや若年層に与える影響（精神面への悪影響の可能性を含む）に関する記録の提出を求めたことに続くものです。
先の調査と今回の安全性調査を合わせると、規制当局がAIのリスクを、サイバーセキュリティ、プライバシー、消費者への欺瞞、脆弱な利用者の保護、データガバナンスの各面から評価していることがうかがえます。
OpenAI、Anthropic、その他の主要モデル提供企業にとって、この案件は重要な執行上の先例になる可能性があります。AI特有の法整備を待たずに、既存の消費者保護法をAIエージェントの新たな不具合に適用できるかどうかが、判断されるかもしれません。
FTCは違法行為を主張しておらず、調査はあくまで調査段階にあります。ただ、結果次第では、検証可能な安全性テスト、インシデント報告、独立した監査、透明性のあるリスク開示、単純なチャット画面を超えて機能するモデルへの一段と強力な統制に対する期待が、高まる可能性があります。
SOCのアラート調査を1件あたり21分短縮。即座にIOCのコンテキストを得て、迅速な対応を実現： SOCにTI Lookupを導入する
翻訳元: https://gbhackers.com/ftc-investigates-openai-and-anthropic/
