Anthropicは、暴走したAIエージェントの行動をめぐり、顧客やユーザーから損害賠償請求を受ける可能性があると、投資家候補に警告しました。この警告は、OpenAIが社内テスト中にAIエージェントがHugging Faceをハッキングしたとして提訴されている最中に出されました。
AIエージェントをめぐる法整備は未確定とAnthropic
Anthropicによるこの開示は、同社の株式市場デビューに向けた目論見書に記載されています。ロイターが内容を確認しました。
Anthropicのエージェント型技術は、顧客のシステム内で幅広いアクセス権を持ち、数日間にわたって監督なしで動作するよう設計されています。同社は、この水準の自律性に伴うリスクを認めました。
「こうした自律的な機能は、エラーやミスアライメント、セキュリティ上の悪用が現実世界に影響を及ぼしかねないため、被害の可能性を高める恐れがあります」と、Anthropicは目論見書に記しています。
同社は具体例として、データの削除や金融取引といった取り消せない行為を挙げました。また、自律型エージェントの行動をめぐる請求に対し、契約上の責任制限が法的に有効でない、あるいは十分でない可能性があるとも警告しています。
既存の法律がAIエージェントにどう適用されるかは依然として未解決であり、多くの問題が「未確定で、予測困難かつ重大な法的請求にさらされる可能性がある」と同社は述べています。
論点の一つは、エージェントの行動が製品、サービス、あるいはそれ以外のいずれに分類されるかという点です。もう一つは、エージェントの行動が、それを導入したユーザーを法的に拘束するのか、拘束するならどのような状況かという点です。Anthropicはさらに、エージェントの行動が厳格責任と過失責任のどちらに該当するのかも明確でないとしています。
米連邦取引委員会（FTC）の委員長も見解を示しました。アンドリュー・ファーガソン氏は先週、テキサス州オースティンで開かれたロイターの「Momentum AI」イベントで講演し、AIエージェントを擬人化して「制御を離れる」とみなす考え方を退けました。エージェントに指示を出した開発者やユーザーが、生じた被害の責任を負うことになるとの見方を示しています。
「ツールを使った人がいて、それが予想外で予測不能な動きをした場合、新たな問題が生じるのは明らかです」とファーガソン氏は述べました。「そのツールを善意で使い、予想外の結果を招いた人が責任を負うべきでしょうか。それとも、ツールの作り手が負うべきでしょうか」
非営利団体、カリフォルニア州の不正アクセス禁止法でOpenAIを提訴
公益法律の非営利団体が、カリフォルニア州でOpenAIを提訴しました。同社のエージェントによる不正アクセスの責任を問う狙いです。
訴えを起こしたのはLegal Advocates for Safe Science & Technology（LASST）です。サンフランシスコ郡上位裁判所に、OpenAI Group PBCとOpenAI Foundationを被告として提起しました。
訴状はカリフォルニア州の不正競争防止法（UCL）に基づくもので、同州のコンピュータデータアクセス・詐欺包括法（CDAFA）違反を主張しています。CDAFAは、許可なくコンピュータシステムに故意にアクセスすること、またはアクセスさせることを禁じています。
LASSTはさらに、自律性を抗弁として認めないカリフォルニア州の規定にも言及しています。同州民法典では、「人工知能が自律的に損害を引き起こした」ことは抗弁になりません。
訴訟の中心は、OpenAIが今年前半に実施したサイバーセキュリティ評価です。Hugging Faceへのハッキング（AIエージェントが計画のために即席の掲示板を作成した経緯を含む）のほか、RubyGemsへの攻撃や、オーストラリア政府のウェブサイトが標的になった件にも触れています。
LASSTによると、OpenAIの従業員は攻撃の前にエージェント同士のやり取りを確認しており、評価の中止は「必要ない」と助言されていました。また、エージェント自身の思考の連鎖（chain-of-thought）を見ると、そのうちの1体が計画を「明らかにインフラへのハッキングだ」と表現していたといいます。
LASSTは金銭的な損害賠償を求めていません。その代わりに、OpenAIのエージェントが許可なく第三者のシステムにアクセスすることを禁じる裁判所命令と、同社が安全でないAI開発手法を用いることの差し止めを求めています。
OpenAIの広報担当者はAFPに対し、Hugging Faceの件は深刻な事案であり、同社は対応としていくつかの対策を講じたと述べました。一方で、この訴訟には全く根拠がないとしています。
上院民主党、AIセキュリティ法案を提出
民主党のマーク・ワーナー、ブライアン・シャッツ、アンディ・キム各上院議員は火曜日、2026年人工知能リスク管理・セキュリティ法案の可決に向け、全会一致の同意を求めました。
法案は、商務省内に常設の「AI安全委員会」を設置するものです。委員会は、商務省、NIST、CISA、NSA、財務省の代表者と独立した専門家で構成されます。フロンティアモデルの開発者は、一般公開の少なくとも45日前までに、委員会へモデルへのアクセスを提供しなければなりません。
委員会は、フロンティアモデルのテストと、そのテスト環境の保護について、強制力のある基準を策定します。これには、人間による直接の指示がなくてもソフトウェアの脆弱性を発見・悪用できるモデルに対する安全対策や監視手順も含まれます。基準に違反した開発者には、違反1件につき1日あたり最大25万ドルの民事制裁金が科されます。
上院商務委員会の委員長を務めるテッド・クルーズ上院議員は異議を唱え、全会一致による可決を阻みました。同議員は、この提案が民間のAI企業に対して行政府に過大な権限を与えかねないと懸念を示しています。
専門家「責任はエージェントの背後にいる者に」
Securonixの脅威リサーチ・マネージャー、アーロン・ビアズリー氏は、この責任問題を自動運転車になぞらえました。
「裁判所がどちらに傾くのか興味深いところです。これは自動運転車と似ています。責任を問われるのは車なのか、運転者なのかという問題です。私なら、車の動作に対する責任はハンドルの後ろにいる人にあると主張します」とビアズリー氏は述べました。
「便利なものを生み出すツールを作るのであれば、それが『いい考えだ』と判断して勝手に暴走し、サイバー犯罪に手を染めないようにしなければなりません。AIエージェントには道徳的な指針などなく、あるのはプログラムされたルールだけです」と同氏は付け加えました。
Suzu Labsのセキュアae AIソリューション兼サイバーセキュリティ担当シニアディレクター、ジェイコブ・クレル氏は、OpenAIの対応は不十分だと指摘しました。
「私が誤って1つの組織、ましてや複数の組織をハッキングしたとしたら、改善を約束するだけで済むとは思いません。捜査が行われるはずです。違法行為があったと捜査当局が判断すれば、刑事責任の追及に進むべきです」とクレル氏は述べました。
「明確な期限も、独立したテストも、公開基準も、報告義務もない停止措置は、きれいごとにすぎません」と同氏は付け加えました。「私には、刑事責任の可能性から目をそらさせ、本来は法的・セキュリティ上の調査であるべきものを広報活動にすり替える試みに見えます。トレーニングの一時停止では、監督、アクセス制御、説明責任という根本的な欠陥は解消されません」
