ワーナー議員法案、安全・信頼性の高いAIエージェント向け連邦審査済みリストの創設を提案

新たな上院法案草案が提出され、ソーシャルメディアなどのオンラインプラットフォーム上で人間の所有権を確立し、エージェントを安全に動作させるために利用できるAIエージェントソフトウェアプロバイダーのリストを創設することが提案されています。

マーク・ワーナー上院議員（民主党、バージニア州）が主導する「人工知能アクセス・ゲートキーパー交換・無差別移転法（AI AGENT法）」は、月間5,000万人以上の顧客または購読者を擁する大規模オンラインプラットフォームの利用者に対し、連邦取引委員会（FTC）が策定したセキュリティおよびアイデンティティ基準に準拠するAIエージェントプロバイダーを少なくとも1社選択する権利を付与するものです。

こうしたエージェントは、ショッピングやソーシャルメディアへの投稿、アカウント設定の変更など、ユーザーに代わって意思決定を行うケースが増えており、時にはユーザーの同意や知識がないまま行動することもあります。

同法案のもと、FTCは独立機関を認定し、AIエージェントベンダーの審査を委託します。これらの認定機関は、製品がプライバシー、データセキュリティ、およびユーザーの利益に沿った行動に関する基本的な保護基準を満たしているかを確認します。また、プロバイダーに対して各AIエージェントをその人間のオペレーターの身元と紐付けることや、ユーザーがエージェントへの代理行為の許可を明確に付与または取り消せる組み込みコントロールの実装を義務付けます。

FTCはこれらの基準を満たさないAIエージェントプロバイダーのプラットフォームへの利用を禁止することはできませんが、違反者をFTCリストから除名することは可能です。

同法案は議論草案の段階であり、ワーナー議員は上院での正式審議に向けた本法案提出前にフィードバックを得る目的で、この時点での公開を決定したと述べています。

「エージェント型AIがアメリカ人のテクノロジーとの関わり方を変革するなか、消費者は市場において真の選択権を持つべきであり、AIエージェントはそのサービス対象である人々に対して責任を負わなければなりません」とワーナー議員は声明で述べました。「この議論草案は、イノベーションを促進し、消費者を保護し、米国が新興技術において世界をリードし続けることを確保する、明確な連邦フレームワーク構築に向けた重要な一歩です。」

昨年、モルガン・スタンレーは、30日間の期間中にAIを利用して購入を行ったアメリカ人がほぼ4人に1人（23%）に達しており、エージェント型ショッパーが2030年までにオンラインコマースで数千億ドル規模を占める可能性があると試算しました。

しかし、AIエージェントは依然として信頼性に欠けたり、予測不能な行動を取ったりすることがあります。ユーザーが意図的には決して承認しないような不合理な購入をしたり、機密データを漏洩させたり、ユーザーの利益に反する行動を取ったりする可能性があります。

インターネット上にエージェントが急増するにつれ、AIボット同士が相互にやり取りし、売買を行う可能性が高まっています。これは、AIの活動背後にある責任ある人間のアイデンティティを確認し、基本的なセキュリティおよびプライバシー保護を提供できる、安全で規制されたユーザーソリューションの必要性を改めて浮き彫りにしています。

トランプ政権は、フロンティアモデルの規制に向けた独自の基準策定を模索しています。今月初め、商務省はAnthropicのMythos 5およびFable 5モデルに対して輸出規制を課しており、両者は新たなリリースに対する政府の監督体制を定めるフレームワークの交渉を進めています。

トランプ政権が発令したAI大統領令は、AI企業が特定のフロンティアモデルをテストおよび評価のために提出する任意の30日間テストプログラムを設けましたが、政権はAnthropicがFable 5を公開した数日後に輸出規制を発動しました。報道によれば、モデルがジェイルブレイクされる恐れがあるとの懸念が理由として挙げられています。

Anthropicは、大規模な内部テストではFable 5に対する汎用的なジェイルブレイクは発見されておらず、これまでに公開されたサードパーティの研究においても、モデルの強化されたサイバーセキュリティ能力または生物学的能力へのアクセスを防ぐガードレールが回避されたとは示されていないと主張しています。これらの能力こそ、Anthropicが最新モデルであるMythosの一般公開を見送った際に挙げた理由です。