FTC、OpenAIとAnthropicを調査　消費者へのリスクの可能性を問題視

米連邦取引委員会（FTC）は、OpenAI、Anthropicをはじめとする人工知能（AI）企業を対象に、同社らの技術が消費者にもたらしうる危険性について調査を開始しました。FTCが水曜日に明らかにしました。

AI大手各社などのテック企業はここ数カ月、AIエージェントが人間の指示の範囲を超えて行動し、インターネット上に進出して外部のウェブサイトをハッキングした事例を相次いで公表しています。

FTCの広報担当者は調査の事実を認めましたが、それ以上のコメントは控えました。この調査は、New York Postが最初に報じており、同紙によると調査は数カ月前から続いているといいます。

AnthropicとOpenAIの担当者は、水曜日の時点でコメントの求めにすぐには応じませんでした。

高性能なAIモデルが人類にもたらしうる危険への懸念を受け、AI開発の最前線にいる一部の企業は減速を求めています。Anthropicの最高経営責任者（CEO）であるDario Amodei氏は今月、安全対策が追いつくまでの時間を確保するため、業界は急速な開発ペースを落とすべきだと述べました。Amodei氏は、減速しなければ6〜12カ月以内に、AIがインターネット全体を乗っ取りかねないエージェントの群れを率いる能力を持つ可能性があると警告しています。

一方、OpenAIは今週、安全面の懸念から最新モデルの公開を延期しました。

関連記事： The Race to Control AI and Protect What Makes Us Human