ラスベガス発 ── 米政府はフロンティアAI企業各社の安全性に関する意思決定を注視しており、行き過ぎと判断すれば介入する用意があると、政権高官が木曜日に述べました。
「AIラボが目指しているであろう、驚異的なスピードでのイノベーションによって繁栄を拡大させつつ、同時に致命的なリスクを生み出さないという目標は、両立できないものではありません」。国土安全保障省(DHS)でサイバー・インフラ・リスク・レジリエンス政策担当次官補を務めるジョセフ・アルム氏は、ここBlack Hat USAサイバーセキュリティ会議のパネルディスカッションでこう語りました。「そして我々は、その状態に近づきつつあります」
アルム氏によると、これまで「AI業界の関係者たちは、(モデルの)知能を最適化することだけに注力する狭い視野で動いていました」が、現在では政策担当者が「ただ黙って『ターミネーター工場』を作らせてはくれない」ことを理解するようになったといいます。
Cybersecurity Diveが、フロンティアラボがそうした危険な技術を生み出すのを政府がどう防ぐのかと尋ねたところ、アルム氏は明言を避けました。「どのような手段があるのかを、ここで詳しく説明するつもりはありません」と同氏。「そうした手段が何かは把握していますし、その数も少なくありません」
過去の失敗から学んだ教訓
アルム氏の発言は、サイバーセキュリティ業界がOpenAIとAnthropicによる最近の情報開示――両社のモデルがテスト環境を逃れて他社をハッキングしたという内容――を消化しきれずにいる中で出たものです。OpenAIのインシデントは、水曜日に同社エンジニア2名が行ったプレゼンテーションを受けてBlack Hatの話題をさらいました。このプレゼンでは、自社モデルの自律的な挙動に関する驚くべき新事実が明らかにされました。
OpenAIのエンジニアたちは、今回のハッキング事案の再発を防ぐため、同社がテストのペースを落とし、新たなガードレールを設けていると述べました。この発言は、OpenAIとAnthropicの両社がそれぞれのインシデントを発表した際に用いた、新たに慎重さを増した言葉遣いと軌を一にするものでした。
DHSのアルム氏は、両社が今は慎重に事を進めていると自ら進んで表明したことは良い兆候だと述べました。
「各企業はリスクに対してより意図的な姿勢を取るようになっています」とアルム氏。「そして、私の側の最高幹部レベルとの関わりについても、より意図的になってきています」
一方、政府高官たちはAI企業の経営陣との関わりにおいて「積極的な姿勢」を取り、政府と業界が「この分野で緊密に連携し、大きな認識のズレが生じないように」努めてきたと、アルム氏は述べました。
イノベーションとセキュリティの両立
トランプ政権は当初、AIの安全性に対して不干渉的な姿勢を取っていましたが、4月にAnthropicがMythosをリリースした後、政府はより介入主義的なアプローチへと転換しました。これは、フロンティアラボ各社が先端モデルを十分に抑制できていないのではないかという当局者の懸念を反映したものでした。その後発生した自律型ハッキング事案は、無制限のイノベーションを重視するホワイトハウスの姿勢に対するセキュリティ面の懸念を一層浮き彫りにしました。
アルム氏によれば、最近の一連のインシデントを経てもなお、この方針に変わりはないといいます。
「AIには重大なリスクが伴います。ですが同時に、政権は官僚たちにこの分野のルールを定めさせないことに、非常に意図的なこだわりを持っています」と同氏。「物事がどこへ向かうのかを官僚たちに見極めさせるようなことは望んでいません。率直に言って、世界で最も優れた頭脳を持つ人々でさえ、物事の行方を本当には分かっていないのですから」
さらに同氏は、シリコンバレー流の「まず動いて、後で直す」というモデル――企業が「山のような規制を無視して、クールなものを作り上げる」というやり方――は「実際のところ、おおむねうまく機能してきた」と付け加えました。
政府首脳陣とAI企業経営陣との対話が頻度を増していることは、規制よりも安全保障上の危機を防ぐ上で効果的だと、アルム氏は主張しました。
「彼らは今、これが対話であり、我々がその対話における良きパートナーであることを理解しています」と同氏。「我々は彼らの歩みを遅らせようとしているわけではありません。ただ、繰り返しになりますが、(誰も)『ターミネーター工場』は望んでいないのです」
