カリフォルニア州知事ギャビン・ニューサム、AI安全対策法案に署名

カリフォルニア州知事ギャビン・ニューサムは月曜日、強力な人工知能モデルが生物兵器の製造や銀行システムの停止といった壊滅的な活動に使われるのを防ぐことを目的とした法律に署名しました。

この動きは、ニューサム知事がカリフォルニア州をAI規制のリーダーとしてアピールし、最近のビル・クリントン元大統領との会話で連邦レベルでの無策を批判したことを受けたものです。新しい法律は、州内産業に悪影響を与えることなく、大規模AIモデルに対する全米初の規制の一部を確立するものだとニューサム知事は述べました。世界有数のAI企業の多くがカリフォルニア州に拠点を置いており、これらの要件を遵守する必要があります。

「カリフォルニア州は、コミュニティを守るための規制を確立しつつ、成長するAI産業が引き続き発展できることを証明してきました。この法律はそのバランスを実現しています」とニューサム知事は声明で述べました。

この法律は、AI企業に対し、最先端モデルが重大な被害をもたらす目的で使用されるのを防ぐための安全プロトコルを実施し、その内容を公表することを義務付けています。これらの規則は、「フロンティア」基準に該当する、膨大な計算能力を要するAIシステムを対象としています。

この基準は、コンピューターが実行する計算量に基づいています。規制を策定した関係者は、数値基準が、現行の最高性能の生成AIシステムと、将来的にさらに強力になる次世代システムを区別するための不完全な出発点であることを認めています。既存のシステムは主にAnthropic、Google、Meta Platforms、OpenAIといったカリフォルニア州の企業によって開発されています。

この法律では、壊滅的リスクを、少なくとも10億ドルの損害、または50人以上の負傷・死亡を引き起こすものと定義しています。これは、AIが電力網へのハッキングなど、大規模な混乱を引き起こす活動に使われるのを防ぐためのものです。

また、企業は重大な安全インシデントが発生した場合、15日以内に州へ報告する義務があります。この法律はAI労働者の内部告発者保護を設け、研究者向けのパブリッククラウドも設立します。違反1件につき100万ドルの罰金も含まれています。

この法律には、一部のテック企業から反対の声も上がりました。彼らは、AIに関する法律は連邦レベルで制定すべきだと主張しました。しかしAnthropicは、この規制は「実用的な安全策」であり、多くの企業がすでに自主的に行っている安全対策を公式化するものだと述べました。

「州ごとの規制の乱立を避けるためには連邦基準が不可欠ですが、カリフォルニア州は公共の安全とイノベーションの継続を両立させる強力な枠組みを作り上げました」と、Anthropic共同創設者で政策責任者のジャック・クラーク氏は声明で述べました。

今回の署名は、ニューサム知事が昨年、より広範な法案を拒否し、要件が厳しすぎてイノベーションを妨げると主張したテック企業側に立ったことを受けたものです。ニューサム知事は代わりに、AIの先駆者であるフェイフェイ・リー氏を含む複数の業界専門家に、強力なAIモデルに対するガードレールに関する提言を求めました。

新法は、ニューサム知事のAI専門家グループや業界からの提案やフィードバックを取り入れていると、支持者は述べています。また、スタートアップ企業に対しては同じレベルの報告義務を課さず、イノベーションを妨げないよう配慮していると、法案提出者であるサンフランシスコ選出の州上院議員スコット・ウィーナー氏は述べました。

「この法律によって、カリフォルニア州は再び、技術革新と安全性の両面で世界のリーダーとしての役割を果たします」とウィーナー氏は声明で述べました。

ニューサム知事の決断は、ドナルド・トランプ大統領が7月に、自身の政権が「過度な」規制を撤廃し、AIイノベーションを加速させ、米国のAI分野での世界的リーダーの地位を確固たるものにする計画を発表したことを受けたものです。今年初め、連邦議会の共和党は、州や地方自治体によるAI規制を10年間禁止しようとしましたが、失敗に終わりました。

より強力な連邦規制がない中、全米の各州はここ数年、選挙におけるディープフェイクからAIによる「セラピー」まで、さまざまな技術の抑制に取り組んできました。カリフォルニア州議会も今年、子ども向けAIチャットボットや職場でのAI利用に関する安全対策を盛り込んだ複数の法案を可決しました。

カリフォルニア州はまた、AI技術の早期導入者でもあります。州は、山火事の発見や高速道路の渋滞・安全対策など、さまざまな分野で生成AIツールを活用しています。