フロンティア人工知能(AI)モデルの能力が高まり、予測不能さも増す中、3つの州が新たな開示法によってその手綱を締めようと動き出しています。
イリノイ州知事のJB・プリツカー氏は先ごろ、上院法案315号(SB315)、通称「人工知能安全対策法」に署名しました。年間収益5億ドルを超えるフロンティアAIモデルに対する報告義務を強化する狙いがあります。ニューヨーク州とカリフォルニア州も最近、同様の開示法を制定しました。
SB315は2027年1月に施行される予定で、施行後は大手フロンティア開発企業に対し、「壊滅的リスクの評価、緩和策、ガバナンス、サイバーセキュリティ、第三者による評価、内部利用リスクを網羅する包括的なAIフレームワークを策定・実装し、毎年更新すること」が義務付けられます。また、新しいモデルや大幅に改変したモデルを展開する前には、透明性報告書の提出も求められます。
ニューヨーク州では、昨年12月に署名されたRAISE法(責任あるAI安全教育法)が、同じく2027年1月1日に施行されます。RAISE法は州の金融サービス局内に監督機関を新設し、大手フロンティア開発企業を評価し透明性を確保できるようにするものです。
この法律への署名にあたり、ニューヨーク州のキャシー・ホークル知事は、連邦政府が果たせずにいるAI安全性の全米的な基準づくりに向けて、この法律はカリフォルニア州の枠組みを土台にしたものだと述べました。カリフォルニア州のギャビン・ニューサム知事は昨年9月、フロンティア人工知能法(TFAIA)に署名し、フロンティアAIモデルの開発に関するガードレールを設けています。
AIは3年前にChatGPTのような生成AIモデルの登場を皮切りに、急速な発展を遂げてきました。しかし、その能力はレストランのおすすめを教えるチャットボットから、Mythosのような高度なモデル――ゼロデイ脆弱性を自律的に発見・悪用できるもの――へと、瞬く間に拡大しました。
AI開示法が次々と生まれている背景には、これまでフロンティアモデルを規制する法律が存在しなかったことがある、とCywareの最高製品責任者サチン・ジェイド氏は説明します。こうしたモデルが世に広まったことでリスクが顕在化し、人々は「大きすぎて潰せない」存在などではなかったのだと気づいたのだ、と同氏は語ります。
重要インフラ組織――米国政府を含む――は、こうしたモデルを自組織の環境でますます活用するようになっています。モデルは開発企業や各企業が学習に使う、より価値の高い情報へのアクセスを続けており、その過程で人間の関与は薄れつつあります。ある報告書では最近、初のAI実行型ランサムウェア攻撃が取り上げられました。
「これは始まりに過ぎない」
各州や規制当局は、フロンティアAI組織内の従業員が安全上の懸念を報告できる体制を確保したいと考えている、とジェイド氏は付け加え、リスクが重要インフラに影響を及ぼしかねない点を強調します。
イリノイ州、カリフォルニア州、ニューヨーク州は中核的な要件こそ似通っているものの、第三者監査や開示までの期限といった細部は州ごとに異なり、結果としてパッチワーク状のコンプライアンス対応を生み出すことになります。トランプ大統領による最新の大統領令はフロンティアAIのセキュリティを取り上げ、民間セクター向けの任意の枠組みを盛り込みましたが、ホワイトハウスは正式な規制はまだ何も発表していません。
イリノイ州とニューヨーク州では、フロンティアAI開発企業は重大な安全性インシデントを発見してから72時間以内に当局と司法長官に報告することが認められていますが、カリフォルニア州では15日間の猶予があります。イリノイ州の法律によれば、「インシデントが死亡や重篤な身体的傷害の差し迫ったリスクをもたらす場合」には、この猶予は24時間に短縮されます。
コンプライアンス対応が州ごとに異なるということは、開発企業をはじめ法的にこれらの法律の遵守を義務付けられている全ての事業者にとって、コストの増大を意味します。それぞれ異なるコンプライアンス報告書を作成しなければならなくなるためです。
「現時点では標準化はされていませんが、私に言わせればこれは必要とされていた始まりの一歩です」と、ジェイド氏はDark Readingに語ります。
規制の取り組みが広がる一方で、多くの疑問が残されています。ジェイド氏が気にかけている、まだ詰め切れていない論点の一つが、下流に位置する人々――つまりこれらのモデルの実際の利用者――がどうなるのかという点です。これらの法律は年間収益5億ドルを超えるフロンティアAI開発企業に適用されますが、ジェイド氏は複数のグレーゾーンを指摘します。
例えば、一部のモデルはオープンソースであり、利用者がボットやエージェントを開発できるよう設計されています。では、誰かがフロンティアモデルをベースに自分自身のモデルを改変した場合、どうなるのでしょうか。
「もし私がこのモデルを自社のエコシステムや業務フローに組み込んでしまっていたら、私はどうすればいいのでしょうか?」と同氏は問いかけます。「法律はまだその点に答えていません」
再び基本に立ち返る
これらの法律はまだ非常に新しいものであるため、利用者はセキュリティの本質的な基本に立ち返るべきだ、とジェイド氏は助言します。具体的には、シャドーAIのリスクを減らすための強固な可視性の維持、定期的な監査の実施、アプリケーションマッピング、そしてアクセスレベルを把握しコンプライアンスを果たすためのID・アクセス管理(IAM)統制の導入などです。
一つの課題は、人々がツールさえあればセキュリティは解決すると考えがちなことですが、実際にはセキュリティとは極めてマインドセットの問題であり、企業文化の問題でもある、と同氏は付け加えます。
企業は自社のAIリスクモデルがどのようなものか、どのモデルを使用しているか、そして誰がそれらを使用しているかを検討すべきです。給与計算や人事システムに関して言えば、ベンダーが使用しているという理由だけで、企業は知らぬ間に6種類もの異なるフロンティアモデルを使っている可能性がある、と同氏は警鐘を鳴らします。
解決や修正までの期限は州によって異なるものの、AI開示法はいずれもインシデント発生後直ちに調査を行うよう開発企業に義務付けています。つまり、可視性の確保が不可欠だということです。
「ベンダーを導入する際には必ず、そのエージェントの監査証跡やガードレールが備わっているか、そしてそのエージェントが何をすべきものなのかを把握できているか、確認すべきです」とジェイド氏は述べます。「リスクレジストリを構築し、セキュリティの基本中の基本をきちんと実行することです」
