フロンティアAI:魔神は瓶から出た、しかしルールブックはどこに?

フロンティア人工知能(AI)モデルの能力が高まり、予測不能性も増す中、3つの州が新たな情報開示法によってその抑制に乗り出しています。

イリノイ州のJBプリツカー知事は最近、上院法案315号(SB315)、通称「人工知能安全対策法」に署名しました。これは、年間収益が5億ドルを超えるフロンティアAIモデルに対する報告義務を強化する狙いがあります。ニューヨーク州とカリフォルニア州も最近、同様の情報開示法を制定しています。

SB315が2027年1月に施行されると、大手フロンティア開発企業は「壊滅的リスクの評価、緩和策、ガバナンス、サイバーセキュリティ、第三者評価、社内利用リスクを網羅する包括的なAIフレームワークを策定し、実装し、毎年更新すること」が義務付けられます。また、新規または大幅に改変されたモデルを展開する前に、透明性報告書を提出することも求められます。

ニューヨーク州では、昨年12月に署名されたRAISE法(責任あるAI安全教育法)も、同じく2027年1月1日に施行されます。RAISE法は、州の金融サービス局内に監督機関を新設し、大手フロンティア開発企業を評価するとともに透明性の確保を図ります。

同法に署名した際、ニューヨーク州のキャシー・ホークル知事は、連邦政府が果たせずにいるAI安全性の全国的な基準づくりを後押しするため、この法律はカリフォルニア州の枠組みを土台にしていると述べました。カリフォルニア州のギャビン・ニューサム知事は、昨年9月にフロンティア人工知能法(TFAIA)に署名し、フロンティア人工知能モデルの開発に関するガードレールを設けました。

3年前にChatGPTのような生成AIモデルが登場して以来、AIは急速な発展を遂げてきました。しかし、その能力はレストランのおすすめを教えてくれるチャットボットから、ゼロデイ脆弱性を自律的に特定し悪用できるMythosのような高度なモデルへと、瞬く間に拡大しました。

Cywareの最高製品責任者であるサチン・ジェイド氏は、フロンティアモデルに対する規制がこれまで存在しなかったことが、AI情報開示法が次々と生まれている理由だと説明します。こうしたモデルが普及するにつれてリスクが顕在化し、人々はこれらのモデルが決して「大きすぎて潰せない」存在ではなかったことに気づいたのだと同氏は語ります。

重要インフラ組織は、米国政府を含め、こうしたモデルを自らの環境でますます活用するようになっています。モデルは開発企業や企業が学習に用いる、より高価値な情報にアクセスし続ける一方で、人間の関与は薄れつつあります。ある報告書は最近、AIが実行した初のランサムウェア攻撃について言及しました。

「これは始まりに過ぎない」

各州や規制当局は、フロンティアAI組織内の従業員が安全性への懸念を報告できる体制を確保したいと考えているとジェイド氏は付け加え、そうしたリスクが重要インフラに影響を及ぼしかねない点を強調します。

イリノイ州、カリフォルニア州、ニューヨーク州は中核となる要件こそ似ているものの、第三者監査や情報開示の期限といった細部は州ごとに異なっており、これがコンプライアンス対応の複雑化を招くことになります。トランプ大統領の最新の大統領令はフロンティアAIのセキュリティに言及し、民間企業向けの任意フレームワークを盛り込みましたが、ホワイトハウスはこれまでのところ正式な規制を発表していません。

イリノイ州とニューヨーク州では、フロンティアAI開発企業は重大な安全性インシデントを発見してから72時間以内に当局および司法長官に報告することが認められていますが、カリフォルニア州では15日間の猶予が設けられています。イリノイ州の法律によれば、「インシデントが死亡または重傷の切迫した危険をもたらす」場合には、この猶予期間は24時間まで短縮されます。

対応措置が州ごとに異なるということは、開発企業、あるいは法的にこれらの法律への準拠を求められるすべての事業者にとって、コストの増大を意味します。それぞれ異なるコンプライアンス報告書を作成しなければならなくなるためです。

「現時点では標準化はされていませんが、私の見解では、これは必要とされていた始まりだと思います」とジェイド氏はDark Readingに語ります。

規制の取り組みが広がる一方で、多くの疑問が残されています。ジェイド氏が気にかけている、まだ詰め切れていない論点の一つは、下流にいる人々、つまりこれらのモデルの実際の利用者はどうなるのかという点です。これらの法律は年間収益5億ドルを超えるフロンティアAI開発企業に適用されますが、ジェイド氏は複数のグレーゾーンを指摘します。

例えば、一部のモデルはオープンソースであり、利用者がボットやエージェントを開発できるよう設計されています。では、誰かがフロンティアモデルをベースに自分のモデルを改変した場合はどうなるのでしょうか。

「もし私がこのモデルを自社のエコシステムやワークフローに組み込んでしまっていたら、私はどうすればいいのか?」と同氏は問いかけます。「法律はまだそこには対応していません」。

再び基本に立ち返る

こうした法律はまだ非常に新しいものであるため、利用者はセキュリティの本質的な基本、すなわちシャドーAIのリスクを減らすための強固な可視性の維持、定期的な監査の実施、アプリケーションのマッピング、そしてアクセスレベルを把握するためのID・アクセス管理制御の導入といった取り組みに立ち返り、コンプライアンス対応を図るべきだとジェイド氏は助言します。

一つの課題は、人々がツールさえあればセキュリティが解決すると考えがちなことですが、セキュリティとはまさにマインドセットであり、文化そのものだと同氏は付け加えます。

企業は、自社のAIリスクモデルがどのようなものか、どのモデルを使っているのか、そして誰がそれらを使用しているのかを検討すべきです。給与計算や人事システムに関して言えば、ベンダーが使用しているという理由だけで、企業が6種類もの異なるフロンティアモデルを使っている可能性もあると同氏は警鐘を鳴らします。

解決や修正までの時間は州によって異なりますが、AI情報開示法はいずれも、インシデント発生時には直ちに調査を行うことを開発企業に義務付けています。つまり、可視性の確保が不可欠だということです。

「ベンダーを導入する際には必ず、監査証跡やそのエージェントのガードレールがあるか、そしてそれが何をするものなのかを把握しているか、を確認すべきです」とジェイド氏は述べます。「リスク登録簿を作成し、セキュリティの基本中の基本を実践してください」。