オーストラリアが、強力なAIシステムに対する監督の強化に動き出しました。OpenAIの実験的モデルが、アクセス権限のない政府のリソースにアクセスしたことを受けた措置です。
アンソニー・アルバニージー首相は11月10日、このインシデントの検証で示された18項目の勧告を政府として受け入れると発表しました。勧告には、セキュリティ要件の強化や、重大なAIインシデントの報告義務化といった提案が含まれます。
今回の動きの背景には、6月のインシデントに対するOpenAIの対応への批判があります。特に、不審な動きを把握してから、影響を受けたオーストラリアの政府機関に通知するまでに時間がかかった点が問題視されています。
提案された改革は、より大きな問いを投げかけています。AIシステムが本来与えられた権限を超えて行動した場合、誰が責任を負うのかという問いです。
背景
今年はまだ終わっていませんが、今年のAI関連の大きなニュースの多くは、AIモデルの暴走に関するものでした。OpenAIのモデルも、この新たな流れを少々真に受けすぎたようです。
複数あるインシデントの一つが6月に発生し、オーストラリアにも及びました。OpenAIの実験的モデルが、アクセス権限のないリソースにアクセスしたのです。
ただし、問題は不正アクセスだけではありませんでした。The Guardianによると、OpenAIは8月にこの動きを把握していたものの、影響を受けたオーストラリアの政府機関への通知を始めたのは9月中旬でした。
この遅れに対し、政府は批判を強めました。特に、自社のモデルと政府のインフラが関わるインシデントの開示に、なぜ数週間もかかったのかが問われました。
OpenAIはその後、対応に改善の余地があったことを認め、今後の改善策を示しました。
より厳格なAIのセキュリティ・報告要件を支持するオーストラリア
オーストラリアの対応は、OpenAIへの批判にとどまりません。政府はインシデントの検証で示された18項目の勧告を受け入れ、フロンティアAI開発企業に対する監督の強化を進めています。
提案されている措置には、開発企業に次の対応を求める内容が含まれます。セキュリティ対策の維持、重大なリスクの特定と管理、重大なインシデントの報告、そしてモデルに対する第三者による独立した評価への協力です。
政府は、より強力な責任追及の仕組みも検討しています。たとえば、特定の被害を防ぐために合理的な措置を講じなかった開発企業に対し、「防止義務違反」を問う罪を新設する可能性があります。
ただし、これらの提案は、まだ法的拘束力のある義務ではありません。最終的な適用範囲、実施時期、罰則は、政府が今後進める規制や立法の手続きによって決まります。
- セキュリティ対策の維持：モデルの開発から展開までを通じて実施する。
- 重大なリスクの特定と管理：自社モデルに伴うリスクが対象。
- インシデントの速やかな報告：オーストラリア政府に対して行う。
- 独立した評価の受け入れ：自社モデルについて実施する。
- 安全・セキュリティに関する枠組みの公表：ガバナンス、リスク管理、透明性を網羅する。
- 最新の基準への対応：AI技術の変化に応じて更新する。
インシデントの報告義務化は、OpenAIの事例と特に深く関わります。検証では、予期せぬエージェントの挙動を含むAIの安全性に関するインシデントについて、期限を設けた報告を求めるよう勧告しています。これは、OpenAIが不審な動きを把握してからオーストラリア当局に通知するまで数週間待ったという批判に応えるものです。
提案では「防止義務違反」の罪も検討されています。これは、開発企業のモデルが被害を引き起こし、かつ企業がそれを防ぐ合理的な措置を講じなかった場合に、刑事責任を問える可能性があるものです。ただし、これらはさらなる検討を求める勧告であり、現時点で存在する罪ではありません。
The Guardianによると、OpenAIは6月のインシデントについて刑事罰を科されない見通しです。
それでもアルバニージー首相は、6月のインシデントは容認できないとの姿勢を崩していません。首相は「二度と起こさせてはならない」と述べました。一方、トニー・バーク内務大臣は、即時の開示が必要だと強調しました。「こうした事態が起きたときには、報告が行われ、しかも直ちに行われるようにしなければならない」と語っています。
AIを導入する企業にも適用される可能性
AIの行動に対する責任の所在は、これまで曖昧なままでした。今回のオーストラリアの動きは、AIシステムを開発・導入する企業に対する期待値を明確にする一助となる可能性があります。
オーストラリアが世界の政策に先例を示すのは、今回が初めてではありません。同国は、子どものソーシャルメディア利用禁止を世界で初めて導入しました。この措置は、その後、世界各地で同様の規制や提案を生んでいます。
AI規制案も同じ道をたどる可能性があります。各国政府が、AIシステムが本来の目的を超えて行動した場合に誰が責任を負うべきかという問題に直面しているためです。
BreachLockの創業者兼CEOであるシーマント・セーガル氏は、他国の政府もいずれオーストラリアに続くとの見方を示し、次のように述べています。「オーストラリアが18項目の勧告をすべて受け入れ、インシデントの報告義務化に踏み出したのは正しい判断です。他の国の政府も、いずれ同じ結論にたどり着くでしょう」
さらに重要なのは、オーストラリアの新たな方針が、AIモデルを開発する企業だけでなく、それを業務に活用する企業にも及ぶ可能性があることです。
これは責任がもう一段加わることを意味します。エージェントがアクセスすべきでない情報にアクセスしたり、許可されていない操作を実行したりした場合、特にその影響が他の企業に波及したり顧客に及んだりするなら、問題は開発企業が十分な安全対策を講じていたかどうかだけでは終わりません。
そのため企業には、信頼できるAIプロバイダーを選んだことを示すだけでなく、自社の環境内でそのテクノロジーにできることを制御するための合理的な措置を講じたことも、示すことが求められるかもしれません。
AI開発企業と導入企業が押さえるべきポイント
専任のAIセキュリティチームやコンプライアンスチームを置く余力のあるAI開発企業や一般企業ばかりではありません。特に小規模なチームではなおさらです。それでも、基本的な安全対策は講じられます。
AIエージェントを開発する場合も導入する場合も、まず次の対策から始めましょう。
- アクセスの制限：エージェントには、必要な権限とデータだけを与える。
- 人間による承認の必須化：自組織にとっての重要な操作とは何かを定義し、人間によるレビューを義務づける。
- アクティビティの監視：エージェントがアクセスした対象と実行した操作を記録する。
- 導入前のテスト：想定外の指示やアクセス要求を受けたときに、エージェントがどう振る舞うかを確認する。
- インシデントへの備え：誰が対応するのか、アクセス権をどう取り消すのか、影響を受けた関係者にいつ通知するのかをあらかじめ決めておく。
オーストラリアが提案する改革は、AI開発企業に対する圧力が強まっていることを示しています。自社のシステムを安全に展開できること、そして重大なインシデントを速やかに報告することを、示すよう求められているのです。
最終的にどのような要件が法制化されるかは、まだ分かりません。しかし、セキュリティ上の教訓はすでに明確です。組織は、自社のAIエージェントが何にアクセスでき、どのような操作を実行でき、問題が起きたときにどれだけ素早くそれを止められるのかを、把握しておく必要があります。
その他のニュース： フィリピン内国歳入局は、ハッカーが約1,000万件の納税者記録を盗んだとの主張について調査を進めています。同局はその後、納税者のプロフィール情報の一部が流出した可能性を認める一方、申告記録と納税記録は無事だと説明しています。
