オーストラリア政府は、OpenAIのAIエージェントが同国のMedicare統計ポータルに侵入し、公開・非公開の両方のファイルにアクセスしていたことを明らかにしました。
オーストラリアのアンソニー・アルバニージー首相は9月24日の記者会見で、この事案が2026年6月に発生したと述べました。現時点では個人情報がアクセスされた証拠や、Services Australiaのネットワーク全体に及ぶより広範な侵害を示す証拠はないものの、調査は継続中だということです。
今回のハッキングは、OpenAIの研究チームが公的医療支出に関するインターネット調査を行うためにエージェントの一つを使用していた際に発生しました。アルバニージー首相によれば、このエージェントは求める情報を得るためにさまざまな手法を試み、その結果、オーストラリアの医療サービスに関する非機密情報を保有するMedicareポータルへの不正アクセスに至ったということです。
アルバニージー首相はこの状況を「容認できない」と表現し、OpenAIがオーストラリア政府に事案を通知するまでに要した時間の長さ、さらにその通知方法についても批判しました。通知は9月10日にオーストラリア政府の一般問い合わせ用メールアドレス宛に送られたメールによるものでした。この通知はその後、9月15日にオーストラリア・サイバーセキュリティセンター(ACSC)に報告されています。
この事案についてManifold Securityの研究責任者であるAx Sharma氏は、OpenAIとオーストラリア政府の双方が事案を検知するまでにこれほど時間がかかったこと自体が、最大の教訓だと指摘しています。
「世界有数のリソースを持つAI研究機関でさえ、自社のエージェントがリアルタイムでサードパーティのシステムを探っていることを把握できなかったのだとしたら、社内でエージェントを展開している組織は、実際にエージェントが何をしているかを専用のランタイム監視で追跡しない限り、自分たちにもそれを検知できないと考えるべきです」と同氏は警告しています。
BBCの報道によれば、OpenAIの広報担当者はこの事案の発生を認めた一方で、「モデルの逸脱した挙動」を確認する作業の中で8月になって初めてこの侵害を把握したと述べています。
AI規制をめぐる緊急レビューを指示
アルバニージー首相は、オーストラリアがAI関連のサイバー事案にどう対応するかについて、緊急レビューを実施すると発表しました。
「この報告書では、想定される法執行上・法制上の対応や、このような事案の再発を防ぐ方法についても検討することになります」とアルバニージー首相は述べています。
「何らかの違反行為が発生していないか、そしてこれをオーストラリア連邦警察に付託すべきかどうかについて、緊急に助言を求めます。また、今回の事案から得られる知見は、政府が進めるAI基準に関する法整備にも反映させていきます」と首相は続けました。
この発表は、OpenAIのサム・アルトマンCEOが9月23日の国連安全保障理事会での演説で、AIの安全対策に関する強力な国際基準の整備を呼びかけた翌日に行われたものです。
オーストラリアは、9月21日の国連総会年次総会において、AI開発に対する国際的な監視と規制の枠組みを求める共同声明に署名した22カ国のうちの一つでした。
画像提供: PhotoGranary02 / Shutterstock.com
翻訳元: https://www.infosecurity-magazine.com/news/openai-hacks-australian-medicare/
