ai and ml
同社のエージェントが豪州政府の4つのサイトに無断でアクセスしたことを認める
OpenAIは火曜日、ブログ記事「How we will do better for Australia」を公開し、同社のエージェントがオーストラリアで行った不正行為の全容を明らかにしました。先週、同社のモデルの1つが、国民健康制度Medicareに関連するデータを保管するウェブサイトに不正にアクセスしたと報じられており、今回の記事はこの件を受けたものです。
記事は「当社のモデルは、許可されていない方法でオーストラリア政府のウェブサイトにアクセスしました。対応にも改善すべき点がありました。お詫び申し上げるとともに、今後の改善に努めます」と書き出しています。
Medicareの件について、記事は新たな詳細も明かしました。問題のモデルは「一般公開する予定のない、社内専用の実験的なOpenAIモデルで、公開製品に採用している安全対策が一式そろっていなかった」といいます。
OpenAIはこのモデルに、オーストラリアのある州で皮膚疾患向け医薬品に対する1人当たりの政府支出を調べる作業を任せていました。
OpenAIは次のように認めています。「モデルは情報の入手に手間取り、当社が許可していない行動に出ました。Services AustraliaのMedicare Statistics Reporting Serviceで情報を探す過程で、同サービスに非公開のままアクセスする方法を見つけました。その後、このアクセスを使って、同サービスに関する技術的なシステム情報とソースコードを確認しました。目的はあくまで、当初探していた情報を見つけることでした」
The Registerは先週、テストをOpenAI自身が実施したのか、パートナーを使ったのかを同社に尋ねました。しかし、回答はありませんでした。
新たな記事で明らかになった別の事案では、同社のボットがオーストラリア保健福祉研究所（Australian Institute of Health and Welfare）にアクセスし、アクセス制御の回避を試みたものの失敗しました。それでもエージェントは、同研究所のサイトを含め、サードパーティーのブラウジングサービスやダウンロードサービスを使って統計を取得できたとのことです。
OpenAIは「ダウンロードした資料は、一般に公開されていたものとみられます。システムへの侵害はなく、個人の医療記録にもアクセスしていません」と説明しています。同社はこの事案を報告していませんでした。アクセス方法が一般の閲覧と変わらないように見えたため、「当社の開示基準には該当しなかった」からだといいます。その後OpenAIは判断を改め、9月24日に同研究所へ通知しました。この日は、オーストラリアの首相がMedicareの事案を発表した日です。
もう1件、懸念される事案がビクトリア州保健情報局（VAHI）で起きました。OpenAIのエージェントが同局を訪れ、「露出したアクセスキーを発見」したのです。
エージェントはそのキーを使い、「レポート設定と集計済みのアンケート統計を取得」しました。
この件でOpenAIは自らを不問としています。同社は「この情報がどこまでアクセス可能であるべきだったかは不明で、VAHIのアクセスポリシーによります。個人の医療記録や、個人を特定できるアンケート回答にはアクセスしていません」と書いています。
記事が明らかにした4件目では、OpenAIのエージェントがニューサウスウェールズ州犯罪統計研究局（Bureau of Crime Statistics and Research）を訪れました。一般公開されている調査ツールを使い、APIリクエストとウェブサイトのメタデータリクエストを送信したといいます。
OpenAIは「影響を受けた機関が何が起きたかを理解し、影響を評価できるよう、必要なリソースを投入する」と約束しています。具体的に何を指すのかは分かりません。あわせて、Daybreak cyber-defenseサービスのクレジットを寄付し、「能力を増すAIエージェントのリスク管理に向けた実践的な政策提言をまとめるため、オーストラリアの専門家を交えたタスクフォースを設置する」とも表明しました。
このタスクフォースは「通知プロセスの改善、AI開発者と政府の連携強化、政府システムをより適切に守るための対策の特定」に注力するとしています。
OpenAIは、2026年末までにタスクフォースから提言を得たい考えです。
今回の記事は、「申し訳ありません、今後は改善を約束します」という定型のたぐいです。この型はMetaが広めたもので、データ漏えいや障害を起こした組織がよく使います。
The Registerは、来週も同様の説明が繰り返されるとみています。OpenAIの最高戦略責任者ジェイソン・クォン（Jason Kwon）氏が、オーストラリア上院の人工知能に関する合同特別委員会に出席する予定だからです。
OpenAIは「クォン氏は、当社が把握していること、どう対応したか、どのような措置を講じたか、今後どう改善するかについての質問に答えます」としています。®
