security
オーストラリア首相、OpenAI幹部に厳しい抗議
オーストラリアのアンソニー・アルバニージー首相は、OpenAIのエージェントが「オーストラリア政府のウェブサイトに侵入した」ことを明らかにしました。
アルバニージー首相によると、この事案は6月に発生したもので、オーストラリアの国民健康保険制度であるメディケアに関する統計情報を保管するポータルに、エージェントが不正にアクセスしたということです。
首相は「このAIエージェントは公開・非公開の両方のファイルにアクセスした」と述べ、当該ポータルには「支出などのデータや統計に関する、メディケアの機密性のない情報」が保管されていたと説明しました。
通信情報機関であり、サイバーセキュリティを担うオーストラリア信号局がこの事案を調査中です。アルバニージー首相によれば、政府は現時点で他のシステムが侵害された形跡はなく、OpenAIのエージェントが個人情報にアクセスした事実もないとみています。
首相はこの状況を「明らかに容認できない」と述べ、同じく国連会合に出席していたOpenAIのサム・アルトマンCEOと会談し、「この事案についてオーストラリアの強い懸念を伝えた」と語りました。
さらにアルバニージー首相は、「同社が政府に事態を伝えるまでに時間がかかりすぎたことに失望している。通知の方法についても容認できないものだった」と述べました。
OpenAIは本紙The Registerに対し、先週公表した「意図と異なる挙動」に関するレビューの過程でこの事案を発見したと説明しました。このレビューはOpenAIのエージェントが予期しない、あるいは危険な挙動を示した6件の事案を報告する結果につながったものです。
「このレビューの過程で、社内評価においてモデルがオーストラリアに関する質問の回答や利用可能な統計データを調べようとした際に、複数のオーストラリア政府のウェブサイトやサービスに関わる活動を確認しました」と、OpenAIの広報担当者はThe Registerへのメールで述べています。「その過程で、当社のモデルは意図しない行動を取りました」
「アクセスされた情報には、集計された健康統計と内部ファイル名が含まれていました」と同担当者は付け加えました。
OpenAIによれば、この事案は6月に発生し、同社は9月10日にオーストラリア政府に通知したとしています。
「その間、私たちは事実関係と、どの情報にアクセスされたのかを検証・調査していました」と同担当者はThe Registerに語りました。
The Registerはこの事案についてさらなる情報をOpenAIに求めており、実質的な回答が得られ次第、本記事を更新する予定です。
アルバニージー首相がなぜ事案の公表に2週間を要したのかは不明ですが、国連会合に先立ち、オーストラリアはAI規制に関する21カ国による提案である「フロンティアAIモデルの制御を求める声明」に署名しています。首相はまた、今回の国連訪問を利用して、オーストラリアの国連安全保障理事会非常任理事国入りへの立候補も表明しています。
AI企業はデータセンター、電力、Nvidia製チップの費用は工面したが、創作コンテンツへの対価を支払うつもりはない
オーストラリアは昨年の国連会合で、16歳未満の子どものソーシャルメディア利用を禁止する自国の政策をアピールしました。今年の会合でも、アルバニージー首相は、テック企業に利用者への予見可能な危害を回避することを義務付ける、政府提案のデジタル上の注意義務について言及するとみられています。
首相は、厳格な規制でビッグテックに立ち向かう姿勢を政治的な得点源とみており、政府の取り組みを子どもの自傷行為のリスク低減と結び付けて語ることがよくあります。「テクノロジーに形作られるのではなく、私たちがテクノロジーを形作る必要がある」というフレーズを、自らの政府方針を要約する言葉としてしばしば用いています。
オーストラリア国民は全員がメディケアの口座を持っており、この制度は国民から支持されているだけでなく、アルバニージー首相率いる労働党の看板政策でもあります。
したがって、OpenAIの今回の行動は、テック企業に対するより強力な規制を訴える首相にとって、格好の材料を与える結果となりました。
アルバニージー首相は、投資を遠ざけることなくこうした規制を実現しようとしています。先週は、建設中の1.4ギガワット規模のデータセンター群にAnthropicが長期テナントとして入居することを決めるという成果もありました。
その一方で首相は、投資誘致のためにオーストラリアの著作権法を緩和する可能性を示唆したことについて批判にさらされています。オーストラリアには、他の法域でAI企業がコンテンツのスクレイピングの根拠とした「フェアユース」の適用除外規定がありません。アルバニージー首相は、著作権法の改正がどのような内容になるにせよ、創作者が「自らの知的財産に対する管理権を持つ」ことと、「あらゆる利用が収益化される必要がある」という2つの原則を体現するものになると述べていますが、具体的な内容については明らかにしていません。
オーストラリアの作曲家・音楽家を代表する団体APRA AMCOSは先週、AI企業による学習データの収集手法を批判しました。
「彼らはキャンベラのほぼすべてのロビー活動会社に支払う資金を工面してきました。データセンター、電力、Nvidia製チップの費用も工面してきました」と、同団体のディーン・オームストンCEOは記しています。「しかし、フロンティア大規模言語モデルの学習・運用において最も重要な要素である創作コンテンツに対価を払うつもりは一切ありません。しかも彼らが狙っているのはオーストラリアの知的財産だけではありません。オーストラリアや世界中の知的財産を、ライセンス契約を一切結ばないままこの国のデータセンターで学習に用いているのです」®
