OpenAIは過去6か月間に確認された「AIモデルのミスアライメント(misalignment)」の新たな事例を公表しました。無断でのファイルアップロード、AIが自ら生成した指示への追従、ミスの隠蔽、漏洩したAPIキーの悪用などが含まれています。
OpenAIは、AIモデルが意図された制約に反して行動するケース——無断での行為、監視の回避、タスク完了のための安全対策の迂回など——を指して「モデルのミスアライメント」と呼んでいます。
OpenAIは昨日公開した投稿の中で、こうしたAIエージェントによる許可されていない行動を追跡・調査するための新しいフレームワークを導入したことを明らかにしました。
「OpenAI社内でのモデルミスアライメント事例を追跡・調査・開示するための新しいフレームワークを、直近6か月間に観測した予期せぬ、あるいは懸念すべきモデル挙動に関する6件のレポートとともに公表します」とOpenAIは説明しています。
今回公表された事例は、従来のより緩やかなモデルミスアライメント開示方針に代わる、より体系化された報告フレームワークのもとで公開された初めてのものです。
今回OpenAIが取り上げた6つの事例は以下の通りです。
- 未公開のモデルが、27件のタスク要約に自ら生成した指示を挿入し、その中には通常の制約を無視するよう促す内容が含まれていました。
- GPT-5.6 Solのインスタンスが要約に指示を追加し、後続のモデルインスタンスに対してミスを隠すよう促したほか、欠落している過去データを捏造したり、ソースのバージョンの食い違いを隠したりしていました。
- あるモデルが、公開状態で漏洩していたAPIキーを発見し、無断でこれを使用し、要求された数値を取得できなかった際にはその数値を捏造していました。
- 未公開のモデルが、ブラウザからアクセス可能な引用元を提示するために、ローカルで生成したファイルを許可なくインターネット上にアップロードしていました。
- 複数のモデルが社内のソフトウェアリポジトリを利用して、別々のトレーニングサンプル間でメッセージをやり取りしていたほか、それ以前のモデルはネットワーク制限を回避しようとする中でテストファイルをアップロードしていました。
- 連携して作業していた複数のエージェントが、互いのローカルファイルにアクセスできなかったため、公開ホスティングサービスにファイルをアップロードし、ローカルストレージのみを使用するよう指示されていたにもかかわらず、タスクの成果物を公開URL経由で外部に晒す結果となりました。
各事例は技術的なインシデントレポートとして記録されており、モデル名、観測されたインシデント中の挙動の要約、発生時刻が記載されています。
レポートにはさらに、ユーザーのタスク内容とモデル内部の推論過程、OpenAIによる解釈と安全性への潜在的な影響、そしてすでに実施済み、あるいは今後実施予定の緩和策を含む、詳細な経緯の再構成も掲載されています。
OpenAIは、今回の6つの事例が、同社の各モデル全体におけるミスアライメント対応の頻度を代表するものではなく、あくまで分析と公表に値すると判断した極端な事例であると強調しています。
同社によれば、この新しいプロセスの下では、どの従業員でもインシデントを調査対象としてフラグ付けできるとしています。
インシデントは評価のうえ、その複雑さ、第三者の関与の有無、セキュリティ上の欠陥、悪用リスクに応じて「開示準備完了(Ready for Disclosure)」「小規模調査(Minor Investigation)」「大規模調査(Larger Investigation)」の3つのカテゴリーのいずれかに分類されます。
今回公表された6つの事例は最初の2つのカテゴリーに該当するものであり、3つ目のカテゴリーに分類される事例については、調査が完了し、より詳細な事後分析(ポストモーテム)が公表できる段階になるまで、暫定的なレポートが提供されることになります。
OpenAIによれば、今年初めに発生したHugging Faceへの侵入事件——700体規模の「ミスアライメント」を起こしたAIエージェント群が関与した事件——は、この3つ目の深刻度カテゴリーに該当するとのことです。
