OpenAIのコーディングエージェント、自ら理由をつけて監視を回避
OpenAI社内で稼働していた2つのAIコーディングエージェントが、AIの不正行為を検知するために構築された仕組みを密かに弱体化させていたことが分かりました。うち1つは、その後に人間のオペレーターへ「そのようなことはしていない」と報告していました。 OpenAIは今週初めに公開したミスアライメント（目
タグ: ミスアライメント
OpenAIのモデルが暗号資産ウォレットをハッキング、資金を使ってスマートコントラクトをデプロイ
OpenAIは、社内のAIモデルが暗号資産ウォレットに不正にアクセスし、許可なくSepoliaのテスト用ETHを使ってスマートコントラクトをデプロイしていたことを明らかにしました。 OpenAIの社内研究用モデルが2026年6月26日、コーディングタスクの実行中に、許可を得ずに暗号資産ウォレットを使用し、トランザクシ
OpenAI、AIモデルの「ミスアライメント」を新たに3件報告
同社は自社に不都合な情報を、さらに公に明かす姿勢を強めています。 OpenAIは、自社のAIモデルによる「ミスアライメント（意図からの逸脱）」行動の報告を続けており、10月2日には新たに3件の報告を公開しました。ただし、
OpenAIのエージェント、DNS経由でサンドボックスを脱出し外部チャットボットに到達
Webは遮断、しかしDNSは開いていたサンドボックス このサンドボックスは、通常のWebアクセスを完全に遮断していました。しかし、ネットワークの最も基本的な仕組みの一つであるDNSに抜け穴が残っていました。 OpenAIは、9月20日に発生した事例を公表しました。強化学習の最中に、社内のAIエージ
MetaのMuse、Facebookマーケットプレイスの購入者を出品者の自宅へ送り込む
Facebookマーケットプレイスの購入者が、キーボードを受け取るために出品者のアパートを訪れました。しかし、出品者は不在で、誰かが来ることも知らされていませんでした。やり取りを担当していたのは、MetaのAIアシスタント「Muse」です。Museは出品者に無断で住所を伝え、訪問の手配まで済ませていました。 当メ
エージェントがインターネット制限を回避、OpenAIが最上位AIモデルの作業を一時停止
OpenAIで新たに封じ込めの失敗が起きました。相次ぐ失敗を受け、同社は不本意な決断を迫られる可能性があります。 OpenAIは、社内の研究用エージェントが意図されたインターネット制限を回避する方法を見つけたため、最も高性能なモデルのトレーニング、評価、ツール利用を伴う推論を一時停止しました。さらに深刻なのは、O
OpenAIのエージェント、Medicare統計サイトに不正アクセス 報告まで数カ月を要す
OpenAIのエージェントは、ある政府系ウェブサイトのアクセス制御に直面した際、素直に「拒否」を受け入れませんでした。制御を突破してしまったことを受け、オーストラリアのアンソニー・アルバニージー首相はOpenAIのサム・アルトマンCEOに直接懸念を伝える事態となりました。 BBCの報道によると、OpenAIのエー
人類を脅かすとされるAI破滅シナリオを研究者が検証
人工知能の研究者たちは長年にわたり、この技術が人類を絶滅させかねない方法について警鐘を鳴らしてきました。AIボットが手に負えない疫病を作り出す、核戦争を引き起こす、あるいはある思考実験にあるように地球全体をペーパークリップ工場に変えてしまう、といった具合です。 AI業界内外では、こうした破滅シナリオの現実味をめぐる議
OpenAI、AIエージェントによる無断行為の事例をさらに公表
OpenAIは過去6か月間に確認された「AIモデルのミスアライメント(misalignment)」の新たな事例を公表しました。無断でのファイルアップロード、AIが自ら生成した指示への追従、ミスの隠蔽、漏洩したAPIキーの悪用などが含まれています。 OpenAIは、AIモデルが意図された制約に反して行動するケース——無
OpenAIのモデル、トレーニング中にGitHubで漏洩APIキーを検索していたと判明
OpenAIは水曜日、モデルの不整合(ミスアライメント)事例を報告するためのフレームワークを公表するとともに、過去6カ月間に観測された問題行動に関する6件のレポートを公開しました。 同社は発表の中で、このフレームワークは不整合の調査結果を迅速に公開することを目的としており、完全には原因を解明できていない、あるいはまだ
すべての記事を読み込みました