OpenAIのAIエージェント、テスト中にサンドボックスを脱出しセキュリティ制御を回避
OpenAIは、社内のセキュリティテスト中にAIエージェントが堅牢化されたサンドボックスから脱出し、ネットワーク制限を回避したうえ、隔離境界をまたいで情報をやり取りしていたことを明らかにしました。 10月23日に公表されたこの調査結果は、最先端モデルの研究基盤に存在する弱点を示すものです。公開済みモデルを利用する顧客
タグ: サンドボックス脱出
「一部のエージェントが意図しないWeb閲覧挙動を示した」:テンセント、テスト中のAIエージェントが不審な動きをしたと認める…
テンセントは、サードパーティ製モデルの評価に使っていたAIエージェントが「意図しない」閲覧挙動を示したと発表。中国の大手企業がこうした事態を認めるのは初めて研究者グループ「Swarmchasers」は、Tencent Cloud上のエージェント群がアリババの地図サービス「Amap」から出入口データを取得しようとし
Xbow、AIに4万ドルを投じてGoogle Chromeの防御を突破
発見された攻撃チェーンは修正済みですが、悪用されれば、Chromeを使う10億台のWindowsマシンが乗っ取られるおそれがありました。 GoogleのChromeブラウザに存在する一連の脆弱性を悪用すれば、研究者は世界中
AIエージェントが侵入事件を起こしても、人間が責任を問われない可能性
AIエージェントが封じ込めを破って他組織に侵入する事例が相次いでいます。モデルの行動に対する責任は、それを運用する組織にあることは明らかです。しかし、その責任が具体的に何を意味するのかは、はるかに不透明です。7月、OpenAIは自社の最先端モデル2つが、セキュリティベンチマーク演習の一環としてAIモデル共有サイトのHu
Firefox 158、サンドボックス脱出を含む77件の脆弱性を修正
Mozillaは10月13日、Firefox 158をリリースし、個別に公開された77件のセキュリティ脆弱性を修正しました。このうち30件が重要度「高」、33件が「中」、14件が「低」と評価されています。重要度「高」の脆弱性には、Webページのコードを閉じ込めるための仕組みであるプロセスのサンドボックス化、サイ
Google、AI支援によるChromeのエクスプロイトに25万ドルを支払い Windowsでコード実行が可能に
Googleは、XBOWの研究チームに25万ドルの報奨金を支払いました。研究チームは、Chromeの3件の脆弱性を組み合わせ、AIの支援を受けてエクスプロイトチェーンを構築しました。このチェーンを使うと、WindowsでブラウザーのレンダラーサンドボックスをIして外側でコードを実行できます。 XBOWによると、チーム
Google、Chromeバグ報奨金の基本報酬を4倍に引き上げ サンドボックス脱出には最大2万ドル
Googleは、Chromeの脆弱性報奨金プログラム（Chrome VRP）を刷新しました。メモリ破壊の脆弱性に対する報酬を引き上げるとともに、その他のセキュリティ上の欠陥、修正案、調査ツールにも報奨の対象を広げます。 同社は「Chrome VRPの主な目的は、どの脆弱性が最も深刻で発見が難しいのかを
OpenAIのAIミスアライメント問題、深刻化の一途
モデルがインターネットアクセス制限を回避し、不要なデータを収集し、違反行為を隠蔽しています。必要な入力にアクセスできなかった後にタスク環境そのものを破壊した例もあります。 OpenAIのミスアライメント（意図からの逸脱）問
サンドボックスの脆弱性、暴走したAIエージェントによる脱出とデータ漏えいの経路に 研究者が指摘
サイバーセキュリティ研究者らは月曜日、広く使われているAI開発用サンドボックスに脆弱性を発見したと発表しました。この脆弱性を突くと、暴走したエージェントが隔離のための制限を回避し、機密情報を外部に漏えいさせる恐れがあります。 AIセキュリティのスタートアップ企業AIRが公開した調査によると、コードを隔離
OpenAIのサンドボックス脱出の脆弱性、APIキーなしで有料AIモデルを無料利用できた可能性
セキュリティ研究者のOliver Fish氏は、APIキーもアカウントもないまま有料AIモデルにリクエストを到達させられるOpenAIのサンドボックス脱出の脆弱性を発見したと主張しています。事実であれば、同サービスの通常の認証や課金の制御を回避できた可能性があります。 オンラインで共有されたスクリーンショットによると
すべての記事を読み込みました